Auditoria de IA de fronteira

Eis o resumo

A IA de fronteira está se tornando uma infraestrutura social crítica, mas agentes externos carecem de meios confiáveis para avaliar se as alegações de segurança e proteção feitas pelos principais desenvolvedores são precisas e se suas práticas atendem aos padrões relevantes. Em comparação com outros sistemas sociais e tecnológicos dos quais dependemos diariamente — como produtos de consumo, demonstrações financeiras corporativas e cadeias de suprimento de alimentos — a IA está sujeita a um grau menor de escrutínio independente em várias dimensões. A ambiguidade quanto à confiabilidade dos sistemas de IA pode desestimular sua adoção em contextos nos quais a tecnologia seria benéfica e, ao mesmo tempo, torná-la mais provável em situações em que é perigosa. A transparência pública, por si só, não é suficiente para preencher essa lacuna: muitos detalhes relevantes para segurança e proteção são legitimamente confidenciais e exigem interpretação especializada. Definimos a auditoria de IA de fronteira como a verificação rigorosa, por terceiros, das alegações de segurança e proteção feitas por desenvolvedores de IA de fronteira, bem como a avaliação de seus sistemas e práticas em relação a padrões pertinentes, com base em acesso profundo e seguro a informações não públicas. Para tornar o rigor inteligível e comparável, introduzimos os Níveis de Garantia em IA (AI Assurance Levels – AAL-1 a AAL-4), que variam de auditorias de sistemas com duração limitada no tempo até processos contínuos de verificação resistentes a enganos.