A diplomacia das caixas-pretas

Por que exigimos transparência das IAs — e o que ela pode realmente entregar

Lembro-me de uma sala de negociação em Genebra. Os documentos estavam sobre a mesa, mas uma parte decisiva da conversa não estava escrita neles. Era preciso avaliar o que cada delegação dizia, o que evitava dizer, o que poderia cumprir e quais mecanismos existiam caso o acordo fosse rompido. A confiança nunca dependeu de acesso irrestrito às intenções do outro. Dependia de compromissos verificáveis.

Voltei a pensar naquela sala ao ler, em 2025, a proposta da Anthropic para ampliar a transparência no desenvolvimento de modelos avançados de inteligência artificial. O texto defendia divulgação pública de práticas de segurança, documentação sobre os sistemas, proteção a denunciantes e um regime voltado principalmente aos desenvolvedores de fronteira. A proposta era voluntária e baseada, em boa medida, naquilo que as próprias empresas declarassem fazer.

O documento tinha mérito. Também deixava à mostra o problema.

Quando pedimos transparência a uma empresa de IA, o que exatamente queremos ver? O código? Os dados de treinamento? Os testes de segurança? Os incidentes que não chegaram ao público? A cadeia de fornecedores? Os critérios usados para decidir que um modelo estava pronto para ser lançado?

Essas perguntas costumam aparecer misturadas, como se “abrir a caixa-preta” fosse uma operação única. Não é. Há pelo menos três caixas diferentes: o funcionamento interno do modelo, o processo institucional que o produziu e os efeitos do sistema depois que ele entra no mundo. Nenhuma delas se torna transparente apenas com a publicação de um relatório bem diagramado.

Transparência para quem?

A ideia de que bastaria mostrar o código é sedutora e pouco útil. Mesmo especialistas não conseguem deduzir o comportamento completo de um modelo contemporâneo lendo seus componentes. Além disso, abertura irrestrita pode expor propriedade intelectual, dados pessoais e vulnerabilidades de segurança. Há razões legítimas para preservar certos detalhes.

Mas a alternativa não pode ser pedir que o público confie numa narrativa produzida pela própria organização que precisa ser fiscalizada.

Documentos como system cards e model cards são valiosos porque registram capacidades, limites, métodos de avaliação e riscos conhecidos. Eles criam uma superfície comum para pesquisadores, reguladores, clientes e cidadãos. O problema começa quando o documento é confundido com a realidade que pretende descrever. Uma ficha pública é uma declaração. Não é uma auditoria. Pode ser rigorosa, seletiva ou simplesmente incapaz de registrar riscos que os próprios desenvolvedores ainda não compreenderam.

A pergunta madura, portanto, não é se devemos aceitar ou rejeitar a transparência oferecida pelas empresas. É o que precisa acompanhar essa transparência para que ela tenha consequência: padrões comparáveis, testes independentes, registro de incidentes, proteção efetiva a quem denuncia problemas, responsabilidades definidas e meios de contestação para quem sofre o impacto de uma decisão automatizada.

Da cortesia à obrigação

Desde que a Anthropic publicou sua proposta, o cenário regulatório avançou. Na União Europeia, as regras para provedores de modelos de propósito geral passaram a ser aplicáveis em agosto de 2025, com obrigações relacionadas a documentação, direitos autorais e, nos modelos de risco sistêmico, segurança. Outras exigências de transparência do AI Act, inclusive sobre identificação de determinados conteúdos gerados ou manipulados por IA, entrarão em aplicação em 2 de agosto de 2026.

Isso muda a natureza da conversa. Transparência deixa de ser apenas um gesto de boa vontade e começa a integrar uma arquitetura de prestação de contas. Ainda haverá disputa sobre escopo, fiscalização, segredos comerciais e capacidade técnica dos reguladores. Nenhuma lei elimina esses conflitos. Mas há uma diferença concreta entre uma empresa escolher o que contar e uma instituição pública estabelecer o que ela deve documentar, a quem deve responder e quais consequências enfrenta se falhar.

Na diplomacia, acordos não se sustentam porque as partes se tornaram subitamente transparentes umas às outras. Sustentam-se, quando se sustentam, porque existem procedimentos para reduzir incerteza: inspeção, reciprocidade, prazos, verificação e resposta ao descumprimento. Com a IA, a confiança também precisará ser construída dessa maneira.

Como ler o que as empresas publicam

Isso exige uma forma de alfabetização que não é apenas técnica. Ao ler um relatório de segurança, convém observar a instituição que fala por meio dele. Quais riscos foram testados? Quem definiu os testes? Quais resultados aparecem de forma comparável e quais dependem de uma descrição vaga? Há avaliação externa? Incidentes anteriores são mencionados? O documento explica como usuários e pessoas afetadas podem contestar decisões ou relatar danos?

Também importa perceber o que o texto tenta produzir. Algumas publicações informam. Outras tranquilizam. Muitas fazem as duas coisas ao mesmo tempo. Essa dupla função não invalida o conteúdo, mas precisa ser reconhecida. A narrativa é parte da governança; não pode ser tomada como substituta dela.

No fundo, não exigimos transparência das máquinas. Máquinas não prestam contas. Exigimos transparência das pessoas e instituições que as constroem, escolhem onde serão usadas, definem os limites de acesso e recolhem os benefícios de sua operação.

Naquela sala em Genebra, eu não precisava enxergar a consciência de quem estava do outro lado da mesa. Precisava saber o que sua delegação se comprometia a fazer e como verificaríamos o cumprimento. A diplomacia das caixas-pretas começa quando aplicamos a mesma sobriedade ao poder algorítmico: menos fascínio com a promessa de olhar por dentro, mais atenção às responsabilidades que podem ser vistas, testadas e cobradas por fora.