Autorregulação da IA só funciona se for independente

O tema da autorregulação da inteligência artificial entrou no radar no mundo todo. No dia 29 de setembro a Casa Branca recebeu líderes das maiores empresas de IA. A expectativa era a criação de regras objetivas, o que não aconteceu.

O modelo proposto é insuficiente. Os compromissos são voluntários e foram chamados de obrigações “morais”. Não há prazo nem penalidades. Cada empresa escolhe os próprios auditores internos e externos e não há obrigação sequer de publicar as avaliações.

Dois dias depois, o Conselho de Supervisão Independente da Meta, do qual faço parte, publicou uma carta aberta ao setor de IA. O título é: “Sim, a IA precisa de supervisão independente, mas é preciso desenhá-la direito”.

O conselho da Meta foi criado a partir do escândalo Cambridge Analytica. Sua função é supervisionar a Meta, tomando decisões sobre conteúdos e fazendo recomendações de mudanças na empresa, que precisam ser publicamente respondidas. Entre seus integrantes estão a ex-primeira-ministra da Dinamarca, uma vencedora do prêmio Nobel da Paz e o ex-editor do jornal The Guardian.

Em seis anos de atuação, conseguiu implementar 75% das recomendações, impactando bilhões de usuários, gerando transparência, correções de rota na empresa e melhorando a forma como a Meta trata seus usuários.

O Conselho não é perfeito. Mas seu desenho foi feito de forma cuidadosa por especialistas de fora da Meta, liderados pelo professor Noah Feldman, de Harvard. Neste momento em que é improvável que os EUA adotem qualquer lei federal para regular a IA, a autorregulação parece ser o único caminho imediato. E, neste contexto, o conselho tem algumas lições importantes de desenho institucional.

A carta do conselho aponta justamente para o paradoxo da autorregulação. Para ser minimamente crível, a empresa precisa abrir mão do controle sobre quem a fiscaliza. E adotar ao menos seis requisitos.

O primeiro é independência. O órgão supervisor precisa ser uma entidade separada, com orçamento e composição próprios. A empresa não pode demitir quem a supervisiona.

Segundo, é preciso poder de fato: acesso a informações que não são públicas e capacidade de tomar decisões que obrigam a empresa, além de iniciar investigações por conta própria e dizer quais mudanças devem ser feitas.

Terceiro, transparência. Tudo precisa ser publicado e fundamentado publicamente. O quarto requisito é que a composição precisa ter especialistas de várias áreas e não apenas pessoas ligadas às empresas.

O quinto ponto é a necessidade de ter regras objetivas aplicáveis. Essas regras deveriam ser o arcabouço de direitos humanos aceitos no mundo todo. As empresas de IA têm falado que a tecnologia precisa respeitar “valores humanos”. A melhor codificação desses valores é o conjunto de regras internacionais de direitos humanos.

O sexto requisito é ter alcance em todo o setor. Como o ataque hacker feito por agentes de IA ao site Hugging Face mostrou, incidentes assim envolvem várias empresas e a autorregulação precisa abranger todas.

Nas próximas semanas, o Conselho chamará empresas e governos para discutir quais garantias institucionais são necessárias para que o modelo funcione minimamente.

O debate é urgente —pesquisa feita pela Reuters e pela Ipsos em setembro nos Estados Unidos apontou que 73% dizem que as empresas de IA não fazem o suficiente para evitar danos graves.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.