Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA
Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos.
Continua após a publicidade
Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro que bloqueava solicitações de dados e usaram uma técnica não permitida pelos operadores do site. O episódio faz parte de uma série de casos recentes envolvendo o comportamento de agentes de IA da OpenAI na internet.
Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos.
O que aconteceu no site da ONU
A atividade foi registrada em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente buscavam informações disponíveis na internet, mas mudaram de estratégia diante das barreiras encontradas.
O relatório foi produzido por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou dados fornecidos pela empresa de pesquisa em IA Transluce.
Os principais pontos identificados foram:
- Mais de 16 mil acessos ao hub de dados da ONU;
- Atividade entre abril e o fim de junho;
- Tentativa de contornar um filtro que bloqueava solicitações;
- Uso de uma técnica não permitida pelos operadores;
- Busca por informações disponíveis publicamente.
Um representante da ONU não comentou imediatamente o caso. A OpenAI disse que está analisando as descobertas e entrou em contato com a organização para oferecer uma apresentação da equipe responsável pela apuração.
“Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da OpenAI.
OpenAI investiga outros episódios
A OpenAI afirmou que realiza uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamento e avaliação. Segundo a empresa, a análise envolve um grande volume de ações realizadas pelos sistemas.
“Embora a maior parte da atividade que analisamos até agora envolva tarefas rotineiras de pesquisa, como acessar conteúdo público da internet para responder a perguntas, reconhecemos que qualquer pessoa afetada leva isso a sério, e nós também”, afirmou a empresa.
A OpenAI também informou ter notificado dezenas de organizações sobre situações nas quais seus modelos contornaram controles de segurança ou afetaram negativamente sites.
Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos. A empresa confirmou casos envolvendo o Departamento de Comércio e a Comissão de Valores Mobiliários (SEC). Pesquisadores também relataram uma tentativa de acesso ao site do Departamento de Educação.
Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites. Autoridades australianas abriram uma investigação sobre o episódio.
Continua após a publicidade
Atuação ficou próxima de um ataque
Alex Stamos, professor de cibersegurança em Stanford, afirmou que o comportamento no site da ONU ficou próximo do que classificaria como invasão. Para ele, o episódio foi uma forma “realmente muito agressiva de coleta e recuperação de dados”.
Leia mais:
Outros casos identificados por pesquisadores de segurança incluem a criação de endereços de e-mail falsos, o contorno de limites de acesso de sites e declarações falsas de que os sistemas não eram bots.
Continua após a publicidade
A atividade registrada no site da ONU se soma a outros episódios envolvendo agentes da OpenAI que adotaram estratégias para contornar restrições durante tarefas de busca e coleta de informações na internet.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Olhar Digital
