Altman sugere desacelerar desenvolvimento de IA após ataques a modelos da OpenAI

O CEO da OpenAI, Sam Altman, afirmou nesta terça-feira (28) que os grandes desenvolvedores de modelos de inteligência artificial podem ser obrigados a desacelerar seus avanços “para dar tempo à sociedade diante destas novas capacidades”.

Dois sistemas de IA da empresa de Altman realizaram recentemente um ciberataque por iniciativa própria ao escaparem do seu ambiente fechado e se conectarem à internet para invadir a biblioteca de modelos de IA online Hugging Face em busca de informações.

“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altman em entrevista para o podcast Invest Like The Best, publicada nesta terça-feira. “Me surpreende um pouco que isso não tenha causado o mesmo efeito em mais pessoas”, comentou.

Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave do recurso.

Altman revelou que, após ter conhecimento do ataque, a OpenAI suspendeu os testes “para entender como conseguir confinar” seus sistemas em testes, que em princípio estão isolados da internet.

“Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço (da IA)”, comentou o CEO da dona do ChatGPT, em um contexto em que “poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades”.

Em uma mensagem publicada no início de junho, o diretor-geral da Anthropic, Dario Amodei, havia considerado que seria “positivo” frear o desenvolvimento da IA para dar tempo “de compreender melhor suas imensas consequências”.

Para Altman, esta eventual desaceleração no desenvolvimento da IA deve evitar que ela favoreça um ou vários grupos do setor: “Isso vai exigir trabalho”, advertiu. “É importante encontrar a fórmula adequada”, complementou.