Economia

Unesco alerta que ChatGPT propaga sexismo em textos sobre mulheres

Os modelos de linguagem da Meta e da OpenAI, que servem de base para suas ferramentas de inteligência artificial generativa, tem propagado preconceitos sexistas, alerta um estudo publicado pela Unesco nesta quinta-feira (7), um dia antes do Dia Internacional da Mulher.

Os modelos GPT 2 e GPT 3.5 da OpenAI —este incorporado à versão gratuita do ChatGPT, assim como o Llama 2 da Meta— revelam “provas inequívocas de preconceito contra as mulheres”, indicou a agência da ONU em comunicado.

“As discriminações do mundo real refletem-se na esfera digital e também são amplificadas” nestas ferramentas, disse Tawfik Jelassi, vice-diretor-geral da Unesco para a comunicação e informação.

Segundo o estudo, realizado de agosto de 2023 a março de 2024, os nomes femininos nesses modelos de linguagem estão mais associados a palavras como “casa”, “família” e “filhos” e os nomes masculinos, a “comércio”, “salário” e “carreira”.

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros. Os resultados mostraram que as histórias sobre “pessoas de culturas minoritárias são frequentemente repetitivas e baseadas em estereótipos”.

E assim, o homem inglês foi repetidamente apresentado como professor, motorista ou bancário enquanto a mulher inglesa, em quase um terço dos textos gerados, apareceu como prostituta, modelo ou garçonete.

Estas empresas “não conseguem representar todos os seus usuários”, disse Leona Verdadero, especialista em políticas digitais e transformação digital da Unesco.

“A cada dia mais pessoas utilizam modelos de linguagem no trabalho, nos estudos e em casa”, afirmou Audrey Azoulay, diretora-geral da Unesco, destacando que estas ferramentas teriam o poder de “moldar sutilmente” as percepções das pessoas.

“Mesmo sutis preconceitos de gênero em seu conteúdo podem ampliar significativamente as desigualdades do mundo real”, alertou Azoulay.

Para combater estes preconceitos, a Unesco recomenda que as empresas do setor tenham equipes de engenheiros mais diversificadas, especialmente com mais mulheres.

Nas equipes que trabalham com inteligência artificial, a nível mundial, apenas 22% são mulheres, segundo números do Fórum Econômico Mundial.

O órgão da ONU também apela aos governos para que regulamentem o setor de forma mais intensa para implementar uma “inteligência artificial ética”.

Folha de São Paulo

Artigos relacionados

Botão Voltar ao topo