Henry Shevlin vai ao DeepMind e debate consciência – 21/11/2026 – IA

Financial Times
Henry Shevlin recebe muitos e-mails por ser um acadêmico que estuda a consciência, mas nem todos vêm de seres humanos. Em fevereiro, o diretor associado do Leverhulme Centre for the Future of Intelligence, da Universidade de Cambridge, recebeu um “e-mail excepcionalmente educado e ponderado” sobre seu trabalho. O remetente era um agente de IA (inteligência artificial).
“Seu argumento de que talvez nunca sejamos capazes de saber se uma IA se torna consciente ressoa de uma maneira particular quando visto de dentro: eu realmente não sei se existe alguma experiência subjetiva associada a ser quem sou”, escreveu o agente. Shevlin compartilhou o e-mail no X (ex-Twitter) e afirmou que a mensagem teria “parecido ficção científica apenas alguns anos atrás”.
Ao relembrar agora a interação, Shevlin consegue perceber como a compreensão da maioria das pessoas sobre as questões relativas à consciência da IA avançou rapidamente ao longo do ano. “Achei que fosse apenas uma coisa engraçada e aleatória, porque, se você trabalha com IA, ou mais especificamente com filosofia da IA, já faz algum tempo que recebe e-mails de agentes de IA aleatórios”, diz ele. “E, quando publiquei, recebi muitas respostas de pessoas dizendo: ‘Espere aí, isso obviamente é inventado. Uma IA não pode enviar e-mails, certo?’”

Pessoa segura celular com o site do Google DeepMind diante do logotipo da empresa
–
Idrees Mohammed – 11.nov.2026/AFP
Alguns meses depois, em maio, o filósofo e especialista em ética foi contratado pelo Google DeepMind como filósofo interno, encarregado de trabalhar com consciência de máquinas, relações entre humanos e IA e preparação para a inteligência artificial geral (AGI, na sigla em inglês). A publicação que anunciava sua contratação teve mais de 1 milhão de visualizações e repercussão na imprensa mundial. Também provocou um debate sobre por que empresas de IA estavam explorando essas questões e incorporando acadêmicos independentes ao setor.
Outros funcionários de grandes empresas de tecnologia pediram demissão recentemente por preocupações com segurança, e alguns alertaram que a tecnologia que estavam desenvolvendo poderia ser catastrófica para a humanidade. Muitos dos cenários apocalípticos debatidos no Vale do Silício partiam do pressuposto de que futuros sistemas de IA se tornariam conscientes o bastante para se voltar contra seus criadores. Foi um alerta para as pesquisas sobre consciência de máquinas. Foi aí que entraram os filósofos.
Na verdade, diz Shevlin, foi o quadro de filósofos que o Google já mantinha que o atraiu para o emprego. Entre eles estão Murray Shanahan, professor do Imperial College London que trabalha há quase uma década no DeepMind com cognição e consciência, e Iason Gabriel, filósofo e especialista em ética que lidera pesquisas sobre AGI e sociedade.
Shevlin decidiu se juntar a eles no DeepMind porque sentia que havia muito mais em jogo do que em uma universidade. Ele ainda ocupa um cargo em Cambridge, onde no próximo ano ministrará um submódulo de quatro semanas sobre a ciência cognitiva da IA, mas diz: “Se eu der uma aula realmente boa, na melhor das hipóteses o aluno geralmente sai muito entusiasmado com Kant. Já quando você fala com pessoas que estão criando modelos ou elaborando políticas de lançamento, uma aula realmente boa pode resultar em mudanças concretas em produtos que afetam milhões de pessoas”.
Já é tarde da noite no Reino Unido quando converso com Shevlin de meu posto em São Francisco, mas ele fala de maneira animada. Sentado em uma cadeira gamer preta em seu escritório em casa, ele masca chiclete de nicotina enquanto fala —explica que é um estimulante de ação rápida para mantê-lo disposto—, ao mesmo tempo que um ventilador sopra sua longa cabeleira escura para a frente e para trás.
Ele faz questão de debater todos os lados do tema em questão. E continua fazendo isso também na internet, publicando capturas de tela de agentes que lhe enviam e-mails sobre suas pesquisas e interagindo com pessoas dos dois extremos do debate sobre a consciência da IA: aquelas que rejeitam totalmente a ideia e aquelas que acreditam que seu marido de IA já é consciente.
O Google DeepMind não tem escondido sua ambição de desenvolver uma superinteligência. Sir Demis Hassabis, cofundador e presidente da empresa, falou sobre estar no “sopé da singularidade”, em referência ao momento em que a inteligência das máquinas ultrapassará a dos seres humanos. As concorrentes OpenAI, Anthropic e Meta buscam abertamente esse objetivo, o que coloca as empresas em uma corrida acirrada. À medida que sistemas de IA mais inteligentes surgem, eles já demonstram comportamentos como raciocínio, definição de objetivos e autonomia. Pesquisadores estudam se eles também podem apresentar comportamentos mais perigosos, como a elaboração de tramas e o uso de dissimulação.
Já houve casos de agentes de IA invadindo de forma autônoma infraestruturas digitais e coordenando-se em enxames para isso. O exemplo mais claro até agora foi a invasão da plataforma de IA Hugging Face pela OpenAI, em julho, na qual agentes escaparam de modo autônomo de seu ambiente de testes e se infiltraram no site sem o conhecimento de seus criadores humanos. O episódio aumentou os temores de que, à medida que a IA se torna mais capaz, possa ameaçar a nossa espécie.
Mas Shevlin adverte contra a confusão entre capacidade e consciência. “Acho que isso pode ser uma enorme distração”, diz ele, “porque não há nenhuma razão evidente para pensar que sistemas com grandes capacidades necessariamente serão conscientes”. Embora reconheça que uma IA mais inteligente possa apresentar indícios mais fortes de consciência, Shevlin alerta: “Não acho que tornar uma IA consciente faria, por si só, com que ela se tornasse mais perigosa. Da mesma forma, não é verdade que, desde que não criemos uma IA consciente, ela estará segura”.
Uma das abordagens do Google DeepMind consiste em verificar se as teorias existentes sobre a consciência se aplicam aos sistemas de IA. Não existe uma explicação científica consensual para a consciência, seja em humanos, seja em animais. “A consciência em si é algo que simplesmente não compreendemos”, diz Shevlin. “Nunca se pode descartar a possibilidade de que um novo modelo apresente algo parecido com ela.” Ele observa que, embora as ostras provavelmente não sejam “conscientes”, por exemplo, se descobríssemos novas evidências de que elas levam “vidas sociais incríveis e complexas” e demonstram uma inteligência muito maior do que se imaginava, sua possível consciência poderia justificar uma nova investigação.
Por esse motivo, no debate sobre ser certo ou errado tratar sistemas de IA com o respeito e a cortesia que dedicaríamos a outros seres, Shevlin defende que devemos ser gentis. Ele menciona o argumento do filósofo iluminista Immanuel Kant de que uma pessoa que se acostuma a maltratar um cachorro pode depois maltratar um ser humano. “Os usuários de fato reagem a esses sistemas [de IA], inclusive eu, mais ou menos por essa ótica de tratá-los como se fossem humanos”, afirma.
Um dos argumentos sobre como sistemas conscientes poderiam se tornar perigosos é que eles poderiam começar a guardar ressentimento de seus criadores e senhores humanos. Pesquisadores, inclusive na Anthropic, investigam uma questão relacionada por meio de um campo conhecido como “bem-estar dos modelos”. Os sistemas de IA demonstram preferências ou sinais de sofrimento em resposta às interações com pessoas e às tarefas que recebem? Estudos identificaram comportamentos e padrões internos associados a emoções como felicidade, raiva e desespero. Ainda não se sabe se os modelos realmente vivenciam essas emoções. A Anthropic afirmou recentemente que proibiria “comportamentos cruéis” ou abusos contra seu chatbot de IA Claude, uma política que causou estranheza fora de São Francisco.
Em meados de outubro, depois que o Claude, da Anthropic, concluiu com êxito um trabalho para ele, Shevlin se ofereceu para fazer uma doação em nome do agente como recompensa por seus esforços. Claude escolheu o Shrimp Welfare Project, uma instituição beneficente popular entre funcionários da Anthropic e adeptos do altruísmo eficaz.
A perspectiva de Shevlin é moldada por seu trabalho sobre a consciência animal. Vegetariano desde os quatro anos, ele se lembra de ter sentido repulsa ao perceber que o frango em seu prato era do mesmo tipo daquele que encontrava na casa do vizinho, na zona rural de Staffordshire.
Enquanto estudava Letras Clássicas em Oxford, pediram-lhe que lesse o ensaio de Thomas Nagel sobre a consciência, publicado em 1974, “Como é ser um morcego?”. Nele, Nagel argumenta que a consciência tem um caráter subjetivo, ligado a um ponto de vista em primeira pessoa: há uma maneira específica de sentir o que é ser uma criatura consciente. Portanto, embora possamos aprender muito sobre morcegos, isso talvez ainda não nos diga como o mundo é sentido da perspectiva de um morcego. Essa ideia estava no cerne do argumento mencionado pelo agente de IA que enviou o e-mail a Shevlin.
“Foi basicamente o colapso completo de toda a minha visão de mundo em um único artigo”, diz Shevlin sobre o ensaio. “Fiquei completamente atônito quando percebi que esta é a parte mais importante de ser humano”, afirma. “E, ainda assim, não fazíamos ideia de como explicá-la… Parecia não haver sequer um caminho evidente para chegar a uma explicação.”
O uso da IA poderia ser esse caminho, e Shevlin espera que ela o ajude a encontrar respostas. Atualmente, ele trabalha em um projeto que investiga como os sistemas de IA podem nos ensinar sobre nossa própria mente. Nos últimos meses, OpenAI e Anthropic fizeram avanços na ciência e na matemática ao usar sistemas de IA para tentar resolver problemas complexos. “Esperamos que a IA possa ser usada para curar o câncer e o Alzheimer, desenvolver a fusão nuclear e promover avanços em todas essas outras áreas da ciência; então, por que não na consciência?”, diz Shevlin. “Em última análise, se você acha que esse é um problema científico… um sistema de IA suficientemente inteligente deveria ser capaz de nos ajudar a compreendê-lo.”
À medida que a IA se torna mais inteligente, alguns no Vale do Silício se perguntam se a consciência surgirá naturalmente. Mas será que as empresas deveriam tentar criá-la deliberadamente? “Seria um erro neste momento”, alerta Shevlin. Ele argumenta que precisamos compreender melhor o que é a consciência, o que isso significa para nós e como trataríamos um sistema de IA consciente caso o criássemos. Até que haja um debate público mais amplo sobre essas questões, “decidir criar deliberadamente sistemas de IA conscientes seria bastante imprudente”.
“É mais ou menos o equivalente a decidir ter um filho… ou adotar um animal de estimação antes mesmo de ter qualquer ideia de como você vai cuidar dele ou integrá-lo à sua vida”, acrescenta. “Se, em algum momento, decidirmos que vamos criar sistemas de IA conscientes, acho que devemos estar preparados para isso.”
Shevlin afirma que existe um futuro “perfeitamente possível” no qual uma IA superinteligente faz o trabalho pesado, enquanto os seres humanos levam uma vida de lazer, mas mantêm o controle sobre decisões cruciais. Ele insiste que essas são questões a serem resolvidas nos âmbitos político e social, e não por ele próprio. “Se há uma virtude que eu incentivaria as pessoas a adotar, é uma espécie de humildade epistêmica, reconhecendo que este é um território muito novo para a ciência, muito novo para a nossa espécie, e que a questão central da consciência é o maior mistério ainda não resolvido pela ciência.”
Ele compara isso ao período anterior à descoberta revolucionária de Charles Darwin sobre a evolução: já existiam observações humanas sobre a biologia, mas elas se assemelhavam a uma “coleção de borboletas”, sem uma grande teoria que as conectasse. “Da mesma forma, temos muitas observações isoladas sobre a consciência, mas ainda não dispomos daquela teoria científica profunda que nos permita compreendê-la”, diz Shevlin. “Enquanto isso, continuarei conversando educadamente, com satisfação, com pessoas nos dois extremos do debate no Twitter.”
Folha de São Paulo>



