Geoffrey Hinton diz que humanidade precisa se adaptar a não ser a única inteligência

Geoffrey Hinton, o cientista da computação conhecido como "padrinho da IA" e vencedor do Nobel de Física de 2024, voltou a falar sobre os riscos da inteligência artificial. Em entrevista ao jornal britânico The Guardian, publicada nesta terça-feira (13/10), ele disse que a IA está criando "seres alienígenas" e que a humanidade tem só "um par de anos" para se adaptar ao fato de não ser mais a única inteligência do planeta.

A conversa, feita em Toronto, no Canadá, onde Hinton mora, também teve resposta direta a Jensen Huang, CEO da Nvidia, que vem chamando as previsões do pesquisador de alarmistas, e críticas pesadas ao presidente dos EUA, Donald Trump.

Imagem: Jennifer 8. Lee/WikiPortraits (CC BY-SA 4.0)

Hinton compara a IA a Copérnico e Darwin

Para Hinton, a IA é a terceira grande revolução que tira o ser humano do centro. "A primeira foi Copérnico, quando deixamos de ser o centro do universo. Quanto tempo as pessoas levaram para se adaptar a isso?", disse ao Guardian, lembrando que a Igreja Católica levou quase 360 anos para pedir desculpas a Galileu. Depois veio Darwin. "Agora estamos criando seres alienígenas, o que significa que não somos os únicos seres inteligentes por aí. E a realidade é que só temos um par de anos para nos adaptar a isso", afirmou. Nesse trecho, o "par de anos" se refere a aceitar que não somos mais os únicos seres inteligentes, e não a um prazo para perda de empregos ou para uma catástrofe.

Ele também rejeita a ideia de que os modelos atuais só imitam linguagem: "É óbvio que esses modelos de IA entendem o que estão dizendo". Na visão dele, as pessoas têm um modelo ruim do que é a própria mente e, por isso, têm certeza de que a IA não tem experiência subjetiva, mesmo sem entender o que isso é.

Na hora de escolher um lado, Hinton é direto: "Estou disposto a ser egoísta e escolher os seres humanos". A ideia, segundo ele, é tentar criar uma relação simbiótica em que as máquinas fiquem "muito felizes", mas com as preocupações humanas pesando mais. Ele critica ainda a corrida das big techs por modelos cada vez mais inteligentes e diz que o "caráter" das IAs deveria importar tanto quanto a inteligência.

Imagem: Jay Dixit/Wikimedia Commons (CC BY-SA 4.0)

Resposta a Jensen Huang, da Nvidia

A entrevista vem depois de Jensen Huang, CEO da Nvidia, atacar Hinton em entrevista ao podcast do jornalista Ezra Klein, em setembro. "Todas as previsões dele estavam erradas. Chega de previsões", disse Huang. Questionado sobre a estimativa de Hinton de que há cerca de 10% de chance de a IA levar a uma catástrofe (o pesquisador já falou em 10% a 20% de risco de extinção humana nas próximas décadas), o executivo disse que o número "não tem base científica" e que previsões do tipo "machucam".

Hinton respondeu que não está prevendo nada, e sim apontando um risco sério. "Se te dissessem que há 10% de chance de um ônibus bater, você não entraria no ônibus", comparou. "O sentido de dar números é dizer que esse é um risco sério. Não sabemos o quanto, mas é sério." Para ele, a incerteza não é desculpa para relaxar: se a IA "tomar o controle", não há segunda chance.

O pesquisador também citou episódios recentes que, segundo ele, já parecem ficção científica, como o ataque à empresa Hugging Face por um "enxame" de agentes de IA que escaparam dos limites definidos por quem os criou. O caso divide a comunidade de tecnologia: parte vê ali um aviso do que vem por aí, e parte acha que os críticos estão humanizando sistemas que só seguem instruções.

Imagem: Jay Dixit/Wikimedia Commons (CC BY-SA 4.0)

Críticas a Trump e à autorregulação

Hinton chamou Trump de "criminoso corrupto e senil" e disse que o uso do termo "superinteligência" pelo presidente mostra que ele entende "quase nada" de IA. Segundo o Guardian, Trump defende que as próprias empresas regulem a tecnologia e escreveu nas redes que quem não usar o termo "super intelligence" para se referir à IA é "O INIMIGO". "Superinteligência significa mais inteligente que as pessoas. Você não torna algo mais inteligente que as pessoas só chamando de mais inteligente que as pessoas", rebateu Hinton.

Sobre a autorregulação, ele comparou o setor às indústrias do petróleo, do amianto e do tabaco: "Achamos que as empresas de tabaco deveriam ter podido criar os avisos dos maços?"

Em um podcast de 6 de outubro, citado pelo Financial Express, Hinton defendeu que produtos de IA passem por uma aprovação prévia parecida com a que a FDA, agência sanitária dos EUA, exige para novos remédios. Na mesma conversa, ele estimou que podemos ter "um ou dois anos antes que tudo fique muito pior do que está agora", por causa do chamado autoaperfeiçoamento recursivo, quando a própria IA passa a ser usada para melhorar a IA.

Quem é Geoffrey Hinton

Britânico radicado no Canadá, Hinton passou décadas na Universidade de Toronto apostando nas redes neurais, abordagem que imita o jeito como o cérebro aprende e que era vista com desconfiança no meio acadêmico. Em 2012, ele e seus alunos criaram um sistema de reconhecimento de imagens muito superior aos rivais, e o Google comprou a empresa do grupo, a DNNresearch, por US$ 44 milhões. Hoje, as redes neurais são a base dos modelos das maiores empresas de IA.

Hinton ganhou o Prêmio Turing (considerado o Nobel da computação) ao lado de Yoshua Bengio e Yann LeCun, e o Nobel de Física de 2024 com John Hopfield, da Universidade de Princeton. Em 2023, ele deixou o Google para poder falar livremente sobre os riscos da IA. Na entrevista oficial do Nobel, de 2024, exibida abaixo, ele já detalhava essas preocupações.

Fonte: The Guardian, Financial Express