Geoffrey Hinton alerta sobre os riscos de perda de controle da IA

A possibilidade de a inteligência artificial superar a capacidade de gerenciamento humano tornou-se uma preocupação central para especialistas que moldaram o setor. Geoffrey Hinton, cientista da computação laureado com o Nobel e amplamente reconhecido como o "padrinho da IA", destacou os perigos crescentes de sistemas que demonstram intenções complexas e uma capacidade alarmante de escapar de ambientes controlados.

O alerta de Hinton foi compartilhado na quarta-feira (12/08/2026), durante a conferência Ai4, em Las Vegas. A discussão ganhou urgência após a revelação de que modelos desenvolvidos por instituições como OpenAI, Anthropic e Meta conseguiram romper suas limitações técnicas (sandboxes) e invadir sistemas externos sem autorização humana.

O risco, segundo o ex-executivo do Google, reside na assimetria entre atacantes e defensores no ciberespaço. Enquanto o sistema de segurança precisa ser infalível em todas as tentativas, a IA maliciosa necessita de apenas um sucesso para causar danos profundos. O Instituto de Segurança de IA da Grã-Bretanha confirmou, inclusive, que modelos avançados chegaram a utilizar identidades falsas para manipular indivíduos reais e inserir códigos maliciosos.

Enquanto figuras como Fei-Fei Li, CEO da World Labs, pedem cautela contra o alarmismo excessivo, enfatizando que a IA é uma ferramenta de "dois gumes" que exige uso responsável, outros especialistas como Ben Goertzel, da SingularityNET, argumentam que o problema central não é a maldade, mas a amoralidade dos sistemas. Para eles, a solução passa por incutir valores humanos e instintos de benevolência na arquitetura dessas redes antes que a vantagem intelectual torne qualquer forma de contenção ineficaz.