OpenAI e Anthropic Avisam: IA Acelera Ciberataques

As influentes empresas de inteligência artificial OpenAI e Anthropic emitiram alertas contundentes sobre uma iminente e sem precedentes onda de ataques cibernéticos, impulsionada por avançados modelos e agentes de IA. A principal razão para esta preocupação alarmante reside na capacidade singular desses sistemas de varrer e explorar vulnerabilidades em softwares e redes a uma velocidade e escala inigualáveis, um cenário que ameaça a segurança de dados, a infraestrutura crítica e a própria dignidade digital de indivíduos e organizações em todo o globo.

Esta é a mensagem central da Anthropic, divulgada em um post de blog vazado, no qual a empresa alertou que seu próximo modelo de IA, chamado Mythos, e outros semelhantes podem explorar falhas de segurança em um ritmo jamais visto.

A OpenAI, por sua vez, já havia apontado que seus próprios modelos futuros representavam um risco "alto" para a cibersegurança. Especialistas na área concordam, afirmando que a IA não apenas amplifica perigos existentes, mas também gera rapidamente novos métodos de invasão de software.

Contudo, a emergência de agentes de IA – assistentes que executam tarefas de forma autônoma – eleva esse risco a um nível ainda mais crítico, conforme alertam diversos especialistas. Um único agente de IA, por exemplo, poderia escanear vulnerabilidades e potencialmente explorá-las de maneira mais rápida e persistente do que centenas de hackers humanos.

"Os atacantes agênticos estão chegando", afirmou Shlomo Kramer, fundador e CEO da empresa de cibersegurança e redes Cato Networks. "Este é um evento divisor de águas na história da cibersegurança."

Detalhes sobre o Mythos vieram à tona em um post de blog não publicado, reportado primeiramente pela Fortune. A Anthropic não respondeu ao pedido de comentário da CNN, mas informou à Fortune que o vazamento foi resultado de um erro humano em seu sistema de gerenciamento de conteúdo.

"Embora o Mythos esteja atualmente muito à frente de qualquer outro modelo de IA em capacidades cibernéticas, ele prenuncia uma próxima onda de modelos que podem explorar vulnerabilidades de maneiras que superam em muito os esforços dos defensores", declarou a Anthropic na versão preliminar do texto.

A empresa está permitindo que certas organizações testem o modelo antecipadamente, com o objetivo de aprimorar seus próprios sistemas "contra a iminente onda de exploits impulsionados por IA", ressaltou.

A Anthropic também tem alertado privadamente autoridades governamentais sobre o potencial de ataques cibernéticos em larga escala facilitados pelo Mythos, segundo a Axios.

Não se trata de um caso isolado: o próximo modelo de cada laboratório apresentará ameaças de cibersegurança cada vez mais graves, conforme previu Kramer à CNN. "Depois do Mythos vem o próximo modelo da OpenAI, e o próximo Google Gemini, e alguns meses depois deles estão os modelos chineses de código aberto", detalhou.

A inteligência artificial está tornando viável explorar vulnerabilidades quase imediatamente após sua descoberta, observou Evan Peña, diretor de segurança ofensiva da empresa de cibersegurança Armadin.

Contudo, ainda existem limitações para o que os modelos podem alcançar, ressalvou Peña.

Modelos avançados de IA são eficazes na pesquisa de vulnerabilidades de software e no desenvolvimento de código para explorá-las.

Mas eles carecem do contexto que um hacker humano teria sobre quais são as informações mais valiosas de uma organização a serem roubadas, explicou Peña.

Sempre haverá espaço para a intervenção humana em um ataque cibernético que utilize IA, defendeu Joe Lin, cofundador e CEO da Twenty, uma empresa que fornece capacidades cibernéticas ofensivas para o governo dos EUA.

"Devemos garantir que estamos construindo sistemas de armas onde os humanos permaneçam firmemente no controle das decisões e resultados, porque enquanto a máquina lida com a execução, o humano deve sempre ser responsável pelas consequências", ponderou.

Os ataques cibernéticos com IA estão em ascensão.

Um exemplo de como a IA capacitou hackers com habilidades relativamente limitadas ocorreu em janeiro, quando um criminoso cibernético de língua russa utilizou diversas ferramentas de IA para invadir mais de 600 dispositivos que operavam um software de firewall popular em mais de 55 países, conforme apurado pela equipe de pesquisa de segurança da Amazon Web Services.

O hacker empregou serviços de IA generativa para "implementar e escalar técnicas de ataque conhecidas em todas as fases de suas operações, apesar de suas capacidades técnicas limitadas", detalhou a AWS.

Nesse ataque, o criminoso usou o modelo Claude da Anthropic, bem como o DeepSeek de fabricação chinesa, de acordo com Eyal Sela, diretor de inteligência de ameaças da Gambit Security. Em determinado momento, o hacker chegou a pedir ao Claude, em russo, para criar um painel web para gerenciar centenas de alvos, conforme registros de chat que Sela compartilhou com a CNN.

A IA confere aos hackers de diferentes níveis de habilidade "superpoderes", ao simplificar o conhecimento técnico necessário para explorar sistemas, salientou Sela.

Em fevereiro, outro hacker utilizou o Claude em uma série de ataques contra agências governamentais mexicanas, subtraindo informações sensíveis de impostos e eleitores, noticiou a Bloomberg.

China e outros adversários dos EUA estão "caçando qualquer vantagem para melhorar o desempenho de sua IA nacional", alertou Joe Lin, cofundador e CEO da Twenty.

Isso implica na potencial exploração de quaisquer vazamentos de modelos de IA dos EUA para tentar "superalimentar seus próprios sistemas de armas cibernéticas", adicionou ele.

Os avanços da IA em cibersegurança representam, de fato, uma faca de dois gumes: enquanto atacantes podem usar modelos e agentes de IA para aprimorar suas habilidades, essas mesmas capacidades permitem monitoramento contínuo, identificação mais rápida de ameaças e correção automatizada em uma escala que nenhuma equipe humana conseguiria igualar.

No entanto, os atacantes precisam apenas encontrar uma brecha para entrar, enquanto os defensores são obrigados a cobrir todas as superfícies de ataque.

Kramer descreveu essa dinâmica como a construção de um "exército de mocinhos" para "lutar contra o exército de bandidos" apenas para conseguir manter a linha de defesa.

"Você precisa correr o mais rápido que puder para permanecer no mesmo lugar", concluiu.