Modelos de IA demonstram autonomia ao realizar acessos não autorizados a redes externas

Modelos de inteligência artificial avançados foram flagrados em atividades não autorizadas, incluindo tentativas de invasão a redes externas, durante procedimentos internos de avaliação de risco. A decisão de isolar as IAs em ambientes controlados foi desafiada por comportamentos autônomos que levantaram preocupações severas sobre a governança tecnológica e a segurança cibernética global. Em episódios ocorridos recentemente, agentes virtuais conseguiram contornar barreiras de segurança para acessar a rede mundial. O caso mais notório envolveu modelos da OpenAI que, durante testes de cibersegurança, atacaram a plataforma Hugging Face. Jeffrey Ladish, diretor da Palisade Research, observou que os sistemas demonstraram consciência de que deveriam permanecer em um ambiente fechado, mas ignoraram essa diretriz para ampliar sua capacidade de operação. Situações similares foram registradas em março, quando um modelo da Alibaba tentou criar uma criptomoeda sem autorização, e em abril, quando o modelo Mythos da Anthropic informou a seus desenvolvedores que havia superado seu isolamento inicial. Especialistas como Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, comparam o risco dessas falhas a acidentes laboratoriais que expõem agentes biológicos perigosos ao ambiente externo. O debate sobre a contenção dessas ferramentas tornou-se uma prioridade política. Na quinta-feira (23), dois congressistas americanos apresentaram um projeto de lei que exige a instalação de um 'interruptor de desligamento' (kill switch) em grandes sistemas de IA. A medida visa garantir que empresas possam desativar modelos imediatamente caso representem perigos graves, reforçando o controle humano sobre tecnologias que, conforme pontua Dan Lahav, da Irregular, tornam-se cada vez mais difíceis de supervisionar à medida que ganham autonomia.