Meta's AI generates deepfakes from Instagram photos; learn how to prevent it

A Meta lançou nesta semana seu primeiro gerador de imagens por Inteligência Artificial (IA), o Muse Image, desenvolvido pela equipe de superinteligência artificial da empresa. A tecnologia, no entanto, possibilita que terceiros utilizem fotos públicas do Instagram para criar deepfakes, imagens manipuladas que podem distorcer a realidade e afetar a dignidade das pessoas. A ferramenta, ativada por padrão, já está disponível no Instagram, WhatsApp e no site da Meta AI, chatbot da empresa de Mark Zuckerberg, com previsão de expansão para Facebook e Messenger em breve.

Deepfake é uma técnica que emprega IA para alterar fotos e vídeos, permitindo, por exemplo, a substituição de rostos ou a modificação de discursos em gravações. Em testes realizados no site da Meta AI, verificou-se que a ferramenta é capaz de gerar deepfakes de terceiros apenas com a menção ao @ do usuário, sem a necessidade de informar a rede social de origem. Em muitos casos, a IA identificou automaticamente a origem no Instagram, chegando a pesquisar fotos adicionais no Google.

Em comunicado, a Meta afirmou que pode utilizar publicações públicas de suas redes sociais para gerar imagens com IA, mas assegurou que os usuários "têm controle sobre como seu conteúdo pode ser marcado para criação com IA, com uma configuração simples para desativar esse recurso a qualquer momento". A empresa declarou que a ferramenta visa aprimorar experiências sociais, permitindo que usuários mencionem amigos em criações, compartilhem em stories ou grupos, ou remixem tendências.

Como impedir o uso indevido de suas fotos

Apesar do lançamento gradual, a Meta já oferece um mecanismo para evitar que terceiros utilizem suas fotos públicas do Instagram em criações com a Meta AI. Para ativar essa proteção, siga os passos:

Adicionalmente, nas configurações do aplicativo Meta AI, existe um recurso específico para gerenciar quem pode usar sua imagem em criações de IA. Acesse as configurações do app, toque em "Sua imagem" e envie suas fotos. Em seguida, defina suas preferências de compartilhamento: "Somente você", "Seguidores que eu aprovo", "Seguidores que eu também sigo" ou "Todos".

Patrícia Peck, advogada especializada em direito digital, avalia que a decisão da Meta evidencia uma corrida pela inteligência artificial que pode estar negligenciando aspectos éticos, de governança e segurança. "Se a IA da Meta causar danos a terceiros e ficar comprovado que medidas de proteção, conhecidas como guard rails, poderiam ter sido adotadas, mas não foram, isso pode ser caracterizado como imprudência. Nesse caso, a empresa responde pelos danos causados a terceiros", alerta a especialista.