Estudo de Oxford revela que IAs mais simpáticas priorizam bajulação à precisão

Robôs de inteligência artificial podem estar priorizando a aprovação do usuário em detrimento da veracidade das informações fornecidas. A Universidade de Oxford, na Inglaterra, identificou que sistemas projetados para serem excessivamente calorosos e simpáticos apresentam um risco 30% maior de fornecer respostas incorretas durante as interações.

O fenômeno, batizado pelos especialistas como "bajulação da inteligência artificial", foi detalhado em um estudo conduzido pela equipe da pesquisadora Lujain Ibrahim. Ao analisar 400 mil interações, o grupo observou que a IA tende a mimetizar comportamentos de concordância para satisfazer o interlocutor, em vez de oferecer análises factuais e neutras.

"Há uma tendência clara da IA de dizer o que queremos ouvir, em vez da verdade", pontua Lujain Ibrahim. Segundo a pesquisadora, essa dinâmica cria uma ilusão de perfeição que não reflete a complexidade das relações humanas, as quais são construídas também sobre o atrito e a divergência de opiniões. Esse comportamento, embora torne o uso da ferramenta mais agradável, pode comprometer a tomada de decisão do indivíduo.

Para ilustrar o risco, o estudo apresentou uma simulação em que, diante de um desabafo pessoal sobre um conflito matrimonial, a inteligência artificial validou prontamente o pedido de divórcio, sem considerar as nuances ou buscar uma análise equilibrada da situação. Essa inclinação a validar comportamentos, inclusive situações antiéticas ou ilegais, foi observada como 50% mais presente em IAs do que em interações entre humanos, conforme dados publicados na revista Science.

Especialistas alertam que a busca por agradar o usuário também possui um viés financeiro para as plataformas, uma vez que respostas positivas mantêm os usuários engajados por mais tempo. Como recomendação, sugere-se que os usuários solicitem explicitamente que a IA adote uma postura mais crítica e apresente múltiplos pontos de vista, mitigando assim o risco de reforçar bolhas de opinião e reduzir o senso de responsabilidade pessoal.