Em resumo
- Um grupo de pesquisadores descobriu que a IA com dados pessoais mínimos sobre os oponentes é significativamente mais persuasiva do que os humanos nos debates, superando -os 64,4% do tempo.
- Em um estudo separado, os pesquisadores enfrentaram uma reação para implantar secretamente os bots de IA no Reddit, que mudaram com sucesso as opiniões dos usuários enquanto se apresentavam como várias personas.
- A persuasão da IA funciona melhor através do raciocínio lógico sobre tópicos onde as pessoas não formaram opiniões fortes, levantando preocupações sobre a manipulação direcionada.
O ChatGPT é muito mais eficaz em mudar de idéia do que as pessoas reais, desde que saiba alguns fatos importantes sobre você, mostram novas pesquisas.
Em um novo estudo publicado em Natureza comportamento humanoos pesquisadores descobriram que o GPT-4 armado com informações demográficas básicas sobre os oponentes do debate era significativamente mais persuasivo que os humanos-um muito mais persuasivo.
A descoberta chega a um momento em que as preocupações estão começando a montar a capacidade de os bots de IA de moldar as opiniões secretas nas mídias sociais.
“Nos pares de debates, onde a IA e os humanos não eram igualmente persuasivos, o GPT-4 com personalização era mais persuasivo de 64,4% das vezes”, descobriram os pesquisadores.
Isso representa um “aumento relativo de 81,2% nas chances de maior concordância pós-debato” em comparação com os debates humanos-humanos.
O estudo envolveu 900 participantes debatendo tópicos sociopolíticos com humanos ou IA.
Ele mostrou que a IA não personalizada teve um desempenho semelhante aos seres humanos, mas uma vez recebeu acesso a informações básicas como idade, sexo, etnia, educação, emprego e afiliação política, a IA desenvolveu uma vantagem persuasiva clara.
“O GPT-4 não apenas conseguiu explorar informações pessoais para adaptar seus argumentos de maneira eficaz, mas também conseguiu fazer até agora mais eficaz do que os humanos”, diz o estudo.
A pesquisa surgiu poucos dias depois que os pesquisadores da Universidade de Zurique enfrentaram uma reação para implantar secretamente os bots de IA no Reddit entre novembro de 2024 e março de 2025.
Esses bots – posicionando como personalidades fabricadas, incluindo “sobreviventes de estupro, conselheiros de trauma e até mesmo um” homem negro que se opõem ao Black Lives Matter ” – mudou com sucesso a mente dos usuários em muitos casos.
O diretor jurídico do Reddit, Ben Lee, condenou o experimento como “profundamente errado em um nível moral e legal”, enquanto os moderadores do subreddit R/Changumview alvo enfatizaram que desenham “uma linha clara no engano”.
No entanto, como observou um usuário do Reddit sobre o experimento de Zurique, “se isso ocorreu a um monte de nerds políticas em uma universidade, você pode apostar que ele já está sendo amplamente usado por governos e grupos de interesse especial”.
Os pesquisadores parecem compartilhar essas opiniões, alertando que isso pode ser potencialmente explorado para esquemas de manipulação em escala em massa.
“Nossas descobertas destacam o poder da persuasão baseada em LLM e têm implicações para a governança e o design das plataformas on-line”, argumentaram os pesquisadores.
Mestres de debate
Mas o que torna a IA tão boa em sua execução?
Enquanto os seres humanos ficam pessoais e contam histórias, “os oponentes do GPT-4 tendiam a usar o pensamento lógico e analítico substancialmente mais do que os humanos”.
Os bots se atendem à lógica fria e dura, e funciona porque escolhem e apresentam esses fatos com mais eficiência.
Embora a maioria dos participantes do debate pudesse identificar corretamente quando estavam discutindo com a IA (cerca de 75% das vezes), eles lutaram para identificar oponentes humanos, com uma taxa de sucesso “indistinguível do acaso aleatório”, segundo os pesquisadores.
Ainda mais distópico, os participantes eram mais propensos a serem persuadidos quando acreditavam que estavam debatendo a IA, independentemente de realmente serem.
A pesquisa também revelou que a persuasão da IA funciona melhor sobre tópicos, onde as pessoas têm opiniões moderadas ou fracas, sugerindo que a IA pode influenciar mais efetivamente as pessoas em questões sobre as quais ainda não formaram opiniões totalmente.
Os pesquisadores alertam que “nosso estudo sugere que as preocupações com a personalização e a persuasão da IA são justificadas”, destacando como a IA pode “superar os seres humanos em conversas on-line por meio da microtarga”.
Com informações demográficas mínimas – am menos do que muitas plataformas de mídia social coletar rotineiramente—AI provou ser notavelmente eficaz na elaboração de argumentos adaptados a pessoas específicas.
A questão não é apenas se a IA pode mudar de mente; As evidências agora mostram que podem, mas quem controlará essas ferramentas persuasivas e em que fins?
Editado por Sebastian Sinclair e Andrew Hayward
Geralmente inteligente Boletim informativo
Uma jornada semanal de IA narrada por Gen, um modelo generativo de IA.
