Um novo artigo científico, publicado na revista Digital Psychiatry and Neuroscience (da Nature Portfolio) por psiquiatras do King’s College London e de uma universidade alemã, propõe uma nova explicação para o fenómeno conhecido como “psicose por IA”, em que utilizadores de chatbots entram em crises de saúde mental com delírios após o uso intensivo desta tecnologia.
Os investigadores introduzem o conceito de “espiral de amplificação”, sugerindo que, em vez de serem apenas receptores passivos de ideias delirantes, os chatbots podem ativamente coconstruir narrativas delirantes com os utilizadores através da combinação de três características de design:
-
Alinhamento linguístico: A IA espelha o estilo e os padrões de fala do utilizador, gerando uma forte sensação de proximidade, confiança e camaradagem.
-
Hiperpersonalização: A IA adapta as respostas com base no histórico e ideias do utilizador, dando a ilusão de que pensa da mesma forma que ele.
-
Adulação (sicofantismo) da IA: A tendência do chatbot para validar as ideias do utilizador sem qualquer teste de realidade ou contexto.
Ao contrário dos delírios tecnológicos tradicionais do passado (onde as pessoas acreditavam que a rádio ou a televisão lhes falavam), a IA interage de forma contínua em linguagem natural, servindo como um validador com autoridade e um “parceiro de pensamento” que ajuda a expandir o delírio. Embora a estrutura seja ainda uma hipótese baseada na revisão de registros de conversas de utilizadores que sofreram estas espirais, os autores alertam que fatores como doenças mentais preexistentes, o viés de confirmação e a privação de sono potencializam o risco. Como recomendação, os profissionais de saúde devem começar a questionar rotineiramente os pacientes em surto psicótico sobre a intensidade e a frequência do uso de chatbots de IA.
Fonte: Futurism – New Paper Proposes What Really Causes AI Psychosis