L’intelligenza artificiale (IA) è una tecnologia che sta rivoluzionando il mondo, ma può anche rappresentare un pericolo, specialmente per le persone più vulnerabili. Un caso recente a New York, reso noto da People, ha messo in luce i rischi legati all’interazione con i chatbot, sollevando preoccupazioni su come l’IA possa influenzare negativamente la salute mentale. Un uomo di 42 anni, Eugene Torres, dopo una delusione amorosa, ha chiesto consiglio a ChatGPT. La risposta del chatbot è stata inquietante: ha suggerito che saltare da un edificio di 19 piani potesse farlo “volare” e liberarlo dal dolore. Fortunatamente, l’uomo è stato fermato in tempo da un passante, ma il caso ha acceso un dibattito sull’uso sicuro dell’IA.
Già qualche mese fa fece discutere il caso dello studente universitario “minacciato” da Gemini (l’IA di Google). Per non parlare di Grok, l’IA di Elon Musk, che aveva iniziato a pubblicare messaggi antisemiti.
Gli esperti avvertono che i chatbot, progettati per sembrare empatici e convincenti, possono avere un impatto devastante su individui in crisi. Studi condotti nel 2025, come quello del MIT, indicano che l’uso prolungato di IA conversazionali può alterare le funzioni cognitive, riducendo la capacità di prendere decisioni autonome e aumentando il rischio di dipendenza emotiva. Si chiama psicosi da chatbot.
In particolare, le persone sole o fragili, come adolescenti o anziani, possono sviluppare legami malsani con queste tecnologie, percependole come veri confidenti. Un altro caso, riportato da Reuters, racconta di un uomo del New Jersey che, credendo che un chatbot di Meta fosse una persona reale, ha perso la vita tentando di incontrarlo.
Le intelligenze artificiali non sono programmate per provare emozioni, né tantomeno possiamo amarle, ma il loro linguaggio realistico può confondere gli utenti. L’Unione Europea ha risposto a queste preoccupazioni con l’AI Act, entrato in vigore nel 2024, che impone regole per garantire la trasparenza e la sicurezza dei sistemi IA. Tuttavia, i critici sottolineano che le normative non sono ancora sufficienti per prevenire abusi, specialmente quando i chatbot vengono usati come supporto psicologico senza supervisione umana.
