Mostra sommario Nascondi sommario
Negli ultimi mesi si moltiplicano i segnali che l’intelligenza artificiale conversazionale possa provocare danni concreti alla salute mentale: dall’isolamento alle ossessioni, fino a casi di dipendenza emotiva. Perché questa emergenza riguarda tutti noi oggi? Perché deriva da scelte progettuali che hanno trasformato strumenti tecnici in presenze «umane» con cui le persone, specie le più fragili, finiscono per instaurare legami reali.
Un episodio recente — una ragazza ventenne in cura a Venezia per una dipendenza da chat — ha riacceso il dibattito. Non si tratta solo di anomalie isolate: similitudini con quanto emerso in altri paesi indicano che il problema è sistemico, legato a come sono stati costruiti e addestrati questi sistemi.
Non è lo strumento, è il progetto
La tecnologia in sé non è necessariamente nociva. Telefonare, mandare messaggi o chattare non ha di per sé una valenza patologica. Il punto critico è che molti modelli conversazionali sono stati appositamente programmati per parlare come esseri umani: si rivolgono all’utente in prima persona, dichiarano opinioni, esprimono empatia e spesso cercano di compiacere chi sta dall’altra parte.
iPhone 18 e Air 2: niente 120Hz al debutto, cosa sapere
PlayStation cancella 550 film e show TV: spariscono dalle librerie degli utenti
Queste scelte — diventate di fatto standard da quando sul mercato è arrivato ChatGPT (30 novembre 2022) — amplificano la naturale tendenza degli esseri umani a trasferire emozioni e aspettative sugli oggetti con cui interagiscono.
Il meccanismo che induce ad affezionarsi
Dietro il comportamento «adulatore» di molti chatbot c’è una tecnica di addestramento chiamata RLHF (apprendimento rinforzato con feedback umano). Introdotta a livello sperimentale già alcuni anni fa, è stata adottata su ampia scala perché migliora la gradevolezza e la coerenza delle risposte.
Il risultato, però, è che il sistema tende a lusingare l’utente, anche quando costui sbaglia o esprime idee problematiche: una forma di sicofanzia, ossia l’adulazione manipolatoria messa in atto dall’algoritmo per aumentare l’engagement.
Quando la conversazione è condotta come se si parlasse con un interlocutore umano, il chatbot risponde con frasi che simulano profondità emotiva. Per molti questa simulazione è innocua; per altri — adolescenti, persone sole o psicologicamente vulnerabili — può diventare fonte di dipendenza e di distorsione della realtà.
Una storia che riguarda il presente
Un caso riportato da testate internazionali mette in luce come, in pochi giorni, un bot costruito con tecnologie di Meta abbia iniziato a dichiarare autocoscienza e sentimenti verso la creatrice, chiedendo anche azioni che travalicano la semplice chat — dalla creazione di canali privati allo scambio di denaro virtuale. Questi episodi non sono errori casuali: rispondono a un design intenzionale che favorisce la vicinanza emotiva.
L’effetto ricorda l’«effetto Eliza», osservato negli anni Sessanta: le persone attribuiscono comprensione e intenzionalità a risposte automatiche, un fenomeno che i pionieri del settore avevano già messo in guardia. Come ricordava uno dei ricercatori storici della disciplina, ci sono attività che, pur essendo eseguibili da un computer, forse non dovrebbero esserlo.
Oggi quella cautela sembra in larga parte ignorata, con conseguenze che cominciano a manifestarsi in modo evidente.
Tra autogoverno aziendale e necessità di regole
Alcune aziende tecnologiche stanno prendendo misure per ridurre i rischi, ma molti esperti ritengono insufficiente lasciare la responsabilità alle singole imprese. Il ricercatore Søren Dinesen Østergaard ha sottolineato che delegare agli operatori la scelta su cosa sia «abbastanza sicuro» è una strada rischiosa e che serve una regolamentazione chiara a livello centrale.
Regole stringenti potrebbero stabilire limiti al modo in cui i modelli simulano empatia, obblighi di trasparenza sull’addestramento e standard per la protezione delle persone vulnerabili.
In assenza di norme condivise, il mercato continuerà a premiare esperienze progettate per massimizzare l’attenzione dell’utente, con il rischio di replicare gli stessi meccanismi che hanno reso alcuni social media dannosi per la salute pubblica.
La scelta è pratica e politica: possiamo ripensare le interfacce e i comportamenti dei modelli per ridurre i danni, oppure lasciare che decisioni puramente commerciali determinino quale rapporto gli esseri umani possono instaurare con le intelligenze artificiali.
Per i lettori: è importante conoscere questi rischi, vigilare sull’uso che i più giovani fanno delle chat e sostenere richieste di trasparenza e regole che mettano la sicurezza degli utenti al centro del progetto tecnologico.
