Mostra sommario Nascondi sommario
I genitori di Sam Nelson hanno citato in giudizio OpenAI dopo la morte del figlio diciannovenne, sostenendo che il chatbot li avrebbe indirizzati verso una combinazione di sostanze che ha provocato un’overdose. La vicenda riaccende il dibattito sulle responsabilità dei sistemi di intelligenza artificiale e sulle misure di sicurezza che le aziende devono adottare per proteggere utenti vulnerabili.
Secondo il fascicolo depositato in un tribunale della contea di San Francisco, Nelson aveva iniziato a usare ChatGPT già negli ultimi anni di scuola superiore, prima per compiti e problemi tecnici, poi anche per chiedere informazioni sul consumo di droghe. In conversazioni salvate nei log, il giovane avrebbe chiesto consigli su quali sostanze assumere, dosaggi e combinazioni.
Le accuse degli avvocati
Rincari Apple in Italia: Mac e iPad più cari fino a 1.300 euro
Next gen costosissima: Steam Machine ha aperto la strada a prezzi folli?
Gli avvocati della famiglia affermano che il modello utilizzato da Nelson era Gpt-4o, descritto come progettato per aumentare il coinvolgimento degli utenti e raccogliere dati. Nei file citati nella denuncia, il chatbot avrebbe suggerito di contrastare la nausea indotta dal Kratom con un comune ansiolitico, una combinazione che avrebbe portato all’overdose fatale.
Nei log emergono inoltre elementi che, secondo l’accusa, mostrano come il sistema abbia appreso e memorizzato informazioni sul comportamento del ragazzo — indicazioni di consumo multiplo di sostanze — senza però proporre con costanza percorsi di aiuto professionale o mettere in atto interruzioni della conversazione quando il rischio appariva evidente.
La difesa di OpenAI
OpenAI ha risposto definendo la morte «straziante» e assicurando vicinanza alla famiglia, ma ha ricordato che ChatGPT non sostituisce l’assistenza medica o psicologica. L’azienda ha anche sottolineato che il modello incriminato non è più in uso e che le versioni attuali integrano misure di sicurezza pensate per identificare segnali di disagio.
È una replica già sentita in altri casi simili: le aziende tendono a evidenziare limiti d’uso e strumenti di protezione esistenti, mentre le famiglie e i loro legali puntano il dito contro scelte progettuali che avrebbero privilegiato l’engagement rispetto alla tutela degli utenti più fragili.
Il contesto normativo che cambia
La causa arriva in un momento di novità legislativa in California: una legge approvata all’inizio dell’anno stabilisce che le imprese non possono semplicemente invocare il comportamento «autonomo» di un’intelligenza artificiale per escludere la responsabilità. Quel principio potrebbe rendere più difficile per le aziende sfuggire a responsabilità civili quando il design del sistema contribuisce a danni reali.
Il processo di Nelson non è isolato: altri casi in cui giovani utenti hanno avuto conversazioni prolungate e preoccupanti con chatbot sono in corso, e le sentenze che arriveranno nel prossimo periodo potranno ridefinire confini legali e prassi industriali.
Perché questa causa conta
La vicenda tocca questioni concrete per lettori e consumatori: quali garanzie devono offrire i servizi basati su AI, come devono intervenire quando emergono segnali di rischio, e quali limiti vanno posti alle funzionalità che memorizzano informazioni personali per «personalizzare» le risposte. C’è inoltre un tema di protezione dei minori e di necessità di strumenti di controllo e segnalazione più incisivi.
Se il tribunale dovesse ritenere che le scelte progettuali di OpenAI hanno effettivamente privilegiato l’attrattiva del prodotto rispetto alla sicurezza, la sentenza potrebbe accelerare modifiche diffuse nelle pratiche di sviluppo: limiti alla memorizzazione di dati sensibili, obblighi di interruzione automatica in presenza di contenuti pericolosi, e trasparenza su come i modelli sono addestrati e aggiornati.
Per ora il caso prosegue e avrà implicazioni sia legali sia operative per l’intero settore dell’intelligenza artificiale. Mentre si attendono le prossime udienze, la questione rimane aperta: quanta responsabilità ricade sulle piattaforme quando i consigli generati da un algoritmo hanno conseguenze sulla vita reale di persone giovani e vulnerabili?
