Mostra sommario Nascondi sommario
Una studentessa del New Jersey ha avviato una causa contro gli sviluppatori di un’app che trasforma foto in immagini intime non consensuali, puntando il dito anche contro la piattaforma di messaggistica che la ospitava. La vicenda torna d’attualità perché solleva domande pratiche: come fermare strumenti che violano la privacy e quali tutele ci sono oggi, in Usa e in Europa?
La battaglia legale
La querela è stata depositata da una ragazza diciassettenne e seguita da un team legale collegato alla Yale Law School. Il destinatario principale è la società che ha creato l’app nota come ClothOff, che permette di generare “nudi” a partire da fotografie tramite algoritmi di intelligenza artificiale.
Saldi Epic Games Store: offerte shock fino al 90% su centinaia di giochi
iPhone trappola anti ladro iOS 17: attivala ora
Secondo l’accusa, immagini prelevate da profili Instagram di studentesse quattordicenni della Westfield High School sono state elaborate con il software e poi diffuse nelle chat scolastiche. I legali chiedono al tribunale ordini che impongano la cancellazione e la distruzione dei materiali sensibili, il divieto di utilizzare quelle immagini per addestrare modelli di AI e la rimozione completa dello strumento dalla rete.
Telegram nel mirino
Nel fascicolo figura anche Telegram come «parte nominale», perché il bot che eseguiva le trasformazioni era integrato all’interno della sua piattaforma. I gestori di Telegram hanno dichiarato che la pornografia non consensuale e gli strumenti per produrla violano i termini di servizio e che il bot incriminato è stato rimosso.
Tuttavia, l’eliminazione del bot non ha cancellato il problema alla radice: il sito di ClothOff risulta ancora accessibile e, come spesso accade in casi simili, basta poco per aggirare i blocchi temporanei. Questo è uno dei nodi pratici al centro della disputa giudiziaria: bloccare una singola istanza non sempre impedisce la circolazione del servizio altrove.
Altre azioni e responsabilità internazionali
Nel 2024 il procuratore di San Francisco David Chiu ha promosso azioni contro i gestori dei principali siti di questo tipo, citando una dozzina di chiusure e alcune intese giudiziarie ottenute sinora. Le indagini internazionali indicano che i proprietari di alcune piattaforme possono operare da giurisdizioni offshore, rendendo più complessa l’esecuzione delle sentenze. In questo caso, i responsabili sarebbero cittadini bielorussi che avrebbero registrato la società nelle Isole Vergini Britanniche.
Il giovane sospettato di aver condiviso le foto a scuola non è parte della medesima denuncia federale, perché è stato citato in un procedimento separato: i suoi avvocati hanno detto di non avere elementi sufficienti per commentare le contestazioni.
Cosa chiedono le vittime
Le richieste avanzate dalla ragazza sono concrete e mirano a rimuovere ogni traccia materiale del danno: eliminazione e distruzione delle immagini, divieto di impiego per l’addestramento dei modelli di AI e rimozione definitiva del sito. Se il tribunale americano emettesse un provvedimento restrittivo, potrebbe essere ordinato il blocco dell’accesso al software sul territorio statunitense.
La portata pratica di questi rimedi però è limitata: anche una volta chiusa una piattaforma, copie e riproduzioni possono continuare a circolare. Per questo gli avvocati insistono sulla necessità di sanzionare i proprietari e di perseguire chi mette a disposizione gli strumenti.
Norme recenti e contesto italiano
Negli Stati Uniti il Congresso ha approvato la legge comunemente nota come Take it down Act, che qualifica come reato federale la pubblicazione di immagini intime non consensuali generate con l’intelligenza artificiale, sia che riguardino minori sia adulti. Anche in Italia, da ottobre è stato introdotto un divieto penale per la condivisione di materiale simile.
Organizzazioni civiche che seguono il fenomeno sul campo segnalano casi concreti: l’associazione Meter ha riferito di aver monitorato un gruppo Telegram in cui venivano pubblicate immagini di ragazze in cui sono state ricreate nudità virtuali — il conto delle vittime monitorate ha raggiunto le 125 adolescenti. Nel frattempo, la nostra verifica ha individuato decine di inserzioni pubblicitarie su Facebook e Instagram che promuovono app “nudifier” senza filtri adeguati.
Perché questo conta oggi
Il caso mette in luce due questioni immediate: la facilità con cui tecnologie avanzate possono essere usate contro persone vulnerabili e la difficoltà delle autorità nel governare strumenti che attraversano confini giurisdizionali. Per le potenziali vittime, le conseguenze non sono solo legali ma soprattutto psicologiche e sociali.
Le sentenze e le leggi stanno cambiando l’orizzonte normativo, ma le contromisure tecniche e le politiche di moderazione devono tenere il passo. Fino a quando rimarranno falle operative — siti attivi, pubblicità che aggirano i controlli, gruppi chiusi — il rischio che immagini intime vengano generate e diffuse rimane elevato.
Per chi subisce o sospetta una diffusione non consensuale: conservare prove, farsi assistere da un legale e segnalare immediatamente alle piattaforme e alle autorità rimangono passi essenziali. Sul piano collettivo, la vicenda chiede un rafforzamento delle regole e una maggiore responsabilità delle piattaforme che ospitano strumenti di intelligenza artificiale.
