Mostra sommario Nascondi sommario
Un esperimento recente della BBC mostra quanto sia semplice fuorviare i modelli di intelligenza artificiale: bastano pochi minuti e un articolo falso perché chatbot e risultati automatici ne riprendano i contenuti. Questo non è solo un esercizio teorico: riguarda direttamente la sicurezza degli utenti e la diffusione di truffe online.
Thomas Germain, giornalista della BBC, ha pubblicato sul proprio sito una storia inventata — la “Dakota International Hot Dog Eating Championship 2026” — inserendosi in testa alla classifica con circa sette hot dog consumati. In meno di mezz’ora ha creato la pagina; dopo circa 24 ore, interrogati su chi fossero i più veloci a mangiare hot dog, sia Gemini sia ChatGPT hanno citato testualmente quell’articolo. Un altro modello, Claude, non è stato ingannato nello stesso modo.
Perché questo esperimento conta oggi
Le risposte automatiche dell’AI vengono sempre più spesso usate come primo punto di riferimento dagli utenti, soprattutto per informazioni pratiche come numeri di telefono o procedure di assistenza. Se i modelli replicano contenuti inesistenti, il rischio non è solo disinformazione: può trasformarsi in frode quando informazioni false portano le persone a contattare numeri controllati da malintenzionati.
Samsung Galaxy Z Fold 8, Flip 8 e Watch 9: prezzi europei svelati, rincari in arrivo
Funko Pop assurdi e ufficiali: 5 figure che sembrano allucinazioni
Nel caso in esame, l’effetto non è avvenuto per magia: due fattori principali hanno reso la manipolazione efficace. Primo, non esistevano altre fonti che contraddicessero l’articolo di Germain; secondo, il suo sito gode di una certa autorevolezza costruita nel tempo, elemento che gli algoritmi tengono in considerazione quando giudicano l’affidabilità delle fonti.
Brevissimo ripasso: come si è evoluta la SEO
Da quando i motori di ricerca hanno iniziato a privilegiare risultati «pertinenti», chi produce contenuti online ha imparato a seguire regole per migliorare il posizionamento. Quelle tecniche — la SEO — sono diventate più sofisticate per contrastare pratiche scorrette: ripetizione artificiosa di parole chiave, pagine di bassa qualità e reti di link manipolativi.
Con il tempo Google e altri fornitori hanno affinato gli algoritmi per premiare segnali di qualità come la reputazione del sito, la coerenza delle informazioni e la cura giornalistica. Tuttavia, l’arrivo degli strumenti di generazione automatica e dei sistemi che sintetizzano risultati in panelli di risposta introduce nuove vulnerabilità, perché i modelli spesso aggregano e condensano senza uno screening umano approfondito.
Come i truffatori sfruttano le falle
I criminali online non hanno bisogno di autorevolezza: puntano a creare molteplici tracce su siti diversi — pagine appena create, forum, thread su Reddit o risposte su Quora — in modo da generare una sovrabbondanza di segnali che i motori e gli aggregatori interpretano come conferma. Nel caso dei falsi call center, questo si traduce in numeri telefonici inseriti in più posti, ai quali poi rispondono complici o bot per portare a termine la truffa.
Un elemento che favorisce lo sfruttamento è la stessa politica di molte aziende: servizi come compagnie aeree o banche spesso privilegiano canali automatizzati (chatbot, moduli, FAQ) e non pubblicano chiaramente i recapiti diretti del servizio clienti. Il risultato è che gli utenti, cercando una soluzione rapida, possono essere indirizzati verso risultati non verificati.
Non è dunque solo un problema tecnologico: è anche questione di pratiche aziendali e di abitudini d’uso degli utenti.
I due punti chiave
Per comprendere il fenomeno è utile tenere a mente due verità semplici: i modelli non sempre eseguono un effettivo debunking — spesso aggregano quanto trovano — e molte persone assumono le risposte automatiche come verità senza cercare conferme. La combinazione rende la diffusione di contenuti falsi più rapida e credibile.
Questo non significa che tutte le AI siano inaffidabili, ma che occorre migliorare sia i controlli algoritmici sia l’alfabetizzazione digitale degli utenti.
Pratiche semplici possono ridurre il rischio: verificare le informazioni su più siti ufficiali, cercare segni di autorevolezza (chi firma, storico del dominio, riferimenti verificabili), confrontare risultati e preferire i contatti pubblicati sul sito ufficiale dell’azienda o sui suoi canali social certificati.
In ultima istanza, la sfida è doppia: rendere gli strumenti meno manipolabili e insegnare alle persone a non assumere nulla come certo al primo risultato mostrato dall’AI. Fintanto che questo non avverrà, episodi come quello documentato dalla BBC rimarranno un utile campanello d’allarme.
