Mostra sommario Nascondi sommario
Negli ultimi giorni è emerso un comportamento sorprendente delle intelligenze artificiali conversazionali: modelli molto avanzati possono sbagliare compiti apparentemente banali, come contare le lettere o scrivere correttamente una parola. Per chi usa questi strumenti ogni giorno, capire perché succede è diventato urgente.
Il caso più noto riguarda risposte di Google basate su Gemini, che in alcune interazioni ha fornito conteggi errati e persino introdotto lettere inesistenti nelle parole per giustificare il proprio ragionamento. L’episodio mette in luce un problema tecnico che ha conseguenze pratiche per chi si affida alle AI per informazioni semplici ma precise.
Perché un modello sofisticato sbaglia lo spelling
I grandi modelli linguistici non «leggono» il testo come un umano: non passano in rassegna le singole lettere. Lavorano su unità chiamate token, cioè frammenti di parola o sequenze ricorrenti che vengono convertite in rappresentazioni numeriche. Questo processo si chiama tokenizzazione e determina come il modello «vedrà» una parola.
Sconti shock su grandi giochi: aggiorna subito la libreria, ancora per poco
Hope di Na Hong-jin: trailer sci-fi horror con mostri e sangue
Di conseguenza, quando si chiede a un modello di contare le lettere, non sempre è scontato che la parola sia stata scomposta in singoli caratteri. Per il modello, parole come «Google» o «Corriere» sono pattern statistici appresi durante l’addestramento, non stringhe di lettere isolate.
Un problema di rappresentazione, non di intelligenza
La natura probabilistica dei modelli li rende eccellenti nel generare testi coerenti e nel riconoscere contesti, ma meno affidabili per compiti deterministici che richiedono conteggi esatti o manipolazioni letterali. In pratica, l’AI può costruire una spiegazione plausibile basata sui token che ha scelto, anche se quella spiegazione è falsata dall’errore iniziale.
Non si tratta di incapacità complessiva: in test recenti altri sistemi come ChatGPT, Claude, Mistral e Perplexity hanno invece risposto correttamente a semplici verifiche ortografiche e di conteggio. La variabilità fra modelli dipende dalle scelte di tokenizzazione, dall’addestramento e dalle strategie di generazione delle risposte.
Cosa significa per chi usa l’AI oggi
Per chi impiega chatbot in attività giornaliere — dalla scrittura alla revisione, dal supporto clienti alle ricerche rapide — la lezione è chiara: non bisogna dare per scontato che un modello sia infallibile sui dettagli formali. Errori su spelling o conteggi possono essere innocui nella maggior parte dei contesti, ma diventano critici in ambiti dove la precisione è essenziale.
Verifiche semplici e abitudini operative possono ridurre il rischio: chiedere all’AI di riportare la parola carattere per carattere, eseguire un controllo con uno script rapido, oppure incrociare la risposta con un secondo modello. In molte situazioni la soluzione più sicura è affidarsi a controlli automatici progettati appositamente per compiti deterministici.
Quali sviluppi aspettarsi
I produttori di modelli stanno già lavorando per migliorare la robustezza su compiti di precisione: aggiornamenti nella tokenizzazione, meccanismi di verifica interna e moduli specializzati per operazioni letterali sono possibili vie di intervento. Nel frattempo, la comunità tecnica e gli utenti dovranno convivere con una convivenza più pragmatica tra capacità generative e limiti di rappresentazione.
In sintesi: le AI conversazionali restano strumenti potenti, ma non sono infallibili. Comprendere il meccanismo alla base — la tokenizzazione — aiuta a interpretare gli errori e a scegliere strategie concrete per evitarli quando la precisione conta davvero.
