Mostra sommario Nascondi sommario
OpenAI presenta una nuova contromisura per allinearsi alle regole europee: nelle prossime settimane introdurrà una marca digitale sui testi generati dall’intelligenza artificiale, pensata per essere rilevata senza alterare la lettura. La novità arriva mentre l’Unione Europea ha già attivato l’AI Act, e solleva subito interrogativi pratici su affidabilità e limiti della rilevazione.
textGrain è il nome scelto da OpenAI per questo sistema: non si tratta di un simbolo o di caratteri visibili dentro il testo, ma di una firma statistica basata su scelte lessicali e modelli di probabilità. L’azienda afferma che lo strumento sarà integrato nelle generazioni di ChatGPT e Codex all’interno dell’Unione Europea; al di fuori dell’Ue la funzionalità sarà disponibile, per ora, come opzione via API.
Come si riconosce un testo generato
Funko POP Il Signore degli Anelli: offerte fino al 43% su Amazon, c’è il Balrog
Fotocamera iPhone: personalizza i controlli con iOS 27
Il metodo non rivela chi ha chiesto la generazione né il prompt utilizzato, e non indica nemmeno quanto del contenuto sia frutto di una macchina rispetto al lavoro umano. La rilevazione si basa su segnali statistici che un software dedicato può interpretare per stabilire la probabilità che un testo sia stato prodotto da un modello di OpenAI.
Nei test interni, OpenAI ha riportato livelli di errore contenuti su alcune categorie: il tasso di falsi positivi dichiarato è circa l’1%. I risultati di rilevamento variano però molto a seconda della lunghezza e del tipo di contenuto: per testi intorno ai 200 token il riconoscimento è indicato intorno all’80%, mentre per testi più lunghi (circa 400 token) la percentuale sale, toccando il 95% in alcune tipologie come quelle di natura psicologica.
Limiti concreti e possibilità di elusione
Non è una tecnologia infallibile. Contenuti brevi risultano meno affidabili e i testi matematici sono particolarmente problematici per il rilevatore. Inoltre, la robustezza della filigrana cala rapidamente se il testo viene modificato: secondo i dati forniti, sostituire il 10% delle parole con sinonimi può abbassare la capacità di individuazione dal 92% al 66%; se le sostituzioni salgono al 25%, la probabilità di rilevamento scende intorno al 17%.
Per questi motivi l’accesso allo strumento di verifica non sarà immediatamente aperto a tutti: OpenAI intende concederlo inizialmente a ricercatori e organizzazioni selezionate, citando il rischio di falsi positivi e negativi e la necessità di ulteriori valutazioni.
Open source e altri formati
L’azienda ha dichiarato l’intenzione di rendere textGrain open source in futuro, ma mantiene distinzioni importanti tra testo, immagini e audio. Per immagini e file audio OpenAI già offre un servizio pubblico che analizza segnali di provenienza: per le immagini combina gli standard di Content Credentials (C2PA) con il watermark invisibile SynthID, sviluppato da Google DeepMind; SynthID viene utilizzato anche per alcuni audio.
Queste soluzioni ibride mostrano che la tecnologia della prova di provenienza si sta evolvendo su più fronti, ma anche che non esiste ancora uno strumento unico e definitivo in grado di certificare, in modo incontrovertibile, l’origine di ogni contenuto digitale.
Perché conta per lettori, giornalisti e piattaforme
La novità tocca immediatamente settori sensibili: redazioni, scuole, piattaforme social e chi modera contenuti online. Una marca robusta e verificabile potrebbe facilitare il contrasto alla disinformazione e all’uso improprio di testi generati automaticamente; d’altra parte, i limiti tecnici e la facilità con cui i testi possono essere alterati sollevano dubbi sull’efficacia pratica di misure esclusivamente tecniche.
In sostanza, textGrain rappresenta un passo importante verso maggiore trasparenza, ma non sostituisce procedure editoriali, controlli umani e politiche chiare sulle responsabilità. Nei prossimi giorni OpenAI dovrebbe fornire maggiori dettagli operativi e tempistiche precise per il rilascio. Per ora resta cruciale seguire gli sviluppi: la novità ha conseguenze reali sul modo in cui verifichiamo e attribuiamo i contenuti online.
