Mostra sommario Nascondi sommario
Un gruppo guidato dal filosofo americano Walter Sinnott‑Armstrong ha ricevuto da poco un finanziamento significativo per insegnare ai sistemi di intelligenza artificiale a prevedere i giudizi morali umani: è l’ennesimo segnale che la questione etica è ormai al centro dello sviluppo tecnologico. La posta in gioco è alta: regole e limiti decisi oggi determineranno rischi e benefici nelle nostre vite quotidiane.
Walter Sinnott‑Armstrong è Chauncey Stillman Professor di Etica Pratica alla Duke University e coautore del volume Moral AI. Il suo team ha ottenuto da OpenAI un finanziamento di un milione di dollari per esplorare come rendere i modelli più sensibili ai valori umani. Dietro all’iniziativa c’è una domanda pratica e urgente: come evitare che sistemi sempre più capaci producano danni involontari?
Perché il tema è urgente
Negli ultimi mesi il dibattito pubblico sull’AI si è polarizzato tra chi avverte scenari catastrofici e chi minimizza i modelli come semplici strumenti statistici. Secondo Sinnott‑Armstrong, la verità è nel mezzo: le tecnologie possono offrire vantaggi importanti, ma comportano anche rischi concreti che non vanno ignorati.
Samsung Galaxy Z Fold 8, Flip 8 e Watch 9: prezzi europei svelati, rincari in arrivo
Funko Pop assurdi e ufficiali: 5 figure che sembrano allucinazioni
Il filosofo paragona i pericoli a quelle situazioni in cui una bassa probabilità di evento negativo — se l’impatto è gravissimo — non può essere trattata con leggerezza. Per questo, afferma, è necessario un quadro normativo che permetta di sfruttare i benefici senza esporsi a conseguenze inaccettabili.
Responsabilità e catena del controllo
Chi deve rispondere quando un sistema sbaglia? La domanda non ha una sola risposta: produttori, sviluppatori, utenti e persino il sistema stesso possono essere coinvolti in modi diversi. Sinnott‑Armstrong sostiene che la responsabilità pratica deve ricadere su chi ha il potere reale di prevenire il ripetersi del danno.
Tra le misure proposte ci sono una maggiore informazione per gli utenti, revisioni tecniche per contenere i rischi e più tempo concesso agli sviluppatori per correggere errori. Il problema, osserva, è che molte aziende spingono per rilasci rapidi e i legislatori faticano a tenere il passo.
Responsabilità non significa solo sanzione: implica anche incentivi per produrre strumenti più sicuri e trasparenza che permetta confronti oggettivi tra servizi.
Norme, autoregolamentazione e mercato
L’Unione Europea ha introdotto regole più puntuali rispetto agli Stati Uniti, dove il quadro resta più frammentato. Sinnott‑Armstrong giudica positivo lo sviluppo normativo europeo, ma sottolinea che l’autoregolamentazione aziendale funziona soltanto se accompagnata da incentivi e controlli esterni.
Per esempio, il mercato può premiare prodotti che rispettano la privacy e la sicurezza solo se gli utenti sono informati e se esistono metriche di confronto affidabili. Senza questi elementi, la corsa all’innovazione rischia di premiare velocità e profitti a scapito della sicurezza pubblica.
I rischi concreti
I pericoli che emergono dall’uso diffuso dell’AI toccano ambiti molto diversi: discriminazioni in decisioni mediche o sociali, proliferazione di deepfake, manipolazione dei flussi informativi e impatti nei settori militare, finanziario e educativo. Anche errori apparentemente innocui — per esempio contenuti inappropriati prodotti dai modelli di chat — mostrano quanto sia facile perdere il controllo.
Secondo il ricercatore, è essenziale valutare sia la probabilità sia la gravità degli esiti potenzialmente dannosi: alcune minacce, anche se remote, richiedono precauzioni stringenti perché il loro impatto sarebbe devastante.
Deepfake e disinformazione, in particolare, rappresentano una minaccia per la fiducia pubblica e per la qualità del dibattito democratico.
Sulla cosiddetta “coscienza artificiale”
Il tema della coscienza nelle macchine è spesso frainteso. Sinnott‑Armstrong distingue tra una forma di autocontrollo operativo — la capacità di un sistema di monitorare le proprie performance — e la coscienza fenomenica, l’esperienza soggettiva tipica degli esseri viventi. Le aziende non puntano a creare esperienza soggettiva per il gusto dell’esperimento: integrano solo elementi che migliorano le prestazioni.
Detto in altre parole, una macchina può svolgere compiti complessi senza possedere ciò che chiamiamo esperienza cosciente. Il compito degli studiosi, aggiunge, è capire come dotare i sistemi di principi etici che guidino le loro scelte operative.
Coscienza artificiale rimane perciò più un problema filosofico che un obiettivo tecnico pratico per molte compagnie.
Quale ruolo per la scuola
Per preparare i cittadini alla convivenza con l’AI, Sinnott‑Armstrong indica tre competenze fondamentali: conoscere le basi tecniche, capire gli effetti sociali e acquisire strumenti di giudizio etico. Solo così le persone potranno partecipare al dibattito pubblico, valutare rischi e benefici, e influire sulle scelte normative.
Competenze linguistiche e senso critico restano fondamentali: distinguere tra plausibilità retorica e affidabilità fattuale sarà una capacità sempre più richiesta, anche per contrastare la diffusione di contenuti falsi o fuorvianti.
Più in generale, conclude il professore, servono regole chiare, controlli indipendenti e un’informazione che renda visibili i compromessi impliciti in molte scelte tecnologiche. Senza questi elementi, il potenziale dell’AI rischia di essere accompagnato da costi sociali troppo elevati.
