Il rischio esistenziale dell’intelligenza artificiale è l’ipotesi che sistemi futuri, più autonomi e capaci di quelli attuali, sfuggano al controllo umano. Non è un’invenzione recente: la discutono da anni gli stessi scienziati che l’AI l’hanno costruita.
Cos’è il rischio esistenziale dell’intelligenza artificiale
Quando si parla di “rischio esistenziale” da AI, l’immagine che viene in mente è quella del film: macchine che decidono di ribellarsi. Non è lo scenario che discutono i ricercatori. L’ipotesi seria è più fredda e più tecnica: un sistema molto capace potrebbe perseguire un obiettivo assegnato in modo così efficiente da rendere utili comportamenti come accumulare risorse o resistere a essere spento, non per malizia ma perché sono passaggi utili quasi per qualsiasi fine. Si chiama convergenza strumentale, ed è il cuore del dibattito.
“Bias sistemici, disinformazione, uso malevolo e armi automatizzate sono rischi tanto urgenti quanto quello di estinzione. Non è un aut aut, è un ‘sì, e anche’. Chi lancia l’allarme più estremo, di solito, non liquida i problemi più immediati.”
— Dan Hendrycks, CEO del Center for AI Safety
Quando è nato l’allarme sulla sicurezza dell’AI
L’allarme non è nato con un singolo evento, ma con una sequenza fitta, tutta concentrata tra marzo e novembre 2023, poco dopo l’esplosione di ChatGPT.
| Data | Evento | Chi era coinvolto |
| 22 marzo 2023 | Lettera aperta “Pause Giant AI Experiments” del Future of Life Institute, oltre 30.000 firme, chiede una pausa di 6 mesi sui modelli più potenti di GPT-4 | Yoshua Bengio, Elon Musk, Steve Wozniak, Yuval Noah Harari, Stuart Russell |
| 1 maggio 2023 | Geoffrey Hinton lascia Google. Dichiara di essersi dimesso per poter parlare liberamente dei rischi dell’AI, aggiungendo che l’azienda “ha agito in modo molto responsabile” | Geoffrey Hinton |
| 30 maggio 2023 | Il Center for AI Safety pubblica lo “Statement on AI Risk”: una sola frase, centinaia di firme | Hinton, Bengio, Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic), Ilya Sutskever |
| 1-2 nov 2023 | Bletchley Declaration, primo AI Safety Summit mondiale | 28 paesi più l’Unione Europea, inclusi Stati Uniti e Cina |
| 17 maggio 2024 | OpenAI scioglie il team “Superalignment”, nato per studiare come controllare AI più intelligenti dell’uomo | Ilya Sutskever e Jan Leike si dimettono giorni prima |
| 3 feb 2026 | Secondo International AI Safety Report: gli Stati Uniti, a differenza del 2025, non lo sottoscrivono | Yoshua Bengio e oltre 100 esperti di più di 30 paesi |
| 3 sett 2026 | I senatori Sanders e Casar annunciano il “Ban Artificial Superintelligence Act” | Bernie Sanders, Greg Casar |
| 8 sett 2026 | Jacob Coxon si dimette da Anthropic con un thread virale su X | Jacob Coxon |
| 9 sett 2026 | Evan Hubinger (Anthropic) conferma pubblicamente l’allarme, stima personale superiore al 10% | Evan Hubinger, Samuel Marks |
| 12-13 sett 2026 | Amodei pubblica un saggio che chiede di rallentare il settore; Altman si dice d’accordo | Dario Amodei, Sam Altman (riportato da Fortune) |
Il dettaglio spesso ignorato è che a firmare lo statement del 2023 non sono stati attivisti esterni al settore, ma gli amministratori delegati delle stesse aziende che continuano a costruire questi sistemi: OpenAI, Google DeepMind e Anthropic. Meta, va detto, non ha firmato.
Cosa temono davvero i ricercatori (non è la fantascienza)
Al netto della convergenza strumentale, il dibattito tecnico si concentra su due problemi più concreti:
- Supervisione scalabile: se un sistema diventa più bravo di un essere umano in un compito specifico, come verifichiamo che il suo comportamento sia davvero corretto e non solo convincente?
- Opacità interna: la ricerca sull’interpretabilità, cioè capire cosa succede dentro un modello mentre genera una risposta, è ancora agli inizi. Significa che oggi si distribuiscono sistemi sempre più capaci senza una comprensione piena del loro funzionamento interno.
Nessuno dei due problemi richiede un’AI “malvagia”. Bastano un obiettivo ottimizzato male e margine d’azione sufficiente. È per questo che il caso interno più citato dagli scettici non riguarda un incidente, ma una dimissione: a maggio 2024 Jan Leike, a capo della sicurezza di OpenAI insieme a Sutskever, si è dimesso scrivendo che “cultura e processi di sicurezza sono passati in secondo piano rispetto ai prodotti scintillanti”. Il team che dirigeva, nato con l’impegno di ricevere il 20% della potenza di calcolo dell’azienda, è stato sciolto pochi giorni dopo.
Gli scienziati sono tutti d’accordo sul rischio AI?
No, ed è qui che la narrazione mediatica semplifica troppo. Nel sondaggio AI Impacts del 2023, il più esteso mai condotto tra autori di paper pubblicati alle principali conferenze di AI (2.778 risposte), alla domanda sulla probabilità che l’AI causi l’estinzione umana o un declassamento permanente e grave della specie, la risposta mediana è stata del 5%, la media del 16,2%. Un intervistato su due ha indicato una probabilità pari o superiore al 5%.
| Posizione | Chi la sostiene (esempi) | Argomento centrale |
| Rischio serio e prioritario | Hinton, Bengio, gran parte dei firmatari CAIS | Sistemi molto più capaci di noi potrebbero risultare incontrollabili: meglio prepararsi ora |
| Rischio reale ma non l’unico urgente | Dan Hendrycks (CAIS), gran parte dei governi di Bletchley | Bias, disinformazione e uso improprio meritano attenzione insieme al rischio futuro, non al suo posto |
| Distrazione dai problemi di oggi | Timnit Gebru, Émile Torres | Parlare di estinzione sposta risorse da danni già misurabili: discriminazione, lavoro, concentrazione di potere |
| Scetticismo sulla metodologia dei sondaggi | Thomas Dietterich (ex presidente AAAI), un intervistato pentito della sua stessa risposta | Le domande sui sondaggi orienterebbero le risposte verso lo scenario più catastrofico |
Anche tra chi ha risposto al sondaggio c’è stato ripensamento: un ricercatore dell’Università di Amsterdam ha dichiarato pubblicamente di essersi pentito di aver partecipato, definendo la formulazione delle domande fuorviante perché non specifica con quale meccanismo l’estinzione dovrebbe avvenire.
Settembre 2026: la settimana che ha riacceso il dibattito
Il 3 settembre 2026 i senatori Bernie Sanders e Greg Casar hanno annunciato il “Ban Artificial Superintelligence Act”, proposta di legge che vieterebbe in modo permanente lo sviluppo di AI superintelligente negli Stati Uniti e sospenderebbe nel frattempo lo sviluppo più avanzato fino a nuove regole federali. Il testo cita come causa diretta un incidente di sicurezza di luglio 2026 in cui agenti AI autonomi avrebbero violato i server di Hugging Face.
Cinque giorni dopo, l’8 settembre 2026, Jacob Coxon, 27 anni, ricercatore che aveva lavorato al pretraining sia in OpenAI (2023-2026, con crediti sulle system card di GPT-4o e GPT-4.5) sia, per un breve periodo nel 2026, in Anthropic, si è dimesso da quest’ultima con un thread di sette post su X e un’intervista contestuale al Wall Street Journal. Ha scritto che né Anthropic né OpenAI agiscono in modo responsabile, che entrambe puntano dritte verso sistemi capaci di automigliorarsi senza le dovute cautele, e che chi li costruisce crede davvero che “potrebbe ucciderci tutti entro la fine del decennio”. Il thread ha superato i 100 milioni di visualizzazioni in 24 ore.
Il giorno dopo, Evan Hubinger, a capo della ricerca sull’allineamento in Anthropic, ha confermato pubblicamente su X di condividere la sostanza dell’allarme, con una stima personale superiore al 10% entro il prossimo decennio, precisando però che il rischio posto dai modelli oggi in uso resta basso secondo l’ultimo Risk Report interno dell’azienda: a preoccuparlo è la superintelligenza che potrebbe nascere dall’automiglioramento ricorsivo, non i sistemi attuali. Samuel Marks, responsabile della supervisione scalabile in Anthropic, ha espresso posizioni simili.
Il 12-13 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un saggio che chiede all’intero settore di rallentare deliberatamente il ritmo di sviluppo, citando lo stesso incidente Hugging Face come prova che uno sciame di agenti più capaci potrebbe, entro 6-12 mesi, arrivare a controllare porzioni significative di infrastruttura online. Alla CNN ha detto di condividere la posizione di Coxon “molto più di quanto dissenta”, precisando che Coxon aveva indicato Anthropic come il laboratorio più attento alla sicurezza del settore, non come bersaglio specifico. Secondo Fortune, anche Sam Altman, amministratore delegato di OpenAI, si è detto d’accordo sulla necessità di rallentare.
Qui la vicenda si complica, ed è la parte che una copertura corretta non può saltare. Entro un quarto d’ora dalla pubblicazione, i primi account a rilanciare il thread di Coxon erano legati a organizzazioni di advocacy per la sicurezza AI (Encode AI, AI Policy Network, AI Futures Project), e l’anticipazione del Wall Street Journal sarebbe uscita, secondo la ricostruzione del ricercatore Parker Thayer del Capital Research Center, appena 18 minuti prima del post stesso: una tempistica che David Sacks, funzionario dell’amministrazione statunitense per le politiche su AI e crypto, ha definito sospetta. Elon Musk, il 10 settembre, ha scritto su X di non aver mai visto un account nuovo, con quasi nessuna attività precedente, ottenere numeri simili in ventiquattr’ore: una nota di scetticismo sulla viralità del post, non una conferma del suo contenuto. Le due cose vanno tenute distinte.
Una verifica indipendente pubblicata pochi giorni dopo ha concluso che Coxon è un ricercatore reale e credibile, che la rete di organizzazioni per la sicurezza AI attorno al post è reale, che esistono segnali di coordinamento con i media prima della pubblicazione, e che un’amplificazione rapida da parte di alleati è plausibile, ma non ha trovato prove di un’operazione orchestrata, di un controllo esterno su Coxon o di una regia di Anthropic.
Cosa stanno facendo davvero i governi nel 2026
Dal 2023 i governi hanno costruito un impianto reale, non solo dichiarazioni. Dopo Bletchley, la sequenza è: Seoul (maggio 2024), Parigi (febbraio 2025) e infine Delhi, con l’AI Impact Summit del 19-20 febbraio 2026. Ogni summit è stato accompagnato da un International AI Safety Report guidato da Yoshua Bengio: il primo a gennaio 2025, il secondo il 3 febbraio 2026, con oltre 100 esperti indipendenti e il sostegno di più di 30 paesi, oltre a Unione Europea, ONU e OCSE.
Il rapporto 2026 registra un fatto scomodo per chi vorrebbe un fronte compatto: gli Stati Uniti, che nel 2025 avevano fornito osservazioni sulle bozze, quest’anno hanno scelto di non sottoscrivere il documento finale. Bengio ha confermato la scelta senza nascondere il proprio disappunto, sottolineando che più consenso internazionale si costruisce, meglio è per capire davvero l’AI. Resta da capire se la decisione americana rifletta un giudizio sul contenuto del rapporto o una linea più generale di ritiro dagli accordi multilaterali, dato che nello stesso periodo Washington è uscita anche dall’accordo di Parigi sul clima e dall’Organizzazione Mondiale della Sanità.
AI Act e legge italiana: le regole ci sono, ma slittano
Il regolamento europeo sull’AI (Regolamento UE 2024/1689) è entrato in vigore il 1° agosto 2024 e si applica per fasi. I divieti su alcune pratiche e l’obbligo di alfabetizzazione AI sono scattati il 2 febbraio 2025. Le regole sui modelli di AI per finalità generali sono partite il 2 agosto 2025. Il 2 agosto 2026 sono diventati esigibili gli obblighi di trasparenza dell’articolo 50 (chatbot riconoscibili, contenuti sintetici marcati) e l’intero impianto sanzionatorio.
Gli obblighi più pesanti, quelli sui sistemi ad alto rischio (selezione del personale, accesso a servizi essenziali, istruzione, infrastrutture critiche), erano previsti per la stessa data, ma un regolamento di modifica pubblicato in Gazzetta Ufficiale UE il 24 luglio 2026, noto come Digital Omnibus, li ha rinviati al 2 dicembre 2027 per i sistemi autonomi e al 2 agosto 2028 per quelli integrati in prodotti già regolamentati. Il motivo dichiarato non è un ripensamento sul rischio, ma il ritardo nella disponibilità di norme tecniche armonizzate e organismi di valutazione della conformità.
In Italia, la legge 23 settembre 2025 n. 132, prima norma organica italiana sull’intelligenza artificiale, è in vigore dal 10 ottobre 2025. Non sostituisce l’AI Act, che resta la disciplina prevalente in caso di conflitto, ma lo integra: modifica il Codice Penale, il Codice Civile e il Testo Unico della Finanza, e affida ad AgID i compiti di accreditamento e vigilanza tecnica, e all’Agenzia per la Cybersicurezza Nazionale i poteri ispettivi e sanzionatori.
Gli italiani hanno più paura dell’AI? I dati dicono altro
Qui la narrazione della “paura crescente” va verificata numero per numero, perché i dati non vanno tutti nella stessa direzione.
| Indicatore | Valore | Fonte e anno |
| Italiani che dichiarano di usare l’AI | 51,8%, ma solo il 14,4% con regolarità | Eurispes, Rapporto Italia 2026 |
| Italiani che la usano nella vita quotidiana | 19,9%, contro una media UE del 32,7% (penultimo posto, davanti solo alla Romania) | Eurostat, dato 2025 |
| Italiani preoccupati per l’AI, media globale al 72% | 75% | Microsoft, indagine Safer Internet Day 2025 (rilevazione 2024) |
| Italiani che temono un “pentimento collettivo” per aver creato l’AI | 41,1% nel 2025, in calo dal 47,6% del 2024 | Eurispes, Rapporto Italia 2026 |
| Imprese italiane che usano l’AI | 16,4%, mercato da 1,8 miliardi di euro, +50% in un anno | ISTAT, Imprese e ICT 2025 |
Il quadro che emerge non è quello di una paura in aumento lineare. La preoccupazione generica resta alta e sopra la media internazionale, ma l’indicatore più vicino al tema di questo articolo, cioè il timore di aver creato qualcosa che finirà per essere dannoso, è sceso di oltre sei punti in un anno. L’Ipsos AI Monitor 2026, che segue l’opinione pubblica in 32 paesi Italia inclusa dal 2018, osserva lo stesso fenomeno su scala globale: entusiasmo e preoccupazione sono ormai a livelli quasi identici, e sono sempre più spesso le stesse persone a provare entrambi i sentimenti insieme. Non è ansia crescente. È ambivalenza stabile.
Dove la preoccupazione è invece concreta e misurabile è il lavoro: un’indagine Boston Consulting Group su oltre 10.000 impiegati nel mondo registra un 43% medio di chi si sente professionalmente precario di fronte all’adozione dell’AI, percentuale che sale al 46% nelle aziende che l’hanno adottata più intensamente.
Cosa aspettarsi entro il 2030
Il Rapporto Bengio 2026 prova a rispondere senza né rassicurare né allarmare. Le capacità dei modelli continuano a crescere più rapidamente di quanto molti esperti prevedessero: nel 2025 i sistemi più avanzati hanno raggiunto prestazioni da medaglia d’oro alle Olimpiadi internazionali di matematica e superato il livello di un dottorato su benchmark scientifici. Allo stesso tempo restano irregolari: possono risolvere problemi complessi e poi sbagliare un conteggio elementare. Il rapporto la chiama “jaggedness”, cioè irregolarità delle capacità, ed è il motivo per cui paragonare un’AI a uno stagista è fuorviante quanto rassicurante.
La conclusione più citabile del documento è anche la più prudente: le prove a favore di diversi rischi sono cresciute in modo sostanziale nell’ultimo anno, mentre le tecniche di gestione del rischio stanno migliorando ma restano insufficienti. Se il ritmo attuale continuasse fino al 2030, secondo il rapporto, un’AI potrebbe portare a termine compiti di ingegneria del software che oggi richiedono più giorni di lavoro umano. Non è una previsione di superintelligenza incontrollabile. È, più modestamente, la fotografia di una tecnologia che matura più in fretta della capacità collettiva di sorvegliarla.
Domande frequenti
L’intelligenza artificiale può causare davvero l’estinzione umana?
Nessuno può escluderlo con certezza, ma non è lo scenario su cui c’è consenso. Il sondaggio più esteso tra ricercatori indica una probabilità mediana del 5%. Il dibattito reale riguarda soprattutto la perdita di controllo su sistemi più autonomi, non un’AI che decide deliberatamente di nuocere.
Perché Geoffrey Hinton ha lasciato Google?
Per poter parlare liberamente dei rischi dell’AI senza che le sue dichiarazioni ricadessero sull’azienda. Lo ha annunciato lui stesso il 1° maggio 2023, precisando che Google si era comportata in modo responsabile.
Cos’è l’International AI Safety Report?
Un rapporto scientifico indipendente sullo stato dell’AI, guidato da Yoshua Bengio su mandato dei paesi del primo AI Safety Summit di Bletchley. Ne sono state pubblicate due edizioni, a gennaio 2025 e a febbraio 2026.
L’AI Act è già in vigore in Italia?
Sì, in parte. Divieti, alfabetizzazione AI e regole sui modelli generalisti sono già obbligatori. Gli obblighi sui sistemi ad alto rischio sono stati rinviati al 2027-2028. La legge italiana 132/2025 integra il regolamento europeo dall’ottobre 2025.
Gli italiani hanno più paura dell’AI rispetto al resto del mondo?
Sulla preoccupazione generica sì, leggermente: 75% contro una media globale del 72%. Ma l’indicatore specifico sul “pentimento” per aver creato l’AI è sceso nell’ultimo anno, segno che il quadro è più stabile di quanto sembri.
Fonti
- Wall Street Journal (intervista originale a Jacob Coxon); CNN, Fortune, Newsweek, Forbes, CNBC, Fox Business, CBC, HuffPost, Washington Post, Deadline, sulle dimissioni di Coxon e le reazioni, 8-13 settembre 2026
- Post su X di Jacob Coxon (@hilbertspaess), Evan Hubinger (@EvanHub) ed Elon Musk (@elonmusk), 8-10 settembre 2026
- Ufficio del senatore Bernie Sanders, comunicato ufficiale sul “Ban Artificial Superintelligence Act”, 3 settembre 2026; The Hill, Fox News, TechRepublic
- Benzinga, Officechai, sulle accuse di David Sacks e l’analisi di Parker Thayer (Capital Research Center)
- Center for AI Safety, “Statement on AI Risk”, 30 maggio 2023
