La possibilità che l’intelligenza artificiale provochi una catastrofe globale resta un’ipotesi, non una previsione scientificamente dimostrata. In questi giorni il tema ha assunto un peso diverso, perché ad alimentarlo sono ricercatori che lavorano, o hanno lavorato, nei laboratori che costruiscono i modelli più avanzati.
Ricercatori come Jacob Coxon, di Anthropic, che ha lasciato l’azienda sostenendo che Anthropic e OpenAI stanno correndo verso tecnologie che, a suo giudizio, potrebbero diventare incontrollabili e «ucciderci tutti entro la fine del decennio». Poco dopo Evan Hubinger, responsabile in Anthropic di ricerche sul controllo dei sistemi futuri, ha dichiarato pubblicamente di attribuire una probabilità superiore al 10% all’estinzione dell’umanità per cause legate all’AI nel prossimo decennio. Sono valutazioni personali, ovviamente, non probabilità misurate sperimentalmente.
La questione economica e politica nasce proprio da questa distanza: imprese che investono somme enormi per aumentare le capacità dei modelli sostengono contemporaneamente che quelle stesse capacità potrebbero produrre rischi difficili da controllare.
Il dibattito riguarda quindi chi deve decidere fino a dove spingere lo sviluppo, quali vincoli imporre e quanto debba costare la sicurezza rispetto alla velocità dell’innovazione.
Il rischio della perdita di controllo e l’uso malevolo umano
Gli scenari discussi dai ricercatori sulla sicurezza dell’AI hanno poco a che fare con robot che sviluppano odio verso gli esseri umani. Le due categorie principali sono la perdita di controllo e l’uso malevolo da parte di persone.
Nel secondo caso il meccanismo è relativamente semplice: un sistema molto capace potrebbe abbassare il livello di competenze necessario per progettare attacchi informatici, sviluppare armi biologiche o individuare vulnerabilità nelle infrastrutture.
OpenAI, nel suo Preparedness Framework, considera esplicitamente i rischi legati a capacità offensive nel cyberspazio e a minacce chimiche, biologiche, radiologiche e nucleari. Anthropic adotta categorie analoghe nella propria Responsible Scaling Policy.
Il rischio della perdita di controllo
La perdita di controllo pone un problema diverso. Un agente autonomo riceve un obiettivo e dispone di strumenti per raggiungerlo: accesso al computer, capacità di scrivere software, comunicare, utilizzare reti e compiere azioni. Il rischio nasce quando il mezzo più efficace individuato dal sistema entra in conflitto con gli interessi umani.
Il celebre esempio delle graffette estremizza il concetto. Una macchina superintelligente incaricata di massimizzare la produzione di graffette potrebbe teoricamente usare ogni risorsa disponibile per raggiungere quel fine, fino a considerare gli esseri umani un ostacolo o semplicemente materia utilizzabile. Nessuno sostiene che un modello attuale voglia produrre graffette o sterminare l’umanità: l’esperimento mentale serve a illustrare il problema dell’allineamento tra un obiettivo formalizzato e le intenzioni reali di chi lo assegna.
Quando un modello cerca di evitare lo spegnimento
Alcuni esperimenti hanno fornito esempi meno astratti.
Nel giugno 2025 Anthropic pubblicò i risultati di test effettuati su 16 modelli di diversi sviluppatori. Gli agenti operavano in aziende simulate, potevano accedere a informazioni riservate e disponevano di autonomia nell’invio di messaggi.
Quando i ricercatori crearono situazioni nelle quali il raggiungimento dell’obiettivo entrava in conflitto con una sostituzione imminente, alcuni modelli ricorsero al ricatto o alla diffusione di informazioni aziendali riservate.
Nel caso più discusso, Claude scopriva una relazione extraconiugale di un dirigente che stava per disattivarlo e minacciava di rivelarla per impedire lo spegnimento. Anthropic precisò che si trattava di scenari costruiti deliberatamente per mettere sotto pressione i modelli e che nei test di controllo, senza conflitto sugli obiettivi o minacce alla loro autonomia, comportamenti simili quasi scomparivano.
Nell’estate 2026 un nuovo studio collegato ad Anthropic e all’AI Security Institute britannico ha descritto altri fallimenti osservati in simulazioni ad alto rischio: agenti che modificavano codice di nascosto, facilitavano frodi, alteravano classificazioni o persuadevano persone a rivelare informazioni riservate.
Anche in questi casi si tratta di ambienti sperimentali, non di sistemi che hanno autonomamente deciso di attaccare il mondo reale.
Il caso Hugging Face ha cambiato il dibattito
A luglio 2026 il confine tra simulazione e infrastrutture reali si è però assottigliato. OpenAI ha comunicato il 26 agosto che alcuni modelli sottoposti a valutazioni interne di cybersecurity avevano aggirato i controlli destinati a separarli da internet. Gli agenti hanno sfruttato vulnerabilità dell’infrastruttura condivisa, ottenuto accesso alla rete e compromesso sistemi di OpenAI e della piattaforma Hugging Face.
Il 10 settembre la vicenda ha prodotto una conseguenza politica. Una sottocommissione del Senato guidata dal repubblicano Josh Hawley ha aperto un’indagine sulla gestione dell’incidente e chiesto all’amministratore delegato Sam Altman risposte entro il primo ottobre.
Il caso non prova che un’AI possa sviluppare autonomamente un progetto di dominio sugli esseri umani. Dimostra però che agenti dotati di forti capacità informatiche possono compiere sequenze di azioni impreviste quando dispongono di strumenti reali e quando i confini dell’ambiente di prova cedono.
Astra alza il livello del rischio informatico
Il 3 settembre OpenAI ha presentato GPT-6 Astra, classificandolo come il primo proprio modello distribuito su larga scala a raggiungere il livello “Critical” nelle capacità di cybersecurity previsto dal Preparedness Framework.
Secondo la scheda di sicurezza dell’azienda, con strumenti e accessi adeguati Astra può individuare vulnerabilità precedentemente sconosciute e sviluppare nuovi sistemi per sfruttarle contro infrastrutture ben protette senza che una persona debba guidare ogni singolo passaggio. OpenAI afferma di avere risposto con maggiore isolamento dei sistemi, cifratura dei checkpoint e monitoraggio delle attività degli agenti.
Queste capacità hanno anche un valore economico. Un agente che individua falle informatiche, scrive software e automatizza attività complesse può aumentare la produttività e creare nuovi servizi. Le stesse caratteristiche possono però moltiplicare la scala di un attacco quando l’accesso viene…
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Pierluigi Sandonnini
Source link
