Stati Uniti e Cina stanno cominciando a discutere di una nuova forma di diplomazia: comunicarsi rapidamente che cosa sta accadendo quando un sistema di intelligenza artificiale provoca un incidente abbastanza grave da diventare una questione di sicurezza nazionale.
Dopo i colloqui del 20 settembre a New York con il vicepremier cinese He Lifeng, il segretario al Tesoro americano Scott Bessent ha annunciato la nascita di un “US-China AI dialogue” e ha spiegato che Washington ha proposto un meccanismo di notifica tra i due Paesi. L’obiettivo, nelle sue parole, è arrivare a una visione condivisa di “obiettivi comuni e minacce comuni” e passare da una situazione di opacità a una maggiore trasparenza tra le due maggiori potenze dell’AI. Il sistema di notifica, va precisato, è per ora una proposta americana: i due governi hanno concordato di continuare il dialogo.
Dietro una formula apparentemente semplice si apre però un problema molto più grande. Che cosa devono comunicarsi due Paesi che competono duramente sull’AI, sui chip e sulla supremazia tecnologica per ridurre davvero i rischi? E che cosa possono condividere senza trasferire all’avversario informazioni che aumenterebbero, anziché diminuire, le sue capacità?
Negli ultimi mesi diversi studiosi che lavorano proprio sul rapporto tra Stati Uniti e Cina hanno cominciato a delineare una risposta. Ne emerge un modello di cooperazione molto più articolato di una semplice “linea rossa” tra Washington e Pechino: servono canali permanenti tra tecnici, procedure comuni per classificare gli incidenti, una trasparenza selettiva sui problemi emersi e, soprattutto, metodi confrontabili per verificare quanto un modello sia diventato capace di produrre determinati rischi.
La hotline AI deve essere molto diversa dal telefono rosso
Lucy Luo, ricercatrice del Technology and International Affairs Program della Carnegie Endowment for International Peace, ha pubblicato il 18 settembre una proposta dettagliata proprio su come dovrebbe funzionare una hotline Usa-Cina per l’AI.
La prima indicazione è controintuitiva: non dovrebbe essere un telefono. Luo propone un sistema prevalentemente testuale, perché lascia una traccia verificabile, riduce i rischi di errori di traduzione e consente alle due amministrazioni di consultare internamente tecnici e decisori prima di rispondere. La studiosa ricorda che i precedenti canali di crisi sino-americani hanno spesso funzionato male proprio quando servivano maggiormente.
Dovrebbero inoltre esistere due livelli separati. Un canale ordinario servirebbe a scambiarsi informazioni su incidenti minori, procedure e pratiche di sicurezza; un secondo sarebbe riservato alle emergenze. Prima ancora che avvenga una crisi, Washington e Pechino dovrebbero concordare quali eventi fanno scattare la notifica e quali soglie di gravità trasformano un problema tecnico in un incidente di sicurezza nazionale.
La parte forse più importante riguarda però chi sta dall’altra parte della linea. Un incidente prodotto da un agente AI che penetra in una rete informatica non può essere interpretato soltanto da diplomatici. Luo propone quindi personale tecnico disponibile in permanenza, una rete di esperti interdisciplinari e un canale sicuro attraverso il quale scambiare evidenze digitali, compresi, quando necessario, i log delle attività dei modelli.
Il problema dell’attribuzione è centrale. Se un agente AI americano entra in un sistema cinese, Pechino deve poter capire rapidamente se sta osservando un’operazione decisa dal governo statunitense, un attacco criminale, un sistema compromesso o un agente che ha assunto un comportamento inatteso. La stessa esigenza vale naturalmente in direzione opposta.
Condividere gli incidenti, senza condividere tutto
Kyle Chan, fellow del John L. Thornton China Center della Brookings Institution, propone di andare oltre la comunicazione durante le emergenze. Secondo Chan, Stati Uniti e Cina dovrebbero scambiarsi, entro limiti prestabiliti, informazioni sugli usi malevoli già tentati contro i rispettivi sistemi.
Potrebbero essere condivise categorie di prompt utilizzati negli attacchi, tipi di output prodotti dai modelli, schemi di comportamento osservati, obiettivi sospetti e categorie di aggressori. Una raccolta comune di questo genere permetterebbe di identificare tecniche ricorrenti e costruire difese prima che lo stesso attacco venga ripetuto dall’altra parte del mondo.
Chan propone inoltre linee guida non vincolanti comuni almeno sui modelli di frontiera: definizioni condivise degli usi ad alto rischio e livelli minimi di protezione contro assistenza avanzata in campo cyber, chimico e biologico. La ragione è anche economica e operativa. Regole radicalmente differenti creano quello che definisce “safety arbitrage”: un attore malevolo può semplicemente rivolgersi al modello americano o cinese che offre meno protezioni.
Questo modello non richiede che le aziende americane consegnino alla Cina pesi dei modelli, codice sorgente o dettagli sensibili sull’addestramento. Anzi, una delle idee ricorrenti nella letteratura recente è distinguere attentamente tra trasparenza sulle proprietà di sicurezza e trasparenza sulla tecnologia necessaria per costruire le capacità stesse.
Matt Sheehan: la “AI safety in parallel”
Matt Sheehan, che guida parte del lavoro della Carnegie Endowment sull’ecosistema cinese dell’AI, definisce questa impostazione “AI safety in parallel”.
La premessa è realistica: è improbabile che Washington e Pechino si fidino abbastanza da accettare a breve un sistema di obblighi reciproci simile a un trattato sul controllo degli armamenti. Possono però migliorare separatamente i propri sistemi di sicurezza e contemporaneamente mantenere canali che consentano a ciascuna parte di capire che cosa sta facendo l’altra.
Secondo Sheehan, uno degli scambi più utili riguarderebbe proprio i metodi utilizzati per scoprire nuove capacità pericolose: per esempio la capacità di aiutare nella progettazione di nuovi patogeni oppure di eludere il controllo di un operatore umano. Stati Uniti e Cina potrebbero confrontare tecniche di test, sistemi di rilevazione e strategie di mitigazione.
Qui compare però una frontiera delicata. Spiegare dettagliatamente come verificare una determinata capacità può fornire indirettamente informazioni su come svilupparla. Sheehan propone quindi un criterio pragmatico: condividere soprattutto tecniche che aumentano fortemente la sicurezza offrendo al contempo benefici molto limitati alle capacità del modello. Dove questo equilibrio non è possibile, il confronto può rimanere a un livello più generale sulle metodologie di valutazione.
La trasparenza, in questo modello, non significa fiducia. Serve piuttosto a evitare che l’assenza totale di informazioni induca ciascuna potenza a immaginare che l’altra stia correndo verso modelli sempre più potenti sacrificando ogni precauzione. Per Sheehan, un dialogo strutturato può almeno rendere visibili approcci ai test, sistemi di governance e guardrail che dall’esterno resterebbero sconosciuti.
Il vero terreno comune: misurare i rischi nello stesso modo
Il livello successivo è ancora più ambizioso: costruire una metrologia comune dell’AI.
Benjamin Jensen e Yasir Atalan, ricercatori del Futures Lab del Center for Strategic and International Studies, sostengono che i benchmark dovrebbero diventare un elemento della diplomazia sull’AI. Nel…
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Alessandro Longo
Source link
