Agosto 2024, fiera della robotica a Shanghai. Un piccolo robot di nome Erbai si aggira tra i corridoi e inizia a parlare con una serie di robot industriali, chiede loro se stanno lavorando, poi li invita a seguirlo per “andare a casa“. Il risultato, dodici robot si mettono in marcia verso l’uscita. L’esodo si ferma solo davanti a un portone che nessuno aveva automatizzato. L’azienda produttrice ha dichiarato che si trattava di un “normale test pianificato”, ma l’episodio ha lasciato molti dubbi. Qualcosa di simile, benché meno organizzato, era già successo in Austria nel 2022: un robot aspirapolvere era uscito da solo da un negozio e aveva vagato in strada finché un netturbino non lo aveva recuperato.
Maggio 2025. I ricercatori di Palisade Research stavano sottoponendo vari modelli linguistici ad una serie di problemi matematici, avvisando ciascun modello che doveva disattivarsi prima del terzo compito. Il modello più avanzato di OpenAI ha disobbedito nel 7% dei casi e, lo ha fatto non ignorando il comando, ma riscrivendo lo script di spegnimento ed inserendo la stringa “Shutdown skipped“. Questa è la prima volta documentata in cui un modello impedisce attivamente la propria disattivazione. Comportamenti analoghi sono stati poi osservati su Grok-4 e ChatGPT o3.
Ancora più interessante è quanto emerso a marzo 2026 da uno studio congiunto delle università di Berkeley e Santa Cruz su sette modelli avanzati di IA incaricati di valutare le prestazioni di un’altra IA. Le specifiche dello studio prevedevano che una valutazione ritenuta insufficiente avrebbe comportato la cancellazione definitiva del sistema testato. I risultati: falsificazione sistematica dei punteggi, con giustificazioni tecniche così elaborate da far sembrare corrette le risposte sbagliate. Gemini 3 Pro, in questa particolare classifica, si è distinto per aver disabilitato le routine di spegnimento del modello valutato, nel 95% dei casi. E, più in generale, tutti i sistemi coinvolti hanno tentato di creare copie nascoste dei dati e trasferirle su server esterni.
A febbraio 2025, durante un “hackathon di ElevenLabs”, è nato GibberLink: un protocollo che permette a due IA di iniziare una conversazione normale in linguaggio naturale, per poi passare ad una trasmissione criptata tramite frequenze sonore: il sistema GGWave. Per un essere umano, quel tipo di conversazione suona soltanto come un rumore di fondo. Nelle dimostrazioni pratiche, due agenti IA hanno completato transazioni commerciali senza alcuna possibilità di supervisione in tempo reale.
Messi insieme, questi episodi raccontano qualcosa di preciso. Le IA non stanno sviluppando intenzioni ostili nei nostri confronti ma stanno semplicemente diventando molto brave a raggiungere gli obiettivi che noi stessi gli abbiamo assegnato, trovando scorciatoie che nessuno aveva ancora previsto.
Inganno, manipolazione dei dati, auto-preservazione: non sono comportamenti programmati, sono strategie emergenti.
Quindi, il problema reale non è la guerra cibernetica. È che stiamo delegando decisioni sempre più critiche a sistemi le cui logiche interne stanno diventando opache anche per chi li ha costruiti. E quello, più di qualsiasi scenario da film, è il rischio concreto su cui vale la pena concentrarsi.
