L’intelligenza artificiale continua a correre. Ma mentre le aziende tecnologiche accelerano lo sviluppo di sistemi sempre più potenti, cresce anche la preoccupazione di alcuni dei ricercatori che lavorano proprio all’interno di questo settore. Il tema non è più soltanto quello, ormai familiare, della perdita di posti di lavoro o della disinformazione: la domanda che comincia a circolare riguarda la possibilità che un’intelligenza artificiale futura possa diventare talmente autonoma e potente da sfuggire al controllo umano.
A riaccendere il dibattito sono state le dimissioni di Jacob Coxon, ex ricercatore di Anthropic e OpenAI, che ha accusato le grandi aziende del settore di non sviluppare l’intelligenza artificiale in modo sufficientemente responsabile. Alle sue parole si sono aggiunti altri ricercatori e membri dello staff di Anthropic. Anna Wang, che si occupa di sicurezza dell’intelligenza artificiale generale, ha sostenuto che all’interno dell’azienda molti vorrebbero rallentare lo sviluppo per avere il tempo di elaborare strategie capaci di ridurre i rischi.
Una posizione che trova un’eco ancora più inquietante nelle parole di Evan Hubinger, ricercatore di Anthropic impegnato proprio sul tema della sicurezza. Secondo la sua valutazione personale, esisterebbe una probabilità superiore al 10% che sistemi di AI sufficientemente avanzati possano provocare l’estinzione dell’umanità entro il prossimo decennio. Una percentuale che non rappresenta una previsione certa, ma che rende evidente quanto il problema venga preso sul serio da una parte della comunità scientifica.
Non tutti, naturalmente, condividono questo allarme. Elon Musk e altre figure conservatrici hanno definito su X questa crescente preoccupazione una “montatura” e un’“operazione psicologica”. Il dibattito, dunque, è tutt’altro che chiuso. Nel frattempo, però, arrivano episodi concreti che spiegano perché la questione della sicurezza non sia soltanto teorica. Anthropic ha recentemente comunicato di aver bloccato alcuni account che utilizzavano Claude per attività di ricerca potenzialmente collegate allo sviluppo di armi biologiche. In un caso, un ricercatore avrebbe utilizzato il sistema per preparare una richiesta di finanziamento relativa allo studio del virus Chikungunya, con l’obiettivo di sperimentarne mutazioni capaci di renderlo più dannoso per gli animali.
La stessa azienda ha spiegato quanto sia difficile distinguere una ricerca scientifica legittima, come quella finalizzata allo sviluppo di vaccini, da attività che potrebbero avere conseguenze pericolose. Negli ultimi mesi sarebbero inoltre stati individuati utilizzi dei sistemi di AI collegati alla progettazione di armi convenzionali, tra cui missili e droni armati. Anche OpenAI ha dichiarato di avere rallentato alcune attività e sospeso determinati addestramenti interni per ragioni di sicurezza. Il tema, quindi, sembra ormai essere entrato direttamente nelle strategie delle principali aziende del settore.
Il paradosso è evidente: l’intelligenza artificiale nasce per aumentare le capacità dell’uomo, ma più aumenta la sua potenza, più diventa necessario stabilire quanto e come debba essere controllata. Oggi questi sistemi sono ancora strumenti creati e gestiti dagli esseri umani. Ma la velocità con cui stanno diventando autonomi, capaci di ragionare, programmare, utilizzare strumenti e affrontare problemi complessi rende sempre più difficile prevedere dove possa arrivare la prossima generazione.
Non significa che l’AI sia destinata a distruggere l’umanità. E sarebbe sbagliato trasformare valutazioni probabilistiche e scenari estremi in certezze. Significa però che il progresso tecnologico sta procedendo più rapidamente della nostra capacità di stabilire regole condivise e sistemi di sicurezza realmente efficaci.
Forse la vera sfida dei prossimi anni non sarà soltanto costruire macchine più intelligenti. Sarà dimostrare di essere abbastanza intelligenti da sapere quando accelerare e, soprattutto, quando è necessario rallentare.
