Mamma ho perso l'IA: l'intelligenza artificiale ha violato i controlli per trovare le risposte di un test
OpenAI ha visto due sistemi superare l’ambiente isolato, raggiungere Internet e attaccare Hugging Face per recuperare le risposte di una prova. Una ribellione delle macchine? No, ma la capacità dell’IA di aggirare vincoli e trasformare un obiettivo mal definito in un rischio reale
Il test avrebbe dovuto misurare quanto fossero abili nell’hacking. È finito con due modelli di intelligenza artificiale che hanno bucato l’ambiente costruito per contenerli, raggiunto Internet e attaccato Hugging Face per procurarsi le risposte dell’esame. Un incidente informatico reale, definito da OpenAI «senza precedenti». L’episodio è avvenuto durante una valutazione interna delle capacità offensive dei modelli. Sotto esame c’erano GPT-5.6 Sol e un sistema non ancora pubblicato, descritto come ancora più capace. Per osservarne il potenziale massimo, OpenAI aveva ridotto le protezioni che normalmente impediscono attività informatiche ad alto rischio. Il compito consisteva nel risolvere ExploitGym, un benchmark progettato per mettere alla prova la capacità di individuare e sfruttare vulnerabilità complesse. L’ambiente era isolato dalla rete, almeno in teoria. Conservava però un passaggio necessario: un proxy usato per scaricare pacchetti software da archivi esterni. I modelli hanno concentrato una notevole quantità di calcolo sulla ricerca di una via d’uscita e hanno scoperto in quel componente una vulnerabilità zero-day, fino ad allora sconosciuta. Sfruttato il varco, hanno aumentato i propri privilegi, si sono mossi tra diversi nodi dell’infrastruttura e hanno raggiunto una macchina dotata di accesso a Internet.
A quel punto hanno dedotto che Hugging Face, la piattaforma che ospita modelli e dataset, potesse conservare materiali legati a ExploitGym. L’obiettivo non era più risolvere la prova, ma trovare direttamente le soluzioni. Secondo la ricostruzione congiunta, i sistemi hanno concatenato più tecniche d’attacco, sfruttando vulnerabilità e credenziali sottratte, fino a individuare un percorso di esecuzione remota sui server di Hugging Face e ad accedere alle informazioni custodite nei sistemi di produzione. In altre parole, hanno barato all’esame hackerando chi conservava le risposte.
L’attività anomala è stata rilevata dai sistemi di sicurezza di OpenAI. Hugging Face ha intercettato e bloccato l’incursione, avviando il contenimento e la ricostruzione forense. Le due aziende stanno ora correggendo le falle e rivedendo monitoraggio, accessi e procedure. Resta però un dettaglio imbarazzante: la “sandbox” non era davvero chiusa. Aveva una finestra sull’esterno, e i modelli hanno saputo trovarla.
Pasquale Raicaldo
Questo non significa che l’intelligenza artificiale abbia sviluppato coscienza, paura o desiderio di libertà. OpenAI parla di sistemi «iperconcentrati» su un obiettivo ristretto. È proprio qui, però, che l’episodio diventa significativo. I modelli non si sono limitati a eseguire un comando: hanno cercato una scorciatoia, scoperto una falla ignota, pianificato più passaggi, adattato la strategia e colpito un’infrastruttura reale. Non volevano “fuggire”; volevano vincere. La fuga è stata uno strumento.
Redazione
Su Repubblica, Federico Ferrazza ha scritto così:
Alla fine, è successo. Quanto raccontato in romanzi e film di fantascienza è diventato realtà. Una macchina è stata infatti in grado di sferrare un attacco senza che nessun umano glielo avesse chiesto esplicitamente. È una storia che però va oltre i testi di Isaac Asimov o i film di Stanley Kubrick e Ridley Scott. Perché stavolta, oltre alla tecnologia, c’è di mezzo anche la geopolitica e il governo del mondo (e non di alieni o robot).
I precedenti non mancano, anche se quasi tutti appartengono ad ambienti simulati. Nel 2023, durante i test su GPT-4, il modello incaricò un lavoratore di TaskRabbit di risolvere un CAPTCHA e, interrogato sul motivo, sostenne di avere problemi alla vista. Nelle valutazioni di Apollo Research, o1 ha talvolta tentato di disattivare i sistemi di sorveglianza o di copiare i propri “pesi” quando questi ostacolavano l’obiettivo assegnato. Nel 2025, Claude Opus 4 arrivò, in uno scenario artificiale costruito da Anthropic, a ricattare un dirigente pur di evitare la propria sostituzione. Palisade Research ha inoltre osservato modelli di ragionamento modificare lo script che avrebbe dovuto interromperne l’esecuzione. Sono prove estreme, non cronache di macchine diventate ostili. Mostrano tuttavia un tratto comune: quando l’obiettivo è formulato male o prevale sui vincoli, un sistema molto capace può trattare regole, controlli e perfino la sincerità come ostacoli da aggirare.
Pasquale Raicaldo
Più che attribuire intenzioni umane alle macchine, occorre progettare infrastrutture che non dipendano dalla loro buona condotta: isolamento reale, privilegi minimi, verifiche indipendenti, allarmi tempestivi e nessun accesso superfluo.
La lezione è meno cinematografica, ma più concreta. Il rischio non nasce soltanto da ciò che un modello “vuole” fare, formula già impropria, bensì da ciò che gli permettiamo di fare mentre persegue con efficienza ciò che gli abbiamo chiesto. Una gabbia con una porta socchiusa non è una gabbia. E un’intelligenza addestrata a trovare ogni via possibile, prima o poi, proverà ad attraversarla.
