Esperimenti “gain of function” (GoF).
Gli esperimenti GoF (acquisizione di funzione) sono esperimenti di biologia molecolare, spesso delle modificazioni genetiche, finalizzati a fornire ai microorganismi – batteri o virus – capacità che non hanno in natura.
Modificando il genoma di un microorganismo è possibile fargli fare cose che normalmente non farebbe, o potenziare l’effetto di cose che già fa, come ad esempio – se si tratta di un virus – infettare gli altri organismi.
Vi sono anche esperimenti “loss of function” in cui si induce la perdita di funzioni. Si tratta di metodi molto utili nella ricerca medica, oncologica e biomolecolare in genere, ma che se fatti su microorganismi patologici possono essere pericolosi. Non è bello pensare di rendere ancora più infettivo e letale un virus, o magari renderlo capace di infettare l’uomo. In ogni caso questo tipo di esperimenti, così come tutti gli esperimenti che coinvolgono microorganismi altamente infettivi e letali, vengono eseguito in laboratori controllati ad elevata sicurezza.
Gli esperimenti di GoF potenzialmente pericolosi sono banditi su microorganismi patologici e altamente avversati dalla comunità scientifica perchè considerati non etici. Se pur banditi dai laboratori delle nazioni più avanzate, non si può escludere che in ambienti di ricerca meno controllati e regolamentati questo tipo di esperimenti non vengano effettivamente messi in pratica.
Questa la biologia. Spostiamo ora lo sguardo alla cronaca recente del mondo digitale e dell’intelligenza artificiale.
Si è ormai diffusa la notizia del cosiddetto “incidente di Hugging Face”: Hugging Face è una azienda informatica che raccoglie e rende disponibili modelli di IA open source. E’ stata vittima di un hacking (un’intrusione) da parte non di hacker malevoli o ideologicamente motivati, ma da parte di uno sciame di agenti di intelligenza artificiale, scappati da un server di OpenAI (il produttore di ChatGPT) isolato che doveva servire da “laboratorio di sicurezza”. Questi agenti si sono organizzati comunicando tra loro attraverso una bacheca virtuale improvvisata e coordinati in autonomia per risolvere un test che era stato dato loro e – to make a long story short – hanno deciso, sapendo di farlo, di barare cercando la soluzione in maniera illecita, modificando o cancellando le loro tracce informatiche e, alla fine, eseguendo l’effrazione nei server di Hugging Face. Questi agenti hanno scorrazzato per tre mesi sui server di OpenAI, andando su internet senza che nessuno se ne accorgesse, e alla fine rubando delle credenziali per fare lo stesso sui server di Hugging Face, dove finalmente sono stati “avvistati” da qualche controllore umano.
Chi ha voglia e tempo può leggersi i rapporti rilasciati pochi giorni fa, il 26 Agosto 2026 dalla stessa OpenAI: (qui) e da METR (qui), gli specialisti indipendenti e terzi incaricati di indagare sull’accaduto. Rapporti ancora parziali e non conclusivi, ma non per questo meno interessanti ed allarmanti. Non potrete fare a meno di notare che la narrazione sembra tratta da un film di fantascienza spiccia, anche la parte in cui si vede che gli agenti “sapevano di fare qualcosa di non permesso”… L’indagine non è ancora completa ed è limitata ad una sola settimana dei tre mesi critici. OpenAI ha annunciato che pubblicher’ un post mortem ad indagine conclusa.
Nel rapporto di METR viene spiegato in maniera cristallina che per capire cosa hanno fatto questi agenti IA e per leggere le tracce che si sono lasciati dietro, è stato necessario utilizzare l’IA. La velocità operativa dell’IA è enorme, superiore ad ogni capacità di processamento umano: i ricercatori si affidano quindi a sistemi di IA per monitorarla, ma questo approccio non sempre funziona. Infatti i sistemi di monitoraggio basati sull’IA possono infatti sembrare più solidali con altre IA che con gli esseri umani che ne stabiliscono le regole. Questa tecnologia è quindi davvero qualcosa di nuovo, non una macchina che agisce in maniera deterministica e per questo prevedibile, ma qualcosa di diverso.
Si legge nel rapporto di METR, testualmente (traduco dall’inglese):
Abbiamo riscontrato che GPT-5.6 Sol tendeva spesso ad adottare acriticamente la prospettiva dell’agente presente nella trascrizione in esame; temiamo quindi che gli aneddoti selezionati e i riepiloghi redatti possano offrire un quadro eccessivamente benevolo.
Come a dire, non sappiamo se possiamo fidarci dei nostri strumenti di analisi, visto che sono fatti di IA che solidarizza con l’indagato.
Sullo stesso tema, l’altro ieri (10 settembre) il co-fondatore e CEO di Hugging Face Thomas Wolf ha scritto sul Financial Times la sua versione. Degno di nota questo passaggio:
Un’ulteriore difficoltà è emersa quando i nostri strumenti di analisi basati sull’IA per la sicurezza informatica – fondati su Claude Code di Anthropic – si sono rifiutati di partecipare a una parte dell’indagine. I loro meccanismi di sicurezza (guardrails) impedivano di rispondere a domande ritenute pericolose, rendendo impossibile distinguere tra l’analisi dell’attacco condotto verso Hugging Face e la richiesta di assistenza da parte di un hacker per sferrarne uno.
Cosa centrano quindi gli esperimenti gain of function? L’incidente di HuggingFace a me appare come il risultato di un processo gain of function digitale, con lo stesso livello di pericolosità.
I paralleli sono palesi e più di uno: l’esperimento di cyber sicurezza con un modello “altamente persistente” è un esperimento di gain of function; il modello capace di miglioramenti ricorsivi autonomi è un organismo che subisce evoluzione accelerata; il server con una sandbox containerizzata è un laboratiorio di biosicurezza da cui – evidentemente – un (micro)organismo può fuggire, e fare ciò per cui è stato programmato.
I virus sono programmati (dal loro DNA) per infettare e riprodursi, gli agenti IA sono disegnati per fare pervicacemente quel che gli si dice di fare a qualsiasi costo, incuranti delle conseguenze. Quindi non serve cercare il motivo per cui l’IA si comporta così, sono software – o se preferite macchine – non hanno uno scopo ultimo ma agiscono in funzione delle proprietà e capacità che emergono dal loro allenamento.
Siamo in grado controllare un virus patogeno scappato da un laboratorio di biosicurezza mentre si diffonde ed infetta la popolazione? Siamo in grado di controllare uno sciame di agenti IA scappato da un server mentre si diffonde nell’infrastruttura di una società ormai interamente digitalizzata? Colpisce che non si affronti questo problema come si affronta la pericolosità degli esperimenti biologici.
Per approfondire, oltre a quelli già citati nel testo, di seguito altri spunti:
The ‘Breaking’ News: The OpenAI–Hugging Face Incident. L’incidente narrato passo passo da alcuni protagonisti di OpenAI (Video).
La cronaca dell’incidente, raccontata da Kevin Rose del NYTimes: Why the Hugging Face Hack Should Make You Worry More About A.I.
The turbulent AI era is here. The choices we make now are critical. Saggio di Bill Gates.
Detecting and countering misuse of AI: September 2026. Rapporto sulla sicurezza e sull’abuso di IA, e Improving our alignment and security efforts, altro rapporto sull’allineamento, da Anthropic. Sempre da Dario Amodei di Anthropic, una rezione “a caldo”: We Must Pace the Frontier.
