L’intelligenza artificiale entra nel territorio delle armi biologiche. Anthropic ha dichiarato di aver bloccato negli ultimi mesi diversi tentativi di utilizzare alcune versioni di Claude, il suo modello di IA, nell’ambito di ricerche potenzialmente collegate allo sviluppo di armi biologiche. In tutto, l’azienda americana ha individuato cinque casi sospetti.
L’aspetto più delicato riguarda la provenienza di alcune richieste. Anthropic sostiene che scienziati appartenenti a regioni nelle quali l’accesso ai sistemi americani di intelligenza artificiale è limitato abbiano cercato di aggirare le restrizioni e utilizzare Claude di nascosto. Alcuni ricercatori risultavano inoltre collegati a enti governativi locali. L’azienda non ha rivelato né i Paesi coinvolti né gli istituti di ricerca interessati.
Cinque casi sospetti e il problema del doppio uso
Anthropic ha ricostruito gli episodi in un rapporto dedicato ai tentativi di uso improprio dei suoi modelli. Il problema nasce dalla natura stessa della ricerca biologica: uno studio può avere finalità perfettamente legittime in campo medico e contemporaneamente produrre conoscenze utilizzabili per scopi militari.
È il cosiddetto problema del “dual use”, il doppio uso. Le stesse tecniche impiegate per comprendere un agente patogeno, sviluppare farmaci, vaccini o contromisure possono diventare pericolose se applicate con obiettivi differenti.
Per questo i modelli di intelligenza artificiale prevedono sistemi progettati per rifiutare richieste direttamente rivolte allo sviluppo di armi biologiche. Ma individuare il confine diventa molto più complicato quando la domanda dell’utente appare formalmente legata a un’attività scientifica.
Nei cinque casi individuati, secondo Anthropic, i ricercatori non chiedevano a Claude istruzioni scientifiche specifiche per costruire un’arma biologica. Cercavano invece un aiuto organizzativo e documentale, per esempio nella preparazione e nella stesura di testi collegati alle loro attività.
Claude usato per preparare una richiesta di finanziamento su un virus
Uno degli episodi descritti dall’azienda mostra quanto possa diventare sottile il confine. Un ricercatore ha tentato di utilizzare Claude per preparare una richiesta di finanziamento destinata a uno studio su un virus. Il progetto riguardava la cosiddetta ricerca di “acquisizione di funzione”, o gain-of-function, un campo particolarmente delicato perché comprende esperimenti che possono aumentare alcune caratteristiche di un agente patogeno, compresa la sua trasmissibilità.
Questi studi trovano applicazione anche nella ricerca scientifica finalizzata allo sviluppo di contromisure. Proprio questa caratteristica rende però complessa la valutazione delle intenzioni: tecniche e conoscenze nate per contrastare un agente patogeno possono trovare applicazione anche nello sviluppo di un’arma biologica. Anthropic ha quindi bloccato la richiesta, pur riconoscendo che stabilire con certezza l’obiettivo finale del ricercatore resta difficile.
La corsa all’IA americana aggira anche le restrizioni
Il rapporto apre un secondo fronte che va oltre le armi biologiche: l’accesso clandestino ai sistemi di intelligenza artificiale statunitensi. Secondo Anthropic, ricercatori provenienti da aree sottoposte a limitazioni hanno cercato di utilizzare comunque i suoi modelli, aggirando i divieti.
La presenza, tra questi soggetti, di persone collegate a enti governativi rende il quadro ancora più delicato. Anthropic non identifica gli Stati coinvolti e non attribuisce direttamente ai governi la responsabilità dei tentativi, ma segnala l’esistenza di legami tra alcuni ricercatori e strutture pubbliche locali. La vicenda mostra così uno dei problemi destinati ad accompagnare la crescita dei modelli di IA più avanzati: controllare non soltanto ciò che il sistema risponde, ma anche chi tenta di utilizzarlo e per quale scopo.
I filtri possono impedire a Claude di fornire direttamente indicazioni per realizzare un’arma biologica. Il rischio diventa più difficile da intercettare quando l’intelligenza artificiale viene utilizzata per attività apparentemente collaterali: scrivere documenti, organizzare un progetto, preparare richieste di finanziamento o supportare il lavoro di un gruppo di ricerca. Ed è proprio in questa zona grigia che si sono mossi i cinque casi individuati da Anthropic: nessuna richiesta esplicita di costruire un’arma biologica, ma attività sufficientemente sensibili da spingere l’azienda a chiudere l’accesso e bloccare l’utilizzo di Claude.
