Il grande scisma dell’intelligenza artificiale: il caso Anthropic
Il nucleo della contesa risiede nel rifiuto da parte dell’azienda di disabilitare i propri protocolli di sicurezza etica per scopi bellici, una posizione che ha spinto il Pentagono a una reazione senza precedenti nella storia industriale americana.
La crisi ha raggiunto il suo apice alla fine di febbraio 2026, quando è scaduto l’ultimatum imposto dal Segretario alla Difesa Pete Hegseth. Il governo esigeva che Anthropic modificasse la propria architettura, nota come Constitutional AI, per consentire al modello Claude di essere integrato in sistemi d’arma letali in grado di operare in totale autonomia, ovvero senza la necessità di una conferma finale da parte di un operatore umano. Al rifiuto del CEO Dario Amodei, la Casa Bianca ha risposto invocando la sezione 3252 del codice statunitense, inserendo l’azienda in una lista nera che solitamente ospita potenze straniere avversarie, equiparando di fatto i paletti etici di una società americana a un atto di sabotaggio tecnologico.
Per comprendere la gravità di questa frattura, è necessario analizzare cosa avvenga tecnicamente quando un’intelligenza artificiale commette un errore di giudizio in un contesto bellico. Le intelligenze artificiali non possiedono una comprensione logica o morale del mondo, ma operano esclusivamente su base statistica e probabilistica. In situazioni impreviste, che i tecnici definiscono fuori distribuzione, il sistema non è in grado di ammettere il proprio limite, ma tenta comunque una classificazione basata sui dati che possiede. Questo può portare alla cosiddetta allucinazione tattica, dove un riflesso di luce o uno strumento agricolo vengono scambiati con una probabilità elevata per un’arma nemica. Senza un essere umano a supervisionare l’azione, il software procede all’eliminazione del bersaglio, trasformando un semplice errore di calcolo in una strage irreversibile.
Oltre all’errore diretto, esiste il rischio sistemico della discriminazione algoritmica. Poiché questi modelli imparano da database storici che possono contenere pregiudizi consci o inconsci, l’IA potrebbe iniziare a identificare come minacce intere categorie di persone basandosi esclusivamente su tratti etici, abiti o comportamenti che il codice associa statisticamente al pericolo. Questo aprirebbe la porta a forme di violenza sistematica governate da un software che non deve rispondere a nessuna corte marziale.
Anthropic sostiene che affidare il diritto di vita o di morte a un algoritmo sia una forma di irresponsabilità strutturale che mina le basi stesse della civiltà democratica.
Un altro scenario estremamente pericoloso riguarda la velocità di esecuzione di questi sistemi. In un conflitto ipersonico, le intelligenze artificiali operano in millisecondi, superando di gran lunga le capacità di reazione umane. Se un’IA americana interpretasse erroneamente un movimento di un’IA nemica come un attacco imminente, potrebbe innescare una risposta armata immediata per pura necessità difensiva calcolata. Questo loop di feedback tra algoritmi contrapposti potrebbe scatenare una guerra globale, definita Flash War, prima ancora che i leader politici abbiano il tempo materiale di valutare la situazione o tentare una mediazione diplomatica.
Il governo Trump giustifica la propria pressione su Anthropic attraverso la lente della competizione geopolitica globale.
Il timore principale del Pentagono è che, mentre gli Stati Uniti si pongono limiti morali, avversari come la Cina e la Russia stiano già implementando sciami di droni e sistemi di targeting totalmente autonomi. In questa visione, un’intelligenza artificiale limitata dall’etica viene percepita come un’arma lenta e inefficiente. La sicurezza nazionale viene dunque posta come valore supremo, capace di scavalcare il diritto di un’azienda privata di decidere come debba essere utilizzata la propria invenzione. Mentre Anthropic affronta l’isolamento finanziario e legale, altri attori del settore come OpenAI e Palantir hanno scelto di collaborare più strettamente con i militari, segnando una spaccatura definitiva all’interno della Silicon Valley.
La risoluzione di questa crisi determinerà se il futuro della tecnologia sarà guidato da principi di sicurezza umana o se il codice informatico diventerà lo strumento definitivo di una nuova e incontrollata corsa agli armamenti.
La battaglia legale che Anthropic sta intraprendendo non riguarda solo i suoi profitti, ma la definizione stessa di sovranità tecnologica in un mondo dove la decisione di uccidere potrebbe presto essere delegata a un processore.
“Je suis Anthropic”
