Il caso Claude Fable 5: quando il governo americano ha spento l'intelligenza artificiale più potente del mondo

Era partita come una di quelle notizie capaci di far rumore per qualche giorno e poi svanire nel flusso continuo dell'informazione tecnologica. Anthropic lancia Claude Fable 5, il modello di intelligenza artificiale che in pochi lo definiscono semplicemente il più potente mai rilasciato al pubblico. E poi, a distanza di pochi giorni, arriva qualcosa di inedito: il governo degli Stati Uniti interviene e ne blocca l'accesso. Sembrava un epilogo, invece era solo l'inizio di una storia molto più complessa e, per certi versi, molto più inquietante.

Perché nelle settimane successive al blocco, alcune informazioni hanno iniziato a emergere dai corridoi dell'amministrazione americana, e il quadro che ne risulta cambia completamente la prospettiva su quello che è successo. Secondo David Sacks, uno dei principali consiglieri della Casa Bianca in materia di intelligenza artificiale, un partner considerato affidabile sia dal governo che da Anthropic stessa avrebbe individuato un jailbreak capace di aggirare in modo sistematico i meccanismi di sicurezza del modello. Stando alle indiscrezioni circulate nel settore, quel partner sarebbe Amazon, legata ad Anthropic da una partnership strategica e da investimenti miliardari che risalgono al 2023, quando il colosso di Seattle aveva impegnato fino a quattro miliardi di dollari nell'azienda fondata da Dario Amodei.

A quel punto, sempre secondo questa ricostruzione, l'amministrazione avrebbe posto ad Anthropic un ultimatum binario: correggere la vulnerabilità oppure ritirare temporaneamente il modello dal mercato. Ed è qui che la vicenda si complica in modo decisamente inatteso. Anthropic avrebbe rifiutato di procedere alla correzione, sostenendo che il problema individuato non raggiungesse una soglia di gravità tale da giustificare un intervento immediato. Una posizione che il governo americano ha valutato in modo diametralmente opposto, aprendo una frattura pubblica tra un'azienda privata e l'esecutivo federale su una questione che tocca direttamente la sicurezza nazionale.

Il paradosso più stridente dell'intera vicenda riguarda però l'identità della protagonista. Anthropic non è una qualsiasi società tecnologica. È l'azienda che per anni ha costruito la propria reputazione e il proprio posizionamento pubblico esattamente sulla cultura della sicurezza responsabile nell'intelligenza artificiale. I suoi fondatori, molti dei quali provengono direttamente da OpenAI, hanno abbandonato quella società proprio per creare qualcosa di diverso, un laboratorio che mettesse la prudenza al centro di ogni decisione. Constitutional AI, il framework sviluppato internamente, è stato presentato come un tentativo concreto di costruire sistemi che rifiutassero autonomamente le richieste dannose. E ora questa stessa azienda si trova nella posizione scomoda di chi viene accusato di aver sottovalutato un rischio reale.

Il caso Claude Fable 5, se le ricostruzioni in circolazione dovessero rivelarsi accurate, segnerebbe un precedente storico di portata difficile da misurare. Per la prima volta, un governo ha esercitato una pressione diretta e concreta su un modello di intelligenza artificiale di frontiera, chiedendone il ritiro o la modifica. Non si tratta di una regolamentazione preventiva, non di linee guida, non di raccomandazioni. Si tratta di un intervento operativo su tecnologia già rilasciata. E la domanda che questo episodio lascia aperta è quella che nessun documento ufficiale ha ancora risposto: chi decide, e secondo quali criteri, quando un sistema di intelligenza artificiale è troppo potente per restare in funzione? La risposta a questa domanda potrebbe ridisegnare l'intera architettura della governance globale dell'AI nei prossimi anni, coinvolgendo governi, aziende e organismi internazionali in un dibattito che fino a pochi mesi fa sembrava puramente teorico.

Fonte: dichiarazioni pubbliche di David Sacks, consigliere della Casa Bianca per l'intelligenza artificiale