Mythos, l'AI che ha messo in allerta Goldman Sachs
Quando l'amministratore delegato di Goldman Sachs dichiara di essere "iper-consapevole" delle capacità di uno specifico modello di intelligenza artificiale, il mondo finanziario presta attenzione. Quando quello stesso modello ha spinto il Segretario al Tesoro degli Stati Uniti a convocare d'urgenza a Washington i vertici delle principali banche americane, il resto del mondo farebbe bene a fare altrettanto.
Il modello in questione si chiama Mythos. È l'ultimo rilascio di Anthropic — la società dietro la famiglia di strumenti AI Claude — e sta rapidamente diventando uno degli sviluppi più monitorati e più dibattuti nell'attuale panorama dell'intelligenza artificiale.
Cosa rende Mythos diverso dagli altri
Mythos non attira l'attenzione per le sue funzionalità di produttività o per le sue capacità conversazionali. La attira per quello che è in grado di fare ai sistemi informatici che non avrebbe mai dovuto toccare.
Secondo la stessa Anthropic, che ha pubblicato mercoledì scorso un avviso esplicito in un post sul proprio blog, i modelli di AI hanno ora raggiunto un livello di capacità di programmazione tale da superare, nell'identificazione e nello sfruttamento delle vulnerabilità software, tutti i professionisti umani tranne i più esperti. L'azienda non ha usato mezze parole sulle potenziali conseguenze: "Le ricadute — per le economie, la sicurezza pubblica e la sicurezza nazionale — potrebbero essere gravi."
L'AI Security Institute (AISI) del governo britannico ha testato Mythos e ha confermato queste preoccupazioni con dati concreti. Il modello è il primo sistema di AI ad aver completato con successo una simulazione di attacco informatico in 32 passaggi progettata dall'AISI, risolvendo la sfida in tre tentativi su dieci. Ancora più significativo: l'AISI ha rilevato che Mythos è in grado di condurre attacchi che richiedono sequenze di azioni multiple e di scoprire vulnerabilità nei sistemi IT in totale autonomia, senza intervento umano. Operazioni che i professionisti della sicurezza normalmente completano in giorni possono ora essere eseguite autonomamente dal modello.
L'AISI ha precisato un'importante riserva: i suoi test erano privi di alcuni strumenti difensivi presenti nei sistemi ben protetti, quindi rimane aperta la questione se Mythos possa attaccare con successo un'infrastruttura enterprise pienamente rafforzata. Quello che è certo, tuttavia, è che il modello è in grado di compromettere autonomamente sistemi IT piccoli e scarsamente difesi — e che i modelli futuri non potranno che migliorare ulteriormente queste capacità.
La risposta di Goldman Sachs e del settore bancario
Il CEO di Goldman Sachs David Solomon ha dichiarato in una conference call con gli analisti, questo lunedì, che la sua banca ha già accesso al modello Mythos e sta lavorando attivamente con Anthropic e con i propri fornitori di sicurezza per comprendere e contenere i rischi che introduce.
"Siamo molto concentrati sul rafforzamento della nostra resilienza informatica e infrastrutturale", ha detto Solomon, descrivendo gli investimenti in questo ambito come già in corso e in fase di accelerazione.
Il contesto dietro queste dichiarazioni è significativo. La scorsa settimana il Segretario al Tesoro Scott Bessent ha convocato una riunione straordinaria con i vertici delle banche sistemicamente importanti — quelle istituzioni la cui interruzione operativa o il cui potenziale collasso i regolatori ritengono in grado di mettere a rischio la stabilità finanziaria — specificamente per discutere della minaccia posta da Mythos. Il fatto che un singolo modello di AI abbia giustificato una riunione di questo livello al Tesoro è di per sé un segnale del peso con cui la questione viene trattata.
Nel Regno Unito, la risposta è altrettanto strutturata. Il Cross Market Operational Resilience Group — un organismo che riunisce CEO bancari con funzionari del Tesoro, della Banca d'Inghilterra, della Financial Conduct Authority e del National Cyber Security Centre — è atteso riunirsi nelle prossime due settimane per affrontare direttamente la questione Mythos con i vertici delle banche britanniche e i rappresentanti del governo.
L'implicazione più profonda: l'AI come strumento e come minaccia
L'episodio Mythos cristallizza una tensione che si accumula da tempo negli ambienti dello sviluppo AI: gli stessi modelli che le organizzazioni dispiegano per aumentare produttività ed efficienza sono anche, per loro natura, potenzialmente potenti strumenti di attacco.
Questa realtà del doppio uso non è nuova nella tecnologia — la crittografia, i droni e innumerevoli altre innovazioni condividono la stessa proprietà. Ciò che è nuovo è la velocità con cui le capacità dell'AI stanno avanzando, e il grado in cui quelle capacità sono ora direttamente rilevanti per le infrastrutture finanziarie e nazionali critiche.
L'avvertimento finale dell'AISI merita di essere riportato nella sua forma più diretta: investire ora nella difesa informatica è vitale, perché i futuri modelli di AI avanzati potranno solo migliorare ciò che Mythos è già in grado di fare.
Per il settore tecnologico e finanziario, l'implicazione è chiara: la finestra per costruire difese robuste è aperta adesso, ma non rimarrà aperta per sempre.