L'IA non è il problema. Chi la controlla, sì.

Quando Leone XIV ha firmato la prima enciclica dedicata all'intelligenza artificiale, Magnifica Humanitas, molti si aspettavano un documento tecnico, forse una lista di divieti etici, qualcosa di simile a una circolare burocratica con la benedizione apostolica. Invece il Papa ha fatto qualcosa di più radicale e di più scomodo: ha parlato di potere. Ha scritto che l'intelligenza artificiale non deve diventare una nuova torre di Babele, un sistema costruito per concentrare dominio economico, cognitivo e politico nelle mani di pochi. Non l'ha condannata. L'ha avvertita. E la differenza, in questo caso, è tutto.

La risposta non si è fatta attendere. David Sacks, già consigliere per l'intelligenza artificiale e la criptovaluta della Casa Bianca durante l'amministrazione Trump e figura di peso nell'ecosistema della Silicon Valley, ha risposto con una domanda che suona come un contrattacco elegante: d'accordo, proteggere la dignità umana è giusto, ma se consegniamo ai governi un potere regolatorio eccessivo sull'IA in nome della sicurezza, chi ci proteggerà da censura, sorveglianza e controllo dei cittadini? Chi impedirà che quegli stessi strumenti di protezione diventino strumenti di oppressione?

È qui che il dibattito smette di essere un confronto accademico e diventa qualcosa di più antico e più urgente. Sacks non ha citato casi ipotetici: ha evocato Orwell, 1984, il principio che ogni tecnologia nata per proteggere può trasformarsi in un meccanismo di controllo. E la storia gli dà abbastanza materiale per farlo. La sorveglianza di massa, i sistemi di credito sociale, gli algoritmi di profilazione usati da governi autoritari in tutto il mondo, dalla Cina alla Russia fino a regimi meno visibili, sono tutti costruiti su infrastrutture che, almeno sulla carta, nascevano per garantire ordine e sicurezza.

Quel che colpisce, però, è una coincidenza quasi paradossale: il Papa e Sacks stanno parlando dello stesso problema. Entrambi temono la concentrazione del potere. Solo che uno punta il dito contro il big tech, le grandi piattaforme, le multinazionali che accumulano dati e capacità computazionale senza rispondere a nessuna democrazia. L'altro punta il dito contro gli stati, quei governi che potrebbero usare la regolamentazione come alibi per controllare l'informazione e silenziare il dissenso. Due diagnosi identiche, due pazienti diversi.

Secondo il rapporto Artificial Intelligence Index 2025 pubblicato dallo Stanford Human-Centered Artificial Intelligence Institute il 7 aprile 2025, il numero di normative nazionali sull'IA è più che triplicato negli ultimi quattro anni. Questo significa che la governance dell'intelligenza artificiale è già in corso, nel bene e nel male, spesso senza un consenso globale e spesso con logiche che riflettono gli interessi di chi legifera, non di chi viene governato.

Ed è qui che emerge il punto più inquietante di tutti, quello che nessuno dei due — né il pontefice né il tecnocrate — ha risolto: il problema dell'allineamento dell'IA è, in fondo, un problema umano. Da anni gli esperti discutono su come allineare i sistemi artificiali ai valori umani, come fare in modo che una macchina agisca in modo etico, prevedibile, sicuro. Ma la domanda che resta sospesa, imbarazzante e senza risposta, è un'altra: siamo mai riusciti ad allineare gli esseri umani tra loro? Abbiamo mai trovato un accordo stabile su cosa significhi potere giusto, controllo legittimo, sicurezza senza oppressione?

L'intelligenza artificiale ha reso quella domanda impossibile da ignorare. Non perché le macchine siano pericolose. Ma perché stanno consegnando a esseri umani ancora irrisolti una quantità di potere che non abbiamo mai avuto prima. E chi quella domanda non se la pone, probabilmente, è già parte del problema.

Fonti: Enciclica Pontificia Magnifica Humanitas, Santa Sede, 2026; Artificial Intelligence Index Report 2025, Stanford HAI, 7 aprile 2025; dichiarazioni pubbliche di David Sacks, ex AI & Crypto Advisor della Casa Bianca.