L’automazione della guerra: i pericoli dell’IA per la democrazia e le relazioni Internazionali
Oggi il quotidiano La Repubblica pubblica un lungo articolo di Paolo Mastrolilli dal quartier generale dell'assai controversa azienda americana Palantir. L’articolo offre uno spaccato inquietante sulle implicazioni della tecnologia di Palantir, in particolare del sistema Maven, nelle moderne dinamiche belliche. Sebbene l’azienda si presenti come custode di una "missione epocale" volta a proteggere la civiltà occidentale, l’analisi dei suoi strumenti rivela rischi concreti per i pilastri delle democrazie liberali e per la stabilità delle relazioni internazionali.
Il pericolo primario risiede nella erosione della responsabilità umana nel processo decisionale. Come descritto nel testo, il sistema Maven opera attraverso cinque fasi: individuazione dell’obiettivo, coordinamento, esecuzione, accelerazione e decisione finale di sparare. Sebbene l’articolo sottolinei che la decisione finale spetta al comandante, l’architettura stessa del sistema delega all’intelligenza artificiale l’analisi dei dati, la priorizzazione dei target e la raccomandazione delle azioni. In un contesto di guerra "iper-accelerata", la pressione psicologica e temporale sul decisore umano rischia di rendere l’approvazione dell’IA quasi automatica. Questo sposta il baricentro della responsabilità da un individuo (il comandante) a un algoritmo, creando un vuoto giuridico ed etico difficile da colmare in caso di errori o crimini di guerra. La "scatola nera" dei processi decisionali automatizzati rende opaco il controllo democratico, poiché i cittadini non possono comprendere o contestare logiche algoritmiche che sono spesso protette da segreti industriali o militari.Inoltre, l’articolo evidenzia come l’uso di tali tecnologie possa alterare il bilanciamento del potere globale, minacciando la neutralità e la sovranità degli Stati. La descrizione del sistema come strumento di "deterrenza" basato sulla capacità di vedere "tutto e comunicare con ogni angolo dell'universo" suggerisce una asimmetria tecnologica pericolosa. Quando potenze occidentali possiedono capacità di sorveglianza e targeting basate su AI che altri attori globali (come Russia, Cina o Iran) non possiedono, si crea un divario che può spingere questi ultimi a sviluppare contromisure destabilizzanti o a colpire per primi in una logica di "prevenzione". L’articolo accenna al fatto che la Russia conosca l'esistenza di Maven, ma non il suo funzionamento completo. Questa opacità genera un ciclo di paura e incomprensione che può portare a escalation non intenzionali, poiché gli avversari potrebbero interpretare le attività di raccolta dati come preparazione a un attacco, innescando una spirale di tensione. Un altro aspetto critico è il rischio di abusi e di "guerre per procura". L’articolo menziona che Palantir lavora con l'ICE (Immigration and Customs Enforcement) e che il sistema potrebbe essere utilizzato per tracciare individui in base a criteri di rischio predittivo. Sebbene questo sia citato in ambito di immigrazione, la stessa logica di "profilazione predittiva" applicata in guerra potrebbe portare a colpire obiettivi basati su probabilità statistiche piuttosto che su prove concrete di attività ostili. Questo minaccia il principio fondamentale dello Stato di diritto, dove la presunzione di innocenza e la certezza del fatto criminoso sono essenziali.Infine, la natura commerciale di Palantir, fondata da Peter Thiel e Alexander Karp, solleva interrogativi sulla privatizzazione della sicurezza nazionale. La collaborazione con governi di tutto il mondo (dalla NATO a Israele, fino a paesi come la Germania e l'Italia) indica che le decisioni di vita o di morte sono sempre più delegate a un'azienda privata con una sua agenda e i suoi "codici etici" interni. La democratizzazione della guerra, intesa come controllo pubblico sulle decisioni di conflitto, sembra essere in pericolo quando questi processi sono gestiti da entità commerciali non elette.
In conclusione, l'integrazione dell'IA nella guerra rappresenta una sfida esistenziale per la democrazia. La velocità e la complessità dei sistemi come Maven rischiano di svuotare di contenuto il controllo umano, rendendo le decisioni di guerra opache, difficili da contestare e potenzialmente inarrestabili. Senza un rigoroso quadro normativo e etico che ponga l'essere umano al centro del processo, il futuro della guerra potrebbe essere quello di una "macchina da guerra" che decide da sola, minando le fondamenta delle relazioni internazionali e dei diritti civili.
