Amnesty International ha lanciato un’accusa agli Stati Uniti, circa l’utilizzo dell’intelligenza artificiale contro i cittadini stranieri a favore della causa palestinese. I documenti esaminati dall’organizzazione per i diritti umani provengono dal dipartimento per la sicurezza interna USA e sono di dominio pubblico. Si tratta di bandi di assegnazione e valutazioni della privacy. L’origine però non è recente. Come la stessa Amnesty dichiara, già nel corso della prima amministrazione Trump le organizzazioni per i diritti umani ed esperti di tecnologia ammonivano e sottolineavano i rischi che sarebbero potuti derivare dall’introduzione di sistemi alimentati da algoritmi di intelligenza artificiale per valutazioni considerate estreme. Già all’epoca, venivano segnalati rischi di inefficacia e potenziali violazione dei diritti alla non discriminazione e alla libertà d’espressione, oltre a violazioni dei diritti umani dei migranti presenti negli Stati Uniti. Il tutto appare all’interno del programma “Catch and Revoke” (Cattura e Revoca). Stando a quanto emerso dai documenti di Amnesty International, vi è il rischio che si vada incontro ad errori il cui margine è enorme, oltre ad essere le valutazioni viziate da discriminazioni e pregiudizi. In questo modo i contenuti pro-Pal possono essere falsamente descritti come antisemitismo.
Gli strumenti: Babel X e Immigration OS
Gli strumenti utilizzati dall’amministrazione sono Babel X, un’AI di Babel Street, e Immigration OS, sviluppato da Palantir, su cui servirebbe un capitolo a parte. Insieme, questi tool possono effettuare un vero e proprio monitoraggio e una sorveglianza di massa. Può anche esprimere giudizi su persone di nazionalità (perlopiù) non statunitense. Sono diverse le agenzie che impiegano strumenti simili. Tra queste, l’Agenzia per la Protezione della dogana e delle frontiere (Custom and Border Protection, Cbp). Sono circa ottanta i progetti che usano l’AI, oltre all’Ice e al Cbp.
Come funziona Babel X
I due sistemi possono monitorare l’attività sui social media, verificare la validità dei visti e assegnare valutazioni automatizzate sulle potenziali minacce di stranieri, compresi gli studenti internazionali. In particolare, Palantir e Babel Street offrono funzionalità all’interno dei propri software che possono identificare persone e svolgono un ruolo strategico sui rispettivi comportamenti e movimenti, al fine di revocare i visti.
Per quanto riguarda Babel X, viene definito come “uno strumento commerciale in grado di trarre informazioni dai social media” circa i visitatori “che possono essere oggetto di ulteriori verifiche per potenziali violazioni di leggi”. Lo strumento è in grado di condurre analisi di sentiment sui contenuti, per valutare orientamenti e possibili rischi in base al comportamento online. Gli algoritmi dei software possono aggregare informazioni pubbliche e private, combinando insieme i dati a disposizione negli archivi del governo.
Babel X viene utilizzato per effettuare scansioni sui social media. Lo scopo è evidenziare contenuti collegati al terrorismo, ma le informazioni possono essere utilizzate per decidere se revocare il visto di una persona. In tal caso, i funzionari dell’ICE (Immigration and Customs Enforcement) potranno arrestare ed espellere una persona. (Approfondimento: Come i cittadini sfuggono ad Ice).
Secondo quanto emerso dai documenti analizzati da Amnesty International, Babel X viene usato dal CBP almeno da sei anni. Può rilevare informazioni come nome e cognome, indirizzo di posta elettronica o numero di telefono. Inoltre, può accedere ai post sui social media e al relativo indirizzo IP. Nel mirino anche curriculum vitae e identificativi unici legati alla pubblicità online, al fine di identificare il dispositivo utilizzato dagli obiettivi. (Approfondimento: Patternz).
Ma non è tutto. Sotto la lente di ingrandimento di Babel X finiscono anche cittadini statunitensi o di altre nazionalità con permesso di residenza permanente. Tuttavia si concentra perlopiù su immigrati, rifugiati e richiedenti asilo. Le ricerche del software sono “persistenti” e possono monitorare in modo continuo ogni nuova informazione su una persona che compaia online o negli archivi. Ciò rende una persona automaticamente sospetta, con il rischio che le venga revocato il visto, venga arrestata ed espulsa.
Un altro aspetto riguarda l’utilizzo di banche dati come Canary Mission, una piattaforma che scheda e pubblica online profili di attivisti accusati di essere anti-Israele. Secondo Amnesty, fonti di questo tipo rischiano di alimentare pregiudizi sistemici nelle valutazioni algoritmiche.
Come funzionano le soluzioni di Palantir
Su Palantir serve un capitolo a parte. Nell’aprile del 2025 l’Ice ha chiuso un contratto con la società da circa 30 milioni di dollari. Lo scopo? Individuare casi prioritari di espulsione, in particolare per le persone che permangono negli Usa anche dopo la scadenza del visto. Il software è un’evoluzione del programma impiegato sin dal 2014, all’epoca noto con il nome Integrated Case Management system (ICM) e ora divenuto Immigration OS.
Il prodotto di Palantir permette di creare un archivio elettronico che organizza e collega notizie e documenti relativi ad una data indagine riguardante un caso di immigrazione. In tal modo possono essere consultati i documenti da uno specifico luogo. Il personale dell’ICE può collegare i dati a più indagini per evidenziare eventuali connessioni tra i vari casi e la possibilità di accedere ad un’estesa serie di dati personali raccolti dalle agenzie governative.
Le dichiarazioni
“È profondamente preoccupante che il governo statunitense impieghi tecnologie invadenti basate sull’intelligenza artificiale nel contesto di un programma di espulsioni di massa e di repressione delle espressioni in favore delle persone palestinesi, realizzando così un sistema di violazioni dei diritti umani. Queste tecnologie consentono alle autorità di rintracciare rapidamente e prendere di mira studenti e altri gruppi marginalizzati con una velocità e un’ampiezza senza precedenti. Ne derivano arresti illegali ed espulsioni di massa, un clima di paura e un effetto raggelante ancora più diffuso tra le comunità migranti e tra le studentesse e gli studenti internazionali nelle scuole e nei campus universitari”, ha dichiarato Erika Guevara Rosas, alta direttrice delle ricerche e delle campagne di Amnesty International.