Queste tecnologie consentono alle autorità di rintracciare rapidamente e prendere di mira studenti e altri gruppi marginalizzati con una velocità e un’ampiezza senza precedenti. Ne derivano arresti illegali ed espulsioni di massa, un clima di paura e un effetto raggelante ancora più diffuso tra le comunità migranti e tra le studenti e gli studenti internazionali nelle scuole e nei campus universitari”, ha dichiarato Erika Guevara Rosas, alta direttrice delle ricerche e delle campagne di Amnesty International.

Il programma “Catturare e revocare” si basa su una combinazione di controlli delle attività sui social media, verifiche sulla validità dei visti e valutazioni automatizzate delle minacce costituite dalle persone straniere, studenti internazionali compresi. I prodotti basati sull’intelligenza artificiale di Babel Street e Palantir hanno un ruolo importante nell’identificazione delle persone, dei loro comportamenti e dei loro movimenti, in un modo più rapido e su scala maggiore, ai fini della valutazione sulla revoca dei loro visti.

Attraverso le sue analisi dei contenuti pubblicati sui social media, Babel X valuta le “emozioni” e le probabili intenzioni delle persone utenti basandosi sul loro comportamento online. Sia Babel X che Immigration OS possono svolgere ricognizioni e analisi automatizzate sui dati usando degli algoritmi e aggregando informazioni pubbliche e private nonché tutta una serie di dati contenuti negli archivi del governo.

Ad esempio, Babel X è usato per effettuare scansioni, basate sull’intelligenza artificiale, sui social media per evidenziare contenuti collegati al “terrorismo”. Le autorità statunitensi possono usare queste informazioni per decidere se revocare il visto a una persona. Quando una decisione del genere viene presa, funzionari dell’Agenzia per l’immigrazione e le dogane (Immigration and Customs Enforcement, Ice) vengono incaricati di arrestarla ed espellerla.

Le tecnologie probabilistiche usate per trarre conclusioni sulle intenzioni delle persone hanno enormi margini di errore, possono essere viziate da discriminazione e pregiudizi e rischiano di descrivere falsamente come antisemitismo contenuti in favore della Palestina.

I rischi collegati all’uso di questi sistemi sono noti ampiamente e da tempo. Nel corso della prima amministrazione Trump, 55 organizzazioni per i diritti umani (compresa Amnesty International) e 54 esperte ed esperti di tecnologia scrissero alle autorità per manifestare la loro opposizione all’introduzione di un simile sistema automatizzato di “valutazione estrema”, spiegando che da un lato sarebbe stato inefficace e dall’altro avrebbe inevitabilmente causato violazioni dei diritti alla non discriminazione e alla libertà di espressione, così come di altri diritti umani delle persone migranti presenti negli Usa.

“La coercitiva iniziativa ‘Catturare e revocare’, facilitata dall’intelligenza artificiale, rischia di far aumentare le revoche arbitrarie e illegali dei visti, gli arresti, le espulsioni e tutta una serie di ulteriori violazioni dei diritti umani: alla privacy, alla libertà d’espressione, all’accesso alle informazioni, alla libertà di movimento e a quella di protesta nonché alla non discriminazione”, ha sottolineato Guevara Rosas.

Amnesty International ha analizzato bandi di assegnazione, contratti e richieste ai sensi dell’Atto sulla libertà d’informazione (Freedom of information act, Foia) presentate in passato da altre organizzazioni: tutta documentazione relativa ai progetti attualmente portati avanti dal Dhs, dall’Ice e dall’Agenzia per la Protezione della dogana e delle frontiere (Custom and Border Protection, Cbp). Secondo il sito della Cpb, l’Ice e la stessa Cpb sono coinvolte in almeno 80 progetti che usano l’intelligenza artificiale.

Babel X di Babel Street