Al confine sembrava tutto calmo quella mattina: una distesa di barriere metalliche e cabine di vetro che brillavano alla luce dell sole. Ma per Amina, una giovane donna in fuga dal conflitto, ogni passo avanti era come essere osservata al microscopio. Telecamere che scansionavano il suo volto, sensori che registravano le sue impronte digitali e un algoritmo che decideva se la sua storia corrispondesse ai “profili di rischio” integrati nel sistema. Per gli agenti, era solo la tecnologia che faceva il suo lavoro. Per Amina, invece, era un giudizio sulla sua stessa umanità, un giudizio che non riusciva a comprendere e che non aveva il potere di contestare. La sua esperienza non è la sola.
In tutto il mondo, richiedenti asilo e migranti si trovano sempre più spesso di fronte a tecnologie di intelligenza artificiale e strumenti biometrici usati ai confini; intanto, le organizzazioni per i diritti umani stanno documentando come la sorveglianza digitale e i sistemi automatizzati vengano utilizzati per monitorare, valutare e talvolta escludere le persone più vulnerabili. L’intelligenza artificiale sta plasmando in modo crescente la maniera in cui i Paesi gestiscono la migrazione, la sicurezza e i servizi pubblici. È in grado di elaborare enormi quantità di dati in pochi secondi e viene spesso elogiata per rendere i sistemi più “efficienti” o “intelligenti”.
Ma efficienti per chi? E a quale costo? Su scala globale, governi e aziende hanno fretta di adottare l’IA, descrivendola come la chiave del progresso, della competitività e della sicurezza nazionale. In questa gara verso l’innovazione, i diritti umani quali la privacy, la dignità, l’uguaglianza, rischiano di passare in secondo piano. I programmi di sorveglianza digitale su larga scala sfruttati ai confini europei si stanno espandendo rapidamente, spesso senza adeguate garanzie o trasparenza. Di fatto, l’uso di analisi predittive e decisioni automatizzate nei processi di asilo e migrazione può influire ulteriormente sula discriminazione e ridurre la responsabilità di coloro che usano questi mezzi. Inoltre, la gestione della migrazione basata sui dati può minare il diritto alla privacy e il principio di proporzionalità sancito dal diritto dell’Unione Europea.
La corsa verso la supremazia dell’IA: i rischi che corrono i diritti umani legati all’innovazione.
“Leadership nell’IA”; “Sovranità digitale”; “La corsa all’innovazione”.
Questi termini compaiono ormai in quasi tutte le strategie governative e nei titoli dei giornali di tecnologia. Su scala mondiale, i Paesi competono tra di loro per diventare leader globali dell’intelligenza artificiale, vista come il motore della crescita economica, della sicurezza nazionale e della modernizzazione.
Il Piano Coordinato sull’Intelligenza Artificiale dell’Unione Europea chiede di “rafforzare gli ecosistemi dell’innovazione” per mantenere l’Europa competitiva nel mercato globale dell’IA. Negli Stati Uniti, il National AI Initiative Act pone l’IA al centro della sicurezza nazionale e dell’influenza globale. Il Piano per la Nuova Generazione di Intelligenza Artificiale della Cina va addirittura oltre, descrivendo la supremazia nell’IA come la chiave dell’ascesa del Paese a “potenza globale”.
Ma mentre governi e aziende inseguono l’innovazione, le garanzie sui diritti umani spesso faticano a tenere il passo. La rapida diffusione dei sistemi di IA nei settori di controlli alle frontiere, polizia e assistenza sociale ha superato qualsiasi forma significativa di supervisione o revisione etica. In pratica, questo significa che le tecnologie vengono spesso utilizzate prima che il loro impatto su privacy, uguaglianza o responsabilità siano compresi a fondo.
Questa priorità data alla velocità dell’innovazione non è solo una questione politica, ma in realtà riflette una mentalità culturale ancora più profonda. Quando la rapidità e la crescita definiscono il progresso, i diritti umani rischiano di essere percepiti come ostacoli. I leader fanno appello ad uno sviluppo tecnologico più rapido, mentre le aziende sostengono che troppe regole rallentano l’avanzamento. Il risultato è un’idea sempre più consolidata secondo cui la protezione delle persone e lo sviluppo tecnologico non possono coesistere. Eppure, la storia ci racconta un’altra versione. La regolamentazione basata sui diritti, dalle leggi sulla protezione dei dati come il Regolamento Generale sulla Protezione dei Dati (GDPR) fino al Regolamento Europeo sull’Intelligenza Artificiale (2024), non ha fermato l’innovazione: l’ha resa più affidabile. Come sostiene il Garante Europeo della Protezione dei Dati, le salvaguardie etiche sono ciò che permette alle società di beneficiare della tecnologia senza sacrificare i principi di dignità e giustizia.
Tecnologia alla frontiera: l’impatto umano dell’IA nella migrazione
Negli ultimi anni, l’intelligenza artificiale è passata dai laboratori tecnologici al cuore dei sistemi di gestione delle migrazioni e delle frontiere. I governi utilizzano oggi strumenti digitali non solo per monitorare chi attraversa i confini, ma anche per prevedere chi potrebbe provare a farlo e per automatizzare decisioni che possono determinare il futuro di una persona. Questi sistemi vengono sempre più impiegati per gestire i flussi migratori, verificare le identità e valutare i “rischi”. Nell’Unione Europea, ad esempio, le autorità di frontiera stanno adottando tecnologie basate sull’IA per potenziare la sorveglianza e i controlli. L’Agenzia europea della guardia di frontiera e costiera (Frontex) ha avviato progetti pilota che utilizzano l’IA per analizzare immagini satellitari e rilevare attraversamenti irregolari. Il sistema di ingressi/uscite dell’UE utilizza il riconoscimento facciale e la scansione delle impronte digitali per registrare automaticamente i viaggiatori non appartenenti all’UE che entrano o lasciano l’area Schengen.
Una delle preoccupazioni principali riguarda l’uso dell’IA nelle analisi predittive, ossia sistemi progettati per prevedere trend migratori, identificare potenziali “gruppi a rischio” o valutare la probabilità che una persona ottenga asilo. Questi sistemi si basano spesso su dati incompleti o distorti, con il rischio di produrre risultati ingiusti o poco accurati . Quando sono in gioco vite umane, un errore in un algoritmo non è solo un problema tecnico: è una conseguenza umana.
Queste tecnologie vengono spesso giustificate in nome dell’“efficienza”, della “sicurezza” o dell’“innovazione”. Eppure, man mano che i sistemi di migrazione diventano più automatizzati, il confine tra protezione e controllo si fa sempre più sottile. La domanda non è più se l’IA debba essere parte della gestione migratoria, ma come possa essere usata responsabilmente, senza minare il diritto internazionale e le tutele che esso ha creato.
Le decisioni degli algoritmi: Privacy, Pregiudizio ed Esclusione ai Confini
Dietro ogni telecamera, database o algoritmo usati alla frontiera, c’è una storia umana. Per molte persone migranti e richiedenti asilo, queste tecnologie non rappresentano sicurezza, ma un sistema di controllo. Oltre alla discriminazione, la privacy è una delle preoccupazioni centrali. L’Agenzia dell’Unione Europea per i Diritti Fondamentali (FRA) avverte che la raccolta su larga scala di dati biometrici quali impronte digitali, scansioni facciali, immagini dell’iride, crea tracce digitali a lungo termine che potrebbero essere impossibili da eliminare. Quando questi dati vengono condivisi tra agenzie o attraverso i confini, le persone migranti spesso non hanno alcun modo di sapere chi li possiede o come vengano utilizzati. Questa sorveglianza costante può generare ciò che gli esperti chiamano effetto di dissuasione: le persone potrebbero autocensurarsi, evitando le autorità o esitando nella richiesta di aiuto per paura di essere rintracciate o profilate.Per chi fugge da persecuzioni, questa paura può essere devastante. Ciò che preoccupa ancor di più è che questi danni raramente vengono affrontati nei dibattiti politici. L’attenzione rimane spesso concentrata sulla promessa di frontiere “intelligenti” e soluzioni digitali, mentre le testimonianze di coloro che ne subiscono gli effetti vengono escluse dalla progettazione. Quando i sistemi di IA vengono sviluppati senza coinvolgere le comunità che influenzano, rischiano di aumentare l’esclusione invece di fornire protezione.
Prospettive umano-centriche e umanitarie
Le organizzazioni umanitarie premono affinché l’intelligenza artificiale si sviluppi all’interno di un quadro incentrato sui principi di umanità, imparzialità, neutralità e indipendenza. L’integrazione pratica dell’IA nella risposta alle crisi, come nella protezione dei rifugiati o negli interventi contro la violenza di genere, deve sempre valutare i rischi per le popolazioni coinvolte, garantire trasparenza e rispettare la dignità umana.
- L’IA offre strumenti potenti per il monitoraggio degli Obiettivi di Sviluppo Sostenibile (SDG) e dei diritti umani, rendendo possibile un processo decisionale basato sui dati su scala senza precedenti. Tuttavia, la sua implementazione etica e la presenza di solide garanzie restano imprescindibili per evitare repressione, discriminazione o l’esclusione dei gruppi vulnerabili.
- Il Comitato Internazionale della Croce Rossa e altri attori umanitari sostengono una governance sensibile al contesto, evitando soluzioni tecniche “uguali per tutti” e ponendo al centro il principio del “non nuocere”.
Considerazioni Finali
Mentre l’intelligenza artificiale continua a ridefinire il modo in cui le nostre società gestiscono migrazione e sicurezza, ci troviamo di fronte ad un crocevia decisivo. La tecnologia possiede un immenso potenziale per migliorare le vite delle persone, ma solo se guidata dai principi che tutelano la nostra comune umanità. L’innovazione non deve esacerbare le disuguaglianze né privare della dignità; deve essere uno strumento di compassione, equità e inclusione.
Noi di MOAS crediamo che ogni avanzamento tecnologico debba fondarsi sul rispetto dei diritti umani, garantendo che il progresso non avvenga mai a scapito delle persone. In un’epoca in cui le macchine prendono sempre più decisioni sulle vite umane, la nostra responsabilità è chiara: fare in modo che l’umanità resti al centro dell’innovazione.
Il tuo sostegno può fare la differenza. Ti invitiamo a prendere in considerazione la possibilità di fare una donazione per aiutarci a portare avanti la nostra missione e salvare vite umane. Visita il sito www.moas.eu/donate per contribuire. Per ulteriori aggiornamenti sul nostro lavoro, seguici sui social media, iscriviti alla nostra newsletter o contattaci all’indirizzo [email protected] .
Disclaimer: “Funded by the European Union. Views and opinions expressed are however those of the author(s) only and do not necessarily reflect those of the European Union or the European Education and Culture Executive Agency (EACEA). Neither the European Union nor EACEA can be held responsible for them.”