Nel contesto della guerra in corso nella Striscia di Gaza e alla luce delle indagini e dei test in corso riguardanti il modo in cui le Idf operano nella costruzione della loro banca dati di obiettivi operativi, riportiamo tratti di un articolo del quotidiano “Haaretz”, con l’obiettivo di far luce sulla portata dell’affidamento delle Idf a sistemi avanzati di intelligenza artificiale nella gestione delle informazioni, nell’individuazione degli obiettivi e nella costruzione della loro banca dati di obiettivi, in particolare per quanto riguarda omicidi e operazioni speciali.
L’articolo rivela i dettagli del progetto “Operational Information Factory” sviluppato dalle Idf tramite l’unità “Mazpen” e i rischi operativi associati all’utilizzo di questa tecnologia sul campo di battaglia.
Raccogliendo le dichiarazioni di alti ufficiali militari, l’articolo descrive come l’intelligenza artificiale sia diventata uno strumento fondamentale nella creazione di un vasto database di obiettivi, e il suo impatto sulla natura delle operazioni militari e sulla vita dei civili nelle aree dilaniate dal conflitto.
Idf e intelligenza artificiale
Rotem Bashi, tenente colonnello delle Idf, afferma semplicemente di “non riuscire a capire come questo miracolo sia stato compiuto”. Bashi è a capo dell’unità di sviluppo software “Matzpen”, che ha sviluppato un sistema di intelligenza artificiale che lo ha stupito. “Quando confronto la qualità della risposta fornita dal sistema con le informazioni grezze ricevute, non capisco come sia riuscito a collegare tutti i dati”, afferma.
Il progetto “Operational Information Factory” è concepito per centralizzare la maggior parte delle informazioni operative del sistema di difesa in un unico posto, il che costituisce un balzo in avanti tecnologico nella capacità delle Idf di utilizzare l’intelligenza artificiale. “Negli ultimi mesi abbiamo iniziato a constatarne le potenzialità all’interno della rete chiusa delle Idf, e pertanto è realistico prevederne la messa in servizio verso la fine dell’anno”, aggiunge Bashi. Sottolinea che vengono inserite nel sistema grandi quantità di informazioni di diverso tipo e che l’intelligenza artificiale fornisce informazioni molto utili per agire in tempo reale.
Rischi connessi all’uso dell’intelligenza artificiale sul campo di battaglia
Ci si interroga sull‘affidabilità di un simile sistema quando ci si pone domande del tipo: “Chi è il comandante del battaglione di Hamas nel quartiere di Shuja’iya nella città di Gaza, quanti combattenti restano sotto il suo comando, ha una famiglia e, in caso affermativo, dove si trova?” oppure: “Quali ingressi ai tunnel ci sono sotto questo villaggio in Libano?”. Bashi sottolinea l’importanza degli aspetti etici nell’uso dell’intelligenza artificiale e la necessità di supervisione. Ha affermato che il sistema non sostituirà i comandanti sul campo, ma che è necessario fornire loro questi strumenti.
Un portavoce dell’Idf ha affermato che quando viene posta una domanda, il sistema fornisce anche la fonte delle informazioni, dando per scontato che l’utente verificherà la fonte prima di prendere una decisione.
Tuttavia, sul campo, cioè nel mezzo della battaglia, non tutti i comandanti saranno attenti a controllare le fonti. Chiunque sia consapevole delle insidie dell’intelligenza artificiale nella vita civile dovrebbe temere il suo impatto sulle questioni di vita e di morte sui campi di battaglia.
Idf ha colpito migliaia di civili
Secondo le indagini del quotidiano The Guardian e dei siti web Local Call e +972, il sistema “macchina bersaglio” delle Idf, noto come “Lavender”, include funzionalità di intelligenza artificiale per l’identificazione dei bersagli. L’intelligence israeliana ha utilizzato questo sistema per contrassegnare decine di migliaia di obiettivi da bombardare durante la guerra di Gaza, e i rapporti stimano che il sistema abbia colpito migliaia di civili innocenti.
Lo sviluppo del progetto “Operational Information Factory” è iniziato nel 2022, basandosi su database che includono segnalazioni di sparatorie e attacchi sul campo, informazioni provenienti dal sistema “Digital Ground Forces”, nonché input provenienti da droni, satelliti, telecamere di sicurezza e fonti civili.
Bashi osserva che la “fabbrica” si basa su tre tipi principali di contenuti: testi, audio e video. Aggiunge: “Quando lo collegheremo alla chat operativa, avremo un’interfaccia attraverso la quale l’utente potrà parlare con il sistema e porre domande”.
Poiché la chat è molto diffusa nelle Idf, questa funzione “cambierà le regole del gioco”, ha affermato. Alla domanda sull’integrazione della tecnologia di riconoscimento facciale nel sistema, ha risposto: “Esistono tali capacità e probabilmente anche la possibilità di riconoscere schemi e oggetti nei video”.
Un sistema basato sul principio del “need-to-know”
L’unità “Matzpen” è subordinata all’unità “Lotem”, responsabile delle Tic e della tecnologia informatica nelle Idf. L’unità è composta da centinaia di soldati e Beshai ne è il capo dalla fine dell’anno scorso. Lotem è il braccio tecnologico-operativo dell’Ict e Cyber Defense Corps (C4I).
Il progetto è stato sviluppato in collaborazione con l’unità “Mamaram”, la direzione per la trasformazione digitale dell’Idf, l’unità informatica “Maof” di Lotem e altre unità.
“Matzpen” è anche responsabile della Idf Computer Science School, della formazione di programmatori e collaudatori di software, nonché della formazione di analisti che collaboreranno con i comandanti sul campo e costituiranno il ponte verso la “fabbrica dell’informazione”.
Bashi spiega: “Un analista seduto accanto a un comandante sul campo può mettere l’impianto a sua disposizione, consentendo a persone che non sono mai state adeguatamente formate di ottenere risposte”. E aggiunge: “Questo è un processo di democratizzazione dell’informazione, che riconosce che l’intero esercito può consultare il database. Entro la fine dell’anno ne sentiremo l’impatto su larga scala”.
Integrazione di mappe e intelligenza artificiale
Uno dei sistemi che saranno sincronizzati con il nuovo sistema è MapIt, un sistema che visualizza informazioni operative su una mappa.
“Verso la fine dell’anno saremo in grado di visualizzare MapIt su un’unica schermata con tutti i livelli informativi rilevanti per la consapevolezza della situazione dell’unità”, afferma Bashey. “Il comandante potrà porre domande su tutte le informazioni operative accumulate e, nei casi in cui vi sia un collegamento con informazioni civili o pubbliche, potrà creare collegamenti tra di esse”.
Alla domanda sulle preoccupazioni relative agli effetti dell’uso dell’intelligenza artificiale sul campo, Bashay ha risposto: “Siamo molto cauti nell’implementazione iniziale. In un primo momento, utilizziamo la tecnologia per cercare informazioni e porre domande meno vincolate al tempo, e ogni utente vede solo ciò a cui è autorizzato a vedere”. Più avanti, afferma: “Utilizzeremo il sistema per supportare il processo decisionale. In definitiva, abbiamo ancora bisogno di comandanti per un giudizio etico, e non c’è sostituto per l’esperienza che hanno maturato. Stiamo attenti a non affermare che il sistema sostituirà la decisione di un comandante”.
Infine, Bashay parla della prossima generazione di intelligenza artificiale – l’Agentic AI – con la capacità di trarre conclusioni indipendenti e senza supervisione costante: “Questo è un ambito di cui stiamo iniziando a esaminare l’integrazione. Dovremo esaminarlo in termini di etica e accuratezza”.
di Redazione
