Fiducia eccessiva nell'IA militare: il rischio di decisioni errate

L'uso dell'intelligenza artificiale (IA) nei sistemi di targeting militari sta crescendo, offrendo la capacità di elaborare informazioni a velocità inaccessibili per gli esseri umani. Questa tecnologia, già impiegata in conflitti recenti, supporta le decisioni militari nell'identificazione e nella prioritizzazione degli obiettivi. Nonostante il potenziale, emerge il rischio di una fiducia eccessiva nell'IA, che potrebbe compromettere il giudizio umano.

Il ciclo di targeting congiunto (JTC), una metodologia a sei fasi per tradurre gli obiettivi militari in azioni, si basa su un'analisi e un giudizio umani in ogni fase. Tuttavia, l'integrazione dell'IA tende a focalizzarsi solo sulla fase finale dell'ingaggio, trascurando il suo impatto sulle fasi precedenti come lo sviluppo e la prioritizzazione degli obiettivi. Questo porta a un'illusione di controllo umano significativo, poiché l'IA media le raccomandazioni ben prima che raggiungano i decisori.

La mediazione algoritmica, definita come il processo in cui gli algoritmi influenzano le informazioni che gli utenti ricevono, può portare a una "incertezza cognitiva composta". Questo fenomeno si verifica quando supposizioni umane incerte e output analitici mediati dall'IA si accumulano nel JTC, rendendo difficile distinguere la conoscenza validata da quella che non lo è. L'IA, invece di ridurre l'incertezza, può amplificarla, presentando raccomandazioni che appaiono solide ma che potrebbero basarsi su fondamenta analitiche errate.