Algoritmi in trinceea: i rischi invisibili dell’AI nella Pubblica Amministrazione, nella Sanità e nella Difesa europea

L’intelligenza artificiale ha smesso da tempo di essere una promessa confinata nei laboratori di ricerca o nei dipartimenti di computer science delle Big Tech. Negli ultimi anni, governi, amministrazioni locali, aziende ospedaliere e ministeri della Difesa in tutta Europa hanno iniziato a integrare in modo pervasivo software basati su AI per gestire flussi di dati enormi, ottimizzare le risorse e accelerare i processi decisionali.

Se da un lato la retorica dell'innovazione dipinge questa transizione come un inevitabile passo verso l'efficienza, dall'altro la realtà operativa rivela una serie di vulnerabilità sistemiche e rischi profondi. Quando a decidere (o a suggerire decisioni) sono degli algoritmi in settori nevralgici come la salute pubblica, la sicurezza nazionale o i contratti militari, la posta in gioco non è la semplice user experience, ma la tenuta dei diritti democratici e la sicurezza fisica dei cittadini.

1. Sovranità digitale e vulnerabilità geopolitica

Il primo grande nodo riguarda la provenienza e il controllo dell'infrastruttura tecnologica. Gran parte dei modelli di AI generativa, dei servizi di cloud computing avanzato e delle architetture di machine learning impiegate dalle istituzioni pubbliche europee poggia su tecnologie sviluppate da multinazionali extra-europee.

Dipendenza strategica: Affidare la gestione dei metadati della Pubblica Amministrazione o i flussi informativi sensibili a piattaforme estere espone i Paesi membri a potenziali leve di pressione geopolitica.
Cyber-attacchi mirati e Data Poisoning: Centralizzare i processi decisionali su infrastrutture digitali interconnesse rende la PA e i sistemi della Difesa bersagli prioritari per attacchi informatici avanzati, spionaggio industriale o statale e manipolazioni algoritmiche mirate a corrompere i dataset di apprendimento.

Per un'analisi dettagliata sul perimetro normativo e sulle misure di cibersicurezza, si può consultare la Guida all'AI Act per aziende e PA di inteGroup.

2. Il settore sanitario: tra diagnostica avanzata e il dilemma della "Scatola Nera"

In ambito medico, l'AI viene impiegata per il supporto al triage, l'analisi di immagini diagnostiche (TAC, risonanze) e la medicina di precisione. Tuttavia, i margini di errore in questo settore possono rivelarsi fatali.

Il problema della Black Box: Molti modelli di Deep Learning arrivano a formulare una diagnosi o una prescrizione terapeutica complessa senza che il medico possa ricostruire con esattezza il percorso logico seguito dall'algoritmo. In caso di errore clinico, stabilire le responsabilità legali tra il medico, la struttura ospedaliera e lo sviluppatore del software diventa un rompicapo giuridico.
Bias e disuguaglianze cliniche: Se i dati storici utilizzati per addestrare l'algoritmo riflettono disuguaglianze socio-economiche o carenze di campionamento su determinate fasce di popolazione, il software tenderà a riprodurle, penalizzando i pazienti più fragili nell'accesso a trattamenti avanzati.

Per approfondire l'impatto e gli obblighi specifici legati ai dispositivi medici e al supporto decisionale clinico, si può leggere l'articolo di approfondimento di Quotidiano Sanità su AI Act e Sanità.

3. Contratti della Difesa e "Sistemi d'Arma Autonomi"

Nel comparto militare e nei contratti della Difesa (inclusi i programmi di approvvigionamento tecnologico per le forze armate), l'ingresso dell'AI tocca la sfera più delicata della sovranità e dell'etica applicata.

La compressione del tempo decisionale e l'erosione dell'Human-in-the-loop: L'integrazione di sistemi intelligenti nei centri di comando e controllo (C4ISR) rischia di accelerare la gestione dei dati tattici a ritmi che superano la capacità di reazione e discernimento umano, delegando di fatto scelte critiche a macchine prive di empatia o giudizio etico.
Il rischio di Vendor Lock-in: I contratti di fornitura stipulati con i colossi della tecnologia militare creano spesso una dipendenza strutturale a lungo termine. Gli Stati rischiano di perdere la capacità autonoma di aggiornare, manutenere o correggere il codice sorgente dei sistemi strategici.

4. L'impatto sulla Pubblica Amministrazione e il muro della trasparenza

All'interno della PA, l'automazione dei procedimenti (dalla valutazione delle pratiche alla gestione dei concorsi pubblici) sbatte contro un principio cardine del diritto amministrativo: l'obbligo di motivazione del provvedimento.

Quando un cittadino riceve un diniego o una valutazione negativa generata da un sistema di AI opaco, il diritto di difesa viene fortemente compromesso, poiché risulta quasi impossibile spiegare in modo chiaro e comprensibile perché l'algoritmo abbia preso quella decisione.

La risposta normativa: l'AI Act e il ruolo dell'Italia

Per arginare queste derive, l'Unione Europea ha introdotto l'AI Act (Regolamento UE 2024/1689), che classifica i sistemi di intelligenza artificiale in base al livello di rischio, vietando le pratiche inaccettabili e imponendo standard rigorosi (valutazioni d'impatto sui diritti fondamentali, tracciabilità e supervisione umana) per i sistemi ad alto rischio impiegati nella sanità, nella giustizia e nelle infrastrutture critiche.

In Italia, il quadro di governance vede il coinvolgimento attivo di enti come l'ACN (Agenzia per la Cybersicurezza Nazionale) e di provvedimenti mirati a disciplinare l'impiego di queste tecnologie nel tessuto amministrativo e di ricerca.

Per un quadro tecnico normativo dettagliato sulle competenze delle autorità nazionali e sugli obblighi di conformità, si può consultare l'analisi tecnica pubblicata su BibLus-net.

In conclusione, la vera sfida per le istituzioni pubbliche non è rallentare l'innovazione, ma pretendere trasparenza radicale, sovranità tecnologica e controlli indipendenti. Un algoritmo non trasparente all'interno di un ospedale o di un sistema di difesa non rappresenta un progresso: è un rischio sistemico che i cittadini e gli Stati non possono permettersi di sottovalutare.