Proteggere l'IA che protegge: il governo dei dati nelle infrastrutture del trasporto

intervista ad Amir Topalovic, CEO di AISMA

Quale ruolo può avere l'IA nei processi di porti e aeroporti, compresi quelli di security?

Un ruolo crescente, che però di solito si racconta dal lato sbagliato. Si parla molto di quello che l'IA sa fare: leggere i flussi video, riassumere le procedure, assistere un operatore, prevedere un guasto. È tutto vero, e in un porto o in un aeroporto le occasioni non mancano: la logistica, la manutenzione, la gestione dei passeggeri, il coordinamento tra enti, il supporto alle control room. Un assistente che in pochi secondi ritrova la procedura giusta tra migliaia di pagine, o un sistema che segnala un'anomalia prima che diventi un fermo operativo, danno un beneficio concreto e misurabile.
Si parla molto meno della domanda che, per un'infrastruttura critica, viene prima di tutte le altre. Quali dati sta usando quell'IA? Chi l'ha autorizzata? Che cosa produce, e dove finisce ciò che produce? Il mondo marittimo lo conosciamo da vicino: siamo soci di ONTM e abbiamo lavorato al progetto di ricerca SEASMA sul monitoraggio marino e costiero. Quello che abbiamo imparato è che il valore dell'IA dipende poco dal modello scelto e molto dal modo in cui la si governa.

Si parla sempre più spesso di minacce combinate e multidominio. L'IA aiuta a rispondere, ma non rischia di diventare essa stessa un nuovo punto debole?

Sì, ed è l'aspetto che più spesso si sottovaluta. Ogni applicazione di IA introdotta in un'organizzazione apre un nuovo accesso ai dati: documenti riservati, piani operativi, informazioni su persone e impianti. E ogni applicazione genera a sua volta dati nuovi, come risposte, report e decisioni suggerite, che vanno protetti quanto quelli di partenza.
Le minacce più insidiose, oggi, l'IA la usano dall'interno. Pensiamo a istruzioni nascoste in un documento che alterano il comportamento di un assistente, a dati caricati in un servizio esterno senza alcun controllo, ad applicazioni adottate da un singolo reparto al di fuori di ogni regola. In uno scenario multidominio, quindi, oltre alla rete e al perimetro fisico va protetto anche il flusso di conoscenza che attraversa i sistemi di IA. In pratica significa stabilire prima che cosa ciascuna applicazione può leggere, che cosa può fare e a chi può restituire i risultati. E poter verificare in qualsiasi momento che queste regole siano state rispettate.

Esistono realmente dei rischi che l'IA possa sfuggire al controllo degli umani?

I rischi ci sono, ma quasi mai assomigliano agli scenari dei film. Nelle organizzazioni il controllo si perde in modo molto più silenzioso. Le applicazioni si moltiplicano senza che nessuno le censisca, ciascuna con il suo fornitore e le sue regole. Non si sa con precisione quali dati abbiano letto, né come si sia arrivati a una certa risposta. Risposte plausibili, ma senza fondamento, vengono usate come se fossero verificate. I costi di utilizzo crescono senza che nessuno li veda. E dati e processi finiscono per dipendere da un'unica tecnologia, al punto che cambiarla vuol dire ricominciare da capo.
In nessuno di questi casi è l'IA a prendersi il controllo. È chi la adotta senza un'architettura di governo a cederlo, spesso senza accorgersene. Per un'infrastruttura critica è un rischio inaccettabile.

Che cosa si può fare per evitare che accada il peggio?

Serve un punto unico di governo tra i dati, i modelli e le persone che li usano. È il motivo per cui abbiamo costruito Cogniss come un Cognitive Control Plane: lo strato su cui tutte le applicazioni di IA funzionano secondo regole comuni, progettato fin dall'origine per la conformità.
Il funzionamento si può riassumere così. Policy, limiti operativi e permessi di accesso vengono applicati a ogni passaggio, e ogni persona o applicazione vede soltanto ciò che è autorizzata a vedere. La conoscenza aziendale è organizzata in ontologie che descrivono asset, ruoli, procedure e relazioni. Quando una fonte manca, il sistema lo dichiara invece di colmare il vuoto con un'ipotesi. Ogni elaborazione è registrata in un audit trail immutabile, così ogni risposta resta riconducibile alla sua fonte e ogni decisione si può ricostruire.
Anche i costi diventano governabili. Cogniss rende visibile e controllabile il costo di ogni esecuzione, per applicazione e per utente, e la spesa per l'IA diventa una voce di bilancio sotto controllo invece di una sorpresa a fine anno. Il modello di linguaggio si può sostituire senza riprogettare il sistema, e la conoscenza resta all'organizzazione, anche in installazioni on-premises o in ambienti isolati dalla rete.
C'è poi un aspetto che per chi gestisce infrastrutture critiche conta molto. Cogniss mette a disposizione un'area sicura, quella dei moduli personalizzati, in cui sviluppare nuove applicazioni che nascono già governate, perché ereditano le stesse regole, invece di essere messe in regola dopo. L'obiettivo è dare all'innovazione confini sicuri, senza frenarla.
È anche la direzione indicata dall'Unione europea. La strategia europea sull'intelligenza artificiale punta su un'IA affidabile e centrata sulla persona, e l'AI Act ne fa un obbligo per i sistemi ad alto rischio, mettendo supervisione umana e tracciabilità al centro del loro funzionamento.

Dalla security alla resilienza: come può un gestore portuale o aeroportuale avviare questo percorso?

Partendo dalle regole, non dalla tecnologia, e da una mappa onesta di dove l'IA è già entrata, spesso in modo informale. Il nostro approccio segue un ordine preciso. Prima le regole: la compliance definisce processi e modalità di adozione. Poi l'infrastruttura di controllo: Cogniss rende quelle regole applicabili nei sistemi. Infine, dove serve, la finanza agevolata, che facilita l'adozione riducendo il costo dell'investimento attraverso le misure regionali, nazionali ed europee disponibili.
In concreto si parte da un assessment di processi e dati, si sviluppa un progetto pilota su un perimetro controllato e misurabile e si passa alla produzione solo dopo averne verificato il valore in condizioni reali. Accanto alla tecnologia serve la formazione: un'organizzazione governa l'IA quando le sue persone sanno leggerne i risultati e riconoscerne i limiti.
Per noi la resilienza è questa: adottare l'IA senza perdere il controllo dei propri dati, dei propri costi e delle proprie scelte tecnologiche.

Contatti:
AISMA Srl
info@aisma.it - www.aisma.it