Un nuovo studio introduce un indice matematico capace di individuare i punti più vulnerabili dei sistemi digitali complessi. Dalla sanità all’aviazione, l’obiettivo è prevenire errori silenziosi dell’intelligenza artificiale prima che diventino sistemici.

Capire dove l’IA può sbagliare

Un errore generato da un sistema di intelligenza artificiale in ambito sanitario non sempre produce conseguenze immediate ma può, invece, insinuarsi nei dati clinici, propagarsi nel tempo e attraversare reti digitali complesse senza essere rilevato.

È questo uno dei principali rischi messi in evidenza da un nuovo studio italiano pubblicato sulla rivista scientifica internazionale IEEE Access, che introduce il Propagation Risk Index (PRI), un indice matematico progettato per individuare i punti più vulnerabili dei sistemi informativi complessi.

Lo studio pubblicato su IEEE Access

La ricerca, firmata da Marco Giacalone, docente dell’Università LUMSA di Palermo, propone un approccio innovativo alla sicurezza dei sistemi sanitari digitali. Il PRI consente di analizzare il modo in cui gli errori si diffondono all’interno di una rete, superando la logica tradizionale che punta a rafforzare indistintamente tutte le componenti tecnologiche.

Il modello matematico è stato validato non solo in ambito sanitario, ma anche nel settore dei trasporti aerei, attraverso l’analisi di sei reti aeronautiche europee colpite da interferenze GPS nel biennio 2024-2025. Un passaggio che dimostra la trasversalità del metodo e la sua applicabilità alle infrastrutture critiche.

Quando il rischio si concentra in pochi nodi

I risultati emersi dallo studio sono netti e mettono in discussione alcune convinzioni consolidate sulla gestione della sicurezza digitale. Come spiega Giacalone: “Circa il 10% dei punti di un sistema concentra fino al 90% del rischio complessivo. Non si tratta necessariamente dei server tecnologicamente più avanzati, ma di quelli che rappresentano snodi centrali nel flusso delle informazioni cliniche. Intervenire in modo mirato su questi ‘punti critici’ permette di ridurre il rischio globale fino al 65%, garantendo un uso più efficiente delle risorse sanitarie”.

L’analisi mostra come la vulnerabilità non dipenda solo dal livello tecnologico di una componente, ma dalla sua posizione strategica all’interno della rete informativa.

La propagazione invisibile degli errori nei sistemi sanitari

Lo studio si è concentrato su una rete sanitaria digitale complessa, evidenziando come un errore generato dall’IA possa attraversare reparti, strutture e database interconnessi senza essere immediatamente individuato. Il Propagation Risk Index descrive un meccanismo generale di propagazione del rischio, valido non solo per l’IA, ma per qualsiasi sistema informativo distribuito in ambito medico.

Questo aspetto è cruciale in un contesto in cui la digitalizzazione della sanità accelera e i sistemi diventano sempre più interdipendenti.

Un cambio di paradigma

“Quando un sistema di Intelligenza Artificiale sbaglia, l’errore non fa rumore immediato, ma entra nei dati e circola”, sottolinea Giacalone. “Con il Propagation Risk Index abbiamo dimostrato che il rischio non cresce in modo proporzionale, ma si annida dove nessuno guarda. Individuare in anticipo dove un errore può diventare sistemico cambia il paradigma della sicurezza nelle infrastrutture sanitarie, proteggendo il percorso del paziente in modo più efficace”.

Il PRI apre così la strada a una gestione più mirata, preventiva ed efficiente della sicurezza digitale, con potenziali ricadute concrete sulla qualità delle cure e sull’affidabilità dei sistemi sanitari. Lo studio è disponibile integralmente sulla piattaforma IEEE Xplore.