Oltre CIA: perché l'intelligenza artificiale richiede un nuovo linguaggio del rischio
Per decenni la sicurezza delle informazioni ha avuto tre parole d'ordine: Confidentiality, Integrity, Availability. La triade CIA. Non era un'astrazione accademica: era il modo più semplice e robusto per descrivere cosa protegge un sistema informativo, e perché. Con l'intelligenza artificiale, quella triade non scompare — ma non basta più.
La triade che ha retto tutto
L'idea è elegante: ogni dato o sistema ha un valore. Quel valore può essere compromesso in tre modi — accedendovi senza autorizzazione (riservatezza), alterandolo (integrità) o rendendolo inaccessibile (disponibilità). Tre assi, tre tipi di controllo, tre famiglie di misure. ISO/IEC 27001 ha costruito su questa struttura un sistema di gestione completo, adottato da migliaia di organizzazioni nel mondo.
CIA funziona perché i sistemi che descriveva erano, fondamentalmente, contenitori: banche dati, server, reti. Entità che conservano e trasmettono informazioni. Il rischio era — ed è — che qualcuno le manometta, le sottragga o le blocchi.
Cosa succede quando l'informazione ragiona
I sistemi AI non sono contenitori. Sono interpreti. Ricevono dati, li pesano, li correlano, producono output — e quell'output ha conseguenze. Un sistema di selezione del personale non si limita a conservare i curriculum: li valuta. Un sistema di scoring del credito non trasmette dati: prende decisioni.
Qui CIA comincia a scricchiolare. Se un modello di machine learning produce sistematicamente punteggi più bassi per candidati di un certo gruppo demografico, qual è la violazione? Non di riservatezza. Non di integrità nel senso classico — i dati non sono stati alterati. Non di disponibilità. Eppure qualcosa va molto storto.
CIA non ha parole per bias. Non ha parole per "la decisione non è spiegabile". Non ha parole per "l'output amplifica una disuguaglianza preesistente". Non è una lacuna di ISO 27001: è semplicemente fuori dal suo perimetro. CIA descrive rischi relativi alle informazioni. I sistemi AI introducono rischi relativi alle decisioni e ai loro effetti.
Il nuovo vocabolario: ISO 42001 Annex A
ISO/IEC 42001:2023 è il primo standard internazionale specificamente dedicato alla gestione dei sistemi AI. Strutturalmente assomiglia a ISO 27001 — un sistema di gestione con obiettivi, controlli, Annex A. Ma i contenuti sono diversi.
L'Annex A organizza 38 controlli in 9 domini. Molti presidiano rischi che CIA conosce bene: governance, documentazione, supply chain. Ma alcuni introducono concetti che CIA non ha mai nominato.
| Controllo | Dominio | Concetto introdotto |
|---|---|---|
| A.5.4–A.5.5 | Impact Assessment | Impatto su individui e gruppi; effetti sociali |
| A.6.1.2 | Life Cycle — Design | Obiettivi di sviluppo responsabile: fairness, trasparenza, robustezza, privacy, safety |
| A.6.2.3 | Life Cycle — Development | Tracciabilità delle decisioni di design |
| A.7.5 | Data Management | Provenance dei dati: cosa è successo al dataset nel tempo |
| A.8.2 | Interested Parties | Disclosure agli utenti: limiti e modalità di fallimento noti |
| A.9.2 | Responsible Use | Aspettative di supervisione umana esplicite |
Non è una lista di buone intenzioni: sono requisiti di sistema. Un'organizzazione certificata ISO 42001 deve documentare come ha valutato l'impatto sociale del proprio sistema AI, come garantisce l'oversight umano, come comunica i limiti agli utenti. Materia per i CISO, i DPO e i risk manager — non solo per i data scientist.
Due standard, uno accanto all'altro
ISO 27001 e ISO 42001 non si sovrappongono: si completano.
ISO 27001presidia la CIA: garantisce che le informazioni siano riservate, integre e disponibili. È il framework giusto per la sicurezza dell'infrastruttura, la gestione degli accessi, la continuità operativa.
ISO 42001 aggiunge la dimensione AI: fairness, trasparenza, impatto, oversight. È il framework per governare ciò che i sistemi AI fanno — non solo come sono costruiti, ma che effetti producono.
Chi gestisce sistemi AI senza ISO 42001 ha metà del quadro. Chi ha ISO 42001 senza ISO 27001 ha l'altra metà. Le organizzazioni più esposte sono quelle che usano AI per prendere decisioni che riguardano persone — in ambito HR, credito, healthcare, compliance — e non hanno ancora strutturato la governance AI.
Cosa significa in pratica
Per chi ha già ISO 27001, ISO 42001 richiede processi genuinamente nuovi. Non è un aggiornamento alla checklist esistente.
L'impact assessment(A.5) richiede di analizzare sistematicamente gli effetti del sistema AI su individui e gruppi — prima del deployment e durante il ciclo di vita. Non è una valutazione di sicurezza: è più vicina a una valutazione d'impatto sui diritti, simile alla DPIA del GDPR.
Il responsible use(A.9) richiede di formalizzare chi supervisiona il sistema AI, con quale frequenza, con quali poteri di intervento. L'oversight umano non è un'opzione: è un requisito dichiarato.
La disclosure agli utenti(A.8.2) richiede di comunicare i limiti noti del sistema — i failure mode che l'organizzazione ha identificato. Trasparenza come obbligo di sistema, non come scelta di comunicazione.
Sono processi che non esistono nei framework di sicurezza classici. Costruirli richiede un'analisi del gap rispetto allo stato attuale dell'organizzazione — e questa è esattamente la prima conversazione da fare.
Fonti
La tua AI governance va oltre la CIA triad?
Tomato aiuta le PMI a costruire la governance AI che ISO 42001 richiede — impact assessment, human oversight, disclosure — integrando ciò che ISO 27001 già presidia.
Parla con noi →