Data Protection · IA & GDPR
Anche un solo dato finito per sbaglio in pasto all'AI è un data breach?
Quando si sente parlare di data breach, il pensiero corre subito ai grandi attacchi che sottraggono milioni di password. Ma nel contesto del GDPR la realtà è più sottile. Cosa succede se un dipendente, un intermediario o uno sviluppatore incolla per errore il nome e l'email di un singolo cliente dentro un chatbot come ChatGPT, o dentro uno strumento di sviluppo come Claude Code? È un data breach? E cambia qualcosa se abbiamo disattivato l'addestramento sui dati? Facciamo chiarezza.
Il mito del "numero minimo": basta un solo dato
La risposta del GDPR è netta su un punto: non esiste una soglia minima di utenti coinvolti. Ai sensi dell'art. 4, n. 12, del Regolamento, una "violazione dei dati personali" è qualunque violazione di sicurezza che comporta, anche accidentalmente, l'accesso, la modifica o la comunicazione non autorizzata di dati personali — quindi anche i dati di una sola persona possono bastare. Attenzione, però: non ogni uso di un'IA è automaticamente una violazione. Un servizio aziendale regolarmente contrattualizzato e configurato è cosa diversa da un account personale o non approvato. È l'assenza di autorizzazione (e delle relative garanzie) a far scattare la violazione: inserire i dati di un cliente in un'IA esterna e non autorizzata si configura proprio come una comunicazione non autorizzata.
IA e data breach: il ruolo del "training"
L'entità del danno e le azioni da intraprendere dipendono in buona parte dalle impostazioni sulla privacy del profilo utilizzato (ChatGPT, Claude o la CLI Claude Code) — ma non solo: la valutazione GDPR pesa anche natura e sensibilità dei dati, destinatario, identificabilità e misure in essere. Con questa avvertenza, lo scenario si divide in due casi tipici.
Caso 1 — Profilo con training attivo (nessun opt-out)
Se i dati sono stati inseriti in un account consumer con l'opzione 'aiuta a migliorare il modello' attiva, l'IA può usare quelle informazioni per addestrare i propri algoritmi, e i log vengono conservati a lungo.
- Retention lunga. Nel caso di Anthropic, con il consenso all'addestramento i dati restano in forma de-identificata fino a 5 anni nelle pipeline di training.
- Il rischio. La probabilità è bassa, ma esiste il rischio teorico che il modello "impari" quel dato e possa riproporlo in futuro ad altri utenti.
- Registro interno. Una volta qualificato l'incidente come violazione, va annotato nel registro aziendale dei data breach: l'art. 33, par. 5, GDPR impone di documentare ogni violazione, a prescindere dall'esito e anche quando non è dovuta alcuna notifica.
- Notifica: da valutare, con due test distinti. Al Garante (entro 72 ore dalla conoscenza) quando il rischio per i diritti non è improbabile (art. 33); agli interessati solo se il rischio è elevato (art. 34). I dati particolari alzano il rischio, ma non rendono automatiche entrambe le comunicazioni.
- Mitigazione (non garanzia). Cancellare subito la chat e richiedere la rimozione tramite il modulo di OpenAI o Anthropic riduce l'esposizione, ma la cancellazione dall'interfaccia non implica l'eliminazione immediata da log, backup o dataset già de-identificati.
Caso 2 — Profilo con training disattivato (opt-out) o API commerciale
Se hai disattivato l'addestramento nel profilo, o usi le API e i prodotti commerciali, la situazione cambia radicalmente.
- Niente training — ma la retention va verificata. L'opt-out impedisce l'uso dei dati per l'addestramento, ma non equivale a una cancellazione automatica. Su Anthropic le chat eliminate sono rimosse dai sistemi entro ~30 giorni; su ChatGPT, disattivare il training non cancella le chat normali (restano in cronologia finché non le elimini): i 30 giorni valgono per le chat temporanee o dopo la cancellazione manuale. I prodotti commerciali e le API, di norma, non usano i prompt per il training e offrono — su accordo e ove idonei — opzioni di Zero Data Retention.
- "Niente training" risolve solo un aspetto. Restano comunque conservazione, sub-responsabili, controlli anti-abuso ed eventuali trasferimenti internazionali: l'assenza di training non equivale a conformità GDPR.
- Il rischio. Spesso più contenuto — il dato non alimenta modelli accessibili ad altri — ma non automaticamente trascurabile: dipende da natura e sensibilità del dato, destinatario e misure. Il rischio più immediato, in ogni caso, è la comunicazione del dato al fornitore e ai suoi sistemi, non un futuro output del modello.
- Registro interno: sempre. Una volta qualificato come violazione, l'incidente va inserito nel registro dei data breach (art. 33, par. 5) — cambia la gravità, non l'obbligo di documentazione.
- Notifica esterna: probabilmente non dovuta. Non perché l'evento "sparisce", ma perché l'art. 33 esenta dalla notifica al Garante quando è improbabile un rischio per i diritti e le libertà — condizione plausibile in questo scenario. La valutazione, però, va fatta e documentata.
La differenza tra un potenziale disastro legale e un intoppo trascurabile non sta nell'errore in sé, ma in come hai configurato — e sai dimostrare — il trattamento.
Il principio operativo
Le buone pratiche per lo sviluppo: Claude Code
Il rischio si è esteso di recente anche ai programmatori, con strumenti da terminale come Claude Code (la CLI di Anthropic). Quando lo strumento legge il codice sorgente o i database locali per aiutarti a programmare, può incappare in stringhe di dati reali dei clienti.
Attenzione al dettaglio che sfugge: se usi Claude Code su un profilo consumer (Pro o Max), lo strumento eredita le impostazioni del tuo account web. Se non hai tolto il consenso al training su Claude.ai, anche i log del terminale possono finire nell'addestramento. Via API o prodotti commerciali, invece, i prompt non vengono usati per il training.
La regola d'oro per le aziende: per lo sviluppo professionale, l'uso di account consumer è una zona grigia. Normalmente manca l'intero quadro contrattuale di un trattamento aziendale governato — a partire dal Data Processing Agreement (DPA) che l'art. 28 GDPR richiede quando il fornitore agisce come responsabile del trattamento, oltre a istruzioni documentate, controlli amministrativi e ruoli privacy definiti. La strada corretta è usare Claude Code (e in generale l'IA) tramite chiavi API/prodotti commerciali con DPA, che escludono i dati dal training e permettono, ove idonei, opzioni di Zero Data Retention.
Check-list rapida: cosa fare in caso di dato incollato in un'IA
In conclusione
L'errore umano nell'era dell'IA è dietro l'angolo, ma la tecnologia stessa offre gli strumenti per limitarne l'impatto. Configurare correttamente i profili — bloccando il training, scegliendo prodotti con DPA e retention definita — è lo scudo più efficace che un'azienda possa attivare per declassare un potenziale disastro legale a un intoppo di trenta giorni. A una condizione: che la configurazione non resti un'intenzione, ma sia scritta in policy, applicata sugli strumenti e dimostrabile in caso di verifica.
La tua azienda usa l'IA in modo dimostrabilmente conforme?
Tomato Blue affianca le imprese nel definire policy sull'uso dell'IA, scegliere strumenti con DPA e retention adeguate, e costruire il registro e le evidenze pronte per un'eventuale verifica del Garante.
Parla con noi →Fonti
Regolamento (UE) 2016/679 (GDPR), artt. 4(12), 28, 33 e 34; EDPB, Guidelines 9/2022 sulla notifica delle violazioni dei dati personali; Anthropic Privacy Center — «How long do you store my data» (privacy.claude.com): con il consenso al training i dati consumer sono conservati de-identificati fino a 5 anni, le chat eliminate rimosse entro ~30 giorni, e per l'API la retention standard è entro 30 giorni salvo accordi di Zero Data Retention; OpenAI — Data Controls / Enterprise Privacy: disattivare il training non cancella le chat normali (30 giorni per le chat temporanee o dopo la cancellazione), i prodotti Business/Enterprise/API non sono usati per il training per impostazione predefinita, ZDR ove supportata. L'articolo descrive il quadro generale; le impostazioni specifiche dei prodotti possono variare nel tempo.
Questo articolo ha finalità informative e divulgative e non costituisce parere legale né sostituisce una consulenza professionale calibrata sul caso concreto. Le posizioni espresse riflettono l'analisi di Tomato Blue RegTech.