Intelligenza Artificiale in azienda: chi è responsabile quando l’AI sbaglia?

L’Intelligenza Artificiale sta entrando rapidamente nei processi aziendali: viene utilizzata per scrivere documenti, analizzare dati, gestire clienti, selezionare informazioni, produrre contenuti, supportare decisioni e automatizzare attività.

Ma c’è una questione che molte imprese stanno ancora sottovalutando: chi risponde dell’utilizzo dell’AI da parte del personale?

La risposta non può essere semplicemente: “ha sbagliato il dipendente”.

L’AI non elimina la responsabilità umana

Un sistema di Intelligenza Artificiale è uno strumento. Il fatto che un contenuto, un’analisi o una decisione siano stati prodotti con il supporto dell’AI non elimina le responsabilità delle persone e dell’organizzazione che la utilizzano.

Un dipendente potrebbe, ad esempio:

• inserire in un sistema AI dati personali, informazioni riservate o documenti aziendali;

• utilizzare strumenti non autorizzati dall’impresa;

• affidarsi a una risposta dell’AI senza verificarne l’attendibilità;

• generare comunicazioni contenenti informazioni errate;

• utilizzare contenuti protetti da diritti di terzi;

• prendere decisioni sulla base di output discriminatori o non adeguatamente verificati.

Il problema, quindi, non riguarda soltanto cosa fa il singolo lavoratore, ma anche come l’impresa ha organizzato e regolamentato l’utilizzo dell’Intelligenza Artificiale.

Dal dipendente al titolare: il rischio organizzativo

Quando l’AI viene utilizzata nell’attività lavorativa, l’impresa deve interrogarsi sulle proprie responsabilità organizzative.

Il titolare o gli organi amministrativi non possono necessariamente considerarsi estranei a un utilizzo scorretto dell’AI semplicemente perché l’operazione materiale è stata compiuta da un dipendente.

Diventano centrali alcune domande:

L’azienda aveva stabilito quali strumenti AI potevano essere utilizzati?

Il personale aveva ricevuto indicazioni e formazione adeguate?

Esistevano procedure per evitare l’inserimento di dati riservati nei sistemi AI?

Era prevista una verifica umana degli output prima del loro utilizzo?

Erano stati individuati i rischi privacy, informatici e organizzativi?

È qui che l’Intelligenza Artificiale smette di essere soltanto una questione tecnologica e diventa un tema di governance aziendale.

La formazione del personale diventa essenziale

Il Regolamento europeo sull’Intelligenza Artificiale – AI Act, Regolamento (UE) 2024/1689 – ha introdotto anche il principio dell’AI literacy.

L’articolo 4 richiede infatti a provider e deployer di adottare misure affinché il personale e gli altri soggetti che utilizzano sistemi AI per loro conto dispongano di un livello sufficiente di alfabetizzazione in materia di Intelligenza Artificiale, tenendo conto delle conoscenze tecniche, dell’esperienza, della formazione e del contesto nel quale i sistemi vengono utilizzati.

Non basta quindi acquistare una licenza di un software AI e consentire ai dipendenti di utilizzarlo.

Occorre costruire consapevolezza organizzativa.

Privacy e dati aziendali: uno dei rischi principali

Un altro punto particolarmente delicato riguarda i dati.

Un dipendente potrebbe copiare all’interno di un sistema di AI generativa una mail di un cliente, un contratto, dati relativi ai dipendenti, informazioni commerciali, documentazione tecnica o altri contenuti riservati.

Un gesto apparentemente semplice può generare problematiche relative alla protezione dei dati personali, alla riservatezza aziendale, alla sicurezza delle informazioni e agli obblighi contrattuali.

Per questo l’utilizzo dell’AI dovrebbe essere coordinato anche con il sistema privacy e cybersecurity dell’impresa.

Serve una AI Policy aziendale

Una delle prime misure organizzative consiste nella predisposizione di una AI Policy interna, costruita sulle caratteristiche effettive dell’azienda.

La policy dovrebbe stabilire almeno quali strumenti possono essere utilizzati, quali informazioni non devono essere inserite, per quali attività è consentito l’utilizzo dell’AI, quando è obbligatorio il controllo umano e quali procedure seguire in presenza di anomalie o incidenti.

Ma una policy scaricata da Internet e inviata per e-mail ai dipendenti difficilmente rappresenta una governance efficace.

Occorre collegare regole, formazione, responsabilità, controlli e procedure.

Dal rischio individuale alla responsabilità dell’organizzazione

Il vero cambiamento introdotto dall’AI nelle imprese è proprio questo.

Non bisogna chiedersi soltanto:

“Il dipendente può utilizzare ChatGPT o un altro sistema AI?”

La domanda corretta è:

“Come deve essere organizzato l’utilizzo dell’Intelligenza Artificiale affinché l’impresa possa dimostrare di averne governato correttamente i rischi?”

L’AI Governance diventa quindi parte della moderna organizzazione aziendale.

Significa individuare gli strumenti utilizzati, classificare i rischi, definire responsabilità interne, formare il personale, proteggere dati e informazioni, documentare le procedure e mantenere un adeguato livello di supervisione umana.

L’AI va governata, non semplicemente utilizzata

L’Intelligenza Artificiale può aumentare produttività e capacità competitiva delle aziende. Ma più aumenta il suo utilizzo, maggiore diventa la necessità di stabilire chi può utilizzarla, per fare cosa e secondo quali regole.

La responsabilità non nasce soltanto dall’errore commesso con l’AI.

Può diventare rilevante anche come l’organizzazione ha prevenuto, regolamentato e controllato quell’errore.

Per questo la vera sfida dei prossimi anni non sarà semplicemente introdurre l’Intelligenza Artificiale nelle aziende.

Sarà costruire organizzazioni capaci di utilizzarla in modo responsabile, documentato e consapevole.