Quando una macchina scrive in modo fluido, risponde in pochi secondi e usa un linguaggio sicuro, il cervello umano tende ad attribuirle più competenza di quella che possiede davvero. È una reazione comprensibile. Nella comunicazione quotidiana associamo chiarezza, sicurezza e velocità a conoscenza e affidabilità. Con i sistemi di intelligenza artificiale generativa questo meccanismo si amplifica, perché l’interfaccia è conversazionale, il tono è naturale e la risposta arriva già confezionata in una forma ordinata, leggibile e spesso convincente. Per questo motivo oggi il punto più rilevante riguarda il modo in cui la percepiamo e il peso che le attribuiamo nelle nostre decisioni.
L’Unione Europea considera questa consapevolezza una questione concreta, tanto da aver inserito nell’AI Act un obbligo specifico di alfabetizzazione sull’AI. Il riferimento è all’articolo 4 del Regolamento UE 2024/1689, in vigore dal 2 febbraio 2025. Impone a fornitori e utilizzatori di sistemi di intelligenza artificiale, di adottare misure per garantire un livello sufficiente di competenze tra il proprio personale e chiunque operi con questi strumenti per loro conto. La stessa norma, all’articolo 3, comma 56, definisce l’AI literacy come l’insieme delle competenze, delle conoscenze e della comprensione che consentono di usare i sistemi di AI in modo informato, riconoscendone opportunità, rischi e possibili danni. Serve la capacità di interpretarla correttamente, di leggerne i limiti e di mantenere la supervisione umana sulle risposte e sugli impieghi pratici.
Il rischio più comune è che molti utenti trattano ChatGPT, Gemini o altri servizi analoghi come una fonte competente in sé. In realtà stanno usando un prodotto software costruito sopra modelli generativi, istruzioni di sistema, filtri, memoria di contesto, infrastrutture cloud e regole operative definite dal fornitore. Questo conta perché una risposta ben scritta può dare l’impressione di padronanza anche quando il contenuto è fragile, incompleto o scorretto. Il tono può essere persuasivo e la forma può sembrare impeccabile ma la sostanza richiede comunque verifica umana competente.
Il NIST, che negli Stati Uniti rappresenta uno dei riferimenti principali per la gestione dei rischi dell’AI, nel documento NIST AI 600-1 — Generative AI Profile pubblicato nel luglio 2024, classifica le confabulazioni come uno dei dodici rischi specifici dei sistemi generativi. In termini tecnici, questi modelli generano output che approssimano la distribuzione statistica dei dati su cui sono stati addestrati e del contesto ricevuto. I modelli linguistici di grandi dimensioni, in pratica, predicono la sequenza di parole statisticamente più probabile ma non quella necessariamente vera. Questo meccanismo produce contenuti utili e corretti in molti casi ma può produrre anche affermazioni plausibili e false, presentate con la stessa sicurezza di quelle esatte. Il NIST usa il termine “confabulation”, che nel linguaggio corrente coincide con quello di “hallucination”, cioè la generazione di contenuto confidentemente affermato ma errato. La lezione pratica è che la scorrevolezza della risposta non coincide con la sua veridicità.
Qui si colloca il nodo culturale centrale. Un sistema di AI generativa non va letto come un esperto che parla ma solo come un sistema che produce linguaggio in modo molto efficace. Questa differenza cambia il modo in cui lo si usa per informarsi e in cui lo si inserisce nei processi aziendali. Il modo in cui lo si porta nelle scuole, negli uffici, nella scrittura tecnica o nel lavoro quotidiano. Quando una persona lo usa come supporto per ragionare, riordinare idee, sintetizzare testi o esplorare scenari alternativi, il valore può essere alto. Quando invece trasferisce al sistema un’autorità implicita, il rischio cresce rapidamente e in modo difficile da percepire.
Anche il tema della privacy rientra in questa stessa area di consapevolezza. Il Garante per la protezione dei dati personali italiano, nell’istruttoria avviata nel marzo 2023 su ChatGPT e conclusa con un provvedimento sanzionatorio nel novembre 2024, ha accertato che OpenAI aveva trattato dati personali degli utenti per addestrare il modello, senza un’adeguata base giuridica. Aveva violato il principio di trasparenza e non aveva predisposto meccanismi per la verifica dell’età degli utenti.
Il Garante ha comminato a OpenAI una sanzione e ha ordinato una campagna di informazione pubblica della durata di sei mesi su radio, televisione, giornali e internet, con l’obiettivo di sensibilizzare utenti e non utenti, sul trattamento dei propri dati e sui diritti esercitabili. Questo passaggio mostra che il problema riguarda anche la comprensione dell’oggetto che stiamo usando. Aprire un motore di ricerca, leggere fonti diverse e scegliere, è un processo molto diverso dall’affidarsi a una risposta sintetica già pronta senza percepire come quel risultato sia stato costruito e quali dati o regole stiano dietro al servizio.
Per chi usa questi strumenti nel lavoro quotidiano, la domanda concreta è quindi la seguente… si possono usare? La risposta è sì, a patto di usarli per quello che sono. Sono strumenti efficaci per impostare testi, chiarire passaggi, confrontare opzioni, ottenere una prima struttura, tradurre, riassumere e fare brainstorming. Richiedono però controllo umano esplicito quando entrano in gioco fatti verificabili.
Dati quantitativi, norme di legge, temi di salute, finanza, diritto o sicurezza, o qualsiasi decisione che abbia conseguenze reali su persone e processi. In questi contesti il sistema di AI serve come supporto operativo e la responsabilità del giudizio resta umana. Ed è esattamente questo il cuore dell’obbligo di AI literacy, richiamato dall’AI Act. Sapere dove finisce l’utilità dello strumento e dove inizia il dovere di verifica.
Il punto finale riguarda “meno tecnologia” e “più il nostro comportamento”. Il rischio concreto dei sistemi di AI generativa coincide nella facilità con cui un testo ben scritto riceve fiducia senza averla ancora guadagnata. È una questione che riguarda tutti, studenti, professionisti, aziende, insegnanti, tecnici, comunicatori. Capire questo passaggio significa usare meglio uno strumento potente, senza trasformarlo in un’autorità automatica. L.L.
