Quando pensiamo alle “allucinazioni”, l’immagine che emerge è quella di percezioni distorte, visioni o suoni inesistenti sperimentati dagli esseri umani. Tuttavia, nel mondo delle intelligenze artificiali, soprattutto nei modelli linguistici di grandi dimensioni (LLM) e in altri tipi di IA, il termine “allucinazione” assume un significato altrettanto inquietante quanto affascinante: la produzione di informazioni false o fuorvianti, presentate con la stessa sicurezza con cui si affermerebbero verità assodate. Questo fenomeno è oggi una delle principali sfide nell’affidabilità delle tecnologie basate su IA.

Cosa sono le allucinazioni di una IA?

Nel contesto delle intelligenze artificiali, un’allucinazione si verifica quando il modello genera risposte plausibili ma inesatte o completamente inventate, senza segnalare alcuna incertezza. Non si tratta di un errore casuale, ma di un risultato derivante dalla modalità stessa con cui questi sistemi apprendono: analizzano miliardi di parole, immagini o dati senza una comprensione reale del significato.

Un esempio pratico potrebbe essere la risposta di un LLM alla domanda “Chi ha vinto il Premio Nobel per la Pace nel 2023?”, con l’invenzione di un nome plausibile ma totalmente falso se il modello non è aggiornato o addestrato sui dati corretti.

Perché accadono le allucinazioni?

Alla radice di tutto c’è la natura probabilistica dei modelli IA: non comprendono veramente, ma predicono la sequenza più probabile. Quando manca un dato preciso, o la domanda richiede inferenze complesse, il sistema tende a inventare una risposta coerente con il contesto appreso, piuttosto che ammettere di non sapere.

Tipologie di allucinazioni nei LLM

Le allucinazioni nei LLM si manifestano in diversi modi. Alcuni modelli inventano fatti, creando eventi, persone o luoghi inesistenti. Altri commettono errori di attribuzione, assegnando citazioni, scoperte o opere a individui sbagliati. Non mancano i casi di ragionamenti illogici, con risposte che sembrano logiche a prima vista, ma che si rivelano contraddittorie o assurde a un’analisi più attenta. Vi è anche la confabulazione contestuale, ovvero l’inserimento di dettagli falsi per riempire lacune nei dati, e infine le allucinazioni stilistiche, in cui vengono creati testi che imitano lo stile di autori famosi senza che questi abbiano mai scritto nulla di simile.

Casi studio significativi

Un caso emblematico riguarda la generazione di riferimenti accademici su un argomento di nicchia: un LLM ha prodotto titoli di articoli, autori e riviste che sembravano autentici, ma che a un controllo bibliografico risultavano inesistenti. Un altro esempio riguarda la descrizione di una battaglia medievale attribuita a un condottiero mai esistito; il testo era coerente, citava luoghi reali e integrava dettagli storici plausibili, creando una realtà alternativa totalmente immaginaria.

Confronto con altri tipi di IA

Sebbene le allucinazioni siano particolarmente comuni nei LLM, anche altri tipi di intelligenze artificiali manifestano fenomeni simili. Le IA per il riconoscimento visivo possono “vedere” oggetti inesistenti in immagini parzialmente corrotte o confuse, come scambiare nuvole per volti umani. Le IA predittive possono suggerire risultati improbabili o impossibili se i dati di input sono rumorosi o se sono stati addestrati su dati sbilanciati. Gli agenti conversazionali di base possono invece mescolare informazioni di diversi contesti senza rendersi conto della loro incompatibilità logica.

La differenza principale è che nei LLM l’allucinazione nasce per eccesso di inferenza linguistica, mentre nelle reti neurali visive deriva da limiti nella generalizzazione visiva, e nelle IA predittive si tratta di una interpolazione errata di dati insufficienti.

Quando si dice che nei LLM l’allucinazione nasce per “eccesso di inferenza linguistica”, si intende che il modello, pur non avendo certezza dei fatti, continua a costruire risposte plausibili usando solo indizi linguistici, cioè come le frasi dovrebbero suonare secondo il suo addestramento.
Se mancano dati certi, il modello non si blocca, ma genera ugualmente una risposta, anche se questa è inventata.

In breve fa inferenze solo sulle apparenze delle parole e non sulla verità dei concetti.
È come se uno studente che non conosce la risposta a una domanda scrivesse comunque qualcosa che suona bene sperando che sembri giusto.

Allucinazioni nella generazione di immagini

Un modello di diffusione (o diffusion model) è un tipo di intelligenza artificiale che genera immagini, video, audio o altri dati partendo da puro rumore casuale.
Funziona in due fasi principali:

1. Diffusione (forward process):
   Il modello prende un’immagine o un dato reale e aggiunge progressivamente rumore, fino a trasformarlo in qualcosa di totalmente casuale.
2. Denosing (reverse process):
   Poi, a partire da questo rumore, il modello viene addestrato a riportare lentamente il rumore a uno stato ordinato, generando un’immagine nuova che rispetta certe condizioni (ad esempio, un prompt testuale come “un castello su una montagna al tramonto”).

In pratica, inventa immagini a partire dal caos, cercando di “indovinare” come dovrebbe essere il contenuto.

Le allucinazioni nei modelli di diffusione avvengono quando il processo di denoising non riesce a convergere correttamente a un’immagine realistica o coerente. I tipi di allucinazioni più comuni sono:

• Oggetti deformi o surreali:
  Ad esempio, una richiesta di “un cane che corre sulla spiaggia” potrebbe generare un cane con cinque zampe o una spiaggia che si fonde col cielo.
• Errori semantici:
  Se il prompt chiede “una macchina volante”, il modello potrebbe creare una macchina che sembra più un uccello, oppure una fusione incoerente tra un’automobile e un aeroplano.
• Incongruenze logiche:
  Un’immagine di “una festa medievale” potrebbe presentare dettagli anacronistici come telefoni cellulari o abiti moderni.
• Confusione nei dettagli:
  Quando si chiedono scene complesse, il modello può “perdersi” nella ricostruzione dei piccoli elementi: volti con occhi fuori posto, mani con troppe dita, ombre fisicamente impossibili.

Accadono principalmente perché il modello ricostruisce dal rumore sulla base di statistiche apprese, non di comprensione reale. Quando le istruzioni sono vaghe o molto complesse, il modello si sbilancia tentando comunque di produrre qualcosa. Se alcuni concetti non sono stati visti abbastanza durante l’addestramento, il modello “immagina” qualcosa di approssimativo.

Nei modelli di diffusione, dove le immagini vengono “estratte” dal rumore, un approccio di tipo meta-prompting può essere fondamentale per ridurre le allucinazioni perché:

• Il modello ha meno bisogno di “indovinare” o riempire lacune inventando dettagli.
• Si possono indicare caratteristiche obbligatorie (“il castello deve avere torri, non essere futuristico”) che impediscono derive assurde.
• Il prompt può essere progettato per far “valutare” al modello la coerenza dell’immagine in corso di generazione.
• Il modello viene guidato non solo a creare forme visive, ma anche a rispettare logiche di plausibilità più stringenti.

In breve, il meta-prompting agisce come una bussola più precisa: invece di dire “vai a Nord”, dici “vai a Nord, seguendo il sentiero, evitando i burroni, restando vicino al fiume”.

Un esempio pratico Senza meta-prompting:

• Prompt semplice: “Un cavallo che vola sopra il mare”
  ➔ Rischio di ottenere un cavallo deforme o uno scenario surreale incoerente.

Un esempio pratico con meta-prompting:

• Prompt avanzato: “Un cavallo realistico con ali proporzionate, simile a un pegasus, che vola sopra un mare calmo, con proporzioni anatomiche corrette, in stile pittura ad olio classica”
  ➔ Il modello è molto più vincolato e le possibilità di allucinazioni drastiche diminuiscono.

Aggiungo inoltre un’ultima considerazione su questo argomento, dalle mie sperimentazioni ho notato che spesso nei modelli diffusion se create rumore tra descrizione dell’immagine e sentiment analysis avrete maggiori possibilità che si presenti una allucinazione grave.

Implicazioni sociali e culturali

Le allucinazioni delle IA possono causare disinformazione, in quanto una risposta plausibile ma errata può diffondersi online come notizia vera. Possono determinare una perdita di fiducia: errori ripetuti possono minare la credibilità di strumenti utilissimi. Infine, possono provocare problemi legali, poiché in ambiti professionali come la medicina o il diritto, le allucinazioni possono avere conseguenze gravi.

Come Mitigare il Fenomeno

Tra le strategie principali vi sono il controllo umano continuo, perché nessuna IA dovrebbe essere lasciata senza supervisione su compiti critici. L’allenamento su dati verificati risulta essenziale per ridurre l’incidenza di errori. L’implementazione di sistemi di autocritica, che consentano ai modelli di esprimere un livello di incertezza, è un’area di ricerca promettente. Infine, è fondamentale l’educazione all’uso consapevole, affinché gli utenti imparino a non fidarsi ciecamente delle IA.

Le allucinazioni delle intelligenze artificiali ci pongono di fronte a un paradosso moderno: strumenti incredibilmente potenti ma intrinsecamente “ciechi” rispetto alla verità. Capire come e perché si verificano non è solo una questione tecnologica, ma anche una sfida culturale e sociale. Nel futuro, la collaborazione tra esseri umani e IA dovrà basarsi su una consapevolezza critica delle ombre digitali che popolano i nostri strumenti più avanzati.

#AllucinazioniIA #LLM #ErroriArtificiali #Disinformazione #ConfrontoAI #FenomeniIA #ComprensioneIA #ImpattoSociale #CasiStudioIA #MitigazioneAllucinazioni

Andrea Tonin

Nerd per passione e per professione da 30 anni, mi occupo di progettazione di ecosistemi software di alto livello come CTO e di docenze in ambito informatico. Mi potete contattare dal mio profilo linkedin a https://www.linkedin.com/in/andreatonin