Cosa sono le allucinazioni dell’intelligenza artificiale e come evitarle

Le allucinazioni AI sono degli errori che i vari strumenti come ChatGPT, Claude e Gemini propongono all’utente mascherando il risultato come corretto. Esistono anche delle procedure per limitare e anestetizzare queste sviste in modo da avere risultati sicuri e utilizzabili anche in contesti in cui si esige cautela.

---

Il problema di molte applicazioni LLM come ChatGPT e Gemini: hanno le famose allucinazioni AI, gli errori tipici dell’intelligenza artificiale. Inventano numeri, partoriscono scenari inesistenti, ti convincono che esistono cose che in realtà non hanno alcun fondamento. Questo è un problema decisivo perché se ti fidi rischi di riproporre errori che ti metteranno in grande difficoltà. La soluzione?

Mai fidarsi, mai fare copia e incolla. Verificare sempre. D’altro canto, alla fine di ogni risultato te lo dicono chiaramente: l’AI può commettere errori. L’intelligenza artificiale genera informazioni che sembrano del tutto plausibili e sicure. In realtà sono false, prive di senso o non supportate dai dati di addestramento.

Cosa sono le allucinazioni AI?

Note come confabulazioni, le allucinazioni dell’intelligenza artificiale sono risultati errati presentati come corretti. A tal punto da ingannare anche l’utente più esperto. Un esempio di allucinazione dell’AI è la distorsione delle mani che si presenta ancora oggi, anche se in chiave minore, quando generi un’immagine. Anche se il concetto è interessante, come ricorda Wikipedia, è errato.

L’allucinazione presuppone uno stato di coscienza e conoscenza da cui l’IA può deviare; in realtà queste applicazioni non hanno né coscienza né tantomeno conoscenza. Per questo il concetto di allucinazione è errato anche se ormai è entrato nel nostro vocabolario e continuiamo a utilizzarlo.

Da leggere: tecniche e strumenti di AI copywriting per creare testi

Perché si verificano le allucinazioni?

Come anticipato, l’AI non ha una conoscenza delle cose del mondo: le prevedono. Attraverso l’addestramento basato sui dati, provano a intercettare il dato (ad esempio una parola) successivo più probabile in una sequenza.

Se chiedi a ChatGPT di inventare una storia per bambini con un lupo, senza specificare altro, inserirà anche concetti come il bosco e avrà come protagonista anche una bambina con un mantello rosso. In questo meccanismo, è facile intercettare il fallimento dell’AI. Le motivazioni?

• Eccesso di creatività: il modello cerca di essere utile a tutti i costi. Se gli chiedi la biografia di uno scrittore che non esiste, l’IA potrebbe inventarne una di sana pianta per completare il compito.
• Dati di addestramento: se i dati usati per istruire l’IA contengono errori e pregiudizi, il modello li riprenderà e li riproporrà nei tuoi risultati. Hai presente quando Gmail ti corregge qual è con qual’è? Il principio è lo stesso: statisticamente, ci sono più persone che usano la seconda opzione e quindi la versione corretta, secondo Google, è quella in realtà errata.
• Mancanza di una fonte di verità: i modelli linguistici non hanno sempre accesso a un database aggiornato in tempo reale (a meno che non usino strumenti di ricerca web). E ragionano sulle probabilità.

A tutto ciò aggiungiamo una comprensione del contesto limitata. A volte l’IA perde il filo di una conversazione lunga e inizia a fare confusione tra fatti diversi tra loro. Proponendo dei risultati errati. Ma a questo punto possiamo anche trovare delle strategie per ridurre le allucinazioni AI con alcuni consigli.

Come ridurre queste incertezze

C’è una soluzione per eliminare definitivamente le allucinazioni dell’AI? No, o almeno non credo. Quindi bisogna sempre considerare il contenuto dell’intelligenza artificiale per quello che è: un output da verificare, del quale non devi mai fidarti al 100%. Però ci sono delle soluzioni per ridurre sensibilmente la probabilità di avere risultati errati proposti come esatti. Quali sono le opzioni?

Riduci e semplifica i compiti dell’AI

Spesso, l’intelligenza artificiale va in difficoltà con i prompt troppo lunghi. Soprattutto quando utilizzi soluzioni gratuite. Quindi, per evitare le classiche allucinazioni AI conviene spezzare il prompt e proporre dei compiti più semplici. Ad esempio, puoi chiedere di realizzare una sintesi dividendo un testo lungo in due sezioni. Questo significa obiettivamente ridurre la probabilità di errori.

Esigi le fonti per ridurre allucinazioni

Chiedi al tool che hai deciso di utilizzare di citare dove ha preso un’informazione: a questo punto sarà più facile verificare e ottenere delle indicazioni reali. A volte l’IA può allucinare anche le fonti, quindi devi fare dei controlli approfonditi.

Chiedi massima onestà e controllo

Un trucco semplice per ridurre le allucinazioni AI: a volte basta solo chiedere determinati risultati. Gli errori spesso nascono quando l’intelligenza artificiale cerca di colmare dei vuoti informativi. Meglio delineare il campo d’azione.

Quindi, nel tuo prompt puoi chiedere di verificare sempre le fonti che utilizzi, magari sottolineando di verificare quelle più recenti, e di non rispondere se non ha la risposta. Stai dicendo che preferisci zero risposte a una bugia creativa.

Elimina possibili ambiguità

Le parole possono avere significati differenti: colpa dei sinonimi che abbondano nella lingua italiana. Senza contesto, se non crei un prompt blindato su questo punto di vista, l’IA deve scegliere la via più probabile, che spesso però è quella sbagliata per le tue esigenze. Ad esempio, se chiedo a ChatGPT di parlarmi di Mercurio potrebbero esserci delle incertezze tra divinità e pianeta.

L’applicazione prende una decisione che potrebbe essere errata. Il prompt contestualizzato aiuta: Parlami del pianeta Mercurio dal punto di vista della sua composizione geologica e del nucleo ferroso.

Assegna un ruolo con il role prompting

Molti dicono che non serve più, io però noto ancora grandi differenze quando a un prompt aggiungi un ruolo e chiedi di agire come un esperto specifico. In questo modo, infatti, si attivano una rete di concetti correlati a quel campo semantico, riducendo le probabilità di usare termini fuori luogo o inventare fatti generici.

Le allucinazioni AI si riducono con un prompt

Meglio definire ruolo, dare maggiori informazioni e indicare dei confini precisi aggiungendo necessità di verifica e controllo. Questo approccio permette di ridurre in modo importante le allucinazioni AI. Vuoi un esempio concreto di prompt per tentare di evitare questi errori?

### PROMPT PER ARTICOLO BLOG: EVITARE LE ALLUCINAZIONI IA ###

Ruolo: agisci come un esperto di Intelligenza Artificiale e divulgatore tech senior. Il tuo obiettivo è scrivere un articolo di blog tecnico ma accessibile.

Argomento: "Guida definitiva per eliminare le allucinazioni dell'IA: tecniche di prompt engineering".

Contesto: l'articolo deve sintetizzare le seguenti tecniche reali (non inventarne altre):
1. Few-Shot Prompting: fornire esempi concreti di input/output prima di chiedere il risultato finale.
2. Chain of Thought (CoT): chiedere all'IA di "ragionare passo dopo passo" (Step-by-Step).
3. RAG (Retrieval-Augmented Generation): spiegare l'importanza di fornire un testo di riferimento esterno da cui l'IA deve attingere.
4. Limitazioni di output: istruire l'IA a rispondere "Non lo so" se l'informazione non è presente nel contesto.
5. Verifica incrociata (Self-Consistency): chiedere all'IA di generare più soluzioni e confrontarle.

Vincoli di Stile
- Tono: professionale, autorevole e chiaro.
- Struttura: introduzione al problema, elenco puntato delle tecniche con brevi spiegazioni, conclusione con una checklist pratica.
- Divieto assoluto: non inventare nomi di tecnologie o algoritmi che non esistono. Usa solo i termini tecnici standard sopra citati.
- Formattazione: usa grassetti per i termini chiave e titoli (H2, H3) per separare le sezioni.

Istruzione finale: se non sei sicuro della definizione tecnica di uno dei punti sopra, fermati e chiedimi chiarimenti invece di procedere con una spiegazione approssimativa.

Perché questo prompt funziona contro le allucinazioni AI? C’è delimitazione del perimetro: ho elencato le tecniche. In questo modo, non permetto di cercare nel suo database statistico nomi di tecnologie che potrebbero suonare bene ma non esistere. E l’istruzione “Se non sei sicuro chiedimi chiarimenti” rompe il meccanismo dell’IA che tende a compiacere l’utente a tutti i costi.