Le allucinazioni: perché succedono e come conviverci
I sistemi AI a volte affermano con sicurezza cose false. Vediamo da dove nasce il problema e quali accorgimenti lo riducono a un rischio gestibile.
Non è un difetto, è il meccanismo
Chiamiamo allucinazione una risposta inventata ma esposta con la stessa sicurezza di una vera. Non è un errore occasionale da correggere con un aggiornamento: deriva da come questi sistemi generano il testo.
Il modello non ha un modo interno per distinguere ciò che sa da ciò che sta plausibilmente ricostruendo. Produce la continuazione più verosimile, e la verosimiglianza non coincide con la verità.
Tre accorgimenti che funzionano
Primo: dare al sistema i documenti su cui deve basarsi, invece di chiedergli di ricordare. Un modello che cita un vostro listino allegato sbaglia molto meno di uno che prova a ricordarsi i prezzi.
Secondo: chiedere le fonti e renderle verificabili. Se la risposta rimanda a un documento, il controllo diventa questione di secondi.
Terzo: scegliere compiti in cui l'errore è visibile. Un riassunto sbagliato si nota leggendo; un numero sbagliato in mezzo a mille no.
