Hallucination Rate (Tasso di Allucinazione)
L'Hallucination Rate è una metrica statistica che indica la frequenza con cui un modello AI genera informazioni false o non supportate dai fatti rispetto al totale delle risposte fornite.
Nessun'AI è perfetta al 100%, ma alcune mentono meno di altre. L'Hallucination Rate è la 'pagella' dell'onestà di un modello. Un modello con un tasso del 2% è considerato eccellente, mentre uno sopra il 10% è pericoloso per usi professionali.
Esistono oggi dei benchmark specializzati (come 'HaluEval') che sottopongono le AI a migliaia di domande trabocchetto per misurare questo valore.
Per un'azienda, conoscere questa metrica è vitale prima di integrare un chatbot per i clienti: permette di sapere in anticipo quanti 'strafalcioni' ci si può aspettare e quanto debbano essere rigidi i sistemi di controllo (Guardrails) da applicare.