Top-P (Nucleus Sampling)
Il Top-P (o Nucleus Sampling) è un metodo di selezione delle parole che limita le opzioni del modello solo alle parole la cui probabilità cumulata raggiunge una certa soglia (P). Serve a eliminare le parole troppo improbabili.
Mentre la Temperatura agisce su quanto l'AI sia 'avventurosa', il Top-P agisce su quante opzioni ha sul tavolo. Se Top-P è 0.1, l'AI guarderà solo il top 10% delle parole più probabili.
Lavora insieme alla Temperatura per dare equilibrio al linguaggio. Impedisce all'AI di scegliere parole completamente fuori contesto che renderebbero la frase incomprensibile.
È come un filtro di 'buonsenso': permette all'AI di essere creativa (se la temperatura è alta), ma solo pescando da un secchio di parole che hanno comunque un minimo di senso logico nel discorso corrente.