LoRA (Low-Rank Adaptation)
LoRA è un metodo di addestramento ultra-efficiente che modifica solo una piccolissima frazione dei parametri di un modello. Permette di personalizzare un'AI con una frazione del tempo e della memoria richiesti dal fine-tuning classico.
Se il fine-tuning classico è come ridipingere tutta la casa, LoRA è come cambiare solo le maniglie delle porte e le cornici delle foto per dare un nuovo stile a ogni stanza.
Invece di aggiornare miliardi di numeri, LoRA inserisce dei piccoli 'adattatori' matematici tra uno strato e l'altro della rete neurale.
È la tecnica preferita dalla comunità Open Source: permette a un singolo appassionato con una scheda video economica di creare una versione di un'AI specializzata nel linguaggio medico, legale o creativo in poche ore anziché giorni.