Catastrophic Forgetting (Oblio Catastrofico)
Il Catastrophic Forgetting è un problema delle reti neurali in cui il modello, imparando in modo intensivo nuove informazioni, sovrascrive drasticamente e 'dimentica' gran parte delle cose che aveva imparato in precedenza.
Se tu impari a giocare a tennis, non dimentichi come si va in bicicletta. Per le Intelligenze Artificiali non è così semplice. Quando un'azienda prende un modello AI generalista e gli fa un fine-tuning intensivo per fargli imparare il codice di programmazione, c'è il forte rischio che l'AI diventi un genio del software ma si scordi completamente come si scrive una poesia o come si traduce in francese. Gli scienziati lottano contro questo 'oblio' congelando alcune parti del cervello della macchina durante i nuovi addestramenti.