Più intelligente dell’uomo
Premessa: la previsione del token successivo è l'obiettivo di pretraining più comunemente utilizzato per i modelli di linguaggio causale. Prende una sequenza di testo come input e addestra il modello sottostante a prevedere il token (parola) successivo per ogni token all'interno di questa sequenza. Nella video intervista che incorporiamo sulla versione del sito di questa newsletter, Ilya Sutskever, direttore scientifico di OpenAI, afferma che le intelligenze artificiali AGI (Artificial General Intelligence, modelli di IA super-intelligenti) potranno superare l’uomo nella previsione del token successivo. Ovvero che potranno essere più intelligenti. Opinione che ha già trovato diversi punti di vista contrari o in disaccordo.