L'Intelligenza Artificiale Generale (AGI) è un sistema AI ipotetico con competenza pari a quella umana in ogni dominio cognitivo: potrebbe imparare qualsiasi nuovo compito da istruzioni o esperienza, trasferire abilità tra campi non correlati e pianificare progetti lunghi senza essere riaddestrato o ricostruito per ciascuno. Nessun sistema del genere esiste oggi: i modelli attuali sono generali in ciò che accettano ma stretti in ciò che fanno in modo affidabile.
Niente gergo, niente formule
La parola chiave è generale. I modelli di oggi sono generali alla porta: accettano qualsiasi testo, quindi sembrano universali. Dentro sono stretti: fanno un singolo passaggio, non ricordano ieri e la precisione crolla su problemi a più passi mai visti. AGI è il nome che diamo al sistema che chiuderebbe questo divario. Servirebbero quattro capacità insieme: trasferimento (abilità imparate in un dominio che funzionano in un altro), apprendimento continuo (migliorare con l'esperienza senza riaddestramento completo), pianificazione a lungo termine (tenere un obiettivo attraverso centinaia di passi dipendenti) e agency (agire nel mondo e correggersi da soli). Il punto di rottura: non esiste un test concordato. I benchmark nati per misurare l'AGI vengono risolti e smettono di misurare qualcosa, e la definizione scivola sempre su ciò che le macchine ancora non sanno fare.
L'intelligenza artificiale è un software che svolge compiti che normalmente richiedono giudizio umano: capire il linguaggio, riconoscere immagini, pianificare, decidere. L'AI moderna si costruisce addestrando modelli sui dati invece di scrivere regole a mano, e per questo regge input disordinati che un programma rigido non gestisce.
LeggiUn large language model (LLM) è un sistema AI allenato su enormi collezioni di testo per prevedere il token successivo, il che gli dà una capacità generale di scrivere, riassumere, tradurre e ragionare senza essere programmato per ogni singolo compito.
LeggiL'alignment è il lavoro di far fare a un sistema di AI ciò che intendevi davvero, non solo ciò che hai scritto letteralmente: obiettivi, limiti e rifiuti vengono modellati durante addestramento e messa in produzione, così il comportamento resta dentro ciò che operatori e società si aspettano.
Leggi§ 03
Progettiamo e rilasciamo sistemi AI con permessi, log e approvazione umana. Si parte con una call di scoping di 30 minuti.