C’è un dibattito che infuria da mesi tra gli esperti e i ricercatori che si occupano di realtà artificiale. È incentrato sulla risposta a una semplice domanda: i Large Language Model (LLM) sono in grado di ragionare?
Che significa “ragionare”?
La prima cosa da fare prima di proseguire è accordarsi sul significato di ragionare.
“La parola “ragionamento” è un termine generico che comprende le capacità di deduzione, induzione, abduzione, analogia, buon senso e altri metodi “razionali” o sistematici per risolvere i problemi”, spiega Melanie Mitchell, Professoressa presso il Sante Fe Institute e autrice di ‘Artificial Intelligence, a guide for thinking humans’. “Il ragionamento spesso implica più fasi di inferenza, e in genere si pensa che richieda la capacità di astrazione per poter applicare il processo a problemi generalisti senza limitarsi a un esempio particolare”.
Dalla parte del sì ci sono OpenAI, in particolare Sam Altman, e tutti coloro che sostengono che la via verso una generalizzazione dell’intelligenza artificiale passi necessariamente dai modelli transformer basati sul linguaggio. OpenAI è particolarmente attiva su questo fronte, e ha più volte utilizzato proprio la parola “reason” per descrivere (e pubblicizzare) molti dei suoi modelli più recenti.
Dall’altra c’è invece chi, come Yann LeCun, il Chief AI Scientist di Meta, ritiene che utilizzare la parola ragionamento non sia del tutto corretto quando si parla dei risultati ottenuti da ChatGPT, Claude, o gli altri LLM più avanzati. Per LeCun utilizzare il termine ragionamento non è di per sé sbagliato, ma il ricercatore sostiene che quello che percepiamo come ragionamento avanzato in software come ChatGPT sia in realtà solo una dimostrazione delle enormi capacità di memoria associativa e “pattern recognition” del sistema.
Large Language Model e il ragionamento
In sostanza, secondo l’interpretazione di LeCun, quello che percepiamo come ragionamento da parte di modelli come GPT-4o o Claude Opus 3.5 è solo un’imitazione che non implica una capacità avanzata di astrazione. L’abilità di risolvere problemi complessi tramite step successivi sarebbe insomma dovuta all’enorme mole di dati ingeriti da parte dei sistemi, e dalla loro capacità di mettere insieme i pattern di “ragionamento” in essi esemplificato in forma testuale.
Il dibattito non è soltanto una sfida all’arma bianca tra fazioni di nerd dell’intelligenza artificiale, anzi: è il cardine su cui si baseranno molti degli investimenti e della ricerca negli anni a venire.
Inoltre dare una risposta alla domanda che ci ponevamo all’inizio inoltre è importante perché se fosse vero che gli LLM mostrano capacità di ragionamento avanzate e una propensione all’astrazione, allora sarebbe anche vero che questa tipologia di modelli rappresentano un passaggio importante verso l’agognata Intelligenza Artificiale generalizzata.
Al contrario, se i Large Language Model si basano principalmente sulla memorizzazione e sulla corrispondenza di schemi piuttosto che sul ragionamento vero e proprio, allora non saranno generalizzabili”, spiega ancora Mitchell. “Questo perché non possiamo fidarci del fatto che diano buoni risultati con compiti ‘out of distribution”, cioè non sufficientemente simili a quelli che hanno visto nei dati di addestramento”.
LLM sempre più “umani”
Il dibattito sul ragionamento si può così estendere a un dibattito più generale ed esistenziale, ovvero quello sulla pericolosità di un’Intelligenza Artificiale generalizzata capace non soltanto di ragionare e astrarre, ma anche di applicare queste capacità a molte attività umane.
In questo caso gli esperti si dividono in molte fazioni differenti, lungo uno spettro che va dai catastrofisti più convinti agli scettici convinti. Di questi fa parte anche lo stesso Yann LeCun, per il quale i Large Language Model attuali non sono neanche lontanamente “intelligenti” se messi a confronto con la cognizione umana, e dunque non possono rappresentare (ancora) un rischio esistenziale per l’umanità.
OpenAI (Sam Altman) orbita invece nel campo dei “preoccupati”, ma non arriva agli estremismi di ricercatori come Eliezer Yudkowsky o Nick Bostrom, per i quali un soggiogamento dell’umanità alle macchine super-intelligenti è pressoché inevitabile.
La potenziale catastrofe delle super-intelligenze
Un punto che emerge raramente quando si parla del dibattito esistenziale e che, a nostro parere, tende a squalificarne gli intenti, è che però tutti i maggiori nomi del settore parlano da posizioni che implicano un conflitto di interessi.
Sostenere che i grandi modelli di linguaggio come ChatGPT possano rappresentare il passaggio migliore verso un’AGI è funzionale agli interessi di OpenAI e Sam Altman. Lo spauracchio di un’AI da regolare con convinzione (secondo linee guida che OpenAI sarebbe ben contenta di suggerire) si può leggere ad esempio come un tentativo di “regulatory capture”, per garantire il vantaggio competitivo dell’azienda sul mercato attraverso regole che rendano difficile lo sviluppo e la crescita di soluzioni concorrenti.
Dall’altra parte anche Yann LeCun parla da una posizione di interesse, quando sminuisce le capacità di ragionamento degli Large Language Model e sostiene invece la deregulation dei modelli di AI open-source: sono esattamente quelli in cui investe Meta, l’azienda per cui lavora. In questo caso si può però dire che Yann LeCun ha scelto di lavorare per Meta perché ha potuto dare egli stesso questo indirizzo agli sforzi di ricerca di Zuckerberg e soci, ma il conflitto di interessi rimane.
Anche i ricercatori “liberi” non sono esenti da conflitti di interessi personalistici: dubitiamo che il libri e le conferenze di Bostrom e Yudkowsky avrebbero lo stesso successo se i due, invece della potenziale catastrofe delle super-intelligenze, parlassero con moderazione di un futuro meno distopico.
Per sviluppare un’idea dei rischi che lo sviluppo delle Intelligenze Artificiali può comportare serve dunque leggere e ascoltare tutte le campane, incluse quelle che vengono da altri settori, in primis la filosofia (ad esempio leggendo Luciano Floridi). E poi applicare, con un po’ di sana pratica mentale e sfruttando la profondità del pensiero umano, proprio quel ragionamento che vorremmo così disperatamente demandare alle macchine.
