Salta al contenuto principale

Intervista a Nello Cristianini

Articolo di

Per discutere dei problemi etici legati agli algoritmi sempre più affini alla mentalità umana, occorre conoscere il funzionamento delle macchine intelligenti. Interrogare gli scienziati che hanno “le mani in pasta” è sempre una buona idea. Nello Cristianini è uno dei ricercatori più impegnati nella complessa attività di spiegare il mondo nel momento del cambiamento. Non solo divulgazione, ma ragionamento. Laureato in Fisica a Trieste, è professore di Intelligenza Artificiale all’Università di Bath, Regno Unito; i suoi campi di ricerca sono l’apprendimento automatico, l’analisi del linguaggio, le conseguenze sociali legate alle più innovative tecnologie. Nel suo primo libro si chiedeva cosa fosse l’intelligenza e dove si trovasse, al di là della mente degli esseri umani. Nel secondo analizza in modo più narrativo la storia dell’incontro tra noi e gli algoritmi più smart, capaci di emulare competenze “nostre”, come sostenere una conversazione o risolvere un test scolastico. Lo abbiamo incontrato per capirne di più. La foto è di Nicolas Delves-Broughton.



Raccontando come stiamo creando Machina Sapiens, gli strumenti di intelligenza artificiale, non possiamo non cominciare dal genio di Turing. Qual è una definizione esatta e semplice del suo celebre Test?
Il Test di Turing è la sfida lanciata dal fondatore dell’informatica nel 1950: costruire una macchina in grado di conversare con noi su qualunque argomento senza essere smascherata. Per decenni ci abbiamo provato, senza successo, poi nel 2017 è cambiato qualcosa, che nel giro di pochi anni ci ha portato a ChatGPT.

Nel tuo ultimo libro riporti le significative parole di Turing ma trascrivi anche i tuoi dialoghi con ChatGPT e con il suo concorrente, Bard, creazione di Google (recentemente ribattezzato Gemini)…
Questo libro è una singola storia divisa in tre atti: come abbiamo fatto una macchina che superasse il Test di Turing, il nostro incontro con questa entità parlante, e quello che stiamo scoprendo della macchina stessa, cosa sa e cosa “vuole”. Questa storia è in dialogo costante soprattutto con Alan Turing, che ci ha lasciato molti consigli, suggerimenti, anche avvertimenti. Racconto inoltre come ci siamo comportati noi esseri umani in questo primo storico incontro con le nostre creature: alcuni si sono innamorati, altri si sono convinti che la macchina fosse senziente, altri ancora hanno provato a manipolarla e ingannarla.

Leggendo questa evoluzione diventa sempre più chiaro che stiamo vivendo un momento storico unico. No?
Sì, è un periodo speciale della nostra storia. Non si tratta soltanto di una rivoluzione della tecnica. Sono convinto che questa storia andasse raccontata in modo semplice per cominciare a comprendere e valutare l’effetto che ha e avrà su di noi. Per la prima volta siamo di fronte a un’altra entità, profondamente diversa da noi, con la quale dialogare.

Perché definisci questa entità come "aliena"? Alieno è qualcosa di diverso, certo, ma anche misterioso e soprattutto non creato da noi…
Perché sono una forma di intelligenza radicalmente diversa dalla nostra, mentre quella degli animali ha almeno qualche affinità evolutiva con la nostra. Il modo in cui YouTube o GPT vedono il mondo è completamente diverso dal nostro, ecco perché le definisco aliene.

Cosa vuoi dire quando affermi che gli agenti artificiali, a modo loro, possono comprendere il mondo?
Un meccanismo, un agente artificiale, un robot riesce a prendere decisioni giuste anche in situazioni mai viste. Le macchine scelgono le azioni adatte ai propri scopi utilizzando modelli predittivi. Non è affatto semplice: pensiamo al linguaggio. Ogni frase, ogni parola è unica. Come fa una macchina a filtrare una mail oppure a giocare a scacchi? Ci vuole un modello che aiuti a comprendere i contenuti, che conosca situazioni precedenti e le ricordi; comprendere un aspetto del mondo vuol dire averne un modello e noi chiediamo proprio questo alle macchine. Gli agenti intelligenti imparano spontaneamente a rappresentare al loro interno le proprietà astratte, le regole alla base di un gioco o del linguaggio. GPT, Bard e strumenti simili hanno una forma di comprensione del mondo, sia pure a modo loro.

Noi possiamo leggere queste conoscenze all’interno delle macchine?
Non direttamente: sarebbe come aprire il cranio di qualcuno: dentro non si capisce niente. Quindi no, purtroppo non possiamo comprendere in questo modo quello che le nostre macchine imparano del mondo, ciò che usano per prendere le proprie decisioni. Sono conoscenze che, se scritte sotto forma di numeri, sarebbero miliardi, come un’enorme tabella excel che - ho calcolato - occuperebbe un chilometro quadrato. Ma possiamo esaminarle dall’esterno, dando loro degli esami o altri test, come facciamo con persone ed animali. Ed e’ quello che stiamo facendo.

Stiamo immettendo in rete, a disposizione anche delle macchine, quantità di dati esagerate. Riconosciamo che spesso sono informazioni inutili, ridondanti. Insomma, stiamo andando ben oltre la classica definizione umanistica di enciclopedia; è qualcosa di borgesiano. Per le macchine è una complicazione o un arricchimento?
Le macchine sono state addestrate facendole leggere praticamente tutto. Più testi leggono, meglio imparano il linguaggio. GPT ha letto una fetta ampia del web, e poi diecimila libri a caso, wikipedia, moltissimi blog e così ha assorbito il significato e l’uso delle parole, stupendo i ricercatori che lo avevano creato. C’è una competizione adesso tra i produttori per trovare sempre più documenti, ma dovremmo preoccuparci anche della loro qualità, non solo della quantità. Non è semplice distinguere il buono e il cattivo in una gran mole di informazioni, è un lavoro complesso e anche costoso.

Nel libro ricorre spesso la parola imprevisto. L’esistenza degli imprevisti è una spinta all’impegno o una deresponsabilizzazione?
Uso il termine imprevisto in modo letterale: non per indicare un intoppo, ma qualcosa che non era già previsto, una cosa inattesa. Ed è normale per la ricerca scientifica che, per definizione, cerca l’inatteso. Abbiamo addestrato le macchine a fare un compito semplice, completare le parti mancanti di un testo, hanno fatto molto di più, per esempio collegare fonti di informazioni diverse per dare una risposta.

Sei ottimista, molto ottimista…
So che c’è gente sveglia al lavoro, e ci sono investimenti importanti. E so che non abbiamo ancora raggiunto la fine della strada aperta da Turing. Ne abbiamo adesso trovata una e per ora non vediamo ostacoli insormontabili. Mi aspetto che nei prossimi anni aumenteremo la quantità e la qualità dei dati usati per addestrare le macchine che abbiamo costruito, e anche la loro potenza di calcolo, e non sappiamo ancora che cosa emergerà da quella direzione. Ci sono ancora milioni di libri che le macchine non hanno letto!

Stai già pensando alla prossima opera?
È una vita che scrivo, spesso lavori tecnici in lingua inglese, talvolta lavori divulgativi in lingua italiana. Ci sono molte storie e molti punti di vista da raccontare.

I LIBRI DI NELLO CRISTIANINI