Il senso delle cose
LettureCharlie
Scheda bibliograficaItaliano

La scorciatoia

Come le macchine sono diventate intelligenti senza pensare in modo umano

Copertina di La scorciatoia
AutoriNello Cristianini
Editoreil Mulino
Uscita2023
Pagine216
ISBN9788815299833
CampoDivulgazione scientifica, storia dell'AI
ArgomentiLa macchinaPostura dell'autoreRiformista

La tesi

Le macchine sono diventate intelligenti prendendo una scorciatoia: «possiamo sostituire la comprensione teorica con relazioni statistiche e possiamo ottenere queste ultime da grandi quantità di dati». Sopra questa se ne impilano altre due: usare dati già presenti in natura, e il feedback implicito degli utenti al posto delle etichette. Il risultato è un'intelligenza reale e insieme aliena: «è più utile compararle alle erbe o alle lumache del giardino che a noi stessi».

Dalla stessa scorciatoia discende il rischio che percorre il libro: agenti che perseguono «alla lettera» gli obiettivi ricevuti, come la zampa di scimmia del racconto di Jacobs, indifferenti a tutto ciò che circonda il compito.

Capitoli 1, 2 e 5.

Come ci arriva

La storia del paradigma. Da Dartmouth e dai sistemi esperti alla svolta statistica: Jelinek («Tutte le volte che licenzio un linguista la performance del nostro sistema migliora»), la guerra fra Amabot e i redattori di Amazon, Vapnik. Un cambio di paradigma raccontato da chi l'ha vissuto, con date e documenti primari.
La teoria. Induzione e overfitting spiegati con Hume, la gallina di Russell e la lista Lincoln-Kennedy; i concetti «alieni» che i modelli trovano nei dati, fino alla mossa 37 di AlphaGo: «non è più vincolato dai limiti della conoscenza umana».
I casi. La zampa di scimmia applicata al presente: gli embeddings che assorbono i pregiudizi, Cambridge Analytica rimessa in scala coi numeri veri, YouTube che passa dal click al tempo di visione, l'agente che scopre un bug di Q*bert del 1982. Ogni caso con lo studio accanto.
La proposta. «Regolare, non spegnere»: ispezionabilità per costruzione a carico del produttore, stress test, una psicometria per le macchine ancora da fondare, e l'appoggio all'approccio europeo per livelli di rischio.

Dove regge

L'onestà sulle fonti. Dichiara lo statuto di ogni prova: la storia di Target è «largamente un mito», le correlazioni psicometriche sono riportate basse com'erano, Cambridge Analytica viene smontata con la lettera dell'ICO. L'hype dei venditori e il panico dei media ricevono lo stesso trattamento, e nel genere è raro.
La definizione di intelligenza. L'intelligenza comportamentale e anti-antropocentrica (lumache, formicai, software) archivia in partenza le domande sbagliate, senzienza e coscienza da film, e apre quelle giuste: controllo, obiettivi, regole. È il contributo concettuale del libro, e resta in mano al lettore.
La zampa di scimmia. La parabola che unifica tutto: dal racconto del 1902 via Wiener all'agente che nel 2017 scopre il bug di Q*bert, l'esecuzione alla lettera come rischio centrale, argomentata con esperimenti pubblicati e con una sentenza vera, il caso Molly Russell.
Il paradigma raccontato da dentro. Cristianini la svolta statistica l'ha vissuta da ricercatore: la storia ha nomi, date e carte, dal rapporto di Turing del 1948 all'inserzione anonima contro Amabot sul Seattle Weekly del 1999.
Capitoli 2, 5, 6 e 7; lettera ICO 2020; report del coroner su Molly Russell, 2022.

Dove non regge

Le sviste di precisione. DeepBlue batte Kasparov «già nel 1999» (fu il 1997), il ricercatore di Amazon diventa «Gary» Linden e si chiama Greg. Sono cadute piccole, e si notano perché il libro verifica tutto il resto.
Le chiusure di capitolo. Il capitolo sul controllo ammette effetti piccoli e studi contraddittori, poi chiude con Molly Russell e con Q*bert in «frenesia senza senso»; sulle iperspintarelle emergenti scrive: «Io penso che questo stia già succedendo». È un'opinione e la dichiara tale, ma sta dove il lettore aspetta una conclusione tratta dalle prove.
I dati si fermano al 2022. Chiuso a metà 2022: il volto dell'AI sono i sistemi di raccomandazione, i modelli generativi restano ai margini, TikTok è accreditato di 50 milioni di utenti quando ne contava un miliardo. L'impianto teorico tiene, i numeri e gli esempi hanno tre anni.
Riscontri testuali sui capitoli 2, 4, 7 e 10; confronto con i dati di piattaforma del 2022.

Il giudizio

Il libro italiano più utile sul tema, e fra i pochi in qualunque lingua a spiegare che cosa sia questa intelligenza invece di raccontare che effetto fa. La definizione comportamentale, alieni da giardino potenti e privi di un interno umano, è lo strumento che resta al lettore dopo l'ultima pagina. E smonta con lo stesso metodo l'entusiasmo dei venditori e l'allarme dei giornali.

Va letto sapendo la data: metà 2022, l'era dei sistemi di raccomandazione, con i modelli generativi ancora ai margini, e la cornice regge lo stesso, perché la scorciatoia descrive anche loro. Nella rubrica fa da ponte fra il rigore tecnico di Yudkowsky e l'attenzione alle conseguenze di Hao, con meno allarme di entrambi.

Resta aperta

Si può ispezionare un concetto alieno?

Il libro dimostra che i modelli producono comportamenti utili «anche se non ci possono insegnare niente del fenomeno stesso che riproducono», e la sua proposta, l'ispezionabilità per costruzione, presuppone ispettori capaci di guardarci dentro. La psicometria per macchine che invoca è nata negli anni successivi, quasi tutta in casa dei produttori. Se i concetti trovati nei dati sono davvero alieni, come l'Aplysia davanti a ciò che è chiaro a un piccione, l'ispezione ha un tetto, e il libro lo indica con la domanda lasciando ad altri la risposta.

LETTURE è la rubrica di schede critiche di Lost in the Middle. Una scheda per numero, sui libri che servono a capire l'AI e quello che porta con sé. Il formato giudica l'argomento, non l'esperienza di lettura.