Il boom dell'AI poggia su una scommessa sull'hardware fatta vent'anni prima e per ragioni diverse. Nvidia vendeva acceleratori grafici ai videogiocatori e dal 2006 ha spedito CUDA su ogni scheda al dettaglio, per servire quello che Huang chiamava lo «zero-billion-dollar market»: un mercato senza concorrenti perché ancora senza clienti. Il costo lo hanno anticipato i giocatori, a loro insaputa; lo dice uno dei primi ingegneri del progetto, Brett Coon: «In my opinion, the “genius” of CUDA is getting gamers to pay for the massive chip development costs». Per un decennio il titolo è rimasto fermo e un fondo attivista ha chiesto la testa dell'amministratore delegato. Poi, nel 2012, due dottorandi di Toronto hanno comprato due GeForce GTX 580 da circa 500 dollari l'una e addestrato AlexNet nella camera da letto di uno dei due. La conversione dell'azienda è durata un fine settimana, nel racconto del vicepresidente Greg Estes: «He sent out an email on Friday evening saying everything is going to deep learning, and that we were no longer a graphics company»; e poi «By Monday morning, we were an AI company. Literally, it was that fast.» La tesi tecnica riguarda il fossato. Fra il 2012 e il 2022 la velocità di inferenza su singolo chip è cresciuta mille volte, e di quel fattore appena 2,5 arriva dai transistor: il resto lo produce il software. «Honestly, AMD can make silicon just as good as we can», dice Arjun Prabhu, direttore dell'ingegneria hardware. «They just can't make the calculations go as fast.»
Il carattere prima dell'azienda. Sei capitoli di biografia prima che compaia una scheda video: il Kentucky del 1973 con il ponte di corde che i compagni scuotevano, i turni da lavapiatti da Denny's, il ping pong agonistico, la cella di lavoro alla LSI Logic. L'argomento è psicologico prima che industriale: l'ostinazione che salva Nvidia nel 1996 sarebbe la stessa del bambino che attraversava il ponte.
Due tecnologie fallite, raccontate in parallelo. Il calcolo parallelo e le reti neurali hanno storie di fallimento indipendenti e simmetriche, che Witt alterna capitolo per capitolo: gli inverni dell'AI dal 1974 in avanti da un lato, le start-up di calcolo parallelo morte una dopo l'altra dall'altro. Il punto della costruzione è che nessuna delle due funzionava da sola.
Il decennio in perdita, misurato. CUDA esce nel 2006 e i download calano per tre anni di fila: tredicimila nel 2007, oltre trecentomila nel 2009, poi il minimo del 2012 a poco più di centomila nuove installazioni. È il momento in cui arriva la lettera di Starboard Value, e Witt indica la scelta di raddoppiare su CUDA come la più rischiosa della carriera di Huang.
La saldatura, e il conto della corrente. AlexNet, il transformer, ChatGPT; e subito dopo il capitolo sull'elettricità, con i watt per chip e le emissioni dei clienti. Le ultime due sezioni mettono La Paura di Bengio e Hinton di fronte al p(doom) zero di Huang, e chiudono con l'autore in piedi dentro un data center.
Dove regge
Le due tecnologie scartate. È la dimostrazione meglio documentata del libro, perché Witt la costruisce dai due lati. Da una parte il cimitero del calcolo parallelo, con Huang che ne elenca i cadaveri: «Silicon Valley, it's littered with corpses of previous parallel-computing platform companies». Dall'altra il disprezzo accademico per le reti neurali, riassunto da Geoffrey Hinton in cinque parole: «Neural nets were regarded as nonsense». Due rami morti che hanno funzionato solo innestati, e la coincidenza sorprende ancora chi c'era: «There's no way that deep learning just fits this perfectly because Nvidia has never put any effort into it!», dice Bas Aarts, autore del primo compilatore CUDA.
Il fossato è misurato, e la misura sorprende. Mille volte più veloce nell'inferenza su singolo chip fra il 2012 e il 2022, di cui un fattore 2,5 dai transistor e circa 400 dalla matematica dei compilatori e delle librerie. Su questa base l'obiezione ovvia (perché nessuno compra AMD?) riceve una risposta con i numeri in chiaro. Witt smonta anche la spiegazione comoda del vincolo tecnico: interrogando chi acquista davvero, scopre che migrare piattaforma a volte richiede solo di «alter a couple of lines of code».
La contabilità dell'energia. Il capitolo sulla corrente è il più utile del libro e il meno citato. La progressione per chip è netta: 250 watt per l'A100 del 2020, 350 per l'H100, 700 per il B100, mille attesi per il B200. Una ricerca su Google costa un terzo di wattora, dieci volte tanto con l'AI generativa attiva. Le emissioni di Google sono salite del 50 per cento in cinque anni. E in Virginia i tecnici della Dominion sostituiscono cavi da duecentomila volt senza staccare la corrente, perché «under no circumstances was the power to the data centers ever to be cut».
Il ritratto tiene il materiale che danneggia il soggetto. Le umiliazioni pubbliche restano nel libro con la durata misurata («I still vividly remember Jensen just nonstop berating him for a good hour and a half»), insieme alla causa pretestuosa contro una 3dfx già agonizzante, alle mogli ingegnere uscite dalla professione («maybe we should have tried a little harder»), e alla sfuriata che l'autore si prende in faccia nell'ultimo capitolo. Huang, informato che gli stavano scrivendo una biografia: «I hope I die before it comes out».
Capitoli «Going Parallel», «Jellyfish», «AlexNet», «Hyperscale», «Power», «The Thinking Machine».
Dove non regge
Il libro è scritto dentro l'edificio. I ringraziamenti dichiarano l'origine del progetto: l'ufficio stampa di Nvidia «pushed hard to make this project a possibility». Le quasi duecento interviste passano in larga parte da lì, e il risultato affiora in una statistica che Witt riporta senza commentarla: «Of more than a hundred former and current Nvidia employees I spoke with for this book, almost all had a tender story about Huang to relate». Le sfuriate arrivano al lettore già interpretate come pedagogia da chi è pagato per interpretarle così, e l'autore adotta la stessa cornice perfino per quella che subisce: «it was all in service of a larger point he wanted to make».
La posizione dominante è descritta e mai nominata. I numeri ci sono tutti: margine lordo oltre il 90 per cento sui chip per l'AI, quota vicina al 90 per cento del mercato. L'accusa esplicita compare una volta sola, in bocca a un concorrente («They're just extorting their customers, and nobody will say it out loud»), e resta lì senza verifica né replica. L'antitrust americano e la perquisizione degli uffici francesi ottengono una frase ciascuno. Il libro possiede la contabilità di un monopolio e il lessico di un'avventura.
La Paura è confessata, mai argomentata. Le ultime due sezioni riportano i p(doom) altrui (50 per cento per Bengio, zero per LeCun, zero per Huang) e la confessione dell'autore, che dichiara di aver scritto il libro proprio per quella. Poi la paura resta uno stato d'animo: manca la pagina che stabilisca che cosa i modelli sappiano fare davvero, quanto costino, chi stiano già sostituendo. Il dato più notevole del capitolo lavora contro il libro, e Witt lo lascia cadere: Hinton ha abbassato la propria stima dal 50 a un intervallo fra il 10 e il 20 per cento, e la ragione che ne dà è l'autorità di chi dissente, «Most notably, of course, there is Jensen». Un fornitore di hardware che sposta la stima di rischio del più citato scienziato del campo meriterebbe più di una riga.
Il registro epico atterra dove mancano le prove. I capitoli tecnici sono precisi; l'inquadratura punta al mito. Huang diventa «the American Daedalus», l'autore si osserva «feeling inadequate in my obsolete and dying flesh», e l'ultima frase del libro attribuisce a un pod di addestramento una proprietà che non possiede: «with each spin of the fan, with each pulse of the circuits, it got a little smarter». Un addestramento in corso non guadagna intelligenza a ogni giro di ventola, e nella pagina di chiusura la figura prende il posto della misura che il libro altrove sa fare.
Ringraziamenti; capitoli «The Compulsion Loop», «Hyperscale», «Money», «The Fear», «The Thinking Machine».
Il giudizio
È il libro che spiega perché il boom dell'AI passa da una sola azienda, e lo spiega dove serve: nelle due tecnologie scartate che hanno funzionato solo innestate, nel decennio in perdita misurato in download, nel fossato di software che i numeri rendono verificabile. Per capire perché la posizione di Nvidia sia difficile da attaccare, i capitoli su CUDA e sull'energia valgono da soli la lettura.
Il limite sta nell'angolo di ripresa. Witt guarda l'impero dalla sala riunioni al centro dell'edificio, con il permesso di chi lo ha costruito, e questo decide che cosa entra nell'inquadratura: la storia della scommessa ci sta tutta, il conto di chi la paga quasi per niente. Accanto a «Empire of AI» il quadro si chiude su un lato solo: Hao racconta chi costruisce l'impero, Witt racconta chi gli vende i picconi, e la fattura resta fuori da entrambi i libri.
Resta aperta
Se il fossato è software, quanto dura?
Il libro dà due risposte e non le mette a confronto. Da una parte il vincolo di piattaforma è il cuore dichiarato della strategia, nelle parole di chi l'ha costruita: «After that, you will never want to leave»; e ancora, «It's vendor lock. There is no out.» Dall'altra Witt verifica di persona che migrare costa a volte «a couple of lines of code», e che i clienti restano per la maturità degli strumenti più che per una catena tecnica. Le due affermazioni convivono a poche pagine di distanza. Intorno si accumulano i fatti che rendono la domanda urgente: i maggiori clienti di Nvidia progettano chip propri, AMD assume ingegneri software a ritmo, l'acquisizione di ARM da 40 miliardi di dollari è stata bloccata dai regolatori, e la fabbrica TSMC in Arizona da oltre 40 miliardi sposterà la geografia della produzione. Witt lascia la domanda a Huang, sveglio alle tre e mezza del mattino: «Is there a specific thing that's going to drive us out of business today?» Quella notte la risposta è no. Il libro si chiude senza chiedere per quante altre notti.
LETTURE è la rubrica di schede critiche di Lost in the Middle. Una scheda per numero, sui libri che servono a capire l'AI e quello che porta con sé. Il formato giudica l'argomento, non l'esperienza di lettura.
