Nell’intelligenza artificiale, il calcolo è silenziosamente essenziale. Mentre gli algoritmi imparano dai dati e codificano le informazioni in reti neurali, eseguono trilioni o quadrilioni di calcoli individuali. Senza processori in grado di fare questa matematica ad alta velocità, il progresso nell’intelligenza artificiale si blocca.. Secondo il laboratorio di ricerca OpenAI, la quantità di calcolo utilizzata per addestrare i principali progetti di IA è aumentata di un fattore 300.000 tra il 2012 e il 2022.
Lo sviluppo dell’intelligenza artificiale era un tempo una questione in gran parte tecnica, confinata alle aule accademiche e ai laboratori del settore privato. Oggi è un’arena di competizione geopolitica. Gli Stati Uniti e la Cina investono miliardi ogni anno nella crescita delle loro industrie di intelligenza artificiale, aumentando l’autonomia e la potenza dei sistemi e ampliando i confini delle possibilità.
Nonostante la sua complessità geopolitica, la competizione dell’IA si riduce a una semplice triade tecnica: dati, algoritmi e potenza di calcolo. I primi due elementi della triade ricevono un’enorme quantità di attenzione politica. Come unico input per l’IA moderna, i dati sono spesso paragonati al petrolio. Altrettanto centrali nella discussione politica sono gli algoritmi, che consentono ai sistemi di IA di apprendere e interpretare i dati. II terzo elemento della triade viene spesso trascurato nelle discussioni politiche. La potenza di calcolo, è trattata come una merce noiosa, indegna di seria attenzione. Ciò è in parte dovuto al fatto che il calcolo è solitamente dato per scontato nella vita di tutti i giorni. Poche persone sanno quanto è veloce il processore del loro laptop, solo che è abbastanza veloce.
Ma nell’intelligenza artificiale, il calcolo è silenziosamente essenziale. Mentre gli algoritmi imparano dai dati e codificano le informazioni in reti neurali, eseguono trilioni o quadrilioni di calcoli individuali. Senza processori in grado di fare questa matematica ad alta velocità, il progresso nell’intelligenza artificiale si blocca. Il calcolo all’avanguardia è quindi più di una semplice meraviglia tecnica; è un potente punto di leva tra le nazioni. La potenza di calcolo nell’IA ha subito una trasformazione radicale nell’ultimo decennio. Secondo il laboratorio di ricerca OpenAI, la quantità di calcolo utilizzata per addestrare i principali progetti di IA è aumentata di un fattore 300.000 tra il 2012 e il 2018. Per comprendere quel numero facciamo riferimento, a una batteria di un cellulare che durava un giorno nel 2012 e la sua durata aumentasse alla stessa velocità del calcolo dell’IA, nel 2018 quella batteria durerebbe più di 800 anni.
Una maggiore potenza di calcolo ha permesso notevoli progressi nell’intelligenza artificiale, tra cui il generatore di linguaggio GPT-3 di OpenAI, che può rispondere a domande scientifiche e correggere errori grammaticali, decifrare anagrammi e tradurre tra lingue. Ancora più impressionante, GPT-3 e ChatGpt.
Dagli un titolo e un riassunto di una frase e, come uno studente con un suggerimento di scrittura, può evocare paragrafi di testo coerente che i lettori umani farebbero fatica a identificare come generati da una macchina. I dati di GPT-3 (quasi un trilione di parole di scrittura umana) e l’algoritmo complesso (in esecuzione su una gigantesca rete neurale con 175 miliardi di parametri) hanno attirato la maggior parte dell’attenzione, ma entrambi sarebbero stati inutili senza l’enorme potenza di calcolo del programma, sufficiente per eseguire l’equivalente di 3.640 quadrilioni di calcoli al secondo ogni secondo per un giorno.
I rapidi progressi nel calcolo che OpenAI e altri hanno sfruttato sono in parte un prodotto della legge di Moore, che stabilisce che la potenza di calcolo di base dei chip all’avanguardia raddoppia ogni 24 mesi come risultato di una migliore ingegneria dei processori. Ma sono stati importanti anche i rapidi miglioramenti nella capacità di più chip di computer di addestrare un sistema di intelligenza artificiale contemporaneamente. Quegli stessi chip sono diventati anche sempre più efficienti e personalizzabili per specifiche attività di apprendimento automatico. Insieme, questi tre fattori hanno potenziato la potenza di calcolo dell’intelligenza artificiale, migliorandone la capacità di affrontare problemi del mondo reale.
La seconda legge meno nota di Moore afferma che il costo di costruzione di una fabbrica per produrre chip per computer raddoppia ogni quattro anni. Le nuove strutture costano più di 20 miliardi di dollari per essere costruite e sono dotate di macchine per la produzione di chip che a volte costano più di 100 milioni di dollari ciascuna. Le aziende americane dominano il mercato del software necessario per progettare chip per computer e gli Stati Uniti, la Corea del Sud e Taiwan ospitano le principali strutture di fabbricazione di chip. Tre paesi, Giappone, Paesi Bassi e Stati Uniti, sono leader nelle apparecchiature di produzione di chip, controllando oltre il 90 percento della quota di mercato globale. Quando si tratta di competizione tra Stati Uniti e Cina, la lezione spesso trascurata è che la potenza di calcolo è importante. I dati e gli algoritmi sono essenziali, ma significano poco senza il calcolo a supportarli. Mila-Quebec AI Institute ospita la più grande concentrazione di ricercatori accademici di deep learning al mondo, tra cui più di 1.000 ricercatori e più di 100 professori che lavorano con più di 100 partner industriali di tutto il mondo.
Yoshua Bengio, direttore scientifico di Mila, è un pioniere delle reti neurali artificiali e del deep learning, un approccio all’apprendimento automatico ispirato al cervello. Nel 2018, Bengio, il capo scienziato di intelligenza artificiale di Meta Yann LeCun e l’ex ricercatore di intelligenza artificiale di Google Geoffrey Hinton hanno ricevuto il Turing Awar, noto come il “Nobel” dell’informatica, per “scoperte concettuali e ingegneristiche che hanno reso le reti neurali profonde una componente fondamentale dell’informatica”.
Insieme, i tre informatici sono conosciuti come i padri dell’intelligenza artificiale.
Bengio è stato sentito in una sottocommissione del Senato degli Stati Uniti che valuta la legislazione che regolamenta la tecnologia in rapida evoluzione. Bengio , ha spiegato che lui e altri importanti ricercatori di intelligenza artificiale hanno rivisto le loro stime su quando l’intelligenza artificiale potrebbe raggiungere livelli umani di ampia competenza cognitiva. “In precedenza si pensava che fosse lontano decenni o addirittura secoli, ora crediamo che potrebbe essere entro pochi anni o decenni. Il lasso di tempo più breve, diciamo cinque anni, è davvero preoccupante perché avremo bisogno di più tempo per mitigare efficacemente le minacce potenzialmente significative alla democrazia, alla sicurezza nazionale e al nostro futuro collettivo”.
C’è qualcosa di veramente importante che stiamo ignorando come mondo scientifico, politico, Istituzionale, culturale e società?
