Mentre l’intelligenza artificiale sembra riservata alle macchine ultra potenti, una recente dimostrazione dimostra il contrario. Alcuni ricercatori sono riusciti a far funzionare un modello di IA moderno su un computer del 1997, dotato di un semplice processore Pentium II e 128 MB di RAM. Questo esperimento mette in discussione le nostre certezze sui requisiti hardware dell’IA e apre la strada a una democratizzazione tecnologica senza precedenti.
Un’impresa tecnica: far funzionare l’IA moderna su hardware obsoleto
L’impresa è stata realizzata da EXO Labs, un’azienda fondata da Andrej Karpathy, figura di spicco nel campo dell’intelligenza artificiale, insieme a ricercatori dell’Università di Oxford. Grazie a un approccio tecnico all’avanguardia, sono riusciti a eseguire un modello linguistico basato su Llama 2 su un processore Intel Pentium II con una frequenza di soli 350 MHz, supportato da 128 MB di RAM. Un ambiente hardware che, a prima vista, sembra decisamente insufficiente per le esigenze dell’IA contemporanea.
Eppure, il modello è riuscito a funzionare a una velocità rispettabile di 39,31 token al secondo, utilizzando solo 260.000 parametri. Questo risultato straordinario è dovuto all’uso di BitNet, una nuova e rivoluzionaria architettura di rete neurale. A differenza dei modelli tradizionali in precisione flottante (float32), BitNet utilizza pesi ternari, dove ogni peso ha solo tre valori possibili (-1, 0, 1). Questa semplificazione consente una compressione estrema del modello senza una significativa perdita di prestazioni.
Grazie a BitNet, un modello solitamente voluminoso di 7 miliardi di parametri può essere ridotto a soli 1,38 GB. Ciò rende possibile la sua esecuzione su processori modesti, senza l’ausilio di schede grafiche di fascia alta. Secondo EXO Labs, questa tecnologia potrebbe persino consentire l’esecuzione di modelli da 100 miliardi di parametri su una singola CPU, raggiungendo velocità di elaborazione vicine a quelle della lettura umana.
Questa esperienza non solo dimostra la fattibilità dei modelli di IA su piattaforme limitate, ma sottolinea anche l’importanza cruciale dell’ottimizzazione algoritmica rispetto alla semplice potenza bruta dell’hardware.
Verso una democratizzazione sostenibile e inclusiva dell’intelligenza artificiale
Al di là della prodezza tecnica, questa dimostrazione ha importanti implicazioni sociali. Uno dei principali ostacoli alla diffusione su larga scala dell’IA è spesso il suo costo, sia in termini di attrezzature che di consumo energetico. Se soluzioni come BitNet consentono di far funzionare modelli avanzati su hardware esistente o di vecchia generazione, l’accesso all’IA potrebbe estendersi ben oltre i laboratori di ricerca e le aziende tecnologiche.
Nei paesi in via di sviluppo, dove le risorse informatiche moderne sono talvolta scarse e costose, questo approccio potrebbe aprire nuove opportunità. Scuole, centri sanitari o piccole imprese potrebbero utilizzare l’IA per l’istruzione, la diagnostica o l’ottimizzazione economica, senza dover investire massicciamente in infrastrutture all’avanguardia.
Inoltre, dal punto di vista ecologico, il riutilizzo di materiale obsoleto per compiti avanzati consentirebbe di limitare la produzione di rifiuti elettronici e ridurre l’impronta di carbonio associata alla produzione di nuove apparecchiature. Ciò è in linea con i principi di sostenibilità sempre più ricercati nelle attuali politiche tecnologiche.
Infine, questo progresso illustra un cambiamento di paradigma: il futuro dell’intelligenza artificiale non dipende solo dal continuo aumento delle prestazioni hardware. Si basa anche sull’ingegnosità del software e sulle innovazioni che consentono di fare “di più con meno”. Questo apre la strada a un’IA più responsabile, più inclusiva e meno elitaria.
