C’è un’innovazione “celestiale” nell’ambito delle AI, questa va più veloce della luce

Una nuova tecnologia di trasmissione dati promette di abbattere i costi dei mainframe utilizzati dalle IA risolvendo il problema di colli di bottiglia tra CPU e memoria, grazie alla tecnologia fotonica.

Le intelligenze artificiali sono la next big thing della tecnologia, anzi per certi versi si può dire che siano la “current big thing”: tutte le maggiori aziende tecnologiche del mondo ci stanno investendo miliardi, e l’impressionante evoluzione degli ultimi anni, di cui tutti siamo testimoni quando osserviamo cosa siano in grado di fare ChatGPT e simili, ne è la prova lampante.

C’è un piccolo problema: le IA evolvono talmente in fretta che l’hardware fatica a star loro dietro.

Questi potentissimi software richiedono paurosi quantitativi di memoria, così tanti che sta diventando sempre più difficile assicurare un’altrettanto veloce capacità di calcolo da parte delle CPU chiamate ad elaborare in tempo reale questa spaventosa massa di dati (ovviamente stiamo parlando di elaborazioni su scala mainframe). Insomma gli ingegneri informatici si arrovellavano da un po’ su quale tecnologia potesse permettere si risolvere il problema. Finalmente ci sono riusciti.

Velocità della luce!

Celestial AI è la startup nata dall’intuizione di David Lazovsky e Preet Virk, esperti di ingegneria dei semiconduttori e fotonica, che hanno sviluppato un’impressionante tecnologia in grado di assicurare lo scambio di dati alla velocità della luce tra chip e memoria. L’azienda, che ha già raccolto oltre 165 milioni di dollari di finanziamento da soggetti privati, ha permesso ai data center di disaggregare la memoria per distribuirla in modo più efficace negli hardware, cosa finora non possibile in quanto avrebbe generato una latenza e quindi un ritardo nell’lavorazione dei dati.

La velocità fotonica di questa nuova tecnologia consente di superare questo problema, assicurando tra l’altro che tutta la memoria installata sia utilizzata in modo uniforme – fino ad ora invece capitava che, a causa di colli di bottiglia, parte di essa rimanesse sprecata – il che favorisce un abbattimento dei costi o, se preferite, una riduzione degli sprechi data dalla maggior efficienza del sistema.

Super-efficienza!

Il miglioramento delle prestazioni non finisce qui: le unità di elaborazione beneficeranno di una riduzione del consumo di energia elettrica, andando ad aumentare le proprie performance: una parte dell’elettricità assorbita dalle CPU è normalmente dedicata allo spostamento dei dati. Togliendo di mezzo questo problema grazie alla trasmissione fotonica, tutta l’energia assorbita dal chip può essere dedicata all’elaborazione, ottenendo un miglioramento della performance a parità di hardware.

Nel concreto, di che aumento prestazionale stiamo parlando? Secondo Celestial AI, la tecnologia fotonica assicura una larghezza di banda 25 volte superiore ed una latenza e consumo 10 volte inferiore sui principali sistemi di interconnessione odierni, come gli standard CXL o anche i comuni PCIe che quasi tutti abbiamo nei nostri computer!

Celestial AI sta già intavolando colloqui con vari produttori di hardware, non solo a livello di mainframe e data center: è possibile che in un prossimo futuro tale tecnologia possa essere impiegata anche nella fabbricazione dei computer ad uso domestico! Tutto ciò sta contribuendo ad innalzare il valore di mercato di questa tecnologia – verso la quale si stanno orientando anche diversi competitor – che secondo le proiezioni genererà un fatturato di oltre 26 miliardi di dollari entro il 2027.