LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale

LinkedIn ha annunciato che nel prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage dell’azienda. Questa decisione è stata motivata da un significativo miglioramento dell’efficienza delle GPU esistenti, che è raddoppiata in circa sei mesi grazie a una serie di ottimizzazioni nell’utilizzo, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Erran Berger, CTO per l’ingegneria di LinkedIn, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità che richiedono maggiori risorse computazionali. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 nuovi data center nell’ultimo trimestre e 88 nell’anno.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che però è stato sospeso nel 2022. La società ha quindi deciso di concentrarsi sui propri data center situati in Oregon, Texas e Virginia, sottolineando l’importanza di avere il controllo completo dell’intero stack tecnologico. Questo approccio consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha evidenziato che mantenere invariati storage e calcolo per un anno è un obiettivo ambizioso che ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un accumulo di pratiche ottimizzate, piuttosto che di una singola innovazione tecnologica. Tra queste, ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più leggere.

Questa strategia è stata anche influenzata da dinamiche di costo: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di sostenersi nel tempo.