In Breve
- Qual è la strategia di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere invariati gli investimenti in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è il contesto dell'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto a Microsoft, che ha recentemente aumentato significativamente la sua spesa per infrastrutture.
LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI) nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage della piattaforma.
La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in un arco di sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà impiegato per sviluppare nuove funzionalità, piuttosto che per l’acquisto di nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo di LinkedIn come la capacità di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue nettamente da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 data center nel solo ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da quel momento, la società ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Questo controllo sull’intero stack tecnologico è considerato un fattore chiave per ottimizzare ogni livello e trattare l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere l’infrastruttura senza incrementi in storage e compute per un anno rappresenta «non una piccola impresa» e ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un approccio sistematico piuttosto che di una singola innovazione tecnologica. Ciò include un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più piccole.
La strategia di LinkedIn è anche motivata dalla crescente dinamica dei costi. Infatti, il costo per singola query è aumentato, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che è stata giudicata insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, la scelta di mantenere gli investimenti in hardware invariati rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
