In Breve

Qual è la previsione di LinkedIn per gli investimenti in GPU?

LinkedIn prevede di mantenere invariati gli investimenti in GPU per il prossimo anno fiscale.

Come ha migliorato LinkedIn l'efficienza delle sue GPU?

LinkedIn ha raddoppiato l'efficienza delle GPU attraverso miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.

Qual è l'approccio di LinkedIn rispetto a Microsoft?

LinkedIn adotta un approccio diverso da Microsoft, puntando su data center propri piuttosto che sull'espansione infrastrutturale.

LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI) nel prossimo anno fiscale. Secondo le dichiarazioni ufficiali, l’investimento in GPU rimarrà sostanzialmente invariato, e l’impronta di calcolo e storage sarà mantenuta all’incirca nella stessa misura.

La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a una serie di miglioramenti cumulativi. Questi progressi riguardano l’utilizzo delle GPU, la distillazione dei modelli e l’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo come la capacità di mantenere stabile il footprint di calcolo, pur introducendo in produzione funzionalità più esigenti dal punto di vista computazionale. Questo approccio si discosta dalla strategia di espansione infrastrutturale di Microsoft, che controlla LinkedIn dal 2016 e ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, con l’aggiunta di 31 data center.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato poi sospeso nel 2022. La società ha quindi deciso di puntare su data center propri, situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack è considerato un fattore abilitante, in quanto consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incrementare storage e compute è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti ottenuti non sono frutto di una singola svolta tecnologica, ma piuttosto di un insieme di strategie che includono un migliore utilizzo delle GPU, la riallocazione dei carichi e la distillazione di modelli maggiori in versioni più piccole.

Il cambiamento è anche motivato dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza giudicata insostenibile. LinkedIn non sostiene di aver risolto definitivamente il problema, ma la scelta di non aumentare gli investimenti in hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua rilevanza dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.