Come riportato nel bilancio Q2 di Nvidia, il fatturato del secondo trimestre 2023 dei data center ha raggiunto la cifra record di 10,32 miliardi di dollari, con un aumento del 141% rispetto al trimestre precedente e del 171% rispetto a un anno fa. Con la crescente domanda di server ad alte prestazioni nei data center, la società di ricerche di mercato indipendente IDTechEx ha riscontrato sfide nella gestione termica dei data center ed enormi opportunità in questo settore.
Nel 2022, Nvidia ha annunciato il suo nuovo piano per ridurre il consumo energetico dei data center, l'elaborazione di enormi quantità di dati o l'addestramento di modelli AI: schede grafiche raffreddate a liquido. L'azienda ha annunciato la nuova versione raffreddata a liquido della sua scheda di calcolo A100 al Computex e ha dichiarato che consuma il 30% di energia in meno rispetto alla versione raffreddata ad aria. All'inizio di quest'anno (2023), Nvidia ha ricevuto 5 milioni di dollari dal Dipartimento dell'Energia degli Stati Uniti per studiare approcci di raffreddamento innovativi.
Con l'aumento della potenza termica dei chip, il tradizionale raffreddamento ad aria fatica a soddisfare i requisiti di raffreddamento. Sebbene il raffreddamento diretto al chip (noto anche come raffreddamento diretto a liquido (DLC)) sia stato ampiamente adottato, il raffreddamento D2C può raffreddare solo un numero limitato di componenti principali, come chipset e GPU, piuttosto che l'intera scheda. Il raffreddamento a immersione, al contrario, offre un raffreddamento elevato e uniformemente distribuito, ma il processo di immersione dei server nelle vasche può essere macchinoso e richiedere un significativo retrofitting dei data center esistenti basati su rack.
I refrigeranti liquidi per data center possono essere suddivisi in fluidi a base di olio e fluidi ingegnerizzati. Le aziende leader includono Shell, Castrol, ExxonMobil, Fuchs, M&I Materials, Engineered Fluids, 3M, Chemours e Solvay.
I prezzi dei fluidi refrigeranti possono variare in modo significativo e il loro costo può variare da circa 10 dollari/kg a oltre 100 dollari/kg. Quando si tratta di scegliere il refrigerante giusto, ci sono diverse considerazioni da fare. Una di queste è la complessità della manutenzione. I refrigeranti a base di olio o idrocarburi spesso presentano impurità, con conseguente potenziale corrosione delle schede dei server e delle tubazioni. Al contrario, i fluidi ingegnerizzati sono solitamente privi di questo problema e offrono una minore complessità di manutenzione nel tempo. Per quanto riguarda i costi iniziali, un serbatoio di raffreddamento a immersione può costare circa 4.000 dollari, mentre il costo del liquido refrigerante per serbatoio può aggirarsi intorno ai 7.000 dollari per serbatoio:
- Dimensioni di un serbatoio a immersione: Vtank = 1,5m x 0,655m x 1,2m = 1,18m3 = 1180 litri
- Volume del refrigerante = Vtank x 50% = 1180 litri x 50% = 590 litri
- Costo del refrigerante = 590 litri x US$12/litro ~= US$7000
Nonostante i costi iniziali relativamente elevati, nel tempo il costo totale di proprietà del raffreddamento a immersione può essere vantaggioso grazie alla quantità di energia risparmiata. IDTechEx ritiene che entro il 2033 il fatturato annuo dell'hardware per il raffreddamento a liquido dei data center supererà i 900 milioni di dollari, rappresentando un'opportunità significativa. Maggiori dettagli sono disponibili nel rapporto di IDTechEx "Thermal Management for Data Centers 2023-2033: Technologies, Markets and Opportunities".