In AI-datacenters komt het probleem altijd voort uit hitte. Elk verzoek, elk getraind model, elke gegenereerde reactie gaat door zeer krachtige chips die strak werken, ingeschakeld zijn en hongerig zijn naar energie. En als hardware zo werkt, moet iemand de hitte wegnemen. Jarenlang hebben grote koelsystemen dit gedaan, waarbij lucht tussen koude gangen en warme gangen werd geduwd, verdampingstorens, water dat warmte absorbeert en vervolgens in stoom verdwijnt. Werken. Alleen is ‘het werkt’ een wetsvoorstel dat steeds moeilijker te negeren is.
De nieuwe stap van Nvidia gaat in de tegenovergestelde richting van de gedachte dat het datacenter zo koud is als een koude kamer. Met de Rubin-architectuur heeft het bedrijf het over 100% vloeistofgekoelde AI-infrastructuren: chips, netwerkcomponenten, systeem als geheel. De vloeistof komt rechtstreeks binnen waar de warmte vandaan komt, via platen die op de processors zijn geplaatst, en voert deze af zonder afhankelijk te zijn van de grote carrousel van koude lucht. Het bijna contra-intuïtieve deel ligt in de temperatuur: de vloeistof kan oplopen tot 45°C, heter dan het water in veel bubbelbaden, en toch blijven de processors binnen gevalideerde bedrijfslimieten.
De warmte die bij de bron wordt opgenomen
In het door Nvidia beschreven systeem circuleert een mengsel bestaande uit 75% water en 25% propyleenglycol, een oplossing die door de koude platen gaat, de warmte van de chips absorbeert en naar buiten afgeeft. Het circuit wordt één keer gevuld en blijft gedurende de gehele levensduur van het systeem gesloten; in gunstige klimaten kan de warmte worden verspreid met droge koelers en grote externe radiatoren, waardoor het gebruik van mechanische koelmachines en verdampingstorens wordt verminderd of geëlimineerd.
Hier weegt de verandering van perspectief zwaar. Verdampingstorens verbruiken water juist omdat ze het verdampen om warmte af te voeren. Directe vloeistofkoeling daarentegen probeert het werk binnen een technische ring te verplaatsen die blijft draaien. Nvidia schat dat deze architectuur, onder geschikte omstandigheden, het koelwaterverbruik van ongeveer 2,6 miljoen gallons per megawatt per jaar, bijna 9,8 miljoen liter, tot bijna nul kan terugbrengen. Het is een bedrijfscijfer en daarom moet het worden gelezen met de voorzichtigheid die is voorbehouden aan elke industriële belofte, maar de technologische sprong blijft opmerkelijk.
De reden is simpel, bijna banaal: voor het koelen van de lucht zijn enorme volumes, ventilatoren, ruimtes en gangen nodig die zijn ontworpen als een thermische choreografie. Het direct koelen van de chip betekent dat er een stap wordt verwijderd, zodat je precies op het punt komt waar het probleem zich voordoet. Water, of beter gezegd de koelvloeistof, wordt een veel efficiënter middel om warmte te transporteren dan lucht. In een dichte AI-infrastructuur, waar elk rack een hoeveelheid stroom concentreert die tot een paar jaar geleden excessief zou hebben geleken, is dit verschil niet langer een detail voor ingenieurs en wordt het een kwestie van milieu, economie en zelfs stedenbouw.
Het water dat datacenters drinken
Het waterprobleem rond datacenters is nu al enorm. Sommige grote systemen kunnen tot 5 miljoen gallons per dag verbruiken, ongeveer 19 miljoen liter, een hoeveelheid die vergelijkbaar is met het waterverbruik van een kleine stad. Een gemiddeld datacenter kan ongeveer 110 miljoen gallons per jaar gebruiken, meer dan 416 miljoen liter, alleen al voor koeling. En naarmate de AI-faciliteiten zich uitbreiden, groeit de druk samen met de elektriciteit, de uitstoot en de vraag naar nieuwe chips.
Energiefotografie voegt nog een laag toe. Het Internationaal Energieagentschap voorspelt dat het mondiale elektriciteitsverbruik in datacenters tegen 2030 ruimschoots kan verdubbelen, tot ongeveer 945 TWh. Kunstmatige intelligentie wordt genoemd als een van de belangrijkste aanjagers van deze groei, samen met andere digitale diensten. Zelfs als het koelwater daalt, blijft het hele energiefront dat servers, netwerken, berekeningen en infrastructuren aandrijft open.
Om deze reden moet de AI-koeling van Nvidia worden verteld voor wat het kan zijn: een zeer concrete oplossing voor een deel van het probleem. Het deel van het water dat ter plaatse wordt gebruikt, in de koelsystemen, in de verdampingstorens. Andere zwaargewichten blijven buiten de perimeter: het water dat wordt gebruikt om halfgeleiders te produceren, dat verband houdt met de elektriciteitsopwekking, de impact van nieuwe gebouwen, de netwerken die moeten worden versterkt, de gebieden die plotseling onderdak bieden aan digitale fabrieken zo groot als industriële districten. Het EESI-rapport herinnert ons er ook aan dat de watervoetafdruk van een datacenter het directe verbruik omvat, het water dat wordt gebruikt door elektriciteitscentrales en het water dat wordt gebruikt bij de productie van chips.
Meer efficiëntie, meer honger naar AI
Dan is er nog het minder handige deel, het deel dat altijd komt wanneer een technologie efficiënter wordt. Als elke afzonderlijke operatie minder water en minder energie verbruikt om te koelen, kan de industrie aanspraak maken op echte vooruitgang. Tegelijkertijd kunnen lagere kosten en een beter beheerbare infrastructuur het gemakkelijker maken om nieuwe datacenters te bouwen, grotere modellen te trainen en AI overal te brengen, zelfs daar waar het nauwelijks nodig is.
Gesloten vloeistofkoeling kan enorme verspilling voorkomen, vooral in gebieden waar water al wordt betwist tussen huizen, landbouw, industrie en steeds vaker voorkomende droogtes. Het kan ook het geluid, de ventilatoren, energie-intensieve systemen en de afhankelijkheid van koelmachines verminderen. In een sector die draait met een snelheid die vaak groter is dan het vermogen van de territoria om deze te begrijpen en te besturen, is dit goed nieuws. Goed nieuws met het conditielabel er nog aan.
Omdat een beter gekoelde AI nog steeds een AI blijft die kan worden aangedreven, gebouwd, onderhouden en bijgewerkt. De vloeistof van 45°C kan de dorst van datacenters lessen. De honger moet echter nog worden gemeten.
Mogelijk bent u ook geïnteresseerd in:
