tuntemus

Kun NVIDIAn GB300 NVL72 -järjestelmät otetaan käyttöön laajamittainen tekoälykoulutukseen ja johtopäätöksiin, yksi kysymys nousee jatkuvasti esiin tietokeskuksen suunnittelukeskusteluissa: kuinka pidät optiset liitännät viileinä? GB300-telineen grafiikkasuorittimet, prosessorit ja kytkimien pii on jo nestejäähdytteisiä, mutta kytkettävät optiset lähetin-vastaanottimet, jotka siirtävät liikennettä kytkimien ja verkkokorttien välillä, ovat eri lämpötiloissa. Kun moduulien nopeudet nousevat kohti 1,6 T ja 3,2 T, niiden lämpöä on vaikea jättää huomiotta.

Viime aikoina on levinnyt väitteitä, että nestejäähdytteiset 3,2T optiset moduulit ovat tulleet massatuotantoon ja otettu käyttöön kaikkiallakaikkiGB300 klusterit. Tämä kehystys yliarvioi tekniikan todellisen sijainnin. Tässä artikkelissa erotetaan julkisesti vahvistetut asiat siitä, mikä jää myyjän väitteeksi tai ennusteeksi, selitetään, mikä nestejäähdytteinen optinen moduuli on, ja näyttää, kuinka se sopii yhteen NVIDIA:n julkistaman suunnitelman kanssa pakattuista optiikoista ja piifotoniikasta.

Mikä on nestejäähdytteinen{0}}optinen moduuli?

Kytkettävä optinen lähetin-vastaanotin muuntaa kytkimestä tai verkkokortista tulevat sähköiset signaalit valoksi siirrettäväksi kuitujen kautta ja takaisin. Suurin osa lämmöstä tulee sähköpuolelta - DSP:stä, laserohjaimesta ja transimpedanssivahvistimesta (TIA). Perinteisesti nämä OSFP- tai QSFP-DD-moduulit käyttävät ilmajäähdytystä: moduulin pinnalla oleva jäähdytyselementti, jonka tuulettimet ja rungon ilmavirta kuljettavat lämmön pois.

Nestejäähdytteinen{0}}optinen moduuli korvaa tai täydentää ilmavirran nestereitillä. Käytännössä useimmat tänään käsitellyt mallit integroivat akylmälevy tai mikrokanavarakennetavalliseen OSFP{0}}-luokan koteloon, joten jäähdytysneste poistaa lämmön suoraan moduulista sen sijaan, että se riippuisi telineen ilmavirrasta. Tämä oneisama kuin täysi upotusjäähdytys, jossa komponentit upotetaan dielektriseen nesteeseen. Molemmat lähestymistavat ovat olemassa laajemmilla markkinoilla, mutta erolla on suuri merkitys, kun arvioit mitä tahansa tiettyä tuotevaatimusta. Jos vertaat moduuliperheitä, se auttaa aloittamaan perusasioistanopeat{0}}lähetin-vastaanotinmoduulit ja niiden optiset komponentit.

Miksi tekoälyklusterit työntävät optiikkaa ilmajäähdytyksen ohi

Kaksi suuntausta kohtaavat. Moduulien nopeudet kasvavat, ja niiden mukana -moduulikohtainen teho kasvaa. Teollisuuden arvioiden mukaan 800G-moduulien teho on noin 14–20 wattia ja 1,6 T:n asiakasoptiikka noin 20–25 wattia, koherenttien ja DCI-varianttien ollessa suurempi. OSFP-muototekijä valittiin osittain siksi, että siihen mahtuu integroitu jäähdytyselementti tälle kirjekuorelle -, mutta kun 200 G-per-kaistaoptiikka ja 3,2T-moduulit saapuvat, lämpöbudjetti vain kiristyy.

Samaan aikaan telineen teho nousee. GB300 NVL72 -teline käyttää luokkaa 120–140 kW ja jäähdytetään pääasiassa nesteellä. Kun suurin osa telineestä toimii äärimmäisellä tiheydellä ja ympäröivä laitos on suunniteltu nestesilmukoiden ympärille, ilmajäähdytteisistä komponenteista voi tulla hankala osa suunnittelua laskennan sijaan. Tämä on todellinen motivaatio kiinnostuksen taustalla-nestejäähdytteiseen optiikkaan: ei sillä, että optiikka olisi yhtäkkiä suurin yksittäinen lämmönlähde, vaanilmajäähdytystä on vaikeampi perustella muuten täysin nestemäisessä-jäähdytteisessä, erittäin-tiheässä ympäristössä. Tälle tiheydelle suunnitteleville joukkueille kannattaa ajatella optiikkaa yhtenä haalarin elementtinätietokeskuksen yhteysstrategiapikemminkin kuin eristyksissä.

Ilmajäähdytteiset vs. nestejäähdytteiset-optiset lähetin-vastaanottimet

Nämä kaksi lähestymistapaa ratkaisevat erilaisia ​​ongelmia ja tarjoavat erilaisia ​​kompromisseja-. Alla olevassa taulukossa on yhteenveto käytännön eroista nykyisessä muodossaan.

Oikea valinta riippuu telineen tehotiheydestä, muotokertoimesta ja siitä, kuinka suuri osa laitoksesta on jo nestejäähdytteistä{0}}. Useimmissa nyt toimitettavissa versioissa ilmajäähdytteiset liitetyt -, mukaan lukien 800G- ja 1.6T OSFP-moduulit -, pysyvät oletuksena. Tarkemmin katsottuna800G OSFP muotokerroin ja sen lämpösuunnittelunäyttää, kuinka paljon suunnittelutyötä on jo tehty tavanomaisten moduulien pitämiseen ilmajäähdytteisessä{0}}kuoressa.

Miten tämä liittyy GB300 NVL72:een ja NVIDIAn optiikkasuunnitelmaan

Kaksi julkisesti dokumentoitua tosiasiaa kannattaa ankkuroida ennen kuin hyväksyt "nestejäähdytettyä{0}}optiikkaa on kaikkialla".

EnsinnäkinGB300 NVL72 on täysin nestemäinen-jäähdytetty teline-vaakajärjestelmä-, mutta nestesilmukka kohdistaa GPU:t, Grace-suorittimet, NVSwitch-alustat ja ConnectX-8-verkkosovittimet. sisäänjulkaistuja OEM-viitemallejaOSFP-optiset moduulit, tallennus- ja{0}}virranjakelukomponentit ovatilma-jäähdytetty, jossa noin 90 % telineen lämmöstä vangitaan nesteellä ja loput ilmalla. Toisin sanoen toimituksen referenssiarkkitehtuurissa itse kytkettävä optiikka ei ole nestejäähdytteistä{2}}.

Toiseksi, NVIDIAn julkistama strategia optisen tehon leikkaamiseksi mittakaavassa onco-pakattu optiikka (CPO), ei upotusjäähdytteisiä{0}}liittimiä. GTC 2025:ssä yritysilmoitti Spectrum-X- ja Quantum-X Photonics -kytkimistäjotka integroivat piifotoniikan suoraan ASIC-kytkimen kanssa, mikä viittaa noin 3,5 kertaa tehokkaampaan tehokkuuteen ja 4x vähemmän lasereihin kuin perinteiset kytkettävät lähetin-vastaanottimet. Quantum-X Photonics -kytkin itsessään käyttää nestejäähdytystä piifotoniikkapakkauksessaan-. Kytkettävä optiikka ei katoa tästä etenemissuunnitelmasta - toimittajat, kuten Innolight, Coherent, Eoptolink ja Fabrinet, tukevat niitä edelleen -, mutta NVIDIA:n tavoittelemat virransäästöt tulevat CPO:lta. Taustaa siitä, miksi teollisuus siirtää optiikkaa pakkaukseen, tämätekninen selitys{0}}pakatuista optiikoistaon hyödyllinen pohjamaali, ja se sopii hyvin yhteen laajemman näkökulman kanssapiifotoniikka ja kaapelointi, josta se riippuu.

Tarkka kuva on siis kerroksittainen: nestejäähdytys GB300:ssa on todellinen ja keskeinen telineessä; CPO ja piifotoniikka ovat NVIDIAn ilmoittama optiikan tehostrategia; ja "upotusnestejäähdytteiset 3.2T kytkettävät moduulit, jotka on otettu käyttöön kaikissa GB300-klustereissa" oneijotain, jota julkinen tiedosto tällä hetkellä tukee. Tiheä-yhdysliitäntä nojaa edelleen voimakkaasti tavanomaiseen strukturoituun kuituun, kutenMPO-kaapelointi AI-palvelinkeskuksiin.

Mitä rohkeat väitteet pitävät paikkansa?

Kaikki "läpimurto"-kehyksessä ei ole väärin. Ongelmana on, että vahvistetut trendit sekoittuvat vahvistamattomiin yksityiskohtiin. Tässä on käytännön jako.

Kohtuullisen hyvin tuettu:

• Tekoälyklusterit lisäävät yhteenliittämisen kaistanleveyttä, tehoa ja lämpötiheyttä.
• GB300 NVL72 on neste-jäähdytetty teline{3}}vaakajärjestelmä.
• Co-pakattu optiikka ja piifotoniikka ovat NVIDIA:n tärkeimpiä suuntauksia tekoälyn verkkotoiminnassa.
• Neste{0}}jäähdytetty kytkettävä optiikka (kylmä-levy- tai mikrokanavamalli) on aito nouseva tuotekehitys ja varhainen{2}}tuotesuunta.

Väitteet, jotka tarvitsevat nimetyn, todennettavan lähteen ennen kuin luotat niihin:

• Optiikka on "suurin lämpöpullonkaula" GB300-telineissä GPU:ita edellä.
• Tietyt luvut, kuten 85 asteen moduulikotelon lämpötila, 38 W per moduuli, "30% telinetilasta" tai "20% klusterin tehosta".
• Tietyillä toimittajilla on massatuotettuja-upotusnestejäähdytteisiä 3,2 T:n liitettäviä moduuleja kaikissa Q3 2026 GB300-klustereissa.
• Nimetyt asiakkaiden käyttöönottotulokset ja tulosluvut, kuten 22 % koulutus-suorituskyvyn lisäys tai 20 % suurempi grafiikkasuorittimen tiheys.
• Ennusteen mukaan 80 % uusista AI-klusterioptisista moduuleista on nestejäähdytteistä- vuoteen 2027 mennessä.

Jos punnit näitä hankintaa tai kapasiteetin suunnittelua varten, pyydä ensisijainen lähde: OEM-viitesuunnittelu, MSA- tai standardiasiakirja, toimittajan tietolomake, jossa on ilmoitetut ehdot, tai mittaus määritetyllä testiasetuksella (moduulityyppi, teho, ilmavirran tai jäähdytysnesteen lämpötila, porttitiheys). Hyödyllinen kehys tällaiselle triagelle on erottaminenmitä tänään toimitetaan optisen{0}}moduulin etenemissuunnitelman mukaan.

Tulevaisuuden näkymät: 1.6T, 3.2T, CPO ja Silicon Photonics

Ajosuunta on selvä, vaikka tarkat päivämäärät eivät olekaan. 1.6T-optiikka - suurelta osin OSFP-XD-muototekijä - nousussa, 3,2T on etenemissuunnitelmassa myöhemmin tällä vuosikymmenellä, ja kaistakohtaiset hinnat ovat siirtymässä 200 Gt:iin ja yli. Jokainen vaihe nostaa moduulikohtaista tehoa, minkä vuoksi teollisuus tavoittelee useita polkuja kerralla: pienemmän-tehoiset DSP:t 3 nm:n ja 2 nm:n solmuissa, lineaarinen-asema ja lineaarinen kytkettävä optiikka, yhteispa{13}}pakattu optiikka ja parannetut lämpöratkaisut, mukaan lukien nestejäähdytys.

Nämä tiet ovat toisiaan täydentäviä eivätkä toisiaan poissulkevia. Kumpi hallitsee tiettyä käyttöönottoa, riippuu kattavuudesta, tiheydestä, huolletettavuudesta ja hinnasta -, ei yhdestä "läpimurtosta". Nestejäähdytteinen-optiikka voi hyvinkin ansaita paikan tiheimmissä telineissä, mutta yhtenä työkaluna useiden joukossa käytetään siellä, missä lämpö- ja tiheysmatematiikka sitä todella vaatii.

FAQ

Onko nestejäähdytteisiä{0}}optisia moduuleja kaupallisesti saatavilla?

Nestejäähdytteinen liitettävä optiikka - tyypillisesti kylmä-levy- tai mikrokanavamalli OSFP--luokan muototekijässä - on olemassa ja niitä esitellään, mutta ne ovat varhaisia ​​eivätkä yleisin valinta. Useimmissa tekoälykankaissa käytetään edelleen ilmajäähdytteisiä 800G- ja 1,6T-liittimiä.

Tarvitsevatko GB300-klusterit nestejäähdytettyä{1}}optiikkaa?

Ei. GB300 NVL72 -teline on kaiken kaikkiaan nestejäähdytteinen, mutta julkaistut referenssimallit jäähdyttävät OSFP-optiset moduulit ilmalla, eivät nesteellä. GPU:t, CPU:t, NVSwitch ja NIC:t ovat nestejäähdytettyjä osia.

Mitä eroa on kytkettävällä optiikalla ja CPO:lla?

Kytkettävä lähetin-vastaanotin on erillinen, vaihdettava{0}}moduuli, joka asetetaan kytkimeen tai NIC-porttiin. Co-pakattu optiikka integroi optisen moottorin samaan pakettiin kuin kytkinsiru, mikä lyhentää sähköpolkua tehon ja latenssin katkaisemiseksi - huollettavuuden kustannuksella ja erilaisella (usein nesteavusteisella-) jäähdytyksellä.

Miksi optiset moduulit ylikuumenevat tekoälyklustereissa?

Suuremmat tiedonsiirtonopeudet vaativat enemmän signaalinkäsittelyä DSP:ssä, ohjaimissa ja TIA:issa, mikä lisää moduulikohtaista tehoa. Pakkaa monia suuritehoisia-moduuleja tiiviiseen, korkeatehoiseen-telineeseen, ja paikallinen lämpökuorma voi ylittää sen, mitä ilmajäähdytys kestää.

Onko uppojäähdytys sama kuin nestejäähdytteinen{0}}optinen moduuli?

Ei välttämättä. Upotus upottaa komponentit dielektriseen nesteeseen, kun taas useimmat nykyään käsitellyt "nestejäähdytteiset optiset moduulit" käyttävät kylmälevyä tai mikrokanavaa, joka kuljettaa jäähdytysnestettä. Ne ovat erilaisia ​​lähestymistapoja, joilla on erilaiset luotettavuus-, tiivistys- ja huollettavuusnäkökohdat.

Key Takeaways

• Optisten liitäntöjen lämmönhallinnasta on tulossa todellinen suunnittelurajoite tiheissä, nestejäähdytteisissä{0}}AI-telineissä.
• Nestejäähdytteinen kytkettävä optiikka on nouseva vaihtoehto - enimmäkseen kylmälevy tai mikrokanava upotuksen sijaan - eikä vielä yleistä.
• GB300 NVL72 on nestejäähdytteinen,
• NVIDIAn ilmoittama optiikan tehostrategia on co{0}}pakattu piifotoniikka.
• Suhtaudu tiettyihin lukuihin ja "jo kaikkialle jo käytettyihin" väitteisiin varoen, kunnes ensisijainen lähde tukee niitä.