Raporttien mukaan NVIDIA AI GPU H200: n ylävirran sirupää tuli massatuotantojaksoon vuosineljänneksen lopulla ja sen odotetaan toimittavan suurina määrinä Q3: n jälkeen.Mutta Nvidia Blackwell -alustan käynnistysohjelma on vähintään yksi tai kaksi neljäsosaa ennen aikataulua, mikä vaikuttaa loppukäyttäjien halukkuuteen ostaa H200.
Toimitusketju huomauttaa, että tällä hetkellä lähetystä odottavat asiakastilaukset ovat edelleen enimmäkseen keskittyneet H100: n HGX -arkkitehtuuriin, rajoitetulla osuudella H200: sta.Q3: ssa massatuotanto ja toimitettava H200 on pääasiassa NVIDIA DGX H200;B100: n suhteen sillä on jo osittainen näkyvyys ja sen odotetaan lähettävän ensi vuoden ensimmäisellä puoliskolla.
H100 GPU: n iteratiivisena päivitystuotteena H200 hyväksyy HBM3E: n korkean kaistanleveyden muistitekniikan ensimmäistä kertaa edistyneeseen Hopper-arkkitehtuuriin perustuen, saavuttaen nopeamman tiedonsiirtonopeuden ja suuremman muistin kapasiteetin, etenkin osoittaen merkittäviä etuja suurten kielen mallisovelluksille.NVIDIA: n julkaisemien virallisten tietojen mukaan, kun käsitellään monimutkaisia suuria kielimalleja, kuten META: n LLAMA2, H200: n parannus on 45% generatiivisessa AI -lähtövasteen nopeudessa verrattuna H100: een.
H200 on sijoitettu toisena NVIDIA: n virstanpylvästuotena AI -tietojenkäsittelyn alalla, paitsi H100: n etujen periminen, vaan myös merkittävien läpimurtojen saavuttaminen muistin suorituskyvyssä.H200: n kaupallisen sovelluksen avulla korkean kaistanleveyden muistin kysynnän odotetaan edelleen nousevan, mikä edistää edelleen koko AI -tietokoneiden laitteistoteollisuusketjun, etenkin HBM3E: hen liittyvien toimittajien markkinoiden mahdollisuuksia.
B100 GPU omaksuu nestemäisen jäähdytystekniikan.Lämmön hajoamisesta on tullut avaintekijä sirun suorituskyvyn parantamisessa.NVIDIA H200 GPU: n TDP on 700W, kun taas konservatiivisesti arvioidaan, että B100: n TDP on lähellä kilowattia.Perinteinen ilmajäähdytys ei välttämättä pysty täyttämään lämmön hajoamisvaatimuksia sirun käytön aikana, ja lämmön hajoamistekniikka on kattavasti innostunut nestemäiseen jäähdytykseen.
NVIDIA: n toimitusjohtaja Huang Renxun totesi, että B100 GPU: sta alkaen kaikkien tuotteiden jäähdytystekniikka siirtyy tulevaisuudessa ilmajäähdytyksestä nestemäiseen jäähdytykseen.Galaxy Securities uskoo, että NVIDIA: n B100GPU: lla on vähintään kaksi kertaa H200: n suorituskyky ja se ylittää neljä kertaa H100: n suorituksen.Sirun suorituskyvyn paraneminen johtuu osittain edistyneistä prosesseista, ja toisaalta lämmön hajoamisesta on tullut avaintekijä sirun suorituskyvyn parantamisessa.NVIDIA: n H200 GPU: n TDP on 700W, jonka arvioidaan olevan konservatiivisesti lähellä kilowatteja.Perinteinen ilmajäähdytys ei ehkä pysty vastaamaan lämmön hajoamistarpeisiin sirun käytön aikana, ja lämmön hajoamistekniikka on täysin mullistettu nesteen jäähdytykseen.
