Amazon valmistautuu käynnistämään viimeisimmän tekoälyn (AI) sirunsa, kun suuri teknologiaryhmittymä pyrkii palauttamaan miljardeja dollareita puolijohdesijoituksiin ja vähentämään sen luottamusta markkinajohtaja Nvidiaan.
Amazonin Cloud Computing Divisionin johtajat sijoittavat voimakkaasti räätälöityihin siruihin toivoen parantavan kymmenien tietokeskusten tehokkuutta ja vähentävät viime kädessä itselleen ja Amazon AWS -asiakkaiden kustannuksia.
Tätä työtä johtaa Annapurna Labs, Austinissa sijaitseva siruyritys, jonka Amazon osti 350 miljoonalla dollarilla vuoden 2015 alussa. Annapurnan viimeisimpien saavutusten odotetaan esittävän joulukuussa, kun Amazon ilmoittaa "Hallium 2: n" laajalle levinneisyydestäon osa AI -siru -sarjaa, joka on suunniteltu kouluttamaan suurimpia malleja.
Antropic (Openain kilpailija, joka on saanut 4 miljardia dollaria Amazonilta) sekä VNET: n, Deutsche Telekomin, Ricoh Japanin ja Stockmarkin.
Amazon AWS ja Annapurna pyrkivät kilpailemaan Nvidian kanssa, josta on tullut yksi maailman arvokkaimmista yrityksistä, koska se on hallitseva asema AI -sirumarkkinoilla.
Toivomme olevan paras paikka hoitaa Nvidia -siruja ", sanoi Dave Brown, Amazon AWS: n tietotekniikan ja verkkopalvelujen varapuheenjohtaja. Mutta samalla uskomme, että vaihtoehtoisten ratkaisujen käyttöönotto on hyödyllistä", Amazon sanoi, että sen seMuilla ammattimaisella AI -sirulla "Inferentia" on vähentänyt käyttökustannuksia 40% ja sitä voidaan käyttää reagoiviin generatiivisiin AI -malleihin.
Amazon odottaa nyt noin 75 miljardin dollarin investointeja vuonna 2024, jolloin suurin osa menee kohti teknologiainfrastruktuuria.Yhtiön viimeisimmässä ansaintakonferenssipuhelussa toimitusjohtaja Andy Jassy ilmoitti odottavansa yrityksellä lisää kuluja vuonna 2025.
Tämä on lisäys 48,4 miljardin Yhdysvaltain dollarin koko vuoden kuluista vuonna 2023. Suurimmat pilvipalveluntarjoajat, mukaan lukien Microsoft ja Google, sijoittavat voimakkaasti keinotekoiseen älykkyyteen, ja tämä suuntaus osoittaa vähän merkkejä heikentymisestä.
Amazon, Microsoft ja Meta ovat kaikki NVIDIA: n tärkeimpiä asiakkaita, mutta he suunnittelevat myös omia tietokeskuksen sirujaan asettaakseen perustan AI -kasvuaallonsa, jota he odottavat.
Futurum -ryhmän Daniel Newman sanoi: "Jokainen suuri pilvipalveluntarjoaja on kiihkeästi siirtymässä kohti enemmän vertikaalisuutta, ja mahdollisuuksien mukaan siirtyessä kohti homogeenista ja integroitua" sirutekniikkaa "
Newman huomautti, että "Openaista Appleen kaikki pyrkivät rakentamaan omia sirujaan", koska he etsivät "alhaisempia tuotantokustannuksia, korkeammat voittomarginaalit, korkeampi saatavuus ja enemmän hallintaa".
Kun AWS: lle on aloitettu "Nitro" -suojapiirin rakentaminen, Annapurna on kehittänyt useita Graviton-sukupolvia, ARM-pohjaisen keskusprosessointiyksikön (CPU), joka tarjoaa pienitehoisen vaihtoehdon Intelin tai AMD: n tarjoamille perinteisille palvelimen pääkehyksille.
TechIntsights -analyytikko G Dan Hutcheson sanoi: 'AWS: n yksi merkittävä etu on, että heidän sirut voivat käyttää vähemmän virtaa ja heidän tietokeskuksensa voivat olla tehokkaampia ", vähentäen siten kustannuksia.Hän sanoi, että jos NVIDIA: n grafiikan prosessointiyksikkö (GPU) on tehokas yleiskäyttötyökalu (autoille, kuten asemavaunuihin), Amazon voi optimoida sirut tietyille tehtäville ja palveluille (kuten kompakti- tai viistoperäautot).
Toistaiseksi AWS ja Annapurna ovat kuitenkin tuskin heikentäneet Nvidian hallitsevaa asemaa AI -infrastruktuurissa.
NVIDIA: n AI -tietokeskuksen sirujen myyntitulot olivat 26,3 miljardia dollaria tilikauden 2024 toisella neljänneksellä. Tämä luku on sama kuin Amazonin toisella vuosineljänneksellä ilmoittaman AWS -divisioonan liikevaihto.On todettu, että vain pieni osa siitä voidaan katsoa johtuvan AI -työmäärästä Annapurna -infrastruktuurissa.
Mitä tulee AWS -sirujen ja NVIDIA -sirujen raa'an suorituskyvyn suhteen, Amazon välttää suoria vertailuja eikä lähetä pelimerkkejä riippumattomiin suorituskyvyn vertailuarvoihin.
Moor Insights & Strategy Chip -konsultti Patrick Moorhead uskoo, että Amazonin väite 4-kertaisesta suorituskyvyn parantamisesta Trainium 1: n ja Trainium 2: n välillä on tarkka, koska hän on tarkistanut yritystä vuosien ajan.Suorituskykytiedot eivät kuitenkaan välttämättä ole yhtä tärkeitä kuin yksinkertaisesti tarjota asiakkaille enemmän valintoja.
Ihmiset arvostavat kaikkia NVIDIA: n tuomat innovaatiot, mutta kukaan ei halua nähdä Nvidian olevan 90% markkinaosuudesta ", hän lisäsi".Tämä tilanne ei kestä liian kauan
