TAIPEI — Panandaliang nalampasan ng Nvidia ang $1 trilyong market-capitalization threshold ngayong linggo, at naging unang US chipmaker na umabot sa antas na iyon sa loob ng isang araw habang muling pinahalagahan ng mga mamumuhunan ang kumpanya kaugnay ng tumataas na demand para sa generative-artificial-intelligence infrastructure. Kasabay nito, ginamit ni Chief Executive Jensen Huang ang COMPUTEX sa Taiwan upang ipakilala ang isang serye ng mga sistema, produkto ng networking at software na idinisenyo upang palawakin ang papel ng Nvidia mula sa supplier ng mga high-end na GPU patungo sa arkitektura na pinagbabatayan ng buong AI data center.

sa isang ulat ng Reuters noong Mayo 30 ang Nvidia na papalapit at panandaliang lumalagpas sa trilyong dolyar na marka matapos ang humigit-kumulang 25% na pagtaas ng stock na dulot ng pagtataya ng kita nito. Ang pagtatasa ay sumasalamin sa higit pa sa sigasig para sa isang quarter: ang mga mamumuhunan ay tumataya na ang mga pangangailangan sa computational ng malalaking modelo ng wika, mga generator ng imahe at mga sistema ng rekomendasyon ay magbubunga ng isang pangmatagalang paglawak sa paggastos ng accelerator.

Isang makinang 1-exaflop na ginawa para sa mga higanteng modelo

Sa COMPUTEX, inanunsyo ng Nvidia ang DGX GH200, isang bagong AI supercomputer na nag-uugnay sa 256 na Grace Hopper superchip sa pamamagitan ng NVLink. Sinasabi ng Nvidia na ang disenyo ay nagbibigay ng 1 exaflop ng AI performance at 144 terabytes ng shared memory, halos 500 beses ang memory ng naunang arkitektura ng DGX A100. Inaasahang kabilang ang Google Cloud, Meta at Microsoft sa mga unang organisasyon na susuri sa access.

Ang problema sa inhenyeriya ay lalong nagiging tungkol sa laki. Ang mga makabagong modelo ay maaaring mangailangan ng daan-daan o libu-libong accelerator, at ang paglipat ng data sa mga processor na iyon ay maaaring maging kasinghalaga ng bilis ng bawat chip. Ang DGX GH200 ang sagot ng Nvidia sa bottleneck na iyon: bumuo ng isang sistema kung saan ang isang napakalaking koleksyon ng mga CPU-GPU superchip ay maaaring kumilos na parang isang napakalaking mapagkukunan ng computing.

Lumipat na sa produksyon si Grace Hopper

Hiwalay na sinabi ng Nvidia na ang GH200 Grace Hopper Superchip nito ay pumasok na sa ganap na produksyon. Pinagsasama ng device ang isang Arm-based Grace CPU at isang Hopper GPU gamit ang isang high-bandwidth chip-to-chip connection, na binabawasan ang pangangailangang maglipat ng malalaking dataset sa mga kumbensyonal na interface ng server. Mahigit sa 400 na mga configuration ng system batay sa kasalukuyang mga arkitektura ng Nvidia na Grace, Hopper, Ada Lovelace at BlueField ang inihahanda na ng mga tagagawa.

Ang lawak na iyan ay mahalaga sa estratehikong paraan. Ang ulat ng kita ng Nvidia sa unang quarter ng pananalapi ay nagpakita ng rekord na kita sa Data Center na $4.28 bilyon at isang pambihirang $11 bilyong forecast ng kita para sa kasalukuyang quarter. Upang gawing matibay na paglago ang pagtaas ng demand na iyon, dapat magtustos ang kumpanya ng kumpletong mga sistema sa mga merkado ng cloud, enterprise, at telecom sa halip na umasa sa iisang accelerator SKU.

Ang networking ay nagiging bahagi ng AI moat

Inilunsad din ng kumpanya ang Spectrum-X, isang Ethernet platform na pinagsasama ang Spectrum-4 switches, BlueField-3 data-processing units, at networking software. Sinasabi ng Nvidia na ang disenyo ay maaaring mapabuti ang AI workload performance at power efficiency nang 1.7 beses kumpara sa conventional Ethernet sa mga target na kapaligiran. Tinutugunan ng produkto ang isang mahalagang competitive frontier dahil maraming organisasyon ang gustong palakihin ang AI clusters gamit ang mga pamilyar na pamantayan ng Ethernet sa halip na mga espesyalisadong interconnect lamang.

Sa isa pang senyales na ang Nvidia ay tumitingin nang lampas sa mga kumbensyonal na data center, inanunsyo ng kumpanya ang isang kolaborasyon sa SoftBank upang gamitin ang teknolohiyang Grace Hopper at BlueField sa mga distributed data center sa Japan na sumusuporta sa parehong generative AI at 5G/6G na mga aplikasyon. Inilalarawan ng plano kung paano ipinoposisyon ng Nvidia ang mga bahagi nito bilang imprastraktura para sa telekomunikasyon pati na rin sa cloud computing.

Ang generative AI ay umaabot sa mga laro at mga sistemang pang-industriya

Ang mga anunsyo ng Nvidia sa COMPUTEX ay tumatarget din sa mga software developer. Ang ACE for Games ay isang serbisyong nilayon upang hayaan ang mga game developer na bumuo ng mga karakter na hindi manlalaro na maaaring magsagawa ng mas natural at walang script na mga pag-uusap gamit ang mga modelo ng pagsasalita, wika, at animation. Ito ay isang halimbawa kung paano umaasa ang kumpanya na pasiglahin ang mga application na sa huli ay lilikha ng mas maraming demand para sa hardware ng Nvidia.

Ang software-hardware feedback loop na iyon ay naging sentro ng estratehiya ng Nvidia. Ang kumpanya ay hindi lamang nagbebenta ng mga processor sa isang matatag na merkado; ito ay bumubuo ng mga tool sa pag-develop, mga serbisyo ng modelo, networking at mga arkitektura ng sanggunian na nilayon upang gawing default na kapaligiran ang platform nito kung saan nililikha at pinapatakbo ang mga bagong aplikasyon ng AI.

Isang senyales na nagkakahalaga ng trilyong dolyar, hindi isang garantiya

Kapansin-pansin ang mahalagang pangyayari sa pagtatasa, ngunit pinapataas din nito ang mga inaasahan na dapat matugunan ngayon ng Nvidia. Ang demand sa semiconductor ay paikot-ikot, limitado ang advanced packaging capacity, ang mga customer ng cloud ay may malalakas na insentibo na bumuo ng sarili nilang mga chips, at ang mga kakumpitensya kabilang ang AMD ay naghahanda ng mga bagong accelerator. Ang market capitalization na malapit sa $1 trilyon ay ipinapalagay na ang kasalukuyang alon ng paggastos ng AI ay isasalin sa patuloy na paglago ng kita at kita sa halip na isang panandaliang ikot ng imbentaryo.

Gayunpaman, ipinapakita ng mga pangyayari ngayong linggo kung bakit ang Nvidia ang naging pinakamalinaw na kinatawan ng korporasyon para sa pagbuo ng generative-AI. Ang pagtataya ng kita nito ay nagpapakita ng agarang demand, habang ang listahan ng produkto ng COMPUTEX ay nagpapakita ng pagtatangkang kontrolin ang higit pa sa sistema sa paligid ng GPU — memory, CPU, networking, software at deployment. Ang panandaliang paglampas ng kumpanya sa $1 trilyon ay ang pagpapahayag ng merkado sa pananalapi ng mas malaking taya na iyon: na ang AI ay hindi lamang isang bagong kategorya ng software, kundi ang simula ng isang malawakang muling pagtatayo ng imprastraktura ng computing.