SANTA CLARA, Calif. — Naghatid ang Nvidia ngayong linggo ng isa sa pinakamalinaw na senyales sa pananalapi na ang paglago ng generative-artificial-intelligence ay nagiging isang malawakang siklo ng imprastraktura. Iniulat ng chipmaker ang $7.19 bilyon sa kita sa unang quarter ng pananalapi at tinatayang humigit-kumulang $11 bilyon para sa kasalukuyang quarter, na mas mataas kaysa sa bilis na ipinahiwatig ng mga kamakailang resulta nito, dahil ang demand para sa pinabilis na computing at pagsasanay sa malalaking modelo ay nagtutulak sa mga customer patungo sa mga processor ng data-center nito.
ng Nvidia noong Mayo 24 ay nagpakita ng rekord na kita sa Data Center na $4.28 bilyon, tumaas ng 18% mula sa nakaraang quarter at 14% mula sa nakaraang taon. Ang kabuuang kita ay 13% pa ring mas mababa kaysa sa nakaraang taon dahil ang gaming at iba pang mga merkado ay hindi pa ganap na nakakabangon, ngunit ang pananaw ng kumpanya sa ikalawang quarter na $11.0 bilyon, plus o minus 2%, ay epektibong nag-reset ng mga inaasahan kung gaano kabilis mababago ng demand ng AI ang trajectory ng paglago nito.
Lumilipat ang AI mula sa kwento ng software patungo sa siklo ng paggastos ng kapital
Nilinaw ng quarterly SEC filing ng kumpanya na hindi na pangunahing umaasa ang Nvidia sa consumer graphics. Ang Data Center ang naging pinakamalaking negosyo nito, na may mga customer na sumasaklaw sa mga cloud provider, mga kumpanya ng internet, mga negosyo at mga institusyon ng pananaliksik. Sinabi ng Chief Executive na si Jensen Huang na ang industriya ng computing ay sumasailalim sa dalawang sabay na transisyon — pinabilis na computing at generative AI — at pinapataas ng Nvidia ang supply upang matugunan ang tumataas na demand para sa H100, Grace Hopper, networking at software platforms nito.
Ang pangangailangan ay nakatali sa isang pangunahing teknikal na limitasyon. Ang pagsasanay at paglilingkod sa malalaking modelo ng wika ay nangangailangan ng napakalaking kapasidad ng parallel-processing at high-speed memory bandwidth. Kayang gampanan ng mga kumbensyonal na CPU ang mga workload na ito, ngunit sa mas mababang kahusayan kaysa sa mga espesyalisadong accelerator. Gumugol ang Nvidia ng mga taon sa pagbuo ng isang software ecosystem sa paligid ng CUDA at isang lumalawak na portfolio ng mga GPU, interconnect at mga produkto ng networking, na nagbibigay dito ng isang matibay na posisyon habang ang mga developer ay nagmamadaling mag-deploy ng mga modelong inspirasyon ng mga sistemang tulad ng ChatGPT.
Ipinapakita ng mga pakikipagsosyo sa negosyo kung saan patungo ang paggastos
Isang linggo bago ang ulat ng kita, inanunsyo ng Nvidia at ServiceNow ang isang generative-AI partnership upang bumuo ng mga custom large language model para sa mga enterprise workflow. Mahalaga ang kasunduang iyon dahil inililipat nito ang generative AI na lampas sa mga pampublikong chatbot patungo sa mga internal na proseso ng negosyo tulad ng customer service, IT support at produktibidad ng empleyado.
Noong Mayo 23, inilabas ng Dell at Nvidia ang Project Helix, isang blueprint para sa mga kumpanyang gustong bumuo at magpatakbo ng mga generative-AI system sa sarili nilang imprastraktura. Pinagsasama ng alok na ito ang mga Dell server at storage kasama ang mga Nvidia H100 GPU, networking, at AI Enterprise software, na tumutugon sa mga organisasyong nagnanais ng access sa mga kakayahan ng malalaking modelo nang hindi inilalagay ang buong pagmamay-ari na impormasyon sa mga pampublikong cloud.
Inanunsyo rin ng Nvidia ang integrasyon ng Microsoft na magdadala ng Nvidia AI Enterprise software sa Azure Machine Learning. Ang ugnayang ito ay nagbibigay sa mga developer ng suportadong landas upang sanayin, i-tune, at i-deploy ang mga modelo gamit ang cloud ng Microsoft habang umaasa sa mga framework at accelerator ng Nvidia.
Ang estratehiya ng plataporma ay lumalampas sa isang chip lamang
Ang bentahe ng Nvidia ay hindi limitado sa H100. Sa kumperensya nito noong Marso sa GTC, ipinakilala ng kumpanya ang apat na platform ng paghihinuha na naglalayong sa iba't ibang generative-AI workload, kabilang ang H100 NVL para sa malalaking modelo ng wika, L4 para sa AI video at Grace Hopper para sa mga sistema ng rekomendasyon. Ang estratehiya ay magbenta ng isang buong stack: mga processor, networking, mga sistema at software na magagamit ng mga developer mula sa pagsasanay hanggang sa paghihinuha.
Mahalaga iyon dahil ang hinuha — ang proseso ng pagpapatakbo ng isang sinanay na modelo upang makabuo ng mga sagot, imahe o rekomendasyon — ay maaaring kalaunan ay kumonsumo ng mas marami o mas maraming kapasidad sa pag-compute kaysa sa pagsasanay. Habang lumilipat ang mga generative-AI application mula sa mga eksperimento patungo sa mga produktong ginagamit ng milyun-milyong tao, ang demand ay maaaring lumipat mula sa iilang malalaking pagsasanay patungo sa patuloy, 24/7 na imprastraktura na nagsisilbi sa lahat ng oras.
Ang isang pambihirang pagtataya ay may dala pa ring panganib sa pagpapatupad
Ang $11 bilyong pananaw sa kita ay nagpapahiwatig ng isang kapansin-pansing sunod-sunod na pagtaas, at ang pagkamit nito ay depende sa suplay. Ang mga advanced na GPU ay umaasa sa mga nangungunang semiconductor fabrication at sopistikadong packaging, na parehong may limitadong kapasidad. Sinabi ng Nvidia na nakikipagtulungan ito sa mga supplier upang mapataas ang produksyon, ngunit ang bilis ng demand ay lumilikha ng posibilidad na ang mga customer ay mahaharap sa mahabang lead time.
Tumitindi rin ang kompetisyon. Naghahanda ang Advanced Micro Devices ng mga bagong AI accelerator, bumubuo ang mga pangunahing cloud provider ng mga proprietary chip, at inaatake ng mga startup ang mga espesyalisadong bahagi ng merkado ng machine-learning. Ang mga customer na kasalukuyang lubos na umaasa sa Nvidia ay may malalakas na insentibo na mag-diversify kung mananatiling limitado ang kapasidad o tataas ang mga presyo.
Gayunpaman, sa ngayon, ang quarter ng kumpanya ay nagmumungkahi na ang generative AI ay lumilikha ng isang spending cycle na sapat ang laki upang malampasan ang kahinaan sa ibang larangan ng teknolohiya. Pumasok ang Nvidia ngayong taon bilang nangungunang supplier ng mga high-end AI accelerator. Iniiwan nito ang Mayo na may isang forecast sa pananalapi na nagpapahiwatig na ang merkado para sa mga sistemang iyon ay lumalawak nang mas mabilis kaysa sa inaasahan ng maraming mamumuhunan ilang linggo lamang ang nakalipas.