Inilabas ng Meta ang Llama 2, ang susunod na henerasyon ng malaking pamilya ng modelo ng wika nito, sa isang hakbang na idinisenyo upang palawakin ang komersyal na pag-access sa generative artificial intelligence at hamunin ang closed-model strategy na ginagamit ng ilang nangungunang karibal. Ayon sa anunsyo ng kumpanya noong Hulyo 18, ang Llama 2 ay magiging libre para sa pananaliksik at komersyal na paggamit, kung saan ang Microsoft ang magsisilbing ginustong kasosyo ng Meta para sa pamamahagi sa pamamagitan ng Azure at Windows.

Kasama sa release ang mga pretrained at chat-optimized na modelo na may 7 bilyon, 13 bilyon at 70 bilyong parameter. Nagbibigay ang Meta ng mga model weight at panimulang code, na nagbibigay sa mga developer ng mas malaking kontrol sa deployment at fine-tuning kaysa sa natatanggap nila mula sa mga API-only system. Dahil dito, ang Llama 2 ay hindi lamang isa pang chatbot model kundi isang estratehikong pagtatangka na magtatag ng isang open ecosystem sa paligid ng generative AI infrastructure.

Pumupusta ang Meta na ang pamamahagi ay maaaring maging mas mahalaga kaysa sa pagiging eksklusibo

Ang teknikal na papel, ang *Llama 2: Open Foundation and Fine-Tuned Chat Models*, ay naglalarawan ng isang pamilya ng mga paunang sinanay na modelo at mga bersyong nakatuon sa diyalogo na sinanay gamit ang pinangangasiwaang pagpino at reinforcement learning mula sa feedback ng tao. Sinasabi ng Meta na ang mga modelo ng chat ay mas mahusay kaysa sa iba pang mga bukas na magagamit na sistema sa maraming benchmark at nasuri na para sa pagiging kapaki-pakinabang at kaligtasan sa pamamagitan ng parehong awtomatiko at pagsubok ng tao.

ng sariling publikasyon sa pananaliksik na ang paglabas ay naglalayong gawing mas madaling ma-access ang pagbuo ng malalaking modelo para sa mga mananaliksik at mga kumpanyang kulang sa mga mapagkukunan upang sanayin ang mga frontier system mula sa simula. Ang modelong may 70 bilyong parameter ay partikular na makabuluhan dahil naglalagay ito ng isang modelo na may malaking saklaw sa isang ecosystem kung saan maaaring suriin, iakma, at i-deploy ito mismo ng mga developer.

Ang pamamaraang iyan ay naiiba sa modelong ginagamit ng OpenAI at Google para sa kanilang nangungunang mga sistema ng mamimili, kung saan ang mga modelong may pinakamahuhusay na kakayahan ay karaniwang nananatili sa likod ng mga proprietary interface. Ipinagtataya ni Meta na ang malawak na pag-aampon ng mga developer, pagkakaroon ng cloud, at panlabas na eksperimento ay maaaring lumikha ng isang mas malakas na plataporma sa paligid ng Llama kaysa sa pagpapanatili ng mahigpit na kontrol sa teknolohiya.

Nakakuha ang Microsoft ng isa pang pangunahing plataporma ng AI nang hindi tinatalikuran ang OpenAI

Sinabi ng Microsoft sa anunsyo ng pakikipagsosyo na magagawang pinuhin at i-deploy ng mga customer ng Azure ang mga modelo ng Llama 2 sa pamamagitan ng katalogo ng modelo ng Azure AI, habang ang mga developer ng Windows ay makakapagpatakbo ng mga na-optimize na bersyon nang lokal gamit ang ONNX Runtime at DirectML.

Kapansin-pansin ang pakikipagsosyo dahil ang Microsoft din ang pinakamalaking strategic partner ng OpenAI. Ang pagsuporta sa Llama 2 ay nagbibigay sa mga customer ng Azure ng pagpipilian sa pagitan ng mga proprietary at mas hayagang ipinamamahaging modelo at pinapalakas ang posisyon ng Microsoft bilang isang cloud provider anuman ang piliin ng mga developer ng pamilya ng modelo.

Sinasabi rin ng Meta na ang Llama 2 ay magiging available sa pamamagitan ng Amazon Web Services, Hugging Face at iba pang mga provider. Ang multi-cloud reach na ito ay nakakabawas sa posibilidad na ang modelo ay maiugnay sa iisang vendor ng imprastraktura at maaaring mapabilis ang eksperimento ng mga startup, unibersidad at mga enterprise software team.

Ang "bukas" ay hindi nangangahulugang walang limitasyon

Inilalarawan ng Meta ang Llama 2 bilang open source, ngunit ang lisensya ay may kasamang mga paghihigpit sa paggamit at hindi katulad ng mga lisensya ng permissive software na karaniwang ginagamit sa mga open-source na proyekto. Naglathala rin ang kumpanya ng isang patakaran sa katanggap-tanggap na paggamit at gabay sa responsableng paggamit na naglalayong limitahan ang mga mapaminsalang o ilegal na aplikasyon.

Dinedetalye ng modelong papel ang pag-tune ng kaligtasan, adversarial testing, at mga kilalang limitasyon. Kinikilala ng Meta na ang Llama 2 ay maaaring makabuo ng hindi tumpak, may kinikilingan, o hindi ligtas na materyal at hindi kayang makuha ng mga resulta ng benchmark ang bawat totoong gamit. Sinasabi ng kumpanya na gumamit ito ng external red-team testing at iterative safety fine-tuning para sa mga bersyon ng chat.

sa isang pagsusuri ng TechCrunch sa release ang pinahusay na benchmark performance at ang mga babala mismo ng Meta tungkol sa bias, toxicity, at hindi pantay na performance sa iba't ibang gawain. Mahalaga ang mga limitasyong iyon dahil ang pagbibigay ng mga weight ng modelo sa mga developer ay nagpapadali sa pagbabago ng pag-uugali sa labas ng mga pananggalang ng isang sentralisadong kinokontrol na API.

Ang epekto sa komersyo ay maaaring mas malaki kaysa sa benchmark race

Para sa mga negosyo, ang pinakamahalagang katangian ay maaaring ang kakayahang patakbuhin o pinuhin ang isang modelo sa isang kapaligirang kanilang kontrolado. Ang mga kumpanyang humahawak ng sensitibong data ay maaaring mas gusto ang isang modelo na maaaring i-deploy sa loob ng kanilang sariling cloud tenancy o imprastraktura kaysa sa pagpapadala ng mga prompt sa isang panlabas na naka-host na serbisyo.

Ang kakayahang umangkop na iyon ay maaari ring magdulot ng presyon sa ekonomiya ng generative AI. Kung may mga modelong may kakayahang magamit nang walang bayad sa paglilisensya kada query, maaaring ihambing ng mga developer ang gastos ng self-hosting laban sa mga bayad na API. Itinampok sa isang ulat ng Bloomberg tungkol sa paglulunsad ang desisyon ng Meta na huwag maningil para sa pag-access sa modelo at ang papel ng Microsoft at iba pang mga cloud provider sa paggawa nito na magagamit sa komersyo.

Ang desisyon ay may panganib para sa Meta. Ang malawak na distribusyon ay maaaring magpataas ng posibilidad na ang isang modelo ay iakma para sa maling paggamit, at ang kumpanya ay magkakaroon ng mas kaunting kontrol sa mga downstream na implementasyon kaysa sa mga vendor na pinapanatili ang kanilang mga sistema nang buo sa likod ng mga naka-host na interface. Nagtalo ang Meta na ang pagiging bukas ay maaari ring mapabuti ang kaligtasan sa pamamagitan ng pagpapahintulot sa mas maraming mananaliksik na subukan, tukuyin at iulat ang mga kahinaan.

Samakatuwid, ang Llama 2 ay kumakatawan sa isang estratehikong paligsahan kung paano dapat ipamahagi ang pundamental na AI, hindi lamang kung aling kumpanya ang may pinakamataas na benchmark score. Kung malawakang iaangkop ng mga developer ang modelo, maaaring hubugin ng Meta ang isang de facto open standard para sa generative AI habang ang Microsoft ay makakakuha ng isa pang workload para sa Azure at Windows. Kung ang mga alalahanin sa kaligtasan, paglilisensya o pagganap ay limitahan ang pag-aampon, maaaring patuloy na paboran ng merkado ang mahigpit na kontroladong mga proprietary system. Magsisimula na ngayon ang unang pagsubok, habang nakakakuha ng access ang mga developer sa isa sa pinakamalalaking malawak na magagamit na pamilya ng modelo na nailabas na.