Ginawang imprastraktura ng OpenAI ngayong linggo ang ChatGPT mula sa pagiging isang destinasyon, sa pamamagitan ng paglabas ng mga interface ng application-programming para sa conversational model nito at Whisper speech-recognition system at pagtatakda ng agresibong presyo na $0.002 bawat 1,000 token para sa bagong gpt-3.5-turbo model.

Ang anunsyo noong Marso 1 ay nagbibigay sa mga developer ng direktang paraan upang bumuo ng mga interaksyon na parang ChatGPT sa kanilang sariling mga produkto sa halip na magpadala ng mga user sa website ng OpenAI. Sinabi ng OpenAI na ang parehong pamilya ng modelo na ginagamit sa ChatGPT ay maaari na ngayong paganahin ang mga application sa pamamagitan ng isang nakabalangkas na format ng chat, habang ang Whisper API ay nagbibigay ng transkripsyon at pagsasalin ng speech-to-text sa halagang $0.006 kada minuto.

Mula sa viral application hanggang sa platform ng developer

Ang pampublikong paglabas ng ChatGPT noong Nobyembre ay nakakuha ng pambihirang atensyon ng mga mamimili, ngunit binago ng isang API ang papel na pang-ekonomiya ng teknolohiya. Sa halip na gumana lamang bilang isang interface na kontrolado ng OpenAI, ang modelo ay maaaring maging isang bahagi sa loob ng software sa edukasyon, mga aplikasyon sa komersyo, mga social network, mga sistema ng serbisyo sa customer at mga panloob na tool sa negosyo. Isang napapanahong ulat ng TechCrunch ang nagsabi na ang OpenAI ay nag-aalok din ng nakalaang kapasidad para sa mga customer na naghahanap ng mas mahuhulaan na pagganap at kontrol sa pagkakaroon ng modelo.

Kapansin-pansin ang presyo dahil binabawasan nito ang gastos sa pag-eeksperimento sa generative AI. Sinasabi ng OpenAI na ang gpt-3.5-turbo ay naghahatid ng ChatGPT-class performance sa pamamagitan ng API habang nagkakahalaga ng sang-ikasampu kumpara sa mga naunang modelo ng GPT-3.5. Lumilikha ito ng mas malaking addressable market para sa mga aplikasyon na maaaring mangailangan ng libu-libo o milyun-milyong pakikipagpalitan ng usapan.

Ang API ay dinisenyo batay sa isang serye ng mga mensahe na may mga tungkulin tulad ng system, user, at assistant. Ang istrukturang iyon ay nagbibigay-daan sa mga developer na magbigay sa modelo ng mga paulit-ulit na tagubilin, magpasa ng kasaysayan ng pag-uusap, at hubugin ang pag-uugali ng isang serbisyo nang hindi binubuo ang bawat interaksyon bilang isang mahabang text prompt. Ginagawa rin nitong mas madali ang pagsasama ng modelo sa mga kumbensyonal na arkitektura ng software.

Ipinapakita ng mga unang produkto ang lawak ng mga kaso ng paggamit

Natukoy ng OpenAI ang Snap, Quizlet, Instacart at Shopify sa mga unang gumamit nito. Ginagamit ng Snap ang teknolohiyang OpenAI para sa "My AI," isang tampok na pang-usap sa loob ng Snapchat. Inilarawan sa isang ulat ng Ars Technica ang bot bilang unang magagamit sa mga subscriber ng Snapchat+ at itinampok ang babala ng Snap na ang mga generative system ay maaaring makagawa ng mga mali o nakaliligaw na sagot.

sa isang ulat ng Reuters , plano ng Snap na iposisyon ang chatbot bilang isang mobile companion na maaaring magmungkahi ng mga regalo, pagkain, ideya sa paglalakbay, at iba pang pang-araw-araw na impormasyon. Inilalarawan ng paglulunsad ang parehong oportunidad at panganib para sa mga platform ng mamimili: ang generative AI ay maaaring lumikha ng isang bagong engagement surface, ngunit ang kumpanyang gumagamit nito ay nagmamana ng responsibilidad kung paano binibigyang-kahulugan ng mga gumagamit ang mga sagot nito.

Samantala, inanunsyo ng Quizlet ang isang AI tutor na tinatawag na Q-Chat. Ayon sa kanilang paglabas , gagamitin ng sistema ang OpenAI API upang gabayan ang mga mag-aaral sa mga adaptive na tanong sa halip na basta magsagot lamang. Ipinapakita ng use case na iyon kung bakit mahalaga ang chat interface sa teknikal na aspeto: maaaring mapanatili ng software ang konteksto sa bawat turno at tumugon sa naunang tugon ng mag-aaral.

Ginagawang isa pang programmable input ng Whisper ang pagsasalita

Ang pangalawang paglulunsad, ang Whisper, ay nagpapalawak sa plataporma ng OpenAI nang higit pa sa pagbuo ng teksto. Ang Whisper ay isang modelo ng pagkilala sa pagsasalita na sinanay sa malalaking dami ng multilingual na audio. Maaaring i-transcribe ng bagong API ang pagsasalita sa orihinal na wika o isalin ang sinusuportahang pagsasalita sa Ingles. Inilarawan sa isang hiwalay na ulat ng TechCrunch ang serbisyo bilang isang naka-host na bersyon ng open-source na modelo ng Whisper, na nag-aalis ng pangangailangan para sa mga developer na patakbuhin mismo ang imprastraktura ng compute.

Maaari nitong gawing mas madali ang pagdaragdag ng mga speech interface sa mga tool sa pagpupulong, mga sistema ng call-center, mga daloy ng trabaho sa media, mga produkto ng accessibility at mga mobile application. Ang istruktura ng gastos—$0.006 kada minuto—ay ginagawang posible rin ang awtomatikong transkripsyon para sa mga kaso ng paggamit na dating umaasa sa mga espesyalistang vendor o lokal na pagproseso.

Magkasama, ang dalawang API ay tumuturo sa isang mas malawak na arkitektura kung saan ang isang aplikasyon ay maaaring tumanggap ng pagsasalita, i-convert ito sa teksto, mangatwiran o bumuo sa pamamagitan ng isang modelo ng pakikipag-usap at magbalik ng tugon nang hindi kinakailangang sanayin ng developer ang isang modelo ng AI mula sa simula. Ang halaga ay lalong lumilipat mula sa modelo lamang patungo sa orkestrasyon ng mga modelo, pagmamay-ari na data at mga daloy ng trabaho ng software.

Ang pagiging maaasahan at kontrol ay nagiging mga tanong sa produkto

Ang pagbubukas ng ChatGPT sa pamamagitan ng isang API ay hindi nalulutas ang mga kilalang limitasyon ng modelo. Kinikilala ng sariling mga materyales sa paglulunsad ng OpenAI na ang mga output ng modelo ay maaaring hindi tama at kailangang isaalang-alang ng mga developer ang pagbabago ng pag-uugali ng modelo. Nagpapakilala ang kumpanya ng mga snapshot ng bersyon ng modelo upang ma-pin ng mga customer ang mga application sa isang partikular na release ng modelo sa halip na awtomatikong matanggap ang bawat update.

Sinasabi rin ng OpenAI na hindi nito gagamitin ang datos na isinumite sa pamamagitan ng API para sa mga pagpapabuti ng serbisyo maliban kung mag-opt in ang mga customer, isang pagbabago sa patakaran na naglalayong sa mga organisasyong nag-aalala tungkol sa pagpapadala ng impormasyong pagmamay-ari sa isang panlabas na modelo. Ang isang anunsyo na kasama ng paglulunsad ay nagbibigay-diin sa feedback sa pagpapatakbo, katatagan ng modelo at ang paglipat ng mga umiiral na aplikasyon patungo sa bagong format ng chat.

Mas malaki ang kahalagahang estratehiko kaysa sa kahit anong integrasyon. Ipinakita ng ChatGPT na ang conversational generative AI ay maaaring makaakit ng malawakang madla. Sinusubukan na ngayon ng API kung ang parehong teknolohiya ay maaaring maging isang pangkalahatang layer ng software. Kung ang mga developer ay makakabuo ng maaasahang mga produkto sa mga inanunsyong presyo, ang pinakamahalagang produkto ng OpenAI ay maaaring hindi ang ChatGPT mismo kundi ang programmable model sa likod ng libu-libong iba pang mga aplikasyon.