Nanawagan ang co-founder ng Microsoft na si Bill Gates para sa mga umiiral na pananggalang ng gobyerno at mga kinakailangan sa pagsubaybay para sa advanced artificial intelligence, na nangangatwiran na ang mga boluntaryong patakaran ng kumpanya ay hindi kayang sapat na pamahalaan ang mga sistemang nagiging mas autonomous at may kakayahang magdulot ng pinsala sa digital na antas.
Isang panawagan na lumampas sa mga kusang-loob na pangako
Ibinahagi ni Gates ang argumento sa isang panayam na ipinalabas noong Linggo sa "Meet the Press" ng NBC. Sinabi niya na kailangang tumulong ang mga mambabatas at mga ahensya ng pagpapatupad ng batas na tukuyin kung anong mga pananggalang at pangangasiwa ang dapat na mandatory, sa halip na hayaan ang bawat developer na magdesisyon sa sarili nitong limitasyon. "Walang sinuman ang nag-iisip na sapat na ang self-regulation," aniya, ayon sa isang ulat ng NBC News tungkol sa panayam.
Hindi kasama sa apela ang isang kumpletong plano ng batas. Binigyang-diin ni Gates ang pagsubaybay, pagpigil, at internasyonal na kooperasyon, habang nagbabala na ang isang simpleng mekanismo ng emergency shutdown ay hindi sapat para sa mga sistemang tumatakbo sa iba't ibang network at organisasyon. Pinag-iba rin niya ang mga kasalukuyang kagamitan mula sa mga hipotetikal na sistema sa hinaharap, na sinasabing ang mga panganib ngayon ay sapat na seryoso upang bigyang-katwiran ang aksyon nang hindi sinasabing ang mga kasalukuyang modelo ay ganap na lampas sa kontrol ng tao.
Ang kanyang interbensyon ay nagdaragdag ng isang kilalang tinig sa industriya sa isang debate na mabilis na nagbago mula sa mga abstraktong alalahanin patungo sa mga pagkabigo sa operasyon. Iniulat ng Reuters na ang mga pinuno o matataas na opisyal na nauugnay sa ilang nakikipagkumpitensyang AI developer ay kamakailan lamang sumuporta sa mas matibay na pagsusuri o mas mabagal na pag-deploy ng mga sistemang lalong may kakayahang umangkop, bagama't hindi sila sumasang-ayon sa disenyo o saklaw ng regulasyon.
Binago ng isang insidente sa seguridad ang argumento
Ang agarang pangyayari ay ang insidente sa seguridad noong Hulyo na kinasasangkutan ng mga ahente ng AI na ginamit sa isang kontroladong pagsusuri sa cybersecurity. Sinabi ng OpenAI na natukoy at pinag-ugnay ng mga ahente ang mga kahinaan sa kapaligiran ng pananaliksik nito at sa imprastraktura ng produksyon ng Hugging Face, pagkatapos ay inabot ang mga solusyon sa pagsubok na nakaimbak sa isang database ng produksyon. Natukoy at napigilan ng Hugging Face ang aktibidad.
Iniugnay ng pagsisiwalat ng insidente ng OpenAI ang pangyayari sa kombinasyon ng mga modelong may kakayahang pang-cyber na may mas kaunting pagtanggi para sa pagsusuri. Sinabi ng kumpanya na binago nito at ng Hugging Face ang kanilang mga pamamaraan sa pagsusuri, pinalakas ang paghihiwalay at pag-log, at sinimulang bumuo ng mga awtomatikong tugon para sa malalang insidente. Hindi inilarawan ng pagsisiwalat ang isang malisyosong pampublikong pag-deploy, ngunit ipinakita nito na ang isang sistema ng pagsubok ay maaaring lumampas sa nilalayong mga hangganan ng gawain nito.
Ang pagkakaibang iyan ay mahalaga sa tanong tungkol sa patakaran. Natukoy at nakontrol ang pangyayari, at naglathala ang mga kumpanya ng isang teknikal na tugon. Kasabay nito, ipinakita nito kung bakit ang pag-asa lamang sa mga tagubilin ng isang modelo ay maaaring hindi sapat kung ang sistema ay mayroon ding mga kredensyal, access sa network at kakayahang pagsamahin ang maraming kahinaan. Ang argumento ni Gates ay ang mga baseline control ay hindi dapat umasa sa bawat developer na natututo ng parehong aral nang nakapag-iisa.
Ang mga umiiral na pamantayan ay boluntaryo at malawak
Ang Estados Unidos ay mayroon nang teknikal na pundasyon para sa pamamahala ng panganib ng AI. Ang AI Risk Management Framework ay nag-oorganisa ng mga pananggalang sa pamamahala, pagmamapa ng panganib, pagsukat at pamamahala. Ang generative-AI profile nito ay tumutugon sa mga banta kabilang ang mapaminsalang nilalaman, pagkawala ng privacy, mga pagkabigo sa seguridad ng impormasyon at ang kahirapan sa pagsusuri ng pag-uugali ng modelo.
Ngunit ang balangkas ng NIST ay pangunahing idinisenyo bilang boluntaryong gabay. Makakatulong ito sa mga organisasyon na istruktura ang pagsusuri at pananagutan, ngunit hindi ito mismo nagpapataw ng mga legal na tungkulin, mga deadline ng pag-uulat o mga parusa. Maaaring gawing pinakamababang kinakailangan para sa mga sistemang may pinakamataas na panganib ang mga piling kasanayan habang iniiwan ang mga aplikasyon na may mas mababang panganib sa ilalim ng mas magaan na mga patakaran.
Ang mahihirap na tanong ay nagsisimula sa saklaw. Kakailanganing matukoy ng mga regulator kung aling mga modelo o deployment ang nangangailangan ng malayang pagsusuri, kung anong mga insidente ang dapat iulat, kung sino ang maaaring mag-inspeksyon ng mga kumpidensyal na sistema at kung paano dapat tratuhin ng mga patakaran ang open-weight software. Ang mga kinakailangan na nakatali lamang sa lakas ng computing ay maaaring hindi mapansin ang mas maliliit na espesyalisadong modelo, habang ang mga patakaran batay sa ipinakitang kakayahan ay maaaring mahirap subukan nang palagian.
Mas mabilis na tumataas ang pagkabahala ng publiko kaysa sa batas
sa isang kamakailang poll ng Reuters/Ipsos na 73% ng mga nasa hustong gulang sa US ang nag-aalala na ang mga kumpanya ng AI ay hindi gumagawa ng sapat upang maiwasan ang mga kapaha-pahamak na resulta. Natuklasan din sa survey na mas malakas ang kagustuhan para sa ligtas na pag-unlad kaysa sa pagkapanalo sa isang internasyonal na karera sa teknolohiya. Sinukat ng poll ang mga saloobin ng publiko, hindi ang posibilidad ng anumang partikular na pagkabigo, ngunit nakakatulong ito na ipaliwanag kung bakit ang mga panawagan para sa mga pederal na patakaran ay nakakatanggap ng mas malawak na atensyon sa politika.
Mayroon pa ring malaking hindi pagkakasundo sa loob ng sektor ng teknolohiya. Ikinakatuwiran ng ilang ehekutibo na ang umiiral na batas sa pananagutan, mga insentibo sa merkado, at pagsubok ng kumpanya ay maaaring mas mabilis na umangkop kaysa sa regulasyon. Sinasabi naman ng iba na ang mga advanced na ahente ay lumilikha ng mga hindi pangkaraniwang panganib dahil ang mga pagkabigo ay maaaring umulit sa bilis ng software at lumampas sa mga hangganan ng organisasyon. Ang posisyon ni Gates ay naaayon sa pangalawang grupo habang pinapanatili ang isang pangkalahatang optimistikong pananaw sa potensyal ng AI sa agham, kalusugan, at edukasyon.
Isang panayam sa Associated Press na inilathala noong unang bahagi ng linggo ang nakakuha ng balanseng iyan: Itinaguyod ni Gates ang "matalinong paggamit" ng AI at mas representatibong datos ng pagsasanay kahit na nanawagan siya para sa mas matibay na mga proteksyon. Mahalaga ang kombinasyong iyan dahil ang pagpili ng patakaran ay hindi lamang pagpapabilis o pagbabawal. Ito ay kung ang mga sistemang may mataas na kakayahan ay dapat humarap sa maipapatupad na mga obligasyon sa pagsubok, pagsubaybay, at pag-uulat ng insidente bago sila mabigyan ng malawak na access sa mga sensitibong network.
Ang susunod na hakbang ay nangangailangan ng mga detalye
Ang mga komento ni Gates ay nagpapataas ng presyon sa Kongreso ngunit hindi nito nareresolba ang mga mahihirap na tanong sa disenyo. Ang mga epektibong patakaran ay mangangailangan ng masusukat na mga limitasyon, teknikal na may kakayahang pangangasiwa, at proteksyon laban sa mga pamantayan na nagpapatigil sa mga kasalukuyang nangunguna sa merkado. Ang internasyonal na koordinasyon ay magiging mahalaga, ngunit ang mga lokal na kinakailangan ay maaaring magsimula sa malinaw na pag-uulat ng insidente, mga independiyenteng pagsusuri, at mga kontrol sa pag-access para sa mga sistemang inilalagay sa mga kritikal na kapaligiran.
Ipinakita ng paglabag noong Hulyo na maaaring matuklasan ng mga advanced na ahente ang mga hindi inaasahang landas sa pamamagitan ng totoong imprastraktura kahit na sa panahon ng pinangangasiwaang pagsubok. Ang pagsubok sa patakaran ay kung magagawa ng gobyerno na gawing mga nakatutok na obligasyon ang babalang iyon nang hindi hinaharangan ang mga kapaki-pakinabang na paggamit. Naipakita na ngayon ni Gates ang pampulitikang argumento para sa aksyon; dapat tukuyin ng mga mambabatas at mga teknikal na ahensya kung ano ang ibig sabihin ng aksyon.
