Ang bagong kasunduan sa kaligtasan ng artificial-intelligence ng White House ay humihiling sa anim na pangunahing kumpanya ng teknolohiya na gumamit ng mga internal control, mga panlabas na auditor, at pangangasiwa ng board para sa kanilang mga pinaka-advanced na sistema. Ang hindi nito ibinibigay ay isang parusa, regulator, o iskedyul ng pampublikong pag-uulat kung ang isang kumpanya ay hindi susunod dito. Ang pagkakaibang iyon ang naghihiwalay sa isang shared safety blueprint mula sa isang maipapatupad na pederal na pamantayan at nag-iiwan sa praktikal na epekto ng kasunduan na nakadepende sa boluntaryong pag-uugali ng korporasyon.
Ang kakulangang iyan ang pangunahing tanong sa patakaran na itinaas ng isang-pahinang kasunduan na nilagdaan ni Pangulong Donald Trump at ng mga ehekutibo mula sa Google, Anthropic, Meta, OpenAI, xAI at Nvidia. Isang pagsusuri ng Reuters na inilathala noong Sabado ang walang nakitang nakasaad na konsekwensya para sa hindi pagsunod, kahit na inihaharap ng administrasyon ang kasunduan bilang sagot nito sa tumataas na pag-aalala ng publiko tungkol sa advanced AI. Tinawag ni Trump ang pangakong ito na "morally binding."
Ang kasunduan ay mas espesipiko kaysa sa isang pangkalahatang pangako na kikilos nang responsable. Ang apat na bahaging balangkas ay humihingi ng mga kontrol na sumusubaybay sa mga kakayahan at pagkakahanay ng modelo sa panahon ng pagsasanay at pag-deploy; isang panloob na pangkat na inatasang suriin ang mga kontrol na iyon; isang independiyenteng panlabas na auditor o evaluator; at isang independiyenteng komite ng lupon na tumatanggap ng mga ulat at tinitiyak na naitama ang mga problema.
Ngunit hindi tinukoy ng teksto kung aling mga modelo ang sakop, nagtatakda ng mga deadline, nangangailangan ng paglalathala ng mga natuklasan sa audit o tumutukoy kung sino ang magtatakda kung ang isang panlabas na tagasuri ay tunay na independiyente. Sinasabi nito na ang mga kumpanya ay regular na magpupulong upang magtatag ng mga pamantayan at pinakamahuhusay na kasanayan at kinikilala na ang mga hakbang ay maaaring kalaunan ay maisama sa batas o regulasyon. Sa ngayon, ang pakikilahok at pagsunod ay nananatiling boluntaryo.
Isang istrukturang pangkaligtasan na walang tagahatol
Ang pinakamalakas na katangian ng kasunduan ay ang patong-patong na istruktura nito. Maaaring matukoy ng mga panloob na teknikal na kontrol ang mapanganib na pag-uugali habang binubuo; maaaring subukan ng isang hiwalay na panloob na pangkat kung gumagana ang mga kontrol na iyon; maaaring hamunin ng isang panlabas na tagasuri ang mga palagay ng kumpanya; at maaaring humingi ng remediation ang mga direktor. Sa prinsipyo, ipinamamahagi nito ang responsibilidad sa halip na iwan ang kaligtasan nang buo sa parehong mga inhinyero na nagmamadaling maglabas ng isang produkto.
Ang kahinaan ay ang bawat patong ay nakasalalay pa rin sa kooperasyon ng kumpanya. Ang panlabas na tagasuri ay pinipili sa pamamagitan ng isang pakikipagsosyo ng kumpanya, ang mga ulat ay dumadaloy sa isang komite ng lupon ng kumpanya, at ang kasunduan ay hindi lumilikha ng isang pederal na tanggapan na may kapangyarihang siyasatin ang ebidensya o magpataw ng aksyong pagwawasto. ng pag-uulat ng Associated Press mula sa kaganapan sa White House na kahit ang ilang mga kalahok ay itinuring ang mekanismo bilang hindi pa tapos. Sinabi ng punong ehekutibo ng Anthropic na si Dario Amodei na ang teknolohiya ay nagdudulot ng mga totoong panganib ngunit ang pamamaraan para sa pagtugon sa mga ito ay nananatili pa ring pinag-uusapan.
Ikinakatuwiran ng administrasyon na maaaring tugunan ng mga umiiral na awtoridad ang maling pag-uugali at ang regulasyon ay maaaring magpabagal sa inobasyon ng Amerika kumpara sa Tsina. Itinuro ng mga tagapayo ang batas sa seguridad at iba pang legal na kagamitan bilang mga potensyal na kahihinatnan kapag binalewala ng mga kumpanya ang mga problema. Gayunpaman, ang mga batas na iyon ay karaniwang gumagana sa pamamagitan ng mga itinatag na legal na tungkulin at pagpapatupad pagkatapos ng pangyayari; ang kasunduan mismo ay hindi nagpapalawak sa mga ito o nagtatatag ng preventive licensing.
Ang kasunduan ay akma sa isang mas malawak na boluntaryong estratehiya
Ang pamamaraan ay naaayon sa naunang patakaran ng administrasyon. Isang utos ehekutibo noong Hunyo ang nag-utos sa mga ahensya na lumikha ng isang boluntaryong balangkas kung saan maaaring bigyan ng mga developer ang pederal na pamahalaan ng maagang pag-access sa mga modelo ng sakop na hangganan. Hayagan ang nakasaad sa utos na hindi ito dapat basahin bilang paglikha ng mandatory licensing, preclearance o permit para sa mga bagong modelo.
Ang pambansang balangkas ng lehislatura ng White House ay nananawagan din para sa isang pare-parehong pederal na patakaran, mga hakbang laban sa mga panloloko na pinapagana ng AI at mga panganib sa pambansang seguridad, at mas kaunting mga hadlang sa inobasyon. Nagbabala ito na ang magkakasalungat na batas ng estado ay maaaring makasira sa kakayahang makipagkumpitensya ng US. Ang resulta ay isang pare-parehong kagustuhan para sa pambansang koordinasyon at mga pribadong kontrol kaysa sa iniresetang pederal na pagsusuri.
Ang pilosopiyang iyan ngayon ay nahaharap sa isang pagsubok sa kredibilidad. Natuklasan sa isang kamakailang survey ng Reuters/Ipsos na 73% ng mga Amerikano ang nag-aalala na ang mga kumpanya ng AI ay hindi pa sapat ang nagawa upang maiwasan ang malubhang pinsala sa lipunan, habang 55% ang nagsabing ang pagbagal ng pag-unlad ay magiging mabuti. Hindi pinatutunayan ng botohan na mas gusto ng mga botante ang anumang partikular na modelo ng regulasyon, ngunit ipinapakita nito na ang mga katiyakan mula sa industriya lamang ay hindi nakalutas sa pagkabalisa ng publiko.
Ano ang magiging dahilan upang masukat ang pangako
Ang kasunduan ay maaaring maging mas makabuluhan nang hindi agad nagiging isang komprehensibong sistema ng paglilisensya. Maaaring tukuyin ng mga tagagawa ng patakaran ang mga modelo ng hangganan na maaaring repasuhin, magtatag ng mga minimum na kwalipikasyon at mga tuntunin sa tunggalian para sa mga tagasuri, humiling ng mga istandardisadong buod ng mga natuklasan sa pag-audit, magtakda ng mga deadline ng remediation at magtalaga ng isang ahensya upang makatanggap ng kumpidensyal na teknikal na ebidensya. Maaari ring tukuyin ng Kongreso kung aling mga pagkabigo ang lilikha ng legal na pananagutan.
Ang mga pagpipiliang iyon ay may mga kompromiso. Ang pampublikong pagsisiwalat ay maaaring maglantad ng mga kahinaan sa seguridad o impormasyong pagmamay-ari. Ang isang makitid na listahan ng mga aprubadong auditor ay maaaring lumikha ng mga bottleneck at pabor sa pinakamalalaking kumpanya. Ang mga limitasyon ng modelo ay maaaring mabilis na maging lipas na habang nagbabago ang mga pamamaraan ng pag-compute. Samakatuwid, ang epektibong pangangasiwa ay mangangailangan ng kumpidensyal na pag-uulat, teknikal na kadalubhasaan at pana-panahong mga pag-update sa halip na isang nakapirming checklist.
Sa ngayon, ang kasunduan ay pinakamahusay na inuunawa bilang isang template ng pamamahala, hindi isang rehimen ng regulasyon. Inilalagay nito ang independiyenteng pag-awdit at pananagutan ng lupon sa adyenda ng patakaran ng pederal at sinisiguro ang mga nakasulat na pangako mula sa anim na makapangyarihang kumpanya. Hindi nito sinasabi sa publiko kung paano beripikahin ang pagsunod o kung ano ang mangyayari kapag ang isang lumagda ay hindi nagtagumpay. Kung ang pagiging makabuluhan ng kasunduan ay hindi gaanong nakasalalay sa mga pangako nito kundi sa mga pamantayan, pagsisiwalat, at arkitektura ng pagpapatupad na kasunod.
