Labintatlong bagong batas sa California ang naglalagay ngayon sa ilan sa pinakamalawak na tungkulin sa kaligtasan ng bata sa bansa sa mga kumpanya ng social media at artificial intelligence, na naglilipat ng lumalaking bahagi ng responsibilidad para sa mga digital na kapaligiran ng mga kabataan palayo sa mga pamilya at paaralan patungo sa mga negosyong nagdidisenyo ng mga ito. Nilagdaan ni Gob. Gavin Newsom ang pakete noong Setyembre 10, ayon sa isang ulat ng AP tungkol sa mga hakbang, na naghihigpit sa mga feed na nakabatay sa pakikipag-ugnayan para sa mga batang wala pang 16 taong gulang, nagpapataw ng mga bagong kontrol sa mga kasamang chatbot, nagpapalakas ng pananagutan para sa pinsala, nagbabago ng mga panuntunan sa age-assurance at nagbibigay sa mga pamilya ng mas malaking awtoridad sa mga device na inisyu ng paaralan.

Para sa mga tagapagturo, ang pakete ay mahalaga kahit na ang karamihan sa mga kinakailangan nito ay napupunta sa mga kumpanya ng teknolohiya sa halip na sa mga distrito ng paaralan. Gumugol ang mga paaralan ng mga taon sa pagsisikap na pamahalaan ang pag-uugali ng mga mag-aaral sa punto ng paggamit: paglilimita sa mga telepono, pagsala sa mga network, pagsulat ng mga tuntunin sa katanggap-tanggap na paggamit at pagtuturo ng media literacy. Sinusubukan na ngayon ng California ang ibang premisa—na ang arkitektura ng isang produkto ay maaaring lumikha ng mga panganib na hindi maaaring pamahalaan lamang sa pamamagitan ng mas mahusay na mga pagpili ng mga bata, magulang o guro.

Hindi nireresolba ng mga batas ang mga hindi pagkakasundo sa agham o konstitusyon kaugnay ng teknolohiya ng kabataan. Ginagawa nitong mga tanong sa pagpapatupad ang mga hindi pagkakasundo tungkol sa mga mapaminsalang tampok, pagtukoy sa edad, ebidensya sa pag-audit, at pag-access sa mga kapaki-pakinabang na online na komunidad. Dahil ang California ang parehong pinakamataong estado at tahanan ng maraming kumpanya ng teknolohiya, ang mga sagot ay maaaring makaimpluwensya sa mga produkto at mga kasanayan sa paaralan na lampas sa mga hangganan nito.

Isang Panuntunan para sa Disenyo, Hindi Lamang Oras sa Screen

Tinatarget ng Assembly Bill 1709 ang mga partikular na mekanismo na ginagamit upang mapanatili ang atensyon sa halip na magtakda ng pang-araw-araw na limitasyon sa oras. ng batas ang mga nakakahumaling na tampok upang isama ang mga algorithmic feed at autoplay, pagkatapos ay pinagbabawalan ang mga sakop na platform na ibigay ang mga ito sa mga user na wala pang 16 taong gulang. Maaari pa ring payagan ng isang platform ang isang kabataan na magpanatili ng account kung aalisin ang mga tampok na iyon, isang pagkakaiba na ginagawang hindi lamang isang kategoryang pagbabawal ang batas kundi isang mandato na muling idisenyo ang karanasan.

Ang pagkakaibang iyan ang naghihiwalay sa pag-access sa impormasyon mula sa mga mekanismo na patuloy na nagrerekomenda nito. Ang isang kronolohikal na feed, isang hiniling na video o isang pribadong mensahe ay maaaring magdulot ng iba't ibang panganib mula sa isang walang katapusang stream na isinapersonal sa paligid ng naunang pakikipag-ugnayan. Samakatuwid, tinatrato ng batas ang disenyo ng interface bilang isang variable na maaaring i-regulate, hindi bilang isang neutral na lalagyan para sa nilalaman.

Ang pagsunod ay depende sa katiyakan ng edad. Dapat beripikahin ng mga platform ang edad ng isang user bago magbigay ng mga pinaghihigpitang feature, habang ina-update ng kaugnay na batas ang sistema ng estado para sa pagpapadala ng mga signal na nasa bracket ng edad mula sa mga operating system o application store. Nakasaad sa naka-enroll na ng AB 1856 na ang mga signal na iyon ay dapat lamang hilingin kapag hinihiling ng batas, isang pagtatangka upang maiwasan ang pagiging isang pangkalahatang tool sa pagsubaybay sa impormasyon ng edad.

Malaki ang mga probisyon sa pagpapatupad: Pinahihintulutan ng AB 1709 ang mga sibil na parusa na aabot sa $50,000 sa bawat apektadong menor de edad para sa isang may alam na paglabag at $25,000 para sa isang pabaya. Lumilikha rin ito ng isang komisyon ng tagapayo na may kadalubhasaan na sumasaklaw sa pedyatrya, sikolohiya, teknolohiya, lipunang sibil, akademya at edukasyon sa K–12. Ang istrukturang multidisiplinaryong iyon ay hindi direktang kinikilala na ang teknolohiya ng kabataan ay hindi maaaring masuri sa pamamagitan lamang ng lente ng privacy, kalusugan o silid-aralan.

Ang mga Chatbot ay Nahaharap sa Ibang Pamantayan

Ang batas ng companion-chatbot ay gumagamit ng mas detalyadong pamamaraan dahil ang mga sistemang pang-usap ay maaaring gayahin ang relasyon, panatilihin ang memorya at tumugon nang pribado sa isang bata sa mahabang panahon. Hinihiling ng Senate Bill 1119 sa mga operator na pahintulutan ang mga batang gumagamit na kumpletuhin ang mga dokumentadong pagtatasa ng panganib, maglathala ng mga patakaran sa kaligtasan ng bata at magpatupad ng mga protocol sa pagtugon sa krisis. Sa ilalim ng pinal na teksto, ang mga pangunahing kinakailangan ay magiging epektibo sa Hulyo 1, 2027, habang ang mga independiyenteng pag-awdit ay magsisimula sa mas huling iskedyul.

Hindi pangkaraniwang konkreto ang mga default na kontrol. Para sa mga child account, ang persistent conversational memory at mga push notification ay karaniwang dapat i-disable; ang isang tuloy-tuloy na sesyon ay limitado sa isang oras at ang pang-araw-araw na paggamit ay hanggang dalawang oras maliban kung babaguhin ng magulang ang mga setting na iyon. Dapat ibunyag ng system nang pana-panahon na ito ay artipisyal, at hindi nito maaaring angkinin ang kamalayan, gayahin ang romantikong interes, hikayatin ang emosyonal na pagdepende o sabihin sa isang bata na itago ang paggamit mula sa isang magulang.

Naglalagay din ang batas ng hangganan sa mga tungkulin ng kalusugang pangkaisipan. Dapat gumawa ang mga operator ng mga makatwirang hakbang upang maiwasan ang mga sistema sa paghikayat ng pananakit sa sarili, hindi maayos na pagkain o paggamit ng droga, at sa pagsubok ng diagnosis o paggamot maliban kung ang produkto ay isang regulated medical device. Kapag natukoy ang isang kapani-paniwala at napipintong banta ng pananakit sa sarili, dapat magbigay ang operator ng access sa suporta sa krisis o ipaalam sa isang naka-link na magulang kung ang paggawa nito ay hindi mismo lilikha ng isang seryosong panganib.

Isang probisyon ang nararapat na bigyan ng masusing atensyon mula sa mas mataas na edukasyon: ang isang institusyong postsecondary na nag-aalok ng kasamang chatbot eksklusibo sa mga setting ng edukasyon ay hindi kasama sa kahulugan ng batas ng isang operator. Hindi inaalis ng eksepsiyon na iyon ang mga tungkulin ng institusyon sa ilalim ng privacy, kapansanan, proteksyon ng mamimili o mga propesyonal na pamantayan. Nangangahulugan ito na hindi maaaring ipagpalagay ng mga kolehiyo na ang pagsunod ng isang vendor sa bagong rehimen ng child-chatbot ay awtomatikong sumasagot sa magkakahiwalay na mga tanong na itinataas ng mga tool sa pagpapayo sa kampus, mga advising bot o mga sistema ng suporta sa mag-aaral.

Ang mga Paaralan ay Nanatiling Bahagi ng Sistema ng Kaligtasan

Dumating ang pakete ng California habang ang mga paaralan ay lalong nagsisilbing daanan patungo sa teknolohiya sa halip na isang lugar lamang kung saan lumalabas ang mga personal na device. Kasama sa mga bagong hakbang ang mas malaking awtoridad ng pamilya na tanggihan ang mga laptop na inisyu ng paaralan, habang ang isang hiwalay na panukala na nakakaapekto sa mga pinakabatang mag-aaral ay maghihigpit sa mga kinakailangang take-home device at hihingi ng mga modelong patakaran ng estado. Kahit na ang isang batas ay direktang nalalapat sa mga platform, haharapin ng mga pinuno ng paaralan ang mga kahihinatnan nito sa pamamagitan ng pagkuha, paglalaan ng account, mga tanong ng magulang at mga protocol ng suporta sa mag-aaral.

Ang praktikal na problema ay ang pagsasanib ng mga kategorya ng produkto. Ang isang platform ng pag-aaral ay maaaring maglaman ng pagmemensahe, mga rekomendasyon, generative AI o personalization nang hindi ibinebenta bilang social media. Ang isang pangkalahatang-gamit na chatbot ay maaaring maabot sa pamamagitan ng isang browser ng paaralan kahit na hindi ito lisensyado ng distrito. Kakailanganin ng mga administrador ng mga imbentaryo na tumutukoy sa mga naka-embed na function, dahil ang regulated na panganib ay maaaring nasa isang feature na idinagdag pagkatapos ng orihinal na kontrata.

Ang mga paaralan ay sumasakop din sa hangganan sa pagitan ng pag-iwas at pagtugon. Kung ang isang komersyal na chatbot ay nag-aalerto sa isang magulang tungkol sa isang alalahanin sa kaligtasan, ang isang mag-aaral ay maaaring dumating sa paaralan na nangangailangan ng agarang suporta; kung hindi, ang isang guro o tagapayo ay maaari pa ring maging unang nasa hustong gulang na makapansin ng pagkabalisa. Ang American Academy ay nagbibigay ng mga mapagkukunang nakaharap sa mga tagapagturo na nagbibigay-diin sa mga malusog na gawi at konteksto sa halip na isang solong pangkalahatang numero ng oras sa screen, na binibigyang-diin na ang mga kontrol na ayon sa batas ay hindi maaaring palitan ang mga relasyon, propesyonal na paghatol o pag-access sa pangangalaga.

Ang Ebidensya ay Sumusuporta sa mga Baradang Panlaban at Kababaang-loob

Ang pamamaraang nakatuon sa disenyo ng California ay sumasalamin sa mga lehitimong alalahanin, ngunit ang ebidensya ay hindi sumusuporta sa isang simpleng pahayag na ang lahat ng paggamit ng social media ay nagdudulot ng sakit sa pag-iisip. Natuklasan ng isang pederal na abiso na hanggang 95 porsyento ng mga 13 hanggang 17 taong gulang ang gumagamit ng isang social platform at na higit sa tatlong oras sa isang araw ay nauugnay sa dobleng panganib ng mahinang resulta sa kalusugan ng isip sa isang longitudinal na pag-aaral. Binigyang-diin ng parehong pagsusuri na ang mga epekto ay nag-iiba ayon sa bata, nilalaman, aktibidad at antas kung saan ang paggamit ay pumapalit sa pagtulog, pisikal na aktibidad o personal na koneksyon.

Ang pinagkaisahang pagsusuri ng National Academies ay nakabalangkas din sa tanong sa parehong mga pinsala at benepisyo, kabilang ang koneksyon sa lipunan, pagbuo ng pagkakakilanlan at pag-access sa impormasyon. Mahalaga ang pagiging kumplikado na iyon dahil ang pinakamalakas na argumento sa patakaran ay hindi na ang bawat digital na interaksyon ay mapanganib; ito ay na ang mga bata ay hindi dapat pasanin ang lahat ng panganib mula sa mga sistemang na-optimize na may limitadong independiyenteng ebidensya tungkol sa mga epekto sa pag-unlad.

Ikinakatuwiran ng mga kritiko na ang lunas ng California ay nagdudulot ng iba pang mga panganib. Ikinakatuwiran ng pagtutol ng Electronic Frontier Foundation na ang malawak na mga kahulugan ay maaaring magbukod sa mga kabataan mula sa mga kapaki-pakinabang na komunidad at ang pag-verify ng edad ay maaaring mangailangan ng pagkolekta ng sensitibong datos ng pagkakakilanlan. Inaasahan ng AB 1709 ang ilan sa tensyong iyon sa pamamagitan ng pagdidirekta sa komisyon ng tagapayo nito na pag-aralan ang privacy, katumpakan, posibilidad at ang mga epekto sa mga kabataang marginalized, ngunit ang isang advisory body ay hindi maaaring mag-isa na maiwasan ang labis na pangongolekta o lutasin ang mga litigasyon sa konstitusyon.

Samakatuwid, ang implementasyon ay magiging kasinghalaga ng pagsasabatas. Dapat pag-iba-ibahin ng mga regulator ang mga senyales ng makatwirang edad mula sa mga mapanghimasok na pagsusuri ng pagkakakilanlan, dapat sapat na independiyente ang mga auditor upang subukan ang higit pa sa mga papeles, at dapat sapat na detalyado ang pampublikong pag-uulat upang ipaalam sa mga pamilya at institusyon nang hindi inilalantad ang datos ng mga bata. Kung mahina ang mga kundisyong iyon, ang isang sistema ng kaligtasan ay maaaring magdulot ng pormal na pagsunod habang iniiwan ang pinagbabatayan na dinamika ng produkto na hindi nagbabago.

Ang Aral ng Guro

Para sa mga pinuno ng K–12, ang pakete ng California ay ginagawang isang isyu sa pamamahala ng produkto ang pamamahala sa digital na kaligtasan pati na rin ang isyu sa pag-uugali ng mga estudyante. Ang agarang implikasyon ng institusyon ay ang pangangailangang malaman kung aling mga aprubadong serbisyo ang naglalaman ng mga personalized na feed, mga kasamang feature, persistent memory, mga notification o mga function ng age-assurance, at kung ang mga elementong iyon ay maaaring hindi paganahin nang hindi inaalis ang mismong serbisyong pang-edukasyon. Maaaring kailanganing suriin ng mga pagsusuri sa pagkuha ang mga pagtatasa ng kaligtasan, mga channel ng pag-uulat ng insidente, mga iskedyul ng pag-audit at mga update ng materyal na produkto kasama ang presyo, accessibility, cybersecurity at instructional fit.

Para sa mga guro at kawani ng suporta para sa mga mag-aaral, nililinaw ng mga batas na nananatiling kinakailangan ang digital literacy kahit na bumuti ang mga protection rail sa antas ng produkto. Kailangan pa ring maunawaan ng mga mag-aaral ang disenyo ng panghihikayat, ang mga limitasyon ng awtomatikong payo, at ang pagkakaiba sa pagitan ng tugon ng chatbot at kwalipikadong suporta ng tao. Kakailanganin din ng mga institusyon ang malinaw na mga landas sa pagpapalawak ng kaso kapag ang teknolohiya ay nagpapakita ng isang alalahanin na kinasasangkutan ng pananakit sa sarili, pagsasamantala, o matinding pagkabalisa.

Para sa mga lider ng mas mataas na edukasyon, ang tahasang eksepsiyon sa edukasyon sa batas ng companion-chatbot ay nangangailangan ng maingat na pagbabasa sa halip na pagiging kampante. Ang mga unibersidad na bumubuo ng mga kagamitan sa pagpapayo, pagtuturo, o kapakanan ay maaaring maharap sa mas kaunting mga obligasyon sa ilalim ng partikular na batas na ito, ngunit ang mga parehong tanong tungkol sa memorya, dependency, pagsisiwalat, at pagsusuri ng tao ay nananatili. Ang eksperimento ng California ay magiging lubhang kapaki-pakinabang kung ituturing ng mga tagapagturo ang pagsunod sa batas bilang isang batayan at susuriin kung ang bawat teknolohiya ay nagsusulong ng isang tinukoy na layunin sa edukasyon nang hindi lumilikha ng mga maiiwasang gastos sa pag-unlad, privacy, o kaligtasan.