Nagbukas ang mga pederal na regulator ng kaligtasan ng isang imbestigasyon sa pagkamatay ng isang drayber ng Tesla Model S na ang sasakyan ay tumatakbo sa Autopilot, ang unang kilalang nakamamatay na banggaan na kinasasangkutan ng partial-automation system ng kumpanya at isang malinaw na pagsubok kung paano nauunawaan ng mga drayber, tagagawa, at gobyerno ang teknolohiyang maaaring magmaneho ngunit hindi maaaring palitan ang atensyon ng tao.

Ang banggaan noong Mayo 7 sa Williston, Florida, ay ikinamatay ng 40-taong-gulang na si Joshua Brown nang lumiko pakaliwa ang isang tractor-trailer sa dinaraanan ng Tesla. Ayon sa pagsisiwalat ng Tesla noong Huwebes, hindi nagpreno ang drayber o ang Autopilot dahil nabigo ang sistema na makilala ang puting bahagi ng trailer mula sa maliwanag na kalangitan. Dumaan ang kotse sa ilalim ng trailer.

Sinimulan na ng National Highway Traffic Safety Administration ang isang paunang pagsusuri na sumasaklaw sa humigit-kumulang 25,000 sasakyang Model S. Sinabi ng ahensya na susuriin ng imbestigasyon ang disenyo at pagganap ng mga automated-driving system na ginagamit sa panahong iyon; ang pagbubukas ng imbestigasyon ay hindi nangangahulugan na may natuklasang depekto ang mga regulator.

Isang sistemang idinisenyo upang tulungan, hindi palitan, ang drayber

Pinagsasama ng Autopilot ang mga camera, radar, ultrasonic sensor, at digital mapping upang mapanatili ang isang lane, mapamahalaan ang bilis, at makapagpalit ng lane sa ilalim ng direksyon ng drayber. Ipinakilala ng Tesla ang mga feature sa pamamagitan ng isang software update noong nakaraang Oktubre, isang hindi pangkaraniwang modelo ng pag-deploy na nagbigay sa mga kasalukuyang sasakyan ng mga bagong kakayahan nang hindi na kailangang bumisita sa isang service center.

Hindi awtonomiya ang sistema. Kinakailangan ng Tesla na panatilihing nakahawak ang mga kamay ng mga drayber sa manibela at manatiling handa na kontrolin ito. Tumataas ang mga babala na nakikita at naririnig kung hindi matukoy ng sasakyan ang input mula sa manibela. ng manwal ng may-ari ng Model S ang Autosteer bilang isang beta feature na inilaan para sa mga highway at nagbabala laban sa paggamit sa mga kalyeng may mga interseksyon o hindi mahuhulaan na trapiko.

Ang pagkakaibang iyan ay malinaw sa teknikal na aspeto ngunit hindi matatag sa pag-uugali. Ang isang sistemang kayang kontrolin ang isang sasakyan sa mahabang panahon ay maaaring hikayatin ang mga drayber na ituring ang pangangasiwa bilang opsyonal, lalo na kapag ito ay gumagana nang maaasahan sa halos lahat ng oras. Ang automation ay maaaring mabawasan ang workload habang ginagawang mas mahirap din ang bihirang pangangailangan para sa agarang interbensyon dahil ang tao ay naitulak palabas ng control loop.

Inilalantad ng pagbagsak ang hangganan ng persepsyon ng makina

Ang banggaan sa Florida ay nagpapakita ng isang mahirap na sitwasyon sa paningin: isang malaking puting trailer na tumatawid sa isang maliwanag na background. Sinabi ni Tesla na ang taas ng trailer at ang posisyon nito sa kabila ng kalsada ay nakadagdag sa tindi ng banggaan. Dapat uriin ng mga sistema ng radar at camera ang mga bagay, hulaan ang paggalaw at magpasya kung kinakailangan ang pagpreno nang hindi mapanganib na nagre-react sa mga tulay, karatula, at iba pang istruktura sa itaas.

Iniulat ng Reuters na ang paunang impormasyon ay nagpakita ng pagliko ng tractor-trailer sa isang interseksyon sa isang malinis at tuyong kalsada. Kakailanganin ng mga imbestigador ang mga tala ng sasakyan, datos ng sensor at pisikal na ebidensya upang matukoy ang bilis, input ng drayber, mga babala at ang eksaktong tugon ng bawat subsystem.

Itinatampok din ng kaso kung bakit mahalaga ang terminong "Autopilot". Ginagamit ito ng Tesla bilang paghahambing sa abyasyon, kung saan ang mga automated system ay nangangailangan pa rin ng mga sinanay na piloto. Maaaring makarinig ng mas malakas na pangako ang mga ordinaryong drayber. Paulit-ulit na sinasabi ng kumpanya na dapat manatiling responsable ang mga drayber, ngunit ang mga pangalan ng produkto, mga demonstrasyon, at ang karanasan ng paglalakbay nang walang paligoy-ligoy ay maaaring humubog sa mga inaasahan nang kasinglakas ng mga babala.

Ang regulasyon ay nahuhuli sa software

ng NHTSA para sa automation ng sasakyan ay nagpapaiba sa mga tampok ng tulong sa pagmamaneho mula sa mga sistemang may kakayahang isagawa ang buong gawain sa pagmamaneho. Ang Autopilot ay kabilang sa unang kategorya: kinokontrol nito ang pagpipiloto at bilis sa ilalim ng limitadong mga kondisyon, habang sinusubaybayan ng tao ang kapaligiran.

Ang tradisyonal na regulasyon sa sasakyan ay nakaayos batay sa mga pisikal na bahagi at depekto. Ang kilos na kontrolado ng software ay mas mabilis na nagbabago, maaaring ma-update sa himpapawid, at nakadepende sa interaksyon ng mga sensor, code, kondisyon ng kalsada, at paggamit ng tao. Samakatuwid, dapat itanong ng imbestigasyon hindi lamang kung ang isang bahagi ay may sira, kundi pati na rin kung ang mga limitasyon at babala ng sistema ay makatwirang idinisenyo para sa mahuhulaang kilos ng drayber.

Ayon sa Tesla, ang mga kostumer ay nakapagmaneho na ng mahigit 130 milyong milya habang ginagamit ang Autopilot at inihahambing ang nag-iisang pagkamatay sa isang pagkamatay dahil sa trapiko sa US na humigit-kumulang bawat 94 milyong milya. Ang paghahambing na iyon ay paunang pagsusuri lamang at hindi makapagtatatag ng relatibong kaligtasan dahil ang mga milya ng Autopilot ay nakatuon sa mga kalsada at mga kondisyon na naiiba sa pambansang average, at dahil ang datos ng paggamit ay hindi pa nasusuri nang hiwalay.

Isang kontemporaryong teknikal na ulat ng Wired ang nagsasaad na ang mabilis na paglulunsad ng Tesla ay naiiba sa mas konserbatibong paglulunsad na pinaplano ng mga tradisyunal na tagagawa ng sasakyan. Ang bilis na iyon ay nagbubunga ng data at mga pagpapabuti sa totoong mundo nang mas mabilis, ngunit inililipat din nito ang higit na kapaligiran sa pagsubok sa mga customer.

Ang transparency ang magtatakda ng tiwala sa bahagyang automation

Ang pagkamatay ay hindi patunay na ang automated driving ay hindi gaanong ligtas kaysa sa pagmamaneho ng tao. Ang pagkakamali ng tao ay nakadaragdag sa karamihan ng mga banggaan, at ang mahusay na dinisenyong tulong ay maaaring makaiwas sa marami sa mga ito. Ang automatic emergency braking, lane support, at mga babala sa banggaan ay nag-aalok na ng mga benepisyo nang hindi nangangailangan ng ganap na awtonomiya.

Ngunit ang pag-unlad ay nakasalalay sa tumpak na paglalarawan ng kakayahan at limitasyon. Ang taxonomy ng automation ng Society of Automotive Engineers ay naghihiwalay sa mga sistemang tumutulong sa isa o higit pang mga kontrol mula sa mga nagmomonitor sa kapaligiran sa pagmamaneho. Kinakailangan pa rin ng Autopilot ang driver na magsagawa ng pagsubaybay na iyon. Ang pampublikong lengguwahe na nagpapalabo sa mga antas na iyon ay maaaring mag-udyok ng maling paggamit kahit na tumpak ang mga legal na babala.

Ang pamamaraan ng Tesla ay nagtataas din ng mga katanungan tungkol sa pag-access sa data. Maaaring makuha ng kumpanya ang detalyadong mga log ng sasakyan at i-update ang software nang malayuan, na nagbibigay dito ng hindi pangkaraniwang pananaw sa mga insidente. Kailangan ng mga regulator ng sapat na access upang i-verify ang mga pahayag ng kumpanya at tukuyin ang mga pattern sa mga pagbangga at muntik nang aksidente. Kailangan ng mga drayber ng malinaw na abiso tungkol sa kung anong impormasyon ang naitala at kung paano ito ginagamit.

Ang programa sa kaligtasan ng mga automated-vehicle ng NHTSA ay naghikayat ng inobasyon habang bumubuo ng patakaran para sa mga sistemang lalong may kakayahan. Susubukin ng imbestigasyon sa Florida kung sapat na ang mga umiiral na kagamitan kapag ang software ay mas mabilis na nagbabago kaysa sa mga pormal na patakaran.

Ang agarang imbestigasyon ay tututok sa isang kotse, isang trak, at isang interseksyon. Ang mas malawak na kahalagahan nito ay nakasalalay sa milyun-milyong hinaharap na paglilipat sa pagitan ng mga tao at mga makina. Ang bahagyang automation ay sumasakop sa pinakamahirap na gitnang lugar: sapat ang kakayahang magbigay ng inspirasyon sa kumpiyansa, sapat ang limitasyon upang mangailangan ng pagbabantay. Ang kaligtasan ng transisyon na iyon ay nakasalalay hindi lamang sa kung ang mga sensor ay bumubuti, kundi pati na rin sa kung ang teknolohiya ay idinisenyo batay sa kung paano talaga kumikilos ang mga tao kapag ang isang makina ay tila nagmamaneho para sa kanila.