AI Ethics Wrestling Sa Hindi Maiiwasang Mga Aksidente sa AI, Na Nakikita rin sa Mga Autonomous Self-Driving na Kotse

Marahil ay may kakilala ka na tila madaling aksidente?

Parang lahat tayo.

Marahil ang tao ay ganoong uri na madaling madulas sa balat ng saging o kumatok sa isang mahalagang plorera sa iyong sala. Sila ay isang magnet ng tao para sa mga aksidente ng isang uri o iba pa. Ito ay maaaring napakasama na kahit na ayaw mong maging malapit sa kanila minsan. Maaari kang makakuha ng nagbabantang pag-apaw o magdusa sa karumal-dumal na resulta ng isa sa kanilang mga hindi magandang aksidente.

Ngunit marahil tayo ay labis na malupit kapag nagmumungkahi na ang sinuman ay mas predisposed sa mga aksidente kaysa sa iba. Maaaring gumawa ng argumento na maaaring mangyari ang mga aksidente sa sinuman sa atin. Lahat tayo ay napapailalim sa posibilidad na gumawa o masangkot sa isang aksidente. Kasama ang pinakamahusay sa amin.

Itambak natin sa ibabaw ng talakayang ito ang isang nakakainis na tanong.

Ang mga aksidente ba ay hindi maiiwasan?

Sa madaling salita, kahit gaano pa natin subukang pigilan ang mga aksidente, maaaring hindi mahiwalay na gayunpaman ay mayroon pa ring pagkakataon at isang sukdulang katiyakan na magaganap ang mga aksidente. Maaari mong subukang protektahan ang mundo mula sa mga aksidente. Iyon ay tila walang pagsala. Ngunit sa isang paraan o iba pa, ang mga aksidente ay magbabalik sa kanilang pangit na ulo.

Tulad ng sinasabi nila, ang mga aksidente ay naghihintay na mangyari.

Maaaring makatulong na linawin kung ano ang ibig sabihin sa pamamagitan ng pagtukoy sa ilang kaganapan bilang naaangkop na label bilang isang aksidente. Ang karaniwang kahulugan ng diksyunaryo ay ang isang aksidente ay isang uri ng insidente na nangyayari nang hindi inaasahan at hindi sinasadya, kung saan mayroong isang hindi magandang resulta na binubuo ng isang pagkakahawig ng pinsala o pinsala.

Maingat na i-unpack ang kahulugang iyon.

Ang nasabing insidente ay hindi inaasahan. Ipinahihiwatig nito na tila hindi namin napagtanto na ang aksidente mismo ay lilitaw.

Ang nasabing insidente ay hindi sinasadya. Iminumungkahi nito na dapat nating alisin ang mga pangyayari kung saan sinasadya ng isang tao na mangyari ang insidente. Kung ang isang prankster ay naglalagay ng balat ng saging sa sahig kung saan alam niyang hahantong ang isang malas at walang kamalay-malay na inosente, mahihirapan kang igiit na naaksidente ang taong natisod nito. Sa halip sila ay dinaya at tusong dinala sa isang bitag.

Kasama rin sa kahulugan ang pamantayan na ang resulta ay kapus-palad. Ang isang aksidente sa liwanag na ito ay dapat humantong sa isang maasim na kinalabasan. Ang taong hindi sinasadyang natumba ang isang plorera ay nabasag at posibleng nasira ang masarap na bagay na hindi na naayos. Ang may-ari ng plorera ay napinsala ng pagkawala ng halaga. Ang taong bumangga sa plorera ay maaaring may utang sa may-ari para sa pagkawala. Ipinagbabawal ng langit na maaaring may naputol o natanggal sa pagkabasag ng plorera.

Para sa pantay na balanse, maaari nating tandaan na mayroon ding tinatawag na "magandang" aksidente. Maaaring makita ng isang tao ang kanilang sarili sa malaking kapalaran o makaipon ng ilang iba pang mahahalagang benepisyo dahil sa resulta ng isang aksidente. Ang isa sa pinakamadalas na binanggit na mga halimbawa ay binubuo ni Sir Alexander Fleming at ang kanyang kinikilalang pagtuklas ng penicillin. Kuwento pa, medyo pabaya siya sa kanyang laboratoryo at pagbalik niya mula sa dalawang linggong bakasyon ay nakakita siya ng amag sa isa sa kanyang mga culture plate. Ayon sa ulat, sinabi niya ito tungkol sa bagay na ito: “Nasusumpungan kung minsan ng isa ang hindi hinahanap. Nang magising ako pagkatapos ng madaling-araw noong Setyembre 28, 1928, tiyak na hindi ko binalak na baguhin ang lahat ng gamot sa pamamagitan ng pagtuklas ng unang antibiotic sa mundo, o pamatay ng bakterya. Pero sa tingin ko iyon talaga ang ginawa ko.”

Isasantabi natin ang mga kanais-nais na aksidente at tumutok dito sa mga malungkot na aksidente. Ang nakasimangot na mukha na bersyon ng mga aksidente ay kung saan ang mga masamang resulta ay maaaring maging lalong banta sa buhay o magkaroon ng mabibigat na resulta. Hangga't maaari, ang mga downside na aksidente na gusto naming bawasan (at, siyempre, ang mga nakabaligtad na aksidente na gusto naming i-maximize, kung magagawa iyon, kahit na tatalakayin ko ang variant ng smiley face na iyon sa susunod na column).

Gusto kong bahagyang muling salita ang naunang tanong tungkol sa hindi maiiwasang mga aksidente. Sa ngayon, itinuon namin ang aming pansin sa mga aksidenteng nangyayari sa partikular na pagkakataon ng isang solong tao. Walang alinlangan na ang mga aksidente ay maaari ding makaapekto sa maraming tao nang sabay-sabay. Ito ay maaaring partikular na makatagpo kapag ang mga tao ay nahuhulog sa isang kumplikadong sistema ng isang uri o iba pa.

Ihanda ang iyong sarili para sa isang variant ng dating lumutang na tanong.

Hindi maiiwasan ang mga aksidente sa system?

Dapat nating pag-isipan ito.

Ipagpalagay na ang isang factory floor ay inilatag upang gumawa ng mga bahagi para sa mga kotse. Ang mga nagdisenyo ng pabrika ay sabihin nating labis na nag-aalala tungkol sa mga aksidente sa manggagawa na maaaring mangyari. Ang mga manggagawa sa pabrika ay kinakailangang magsuot ng helmet sa lahat ng oras. Ang mga palatandaan sa pabrika ay humihimok na mag-ingat sa mga aksidente at maging maingat sa iyong trabaho. Ang lahat ng paraan ng pag-iingat ay ginawa upang maiwasan ang mga aksidente na mangyari.

Sa sistemang ito, maaari tayong umasa na walang sinuman ang maaksidente. Naniniwala ka ba na walang posibilidad na magkaroon ng aksidente? Gusto kong maglakas-loob na magmungkahi na walang makatwirang nag-iisip ang tataya na ang pagkakataon ng isang aksidente ay zero sa kasong ito. Maaaring napakababa ng posibilidad na mangyari ang isang aksidente, ngunit alam pa rin natin at ipinapalagay na sa kabila ng lahat ng pag-iingat ay mayroon pa ring kaunting panganib na maganap ang isang aksidente.

Ang lahat ng ito ay tumuturo sa ideya na sa isang sistemang may sapat na pagiging kumplikado ay tiyak na maniniwala tayo na ang mga aksidente ay magaganap pa rin, kahit gaano pa natin sinusubukang pigilan ang mga ito. Atubiling itinataguyod namin ang aming sarili sa takda na ang mga aksidente sa system ay talagang hindi maiiwasan. Ang isang napakagandang pahayag ng kalibreng ito ay maaaring may isang caveat na ang sistema ay kailangang may ilang threshold ng pagiging kumplikado kaya na ito ay mahalagang imposible upang masakop ang lahat ng mga base upang maiwasan ang mga aksidente nang lubusan.

Naipasok ka na ngayon nang maayos na sunud-sunod sa isang malawak na nakabalangkas na teorya tungkol sa mga aksidente na maaaring mamarkahan bilang Normal Accidents o Normal Accident Theory (NAT). Narito ang isang madaling paglalarawan ng mga mananaliksik na nagsuri sa paniwalang ito: “Sa sapat na sukat, anumang sistema ay magbubunga ng 'normal na aksidente'. Ito ay mga hindi maiiwasang aksidente na dulot ng kumbinasyon ng pagiging kumplikado, pagsasama sa pagitan ng mga bahagi, at potensyal na pinsala. Ang isang normal na aksidente ay naiiba sa mas karaniwang mga aksidente sa pagkabigo ng bahagi dahil ang mga kaganapan at pakikipag-ugnayan na humahantong sa normal na aksidente ay hindi nauunawaan ng mga operator ng system" (tulad ng nakasaad sa "Pag-unawa at Pag-iwas sa Mga Pagkabigo ng AI: Isang Practical na Gabay" ni Robert Williams at Roman Yampolskiy, Pilosopiya Talaarawan).

Ang dahilan kung bakit kita dinala sa lupain ng tinatawag normal na aksidente ay maaaring kailanganin nating maingat na ilapat ang teoryang ito sa isang bagay na unti-unti at hindi maiiwasang nagiging nasa lahat ng dako sa ating lipunan, katulad ng pagdating ng Artificial Intelligence (AI).

Pag-aralan natin ito.

Ang ilang mga tao ay maling ipinapalagay na ang AI ay magiging perpekto. Ang mga sistema ng AI ay hindi magkakamali at hindi tayo malalagay sa gulo, napupunta ang haka-haka. Ang kailangan mo lang gawin ay tiyakin na ang mga AI developer na iyon ay gumagawa ng sapat na trabaho, at voila, AI ay hindi kailanman gagawa ng anumang bagay na maaaring ituring bilang aksidente o nagsilang ng isang aksidente.

Hindi masyadong mabilis sa hypothetical na paniniwalang iyon. Kung handa kang bumili sa teorya ng normal na aksidente, anumang AI ng anumang makabuluhang kumplikado ay hindi maiiwasang magdulot ng aksidente. Hindi alintana kung gaano karaming gabi-gabi ang ginagawa ng mga developer ng AI upang maiwasan ang isang aksidente, ang AI ay tiyak na sa isang punto ng oras ay masangkot sa isang aksidente. Iyon ay ang paraan ng cookie crumble. At walang pahinga sa pamamagitan ng pag-iyak sa aming natapong gatas tungkol dito.

Pag-isipan ang mashup ng AI at ang mga konseptong prinsipyo ng normal na aksidente.

Isipin na mayroon tayong AI system na kumokontrol sa mga sandatang nuklear. Ang AI ay maingat na ginawa. Ang bawat naiisip na check at balanse ay na-code sa AI system. Ligtas ba tayo mula sa isang aksidenteng nakabatay sa AI na maaaring mangyari? Ang mga sumusuporta sa normal na pananaw sa mga aksidente ay magsasabi na hindi tayo lubos na ligtas gaya ng maaaring ipagpalagay. Dahil ang AI ay malamang na maging partikular na kumplikado, ang isang normal na aksidente ay tahimik na naghihintay doon na balang araw ay lumitaw, marahil sa pinakamasamang posibleng sandali.

Ang diwa ng mahihirap na tanong at pagkabalisa na iyon ay dapat tayong maging nasa ating mga paa na ang AI ay tiyak na maaksidente, at ang sangkatauhan ay kailangang gumawa ng isang bagay na makatwiran at maagap tungkol sa mga panganib na maaaring mangyari. Tulad ng makikita mo sa isang sandali o dalawa, ito ay isang nagbabantang pagsasaalang-alang pagdating sa paggamit ng AI, at ang larangan ng AI Ethics at Ethical AI ay medyo nakikipagbuno tungkol sa kung ano ang gagawin. Para sa aking patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Bago tayo pumunta sa isang butas ng kuneho, siguraduhin natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI. Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao na nagbibigay sa iyo ng payo. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito). Lahat ng sinabi sa mga sitwasyong ito ay magpapalakas sa pagtatasa ng pinagmulan.

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Ang lahat ng sinabi, ang isang pangkalahatang pag-asa ay na sa pamamagitan ng pagtatatag ng isang kahulugan ng AI Ethics precepts ay hindi bababa sa maaari naming taasan ang societal kamalayan sa kung ano ang AI ay maaaring parehong kapaki-pakinabang na gawin at maaari din masamang gawin. Malawak kong tinalakay ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsasaklaw ng isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Maaaring kailanganin naming idagdag sa ipinagmamalaki na mga listahan ng AI Ethics na kailangan naming tahasang isaalang-alang at hayagang kumilos upang maiwasan o kahit man lang ay mahigpit na pagaanin ang AI-based normal na aksidente maaaring mangyari iyon. Ang mga nagdedevelop ng AI ay kailangang gawin ang kanilang makakaya sa harap na iyon. Ang mga nag-deploy ng AI ay kailangang gawin din ito. Ang mga gumagamit o kahit papaano ay napapailalim sa AI ay dapat mag-ingat at mag-ingat para sa posibilidad ng mga aksidente sa AI na tila darating.

Maaari kang matukso na isipin na sapat na pag-iingat ang maaaring itayo sa AI na ang mga pagkakataon ng isang aksidente ay dapat bumaba sa zero. Para sa mga tech, ang karaniwang hubris ay kung ang isang piraso ng tech ay maaaring makabuo ng isang problema, isa pang piraso ng tech ang tiyak na malulutas ang problema. Ipagpatuloy lang ang paghuhugas ng higit at higit pang teknolohiya hanggang sa mawala ang problema.

Well, ang mga nag-aral ng mga system-oriented na aksidente ay malamang na hindi sumasang-ayon at magalang na sasagutin ang ipinapalagay na kapurihan ng techie sa pamamagitan ng pagbibigay ng isang paninindigan na kilala bilang Swiss Cheese Model (SCM): "Sa SCM, ang mga layer ng kaligtasan ay ginagaya bilang mga hiwa ng keso na may mga butas sa mga ito na kumakatawan sa mga mahinang punto sa bawat layer ng kaligtasan. Sa paglipas ng panahon, nagbabago ang hugis ng mga butas at gumagalaw. Sa kalaunan, gaano man karaming mga hiwa ng keso (mga layer ng kaligtasan) ang mayroon, ang mga butas ay maghahanay na magbibigay-daan sa isang tuwid na pagbaril sa lahat ng mga hiwa ng keso (naganap ang isang aksidente)” (ayon sa naunang binanggit na papel nina Robert Williams at Roman Yampolskiy ).

Hindi ko nais na magulo sa gilid na ito tungkol sa kung mayroong garantisadong paraan upang iprograma ang AI upang ganap at palaging maiwasan ang anumang pagkakataon ng isang aksidente. Mayroong lahat ng paraan ng mathematical at computational proving approach na sinusubukan. Sa palagay ko ay makatwiran at patas na ipahayag na wala tayong nasusukat na paraan ng pagtatrabaho o mga teknolohiyang makakapaggarantiya ng gayong zero na pagkakataon, at tiyak na puno tayo ng tonelada sa toneladang AI na ginagawang pell-mell na ginagawa natin. alam na tiyak ay hindi hinahangad na sumunod sa gayong mga kasanayan. Ang huling puntong iyon ay mahalaga dahil kahit na maaari tayong gumawa ng isang bagay sa isang AI lab, na i-scale iyon sa zillions ng ligaw at walang malasakit na mga pagsisikap ng AI na isinasagawa at iyon ay patuloy na lalabas ay isang buhol-buhol na isyu at malamang na hindi malutas kahit na ang isang computational proving machine silver. umiral ang bala.

Ang isa pang punto na pinaniniwalaan kong karapat-dapat sa isang maikling pagbanggit ay binubuo ng AI na ginawang paggawa ng hindi kanais-nais na mga gawa bilang resulta ng mga malisyosong aktor ng tao. Hindi ko ilalagay ang mga pagkakataong iyon sa larangan ng mga aksidente sa AI. Tandaan na ang pambungad na talakayan ay nagmungkahi na ang kahulugan ng diksyunaryo ng isang aksidente ay isang insidente ng isang hindi sinasadya kalikasan. Kung ang isang cybercrook ng tao ay namamahala upang makakuha ng isang AI system upang gumawa ng masasamang bagay, hindi ko inuuri ang AI na iyon bilang nakakaranas ng isang aksidente. Nagtitiwala ako na sasama ka sa pagpapalagay na iyon.

Isang kawili-wiling tanong ang lumalabas kung gaano karami sa iba't ibang mga hindi kanais-nais na aksyon ng AI ang maaaring maiugnay sa isang aksidente sa AI kumpara sa mapanlinlang na pagkilos ng isang cybercriminal. Ayon sa ilan sa mga umiiral na mga database ng pag-uulat ng mga insidente ng AI, lumilitaw na ang mga aksidente sa AI ay nangyayari nang higit pa kaysa sa mga malisyosong nag-udyok na mga insidente, bagama't kailangan mong kunin ang paniwala na iyon sa isang mabigat na dosis ng asin. Sinasabi ko ito dahil may malaking tukso na huwag mag-ulat kapag inatake ang isang AI system, at marahil ay mas handang mag-ulat kapag may naganap na aksidente sa AI.

Mayroong napakahalagang caveat na kailangan nating talakayin tungkol sa mga aksidente sa AI.

Ang paggamit ng catchphrase na "AI aksidente" ay karaniwang hindi kanais-nais at lilikha ng lubos na gulo para sa ating lahat, ibig sabihin para sa lahat ng lipunan. Kapag naaksidente ang isang tao, madalas kaming nagkibit balikat at nakikiramay sa taong naaksidente. Tila tinatrato natin ang salitang "aksidente" na para bang nangangahulugan ito na walang mananagot sa nangyari.

Kunin natin ang halimbawa ng pagpasok sa isang aksidente sa sasakyan. Ang isang kotse ay umindayog nang malapad sa isang pagliko sa kanan at hindi sinasadyang bumangga sa isa pang kotse na dumiretso sa unahan. Shucks, aksidente lang at aksidenteng nangyari. Ang mga hindi sangkot sa insidente ay marahil ay hahayaan ang usapin na dumausdos kung ang kaganapan ay ituturing na isang aksidente lamang na nangyari.

Nararamdaman ko na kung ikaw ay nasa kotse na nabangga, hindi ka magiging masyadong nakikiramay sa driver na gumawa ng sobrang lapad na pagliko. Ang iyong opinyon ay tiyak na ang isa pang driver ay isang masamang driver at ang alinman sa isang diumano'y ilegal o hindi matalinong pagmamaneho ay humantong sa pagbangga ng kotse. Sa pamamagitan ng paglalagay ng label sa insidente bilang isang "aksidente" ang driver na na-stuck ay medyo dehado ngayon dahil ang hitsura ay na ang lahat ng ito ay nangyari nang nag-iisa, sa halip na sa pamamagitan ng mga kamay ng driver na nagulo.

Sa katunayan, ang salitang "aksidente" ay puno ng iba't ibang konotasyon na sa pangkalahatan, ang mga istatistika ng gobyerno sa mga pagbangga ng sasakyan ay tumutukoy sa bagay na ito bilang mga banggaan ng sasakyan o mga pagbangga ng sasakyan, sa halip na gamitin ang pariralang mga aksidente sa sasakyan. Ang isang banggaan ng kotse o isang pagbangga ng kotse ay tila walang anumang implikasyon tungkol sa kung paano nangyari ang insidente. Samantala, ang pagbigkas ng isang "aksidente sa sasakyan" ay halos humantong sa amin na isipin na ito ay isang kakaiba ng kapalaran o sa anumang paraan sa labas ng mga kamay ng sangkatauhan.

Sagana mong makikita kung paano naglalaro ang konotasyonal na pagsasaalang-alang na ito kapag tinutukoy ang mga aksidente sa AI. Hindi namin gustong magtago ang mga developer ng AI sa likod ng connotational shield na aksidenteng nagdulot ng pinsala sa isang tao ang AI. Ang parehong napupunta para sa mga nag-deploy ng AI. Maaari kang magtaltalan na ang pagbigkas ng "mga aksidente sa AI" ay halos isang anthropomorphizing ng AI na ililigaw sa lipunan upang payagan ang mga tao na nasa likod ng mga eksena ng AI na takasan ang pananagutan. Para sa aking talakayan tungkol sa tumataas na kahalagahan ng pagpapanagot sa mga tao para sa kanilang AI, tingnan ang aking talakayan sa ang link na ito dito at ang link na ito dito.

Mula ngayon ay gagamitin ko ang catchphrase ng mga aksidente sa AI, ngunit ginagawa ko ito nang may pag-aatubili at dahil lamang ito ang kumbensyonal na paraan ng pagtukoy sa hindi pangkaraniwang bagay na ito. Ang mga pagtatangkang sabihin ito sa ibang paraan ay may posibilidad na maging mas namamaga at hindi madaling basahin. Pakitiyak na bigyang-kahulugan ang catchphrase sa paraang hindi nagdudulot sa iyo na lumingon sa ibang direksyon at hindi mo napagtanto na ang mga taong nasa ilalim ng AI ay may kasalanan kapag nagkakamali ang AI.

Upang makatulong na mailarawan ang malamang na pagkalito o mapanlinlang na mga aspeto ng pagtukoy sa AI bilang nagkakaroon ng mga aksidente, maaari nating balikan ang aking mga pahayag tungkol sa pagkatumba sa isang plorera. Isaalang-alang ang halimbawang ito ng paggawa nito ng AI: “Ang problemang ito ay may kinalaman sa mga bagay na ginawa ng hindi sinasadya o kawalang-interes ng AI. Isang panlinis na robot na kumakatok sa isang plorera ay isang halimbawa nito. Ang mga kumplikadong kapaligiran ay may napakaraming uri ng 'mga plorera' na malamang na hindi natin magagawang mag-program sa isang parusa para sa lahat ng mga side effect" (ayon sa papel ni Robert Williams at Roman Yampolskiy).

Ang isang AI system na ginagamit sa isang sambahayan at pagkatapos ay "aksidenteng" natumba ang isang plorera ay tila nagmumungkahi na walang sinuman ang dapat sisihin sa masamang aksyon na ito ng AI. Aksidente lang iyon, baka malungkot ang isa. Sa kabilang banda, nararapat nating tanungin kung bakit hindi na-program ang AI system para pangasiwaan ang sitwasyon ng vase sa pangkalahatan. Kahit na ang mga nag-develop ng AI ay hindi inaasahan na ang isang plorera sa bawat isa ay nasa saklaw ng mga bagay na maaaring matagpuan, maaari nating tiyak na tanungin kung bakit walang ilang pangkalahatang pag-iwas sa bagay na maaaring pigilan ang AI system mula sa pagbagsak sa plorera (kaya, maaaring hindi tinatanggap ng AI na uriin ang plorera bilang isang plorera, ngunit maaari pa rin itong iwasan bilang isang nakikitang bagay na dapat iwasan).

Hinulaan ko at patuloy kong hinuhulaan na unti-unti tayong patungo sa isang napakalaking legal na labanan sa paglitaw ng mga AI system na nagdudulot ng kanilang sarili sa "mga aksidente sa AI" at nagdudulot ng ilang uri ng pinsala. Hanggang ngayon, ang lipunan ay walang reaksyon sa anumang malaking paraan upang legal na i-pushback ang AI na pinalabas sa marketplace at nagbubunga ng masamang kahihinatnan, sa pamamagitan man ng layunin o hindi sinasadya. Ang AI bandwagon ngayon na naging goldrush ng mga half-baked AI maker at yaong mga nagmamadaling nagpapatupad ng AI deployment ay maswerte ngayon at nananatiling medyo hindi naaapektuhan ng mga sibil na demanda at kriminal na pag-uusig.

Ang AI-stoked legal backlash ay darating na, maaga o huli.

Sa paglipat, paano natin susubukan at makayanan ang hindi maiiwasang mga tinatawag na aksidente sa AI?

Ang isang bagay na maaari nating gawin kaagad ay subukang asahan kung paano maaaring mangyari ang mga aksidente sa AI. Sa pamamagitan ng pag-asam sa mga aksidente sa AI, maaari tayong gumawa ng paraan para mabawasan ang mga ito o mabawasan ang posibilidad na mangyari ito. Higit pa rito, maaari nating subukang maglagay ng mga guardrail upang kapag nangyari ang isang aksidente sa AI, ang mga pagkakataon ng nagpapakitang pinsala ay mababawasan.

Isang kapaki-pakinabang na hanay ng mga salik na inilarawan sa naunang binanggit na artikulo ng pananaliksik Pag-unawa at Pag-iwas sa Mga Pagkabigo sa AI: Isang Praktikal na Gabay kasama ang mga katangiang ito (tulad ng sinipi mula sa research paper):

• Ang system na apektado ng mga output ng AI.
• Ang pagkaantala ng oras sa pagitan ng mga output ng AI at ng mas malaking system, ang pagmamasid ng system, antas ng atensyon ng tao, at kakayahan ng mga operator na itama ang hindi paggana ng AI.
• Ang maximum na pinsala na posible sa pamamagitan ng malisyosong paggamit ng mga system na kinokontrol ng AI.
• Pagsasama ng mga bahagi na malapit sa AI at pagiging kumplikado ng mga pakikipag-ugnayan.
• Ang agwat ng kaalaman ng AI at iba pang mga teknolohiyang ginamit at ang antas ng enerhiya ng system.

Sa puntong ito ng mabigat na talakayan na ito, gugustuhin kong gusto mo ng ilang mga halimbawa ng paglalarawan na maaaring higit pang magpaliwanag sa paksa ng mga aksidente sa AI. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa pagdating ng tinatawag na AI aksidente at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At AI Incidents

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Pinagkakatiwalaan ko na nagbibigay ng isang sapat na litanya ng mga pag-uusap upang mabahayan kung ano ang malapit kong maiugnay.

Kami ay handa na ngayon na gumawa ng malalim na pagsisid sa mga self-driving na kotse at ang Ethical AI na mga posibilidad na sumasama sa pagdating ng tinatawag na AI accidents.

Isipin na ang isang AI-based na self-driving na kotse ay isinasagawa sa mga kalye ng iyong kapitbahayan at mukhang ligtas na nagmamaneho. Noong una, naglaan ka ng espesyal na atensyon sa bawat oras na nasusulyapan mo ang self-driving na kotse. Kapansin-pansin ang autonomous na sasakyan kasama ang rack nito ng mga electronic sensor na may kasamang mga video camera, radar unit, LIDAR device, at iba pa. Pagkatapos ng maraming linggo ng self-driving na sasakyan na gumagala sa paligid ng iyong komunidad, halos hindi mo na ito napapansin. Sa ganang inyo, isa lang itong sasakyan sa mga abalang pampublikong daanan.

Baka isipin mong imposible o hindi kapani-paniwalang maging pamilyar sa pagtingin sa mga self-driving na sasakyan, madalas akong sumulat tungkol sa kung paano unti-unting nasanay ang mga lugar na nasa saklaw ng self-driving na mga pagsubok sa kotse na makita ang mga spruced-up na sasakyan. Marami sa mga lokal ang lumipat mula sa bibig-gaping rapt gawking sa ngayon nagpapalabas ng isang malawak na hikab ng inip upang masaksihan ang mga meendering self-driving cars.

Marahil ang pangunahing dahilan ngayon na maaari nilang mapansin ang mga autonomous na sasakyan ay dahil sa iritasyon at pagkagalit na kadahilanan. Tinitiyak ng by-the-book na AI driving system na sinusunod ng mga sasakyan ang lahat ng mga limitasyon sa bilis at panuntunan ng kalsada. Para sa mga abalang nagmamaneho ng tao sa kanilang mga tradisyunal na sasakyang hinimok ng tao, naiinis ka sa mga oras na naiipit ka sa likod ng mahigpit na pagsunod sa batas na AI-based na self-driving na mga kotse.

Iyan ay isang bagay na maaaring kailangan nating masanay, tama man o mali.

Balik sa ating kwento.

Isang araw, naaksidente ang self-driving na sasakyan.

Habang liko pakanan, malawak na inindayog ng AI driving system ang autonomous na sasakyan at isang sasakyang hinimok ng tao ang nabangga. Ang sasakyang minamaneho ng tao ay dumiretso sa unahan sa tamang linya ng trapiko. Walang partikular na pagkakataon para sa driver ng tao na lumihis o maiwasang matamaan. Bilang karagdagan, walang babala o indikasyon ng self-driving na kotse na malawak itong gagawa sa tamang pagliko.

Aksidente ba ito?

Tiyak na masasabi natin na ito ay kasama sa rubric ng pagiging isang aksidente sa AI. Ang batayan para sa naturang assertion ay mayroong isang AI driving system sa gulong ng self-driving na kotse. Kahit papaano, sa anumang kadahilanan, pinili ng AI na gumawa ng malawak na pag-indayog kapag lumiko sa kanan. Ang resulta ay humantong sa pagtama ng self-driving na kotse sa isang sasakyang minamaneho ng tao.

Alalahanin ang naunang talakayan tungkol sa mga konotasyong nauugnay sa salitang "aksidente" at tingnan kung paano gumaganap ang gayong mga undertone sa sitwasyong ito. Gayundin, tandaan na tinalakay namin ang kaso ng isang taong nagmamaneho na lumiko ng malawak na pakanan at sumakay sa isang kapwa tao na minamaneho ng kotse. Napagtanto namin na ang paniwala ng pagkilos na ito bilang isang "aksidente" ay nakaliligaw at nakakalito. Ang taong nagmamaneho na gumawa ng malawak na pag-indayog ay maaaring magtago sa likod ng ideya na ang isang aksidente ay naganap lamang na tila sa pamamagitan ng pagkakataon o ang mga vagaries ng kapalaran.

Sa halip na lagyan ng label ang senaryo bilang isang "aksidente sa AI" sa kaso ng self-driving na sasakyan na nakabatay sa AI na lumawak at tumama sa sasakyang minamaneho ng tao, marahil ay dapat nating sabihin na ito ay isang pag-crash ng kotse o banggaan ng sasakyan na kinasasangkutan ng isang self- pagmamaneho ng kotse at isang sasakyang hinimok ng tao. Pagkatapos ay maaari nating iwaksi ang walang laman na pagkalito na ito ay isang aksidente ng hindi alam na paraan.

Ano sa palagay mo ang magiging reaksyon ng publiko sa insidente?

Well, kung ang automaker o self-driving tech firm ay maaaring manatili sa pag-label ng bagay bilang isang aksidente, maaari nilang mapaglabanan ang potensyal na backlash mula sa komunidad sa pangkalahatan. Ang isang pakiramdam ng pakikiramay tungkol sa mga aksidenteng lahat ng sinabi ay posibleng dumaloy sa partikular na pangyayari. Para sa higit pa tungkol sa kung paano maaaring mag-react ang mga lungsod, county, at pinuno ng estado sa mga insidente ng autonomous na sasakyan ng AI, tingnan ang talakayan ng isang pag-aaral sa Harvard na aking pinamunuan at tulad ng inilarawan sa ang link dito.

Kung ang sitwasyon ay malinaw na inilarawan bilang isang pagbangga ng kotse o banggaan ng kotse, marahil ay maaaring bigyang-daan nito ang pagkaunawa na ang isang tao o isang bagay ay maaaring sisihin sa insidente. Ang isang tuhod-jerk na reaksyon ay maaaring ang AI ay dapat panagutin. Ang bagay ay, hanggang o kung magpasya kaming pahiran ang AI bilang may pagkakahawig ng legal na pagkatao, hindi mo magagawang i-pin ang responsibilidad sa AI per se (tingnan ang aking talakayan sa AI at legal na pagkatao sa ang link dito).

Maaari naming suriin ang sistema ng pagmamaneho ng AI upang subukan at malaman kung ano ang humantong sa tila hindi naaangkop na pagmamaneho at ang kasunod na pag-crash ng sasakyan. Iyon ay hindi bagaman nagpapahiwatig na ang AI ay mananagot. Kabilang sa mga responsableng partido ang mga developer ng AI, ang fleet operator ng self-driving na kotse, at iba pa. Kasama ko rin ang iba dahil may posibilidad na ang lungsod ay maaaring bahagyang managot sa disenyo ng sulok kung saan naganap ang pagliko. Bilang karagdagan, ipagpalagay na ang isang pedestrian ay tumatakbo sa kanto at pinili ng AI driving system na iwasan ang tao at pagkatapos ay nasangkot sa pagbangga ng kotse.

At iba pa.

Konklusyon

Gusto naming malaman kung ano ang kinukuwenta ng AI at kung ano ang na-program nitong gawin. Ginawa ba ng AI ang naka-code? Marahil ay nakatagpo ang AI ng isang bug o error sa programming, na hindi pinahihintulutan ang mga aksyon ngunit nagbibigay ng higit na palatandaan kung paano nangyari ang pag-crash.

Anong uri ng AI guardrails ang na-program sa AI driving system? Kung may mga guardrail, gusto naming malaman kung bakit tila hindi nila napigilan ang pagbangga ng sasakyan. Marahil ang sistema ng pagmamaneho ng AI ay maaaring tumigil sa halip na lumiko. Gusto naming malaman kung anong mga alternatibo ang computationally na nasuri ng AI sa panahon ng insidente.

Bukod sa pagkuha sa ilalim ng partikular na insidente, isa pang nararapat na pagkabalisa ay kung ang AI driving system ay may depekto o iba pang naka-embed na aspeto na gagawa ng mga katulad na uri ng masamang gawain. Sa esensya, ang insidenteng ito ay maaaring maging tagapagpahiwatig ng higit pang darating. Paano ginamit ang mga simulation na nakabatay sa computer ng mga sitwasyon sa pagmamaneho upang subukan at asahan ang ganitong uri ng pag-prompt ng AI driving system? Nagkaroon ba ng sapat na mga pagsubok sa pagmamaneho sa daanan upang matukoy ang mga isyu sa AI na maaaring humantong sa pagbangga ng sasakyan?

Ang sitwasyong ito ay nagha-highlight ng isang pinagtatalunang palaisipan na nahaharap sa paglitaw ng AI-based na self-driving na mga kotse.

Ganito iyan.

Sa isang banda, mayroong pagnanais ng lipunan na magpatibay ng mga self-driving na kotse nang mabilis dahil sa pag-asa na ang mga sistema ng pagmamaneho ng AI ay magiging ligtas o posibleng mas ligtas kaysa sa mga driver ng tao. Sa Estados Unidos lamang, sa kasalukuyan ay mayroon tayong halos 40,000 tao na nasawi taun-taon dahil sa mga pag-crash ng sasakyan at humigit-kumulang 2.5 milyong pinsala sa tao. Iminumungkahi ng mga pagsusuri na ang isang malaking bahagi ng mga pag-crash ng sasakyan na iyon ay nauugnay sa pagkakamali ng tao gaya ng pagmamaneho habang lasing, pagmamaneho habang nakaabala, atbp. (tingnan ang aking pagtatasa sa mga naturang istatistika sa ang link dito).

Ang mga sistema ng pagmamaneho ng AI ay hindi umiinom at nagmamaneho. Hindi na nila kailangan ng pahinga at hindi sila mapapagod habang nasa manibela. Ang pagpapalagay ay na sa pamamagitan ng pagtatatag ng mga self-driving na sasakyan bilang isang mabubuhay na paraan ng transportasyon, maaari nating bawasan ang bilang ng mga taong nagmamaneho. Nangangahulugan ito na dapat nating bawasan ang bilang ng taunang pagkamatay at pinsala ng tao mula sa mga pagbangga ng sasakyan.

Ang ilang mga pantas ay nagsabi na tayo ay hahantong sa zero fatalities at zero injuries, at ang mga self-driving na sasakyan na iyon ay diumano'y magiging uncrashable, ngunit ito ay isang ganap na walang katotohanan at lubos na maling hanay ng mga inaasahan. Ipinaliwanag ko na kung bakit ito ay napakawalang-halaga sa ang link dito.

Sa anumang kaso, ipagpalagay na magkakaroon tayo ng ilang bilang ng mga pag-crash ng kotse kung saan ang mga self-driving na sasakyan ay nasasangkot. Ang tanong na pinahihirapan ay kung tayo ba bilang isang lipunan ay handang magparaya sa anumang mga ganitong pagkakataon. Ang ilan ay nagsasabi na kung kahit isang pagkamatay o isang pinsala ang mangyari bilang resulta ng mga tunay na self-driving na kotse, ang buong kit at kaboodle ay dapat isara.

Ang countervailing na pananaw ay na kung ang mga buhay na nailigtas ay binabawasan ang taunang bilang, dapat nating patuloy na hikayatin ang pagdating ng mga self-driving na kotse at huwag mag-react sa ganoong hindi makatwirang paraan. Kakailanganin nating tanggapin ang premise na ang ilang bilang ng mga pagkamatay at pinsala ay iiral pa rin, kahit na may mga self-driving na kotse, ngunit napagtanto na ang taunang bilang kung binabawasan ay nagmumungkahi na tayo ay nasa tamang landas.

Siyempre, nangangatuwiran ang ilan na hindi tayo dapat magkaroon ng mga self-driving na kotse sa ating mga pampublikong daanan hanggang sa ma-clear ang mga ito para sa ganoong paggamit bilang resulta ng malawak at kumpleto na mga simulation na nakabatay sa computer o bilang sa pamamagitan ng pribadong closed-track na pagsubok. Ang kontraargumento ay ang tanging mabubuhay at pinakamabilis na paraan upang mapatakbo ang mga self-driving na sasakyan ay sa pamamagitan ng paggamit ng mga pampublikong daanan at ang anumang mga pagkaantala sa paggamit ng mga self-driving na sasakyan ay kung hindi man ay papayagan ang kakila-kilabot na bilang ng sasakyang hinimok ng tao na magpatuloy. Tinakpan ko nang mas mahaba ang debateng ito sa aking mga column at hinihimok ko ang mga mambabasa na tingnan ang mga talakayang iyon upang makuha ang buong kahulugan ng mga pananaw sa kontrobersyal na bagay na ito.

Tapusin natin ang mga bagay sa ngayon.

Ang mga aksidente sa AI ay magaganap. Dapat nating labanan ang udyok na bigyang-kahulugan ang isang aksidente sa AI bilang tila aksidental at dahil dito, hinayaan ang mga gumagawa at yaong nag-deploy ng AI na maging walang kabuluhan.

Mayroong karagdagang twist na iniiwan ko sa iyo bilang isang huling nakakaintriga na pag-iisip para sa iyong araw.

Ang komedyante na si Dane Cook ay iniulat na sinabi ang biro tungkol sa mga aksidente sa sasakyan: "A couple of days back, I got into a car accident. Hindi ko kasalanan. Kahit na hindi mo kasalanan, ang ibang tao ay bumaba sa kanilang sasakyan at tumingin sa iyo na parang ikaw ang may kasalanan: Bakit ka huminto sa isang pulang ilaw at hinayaan akong matamaan ka ng 80!"

Kung saan nauuna ang twist ay ang posibilidad na ang isang AI system ay maaaring pumili na igiit na kapag ang isang aksidente sa AI ay nangyari na kinasasangkutan ng partikular na AI, ang AI ay nagsasabi na ang insidente ay kasalanan ng tao at tiyak na hindi kasalanan ng AI. Sa pamamagitan ng paraan, ito ay maaaring maging totoo at ang tao ay maaaring sinusubukang i-scapegoat ang AI sa pamamagitan ng pag-claim na ito ay ang kasalanan ng AI.

O baka sinusubukan ng AI na scapegoat ang tao.

Nakikita mo, ang AI na ginagawa namin ay maaaring nakakalito sa ganoong paraan, alinman sa aksidente o hindi.