AI Ethics Confronting Kung Nagagalit na mga Tao na Marahas na Dumudurog o Nagmamaltrato sa AI Ay Nakakaalarmang Imoral, Gaya Ng Mga Galit na Taong Namumula Sa Ganap na Autonomous AI Systems

Kaya naman hindi tayo magkakaroon ng magagandang bagay.

Malamang na narinig o nakita mo na ang medyo sikat na expression na iyon at alam mo kaagad kung ano ang tinutukoy nito. Maniwala ka man o hindi, ang matalinong piraso ng sage wisdom ay tila nagmula noong hindi bababa sa 1905 nang lumitaw ang isang katulad na parirala sa Ang Humanitarian Review ni Eliza Blven. Sa pangkalahatan, ang diwa ng insight ay kung minsan ay nauuwi tayo sa pagdurog, pag-bash, pagsira, o pagkasira ng mga bagay o artifact na kung hindi man ay tila hindi karapat-dapat na tratuhin nang ganoon.

Maaari mong sabihin na tayo minsan pagmamaltrato mga bagay at artifact, maging ang mga bagay na dapat nating sambahin o iingatan.

Maaaring mangyari ito nang hindi sinasadya, tulad ng pagiging pabaya at pag-drop sa iyong minamahal na smartphone sa commode (nakalulungkot, isa ito sa mga madalas na binabanggit na paraan kung saan ang mga smartphone ay hindi na magagamit). Sa kabilang banda, marahil sa sobrang galit, pinili mong itapon ang iyong smartphone sa kabuuan ng silid at ito ay tumama sa isang mabigat na piraso ng muwebles o mga tupa nang direkta sa dingding. Ang mga posibilidad ay na ang display ay basag at ang electronic guts ay nakasalalay sa hindi na gumana nang maayos.

Ang galit na iyon ay maaaring walang kinalaman sa smartphone per se. Marahil ay nakikipagtalo ka sa isang tao at nagkataon na inilabas mo ang iyong galit sa bagay na marahil ay nasa iyong kamay noong panahong iyon. Ang smartphone ay nasa maling lugar lamang sa maling oras.

Kahit na may mga pagkakataon na ang bagay ay kahit papaano ay nauugnay sa nagngangalit na pagsabog. Halimbawa, desperadong naghihintay ka para sa isang mahalagang tawag at nakakagulat na huminto sa paggana ang iyong smartphone. Anong pagkadismaya! Ito darned tulad at tulad smartphone palaging tila upang magbigay ng out sa pinakamasama beses, sa tingin mo sa iyong sarili. Well, sa pamamagitan ng ano ba, ang smartphone ay magbabayad para sa pinakabagong pagkakasala sa pamamagitan ng biglaang itinapon sa buong silid. Kunin mo iyan, hindi ka magandang smartphone.

Ang galit ba ay laging kailangang maging bahagi?

Marahil ay mahinahon mong napagpasyahan na ang iyong smartphone ay umabot na sa dulo ng utility nito. Makakakuha ka ng bago. Kaya, ang umiiral na smartphone ay may pinaliit na halaga. Siyempre, maaari mong subukang mag-trade-in ng medyo luma na smartphone, ngunit marahil ay gumawa ka ng isang malay na desisyon na mas gugustuhin mong magsaya at makita kung gaano karaming pisikal na kahihiyan ang maaaring tumagal. Kaya, pagkatapos ng maingat na dami ng pangangatwiran, mahigpit mong itinapon ang aparato sa buong silid at obserbahan kung ano ang nangyayari. Isa lang itong uri ng eksperimento sa pisika, na nagbibigay-daan sa iyong sukatin kung gaano kahusay ang pagkakagawa ng smartphone.

Duda ako na marami sa atin ang gumagamit ng ganoong uri ng maingat na nakatutok na lohika kapag inilalabas natin ang ating pagsalakay sa isang bagay o artifact. Mas madalas, ang pagkilos ay malamang na ginawa sa loob ng ibang balangkas ng pag-iisip. Ito ay tila isa sa mga spur-of-the-moment reaksyunaryong uri ng mga aksyon. Pagkatapos, maaari mong pagsisihan ang iyong ginawa at pag-isipan kung ano ang humantong sa gayong pagsabog.

Ano ang maaaring sabihin sa atin ng ganitong uri ng mabangis na pagkilos patungo sa isang walang buhay na bagay tungkol sa taong nagsasagawa ng gayong walang pakundangan at tila hindi kanais-nais na pagkilos?

Ang bagay mismo ay hindi siguro sadyang sinusubukang sirain ka. Kapag ang iyong toaster ay hindi nai-toast nang maayos ang iyong tinapay, mahirap isipin na ang toaster ay nagising sa araw na iyon na may pag-iisip na hahanapin nitong guluhin ang iyong almusal sa pamamagitan ng pagsunog ng iyong toast. Ito ay medyo malabong mangyari. Ang toaster ay isang mekanikal na kagamitan lamang. Ito ay gumagana o hindi ito gumagana. Ngunit ang ideya na ang toaster ay nagplano na hindi gumana o maglagay ng mabilis sa iyo sa pamamagitan ng pagtatrabaho laban sa iyong mga kagustuhan, mabuti, iyon ay isang nakabukang paniwala.

May ilan na naniniwala na ang lahat ng mga bagay ay may pagkakahawig ng karma o espiritu. Sa teoryang iyon, ipagpalagay ng isang tao na ang toaster ay maaaring naghihiganti kung malamang na hindi mo naaalagaan nang maayos ang toaster. Kahit na iyon ay isang kawili-wiling pilosopikal na ideya, laktawan ko ang metapisiko na konseptong iyon at mananatili sa mas pang-araw-araw na pag-aakala na ang mga bagay ay mga bagay lamang (para sa paglilinaw, hindi ako nag-aalok ng isang desisyon tungkol sa iba pang posibilidad, itabi lamang ito para sa sa sandaling ito).

Ang panig na ito tungkol sa karma o espiritu ay karapat-dapat dahil ito ay nagdadala ng isang kaugnay na aspeto tungkol sa pag-uugali ng tao. Nakikita mo, maaari tayong matukso na ibigay ang isang anyo ng kasiglahan sa mga bagay na mas malapit sa kung ano ang karaniwang itinuturing nating parang pakiramdam.

Ang isang sampung dolyar na toaster na isang barebones na aparato ay hindi isang bagay na maaari nating pahiran ng mala-sentient na aura. Maaari mong gawin ito kung gusto mo, ngunit ito ay isang kahabaan. Maaari mo ring simulan ang pagtatalaga ng sentience sa lahat ng uri ng mga bagay, tulad ng isang upuan, isang poste ng ilaw, isang fire hydrant, atbp. Mukhang ang bagay ay dapat magkaroon ng higit pang likas na kakayahan kung tayo ay "makatwirang" magtatalaga ng isang sentient -parang glow sa bagay.

Kapag ginamit mo ang Alexa o Siri, ang device mismo ay isang speaker at mikropono lamang, ngunit ang modernong-panahong kaginhawahan na ito ay tiyak na isang mas mahusay na kandidato para sa pag-uuri ng mga kapangyarihang tulad ng nararamdaman. Maliwanag na maaari kang makipag-ugnayan sa device at magpatuloy sa isang pag-uusap, kahit na tinatanggap na isang pabagu-bago at kulang sa pagkalikido ng mga normal na pakikipag-ugnayan na nakatuon sa tao. Gayunpaman, mayroong isang partikular na kadalian upang pahintulutan si Alexa o Siri na madulas patungo sa tulad ng pakiramdam na pagtatalaga (tingnan ang aking indikasyon ng kamakailang kaso ng pagbibigay ng payo ni Alexa tungkol sa paglalagay ng isang sentimos sa isang live na electrical socket, sa ang link na ito dito).

Ipagpalagay na pinalamutian natin ang toaster ng mga katulad ng Natural Language Processing (NLP), katulad ng Alexa o Siri. Maaari kang makipag-usap sa iyong toaster at sabihin dito kung anong dami ng gustong pag-toast ang gusto mong gawin nito. Sasagot ang toaster sa iyong pagbigkas at pagkatapos ay sasabihin sa iyo kung handa na ang toast. Ito ay tila upang muling ayusin ang aming paniniwala na ang toaster ay sa katunayan ay papalapit sa isang pakiramdam-tulad ng kapasidad.

Kapag mas malapit nating itinulak ang mga feature ng isang device patungo sa mga katangian ng mga pasilidad ng tao, pantay na hahantong tayo sa landas tungo sa paglalagay ng parang sentient na mga katangian sa device. Ang pinaka-halata sa mga ito ay mga robot. Anumang makabagong robot na naglalakad at nagsasalita ay tiyak na maghihikayat sa ating panloob na impresyon na ang device ay higit pa sa isang mekanikal o elektronikong gawa lamang.

Hayaan akong magtanong sa iyo at mangyaring sagutin nang matapat.

Bago ko gawin iyon, sa palagay ko ay nakita mo na ang mga viral na video na iyon na nagpapakita ng mga magagarang robot na kayang maglakad, gumapang, lumukso, o tumakbo. Sa ilan sa mga video na iyon, isang tao ang nakatayo sa malapit at sa una, tila nakahanda doon upang saluhin ang robot kung ito ay mabibigo. I'd bet that most of us think of that as a kind act, katulad ng kapag ang isang paslit ay natututong maglakad at nandoon para saluhin ang bata bago nila ihampas ang kanilang ulo sa sahig.

Kahit na bihira mong makita ang mga tao na hinuhuli ang mga robot, at sa halip, nakikita mo ang mga tao na hinahampas ang mga robot upang makita kung ano ang susunod na gagawin ng robot. Minsan ang isang mahabang stick ay ginagamit, marahil isang hockey stick o isang baseball bat. Ang tao na sadyang at walang kahihiyan ay hahampasin ang robot. Ang robot ay tumatagal ng isang matalo, ang isa ay maaaring makipaglaban, at naghihintay kami upang makita kung ano ang magiging reaksyon ng robot.

Narito ang iyong tanong.

Kapag nakita mo ang robot na mabilis na tinamaan, masama ba ang loob mo para sa robot?

Maraming tao ang gumagawa. Noong unang nagsimulang mai-post ang mga naturang video, libu-libong komento ang nagpahayag ng galit sa pagmamaltrato ng mga robot. Ano ang ginawa ng robot upang maging karapat-dapat sa ganitong uri ng masamang pang-aabuso, taimtim na tanong ng mga tao? Ang mga taong iyon ay dapat na alisin at bigyan ng ilang mga sipa sa kanilang sarili, ang ilan ay galit na galit na sinabi. Itigil ito at malakas na tanggalin ang anumang ganoong mga video.

Madali mong maramdaman ang parehong tungkol sa isang sampung dolyar na barebones toaster, ngunit malamang na hindi ito maghihikayat ng parehong visceral at nakakagulat na mga alalahanin. Tila ito ang kaso na kapag papalapit ang isang bagay sa isang spectrum ng ganap na walang buhay na bagay na walang pagkakahawig sa mga kakayahan ng tao patungo sa mga bagay na mas malapit na kahawig ng damdamin ng tao ay masisira ang ating mga sensibilidad na gustong ibigay ang moralidad na tulad ng sangkatauhan para sa bagay. .

I-unpack pa natin iyan.

Kung nagmamay-ari ka ng isang smartphone at gusto mong sirain ito, at kung ang paggawa nito ay hindi makapinsala sa iba, mukhang kakaunti lang ang magiging pagtutol natin sa gayong gawain. Pagmamay-ari mo ito, magagawa mo kung ano ang gusto mo (ipagpalagay na ang pagkilos ay hindi nakakaapekto sa iba).

Siyempre, maaari naming isipin na ito ay kalokohan sa iyong bahagi, at maaaring magkaroon ito ng spillover. Kung handa kang sirain ang iyong smartphone, ano pa ang maaari mong gawin? Marahil ang mapanirang at tila walang kabuluhang pagkilos ay isang paunang babala ng isang bagay sa loob mo ng isang mas masamang potensyal. Sa ganoong paraan ng pag-iisip, hindi kami nag-aalala tungkol sa smartphone gaya ng kung paano ang iyong mga aksyon tungkol sa smartphone ay sumasalamin sa iyo at sa iyong mga pag-uugali.

Sa kaso ng mga taong tumutusok at nagtutulak sa mga robot na naglalakad o gumagapang, malamang na magaan ang loob mo kapag natuklasan mo na ang mga taong iyon ay mga eksperimento na binabayaran o kung hindi man ay propesyonal na humahampas sa mga robot para sa karaniwang mga wastong dahilan. Sinusubukan nilang makita kung gaano kahusay ang robot at ang AI na pinagbabatayan ng robot ay maaaring makayanan ang mga nakakagambalang pangyayari.

Isipin na may nagsulat ng AI program para tulungan ang isang robot na makalakad o gumapang. Logically gusto nilang malaman kung gaano kahusay ang AI kapag naligaw ang robot at napadpad sa isang bagay. Maaari bang balansehin ng robot ang sarili o i-rebalance kung kinakailangan? Sa pamamagitan ng pagkakaroon ng mga tao sa malapit, ang mga robot ay maaaring masuri sa pamamagitan ng pagsundot o pagsundot. Ang lahat ng ito ay sa pangalan ng agham, tulad ng sinasabi nila.

Kapag naunawaan mo na ang caveat na iyon tungkol sa kung bakit "ginamaltrato" ng mga tao ang mga robot, malamang na bawiin mo ang iyong galit. Maaaring mayroon ka pa ring pag-aalinlangan, dahil ang makakita ng parang tao na construct na natamaan ay nakapagpapaalaala sa mga tao o hayop na tinamaan. Alam mo kahit na walang "nararamdaman" ang robot, ngunit ang mga aksyon ay medyo masakit pa ring panoorin (para sa higit pang mga insight tungkol sa pakiramdam ng pagkakaugnay na mayroon ang mga tao sa mga AI system gaya ng mga robot, kabilang ang isang phenomenon na kilala bilang ang kataka-taka lambak, tingnan ang aking talakayan sa ang link na ito dito).

Sinusuri ng mga nasa larangan ng etika ng AI ang moral na sikolohikal na palaisipan na nararanasan natin kapag ang mga sistema ng AI ay tinatrato nang malupit. Ang isa sa pinakamahalagang alalahanin ay ang mga nagsasagawa ng gayong "maling pagtrato" ay maaaring humihimok sa ating lahat na maging hindi gaanong sensitibo sa lahat ng uri ng pagmamaltrato, kasama at mapanganib ang madulas na dalisdis ng kahandaang magmaltrato sa kapwa tao.

Sa isang kamakailang pag-aaral sa pananaliksik na inilathala sa AI At Etika Journal na pinamagatang "Socio-Cognitive Biases In Folk AI Ethics And Risk Discourse," inilalarawan ng mga mananaliksik ang nakakatakot na bagay sa ganitong paraan: "Ang parehong kababalaghan ay maaaring maging isang moral na sikolohikal na problema sa panahon ng AI at mga robot. Kapag ang ating pang-araw-araw na realidad ay napuno ng iba't ibang matalinong sistema na kulang sa katayuan ng moral na pasensya, maaaring masanay ang mga tao sa kalupitan at kawalang-interes. Dahil kung minsan ay iniisip natin ang mga robot na para bang sila ay buhay at may kamalayan, maaari tayong tuwirang magpatibay ng mga pattern ng pag-uugali na maaaring negatibong makaapekto sa ating relasyon sa ibang tao” (artikulo na co-authored ni Michael Laakasuo, Volo Herzon, Silva Perander, Marianna Drosinou, Jukka Sundvall, Jussi Palomaki, at Aku Visala).

Bottom-line ay na maaari naming matagpuan ang ating sarili na hindi maiiwasang tanggapin na ang pagmamaltrato ay medyo okay na gawin, hindi alintana kung patungo sa isang bagay tulad ng isang AI-based na robot o isang buhay na humihinga na tao. Maaari mong idagdag sa listahang ito ang potensyal ng pagtaas ng pagmamaltrato sa mga hayop. Sa kabuuan, ang mga pintuan ng pagbaha ng pagmamaltrato ay maaaring maging isang masakit na tsunami na delikadong magbabad sa lahat ng ating ginagawa.

Sa bawat pulgada, masasanay tayo sa pagmamaltrato ng mga AI system, at ito naman ay magbabawas ng bawat pulgada sa ating pagtanggi sa pagmamaltrato sa lahat ng sinabi.

Iyan ay isang Ethical AI theory na masusing sinusuri. Ito ay lalo na napapanahon ngayon dahil ang mga AI system na ginagawa at inilalagay ay tumitingin at kumikilos nang higit na katulad ng mga kakayahan ng tao kaysa dati. Ang AI ay lumiliko tungo sa pagiging kamukha ng tao, kaya't tayo ay potensyal na lumilipat nang higit pa sa nakakatakot na spectrum ng pagmamaltrato.

Gaya ng ilalarawan ko sa ilang sandali, may posibilidad para sa amin na gawing antropomorphize ang mga AI system. Itinuturing namin na ang parang tao na lumalabas na AI ay itinutumbas sa mga aspeto ng tao, sa kabila ng katotohanang walang anumang AI ngayon na nakakaramdam at hindi pa namin alam kung ang sentience ay maaabot. Mahuhulog ba ang mga tao sa mental trap ng pagtanggap sa pagmamaltrato sa AI na parang ito ay isang berdeng ilaw upang paganahin ang pagsulong ng pagmamaltrato sa mga tao at hayop (anumang buhay na nilalang)?

Ang ilan ay nagtaltalan na kailangan natin itong hawakan sa simula.

Sabihin sa mga tao na hindi dapat minamaltrato ang mga AI system. Maging ang mga nag-eksperimentong iyon na may mga robot na naglalakad at gumagapang ay gumagawa ng masamang serbisyo sa pamamagitan ng tila tuwang-tuwang pagpapakita ng mga video ng kanilang mga pagsisikap. Ito ay isa pang ladrilyo sa pader ng pagbabawas ng pananaw ng lipunan tungkol sa pagmamaltrato. Huwag hayaan ang snowball na magsimulang gumulong pababa sa acrimonious snowy hill.

Ipilit na tratuhin namin ang lahat nang may kaukulang paggalang, kabilang ang mga bagay at artifact. At, lalo na kapag ang mga bagay o artifact na iyon ay may kaugnayan o pagkakahawig sa anyo ng tao. Kung hindi natin mapipigilan ang mga taong gustong ihagis ang kanilang smartphone sa pader, gayunpaman, ngunit kapag hinahangad nilang basagin ang isang robot o gumawa ng katulad na pagmamaltrato sa anumang device na may malakas na aura tulad ng tao, dapat nating ibaba ang ating mga paa. .

Hogwash, ang ilan ay sumasagot na may matinding pang-aalipusta.

Walang koneksyon sa pagitan ng kung paano tinatrato ng mga tao ang isang AI system at ang ideya na kahit papaano ay mababago nila kung paano nila tinatrato ang mga tao at hayop. Dalawang magkaibang paksa iyon. Huwag pagsama-samahin ang mga ito, napupunta ang kontraargumento.

Ang mga tao ay sapat na matalino upang panatilihing hiwalay ang mga aksyon patungo sa mga bagay kumpara sa kanilang mga aksyon patungo sa mga nabubuhay na nilalang. Gumagawa ka ng handwaving sa pamamagitan ng pagsubok na ikonekta ang mga tuldok na iyon. Tila isang katulad na alalahanin ang lumitaw tungkol sa paglaki gamit ang mga video game na nagpapahintulot sa mga manlalaro na kunan at sirain ang mga video character. Sa kasong iyon, malamang na mas masahol pa ito kaysa sa pananakit sa mga robot ng AI dahil ang video game ay minsan ay nagpapakita ng mga video character na lubos na kamukha ng mga tao.

Ang kontra sa counterargument na iyon ay ang mga video game ay hindi nakikitungo sa mga tunay na bagay. Alam ng manlalaro na nakalubog sila sa isang dreamscape. Iyan ay malayo sa paghagis ng isang smartphone sa isang silid o paghampas ng isang gumagapang na robot gamit ang isang stick. Bukod dito, mayroong pananaliksik na sumusuporta sa mga pagkabalisa kung paano maaaring dumaloy ang paglalaro ng video game sa mga pag-uugali sa totoong mundo.

Sinasaliksik ng etika ng AI ang mga nagmamaneho ng pag-uugali ng tao at kung paano maaapektuhan ang pagdating ng medyo sopistikadong AI-based na mga system, lalo na kung minsan ang pagmamaltrato ng mga tao sa naturang AI system. Sa pagsasalita tungkol sa pagmamaneho (oo, snuck ko iyon doon), ito ay nagpapahintulot sa akin na lumipat sa paksa ng AI-based na tunay na self-driving na mga kotse, na akma nang mabuti sa pangkalahatang tema na ito.

Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-nakakapukaw na mga lugar na malinaw na nagpapakita ng etikal na problema sa AI ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagbibigay liwanag sa anumang bagay tungkol sa mga bagay o artifact na pagmamaltrato?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang isang paglilinaw, ang tunay na mga kotse na nagmamaneho sa sarili ay ang ganap na hinihimok ng AI ang kotse sa sarili nitong at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang mga awtomatikong add-on na tinutukoy bilang ADAADA
S (Mga Advanced na Driver-Assistance System).

Hindi pa isang totoong sasakyan sa pagmamaneho sa Antas 5, na hindi natin alam kung posible ito upang makamit, at kung gaano katagal aabutin ito.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Mga Sasakyang Nagmamaneho sa Sarili At Pagkagalit ng Tao

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Pinagkakatiwalaan ko na nagbibigay ng isang sapat na litanya ng mga pag-uusap upang mabahayan kung ano ang malapit kong maiugnay.

Handa na kaming gumawa ng malalim na pagsisid sa mga self-driving na kotse at mga etikal na tanong sa AI na nakapalibot sa aming potensyal na pagmamaltrato sa mga ipinagmamalaki na autonomous na sasakyang iyon.

Una, maaari mong natural na ipagpalagay na walang sinuman ang magmamaltrato sa isang AI-based na self-driving na kotse.

Ito ay tila lohikal. Sa pangkalahatan, tinatanggap namin ang ideya na ang isa sa mga pangunahing benepisyo ng pagkakaroon ng mga self-driving na sasakyan ay ang masasangkot sila sa mas kaunting mga pag-crash ng kotse kaysa sa mga sasakyang hinimok ng tao. Ang AI ay hindi umiinom at magmaneho. Ang AI ay hindi manonood ng mga video ng pusa habang nasa gulong. Mayroong humigit-kumulang 40,000 taunang pagkamatay sa Estados Unidos lamang bawat taon dahil sa mga pag-crash ng kotse, at humigit-kumulang 2.5 milyong pinsala, karamihan sa mga ito ay inaasahang hindi na mangyayari kapag mayroon na tayong laganap na mga self-driving na sasakyan sa ating mga kalsada.

Ano ang hindi magugustuhan sa mga self-driving na kotse, maaaring sinasabi mo sa iyong sarili.

Well, ang listahan ay medyo malawak, tingnan ang aking saklaw sa ang link na ito dito, ngunit dahil sa mga hadlang sa espasyo dito ay tatalakayin ko lang ang ilan sa mga mas kapansin-pansing nakasaad na hindi kanais-nais na mga aspeto.

Gaya ng nabanggit ko na dati sa aking mga column, may mga pagkakataon na binato ng mga tao ang mga dumaraan na sasakyang self-driving, at iniulat na naglalagay ng mga metal na bagay tulad ng mga pako sa kalye upang mabutas ang mga gulong ng mga self-driving na sasakyan. Ginawa ito para sa iba't ibang dahilan. Ang isa ay na ang mga tao sa lugar kung saan nag-roaming ang mga self-driving na sasakyan ay nag-aalala na ang mga AI driving system ay hindi pa handa para sa prime time.

Ang alalahanin ay baka magkamali ang sistema ng pagmamaneho ng AI, marahil ay nasagasaan ang isang bata na tumatawid sa kalye o natamaan ang isang minamahal na alagang aso na malamang ay lumiliko sa kalsada. Ayon sa naunang punto tungkol sa amin na tila itinuturing na mga guinea pig, ang paniniwala ay hindi sapat na pagsubok at paghahanda ang naganap at ang mga self-driving na sasakyan ay hindi naaangkop na pinakawalan. Ang mga pagtatangka na bawasan ang mga pagsubok ay ginagawa bilang isang pampublikong pagpapakita ng pagkabalisa sa mga self-driving na sasakyan na legal na pinapayagang gumala sa paligid.

Maaaring may iba pang mga dahilan na pinaghalo sa mga pagkakataon. Halimbawa, ang ilan ay nagmungkahi na ang mga driver ng tao na umaasa sa paghahanap-buhay sa pamamagitan ng ridesharing ay nag-aalala na ang AI ay nasa bingit ng pagpapalit sa kanila. Ito ay isang banta sa kanilang kabuhayan. Tiyak na alam mo na ang paglitaw ng mga totoong self-driving na sasakyan na nakabatay sa AI ay malayo pa at ang isyu sa paglilipat ng manggagawa ay hindi kaagad. Kaya naman, tila ang paghagis ng bato at iba pang mga insidente ay malamang na higit pa tungkol sa mga alalahanin sa kaligtasan.

Para sa aming mga layunin sa temang ito tungkol sa pagmamaltrato ng AI, lumilitaw ang tanong kung ang pagpayag na gawin ang medyo mapanirang mga pagkilos na ito laban sa mga self-driving na sasakyan na nakabatay sa AI ay isang maagang tagapagpahiwatig ng madulas na dalisdis mula sa pagmamaltrato sa AI hanggang sa pagmamaltrato sa mga tao.

Manatili sa kaisipang iyon.

Ang isa pang anggulo ng itinuturing na pagmamaltrato sa mga self-driving na sasakyan na nakabatay sa AI ay binubuo ng "bullying" na itinutuon ng ilang driver ng tao at maging ang mga pedestrian sa mga autonomous na sasakyang iyon, tingnan ang aking mga pagsusuri sa ang link dito at ang link dito.

Sa madaling salita, ang mga driver ng tao na nagmamaneho at marahil ay nakatagpo ng isang self-driving na kotse kung minsan ay nagpapasyang maglaro ng mga trick na nauugnay sa pagmamaneho sa mga walang driver na kotse. Ang panlilinlang na ito ay minsan ay ginagawa para lamang sa kasiyahan nito, ngunit higit sa lahat ang batayan ay kadalasang dahil sa mga pagkabigo at pagkagalit tungkol sa mga sistema ng pagmamaneho ng AI ngayon.

Karamihan sa mga sistema ng pagmamaneho ng AI ay naka-program upang magmaneho sa isang mahigpit na legal na paraan. Ang mga taong nagmamaneho ay hindi kinakailangang magmaneho sa isang mahigpit na legal na paraan. Halimbawa, ang mga taong nagmamaneho ay madalas na nagmamaneho nang higit sa naka-post na limitasyon ng bilis, na ginagawa ito sa mga oras na pinakamatinding paraan. Kapag ang mga driver ng tao ay nasa likod ng isang self-driving na kotse, ang driver ng tao ay nahahanap ang kanilang sarili na pinipigilan ng "slowpoke" AI driving system.

Ang mga taong nakatira sa mga lugar na kasalukuyang may mahusay na populasyon ng mga self-driving na kotse ay malamang na agad na magalit kapag nakita nila ang isang self-driving na kotse sa unahan nila. Alam nila na ang autonomous na sasakyan ay gagawing mas mahaba ang kanilang paglalakbay sa pagmamaneho kaysa sa kinakailangan. Kaya, pipiliin ng mga naturang driver na maging agresibo patungo sa self-driving na kotse.

Alam ng mga driver na maaari nilang i-scoot ang self-driving na kotse at putulin ito. Pabagalin lang ng AI driving system ang autonomous na sasakyan, at hindi ito magre-react sa anumang road rage fashion. Kung sinubukan ng isang tao na driver na gawin ang parehong agresibong paglipat sa isa pang tao na driver, malamang na ang paghihiganti ay halos tiyak na babangon. Sa ilang antas, ang mga driver ng tao ay nagmo-moderate sa kanilang agresibong pagmamaneho batay sa pagkaunawa na ang naagrabyado na driver ay maaaring gumanti.

Ang ganitong uri ba ng pag-uugali ng pagmamaneho ng tao patungo sa mga self-driving na sasakyan na nakabatay sa AI ay magbubukas ng kahon ng Pandora ng masasamang gawi sa pagmamaneho?

Konklusyon

Naglagay kami sa talahanayan ng dalawang pangkalahatang pagkakataon ng mga taong tila minamaltrato ng AI-based na self-driving na mga kotse. Ang unang halimbawa ay nagsasangkot ng paghagis ng mga bato at pagsisikap na hadlangan ang paggamit ng mga self-driving na sasakyan sa mga daanan. Ang pangalawang halimbawa ay nagsasangkot ng pagmamaneho ng agresibo sa mga self-driving na kotse.

Nagdudulot ito ng hindi bababa sa mga alalahaning ito:

• Makakaapekto ba ang paglitaw ng gayong pagmamaltrato sa mga sasakyang pinapatakbo ng tao?
• Kung ito ay magpapatuloy o lumalawak pa, ang ganitong pagmamaltrato ba ay lilipat sa iba pang mga aspeto ng mga pagsisikap ng tao?

Ang isang tugon ay ang mga ito ay pansamantalang reaksyon lamang sa mga self-driving na sasakyan na nakabatay sa AI. Kung makumbinsi ang publiko na ang mga self-driving na sasakyan ay ligtas na umaandar sa ating mga daanan, ang paghagis ng bato at ang mga mabibigat na gawain ay mawawala na (na, pala, ay tila humupa). Kung mapapabuti ang mga sistema ng pagmamaneho ng AI upang maging mas mababa ang bottleneck sa ating mga kalsada, maaaring hindi gaanong maging agresibo ang mga kalapit na driver ng tao sa mga self-driving na kotse.

Ang pinagtutuunan ng pansin sa buong talakayang ito ay ang pagmamaltrato ay maaaring magbunga ng hindi pagtrato. Kung mas minamaltrato ka, gaya ng pagmamaltrato sa AI, mas tinatanggap at ginagawa ang pagmamaltrato, gaya ng laban sa mga tao at hayop.

Maniwala ka man o hindi, may iba pang panig sa baryang iyon, bagaman tinitingnan ito ng ilan bilang isang optimistikong masayang mukha na twist sa bagay na iyon.

Ito ang kapansin-pansing upbeat na panukala: Marahil ang tamang paggamot ay nagdudulot ng tamang paggamot.

Narito ang ibig kong sabihin.

Iminumungkahi ng ilang mga eksperto na dahil ang mga sistema ng pagmamaneho ng AI ay naka-program upang magmaneho nang legal at maingat, maaaring ang mga driver ng tao ay matututo mula dito at magpasya na magmaneho nang mas matino. Kapag ang ibang mga sasakyan sa paligid mo ay mahigpit na sumusunod sa speed limit, marahil ay gagawin mo rin. Kapag ang mga self-driving na sasakyan ay tumitigil sa mga stop sign at hindi sinusubukang magpatakbo ng mga pulang ilaw, ang mga taong nagmamaneho ay magkakaroon din ng inspirasyon na magmaneho nang maingat.

Ang isang may pag-aalinlangan ay makikita na ang linya ng pag-iisip na iyon ay manipis o marahil kahit na napakaligaya na dilat ang mata at walang kabuluhang walang muwang.

Tawagan mo akong optimist, ngunit iboboto ko ang pangarap na paniwala na ang mga taong nagmamaneho ay mauudyukan na magmaneho nang mas matalino. Siyempre, ang katotohanan na ang mga totoong self-driving na sasakyan na nakabatay sa AI ay kukunan sa video at sa kanilang iba pang mga sensor ang mga kakatwang maniobra ng iba pang kalapit na mga sasakyang hinimok ng tao, at maaaring tiyak na mag-ulat ng ilegal na pagmamaneho sa mga pulis sa pamamagitan lamang ng isang pindutan. , ay maaaring magbigay ng "inspirasyon" na kailangan para sa mas mahusay na pagmamaneho ng tao.

Minsan kinakailangan ang parehong karot at stick upang maiayos ang pag-uugali ng tao.