Ang Etika ng AI na Binabalaan Ng Pinakabagong China na Ginawa ng AI Party-Loyalty Mind-Reading Facial Recognition Attestation na Maaaring Hulaan ang Mapang-aping Autonomous System

Loyal ka ba?

Sa teorya, maaaring posible na suriin ang iyong mga hayagang gawa at tiyakin kung ang katapatan ay ipinapakita sa pamamagitan ng iyong mga aksyon.

Ipagpalagay na sa halip ay may isang pagtatangka na ginawa upang basahin ang iyong isip at samantala i-scan ang iyong mukha upang matukoy ang iyong katapatan quotient. Ito ay nakakatakot na mapanghimasok; baka madisgrasya ka agad. Parang isa sa mga nakatutuwang sci-fi na pelikula na nag-iisip ng hinaharap na dystopian na lipunan.

Buti na lang at palihim mong binubulong sa sarili mo, wala tayong ganyan ngayon.

Whoa, hawakan mo ang iyong mga kabayo.

Ang mga headline ng balita kamakailan ay nagbubulungan na ang isang research paper na nai-post online sa China noong Hulyo 1, 2022, ay naglalarawan ng isang pag-aaral na diumano'y nagsasangkot ng pagsusuri sa brainwave ng mga tao at kanilang mga ekspresyon sa mukha para sa layunin ng pagkalkula kung sila ay tapat sa Chinese Communist Party (CCP) . Kaya, hayan, papalapit nang papalapit ang hinaharap, at least in terms of attaining the dystopian society that we have dreaded might someday arises.

Mabilis na nawala ang research paper sa online na naka-post na link nito.

Malamang, ang mabilis na pangungutya na mabilis na kumalat sa Internet ay sapat na upang maalis ang papel. O, baka gusto lang ng mga mananaliksik na gumawa ng ilang mga pagbabago sa mga salita at iba pang hindi nakapipinsalang pagwawasto, na naglalayong gumawa ng muling pag-post kapag nagkaroon na sila ng mas masusing pagkakataon upang matiyak na ang mga i ay may tuldok at ang mga t ay natawid lahat. Kailangan nating buksan ang ating mga mata upang makita kung ang papel ay magkakaroon ng pangalawang buhay.

Magpapatuloy ako at gagawa ng malalim na pagsisid sa nalalaman natin tungkol sa pag-aaral sa pananaliksik at susubukan kong ikonekta ang mga tuldok tungkol sa kung paano ang ganitong uri ng gawaing nauugnay sa AI ay may kahalagahan para sa ating lahat, na lampas sa saklaw na makita ito bilang nakakulong sa isang partikular na bansa. Ang aking saklaw ay magiging mas malawak kaysa sa iba pang kamakailang pag-uulat sa karapat-dapat na balitang item na ito, kaya mangyaring tiisin mo ako.

Ang idinagdag ko rin ay ang pagkakaroon ng maraming mahahalagang aralin sa AI Ethics na maaari nating makuha mula sa sinasabing papel. Para sa aking patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Narito kung ano ang nabanggit sa ngayon tungkol sa pananaliksik na pag-aaral.

Tila, ilang "boluntaryo" ang na-recruit para lumahok sa isang eksperimento tungkol sa mga pananaw sa CCP. Kung sila ay kusang-loob na mga boluntaryo o higit na katulad ng mga tinutusok o maaaring ginabayang mga boluntaryo ay hindi alam. Ipagpalagay natin para sa kapakanan ng talakayan na sila ay sumasang-ayon na maging isang paksa sa pag-aaral.

Dinadala ko ito upang hindi lamang maging matalino. Sa tuwing ang isang eksperimento ay ginagawa na kinasasangkutan ng mga paksa ng tao, mayroong isang kalabisan ng mga karaniwang tinatanggap na kasanayan tungkol sa pangangalap at pagsasawsaw ng mga naturang paksa sa isang pagsisikap sa pananaliksik. Ito ay bahagyang nagbabalik sa mga naunang pag-aaral na kadalasang nanlilinlang o nagpipilit sa mga tao na makisali sa isang eksperimento, kung minsan ay humahantong sa masamang sikolohikal na epekto o kahit na pisikal na pinsala para sa mga kalahok na iyon. Ang siyentipikong komunidad ay lubos na nagsikap na pigilan ang mga uri ng mapanlinlang na pag-aaral at nangangailangan na ang lahat ng uri ng pagsisiwalat at babala ay ibigay sa mga hinahangad na maisama sa mga pag-aaral na may kaugnayan sa tao.

Upang linawin, hindi lahat ay sumusunod sa gayong maingat at matapat na mga alituntunin.

Sa paglipat, mayroon umanong 43 na paksa, at sila ay sinasabing mga miyembro ng Partido Komunista ng China. Tandaan na ang pagpili ng mga paksa para sa isang eksperimento ay lubos na mahalaga sa eksperimento at dapat ding isaalang-alang tungkol sa anumang mga konklusyon na maaari mong subukang abutin pagkatapos tungkol sa mga resulta ng eksperimento.

Ipagpalagay na gusto kong gumawa ng isang eksperimento tungkol sa kung paano nakikita ng mga tao ang kinikilalang serye ng Star Wars. Kung paunang pipiliin ko ang mga paksa na lahat ay resoundingly napopoot sa Star Wars (paano nabubuhay ang mga ganitong tao?), At ipapakita ko sa kanila ang mga Star Wars na video clip, malamang na sasabihin nila na hindi pa rin nila gusto ang Star Wars. Batay sa pseudo-scientific na eksperimentong ito, marahil ay palihim kong sinasabi na ang mga tao — sa pangkalahatan — ay talagang napopoot sa Star Wars, na "napatunayan" (wink-wink) sa aking "maingat" na inihandang setting ng pananaliksik.

Maaaring hindi mo alam na niloko ko ang roulette wheel, kumbaga, sa pamamagitan ng paunang pagpili ng mga paksa na inaasahan kong magbubunga ng aking palihim na ninanais na mga resulta. Siyempre, kung sa halip ay sinadya kong mag-recruit ng mga taong mahilig sa Star Wars at masigasig na masugid na tagahanga, malamang na mag-ulat sila bilang kalugud-lugod tungkol sa panonood ng mga Star Wars clip na iyon. Muli, ang anumang mga konklusyon na naabot tungkol sa kung paano ang mga tao, sa pangkalahatan, ay tumutugon sa Star Wars ay maaapektuhan ng preselected set ng mga paksa na pinili para sa pagsisikap.

Ang pag-aaral na nakatuon sa CCP ay tila pinaupo ang mga paksa sa harap ng isang mala-kiosk na pagpapakita ng video at nagbasa ng iba't ibang artikulo tungkol sa mga patakaran at mga nagawa ng CCP. Ito marahil ang itinuturing na "pang-eksperimentong paggamot" na inilalantad sa mga paksa. Kapag nagpaplano ng isang eksperimento, karaniwan kang nagkakaroon ng isang pang-eksperimentong salik o aspeto na gusto mong makita kung ito ay nakakaapekto sa mga kalahok.

Ang tanong sa pananaliksik na tila sinasaliksik ay kung ang pagkilos ng pagrepaso sa mga materyal na ito ay magkakaroon ng anumang epekto sa mga paksa sa mga tuntunin ng pagtaas, pagbaba, o pagiging neutral sa kanilang mga kasunod na impresyon ng CCP.

Sa isang klasikong null hypothesis, maaari mong ayusin ang naturang pag-aaral upang sabihin na ang mga materyales na nagamit ay walang epekto sa mga kasunod na impression na ipinahayag ng mga paksa. Sa sandaling nagawa mo na ang bago at pagkatapos ng paghahambing ng kanilang mga pananaw tungkol sa CCP, susubukan mong makita sa istatistika kung mayroong makabuluhang pagtukoy sa istatistika ng pagbabago sa kanilang mga impression.

Maaaring ang bago at pagkatapos ay hindi magkaiba ayon sa istatistika, samakatuwid maaari mong makatuwirang isipin na para sa partikular na pag-aaral na ito ang mga ipinakitang materyales (pang-eksperimentong paggamot) ay tila hindi gumawa ng pagkakaiba sa kanilang mga impression. Sa kabilang banda, kung may wastong pagkakaiba sa istatistika, titingnan mo kung mas malaki ang after kaysa sa dati, na nagbibigay-daan sa iyong maingat na imungkahi na ang mga materyales ay nagpalakas ng kanilang mga impression (at, sa kabilang panig ng barya, kung ang pagkatapos ay mas mababa kaysa sa bago ito ay maaaring magpahiwatig na ang mga materyales ay bumaba o nagpababa ng kanilang mga impression).

Mayroong maraming mga mapag-angil na maluwag na mga dulo na kailangang harapin sa naturang pag-aaral.

Halimbawa, karaniwang gusto naming magkaroon ng tinatawag na control group na maihahambing namin sa mga tumatanggap ng pang-eksperimentong paggamot. Narito kung bakit. Ipagpalagay na ang pagkilos ng pag-upo sa harap ng isang kiosk upang magbasa ng mga materyales ay ang tunay na batayan kung bakit binago ang mga impression. Maaaring ang likas na katangian ng mga materyales na natupok ay halos hindi materyal sa epekto ng impression. Ang pag-upo lang at pagbabasa ng kahit ano, gaya ng mga pinakabagong kwento tungkol sa mga pusa na gumagawa ng mga nakakatawang bagay, ay maaaring gumawa ng lansihin. Kaya't maaari naming ayusin na magkaroon ng ilang paksa sa aming control group na nakalantad sa ilang iba pang materyal na babasahin, maliban sa mga patakaran ng CCP at mga materyales sa tagumpay.

Hindi namin alam kung ginawa iyon sa pagkakataong ito (mukhang wala pang nakabanggit sa facet na ito).

Napagtanto ko na ikaw ay sa ngayon ay nagiging balisa tungkol sa media paputok na bahagi ng pag-aaral. Kami ay lilipat nang mabilis sa bahaging iyon.

Paano namin matutukoy kung ang mga paksa sa eksperimentong ito ay tumugon o binago ang kanilang mga impression bilang resulta ng pagbabasa ng mga ipinakitang materyal?

Ang isang karaniwang paraan ay ang magtanong sa kanila.

Nauna ka sanang magbigay ng isang palatanungan na nagtatanong sa kanila ng kanilang mga impresyon sa CCP. Pagkatapos, kasunod ng pagkakalantad sa pang-eksperimentong paggamot, tulad ng sa pagbabasa ng mga materyal na ipinapakita, maaari kaming magbigay ng isa pang talatanungan. Ang mga sagot na ibinigay ng mga paksa sa bago at pagkatapos ay maaaring ihambing. Kung gumagamit din kami ng isang control group, ipagpalagay namin na ang mga sagot ng control group ay hindi magbabago nang malaki mula sa dati hanggang sa pagkatapos (sa ilalim ng paniniwalang ang pagtingin sa mga kuwento tungkol sa mga nagsasayaw na pusa ay hindi dapat nakaapekto sa kanilang mga impression sa CCP).

Ang pagkilos na ito ng pagtatanong sa mga paksa para sa kanilang mga impresyon ay hindi naman kasing tapat na tila tila.

Ipagpalagay na ang mga paksa sa eksperimento ay nakakuha ng isang kahulugan o pangkalahatang drift na gusto mong tumugon sila sa pang-eksperimentong paggamot sa isang partikular na paraan. Sa kasong iyon, maaaring sinadya nilang mag-overstate ng kanilang mga reaksyon sa pagkatapos na bahagi ng pang-eksperimentong pangangasiwa. Tiyak na nakita mo na ito nangyari. Kung gagawa ako ng isang pagsubok sa panlasa para sa isang bagong soda na paparating sa merkado, maaari akong kumilos na parang tuwang-tuwa ako sa soda, na ginagawa ito sa pag-asang maaaring maitampok sa isang ad ng tagagawa ng soda at makuha ang aking karapat-dapat na labinlimang minutong katanyagan .

Ang diwa ay ang pagtatanong lamang sa mga tao ng kanilang mga opinyon ay hindi isang tiyak na paraan ng pagsukat ng mga pagbabago. Ito ay isang diskarte. Ang iba pang mga diskarte ay maaari at madalas ding isinasagawa.

Paano pinili ng partikular na pag-aaral na ito na sukatin ang mga reaksyon ng mga paksa?

Tila, hindi bababa sa dalawang pamamaraan ang ginamit. Ang isang paraan ay binubuo ng paggawa ng facial scan at paggamit ng AI-based na facial recognition software upang masuri ang mga reaksyon ng mga paksa. Ang iba pang paraan ay naiulat na ilang anyo ng brainwave scanning. Hindi pa naiuulat kung anong uri ng brainwave scanning device ang ginamit, o kung anong uri ng brainwave analysis software na nakabatay sa AI ang ginamit.

Ang iba't ibang pag-uulat ay nagpahiwatig na ang pag-aaral ay nagpahayag nito tungkol sa likas na katangian ng eksperimento: "Sa isang banda, maaari nitong hatulan kung paano tinanggap ng mga miyembro ng partido ang pag-iisip at edukasyong pampulitika." At ang pag-aaral diumano ay binanggit din ito: "Sa kabilang banda, ito ay magbibigay ng tunay na datos para sa pag-iisip at edukasyong pampulitika upang ito ay mapabuti at mapagyaman." Ang pananaliksik na pag-aaral ay naiugnay sa isinagawa sa ilalim ng tangkilik ng Hefei Comprehensive National Science Center ng China.

Iminumungkahi ng mga ulat sa media na ang pag-aaral ay tumutukoy sa isang claim na ang mga pag-scan sa pagkilala sa mukha at mga pag-scan ng brainwave ay nakakatulong sa pagtukoy na ang mga after impression ay pinalakas tungkol sa CCP.

Gusto kong tandaan para sa iyo na nang hindi direktang masuri ang mga sistemang ginamit at masusing suriin ang papel ng pananaliksik, hindi namin alam ang mga detalye kung paano eksaktong ginamit ang mga AI-based na system na iyon.

Maaaring ang mga paksa ay tumutugon sa eksperimentong setting sa halip na tumugon sa eksperimental na paggamot. Sinuman na lumahok sa isang pag-aaral ay maaaring nababalisa, sa simula. Maaaring malito nito ang anumang pagsisikap na magsagawa ng mga brainwave scan o pagsusuri sa pattern ng mukha. Mayroon ding pagkakataon na nakaramdam sila ng motibasyon na pasayahin ang mga mananaliksik, na pinipiling magkaroon ng mga positibong kaisipan pagkatapos makita ang mga materyales at ito ay maaaring sa teorya ay makikita sa mga brainwave scan at mga facial scan (marahil, mangyaring malaman na mayroong isang mahusay na pakikitungo sa matinding kontrobersya sa bisa ng naturang mga pagtatalo, gaya ng aking ipaliwanag saglit), umaasang malilihis ang mga resulta at ipakita na sila ay positibong naapektuhan.

Ang reaksyon ng Twitter ay lubos na pinabulaanan na ang mismong paniwala ng paggamit ng AI-empowered brainwave scan at pagkilala sa mukha ay mismong isang kakila-kilabot at mapangahas na pagkilos. Tanging mga halimaw ng tao ang gagamit ng mga ganoong uri ng mga device, sinabi sa amin ng ilan sa mga tweet na iyon.

Dapat kong hilingin sa iyo na umupo at ihanda ang iyong sarili para sa isang bagay na maaaring maging isang bastos at nakakagulat na sorpresa.

Maraming mga mananaliksik sa buong mundo na gumagamit ng parehong mga uri ng teknolohiya sa kanilang mga pag-aaral sa pananaliksik. Ito ay tiyak na hindi ang pinakaunang pagkakataon na ang isang brainwave scan na kakayahan ay ginamit sa mga paksa ng tao sa isang pagsisikap sa pananaliksik. Tiyak na hindi rin ito ang unang pagkakataon na ginamit ang pagkilala sa mukha sa mga paksa ng tao para sa mga layuning pang-eksperimento. Kahit na ang isang mabilis na paghahanap sa online ay magpapakita sa iyo ng napakaraming pang-eksperimentong pag-aaral sa lahat ng uri ng mga bansa at lab na gumamit ng mga uri ng device na iyon.

Ngayon, sabi nga, ang paggamit sa mga ito upang masukat ang katapatan sa CCP ay hindi isang bagay na matututukan mo ng lubos. Kapag ginamit ang naturang AI para sa kontrol ng pamahalaan, isang pulang linya ang nalampasan, gaya ng sinasabi nila.

Iyon ang halatang nakakagigil na bahagi ng buong kit at caboodle.

Ang ipinahayag na pag-aalala ng marami ay kung pipiliin ng mga pamahalaan na gumamit ng teknolohiya sa pag-scan ng brainwave at pagkilala sa mukha upang tiyakin ang katapatan sa mga kasalukuyang rehimen, masusumpungan natin ang ating sarili sa isang dystopian na mundo ng nasaktan. Kapag naglalakad ka sa isang pampublikong kalye, maaaring ang isang device na naka-mount sa poste ng lampara ay lihim na tutukuyin ang iyong katapatan.

Ipinapalagay ng isa na kung ang iyong mukha ay tila hindi nagmumungkahi na ikaw ay sapat na tapat, o kung ang brainwave scan ay nagmumungkahi ng pareho, ang mga thug ng gobyerno ay maaaring biglang sumugod at humawak sa iyo. Nakakapanghinayang. Abysmal. Hindi dapat payagan.

Iyan ang pinakabuod kung bakit may lumabas na headline na bumubulusok at galit sa balitang ito.

Isipin mo ito. Posibleng gagawa tayo at pagkatapos ay gagamit tayo ng mga computer-based system na gumagamit ng pinakabago sa AI upang magpasya kung tayo ay tapat o hindi. Kung sinubukan mong umarkila ng mga tao upang maupo at gawin ang parehong, kakailanganin mo ng maraming tao at magkakaroon ka ng isyu sa logistik sa pagsubok na iposisyon sila upang makita ang lahat. Sa kaso ng isang AI-based system, ang kailangan mo lang gawin ay i-set up ang mga electronic device sa mga poste ng lampara, gilid ng mga gusali, at iba pa. Ang pag-scan para sa katapatan ay maaaring mangyari 24×7, sa lahat ng oras, sa lahat ng lugar na may kagamitan. Maaari itong mai-feed sa isang napakalaking database.

Tayo ay naging mga tao na mga cogs lamang sa isang napakalaking nakakakita ng lahat na nanonood ng societal oppressive ecosystem. Ang nakikitang mata ay hindi lamang nanonood sa ating ginagawa. Ito rin ay pagbibigay kahulugan sa sinasabi ng ating mga mukha tungkol sa ating katapatan sa gobyerno. Ang ating mga isip ay susuriin din para sa isang katulad na kakila-kilabot na dahilan.

Yikes!

Mayroong pangalawang pag-aalala na nagmumula din dito, kahit na marahil ay hindi masyadong matinik kung ihahambing sa mga implikasyon ng Big Brother na na-sketch na.

Pag-isipan ang dalawang mahalagang tanong na ito:

• Maaari ba naming mapagkakatiwalaang igiit na ang isang brainwave scan ay maaaring magpatunay sa iyong katapatan?
• Maaari ba naming mapagkakatiwalaan na igiit na ang isang pag-scan sa pagkilala sa mukha ay makapagpapatunay sa iyong katapatan?

Maghintay ka diyan, baka sumigaw ka sa taas ng iyong mga baga.

Napagtanto ko at kinikilala ko na maaaring hindi ka gaanong nagmamalasakit sa mga aspeto ng pagiging maaasahan sa bawat isa. Kung ito ay maaaring gawin nang mapagkakatiwalaan ay hindi gaanong mahalaga kaysa sa katotohanang ito ay ginagawa sa lahat. Walang sinuman ang dapat na nasa ilalim ng gayong pagsisiyasat. Kalimutan ang tungkol sa kung ang teknolohiya ay gumagana nang angkop para sa gawaing ito. Hindi natin dapat ginagawa ang gawain sa pagsisimula.

Sa anumang kaso, ang sagot sa ngayon ay isang matunog na hindi, ibig sabihin na ang mga umiiral na AI system na gumagawa ng anumang pagkakahawig ng "brainwave scan" at pagkilala sa mukha ay hindi sapat na may kakayahang gawin iyon.

Marahil ay nakita mo kamakailan na ang ilan sa mga gumagawa ng facial recognition ay gumawa ng ilang backtracking sa mga tuntunin ng kung paano ginagamit ang kanilang mga facial recognition system. Sa isang paparating na pag-post ng column, tatalakayin ko ang kamakailang mga pagsusumikap halimbawa ng Microsoft na subukan at pigilan ang mga gumagamit ng facial recognition tool na ibinigay ng Microsoft para sa mga layuning higit pa sa kung ano ang kayang gawin o dapat gamitin ng teknolohiya. . Maaari kang makakita ng interes sa aking naunang pagtingin sa mga pagkabalisa sa AI Ethics na nai-publish nang mabuti tungkol sa pagkilala sa mukha, tingnan ang link dito. Tinalakay ko rin ang arena ng brainwave scan, tingnan ang aking talakayan sa ang link dito.

Sa madaling sabi, wala pang maaasahan o makatwirang paraan upang magmungkahi na ang isang brainwave scan o isang facial recognition scan ay maaaring maglalarawan ng katapatan ng isang tao. Kahit na malamang na mga pangunahing aspeto tulad ng kung mapagkakatiwalaan mong maiugnay ang mga pag-scan na iyon kung ang isang tao ay masaya laban sa malungkot ay mainit pa rin ang pinagtatalunan. Ang pagsisikap na itaas ang ante sa isang bagay na walang hugis at variable bilang katapatan ay isang tulay na napakalayo.

Maaari kong idagdag, na ang ilan ay masigasig na naniniwala na kami ay makakarating doon. Iyon ang dahilan kung bakit sinubukan kong maingat na tandaan na wala pa tayo doon, sa halip na sabihin na hindi tayo makakarating doon. Hindi kailanman ay isang malaking salita. Kailangan mong maging ganap na tiyak kung ikaw ay pagpunta sa palabunutan sa paligid na ito ay hindi kailanman maging magagawa (tandaang "hindi kailanman" sumasaklaw sa mga dekada mula ngayon, mga siglo mula ngayon, at libu-libo o milyon-milyong taon mula ngayon).

Ang ilan ay nag-react sa kuwento ng balita tungkol sa Chinese lab research study na ito bilang isang indicator kung gaano kapanganib ang mundo sa hindi naaangkop at mapanganib na paggamit ng AI. Ibabahagi ko sa iyo ang panandaliang isang sulyap sa kung ano ang tungkol sa AI Ethics. Makakatulong ito sa iyo na mas malinaw na makita kung bakit ang partikular na pag-aaral na ito ay tila lumalabag sa marami kung hindi halos lahat ng karaniwang tinatanggap na mga tuntunin ng Ethical AI.

Maniwala ka man o hindi, may mga nagmungkahi na marahil ay gumagawa tayo ng isang bundok mula sa isang molehill tungkol sa partikular na pag-aaral na ito.

Tayo ba ay?

Ang kontraargumento ay ang isang molehill ay malapit nang maging isang bundok. Sa kasabihang paniwala ng isang snowball na palaki nang palaki habang ito ay gumugulong pababa sa isang burol na may niyebe, kailangan nating pigilan ang pagsisimula ng snowball. Kung kukunsintihin natin ang mga ganitong uri ng pag-aaral, hinahayaan natin na simulan ng snowball ang paglalakbay nito. Sa pagsasalita at pagtawag sa gayong mga pag-aaral, marahil ay maiiwasan natin ang snowball.

Isang bagay ang sigurado, nasa bingit na tayo ng pagbubukas ng kahon ng Pandora pagdating sa mga aspeto ng AI, at nananatili ang tanong kung mapipigilan ba natin ang pagbubukas ng kahon o kahit man lang ay makahanap ng ilang paraan upang maingat na makitungo sa anumang lalabas. sa sandaling nailabas na ng kahon ang malademonyong nilalaman nito.

Kung wala na, sana, ang mga ganitong uri ng mga bagyo sa media ay mag-udyok ng malawakang talakayan tungkol sa kung paano natin mapipigilan ang masamang gawaing nauugnay sa AI at maiiwasan ang maraming umiiral na panganib na dulot ng AI. Kailangan nating pataasin ang ating kamalayan sa lipunan sa mga pagsasaalang-alang sa AI Ethics at Ethical AI.

Bago pumasok sa ilang higit pang karne at patatas tungkol sa ligaw at malabong pagsasaalang-alang na pinagbabatayan ng mga ganitong uri ng AI system, magtatag tayo ng ilang karagdagang batayan sa malalim na mahahalagang paksa. Kailangan nating magsagawa ng maikling pagsisid sa AI Ethics at lalo na sa pagdating ng Machine Learning (ML) at Deep Learning (DL).

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, tutuklasin natin kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Bumalik tayo sa ating pagtuon sa mga AI system na ginagamit para sa hindi naaangkop o posibleng tahasang maling mga layunin at kung paano ito nauugnay sa kamakailang nai-post na pag-aaral sa katapatan ng CCP.

Dalawang pangunahing pagsasaalang-alang ang naiisip:

1) Ang AI instance na ito ay bahagi ng isang mas malaking patuloy na pattern ng nakalilito sa paggamit ng AI at samakatuwid ay nagbabala at nagbubukas ng mata sa kung ano ang nangyayari

2) Ang pusa ay maaaring palabasin sa bag upang kung ang AI na tulad nito ay pinagtibay sa isang bansa ay madali itong kumalat sa ibang mga bansa.

Magsimula sa unang punto tungkol sa pagkakataong ito ng pagiging bahagi ng AI ng isang patuloy na pattern.

Ang isang kapansin-pansing mahalagang batayan para lalo na mabalisa sa isang partikular na pag-aaral na ito ay bahagi ito ng isang mas malaking pattern kung paano nilalayon ng AI na gamitin ng ilan. Kung ito lamang ang gayong pag-aaral na isinagawa, maaaring bahagyang mapukaw ito. Gayunpaman, malamang na hindi ito sumasalamin sa gayong sigasig na nakikita natin ngayon.

Ito ay marahil ang pagtulo-tulo ng isang pulgada patungo sa isang bagay na mawawala sa kamay.

Gaya ng iniulat sa balita, kilala ang China sa paggigiit ng effusive loyalty sa CCP. Higit pa rito, iba't ibang paraan ang naitatag o itinatatag upang matiyak na ang mga tao ay natutuhan sa doktrina ng pamahalaan. May mga nabanggit na pagkakataon ng mga naunang pag-aaral na naglalayong gumawa ng mga algorithm ng AI na maaaring masukat ang mga kondisyon ng pag-iisip ng mga miyembro ng partido (tingnan ang suportado ng China Mga Panahon ng Pag-aaral noong 2019 na binanggit ang mga pagsisikap na ito).

Maaalala mo na noong 2018, nagbigay ng talumpati si Bise Presidente Mike Pence sa Hudson Institute at binigyang-diin na "layunin ng mga pinuno ng China na ipatupad ang isang sistemang Orwellian na nakabatay sa pagkontrol sa halos lahat ng aspeto ng buhay ng tao" (ito ay isang pagtukoy sa pagpapatupad ng CCP ng isang social credit scoring system, isang paksa ng kilalang kontrobersya). Maaari mong madaling igiit na ang kamakailang pag-aaral ng CCP ay isa pang hakbang sa direksyong iyon.

Hindi namin alam kung kailan o kung masisira ng huling dayami ang likod ng kamelyo, kung kaya't ang mga one-off na pag-aaral na ito ay ginawang malawakang mga sistema ng pagsubaybay na nakabatay sa AI.

Ang pangalawang punto na karapat-dapat ng pansin ay hindi natin maaaring ipagpalagay na ang ganitong uri ng AI ay makukulong lamang sa China. Sa esensya, kahit na ang pagkakaroon ng ganitong uri ng paggamit ng AI sa China na maaaring kumalat ay sa pamamagitan ng sarili nitong nakakagambala, maaaring gawin din ito ng ibang mga bansa.

Kapag ang AI para dito ay sinabing handa na para sa prime time, malamang na hindi na magtatagal ang ibang mga bansa upang magpasya na gusto rin nilang ipatupad ito. Ang pusa ay mawawala sa bag. Malamang na gagamitin ng ilang bansa ang AI na ito sa tahasang mapang-aping mga paraan at hindi susubukang magbigay ng anumang pagkukunwari tungkol sa paggawa nito. Ang ibang mga bansa ay maaaring maghangad na gamitin ang ganitong uri ng AI para sa kung ano ang tila kapaki-pakinabang na mga layunin, kung saan mayroong isang downside na halos hindi maiiwasan.

Sa totoo lang, ang pagmumungkahi na ang ganitong uri ng AI ay maaaring gamitin lamang kapag nakita itong handa na para sa prime time ay isang maliit na maling pangalan. Maaaring walang kaunting pagkakaiba kung ang AI ay maaaring gumana nang sigurado sa ganitong paraan. Maaaring gamitin ang AI bilang isang cover story, tingnan ang aking paliwanag sa ang link dito. Anuman ang aktwal na magagawa ng AI, ang paniwala ay ang AI ay maaaring maging isang madaling gamiting pagkukunwari upang ilabas ang pagsubaybay ng populasyon at mga pamamaraan ng pagsukat at pagtiyak ng ganap na katapatan sa mga awtoridad.

Sa puntong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang mga halimbawang nakapagpapakita na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa mga maling paggamit ng AI, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At Maling Paggamit ng AI

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Gumawa tayo ng sketch ng isang self-driving na senaryo ng kotse na maaaring magamit ang AI sa hindi malinaw o maling paraan.

Ibabahagi ko sa iyo ang ilang mga epekto ng self-driving na sasakyan na nakabatay sa AI na maaaring magdulot sa iyo ng panginginig at pagkaabala. Ito ay mga facet na halos walang tinatalakay sa kasalukuyan. Paulit-ulit kong binanggit ang mga bagay, bagama't hayagang kinikilala na hanggang sa magkaroon tayo ng laganap na paggamit ng mga self-driving na kotse, hindi tayo magkakaroon ng labis na traksyon na ang lipunan ay nag-aalala o nagagalit sa kung ano ang tila ngayon bilang mga abstract na paniwala lamang. .

Handa ka na ba?

Magsisimula tayo sa ilang paglalagay ng pundasyon.

Ang mga self-driving na sasakyan na nakabatay sa AI ay nilagyan ng mga video camera, sa makatuwirang paraan. Nagbibigay-daan ito sa self-driving na kotse na makatanggap ng video imagery ng eksena sa pagmamaneho. Sa turn, ang AI driving system na tumatakbo sa mga computer sa self-driving na kotse ay nilalayon na computationally na suriin ang nakolektang video at alamin kung nasaan ang kalsada, kung nasaan ang mga kalapit na sasakyan, kung nasaan ang mga pedestrian, at iba pa. Napagtanto ko na binibigkas ko ang mga self-driving na kotse 101 mga pangunahing kaalaman.

May mga video camera na naka-mount sa labas ng autonomous na sasakyan at ang mga ito ay nakaturo palabas. Bilang karagdagan, sa pangkalahatan, maaari mong asahan na magkakaroon ng mga video camera sa o sa loob ng sasakyan na papasok sa loob ng self-driving na kotse. Bakit kaya? Easy-peasy, dahil magkakaroon ng maraming mahahalagang gamit para sa pagkuha ng video sa mga nangyayari sa loob ng autonomous na sasakyan.

Kapag sumakay ka sa isang self-driving na kotse, hindi mo na kailangang maging driver. Ano ang gagawin mo habang nasa loob ng isang self-driving na kotse?

Ang isang bagay na maaari mong gawin ay ang makipag-ugnayan sa iba sa bahay o sa opisina. Nandiyan ka na, papunta sa trabaho, na magsasabing tumagal ng isang oras na oras ng pagmamaneho sa pamamagitan ng self-driving na kotse, at maaari mo nang simulan ang iyong araw ng trabaho sa pamamagitan ng paggawa ng Zoom-like online na real-time na interactive na session. Makikita ka nila, dahil sa mga camera na nakaturo sa loob ng self-driving na kotse. Maaari mong makita ang mga ito sa marahil sa isang LED screen sa loob ng self-driving na kotse. Sa pagtatapos ng iyong araw, habang pauwi, maaari kang gumawa ng katulad na interactive na talakayan sa video kasama ang iyong mga anak habang nagsisimula silang gawin ang kanilang takdang-aralin para sa gabi.

Ang isa pang gamit ay para sa pagkuha ng mga klase. Ngayon na hindi mo na kailangang mag-aksaya ng iyong oras sa pagmamaneho, maaari mong i-on ang deadhead time na iyon sa loob ng self-driving na kotse sa pagpapahusay ng iyong mga kasanayan o pagkuha ng certification o degree. Sa pamamagitan ng mga camera na nakaturo sa loob, makikita ka ng iyong instructor at talakayin kung paano darating ang iyong pagsasanay.

Ang isa pang gamit ay upang subukan at matiyak na ang mga sakay sa mga self-driving na kotse ay hindi mag-amok. Sa isang kotseng hinimok ng tao, ang driver ay isang nasa hustong gulang na presensya na kadalasang pumipigil sa mga sakay na gumawa ng mga kalokohang bagay tulad ng pagmamarka sa loob ng graffiti. Ano ang mangyayari sa mga self-driving na sasakyan na nakabatay sa AI? Nag-aalala ang ilan na pipiliin ng mga sakay na guluhin ang loob ng mga sasakyan. Upang subukan at maiwasan ito, ang kumpanya ng ridesharing na nagde-deploy ng mga self-driving na kotse ay malamang na gagamit ng mga video camera na nakaharap sa loob upang subaybayan kung ano ang ginagawa ng mga tao habang nasa loob ng autonomous na sasakyan.

Ipinapalagay ko na kumbinsido ka na magkakaroon tayo ng mga video camera na tumuturo sa loob ng mga self-driving na kotse, bilang karagdagan sa mga camera na tumuturo palabas upang makita ang pinangyarihan ng pagmamaneho.

Handa ka na ngayon para sa kung ano ang tinutukoy ko bilang ang roving eye, tingnan ang aking pagsusuri sa ang link dito.

Una, isaalang-alang ang mga video camera na nakaturo palabas.

Saanman pumunta ang self-driving na kotse, posibleng makapag-video record ito ng anumang nakikita ng mga camera. Ang isang self-driving na kotse na nagbibigay ng elevator sa isang tao mula sa kanilang tahanan at maghahatid sa kanila sa grocery store ay dadaan sa isang kapitbahayan at ang video ay magre-record hindi lamang sa daanan kundi pati na rin ang lahat ng iba pang nangyayari sa paningin. Mag-ama na naglalaro sa kanilang bakuran. Isang pamilyang nakaupo sa kanilang harapang balkonahe. Tuloy-tuloy ito.

Sa ngayon, kakaunti lang ang mga self-driving na sasakyan sa mga pampublikong daanan kaya medyo kakaunti at hindi materyal ang kakayahang ito na kumuha ng video ng mga pang-araw-araw na aktibidad.

Isipin na sa huli ay makakamit natin ang ligtas at laganap na self-driving na mga kotse. Libu-libo sila. Siguro milyon-milyon. Mayroon kaming humigit-kumulang 250 milyong sasakyang hinimok ng tao sa US ngayon. Sa kalaunan, ang mga iyon ay halos mapapalitan ng mga self-driving na kotse o hindi na lang ginagamit, at higit na magkakaroon tayo ng mga self-driving na kotse sa ating mga daanan. Ang mga self-driving na sasakyan na iyon ay minamaneho ng AI at dahil dito ay maaaring mag-roaming sa 24×7. Walang pahinga, walang pahinga sa banyo.

Maaaring ma-upload ang data ng video mula sa mga self-driving na sasakyan na ito sa pamamagitan ng OTA (Over-The-Air) na mga koneksyon sa electronic networking. Ang mga self-driving na sasakyan ay gagamit ng OTA para makuha ang pinakabagong mga update sa AI software na na-download sa sasakyan. Bilang karagdagan, ang OTA ay maaaring gamitin upang mag-upload ng data mula sa self-driving na kotse sa isang cloud-based na database.

Sinabi ng lahat, magiging posible na pagsamahin ang na-upload na data na ito. Sa pamamagitan ng pagtahi, maaari mong pagsama-samahin ang araw-araw na pagpasok at pagpunta ng sinumang lumabas sa anumang araw sa anumang lugar na malawakang gumagamit ng mga self-driving na sasakyan.

Iyan ang mata na naglilibot na binalaan ko.

Maaari na nating isama ang pag-aaral ng CCP sa ganitong uri ng kakayahan. Ipagpalagay na may access ang isang pamahalaan sa lahat ng nakolektang data ng video na ito. Pagkatapos ay maaari silang gumamit ng algorithm ng pagkilala sa mukha na nakabatay sa AI upang matiyak kung saan ka nagpunta, sa anong oras ng araw, sa iyong pang-araw-araw na paglalakbay sa buhay. Bilang karagdagan, maaari nilang sigurong gamitin ang kanilang "loyalty" na AI-based na analyzer upang makita kung tila ikaw ay may tapat na hitsura sa iyong mukha o hindi.

Isipin na lang na noong Martes ng hapon ay naglalakad ka para kumuha ng sandwich sa isang lokal na kainan. Dumaan ang mga self-driving na sasakyan sa kalsada. Lahat ng maraming video ay nakunan ka habang ginagawa mo ang iyong limang minutong paglalakad para makakain. Ang data ay na-upload sa isang sentralisadong database. Pinatakbo ng gobyerno ang AI facial recognition program nito sa data.

Lumalabas na ang AI ay "natukoy" na ikaw ay nagkaroon ng hindi tapat na hitsura sa iyong mukha.

Marahil ang hindi tapat na hitsura na ito ay nangyari lamang sa isang iglap. Naghihintay ka sa isang sulok ng kalye para magbago ang ilaw para makatawid ka sa kalye papunta sa kainan. Sa sandaling iyon, nagkaroon ka ng bahagyang pagkasuklam na kailangan mong maghintay nang labis para sa simbolo ng Walk. Ito ba ay isang indikasyon marahil ng iyong kawalan ng katapatan sa gobyerno?

Oo, ang AI computationally kalkulado, ikaw ay abundantly hindi tapat sa sandaling iyon sa oras. Pag-uwi mo nang gabing iyon, inayos ng gobyerno ang pag-aresto sa iyo.

Ngunit maghintay, mayroong higit pa.

Tandaan na ang mga video camera ay nakaturo din sa loob.

Noong Martes ding iyon, habang nakasakay ka papuntang trabaho sa isang self-driving na kotse, kinukunan ng mga video camera ang bawat sandali mo. Ito ay na-upload sa isang sentralisadong database. Ang AI software na nagsusuri ng mga pattern ng mukha para sa kawalan ng katapatan ay gumawa ng computational pattern na pagsusuri ng iyong mga facial expression habang naglalakbay papunta sa opisina.

Sa isang punto, kaswal kang nakatingin sa labas ng autonomous na sasakyan at napansin mo ang isang construction worker na bahagyang nakaharang sa daanan at naging dahilan upang pabagalin ng AI driving system ang self-driving na kotse. Para sa isang segundo, ang iyong mukha ay nagpakita ng hitsura ng panunuya para sa construction worker na ito na nagpapabagal sa trapiko.

Ang AI facial pattern analysis ay binigyang-kahulugan ito bilang isang tanda ng hindi katapatan sa gobyerno.

Dalawang welga laban sa iyo sa isang araw.

Nabubuhay ka sa manipis na yelo.

Siyempre, kung ang AI ay "tama" o "mali" tungkol sa kakayahang matukoy ang iyong katapatan ay halos hindi mahalaga sa kontekstong ito. Ang diwa ay ang AI ay inilagay sa lugar para sa layuning ito. Ang mga tao na nagde-deploy ng AI ay maaaring o walang pakialam kung ang AI ay angkop na gamitin para sa ganitong uri ng gawain. Ang AI ay nagbibigay-daan para sa kontrol ng pamahalaan, anuman ang teknolohikal na bisa mismo.

Sinasaklaw nito ang pag-scan sa mukha.

Kung sa kalaunan ay magkakaroon tayo ng anumang uri ng portable na cost-effective na device para sa paggawa ng (di-umano'y) brainwave scan, tiyak na maaari rin itong isama sa mga self-driving na kotse. Siguradong bagay na ngayon ang mga video camera. Ang posibilidad ng pagkakaroon ng brainwave scan device ng ganitong kalibre ay wala sa mga card sa ngayon, ngunit malinaw na isang bagay na inaakala para sa hinaharap.

Para sa aking paggalugad kung paano maaaring subukan ng isang gobyerno na sakupin ang isang populasyon sa pamamagitan ng pag-agaw ng kontrol sa mga self-driving na sasakyan, tingnan ang link dito. Ang isang katulad na posibilidad ay umiiral na ang isang malisyosong aktor ay maaaring subukan na gawin ang parehong, kita n'yo ang link dito. Ang mga iyon ay hindi nilalayong maging mga taktika sa pananakot tungkol sa pagsakop sa mga kaugnay na paksang iyon, at sa halip, isang head-up sa kahalagahan ng cybersecurity at iba pang mga pag-iingat na dapat nating gawin bilang isang lipunan tungkol sa pagsisimula ng lahat ng mga sasakyan na nagmamaneho ng sarili at iba pang mga autonomous na sasakyan.

Konklusyon

Gusto kong mabilis na saklawin ang isang karagdagang aspeto tungkol sa AI na ginagamit upang tiyakin ang katapatan na sa tingin ko ay isang medyo hiwalay na paksa, ngunit isa na pinag-uusapan ng ilang tweet at social media.

Nauna kong binanggit na wala tayong sentient AI at hindi natin alam kung o kailan. Aliwin natin ang ideya na magkakaroon tayo ng sentient AI. Kung ganoon, isaalang-alang ang sumusunod na senaryo.

Kami sa pamamagitan ng non-sentient AI ay nagpasyang maglagay ng malawakang paggamit ng AI na tinitiyak sa computation kung ang mga tao ay tapat sa kanilang gobyerno, gumagamit ng mga facial scan, brainwave scan, at iba pa. Ito ay ganap na pinamamahalaan at ginagamit ng mga taong may awtoridad. Iyan ang nakababahalang senaryo na ilang sandali pa lang ay inilalarawan ko na.

Oras na para itaas ang ante.

Nagiging sensitibo ang AI. Posibleng ibigay na namin ngayon sa nararamdamang AI na ito ang malawak na kakayahan na maaaring matukoy ang katapatan at kawalan ng katapatan sa mga tao. Ang isang masasamang AI na nag-iisip na lipulin ang mga tao ay maaaring gamitin ang kakayahang ito upang magpasya na talagang ang mga tao ay magiging hindi tapat at dapat na ganap na sirain. O baka ang mga tao lang na nagpapakita ng indikasyon ng kawalan ng katapatan sa pamamagitan ng kanilang mukha o kanilang mga iniisip ay dapat na partikular na i-scrap.

Ang isa pang anggulo ay ang AI ay nagnanais na alipinin ang mga tao, tingnan ang aking talakayan sa ang link dito.

Mukhang binigyan namin ang AI ng isang perpektong regalo para sa pagsasagawa ng pakikipagsapalaran na iyon. Ang umiiral na imprastraktura na inilalagay namin sa lugar ay nagbibigay-daan sa AI na maingat na bantayan kaming mga tao. Ang mga lumalabas na nagpahayag ng hindi tapat na indikasyon sa mukha o iniisip tungkol sa (mga) panginoon ng AI ay mararamdaman ang galit ng AI.

Napagtanto ko na sinabi ko na ito ay isang upping ng ante. Hindi ako sigurado na iyon ang kaso. Sa palagay ko, kung mayroon tayong mga overlord ng AI na direktang nagpapasya sa ating kapalaran kumpara sa mga overlord ng tao na malamang na gumagamit ng AI system para matukoy ang katapatan, mabuti, alinman sa panukala ay tila hindi kanais-nais.

Isang pangwakas na komento sa ngayon.

Ang Romanong iskolar at pilosopo na si Marcus Tullius Cicero ay nagpahayag na walang higit na marangal, walang higit na kagalang-galang, kaysa sa katapatan. Maaaring hayaan natin ang AI na mauna sa atin at maging isang tool para magpatala at matiyak ang "katapatan" sa pamamagitan ng kakila-kilabot na paraan.

Isang kapaki-pakinabang na maingat na dahilan upang ilagay ang AI Ethics sa tuktok ng aming To-Do list.