AI Ethics na may pag-aalinlangan Tungkol sa Pagtatatag ng Tinatawag na Red Flag AI na Mga Batas Para sa Pagtawag sa Mga Biased Algorithm Sa Autonomous AI Systems

Pag-usapan natin ang tungkol sa Red Flag Laws.

Walang alinlangan na alam mo na ang paniwala ng Red Flag Laws ay malawak na sinasaklaw sa balita kamakailan lamang. Ang mga headline na sumasaklaw sa paksa ay marami. Ang mga hilig at masigasig na mga debate sa mga bagay na ito ay nasa tuktok ng isip bilang isang alalahanin ng lipunan at sumasama sa kasalukuyan at mabilis na umuusbong na mga Batas ng Red Flag Gun.

Gusto kong maglakas-loob na sabihin na maaaring hindi ka pamilyar sa iba pang mga Red Flag Law na pinagtibay noong huling bahagi ng 1800s na nauukol sa mga de-motor na sasakyan at ang mga nangunguna sa pang-araw-araw na modernong mga sasakyan ngayon. Oo, tama, ang Mga Batas ng Red Flag ay bumalik sa kasaysayan, kahit na sumasaklaw sa iba pang mga paksa kumpara sa kontemporaryong pagtuon ngayon. Ang mga ito ay karaniwang tinutukoy bilang Mga Batas sa Trapiko ng Red Flag.

Ang mga nasa siglo na at ganap na hindi na gumaganang mga batas na ito ay nag-aatas na ang anumang de-motor na karwahe o makina na itinutulak ng singaw ay sa oras na iyon ay may matanda na mauna sa sasakyan at may dalang pulang bandila para sa mga layunin ng babala. Ang ideya ay ang mga alagang hayop ay maaaring maalarma sa mga maingay at walang kwentang kagamitang iyon na mabagal at hindi pantay na humahampas sa dumi o bahagyang sementadong mga kalsada, kung kaya't ang paglakad ng isang tao sa harap ng pagkukunwari habang masiglang iwinawagayway ang pulang bandila ay sana ay makaiwas sa mga kalamidad na dumating. Kung sakaling nagtataka ka, ang mga riles at tren ay itinuring na hindi kasama sa parehong mga batas dahil ang mga ito ay mga sasakyan na ganap na nakatali sa mga riles at may iba pang mga batas na sumasaklaw sa kanilang mga aksyon.

Isipin na kailangan mong iwagayway ang mga pulang bandila ngayon bilang isang kinakailangan para sa bawat kotse sa aming mga pampublikong daanan.

Halimbawa, ang isang ordinaryong motorista na bumababa sa kalye ng iyong kapitbahayan ay kailangang tiyakin na ang isang matanda na nagwawagayway ng pulang bandila ay naroroon at nagparada sa harap ng umaandar na kotse. Ito ay kailangang maganap para sa bawat sasakyang dumadaan sa iyong kalye. Siguro ang mga tao ay magiging mga red flag jobber na inupahan sa mga dumadaang driver ng sasakyan na kung hindi man ay walang kaibigan o kamag-anak na maaaring pumunta sa harap nila at gawin ang itinalagang pagkilos na kumakaway.

Sa ngayon, madalas nating iugnay ang pagwawagayway ng pulang bandila na nauugnay sa highway sa mga lugar ng pagtatayo ng kalsada. Habang papalapit ka sa isang hinukay na kalsada, ang mga manggagawa ay may hawak na pulang bandila upang kunin ang iyong atensyon. Sinasabi nito sa iyo na magdahan-dahan at maging alerto. Maaaring may buldoser na paparating sa iyong landas. Maaaring may malaking butas sa unahan at kakailanganin mong maingat na tumawid sa paligid nito.

Ngunit bumalik tayo sa paggamit noong 1800 ng mga pulang bandila.

Maniwala ka man o hindi, ang red flag-waver ay dapat na hindi bababa sa isang ikawalo ng isang milya na pagsulong ng paparating na de-motor na makina. Mukhang medyo mahaba ang distansya. Ipinapalagay ng isang tao na ito ay nagkaroon ng maraming kahulugan noong mga araw na iyon. Ang nakagugulat na ingay ng makina at marahil ang nakikita lamang ng sasakyan ay maaaring sapat na upang mataranta ang mga hayop. Ang ilan sa mga Batas ng Red Flag noong panahong iyon ay nangangailangan din na ang isang nagniningning na pulang ilaw ay nakataas sa gabi upang ang isang nakikitang pulang babala sa pag-iingat ay makikita mula sa isang madilim na distansya.

Sa pangkalahatan, sa tingin ko ay makatarungang igiit na tayo bilang isang lipunan ay may posibilidad na iugnay ang pulang bandila bilang isang uri ng senyales o signage na may isang bagay na posibleng mali o hindi bababa sa nangangailangan ng ating matapat na atensyon.

Maghanda para sa kaunting twist sa red flag phenomenon na ito.

Mayroong pinalutang na pagtatalo na dapat tayong mangailangan ng mga probisyon ng red flag pagdating sa Artificial Intelligence (AI).

Iyon ay medyo nakakagulat at nakakagulat na konsepto na nakakakuha ng maraming mga ulo scratching. Maaaring naguguluhan ka kung paano o bakit dapat magkaroon ng tinatawag Mga Batas ng Red Flag AI. Pakitandaan na nilalagyan ko ito ng label bilang Mga Batas ng Red Flag AI para maiba ang usapin mula sa Mga Batas sa Trapiko ng Red Flag (gaya ng mga noong huling bahagi ng 1800s) at para ding maibukod ang mga ito sa iba pang mas laganap na Mga Batas ng Red Flag Gun ngayon.

Kailangan ba talaga natin ng Red Flag AI Laws na malinaw at tanging nakatuon sa mga usapin ng AI?

Ang mga pumapabor sa iminungkahing diskarte ay igigiit na talagang kailangan namin ng mga legal na probisyon na makakatulong sa pag-clamping sa AI na naglalaman ng mga hindi nararapat na pagkiling at kumikilos sa mga paraan ng diskriminasyon. Sa ngayon, ang pagbuo at pag-deploy ng AI ay katulad ng isang Wild West anything-goes circumstance. Ang mga pagsisikap na pigilan ang masamang AI ay kasalukuyang nakadepende sa pagbabalangkas at pagpapatibay ng mga alituntunin sa AI Ethics. Para sa aking patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Ang mga batas na nakakahon sa masamang AI ay dahan-dahang ginagawa at pinagtibay, tingnan ang aking saklaw sa ang link dito. Nag-aalala ang ilan na hindi sapat ang takbo ng mga mambabatas. Tila ang mga pintuan ng baha ng pagpapahintulot sa bias na AI na itaguyod sa mundo ay malawak na bukas sa ngayon. Sinasabi ng pagpipiga ng kamay na sa oras na magkaroon ng mga bagong batas sa mga libro, ang masamang genie ay mawawala na sa bote.

Hindi ganoon kabilis, lumalabas ang mga kontraargumento. Ang mga alalahanin ay na kung ang mga batas ay masyadong mabilis na inilalagay, papatayin natin ang ginintuang gansa, kung saan, kung saan ang mga pagsisikap ng AI ay matutuyo at hindi natin makukuha ang mga benepisyo ng mga bagong sistema ng AI. Ang mga developer at kumpanya ng AI na gustong gumamit ng AI ay maaaring matakot kung ang isang byzantine na hanay ng mga bagong batas na namamahala sa AI ay biglang ipapatupad sa pederal, estado, at lokal na antas, bukod pa sa mga internasyonal na batas na nauugnay sa AI na sumusulong din.

Sa magulong affair na ito dumating ang panawagan para sa Red Flag AI Laws.

Bago pumasok sa ilang higit pang karne at patatas tungkol sa ligaw at malabong pagsasaalang-alang na pinagbabatayan ng inaakala na Batas ng Red Flag AI, magtatag tayo ng ilang karagdagang batayan sa mga mahahalagang paksa. Kailangan nating magsagawa ng maikling pagsisid sa AI Ethics at lalo na sa pagdating ng Machine Learning (ML) at Deep Learning (DL).

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, tutuklasin natin kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Bumalik tayo sa ating pagtuon sa mga Red Flag AI Laws.

Ang pinagbabatayan na konsepto ay ang mga tao ay maaaring magtaas ng pulang bandila sa tuwing naniniwala sila na ang isang AI system ay tumatakbo sa isang labis na bias o diskriminasyon. Hindi ka magtataas ng isang pisikal na bandila, at sa halip ay gagamit lamang ng ilang elektronikong paraan upang ipaalam ang iyong mga alalahanin. Ang pulang bandila na bahagi ng pamamaraan o diskarte ay higit na isang metapora kaysa isang pisikal na sagisag.

Magpanggap na nag-aaplay ka para sa isang pautang sa bahay. Pinili mong gumamit ng isang online na serbisyo sa pagbabangko upang mag-aplay para sa isang pautang. Pagkatapos magpasok ng ilang personal na data, maghintay ka sandali para sa AI system na ginagamit upang magpasya kung ikaw ay karapat-dapat sa pautang o hindi. Sinasabi sa iyo ng AI na tinanggihan ka para sa loan. Sa paghiling ng paliwanag kung bakit ka tinanggihan, ang textual narrative ay tila nagmumungkahi sa iyo na ang AI ay gumagamit ng hindi nararapat na mga kadahilanan bilang bahagi ng algorithm sa paggawa ng desisyon.

Oras na para itaas ang Red Flag tungkol sa AI.

Saan nga ba iwawagayway ang pulang bandilang ito?

Iyan ay isang milyong dolyar na tanong.

Ang isang pananaw ay dapat tayong mag-set up ng isang nationwide database na magpapahintulot sa mga tao na markahan ang kanilang mga pulang flag na nauugnay sa AI. May nagsasabi na ito ay dapat na i-regulate ng federal government. Ang mga ahensya ng pederal ay magiging responsable para sa pagsusuri sa mga pulang bandila at tumulong sa pangkalahatang publiko tungkol sa katotohanan at pagharap sa malamang na "masamang AI" na pumukaw sa pag-uulat ng pulang bandila.

Isang pambansang Red Flag AI Law ang tila itatatag ng Kongreso. Sasabihin ng batas kung ano ang isang pulang bandila na may kinalaman sa AI. Ilalarawan ng batas kung paano itinataas ang AI grousing red flag na ito. At iba pa. Maaaring ito rin ang kaso na ang mga indibidwal na estado ay maaari ding mag-opt na gumawa ng sarili nilang mga Red Flag AI Laws. Marahil ay ginagawa nila ito bilang kapalit ng isang pambansang inisyatiba, o ginagawa nila ito upang palakasin ang mga partikular na partikular na kaakit-akit sa kanilang partikular na estado.

Ang mga kritiko ng isang pederal o anumang programang Red Flag AI na suportado ng gobyerno ay mangangatuwiran na ito ay isang bagay na maaaring gawin ng pribadong industriya at hindi namin kailangan ang Big Brother na mauna. Ang industriya ay maaaring magtatag ng isang online na imbakan kung saan ang mga tao ay maaaring magrehistro ng mga pulang bandila tungkol sa mga sistema ng AI. Ang isang self-policing action ng industriya ay sapat na haharap sa mga isyung ito.

Ang isang pagkabalisa tungkol sa sinasabing diskarte sa industriya ay na ito ay tila bakol ng cronyism. Papayag ba ang mga kumpanya na sumunod sa ilang pribadong pinapatakbong Red Flag AI database? Maraming mga kumpanya ang potensyal na huwag pansinin ang mga minarkahang pulang bandila tungkol sa kanilang AI. Hindi magkakaroon ng matatalas na ngipin sa pagkuha ng mga kumpanya na harapin ang mga ipinasok na pulang bandila.

Uy, ang mga nagsusulong ng diskarte sa pribadong sektor ay hindi maganda, ito ay magiging katulad ng pambansang serbisyong tulad ng Yelp. Maaaring tingnan ng mga mamimili ang mga pulang bandila at magpasya para sa kanilang sarili kung gusto nilang makipagnegosyo sa mga kumpanyang nag-racked up ng maraming pulang flag na nakatuon sa AI. Ang isang bangko na nakakakuha ng maraming pulang bandila tungkol sa kanilang AI ay kailangang magbayad ng pansin at baguhin ang kanilang mga AI system, kaya ang lohika ay napupunta, kung hindi ay maiiwasan ng mga mamimili ang kumpanya tulad ng salot.

Kung ang buong diskarte na ito ay isinasagawa ng gobyerno o ng industriya ay ang dulo lamang ng malaking bato ng yelo sa mga mahihirap na tanong na kinakaharap ng iminungkahing Red Flag AI Laws na postulate.

Ilagay ang iyong sarili sa posisyon ng isang firm na binuo o gumagamit ng AI. Maaaring ang mga mamimili ay magtataas ng mga pulang bandila kahit na walang mabubuhay na batayan para gawin ito. Kung ang mga tao ay maaaring malayang mag-post ng pulang bandila tungkol sa AI, maaari silang matukso na gawin ito sa isang kapritso, o marahil para sa paghihiganti laban sa isang kumpanya na kung hindi man ay walang ginawang mali sa mamimili.

Sa madaling salita, maaaring mayroong maraming maling positibong Red Flag tungkol sa AI.

Ang isa pang pagsasaalang-alang ay ang napakalaking sukat o magnitude ng mga nagresultang pulang bandila. Maaaring madaling magkaroon ng milyon-milyong mga pulang bandila na itinaas. Sino ang susunod sa lahat ng mga pulang bandilang iyon? Ano ang magiging gastos sa paggawa nito? Sino ang magbabayad para sa red flag follow-up efforts? atbp.

Kung sasabihin mong ang sinumang magrerehistro o mag-uulat ng pulang bandila tungkol sa AI ay kailangang magbayad ng bayad, pumasok ka sa isang madilim at mapanlinlang na kaharian. Ang pag-aalala ay ang mga mayayaman lamang ang may kakayahang magtaas ng mga pulang bandila. Ito naman ay nagpapahiwatig na ang mga mahihirap ay hindi makakalahok nang pantay-pantay sa mga aktibidad ng red flag at mahalagang walang lugar para sa babala tungkol sa masamang AI.

Isa pang karagdagang twist sa ngayon, ibig sabihin, ang ganitong uri ng mga red flag na batas o mga alituntunin tungkol sa AI ay tila sumusunod sa katotohanan sa halip na nagsisilbing babala muna.

Pagbabalik sa Mga Batas sa Trapiko ng Red Flag, ang diin ng paggamit ng pulang bandila ay upang maiwasan ang pagkakaroon ng kalamidad sa simula. Ang red flag-waver ay dapat na nauuna sa paparating na sasakyan. Sa pamamagitan ng pagiging nauuna sa sasakyan, ang mga alagang hayop ay maaalerto at ang mga nagbabantay sa mga hayop ay malalaman na dapat silang mag-ingat dahil sa malapit nang dumating na nakakagambalang pinagmulan.

Kung nagagawa lamang ng mga tao na magtaas ng pulang bandila tungkol sa AI na tila nakapinsala na o nagpapahina sa kanilang mga karapatan, ang kasabihang kabayo ay nasa labas na ng kamalig. Ang lahat ng ito ay tila magagawa ay na sana ang ibang mga taong darating ay alam na ngayon na maging maingat sa AI system na iyon. Samantala, ang taong umano'y nagkasala ay nagdusa na.

Iminumungkahi ng ilan na maaari nating payagan ang mga tao na itaas ang mga pulang bandila tungkol sa AI na sila pinaghihinalaan maaaring maging bias, kahit na hindi nila ginamit ang AI at hindi direktang naapektuhan ng AI. Kaya, ang pulang bandila ay iwinawagayway bago ang pinsala.

Oo, ang sagot, gagawin mo talaga ang AI-coping red flags sa isang ganap na hindi mapamahalaan at magulong pangyayari. Kung sinuman sa anumang dahilan ay maaaring magtaas ng pulang bandila tungkol sa isang AI system, sa kabila ng hindi mo nagawang anuman sa AI na iyon, ikaw ay mabahaan ng mga pulang bandila. Ang masama pa, hindi mo makikilala ang trigo mula sa ipa. Ang buong diskarte sa pulang bandila ay babagsak sa ilalim ng sarili nitong timbang, na binabawasan ang kabutihan ng ideya sa pamamagitan ng pagpapahintulot sa flotsam at rifraff na lumubog ang buong barko.

Nakakahilo at nakakalito.

Sa puntong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang mga halimbawang nakapagpapakita na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa Red Flag AI Laws, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At Red Flag AI Laws

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Mag-sketch tayo ng isang senaryo na maaaring gumamit ng Red Flag AI Law.

Sumakay ka sa isang self-driving na kotse na nakabatay sa AI at nais mong ihatid ka ng autonomous na sasakyan sa iyong lokal na grocery store. Sa medyo maikling paglalakbay, ang AI ay dumaraan sa isang ruta na sa tingin mo ay medyo mali. Sa halip na pumunta sa pinakadirektang paraan, ang AI ay nagna-navigate sa labas ng daan na mga kalye na nagiging sanhi ng oras ng pagmamaneho na mas mataas kaysa sa karaniwan.

Ano ang nangyayari?

Ipagpalagay na nagbabayad ka para sa paggamit ng self-driving na kotse, maaari kang maghinala na ang AI ay na-program na magmaneho ng mas mahabang ruta upang subukang itaas ang pamasahe o gastos ng biyahe. Ang sinumang nakasakay na ng kumbensyonal na taksi na hinimok ng tao ay alam ang panlilinlang na maaaring mangyari upang makakuha ng mas maraming kuwarta sa metro. Siyempre, sa mga taong may GPS sa kanilang mga smartphone habang nakasakay sa isang taksi o katumbas nito, maaari mong madaling mahuli ang isang tao na driver na tila palihim na tumatahak sa hindi kinakailangang mahabang ruta.

Lumalabas na mayroon kang isa pang alalahanin tungkol sa pagpili ng ruta, isang bagay na talagang nakakaganyak sa iyo.

Ipagpalagay na ang pagruruta ay ginawa upang maiwasan ang ilang bahagi ng bayan dahil sa mga aspeto ng lahi. May mga dokumentadong kaso ng mga driver ng tao na nahuling gumagawa ng mga ganitong uri ng mga pagpipilian, tingnan ang aking talakayan sa ang link dito. Marahil ang AI ay na-program nang masama nito.

Nagpasya kang magtaas ng pulang bandila.

Ipagpalagay natin para sa kapakanan ng talakayan na ang isang Red Flag AI Law ay pinagtibay na sumasaklaw sa iyong hurisdiksyon. Maaaring ito ay lokal na batas, batas ng estado, pederal o internasyonal na batas. Para sa pagsusuri na isinulat ko kasama ng Harvard's Autonomous Vehicle Policy Initiative (AVPI) sa pagtaas ng kahalagahan ng lokal na pamumuno kapag pinagtibay ng mga komunidad ang paggamit ng mga self-driving na sasakyan, tingnan ang link dito.

Kaya, mag-online ka sa isang database ng Red Flag AI. Sa database ng insidente, ilalagay mo ang impormasyon tungkol sa paglalakbay sa sarili na pagmamaneho ng kotse. Kabilang dito ang petsa at oras ng paglalakbay sa pagmamaneho, kasama ang tatak at modelo ng self-driving na kotse. Pagkatapos ay papasok ka sa ruta ng pag-navigate na mukhang kahina-hinala, at iminumungkahi mo o marahil ay tahasang sinasabi na ang AI ay ginawa na may kinikilingan o diskriminasyong layunin at mga kapasidad.

Kailangan nating mag-isip-isip sa iba pang mga detalye ng Red Flag AI Law kung ano ang susunod na mangyayari sa partikular na senaryo na ito. Sa teorya, magkakaroon ng probisyon para sa isang tao na suriin ang pulang bandila. Malamang na hinahangad nilang makuha ang automaker o self-driving tech firm na ipaliwanag ang kanilang pananaw sa naka-log na pulang bandila. Ilang iba pang tulad na pulang bandila ang nairehistro na? Anong mga resulta ang ginawa ng mga pulang bandilang iyon?

At iba pa ito ay pupunta.

Konklusyon

Kalokohan, ang panawagan ng ilang nag-aalinlangan.

Hindi namin kailangan ng Red Flag AI Laws, mahigpit silang nagsusumikap. Ang paggawa ng anumang uri ay magpapalago ng mga gawa pagdating sa bilis at pag-unlad ng AI. Ang anumang mga naturang batas ay magiging mahirap gamitin. Gagawa ka ng problema na hindi nakalulutas ng problema. May iba pang mga paraan upang makitungo sa AI na masama. Huwag bulag na hawakan ang mga straw upang makayanan ang may kinikilingan na AI.

Sa paglilipat ng mga gears, alam nating lahat na ang mga bullfighter ay gumagamit ng pulang kapa upang tila maakit ang atensyon ng galit na toro. Bagama't pula ang kulay na pinaka-uugnay namin sa pagsasanay na ito, maaaring magulat ka na malaman na ang mga siyentipiko ay nagsasabi na ang mga toro ay hindi nakikita ang pulang kulay ng muleta (sila ay color-blind sa pula). Ang sikat na palabas MythBusters gumawa ng medyo nakakaaliw na pagsusuri sa bagay na ito. Ang paggalaw ng kapa ang pangunahing elemento sa halip na ang napiling kulay.

Para sa mga nagtatakwil sa pangangailangan para sa Red Flag AI Laws, isang counterclaim ay na kailangan namin ng isang bagay na kapansin-pansin at hindi mapag-aalinlanganan na kumakaway upang matiyak na ang mga developer ng AI at mga kumpanyang nagde-deploy ng AI ay makakaiwas sa bias o masamang AI. Kung hindi para sa isang pulang bandila, maaaring ang isang fluttering kapa o karaniwang anumang uri ng alerto diskarte ay maaaring nasa loob ng larangan ng pagkuha ng nararapat na pagsasaalang-alang.

Alam nating sigurado na mayroong masamang AI at marami pang masamang AI ang pupunta sa ating direksyon. Ang paghahanap ng mga paraan upang maprotektahan ang ating sarili mula sa masamang AI ay mahalaga. Gayundin, ang pagtatakda ng mga guardrail upang subukan at pigilan ang masamang AI sa pagpasok sa mundo ay pare-parehong mahalaga.

Si Ernest Hemingway ay tanyag na sinabi na walang sinuman ang nabubuhay sa kanilang buong buhay maliban sa mga bullfighter. Kailangan nating tiyakin na ang mga tao ay mabubuhay sa lahat ng paraan, sa kabila ng anumang kasamaan o kabaliwan ng AI na ipinahayag sa atin.