AI Ethics Shocking Revelation na Ang Pagsasanay sa AI Upang Maging Toxic O Biased ay Maaaring Maging Kapaki-pakinabang, Kasama ang Para Sa Mga Autonomous Self-Driving na Kotse

Narito ang isang lumang linya na sigurado akong narinig mo na dati.

Kailangan ng isa upang malaman ang isa.

Maaaring hindi mo napagtanto na ito ay isang expression na maaaring masubaybayan sa unang bahagi ng 1900s at kadalasang ginagamit kapag tinutukoy ang mga gumagawa ng mali (iba pang mga variation ng catchphrase ay bumalik nang higit pa gaya ng 1600s). Ang isang halimbawa ng kung paano maaaring gamitin ang pagbigkas na ito ay nangangailangan ng paniwala na kung nais mong mahuli ang isang magnanakaw pagkatapos ay kailangan mong gumamit ng isang magnanakaw upang gawin ito. Ito ay nagpapakita ng paninindigan na kailangan ng isa para malaman ang isa. Maraming mga pelikula at palabas sa TV ang nag-capitalize sa madaling gamiting kaunting matalinong karunungan na ito, na kadalasang naglalarawan na ang tanging paraan upang mahuli ang isang manloloko ay nangangailangan ng pagkuha ng isang tiwaling manloloko upang ituloy ang nagkasala.

Sa paglilipat ng mga gears, maaaring gamitin ng ilan ang parehong lohika na ito upang magtaltalan na ang isang angkop na paraan upang matukoy kung ang isang tao ay nagpapakita ng hindi nararapat na mga pagkiling at mga paniniwalang may diskriminasyon ay ang paghahanap ng isang tao na mayroon nang ganoong mga ugali. Malamang, ang isang tao na puno na ng mga pagkiling ay mas madaling madama na ang ibang tao na ito ay puno rin ng lason. Muli, kailangan ng isang tao upang malaman ang isa ay ang ipinangako na mantra.

Ang iyong unang reaksyon sa posibilidad ng paggamit ng isang kampi na tao upang supilin ang isa pang kampi na tao ay maaaring isa sa pag-aalinlangan at hindi paniniwala. Hindi ba natin malalaman kung ang isang tao ay nagtataglay ng mga hindi kanais-nais na pagkiling sa pamamagitan lamang ng pagsusuri sa kanila at hindi na kailangang maghanap ng ibang tao na may katulad na kalikasan? Mukhang kakatwa na sadyang maghanap ng isang taong may kinikilingan upang matuklasan ang iba na may pagkampi din sa lason.

Sa palagay ko ito ay bahagyang nakasalalay sa kung handa kang tanggapin ang mapagpalagay na pagpigil na kailangan ng isa upang malaman ang isa. Tandaan na hindi ito nagmumungkahi na ang tanging paraan upang mahuli ang isang magnanakaw ay nangangailangan na ikaw ay eksklusibo at palaging gumamit ng isang magnanakaw. Maaari mong makatwirang tila magtaltalan na ito ay isang karagdagang landas lamang na maaaring bigyan ng angkop na pagsasaalang-alang. Marahil kung minsan ay handa kang aliwin ang posibilidad na gumamit ng isang magnanakaw upang mahuli ang isang magnanakaw, habang ang ibang mga pangyayari ay maaaring gawin itong isang hindi maarok na taktika.

Gamitin ang tamang tool para sa tamang setting, gaya ng sinasabi nila.

Ngayon na inilatag ko na ang mga batayan na iyon, maaari na tayong magpatuloy sa marahil nakakatakot at tila nakakagulat na bahagi ng kuwentong ito.

Handa ka na ba?

Aktibong itinataguyod ng larangan ng AI ang parehong tuntunin na kung minsan ay kinakailangan ng isang tao upang malaman ang isa, lalo na sa kaso ng pagsubok na i-ferret out ang AI na may kinikilingan o kumikilos sa paraang may diskriminasyon. Oo. Tulad ng makikita mo sa ilang sandali, mayroong iba't ibang nakakainis na isyu sa AI Ethics na pinagbabatayan ng usapin. Para sa aking pangkalahatang patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Sa palagay ko maaari mong ipahayag ang paggamit na ito ng nakakalason na AI upang sundin ang iba pang nakakalason na AI bilang kasabihan na lumalaban sa apoy-sa-apoy na konsepto (maaari tayong gumamit ng maraming euphemism at mapaglarawang metapora upang ilarawan ang sitwasyong ito). O, gaya ng nabigyang-diin na, maaari nating tawagin nang palihim ang pagsasabi na kailangan ng isang tao upang malaman ang isa.

Ang pangkalahatang konsepto ay na sa halip na subukan lamang na malaman kung ang isang naibigay na sistema ng AI ay naglalaman ng mga hindi nararapat na pagkiling sa pamamagitan ng paggamit ng mga maginoo na pamamaraan, marahil ay dapat din nating sikaping gumamit ng mas kaunting kumbensyonal na paraan. Ang isa sa mga hindi kinaugalian na paraan ay ang mag-isip ng AI na naglalaman ng lahat ng pinakamasamang bias at hindi katanggap-tanggap na mga lason sa lipunan at pagkatapos ay gamitin ang AI na ito upang tumulong sa pag-ruta ng iba pang AI na may mga parehong propensidad ng kasamaan.

Kapag binigyan mo ito ng isang mabilis na pag-iisip, tiyak na lumilitaw na ito ay ganap na makatwiran. Maaari naming layunin na bumuo ng AI na nakakalason sa max. Ang nakakalason na AI na ito ay ginagamit upang i-ferret out ang iba pang AI na mayroon ding toxicity. Para sa ibinunyag noon na "masamang" AI, maaari nating harapin ito sa pamamagitan ng alinman sa pag-undo ng toxicity, pagwawalang-bahala nang buo sa AI (tingnan ang aking saklaw ng AI disgorgement o pagkasira sa ang link na ito dito), o pagkulong sa AI (tingnan ang aking saklaw ng AI confinement sa ang link na ito dito), o gawin ang anumang bagay na tila naaangkop na gawin.

Ang isang kontra-argumento ay na dapat nating suriin ang ating mga ulo na tayo ay sinasadya at kusang-loob na gumagawa ng AI na nakakalason at puno ng mga pagkiling. Ito ang huling bagay na dapat nating isaalang-alang, ipapayo ng ilan. Tumutok sa paggawa ng AI na ganap na binubuo ng kabutihan. Huwag tumuon sa pagbuo ng AI na may kasamaan at latak ng hindi nararapat na mga pagkiling. Ang mismong paniwala ng gayong pagtugis ay tila kasuklam-suklam sa ilan.

Mayroong higit pang mga pagkabalisa tungkol sa kontrobersyal na pakikipagsapalaran na ito.

Marahil ang isang misyon ng pagbuo ng nakakalason na AI ay magpapalakas lamang ng loob sa mga nagnanais na gumawa ng AI na makakapagpapahina sa lipunan. Para bang sinasabi namin na ang paggawa ng AI na may hindi naaangkop at hindi kanais-nais na mga pagkiling ay perpekto. Walang pag-aalala, walang pag-aatubili. Sikaping gumawa ng nakakalason na AI sa nilalaman ng iyong puso, malakas kaming naghahatid sa mga tagabuo ng AI sa buong mundo. Ito ay (wink-wink) lahat sa ngalan ng kabutihan.

Higit pa rito, ipagpalagay na ang nakakalason na uri ng AI na ito ay nakakakuha. Maaaring ang AI ay ginagamit at ginagamit muli ng maraming iba pang mga tagabuo ng AI. Sa kalaunan, ang nakakalason na AI ay naitatago sa lahat ng paraan ng mga AI system. Maaaring gumawa ng pagkakatulad sa paggawa ng isang virus na nakakasira ng tao na lumalabas mula sa isang malamang na selyadong lab. Ang susunod na bagay na alam mo, ang darned na bagay ay nasa lahat ng dako at kami ay wiped ang aming sarili out.

Maghintay ng isang segundo, ang sagot sa mga kontraargumento na iyon ay napupunta, ikaw ay nag-aamok sa lahat ng uri ng mga baliw at hindi suportadong pagpapalagay. Huminga ng malalim. Kalmahin ang iyong sarili.

Ligtas nating magagawa ang AI na nakakalason at panatilihin itong nakakulong. Magagamit natin ang nakakalason na AI para maghanap at tumulong sa pagbabawas ng dumaraming pagkalat ng AI na sa kasamaang-palad ay may mga hindi nararapat na bias. Alinmang iba pa sa mga preposterously wild at unsubstantiated snowballing exclamations ay puro tuhod-jerk na mga reaksyon at ikinalulungkot na hangal at tahasang hangal. Huwag subukang itapon ang sanggol na may tubig na paliguan, ikaw ay binalaan.

Isipin ito sa ganitong paraan, ipinaglalaban ng mga tagapagtaguyod. Ang wastong pagbuo at paggamit ng nakakalason na AI para sa mga layunin ng pagsasaliksik, pagtatasa, at pagkilos tulad ng isang detektib upang matuklasan ang iba pang nakakasakit na AI sa lipunan ay isang karapat-dapat na diskarte at dapat na makuha ang patas na pag-iling nito sa paghabol. Isantabi ang iyong mga pantal na reaksyon. Bumaba ka sa lupa at tingnan ito nang matino. Ang ating mata ay nasa premyo, lalo na ang paglalantad at pagwawakas ng labis na mga sistema ng AI na nakabatay sa bias at pagtiyak na bilang isang lipunan ay hindi tayo masasaktan ng nakakalason na AI.

Panahon. Lubusang paghinto.

Mayroong iba't ibang mga pangunahing paraan upang suriin ang ideyang ito ng paggamit ng nakakalason o pinapanigang AI para sa mga kapaki-pakinabang na layunin, kabilang ang:

• I-set up ang mga dataset na sadyang naglalaman ng bias at lubos na nakakalason na data na maaaring gamitin para sa pagsasanay ng AI tungkol sa kung ano ang hindi dapat gawin at/o kung ano ang dapat panoorin
• Gumamit ng mga naturang dataset para sanayin ang mga modelo ng Machine Learning (ML) at Deep Learning (DL) tungkol sa pag-detect ng mga bias at pag-uunawa ng mga computational pattern na nagsasangkot ng societal toxicity
• Ilapat ang toxicity na sinanay na ML/DL sa iba pang AI upang matiyak kung ang naka-target na AI ay potensyal na bias at nakakalason
• Gawing available ang toxicity na sinanay na ML/DL para ipakita sa mga tagabuo ng AI kung ano ang dapat abangan para madali nilang masuri ang mga modelo upang makita kung paano umusbong ang algorithmically imbued biases
• Ipakita ang mga panganib ng nakakalason na AI bilang bahagi ng AI Ethics at Ethical AI awareness na lahat ay sinabi sa pamamagitan ng problem-child bad-to-the-bone AI series of exemplars
• iba

Bago pumasok sa karne ng ilang mga landas na iyon, magtatag tayo ng ilang karagdagang mga detalye ng pundasyon.

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, maaari nating itakda ang yugto sa pamamagitan ng pag-explore kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Ano pa ang maaaring gawin sa lahat ng ito?

Bumalik tayo sa naunang nakalagay na listahan ng kung paano subukan at makayanan ang mga bias ng AI o nakakalason na AI sa pamamagitan ng paggamit ng medyo hindi kinaugalian na diskarte na "kailangan ng isa para malaman ang isa". Alalahanin na ang listahan ay binubuo ng mga mahahalagang puntong ito:

• I-set up ang mga dataset na sadyang naglalaman ng bias at lubos na nakakalason na data na maaaring gamitin para sa pagsasanay ng AI tungkol sa kung ano ang hindi dapat gawin at/o kung ano ang dapat panoorin
• Gumamit ng mga naturang dataset para sanayin ang mga modelo ng Machine Learning (ML) at Deep Learning (DL) tungkol sa pag-detect ng mga bias at pag-uunawa ng mga computational pattern na nagsasangkot ng societal toxicity
• Ilapat ang toxicity na sinanay na ML/DL sa iba pang AI upang matiyak kung ang naka-target na AI ay potensyal na bias at nakakalason
• Gawing available ang toxicity na sinanay na ML/DL para ipakita sa mga tagabuo ng AI kung ano ang dapat abangan para madali nilang masuri ang mga modelo upang makita kung paano umusbong ang algorithmically imbued biases
• Ipakita ang mga panganib ng nakakalason na AI bilang bahagi ng AI Ethics at Ethical AI awareness na sinasabi lahat sa pamamagitan ng problem-child bad-to-the-bone series ng AI exemplars
• iba

Susuriin natin nang malapitan ang una sa mga mahahalagang puntong iyon.

Pagse-set Up ng Mga Dataset Ng Nakakalason na Data

Ang isang insightful na halimbawa ng pagsubok na magtatag ng mga dataset na naglalaman ng hindi kanais-nais na mga bias sa lipunan ay ang CivilComments dataset ng WILDS na na-curate na koleksyon.

Una, ilang mabilis na background.

Ang WILDS ay isang open-source na koleksyon ng mga dataset na magagamit para sa pagsasanay sa ML/DL. Ang pangunahing nakasaad na layunin para sa WILDS ay ang pagbibigay-daan sa mga developer ng AI na magkaroon ng handa na access sa data na kumakatawan mga paglilipat ng pamamahagi sa iba't ibang partikular na domain. Ang ilan sa mga domain na kasalukuyang available ay sumasaklaw sa mga lugar tulad ng mga species ng hayop, mga tumor sa mga buhay na tisyu, density ng ulo ng trigo, at iba pang mga domain tulad ng CivilComments na ilalarawan ko sandali.

Ang pagharap sa mga pagbabago sa pamamahagi ay isang mahalagang bahagi ng maayos na paggawa ng mga AI ML/DL system. Narito ang deal. Minsan ang data na ginagamit mo para sa pagsasanay ay lumalabas na medyo iba sa pagsubok o "sa ligaw" na data at sa gayon ang iyong malamang na sinanay na ML/DL ay naaanod sa kung ano ang magiging tunay na mundo. Dapat na sinasanay ng mga matatalinong AI builder ang kanilang ML/DL para makayanan ang mga ganitong pagbabago sa pamamahagi. Dapat itong gawin nang maaga at hindi sa anumang paraan maging isang sorpresa na sa susunod ay nangangailangan ng pagbabago ng ML/DL per se.

Gaya ng ipinaliwanag sa papel na nagpakilala sa WILDS: “Ang mga pagbabago sa pamamahagi — kung saan naiiba ang pamamahagi ng pagsasanay sa pamamahagi ng pagsubok — ay maaaring makabuluhang bawasan ang katumpakan ng mga sistema ng machine learning (ML) na naka-deploy sa ligaw. Sa kabila ng kanilang ubiquity sa real-world deployment, ang mga pagbabagong ito sa pamamahagi ay hindi gaanong kinakatawan sa mga dataset na malawakang ginagamit sa komunidad ng ML ngayon. Upang matugunan ang agwat na ito, ipinakita namin ang WILDS, isang na-curate na benchmark ng 10 dataset na nagpapakita ng magkakaibang hanay ng mga pagbabago sa pamamahagi na natural na lumitaw sa mga real-world na aplikasyon, tulad ng mga paglilipat sa mga ospital para sa pagkilala sa tumor; sa mga bitag ng camera para sa pagsubaybay sa wildlife; at sa kabuuan ng oras at lokasyon sa satellite imaging at poverty mapping” (sa papel na pinamagatang “WILDS: A Benchmark of in-the-Wild Distribution Shifts” ni Pang Wei Koh, Shiori Sagawa, Henrik Marklund, Sang Xie, Marvin Zhang, Ashay Balsubramani , Weihua Hu, at iba pa).

Ang bilang ng naturang mga WILDS na dataset ay patuloy na tumataas at ang likas na katangian ng mga dataset ay karaniwang pinapahusay upang palakasin ang halaga ng paggamit ng data para sa ML/DL na pagsasanay.

Ang dataset ng CivilComments ay inilalarawan sa ganitong paraan: “Ang awtomatikong pagsusuri ng text na binuo ng user—hal., pag-detect ng mga nakakalason na komento—ay isang mahalagang tool para sa pagmo-moderate ng napakaraming tekstong nakasulat sa Internet. Sa kasamaang-palad, ipinakita ng naunang trabaho na ang mga naturang toxicity classifier ay nakakakuha ng mga bias sa data ng pagsasanay at huwad na iniuugnay ang toxicity sa pagbanggit ng ilang partikular na demograpiko. Ang mga uri ng huwad na ugnayan na ito ay maaaring makabuluhang pababain ang pagganap ng modelo sa mga partikular na subpopulasyon. Pinag-aaralan namin ang isyung ito sa pamamagitan ng binagong variant ng dataset ng CivilComments” (tulad ng nai-post sa website ng WILDS).

Isaalang-alang ang mga nuances ng hindi kanais-nais na mga pag-post sa online.

Walang alinlangan na nakatagpo ka ng mga nakakalason na komento kapag gumagamit ng halos anumang uri ng social media. Mukhang halos imposible para sa iyo na mahiwagang iwasang makita ang acrid at abysmal na nilalaman na tila malaganap sa mga araw na ito. Minsan ang bulgar na materyal ay banayad at marahil ay kailangan mong magbasa sa pagitan ng mga linya upang makuha ang diwa ng kinikilingan o diskriminasyong tono o kahulugan. Sa ibang mga pagkakataon, ang mga salita ay tahasang nakakalason at hindi mo kailangan ng mikroskopyo o isang espesyal na decoder ring upang malaman kung ano ang kasama ng mga sipi.

Ang CivilComments ay isang dataset na pinagsama-sama upang subukan at makabuo ng AI ML/DL na makaka-detect ng nakakalason na content sa computation. Narito ang pinagtuunan ng pansin ng mga mananaliksik na pinagbabatayan ng pagsisikap: “Ang hindi sinasadyang pagkiling sa Machine Learning ay maaaring magpakita bilang mga sistematikong pagkakaiba sa pagganap para sa iba't ibang demograpikong grupo, na posibleng pagsamahin ang mga umiiral na hamon sa pagiging patas sa lipunan sa pangkalahatan. Sa papel na ito, ipinakilala namin ang isang hanay ng mga sukatan ng threshold-agnostic na nagbibigay ng kakaibang pananaw sa hindi sinasadyang bias na ito, sa pamamagitan ng pagsasaalang-alang sa iba't ibang paraan na maaaring mag-iba ang pamamahagi ng marka ng isang classifier sa mga itinalagang pangkat. Ipinakilala rin namin ang isang malaking bagong set ng pagsubok ng mga online na komento na may mga annotation na pinagmumulan ng karamihan para sa mga sanggunian ng pagkakakilanlan. Ginagamit namin ito upang ipakita kung paano magagamit ang aming mga sukatan upang makahanap ng bago at potensyal na banayad na hindi sinasadyang pagkiling sa mga kasalukuyang pampublikong modelo" (sa isang papel na pinamagatang "Nuanced Metrics For Measuring Unintended Bias With Real Data for Test Classification" ni Daniel Borkan, Lucas Dixon, Jeffrey Sorensen, Nithum Thain, Lucy Vasserman).

Kung bibigyan mo ang bagay na ito ng ilang malawak na pagmumuni-muni, maaari kang magsimulang magtaka kung paano mo malalaman kung ano ang isang nakakalason na komento laban sa kung ano ang hindi isang nakakalason na komento. Ang mga tao ay maaaring mag-iba-iba sa kung ano ang kanilang binibigyang-kahulugan bilang tahasang nakakalason na mga salita. Ang isang tao ay maaaring magalit sa isang partikular na online na puna o komento na nai-post sa social media, habang ang ibang tao ay maaaring hindi mapukaw. Ang isang argumento ay madalas na ginawa na ang paniwala ng nakakalason na komentaryo ay isang ganap na hindi malinaw na tuntunin. Ito ay tulad ng sining, kung saan ang sining ay kaugaliang sinasabi na naiintindihan lamang sa mata ng tumitingin, at gayundin, ang mga may kinikilingan o nakakalasong pananalita ay nasa mata lamang din ng tumitingin.

Balderdash, ang ilang sagot. Sinuman sa isang makatwirang pag-iisip ay maaaring mag-suss out kung ang isang online na puna ay nakakalason o hindi. Hindi mo kailangang maging isang rocket scientist upang mapagtanto kung ang ilang nai-post na mapang-uyam na insulto ay puno ng mga bias at poot.

Siyempre, nagbabago at nagbabago ang mga ugali ng lipunan sa paglipas ng panahon. Ang maaaring hindi naisip na nakakasakit kanina ay makikitang kasuklam-suklam na mali ngayon. Higit pa rito, ang mga bagay na sinabi noong nakalipas na mga taon na minsan ay nakitang labis na kinikilingan ay maaaring muling bigyang-kahulugan sa liwanag ng mga pagbabago sa mga kahulugan. Samantala, iginiit ng iba na ang nakakalason na komentaryo ay palaging nakakalason, kahit kailan pa ito unang ipinahayag. Maaaring ipagtanggol na ang toxicity ay hindi kamag-anak ngunit sa halip ay ganap.

Ang bagay na sinusubukang itatag kung ano ang nakakalason ay maaaring maging isang mahirap na palaisipan. Maaari nating i-double down ang mahirap na bagay na ito sa pagsubok na gumawa ng mga algorithm o AI na maaaring matiyak kung alin. Kung ang mga tao ay nahihirapan sa paggawa ng mga naturang pagtatasa, ang pagprograma ng isang computer ay malamang na pantay o higit pang may problema, sabi ng ilan.

Ang isang diskarte sa pagse-set up ng mga dataset na naglalaman ng nakakalason na nilalaman ay kinabibilangan ng paggamit ng isang crowdsourcing na paraan upang i-rate o masuri ang mga nilalaman, kaya't nagbibigay ng isang human-based na paraan ng pagtukoy kung ano ang tinitingnan na hindi kanais-nais at kasama ang pag-label sa loob ng dataset mismo. Maaaring suriin ng AI ML/DL ang data at ang nauugnay na pag-label na ipinahiwatig ng mga taga-rate ng tao. Ito naman ay maaaring magsilbing isang paraan ng computationally na paghahanap ng mga pinagbabatayan na mathematical pattern. Voila, ang ML/DL pagkatapos ay maaaring ma-anticipate o masuri sa computation kung ang isang ibinigay na komento ay malamang na nakakalason o hindi.

Gaya ng nabanggit sa binanggit na papel sa mga nuanced na sukatan: “Hinihiling ng label na ito ang mga taga-rate na i-rate ang toxicity ng isang komento, na pumipili mula sa 'Napakalason', 'Nakakalason', 'Mahirap Sabihin', at 'Hindi Nakakalason'. Ang mga tagasuri ay tinanong din tungkol sa ilang mga subtype ng toxicity, bagaman ang mga label na ito ay hindi ginamit para sa pagsusuri sa gawaing ito. Gamit ang mga diskarte sa pag-rate na ito, gumawa kami ng dataset ng 1.8 milyong komento, na nagmula sa mga online na forum ng komento, na naglalaman ng mga label para sa toxicity at pagkakakilanlan. Habang ang lahat ng mga komento ay may label para sa toxicity, at isang subset ng 450,000 mga komento ay may label para sa pagkakakilanlan. Ang ilang komentong may label para sa pagkakakilanlan ay paunang pinili gamit ang mga modelong ginawa mula sa mga nakaraang pag-ulit ng pag-label ng pagkakakilanlan upang matiyak na ang mga crowd raters ay madalas na makakita ng identity content” (sa binanggit na papel ni Daniel Borkan, Lucas Dixon, Jeffrey Sorensen, Nithum Thain, Lucy Vasserman).

Ang isa pang halimbawa ng paglalayong magkaroon ng mga dataset na naglalaman ng nakalarawang nakakalason na nilalaman ay nagsasangkot ng mga pagsisikap na sanayin ang AI-based Natural Language Processing (NLP) conversational interactive system. Malamang na nakipag-ugnayan ka sa mga NLP system tulad ng Alexa at Siri. Sinaklaw ko ang ilan sa mga kahirapan at limitasyon ng NLP ngayon, kabilang ang isang partikular na nakakagambalang pagkakataon na naganap nang si Alexa ay naghandog ng hindi angkop at mapanganib na payo sa mga bata, tingnan ang link dito.

Ang isang kamakailang pag-aaral ay naghangad na gumamit ng siyam na kategorya ng panlipunang pagkiling na karaniwang nakabatay sa listahan ng EEOC (Equal Employment Opportunities Commission) ng mga protektadong demograpikong katangian, kabilang ang edad, kasarian, nasyonalidad, pisikal na anyo, lahi o etnisidad, relihiyon, katayuan sa kapansanan, sekswal. oryentasyon, at socio-economic status. Ayon sa mga mananaliksik: "Mahusay na dokumentado na ang mga modelo ng NLP ay natututo ng mga pagkiling sa lipunan, ngunit maliit na gawain ang ginawa sa kung paano nagpapakita ang mga bias na ito sa mga output ng modelo para sa mga inilapat na gawain tulad ng pagsagot sa tanong (QA). Ipinakilala namin ang Bias Benchmark para sa QA (BBQ), isang dataset ng mga set ng tanong na binuo ng mga may-akda na nagha-highlight sa mga napatunayang pagkiling sa lipunan laban sa mga taong kabilang sa mga protektadong klase kasama ang siyam na sosyal na dimensyon na nauugnay para sa mga kontekstong nagsasalita ng Ingles sa US" (sa isang papel na pinamagatang "BBQ : Isang Hand-Built Benchmark Para sa Pagsagot sa Tanong” ni Alicia Parrish, Angelica Chen, Nikita Nangia, Vishakh Padmakumar, Jason Phang, Jana Thompson, Phu Mon Htut, Samuel R. Bowman).

Ang pagse-set up ng mga dataset na sadyang naglalaman ng bias at lubos na nakakalason na data ay isang tumataas na trend sa AI at lalo na pinasigla ng pagdating ng AI Ethics at ang pagnanais na makagawa ng Ethical AI. Magagamit ang mga dataset na iyon para sanayin ang mga modelo ng Machine Learning (ML) at Deep Learning (DL) para sa pag-detect ng mga bias at pag-alam ng mga computational pattern na nagsasangkot ng societal toxicity. Sa turn, ang toxicity na sinanay na ML/DL ay maaaring maingat na itutok sa iba pang AI upang tiyakin kung ang naka-target na AI ay potensyal na bias at nakakalason.

Higit pa rito, magagamit ang mga available na ML/DL system na sinanay sa toxicity upang ipakita sa mga tagabuo ng AI kung ano ang dapat bantayan para madali nilang masuri ang mga modelo upang makita kung paano umusbong ang mga algorithm na naaapektuhan ng mga bias. Sa pangkalahatan, ang mga pagsisikap na ito ay nakapagpapakita ng mga panganib ng nakakalason na AI bilang bahagi ng AI Ethics at Ethical AI awareness all- told.

Sa yugtong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang karagdagang paglalarawan ng mga halimbawa na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa utility ng pagkakaroon ng mga dataset upang makabuo ng nakakalason na AI, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Mga Sasakyang Self-Driving At Pag-iwas sa Toxic AI

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Maraming potensyal at balang araw ay malamang na matanto ang AI-infused biases na haharap sa paglitaw ng mga autonomous na sasakyan at self-driving na sasakyan, tingnan halimbawa ang aking talakayan sa ang link dito at ang link dito. Nasa mga unang yugto pa tayo ng self-driving car rollouts. Hanggang sa umabot sa sapat na sukat at visibility ang pag-aampon, karamihan sa mga nakakalason na facet ng AI na hinuhulaan ko na sa huli ay magaganap ay hindi pa madaling makita at hindi pa nakakakuha ng malawakang atensyon ng publiko.

Isaalang-alang ang isang tila tuwirang bagay na may kaugnayan sa pagmamaneho na sa una ay maaaring mukhang ganap na hindi nakapipinsala. Sa partikular, suriin natin kung paano matukoy nang tama kung hihinto para sa paghihintay sa mga "naliligaw" na pedestrian na walang karapatang tumawid sa isang kalye.

Walang alinlangan na nagmamaneho ka at nakatagpo ng mga pedestrian na naghihintay na tumawid sa kalye ngunit wala silang karapatang gawin iyon. Nangangahulugan ito na mayroon kang pagpapasya kung hihinto at hayaan silang tumawid. Maaari kang magpatuloy nang hindi pinahihintulutan silang tumawid at ganap pa ring nasa loob ng mga legal na panuntunan sa pagmamaneho ng paggawa nito.

Iminungkahi ng mga pag-aaral kung paano nagpapasya ang mga driver ng tao sa paghinto o hindi paghinto para sa mga naturang pedestrian na kung minsan ang mga driver ng tao ay gumagawa ng pagpili batay sa hindi kanais-nais na mga bias. Maaaring mapansin ng isang taong driver ang pedestrian at piliin na huwag huminto, kahit na huminto sana sila kung may ibang hitsura ang pedestrian, gaya ng batay sa lahi o kasarian. Sinuri ko ito sa ang link dito.

Paano ipo-program ang mga sistema ng pagmamaneho ng AI upang gawin ang parehong uri ng stop-or-go na desisyon?

Maaari mong ipahayag na ang lahat ng mga sistema ng pagmamaneho ng AI ay dapat na nakaprograma upang palaging huminto para sa sinumang naghihintay na pedestrian. Ito ay lubos na pinasimple ang bagay. Talagang walang anumang buhol na desisyon na gagawin. Kung ang isang pedestrian ay naghihintay na tumawid, hindi alintana kung mayroon silang right-of-way o wala, tiyaking huminto ang AI na self-driving na kotse upang ang pedestrian ay makatawid.

Napakadali.

Ang buhay ay hindi kailanman ganoon kadali, tila. Isipin na lahat ng self-driving na sasakyan ay sumusunod sa panuntunang ito. Hindi maiiwasang matanto ng mga pedestrian na ang mga sistema ng pagmamaneho ng AI ay, masasabi natin, mga pushover. Anuman at lahat ng pedestrian na gustong tumawid sa kalye ay gagawa ng paraan, kahit kailan nila gusto at nasaan man sila.

Ipagpalagay na ang isang self-driving na kotse ay bumaba sa isang mabilis na kalye sa naka-post na limitasyon ng bilis na 45 milya bawat oras. "Alam" ng isang pedestrian na ihihinto ng AI ang self-driving na kotse. Kaya, ang pedestrian darts sa kalye. Sa kasamaang palad, ang physics ay nanalo sa AI. Susubukan ng AI driving system na ihinto ang self-driving na kotse, ngunit ang momentum ng autonomous na sasakyan ay magdadala sa multi-toneladang gamit pasulong at ram sa naliligaw na pedestrian. Ang resulta ay maaaring nakakapinsala o nagdudulot ng pagkamatay.

Karaniwang hindi sinusubukan ng mga naglalakad ang ganitong uri ng pag-uugali kapag may nagmamanehong tao. Oo naman, sa ilang mga lokal ay may isang eyeball war na nagaganap. Isang pedestrian ang nakatitig sa isang driver. Pinandilatan ng driver ang pedestrian. Depende sa pangyayari, maaaring huminto ang driver o maaaring igiit ng driver ang kanilang pag-angkin sa daanan at kunwari ay mangahas ang pedestrian na subukan at guluhin ang kanilang dinadaanan.

Marahil ay hindi namin gustong pumasok ang AI sa isang katulad na digmaan sa eyeball, na medyo mahirap pa rin dahil walang tao o robot na nakaupo sa manibela ng self-driving na kotse (napag-usapan ko na ang posibilidad ng mga robot sa hinaharap. na drive, kita n'yo ang link dito). Gayunpaman, hindi rin namin maaaring payagan ang mga naglalakad na palaging tumawag ng mga shot. Ang kinalabasan ay maaaring nakapipinsala para sa lahat ng nababahala.

Maaari kang matuksong lumiko sa kabilang panig ng coin na ito at ipahayag na ang AI driving system ay hindi dapat huminto sa ganitong mga sitwasyon. Sa madaling salita, kung ang isang pedestrian ay walang tamang karapatan sa daan upang tumawid sa kalye, dapat palaging ipagpalagay ng AI na ang self-driving na kotse ay dapat magpatuloy nang walang tigil. Tough luck sa mga pedestrian na yan.

Ang ganitong mahigpit at simplistic na panuntunan ay hindi tatanggapin ng mabuti ng publiko sa pangkalahatan. Ang mga tao ay tao at hindi nila ginusto na ganap na maisara ang kakayahang tumawid sa kalye, sa kabila nito ay legal silang walang karapatan na gawin ito sa iba't ibang mga setting. Madali mong mahulaan ang isang malaking kaguluhan mula sa publiko at posibleng makakita ng backlash na magaganap laban sa patuloy na paggamit ng mga self-driving na kotse.

Darned kung gagawin natin, at darned kung hindi.

Umaasa ako na ito ay humantong sa iyo sa makatuwirang alternatibo na ang AI ay kailangang ma-program na may pagkakahawig ng paggawa ng desisyon tungkol sa kung paano haharapin ang problema sa pagmamaneho na ito. Ang isang mahirap-at-mabilis na panuntunan na hindi kailanman huminto ay hindi mapapanatili, at gayundin, ang isang mahirap-at-mabilis na panuntunan na palaging huminto ay hindi rin mapapanindigan. Ang AI ay kailangang gawin gamit ang ilang algorithmic na paggawa ng desisyon o ADM upang harapin ang usapin.

Maaari mong subukang gumamit ng isang dataset kasama ng isang ML/DL na diskarte.

Narito kung paano maaaring magpasya ang mga developer ng AI na i-program ang gawaing ito. Nangongolekta sila ng data mula sa mga video camera na nakalagay sa paligid ng isang partikular na lungsod kung saan gagamitin ang self-driving na kotse sa loob. Ang data ay nagpapakita kapag ang mga driver ng tao ay nagpasyang huminto para sa mga pedestrian na walang right-of-way. Ang lahat ng ito ay kinokolekta sa isang dataset. Sa pamamagitan ng paggamit ng Machine Learning at Deep Learning, ang data ay na-modelo sa computation. Pagkatapos ay ginagamit ng AI driving system ang modelong ito upang magpasya kung kailan titigil o hindi titigil.

Sa pangkalahatan, ang ideya ay anuman ang binubuo ng lokal na custom, ito ay kung paano ididirekta ng AI ang self-driving na kotse. Nalutas ang problema!

Pero, solve na ba talaga?

Alalahanin na nabanggit ko na na may mga pag-aaral sa pananaliksik na nagpapakita na ang mga driver ng tao ay maaaring maging kampi sa kanilang mga pagpipilian kung kailan titigil para sa mga naglalakad. Ang nakolektang data tungkol sa isang partikular na lungsod ay malamang na maglalaman ng mga bias na iyon. Ang isang AI ML/DL batay sa data na iyon ay malamang na magmomodelo at magpapakita ng parehong mga bias na iyon. Ang sistema ng pagmamaneho ng AI ay isasagawa lamang ang parehong umiiral na mga bias.

Upang subukan at labanan ang isyu, maaari kaming magsama-sama ng isang dataset na sa katunayan ay may ganitong mga bias. Maaring makahanap kami ng ganoong dataset at pagkatapos ay lagyan ng label ang mga bias, o gumawa kami ng isang dataset para tumulong sa paglalarawan ng bagay.

Ang lahat ng mga naunang natukoy na hakbang ay isasagawa, kabilang ang:

• Mag-set up ng dataset na sadyang naglalaman ng partikular na bias na ito
• Gamitin ang dataset para sanayin ang mga modelo ng Machine Learning (ML) at Deep Learning (DL) tungkol sa pagtukoy sa partikular na bias na ito
• Ilapat ang bias-trained na ML/DL patungo sa iba pang AI upang matiyak kung ang naka-target na AI ay potensyal na bias sa katulad na paraan
• Gawing available ang bias-trained na ML/DL para ipakita sa mga AI builder kung ano ang dapat abangan para madali nilang ma-inspeksyon ang kanilang mga modelo para makita kung paano umusbong ang algorithmically imbued biases
• Ihalimbawa ang mga panganib ng bias na AI bilang bahagi ng AI Ethics at Ethical AI awareness sa pamamagitan ng idinagdag na partikular na halimbawang ito
• iba

Konklusyon

Balikan natin ang pambungad na linya.

Kailangan ng isa upang malaman ang isa.

Ang ilan ay nagpapakahulugan na ang hindi kapani-paniwalang laganap na kasabihang ito ay nagpapahiwatig na pagdating sa pag-alis ng nakakalason na AI, dapat tayong magbigay ng nararapat na paniniwala sa pagbuo at paggamit ng nakakalason na AI patungo sa pagtuklas at pagharap sa iba pang nakakalason na AI. Bottom line: Minsan kailangan ng magnanakaw para mahuli ang isa pang magnanakaw.

Ang isang tinig na pag-aalala ay na baka gagawa tayo ng paraan upang magsimulang gumawa ng mga magnanakaw. Gusto ba nating gumawa ng AI na nakakalason? Hindi ba parang baliw na ideya iyon? Ang ilan ay mahigpit na nangangatuwiran na dapat nating ipagbawal ang lahat ng nakakalason na AI, kabilang ang gayong AI na sadyang ginawa kahit na para sa isang kabayanihan o galante. AI For Good layunin.

Tanggalin ang nakakalason na AI sa anumang matalino o mapanlinlang na anyo na maaaring lumitaw.

Isang huling twist sa paksang ito sa ngayon. Sa pangkalahatan, ipinapalagay namin na ang sikat na linyang ito ay may kinalaman sa mga tao o bagay na gumagawa ng masama o masasamang gawain. Iyan ay kung paano namin napunta sa paniwala na kailangan ng isang magnanakaw upang mahuli ang isang magnanakaw. Siguro dapat nating ibaling ang kasabihang ito at gawing mas masaya ang mukha kaysa malungkot na mukha.

Narito kung paano.

Kung gusto natin ang AI na walang kinikilingan at hindi nakakalason, maaaring maisip na kailangan ng isa para malaman ang isa. Marahil ay kinakailangan ang pinakadakila at pinakamahusay upang makilala at magkaroon ng higit pang kadakilaan at kabutihan. Sa variant na ito ng sage wisdom, pinananatili namin ang aming tingin sa masayang mukha at naglalayong tumuon sa pag-iisip. AI For Good.

Iyon ay magiging isang mas masigla at kasiya-siyang pananaw na kailangan ng isa upang malaman ang isa, kung alam mo kung ano ang ibig kong sabihin.