Ang AI Ethics At AI Law ay Gumagalaw Patungo sa Mga Pamantayan na Tahasang Tinutukoy at Namamahala sa Mga Bias ng AI

Naglaro ka na ba ng limampu't dalawang card pick-up?

Ito ay hindi isang laro na karaniwan mong kusang gagawin. Narito kung bakit. May nag-aalok sa iyo na ito ay isang di-umano'y nakakatuwang isport at kung kukuha ka ng matamis na pain, itatapon nila ang isang buong deck ng mga baraha sa hangin at bigla na lang sa sahig. Pagkatapos ay bibigyan ka ng isang bastos na ngiti at sasabihin sa iyo na magpatuloy at kunin ang mga card. Iyon ang buong laro.

Prankster!

Mayroon akong medyo nag-iisip na tanong na itatanong sa iyo tungkol dito.

Ipagpalagay na ang isa sa mga card ay nadulas sa ilalim ng kalapit na sofa. Kapag natapos mo nang kunin ang lahat ng card, malalaman mong kulang ang isa dahil limampu't isa na lang ang nasa kamay mo.

Ang tanong, matutukoy mo ba kung aling card ang nawawala?

Sigurado ako na agad mong sasabihin na madali mong malalaman kung aling card ang wala sa iyong mga kamay. Ang kailangan mo lang gawin ay ayusin ang deck. Alam mo na ang karaniwang deck ay binubuo ng apat na suit at sa loob ng bawat suit ang mga card ay binibilang mula isa hanggang sampu at pagkatapos ay sa Jack, Queen, at King.

Alam mo ito dahil ang isang karaniwang deck ng mga baraha ay nakabatay sa isang pamantayan.

Whoa, ang pahayag na iyon ay maaaring mukhang isa sa mga ganap na halatang pahayag. Well, oo, siyempre, ang isang karaniwang playing deck ay batay sa isang pamantayan. Alam nating lahat yan. Ang punto ko ay sa pamamagitan ng pagkakaroon ng isang pamantayan maaari tayong umasa sa pamantayan kung kinakailangan. Bukod sa magagawa mong tukuyin kung anong card ang nawawala sa isang deck, maaari mo ring madaling maglaro ng zillions ng mga kilalang card game sa ibang tao. Sa sandaling sinabihan ang isang tao ng mga panuntunan ng isang laro, direkta silang makakapaglaro dahil alam na nila kung ano ang binubuo ng deck. Hindi mo kailangang ipaliwanag sa kanila na ang deck ay may apat na suit at iba't ibang numerong card. Alam na nila na mangyayari iyon.

Saan ako pupunta nito?

Sinusubukan kong dalhin ka sa isang landas na isang mahalagang paraan ng pagsulong sa larangan ng AI at lalo na sa larangan ng AI Ethics at Ethical AI. Nakikita mo, kailangan nating subukan at makabuo ng laganap at napagkasunduan ng lahat sa mga pamantayan tungkol sa AI Ethics. Kung magagawa natin ito, mapapahusay nito ang kadalian ng pagkuha ng Ethical AI at malinaw na layunin na pahusayin ang mga sistema ng AI na patuloy na nakakakuha ng pell-mell na itinatapon sa marketplace (tulad ng isang unnumbered at unordered deck ng mga wild card). Para sa aking patuloy at malawak na saklaw ng AI Ethics, Ethical AI, at AI Law, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Inilalabas ko ito upang magbigay ng pundasyon para sa aking talakayan dito na tututuon sa isang partikular na segment o bahagi ng mas malawak na larangan ng AI Ethics, katulad ng nabanggit kanina ang partikular na elemento ng mga bias ng AI. Ang dahilan din kung bakit ko ibinabahagi sa iyo ang paksang ito ay dahil sa isang dokumentong inilabas ng National Institute of Standards and Technology (NIST) ay nagsisikap na akitin tayo sa daan patungo sa isang pamantayang nagpapakilala sa mga bias ng AI. Ang dokumento ay may karapatan Tungo sa Isang Pamantayan Para sa Pagtukoy at Pamamahala ng Bias Sa Artipisyal na Katalinuhan ng mga may-akda na sina Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt, at Patrick Hall, at inilathala ng US Department of Commerce, NIST Special Publication 1270, noong Marso 2022.

Aalisin namin ang madaling gamiting at nakapagpapatibay na pagsisikap na ito tungo sa pagtatatag kung ano ang ibig sabihin ng mga bias ng AI. Ang lumang kasabihan ay hindi mo kayang pamahalaan ang hindi mo masusukat. Sa pamamagitan ng pagkakaroon ng pamantayan na naglalatag ng iba't ibang mga bias ng AI, maaari mong simulan ang pagsukat at pamamahala sa AI biases scourge.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan ng AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pangangalaga sa mga AI system. Ang lahat ng mga stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pagpapalagay ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang sinabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga tuntunin ng AI Ethics.

Ang pinagbabatayan ng marami sa mga pangunahing tuntunin sa AI Ethics ay ang mapanlinlang na katangian ng mga bias ng AI.

Tulad ng isang deck ng mga baraha, siguradong maganda kung maaari nating pagsama-samahin ang mga bias ng AI sa isang hanay ng mga "suit" o kategorya. Sa katunayan, ang dokumento ng NIST ay nag-aalok ng iminungkahing pagpapangkat.

Tatlong pangunahing kategorya ang iminumungkahi:

1) Mga Systemic Bias

2) Mga Pagkiling sa Istatistika at Computational

3) Mga Pagkiling ng Tao

Kung ang lahat ng mga bias ng AI ay magkasya nang maayos sa isa sa tatlong kategoryang iyon ay tiyak na isang bagay na dapat isaalang-alang. Maaari mong tiyak na magtaltalan na ang ilang mga bias ng AI ay nahuhulog sa isa, dalawa, o lahat ng tatlong kategorya sa parehong oras. Higit pa rito, maaari mong i-claim na mas maraming kategorya ang nararapat na banggitin, gaya ng ilang pang-apat, ikalima, ikaanim, o higit pang mga serye ng mga pagpapangkat.

Sana iyon ang iniisip mo dahil kailangan nating makisali ang lahat sa pagtulong sa paghubog ng mga pamantayang ito. Kung naguguluhan ka sa paraan kung saan unang nabuo ang mga pamantayang ito, hinihimok ko kayong gawin ang enerhiyang iyon sa pagtulong sa iba pa sa amin sa paggawa ng mga umuusbong na pamantayang iyon bilang matatag at kumpleto hangga't maaari silang iukit.

Sa ngayon, maaari nating tingnan nang mabuti ang iminungkahing tatlong kategorya at tingnan kung anong uri ng kamay ang hinarap sa atin sa ngayon (oo, patuloy akong gagamit ng isang pagkakatulad sa isang deck ng mga baraha, ginagawa ito sa kabuuan ng nakasulat na pirasong ito, maaari mong itaya ang iyong pinakamababang dolyar sa hindi gaanong nakatagong ace ng isang tema).

Ano ang ibig sabihin ng pagtukoy sa mga systemic biases?

Narito kung ano ang sinasabi ng dokumento ng NIST: “Ang mga sistematikong bias ay nagreresulta mula sa mga pamamaraan at gawi ng mga partikular na institusyon na nagpapatakbo sa mga paraan na nagreresulta sa ilang mga grupong panlipunan na nabebentahan o pinapaboran at ang iba ay napinsala o nababalewala. Ito ay hindi kailangang maging resulta ng anumang sinasadyang pagtatangi o diskriminasyon ngunit sa halip ng karamihang sumusunod sa mga umiiral na tuntunin o pamantayan. Institutional racism at sexism ang pinakakaraniwang mga halimbawa” (tandaan na ito ay isang maikling sipi lamang at hinihikayat ang mga mambabasa na makita ang buong paliwanag).

Ang AI ay pumapasok sa halo ng mga systemic bias sa pamamagitan ng pagbibigay ng paraan ng paghahatid at paglalapat ng mga bias na iyon sa AI-based na apps. Sa tuwing gagamit ka ng AI-infused na piraso ng software, para sa lahat ng alam mo ay maaaring naglalaman ito ng maraming bias na naka-bake na sa system sa pamamagitan ng mga kumpanya at kasanayan sa industriya na humantong sa paggawa ng AI. Ayon sa pag-aaral ng NIST: "Ang mga bias na ito ay naroroon sa mga dataset na ginamit sa AI, at ang mga pamantayan, kasanayan, at proseso ng institusyonal sa buong AI lifecycle at sa mas malawak na kultura at lipunan."

Susunod, isaalang-alang ang hanay ng mga bias na may label bilang mga istatistikal at computational bias.

Ang dokumento ng NIST ay nagsasaad nito: "Ang mga pagkiling sa istatistika at computational ay nagmumula sa mga error na nagreresulta kapag ang sample ay hindi kinatawan ng populasyon. Ang mga bias na ito ay nagmumula sa sistematiko kumpara sa random na pagkakamali at maaaring mangyari sa kawalan ng pagkiling, pagtatangi, o diskriminasyong layunin. Sa mga AI system, ang mga bias na ito ay naroroon sa mga dataset at algorithmic na proseso na ginagamit sa pagbuo ng mga AI application, at kadalasang nangyayari kapag ang mga algorithm ay sinanay sa isang uri ng data at hindi maaaring mag-extrapolate nang higit pa sa data na iyon."

Ang ganitong uri ng statistical at computational bias ay kadalasang niluluto sa isang AI system na gumagamit ng Machine Learning (ML) at Deep Learning (DL). Ang pagpapalabas ng mabigat na usapin ng kontemporaryong ML/DL ay nangangailangan ng kaugnay na side tangent tungkol sa kung ano ang AI at kung ano ang ML/DL.

Siguraduhin natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning at Deep Learning, na gumagamit ng computational pattern matching. Ito ay humantong sa mga sistema ng AI na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may pagkakatulad ng sentido komun at wala ring anumang mga nagbibigay-malay na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Dinadala tayo nito nang husto sa ikatlong kategorya ng hanay ng NIST ng tatlong pagpapangkat, partikular ang papel ng mga bias ng tao sa paglitaw ng mga bias ng AI. Narito ang ipinahiwatig ng dokumento ng NIST: “Ang mga pagkiling ng tao ay sumasalamin sa mga sistematikong pagkakamali sa pag-iisip ng tao batay sa isang limitadong bilang ng mga prinsipyo ng heuristiko at paghula ng mga halaga sa mas simpleng mga operasyong panghuhusga. Ang mga pagkiling na ito ay kadalasang implicit at may posibilidad na nauugnay sa kung paano nakikita ng isang indibidwal o grupo ang impormasyon (tulad ng automated na output ng AI) upang gumawa ng desisyon o punan ang nawawala o hindi alam na impormasyon. Ang mga bias na ito ay nasa lahat ng dako sa institusyonal, grupo, at mga indibidwal na proseso ng paggawa ng desisyon sa buong AI lifecycle, at sa paggamit ng mga AI application kapag na-deploy na."

Nakakuha ka na ngayon ng mabilis na pagpapakilala sa tatlong kategorya.

Gusto kong ibahagi sa iyo ang ilang karagdagang pagkain para sa pag-iisip tulad ng ipinahayag sa dokumento ng NIST. Ang isang tsart sa kanilang salaysay ay nagbibigay ng isang kapaki-pakinabang na buod ng mga pangunahing tanong at pagsasaalang-alang na sumasailalim sa bawat isa sa tatlong hanay ng mga bias ng AI. Inilista ko ang mga ito dito para sa iyong kaginhawaan ng sanggunian at pagpapatibay.

#1: Mga Systemic na Bias

• Sino ang binibilang at sino ang hindi binibilang?

— Mga isyu sa mga nakatagong variable

— Hindi gaanong representasyon ng mga marginalized na grupo

- Automation ng hindi pagkakapantay-pantay

— Underrepresentation sa pagtukoy ng utility function

— Mga prosesong pumapabor sa mayorya/minoridad

— Pagkiling sa kultura sa layuning pag-andar (pinakamahusay para sa mga indibidwal kumpara sa pinakamahusay para sa grupo)

• Paano natin malalaman kung ano ang tama?

— Pagpapatibay ng mga hindi pagkakapantay-pantay (mas naaapektuhan ang mga grupo sa mas mataas na paggamit ng AI)

— Ang predictive policing ay mas negatibong naapektuhan

— Malawakang paggamit ng ridesharing/self-driving na mga kotse/atbp. maaaring magbago ng mga patakaran na nakakaapekto sa populasyon batay sa paggamit

#2: Mga Pagkiling sa Istatistika at Computational

• Sino ang binibilang at sino ang hindi binibilang?

— Sampling at pagpili bias

— Paggamit ng mga proxy variable dahil mas madaling sukatin ang mga ito

— Bias ng automation

— Likert scale (kategorya hanggang ordinal hanggang kardinal)

— Nonlinear vs linear

- Pagkakamali sa ekolohiya

— Pagbabawas ng L1 kumpara sa L2 na pamantayan

— Pangkalahatang kahirapan sa pagbibilang ng contextual phenomena

• Paano natin malalaman kung ano ang tama?

— Kakulangan ng sapat na cross-validation

— Pagkiling sa survivorship

— Hirap sa pagiging patas

#3: Mga Pagkiling ng Tao

• Sino ang binibilang at sino ang hindi binibilang?

— Pagkiling sa pagmamasid (epekto ng ilaw ng kalsada)

— Bias ng availability (angkla)

- Pagkakamali ng McNamara

— Ang Groupthink ay humahantong sa makitid na mga pagpipilian

— Ang epekto ng Rashomon ay humahantong sa pansariling adbokasiya

— Ang kahirapan sa pagbibilang ng mga layunin ay maaaring humantong sa pagkakamali ng McNamara

• Paano natin malalaman kung ano ang tama?

— Bias ng kumpirmasyon

— Bias ng automation

Sa yugtong ito ng mabigat na talakayang ito, tataya ako na gusto mo ng ilang mga halimbawa ng paglalarawan na maaaring magpakita ng tatlong kategorya ng mga bias ng AI. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang dalubhasa sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tukuyin ang mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-nakakapukaw na mga lugar na malinaw na nagpapakita ng etikal na problema sa AI ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa tatlong iminungkahing kategorya ng AI biases, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Mga Sasakyang Nagmamaneho sa Sarili At Mga Bias ng AI

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Pinagkakatiwalaan ko na nagbibigay ng isang sapat na litanya ng mga pag-uusap upang mabahayan kung ano ang malapit kong maiugnay.

Nakahanda na kami ngayon na gumawa ng malalim na pagsisid sa mga self-driving na kotse at sa mga posibilidad ng Ethical AI na sumasama sa tatlong kategorya ng mga bias ng AI.

Isipin na ang isang AI-based na self-driving na kotse ay isinasagawa sa mga kalye ng iyong kapitbahayan at mukhang ligtas na nagmamaneho. Noong una, naglaan ka ng espesyal na atensyon sa bawat oras na nasusulyapan mo ang self-driving na kotse. Kapansin-pansin ang autonomous na sasakyan kasama ang rack nito ng mga electronic sensor na may kasamang mga video camera, radar unit, LIDAR device, at iba pa. Pagkatapos ng maraming linggo ng self-driving na sasakyan na gumagala sa paligid ng iyong komunidad, halos hindi mo na ito napapansin. Sa ganang inyo, isa lang itong sasakyan sa mga abalang pampublikong daanan.

Baka isipin mong imposible o hindi kapani-paniwalang maging pamilyar sa pagtingin sa mga self-driving na sasakyan, madalas akong sumulat tungkol sa kung paano unti-unting nasanay ang mga lugar na nasa saklaw ng self-driving na mga pagsubok sa kotse na makita ang mga spruced-up na sasakyan, tingnan ang aking pagsusuri sa ang link na ito dito. Marami sa mga lokal ang lumipat mula sa bibig-gaping rapt gawking sa ngayon nagpapalabas ng isang malawak na hikab ng inip upang masaksihan ang mga meendering self-driving cars.

Marahil ang pangunahing dahilan ngayon na maaari nilang mapansin ang mga autonomous na sasakyan ay dahil sa iritasyon at pagkagalit na kadahilanan. Tinitiyak ng by-the-book na AI driving system na sinusunod ng mga sasakyan ang lahat ng mga limitasyon sa bilis at panuntunan ng kalsada. Para sa mga abalang nagmamaneho ng tao sa kanilang mga tradisyunal na sasakyang hinimok ng tao, naiinis ka sa mga oras na naiipit ka sa likod ng mahigpit na pagsunod sa batas na AI-based na self-driving na mga kotse.

Iyan ay isang bagay na maaaring kailangan nating masanay, tama man o mali.

Balik sa ating kwento.

Isasaalang-alang natin sa susunod kung paano maaaring maglaro ang mga sistematikong bias sa kontekstong ito ng mga self-driving na kotse.

Ang ilang mga pantas ay labis na nag-aalala na ang mga self-driving na sasakyan ay magiging probinsya lamang ng mga mayayaman at mga piling tao. Maaaring ang gastos sa paggamit ng mga self-driving na kotse ay magiging napakamahal. Maliban kung mayroon kang malaking pera, maaaring hindi mo makita ang loob ng isang self-driving na kotse. Yaong mga gagamit ng mga self-driving na kotse ay kailangang maging mayaman, ito ay sinasabing ipinaglalaban.

Dahil dito, ang ilan ay nakakagulat na naghihikayat na ang isang anyo ng systemic na bias ay tatama sa pagdating ng AI-based na self-driving na mga kotse. Ang pangkalahatang autonomous na sistemang pang-industriya ng sasakyan sa kabuuan ay papanatilihin ang mga self-driving na sasakyan sa mga kamay ng mga mahihirap o hindi gaanong mayaman. Maaaring hindi ito sa pamamagitan ng hayagang layunin at lumalabas na ang tanging pinaniniwalaang paraan upang mabawi ang mabibigat na gastos sa pag-imbento ng mga self-driving na sasakyan ay ang maningil ng napakataas na presyo.

Kung sasagutin mo na ngayon ay may mga self-driving car tryout na ito na nagbibigay-daan sa pang-araw-araw na tao na gumamit, kaya mukhang hindi mo kailangang maging mayaman per se, ang counterargument ay na ito ay isang uri ng shell game bilang ito ay. Ang mga automaker at self-driving tech firms ay diumano'y handa na ipakita ito na parang hindi magiging isang malaking hadlang ang gastos. Ginagawa nila ito para sa mga layunin ng relasyon sa publiko ngayon at itataas ang mga presyo kapag nalaman nila ang mga kulubot. Ang isang conspiracist ay maaaring mag-claim na ang mga "guinea pig" bilang pang-araw-araw na tao ay ginagamit nang masama upang ang mayayaman ay yumaman sa huli.

Kaya, dahil sa medyo kontrobersyal na bagay na iyon, at paglalagay ng sarili kong dalawang sentimo sa karumal-dumal na paksang ito, hindi ako naniniwala na ang mga self-driving na kotse ay magiging outpresyuhan para sa pang-araw-araw na paggamit. Hindi ko isasaalang-alang ang mga detalye dito tungkol sa aking batayan para sa paggawa ng ganoong paghahabol at anyayahan ka na makita ang aking maalalahanin na mga talakayan sa ang link dito at din sa ang link dito.

Sa pagpapatuloy, maaari nating isaalang-alang ang susunod na usapin ng mga istatistikal at computational bias na nauugnay sa AI.

Pag-isipan ang tila walang kwentang tanong kung saan maglalakbay ang mga self-driving na sasakyan para magsakay ng mga pasahero. Ito ay tila isang abundantly innocuous na paksa. Gagamitin namin ang kuwento ng bayan o lungsod na may mga self-driving na sasakyan upang i-highlight ang marahil ay nakakagulat na potensyal na multo ng mga istatistikal at computational na bias na nauugnay sa AI.

Sa una, ipagpalagay na ang AI ay gumagala sa mga self-driving na sasakyan sa buong bayan. Ang sinumang gustong humiling ng pagsakay sa self-driving na kotse ay may pantay na pagkakataong makatawag ng isa. Unti-unti, sinimulan ng AI na pangunahing panatilihing naka-roaming ang mga self-driving na kotse sa isang seksyon lamang ng bayan. Ang seksyong ito ay isang mas malaking pera at ang AI system ay na-program upang subukan at i-maximize ang mga kita bilang bahagi ng paggamit sa komunidad.

Ang mga miyembro ng komunidad sa mga mahihirap na bahagi ng bayan ay mas malamang na makasakay mula sa isang self-driving na kotse. Ito ay dahil ang mga self-driving na sasakyan ay mas malayo at gumagala sa mas mataas na bahagi ng kita ng lokal. Kapag ang isang kahilingan ay dumating mula sa isang malayong bahagi ng bayan, anumang kahilingan mula sa isang mas malapit na lokasyon na malamang sa "pinagmamahalaang" bahagi ng bayan ay makakakuha ng mas mataas na priyoridad. Sa kalaunan, halos imposible na ang pagkakaroon ng self-driving na sasakyan sa anumang lugar maliban sa mas mayayamang bahagi ng bayan, nakakainis na para sa mga nakatira sa mga lugar na ngayon ay gutom na sa mapagkukunan.

Maaari mong igiit na ang AI ay halos nakarating sa isang anyo ng istatistikal at computational biases, na katulad ng isang anyo ng proxy na diskriminasyon (madalas ding tinutukoy bilang hindi direktang diskriminasyon). Ang AI ay hindi na-program upang maiwasan ang mga mahihirap na kapitbahayan. Sa halip, "natutunan" nitong gawin ito sa pamamagitan ng paggamit ng ML/DL.

Ipinapalagay na ang AI ay hindi kailanman mahuhulog sa ganoong uri ng kahiya-hiyang buhangin. Walang espesyal na pagsubaybay ang na-set up upang subaybayan kung saan pupunta ang mga self-driving na sasakyan na nakabatay sa AI. Pagkatapos lamang magsimulang magreklamo ang mga miyembro ng komunidad ay napagtanto ng mga pinuno ng lungsod kung ano ang nangyayari. Para sa higit pa sa mga ganitong uri ng mga isyu sa buong lungsod na ipapakita ng mga autonomous na sasakyan at self-driving na sasakyan, tingnan ang aking saklaw sa ang link na ito dito at naglalarawan sa isang pag-aaral na pinangunahan ng Harvard na aking kasamang may-akda sa paksa.

Para sa ikatlong kategorya ng mga bias ng tao na nauugnay sa mga bias ng AI, bumaling tayo sa isang halimbawa na kinabibilangan ng AI sa pagtukoy kung hihinto para sa paghihintay ng mga pedestrian na walang karapatang tumawid sa isang kalye.

Walang alinlangan na nagmamaneho ka at nakatagpo ng mga pedestrian na naghihintay na tumawid sa kalye ngunit wala silang karapatang gawin iyon. Nangangahulugan ito na mayroon kang pagpapasya kung hihinto at hayaan silang tumawid. Maaari kang magpatuloy nang hindi pinahihintulutan silang tumawid at ganap pa ring nasa loob ng mga legal na panuntunan sa pagmamaneho ng paggawa nito.

Iminungkahi ng mga pag-aaral kung paano nagpapasya ang mga driver ng tao sa paghinto o hindi paghinto para sa mga naturang pedestrian na kung minsan ang mga driver ng tao ay gumagawa ng pagpili batay sa hindi kanais-nais na mga bias. Maaaring mapansin ng isang taong driver ang pedestrian at piliin na huwag huminto, kahit na huminto sana sila kung may ibang hitsura ang pedestrian, gaya ng batay sa lahi o kasarian. Sinuri ko ito sa ang link dito.

Isipin na ang AI-based na self-driving na mga kotse ay naka-program upang harapin ang tanong kung hihinto o hindi para sa mga pedestrian na walang right-of-way. Narito kung paano nagpasya ang mga developer ng AI na i-program ang gawaing ito. Nangolekta sila ng data mula sa mga video camera ng bayan na nakalagay sa buong lungsod. Ang data ay nagpapakita ng mga human driver na humihinto para sa mga pedestrian na walang right-of-way at mga human driver na hindi humihinto. Ang lahat ng ito ay kinokolekta sa isang malaking dataset.

Sa pamamagitan ng paggamit ng Machine Learning at Deep Learning, ang data ay na-modelo sa computation. Pagkatapos ay ginagamit ng AI driving system ang modelong ito upang magpasya kung kailan titigil o hindi titigil. Sa pangkalahatan, ang ideya ay anuman ang binubuo ng lokal na custom, ito ay kung paano ididirekta ng AI ang self-driving na kotse.

Sa sorpresa ng mga pinuno ng lungsod at ng mga residente, maliwanag na pinipili ng AI na huminto o hindi huminto batay sa edad ng pedestrian. Paano nangyari iyon?

Sa isang mas malapit na pagsusuri sa video ng pagpapasya ng tao sa pagmamaneho, lumalabas na marami sa mga pagkakataon ng hindi pagtigil ang mga pedestrian na may walking tungkod ng isang senior citizen. Ang mga taong driver ay tila ayaw huminto at hayaan ang isang may edad na tao na tumawid sa kalye, marahil dahil sa ipinapalagay na tagal ng oras na maaaring tumagal para sa isang tao sa paglalakbay. Kung ang pedestrian ay mukhang maaari silang mabilis na tumawid sa kalye at bawasan ang oras ng paghihintay ng driver, ang mga driver ay mas pumayag na hayaan ang tao na tumawid.

Malalim itong nabaon sa sistema ng pagmamaneho ng AI. Ii-scan ng mga sensor ng self-driving na kotse ang naghihintay na pedestrian, ipapakain ang data na ito sa modelong ML/DL, at ang modelo ay maglalabas sa AI kung hihinto o magpapatuloy. Ang anumang visual na indikasyon na maaaring mabagal na tumawid ang pedestrian, gaya ng paggamit ng walking cane, ay ginamit sa matematika upang matukoy kung dapat hayaan ng AI driving system ang naghihintay na pedestrian na tumawid o hindi.

Maaari mong ipagtanggol na ito ay isang pag-asa sa isang preexisting na pagkiling ng tao.

Konklusyon

Ilang huling pag-iisip sa ngayon.

Mayroong isang tanyag na kasabihan na hindi mo maaaring baguhin ang mga card na ibinibigay sa iyo at sa halip ay dapat matutunan kung paano sapat na maglaro sa anumang kamay na ibinigay sa iyo.

Sa kaso ng mga bias ng AI, kung hindi tayo taimtim na mangunguna sa pagtatatag ng AI Ethics sa buong board at lalo na pagtitibayin ang characterization ng AI biases, ang mga uri ng mga kamay na haharapin natin ay aapaw sa mabahong hindi etikal, at posibleng labag sa batas na stratum. Kailangan nating pigilan ang mga card na iyon na maibigay, sa simula. Ang magiting na layunin na lumikha at magpahayag ng mga pamantayan ng Ethical AI ay isang mahalagang kasangkapan upang labanan ang tumataas na tsunami ng paparating na AI Para sa Masama.

Maaari mong tiyak na dalhin sa bangko na ang laganap na pagkiling ng AI at hindi etikal na AI ay magiging tulad ng isang manipis na bahay ng mga baraha, na sumasabog sa sarili nito at malamang na nakapipinsala para sa ating lahat.

Maglaro tayo para manalo, ginagawa ito gamit ang angkop na etikal na AI.