AI Ethics Ringing Alarm Bells Tungkol sa Nakaaabang na Spectre Ng AI Biases Sa Napakalaking Global Scale, Lalo na Pinaandar sa pamamagitan ng Looming Ganap na Autonomous System

Ipinahayag ni Plato na ang isang mabuting desisyon ay batay sa kaalaman at hindi sa mga numero.

Ang matalas na insight na ito ay mukhang kamangha-mangha tungkol sa Artificial Intelligence (AI) ngayon.

Nakikita mo, sa kabila ng naglalagablab na mga headline na kasalukuyang naghahayag na ang AI ay nakarating na sa paanuman at sumasaklaw sa kaalaman at pangangatwiran ng tao, mangyaring magkaroon ng kamalayan na ang overstated AI hyperbole na ito ay mapanlinlang na prevarication dahil umaasa pa rin tayo sa number-crunching sa paggawa ng desisyon sa algorithm ngayon (ADM ) gaya ng isinagawa ng mga sistema ng AI. Maging ang ipinagmamalaki na Machine Learning (ML) at Deep Learning (DL) ay binubuo ng computational pattern matching, ibig sabihin, ang mga numero ay nasa core pa rin ng mataas na paggamit ng ML/DL.

Hindi namin alam kung posible ang AI reaching sentience. Maaaring, maaaring hindi. Walang makapagsasabi kung paano ito maaaring mangyari. Naniniwala ang ilan na unti-unti naming pagbubutihin ang aming mga pagsusumikap sa computational AI upang ang isang anyo ng sentience ay kusang magaganap. Iniisip ng iba na maaaring pumasok ang AI sa isang uri ng computational supernova at maabot ang sentience sa sarili nitong pagsang-ayon (karaniwang tinutukoy bilang singularity). Para sa higit pa sa mga teoryang ito tungkol sa hinaharap ng AI, tingnan ang aking saklaw sa ang link dito.

Kaya, huwag nating lokohin ang ating sarili at maling maniwala na ang kontemporaryong AI ay nakakapag-isip tulad ng mga tao. Sa palagay ko ang tanong ay darating sa harapan tungkol sa sinabi ni Plato kung maaari tayong magkaroon ng magagandang desisyon batay sa computational AI kaysa sa sentient AI. Maaaring mabigla kang malaman na igigiit ko na maaari nga tayong magkaroon ng magagandang desisyon na ginagawa ng pang-araw-araw na AI system.

Ang kabilang panig ng coin na iyon ay maaari rin tayong magkaroon ng pang-araw-araw na AI system na gumagawa ng masasamang desisyon. Mga bulok na desisyon. Mga desisyon na puno ng hindi kanais-nais na mga pagkiling at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Ang aking malawak na saklaw ng AI Ethics at Ethical AI ay matatagpuan sa ang link na ito dito at ang link na ito dito, Lamang upang pangalanan ang ilang.

Para sa talakayang ito dito, gusto kong maglabas ng isang partikular na nakababahala na aspeto tungkol sa AI na ang mga nasa AI Ethics arena ay nararapat na nagdadalamhati at sinusubukang itaas ang tamang kamalayan tungkol sa. Ang matino at nakakaligalig na bagay ay talagang diretsong ituro.

Narito ito ay: Ang AI ay may tunay na potensyal sa mundo ng pagpapalaganap ng AI-steeped bias sa isang nakababahala na pandaigdigang saklaw.

At kapag sinabi kong "sa sukat" ito ay nangangahulugan ng malawakang sukat sa buong mundo. Humongous na sukat. Scale na lumalabas sa scale.

Bago ako sumisid sa kung paano magaganap ang pag-scale na ito ng AI-steeped biases, siguraduhin nating lahat tayo ay may pagkakatulad kung paano maaaring isama ng AI ang mga hindi nararapat na bias at hindi pagkakapantay-pantay. Alalahanin muli na ito ay hindi isang uri ng pakiramdam. Ito ay lahat ng isang computational caliber.

Maaaring naguguluhan ka kung paano maaaring makuha ng AI ang parehong mga uri ng masamang bias at hindi pagkakapantay-pantay na ginagawa ng mga tao. Madalas nating isipin na ang AI ay ganap na neutral, walang kinikilingan, simpleng makina na walang anumang emosyonal na ugoy at masamang pag-iisip na maaaring mayroon ang mga tao. Isa sa mga pinaka-karaniwang paraan ng AI na nahuhulog sa mga bias at hindi pagkakapantay-pantay na kalungkutan ay nangyayari kapag gumagamit ng Machine Learning at Deep Learning, bahagyang bilang resulta ng pag-asa sa nakolektang data tungkol sa kung paano gumagawa ng mga desisyon ang mga tao.

Bigyan ako ng isang sandali upang magbigay ng paliwanag.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modelling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon o ADM ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Dinadala tayo nito sa usapin ng AI-steeped biases kapag nasa sukat.

Una, tingnan natin kung paano maaaring lumilikha ng hindi pagkakapantay-pantay ang mga bias ng tao. Ang isang kumpanya na gumagawa ng mortgage loan ay nagpasya na kumuha ng isang mortgage loan agent. Dapat suriin ng ahente ang mga kahilingan mula sa mga mamimili na gustong makakuha ng pautang sa bahay. Pagkatapos masuri ang isang aplikasyon, ang ahente ay nagbibigay ng desisyon na ibigay ang utang o tanggihan ang utang. Napakadali.

Para sa kapakanan ng talakayan, isipin natin na ang isang human loan agent ay maaaring magsuri ng 8 loan bawat araw, na tumatagal ng halos isang oras bawat pagsusuri. Sa isang limang araw na linggo ng trabaho, ang ahente ay gumagawa ng humigit-kumulang 40 loan review. Sa taunang batayan, ang ahente ay karaniwang gumagawa ng humigit-kumulang 2,000 loan review, nagbibigay o kumukuha ng kaunti.

Nais ng kumpanya na dagdagan ang dami ng mga pagsusuri sa pautang, kaya ang kumpanya ay kumukuha ng 100 karagdagang ahente ng pautang. Ipagpalagay natin na lahat sila ay may halos parehong produktibidad at ito ay nagpapahiwatig na maaari na nating hawakan ang humigit-kumulang 200,000 na mga pautang bawat taon (sa rate na 2,000 mga pagsusuri sa pautang bawat taon bawat ahente). Mukhang pinarampa talaga namin ang pagpoproseso ng mga loan application.

Lumalabas na ang kumpanya ay gumagawa ng isang AI system na maaaring gawin ang parehong mga pagsusuri sa pautang gaya ng mga ahente ng tao. Ang AI ay tumatakbo sa mga server ng computer sa cloud. Sa pamamagitan ng imprastraktura ng ulap, ang kumpanya ay madaling magdagdag ng higit pang kapangyarihan sa pag-compute para ma-accommodate ang anumang dami ng mga pagsusuri sa pautang na maaaring kailanganin.

Sa umiiral na configuration ng AI, makakagawa sila ng 1,000 loan review kada oras. Maaari rin itong mangyari 24×7. Walang oras ng bakasyon na kailangan para sa AI. Walang lunch break. Gumagana ang AI sa buong orasan nang walang squawking tungkol sa pagiging sobrang trabaho. Sasabihin namin na sa tinatayang bilis na iyon, ang AI ay maaaring magproseso ng halos 9 milyong mga aplikasyon sa pautang bawat taon.

Pansinin na nagmula kami sa pagkakaroon ng 100 mga ahente ng tao na maaaring gumawa ng 200,000 pautang bawat taon at tumalon nang maraming beses sa mas mataas na bilang na 9 milyong mga pagsusuri bawat taon sa pamamagitan ng AI system. Kapansin-pansing pinalaki namin ang pagproseso ng aming kahilingan sa pautang. Walang duda tungkol dito.

Humanda ka sa kicker na baka mahulog ka sa upuan mo.

Ipagpalagay na ang ilan sa ating mga ahente ng tao ay gumagawa ng kanilang mga pagpapasya sa pautang batay sa hindi kanais-nais na mga pagkiling. Marahil ang ilan ay nagbibigay ng mga salik ng lahi ng isang mahalagang papel sa desisyon ng pautang. Marahil ang ilan ay gumagamit ng kasarian. Ang iba ay gumagamit ng edad. At iba pa.

Sa 200,000 taunang pagsusuri sa pautang, ilan ang ginagawa sa ilalim ng maling tingin ng masamang pagkiling at hindi pagkakapantay-pantay? Marahil 10% na humigit-kumulang 20,000 ng mga kahilingan sa pautang. Mas masahol pa, ipagpalagay na ito ay 50% ng mga kahilingan sa pautang, kung saan mayroong isang medyo nakakabagabag na 100,000 taunang mga pagkakataon ng mga desisyon sa pautang na maling napagpasyahan.

masama yan. Ngunit hindi pa namin naiisip ang isang mas nakakatakot na posibilidad.

Ipagpalagay na ang AI ay may nakatagong bias na binubuo ng mga salik gaya ng lahi, kasarian, edad, at mga katulad nito. Kung ang 10% ng taunang pagsusuri sa pautang ay napapailalim sa hindi kasiya-siyang ito, mayroon kaming 900,000 kahilingan sa pautang na hindi wastong pinangangasiwaan. Iyan ay higit pa sa posibleng gawin ng mga ahente ng tao, pangunahin dahil lamang sa mga aspeto ng volume. Ang 100 ahente na iyon kung ang lahat ay gumagawa ng hindi patas na pagsusuri ay maaaring gawin ito sa 200,000 taunang pagsusuri sa pautang. Ang AI ay maaaring gawin ang parehong sa isang malaking sukat ng 9,000,000 taunang pagsusuri.

Yikes!

Ito ay tunay na AI-steeped bias sa napakalaking sukat.

Kapag ang mga hindi kanais-nais na pagkiling ay nailagay sa loob ng isang AI system, ang parehong pag-scale na tila kapaki-pakinabang ay nabaling ngayon at nagiging isang napakalaking nakakaakit (at nakakagambala) na resulta ng pag-scale. Sa isang banda, ang AI ay maaaring maging kapaki-pakinabang upang mahawakan ang mas maraming tao na humihiling ng mga pautang sa bahay. Sa ibabaw, iyon ay tila napakalaking AI For Good. Dapat nating yakapin ang ating sarili sa malamang na pagpapalawak ng mga pagkakataon ng mga tao na makakuha ng mga kinakailangang pautang. Samantala, kung ang AI ay may mga naka-embed na bias, ang pag-scale ay magiging isang napakabulok na resulta at makikita natin ang ating sarili na nalulungkot. AI Para sa Masama, sa isang tunay na napakalaking sukat.

Ang kasabihan na dalawahang talim na espada.

Maaaring pataasin ng AI ang access sa paggawa ng desisyon para sa mga naghahanap ng mga gustong serbisyo at produkto. Wala nang bottleneck sa paggawa na pinipigilan ng tao. Outstanding! Ang isa pang dulo ng espada ay kung ang AI ay naglalaman ng kasamaan tulad ng mga nakatagong hindi pagkakapantay-pantay, ang parehong napakalaking pag-scale ay magpapapahayag ng hindi kanais-nais na pag-uugali sa isang hindi maisip na sukat. Nakakainis, mali, nakakahiya, at hindi natin mapapayag na mahulog ang lipunan sa ganoong karumaldumal na bangin.

Ang sinumang nalilito kung bakit kailangan nating iwasan ang kahalagahan ng AI Ethics ay dapat na napagtanto na ngayon na ang AI scaling phenomenon ay isang mahalagang dahilan para ituloy ang Ethical AI. Maglaan tayo ng ilang sandali upang maikli na isaalang-alang ang ilan sa mga pangunahing tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat maging isang mahalagang pagtutok para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan ng AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin sa AI Ethics at kung paano ito dapat sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pangangalaga sa mga AI system. Ang lahat ng stakeholder sa buong AI life-cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pagpapalagay ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Mangyaring magkaroon ng kamalayan na kailangan ng isang nayon upang bumuo at maglagay ng AI. Para sa kung saan ang buong nayon ay dapat na panatilihin sa kanilang mga paa tungkol sa AI Ethics.

Paano Gumagana ang AI-Steeped Biases Scaling

Ngayong nakarating na ako sa talahanayan na ang AI ay maaaring maglaman ng mga bias, handa na kaming suriin ang ilan sa mga dahilan kung bakit napakapanghihimasok ng AI scaling.

Isaalang-alang ang listahan ng keystone na ito ng sampung pinagbabatayan na dahilan:

1. Madaling kopyahin
2. Minimal na gastos sa sukat
3. Kasuklam-suklam na pare-pareho
4. Kawalan ng pagmumuni-muni sa sarili
5. Bulag na pagsunod
6. Hindi itinaas ang kamay nito
7. Walang hinala ang tatanggap
8. May posibilidad na hindi mag-udyok ng provocation
9. Maling aura ng pagiging patas
10. Mahirap pabulaanan

Sa madaling sabi ay tuklasin ko ang bawat isa sa mahahalagang puntong iyon.

Kapag sinubukan mong palakihin ang paggawa ng tao, malamang na ang paggawa nito ay magiging lubhang kumplikado. Kailangan mong hanapin at upa ang mga tao. Kailangan mong sanayin sila para gawin ang trabaho. Kailangan mong bayaran ang mga ito at isaalang-alang ang mga kagustuhan at pangangailangan ng tao. Ikumpara ito sa isang AI system. Paunlarin mo ito at gamitin. Maliban sa ilang halaga ng patuloy na pangangalaga ng AI, maaari kang umupo at hayaan itong magproseso nang walang katapusang.

Nangangahulugan ito na ang AI ay madaling ginagaya. Maaari kang magdagdag ng higit pang kapangyarihan sa pag-compute dahil maaaring kailanganin ng gawain at dami (hindi ka kumukuha o nagpapaputok). Ang pandaigdigang paggamit ay ginagawa sa pamamagitan ng pagpindot ng isang pindutan at natatamo ng pandaigdigang pagkakaroon ng Internet. Ang scaling up ay isang minimal na gastos kumpara sa paggawa ng gayon din sa paggawa ng tao.

Ang paggawa ng tao ay kilala na hindi naaayon. Kapag mayroon kang malalaking koponan, mayroon kang isang tunay na kahon ng mga tsokolate na hindi mo alam kung ano ang maaaring mayroon ka sa iyong mga kamay. Ang AI system ay malamang na lubos na pare-pareho. Inuulit nito ang parehong mga aktibidad nang paulit-ulit, sa bawat oras na mahalagang pareho sa huli.

Karaniwan, gusto namin ang pagkakapare-pareho ng AI. Kung ang mga tao ay madaling kapitan ng pagkiling, palagi tayong magkakaroon ng ilang bahagi ng ating paggawa ng tao na naliligaw. Ang AI, kung puro walang kinikilingan sa pagtatayo at pagsusumikap sa computational nito, ay magiging mas pare-pareho. Ang problema bagaman ay kung ang AI ay may mga nakatagong bias, ang pagkakapare-pareho ngayon ay masakit na kasuklam-suklam. Ang posibilidad na ang bias na pag-uugali ay patuloy na isasagawa, nang paulit-ulit.

Ang mga tao ay sana ay magkaroon ng ilang pahiwatig ng pagmumuni-muni sa sarili at maaaring mahuli ang kanilang mga sarili sa paggawa ng mga pinapanigang desisyon. Hindi ko sinasabing lahat ay gagawin iyon. Hindi ko rin sinasabi na ang mga nakakahuli sa kanilang sarili ay tiyak na magtatama ng kanilang mga mali. Sa anumang kaso, hindi bababa sa ilang mga tao kung minsan ay nagwawasto sa kanilang sarili.

Ang AI ay malamang na hindi magkaroon ng anumang anyo ng computational self-reflection. Nangangahulugan ito na ang AI ay patuloy na ginagawa kung ano ang ginagawa nito. Tila walang posibilidad na matukoy ng AI na ito ay tumatakbo sa katarungan. Iyon ay sinabi, inilarawan ko ang ilang mga pagsisikap na harapin ito, tulad ng pagbuo ng mga bahagi ng AI Ethics sa loob ng AI (tingnan ang link dito) at pagbuo ng AI na sumusubaybay sa iba pang AI upang matukoy ang mga hindi etikal na aktibidad ng AI (tingnan ang link dito).

Sa kawalan ng anumang uri ng pagmumuni-muni sa sarili, ang AI ay malamang na magkaroon ng mahalagang bulag na pagsunod sa anumang itinuro nitong gawin. Maaaring hindi masyadong masunurin ang mga tao. Ang mga pagkakataon ay ang ilang mga tao na gumagawa ng isang gawain ay magtatanong kung sila ay marahil ay ginagabayan sa hindi pagkakapantay-pantay na teritoryo. May posibilidad silang tanggihan ang mga hindi etikal na utos o marahil ay pumunta sa ruta ng whistleblower (tingnan ang aking saklaw sa ang link na ito dito). Huwag asahan na ang pang-araw-araw na kontemporaryong AI ay magtatanong sa programming nito.

Susunod na bumaling kami sa mga gumagamit ng AI. Kung naghahanap ka ng pautang sa bahay at nakikipag-usap sa isang tao, maaari kang maging alerto kung ang tao ay nagbibigay sa iyo ng patas na pag-iling. Kapag gumagamit ng AI system, mukhang hindi gaanong kahina-hinala ang karamihan sa mga tao. Madalas nilang ipinapalagay na ang AI ay patas at dahil dito ay hindi agad nagalit. Ang AI ay lumilitaw na humihinga sa mga tao sa isang "makina lang" na ulirat. Higit pa rito, maaaring mahirap subukan at iprotesta ang AI. Sa kabaligtaran, ang pagprotesta kung paano ka tinatrato ng isang ahente ng tao ay mas madali at mas karaniwang tinatanggap at ipinapalagay na posible.

Ang sabi ng lahat, ang AI na puno ng mga bias ay may hindi kagalang-galang na leg-up sa mga tao na puno ng mga bias, lalo na sa mga tuntunin ng kakayahang magkaroon ng AI na malawakang i-deploy ang mga bias na iyon sa isang napakalaking sukat, na ginagawa ito nang hindi kaagad nahuhuli o nagkakaroon ng mga mamimili mapagtanto kung ano ang nakakagambalang nagaganap.

Sa sandaling ito ng talakayang ito, tataya ako na gusto mo ng ilang karagdagang halimbawa na maaaring magpakita ng palaisipan ng AI-steeped biases sa laki.

Natutuwa akong nagtanong ka.

Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa AI steeped biases sa sukat, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang isang paglilinaw, ang tunay na mga kotse na nagmamaneho sa sarili ay ang ganap na hinihimok ng AI ang kotse sa sarili nitong at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Hindi pa isang totoong sasakyan sa pagmamaneho sa Antas 5, na hindi natin alam kung posible ito upang makamit, at kung gaano katagal aabutin ito.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At AI Biases Sa Scale

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Pinagkakatiwalaan ko na nagbibigay ng isang sapat na litanya ng mga pag-uusap upang mabahayan kung ano ang malapit kong maiugnay.

Nakahanda na kami ngayon na gumawa ng malalim na pagsisid sa mga self-driving na kotse at ang mga posibilidad ng Ethical AI na sumasama sa paggalugad ng AI-steeped biases na ipinapahayag sa malawakang sukat.

Gumamit tayo ng madaling tuwirang halimbawa. Ang isang AI-based na self-driving na kotse ay isinasagawa sa mga kalye ng iyong kapitbahayan at mukhang ligtas na nagmamaneho. Noong una, naglaan ka ng espesyal na atensyon sa bawat oras na nasusulyapan mo ang self-driving na kotse. Kapansin-pansin ang autonomous na sasakyan kasama ang rack ng mga electronic sensor nito na may kasamang mga video camera, radar unit, LIDAR device, at iba pa. Pagkatapos ng maraming linggo ng self-driving na sasakyan na gumagala sa paligid ng iyong komunidad, halos hindi mo na ito napapansin. Sa ganang inyo, isa lang itong sasakyan sa mga abalang pampublikong daanan.

Baka isipin mong imposible o hindi kapani-paniwalang maging pamilyar sa pagtingin sa mga self-driving na sasakyan, madalas akong sumulat tungkol sa kung paano unti-unting nasanay ang mga lugar na nasa saklaw ng self-driving na mga pagsubok sa kotse na makita ang mga spruced-up na sasakyan, tingnan ang aking pagsusuri sa ang link na ito dito. Marami sa mga lokal ang lumipat mula sa bibig-gaping rapt gawking sa ngayon nagpapalabas ng isang malawak na hikab ng inip upang masaksihan ang mga meendering self-driving cars.

Marahil ang pangunahing dahilan ngayon na maaari nilang mapansin ang mga autonomous na sasakyan ay dahil sa iritasyon at pagkagalit na kadahilanan. Tinitiyak ng by-the-book na AI driving system na sinusunod ng mga sasakyan ang lahat ng mga limitasyon sa bilis at panuntunan ng kalsada. Para sa mga abalang nagmamaneho ng tao sa kanilang mga tradisyunal na sasakyang hinimok ng tao, naiinis ka sa mga oras na naiipit ka sa likod ng mahigpit na pagsunod sa batas na AI-based na self-driving na mga kotse.

Iyan ay isang bagay na maaaring kailangan nating masanay, tama man o mali.

Balik sa ating kwento.

Lumalabas na dalawang hindi karapat-dapat na alalahanin ang nagsisimulang lumitaw tungkol sa kung hindi man ay hindi nakapipinsala at karaniwang tinatanggap na AI-based na self-driving na mga kotse, partikular:

a. Kung saan ang AI ay gumagala sa mga self-driving na kotse para sa pagkuha ng mga rides ay nagbabadya bilang isang vocalized na alalahanin

b. Kung paano tinatrato ng AI ang naghihintay na mga pedestrian na walang right-of-way ay tumataas bilang isang mahalagang isyu

Sa una, ang AI ay gumagala sa mga self-driving na kotse sa buong bayan. Ang sinumang gustong humiling ng pagsakay sa self-driving na kotse ay may pantay na pagkakataong makatawag ng isa. Unti-unti, sinimulan ng AI na pangunahing panatilihing gumagala ang mga self-driving na kotse sa isang seksyon lamang ng bayan. Ang seksyong ito ay isang mas malaking pera at ang AI system ay na-program upang subukan at i-maximize ang mga kita bilang bahagi ng paggamit sa komunidad.

Ang mga miyembro ng komunidad sa mga mahihirap na bahagi ng bayan ay mas malamang na makasakay mula sa isang self-driving na kotse. Ito ay dahil ang mga self-driving na sasakyan ay mas malayo at gumagala sa mas mataas na bahagi ng kita ng lokal. Kapag ang isang kahilingan ay dumating mula sa isang malayong bahagi ng bayan, anumang kahilingan mula sa isang mas malapit na lokasyon na malamang sa "pinagmamahalaang" bahagi ng bayan ay makakakuha ng mas mataas na priyoridad. Sa kalaunan, halos imposible na ang pagkakaroon ng self-driving na sasakyan sa anumang lugar maliban sa mas mayayamang bahagi ng bayan, nakakainis na para sa mga nakatira sa mga lugar na ngayon ay gutom na sa mapagkukunan.

Maaari mong igiit na ang AI ay halos napunta sa isang paraan ng proxy na diskriminasyon (madalas ding tinutukoy bilang hindi direktang diskriminasyon). Ang AI ay hindi na-program upang maiwasan ang mga mahihirap na kapitbahayan. Sa halip, "natutunan" nitong gawin ito sa pamamagitan ng paggamit ng ML/DL.

Ang bagay ay, ang ridesharing ng mga driver ng tao ay kilala sa paggawa ng parehong bagay, kahit na hindi kinakailangan na eksklusibo dahil sa anggulo ng paggawa ng pera. Mayroong ilan sa mga driver ng ridesharing na tao na may hindi kanais-nais na pagkiling tungkol sa pagkuha ng mga sakay sa ilang bahagi ng bayan. Ito ay isang medyo kilala na kababalaghan at ang lungsod ay naglagay ng isang diskarte sa pagsubaybay upang mahuli ang mga driver ng tao na gumagawa nito. Maaaring magkaroon ng problema ang mga driver ng tao para sa pagsasagawa ng mga hindi magandang kasanayan sa pagpili.

Ipinapalagay na ang AI ay hindi kailanman mahuhulog sa parehong uri ng kumunoy. Walang espesyal na pagsubaybay ang na-set up upang subaybayan kung saan pupunta ang mga self-driving na sasakyan na nakabatay sa AI. Pagkatapos lamang magsimulang magreklamo ang mga miyembro ng komunidad ay napagtanto ng mga pinuno ng lungsod kung ano ang nangyayari. Para sa higit pa sa mga uri ng mga isyu sa buong lungsod na ipapakita ng mga autonomous na sasakyan at self-driving na sasakyan, tingnan ang aking saklaw sa ang link na ito dito at naglalarawan sa isang pag-aaral na pinangunahan ng Harvard na aking kasamang may-akda sa paksa.

Ang halimbawang ito ng mga roaming na aspeto ng mga self-driving na sasakyan na nakabatay sa AI ay naglalarawan ng naunang indikasyon na maaaring may mga sitwasyong nagsasangkot ng mga tao na may hindi kanais-nais na mga pagkiling, kung saan ang mga kontrol ay inilalagay sa lugar, at na ang AI na pinapalitan ang mga taong driver na iyon ay naiwang scot- libre. Sa kasamaang palad, ang AI ay maaaring unti-unting mahuhulog sa mga katulad na bias at gawin ito nang walang sapat na mga guardrail sa lugar.

Ito rin ay nagpapakita ng AI steeped biases sa iskala na isyu.

Sa kaso ng mga driver ng tao, maaaring mayroon tayong ilan dito o doon na nagsasagawa ng ilang uri ng hindi pagkakapantay-pantay. Para sa sistema ng pagmamaneho ng AI, kadalasan ay isa itong pinag-isang AI para sa isang buong fleet ng mga self-driving na kotse. Kaya, maaaring nagsimula na tayo sa sabihing limampung sasakyang self-driving sa bayan (lahat ay pinapatakbo ng parehong AI code), at unti-unting tumaas upang sabihin nating 500 self-driving na kotse (lahat ay pinapatakbo ng parehong AI code). Dahil ang lahat ng limang daang mga self-driving na sasakyan ay pinapatakbo ng parehong AI, ang mga ito ay naaayon sa lahat ng napapailalim sa parehong nagmula na mga bias at hindi pagkakapantay-pantay na naka-embed sa loob ng AI.

Masakit sa atin ang pag-scale sa bagay na iyon.

Ang pangalawang halimbawa ay kinabibilangan ng AI sa pagtukoy kung hihinto para sa paghihintay sa mga pedestrian na walang karapatang tumawid sa isang kalye.

Walang alinlangan na nagmamaneho ka at nakatagpo ng mga pedestrian na naghihintay na tumawid sa kalye ngunit wala silang karapatang gawin iyon. Nangangahulugan ito na mayroon kang pagpapasya kung hihinto at hayaan silang tumawid. Maaari kang magpatuloy nang hindi pinahihintulutan silang tumawid at ganap pa ring nasa loob ng mga legal na panuntunan sa pagmamaneho ng paggawa nito.

Iminungkahi ng mga pag-aaral kung paano nagpapasya ang mga driver ng tao sa paghinto o hindi paghinto para sa mga naturang pedestrian na kung minsan ang mga driver ng tao ay gumagawa ng pagpili batay sa hindi kanais-nais na mga bias. Maaaring mapansin ng isang taong driver ang pedestrian at piliin na huwag huminto, kahit na huminto sana sila kung may ibang hitsura ang pedestrian, gaya ng batay sa lahi o kasarian. Sinuri ko ito sa ang link dito.

Isipin na ang AI-based na self-driving na mga kotse ay naka-program upang harapin ang tanong kung hihinto o hindi para sa mga pedestrian na walang right-of-way. Narito kung paano nagpasya ang mga developer ng AI na i-program ang gawaing ito. Nangolekta sila ng data mula sa mga video camera ng bayan na nakalagay sa buong lungsod. Ang data ay nagpapakita ng mga human driver na humihinto para sa mga pedestrian na walang right-of-way at mga human driver na hindi humihinto. Ang lahat ng ito ay kinokolekta sa isang malaking dataset.

Sa pamamagitan ng paggamit ng Machine Learning at Deep Learning, ang data ay na-modelo sa computation. Pagkatapos ay ginagamit ng AI driving system ang modelong ito upang magpasya kung kailan titigil o hindi titigil. Sa pangkalahatan, ang ideya ay anuman ang binubuo ng lokal na custom, ito ay kung paano ididirekta ng AI ang self-driving na kotse.

Sa sorpresa ng mga pinuno ng lungsod at ng mga residente, maliwanag na pinipili ng AI na huminto o hindi huminto batay sa hitsura ng pedestrian, kabilang ang kanilang lahi at kasarian. Ii-scan ng mga sensor ng self-driving na kotse ang naghihintay na pedestrian, ipapakain ang data na ito sa modelong ML/DL, at ang modelo ay maglalabas sa AI kung hihinto o magpapatuloy. Sa kalungkutan, ang bayan ay nagkaroon na ng maraming pagkiling sa pagmamaneho ng tao sa bagay na ito at ang AI ay ginagaya na rin ngayon.

Ang halimbawang ito ay naglalarawan na ang isang AI system ay maaaring duplicate lamang ang dati nang hindi kanais-nais na mga bias ng mga tao. Higit pa rito, ginagawa ito sa sukat. Ang sinumang mga driver ng tao ay maaaring minsan ay tinuruan na gawin itong hindi kanais-nais na paraan ng pagpili o maaaring personal na pinili na gawin ito, ngunit ang mga pagkakataon ay ang karamihan sa mga driver ng tao ay malamang na hindi ginagawa ito nang maramihan.

Sa strident contrast, ang AI driving system na ginagamit upang magmaneho ng mga self-driving na kotse ay malamang na kasuklam-suklam na tuloy-tuloy at tiyak na isasagawa ang nagmula na bias.

Konklusyon

Maraming mga paraan upang subukan at maiwasan ang pagbuo ng AI na may hindi kanais-nais na mga bias o na sa paglipas ng panahon ay nakakakuha ng mga bias. Hangga't maaari, ang ideya ay upang mahuli ang mga problema bago ka pumunta sa high gear at rampa up para sa scaling. Sana, hindi lumabas ng pinto ang mga biases, wika nga.

Ipagpalagay na ang isang paraan o iba pang mga bias ay lilitaw sa AI. Kapag na-deploy ka na sa napakalaking sukat gamit ang AI, hindi mo na magagawa ang isa sa mga madalas na ipinapahayag na techie na "fire and forget" na mga paniwala. Kailangan mong masigasig na subaybayan kung ano ang ginagawa ng AI at hanapin ang anumang hindi kanais-nais na mga bias na kailangang itama.

Tulad ng naunang itinuro, ang isang diskarte ay kinabibilangan ng pagtiyak na ang mga developer ng AI ay may kamalayan sa AI Ethics at sa gayon ay hinihikayat silang maging handa na i-program ang AI upang maiwasan ang mga bagay na ito. Ang isa pang paraan ay binubuo ng pagkakaroon ng AI self-monitor para sa mga hindi etikal na pag-uugali at/o pagkakaroon ng isa pang piraso ng AI na sumusubaybay sa iba pang AI system para sa mga potensyal na hindi etikal na pag-uugali. Nasaklaw ko ang maraming iba pang mga potensyal na solusyon sa aking mga sinulat.

Isang huling pag-iisip sa ngayon. Sa pagsisimula ng talakayang ito sa isang quote ni Plato, maaaring angkop na isara ang diskurso sa isa pang matalinong pagbigkas ni Plato.

Sinabi ni Plato na walang masama sa pag-uulit ng isang magandang bagay.

Ang kadalian ng paggamit ng AI ay tiyak na isang mabubuhay na paraan upang makamit ang gayong masigasig na adhikain kapag ang AI ay nasa AI For Good iba't-ibang. Ninamnam namin ang pag-uulit ng isang magandang bagay. Kapag ang AI ay ang AI Para sa Masama at puno ng hindi kanais-nais na mga pagkiling at hindi pagkakapantay-pantay, maaari tayong manalig sa mga pahayag ni Plato at sabihin na maraming pinsala ang pag-uulit ng isang masamang bagay.

Makinig tayong mabuti sa matatalinong salita ni Plato at gawin ang ating AI nang naaayon.