Ang Pinakabagong Pag-aalala sa Etika ng AI ay Ang AI ay Maaaring Magsama ng Mga Pampulitikang Bias, Kasama Kahit Sa Hindi Nakakapinsalang Kaso Ng Mga Self-Driving na Kotse na Nakabatay sa AI

Pag-usapan natin ang pulitika.

Buweno, napagtanto ko na malamang na wala ka nang tigil sa tila walang tigil na pagtutok sa pulitika sa lahat ng pinagmumulan ng available na media sa mga araw na ito. Mga pulang estado kumpara sa mga asul na estado. Liberal laban sa mga konserbatibo. Democrats laban sa Republications. Ang daldalan tungkol sa mga pakana sa pulitika ay napakasamang walang katapusan.

Maaaring makatwirang ipinapalagay mo na may ilang mga paksa kung saan ang pulitika ay hindi partikular na pumapasok sa larawan. Sa esensya, marahil ay may dalawang magkakaibang klase ng mga paksa, lalo na ang mga paksang may kinalaman sa pulitika anuman ang mangyari, at iba pang mas banal na mga paksa na makakaalis o makakatakas sa larangan ng pulitika.

Mukhang may katuturan na magkakaroon ng mga kapansin-pansing paksang flashpoint na walang hanggan na mahuhulog sa pulitika at mga galit sa pulitika, gaya ng matagal nang listahan na kinabibilangan ng mga aspeto ng pambansang pangangalagang pangkalusugan, mga aspeto ng elektoral, kontrol ng baril, imigrasyon, at mga katulad nito. Ang kailangan mo lang gawin ay banggitin ang alinman sa mga paksang iyon at ang susunod na mangyayari ay ikaw ay nalubog sa isang pampulitikang firestorm. Sa halip pinainit na mga argumento ay medyo garantisadong.

Sa kabilang panig ng barya ng sunog, marahil ay may ilang mga paksa na hindi nagiging sanhi ng ganoong tuhod-jerk na politikal na reaksyon. Gusto kong magpalutang ng isang ganoong paksa sa harap mo, na naglalayong makuha ang iyong unang reaksyon.

Handa?

Mga sasakyan.

Oo, ang pang-araw-araw na paksa ng mga kotse, sasakyan, sasakyang de-motor, o gayunpaman gusto mo itong sabihin, nagdudulot ba iyon ng pampulitikang sigaw o nag-uudyok ng isang pampulitikang paninibugho o pandiwang panunukso na dapat ipagtanggol?

Maaaring hindi mukhang sa ibabaw na mayroong mas mataas na pagkakatulad ng mga pampulitikang alalahanin tungkol sa mga kotse. Ang mga ito ay simpleng paraan ng pang-araw-araw na transportasyon. Sumakay ka sa iyong sasakyan, at magmaneho ka papunta sa trabaho. Ginagamit mo ang iyong sasakyan para gumawa ng mga gawain at mag-grocery. Kung maaari kang maglaan ng ilang oras para sa isang bakasyon, gagamitin mo ang iyong sasakyan upang magtungo sa bukas na kakahuyan o maaaring bumisita sa ilang mahalagang pambansang monumento.

Ang mga kotse ay tila apolitical.

Paumanhin, ngunit hindi iyon ang kaso.

Ang kaso ay maaaring gawin na ang mga kotse ay malapit na napapaligiran at nakalubog sa pulitika tulad ng iba pang tinatawag na flashpoint na mga paksa. Marahil ang pangkalahatang media ay hindi sumasaklaw sa pulitika na nakatuon sa kotse hangga't maaari para sa iba pang mas nakakaakit na mga paksa, ngunit gayunpaman, ang mga undercurrent sa pulitika ay umiiral pa rin.

Ang isang malinaw na dimensyon sa pulitika ay binubuo ng kung ano ang dapat na binubuo ng ating mga sasakyan.

Ang makeup o mekanisasyon ng mga sasakyan ang tinutukoy ko. Halimbawa, may nakakatakot na debate sa pulitika tungkol sa kung ang mga sasakyan ay dapat gumamit ng ICE (internal combustion engine) kumpara sa paglipat sa EV (mga de-koryenteng sasakyan). Ito ay isang lugar ng makabuluhang diskurso na nauugnay sa maraming iba pang mga paksang may kinalaman sa pulitika, tulad ng mga isyu sa kapaligiran at mga aspeto ng pagbabago ng klima.

Ang isang hindi gaanong kilala ngunit kaugnay pa na usapin ay tumatalakay sa laki ng mga sasakyan at sa kanilang kabuuang footprint sa iba't ibang aspeto. Dapat ba tayong magkaroon ng malalaking sasakyan o mas maliliit na sasakyan lamang? Dapat ba tayong gumawa ng mga kotse upang pigilan ang paggamit ng kotse sa lahat ng sinabi, na naglalayong hikayatin ang mga tao na gumamit ng mass transit at pampublikong transportasyon sa halip? At iba pa.

Narito ang isang bagay na malamang na hindi mo naisip.

Sinuri ng ilang pag-aaral kung ang uri ng pagmamay-ari ng sasakyan ay batay sa political leanings ng may-ari ng sasakyan. Marahil, maaari kang makahanap ng istatistikal na ugnayan sa pagitan ng isang taong idineklara bilang isang Demokratiko tungkol sa uri ng kotse na binili, at gayundin ay makahanap ng istatistikal na ugnayan sa pagitan ng pagiging isang Republikano at ang uri ng pag-aari ng kotse. Hindi ko susuriin ang mga pag-aaral dito, bagama't gusto kong banggitin na dapat mong bigyang-kahulugan ang mga pag-aaral at ang mga resulta ng mga ito nang may maingat na mata at isang mabigat na dosis ng pag-aalinlangan tungkol sa kasangkot na validity ng istatistika.

Sa pagsasalita tungkol sa paggamit ng mga istatistika, may isa pang nakakaintriga na anggulo sa mga katangiang pampulitika at mga kotse. May mga pagsisikap sa pananaliksik na tila nag-uugnay sa iba't ibang mga gawi sa pagmamaneho ng mga tao sa partidong pampulitika ng mga tsuper na iyon.

Ang mga tanong na madalas na tinutugunan ay kinabibilangan ng:

· Ang mga driver ba na nabangga o nabangga ng sasakyan ay mas malamang o mas malamang na maging isang Democrat o Republican?

· Mas malamang na maging liberal o konserbatibo ang mga lasing na tsuper?

· Kapag nangyari ang mga nakatutuwang insidente ng galit sa kalsada, kung saan ang mga tsuper ay nagngangalit at nag-aaway sa isa't isa, ang mga baliw na galit na galit ba ay malamang na maging liberal o konserbatibo?

· Sino ang makakakuha ng mas maraming tiket sa trapiko at malamang na nagmamaneho nang mas mapanganib, mga Demokratiko o Republikano?

· Atbp

Muli, hindi ako sumisid sa mga pagsisikap sa pagsasaliksik dito. At, sa sandaling muli, mangyaring siguraduhin na maging handa kapag nagbasa ka ng mga naturang pag-aaral o nakakita ng nagliliyab na mga headline tungkol sa kanilang mga resulta. Ang sasabihin ko lang ay ang lumang linya tungkol sa mga istatistika ay totoo pa rin ngayon, na mayroong mga kasinungalingan, mga kasinungalingan, at mga istatistika (nalinis ko ang kaunting maalat na karunungan para sa isang mas magiliw na madla).

Sa gayon, tila mayroon kaming sapat na katibayan na ang paksa ng mga kotse ay nakapanghihinayang na may mga kahulugang pampulitika.

I'll pick a different topic then, one that maybe will really be completely apolitical.

Handa na sa pagkakataong ito?

Artipisyal na Katalinuhan (AI).

Tiyak, inaasahan ng isa, ang AI ay dapat na apolitical, lalo na pagdating sa mga panloob na kapasidad ng mga sistema ng AI. Baka maghinala ka na may pulitika ligid kung ang AI ay dapat gamitin o hindi, ngunit tila iisipin mo na ang internality ng isang AI system ay higit pa sa anumang political fermentation per se.

Bago natin suriing mabuti ang laganap na pag-aakalang iyon, maaaring nakapagtuturo na isaalang-alang ang ilang iba pang mga aspeto ng AI na kamakailan ay naging sanhi ng marami na muling pag-isipan ang walang kabuluhang pagnanais na gumawa at likas na tanggapin ang mga sistema ng AI sa isang patak ng sumbrero.

Kita mo, sa pagmamadali patungo sa AI For Good kaguluhan sa nakalipas na ilang taon, nagkaroon ng tumataas na pagkaunawa na hindi lahat ng AI ay tiyak na magiging mahusay. Nakita namin na mayroon ding maraming pagkakataon para sa AI Para sa Masama bumangon. Ito ay maaaring mangyari sa may layuning layunin ng mga bumubuo ng AI at maaari ding mangyari sa pamamagitan ng kung ano ang itinuturo ng ilan ay isang ganap na iresponsableng kawalan ng wastong pangangasiwa ng mga developer ng AI at ng mga nagpapalaganap ng AI system.

Nasaklaw ko ang marami sa mga isyung ito sa AI Ethics sa saklaw ng aking column, gaya ng link dito at ang link dito.

Isaalang-alang bilang isang tagapagpahiwatig ng AI Para sa Masama ang usapin ng pagkilala sa mukha.

Marami ang nag-akala na ang pagkilala sa mukha ang magiging pinakamainam sa mga teknolohiya ng AI (at, sa maraming paraan, ito ay talagang isang uri ng AI For Good). Napakadaling gawin ang pagbabangko sa mga ATM sa pamamagitan lamang ng pag-scan sa iyong mukha para makilala sa halip na gumamit ng isang lihim na pin code at isang banking card. Magiging napakaginhawang maglakad papunta sa isang grocery store at mamili sa pamamagitan lamang ng paggamit ng iyong mukha bilang isang paraan upang tukuyin ang iyong online na grocery account na maaaring singilin para sa anumang mga item na iyong pipiliin.

Alam mo na ang gagawin.

Ang susunod na bagay na alam mo, nagsimulang matuklasan ng lipunan na ang pagkilala sa mukha ay hindi lahat ng matamis na lasa ng mga kendi at mabangong rosas. Ang ilan sa mga facial recognition algorithm na nakabatay sa AI ay gumawa ng isang hindi magandang trabaho ng kakayahang makilala ang mga tao dahil sa kanilang lahi. Maraming iba pang nakakalito at tahasang nakakatakot na mga isyu ang lumitaw, kabilang ang mga likas na bias na nauugnay sa kasarian at iba pang mga kadahilanan. Para sa aking saklaw sa mga paksa ng AI Ethics na nagpapatibay sa pagkilala sa mukha, tingnan ang link dito.

Ang punto sa pangkalahatan ay mayroong isang matatag na pagkakataon na anuman AI For Good ay magdadala rin ng nauugnay na bagahe na binubuo ng AI Para sa Masama. Mayroong ilang mga pagkakataon kung saan AI Para sa Masama ay ganap na masama, at kaunting mga katangiang tumutubos ang umiiral upang magmungkahi na mayroong kaunting AI For Good sa loob ng. Gayunpaman, sa pangkalahatan, kadalasan ang isang AI system ay magkakaroon ng pagkakahawig ng pareho AI For Good at AI Para sa Masama. Ang una ay nais nating hikayatin, ang huli ay nais nating pigilan, pigilin, pagaanin, at kapag ang lahat ay nabigo pagkatapos ay hulihin at sirain sa lalong madaling panahon.

Maaaring iniisip mo, oo, lahat ng iyon ay may katuturan at dapat nating maingat na sinisiyasat ang AI para sa anumang uri ng pagkiling sa lahi, pagkiling sa kasarian, at anumang uri ng hindi pagkakapantay-pantay. Ito ang magiging angkop na aksyon at tulungan ang lipunan sa pag-iwas sa masama at mabungang pagkamit ng kabutihan ng AI.

Maniwala ka man o hindi, may isa pang kadahilanan na maaaring idagdag sa listahan ng mga nakakagulat na bagay na nakabalot sa AI na hindi napagtanto ng marami na nasa AI motley stew.

Political leanings.

Ipinakikita ng mga kamakailang pag-aaral na ang mga AI system ay maaaring magsama (parang ito ay, bagama't hindi ayon sa antropomorpiko), isang kalabisan ng mga tendensya sa pulitika, opinyon, kagustuhan, at iba pang katulad na mga katangian at pagbubuhos na nakabatay sa pulitika. Ito naman ay maaaring makaapekto sa kung paano gumagana ang AI, tulad ng kung ano ang "pagpapasya" ng AI bilang batay sa programming ng AI.

Kung mag-a-apply ka online para sa isang loan at ginagamit ang isang algorithmic decision-making system na nakabatay sa AI, kadalasan ay wala kang ideya kung ano ang binubuo ng AI programming. Sa pagsasabing tinanggihan ang loan, hindi ka makatitiyak na iniwasan ng AI ang paggamit ng iyong lahi, kasarian, o iba pang mga kadahilanan sa pagpili ng turndown.

Hindi ka rin makatitiyak na hindi napigilan ng AI ang iyong kahilingan sa pautang dahil sa mga pagkiling nito sa pulitika.

Kapag sinabi ko na sa ganoong katingkad na mga termino, huwag labis na palakihin ang paniwala sa pamamagitan ng paniniwalang ang AI ay nararamdaman. Tulad ng babanggitin ko pa sa isang sandali, wala kaming sentient AI ngayon. Full stop, tuldok. Anuman ang mga ligaw na headline na nakikita mo, mangyaring malaman na walang anumang bagay na malapit sa pagiging sensitibong AI ngayon. Hindi rin namin alam kung posible ang maabot ang sentience gamit ang AI. Wala ring indikasyon kung kailan ito mangyayari, o kung ito ay mangyayari.

Bumalik sa usapin sa kamay.

Ngayong nakarating na ako sa talahanayan na ang AI ay maaaring maglaman ng mga pampulitikang pagkiling, maaari nating tingnan nang mabuti kung paano ito nangyayari at sa kung anong mga paraan ang mga pampulitikang pagkahilig ay maaaring lihim na lumitaw.

Bilang isang tabi, kung ang paniwala na ang AI ay maaaring mag-embed ng mga pampulitikang predilections ay nagdudulot sa iyo ng ilang kakila-kilabot na gut-punching dismay o shock, chalk it up to another example of piercing the immaculate veil of AI. Ang lipunan ay tila dati nang tinanggap ang isang branding na imahe ng AI bilang isinasama ang engrandeng inosente at malinis na aura ng neutralidad at balanse.

Maaaring dinala namin ito mula sa iba pang mga uri ng makina. Ang mga toaster ay tila walang likas na bias batay sa lahi, kasarian, at iba pa. Hindi rin natin aasahan na ang isang toaster ay may pag-iisip sa pulitika, kumbaga. Ang toaster ay isang toaster. Ito ay binibigyang kahulugan bilang isang makina lamang.

Ang dahilan kung bakit ang pananaw ng toaster ay hindi nagtataglay ng tubig pagdating sa AI ay ang AI system ay nakaprograma patungo sa pagsisikap na magpatuloy sa mga kapasidad na tulad ng cognitive. Dahil dito, itinutulak nito ang makina sa alanganin ng mga isyung nagbibigay-malay tulad ng paglalagay ng mga bias at iba pa. Tinitiyak ko sa iyo, matutuklasan natin sa lalong madaling panahon na ang mga toaster na nakabatay sa AI ay puno ng mga bias at may problemang alalahanin.

Ang isang madaling paraan upang buksan ang pinto tungo sa pag-unawa kung paano maaaring maging politically imbued ang AI ay ang pagtingin sa paggamit ng AI sa pagdating ng AI-based na tunay na self-driving na mga kotse. Maaari naming tamaan ang dalawang ibon ng isang bato at suriin ang pangkalahatan at pangkalahatang paksa ng AI na naglalaman ng pampulitikang sagisag, at gawin ito sa halimbawang konteksto kung paano ito maaaring lumitaw sa mga self-driving na kotse.

Gusto kong linawin na ang AI political inoculation ay isang standalone na paksa na nararapat na bigyan ng sarili nitong nararapat. Huwag magkamali na i-intertwine ang AI ng mga self-driving na kotse sa mga dimensyon ng pulitika ng AI. Ang lahat ng AI ay magkakaroon ng mga posibilidad na likas sa pulitika, at ang lalim at antas ay magdedepende sa kung paano ginawa at inilalagay ang AI.

Narito ang isang kapansin-pansing tanong na dapat pag-isipang mabuti: Paano darating ang AI sa panloob na pag-imbak ng mga hilig sa pulitika, at maaari ba itong mangyari sa tila apolitical na larangan ng AI na ginagamit para sa mga umuusbong na AI-based na self-driving na mga kotse?

Pahintulutan akong i-unpack ang tanong dahil nauugnay ito sa mga self-driving na kotse.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na sa mga self-driving na kotse, tingnan ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang isang paglilinaw, ang tunay na mga kotse na nagmamaneho sa sarili ay ang ganap na hinihimok ng AI ang kotse sa sarili nitong at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga walang driver na sasakyang ito ay isinasaalang-alang Antas 4 at Antas 5 (tingnan ang aking paliwanag sa link na ito dito), habang ang isang kotse na nangangailangan ng isang driver ng tao na kapwa magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na magkakasama ibahagi ang gawain sa pagmamaneho ay inilarawan bilang isang semi-autonomous, at karaniwang naglalaman ng iba't ibang mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced na Mga Sistema ng Tulong sa Pagmamaneho).

Hindi pa isang totoong sasakyan sa pagmamaneho sa Antas 5, na hindi natin alam kung posible ito upang makamit, at kung gaano katagal aabutin ito.

Samantala, ang mga pagsisikap sa Antas 4 ay unti-unting sumusubok na makakuha ng kaunting lakas sa pamamagitan ng napakaraming makitid at pumipiling mga pagsubok sa daanan ng publiko, kahit na mayroong kontrobersya kung dapat bang pahintulutan ang pagsubok na ito (lahat tayo ng mga guinea pig ng buhay-o-kamatayan sa isang eksperimento nagaganap sa aming mga highway at byway, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Mga Sasakyang Nagmamaneho sa Sarili At Naka-embed na Pampulitika na Mga Pagkahilig sa AI

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Pinagkakatiwalaan ko na nagbibigay ng isang sapat na litanya ng mga pag-uusap upang mabahayan kung ano ang malapit kong maiugnay.

Handa na kami ngayon na gumawa ng malalim na pagsisid sa dilemma na naka-embed sa pulitika ng AI.

Isantabi muna ang mga aspeto ng self-driving na kotse at tuklasin muna natin ang paksa ng AI kung paano nito isinasama ang mga pampulitikang hilig. Ang pinakamadaling paraan para sa AI na maging politically minted ay sa pamamagitan ng mga aksyon ng mga AI developer na gumagawa ng AI software. Bilang mga tao, maaari nilang dalhin ang kanilang mga personal na pampulitikang pagkahilig sa kung ano ang kanilang ipo-program ang software na gagawin.

Noong unang nagsimula ang mga AI system na magpakita ng iba't ibang lahi at bias ng kasarian, nagkaroon ng malaking sigawan na maaaring resulta ito ng mga developer ng AI na lumikha ng mga system na iyon. May mga akusasyon na ito ay isang may layuning pagkilos ng mga developer ng AI. Bagama't iminungkahi ng iba na ang mga nag-develop ng AI ay kulang sa pagkakaiba-iba at kaya't sila ay walang ingat o walang pag-iisip na pinahintulutan ang kanilang mga umiiral na bias na madala sa kanilang mga pagsisikap sa AI programming.

Para sa maraming mga AI team, ito ang nagbunsod sa kanila na maging mas kamalayan sa pagtitiyak ng pagkakaiba-iba sa kanilang mga kapwa developer, kasama na kapag may mga bagong miyembro na idinagdag sa kanilang mga programming group. Bilang karagdagan, ang mga espesyal na nakapagtuturong kursong pang-edukasyon ay nilikha upang mapataas ang kamalayan sa pagkakaiba-iba para sa mga developer ng AI. Mayroong kahit na mga pamamaraan ng pagpapaunlad ng AI na sumasaklaw sa mga aspeto ng pagkakaiba-iba upang tahasang gabayan ang mga proyekto ng AI patungo sa pagbabantay para sa pag-inoculate ng mga bias at hindi pagkakapantay-pantay sa kanilang mga system.

Bagama't halos wala pang nakakaalam sa uri ng pagkiling na naka-embed sa pulitika para sa AI, malamang na ito ay babangon sa kalaunan at magreresulta sa isang boses na kaguluhan. Muli, magkakaroon ng malapit na pagsisiyasat sa mga developer ng AI. Marahil ang ilan ay sadyang naglalagay ng kanilang mga pampulitikang pagkahilig, habang ang iba ay maaaring gawin ito nang hindi nila napagtanto na ginagawa nila ito.

Naglakas-loob akong sabihin na ang pokus ng pag-aakalang ang mga nag-develop ng AI ay ang tanging pinagmumulan ng pagpapakilala ng mga bias sa AI ay hindi nakuha ang kabuuan kung saan nagmula ang mga bias ng AI. Ang isang unti-unting kamalayan ay ang paggamit ng Machine Learning (ML) at Deep Learning (DL) ay naging isang kapansin-pansing kontribyutor sa AI internal biasing na mga aspeto din.

Ang Machine Learning at Deep Learning ay mga computational pattern matching techniques at teknolohiya.

Mag-assemble ka ng data na gusto mong i-feed sa ML/DL, na kung saan sa computation ay naghahanap ng mga mathematical pattern sa ibinigay na dataset. Batay sa mga kalkuladong pattern na iyon, ang ML/DL ay gagamitin, gaya ng paggawa ng say facial recognition. Para sa pagkilala sa mukha, maaari tayong magpakain sa isang grupo ng mga larawan ng mga tao, at kakalkulahin ng ML/DL ang mga kapansin-pansing katangian ng kung bakit nakikilala ang mga mukha, gaya ng hugis at laki ng ilong, hugis at sukat ng bibig at labi , ang hugis at sukat ng noo, at iba pa.

Ang computational approach na ito ay mukhang lampas sa anumang uri ng biasing influence. Ang lahat ay kalkulasyon lamang.

Aha, ngunit tandaan na nagpapakain kami ng mga larawan (o anuman) sa ML/DL bilang bahagi ng "pagsasanay" o pagtutugma ng pattern ng computational. Para sa pagkilala sa mukha, kung magpapakain tayo ng mga larawang nagpapakita ng mga tao ng isang partikular na lahi, malamang na ang pagtutugma ng computational pattern ay hahasa sa mga aspetong iyon ng mukha. Sa paglaon, kung ilalagay natin ang facial recognition system na ito sa malawakang paggamit, ang mga gumamit nito at mula sa ibang lahi ay maaaring hindi gaanong "makilala" sa matematika dahil ang mga pattern ng ML/DL ay nahuhubog sa paligid ng lahi na kadalasang matatagpuan sa pagsasanay. itakda.

Kaya, malinaw mong makikita kung paano maaaring malihis ang "walang pinapanigan" na diskarte sa matematika ng ML/DL (may iba pang mga paraan, ngunit binabanggit ko lang ang malaking ito, dito). Sinadya ba ng mga developer ng AI na gumawa ng dataset na hindi balanse sa lahi? Iminumungkahi ko na ito ay bihirang isang intensyonal na pagkilos, kahit na ang kakulangan ng pagkaunawa na ginawa nila ito ay hindi pa rin sapat na dahilan.

Sa ngayon, may mahigpit na pagtulak sa pagsisikap na gawing mas maalalahanin ang mga gumagamit ng ML/DL tungkol sa kung anong data ang ginagamit nila para sa pagsasanay at kung ano ang mga resulta nito. Sa kasamaang-palad, lahat ay tumalon sa ML/DL bandwagon at marami sa mga baguhan o fly-by-night na ito na kumuha ng ML/DL mantle ay ginagawa ito nang walang kamalayan sa mga bias na inilalagay. May mga posibleng masasamang artista din na maaaring sinasadya, bagaman sana ay kakaunti lang sila.

Nagtitiwala ako na ang nabanggit ay nakapagbigay sa iyo ng bilis sa mga aspeto ng AI Ethics na kinasasangkutan ng paglalagay ng mga bias sa AI ngayon.

Sige at ulitin ang buong shebang, na pinapalitan ang generic na paniwala ng mga bias ng mga partikular na indikasyon ng political-embedded leanings. Nabanggit ko na na ang mga nag-develop ng AI mismo ay maaaring lantaran o hindi sinasadyang dalhin ang kanilang mga pampulitikang pagkahilig sa kung ano ang ginagawa ng naka-program na AI. Ang isa pang aspeto na dinala ko rin ay para sa paggamit ng Machine Learning at Deep Learning may posibilidad na pumili ng data ng pagsasanay na maaaring sinadya o hindi sinasadyang dalhin sa mga pattern na umaangkop sa isang partikular na dimensyon sa pulitika.

Well, medyo mahaba ang takbo ko sa column na ito (oops, TLDR, ang ilan ay maririnig na magsasabi), kaya layunin kong mag-sketch ng maikling halimbawa kung paano maaaring mapunta ang AI para sa isang self-driving na kotse na nakabatay sa AI sa mga ito mga uri ng political leaning wormhole (para sa aking malawak na saklaw ng mga naturang usapin, sa marami sa aking mga post sa column, tingnan ang link dito).

Ang isang kilalang-kilala at madalas na tinatalakay na potensyal na isyu sa equity tungkol sa mga self-driving na kotse ng AI ay may kinalaman sa paggamit ng robo-taxis at kung sino ang magkakaroon ng access sa bagong opsyong mobility-as-a-service na ito. Ang mga alalahanin ay ang mga mayayaman lamang ang makakagamit ng robo-taxis, at sa gayon ang mga nasa bracket na mas mababa ang kita ay maiiwan sa umuusbong na panahon ng mga walang driver na kotse (tingnan ang isang malalim na ulat tungkol dito, sa link dito ).

May isa pang twist parlaying mula sa qualm na iyon.

Isipin na ang mga self-driving na sasakyan ay gumagala sa paligid ng isang lungsod at naghihintay ng kahilingan sa pagsakay. Pumasok ang isang kahilingan at isang malapit na robo-taxi na self-driving na kotse ang sumugod upang kunin ang sakay. Ipinapahiwatig ng rider kung saan nila gustong pumunta, at ang sistema ng pagmamaneho ng AI ay nagplano ng landas upang makarating doon. Ang sistema ng pagmamaneho ng AI ay nagpapatuloy sa pagmamaneho ng autonomous na sasakyan sa nais na destinasyon.

Ang lahat ng iyon ay tila maayos.

Narito ang isang matinding kaba na ipinahayag.

Ipagpalagay na ang sistema ng pagmamaneho ng AI ay nagpasyang gumawa ng isang landas na umiiwas sa mga mas abalang kapitbahayan. Maaari mong ipagpalagay na ang navigational plotting ay ibabatay lamang sa pinakamainam na landas, gaya ng pinakamababang distansya, o marahil sa pinakamaikling oras. Baka, baka hindi.

Ang iba pang mga kadahilanan ay maaaring ang posibilidad na ang self-driving na kotse ay dumaan sa kung ano ang maaaring kalkulahin bilang mga lugar na puno ng krimen. Maaaring ang panganib sa autonomous na sasakyan at sa mga pasahero ay isinasaalang-alang kung aling landas ang tatahakin.

May pagpipigil ng kamay na ang mga self-driving na sasakyan ay halos palaging maiiwasan ang higit na naghihirap o naaapi na mga komunidad. Ang mga taong nakasakay sa mga self-driving na kotse ay tila hindi kailanman napagtanto na ang gayong mga lugar ay umiiral sa kanilang mga lungsod o bayan. Ito naman ay malamang na hindi nila alam ang mga pangangailangan ng naturang mga komunidad. Higit pa rito, ang mga nakatira sa mga lugar na iyon ay maaaring bihirang makakuha ng pagkakataong gumamit ng self-driving na kotse, kahit na abot-kaya. Walang anumang robo-taxis na gumagala sa kanilang gitna, na sa pamamagitan ng pagkalkula ay pinanatili ang kanilang mga sarili sa labas ng mga lugar na iyon.

Mangyayari ba ang bias na ito dahil sa intensyonal na programming ng AI ng mga developer?

Maaaring, bagaman hindi naman ganoon.

Marahil ang bias na ito ay nagmumula sa paggamit ng Machine Learning at Deep Learning?

Oo naman, ito ay itinuturing na posibilidad.

Maaaring nakabatay ang AI driving system sa ML/DL na gumamit ng data para sa pagsasanay tungkol sa kung saan magpapatuloy kapag nagma-map ng isang landas. Kung ang data na iyon ay nabuo sa paligid ng pag-iwas sa ilang partikular na lugar, malamang na matukoy ng ML/DL ang gayong pattern at magpapatuloy ito. Sa paglipas ng panahon, ipagpalagay na ang naturang data ay higit na naipon habang ang mga self-driving na sasakyan ay nasa labas at malapit na, ang data na kasunod na ginamit para sa mga pag-update at pangangalaga ay higit na magpapatibay sa parehong mga pinagsama-samang pattern.

Maaari mong sabihin na ang mga pattern ay pinagsama-sama habang ang paggamit ng naunang pattern ay paulit-ulit na naitakda sa lugar, isang uri ng snowball o patuloy na umiikot na epekto.

Sa isang paraan ng pagsasalita, maaari mong ipakahulugan na ang tila pagkiling na ito sa kung saan magmaneho ay isang halimbawa ng kung paano maaaring lumitaw ang isang potensyal na AI na naka-embed sa pulitika. Ang isang pananaw ay ang hayaan ang AI na magpatuloy nang walang tigil sa predilection na ito. Ang isa pa ay ang rebisahin ang AI upang sadyang magmaneho papunta sa mga lugar na iyon na pattern-matched out of scope, na muli mong maigigiit na marahil ay nakahilig sa pulitika na postura na inilalagay sa AI.

Ang lahat ng sinabi, ang AI alinman exhibit isang political leaning tendency o kahit man lang ay itinuturing na gumagawa nito, hindi alintana kung ito ay may anumang pagkakahawig (na ito sa pamamagitan ng sentience ay hindi) tungkol sa pulitika ng mga bagay.

Konklusyon

Mayroong maraming mga ganitong uri ng mga halimbawa na maaaring itaas.

Mananatili ako sa konteksto ng self-driving na kotse at bibigyan ka ng isa pang mabilis na halimbawa. Ipagpalagay na ang isang rider ay humiling ng elevator sa pamamagitan ng isang AI self-driving car robo-taxi at ginagawa ito upang makapunta sa isang political rally na nagaganap sa downtown courthouse. Tumanggi ang AI driving system na dalhin ang rider doon.

Bakit?

Isipin na ang naunang data na nakolekta tungkol sa mga pampulitikang rally bilang isang destinasyon ay nagpahiwatig na ang mga self-driving na sasakyan ay nahuhuli sa gulo ng trapiko. Ipagpalagay na ang ibig sabihin nito ay ang mga self-driving na kotse ay hindi gaanong kumikita mula sa mga sakay, dahil sa mahabang oras ng paghihintay sa trapiko at paniningil ng mas mababang rate para sa mga oras ng paghihintay na iyon. Ang isang algorithm ng AI tulad ng paggamit ng ML/DL ay maaaring matukoy ng computation na ang pagpunta sa mga political rallies ay isang maasim na pagpipilian sa paggawa ng pera. Samakatuwid, kapag lumitaw ang mga kahilingan para sa robo-taxi para pumunta sa isang political rally, tinatanggihan ang kahilingan.

Sa palagay ko makikita mo kung paano ito makikita bilang isang pagpili na may motibasyon sa pulitika. Kahit na ang AI ay maaaring hindi direktang gumagamit ng anumang uri ng pampulitikang motibo sa anumang paraan ng pagsasalita, ito, sa anumang kaso, ay lumilitaw na gumagawa ng isang pampulitikang pagpili.

Maaari mong ipusta ang iyong pinakamababang dolyar na malapit na nating harapin ang isang pampulitikang backlash tungkol sa mga pampulitikang hilig ng AI. Markahan ang aking mga salita!

Sa pagsasalita ng mga salita, sinabi ng tanyag na makata at manunulat ng dulang Griyego, si Aristophanes, na sa ilalim ng bawat bato ay may isang politiko. Sa mundo ngayon, sa loob ng bawat sistema ng AI, mayroong isang hindi mapag-aalinlanganan na pagkakataon ng isang nakakubling pagkakahilig na naka-embed sa pulitika, alam mo man ito o hindi.

Mas mabuting simulan ang pagbaligtad sa mga batong iyon.