AI Ethics Confronting The Insidious One-Like-Mind Of AI Algorithmic Monoculture, Kasama ang Para sa Autonomous Self-Driving Cars

Tingnan natin ang isang maliit na palaisipang palaisipan.

Sinasabi na ang mga dakilang isipan ay magkapareho ng iniisip.

Walang alinlangan na narinig mo na ang madaling gamiting catchphrase na maraming beses. Sa ilang walang ginagawang pag-uusap, kung ikaw at ang isang kasamahan o kaibigan ay makakarating sa parehong ideya sa parehong tiyak na sandali, isa sa inyo ay tiyak na bumulalas nang may kagalakan na ang mahuhusay na isipan ay pareho ang iniisip. Ito ay tiyak na isang nakakabigay-puri na pahayag tungkol sa iyo at sa iyong kapwa tao.

May isa pang piraso ng sage wisdom na maaari nating idagdag sa halo na ito.

Bihira daw magkaiba ang mga tanga.

Gusto kong i-reword ang kasabihang iyon. Ang tila makatwirang katumbas na kasabihan ay ang mga hangal ay may posibilidad na magkapareho ang pag-iisip. Napagtanto ko na maaari kang mag-quibble sa pag-recast ng sikat na linya. Gayunpaman, tila medyo tumpak na kung ang mga mangmang ay bihirang mag-iba maaari mong mahihinuha na ang mga mangmang ay kadalasang may posibilidad na lumihis sa tulad ng pag-iisip. Umaasa ako na hindi iyon magdulot ng labis na heartburn o pagkabalisa sa paglihis ng pagbabago ng isang banal na piraso ng karunungan.

Tayo ay nasa mapanganib na sandali ng suliraning ito.

Ipagpalagay na hayagang ibinibigay natin ang paniwala na ang mga dakilang isipan ay magkatulad na nag-iisip ay karaniwang totoo, at tayo sa parehong hininga ay nagbibigay ng assertion na ang mga hangal ay may posibilidad na mag-isip ng magkatulad ay totoo rin. Kapag nakatagpo ka ng isang grupo ng mga tao na lahat ay pare-pareho ang iniisip, kailangan kong magtanong sa iyo ng isang simpleng tanong.

Lahat ba sila ay mahusay na pag-iisip o lahat sila ay tanga?

Yikes!

Ayon sa alituntunin tungkol sa mga dakilang kaisipan, sila ay malamang na malaki ang pag-iisip. Sa kabilang banda, ayon sa alituntunin tungkol sa mga tanga, sila ay tila lahat ay tanga. Parang may problema tayo. Maaari mong mautal na marahil ang mga katulad na nag-iisip na ito ay parehong lubos ang pag-iisip at mga tanga. Pwede ba kayong dalawa sa parehong oras? Parang sinusubukan mong magtanong.

Maaari mong taimtim na ipangatuwiran na ang magkatulad na pag-iisip ay hindi naghahatid ng anuman tungkol sa kung ang pagtitipon ay nag-iisip nang malaki o kahangalan. Marahil ay hindi sinasadyang nabaligtad natin ang lohika. Anumang pangkat ng mga tao na pareho ang iniisip ay pare-pareho lang ang iniisip. Hindi mo maaaring subukang i-overlay ang kanilang pagkakahawig ng pag-iisip na may label na alinman sa isang hanay ng mga mahuhusay na pag-iisip o mga hangal na isip. Baka magulo ang isip nila. Baka mahikayat sila ng isip. Sa esensya, ang paglalarawan ay maaaring hindi nangangahulugang mahulog sa medyo maling dichotomy ng pagiging dakila o pagiging hangal.

Mayroong lahat ng uri ng mga insight na nakakabit sa mga setting na kinasasangkutan ng mga taong may katulad na pag-iisip.

Sinabi umano ni Mahatma Gandhi na maaaring baguhin ng isang maliit na grupo ng mga taong determinado at katulad ng pag-iisip ang takbo ng kasaysayan. Ito ay tiyak na nagpapakita ng napakalawak na potensyal ng pagkakaroon ng katulad na pag-iisip. Nagbabala si Plato na pagdating sa mga isip na sarado, na maaari mong ipahiwatig na ang isang hindi sumusukong hanay ng mga taong katulad ng pag-iisip, maaari mong makuha ito: "Ito lamang ang dapat katakutan: ang saradong isip, ang natutulog na imahinasyon, ang kamatayan ng espiritu.”

Saan ako pupunta sa litanya ng mga kuryusidad tungkol sa mga katulad na isip?

Buweno, lumalabas na may mga alalahanin na unti-unting ibinababa tayo ng AI sa isang hindi maiiwasan at hindi kanais-nais na landas ng pagkakaroon ng magkatulad na pag-iisip na mga algorithm ng AI na namamahala sa ating pang-araw-araw na aktibidad. Ito ay summarily tinutukoy bilang AI algorithmic monoculture.

Tayo ay patungo sa isang pangyayari kung saan ang lipunan ay umaasa sa malaganap na mga AI system na maaaring may pareho o halos magkaparehong pinagbabatayan na algorithmic na kapasidad. Sa ganoong kahulugan, mahina tayo sa kaparehong pag-iisip sa napakalaking sukat na iiral sa buong mundo.

Bago ako magpatuloy sa paksang ito, nais kong linawin kaagad na hindi ako tinutukoy ang AI na nararamdaman. Tulad ng ipapaliwanag ko sa ilang sandali, wala kaming sentient AI ngayon. Sa kabila ng mga ulol na ligaw at dilat ang mata na nagpapahayag na mayroon tayong nakakaramdam na AI, talagang hindi ito ang kaso at dapat na ganap na balewalain.

Ang dahilan kung bakit ko binibigyang-diin ang mahalagang puntong ito ay kapag inilalarawan ko ang AI bilang "katulad ng pag-iisip" hindi ko nais na tumalon ka sa konklusyon na ang AI ngayon ay kahit papaano ay katumbas ng isip ng tao. Ito ay tiyak na hindi. Mangyaring huwag gumawa ng ganoong uri ng anthropomorphic association. Ang aking paggamit ng katulad na pag-iisip na parirala ay nilayon lamang na i-highlight na ang mga algorithm ng AI ay maaaring binubuo sa paraang gumagana ang mga ito sa parehong paraan. Bagaman hindi sila "nag-iisip" sa anumang pagkakahawig ng kung ano ang ituturing natin bilang kalidad ng pag-iisip ng tao. Magsasabi ako ng higit pa tungkol dito sa ilang sandali.

Ang AI na "katulad ng pag-iisip" sa mga tuntunin ng pagkakaroon ng algorithmic monocultural na konstruksyon ay isang bagay na maaari nating masuri bilang sabay na masama at mabuti. Ang masamang bahagi ng mga bagay ay kung ang mga karaniwang ginagamit at ginagamit na pagkakapareho ng AI na ito ay puno ng mga pagkiling at diskriminasyong pagsasama, ang AI ay malamang na lihim na gagamitin sa malawakang batayan at ipahayag ang mga hindi kanais-nais na kagawiang ito sa lahat ng dako. Ang magandang bahagi ng mga bagay ay kung ang AI ay angkop na ginawa at ginawa nang walang mga pagkiling at diskriminasyong mga pagsasama, sana ay ginagawa nating malawak ang pagiging patas. Ang lahat ng ito ay may nagpapakitang AI Ethics at Ethical AI na implikasyon. Para sa aking patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito.

Narito ang aking madaling gamiting pitong patakaran ng hinlalaki tungkol sa AI algorithmic monoculture:

1) Ang AI algorithmic monoculture ay binubuo ng paggamit ng pareho o halos parehong pinagbabatayan na mga algorithm na pagkatapos ay malawakang ginagamit para sa paggawa ng mga desisyon na makakaapekto sa mga tao

2) Ang ganitong AI ay maaaring magbigay ng pare-pareho at pagiging maaasahan, kahit na ito ay isang dalawang talim na espada

3) Ang isang panig ay ang AI na naghahatid ng masamang pagkiling ay madaling kumalat at paulit-ulit na ginagamit sa mga hindi kanais-nais na paraan (masama iyon)

4) Ang kabilang panig ay ang AI na nagpapakita ng pagiging patas at iba pang makatwirang kanais-nais na mga pag-aari ay maaaring ikalat nang malawakan (iyan ay mabuti)

5) Mayroong isang partikular na uri ng kahinaan sa buong sistema kapag mayroong AI homogeneity na ito ang kalibre at maaaring lubos na mababawasan ng mga nakakagambalang pagkabigla

6) Ang pagkakaiba-iba ng AI ay maaaring minsan ay ginusto, kahit na ito ay nagpapataas ng pag-aalala ng malawak na hindi pagkakatugma na maaaring lumitaw

7) Kailangan nating lahat na pag-isipan, pagmasdan, at pakikipaglaban sa AI algorithmic monoculture

Bago pumasok sa ilang higit pang karne at patatas tungkol sa ligaw at malabong pagsasaalang-alang na pinagbabatayan ng AI algorithmic monoculture, magtatag tayo ng ilang karagdagang mga batayan sa malalim na mahalagang mga paksa. Kailangan nating magsagawa ng maikling pagsisid sa AI Ethics at lalo na sa pagdating ng Machine Learning (ML) at Deep Learning (DL).

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, tutuklasin natin kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pangangalaga sa mga AI system. Ang lahat ng mga stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pagpapalagay ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang sinabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga tuntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Bumalik tayo sa ating pagtuon sa AI algorithmic monoculture.

Mukhang napagtanto nating lahat na sa interconnected digitally-based na mundo ngayon na maaari tayong ma-blackball sa pamamagitan ng pagkakaroon ng kahit kaunting data na nasa isang database at tila napupunta saan man tayo magpunta. Halimbawa, ipagpalagay na mayroong isang database na naglalaman ng isang piraso ng data na naglalaman ng isang tagapagpahiwatig na hindi ka karapat-dapat sa kredito. Maaaring totoo ito tungkol sa iyo o maaaring ganap na mali. Maaaring alam mo na ang database ay naglalaman ng piraso ng impormasyong ito o maaaring hindi mo ito nalalaman. Ito ay isang malaking crapshoot ng isang data-glutted universe kung saan lahat tayo ay nahuhulog.

Ang database na naglalaman ng indicator na ito ay madaling maibahagi ang mahalagang aspetong iyon tungkol sa iyo sa iba pang mga database sa ibang lugar. Sa isang kisap-mata, ang mga database na konektado sa elektronikong paraan sa buong mundo ay maaaring magkaroon ng ipinadala na ngayong bandila na hindi ka karapat-dapat sa kredito. Kung pipiliin mong mag-aplay para sa isang loan, malamang na ang ilang app sa pag-apruba ng pautang ay maaabot sa isa sa mga database na iyon at kukunin ang bandila na nagsasabing ikaw ay i-snubbed. Maaari mong subukang kumuha ng pautang habang nasa isang bahagi ng mundo at bigla mong tinanggihan. Ang paglalakbay sa ibang lugar ay maaaring hindi makatutulong. Ang pagkakaugnay ng mga database ay hahabulin ka gaano man kalayo ang iyong paglalakbay.

Sa kabutihang palad, mayroong iba't ibang mga batas tungkol sa data at privacy na unti-unting naisabatas. Ang mga batas ay kapansin-pansing naiiba sa bawat bansa. Maaari rin silang magkaiba sa bawat estado. Ngunit hindi bababa sa may kamalayan sa mga panganib na nauugnay sa pagkakaroon ng data sa mga database na mabilis na makakalat ng impormasyon tungkol sa iyo. Ang pag-asa ay magkakaroon ka ng legal na paraan upang subukan at maiwasan ang maling impormasyon o hindi bababa sa magkaroon ng kamalayan na ito ay umiiral tungkol sa iyo. Tingnan ang aking coverage sa ang link dito sa mga panghihimasok sa privacy at AI.

Sa palagay ko maaari mong sabihin na ang data tungkol sa iyo ay isang kasabihan na uri ng larong "tag, ikaw na" (kung saan kung minsan ay gusto nating maging naka-tag na tao, at sa ibang pagkakataon ay gusto nating hindi tayo ma-tag).

Huminga ng malalim.

Ipagpalagay na nagwagayway kami ng magic wand at mahimalang matitiyak na hindi mangyayari ang homogeneity ng data tungkol sa iyo. Nagagawa nating pagsama-samahin ang lahat ng lipunan at itigil ang mga ganitong uri ng gawain. Maaari mong ipagpalagay na hindi ka na nanganganib sa gayong mga alalahanin.

Ikinalulungkot kong sabihin, mawawala mo ang mga panganib na ipinataw ng AI algorithmic monoculture.

Narito kung bakit.

Babalik tayo sa halimbawa ng pagsisikap na makakuha ng pautang. Isipin na pupunta ka sa isang tagapagpahiram at gumagamit sila ng AI system na may partikular na algorithm na tutukuyin namin bilang algorithm Y. Sa iyong kaso, kapag nag-apply ka at nagbigay ng iyong mga detalye, ang algorithm Y ay nakasulat sa paraang iyon. ito ay on-the-fly na tutukuyin sa matematika kung dapat kang tanggihan o hindi para sa utang. Mahalaga, ang algorithm na ito ay maaaring "magpasya" na hindi ka karapat-dapat sa kredito.

Pansinin na nagpapanggap kami sa kasong ito na hindi naabot ng AI ang isang database upang subukan at makuha ang iyong pagiging karapat-dapat sa kredito. Kaya, walang pagkakataon na gumawa ng turndown ang AI batay sa ilang bit ng data na nakaupo sa isang database dito o doon. Ang buong pagpili ay ginawa sa pamamagitan ng algorithm Y tungkol sa mga computations na kasangkot.

Ang AI ay nagpapahiwatig na ikaw ay tinanggihan para sa utang. Sigurado akong madidismaya ka sa resultang ito. Maaari kang magkibit-balikat at magpasyang pumunta sa ibang tagapagpahiram. Muli, alam mong sigurado na walang database na magpapaalis sa iyo sa pagtatalo. Sa iyong isip, ang kailangan mo lang gawin ay patuloy na subukan sa iba't ibang nagpapahiram at sa huli ay makukuha mo ang berdeng ilaw.

Sa pagpunta sa ibang tagapagpahiram, muli kang tatanggihan. Nakaka-disconcert ito. Sumubok ka ng ibang tagapagpahiram, ngunit mabilis na tinanggihan. Isa-isa, ang bawat pagtatangka ay humahantong sa parehong nakakadismaya na resulta. Naiinis ka. Galit ka ng walang katapusan.

Ano ba ang nangyayari?

Lahat ba ng mga nagpapahiram na ito ay lihim na nakipagsabwatan upang matiyak na hindi ka makakakuha ng pautang?

Ang maikling sagot ay "Hindi" at sasabihin namin na hindi sila nakipagsabwatan per se. Sa halip, lahat sila ay nagkataong gumamit ng algorithm na Y. Hindi sila "nakipagsabwatan" sa kahulugan ng pagtitipon sa isang backroom at sumasang-ayon na gamitin ang algorithm Y sa kanilang AI. Walang mafia-style get-together na nagsabing gagamitin nilang lahat ang algorithm na Y. Bilang isang side note, inaakala ng isa na maaaring mangyari talaga iyon, ngunit para sa talakayan, ilalagay namin ang mga alternatibong iyon sa panig sa ngayon. .

May isang ganap na makatwirang dahilan na ang algorithm Y ay maaaring gamitin ng lahat ng mga hiwalay at natatanging nagpapahiram na ito. Maaaring ang algorithm na Y ay magagamit bilang open source. Ang mga developer ng AI sa bawat isa sa magkakaibang nagpapahiram na iyon ay maaaring sa bawat kaso ay umabot lamang sa isang open-source na library at kinopya ang piraso ng code na iyon sa kanilang AI system.

Malamang na ito ang pinakamadali at pinakamabilis na paraan para matapos ang trabaho. Hindi na kailangang magmula sa simula na subukang gumawa ng algorithm na Y. Sa ilang minuto ng online na pag-access, ang coding ay tapos na para sa iyo at direktang handa na para sa paggamit. Kopyahin at i-paste. Higit pa rito, maaari mong maiwasan ang pagkakaroon ng anumang pag-debug ng code. Ang iyong palagay ay maaaring ang code ay nasubok nang mabuti at hindi mo na kailangan na muling likhain ang gulong.

Okay, kaya ang nagpapahiram sa tagapagpahiram ay inosenteng nagpasyang gumamit ng algorithm na Y. Malaki ang posibilidad na ang algorithm Y ay kilala bilang ang "gold standard" na gagamitin para sa pagtiyak ng pagiging karapat-dapat sa kredito. At gagawin nitong mas popular ang pag-aampon ng partikular na algorithm na iyon. Ang mga developer ng AI ay hindi lamang nagtitipid ng oras sa pamamagitan ng paggamit nito, naglalaro din sila ng mga bagay na ligtas. Sinusumpa ng lahat na ang algorithm ay mabubuhay para sa paggamit. Bakit mo dapat labanan ang karunungan ng karamihan? Mukhang walang pag-iingat na gawin ito.

Maligayang pagdating sa panahon ng AI algorithmic monoculture.

Natuklasan namin dito sa pamamagitan ng halimbawang ito na ang parehong algorithm ay madaling gamitin nang paulit-ulit sa maraming AI system. Walang partikular na pagsasabwatan tungkol dito. Walang super-duper masterminded masamang balak sa kamay. Bilang kapalit ng mga masamang planong iyon, ang isang partikular na algorithm ay nagiging nangingibabaw dahil sa kung ano ang maaaring ilarawan bilang mabait at kapaki-pakinabang na mga dahilan.

Sa nakalipas na mga taon, umiral ang posibilidad ng malawakang paggamit ng parehong mga algorithm, kahit na mas maraming hadlang ang kailangang lampasan. Ngayon, ang paggamit ng mga algorithm sa pag-iimbak ng mga hub ay halos walang kahirap-hirap na ma-access. Ang open source ay mas tinatanggap kaysa marahil sa mga naunang henerasyon. At iba pa.

Sa isang halimbawa ng nagpapahiram na aming na-explore, maaari kaming magkaroon ng dalawang nagpapahiram, dalawampung nagpapahiram, dalawang daang nagpapahiram, dalawang libong nagpapahiram, o marahil daan-daang libong nagpapahiram na lahat ay nagpasyang gamitin ang parehong algorithm na Y sa kanilang AI. Ang algorithm na AI ay sigurado. Ito ay pinipili at nakatanim sa AI sa buong mundo.

Walang nagtataas ng anumang pulang bandila. Walang maliwanag na dahilan para gawin ito. Kung mayroon man, maaaring itaas ang pulang bandila kapag pinili ng ilang tagapagpahiram na huwag gumamit ng algorithm na Y. Uy, ang tanong ay maaaring hinikayat, hindi ka gumagamit ng algorithm na Y. Ano ang nagbibigay? Sinadya mo bang gumawa ng isang bagay na walang kabuluhan o marumi? Magsama-sama ka at sumakay sa iba.

I-extrapolate ang parehong konseptong monoculture na ito sa lahat ng paraan ng AI system at lahat ng paraan ng algorithm.

Inilarawan ng isang pag-aaral sa pananaliksik ang mga phenomena sa ganitong paraan: "Ang pagtaas ng mga algorithm na ginamit upang hubugin ang mga pagpipilian sa lipunan ay sinamahan ng mga alalahanin sa monoculture-ang paniwala na ang mga pagpipilian at kagustuhan ay magiging homogenous sa harap ng algorithmic curation" (Jon Kleinberga at Manish Raghavana, "Algorithmic Monoculture At Social Welfare" PNAS 2021). Itinuro pa nila: "Kahit na ang mga algorithm ay mas tumpak sa isang case-by-case na batayan, ang isang mundo kung saan ang lahat ay gumagamit ng parehong algorithm ay madaling kapitan ng magkakaugnay na mga pagkabigo kapag ang algorithm ay natagpuan ang sarili sa masamang mga kondisyon."

Magagamit na natin ngayon ang aking naunang hanay ng pitong panuntunan tungkol sa AI algorithmic monoculture:

1) Ang AI algorithmic monoculture ay binubuo ng paggamit ng pareho o halos parehong pinagbabatayan na mga algorithm na pagkatapos ay malawakang ginagamit para sa paggawa ng mga desisyon na makakaapekto sa mga tao

2) Ang ganitong AI ay maaaring magbigay ng pare-pareho at pagiging maaasahan, kahit na ito ay isang dalawang talim na espada

3) Ang isang panig ay ang AI na naghahatid ng masamang pagkiling ay madaling kumalat at paulit-ulit na ginagamit sa mga hindi kanais-nais na paraan (masama iyon)

4) Ang kabilang panig ay ang AI na nagpapakita ng pagiging patas at iba pang makatwirang kanais-nais na mga pag-aari ay maaaring ikalat nang malawakan (iyan ay mabuti)

5) Mayroong isang partikular na uri ng kahinaan sa buong sistema kapag mayroong AI homogeneity na ito ang kalibre at maaaring lubos na mababawasan ng mga nakakagambalang pagkabigla

6) Ang pagkakaiba-iba ng AI ay maaaring minsan ay ginusto, kahit na ito ay nagpapataas ng pag-aalala ng malawak na hindi pagkakatugma na maaaring lumitaw

7) Kailangan nating lahat na pag-isipan, pagmasdan, at pakikipaglaban sa AI algorithmic monoculture

Tulad ng nabanggit sa aking panuntunan #2, mayroong isang tiyak na dalawang talim na espada tungkol sa AI algorithmic monoculture.

Alinsunod sa aking panuntunan #3, maaari kang mapunta sa maikling dulo ng stick. Kung tinatanggihan ka ng tagapagpahiram pagkatapos ng tagapagpahiram, saan ka man pumunta, at kung ginagawa ito ng algorithm Y batay sa bias o iba pang hindi naaangkop na batayan, ikinalulungkot mong isinumpa ka. Mas mahihirapan kang subukang maibalik ito. Sa kaso ng data tungkol sa iyo sa isang database, malamang na magkakaroon ka ng ilang legal na paraan at pangkalahatang pagkilala sa kung ano ang maaaring gawin ng masamang data. Ilang tao ang makakaunawa na ang isang masamang algorithm ay sumusunod sa iyo hanggang sa dulo ng mundo.

Alinsunod sa aking panuntunan #4, may potensyal na baligtad ang AI algorithmic monoculture. Ipagpalagay na ang algorithm na Y ay nararapat na humahadlang sa iyo sa pagkuha ng pautang. Maaaring sinubukan mo nang palihim at masama na linlangin ang mga bagay-bagay sa pamamagitan ng pamimili sa paligid. Dahil malawakang ginagamit ang parehong algorithm na Y, malamang na hindi makakuha ng ginto ang iyong pamimili. Bagama't maaaring hindi namin gusto ang ideya ng isang paulit-ulit at hindi karaniwang posibilidad ng pagiging patas ng algorithm (kung may ganoong bagay, tingnan ang aking pagsusuri sa ang link dito), maaari tayong magsaya kapag ang isang mabuting bagay ay lumaganap nang malawakan.

Susunod na pag-usapan natin ang mga shocks.

Sa aking panuntunan #5, ipinapahiwatig ko na mayroong isang pinagbabatayan na pagkabalisa na ang isang AI algorithmic monoculture ay maaaring sumailalim sa napakalaking pagkagambala. Ito ay madaling ipaliwanag. Isipin na mayroong isang software bug sa algorithm Y. Walang nakapansin nito. Sa loob ng mahabang panahon, ito ay nagtatago doon sa simpleng paningin. Kung sakaling nag-aalinlangan ka na maaaring mangyari ito, ibig sabihin, ang isang bug ay nasa open-source code ngunit hindi pa nahanap nang mas maaga, tingnan ang aking saklaw sa ang link dito ng mga ganitong pagkakataon.

Ang bug ay lumalabas at nagiging sanhi ng algorithm na Y na hindi na ang niluwalhati na piraso ng code na inakala ng lahat. Mapagtanto na ang bug na ito ay nakaupo sa libu-libong mga AI system. Sa maikling pagkakasunud-sunod, maaaring makatagpo ang bug sa buong planeta, at mabilis nating nahaharap ang ating sarili sa isang kakila-kilabot na gulo. Dahil ang lahat ay naglalagay ng kanilang mga itlog sa isang basket, at dahil ang basket ay ganap na nalilito ngayon, ganoon din ang nagaganap sa buong mundo.

Isang sakuna ng epikong sukat.

Sa teorya, hindi ito madaling mangyari kung ang mga nagpapahiram ay bawat isa ay gumagawa ng kanilang sariling mga algorithm ng pagmamay-ari. Ang mga pagkakataon ay na kung ang isa sa kanila ay may bug, ang iba ay hindi. Sa kaso ng lahat sa kanila na gumagamit ng parehong base code, lahat sila ay may parehong bug.

Darned kung gagawin mo, darned kung hindi mo gagawin.

Sigurado ako na ang ilan sa inyo ay sumisigaw na ang magandang balita tungkol sa bug sa isang monoculture na setting ay na kung mayroong magagamit na pag-aayos, ang bawat isa ay maaaring maglagay ng parehong pag-aayos. Ito ay tila isang maliwanag at maaraw na paraan ng pagtingin sa bagay. Oo, maaaring gumana iyon. Gayunpaman, ang buod dito ay mayroong mas mataas na pagkakataon ng isang buong-the-board na pagkagambala. Kahit na ang paglutas ay maaaring mas madaling makayanan, nahaharap ka pa rin sa napakalaking pagkagambala dahil sa monoculture facet.

Bukod sa instance ng isang bug na maaaring magdulot ng pagkabigla, marami tayong makakabuo ng iba pang nakakatakot na sitwasyon. Ang isa ay isang cyber crook na gumagawa ng isang masamang paraan upang agawin ang isang sikat na ginagamit na algorithm. Maaaring magkaroon ng bonanza ang masasamang loob sa kanilang mga kamay. Maaari silang pumunta mula sa AI tungo sa AI, na ginagawa ang AI na gumawa ng isang bagay na walang kabuluhan. Lahat dahil ang parehong algorithm ay ginamit nang paulit-ulit. Ang napakalaking sukat ay maaaring gamitin para sa kabutihan at ang lamentedly ay maaaring potensyal na pinagsamantalahan para sa kasamaan.

Sa puntong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang mga halimbawang nakapagpapakita na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa AI algorithmic monoculture, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At AI Algorithmic Monoculture

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Magsisimula tayo sa pagsasabi ng ilang mahahalagang saligan. Ang mga sistema ng pagmamaneho ng AI ay ginagawa upang subukan at ligtas na magpatakbo ng mga self-driving na kotse. Ang ilang mga automaker at self-driving tech firm ay gumagawa ng kanilang coding sa pagmamay-ari na mga paraan. Ang iba ay umaasa sa open-source code.

Isipin na ang ilang algorithm Z ay available sa mga open-source na repository at madaling gamitin sa mga AI driving system. Isinasama ng automaker o self-driving tech firm ang algorithm na Z sa kanilang AI driving system. Ito ay ganap na isasama sa kanilang AI driving system.

Kung maglalagay sila ng isang dosenang self-driving na kotse sa mga kalsada, lahat ng autonomous na sasakyang iyon ay maglalaman ng algorithm Z bilang bahagi ng onboard software ng AI driving system. Unti-unti, ipagpalagay na ang mga self-driving na kotse ay ligtas na nagmamaneho, ang fleet ay tumataas sa laki sa dalawampung self-driving na mga kotse sa mga daanan. Ang isang desisyon ay ginawa upang rampa up pa. Di-nagtagal, dalawang libong self-driving na sasakyan ng fleet na iyon ang nasa mga lansangan at highway. At iba pa.

Ginagamit din ng ibang automaker ang algorithm na Z sa kanilang sistema sa pagmamaneho. Nagde-deploy din sila ng kanilang mga self-driving na sasakyan. Ang kanilang fleet ay nadagdagan sa laki. Sa lalong madaling panahon mayroon silang libu-libo ng kanilang mga self-driving na kotse na gumagala dito at paroo't parito.

Nagtitiwala ako na makikita mo kung saan ito patungo.

Matatagpuan natin ang ating sarili sa isang AI algorithmic monoculture sa gitna ng pagdating ng AI-based na self-driving na mga kotse. Maraming brand at modelo ng mga autonomous na sasakyan ang maaaring may partikular na algorithm na ginagamit sa isang lugar sa kanilang AI driving system. Walang anumang sabwatan tungkol dito. Walang engrandeng pagsasabwatan sa paglalaro.

Sa mga tuntunin ng kung gaano karaming mga self-driving na kotse ang maaaring mayroon tayo sa ibang araw sa ating mga kalsada, mayroong isang mainit na debate sa paksang iyon. Alam natin na sa Estados Unidos lamang ay may humigit-kumulang 250 milyong mga sasakyang pinapatakbo ng tao ngayon. Iminumungkahi ng ilan na kakailanganin natin ang humigit-kumulang 250 milyong self-driving na mga kotse, sa pag-aakalang tuluyan na nating aalisin ang mga sasakyang hinimok ng tao o natural na ang mga ito ay itinatapon at pinapalitan ng mga self-driving na sasakyan.

Hindi ganoon kabilis, may nag-uudyok. Ang mga sasakyang hinimok ng tao ay gumugugol ng humigit-kumulang 90% o higit pa sa kanilang oras na hindi ginagamit. Sa pangkalahatan, ang mga sasakyang hinimok ng tao ay nakaparada at naghihintay ng driver ng tao na magmaneho sa kanila. Ang mga self-driving na sasakyan na nakabatay sa AI ay maaaring magmaneho sa lahat ng oras, halos. Maaari kang magkaroon ng AI self-driving na kotse na 24×7, maliban sa panahon ng maintenance o iba pang kinakailangang downtime.

Sa ganoong sitwasyon, mukhang hindi mo kakailanganin ang 250 milyong self-driving na mga kotse upang palitan ang isa-para-isa sa 250 milyong mga kotseng hinimok ng tao. Marahil ay sapat na ang 200 milyong mga self-driving na kotse. Siguro 100 million. Walang makapagsasabi ng sigurado. Para sa aking pagtatasa sa isyung ito, tingnan ang link dito.

Nais kong pansamantalang ituro na maaari tayong magkaroon ng maraming milyon-milyong mga self-driving na sasakyan sa huli na gumagala sa ating mga highway at byways. Kung gaano karami sa kanila ang tiyak na makikita natin sa mga kalsada ay hindi isang mahalagang alalahanin para sa kapakanan ng diskursong ito. Walang alinlangan na maraming milyon. Ang sukat na ito sa pangkalahatan ay mahalaga dahil sa AI algorithmic monoculture at ang pangunahing katangian ng pagharap sa parehong mga pakinabang at disadvantages sa napakalaking sukat.

Narito ang twist.

Sa pamamagitan ng atrociously kakila-kilabot pipi swerte mayroong isang matinding problema sa loob ng algorithm Z na walang sinuman dati pinamamahalaang upang mapansin. May isang bug na magdudulot ng pagkaligaw sa natitirang sistema ng pagmamaneho ng AI.

Masamang balita.

Para sa inyo na nasa hirap ng pagbuo ng mga sistema sa pagmamaneho ng AI, napagtanto kong hindi ninyo karaniwang gusto ang mga ganitong uri ng pinakamasamang sitwasyon, at kahit na marahil ay maliit ang mga pagkakataon, gayunpaman ay kapaki-pakinabang ang mga ito na pag-usapan. Hindi namin maitago ang aming mga ulo sa buhangin. Mas mabuting idilat ang mga mata at hangarin na maiwasan o kahit man lang mabawasan ang mga ganitong uri ng kalamidad.

Sa teorya, ang isang AI na self-driving na kotse na naglalaman ng bug na ito ay maaaring magtangkang sumakay at bumagsak sa halos anumang bagay at lahat ng bagay na kayang gawin nito. Ginagawa lang ng AI ang "ginawa" na gawin sa setting na ito. Ito ay magiging mapaminsala.

Maaaring iniisip ng ilan sa inyo na dahil lang sa isang AI self-driving na kotse ay nakatagpo ng bug ay hindi magiging isang malaking problema sa bawat isa. Sinasabi ko iyan dahil sa sandaling ang AI na self-driving na kotse ay bumangga sa isang bagay tulad ng isang trak o anupaman, ang sasakyan mismo ay malamang na masira na hindi na ito maaaring aktibong idirekta ng AI upang magsagawa ng anumang karagdagang kaguluhan at pagkawasak. Ito ay patay sa tubig, wika nga.

Well, isaalang-alang ang scaling factor na kasangkot.

Kung mayroong milyun-milyon at milyon-milyong mga self-driving na kotse at lahat sila ay umaasa sa parehong naka-embed na algorithm na Z, maaaring malulungkot nilang isagawa ang parehong bug na iyon.

Alam ko at kinikilala ko na ang bug na ito ay maaaring maayos o mapagtagumpayan sa pamamagitan ng paggamit ng isang OTA (Over-The-Air) na elektronikong ipinamahagi na pag-update ng software. Bilang isang mabilis na background, marami ang bumulwak tungkol sa mga pakinabang ng paggamit ng OTA. Kapag kailangan ang isang pag-update ng software, hindi mo na kailangang dalhin ang isang AI na self-driving na kotse sa isang car repair shop o dealership. Ang OTA ay maaaring gawin saanman ang self-driving na kotse ay naroroon (sa loob ng mga limitasyon).

Samantala, hanggang sa malaman natin ang bug at ang pag-aayos, at bago ito ipadala sa pamamagitan ng OTA, ang mga self-driving na kotse sa mga daanan ay mananatili pa rin sa isang tiyak na postura. Ang ilan ay nakatagpo ng bug at naliligaw. Ang iba ay nasa bingit ng paggawa nito.

Maaari naming piliing igiit na ang lahat ng self-driving na sasakyan ay dapat na pansamantalang ihinto sa lugar at hindi na gagamitin hanggang sa ang OTA fix ay mai-beam sa mga AI driving system. Isipin ang pagkagambala. Ipagpalagay na mayroon tayong napakakaunting mga sasakyang hinimok ng tao na natitira. Ang posibilidad din ay ang mga self-driving na kotse ay hindi lagyan ng mga kontrol sa pagmamaneho ng tao. Sa esensya, maaari kang magkaroon ng grounding ng 200 milyon (o anumang numero) na self-driving na mga kotse habang inaayos namin ang bug.

Kung ang lipunan ay naging umaasa sa mga self-driving na kotse, halos naisara mo na ang lipunan mula sa pananaw ng kadaliang mapakilos, kahit na hanggang sa maalis ang pag-aayos ng bug.

Ngayon ay magiging isang nakapipinsala at nakagigimbal na pagkabigla sa sistema, kumbaga.

Pinaghihinalaan ko na ang ideya ng isang nagkukubli na bug na gumagawa ng mga masasamang aksyon ay tila halos imposibleng isipin, ngunit sa parehong oras ay hindi natin mabubukod ang posibilidad sa kabuuan nito. Mayroong iba pang mga posibilidad, tulad ng mga kahinaan sa cyber criminal na maaaring umiiral. Napag-usapan ko halimbawa kung paano maaaring subukan ng isang buhong na bansa-estado na magsagawa ng isang karumal-dumal na gawa sa pamamagitan ng pagsasamantala sa isang kahinaan sa isang AI driving system, tingnan ang aking talakayan sa ang link dito. Bilang karagdagan, para sa aking mga detalye tungkol sa kung paano maisagawa ang isang malisyosong pagkuha sa mga sasakyang self-driving ng AI, tingnan ang aking saklaw sa ang link dito.

Konklusyon

Ang kaparehong pag-iisip ay kapwa biyaya at sumpa.

Nauna naming nabanggit na sinabi ni Gandhi na ang mga katulad ng pag-iisip ay makakamit ang magagandang bagay. Ang AI na "katulad ng pag-iisip" ay maaaring makamit ang magagandang bagay. Binalaan tayo ni Plato na ang mga saradong isipan ay maaaring maging isang matinding panganib. Kung mayroon tayong mga sistemang may kaparehong pag-iisip sa ating paligid, posibleng nahaharap tayo sa mga nakakubling panganib ng hindi sinasadya (o sinasadya) na mga elementong nagpapabagsak na maaaring makapinsala sa ilan sa atin o marahil sa ating lahat.

Kailangan nating magkaroon ng bukas na isipan tungkol sa AI algorithmic monoculture. Kung gagawin natin ang mga bagay ng tama, maaari nating gamitin ang kabutihan at maiwasan ang kasamaan.

Ngunit kung tama lang ang nasa isip natin tungkol sa lahat ng ito.