Maingat na Pagtatasa ng AI Ethics Kung Ang Pag-aalok ng AI Biases Hunting Bounties Upang Mahuli At Mahuli sa Ethically Wicked na Ganap na Autonomous na Sistema ay Maingat o Walang Kabuluhan

Wanted: Mga mangangaso ng bias ng AI.

Iyon ay maaaring isang modernong-panahong ad na magsisimula kang makitang lumalabas sa mga channel sa social media at nagpapakita sa iba't ibang online na pag-post ng trabaho. Ito ay medyo bagong konsepto o tungkulin. May dala itong kontrobersya. Ang ilang masigasig na mananampalataya ay taimtim na nangangatuwiran na ito ay may katuturan at dapat ay nangyayari sa lahat ng panahon, habang ang iba ay sa halip ay kinakabahan na gumagawa ng ilang malubhang pagkamot ng ulo at hindi masyadong sigurado na ito ay isang magandang ideya.

Ang diwa ng tungkulin ay binubuo ng pag-iwas sa AI ng anumang mga nakatagong bias o naka-embed na mga kasanayan sa diskriminasyon. Sa pagsagip dumating ang sabik at sama-samang AI biases hunters. Malamang na sila ay mga computer-savvy bounty hunters. Higit pa rito, sana, matarik sa lalim ng mga kakayahan ng AI.

Magkaroon ng baril, maglalakbay, at sa pamamagitan ng AI-skilled na matalas na pagbaril ay maaaring ilantad ang mga hindi maganda at hindi kanais-nais na mga bias ng AI.

Nagtataas ito ng maraming matitinik na tanong tungkol sa sensibilidad ng pagpupursige ng ganoong taktika pagdating sa pagtuklas ng mga bias ng AI. Habang tatalakayin ko sandali, mangyaring malaman na ang pagdating ng AI ay nagdala rin ng paglitaw ng mga bias ng AI. Isang torrent ng AI biases. Para sa aking patuloy at malawak na saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Paano natin matutuklasan na ang isang partikular na sistema ng AI ay may mga bias?

Maaari mong ipagkatiwala ang mga developer ng AI na gumawa ng AI na gawin ito. Ang bagay ay, maaaring sila ay nabaon sa mga bias na sila mismo ay hindi makilala ang mga bias sa loob ng kanilang binuong AI. Mukhang maganda ang lahat sa kanila. O baka sobrang nasasabik sila tungkol sa AI at may pagmamalaki sa sarili tungkol dito kaya't ang pag-isipang mabuti upang suriin ito para sa mga pagkiling ay magiging mahirap at talagang nakakababa. Maraming iba pang mga kadahilanang iyon ang maaaring mukhang humihina sa pagkakaroon ng mga developer ng AI sa gawaing ito, kabilang ang kakulangan ng mga kasanayan upang malaman ang mga naka-embed na bias, kakulangan ng oras sa isang proyekto upang gawin ito, atbp.

Okay, kaya sige at umarkila ng mga consultant sa labas para gawin ang maruming trabaho para sa iyo, kumbaga. Lumalabas na ang mga consultant ay masayang susuriin ang iyong AI para sa mga bias, na naniningil sa iyo ng isang magandang sentimos upang gawin ito (maraming mga pennies). Napagtanto na kailangan mong magbayad para sa kanila upang mapabilis ang iyong AI system. Pagkatapos ay kailangan mo silang halungkatin, na maaaring tumagal ng hindi mabilang na bilang ng mga magastos na matrabahong oras. Ang paggamit ng mga consultant ay isang opsyon kung mayroon kang badyet para dito.

Sa potensyal na "puwang" kung paano mahahanap ang mapanlinlang na mga bias ng AI ay dumating ang mga kabayanihan at magagarang AI biases na mga bounty hunters.

Hindi mo karaniwang binabayaran sila nang maaga. Sinusubukan nilang hanapin ang mga bias ng AI sa kanilang sariling oras at kailangang bayaran ang kanilang sariling mga bayarin habang ginagawa nila ito. Tanging kung matagumpay silang makahanap ng mga bias ay mababayaran sila. Sa palagay ko ay madali mong igiit na sa angkop na paraan ng pag-iisip, iyon ang karaniwang kahulugan ng isang bounty hunter. Mababayaran kung magtagumpay ka. Huwag magbayad kung hindi ka matagumpay. Panahon, pagtatapos ng kwento.

Ang mga programa ng Bounty ay umiral mula pa noong panahon ng mga Romano at sa gayon ay maaari nating isipin na gumagana ang mga ito, na matagumpay na nagtiis bilang isang kasanayan sa lahat ng mga taon na ito.

Narito ang isang kamangha-manghang piraso ng makasaysayang trivia para sa iyo. Iniulat, isang naka-post na mensahe sa panahon ng Imperyo ng Roma sa lungsod ng Pompeii ay nagpahayag na ang mga mangangaso ng bounty ay kailangan upang makahanap ng isang tansong palayok na nawala mula sa isang maliit na tindahan. Ang gantimpala para sa pagbawi ng tansong palayok ay isang kahanga-hangang premyo na animnapu't limang tansong barya. Ikinalulungkot naming sabihin na hindi namin alam kung nahanap ng sinumang bounty hunter ang copper pot at inangkin ang bronze coins, ngunit alam namin na ang bounty hunting ay tiyak na nagpatuloy mula noong sinaunang panahon.

Sa mas modernong panahon, maaaring alam mo na noong 1980s mayroong ilang kapansin-pansing mga bounty na inaalok upang makahanap ng mga bug sa computer o mga error sa mga off-the-shelf na software package at pagkatapos noong 1990's Netscape ay kapansin-pansing nag-alok ng bounty para sa paghahanap ng mga bug sa kanilang web browser (pagiging isa sa mga pinakakilalang kumpanya sa araw na iyon upang gawin ito). Ang Google at Facebook ay bawat isa ay nag-opt patungo sa bounty hunting para sa mga bug simula noong 2010 at 2013 taon, ayon sa pagkakabanggit. Pagkalipas ng ilang taon, noong 2016 maging ang US Department of Defense (DoD) ay kumilos sa pamamagitan ng pagkakaroon ng bounty effort na "Hack the Pentagon" (tandaan na ang bounty na nakatuon sa publiko ay para sa mga bug na matatagpuan sa iba't ibang website na nauugnay sa DoD at hindi sa defense mission-critical systems).

Maghukay tayo ng mas malalim sa paksa ng bug bounty. Napagtanto ko na pangunahing layunin kong pag-usapan ang tungkol sa mga bias ng AI sa bounty hunting sa talakayang ito, ngunit may ilang medyo nauugnay na pagkakatulad sa bug bounty arena.

Ang ilan ay halatang naguguluhan na ang anumang kumpanya ay gustong mag-alok ng bounty upang makahanap ng mga bug (o, sa kasong ito, mga bias ng AI) sa kanilang mga system.

Sa panlabas, ito ay tila isang uri ng diskarte na "hinihiling mo ito". Kung ipaalam mo sa mundo na tinatanggap mo ang mga maaaring sumubok na maghanap ng mga butas sa iyong software, tila katumbas ng pagsasabi sa mga magnanakaw na magpatuloy at subukang pasukin ang iyong bahay. Kahit na naniniwala ka na na mayroon kang isang magandang sistema ng alarma sa pagnanakaw at na walang sinuman ang dapat na makapasok sa iyong ligtas na tahanan, isipin na magtanong at talagang nagsusumamo sa mga magnanakaw na lahat ay pumunta sa iyong tirahan at tingnan kung maaari nilang pumutok dito. Oh, ang mga problema na hinahabi namin para sa aming sarili.

Ang parehong ay maaaring sabihin tungkol sa paghingi ng bounty hunters upang makahanap ng mga bias sa iyong AI.

Una, maaaring ipinahihiwatig nito na naniniwala ka na o kahit na alam mong may mga bias ang iyong AI. Iyon ay isang kagulat-gulat na tahasang ipinahiwatig na pag-amin na kakaunti ang mukhang handang gawin at posibleng maging backfire.

Pangalawa, hindi mo alam kung ano ang maaaring gawin ng mga bounty hunters na iyon. Maaari nilang piliin na sabihin sa buong mundo na nakakita sila ng mga bias sa iyong AI. Ipinapalagay ng isa na ito ay maaaring mawala ang pagkuha ng bounty, kahit na ang ilan ay maaaring masiyahan sa atensyon o naglalayong palakasin ang kanilang katayuan para sa pagkuha ng mga consulting gig at iba pang mga posibilidad na kumita. Maaaring ito ay ganap na altruistic. Maaaring ito ay isang anyo ng AI activism. Kaya kong magpatuloy.

Pangatlo, maaaring magkaroon ng palihim na twist sa buong pangyayari. Ang isang bounty hunter na nag-aangking naghahanap ng mga bias ng AI ay maaring naghahangad na maghanap ng mga paraan para atakihin ang iyong AI system. Ang buong bagay ay isang charade upang sa huli ay magsagawa ng matinding cyberattack. Maaaring ipagpalagay mo na sinusubukan nilang tumulong, habang nasa puso nila ang maling gawain. Malungkot, ngunit posible.

Ikaapat, maaari tayong maging mas tuso sa bagay na ito. Ang isang bounty hunter ay nakahanap ng ilang nakakahiya at potensyal na demanda-spurring AI biases. Ang bounty ay ilang halaga ng dolyar na tatawagin nating X. Sa halip na i-claim ang bounty, ang bounty hunter ay gumagawa ng isang uri ng kakaibang ransomware provocation. Kung babayaran mo ang bounty hunter ng halagang sampung beses X o marahil ang limitasyon ng langit, sasabihin nila sa iyo ang tungkol sa mga bias ng AI. Mayroon kang hanggang Linggo ng gabi sa hatinggabi para sumagot. Pagkatapos ng oras na iyon, ang mga bias ng AI ay ihahayag para makita ng lahat. Hays, isang napakasamang suliranin na mararanasan.

Ikalima, ang pinakahuli ay ang mga tinatawag na "hack to return" na mga cybercrook na matapos magnakaw ng isang grupo ng online dough, nagpasya silang magsisi at ibalik ang ilan sa mga ill-gotten na nadambong na kanilang inagaw. Ang kumpanyang kumukuha ng mga pera nito na bahagyang ibinalik ay handang isaalang-alang ang natitirang ninakaw na halaga bilang isang after-the-fact na bounty na iginawad sa mga magnanakaw. Tila ang lahat ay "nanalo" dahil ang karamihan sa mga pondo ay ibinalik at samantala ang mga cybercrook ay hindi legal na hinahabol, kasama pa nila ang pirate bounty upang mag-boot. Ito ba ay maingat o mapanlinlang na nagpapatuloy sa mga maling gawain?

Napagtanto ko na ang ilan sa inyo ay maaaring nagsasabi na walang sinuman ang dapat maglabas ng AI na mayroong anumang mga bias dito. Tila malulutas nito ang buong dilemma tungkol sa kung gagamit ng AI biases bounty hunters o hindi. Huwag lang ilagay ang iyong sarili sa isang bounty na sitwasyon. Tiyaking ginagawa ng iyong mga developer ng AI ang tamang bagay at huwag payagan ang mga bias ng AI sa kanilang mga AI system. Marahil ay gumamit ng mga consultant para mag-double-check. Sa esensya, gawin ang anumang kailangan mong gawin upang maiwasan ang pag-iisip o paghiling sa mga AI bias bounty hunters na pumunta sa mesa.

Oo, iyon ay tila ganap na makatwiran. Ang problema ay medyo panaginip din ito. Ang pagiging kumplikado ng maraming mga AI system ay napakahusay na ang pagsisikap na matiyak na walang isang onsa ng AI biases na lilitaw ay magiging mahirap gawin. Higit pa rito, ang ilang mga AI system ay sadyang ginawa upang ayusin at "matuto" habang nagpapatuloy ang mga ito. Nangangahulugan ito na sa darating na panahon ang AI na iyong ginawa, na kung saan ay magkunwaring sa una ay malinis at walang pagkiling, ay maaaring mahilig sa pagkakaroon ng mga pagkiling (hindi ko ibig sabihin na sa isang antropomorpikong paraan, dahil ipapaliwanag ko pa habang tayo sumama sa paksang ito).

Ang mga pumapabor sa bounty hunting para sa mga software bug ay malamang na magtaltalan na makatuwirang mag-alok ng mga naturang bounty. Maaari nating isaalang-alang ang kanilang katwiran at tingnan kung naaangkop din ito sa larangan ng AI biases.

Ang mga tagapagtaguyod ng mga bug bounties ay binibigyang-diin na sa halip na subukang magpanggap na walang anumang mga butas sa iyong system, bakit hindi hikayatin ang mga butas na matagpuan, na ginagawa ito sa "kontroladong" paraan? Sa kabaligtaran, kung walang ganoong pagsisikap, maaari ka lamang umasa at manalangin na kung nagkataon ay walang makakahanap ng butas, ngunit kung sa halip ay nag-aalok ka ng isang bounty at sasabihin sa mga nakahanap ng isang butas na sila ay gagantimpalaan, nag-aalok ito ng isang pagkakataon na pagkatapos ay baybayin ang butas sa iyong sarili at pagkatapos ay pinipigilan ang iba na lihim na mahanap ito sa ibang pagkakataon.

Ang parehong ay maaaring sabihin sa kaso ng paggamit ng mga bias ng AI. Kung nag-aalok ka ng sapat na bounty, sana, ang mga bounty hunters ay magdadala ng pagtuklas ng mga bias ng AI sa iyong pansin. Maaari mong makayanan ang mga bias ng AI sa medyo tahimik at nasusukat na paraan. Maaaring maiwasan nito ang isang mas malaki at mas nakakatakot na problema sa hinaharap, ibig sabihin, may ibang taong nakahanap ng AI bias sa iyong AI at sumisigaw tungkol dito sa matataas na langit.

Sa pangkalahatan, ang isang firm na nagnanais na paganahin ang pagsisikap sa paghahanap ng mga bug bounty ay maglalagay ng isang Vulnerability Disclosure Policy (VDP). Isinasaad ng VDP kung paano mahahanap ang mga bug at iuulat sa kompanya, kasama ang kung paano ibibigay ang reward o bounty sa mangangaso. Karaniwan, ang VDP ay mangangailangan na ang mangangaso ay pumirma sa isang Non-Disclosure Agreement (NDA) upang hindi nila ibunyag sa iba ang kanilang nahanap.

Ang paniwala ng paggamit ng isang NDA sa mga bounty hunters ay may ilang kontrobersya. Bagama't marahil ay makatuwiran sa kumpanyang nag-aalok ng bounty na nais na panatilihing walang imik ang mga nahanap na exposure, sinasabi rin nitong pinipigilan ang pangkalahatang kamalayan tungkol sa mga naturang bug. Malamang, kung ang mga software bug ay pinahihintulutang pag-usapan, ito ay potensyal na makakatulong sa kaligtasan ng iba pang mga system sa iba pang mga kumpanya na pagkatapos ay suportahan ang kanilang mga exposure. Ang ilang mga bounty hunters ay hindi pipirma ng isang NDA, bahagyang dahil sa pagnanais ng publiko at bahagyang dahil sa pagsisikap na panatilihing nakatago ang kanilang sariling pagkakakilanlan. Tandaan din na ang aspeto ng NDA ay hindi karaniwang lilitaw hanggang matapos i-claim ng mangangaso na nakakita sila ng isang bug, sa halip na kailanganin ito nang maaga.

Ang ilang mga VDP ay nagsasaad na ang NDA ay para lamang sa isang limitadong yugto ng panahon, na nagpapahintulot sa kompanya na unang makahanap ng solusyon sa maliwanag na butas at pagkatapos ay payagan ang mas malawak na pagsisiwalat tungkol dito. Kapag nasaksak na ang butas, pinahihintulutan ng kompanya ang pagluwag ng NDA upang malaman ng ibang bahagi ng mundo ang tungkol sa bug. Ang karaniwang time-to-resolution para sa mga bounty hunted bug ay iniulat na humigit-kumulang 15-20 araw kapag gusto ng isang kumpanya na i-plug ito kaagad, habang sa ibang mga kaso, maaari itong umabot sa 60-80 araw. Sa mga tuntunin ng pagbabayad sa bounty hunter, ang tinatawag na time-to-pay, pagkatapos ma-verify ang butas bilang aktwal na umiiral, ang mga pagbabayad ng bounty ay malamang na nasa loob ng humigit-kumulang 15-20 araw para sa mas maliliit na pagkakataon at humigit-kumulang 50-60 araw para sa mas malalaking pagkakataon (ito ay patuloy na nagbabago ng mga indikasyon ng industriya at binanggit lamang bilang paglalarawan).

Dapat bang hilingin sa AI biases bounty hunters na lumahok sa isang VDP at makitungo sa isang NDA?

Maaari kang makakuha ng oo at hindi sa tanong na iyon. Oo, ang ilang mga kumpanya ay dapat pumunta sa rutang iyon. Hindi, maaaring hindi mo kailangang mag-opt na pumunta sa rutang iyon. Kabilang sa mga salik ang laki at likas na katangian ng AI, ang potensyal ng anumang pagkakalantad ng mga bias ng AI na kasangkot, at isang grupo ng iba pang mga pagsasaalang-alang sa etika, legal, at negosyo na nauukol.

Maaari kong idagdag na ang pagtatatag ng isang bounty hunting endeavor para sa AI biases ng iyong AI ay isang mas mataas na pagkakasunud-sunod kaysa sa maaari mong ipagpalagay sa unang tingin.

Magsisimula tayo sa napakalaking posibilidad na matabunan ka ng AI biases bounty hunters.

Sa ngayon, mahihirapan kang makahanap ng marami na magkakaroon ng ganoong calling card. Walang marami sa paligid. Ito ay ang mga araw ng Wild West sa bagay na iyon. Ngunit kung ang paniwala ng AI ay kumikiling sa bounty hunting, lalo na kapag ang mga bounty ay marami at napakagandang reward, maaari mong taya na ang lahat ay sumisid sa biases hunting swimming pool.

Gusto mo ba ng lahat ng uri ng riffraff na humahabol sa mga bias ng AI sa iyong AI system? Makakakuha ka ng ilang mga kumukuha na talagang eksperto sa ganitong uri ng bagay. Makakakuha ka ng iba pang mga kumukuha na mga baguhan at maaaring gumawa ng gulo o umiyak na lobo. Ang susunod na bagay na malalaman mo, kahit sinong makakapag-spell ng "Artificial Intelligence" ay darating para maghukay sa iyong goldmine ng isang AI system para sa mga mahalagang AI biases na gold nuggets. Ang gold rush ay nasa. Maaaring hindi iyon mabuti para sa iyo.

Kakailanganin mong suriing mabuti ang mga pagsusumite ng bounty hunter. Magkakaroon ng maraming "ingay" sa mga iniulat na claim, sa kahulugan na marami sa mga inaangkin na mga bias ng AI ay hindi umiiral, kahit na iginiit ng bounty hunter na natagpuan nila ang ilan. Isipin kung gaano karaming trabaho ang kakailanganin ng iyong sariling mga AI team upang suriin ang mga claim ng bounty, tuklasin ang bisa ng bawat isa, at pagkatapos ay potensyal na bumalik-balik kasama ang bounty hunter tungkol sa kung natuklasan ang ginto o hindi.

Ang ilan ay magtaltalan na iyon ay isa pang dahilan upang gawin ang buong bagay sa iyong sarili. Maaaring hindi mo maiiwasang matuklasan na ang bounty na bagay ay higit na problema kaysa sa halaga nito.

Narito ang isa pang tanong na pag-isipan. Paano malalaman ng mga bounty hunters kung ano ang hitsura ng AI bias? Sa esensya, nang walang anumang pagkakahawig ng kung ano ang hahanapin, anumang makintab na bato ay maaaring i-claim bilang nagpapakita ng AI bias sa pinaghihinalaang AI goldmine na hinuhukay.

Sa mga araw ng Old West, ipagpalagay na nag-alok ka ng gantimpala para sa paghuli kay Billy the Kid (isang sikat na outlaw). Kung ginawa mo ito at hindi nagsama ng larawan kung ano ang hitsura ni Billy, isipin ang bilang ng mga bounty hunters na maaaring mag-drag sa opisina ng sheriff ng isang tao na inaasahan o inakala nilang si Billy the Kid. Baka mabahaan ka ng pekeng Billy. Masama ito dahil kailangan mo sigurong tingnan ang bawat isa, magtanong ng mga nagtatanong na tanong, at subukang alamin kung ang tao ay talagang Billy o hindi.

Ang punto ay na upang i-set up ang AI biases bounty effort, matalino kang subukan at linawin kung ano ang itinuturing mong AI biases na binubuo. Nangangailangan ito ng uri ng pagkakalibrate ng Goldilocks. Hindi mo nais na maging masyadong makulong na ang mga bounty hunters ay hindi napapansin ang mga bias ng AI dahil lamang sa hindi sila akma sa iyong itinakda na kahulugan, at hindi mo nais na sumigaw sila ng "Eureka!" sa bawat subo ng isang bias ng AI na malamang na mahahanap nila.

Kakailanganin mo ang tamang balanse ng Goldilocks kung ano ang binubuo ng mga bias ng AI at sa gayon ay nagbibigay ng mas mainam na tahasang mga direksyon nito.

Marami sa AI biases bounty hunting na ito ay itutuon sa AI-based Machine Learning (ML) at Deep Learning (DL) system. Makatuwiran ito dahil lumalaki ang paglaganap ng ML/DL, at tila mayroon itong ilan sa mga pinakamalamang na hamon ng pagsama sa hindi nararapat na mga bias ng AI.

Tinutukoy ng mga mananaliksik na ito kung gaano kapansin-pansin ang isang AI biases bounty hunting effort, partikular sa konteksto ng ML/DL: “Sa paglipas ng panahon, ang software at mga komunidad ng seguridad ay nakabuo ng 'bug bounties' sa pagtatangkang gawing katulad ang dynamics sa pagitan ng mga developer ng system at kanilang mga kritiko (o mga hacker) patungo sa mas interactive at produktibong mga layunin. Ang pag-asa ay na sa pamamagitan ng sadyang pag-imbita sa mga panlabas na partido upang maghanap ng mga software o hardware na bug sa kanilang mga system, at madalas na nagbibigay ng mga insentibo sa pera para sa paggawa nito, isang mas malusog at mas mabilis na tumutugon na ecosystem ay bubuo. Natural na para sa komunidad ng ML na isaalang-alang ang isang katulad na 'bias bounty' na diskarte sa napapanahong pagtuklas at pagkukumpuni ng mga modelo at system na may bias o iba pang hindi kanais-nais na pag-uugali. Sa halip na maghanap ng mga bug sa software, iniimbitahan ang mga panlabas na partido na maghanap ng mga bias — halimbawa, (demograpiko o iba pa) mga subgroup ng mga input kung saan hindi maganda ang performance ng sinanay na modelo — at ginagantimpalaan sa paggawa nito” (sa papel na “An Algorithmic Framework for Bias Bounties” ni Ira Globus-Harris, Michael Kearns at Aaron Roth).

Sa papel ng pananaliksik, binabalangkas ng mga may-akda ang isang iminungkahing diskarte sa kung anong mga uri ng mga bias ng AI ang maaaring hanapin ng mga bounty hunters. Mayroon ding indikasyon tungkol sa kung paano i-assess ang mga claim ng bounty hunter na nauugnay sa mga di-umano'y AI bias na natuklasan. Alinsunod sa aking mga naunang pangungusap dito, ang mga posibilidad ay na makakatanggap ka ng mga hindi kapani-paniwalang paghahabol at kailangan mong paghiwalayin ang AI biases trigo mula sa ipa.

Bago pumasok sa ilang higit pang karne at patatas tungkol sa ligaw at malabong pagsasaalang-alang na pinagbabatayan ng AI bias hunting, magtatag tayo ng ilang karagdagang batayan sa mga malalim na mahalagang paksa. Kailangan nating magsagawa ng maikling pagsisid sa AI Ethics at lalo na sa pagdating ng Machine Learning (ML) at Deep Learning (DL).

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, tutuklasin natin kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao (para sa aking paggalugad ng super-intelligent na AI bilang isang posibilidad, tingnan ang ang coverage dito).

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Balik tayo ngayon sa paksa ng AI bias hunting.

Para sa inyo na isinasaalang-alang ang isang AI bias bounty hunting endeavor, narito ang aking inirerekomendang pitong pangunahing hakbang sa kung paano pinakamahusay na magpatuloy:

1) Pagtatasa. Tayahin ang pagiging angkop ng isang AI bias bounty hunting na pagsisikap para sa iyong mga kalagayan at ayon sa iyong mga AI system

2) Disenyo. Magdisenyo ng naaangkop na AI bias bounty hunting approach

3) Isakatuparan. Ipatupad at isapubliko ang iyong mga pagsusumikap sa pangangaso ng bounty ng AI

4) Patlang. I-field ang AI biases bounty claims at iproseso nang naaayon

5) Ayusin. Ayusin o isaayos ang iyong AI bilang nauugnay sa mga natuklasang AI bias exposure na ito

6) Isaayos. Ayusin ang AI biases bounty hunting kung kinakailangan

7) Tumigil. Ihinto ang AI bias bounty hunting kapag hindi na ito kailangan

Sa aking serye ng mga hakbang sa itaas, tandaan na binanggit ko na malamang na gusto mong ayusin o ayusin ang iyong AI bilang batay sa pagtiyak na ang isang inaangkin na bias ng AI ay talagang umiiral sa loob ng iyong AI system. Ito abundantly akma. Halos tiyak na nais mong itaguyod ang anumang nahanap na mga bias ng AI. Isipin ang legal (at etikal) na mga epekto kung hindi mo ito gagawin. Ito ay isang bagay na igiit na hindi mo alam na may AI bias at samakatuwid ay pinahintulutan itong umiral, habang ito ay mas nanginginig na magkaroon ng rekord na nalaman mo ang isang AI bias at wala kang ginawa tungkol dito.

Ang kalikasan at antas ng pag-aayos o pagsasaayos ng AI ay siyempre nakasalalay sa kung gaano kahalaga ang mga bias ng AI at kung gaano kalalim ang pagkaka-embed ng mga isyu. Kung ikaw ay mapalad, marahil ang katamtamang halaga ng mga pagbabago sa AI ay magwawasto sa mga bagay. Ang iba pang potensyal ay maaaring kailanganin mong gumawa ng buong muling pagsulat ng AI. Para sa uri ng ML/DL ng AI, maaaring kailanganin nitong bumalik sa drawing board at magsimula nang bago sa isang ganap na bagong hanay ng data at isang nalinis na modelo ng ML/DL. Tinalakay ko ang pagdating ng AI disgorgement o AI destruction bilang isang potensyal na legal na remedyo laban sa hindi magandang AI, tingnan ang link dito.

Ang isang tanong na pag-isipan ay kung gugustuhin mo ba na ang mga bounty hunters ay makagawa ng higit pa sa pagtukoy lamang sa pagkakaroon ng mga bias ng AI. Halimbawa, maaari mong patamisin ang bounty sa pamamagitan ng pagsasabi na ang mga iminungkahing pag-aayos ay tinatanggap din. Isang bias ng AI natagpuan ng isang bounty hunter ay maaaring mabayaran ng isang ipinahiwatig na gantimpala o premyo. Kung ang bounty hunter ay maaari ding mag-alok ng isang mabubuhay ayusin sa AI bias maaari silang bigyan ng karagdagang reward.

Ang ilan ay nangangatuwiran na ito ay isang tulay na napakalayo. Sinasabi nila na dapat mong panatilihing eksklusibong nakatuon ang mga AI bias bounty hunters sa paghahanap ng mga bias ng AI. Gagawa ka ng isang grupo ng mga hindi kanais-nais na masamang kahihinatnan sa pamamagitan ng pag-imbita sa kanila na magmungkahi din ng mga pag-aayos. Panatilihing simple ang mga bagay. Ang layunin ay makakuha ng mas maraming karagdagang mga mata sa pagtuklas ng mga bias ng AI upang makapagpasya ka kung ano ang susunod na gagawin. Huwag putik ang tubig.

Ang isang matinik na aspeto na kailangang alamin ay nangangailangan ng laki ng gantimpala o premyo para sa mga bounty hunters na tunay na nakatuklas ng mga bias ng AI. Gusto mong maging demonstrative ang kabayaran. Kung walang sapat na mataas na reward, hindi ka makakakuha ng maraming bounty hunters o hindi sila magiging mas sabik na hanapin ang mga bias ng AI sa iyong mga AI system. Sa halip, maaari silang mag-concentrate sa iba pang mga pagpupunyagi ng AI bias bounty.

Higit pa rito, tulad ng nabanggit, gusto mong subukan at pigilan ang pagnanasa ng mga bounty hunters na gawing iba pang mga anyo ng ginto ang kanilang mga natuklasang AI bias. Kung ang gantimpala ay tila maliit, maaari itong magalit sa mga mangangaso ng bounty sa paghahanap ng iba pang mas mataas na kabayaran. Maaari silang kumuha ng ransomware na diskarte patungo sa iyo. Maaari nilang ipahayag na mayroon silang makatas na bias ng AI na gustong malaman ng isang kakumpitensya at maaaring gamitin laban sa iyong kumpanya sa pamamagitan ng pagsasabi na ang AI bias ay umiiral sa iyong AI. Kaya, ibinebenta nila ang natuklasang AI bias sa pinakamataas na bidder. At iba pa.

Ipinapalagay ng isa na kung itatakda mo ang gantimpala sa napakataas na saklaw, humihingi ka rin ng potensyal na problema. Ito ay maaaring makaakit ng lahat ng uri ng nutty bounty hunters. Sila naman ay maaaring mag-delubyo sa social media ng malabo na mga pag-aangkin na nakakita sila ng maraming AI bias, na ginagawa ito para sa kanilang sariling pag-promote at nang hindi aktwal na sumibat sa anumang mga bias ng AI. Sa isang kahulugan, ang iyong tumaas na gantimpala ay hindi sinasadyang nagliliwanag sa iyong AI at nag-uudyok ng isang napakaraming masasamang gamu-gamo upang magkatulad na maakit sa kumikinang na sinag.

Kasama sa isa pang pagsasaalang-alang ang pagiging naa-access sa iyong AI.

Upang paganahin ang posibilidad ng AI bounty hunting, ang mga bounty hunters ay kailangang magkaroon ng sapat na access sa iyong AI. Hindi sila magkakaroon ng maraming swerte sa paghahanap ng mga bias ng AI kung sila ay ganap na naka-lock out. Ngunit hindi mo nais na isuko ang iyong mga proteksyon sa cybersecurity dahil ang paggawa nito ay maaaring ganap na makompromiso ang iyong AI system.

Maaari mong subukang papirmahin ang mga bounty hunters ng iba't ibang legal na may bisang deklarasyon at pagkatapos ay bigyan sila ng kinakailangang access. Ang ilang mga bounty hunters ay hindi magugustuhan ang ganitong uri ng diskarte. Ang kanilang pananaw ay gagawin lamang nila ang anumang pinapayagan ng anumang pampublikong magagamit at bukas na landas. Ang mga ito ay mga libreng mavericks, kumbaga, at hindi gusto ang pagiging saddled, kumbaga. Ang pagkuha sa kanila na maglagay ng kanilang lagda sa pananakot na mga legal na dokumento ay magiging sanhi ng marami sa kanila na maiwasan ang paghahanap ng mga bias ng AI sa iyong AI. O baka magalit sila sa iyong legal na pagsubok at magpasya na makikita nila kung ano ang mahahanap nila sa pamamagitan ng pampublikong paraan, na ginagawa ito nang may marahil mahigpit na pagnanasa na ipakita sa iyo kung gaano ka talaga ka mahina.

May isa pa akong anggulo na maaaring magpaikot ng ulo mo.

Maaaring magpasya ang isang AI savvy bounty hunter na gumawa ng AI system na maaaring suriin ang iyong AI at posibleng makatuklas ng mga bias ng AI sa iyong AI. Ito ang toolmaker na pinipiling gumawa ng tool para gawin ang trabaho sa halip na magsagawa ng manual labor mismo. Sa halip na masipag suriin ang iyong AI, ang bihasa sa AI na bounty hunter ay gumugugol ng kanilang oras sa pagbuo ng isang AI tool na gumagawa ng parehong bagay. Pagkatapos ay ginagamit nila ang AI tool sa iyong AI. Ang kagandahan din ay maaari nilang muling gamitin ang AI tool sa sinumang nag-aalok din ng pagkakataon sa pangangaso ng bounty sa kani-kanilang AI.

Alam ko kung ano ang malamang na iniisip mo. Kung ang isang tool ng AI ay maaaring gawin upang suriin ang AI para sa mga bias, ang gumagawa ng AI na sinusuri para sa mga bias ng AI ay dapat na gumawa ng tulad ng isang AI tool o bumili ng isa para sa kanilang sariling paggamit. Sa teorya, hindi nila kailangang makipaglaban sa buong bounty hunter carnival, upang magsimula. Gamitin lang ang AI para mahanap ang mga bias nila sa AI.

Oo, ito ay isang bagay na maaari mong asahan na unti-unting lalabas. Samantala, ang mainstay ng mga pagsisikap na ito ay malamang na binubuo ng mga AI developer na gumagawa ng bounty hunting. Maaari silang gumamit ng iba't ibang mga tool upang tulungan ang kanilang mga pagsisikap, ngunit sa malapit na panahon, malamang na hindi nila basta-basta na itakda ang AI tool sa awtomatiko at umidlip upang ang tool ay gawin ang kabuuan ng AI bias pangangaso para sa kanila.

Wala pa kami.

Sa puntong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang mga halimbawang nakapagpapakita na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa paggamit ng AI bias bounty hunting, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang mga awtomatikong add-on na tinutukoy bilang ADAADA
S (Mga Advanced na Driver-Assistance System).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At AI Bias Bounty Hunting

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Sa aking mga column, tinalakay ko nang mahaba ang paggamit ng mga bugs-oriented bounty hunters sa autonomous vehicles at self-driving cars realm. Ang diskarte na ito ay talagang naganap sa angkop na lugar na ito. Mayroong mga karaniwang debate tungkol sa kung ito ay isang mahusay na ideya o hindi. Ang mga pagsisikap ay kadalasang may limitadong kalikasan, kadalasang pinananatiling medyo tahimik.

Ang isang katulad na diskurso ay maaaring maganap kapag ang focus ay lumipat patungo sa pangangaso para sa mga bias ng AI kaysa sa paghahanap ng mga bug ng system per se. Ang ilan ay nagmumungkahi na ito ay isang darned kung gagawin mo, darned kung hindi mo palaisipan.

Narito kung bakit.

Una, para maging malinaw, maraming paraan kung saan ang mga autonomous na sasakyan at self-driving na sasakyan ay sasailalim sa pagkakaroon ng AI biases, tingnan ang aking saklaw sa ang link dito at ang link dito, upang pangalanan lamang ang ilan. Ang mga automaker at self-driving na kumpanya ng kotse ay mukhang matalino na subukan at pigilan ang mga AI bias na iyon na lumitaw sa kanilang mga AI system. Ang legal at etikal na firestorm laban sa mga naturang kumpanya ay walang alinlangan na magiging matindi.

Ang paggamit ba ng AI biases bounty hunting ay isang angkop na diskarte sa partikular na kontekstong ito?

Ang isang sagot ay oo, ito ay magiging kapaki-pakinabang at magbibigay ng maraming "libre" na hanay ng mga bagong mata upang subukan at mahuli ang anumang naka-embed na AI bias ng isang AI self-driving na kotse o katulad nito. Karamihan sa mga developer ng AI na gumagawa ng mga self-driving na sasakyan ay abala sa paggawa ng AI na maaaring ligtas na magmaneho ng kotse mula sa point A hanggang point B. Abala sila sa pangunahing kakayahan na iyon at wala silang oras o atensyon sa anumang mga bias ng AI na maaaring nasa isang lugar sa kanilang AI.

Ang isa pang sagot ay hindi, na nagpapahintulot sa bounty hunting para sa mga autonomous na sasakyan at self-driving na mga kotse sa anumang batayan, kung para sa mga bug o AI biases, ay dapat na iwasan nang husto. Ang argumento ay ang mga sasakyang ito at ang kanilang AI ay may life-or-death caliber. Ang pakikialam sa AI sa anumang paraan ay maaaring makasira sa AI at makakaapekto sa ginagawa ng AI driving system.

Ang isang kontraargumento sa huling puntong iyon ay ang mga mangangaso ng bounty ay hindi dapat baguhin ang AI na kanilang sinusuri. Kaya, walang panganib na makipagtalo sila sa AI at maging sanhi ng AI sa kontekstong ito na biglang maging isang baliw na sistema ng pagmamaneho ng AI. Ang mga bounty hunters ay nagkakaroon lamang ng read-only na access. Ang pagpapahintulot sa kanila na pumunta pa ay magiging katangahan at isang malaking pagkakamali.

Ang counterargument sa counterargument na iyon ay sa pamamagitan ng pagpayag at paghikayat sa mga bounty hunters na suriin ang iyong AI, ang buong bagay ay nagiging dicey. Ang mga bounty hunters na iyon ay maaaring makaisip ng mga paraan para samantalahin ang anumang nahanap na mga bug o bias. Ang mga pagsasamantalang iyon naman ay maaaring para sa mapanlinlang na layunin. Mas mainam na huwag kang mag-imbita ng "mga magnanakaw" sa iyong tahanan, wika nga. Kapag nailabas na nila ang kasukasuan, sa huli ay malalagay ka sa isang tambak ng problema.

Para sa mga may AI system na hindi gaanong magnitude sa buhay-o-kamatayan, ang paniniwala ay ang mga epekto ng isang bounty hunting foray na napupunta ay hindi gaanong mapanganib. Siguro nga. Sa kabilang banda, kung ibinuhos ng isang kumpanya ang kanilang mga pera sa isang AI system na pinamamahalaan ng mga bounty hunters na kunin, maaari mong ipagpalagay na ang pinsala sa reputasyon at iba pang potensyal na pinsala ay masasaktan pa rin.

Walang libreng tanghalian pagdating sa AI bias bounty hunting.

Isang mabilis na pagsasara ng pangungusap sa ngayon.

Nang hinanap ang kilalang-kilalang outlaw na si Jesse James sa Old West, isang poster na "Wanted" ang inilimbag na nag-aalok ng bounty na $5,000 para sa kanyang paghuli (nagsasaad ng "patay o buhay"). Ito ay isang medyo napakalaking halaga ng pera noong panahong iyon. Ang isa sa kanyang sariling mga miyembro ng gang ay nagpasyang barilin si Jesse at kolektahin ang gantimpala. Sa palagay ko ay ipinapakita nito kung gaano kabisa ang isang bounty.

Magiging magandang bagay ba ang paggamit ng AI bias bounty hunters, o magiging masama ba ito?

Kung pipiliin mong magsagawa ng AI bias bounty hunter endeavor, iminumungkahi kong panatilihin mong nakadilat ang iyong mga mata at tumingin sa iyong balikat sa lahat ng oras. Ito ay maingat para sa iyo at sa iyong AI. Hindi mo alam kung ano ang maaaring mangyari, kasama na ang isang conniving bounty hunter kahit papaano ay palihim na naglalagay ng AI bias sa iyong AI at sumisigaw sa mundo na nakakita sila ng walang prinsipyong AI bias sa iyong AI. Marahil ay ginagawa ito sa isang walang pakundangan at napakalaking pagtatangka sa paghahanap ng bounty reward, kasama ang pagproklama sa kanilang sarili bilang isang bayani na mahalagang nakuha ang ipinagmamalaki na si Jesse James.

Kung iisipin, malamang na hindi magugustuhan ng isang nakakaramdam na AI ang ideyang iyon ng isang nakakaligalig na probisyon na patay-o-buhay, ang isa ay maaaring mahinang mag-isip-isip.