Ang AI Ethics ay Malinaw na Nagtatanong ng Human Voice Cloning Gaya Ng Iyong Mga Namayapang Kamag-anak, Inilaan Para Gamitin Sa AI Autonomous Systems

Oops, ang isang tila magandang piraso ng bagong teknolohiya ay nakuha ang sarili at ang gumawa nito sa kaunting mainit na tubig.

Ang tinutukoy ko ay ang paglitaw ng pag-clone ng boses ng tao na nakabatay sa AI bilang ang bagong teknolohiya na nagawang makapasok sa oh-my-gosh headline na balita nitong huli. Sa pagkakataong ito, ang kumpanya ay Amazon at ang patuloy na sumusulong na Alexa.

Maaaring maalala ng mga mambabasa ng aking kolum na dati kong tinakpan ang hindi kanais-nais na boo-boo na nangyari nang iulat na ang isang kabataan ay hinimok ni Alexa na maglagay ng isang sentimo sa isang saksakan ng kuryente (huwag gawin ito!), tingnan ang aking saklaw sa ang link dito. Sa sitwasyong iyon, sa kabutihang palad, walang nasaktan, at ang resulta ay tila ang Alexa AI system ay nakakuha ng isang naunang viral trend at walang anumang pagkakatulad ng common-sense assessment ay inulit lamang ang nakatutuwang mungkahi kapag hiniling ng isang bagay na masaya na gawin ng isang batang nakikipag-ugnayan kay Alexa. Binibigyang-diin nito ang mga alalahanin sa AI Ethics na nababaha na tayo ng AI na ganap na kulang sa anumang pagkakatulad ng common-sense na pangangatwiran, isang kapansin-pansing pagsubok na problemang kinakaharap ng AI na patuloy na lumalaban sa mga pagsisikap na isama sa AI (para sa aking pagsusuri tungkol sa AI-based common sense deriving pagsisikap, tingnan ang link dito).

Kasama sa pinakabagong dustup ang paggawa ng voice cloning, na kilala rin bilang voice replication. Ang pinakabago sa naturang tech at AI ay nagtataas ng pagpindot sa AI Ethics at Ethical AI na pagsasaalang-alang. Para sa aking patuloy na pangkalahatang saklaw ng AI Ethics at Ethical AI, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Ang pag-clone ng boses na nakabatay sa AI ay isang direktang konsepto.

Ang isang AI system ay naka-program para i-record ng audio ang ilan sa iyong mga binigkas na salita. Susubukan ng AI na alamin ang iyong mga pattern ng pagsasalita sa computation. Batay sa mga natukoy na pattern ng pagsasalita, sinusubukan ng AI na magpalabas ng audio na pananalita na katulad mo. Ang nakakalito na bahagi ay ang pananalita ay sumasaklaw sa mga salita na hindi mo pa naibigay bilang mga audio sample sa AI. Sa madaling salita, kailangang matantya ng AI sa matematika kung paano mo maaaring bigkasin ang mga salita. Kabilang dito ang lahat ng katangian ng pananalita tulad ng tono, pagtaas at pagbaba ng boses, bilis o bilis ng pagsasalita, at iba pa.

Kapag narinig mong sinusubukan ng isang tao na magpanggap bilang ibang tao, karaniwan mong malalaman na ang pagsisikap ay isang pagpapanggap. Sa maikling panahon, tulad ng kung ang impersonator ay gumagamit lamang ng ilang salita, maaaring mahirap malaman na ang boses ay hindi ang orihinal na nagsasalita. Higit pa rito, kung ginagaya ng impersonator ang mga salitang aktwal na sinalita ng orihinal na tagapagsalita, malamang na maaari nilang ibagay ang sarili nilang boses sa boses ng kausap nang higit pa para sa partikular na pagbigkas na iyon.

Ang kaiklian at pagdinig sa eksaktong parehong mga salita ay maaaring magbigay-daan sa isang tao na halos magpako ng isang pagpapanggap.

Ang hamon ay nagiging sumasaklaw sa mga salitang hindi nasabi ng ibang tao o kung saan hindi pa narinig ng impersonator na binibigkas ng tao ang mga partikular na salitang iyon. Medyo nasa dilim ka tungkol sa pagsisikap na malaman kung paano sasabihin ng ginayahang tao ang mga salitang iyon. Ang magandang balita ay kung ang sinumang nakikinig sa impersonator ay hindi rin alam kung paano sasabihin ng orihinal na tao ang mga salita, ang impersonator ay maaaring medyo malayo sa tunay na boses at gayunpaman ay mukhang dandy at on-target.

Gusto ko ring saglit na alisin sa equation ang mannerisms at physical movement ng impersonation. Kapag nakakita ka ng isang impersonator, maaari kang ma-sway kung magagawa niyang kulubot ang kanyang mukha o i-flash ang kanyang mga braso sa isang paraan na ginagaya din ang taong ginagaya. Ang mga idinagdag na pahiwatig ng katawan at mukha ay magpapaloko sa iyong isip sa pag-iisip na ang boses ay dead-on din, kahit na maaaring hindi. Igigiit ng voice impersonation purist na ang boses lang ang dapat gamitin bilang criterion sa pagtukoy kung ang boses ay angkop na gayahin ang ginagaya na tao.

Tiyak na nakita mo na ang iba't ibang deepfake na video na nangyayari ngayon sa social media. May matalinong nag-rejigger ng isang video upang lumitaw ang mukha ng ibang tao sa video, na nag-overlay ng mukha ng ibang tao sa orihinal na recording. Ito ay kadalasang sinasamahan din ng paggawa ng deepfake sa boses. Nakakakuha ka ng double whammy, na kinasasangkutan ng video na nakikitang binago sa pamamagitan ng deepfake AI at ang audio na binago sa pamamagitan ng deepfake AI.

Para sa kapakanan ng talakayan dito, nakatuon lang ako sa AI-based na deepfake na audio facet, na gaya ng nabanggit kanina ay karaniwang tinutukoy bilang voice cloning o voice replication. Ang ilang mga bastos na tinutukoy ito bilang isang boses sa isang lata.

Sigurado ako na ang ilan sa inyo ay naghihikayat ngayon na mayroon kaming kakayahang gumamit ng mga programa sa computer para sa pag-clone ng mga boses sa loob ng mahabang panahon. Ito ay walang bago sa bawat isa. Sumasang-ayon ako. Kasabay nito, kailangan nating kilalanin na ang high-tech na kakayahan na ito ay nagiging mas mahusay at mas mahusay. Well, sinasabi ko na mas mabuti at mas mahusay, ngunit marahil tulad ng makikita mo sa isang sandali ay dapat kong sabihin na ito ay nagiging mas nakakabahala at mas nakakabahala.

Manatili sa kaisipang iyon.

Ang teknolohikal na kahusayan ay tiyak na sumusulong para sa paggawa ng voice cloning. Halimbawa, dati ay kailangan mong "magsanay" ng AI audio replication program sa pamamagitan ng pagsasalita ng isang buong kuwento ng mga mix-and-match na salita. Katulad ng sikat o kasumpa-sumpa na linya ng quick brown fox na tumalon sa tamad na aso (isang linyang nilayon para masakop ng isang tao ang lahat ng letra ng alpabeto), may mga espesyal na ginawang maikling kwento na naglalaman ng pinaghalong salita para sa layunin ng pagbibigay sa iyo ng sapat na mga salita at isang malawak na iba't ibang mga salita upang gawing mas madali ang pagtutugma ng AI pattern.

Maaaring kinailangan mong magbasa ng ilang pahina ng mga salita, madalas na kasama ang mga salita na nahihirapan kang bigkasin at hindi ka sigurado kung ano ang ibig sabihin ng mga ito, upang sapat na paganahin ang pagtutugma ng pattern ng AI na mangyari. Maaaring tumagal ito ng maraming minuto o kung minsan ay mga oras ng pakikipag-usap upang mabigyan ang AI ng sapat na audio na magagamit para sa paghahanap ng mga natatanging pattern ng iyong boses. Kung pinalitan mo ang aktibidad ng pagsasanay na ito, malamang na ang resulta ng pagtitiklop ng boses ay madaling mabaril ng sinumang kaibigan mo na nakakakilala sa iyong boses.

Okay, ang interes noon ng mga developer ng AI ay nakatuon sa kung paano i-optimize ang mga aspeto ng pagkopya ng audio. Natutuwa ang mga tagabuo ng AI sa mga hamon. Sinasabing sila ay mga optimizer sa puso. Bigyan sila ng isang problema at sila ay may posibilidad na mag-optimize, hindi alintana kung saan ito maaaring humantong (binabanggit ko ito bilang isang foreshadowing, na magiging mas malinaw sa ilang sandali).

Sagutin mo ako nito:

• Ano ang pinakamaliit na dami ng audio sample na kakailanganin para ma-clone nang husto ang boses ng isang tao at kung saan ang audio sample ay maaaring maging halos anumang random na pinapayagang hanay ng mga salita ngunit nagbibigay-daan pa rin para sa voice cloning na makagawa ng halos anumang salita na maaaring binibigkas kailanman sa pamamagitan ng naka-target na boses at tunog na halos kapareho ng boses ng taong iyon sa isang pakikipag-usap o iba pang mga setting sa konteksto na pinili?

Mayroong maraming doon upang i-unpack.

Tandaan na gusto mo ang minimum na sample ng audio na pinakamaraming magko-clone ng isang boses, upang ang mga resultang AI na mga pagbigkas sa ngayon ay awtomatikong na-replicate na boses ay tila ganap na hindi nakikilala mula sa aktwal na tao. Ito ay mas nakakalito kaysa sa maaari mong isipin.

Ito ay halos katulad ng palabas na iyon kung saan kailangan mong subukan at pangalanan ang isang kanta batay sa pinakamaliit na bilang ng narinig na mga nota. Kung mas kaunti ang mga nota na tumutugtog, mas mahirap hulaan kung aling kanta ito. Kung mali ang iyong hula, mawawalan ka ng mga puntos o matatalo sa laro. Ang isang pakikibaka ay kasunod kung dapat kang gumamit lamang ng isang nota, ang pinakamaliit na posibleng palatandaan, ngunit pagkatapos ay ang iyong posibilidad na mahulaan ang kanta ay malamang na nabawasan. Kung mas maraming nota ang maririnig mo, mas mataas ang posibilidad na mahulaan ang tamang kanta, ngunit pinapayagan mo ang iba pang mga kalahok na magkaroon din ng mas mataas na pagkakataong makapaghula din.

Tandaan na tinatalakay din natin ang paniwala ng mga iniresetang salita kumpara sa anumang salita sa kaso ng voice cloning. Kung sasabihin ng isang tao ang mga salitang "Hindi mo kayang hawakan ang katotohanan" at gusto naming gayahin o gayahin ng AI ang tao, malamang na madaling makuha ng AI ang pattern. Sa kabilang banda, ipagpalagay na mayroon lang tayong mga salitang ito tulad ng sinabi ng taong iyon na "Iyan lang ba ang itatanong mo sa akin" at gusto nating gamitin ang mga salitang iyon para sabihin sa AI na "Hindi mo kayang hawakan ang katotohanan." Sa palagay ko makikita mo ang kahirapan ng pagsasanay sa isang hanay ng mga salita at kinakailangang mag-isip sa isang ganap na magkakaibang hanay ng mga salita.

Ang isa pang mahirap na elemento ay binubuo ng konteksto para sa mga binibigkas na salita. Ipagpalagay na pina-audio record ka namin ng isang pangungusap kapag ikaw ay kalmado at kalmado. Ginawa ng AI ang mga salitang iyon. Maaari rin itong maging pattern sa kalmado ng iyong boses. Isipin na gusto namin ang AI na magpanggap na ikaw iyon kapag sumisigaw ka ng galit at galit na parang trumpeta. Maaaring nakakatakot ang pagkakaroon ng AI sa orihinal na pattern upang maging isang tumpak na galit na bersyon ng iyong boses.

Anong uri ng mga minimum ang tinitingnan natin?

Ang layunin ngayon ay masira ang marka ng minuto.

Kumuha ng na-record na boses kung saan mayroon kang kulang sa isang minutong halaga ng audio at gawin ng AI ang lahat ng kamangha-manghang voice cloning mula sa maliit na sample na iyon nang mag-isa. Gusto kong linawin na halos kahit sino ay maaaring bumuo ng AI na magagawa ito karaniwan sa loob ng wala pang isang minuto, kahit na ang resultang voice clone ay malabo at madaling matukoy bilang hindi kumpleto. Muli, tahasan at mahigpit kong pinagsasama-sama na ang oras ng sampling ay nasa pinakamababa at samantala ang voice cloning ay nasa maximum. Ang isang dolt ay maaaring makamit ang isang minimum na sampling kung sila ay pinapayagan din na maging lubhang submaximal sa voice cloning.

Ito ay isang masaya at kapana-panabik na hamon sa teknolohiya. Maaaring ikaw ay nagtataka bagaman tungkol sa halaga o merito ng paggawa nito. Sa anong layunin natin hinahanap? Anong mga benepisyo para sa sangkatauhan ang maaari nating asahan sa pamamagitan ng pagiging mahusay at epektibong gumawa ng AI-based na voice replication?

Gusto kong pag-isipan mo ang madaming tanong na iyon.

Ang maling sagot ay maaaring makapagdala sa iyo nang hindi sinasadya sa isang tumpok ng putik.

Narito ang isang bagay na mukhang masigasig at lubos na positibo.

Ipagpalagay na maaaring mayroon kaming mga lumang recording ng mga sikat na tao gaya ni Abraham Lincoln at nagamit namin ang mga maalikabok na audio snippet na iyon para sa paggawa ng voice clone na batay sa AI. Naririnig namin noon si Lincoln na nagsasalita ng Gettysburg Address na para bang nandoon kami noong araw na binigkas niya ang apat na puntos at pitong taon na ang nakararaan hindi malilimutang pananalita. Bilang side note, nakalulungkot, wala kaming anumang audio recording ng boses ni Lincoln (hindi pa umiiral ang teknolohiya), ngunit mayroon kaming mga voice recording ni Pangulong Benjamin Harrison (ang una sa mga presidente ng US na nagkaroon ng voice recording na gawa sa ) at iba pang mga pangulo pagkatapos noon.

Naniniwala ako na lahat tayo ay malamang na makatuwirang sasang-ayon na ang partikular na paggamit ng AI-based na voice cloning ay ganap na maayos. Sa katunayan, malamang na gusto natin ito nang higit pa kaysa kung sinubukan ng isang artista ngayon na magpanggap na nagsasalita sila tulad ni Lincoln. Malamang na gagawa ang aktor ng kung ano man ang inaakala nilang tunay na boses ni Lincoln. Ito ay isang katha, marahil ay malayo sa kung ano ang tinig ni Lincoln. Sa halip, sa pamamagitan ng paggamit ng isang mahusay na kwalipikadong AI voice cloning system, magkakaroon ng kaunting argumento tungkol sa kung paano tunay na tunog ang boses ni Lincoln. Ang AI ay magiging tama sa katotohanan, kahit gaano kahusay ang AI sa pagkopya ng naka-target na boses.

Sa kategorya ng kabutihan tungkol sa AI voice cloning, maaari tayong makakuha ng panalo sa ganitong uri ng use case.

Hindi gustong maging madilim, ngunit mayroong isang downside sa kahit na ito tila lahat-baligtad na paggamit.

May gumagamit ng AI voice cloning system para alamin ang boses ni Theodore Roosevelt (“Teddy”), ang aming treasured 26^th Presidente ng Estados Unidos, naturalista, conservationist, estadista, manunulat, mananalaysay, at halos lahat ay binansagan ng isang iginagalang na tao. Ang mga talumpati na ibinigay niya at kung saan wala kaming anumang mga bersyong audio na napanatili sa kasaysayan ay maaari na ngayong "salitain" na parang siya mismo ang nagsasalita ngayon. Isang kapuri-puri na tulong para sa pag-aaral ng kasaysayan.

Gawin natin itong pangit, para lang sa layuning ibunyag ang mga kahinaan nito.

Ginagamit namin ang voice clone na nakabatay sa Teddy AI upang basahin ang isang talumpati na ibinigay ng isang masamang diktador. Walang pakialam ang AI sa kung ano ang sinasabi nito dahil walang semblance of sentience sa AI. Ang mga salita ay mga salita lamang, o mas tumpak na mga puff ng tunog.

Baka mabigla ka na may gagawa ng bagay na ganito kalihim. Bakit nga ba gagamitin ang naka-clone na boses na nakabatay sa AI ng tanyag at iginagalang na si Theodore Roosevelt upang maghatid ng isang talumpati na hindi lamang orihinal na ginawa ni Teddy, ngunit higit pa rito ay nagsasalita sa isang paksa na naglalarawan ng ilang kasamaan ng isang kasuklam-suklam. diktador?

Kabalbalan, maaari kang sumigaw.

Madaling tapos na, dumating ang tugon.

Sa esensya, ang isang napakahalagang alalahanin tungkol sa AI-based na voice replicating ay ang biglaang makikita natin ang ating sarili sa huwad o sasabihin ba natin ang malalalim na pagsasalita at pananalita na walang kinalaman sa anumang makasaysayang katotohanan o katumpakan. Kung sapat na ang mga ito ay nagawa at naipahayag, maaari tayong malito tungkol sa kung ano ang katotohanan laban sa kung ano ang kathang-isip.

Sagana mong makikita kung paano ito maaaring lumitaw. Gamit ang isang voice clone na nakabatay sa AI, may gumagawa ng audio recording ni Woodrow Wilson na nagbibigay ng isang talumpati na hindi niya talaga ibinigay. Ito ay nai-post sa Internet. May ibang nakarinig sa recording at naniniwalang ito ang totoong bagay. Ipinost nila ito sa ibang lugar, binanggit na natagpuan nila ang mahusay na makasaysayang recording ni Woodrow Wilson. Sa lalong madaling panahon, ang mga mag-aaral sa mga klase sa kasaysayan ay gumagamit ng audio bilang kapalit ng pagbabasa ng nakasulat na bersyon ng talumpati.

Walang sinuman ang nakakaalam kung ang talumpati ay ibinigay ni Woodrow Wilson o hindi. Siguro noon, marahil hindi, at iniisip ng lahat na hindi ito mahalaga sa alinmang paraan (well, ang mga hindi nakatuon sa katumpakan ng kasaysayan at mga katotohanan). Siyempre, kung ang talumpati ay isang tuso, nagbibigay ito ng maling palagay o disinformation na paglalarawan ng makasaysayang pigurang iyon. Ang kasaysayan at kathang-isip ay pinagsama sa isa.

Nagtitiwala ako na sana ay kumbinsido ka na ito ay isang downside na nauugnay sa AI-based na voice cloning.

Muli, magagawa na natin ang mga ganitong uri ng mga bagay, na ginagawa ito nang wala ang mas bago at pinahusay na boses na nakabatay sa AI, ngunit magiging mas madali itong gawin at ang magreresultang audio ay magiging lubhang mahirap na pag-iba-iba sa pagitan ng totoo at peke. Sa panahon ngayon, gamit ang mga nakasanayang programang gumagawa ng audio, karaniwan mong makikinig sa output at kadalasang madaling matiyak na peke ang audio. Sa mga pagsulong sa AI, malapit ka nang hindi makapaniwala sa iyong mga pandinig, sa paraan ng pagsasalita.

Kahit gaano kalala ang pag-clone ng boses ng mga makasaysayang figure, kailangan nating pag-isipan ang marahil lalo na ang mga kakila-kilabot na paggamit na sumasama sa mga buhay na tao ngayon.

Una, nakarinig ka na ba ng isang medyo sikat na scam na kinasasangkutan ng isang tao na nagpapanggap bilang isang boss o ang katumbas nito? Ilang taon na ang nakalilipas, nagkaroon ng nakakagambalang uso ng pagtawag sa isang restaurant o tindahan at pagpapanggap na boss ng establisimyento. Kasama sa pekeng ito ang pagsasabi sa isang kawani na gumawa ng mga katawa-tawang bagay, na madalas nilang ginagawa sa ilalim ng maling paniniwala na nakikipag-usap sila sa kanilang amo.

Ayokong madamay sa mga ganitong uri ng nakagagalit na maling gawain, ngunit ang isa pang mahalagang bagay ay ang pagtawag sa isang tao na maaaring mahirap marinig at magpanggap bilang kanilang apo o apo. Sinusubukan ng impersonator na kumbinsihin ang lolo't lola na magbigay ng pera upang tulungan o maaaring iligtas sila sa ilang paraan. Base sa impersonated voice, niloloko ang lolo't lola. Kasuklam-suklam. Nakakahiya. Malungkot.

Papasok na tayo sa isang panahon kung saan ang AI-based na voice cloning ay magbibigay-daan sa mga steroid, kung ikaw ay, ang pagdating ng mga scam at panloloko na nauugnay sa boses. Gagawin ng AI ang isang kahanga-hangang trabaho ng pagtitiklop ng boses na sinumang makarinig ng boses ay susumpa sa kanilang panunumpa na ang aktwal na tao ang nagsasalita.

Hanggang saan kaya iyon?

Ang ilan ay nag-aalala na ang pagpapalabas ng sinasabing atomic weaponry at pag-atake ng militar ay maaaring mangyari ng isang tao na gumagamit ng isang AI-based na voice clone na nanlinlang sa iba sa paniniwalang ang isang nangungunang opisyal ng militar ay naglalabas ng direktang utos. Ganiyan din ang masasabi ng sinuman sa anumang prominenteng posisyon. Gumamit ng napakatumpak na AI voice clone para makakuha ng banking executive na maglabas ng milyun-milyong dolyar na pondo, na ginagawa ito batay sa pagiging malinlang sa paniniwalang nakikipag-usap sila sa kliyenteng nasa bangko.

Sa nakalipas na mga taon, ang paggawa nito gamit ang AI ay hindi kinakailangang nakakumbinsi. Sa sandaling magsimulang magtanong ang tao sa kabilang dulo ng telepono, kakailanganing umalis ng AI mula sa isang inihandang script. Sa sandaling iyon, ang pag-clone ng boses ay lumalala, kung minsan ay radikal na. Ang tanging paraan upang mapanatili ang panloloko ay upang pilitin ang pag-uusap pabalik sa script.

Sa uri ng AI na mayroon tayo ngayon, kabilang ang mga pagsulong sa Natural Language Processing (NLP), maaari kang gumawa ng script at posibleng magkaroon ng AI voice clone na tila nagsasalita sa natural na paraan ng pakikipag-usap (hindi ito palaging nangyayari, at may mga paraan pa para trip-up ang AI).

Bago pumasok sa ilang higit pang karne at patatas tungkol sa ligaw at malabong pagsasaalang-alang na pinagbabatayan ng AI-based na voice cloning, magtatag tayo ng ilang karagdagang batayan sa malalim na mahahalagang paksa. Kailangan nating magsagawa ng maikling pagsisid sa AI Ethics at lalo na sa pagdating ng Machine Learning (ML) at Deep Learning (DL).

Maaaring malabo mong batid na ang isa sa pinakamalakas na boses sa mga araw na ito sa larangan ng AI at maging sa labas ng larangan ng AI ay binubuo ng paghahabol para sa isang mas malaking pagkakatulad ng Etikal na AI. Tingnan natin kung ano ang ibig sabihin ng pagtukoy sa AI Ethics at Ethical AI. Higit pa rito, tutuklasin natin kung ano ang ibig kong sabihin kapag nagsasalita ako ng Machine Learning at Deep Learning.

Ang isang partikular na segment o bahagi ng AI Ethics na nakakakuha ng maraming atensyon ng media ay binubuo ng AI na nagpapakita ng hindi kanais-nais na mga bias at hindi pagkakapantay-pantay. Maaaring alam mo na noong nagsimula ang pinakabagong panahon ng AI, nagkaroon ng malaking pagsabog ng sigasig para sa tinatawag ngayon ng ilan. AI For Good. Sa kasamaang palad, sa mga takong ng bumubulusok na kaguluhan na iyon, nagsimula kaming masaksihan AI Para sa Masama. Halimbawa, ang iba't ibang mga sistema ng pagkilala sa mukha na nakabatay sa AI ay ipinakita bilang naglalaman ng mga pagkiling sa lahi at mga bias ng kasarian, na tinalakay ko sa ang link dito.

Mga pagsisikap na lumaban AI Para sa Masama ay aktibong isinasagawa. Bukod sa maingay legal mga hangarin ng pagpigil sa maling gawain, mayroon ding malaking pagtulak patungo sa pagyakap sa AI Ethics upang ituwid ang karahasan ng AI. Ang paniwala ay dapat nating gamitin at i-endorso ang mga pangunahing prinsipyo ng Etikal na AI para sa pagbuo at paglalagay ng AI na ginagawa ito upang mabawasan ang AI Para sa Masama at sabay na nagbabadya at nagtataguyod ng mas kanais-nais AI For Good.

Sa isang kaugnay na paniwala, ako ay isang tagapagtaguyod ng pagsisikap na gamitin ang AI bilang bahagi ng solusyon sa mga problema ng AI, paglaban sa apoy gamit ang apoy sa ganoong paraan ng pag-iisip. Halimbawa, maaari naming i-embed ang mga bahagi ng Ethical AI sa isang AI system na susubaybayan kung paano ginagawa ng iba pang AI ang mga bagay at sa gayon ay potensyal na mahuli sa real-time ang anumang mga pagsisikap na may diskriminasyon, tingnan ang aking talakayan sa ang link dito. Maaari rin tayong magkaroon ng hiwalay na AI system na gumaganap bilang isang uri ng AI Ethics monitor. Ang sistema ng AI ay nagsisilbing isang tagapangasiwa upang subaybayan at makita kung kailan ang isa pang AI ay napupunta sa hindi etikal na kailaliman (tingnan ang aking pagsusuri sa gayong mga kakayahan sa ang link dito).

Sa ilang sandali, ibabahagi ko sa iyo ang ilang pangkalahatang mga prinsipyo na pinagbabatayan ng AI Ethics. Mayroong maraming mga ganitong uri ng mga listahan na lumulutang dito at doon. Maaari mong sabihin na wala pang isang solong listahan ng unibersal na apela at pagsang-ayon. Yan ang nakakalungkot na balita. Ang magandang balita ay kahit papaano mayroong mga madaling magagamit na listahan ng AI Ethics at malamang na magkapareho ang mga ito. Ang lahat ng sinabi, ito ay nagmumungkahi na sa pamamagitan ng isang paraan ng makatwirang convergence ng mga uri na hinahanap namin ang aming paraan patungo sa isang pangkalahatang pagkakatulad ng kung ano ang binubuo ng AI Ethics.

Una, saklawin natin nang maikli ang ilan sa mga pangkalahatang tuntunin ng Etikal na AI upang ilarawan kung ano ang dapat na mahalagang pagsasaalang-alang para sa sinumang gumagawa, naglalagay, o gumagamit ng AI.

Halimbawa, tulad ng sinabi ng Vatican sa Panawagan ng Roma Para sa Etika ng AI at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang natukoy na anim na pangunahing prinsipyo sa etika ng AI:

• Transparency: Sa prinsipyo, ang mga AI system ay dapat na maipaliwanag
• Pagsasama: Ang mga pangangailangan ng lahat ng tao ay dapat isaalang-alang upang ang lahat ay makinabang, at ang lahat ng indibidwal ay maihandog ang pinakamahusay na posibleng mga kondisyon upang ipahayag ang kanilang sarili at umunlad.
• Responsibilidad: Ang mga nagdidisenyo at nagde-deploy ng paggamit ng AI ay dapat magpatuloy nang may pananagutan at transparency
• Pagkakaiba-iba: Huwag lumikha o kumilos ayon sa pagkiling, kaya pinangangalagaan ang pagiging patas at dignidad ng tao
• Kahusayan: Dapat na gumana nang mapagkakatiwalaan ang mga AI system
• Seguridad at privacy: Dapat gumana nang ligtas ang mga AI system at igalang ang privacy ng mga user.

Gaya ng sinabi ng US Department of Defense (DoD) sa kanilang Mga Etikal na Prinsipyo Para sa Paggamit ng Artipisyal na Katalinuhan at gaya ng tinakpan ko ng malalim sa ang link dito, ito ang kanilang anim na pangunahing prinsipyo sa etika ng AI:

• Responsable: Ang mga tauhan ng DoD ay gagamit ng mga naaangkop na antas ng paghatol at pangangalaga habang nananatiling responsable para sa pagbuo, pag-deploy, at paggamit ng mga kakayahan ng AI.
• Pantay-pantay: Magsasagawa ang Departamento ng mga sadyang hakbang upang mabawasan ang hindi sinasadyang pagkiling sa mga kakayahan ng AI.
• Nasusubaybayan: Ang mga kakayahan sa AI ng Departamento ay bubuo at ipapakalat upang ang mga nauugnay na tauhan ay nagtataglay ng naaangkop na pag-unawa sa teknolohiya, mga proseso ng pag-unlad, at mga pamamaraan ng pagpapatakbo na naaangkop sa mga kakayahan ng AI, kabilang ang mga transparent at naa-audit na pamamaraan, pinagmumulan ng data, at pamamaraan at dokumentasyon ng disenyo.
• reliable: Ang mga kakayahan ng AI ng Departamento ay magkakaroon ng tahasan, mahusay na tinukoy na mga paggamit, at ang kaligtasan, seguridad, at pagiging epektibo ng mga naturang kakayahan ay sasailalim sa pagsubok at katiyakan sa loob ng mga tinukoy na paggamit sa kanilang buong lifecycle.
• Mapapamahalaan: Ang Departamento ay magdidisenyo at mag-iinhinyero ng mga kakayahan ng AI upang matupad ang kanilang mga nilalayon na pag-andar habang nagtataglay ng kakayahang makita at maiwasan ang mga hindi sinasadyang kahihinatnan, at ang kakayahang alisin o i-deactivate ang mga naka-deploy na system na nagpapakita ng hindi sinasadyang pag-uugali.

Tinalakay ko rin ang iba't ibang mga kolektibong pagsusuri ng mga prinsipyo ng etika ng AI, kabilang ang pagsaklaw sa isang set na ginawa ng mga mananaliksik na nagsuri at nagkondensasyon sa kakanyahan ng maraming pambansa at internasyonal na mga alituntunin sa etika ng AI sa isang papel na pinamagatang "The Global Landscape Of AI Ethics Guidelines" (nai-publish sa Kalikasan), at tinutuklasan ng aking saklaw sa ang link dito, na humantong sa listahan ng keystone na ito:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Tulad ng maaari mong direktang hulaan, ang pagsisikap na i-pin down ang mga detalye na pinagbabatayan ng mga prinsipyong ito ay maaaring maging lubhang mahirap gawin. Higit pa rito, ang pagsisikap na gawing isang bagay na ganap na nahahawakan at sapat na detalyadong magagamit kapag gumagawa ng mga AI system ay mahirap ding basagin. Madaling gawin sa pangkalahatan ang ilang handwaving tungkol sa kung ano ang mga alituntunin ng AI Ethics at kung paano dapat itong sundin sa pangkalahatan, habang ito ay isang mas kumplikadong sitwasyon sa AI coding na kailangang maging ang tunay na goma na nakakatugon sa kalsada.

Ang mga prinsipyo ng AI Ethics ay dapat gamitin ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pag-aakala ay ang "mga coder lamang" o ang mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang nasabi, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay dapat sanay at sumunod sa mga alituntunin ng AI Ethics.

Siguraduhin din natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam. Wala kaming ganito. Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahuhulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculously kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang ang singularity, tingnan ang aking coverage sa ang link dito).

Ang uri ng AI na pinagtutuunan ko ng pansin ay binubuo ng non-sentient AI na mayroon tayo ngayon. Kung gusto nating mag-isip-isip tungkol sa nagbabago AI, ang talakayang ito ay maaaring pumunta sa ibang direksyon. Ang isang pakiramdam na AI ay dapat na may kalidad ng tao. Kailangan mong isaalang-alang na ang sentient AI ay ang cognitive equivalent ng isang tao. Higit pa rito, dahil ang ilan ay nag-iisip na maaari tayong magkaroon ng super-intelligent na AI, maiisip na ang naturang AI ay maaaring maging mas matalino kaysa sa mga tao.

Panatilihin natin ang mga bagay na mas down to earth at isaalang-alang ang computational non-sentient AI ngayon.

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning (ML) at Deep Learning (DL), na gumagamit ng computational pattern matching. Ito ay humantong sa mga AI system na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may kamukha ng sentido komun at wala ring anumang nakakaisip na pagtataka ng matatag na pag-iisip ng tao.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Bumalik tayo sa ating pagtuon sa AI-based na voice cloning.

Sa isang kamakailang kumperensya, ang isang pagtatanghal na ibinigay ng Amazon ay nilayon upang ipakita ang kanais-nais na mga upsides ng AI-based na voice cloning at i-highlight ang pinakabagong nangungunang AI na ginagamit sa Alexa para sa pagsulong ng mga kakayahan nito. Ayon sa mga ulat ng balita, isang inihandang halimbawa na dapat ay nakapagpapasigla at nakapagpapalakas ng loob ay binubuo ng pagkakaroon ng isang anak na hilingin kay Alexa na ipabasa sa kanila ng kanilang lola ang kuwento ng Ang Wizard Ng Oz. Sinabi sa madla na ang lola ay pumanaw na at na ito ay isang paraan para ang bata ay mahalagang makipag-ugnayan muli sa kanilang mahal na lola. Ang lahat ng ito ay tila bahagi ng isang video na pinagsama-sama ng Amazon upang tumulong sa pagpapakita ng pinakabagong AI voice cloning breakthroughs ng Alexa development team (na sumasaklaw sa mga feature na hindi pa pormal na inilunsad para sa pampublikong paggamit).

Ang isang reaksyon sa halimbawang ito ay maaaring lubos tayong maantig na marinig muli ng isang bata ang boses ng kanilang lola. Dapat nating ipagpalagay na ang lola ay hindi pa naitala ang isang buong pagbabasa ng kuwento, kaya ang AI cloning ay gumagawa ng gawain na gawin ang mga bagay na tila ginagawa na ngayon ng lola ang kabuuan ng pagbabasa.

Kapansin-pansin at isang napakalaking paraan upang makipag-ugnayan muli sa mga mahal sa buhay na wala na sa atin.

Hindi lahat ng mga reporter at analyst (kasama ang Twitter) ay napakahilig sa isang paborableng interpretasyon ng pagsulong na ito. Binansagan ito ng ilan bilang tahasang katakut-takot. Ang pagsisikap na muling likhain ang boses ng isang namatay na mahal sa buhay ay sinabi na isang kakaiba at medyo kakaibang gawain.

Ang daming tanong, gaya ng:

• Maguguluhan kaya ang bata at maniniwalang buhay pa ang namatay na mahal sa buhay?
• Maaari na bang madala ang bata sa isang hindi kanais-nais na kalokohan o scam sa ilalim ng maling paniniwala na kasama pa namin ang lola?
• Maaaring ang bata ay magdusa mula sa pagdinig tungkol sa namatay na mahal sa buhay at mawalan ng pag-asa sa ngayon sa sandaling muli na nawawala ang lolo't lola, na parang nagbubukas na ng mga emosyonal na sugat?
• Iisipin ba ng bata na ang namatay ay maaaring magsalita mula sa kabilang panig, ibig sabihin na ang mystical voice na ito na tila mismo ay ang kanyang lola ay nakikipag-usap sa kanya mula sa libingan?
• Maiisip ba na ang bata ay mag-iisip na ang AI ay may katawan sa kanyang lola, na ginawang antropomorphize ang AI upang ang bata ay lumaki na naniniwala na ang AI ay maaaring gumagaya ng mga tao nang buo?
• Ipagpalagay na ang bata ay nabighani sa AI-replicated na boses ng lola na ang bata ay nahuhumaling at ginagamit ang boses para sa lahat ng paraan ng pakikinig sa audio?
• Maaari bang piliin ng vendor na kinokopya ang boses na gamitin ang boses na iyon para sa iba na gumagamit ng parehong pangkalahatang sistema, na ginagawa ito nang hindi nakakakuha ng tahasang pahintulot mula sa pamilya at sa gayon ay "nakikinabang" mula sa ginawang boses?
• At iba pa.

Mahalagang matanto na maaari kang mag-conjure ng kasing dami ng mga negatibo gaya ng mga positibo, o sasabihin ba natin ang kasing dami ng mga positibo bilang mga negatibo. May mga tradeoff na pinagbabatayan ng mga pagsulong ng AI na ito. Ang pagtingin sa isang bahagi lamang ng barya ay marahil ay myopic.

Ang susi ay upang matiyak na tinitingnan namin ang lahat ng panig ng mga isyung ito. Huwag kang maulap sa iyong pag-iisip. Madali lang tuklasin ang mga positibo. Maaaring madaling tuklasin ang mga negatibo lamang. Kailangan nating suriin ang dalawa at alamin kung ano ang maaaring gawin para sana ay magamit ang mga positibo at hangarin na bawasan, alisin, o kahit man lang pagaanin ang mga negatibo.

Sa ilang antas, iyon ang dahilan kung bakit ang AI Ethics at Ethical AI ay isang napakahalagang paksa. Ang mga tuntunin ng AI Ethics ay nagdudulot sa atin na manatiling mapagbantay. Ang mga technologist ng AI ay maaaring minsan ay maging abala sa teknolohiya, lalo na ang pag-optimize ng high-tech. Hindi nila kinakailangang isaalang-alang ang mas malalaking epekto sa lipunan. Ang pagkakaroon ng isang AI Ethics mindset at ang paggawa nito nang buong-buo sa AI development at fielding ay mahalaga para sa paggawa ng naaangkop na AI.

Bukod sa paggamit ng AI Ethics, may katumbas na tanong kung dapat ba tayong magkaroon ng mga batas para pamahalaan ang iba't ibang paggamit ng AI, gaya ng mga feature ng voice cloning na nakabatay sa AI. Ang mga bagong batas ay inilalagay sa paligid sa pederal, estado, at lokal na antas na may kinalaman sa hanay at katangian ng kung paano dapat gawin ang AI. Ang pagsisikap na bumalangkas at magpatibay ng mga naturang batas ay unti-unti. Ang AI Ethics ay nagsisilbing isang itinuturing na stopgap, kahit papaano.

Iyon ay sinabi, ang ilan ay nangangatuwiran na hindi namin kailangan ng mga bagong batas na sumasaklaw sa AI at ang aming mga umiiral na batas ay sapat. Sa katunayan, nagbabala sila na kung gagawin natin ang ilan sa mga batas na ito ng AI, papatayin natin ang ginintuang gansa sa pamamagitan ng pagpigil sa mga pagsulong sa AI na nagbibigay ng napakalaking pakinabang sa lipunan. Tingnan halimbawa ang aking saklaw sa ang link dito at ang link dito.

Sa puntong ito ng mabigat na talakayan na ito, tataya ako na gusto mo ng ilang mga halimbawang nakapagpapakita na maaaring magpakita ng paksang ito. Mayroong isang espesyal at tiyak na sikat na hanay ng mga halimbawa na malapit sa aking puso. Nakikita mo, sa aking kapasidad bilang isang eksperto sa AI kasama ang etikal at legal na mga epekto, madalas akong hinihiling na tumukoy ng mga makatotohanang halimbawa na nagpapakita ng mga dilemma ng AI Ethics upang ang medyo teoretikal na katangian ng paksa ay mas madaling maunawaan. Ang isa sa mga pinaka-evocative na lugar na malinaw na nagpapakita ng etikal na AI quandary na ito ay ang pagdating ng AI-based na tunay na self-driving na mga kotse. Ito ay magsisilbing isang madaling gamiting kaso o halimbawa para sa sapat na talakayan sa paksa.

Narito ang isang kapansin-pansing tanong na dapat pag-isipan: Ang pagdating ba ng AI-based na tunay na self-driving na mga kotse ay nagpapaliwanag ng anuman tungkol sa AI-based na voice cloning, at kung gayon, ano ang ipinapakita nito?

Bigyan mo ako ng ilang sandali na i-unpack ang tanong.

Una, tandaan na walang taong driver na kasangkot sa isang tunay na self-driving na kotse. Tandaan na ang mga totoong self-driving na kotse ay hinimok sa pamamagitan ng AI driving system. Hindi na kailangan ng taong nagmamaneho sa gulong, at walang probisyon para sa tao na magmaneho ng sasakyan. Para sa aking malawak at patuloy na saklaw ng Autonomous Vehicles (AVs) at lalo na ang mga self-driving na sasakyan, tingnan ang ang link dito.

Gusto kong linawin pa kung ano ang ibig sabihin kapag tinutukoy ko ang mga totoong self-driving na kotse.

Pag-unawa sa Mga Antas Ng Mga Kotse na Nagmamaneho ng Sarili

Bilang paglilinaw, ang mga tunay na self-driving na kotse ay ang mga kung saan ang AI ang ganap na nagmamaneho sa kotse nang mag-isa at walang anumang tulong ng tao sa panahon ng gawain sa pagmamaneho.

Ang mga sasakyang walang driver na ito ay itinuturing na Antas 4 at Antas 5 (tingnan ang aking paliwanag sa ang link na ito dito), habang ang isang kotse na nangangailangan ng isang tao na driver na magbahagi ng pagsisikap sa pagmamaneho ay karaniwang isinasaalang-alang sa Antas 2 o Antas 3. Ang mga kotse na nagbabahagi ng gawain sa pagmamaneho ay inilalarawan bilang semi-autonomous, at karaniwang naglalaman ng iba't ibang uri ng mga awtomatikong add-on na tinutukoy bilang ADAS (Advanced Driver-Assistance Systems).

Wala pang totoong self-driving na kotse sa Level 5, at hindi pa namin alam kung posible itong makamit, o kung gaano katagal bago makarating doon.

Samantala, ang mga pagsusumikap sa Antas 4 ay unti-unting nagsisikap na makakuha ng ilang traksyon sa pamamagitan ng pagsailalim sa napakakitid at piling mga pagsubok sa pampublikong daanan, kahit na mayroong kontrobersya kung ang pagsubok na ito ay dapat payagan per se (tayo ay lahat ng buhay-o-kamatayang guinea pig sa isang eksperimento nagaganap sa aming mga highway at byways, ang ilan ay nakikipaglaban, tingnan ang aking saklaw sa ang link na ito dito).

Dahil ang mga kotse na semi-autonomous ay nangangailangan ng isang driver ng tao, ang pag-aampon ng mga uri ng mga kotse ay hindi magkakaiba sa iba kaysa sa pagmamaneho ng mga maginoo na sasakyan, kaya't hindi gaanong bago ang bawat se upang masakop ang tungkol sa mga ito sa paksang ito (bagaman, tulad ng makikita mo sa isang iglap, ang mga puntos na kasunod na ginawa ay karaniwang naaangkop).

Para sa mga semi-awtonomous na kotse, mahalaga na ang publiko ay kailangang paunang-hayag tungkol sa isang nakakagambalang aspeto na nagmula sa kani-kanina lamang, ibig sabihin, sa kabila ng mga driver ng tao na patuloy na nag-post ng mga video ng kanilang mga sarili na natutulog sa gulong ng isang Antas 2 o Antas 3 na kotse , kailangan nating lahat na maiwasan ang malinlang sa paniniwala na ang driver ay maaaring mag-alis ng kanilang pansin mula sa gawain sa pagmamaneho habang nagmamaneho ng isang semi-awtonomous na kotse.

Ikaw ang responsableng partido para sa mga aksyon sa pagmamaneho ng sasakyan, anuman ang maaaring awtomatikong ihulog sa isang Antas 2 o Antas 3.

Self-Driving Cars At AI-Based Voice Cloning

Para sa Antas 4 at Antas 5 tunay na mga sasakyan sa pagmamaneho sa sarili, walang magiging driver ng tao na kasangkot sa gawain sa pagmamaneho.

Lahat ng mga nasasakupan ay magiging mga pasahero.

Ang AI ay gumagawa ng pagmamaneho.

Ang isang aspeto na agad na tatalakayin ay nagsasaad ng katotohanan na ang AI na kasangkot sa mga AI system sa pagmamaneho ngayon ay hindi nagbabago. Sa madaling salita, ang AI ay kabuuan isang kolektibong pag-program na batay sa computer at mga algorithm, at walang katiyakan na hindi makatuwiran sa parehong pamamaraan na magagawa ng mga tao.

Bakit ito idinagdag na diin tungkol sa AI na hindi nagbabago?

Dahil nais kong bigyang diin na kapag tinatalakay ang papel ng system ng pagmamaneho ng AI, hindi ko inilahad ang mga katangian ng tao sa AI. Mangyaring magkaroon ng kamalayan na mayroong isang patuloy at mapanganib na pagkahilig sa mga araw na ito upang anthropomorphize AI. Sa esensya, ang mga tao ay nagtatalaga ng mala-tao na pakiramdam sa AI ngayon, sa kabila ng hindi maikakaila at hindi maikukuhang katotohanan na wala pang ganitong AI.

Sa paglilinaw na iyon, maaari mong isipin na ang AI sa pagmamaneho system ay hindi natural na kahit papaano ay "malaman" tungkol sa mga aspeto ng pagmamaneho. Ang pagmamaneho at lahat ng mga kinakailangan nito ay kailangang mai-program bilang bahagi ng hardware at software ng self-driving car.

Sumisid tayo sa napakaraming mga aspeto na maglaro sa paksang ito.

Una, mahalagang mapagtanto na hindi lahat ng AI self-driving na mga kotse ay pareho. Ang bawat automaker at self-driving tech firm ay gumagawa ng diskarte nito sa paggawa ng mga self-driving na kotse. Dahil dito, mahirap gumawa ng mga malawak na pahayag tungkol sa kung ano ang gagawin o hindi gagawin ng mga AI driving system.

Bukod dito, tuwing isinasaad na ang isang sistema ng pagmamaneho ng AI ay hindi gumagawa ng isang partikular na bagay, maaari itong, sa paglaon, ay abutan ng mga developer na sa katunayan ay program ang computer upang gawin ang bagay na iyon. Hakbang-hakbang, ang mga sistema ng pagmamaneho ng AI ay unti-unting napapabuti at pinalawak. Ang isang umiiral na limitasyon ngayon ay maaaring hindi na umiiral sa isang hinaharap na pag-ulit o bersyon ng system.

Umaasa ako na nagbibigay iyon ng sapat na litanya ng mga caveat upang salungguhitan ang aking iuugnay.

Mag-sketch tayo ng isang senaryo na maaaring gumamit ng AI-based na voice cloning.

Sumakay ang isang magulang at ang kanilang anak sa isang AI-based na self-driving na kotse. Pupunta sila sa kanilang lokal na grocery store. Ito ay inaasahang maging isang medyo walang pangyayaring biyahe. Isang lingguhang biyahe lang papunta sa tindahan, kahit na ang driver ay isang AI driving system at ang magulang ay hindi kailangang magmaneho.

Para sa isang magulang, ito ay isang malaking pagpapala. Sa halip na mag-focus sa pagpipiloto at pagharap sa pagkilos ng pagmamaneho, ang magulang ay maaaring italaga ang kanilang pansin sa kanilang anak. Maaari silang maglaro nang magkasama sa autonomous na sasakyan at magpalipas ng oras ng isang mahalagang kalikasan. Bagama't ang magulang ay karaniwang naaabala sa pagmamaneho, at malamang na mabalisa at masikip habang nagna-navigate sa mga abalang kalye at nakikipag-ugnayan sa iba pang mga nutty driver sa malapit, dito ang magulang ay walang kaalam-alam sa mga alalahanin na iyon at tanging nakakatuwang pakikipag-ugnayan sa kanilang mahalagang anak.

Ang magulang ay nagsasalita sa AI driving system at sinabihan ang AI na dalhin sila sa grocery store. Sa isang tipikal na sitwasyon, tutugon ang AI sa pamamagitan ng isang neutral na audio na pagbigkas na pamilyar mong maririnig sa pamamagitan ng Alexa o Siri ngayon. Maaaring tumugon ang AI sa pamamagitan ng pagsasabi na ang grocery store ay 15 minutong biyahe ang layo. Bilang karagdagan, maaaring sabihin ng AI na ang self-driving na kotse ay ihahatid ang mga ito sa pinakaharap ng tindahan.

Maaaring iyon lang ang aktibidad na nauugnay sa boses ng AI sa ganoong sitwasyon. Marahil, kapag malapit na ang self-driving na kotse sa grocery store, maaaring magsabi ang AI tungkol sa papalapit na destinasyon. Maaaring mayroon ding vocal na paalala na dalhin ang iyong mga gamit habang papalabas ka sa autonomous na sasakyan.

Ipinaliwanag ko na ang ilang AI driving system ay magiging mga madaldal na pusa, kumbaga. Ipo-program ang mga ito upang mas matatas at patuloy na makipag-ugnayan sa mga taong sakay. Kapag sumakay ka sa isang ridesharing na sasakyan na minamaneho ng isang tao, minsan gusto mong maging madaldal ang driver. Bukod sa pag-hello, baka gusto mong sabihin nila sa iyo ang tungkol sa lokal na lagay ng panahon, o maaaring ituro ang iba pang mga lugar na makikita sa lokal na lugar. Hindi lahat ay gugustuhin ang madaldal na pusa, kaya ang AI ay dapat gawin upang makisali lamang sa mga diyalogo kapag hiniling ito ng tao, tingnan ang aking saklaw sa ang link dito.

Ngayong nakuha ko na ang lahat ng naitatag, baguhin natin ang mga bagay sa maliit ngunit makabuluhang paraan.

Magpanggap na ang AI driving system ay may AI-based voice cloning feature. Ipagpalagay din natin na ang magulang ay dati nang nag-seed ng AI voice cloning sa pamamagitan ng pagbibigay ng audio snippet ng lola ng bata. Ang sorpresa, sa palagay ng magulang, sasabihin ko ang AI driving system na para bang ito ang namatay na lola ng bata.

Habang naglalakbay sa pagmamaneho patungo sa grocery store, nakikipag-ugnayan ang AI driving system sa magulang at anak, eksklusibong ginagamit ang naka-clone na boses ng lola sa buong panahon.

Ano ang palagay mo tungkol dito?

Kakatakot o hindi malilimutan?

I'll kick up things a notch. Maghanda. Ikabit ang iyong seatbelt.

Naniniwala ang ilan sa aking ginagawa na sa kalaunan ay papayagan namin ang mga bata na sumakay sa mga self-driving na sasakyan na nakabatay sa AI, tingnan ang aking pagsusuri sa ang link dito.

Sa mga sasakyan ngayon na pinapatakbo ng tao, ang isang nasa hustong gulang ay dapat palaging naroroon dahil ang batas ay nag-aatas na ang isang may sapat na gulang na tsuper ay nasa manibela. Para sa lahat ng praktikal na layunin, hinding-hindi ka maaaring magkaroon ng isang bata sa isang gumagalaw na kotse na nasa sasakyan nang mag-isa (oo, alam kong nangyayari ito, tulad ng isang kilalang 10-taong-gulang na anak ng isang pangunahing bida sa pelikula na nag-back up kamakailan. isang napakamahal na kotse sa isa pang napakamahal na kotse, ngunit gayon pa man ang mga ito ay pambihira).

Malamang na mahigpit na tututol ang mga magulang ngayon na payagan ang kanilang mga anak na sumakay sa isang self-driving na kotse na kulang ng adulto sa sasakyan na nagsisilbing superbisor o nagbabantay sa kanilang mga anak. Alam kong halos imposibleng isipin, ngunit ako ay tumataya na kapag ang mga self-driving na sasakyan ay laganap, hindi natin maiiwasang tanggapin ang ideya ng mga bata na walang mga matatanda habang nakasakay sa isang self-driving na kotse.

Isaalang-alang ang convenience factor.

Nasa trabaho ka at hinahabol ka ng iyong amo para magawa ang isang gawain. Kailangan mong kunin ang iyong anak mula sa paaralan at dalhin sila sa pagsasanay sa baseball. Naipit ka sa pagitan ng isang bato at isang matigas na lugar bilang masyadong pinapayapa ang iyong amo o hindi dinadala ang iyong anak sa larangan ng pagsasanay. Walang ibang kakilala mong available na magbigay ng elevator sa iyong anak. Kung mayroon man, tiyak na ayaw mong gumamit ng serbisyo ng ridesharing na may driver ng tao, dahil natural kang mag-aalala tungkol sa maaaring sabihin o gawin ng estranghero na nasa hustong gulang na iyon habang pinapasakay ang iyong anak.

Walang problema, huwag mag-alala, gumamit lang ng AI-based na self-driving na kotse. Malayo mong idirekta ang self-driving na kotse para sunduin ang iyong anak. Sa pamamagitan ng mga camera ng self-driving na kotse, makikita at mapapanood mo ang iyong anak na sumakay sa autonomous na sasakyan. Higit pa rito, may mga camera na nakaharap sa loob at mapapanood mo ang iyong anak sa buong paglalakbay sa pagmamaneho. Mukhang ligtas ito kung hindi man mas ligtas kaysa sa paghiling sa isang estranghero na tsuper na magbigay ng elevator para sa iyong anak. Iyon ay sinabi, ang ilan ay may karapatang mag-alala na kung ang pagmamaneho ay magulo, mayroon kang isang bata na natitira sa kanilang sarili at walang matanda na agad na dumalo upang tumulong o magbigay ng patnubay sa bata.

Isinasantabi ang maraming pagkabalisa, ipagpalagay na ang parehong magulang at anak na inilalarawan ko sa naunang senaryo ay okay na sumakay ang bata nang hindi kasama ang magulang. Tanggapin na lang na isa itong mabubuhay na sitwasyon.

Narito ang finale kicker.

Sa tuwing sumasakay ang bata sa AI-based na self-driving na kotse, sila ay binabati at nakikipag-ugnayan sa AI habang ginagamit nito ang AI-based na voice cloning at ginagaya ang boses ng namatay na lola ng bata.

Ano sa tingin mo ang mga mansanas na iyon?

Kapag nandoon din ang magulang sa self-driving na kotse, maaari nating ipagpaumanhin ang paggamit ng boses ng AI dahil nandiyan ang magulang upang payuhan ang bata tungkol sa kung ano ang nangyayari kapag nagsasalita ang AI audio. Ngunit kapag ang magulang ay hindi naroroon, ipinapalagay namin ngayon na ang bata ay kaaya-aya sa pagkopya ng boses ng lola.

Ito ay tiyak na isa sa mga sandaling huminto para pag-isipang mabuti kung ito ba ay nasa balanseng mabuti o masama para sa isang bata.

Konklusyon

Gumawa tayo ng kaunting eksperimento sa pag-iisip upang pag-isipan ang mabibigat na bagay na ito.

Mangyaring makabuo ng tatlong matatag positibo dahilan para magkaroon ng AI-based na voice cloning.

Maghihintay ako habang ikaw ay sumama sa kanila.

Susunod, makabuo ng tatlong matatag negatibo mga dahilan na nagpapahina sa pagdating ng AI-based na voice cloning.

Ipagpalagay ko na nakaisip ka ng ilan.

Napagtanto ko na walang alinlangang makakaisip ka ng mas maraming dahilan kaysa tatlo lamang sa bawat isa na pabor o hindi pabor sa teknolohiyang ito. Sa iyong pananaw, mas malaki ba ang mga negatibo kaysa sa mga positibo? May mga kritiko na nagsasabing dapat nating ilagay ang kibosh sa gayong mga pagsisikap.

Gusto ng ilan na subukan at harangan ang mga kumpanya mula sa paggamit ng AI-based na voice cloning, ngunit napagtanto na ito ay isa sa mga klasikong whack-a-mole na problema. Anumang kumpanya na maaari mong ihinto ang paggamit nito, ang posibilidad na ang ibang kumpanya ay magsisimulang gamitin ito. Ang pag-freeze ng orasan o pag-ipit sa ganitong uri ng AI ay magiging halos imposibleng gawin.

Sa isang huling pangungusap sa paksang ito sa sandaling ito, isipin kung ano ang maaaring mangyari kung makakamit natin balang araw ang sentient AI. Hindi ko sinasabing mangyayari ito. Maaari pa rin tayong mag-isip-isip at tingnan kung saan ito maaaring humantong.

Una, isaalang-alang ang isang insightful quote tungkol sa pagsasalita at pagkakaroon ng boses. Si Madeleine Albright ay tanyag na sinabi ito: "Nagtagal ako upang magkaroon ng isang boses, at ngayon na mayroon ako nito, hindi ako tatahimik."

Kung nagagawa nating gumawa ng sentient AI, o kahit papaano ay umusbong ang sentience kahit hindi natin ito direktang ilabas, anong boses dapat ang mayroon ang AI na iyon? Ipagpalagay na magagamit nito ang AI-based na voice cloning at ergo na gumawa ng anumang boses ng sinumang tao sa pamamagitan ng ilang napakaliit na snippet ng audio sampling na maaaring available gaya ng binigkas ng taong iyon. Ang nasabing AI ay maaaring magsalita at lokohin ka sa paniniwalang ang AI ay tila ang taong iyon.

At muli, marahil ay gugustuhin ng AI na magkaroon ng sarili nitong boses at sadyang gumawa ng boses na ganap na hindi katulad ng lahat ng iba pang boses ng tao, na gustong maging espesyal sa sarili nitong kaakit-akit na paraan.

By gosh, halos hindi makapagsalita ang isa.