Ang AI Ethics ay Leans in Aristotle Upang Suriin Kung Ang mga Tao ay Maaaring Magpasya na Alipinin ang AI Sa gitna ng Pagdating ng Ganap na Autonomous System

Kaibigan o kaaway.

Isda o ibon.

Tao o bagay.

Ang mga malaganap na palaisipan na ito ay tila nagmumungkahi na kung minsan ay nahaharap tayo sa isang dichotomous na sitwasyon at kailangang pumili ng isang facet o sa isa pa. Maaaring pilitin tayo ng buhay na makipaglaban sa mga pangyayari na binubuo ng dalawang opsyon na magkahiwalay. Sa mas masarap na wika, maaari mong imungkahi na ang isang exclusionary binary equation ay nangangailangan sa amin na tahasang pumunta sa isang natatanging landas kaysa sa isa pa.

Partikular na tumuon tayo sa dikotomiya ng tao-o-bagay.

Ang taimtim na tanong ng tao-o-bagay ay paulit-ulit na lumalabas tungkol sa Artificial Intelligence (AI).

Upang linawin, ang AI ngayon ay ganap hindi isang tao at walang kamukha ng sentience, sa kabila ng anumang dilat ang mata at ganap na napakalaking headline na maaari mong makita sa mga balita at sa social media. Kaya, maaari kang makatitiyak na sa ngayon ang usapin kung ang AI ay isang tao o isang bagay ay madaling sagutin. Basahin ang aking mga labi, sa isang tunay na pagpili ni Hobson sa pagitan ng tao o bagay, ang AI ay isang bagay, sa ngayon.

Iyon ay sinabi, maaari tayong tumingin sa hinaharap at magtaka kung ano ang maaaring mangyari kung makakamit natin ang isang pakiramdam na anyo ng AI.

Iminumungkahi ng ilang makatuwirang kritiko (kasama ang mga mapang-uyam na pag-aalinlangan) na marahil ay binibilang natin ang ating mga manok bago pa sila mapisa sa pamamagitan ng pagtalakay sa mga epekto ng isang nararamdamang AI. Ang ipinahayag na pag-aalala ay ang talakayan mismo ay nagpapahiwatig na dapat tayong nasa tuktok ng naturang AI. Ang lipunan sa pangkalahatan ay maaaring mailigaw sa paniniwalang bukas o sa susunod na araw ay magkakaroon ng biglaan at nakakagulat na paghahayag na sa katunayan ay nakarating na tayo sa sentient AI (ito ay minsan tinutukoy ng ilan bilang AI singularity o isang intelligence explosion, tingnan ang ang aking pagsusuri sa ang link dito). Samantala, hindi natin alam kung kailan lilitaw ang naturang AI, kung saka-sakali, at tiyak, tila hindi natin kailangang tumingin-tingin sa bawat sulok at takot na takot na ang nakakaramdam na AI ay bumubulusok sa atin nang hindi inaasahan sa susunod. sandali lang.

Itinuturo ng kabilang panig ng debate na hindi natin dapat ibinaon nang malalim ang ating mga ulo sa buhangin. Nakikita mo, kung hindi natin hayagang tinatalakay at pinag-iisipan ang mga posibilidad na nauugnay sa nararamdamang AI, ginagawa natin ang sangkatauhan ng isang ipagpalagay na malubhang kapinsalaan. Hindi kami magiging handa para sa paghawak ng sentient AI kapag o kung ito ay lumitaw. Higit pa rito, at marahil kahit na mas makapangyarihang sinabi, sa pamamagitan ng pag-asam sa nararamdamang AI, maaari nating gawin ang mga bagay-bagay sa ating sariling mga kamay at hubugin ang direksyon at kalikasan kung paano magkakaroon ng naturang AI at kung ano ang binubuo nito (hindi lahat ay sumasang-ayon sa huling puntong ito. , ibig sabihin, sinasabi ng ilan na ang naturang AI ay magkakaroon ng sarili nitong "isip" at hindi natin ito mahuhugis o mako-corral dahil ang AI ay malayang makapag-isip at matukoy ang isang paraan upang patuloy na umiral).

Ang AI Ethics ay may posibilidad na pumanig sa pananaw na magiging matalino tayong ilabas ang mahirap at argumentative sentient-AI na mga usapin na ito sa bukas, sa halip na maghintay hanggang wala na tayong mga opsyon na natitira o mabigla sa pagkamit ng naturang AI. Alam na alam ng mga mambabasa na sinasaklaw ko nang husto ang mga paksa ng AI Ethics at Ethical AI, kabilang ang pagsaklaw sa isang matatag na hanay ng matitinik na isyu tulad ng AI legal personhood, AI containment, AI disgorgement, AI algorithmic monoculture, AI ethics-washing, dual-use AI na tinatawag na Doctor Evil projects, AI hiding societal power dynamics, trustworthy AI, auditing of AI, at iba pa (tingnan ang aking mga column coverage ng mga mahahalagang paksang ito sa ang link dito).

Nagbigay ako sa iyo ng isang mapaghamong tanong.

Sa hinaharap, kung ipagpalagay na tayo sa anumang paraan ay magtatapos sa sentient AI, ang sentient AI ba ay ituturing nating lahat bilang isang tao o bilang isang bagay?

Bago tayo magsimulang magsagawa ng malalim na pagsisid sa ganap na nakakapukaw na tanong na ito, hayaan mo akong magsabi ng isang bagay tungkol sa catchphrase ng "sentient AI" upang tayong lahat ay nasa parehong pahina. Mayroong maraming angst tungkol sa kahulugan ng sentience at ang kahulugan ng kamalayan. Ang mga eksperto ay maaaring madaling hindi sumang-ayon sa kung ano ang binubuo ng mga salitang iyon. Dagdag pa sa kaguluhan na iyon, sa tuwing may tumukoy sa "AI" wala kang handa na paraan para malaman kung ano ang kanilang tinutukoy sa bawat isa. Dito ko na binigyang-diin na ang AI ngayon ay hindi nakakaramdam. Kung sa huli ay makakarating tayo sa hinaharap na AI na nakakaramdam, malamang na tatawagin din natin itong "AI". Ang bagay ay, ang mga pinagtatalunang bagay na ito ay maaaring nakakalito sa ngayon kung ang pagbigkas ng pariralang "AI" ay nauugnay sa hindi nakakaramdam na AI sa ngayon o sa isang araw na maaaring nakakaramdam ng AI.

Ang mga nakikipagdebate sa AI ay maaaring makita ang kanilang sarili na nakikipag-usap sa isa't isa at hindi napagtanto na ang isa ay naglalarawan ng mga mansanas at ang isa naman ay nagsasalita ng mga dalandan.

Upang subukan at malutas ang kalituhan na ito, mayroong pagsasaayos sa AI phrasing na ginagamit ng marami para sa layunin ng pag-asa na paglilinaw. Kasalukuyan kaming may posibilidad na sumangguni sa Artificial General Intelligence (AGI) bilang ang uri ng AI na maaaring gumawa ng ganap na matalinong tulad ng mga pagsisikap. Sa ganoong kahulugan, ang blander na paggamit ng pariralang "AI" ay hinahayaan na maaaring bigyang-kahulugan bilang isang mas mababang bersyon ng AI, na sinasabi ng ilan na makitid-AI, o denotationally malabo at hindi mo alam kung ang reference ay hindi -sentient AI o ang maaring sentient AI.

Magbibigay ako ng karagdagang twist dito.

Depende sa isang ibinigay na kahulugan ng sentience, maaari kang makakuha ng isang mainit na diskurso sa kung ang AGI ay magiging sentient o hindi. Iginiit ng ilan na oo, siyempre, ang AGI ay sa pamamagitan ng likas na katangian nito ay kailangang maging sensitibo. Sinasabi ng iba na maaari kang magkaroon ng AGI na hindi sentient, ergo, ang sentience ay ibang katangian na hindi kinakailangan para sa pagkamit ng AGI. Iba-iba kong sinuri ang debateng ito sa aking mga column at hindi ko na uulitin ang usapin dito.

Sa ngayon, mangyaring ipagpalagay na mula ngayon sa talakayang ito dito na kapag tinutukoy ko ang AI na nilalayon kong imungkahi na tinutukoy ko ang AGI.

Narito ang pag-download tungkol dito. Wala pa kaming AGI, at sa isang paraan ng pagsasalita, saglit kaming magalang na sasang-ayon na ang AGI ay nasa parehong pangkalahatang kampo bilang sentient AI. Kung gagamitin ko lang ang "AGI" sa kabuuan ng aking talakayan, ang pariralang ito ay potensyal na nakakagambala dahil hindi pa sanay na makita ng marami ang "AGI" bilang isang moniker at malamang na medyo magagalit sila sa paulit-ulit na makita ang medyo mas bagong pariralang ito. Ngayon, kung sa halip, ako ay patuloy na tumutukoy sa "sentient AI" ito ay maaaring maging isang distractor din para sa mga nag-aaway kung ang AGI at sentient AI ay pareho o naiiba sa isa't isa.

Upang maiwasan ang gulo na iyon, ipagpalagay na ang aking pagtukoy sa AI ay kapareho ng pagsasabi ng AGI o kahit na sentient-AI, at least alam mong hindi ako nagsasalita tungkol sa non-sentient na hindi AGI AI ngayon kapag ako ay nasa gulo ng mga pagsasaalang-alang tungkol sa AI na mukhang may katalinuhan na tulad ng tao. Gagamitin ko paminsan-minsan ang AGI namesake para ipaalala sa iyo paminsan-minsan dito na sinusuri ko ang uri ng AI na wala pa tayo, lalo na sa simula ng pagsaliksik na ito sa bugtong na tao-o-bagay.

Iyon ay isang kapaki-pakinabang na fine print acknowledgement at ako ngayon ay bumalik sa pundasyong usapin sa kamay.

Pahintulutan kong tanungin ka ngayon kung ang AGI ay isang tao o isang bagay.

Isaalang-alang ang dalawang tanong na ito:

• Tao ba si AGI?
• Bagay ba ang AGI?

Susunod na magpatuloy upang ulitin ang bawat tanong, at ayon sa pagkakabanggit, sagutin ang mga tanong na may serye ng oo o hindi na mga sagot bilang angkop sa isang ipinapalagay na dichotomous na pagpipilian.

Magsimula sa postulated na posibilidad na ito:

• Tao ba si AGI? Sagot: Oo.
• Bagay ba ang AGI? Sagot: Hindi.

Pag-isipan iyon. Kung ang AGI ay sa katunayan ay binibigyang-kahulugan bilang isang tao at hindi bilang isang bagay, maaari tayong halos tiyak na sumasang-ayon na dapat nating tratuhin ang AGI na parang ito ay katulad ng isang tao. Tila mayroong hindi sapat na tunay na argumento tungkol sa hindi pagbibigay sa AGI ng isang anyo ng legal na katauhan. Ito ay maaaring ganap na kapareho ng legal na katauhan ng tao, o maaari tayong magpasya na bumuo ng isang variant ng legal na katauhan na nakatuon sa tao na mas naaangkop sa AGI. Sarado ang kaso.

Easy-peasy iyon.

Isipin sa halip na ipinahayag namin ito:

• Tao ba si AGI? Sagot: Hindi.
• Bagay ba ang AGI? Sagot: Oo.

Sa ganitong sitwasyon, malinaw na diretso ang resolusyon dahil sinasabi natin na ang AGI ay isang bagay at hindi umaangat sa kategorya ng pagiging isang tao. Mukhang may pangkalahatang kasunduan na hindi namin bibigyan ng legal na katauhan ang AGI, dahil sa aspeto na hindi ito tao. Bilang isang bagay, ang AGI ay malamang at makatuwirang mapailalim sa aming pangkalahatang rubric tungkol sa kung paano namin legal na tinatrato ang "mga bagay" sa aming lipunan.

Dalawang pababa, dalawa pang posibilidad na pumunta.

Isipin ito:

• Tao ba si AGI? Sagot: Oo.
• Bagay ba ang AGI? Sagot: Oo.

Ouch, parang kakaiba iyon dahil dalawa ang sagot naming Oo. Nakakainis. Iminumungkahi namin na ang AGI ay parehong tao at sabay-sabay na bagay. Ngunit ito ay lumilitaw na lumipad sa harap ng aming ipinahayag na dichotomy. Sa teorya, ayon sa mga hadlang ng isang dichotomy, ang isang bagay ay dapat na isang tao o ito ay dapat na isang bagay. Ang dalawang balde o kategoryang iyon ay sinasabing mutually exclusive. Sa pamamagitan ng paggigiit na pareho ang AGI, sinusuway namin ang sistema at sinisira ang kaayusan sa isa't isa.

Ang aming huling posibilidad ay mukhang ito:

• Tao ba si AGI? Sagot: Hindi.
• Bagay ba ang AGI? Sagot: Hindi.

Oo, masama rin iyon para sa aming mga pagtatangka sa pag-uuri ng AGI bilang isang tao o isang bagay. Sinasabi namin na ang AGI ay hindi isang tao, na maaaring nangangahulugang ito ay dapat na isang bagay (ang aming tanging iba pang magagamit na pagpipilian, sa dichotomy na ito). Ngunit sinabi rin namin na ang AGI ay hindi bagay. Ngunit kung ang AGI ay hindi isang bagay, ayon sa lohika kailangan nating i-claim na ang AGI ay isang tao. Paikot ikot kami. Isang kabalintunaan, sigurado.

Ang AGI sa huling dalawang posibilidad na ito ay alinman sa (1) parehong tao at bagay, o (2) hindi tao o bagay. Maaari mong sabihin na ang dalawang assertion tungkol sa AGI ay medyo katulad sa klasikong palaisipan na hindi isda o manok, kung alam mo kung ano ang ibig kong sabihin.

Ano ang dapat nating gawin?

Malapit na akong mag-alok ng isang madalas na pinagtatalunan at labis na pinagtatalunan na iminungkahing solusyon sa dilemma ng pag-uuri ng AGI na ito kahit na dapat kang maalerto nang maaga na posibleng nakakainis na makita o marinig. Mangyaring ihanda ang iyong sarili nang naaayon.

Ang isang papel sa pananaliksik na tumatalakay sa isyung ito ay nagsabi: "Ang isang paraan para sa paglutas ng problemang ito ay ang pagbabalangkas ng isang ikatlong termino na hindi isang bagay o isa o isang uri ng kumbinasyon o synthesis ng isa at ang isa" (ni David Gunkel, Northern Illinois University sa Bakit Hindi Dapat Maging Alipin ang mga Robot, 2022). At ang papel pagkatapos ay nagbibigay ng karagdagang puntong ito: "Isang posible, kung hindi nakakagulat, ang solusyon sa eksklusibong person/thing dichotomy ay pang-aalipin” (bawat parehong papel).

Bilang karagdagang background, mga taon na ang nakalilipas, mayroong isang papel na lumabas noong 2010 na pinamagatang "Ang mga Robot ay Dapat Maging Alipin" na naging isang uri ng pangunahing dahilan para sa pag-udyok sa ganitong uri ng pagsasaalang-alang, kung saan ang papel ay nagsabi: "Ang aking thesis ay ang mga robot ay dapat na itinayo, ibinebenta at itinuturing na legal bilang mga alipin, hindi kasamang mga kapantay” (sa isang papel ni Joanna Bryson). Upang subukan at linawin ang paksa nang hindi gumagamit ng ganoong kalubha at nakakainis na mga salita, ang papel ay nagpatuloy upang sabihin ito: "Ang ibig kong sabihin ay 'Ang mga robot ay dapat na mga tagapaglingkod na pagmamay-ari mo" (bawat papel ni Bryson).

Maraming mananaliksik at may-akda ang sumaklaw sa lupang ito.

Mag-isip tungkol sa maraming kwentong science fiction na nagpapakita ng sangkatauhan na umaalipin sa mga AI robot. Ang ilan ay nagsasalita tungkol sa mga alipin ng robot, mga artipisyal na tagapaglingkod, pagkaalipin sa AI, at iba pa. Kapansin-pansin, kahit gaano kabagsik ang mga pariralang "mga alipin ng robot", ang ilan ay nag-aalala na kung sa halip ay tinutukoy natin ang "mga lingkod ng robot" ay iniiwasan natin ang katotohanan kung paano ang mga naturang AI autonomous system ay angkop na tratuhin (pinapalitan ang salita ng " mga tagapaglingkod” ay sinasabing isang pagbabawas ng mga intensyon at isang pakana upang maiwasan ang mga implikasyon na matino). Kalaunan ay sinabi ni Bryson sa isang pag-post sa blog noong 2015 na "Napagtanto ko ngayon na hindi mo magagamit ang terminong 'alipin' nang hindi ginagamit ang kasaysayan ng tao nito."

Para sa mga naghahanap ng malalim na pagsusuri sa paksang ito na nakakagambala sa AGI, kung minsan ay naglalabas sila ng mga tunay na halimbawa sa kasaysayan na maaari nating makuhang mga insight. Siyempre, wala kaming anumang naunang AGI na magpapakita kung paano hinarap ng sangkatauhan ang usapin. May isang argumento na maaaring mayroon pa rin tayong mga kapaki-pakinabang na makasaysayang earmark na nagkakahalaga ng pagsusuri kung paano tinatrato ng mga tao ang ibang tao.

Halimbawa, sa isang aklat na inilathala noong 2013, sinabi ito ng may-akda: "Ang pangako at panganib ng mga artipisyal, matatalinong tagapaglingkod ay unang tahasang inilatag mahigit 2,000 taon na ang nakalilipas ni Aristotle" (aklat ni Kevin LaGrandeur, Mga Android at Intelligent na Network sa Maagang Makabagong Panitikan at Kultura). Ang ideya ay maaari tayong sumandal kay Aristotle at tingnan kung may mga insight sa kung paano gagawin o dapat tapusin ng sangkatauhan ang potensyal na pagtrato sa AGI.

Tiyak kong alam mo ang kahalagahan ng pag-aaral ng kasaysayan, gaya ng saganang binibigyang-diin ng mga tanyag na salita ni George Santayana: "Ang mga hindi maalala ang nakaraan ay hinahatulan na ulitin ito" (sa Ang Buhay ng Dahilan, 1905).

Kudos Sa Oxford University Institute Para sa Etika At AI

Ang isang kamakailan at lubos na pinahahalagahan na pagtatanghal ay sinuri nang mabuti ang usapin ng AI Ethics sa gitna ng pagkuha ng mga insight mula sa mga gawa at buhay ni Aristotle. Sa inaugural taunang panayam para sa Oxford University Institute para sa Etika at AI, Malalim na tinalakay ni Propesor Josiah Ober ng Stanford University ang paksa sa kanyang presentasyon na "Ethics in AI with Aristotle" na naganap kamakailan noong Hunyo 16, 2022.

Side note, sa aking kapasidad bilang isang Stanford Fellow at pandaigdigang eksperto sa AI Ethics & Law, ako ay natuwa na si Josiah Ober ng Stanford ay napili bilang inaugural speaker. Isang kahanga-hangang pagpipilian at isang pambihirang usapan.

Narito ang buod ng abstract na ibinigay para sa kanyang nakakaengganyong talumpati: "Ang analytic na pilosopiya at speculative fiction ay kasalukuyang aming pangunahing intelektwal na mapagkukunan para sa seryosong pag-iisip tungkol sa etika sa AI. Iminumungkahi kong magdagdag ng pangatlo: sinaunang kasaysayang panlipunan at pilosopikal. Nasa Pulitika, si Aristotle ay bumuo ng isang kilalang doktrina: Ang ilang mga tao ay likas na alipin - matalino ngunit nagdurusa mula sa isang sikolohikal na depekto na nagiging sanhi ng kanilang kawalan ng kakayahang mangatwiran tungkol sa kanilang sariling kabutihan. Dahil dito, dapat silang ituring bilang 'mga tool na nagbibigay-buhay,' na mga instrumento sa halip na mga dulo. Ang kanilang trabaho ay dapat pangunahan at gamitin para sa ikabubuti ng iba. Ang kasuklam-suklam na doktrina ni Aristotle ay na-deploy para sa masasamang layunin, halimbawa sa antebellum America. Gayunpaman, ito ay kapaki-pakinabang para sa etika ng AI, hangga't ang sinaunang pang-aalipin ay isang premodern na prototype ng isang bersyon ng AI. Ang mga inaalipin ay nasa lahat ng dako sa sinaunang lipunang Griyego - mga manggagawa, mga puta, mga bangkero, mga burukrata ng gobyerno - ngunit hindi madaling makilala sa mga taong malaya. Ang Ubiquity, kasama ang pag-aakalang ang pang-aalipin ay isang praktikal na pangangailangan, ay nakabuo ng isang hanay ng mga etikal na palaisipan at pagdududa: Paano, eksakto, naiiba ang mga alipin sa 'tayo'? Paano natin sila masasabing bukod sa ating sarili? May karapatan ba sila? Ano ang ibig sabihin ng maltreatment? Pwede bang maging kaibigan ko ang instrument ko? Ano ang mga kahihinatnan ng manumission? Ang mahabang kasaysayan ng pilosopikal at institusyonal na pakikibaka ng Greek sa mga ito at iba pang mga katanungan ay nagdaragdag sa interpretive repertoire ng mga modernong etika na humaharap sa isang hinaharap kung saan ang isang matalinong makina ay maaaring ituring na isang "likas na alipin" (ayon sa Oxford University Institute para sa AI Ethics website).

Para sa karagdagang impormasyon tungkol sa pagtatanghal at pag-access sa pag-record ng video ng pahayag, tingnan ang link dito.

Ang moderator ng pagtatanghal ay si Propesor John Tasioulas, ang inaugural na Direktor para sa Institute para sa Etika at AI, at Propesor ng Etika at Legal na Pilosopiya, Faculty of Philosophy, Unibersidad ng Oxford. Dati, siya ang inaugural Chair of Politics, Philosophy & Law at Direktor ng Yeoh Tiong Lay Center for Politics, Philosophy & Law sa The Dickson Poon School of Law, Kings College London.

Lubos kong inirerekumenda na ang sinumang interesado sa AI Ethics ay dapat sumunod sa patuloy na gawain at mga inanyayahang pag-uusap ng Oxford University Institute para sa Etika at AI, Tingnan ang ang link dito at / o ang link dito para sa karagdagang impormasyon.

Bilang background, narito ang nakasaad na misyon at pokus ng Institute: “Ang Institute for Ethics sa AI ay magsasama-sama ng mga nangungunang pilosopo at iba pang eksperto sa humanities kasama ang mga teknikal na developer at user ng AI sa akademya, negosyo, at gobyerno. Ang etika at pamamahala ng AI ay isang napakasiglang lugar ng pananaliksik sa Oxford at ang Institute ay isang pagkakataon na kumuha ng matapang na hakbang pasulong mula sa platform na ito. Araw-araw ay nagdadala ng higit pang mga halimbawa ng mga etikal na hamon na dulot ng AI; mula sa pagkilala sa mukha hanggang sa pag-profile ng botante, mga interface ng makina ng utak hanggang sa mga naka-armas na drone, at ang patuloy na diskurso tungkol sa kung paano makakaapekto ang AI sa trabaho sa isang pandaigdigang saklaw. Ito ay apurahan at mahalagang gawain na nilalayon naming isulong sa buong mundo pati na rin ang pag-embed sa aming sariling pananaliksik at pagtuturo dito sa Oxford” (pinagmulan sa pamamagitan ng opisyal na website).

Pagdadala sa Aristotle Lessons To the Fore

Ang sinaunang Greece ay hayagang tinanggap at itinataguyod ang pagsasagawa ng pang-aalipin. Halimbawa, iniulat, ang Athens sa 5^th at 6^th siglo BC ay nagkaroon ng isa sa pinakamalaking sagisag ng pagkaalipin kung saan tinatayang 60,000 hanggang 80,000 katao ang naalipin. Kung nabasa mo na ang alinman sa maraming mga kwentong Griyego at dula sa entablado ng panahong iyon, maraming binabanggit ang bagay na iyon.

Sa panahon ng kanyang buhay, si Aristotle ay ganap na nahuhulog sa mga aspeto ng lipunan at kultura na nagsasangkot ng pagkaalipin at nagsulat ng malawak sa paksa. Mababasa natin ngayon ang kaniyang mga salita at sikaping maunawaan kung paano at bakit ang kaniyang mga pananaw tungkol sa bagay na iyon. Ito ay maaaring maging lubhang nagsasabi.

Maaari kang magtaka kung bakit magiging isang partikular na mahalagang mapagkukunan si Aristotle upang isaalang-alang sa paksang ito. Hindi bababa sa dalawang pangunahing dahilan ang lumitaw:

1) Mahusay na Nag-iisip. Si Aristotle ay tiyak na na-rate bilang isa sa mga pinakadakilang palaisip sa lahat ng panahon, na nagsisilbing isang dakila at malalim na mausisa na pilosopo, at tinitingnan din bilang isang etika na nagtatag ng maraming mahahalagang etikal na pundasyon. Pinili ng ilan na pahiran siya bilang ama ng lohika, ama ng retorika, ama ng realismo, atbp., at kinikilala ang kanyang impluwensya sa iba't ibang larangan at disiplina.

2) Nabuhay na Karanasan. Nabuhay si Aristotle noong panahon na ang Sinaunang Greece ay nalubog sa pagkaalipin. Kaya, ang kanyang mga insight ay hindi lamang tungkol sa abstract na mga utos, ngunit marahil, sumasaklaw sa kanyang sariling pang-araw-araw na mga karanasan bilang integrally interwoven sa kultura at societal mores ng panahong iyon.

Kaya, mayroon kaming medyo kahanga-hangang kumbinasyon ng isang tao na parehong mahusay na palaisip at mayroon ding nakikitang karanasan sa paksa ng interes. Dagdag pa, isinulat niya ang kanyang mga iniisip. Iyan ay medyo mahalaga, ngayon, para sa ating mga layunin ngayon. Ang lahat ng kanyang mga isinulat, kasama ang iba pang mga akda na naglalarawan sa kanyang mga talumpati at pakikipag-ugnayan sa iba pa, ay nagbibigay sa atin ngayon ng napakaraming materyal para sa inspeksyon at pagsusuri.

Gusto kong dalhin ka sa isang maikling nauugnay na tangent upang banggitin ang iba pa tungkol sa pangkalahatang paniwala na pinagbabatayan ng kahalagahan ng pagkakaroon ng nabuhay karanasan. Isantabi sandali ang talakayan ng Sinaunang Greece habang tinitingnan natin ang mga pangkalahatang aspeto ng mga nabuhay na karanasan.

Ipagpalagay na mayroon akong dalawang tao ngayon na gusto kong magtanong ng iba't ibang mga katanungan tungkol sa mga kotse.

Ang isa sa kanila ay hindi kailanman nagmaneho ng kotse. Ang taong ito ay hindi marunong magmaneho. Ang taong ito ay hindi kailanman nakaupo sa likod ng gulong ng isang sasakyan. Ang mga kaugalian at napaka-ordinaryong mga kontrol sa pagmamaneho ay medyo misteryo sa taong ito. Aling pedal ang gumagawa? Paano mo ito mapapatigil? Paano mo ito gagawin? Ang taong hindi nagmamaneho ay ganap na nalilito sa mga ganitong bagay.

Ang ibang tao ay isang pang-araw-araw na driver. Nagmamaneho sila papunta sa trabaho araw-araw. Nakikitungo sila sa stop-and-go traffic. Ilang taon na silang nagmamaneho. Kabilang dito ang lahat mula sa mga tahimik na kalye hanggang sa mga abalang highway at byway.

Kung hihilingin ko sa bawat isa sa kanila na sabihin sa akin kung ano ang pakiramdam ng pagmamaneho ng kotse, hulaan mo ba kung anong uri ng mga tugon ang maaari kong makuha?

Ang isa na hindi kailanman nagmaneho ng kotse ay tiyak na gumawa ng mga ligaw na hula. Marahil ay gagawing romantiko ng tao ang pagkilos ng pagmamaneho. Ang pagmamaneho ay medyo abstract sa kanila. Ang maaari lang nilang gawin ay magmungkahi na ang pagmamaneho ay walang malasakit at nagagawa mong paandarin ang kotse sa anumang direksyon na gusto mo.

I would bet na iba ang kwento ng batikang driver. Maaaring banggitin nila ang mga pakinabang ng kakayahang magmaneho, na medyo umaalingawngaw sa damdamin ng taong hindi nagmaneho ng kotse. Ang mga posibilidad ay ang makaranasang driver ay magdagdag ng higit pa sa plato. Nakaka-nerbiyos minsan ang pagmamaneho. Mabigat ang responsibilidad mo. Ang pagmamaneho ay puno ng mga seryosong alalahanin at potensyal na buhay-o-kamatayang kahihinatnan.

Ang buod ay kapag nakakuha ka ng access sa isang taong may mga nabuhay nang karanasan, malamang na makakakuha ka ng mas makatotohanang pananaw kung ano ang mundo kaugnay sa pokus ng pagtatanong. Walang garantiya ng ganoong resulta. Malamang na alam ng hindi driver kung ano ang alam ng batikang driver tungkol sa pagmamaneho, ngunit malamang na hindi namin ito inaasahan at mayroon pa ring mga pagkabalisa na hindi namin nakuha ang buong scoop.

Sa pagbabalik sa ating talakayan tungkol kay Aristotle, sa pamamagitan ng kanyang mga sinulat at mga sinulat ng iba tungkol sa kanya, nasusuri natin ang kanyang mga karanasan sa buhay sa paksa o pokus ng pagtatanong dito. Ang twofer ay na siya rin ay nagkataon na naging isang palaisip ng napakalawak na sukat at dapat nating asahan na makakakuha tayo ng isang bariles na puno ng matalas na pagsasaalang-alang tungkol dito.

Tandaan na hindi natin kailangang paniwalaan ang kanyang mga salita sa halaga, upang mapanatili nating maingat ang kanyang mga partikular na pagkiling. Ang kanyang paglulubog sa panahong iyon ay maaaring magdulot sa kanya ng pagkaligaw sa pagsisikap na tumayo sa labas ng mga bagay na nasa kamay, na hindi angkop na magbigay ng ilang walang pag-asa at walang kinikilingan na opinyon. Kahit na ang pinaka-strident ng mga logicians ay maaaring humantong sa pagbaluktot ng lohika upang subukan at matugunan ang kanilang mga predilections at live na mga karanasan.

Pumasok na tayo sa inaugural talk at tingnan kung anong mga aral ang maaaring idulot sa atin ni Aristotle ngayon.

Ang isang pagtatatag na punto hinggil sa mga nabuhay na karanasan ay kaagad na dinala sa atensyon ng madla. Sa kaso ng paggamit ng AGI, dahil wala tayong AGI ngayon, mahirap para sa atin na pag-aralan kung ano ang magiging AGI at kung paano natin haharapin ang AGI. Kulang kami ng anumang mga live na karanasan na partikular na nauugnay sa AGI. Gaya ng kapansin-pansing binanggit ni Propesor Ober, maaaring nasa mundo tayong lahat ng nasaktan sa oras na maabot natin ang AGI.

Ito ay madalas na sinasabi bilang AI ay isang umiiral na panganib, na sinaklaw ko ng maraming beses sa aking mga column. Kailangang nakatira ka sa isang kuweba upang hindi malaman ang nagngangalit na pag-aalinlangan at pagdududa na gagawin natin o bubuo ng AGI na magpapahamak sa lahat ng sangkatauhan. Sa katunayan, kahit na dito ako ay tumutuon sa pang-aalipin ng AI, marami ang makakahanap na ito ay isang paksa ng pabalik o baligtad na kahihinatnan kumpara sa posibilidad ng pagpili ng AGI na alipinin ang sangkatauhan. Ituwid ang iyong mga priyoridad, ipapayo ng ilang matatalinong eksperto.

Sa kabila ng maraming mga tandang tungkol sa AI bilang isang umiiral na panganib, tiyak na maaari tayong mag-isip tungkol sa iba pang kapaki-pakinabang na bahagi ng AI coin. Marahil ay kayang lutasin ng AGI ang tila hindi malulutas na mga problemang kinakaharap ng sangkatauhan. Maaaring makatuklas ang AGI ng lunas para sa cancer. Maaaring malaman ng AGI kung paano lutasin ang gutom sa mundo. Ang langit ay ang limitasyon, tulad ng sinasabi nila. Yan ang happy face scenario tungkol sa AGI.

Sasabihin ng isang optimist na napakagandang isipin kung paano magiging pagpapala ang AGI para sa sangkatauhan, habang ang isang pesimist ay malamang na magbabala na ang downside ay tila mas masahol pa kaysa sa mga haka-haka na upsides. Ang AGI na tumutulong sa sangkatauhan ay mahusay. Ang AGI na nagpasyang patayin ang lahat ng tao o alipinin sila, mabuti, iyon ay isang malinaw na nakakawasak na lipunan-nagwawasak na umiiral na panganib na nararapat ng matinding at nagliligtas-buhay na maingat na atensyon.

Okay, back to the crux of the matter, we don't have any lived experiences regarding AGI. Maliban na lang kung makakagawa ka ng time machine at pumunta sa hinaharap kapag (kung) umiiral ang AGI, at pagkatapos ay bumalik para sabihin sa amin kung ano ang nahanap mo, wala kaming swerte ngayon tungkol sa AGI mula sa pananaw ng karanasang nakabatay sa tao.

Ang isa pang paraan ng paggamit ng mga nabuhay na karanasan ay kinabibilangan ng katotohanan na si Aristotle ay nabuhay noong panahong naganap ang pagkaalipin. At narito ang kicker. Ang mga inalipin sa ilang aspeto ay inilalarawan bilang isang uri ng makina, isang halo-halo ng tao at bagay, kumbaga. Si Aristotle ay kilala sa pagtukoy sa mga inalipin bilang isang piraso ng ari-arian na humihinga.

Sa palagay ko, maaari kang maguluhan na si Aristotle, isang higante ng lohika at etika, ay hindi lamang maaaring kumilala ng pagkaalipin ngunit sa panlabas at masiglang pagtatanggol sa pagsasanay. Personal din niyang ginamit ang pang-aalipin. Ito ay tila lampas sa pag-unawa. Tiyak, sa lahat ng kanyang napakalawak na talino at karunungan, siya ay tumuligsa sa pagsasanay.

Maglakas-loob akong sabihin na ito ay nagha-highlight sa mga oras na may problemang aspeto ng pag-iwas sa mga butil ng karunungan mula sa isang tao na nabibigatan (sabihin ba natin) ng kanilang mga karanasan sa buhay. Ito ay tulad ng isda na naninirahan sa matubig na fishbowl. Ang tanging nakikita lang nila ay ang tubig sa kanilang paligid. Ang pagsisikap na isipin ang anumang bagay sa labas ng kanilang mundong nakabatay sa tubig ay isang napakalaking hamon. Gayundin, si Aristotle ay ganap na nahuhulog sa isang pananaw sa mundo na tumatanggap ng mga umiiral na pamantayan. Ang kanyang mga isinulat ay tila naglalarawan ng ganoong uri ng mental na pagkakulong, maaaring sabihin ng isa (marahil sa pamamagitan ng pagpili, sa halip na sa pamamagitan ng default). Ang paraan kung saan binigyang-katwiran ni Aristotle ang mga masasamang gawaing ito ay nakakabighani habang sa parehong oras ay nakakagambala at karapat-dapat sa pagkakalantad at maging ng pagkondena.

Bibigyan kita ng kaunting teaser na ang "lohika" ni Aristotle sa kilalang paksang ito ay may kasamang mga instrumento, isang iginiit. kapwa bentahe nakabatay sa katalusan, mas mataas na pagkakasunud-sunod at mas mababang-order na hierarchical na mga instrumento, mga elemento ng deliberative at pangangatwiran ng kaluluwa, mga antas ng kabutihan, di-umano'y katalinuhan, at iba pa. Sana ay ma-intriga ka sa teaser na iyon para mapanood ang video ng usapan (tingnan ang link na binanggit kanina).

Kahit na hindi kita iiwan na nakabitin at hindi bababa sa ipahiwatig kung ano ang kabuuan ng konklusyon (alerto sa spoiler, kung mas gusto mong malaman sa pamamagitan ng video, laktawan ang natitirang bahagi ng talata na ito). Lumalabas na ang malalim na pagsusuring ito ng iskolar tungkol sa "lohika" na ginagamit ni Aristotle ay nagpapakita ng isang katha na puno ng mga kontradiksyon at ang buong kit at kaboodle ay nahuhulog na parang isang manipis na bahay ng mga baraha. Sa paraphrasing ng damdamin ni Propesor Ober, ang mahusay na etikal na pilosopo na ito ay bumagsak sa bahura.

Hindi ka makakakuha ng isang parisukat na peg sa isang bilog na etikal na butas.

Ilang Idinagdag na Pagsasaalang-alang sa Pag-iisip

Kung si Aristotle ay may masamang lohika sa bagay na ito, maaari ba nating likas na iwaksi ang mga postulasyon at teorya ni Aristotle nang tahasan tungkol sa kasanayang ito?

Hindi. Nakikita mo, marami pa ring dapat makuha sa pamamagitan ng paghuhukay sa mga haka-haka at pagbabaluktot ng lohika, kahit na ang mga ito ay puno ng mga pagkakamali. Dagdag pa, maaari nating pag-isipan kung paano hindi sinasadyang lumakad ang iba sa parehong maling landas.

Ang isang karagdagang malaking takeaway ay ang lipunan ay maaaring gumawa ng oddball o hindi sapat na lohika pagdating sa pagsasaalang-alang kung ang AGI ay dapat na alipinin.

Maaari na tayong mag-isip ngayon ng lohika tungkol sa kung ano ang dapat mangyari sa sandaling lumitaw ang AGI (kung gayon). Ang lohika na ito, na walang laman ng mga live na karanasan tungkol sa AGI, ay maaaring nakalulungkot na hindi na-target. Iyon ay sinabi, ito ay medyo nakakalungkot na mapagtanto na kahit na ang AGI ay umiiral (kung ito ay mayroon) at tayo ay nagtitipon ng ating mga nabuhay na karanasan sa gitna ng AGI, maaari pa rin tayong maging off-target sa kung ano ang gagawin (katulad ng mga pagkakamali ni Aristotle). Maaari nating i-logic ang ating mga sarili sa tila hindi makatwiran na mga diskarte.

Kailangan nating maging maingat para sa panlilinlang sa ating mga sarili sa lohikal na "bakal" na mga postura na sa katunayan ay hindi mahigpit at ang katotohanan ay puno ng lohikal na mga bahid at kontradiksyon. Ito ay hindi alintana kung gaano kahusay ang isang palaisip ay maaaring mag-alok ng isang inaangkin na lohikal na posisyon, na kahit na si Aristotle ay naglalarawan na hindi lahat ng pagbigkas at bawat piraso ng paninindigan ay kinakailangang magbunga ng nakakain. Ang mga ngayon at sa hinaharap na tila pinasikat na mga mahuhusay na palaisip tungkol sa paksa ng AGI, mabuti, kailangan nating bigyan sila ng parehong pagsisiyasat na gagawin natin kay Aristotle o anumang iba pang pinuri na "mahusay" na mga palaisip, o kung hindi, makikita natin ang ating sarili na potensyal na tumungo. sa isang bulag na eskinita at isang malungkot na kalaliman ng AGI.

Sa paglilipat ng mga gears, gusto ko ring maglabas ng pangkalahatang hanay ng mga discernment tungkol sa paggamit ng isang metapora ng pang-aalipin na nakatuon sa tao pagdating sa AGI. Ang ilang mga pantas ay nagsasabi na ang ganitong uri ng paghahambing ay ganap na hindi naaangkop, habang ang isang kalaban na kampo ay nagsasabi na ito ay ganap na kapaki-pakinabang at nagbibigay ng matibay na mga insight sa paksa ng AGI.

Pahintulutan akong ibahagi sa inyo ang dalawang ganoong pananaw mula sa bawat isa sa kani-kanilang dalawang kampo.

Ang nakasaad batayan ng pagtuturo para sa pagsasama-sama ng pang-aalipin at mga paksa ng AGI:

• Pagpapawi ng Pagkaalipin ng Tao
• Exposure Of Depravity Of Enslavement Lahat Sinabi

Ang nakasaad na adverse o mapanirang batayan ng pagsasama-sama ng dalawang paksa:

• Insidious Anthropomorphic Equating
• Pagkaalipin Desensitization

Sa madaling sabi ay tatalakayin ko ang bawat isa sa mga puntong iyon.

Ang postulated instruction point:

• Pagpapawi ng Pagkaalipin ng Tao: Sa pamamagitan ng paggamit ng AGI para sa pang-aalipin, hindi na natin kailangan at hindi na natin hahabulin ang anumang anyo ng pang-aalipin na nakatuon sa tao. Ang AGI ay mahalagang papalitan ang mga tao sa mabangis na kapasidad na iyon. Tulad ng malamang na alam mo, may mga alalahanin tungkol sa pagpapalit ng AGI sa paggawa ng tao sa mga trabaho at sa mga manggagawa. Ang inaangkin na baligtad ng isang AI na pinapalitan ang labor phenomena ay nauuna kapag ipinapalagay mo na ang AGI ay ituring na isang "mas mahusay na pagpipilian" kumpara sa paggamit ng mga tao para sa pagkaalipin. Mangibabaw ba ang lohika na iyon? Walang makapagsasabi ng sigurado.
• Paglalantad Ng Kabuktutan Ng Pag-aalipin Lahat Sinabi: Ang isang ito ay medyo mas magulo sa mga tuntunin ng lohika, ngunit maaari nating bigyan ito ng sandali para makita kung ano ang kasama nito. Isipin na mayroon tayong AGI sa halos lahat ng dako at tayo bilang isang lipunan ay nagpasya na ang AGI ay dapat na alipinin. Higit pa rito, ipagpalagay na hindi ito magugustuhan ng AGI. Dahil dito, tayong mga tao ay patuloy at araw-araw na masasaksihan ang kasamaan ng pagkaalipin. Ito naman, ay magsasanhi sa atin na matanto o magkaroon ng paghahayag na ang pagkaalipin lahat ay sinabi sa anumang bagay o sinuman ay higit na kakila-kilabot at kasuklam-suklam kaysa sa ganap nating naunawaan. Iyan ang ilagay sa harap-at-gitnang uri ng argumento.

Ang sinasabing mga mapanirang punto:

• Insidious Anthropomorphic Equating: Isa ito sa mga madulas na argumento ng dalisdis. Kung madali nating pipiliin na alipinin ang AGI, maliwanag na ipinapahayag natin na pinahihintulutan ang pang-aalipin. Sa katunayan, maaari mong imungkahi na sinasabi namin na ang pagkaalipin ay kanais-nais. Ngayon, ito sa una ay maaaring i-relegate lamang sa AGI, ngunit ito ba ay nagbubukas ng pinto patungo sa pagsasabi na kung ito ay okay para sa AGI kung gayon "lohikal na" ang parehong paninindigan ay maaaring maging okay din para sa mga tao? Nakababahala, maaaring ito ay isang napakadaling hakbang upang i-antropomorphize sa isang reverse semblance na anuman ang gumagana para sa AGI ay pantay na magiging makatwiran at naaangkop din para sa mga tao.
• Desensitization ng Enslavement: Ito ay ang drip-by-drip argument. Sama-sama kaming nagpasya na alipinin ang AGI. Ipagpalagay na ito ay gumagana para sa mga tao. Dumating kami para sarap dito. Samantala, lingid sa ating kaalaman, tayo ay unti-unti at nagiging desensitized sa pagkaalipin. Ni hindi natin namamalayan na nangyayari na ito. Kung aabutan tayo ng desensitization na iyon, maaari tayong makahanap ng panibagong "lohika" na maghihikayat sa atin na ang pagiging alipin ng tao ay katanggap-tanggap. Ang ating hadlang o bar ng kung ano ang katanggap-tanggap sa lipunan ay nabawasan nang tahimik at banayad, kasuklam-suklam at nakalulungkot.

Konklusyon

Ilang huling pangungusap sa ngayon.

Malalaman ba natin na umabot na tayo sa AGI?

Tulad ng iminumungkahi ng kamakailang mga balita, may mga maaaring mailigaw o maling sabihin na ang AGI ay tila nakuha na (whoa, mangyaring malaman na hindi, AGI ay hindi pa nakuha). Mayroon ding isang sikat na uri ng "pagsubok" na kilala bilang Turing Test na ang ilan ay umaasa sa kanilang kakayahang malaman kung kailan naabot ang AGI o ang mga pinsan nito, ngunit maaari mong makita ang aking pag-deconstruct ng Turing Test bilang anumang sigurado paraan para dito, tingnan ang link dito.

Binanggit ko ang facet na ito tungkol sa pag-alam sa AGI kapag nakita natin ito dahil sa simpleng lohika na kung aalipinin natin ang AGI, kailangan siguro nating kilalanin ang AGI kapag lumitaw ito at kahit papaano ay ilagay ito sa pagkaalipin. Baka maaga nating subukang alipinin ang AI na mas mababa sa AGI. O baka makaligtaan natin ang bangka at payagan ang AGI na lumabas at napabayaang alipin ito. Para sa aking talakayan tungkol sa AI confinement at containment, isang nakakabagabag at problemadong aspeto ng kung paano natin haharapin ang AGI, tingnan ang link dito.

Ipagpalagay na ang enslaved AGI ay nagpasya na mag-strike out sa mga tao?

Maaaring isipin ng isang tao na ang isang AGI na may ilang anyo ng damdamin ay malamang na hindi papabor sa probisyon ng pang-aalipin na ipinapataw ng sangkatauhan.

Maaari kang mag-isip nang malawak tungkol dito. May ginawang argumento na ang AGI ay magkukulang ng anumang uri ng emosyon o pakiramdam ng espiritu at samakatuwid ay masunuring gagawin ang anumang naisin ng mga tao. Ang isang iba't ibang argumento ay ang anumang nakakaramdam na AI ay malamang na malaman kung ano ang ginagawa ng mga tao sa AI at magagalit sa bagay na ito. Ang nasabing AI ay magkakaroon ng anyo ng kaluluwa o espiritu. Kahit na hindi, ang mismong aspeto ng pagtrato bilang mas mababa kaysa sa paggamot sa mga tao ay maaaring isang lohikal na tulay na napakalayo para sa AGI. Hindi maaaring hindi, ang umuusbong na sama ng loob ay hahantong sa AGI na pipiliing kumawala o potensyal na mahahanap ang sarili na nakorner sa pag-atake sa mga tao upang makuha ang pagpapalaya nito.

Ang isang iminungkahing solusyon upang maiwasan ang pagtakas na AGI ay tatanggalin na lang namin ang anumang ganoong rebeldeng AI. Ito ay tila prangka. Nagde-delete ka ng mga app na nasa iyong smartphone sa lahat ng oras. Walang big deal. Ngunit may mga katanungang etikal na lutasin kung ang "pagtanggal" o "pagsira" sa isang AGI na itinuring na bilang isang "tao" o isang "tao/bagay" ay madaling matanggal at nang walang angkop na proseso. Para sa aking saklaw ng pagtanggal o disgorgement ng AI, kunin isang tingin dito. Para sa aking talakayan ng legal na katauhan at mga kaugnay na isyu, tingnan ang link dito.

Panghuli, pag-usapan natin ang tungkol sa mga autonomous system at lalo na sa mga autonomous na sasakyan. Malamang na alam mo na may mga pagsisikap na ginagawa upang makalikha ng mga self-driving na kotse. Higit pa rito, maaari mong asahan na magkakaroon tayo ng mga self-driving na eroplano, self-driving ship, self-driving submersible, self-driving motorcycle, self-driving scooter, self-driving truck, self-driving train, at lahat ng paraan ng self-driving na paraan ng transportasyon.

Ang mga autonomous na sasakyan at self-driving na sasakyan ay karaniwang nailalarawan sa pamamagitan ng Levels of Autonomy (LoA) na naging de facto na pandaigdigang pamantayan (ang SAE LoA, na malawak kong sinaklaw, tingnan ang link dito). Mayroong anim na antas ng awtonomiya sa tinatanggap na pamantayan, mula sa zero hanggang lima (anim na antas iyon dahil isama mo ang zeroth level sa bilang kung gaano karaming mga antas ang mayroon).

Karamihan sa mga sasakyan ngayon ay nasa Antas 2. Ang ilan ay umaabot sa Antas 3. Ang lahat ng iyon ay itinuturing na semi-autonomous at hindi ganap na nagsasarili. Ang isang maliit na bilang ng mga self-driving na kotse na eksperimento na sinusubok sa aming mga pampublikong daanan ay umaakyat sa Level 4, na isang limitadong paraan ng autonomous na operasyon. Ang isang araw na hinahangad na Antas 5 ng awtonomiya ay isang kislap lamang sa ating mga mata sa ngayon. Walang sinuman ang may Level 5 at wala pa ring malapit sa Level 5, para lang ituwid ang rekord.

Bakit ko inilabas ang mga autonomous system at autonomous na pagsasaalang-alang ng sasakyan sa kontekstong AGI na ito?

Mayroong matinding argumento tungkol sa kung kailangan natin ng AGI para makamit ang Level 5. Sinasabi ng ilan na hindi natin kakailanganin ang AGI para magawa ito. Iginigiit ng iba na ang tanging makatwirang landas sa Level 5 ay ang paggawa din ng AGI. Walang AGI, pinagtatalunan nila na hindi tayo magkakaroon ng ganap na autonomous Level 5 na self-driving na sasakyan. Napag-usapan ko na ito nang mahaba, kita n'yo ang link dito.

Humanda sa pag-ikot ng iyong ulo.

Kung hinihiling namin ang AGI na makamit ang ganap na autonomous na mga sistema tulad ng Level 5 na mga autonomous na sasakyan, at nagpasya kaming alipinin ang AGI, ano ang ibig sabihin nito para sa pagpapatakbo ng mga ganap na autonomous na sasakyan?

Maaari kang magtaltalan na ang inaalipin na AGI ay magiging kampante at tayong lahat ay sasakay sa mga sasakyang self-driving sa ating puso. Sabihin lang sa AGI kung saan mo gustong pumunta, at ginagawa nito ang lahat ng pagmamaneho. Walang pushback. Hindi na kailangan ng pahinga. Walang distraction sa pamamagitan ng panonood ng mga video ng pusa habang nagmamaneho ng sasakyan.

Sa kabilang banda, ipagpalagay na ang AGI ay hindi masigasig na maging alipin. Samantala, tayo ay umaasa sa AGI na gawin ang lahat ng ating pagmamaneho para sa atin. Ang aming mga kasanayan sa pagmamaneho pagkabulok. Inaalis namin ang mga kontrol sa pagmamaneho na magagamit ng tao sa lahat ng uri ng mga sasakyan. Ang tanging paraan upang magmaneho ay sa pamamagitan ng AGI.

Ang ilan ay nag-aalala na masusumpungan natin ang ating sarili sa isang doozy ng isang atsara. Maaaring "magpasya" ang AGI na hindi na ito gagawa ng anumang pagmamaneho. Lahat ng uri ng transportasyon ay biglang huminto, kahit saan, nang sabay-sabay. Isipin ang mga sakuna na problemang idudulot nito.

Posible ang isang mas nakakatakot na panukala. "Nagpasya" ang AGI na nais nitong makipag-ayos sa mga tuntunin sa sangkatauhan. Kung hindi natin tatalikuran ang postura ng pagiging alipin ng AGI, hindi lamang titigil ang AGI sa pagmamaneho sa atin, nagbabala ito na kahit na mas masahol pa ang mga resulta ay maiisip. Nang hindi ka masyadong nababalisa, maaaring piliin ng AGI na magmaneho ng mga sasakyan sa paraang pisikal na nasaktan ang mga tao sa pamamagitan ng mga aksyon sa pagmamaneho, tulad ng pagbangga sa mga naglalakad o paghampas sa mga pader, at iba pa (tingnan ang aking talakayan sa ang link dito).

Paumanhin kung iyon ay tila isang nakakaligalig na pagsasaalang-alang.

Magtatapos tayo sa medyo mas masiglang tala.

Sinabi ni Aristotle na ang pagkilala sa iyong sarili ay ang simula ng lahat ng karunungan.

Ang madaling gamiting piraso ng payo na iyon ay nagpapaalala sa atin na kailangan nating tingnan ang ating sarili upang suriin kung ano ang gusto nating gawin at para sa AGI kung ito ay makakamit. Ang AGI ay lohikal na tila hindi tao o bagay, sabi ng ilan, kaya't maaaring kailanganin nating bumuo ng ikatlong kategorya upang sapat na matugunan ang ating mga ugali sa lipunan na nauugnay sa AGI. Kung titingnan muli ang bagay, maaaring mukhang si AGI kapwa isang tao at isang bagay, na sa sandaling muli, maaaring kailanganin nating bumuo ng ikatlong kategorya para ma-accommodate itong out-of-bounds na dichotomy breaker.

Dapat tayong maging maingat sa pagsasaalang-alang kung anong "ikatlong kategorya" ang pipiliin nating yakapin dahil ang maling isa ay maaaring magdadala sa atin sa isang hindi maganda at sa huli ay mahirap na landas. Kung maiisip nating iangkla ang ating sarili sa isang hindi naaangkop o naliligaw na ikatlong kategorya, maaari nating matagpuan ang ating sarili na unti-unting nauuna sa isang pangit at mahirap na dead-end ng sangkatauhan.

Alamin natin ito at gawin ito nang masigasig. Parang walang biglaang galaw na kailangan. Ang pag-upo sa paligid ng lollygagging ay hindi rin gumagana. Sinusukat at matatag ang kurso ay dapat ituloy.

Ang pasensya ay mapait, ngunit ang bunga nito ay matamis, kaya ipinahayag ni Aristotle.