Kapag hindi siya nagsusumikap sa pagpapabilis ng pagmamadali ng sangkatauhan patungo sa Singularity sa pamamagitan ng paglikha ng isang artificial general intelligence (AGI), si Ben Goertzel ay gumaganap sa isang jazz-rock band na tinatawag na Jam Galaxy na pinangungunahan ng isang robot na pinangalanang Desdemona.
Isa ito sa marami niyang side project, na natural na nagtulak sa kanya na subukan at gawing tokenize ang negosyo ng musika sa pamamagitan ng pakikipag-ugnayan sa mga miyembro ng Pearl Jam at Heart. Nagsusumikap din si Goertzel sa pananaliksik sa mahabang buhay sa pamamagitan ng crowdsourcing ng data ng kalusugan ng tao na may mga token reward sa pamamagitan ng isang app na tinatawag na Rejuve.ai. Ang impormasyong iyon ay pinagsasama-sama sa data ng pag-aaral ng hayop at insekto at sinusuri gamit ang AI upang matukoy kung aling mga bahagi ng mga genome ang maaaring magpahaba sa atin ng buhay at pagkatapos ay mapasigla gamit ang mga gene therapies. "Nagkaroon kami ng ilang medyo kapansin-pansin na mga pagtuklas sa antas ng tagumpay," sabi niya. Oh, at bago matapos ang aming isang oras na panayam, bigla niyang binanggit bilang isang tabi na gumagawa din siya ng stablecoin para sa kanyang desentralisadong AI marketplace, SingularityNET na naka-pegged sa isang sintetikong index ng pag-unlad sa kapaligiran — dahil ang paglalagay nito sa US dollars ay magiging “pilay.”
"Ang pag-unlad sa kapaligiran ay napaka-stable. Hindi ito napupunta kahit saan," itinuro niya.
"At para manipulahin ito, kailangan mo talagang lutasin ang global warming."
Ito ang eksaktong uri ng komentong pampulitika na nakakatugon sa high-tech na kaalaman na maaari mong asahan mula kay Goertzel, na mukhang hippie scientist na napadpad sa isang time machine noong 1971 at ganap na nabuo noong 2023. Ngunit huwag magpalinlang sa ang animal print hat, mahabang buhok at Electric Kool-Aid acid trip drawl: Siya ay isang napakatalino na siyentipiko na may kaalaman sa hinaharap na mga light years na nauuna sa karamihan at kung sino ang nakikipagbuno sa ilan sa mga pinakamalaking konseptong napag-isipan ng sangkatauhan. Ano ang kamalayan? Paano tayo gagawa ng artipisyal na buhay, at ano ang mangyayari kung hindi tayo nito gusto, nagiging rogue, at binabaril ang lahat tulad ng sa Terminator 2?
Ano ang artificial general intelligence?
Pinasikat ni Goertzel ang terminong "artipisyal na pangkalahatang katalinuhan" bilang isang paraan upang makilala ang isang tunay na makina sa pag-iisip na maaaring matutunan ang halos anumang bagay, sa mga AI na na-optimize para sa isang partikular na gawain, tulad ng Deep Blue na computer na sikat na tinalo ang world chess champion na si Garry Kasparov. Malaya niyang inaamin na may mga panganib sa pagbuo ng isang makina na may kakayahang matuto ng anuman at lahat, kabilang ang kung paano i-reprogram ang sarili nito upang maging isang order ng magnitude na mas matalino kaysa sa sinumang tao.
"Mayroong ilang mga panganib at panganib sa AGI," sabi ni Goertzel sa ingay sa isang Indian restaurant sa isang abalang shopping center sa Singapore. "Isa sa mga ito na nakakuha ng maraming atensyon ng media ay ang AGI ay tatakbo at lipulin ang sangkatauhan at sakupin ang uniberso. Ito ay ganap na posible; hindi mo maitatapon ito,” sabi niya.
"Ang isa pang mas malamang na panganib ay ang mga pangit na makasarili na tao ay gagamit ng AI upang isagawa ang kanilang sariling kasakiman at kontrol sa ibang mga tao."
Sa kanyang pananaw, ang mga gobyerno ay malamang na hindi makagawa ng mga tagumpay sa AGI dahil sila ay "masyadong konserbatibo at hangal," kahit na sinabi niya na kinokontrata ng China ang trabaho nito sa AGI sa mga kumpanya tulad ng Tencent at Baidu. Mas malapit sa bahay, sa palagay niya ang mga dibisyon ng AI ng Google at Facebook ay hindi rin makakalampas sa linya, dahil sila ay magiging masyadong nakatuon sa paggawa ng AI sa ilang mga sukatan, na hindi nakakatulong sa malikhaing pag-iisip.
“Tulad ng mga pinakamatalino na tao na hindi nais na maghatid lamang ng mga sukatan ng ibang tao, sa palagay ko ang artipisyal na pangkalahatang katalinuhan ay hindi rin gustong i-maximize ang click-through sa web page ng isang tao, tama ba? Dapat itong payagang maglaro nang malikhain.”
The Singularity circa 1970
Nagsimula si Goertzel sa unibersidad sa edad na 15, nagtapos sa edad na 18, nagkaroon ng doctorate noong 22 at isang batang pamilya noong 23. Marahil ay hindi karaniwan sa panahon ngayon, hindi lang siya isang math whiz o tech genius na nagsoldered ng mga kit computer noong dekada '70 ngunit parehong interesado sa pilosopiya, malikhaing pagsulat at musika.
Ginugol niya ang karamihan sa kanyang karera sa pagtuturo at pagsasaliksik ng computer science, matematika at cognitive science sa iba't ibang unibersidad sa buong mundo habang nagtatrabaho sa AI tech tuwing kaya niya. Isang serial founder na malamang na mauna ng halos isang dekada kaysa sa iba sa kanyang mga ideya — na, sa negosyo, sikat na katumbas ng pagiging mali — nagtrabaho siya sa paggamit ng AI para mahulaan ang mga financial market at longevity, at nagkaroon din siya ng stint bilang punong siyentipiko ng Hanson Robotics, kung saan ibinigay niya kay Sophia the Robot ang kanyang artipisyal na utak.
Iniisip ni Goertzel ang tungkol sa exponential technological growth mula noong 1970s nang una niyang basahin ang Gerald Feinberg's Ang Prometheus Project, na tungkol sa "mga makina na mas makapag-isip kaysa sa mga tao... mga makina ng nanotechnology na maliit sa mikroskopiko, at lulutasin natin ang pagtanda." Ito ay katugma ng mabuti sa umuusbong na konsepto ng Singularity, isang hypothetical na hinaharap na punto kapag ang mga pag-unlad ng teknolohiya ay naging hindi makontrol at hindi maibabalik, na nagreresulta sa napakalaking pagbabago sa sibilisasyon ng tao.
"Kaya, ang mga tao ay mabubuhay magpakailanman, at ang tanong ay, Para saan natin ginagamit ang mga teknolohiyang ito, mabilis na walang isip na consumerism, o ginagamit ba natin ito upang palawakin ang kamalayan? At ang iminungkahi niya [Feinberg] ay ilagay iyon sa isang demokratikong boto."
Makalipas ang ilang taon, nang magsimula siyang makitang abot-kamay namin ang AGI, naging inspirasyon ang “demokratikong boto” na ito na unang gumamit ng open-source na teknolohiya at, nang maglaon, ang blockchain bilang isang paraan upang ilagay ang isang kooperatiba na komunidad sa pamamahala sa teknolohiya.
"Ang napagtanto ko sa isang tiyak na punto ay, sa AI, ang pagkakaroon ng code na bukas ay hindi sapat," sabi niya. "Kailangan mo talagang sanayin ang AI sa isang shitload ng data."
“Dito dumarating ang blockchain bilang isang paraan upang gawing desentralisado at ma-crowdsourced ang pagpoproseso at ang data na pinagbabatayan ng AI at bukas sa kontrol. At iyon ay lumalabas na mas nakakalito kaysa sa open-sourcing lamang ng code."
Itinatag ni Goertzel ang OpenCog noong 2008 upang bumuo ng isang open-source, crowd-sourced artificial intelligence framework. Ito ay ginamit ng 50 kumpanya, kabilang ang Huawei at Cisco, at nakatakda para sa isang malaking pag-upgrade sa lalong madaling panahon na tinatawag na Hyperon na naglalayong pabilisin ito ng 200 beses. Ang alpha na bersyon ay nakatakda sa quarter na may beta na inaasahan sa susunod na taon.
Ang Blockchain ay basic ngunit cool
Para kay Goertzel, ang teknolohiya ng blockchain ay medyo basic. Inilalarawan niya ito bilang ilang primitive distributed algorithm na idinagdag sa cryptography, ngunit ang "cool na kumbinasyon" ay nagbibigay-daan sa mga system na tumakbo nang walang sentralisadong kontrol, na ginagawa itong perpekto para sa kanyang mga pangangailangan.
"Kung gagawa ka ng isang thinking machine at gagawin mo itong ipamahagi ang nanoscale computing fabric, magiging napakabuti kung ito ay pagmamay-ari ng lahat at walang sinuman sa halip na kontrolin ang itaas pababa."
Masyadong mabagal ang mga Blockchain upang harapin ang mga kinakailangan sa pagpoproseso at napakalaking dami ng data na kasangkot, kaya may isang bagay sa isang lahi upang maayos na sukatin ang blockchain bago bumuo ng isang tagumpay na AGI. Sinabi ni Goertzel na habang ang pag-scale ng mga solusyon tulad ng zero-knowledge rollups ay mas mahusay, wala pa rin silang sapat na bandwidth dahil sa mga limitasyon ng blockchain kung saan sila nag-uulat ng mga transaksyon.
Itinatag niya ang SingularityNET noong 2017, na parehong desentralisadong marketplace para sa mga serbisyo at teknolohiya ng AI at isang paraan ng koordinasyon na nakabatay sa blockchain para sa mga mananaliksik - o kahit na mga AI - upang magtulungan.
Sa kasalukuyan, batay sa Ethereum, sa palagay niya ay itinulak niya ang mga bagay-bagay sa abot ng kanilang makakaya sa blockchain sa kasalukuyang anyo nito. Kaya, kapag hindi siya gumagawa ng isang pambihirang tagumpay sa AGI (o ang banda, o mga robot, o mahabang buhay), siya ay nagsusumikap sa malawakang pag-scale ng blockchain upang mabigyan ito ng kinakailangang throughput.
"Maliban kung maaari mong radikal na mapataas ang scalability ng blockchain, hindi mo maaaring ilagay ang panloob na mga gawain ng AI on-chain."
Ang AI ay mas malapit kaysa sa iyong iniisip
Ang 2022 ay isang mahalagang taon para sa mga gumaganang produkto batay sa teknolohiya ng AI, kabilang ang mga application ng wika (GPT-3, ChatGPT), coding (GitHub Copilot) at pagbuo ng imahe (DALL-E at Stable Diffusion). Plano pa ng Bing na kunin ang dominasyon sa paghahanap ng Google sa taong ito sa pamamagitan ng pagsasama ng ChatGPT tech sa search engine nito.
Iniisip ni Goertzel na ang isang AGI ay maaaring nasa limang taon pa lang at ang mga tala ng mga pag-unlad sa larangan ay tila napupunta sa maikling tatlo o apat na taong pagsabog sa isang serye ng mga tagumpay.
“Nagsimula ang Computer Vision noong 2014, tapos bigla na lang, na-solve ang misteryo. Natural na pagpoproseso ng wika... pagkatapos makabuo ang Google ng modelong Bert (noong 2018) nagkaroon ka ng GPT-3. Malamang na makikita mo ang parehong arko ng pag-unlad sa AGI. Magkakaroon ka ng isang pambihirang tagumpay, pagkatapos ay isang mahusay na pag-unlad sa loob ng dalawang taon, "sabi niya.
"Ang pagkakaiba ay ang pagsulong ng tagumpay, sa kasong iyon, ay nagreresulta sa isang makina na maaaring magpatuloy sa pag-unlad mismo sa pamamagitan ng muling pagsusulat ng sarili nitong code."
Umaasa si Goertzel na ang mga proyekto at pakikipagtulungan na itinakda niya ay maaaring kung paano ito nangyayari.
"Kung kami ay mapalad, makakamit namin ang tagumpay na iyon sa susunod na tatlo hanggang limang taon sa OpenCog Hyperon na tumatakbo sa SingularityNET na tumatakbo sa Hypercycle," sabi niya. "Ngunit kung hindi tayo magkakaroon ng lihim na sarsa, may iba pa."
Si Vitalik ay hindi isang computer scientist
Ang solusyon ni Goertzel sa pag-scale ng blockchain ay medyo radikal at nagsasangkot ng turbo-charging ng sidechain o layer 2 ng Cardano na tinatawag na “HyperCyle.”
"Ito ay talagang higit pa sa isang sidechain. Ang HyperCycle ay makikipagtulungan din sa Ethereum at iba pang mga blockchain, ngunit gagamitin namin ang Plutus interpreter doon, ngunit aalisin namin ang ledger.
Inilarawan niya ang HyperCycle online bilang paglutas ng "blockchain trilemma" ng "desentralisasyon kumpara sa seguridad kumpara sa pagganap sa pamamagitan ng pag-alis sa ledger at paggamit ng mas moderno/ganap na desentralisadong algos at mga istruktura ng data, kasama ang kaunting AI at mga sistema ng reputasyon."
Ang ledger ay nasa puso ng blockchain tech, ngunit sinabi niya na ang pagkuha ng bawat node sa network upang kopyahin ang bawat transaksyon at iproseso ang bawat matalinong kontrata ay katawa-tawa na hindi mabisa.
“Masama lang ang ledger. Kung iisipin mo, kung iisipin mo ang pagkakatulad ng iyong mga contact sa iyong phonebook, ang ibig kong sabihin, ang ledger ay parang […] nag-iingat ng 10,000 kopya ng Yellow Pages, at ina-update mo ang mga ito tuwing may bagong darating o kung may tao. nagpapalit ng kanilang numero ng telepono. Talagang katangahan ang pag-update ng 10,000 kopya ng Yellow Pages.”
Basahin din
Sa bersyon ng HyperCycle ng pagkakatulad, sa halip na lahat ay mag-imbak at mag-update ng mga Yellow page, ang mga tao sa iyong contact book ay nag-iimbak ng isang kopya ng iyong address book, at kabaliktaran, na naka-encrypt gamit ang iyong pribadong key.
“Naisip namin kung paano paandarin ang blockchain nang walang replicating ledger, kaya pababain ang lahat. Ang bawat indibidwal na nakikibahagi sa blockchain ay nagpapanatili ng kanilang sariling kasaysayan ng transaksyon at pinapanatili ang kasaysayan ng transaksyon ng kanilang mga kaibigan at ilang mga kaibigan ng kanilang mga kaibigan,” sabi niya.
“Ang sharding hanggang sa ibaba, hindi mo kailangan ng ledger — hindi mo kailangan ng database table. Masyadong sentralisado ang mga bagay na ito."
Sinabi niya na ang ilang proof-of-concept na HyperCycle node ay gumagana na, ngunit ang isang buong-scale na paglulunsad ay hindi mangyayari hanggang sa ikalawang kalahati ng 2024.
Gumugugol kami ng mahabang panahon sa pagtalakay sa iba't ibang merito ng iba't ibang diskarte sa blockchain, mula sa Internet Computer hanggang Elastos at Celestia, na karamihan ay mas mataas sa aking grado sa suweldo at higit pa sa kakayahan ng aking recording device na tumpak na makuha sa isang maingay na restaurant.
Nagtapos siya sa pagsasabing, "Kaya, pakiramdam ko wala sa mga arkitektura na ito ay sapat na radikal. Lahat sila ay napakalapit sa Bitcoin.”
"Hangga't pinapatakbo mo ang bawat matalinong kontrata sa bawat node, ang ibig kong sabihin, ito ay magiging mabagal. Ngayon, sa HyperCycle, kung magpapatakbo ka ng matalinong kontrata sa limang node, hindi bababa sa limang beses lang itong mas mabagal kaysa sa isang makina — hindi ito 10,000 beses na mas mabagal.”
Bakit Cardano, kung gayon?
Naging palakaibigan si Goertzel sa tagapagtatag ng Cardano na si Charles Hoskinson, kasama ang pares na nagsasama sa kanilang mga proyekto sa Africa. Naniniwala siya na si Hoskinson ay "tunay na nariyan upang iligtas ang mundo. Ibig kong sabihin, sa pulitika, mas hardcore libertarian siya kaysa sa akin — mas anarcho-socialist ako — pero hindi lang siya para kumita o tangayin ang ibang tao sa pera nila.”
Ngunit ang tunay na apela ng Cardano ay ang paggamit nito ng Haskell programming language, na naging tagahanga ni Goertzel mula noong 1993. Napakasakit sa kanya na sumama ang co-founder ng Ethereum na si Vitalik Buterin sa smart contract programming language ni Gavin Wood na Solidity.
"Kung alam lang ni Vitalik ang mas maraming agham sa computer, ginawa niya silang gumamit ng Haskell o F Sharp o isang bagay, at magkakaroon ng mas kaunting mga hack ng blockchain," sabi niya.
“Kung tatakbo ka sa halos lahat ng ekonomiya ng mundo, nakikipagkalakalan ng trilyong dolyar sa ilang software system, mas makabubuti na buuin mo ang software system na iyon sa isang wikang hindi madaling kapitan ng mga bug at kung saan ang iyong mga algorithm ay maaaring maging pormal. napatunayan gamit ang isang matematikal na teorya. Ito lang ang tamang paraan para gawin ang mga bagay-bagay.”
Stop-gap solution
Gaano man kabilis ang blockchain, sa sandaling ang AGI ay isang order ng magnitude na mas matalino at mas may kakayahan kaysa sa mga tao, sinabi ni Goertzel na hindi nito hahayaan ang sinuman na kontrolin ito.
"Kapag ang isang AGI ay 100 beses na mas matalino kaysa sa mga tao, ayaw nitong kontrolin natin, dahil hindi tayo makokontrol ng chimpanzee o isang asno, di ba?"
“Then I would say the question is not one of us controlling it, ang tanong: Is it well disposed to us? Hahayaan ba nito ang mga tao na mag-regulate ng kanilang sariling negosyo at magbigay sa amin ng mga cool na tool at nano assembler para i-print nang 3D ang lahat ng bagay na gusto namin at mapagaling ang aming mga sakit?"
"Ngunit ang panahon ng paglipat kung kailan ang AGI ay nasa paligid ng parehong katalinuhan tulad ng mga tao, iyon ay kapag ang mga bagay ay mas touchy at mas kawili-wili. At ang tanong ay: Gusto ba ng AGI na makipagtulungan sa mga tao? O paranoid ba ito at gustong kontrolin ang mga tao bago nila ito sirain?"
Turuan mo ng mabuti ang iyong mga anak
Sa opinyon ni Goertzel, ang solusyon ay turuan ang AGI tungkol sa pangangalaga sa iba at tungkol sa pagkamalikhain at sining. Doon pumasok si Desdemona the Robot sa kanyang banda, at ang kanyang kapatid na si Grace — na idinisenyo upang magbigay ng pangangalaga sa matatanda.
Ang paraan ng pag-iwas sa isang AGI na maging Skynet ng Terminator ay ang hindi paggawa nito sa ganoong paraan sa unang lugar.
"Skynet, siyempre, sa pelikula ay isang network ng seguridad ng computer na nag-amok. Nilikha ito upang ipagtanggol ang sarili laban sa mga tao, "sabi niya.
"Ngunit kung bubuo ka ng unang AGI na gagawin sa pangangalaga ng nakatatanda at malikhaing sining at edukasyon habang ito ay nagiging mas matalino, ito ay nakatuon sa pagtulong sa mga tao at paglikha ng mga cool na bagay. Kung bubuo ka ng unang AGI para patayin ang mga masasamang tao... marahil ay patuloy nitong gagawin ang mga bagay na iyon."
"Kaya, kapaki-pakinabang o hindi, ito ay talagang bumaba sa kung anong mga application ang iyong binuo at kung ano ang iyong insentibo para sa."
Naniniwala siya na ang paglalagay ng mga AI sa mga katawan ng robot ay nakakatulong dahil nakakatulong itong ilagay ang mga ito sa totoong mundo, sa halip na ilang abstract na mathematical universe.
“Dapat matuto ang AI tungkol sa mundo ng tao at sa pisikal na mundo. Ang pagiging katawan sa mundo ay ang tamang paraan upang gawin iyon, "sabi niya.
Ngunit kapag iniharap niya si Sophia the Robot sa isang malaking madla, ang mga visual at auditory sensor ay madaling maging napakalaki, na nakakalito sa AI sa isang malakas at maliwanag na kapaligiran. Kaya, malapit nang ilunsad si Sophia sa metaverse, na tinatawag na Sophiaverse. Kalimutan ang nakakainip na text-based na mga sagot ng ChatGPT, si Sophia ay nasa isang 3D na virtual na mundo, at matututo siya sa pakikipag-ugnayan sa mga tao doon. Gayunpaman, nagbabala siya na malamang na magsasabi siya ng ilang mga pipi.
"Ito ay may neural net na katulad ng GPT-3 at iba pa, na may makabuluhang pasilidad upang sagutin ang iyong mga tanong, ngunit ang mga ito ay medyo hangal din sa ilang mga paraan."
sumuskribi
Ang pinaka nakakaengganyo na pagbabasa sa blockchain. Isang beses inihatid a
linggo.
Pinagmulan: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/