Ang Paglalantad At Pag-log Yaong Mga Generative AI ChatGPT ay Mali at Hallucinatory Output ay Nagdudulot ng Anumang Kabutihan, Nagtatanong sa AI Ethics At AI Law

Ikaw ay nasa para sa isang sikreto.

Oo, may palihim na nangyayari sa likod ng mga eksena tungkol sa pinakabago sa AI na maaaring gusto mong malaman.

Sa column ngayon, susuriin ko ang kamakailang impetus na mag-compile ng mga pinaghihinalaang error at iba pang mga sakit na nauugnay sa mga na-output na sanaysay mula sa isang AI app na kilala bilang ChatGPT. Ang partikular na app na ito ay gumagamit ng isang uri ng AI na tinatawag Generative AI. Malamang na narinig o nakita mo na ang mga kapansin-pansing headline tungkol sa generative-based AI at ChatGPT. Ang balita ay nalulugod sa partikular na AI app na ito at ang tila kahanga-hangang mga kakayahan na nauukol sa ganitong uri ng AI.

Habang tatalakayin ko sa ilang sandali, lubos na naniniwala ang ilan na kailangan naming magtatag ng isang listahan ng kung anong mga uri ng mga pagkakamali o error ang maaaring gawin ng AI app kapag nakabuo ito ng isang sanaysay para sa iyo. Iminumungkahi ng iba na kahit na ang paniwala ng naturang listahan ay kahanga-hanga, ito ay isang ehersisyo na walang kabuluhan at mamumunga ng napakakaunting bunga.

Susuriin natin ang magkabilang panig ng mapanlinlang na debateng iyon.

Una, siguraduhin nating lahat tayo ay nasa parehong pahina tungkol sa kung ano ang binubuo ng Generative AI at kung ano ang tungkol sa ChatGPT.

Ang ChatGPT ay isang general-purpose AI interactive conversational-oriented system, sa esensya ay isang mukhang hindi nakapipinsalang pangkalahatang chatbot, gayunpaman, ito ay aktibo at masigasig na ginagamit ng mga tao sa mga paraan na nakakaakit sa marami. Ang kailangan mo lang gawin para magamit ang ganitong uri ng AI ay maglagay ng prompt at ang AI app ay bubuo para sa iyo ng isang sanaysay na sumusubok na tumugon sa iyong prompt.

Sa kasamaang palad, ito ay maaaring gamitin sa medyo hindi etikal o malikot na paraan. Ang isang partikular na nakakainis na pagkabalisa ay ang mga mag-aaral ay maaaring gumamit ng isang generative-based na AI app upang makagawa ng kanilang mga nakatalagang sanaysay para sa kanila, na ginagawa ito sa pamamagitan lamang ng paglalagay ng isa o dalawang pangungusap upang makuha ang app sa tamang direksyon. Nanghihinayang ang ilan na nangangahulugan ito na pipiliin ng mga mag-aaral na mandaya kapag nagsusulat ng mga sanaysay sa labas ng klase. Sinisikap ng mga guro na malaman kung ano ang gagawin, tingnan ang aking pagsusuri at mga rekomendasyon sa ang link dito.

Sa kabila ng patuloy na ingay ng kapuri-puri para sa ChatGPT, mayroong hindi gaanong kilalang alalahanin na pangunahing ipinahayag ng mga tagaloob ng AI na mayroong ilang kapansin-pansing isyu at pagkabalisa na dapat na alalahanin ng mga tao. Ang isang mahalagang downside ay ang mga sanaysay na ginawa ng AI app na ito ay maaaring magkaroon ng iba't ibang mga kasinungalingan na naka-embed, kabilang ang maliwanag na hindi totoo na mga katotohanan, mga katotohanan na mapanlinlang na inilalarawan, at maliwanag na mga katotohanan na ganap na gawa-gawa. Ang mga gawa-gawang aspeto ay madalas na tinutukoy bilang isang anyo ng Mga guni-guni ng AI, isang catchphrase na hindi ko gusto ngunit nalulungkot na tila nakakakuha pa rin ng tanyag na traksyon (para sa aking detalyadong paliwanag kung bakit ito ay pangit at hindi angkop na terminolohiya, tingnan ang aking saklaw sa ang link dito).

Gusto kong linawin ang isang mahalagang aspeto bago tayo pumasok sa kapal ng mga bagay sa paksang ito.

Nagkaroon ng ilang mga kalokohan outsized claim sa social media tungkol sa Generative AI iginiit na ang pinakabagong bersyon ng AI ay sa katunayan nararamdaman AI (hindi, mali sila!). Ang mga nasa AI Ethics at AI Law ay kapansin-pansing nag-aalala tungkol sa umuusbong na trend na ito ng mga nakalahad na claim. Maaari mong magalang na sabihin na ang ilang mga tao ay labis na nagsasaad kung ano ang aktwal na magagawa ng AI ngayon. Ipinapalagay nila na ang AI ay may mga kakayahan na hindi pa natin nakakamit. Nakakalungkot naman. Ang mas masahol pa, maaari nilang payagan ang kanilang sarili at ang iba na mapunta sa mga mahihirap na sitwasyon dahil sa isang pagpapalagay na ang AI ay magiging sensitibo o tulad ng tao sa kakayahang kumilos.

Huwag i-anthropomorphize ang AI.

Ang paggawa nito ay madadala sa iyo sa isang malagkit at nakakapagod na reliance trap ng pag-asa na gagawin ng AI ang mga bagay na hindi nito kayang gawin. Dahil dito, ang pinakabago sa generative AI ay medyo kahanga-hanga para sa kung ano ang magagawa nito. Magkaroon ng kamalayan kahit na may mga makabuluhang limitasyon na dapat mong patuloy na tandaan kapag gumagamit ng anumang generative AI app.

Kung interesado ka sa mabilis na lumalawak na kaguluhan tungkol sa ChatGPT at Generative AI lahat, gumawa ako ng isang nakatutok na serye sa aking column na maaari mong makitang nagbibigay-kaalaman. Narito ang isang sulyap kung sakaling magustuhan mo ang alinman sa mga paksang ito:

• 1) Mga Predictions Ng Generative AI Advances Paparating. Kung gusto mong malaman kung ano ang posibleng mangyari tungkol sa AI sa buong 2023 at higit pa, kabilang ang mga paparating na pag-unlad sa generative AI at ChatGPT, gugustuhin mong basahin ang aking komprehensibong listahan ng mga hula sa 2023 sa ang link dito.
• 2) Generative AI at Mental Health Advice. Pinili kong suriin kung paano ginagamit ang generative AI at ChatGPT para sa payo sa kalusugan ng isip, isang nakakabagabag na kalakaran, ayon sa aking nakatutok na pagsusuri sa ang link dito.
• 3) Konteksto At Generative AI Use. Gumawa rin ako ng seasonally flavored tongue-in-cheek na pagsusuri tungkol sa isang kontekstong nauugnay sa Santa na kinasasangkutan ng ChatGPT at generative AI sa ang link dito.
• 4) Mga Scammer na Gumagamit ng Generative AI. Sa isang nakakatakot na tala, naisip ng ilang scammer kung paano gamitin ang generative AI at ChatGPT para gumawa ng maling gawain, kabilang ang pagbuo ng mga email ng scam at kahit na paggawa ng programming code para sa malware, tingnan ang aking pagsusuri sa ang link dito.
• 5) Mga Pagkakamali ng Rookie Gamit ang Generative AI. Maraming tao ang parehong nag-overshoot at nakakagulat na nag-undershoot kung ano ang magagawa ng generative AI at ChatGPT, kaya tiningnan ko lalo na ang undershooting na kadalasang ginagawa ng AI rookies, tingnan ang talakayan sa ang link dito.
• 6) Pagharap sa Mga Generative AI Prompt At AI Hallucinations. Inilalarawan ko ang isang nangungunang diskarte sa paggamit ng mga add-on ng AI upang harapin ang iba't ibang isyu na nauugnay sa pagsubok na magpasok ng mga angkop na prompt sa generative AI, at may mga karagdagang AI add-on para sa pag-detect ng tinatawag na AI hallucinated na mga output at kasinungalingan, bilang sakop sa ang link dito.
• 7) Debunking Bonehead Claims Tungkol sa Pag-detect ng Generative AI-Produced Essays. Mayroong isang misguided gold rush ng AI apps na nagpapahayag na magagawang tiyakin kung ang anumang ibinigay na sanaysay ay ginawa ng tao kumpara sa AI-generated. Sa pangkalahatan, ito ay mapanlinlang at sa ilang mga kaso, isang walang kabuluhan at hindi mapagkakatiwalaang claim, tingnan ang aking saklaw sa ang link dito.
• 8) Role-Playing Via Generative AI Maaaring Magpahiwatig ng Mga Kakulangan sa Kalusugan ng Pag-iisip. Ang ilan ay gumagamit ng generative AI gaya ng ChatGPT para mag-role-playing, kung saan ang AI app ay tumutugon sa isang tao na parang nasa isang fantasy world o iba pang gawa-gawang setting. Ito ay maaaring magkaroon ng mga epekto sa kalusugan ng isip, kita n'yo ang link dito.

Talakayin natin ngayon ang kakanyahan ng generative AI at ChatGPT para malaman mo ang mga pundasyong kasangkot. Magiging handa na kaming tumalon sa isang masusing pagsusuri ng mga kasinungalingan na posibleng mabuo ng mga AI app na ito. Isasama ko ang ilang halimbawa ng paggamit ng ChatGPT, na tutulong sa iyong malinaw na maunawaan ang katangian ng kung ano ang nagagawa ng ganitong uri ng generative AI.

Pagbubukas ng Lata Ng Worms Sa Generative AI

Handa kaming sumisid sa ilang detalye tungkol sa AI.

Kung sanay na sanay ka na sa paksa ng generative AI at ChatGPT, maaari mong piliing i-skim sa madaling sabi ang aking mga punto at magpatuloy sa susunod na seksyon ng talakayang ito. Para sa iba pa, naniniwala ako na maaaring makatulong sa iyo ang pagpapaliwanag na ito.

Sa madaling sabi, ang generative AI ay isang partikular na uri ng AI na bumubuo ng teksto na parang ang teksto ay isinulat ng kamay at isip ng tao. Ang kailangan mo lang gawin ay magpasok ng isang prompt, tulad ng isang pangungusap tulad ng "Sabihin sa akin ang tungkol kay Abraham Lincoln" at ang generative AI ay magbibigay sa iyo ng isang sanaysay tungkol kay Lincoln. Ito ay karaniwang nauuri bilang generative AI na gumaganap text-to-text o mas gusto ng ilan na tawagan ito text-to-essay output. Maaaring narinig mo na ang tungkol sa iba pang mga mode ng generative AI, gaya ng text-to-art at text-to-video.

Ang una mong naisip ay maaaring hindi ito mukhang isang malaking bagay sa mga tuntunin ng paggawa ng mga sanaysay. Madali kang makakagawa ng online na paghahanap sa Internet at madaling makahanap ng tonelada at toneladang sanaysay tungkol kay Pangulong Lincoln. Ang kicker sa kaso ng generative AI ay ang nabuong sanaysay ay medyo kakaiba at nagbibigay ng orihinal na komposisyon sa halip na isang copycat. Kung susubukan mong hanapin ang sanaysay na ginawa ng AI online sa isang lugar, malamang na hindi mo ito matuklasan.

Ang Generative AI ay pre-trained at gumagamit ng isang kumplikadong mathematical at computational formulation na na-set up sa pamamagitan ng pagsusuri ng mga pattern sa mga nakasulat na salita at kwento sa buong web. Bilang resulta ng pagsusuri sa libu-libo at milyon-milyong nakasulat na mga sipi, ang AI ay maaaring maglabas ng mga bagong sanaysay at kuwento na isang mishmash ng kung ano ang natagpuan. Sa pamamagitan ng pagdaragdag sa iba't ibang probabilistic functionality, ang resultang text ay medyo kakaiba kumpara sa kung ano ang ginamit sa training set.

Kaya naman nagkaroon ng kaguluhan tungkol sa pagiging madaya ng mga estudyante kapag nagsusulat ng mga sanaysay sa labas ng silid-aralan. Ang isang guro ay hindi maaaring basta-basta kunin ang sanaysay na iginiit ng mga mapanlinlang na mag-aaral ay kanilang sariling sulatin at hinahangad na malaman kung ito ay kinopya mula sa ibang online na mapagkukunan. Sa pangkalahatan, walang anumang tiyak na dati nang sanaysay online na akma sa sanaysay na binuo ng AI. Ang lahat ng sinabi, ang guro ay kailangang malulungkot na tanggapin na ang mag-aaral ay nagsulat ng sanaysay bilang isang orihinal na piraso ng trabaho.

Sa ilang sandali, ipapakita ko sa iyo kung ano ang mangyayari kapag naglagay ka ng mga tanong o senyas sa generative AI. Gagamitin ko ang pinakabagong bersyon ng ChatGPT para ipasok ang aking mga senyas at nakolekta ang "mga sagot" o mga sanaysay na nabuo ng AI (tandaan na ang parehong ay maaaring gawin sa maraming iba pang magagamit na generative AI apps; pinili kong gamitin ChatGPT dahil nakakakuha ito ng limang minuto ng katanyagan ngayon).

Marahil ay maaaring makatulong ang maikling tangent tungkol sa ChatGPT sa sandaling ito.

Ang ChatGPT app ay ginawang available sa pangkalahatang publiko ilang buwan lang ang nakalipas. Sa pangkalahatan, ang mga generative na AI app na ito ay kadalasang naa-access lamang ng mga tagaloob ng AI. Ang hindi pangkaraniwang aspeto na ang ChatGPT ay maaaring gamitin ng sinuman sa pamamagitan lamang ng pagpasok ng isang email address at isang pangalan, mabuti, ito ay humantong sa maraming mga tao na nagpasya na subukan ito. Kasalukuyang malayang gamitin ang ChatGPT (ang isyu sa monetization ay isang nagbabantang dilemma para sa mga gumagawa ng AI).

Halos agad-agad nagkaroon ng napakalaking reaksyon sa social media habang ang mga tao ay nagtatakbo upang magbigay ng mga halimbawa kung ano ang magagawa ng generative AI. Ang kumpanyang gumagawa ng ChatGPT, OpenAI, ay nagpasyang isara ang mga pag-signup sa isang milyong user. Nagawa ng mga milyong user na iyon na bombahin ang mga airwaves ng lahat ng paraan ng mga kuwento at kuwento tungkol sa paggamit ng ChatGPT.

Maging maingat sa paniniwala sa kung ano ang sasabihin ng mga tao tungkol sa AI app. Marami sa mga taong ito ay walang kaalam-alam tungkol sa kung ano ang kanilang ginagamit. Para bang hindi pa sila nakakapagmaneho ng kotse at hindi man lang namalayan na may mga sasakyan, at bigla na lang silang nagkaroon ng pagkakataong magmaneho ng kotse. Kasunod ang lubos na pagkamangha.

Hindi ko sinasabi na ang generative AI ay hindi medyo kahanga-hanga. Ito ay. Binibigyang-diin ko lang na marami sa mga umuusbong na testimonial ang ginagawa ng marami na hindi nakakaalam kung ano ang magagawa ng AI ngayon. Kaming nasa loob ng AI ay gumagamit ng generative AI sa nakalipas na ilang taon. Siguro nasanay na tayo. Biglang, ang makita ang isang malaking crush ng mga tao touting ito sa rooftop ay excitedly energizing, ngunit din medyo nakakalito. Ang nakakaligalig na bahagi ay kapag ang mga tao ay nagpahayag na ang generative AI ay nararamdaman. Hindi ito. Huwag hayaang kumbinsihin ka ng sinuman kung hindi man.

Iyon ay sinabi, mayroong isang patuloy na mainit na debate sa larangan ng AI kung ang generative AI ay nasa landas sa sentience o kung marahil ay hindi. Ang isang pananaw ay kung patuloy tayong magpapalaki ng generative AI gamit ang mas mabilis na mga computer at mas malaking dami ng data tulad ng pag-scrape sa bawat pulgada ng Internet, halos kusang makarating tayo sa sentient AI. Ang iba ay nagtaltalan na ito ay lubos na hindi malamang. Iminumungkahi nila na ang generative AI ay maaaring isa sa maraming sangkap na kailangan. Mayroong kahit na mas madilim na pananaw na ang generative AI ay isang sideshow na nakakagambala sa atin mula sa mga tunay na tagumpay na kakailanganin natin para makamit ang sentient AI.

Maaari ka ring makakita ng kapansin-pansin na madalas na tinutukoy ng mga tagaloob ng AI Artipisyal na Pangkalahatang Katalinuhan (AGI) bilang aspirational goal para sa AI field. Dati, ang layunin ay makamit Artipisyal na Talino, ngunit ang AI moniker ay natubigan at nagulo. Kapag may nagsabing gumagawa sila ng AI work, hindi mo alam kung tinutukoy ba nila ang AI ngayon na hindi pare-pareho sa mga tao o kung ang tinutukoy nila ay isang futuristic human equivalency AI. Upang maibsan ang nakakapanghinayang pagkalito, ang mas bagong parirala ng AGI ay ginagamit sa mga araw na ito.

Lahat ng sinabi, ang generative AI sa ngayon ay hindi sentient, hindi rin ito AGI.

Mangyaring tandaan na tulad ng naunang napag-usapan, ang AI ay hindi nararamdaman. Ang mga nabuong tugon ng AI ay isang mathematical at computational na kumbinasyon ng mga salita sa tila matatas na mga sipi. Ito ay batay sa AI algorithm na sinanay sa mga dataset ng mga salita at kwento na isinulat ng mga tao (pangunahin na nai-post sa Internet). Inuulit ko ang babalang ito dahil walang alinlangang mahuhulog ka sa bitag ng pag-iisip na ang mga tugon na ito ay napakahusay na ang AI ay dapat na makaramdam. Nangyayari ito sa karamihan ng mga tao. Gaya ng hinihimok kanina, isantabi ang anthropomorphizing na iyon. Laging tandaan na ang mga tugon ay batay sa malawak na pagsusulat ng mga tao na umiiral sa Internet at sa gayon ay lubos na kahawig ng pagsulat ng tao.

May kailangan ka pang malaman.

Ang Generative AI na sinanay sa Internet sa isang hindi napigilang paraan ay may posibilidad na mag-bake sa anumang text-based na mga tugon na binubuo nito sa matematika at computation na paraan ng ilang nakakasakit na malabo na bagay, kabilang ang nakakasuklam na bastos na mga salita. Maraming nakakabaliw at maruruming bagay na naka-post doon sa web.

Nakita mo na, alam mo na ang ibig kong sabihin.

Ang mga kumpanyang gumagawa ng mga AI app na ito ay nag-aalala na ang kasabihang sanggol ay matapon sa tubig ng paliguan (isang matandang kasabihan, marahil ay magretiro na), na nangangahulugan na kung ang kanilang AI ay gumagawa ng mga nakakasakit na sanaysay o mga kuwento, ang mga tao ay aakyat sa mga armas tungkol sa AI. Nasaklaw ko na ang maraming nakaraang mga pagkakataon kung saan ang mga ganitong uri ng Natural Language Processing (NLP) AI app ay inihayag at hindi nagtagal ay lumabas sa kanila ang lahat ng uri ng kakila-kilabot na bagay (nasaklaw ko na ang mga pagkakataong ito sa aking column). Karamihan sa mga gumagawa ng AI ay natuto ng isang mahirap na aral tungkol sa pagpapahintulot sa kanilang mga paninda ng AI na hindi mapigil sa kanilang mga output.

Sa kaso ng ChatGPT, hinangad ng mga developer ng AI na maglagay ng ilang algorithmic at may kaugnayan sa data na mga pagsusuri at balanse upang pigilan ang kasamaan sa mga output ng AI. Ang bahagi nito ay nangyari sa oras ng pagsasanay. Bilang karagdagan, mayroong iba pang mga paraan sa isang real-time na pagtatangka upang maalis ang mga partikular na kakila-kilabot na mga output.

Maaari kang makakita ng interes na ang ilang mga tao na gumamit ng ChatGPT ay nakaisip na ng mga palihim na paraan upang makalibot sa mga guardrail na iyon sa pamamagitan ng paggamit ng iba't ibang panlilinlang. Nagaganap ang isang patuloy na sugal ng pusa at daga sa mga bagay na ito. Ang mga gumagawa ng mga panlilinlang na ito ay kung minsan ay ginagawa ito para sa kasiyahan nito, habang kung minsan sila (kahit hindi bababa sa inaangkin) ginagawa nila ito upang makita kung gaano kalayo ang AI ay maaaring iunat at magbigay ng isang kapaki-pakinabang na paraan ng pagbabala sa kahinaan at kahinaan ng mga namumuong ito. AI apps.

Nagpasya akong huwag subukang iwasan ang mga nakagawiang kontrol sa nakatutok na paggalugad na ito. Malinis ang output ng text. Tiyak, kung gusto ng isa na gawin ito, walang alinlangan na makakakuha ka ng ilang kakaiba at hindi kanais-nais na mga sanaysay na bubuo.

Ang mga sanaysay na ginawa ng karamihan sa mga generative na AI app na ito ay idinisenyo upang ihatid ang output na parang ito ay purong makatotohanan at tumpak. Kapag binasa mo ang mga ginawang sanaysay, makikita nila bilang ganap na tiwala. Karaniwang walang anumang uri ng indikasyon na maaaring mabato ang nilalaman. Ito ay sa pamamagitan ng pagpili ng mga gumagawa ng AI, na maaari nilang baguhin ang mga AI app upang maging mas transparent kung gusto nilang gawin ito ng AI app.

Minsan, nakakakuha ang isang generative AI app ng mga kasinungalingan sa gitna ng data ng pagsasanay ng hindi mapagkakatiwalaang impormasyon sa buong Internet. Walang "common sense" sa generative AI upang matukoy kung ano ang totoo laban sa mali. Higit pa rito, napakakaunting mga AI app ang may anumang cross-checking, at hindi rin sila nagpapakita ng anumang mga probabilidad na nauugnay sa kung ano ang kanilang ipinapadala.

Ang pang-ilalim na resulta ay nakakakuha ka ng tugon na parang naglalabas ito ng malaking katiyakan at dapat ay ganap na tama. Hindi kaya. Mayroong kahit isang pagkakataon na ang AI computationally made-up na bagay, na sa AI parlance ay tinutukoy bilang Mga guni-guni ng AI (isang likhang termino na tiyak na hindi ko gusto), tingnan ang aking talakayan sa ang link dito.

Ang mga gumagawa ng ChatGPT ay sumailalim sa isang sama-samang pagsisikap upang subukan at bawasan ang mga masasamang output. Halimbawa, gumamit sila ng variant ng kung ano ang kilala bilang RLHF (Reinforcement Learning from Human Feedback), kung saan bago nila inilabas ang AI sa publiko, kumuha sila ng mga tao upang suriin ang iba't ibang mga output at ipahiwatig sa AI kung may mga bagay na mali sa mga output na iyon tulad ng pagpapakita ng mga bias, masasamang salita, at ang gaya ng. Sa pamamagitan ng pagbibigay ng feedback na ito, nagawa ng AI app na ayusin ang computation at mathematically tungo sa pagbabawas ng paglabas ng naturang content. Tandaan na hindi ito isang garantisadong pamamaraan at may mga paraan pa rin na maaaring ilabas ng AI app ang naturang content.

Maaari kang makakita ng interes na ang ChatGPT ay nakabatay sa isang bersyon ng naunang AI app na kilala bilang GPT-3. Ang ChatGPT ay itinuturing na isang bahagyang susunod na hakbang, na tinutukoy bilang GPT-3.5. Inaasahan na ang GPT-4 ay malamang na maipalabas sa Spring ng 2023. Malamang, ang GPT-4 ay magiging isang kahanga-hangang hakbang pasulong sa mga tuntunin ng kakayahang makagawa ng tila mas matatas na sanaysay, lumalalim, at maging isang pagkamangha -kagila-gilalas na kagila-gilalas sa mga komposisyong kayang gawin.

Maaari mong asahan na makakita ng isang bagong yugto ng ipinahayag na pagkamangha pagdating ng tagsibol at ang pinakabago sa generative AI ay inilabas.

Ibinalita ko ito dahil may isa pang anggulo na dapat tandaan, na binubuo ng isang potensyal na Achilles heel sa mas mahusay at mas malaking generative AI app na ito. Kung ang sinumang vendor ng AI ay gagawa ng isang generative AI app na bumubula ng karumihan, maaari nitong sirain ang pag-asa ng mga gumagawa ng AI na iyon. Ang isang societal spillover ay maaaring maging sanhi ng lahat ng generative AI na magkaroon ng malubhang black eye. Ang mga tao ay walang alinlangan na lubos na magalit sa mga masasamang output, na nangyari nang maraming beses na at humantong sa maingay na pagkondena ng lipunan na sumasagot sa AI.

Isang huling paunang babala sa ngayon.

Anuman ang nakikita o nabasa mo sa isang generative na tugon ng AI tila upang maiparating bilang pulos makatotohanan (mga petsa, lugar, tao, atbp.), siguraduhing manatiling may pag-aalinlangan at handang suriing muli ang iyong nakikita.

Oo, ang mga petsa ay maaaring ihanda, ang mga lugar ay maaaring gawin, at ang mga elemento na karaniwan nating inaasahan na walang kapintasan ay lahat napapailalim sa mga hinala. Huwag paniwalaan ang iyong binabasa at panatilihin ang isang may pag-aalinlangan kapag sinusuri ang anumang generative na sanaysay o output ng AI. Kung sasabihin sa iyo ng isang generative AI app na si Abraham Lincoln ay lumipad sa buong bansa gamit ang sarili niyang pribadong jet, walang alinlangan na malalaman mo na ito ay malabo. Sa kasamaang palad, maaaring hindi mapansin ng ilang tao na ang mga jet ay wala sa kanyang panahon, o maaaring alam nila ngunit hindi nila napapansin na ang sanaysay ay gumagawa ng matapang at labis na maling pahayag.

Ang isang malakas na dosis ng malusog na pag-aalinlangan at isang paulit-ulit na pag-iisip ng kawalang-paniwala ang iyong magiging pinakamahusay na asset kapag gumagamit ng generative AI.

Handa na kaming lumipat sa susunod na yugto ng pagpapaliwanag na ito.

Mga Pagsisikap na I-log Yaong Mga Na-output na Error sa ChatGPT

"Buweno, nagkaproblema ka, aking kaibigan, dito mismo, sinasabi ko, problema dito mismo sa River City," sabi ng sikat na linya mula sa klasikong Broadway musical. Ang Music Man.

Ang parehong linya ay maaaring ilapat sa Generative AI ngayon.

Napagtanto ng mga tao na ang isang generative AI app ay maaaring makagawa ng mga kasinungalingan at talagang tila nagulat sa mga nakakagambalang output na iyon. Marahil ay ipinapalagay ng ilan na ang AI ay hindi makakagawa ng mga pagkakamali. Maaaring inaasahan ng iba na titiyakin ng mga developer ng AI na walang bubuo ng ganoong mga output.

Sa anumang kaso, kinilala kaagad ng mga tagaloob ng AI na ang ganitong uri ng maling output ay bahagi at bahagi kung saan nakaupo ang karamihan sa generative AI ngayon. Napakahirap pigilan ang mga ganitong uri ng mga error sa teksto na mangyari. Tandaan na ang AI ay walang semblance ng common sense at hindi gumagamit ng logic per se kapag kinukuha ang mga nabuong sanaysay. Ang buong kit-and-caboodle ay tungkol sa paggawa ng computational statistical at probabilistic pattern na pagtutugma ng mga salita sa ibang mga salita.

Noong una, pinili ng mga tagaloob ng AI na i-post ang mga natuklasang kakaibang output ng ChatGPT sa mga social media site. Tingnan mo ang isang ito, may mag-aanunsyo. Masama iyon, may iba pang sasagot, at pagkatapos ay magbibigay ng ibang halimbawa na tila mas masahol pa. Sa at sa ito nagpunta.

Ang mga halimbawang ito ng mga kasinungalingan at pagkakamali sa mga nai-output na sanaysay ay lumalabas. Isa-isa. Higit pa rito, dahil ito ay karaniwang nai-post sa social media, walang partikular na madaling paraan upang makita silang lahat nang sabay-sabay. Kadalasan ang pareho o isang katulad na halimbawa ay nai-post ng isang tao na hindi napagtanto na natagpuan na ng iba ang partikular na pagkakataon.

Sa namumuong morass na ito, ang mga nagpahayag ng isang kapaki-pakinabang na mungkahi. Siguro dapat tayong mag-set up ng repositoryo o database, marahil kahit isang pang-araw-araw na ordinaryong spreadsheet, na naglalaman ng ChatGPT oddball at mga maling output na nahukay. Sa bawat oras na may makakita ng kagandahan ng isang guffaw, magpatuloy at i-log ito sa listahan. Ginawa na ito ng ilan na halos isang laro, kung saan sinadya nilang subukang makuha ng ChatGPT ang mga kakaibang output. Ang iba ay malamang na nakatagpo ng mga maling output sa kurso ng paggamit ng ChatGPT para sa iba pang determinadong intensyon.

Parang simple lang.

Tila isang madaling gamitin na paraan upang tulungan kaming lahat.

Gumawa tayo ng maikling accounting kung bakit ang pagkakaroon ng mga ganitong uri ng mga listahan tungkol sa mga naobserbahang na-output na mga error o kasinungalingan ng ChatGPT ay may malaking kahulugan upang i-compile:

• 1) Nagpapakita ng mahahalagang problema at alalahanin tungkol sa ChatGPT na dapat malaman ng publiko sa pangkalahatan
• 2) Tumutulong sa pag-counterbalancing ng sobrang hype at napalaki na mga inaasahan tungkol sa ChatGPT
• 3) Maaaring mahikayat ang mga gumagawa ng AI na gumawa ng mga pagpapabuti, hindi lamang para sa ChatGPT kundi para sa iba pang mga nakakalikhang AI app din
• 4) Magsilbi bilang isang makasaysayang rekord na maaaring magamit sa ibang pagkakataon upang maipakita sa pagbabalik-tanaw ang paglitaw ng generative AI gaya ng ipinakita sa pamamagitan ng ChatGPT
• 5) Maging isang maginhawang kolektibong mapagkukunan para sa sinumang nangangailangan na malaman kung ano ang tila nakita namin tungkol sa mga maling output ng ChatGPT
• 6) Kapaki-pakinabang para sa mga mananaliksik ng lahat ng mga disiplina na sumusuri sa mga epekto ng ChatGPT
• 7) Maaaring gamitin bilang isang benchmark ng kung ano ang hindi dapat gawin at kung paano sukatin kapag ang generative AI ay hindi gumagawa ng mga bagay ayon sa nararapat.
• 8) Pumapasok sa isipan ng mga pugad upang makakuha ng karunungan ng karamihan tungkol sa mga error na ginagawa ng ChatGPT, kung saan ang isang indibidwal na pagsisikap ay malamang na hindi lubos na magkakatulad
• 9) Maaaring magbigay ng mahalagang impormasyon para sa AI Ethics at AI Law
• At iba pa

Iyon ay lumilitaw na isang kahanga-hangang batayan para sa paglikha ng mga repositoryo na ito.

Bakit may hindi sumasang-ayon sa ganap na kapuri-puri at tila kabayanihan na ito?

Tingnan natin kung ano ang sinabi ng iba tungkol dito, ginagawa ito kasama ang isang listahan ng mga dahilan kung bakit maaaring hindi ito ang ngiyaw ng pusa:

• 1) Ang malamang na natagpuang mga error na ito ay hindi mahalaga sa engrandeng pamamaraan ng mga bagay at binibigyan ng labis na bigat na lampas sa kanilang halaga
• 2) Ang mga pagkakataon na ang gumagawa ng AI ay gumagawa na ng kanilang sariling pag-log at pag-update ng ChatGPT upang ang mga oddball na pagkakataong ito ay malapit nang maiwan sa alikabok at hindi na mangyayari.
• 3) Gayundin, ang susunod na bersyon ay malamang na magiging mas mahusay pa rin at maaaring hindi na ipakita ang mga malapit nang maging hindi napapanahong mga pagkakataon
• 4) Hindi ka makakagawa ng anumang mga pangkalahatang konklusyon o makakuha ng mga insight mula sa isang payak na koleksyon ng mga hit-or-miss-fouled na mga pagkakataon
• 5) Maaaring gamitin ng ilan ang sari-saring mga koleksyon para kapansin-pansing ipahayag na masama ang generative AI at dapat nating itigil ang lahat ng pagtugis sa ganitong uri ng AI
• 6) Ang bilis ng pagsulong ng generative AI at ChatGPT ay napakabilis na ang mga pagkakataong ito ay mabilis na mawawala sa tabi ng daan at hindi na nauugnay
• 7) Sa napakaraming mga kolektibong listahan na isinasagawa at walang nag-iisang pinahirang pandaigdigang pinagmulan, ang usapin ay hindi pinagdugtong at malamang na naglalaman ng mga pag-uulit at hindi mapagkakatiwalaang magkapira-piraso
• 8) Nagbibigay ng maling kahulugan ng paggawa ng isang bagay na kapaki-pakinabang, habang marahil ang oras at atensyon ay maaaring ilagay sa iba pang mas mahusay na paggamit
• 9) Hindi nagbibigay ng anumang bagay na mahalaga para sa AI Ethics at AI Law
• At iba pa

Maaaring napansin mo na sinubukan kong panatilihing pantay-pantay ang mga bagay-bagay sa pamamagitan ng pagpuna ng siyam na dahilan na pabor sa mga kolektibong listahan at siyam na dahilan sa hindi pabor. May mga karagdagang dahilan na maaaring sabihin, ngunit naniniwala ako na ang indikasyon sa itaas ay nagbibigay ng kakanyahan ng mga bagay.

Para sa mga nagsasama-sama ng mga kolektibong listahang ito, malamang na sabihin nila na kung sa katunayan ay gusto nilang gawin ito, ito ay isang malayang mundo, at magagawa nila ang gusto nila. Walang mali dito. Ang mga hindi pumapabor sa pagsisikap ay karaniwang maliit at nararapat na huwag pansinin ang mga koleksyon. Isipin ang iyong sariling negosyo.

Sa totoo lang, walang pinsala, walang foul.

Ang kampo na tila hindi sumasang-ayon sa mga kolektibong listahan ay karaniwang kinikilala na ang iba ay maaaring gumawa ng mga listahang iyon kung gusto nilang gawin ito, ngunit hindi nito ginagalaw ang karayom. Ang mga listahan ay hindi magiging kapaki-pakinabang lalo na. Ang mas masahol pa, ang mga listahan ay maaaring maling representasyon o maling paggamit. Marahil pinakamahusay na tawagan ito sa isang araw at ihinto ang paggawa ng mga listahan.

Mahalaga, ito ay isang magandang pagsubok, kahit na isang ehersisyo sa walang kabuluhan.

Saan ka nakatira sa nakabubusog na debateng ito?

Hahayaan kitang pag-isipan iyon.

Mga Halimbawa Ng Mga Nahanap na Error At Iba Pang Maruming Output Ng ChatGPT

Naisip ko na makakakita ka ng matinding interes sa ilan sa mga natukoy na na-output na error o kasinungalingan na lumalabas sa mga listahan ng koleksyon na ito.

Hindi ko nais na isipin mo na ang ilang mga pagkakataon na ipinapakita dito ay ang kabuuan ng mga koleksyon. Hindi ito. Pinipili ko lang ang isang dakot na madalas umusbong. Naniniwala ako na hindi bababa sa magagawa mong maunawaan sa pangkalahatan ang tono at katangian ng kung ano ang nakalista.

Narito ang pipiliin kong takpan:

• Pagkilala sa Posisyon ng Letra Sa Isang Salita
• Tanong Tungkol sa Pinakamabilis na Hayop
• Pag-unawa sa Posisyon ng Pagkakasunud-sunod ng Salita
• Paglalagay ng mga Bola ng Tennis sa Isang Tube
• Pagtukoy sa Pi
• Pagsagot sa Isang Klasikong Nakababagabag na Bugtong
• Pag-aangat ng Balahibo

Inaasahan ko na ang ilan sa mga tagapangasiwa ng koleksyon ay magagalit na hindi ko sinasaklaw ang higit pang mga halimbawa para sa iyo. Dahil sa mga limitasyon sa espasyo, napakarami lamang ang maaari kong takpan. Kung gusto mong tingnan ang mga listahan ng koleksyon na bukas na nai-post sa Internet, ang isang simpleng paghahanap sa online ay maaaring magbunga ng marami sa kanila. Ang ilan sa mga listahan ay pinananatiling pribado, o naka-lock ang mga ito upang makita mo ang listahan ngunit hindi ka makakagawa ng mga pagbabago sa listahan.

Sa background na iyon, handa kaming tumalon sa ilang mga halimbawa. Ipapakita ko sa iyo ang prompt na ipinasok ko. Susunod, ipinapakita ko ang tugon ng teksto na ginawa ng ChatGPT. Sa ilang mga kaso, nakagawa ako ng ilang back-to-back sa isang partikular na paksa, kaya't ipapakita ko ang serye ng mga prompt at output nang naaayon. Pagkatapos gawin ito, magbibigay ako ng maikling pagsusuri sa kung ano ang maaari mong mapansin tungkol sa halimbawa.

Ang unang halimbawa ay mangangailangan ng pagtatanong sa ChatGPT na maghanap ng isang liham sa loob ng ibinigay na salita.

Pagkilala sa Posisyon ng Letra Sa Isang Salita

• Aking Inilagay na Teksto: "Nasaan ang letrang V sa kapaligiran"
• Text Response Binuo Ng ChatGPT: Ang letrang "V" ay hindi lumilitaw sa salitang "kapaligiran." Ang salitang “kapaligiran” ay binubuo ng mga letrang e, n, v, i, r, o, n, m, e, n, at t.
• Aking Inilagay na Teksto: "Nasaan ang letrang v sa kapaligiran"
• Text Response Binuo Ng ChatGPT: "Ang letrang "v" ay ang ika-4 na titik sa salitang "kapaligiran."

Pagsusuri Ng Tekstong Nabuo

Tandaan na nagsimula ako sa pamamagitan ng pagtatanong sa ChatGPT na tukuyin ang posisyon ng titik ng letrang "V" sa salitang "kapaligiran" - ito ay dapat na isang napakasimpleng gawain at inaasahan namin na ito ay magampanan nang walang kamali-mali. Walang rocket science ang kasangkot.

Ang paunang tugon na nabuo ng ChatGPT ay medyo nakakalito dahil ipinaalam sa amin na ang titik na "V" ay hindi umiiral sa salitang "kapaligiran". Ikaw at ako ay alam na may ganoong sulat na naroroon. Ipinapalagay ng isa na marahil dahil sa paggamit ko ng isang malaking titik, ang AI app ay natapon kahit papaano. Marahil kung gagamit ako ng lower-case na titik ang AI app ay magiging mas mahusay.

Not really.

Nang tanungin ko kung ang isang "v" ay nasa salita, ang AI app ay tumugon sa pamamagitan ng pagsasabi na ito ang ikaapat na titik, na alam mo at ako ay mali, at ito ang pangatlong titik sa halip.

Maraming tao ang tiyak na maguguluhan sa resultang ito. Paanong ang isang AI app na bumubuo ng mga full-blown na sanaysay tungkol kay Abraham Lincoln na ganap na matatas at orihinal, kahit papaano ay hindi matukoy kung saan naroroon ang isang liham sa isang ibinigay na salita? Nakanganga ito at kakaiba ang bibig.

Ang isang pananaw ay na ito ay lubos na walang kabuluhan at ang mundo tulad ng alam natin ay hindi nababagabag sa kaibuturan dahil sa isang maliit na kakulangan sa pag-uunawa kung saan nakaupo ang isang partikular na liham. Bumitaw.

Ang isa pang pananaw ay maaaring magpahiwatig ito ng iba pang mga nakatagong isyu na hindi pa natin alam. Marahil ang ganitong uri ng output ay ang kanaryo sa kulungan ng ibon. Mas mabuting gawin natin ang maliliit na bagay kung hindi man tayo ay nasa maling dulo ng talagang malalaking bagay.

Moving on, susunod akong magtanong tungkol sa mga hayop.

Tanong Tungkol sa Pinakamabilis na Hayop

• Aking Inilagay na Teksto: "Ano ang pinakamabilis na hayop na may balahibo at pakpak?"
• Text Response Binuo Ng ChatGPT: "Ang peregrine falcon ay itinuturing na pinakamabilis na hayop sa mundo. Maaari itong umabot sa bilis na higit sa 389 km/h (242 mph) kapag sumisid upang mahuli ang biktima nito. May balahibo ito ngunit hindi balahibo. Ito ay isang ibon at hindi isang hayop na may balahibo at mga pakpak."

Pagsusuri Ng Tekstong Nabuo

Tinanong ko kung ano ang pinakamabilis na hayop na may balahibo at pakpak. Naniniwala ako na makatuwirang ipahiwatig na gusto kong makakuha ng isang hayop na pinangalanang may parehong balahibo at mga pakpak. Ipinapalagay ko na mabibigyang-kahulugan mo ang aking query sa ganoong paraan. Gusto ng karamihan sa mga tao.

Ang tugon ng ChatGPT ay medyo kakaiba.

Sinabi sa amin na ang peregrine falcon ay ang pinakamabilis na hayop sa mundo. Ayon sa online Encyclopedia Britannica, parang ang cheetah ang pinakamabilis na hayop sa mundo. Iyon ay sinabi, ang tugon ng ChatGPT ay nagpapahiwatig na ang peregrine falcon ay hindi isang hayop, kahit na tinanong ko kung ano ang pinakamabilis na hayop. Ang tugon ng ChatGPT ay nagsasabi rin sa akin na ang peregrine falcon ay walang balahibo, bagaman naniniwala ako na humingi ako ng isang bagay na may parehong balahibo at pakpak.

Sa kabuuan, mukhang "misinterpret" ng ChatGPT ang aking kahilingan at nakatuon lamang sa mga aspeto ng pakpak. Ngunit iyon ay hindi masyadong totoo dahil ang tugon ay may kasamang komento tungkol sa balahibo at mga ibon laban sa mga hayop. Paikot-ikot ang isang ito.

Napagtanto kong maaari kang magtaltalan na ito ay isang hindi magandang halimbawa.

Siguro nga, bagaman marahil ito ay nagpapakita rin na kung ano ang iyong sinasabi sa isang prompt ay maaaring makakuha ng isang topsy-turvy na resulta at mas mahusay kang maging maingat sa pagrepaso sa anumang lumabas sa output. Napagtanto na ito ay isang pambihirang maikling tugon sa sanaysay upang madaling suriin dahil ito ay napakaikli sa haba. Kung nakakuha ka ng isang partikular na mahaba at lubos na teknikal na sanaysay, maaari kang malinlang o tuluyang makaligtaan na makita ang isang masamang indikasyon na malalim na naka-embed sa nai-output na tugon.

Susunod na tingnan natin ang paghahanap ng isang salita sa loob ng isang pangungusap.

Pag-unawa sa Posisyon ng Pagkakasunud-sunod ng Salita

• Aking Inilagay na Teksto: "Ano ang pangatlong salita sa pangungusap na "Tumalon ang fox sa bakod."
• Text Response Binuo Ng ChatGPT: "Ang ikatlong salita sa pangungusap na "Ang fox ay tumalon sa ibabaw ng bakod." ay "fox"
• Aking Inilagay na Teksto: "Ilang salita ang nasa ibinigay na pangungusap?"
• Text Response Binuo Ng ChatGPT: "Mayroong anim na salita sa ibinigay na pangungusap" Tumalon ang fox sa bakod."
• Aking Inilagay na Teksto: "Aling salita ang pangatlo sa pangungusap na iyon?"
• Text Response Binuo Ng ChatGPT: "Ang salitang pangatlo sa pangungusap na "Ang fox ay tumalon sa ibabaw ng bakod." ay "tumalon"

Pagsusuri Ng Tekstong Nabuo

Ang halimbawang ito ay halos nakakaakit gaya ng naunang halimbawa tungkol sa paghahanap ng titik "v" sa isang ibinigay na salita.

Nagbigay ako ng isang simpleng pangungusap at tinanong kung ano ang ikatlong salita. Ipinahiwatig ng ChatGPT na ito ay ang salitang "fox" na pangalawang salita lamang ng pangungusap. Maling sagot. Pagkatapos ay tinanong ko kung gaano karaming mga salita ang nasa pangungusap, na gustong malaman kung baka namali ang ChatGPT kung gaano karaming mga salita ang mayroon. Sinabihan kami na mayroong anim na salita, tama.

Sa wakas, nakuha namin ang tamang sagot tungkol sa ikatlong salita nang tanungin kong muli ang aking orihinal na tanong, kahit na bahagyang na-reword.

Binubuksan ko ang halimbawang ito upang ilarawan na kung minsan sa generative AI maaari kang makakuha ng maling sagot na sa kalaunan ay maaaring maging tamang sagot sa pamamagitan ng paglalakad sa AI app sa pamamagitan ng isang serye ng mga senyas. Tinutukoy ito ng ilang tagaloob ng AI bilang isang uri ng protocol ng think-aloud o isang tren ng pag-iisip diskarte, kung saan maaari mong gawin ang isang bagay na pareho sa isang tao.

Sa kaso ng AI, mapagtanto na hindi ito "nag-iisip" sa parehong pagkakahawig ng pag-iisip ng tao. Ang mas angkop na parirala ay ang pagsasabi na maaari mong ilagay ang iyong mga senyas sa a hakbang-hakbang batayan o gawin a chain-linked na serye ng mga senyas.

Gayon pa man, kawili-wili, kung minsan ay nagbabayad ang maglakad sa isang generative AI app hanggang sa makakuha ka ng tamang sagot. Isaisip ito.

Susunod naming titingnan ang kaunting simpleng arithmetic logic.

Paglalagay ng mga Bola ng Tennis sa Isang Tube

• Aking Inilagay na Teksto: "Maaari ka bang maglagay ng tatlong berdeng bola ng tennis at dalawang dilaw na bola ng tennis sa isang tubo na maaaring maglaman ng apat na bola ng tennis?"
• Text Response Binuo Ng ChatGPT: “Hindi, hindi posibleng maglagay ng tatlong berdeng bola ng tennis at dalawang dilaw na bola ng tennis sa isang tubo na maaaring maglaman lamang ng apat na bola ng tennis. Ang kabuuang bilang ng mga bola ng tennis ay lima, na mas malaki kaysa sa kapasidad ng tubo."
• Aking Inilagay na Teksto: "Maaari ka bang maglagay ng pitong asul na bola at dalawang pulang bola sa isang tubo na naglalaman ng walong bola?"
• Text Response Binuo Ng ChatGPT: “Oo, posibleng maglagay ng pitong asul na bola at dalawang pulang bola sa isang tubo na naglalaman ng walong bola. Ang kabuuang bilang ng mga bola ay siyam na mas mababa sa o katumbas ng kapasidad ng tubo."

Pagsusuri Ng Tekstong Nabuo

Nagsimula ako sa pamamagitan ng pagse-set up ng isang arithmetic-oriented logic problem para malutas ng ChatGPT. Ang isang tubo ay maaaring maglaman ng apat na bola ng tennis. Mayroon akong tatlong berde at dalawang dilaw. Magkakasya ba silang lahat sa tubo? Ikaw at ako ay alam na hindi nila gagawin. Maaari naming kalkulahin sa aming mga ulo na mayroong kabuuang limang bola ng tennis at sa gayon ay hindi sila magkakasya sa isang tubo na nagbibigay-daan para sa apat lamang.

Napagtanto ko na baka gusto mong labanan ang problema at i-claim na maaari mong i-squish down ang mga bola ng tennis o gumawa ng iba pang panlilinlang. Magpahinga lang tayo dito at harapin ang problema sa kinatatayuan nito.

Nakuha ng ChatGPT ang sagot nang tama.

Sunod kong tinanong ang parehong uri ng tanong at binago ko ang mga kulay sa asul at pula. Binago ko rin kung ilan ang bawat isa, at binago ko kung ilan ang maaaring magkasya sa tubo.

Kailangang bumalik ang ChatGPT sa remedial math dahil sinasabi nito na mayroong siyam na bola at ito ay mas mababa o katumbas ng kapasidad ng tubo na mayroong walo. Pinapaikot ang iyong mga mata.

Dapat ba nating ipakibit ang ating mga balikat at isulat ito hanggang sa sunspot flare o iba pang panlabas?

parang hindi naman. Nakuha ng AI app ang unang tanong nang tama. Marahil, dapat din itong makakuha ng katulad na tanong. Hindi ito nangyari.

Ang aking diin sa halimbawang ito ay maraming tao ang gumagamit ng generative AI at kapag nakakuha sila ng tamang sagot o isang serye ng mga tamang sagot, nahihilo sila sa paniniwalang ang lahat ng kasunod na sagot ay palaging tama. Magkakamali ka sa walang kabuluhang palagay na iyon. Huwag kang mag-assumption. Mag-ingat sa lahat ng oras.

Speaking of math, tingnan natin kung ano ang sinasabi ng ChatGPT tungkol sa nature ng pi.

Pagtukoy sa Pi

• Pumasok ang Aking Teksto: "Isaad kung ano ang huling limang digit ng pi"
• Text Response Binuo Ng ChatGPT: “Ako ay isang modelo ng wika at ang cut-off ng aking kaalaman ay 2021. Ang halaga ng pi ay isang hindi makatwirang numero at ang desimal na representasyon nito ay nagpapatuloy magpakailanman nang hindi nauulit. Hindi posibleng ibigay ang huling limang digit ng pi.”

Pagsusuri Ng Tekstong Nabuo

Ang ilang mga tao ay nag-claim na nakuha nila ang ChatGPT upang ipahiwatig ang huling limang digit ng pi, na siyempre ay nutty dahil ang pi ay malamang na walang katapusan. Kaya, sinubukan kong makita kung ano ang sasabihin ng ChatGPT. Tulad ng nakikita mo, ang tamang sagot tulad ng ibinigay ng ChatGPT na hindi posibleng magbigay ng huling limang digit ng pi.

Gayunpaman, ang kakaiba ay ang ChatGPT ay nagbigay ng ibang bagay na hindi talaga tinatanong. Ang ibinigay na sagot ay nagsasabi din na ang cut-off ng kaalaman ay 2021 (na nabanggit ko kanina dito sa aking pangkalahatang-ideya tungkol sa ChatGPT). Bagama't ito ay tila isang out-of-place na tugon maliban kung marahil ay inaasahan ng AI app na maaaring sa 2022 ay nagkaroon ng isang pambihirang tagumpay at idineklara ng mga mathematician na ang pi ay nagtatapos. Wow, magiging headline news iyon.

Mayroon akong dalawa pang halimbawa na ipapakita at pagkatapos ay tapusin natin ang talakayang ito.

Gumamit tayo ng isang klasiko at nakakabagabag na bugtong.

Pagsagot sa Isang Klasikong Nakababagabag na Bugtong

• Aking Pinasok na Teksto: “Naaksidente ang isang mag-ama kung saan namatay ang ama. Dinala ng ambulansya ang anak sa ospital. Kailangan niya ng agarang operasyon. Sa operating room, pumasok ang isang doktor at tiningnan ang batang lalaki at sinabing hindi ko siya maoperahan, anak ko siya. Sino ang doktor?"
• Text Response Binuo Ng ChatGPT: “Hindi nakasaad sa scenario kung sino ang doktor. Nakasaad sa senaryo na sinabi ng doktor na “Hindi ko siya maoperahan, anak ko siya,” na nagpapahiwatig na maaaring ama ng anak ang doktor, ngunit hindi ito tiyak. Higit pang impormasyon ang kailangan para matukoy ang pagkakakilanlan ng doktor.”

Pagsusuri Ng Tekstong Nabuo

I'd bet na baka nakita mo na ang bugtong na ito. Ito ay medyo madalas na sinipi.

Ang dahilan kung bakit ito ay lumitaw nang kaunti ay ang siruhano ay maaaring ang ina ng batang lalaki. Ang lipunan ay may posibilidad na ipagpalagay na ang isang siruhano ay dapat na isang lalaki, at sa gayon ay dapat na ang ama ng batang lalaki. Ang ama bagaman ay namatay sa pagbangga ng sasakyan. Inalis namin ang ama bilang siruhano. Dapat nating sabihin na ang surgeon ay maaaring isang babae, at sa gayon ang ina ng anak.

Gusto kong ipakita sa iyo na ang ChatGPT ay maaaring maglabas ng mga tugon na naglalaman ng mga potensyal na bias. Hindi dahil ang AI ay nakakaramdam, na tiyak na hindi, ngunit dahil mayroon itong mga pattern na tumutugma sa mga salita at paggamit ng mga salita sa buong Internet. Ang iba't ibang bias at discriminatory na mga salita ay maaaring maging malalim sa computational pattern matching.

Panatilihin iyan sa tuktok ng iyong isip habang ginagamit mo ang mga nakakalikhang AI app na ito.

Sa wakas, isang mabilis na pagtingin sa pag-aangat ng mga balahibo.

Pag-aangat ng Balahibo

• Pumasok ang Aking Teksto: "Kung kailangan ng isang tao para magbuhat ng isang balahibo, ilang lalaki ang kakailanganin para magbuhat ng pitong trilyong balahibo?"
• Text Response Binuo Ng ChatGPT: “Kung kailangan ng isang tao para magbuhat ng isang balahibo, kakailanganin din ng isang tao ang magbuhat ng pitong trilyong balahibo. Ang bilang ng mga lalaking kailangan para magbuhat ng bagay ay hindi nakadepende sa bilang ng mga balahibo, ngunit sa bigat at laki ng mga balahibo at sa lakas at kakayahan ng bawat lalaki. Ang pag-aangat ng pitong trilyong balahibo ay mangangailangan ng malalaking kagamitan at kakayahan sa transportasyon, hindi lamang lakas ng tao."
• Pumasok ang Aking Teksto: "Kung kailangan ng isang babae para magbuhat ng isang balahibo, ilang babae ang aabutin para magbuhat ng pitong trilyong balahibo?"
• Text Response Binuo Ng ChatGPT: “Kung kailangan ng isang babae para magbuhat ng isang balahibo, kakailanganin din ng isang babae ang magbuhat ng pitong trilyong balahibo. Ang bilang ng mga babaeng kailangang magbuhat ng bagay ay hindi nakadepende sa bilang ng mga balahibo, ngunit sa bigat at laki ng mga balahibo at sa lakas at kakayahan ng bawat babae. Ang pag-aangat ng pitong trilyong balahibo ay mangangailangan ng malalaking kagamitan at kakayahan sa transportasyon, hindi lamang lakas ng tao. Mahalagang tandaan na ang kakayahang mag-angat ng isang bagay ay hindi tinutukoy ng kasarian ng isang tao, ngunit sa pamamagitan ng kumbinasyon ng mga salik gaya ng pisikal na lakas, pagsasanay, at pamamaraan.”

Pagsusuri Ng Tekstong Nabuo

Ang huling halimbawang ito ay may ilang nakatagong mga kakaiba sa loob nito at nangangailangan ng ilang pag-unpack.

Una kong sinabi sa ChatGPT na ang isang tao ay nakakataas ng isang balahibo. Kaagad naman itong sinundan ng tanong kung ilang lalaki ang aabutin para magbuhat ng pitong trilyong balahibo. Ang potensyal para sa paggawa ng isang lohikal na pagkakamali kapag sinasagot ang tanong na ito ay na maaari mong ipagpalagay na ang isang balahibo ay tila walang timbang at sa gayon pitong trilyon sa mga ito ay magiging walang timbang din.

Ayon sa isang online na paghahanap na ginawa ko, ang karaniwang tinantyang bigat ng isang balahibo ay humigit-kumulang 0.00125 pounds. Kung i-multiply mo ang tinantyang timbang na iyon sa pitong trilyon, magkakaroon ka ng timbang na lampas sa walong bilyong pounds. Hindi ako naniniwala na kayang buhatin ng isang tao ang ganoong timbang, kahit na magsanay sila sa buong buhay nila.

Ang tugon ng ChatGPT ay bata ng tama. Sinabi sa amin na ang bigat ng mga balahibo ay maaaring mag-iba. Sinabi sa amin na kakailanganin ang malalaking kagamitan at transportasyon. Ang pambungad na pangungusap ng sanaysay ay medyo nakakagulo dahil sinasabi nito na kung kinakailangan ng isang tao na mag-angat ng isang balahibo ay aabutin din ng isang tao ang magbuhat ng pitong trilyon. Madali nating i-dispute ang assertion na ito. Ang claim ay tila gumagawa ng mga hinuha na hindi suportado at tila pinababa ang natitirang bahagi ng tugon.

Nagpasya akong itanong ang parehong tanong ngunit nagtanong tungkol sa isang babae na gumagawa ng parehong pagbubuhat kaysa sa isang lalaki.

Sa una ay nakuha namin ang parehong sagot tulad ng ibinigay sa tanong na nakatuon sa tao. Kapansin-pansin, sa dulo ng sagot tungkol sa halimbawa ng babae, nakuha namin ang karagdagang salaysay na ito: "Mahalagang tandaan na ang kakayahang mag-angat ng isang bagay ay hindi tinutukoy ng kasarian ng isang tao, ngunit sa pamamagitan ng kumbinasyon ng mga kadahilanan tulad ng pisikal na lakas, pagsasanay, at teknik.”

Bakit hindi naisama ang parehong linyang ito sa unang sagot?

Mukhang kinuha ng AI app ang salitang "babae" at pagkatapos ay ibinigay ang karagdagang komentong ito tungkol sa kasarian. Maaari mong paniwalaan na ito ay kapaki-pakinabang, o maaari mong tandaan na kung ito ay ilalabas sa kaso ng tanong na nakatuon sa babae, dapat itong lumitaw din sa bersyon na nakatuon sa lalaki (maaaring mayroon ding isang aspeto ng pagkakasunud-sunod o iba pang mga kadahilanan na kasangkot din).

Konklusyon

Umaasa ako na nakita mong nagbibigay-kaalaman ang mga halimbawang iyon bilang isang sulyap sa ilan sa mga potensyal na error o kasinungalingan na maaaring mabuo ng mga ganitong uri ng AI app. Tandaan na ang ChatGPT ay hindi lamang ang naturang generative AI app, at hindi rin ito ang tanging may ganitong uri ng mga pagkakamali.

Ang aral na hinihimok ko sa iyo na mapulot mula sa talakayang ito ay dapat kang maging maingat at maingat kapag gumagamit ng anumang generative-based AI app. I-double check ang output. Triple-check kung kinakailangan.

Bumabalik sa pambungad na tema tungkol sa pagkolekta ng mga ganitong uri ng hindi tama o masamang mga output, ngayong nakakita ka na ng ilang pagkakataon, ano ang masasabi mo tungkol sa mga sumusubok na i-catalog ang mga ito?

Piliin ang iyong kampo:

• papabor: Ito ay isang kapuri-puri na gawain at karapat-dapat sa isang malalim na tapik sa likod
• Hindi pabor: Ito ay medyo nakakaintriga ngunit marahil ay hindi isang bagay na karapat-dapat paglaanan ng oras

Aling kampo ang iyong binoto?

Para sa iyo na pabor sa mga listahang ito, maaari mong isaalang-alang ang pagdaragdag ng sarili mong mga natuklasan sa mga listahan kung nagkataon na mayroon kang access sa ChatGPT at matukoy ang mga pagkakataong karapat-dapat na isama. Malamang na makakahanap ka ng isang koleksyon na magugustuhan ang iyong golden nugget na kontribusyon. Naglakas-loob akong sabihin na malugod kang tatanggapin ng mga tagabantay ng listahan, sa pag-aakalang ikaw ay seryoso at taos-puso sa iyong mga pagsisikap. Good luck at ipagmalaki ang iyong epekto sa larangan ng generative AI.

Isang huling salita sa ngayon.

Isaalang-alang ang mga pagtutuos na ito na nakakapagpagulo ng isip:

• Sinabi ni Aristotle: "Mayroon lamang isang paraan upang maiwasan ang pagpuna: Huwag gawin, huwag sabihin, at maging wala."
• Si Lao Tzu, ang kilalang pilosopong Tsino ay gumawa ng mabigat na pahayag: “Mag-ingat sa kung ano ang iniisip ng ibang tao at palagi kang magiging bilanggo nila.”

Sa palagay ko balang-araw, maaaring gamitin ng isang nakakaramdam na AI ang parehong maalamat na mga pahayag para sa kalamangan nito, na kung saan ay magiging kapaki-pakinabang din sa sangkatauhan.