Ang Generative AI ChatGPT ay Maaaring Nakakainis na Lamon ang Iyong Pribado At Kumpidensyal na Data, Nagbabala sa AI Ethics At AI Law

Ngayon nakikita mo ang iyong data, ngayon ay hindi mo na.

Samantala, ang iyong mahalagang data ay naging bahagi ng kolektibo, kumbaga.

Ang tinutukoy ko ay isang aspeto na maaaring nakakagulat sa inyo na masigasig at taimtim na gumagamit ng pinakabagong sa Artificial Intelligence (AI). Ang data na ipinasok mo sa isang AI app ay potensyal na hindi ganap na pribado sa iyo at ikaw lamang. Maaaring ang iyong data ay gagamitin ng gumagawa ng AI upang malamang na hangarin na mapabuti ang kanilang mga serbisyo ng AI o maaaring gamitin nila at/o maging ng kanilang mga kaalyadong kasosyo para sa iba't ibang layunin.

Ikaw ay ngayon ay binalaan na.

Ang pagbibigay na ito ng iyong data ay nangyayari sa pinaka-hindi nakapipinsalang mga paraan at sa posibleng libu-libo o sa pagkakasunud-sunod ng milyun-milyong tao. Paano kaya? May isang uri ng AI na kilala bilang generative AI na kamakailan ay nakakuha ng malalaking headline at ang mabilis na atensyon ng publiko sa pangkalahatan. Ang pinaka-kapansin-pansin sa mga umiiral na generative AI app ay ang tinatawag na ChatGPT na ginawa ng firm na OpenAI.

May humigit-kumulang isang milyong nakarehistrong user para sa ChatGPT. Marami sa mga user na iyon ang mukhang natutuwa sa pagsubok sa pinakamainit at pinakabagong generative AI app na ito. Ang proseso ay pambihirang simple. Naglagay ka ng ilang text bilang prompt, at voila, ang ChatGPT app ay bumubuo ng text output na karaniwang nasa anyo ng isang sanaysay. Tinutukoy ito ng ilan bilang text-to-text, bagama't mas gusto kong tukuyin ito bilang text-to-essay dahil ang verbiage na ito ay may mas pang-araw-araw na kahulugan.

Sa una, ang isang newbie user ay malamang na magpasok ng isang bagay na masaya at walang pakialam. Sabihin sa akin ang tungkol sa buhay at panahon ni George Washington, maaaring may pumasok bilang isang prompt. Ang ChatGPT ay gagawa ng isang sanaysay tungkol sa ating maalamat na unang pangulo. Ang sanaysay ay magiging ganap na matatas at mahihirapan kang malaman na ito ay ginawa ng isang AI app. Isang kapana-panabik na bagay na makitang mangyayari.

Ang mga posibilidad ay na pagkatapos maglaro ng ilang sandali, isang segment ng mga newbie na user ang napuno at posibleng mag-opt na ihinto ang pakikipaglaro sa ChatGPT. Nalampasan na nila ngayon ang kanilang FOMO (takot na mawalan), ginagawa ito pagkatapos mag-eksperimento sa AI app na halos lahat ay tila pinag-uusapan. Ginawa ang gawa.

Ang ilan ay magsisimulang mag-isip tungkol sa iba at mas seryosong paraan upang magamit ang generative AI.

Marahil ay gumamit ng ChatGPT para isulat ang memo na iyon na inuutusan ka ng iyong boss na isulat. Ang kailangan mo lang gawin ay magbigay ng prompt sa mga bullet point na nasa isip mo, at ang susunod na bagay na alam mong isang buong memo ay nabuo ng ChatGPT na ipagmamalaki ka ng iyong boss. Kokopyahin mo ang na-output na sanaysay mula sa ChatGPT, i-paste ito sa opisyal na template ng kumpanya sa iyong word processing package, at i-email ang classy na memorandum sa iyong manager. Ikaw ay nagkakahalaga ng isang milyong bucks. At ginamit mo ang iyong utak upang makahanap ng isang madaling gamitin na tool upang gawin ang mahirap na trabaho para sa iyo. Pat ang iyong sarili sa likod.

Hindi lamang yan.

Oo, meron pa.

Tandaan na ang generative AI ay maaaring magsagawa ng iba pang mga gawaing nauugnay sa pagsusulat.

Halimbawa, ipagpalagay na nagsulat ka ng isang salaysay ng ilang uri para sa isang pinahahalagahang kliyente at gusto mong magkaroon ng pagsusuri sa materyal bago ito lumabas ng pinto.

Napakadali.

I-paste mo ang teksto ng iyong salaysay sa isang ChatGPT prompt at pagkatapos ay atasan ang ChatGPT na suriin ang teksto na iyong binuo. Ang resultang outputted na sanaysay ay maaaring malalim na maghukay sa iyong mga salita, at sa iyong kasiya-siyang sorpresa ay susubukan na tila siyasatin ang kahulugan ng iyong sinabi (higit pa sa pagkilos bilang isang spell checker o isang grammar analyzer). Maaaring makakita ang AI app ng mga pagkakamali sa lohika ng iyong salaysay o maaaring makatuklas ng mga kontradiksyon na hindi mo napagtanto na nasa sarili mong pagsulat. Para bang kumuha ka ng isang tusong editor ng tao upang i-eyeball ang iyong draft at magbigay ng isang litany ng mga kapaki-pakinabang na mungkahi at nabanggit na alalahanin (well, gusto kong tiyak na sabihin na hindi ko sinusubukang i-anthropomorphize ang AI app, lalo na na ang isang editor ng tao ay isang tao habang ang AI app ay isang computer program lamang).

Salamat at ginamit mo ang generative AI app para suriin ang iyong mahalagang nakasulat na salaysay. Walang alinlangan na mas gugustuhin mong hanapin ng AI ang mga nakakabagabag na nakasulat na isyu kaysa pagkatapos ipadala ang dokumento sa iyong mahalagang kliyente. Isipin na binuo mo ang salaysay para sa isang taong nag-hire sa iyo upang gumawa ng isang napakahalagang paglalarawan. Kung ibinigay mo ang orihinal na bersyon sa kliyente, bago gawin ang pagsusuri ng AI app, maaari kang makaramdam ng matinding kahihiyan. Ang kliyente ay halos tiyak na magkakaroon ng malubhang pagdududa tungkol sa iyong mga kakayahan upang gawin ang trabaho na hiniling.

Itaas natin ang ante.

Isaalang-alang ang paglikha ng mga legal na dokumento. Iyon ay malinaw na isang partikular na seryosong bagay. Ang mga salita at kung paano binubuo ang mga ito ay maaaring magbaybay ng isang masiglang legal na pagtatanggol o isang malungkot na legal na kalamidad.

Sa aking patuloy na pagsasaliksik at pagkonsulta, regular akong nakikipag-ugnayan sa maraming abogado na interesadong gumamit ng AI sa larangan ng batas. Ang iba't ibang programa ng LegalTech ay nakakakonekta sa mga kakayahan ng AI. Maaaring gumamit ang isang abogado ng generative AI para gumawa ng draft ng isang kontrata o gumawa ng iba pang legal na dokumento. Bilang karagdagan, kung ang abogado mismo ang gumawa ng paunang draft, maaari nilang ipasa ang text sa isang generative AI app gaya ng ChatGPT upang tingnan at makita kung anong mga butas o gaps ang maaaring matukoy. Para sa higit pa tungkol sa kung paano pinipili ng mga abogado at legal na larangan na gamitin ang AI, tingnan ang aking talakayan sa ang link dito.

Kami ay handa na bagaman para sa kuskusin sa ito.

Ang isang abogado ay kumukuha ng isang draft na kontrata at kinokopya ang teksto sa isang prompt para sa ChatGPT. Ang AI app ay gumagawa ng pagsusuri para sa abogado. Lumalabas na maraming gotcha ang natagpuan ng ChatGPT. Nirebisa ng abogado ang kontrata. Maaari din nilang hilingin sa ChatGPT na magmungkahi ng rewording o gawing muli ang binubuong teksto para sa kanila. Ang isang bago at mas mahusay na bersyon ng kontrata ay ginawa ng generative AI app. Kinukuha ng abogado ang na-output na text at inilalagay ito sa isang word processing file. Off the missive napupunta sa kanilang kliyente. Natupad ang misyon.

Maaari mo bang hulaan kung ano din ang nangyari?

Sa likod ng mga eksena at sa ilalim ng talukbong, ang kontrata ay maaaring nilamon na parang isda sa bibig ng isang balyena. Bagama't maaaring hindi ito napagtanto ng abogadong ito na gumagamit ng AI, ang teksto ng kontrata, na inilagay bilang isang prompt sa ChatGPT, ay potensyal na malalamon ng AI app. Ito ngayon ay kumpay para sa pagtutugma ng pattern at iba pang computational intricacies ng AI app. Ito naman ay maaaring gamitin sa iba't ibang paraan. Kung mayroong kumpidensyal na data sa draft, iyon din ay posibleng nasa loob na ngayon ng mga limitasyon ng ChatGPT. Ang iyong prompt bilang ibinigay sa AI app ay tila bahagi na ngayon ng kolektibo sa isang paraan o iba pa.

Higit pa rito, ang nai-output na sanaysay ay itinuturing ding bahagi ng kolektibo. Kung hiniling mo sa ChatGPT na baguhin ang draft para sa iyo at ipakita ang bagong bersyon ng kontrata, ito ay ituturing bilang isang output na sanaysay. Ang mga output ng ChatGPT ay isa ring uri ng content na maaaring mapanatili o kung hindi man ay mabago ng AI app.

Oo, maaaring inosenteng ibinigay mo ang pribado o kumpidensyal na impormasyon. Hindi maganda. Dagdag pa, hindi mo malalaman na nagawa mo na ito. Walang itinaas na bandila. Hindi pumutok ang isang busina. Walang kumikislap na ilaw upang mabigla ka sa katotohanan.

Maaari naming asahan na ang mga hindi abogado ay madaling makagawa ng ganoong pagkakamali, ngunit para sa isang bihasang abogado na gawin ang parehong pagkakamali ng rookie ay halos hindi maisip. Gayunpaman, malamang na may mga legal na propesyonal ngayon na gumagawa ng parehong potensyal na pagkakamali. Nanganganib silang lumabag sa isang kapansin-pansing elemento ng pribilehiyo ng abogado-kliyente at posibleng lumabag sa American Bar Association (ABA) Model Rules of Professional Conduct (MRPC). Sa partikular: "Ang isang abogado ay hindi dapat magbunyag ng impormasyon na may kaugnayan sa representasyon ng isang kliyente maliban kung ang kliyente ay nagbibigay ng kaalamang pahintulot, ang pagsisiwalat ay ipinahiwatig na awtorisado upang maisagawa ang representasyon o ang pagsisiwalat ay pinahihintulutan ng talata (b)" (sinipi mula sa ang MRPC, at kung saan ang mga pagbubukod na nauugnay sa subsection b ay tila hindi sumasaklaw sa paggamit ng generative AI app sa isang hindi secure na paraan).

Ang ilang mga abogado ay maaaring humingi ng paumanhin sa kanilang paglabag sa pamamagitan ng pagsasabi na hindi sila mga tech wizard at na wala silang handa na paraan upang malaman na ang kanilang pagpasok ng kumpidensyal na impormasyon sa isang generative na AI app ay maaaring maging isang uri ng paglabag. Nilinaw ng ABA na ang isang tungkulin para sa mga abogado ay sumasaklaw sa pagiging up-to-date sa AI at teknolohiya mula sa isang legal na pananaw: “Upang mapanatili ang kinakailangang kaalaman at kasanayan, ang isang abogado ay dapat na patuloy na nakasubaybay sa mga pagbabago sa batas at kasanayan nito, kabilang ang ang mga benepisyo at panganib na nauugnay sa kaugnay na teknolohiya, nakikibahagi sa patuloy na pag-aaral at edukasyon at sumusunod sa lahat ng patuloy na kinakailangan sa legal na edukasyon kung saan napapailalim ang abogado” (bawat MRPC).

Maraming probisyon ang dumating sa ganitong pagkakatulad ng legal na tungkulin, kabilang ang pagpapanatili ng kumpidensyal na impormasyon ng kliyente (Rule 1.6), pagprotekta sa ari-arian ng kliyente gaya ng data (Rule 1.15), maayos na pakikipag-ugnayan sa isang kliyente (Rule 1.4), pagkuha ng pahintulot ng kliyente (Rule 1.6), at pagtiyak ng karampatang representasyon sa ngalan ng isang kliyente (Rule 1.1). At mayroon ding hindi gaanong kilala ngunit lubos na kapansin-pansing resolusyong nakatuon sa AI na ipinasa ng ABA: “Na ang American Bar Association ay humihimok sa mga korte at abogado na tugunan ang mga umuusbong na isyu sa etika at legal na nauugnay sa paggamit ng artificial intelligence ('AI') sa pagsasagawa ng batas kabilang ang: (1) pagkiling, kakayahang maipaliwanag, at transparency ng mga awtomatikong desisyon na ginawa ng AI; (2) etikal at kapaki-pakinabang na paggamit ng AI; at (3) mga kontrol at pangangasiwa sa AI at sa mga vendor na nagbibigay ng AI.”

Words to the wise para sa aking mga legal na kaibigan at kasamahan.

Ang pinakabuod ng bagay na ito ay halos kahit sino ay maaaring masira ang kanilang sarili kapag gumagamit ng generative AI. Magagawa ito ng mga hindi abogado sa pamamagitan ng kanilang inaakalang kawalan ng legal na katalinuhan. Magagawa rin ito ng mga abogado, marahil ay nabighani sa AI o hindi humihinga ng malalim at iniisip kung anong mga legal na epekto ang maaaring lumabas kapag gumagamit ng generative AI.

Lahat tayo ay posibleng nasa iisang bangka.

Dapat mo ring mapagtanto na ang ChatGPT ay hindi lamang ang generative AI app sa block. May iba pang generative AI app na magagamit mo. Malamang na pinutol din ang mga ito mula sa parehong tela, ibig sabihin, ang mga input na ipinasok mo bilang mga senyas at ang mga output na natatanggap mo bilang mga nabuong output na sanaysay ay itinuturing na bahagi ng kolektibo at maaaring gamitin ng gumagawa ng AI.

Sa column ngayon, aalisin ko ang likas na katangian ng kung paano maaaring makompromiso ang data na iyong ipinasok at data na natatanggap mo mula sa generative AI na may kinalaman sa privacy at pagiging kumpidensyal. Ginagawang available ng mga gumagawa ng AI ang kanilang mga kinakailangan sa paglilisensya at magiging matalino kang magbasa sa mahahalagang itinatakdang iyon bago ka magsimulang aktibong gumamit ng AI app na may anumang pagkakatulad ng totoong data. Ituturo ko sa iyo ang isang halimbawa ng naturang paglilisensya, ginagawa ito para sa ChatGPT AI app.

Sa lahat ng ito ay may kasamang mga pagsasaalang-alang sa AI Ethics at AI Law.

Mangyaring magkaroon ng kamalayan na may mga patuloy na pagsusumikap na mainam ang mga prinsipyo ng Etikal na AI sa pagbuo at paglalagay ng mga AI app. Ang isang lumalagong contingent ng nag-aalala at dating mga etika ng AI ay nagsisikap na matiyak na ang mga pagsisikap na mag-isip at magpatibay ng AI ay isinasaalang-alang ang isang pananaw sa paggawa AI For Good at pag-iwas AI Para sa Masama. Gayundin, may mga iminungkahing bagong batas ng AI na inilalagay sa paligid bilang mga potensyal na solusyon upang pigilan ang mga pagsusumikap ng AI na maging amok sa mga karapatang pantao at iba pa. Para sa aking patuloy at malawak na saklaw ng AI Ethics at AI Law, tingnan ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

May mga makabuluhang Ethical AI nuances at probisyon na nauugnay sa kung paano maaaring o dapat harapin ng mga gumagawa ng AI ang data o impormasyon na tila pribado o kumpidensyal sa kanilang mga user. Malamang na alam mo rin na ang isang grupo ng mga umiiral na batas ay tumatama sa ubod ng kung paano dapat pangasiwaan ang data ng mga entidad ng teknolohiya. Ang mga pagkakataon din ay na ang mga bagong iminungkahing batas ng AI ay mag-crisscross din sa parehong teritoryo. Tingnan halimbawa ang aking saklaw ng AI Bill of Rights at iba pang legal na wranglings na nangyayari tungkol sa AI, sa ang link dito.

Narito ang pangunahing takeaway mula sa talakayang ito na sinabi sa lahat:

• Maging napaka, napaka, napakaingat sa kung anong data o impormasyon ang pipiliin mong ilagay sa iyong mga senyas kapag gumagamit ng generative AI, at gayundin ay maging lubhang maingat at asahan kung anong mga uri ng outputted na sanaysay ang maaari mong makuha dahil ang mga output ay maaari ding makuha.

Ipinahihiwatig ba nito na hindi ka dapat gumamit ng generative AI?

Hindi, hindi iyon ang sinasabi ko.

Gumamit ng generative AI sa nilalaman ng iyong puso. Ang diwa ay kailangan mong maging maingat sa kung paano mo ito ginagamit. Alamin kung anong uri ng mga itinatakda sa paglilisensya ang nauugnay sa paggamit. Magpasya kung maaari kang mamuhay sa mga itinatakdang iyon. Kung may mga paraan upang ipaalam sa gumagawa ng AI na gusto mong gumamit ng ilang uri ng mga karagdagang proteksyon o allowance, tiyaking gagawin mo ito.

Babanggitin ko rin ang isa pang facet na napagtanto kong magpapagalit sa ilang tao. Eto na. Sa kabila ng anuman ang mga itinatakda sa paglilisensya, kailangan mo ring ipagpalagay na may posibilidad na ang mga kinakailangang iyon ay maaaring hindi ganap na masunod. Maaaring magkagulo ang mga bagay. Maaaring madulas ang mga bagay sa pagitan ng mga bitak. Sa huli, sigurado, maaari kang magkaroon ng legal na kaso laban sa isang gumagawa ng AI para sa hindi pagsunod sa kanilang mga itinatakda, ngunit iyon ay medyo pagkatapos na ang kabayo ay nakalabas na sa kamalig.

Ang isang potensyal na lubos na ligtas na paraan upang magpatuloy ay ang pag-set up ng sarili mong instance sa sarili mong mga system, sa cloud man o in-house (at, sa pag-aakalang sumunod ka sa wastong pag-iingat sa cybersecurity, na tinatanggap ng ilan na hindi at mas malala ang mga ito. sa sarili nilang cloud kaysa sa paggamit ng cloud ng software vendor). Ang kaunting problema ay ang ilan sa mga generative AI large-scale na app ay pinapayagan ito ngayon. Lahat sila ay halos nagtatrabaho sa aming-cloud-only na batayan. Ilang ginawang available ang opsyon na magkaroon ng isang buong instance na inukit para lang sa iyo. Hinulaan ko na unti-unti nating makikita ang pagpipiliang ito, kahit na sa una ay medyo magastos at medyo kumplikado, tingnan ang aking mga hula sa ang link dito.

Paano kung hindi, lalo na ang mga maliliwanag at kapansin-pansing matatalino na mga tao ay nakukuha ang kanilang mga sarili sa isang data o impormasyon sa pagiging kumpidensyal ng pagguho ng quagmire?

Ang pang-akit ng mga generative AI app na ito ay medyo magnetic kapag nagsimula kang gumamit ng isa. Hakbang-hakbang, mahahanap mo ang iyong sarili na natulala at pinipiling ilagay ang iyong mga daliri nang higit pa at higit pa sa generative AI waters. Ang susunod na bagay na alam mo, madali mong ibibigay ang pagmamay-ari na nilalaman na dapat ay panatilihing pribado at kumpidensyal sa isang generative AI app.

Labanan ang pagnanasa at mangyaring iwasan ang sunud-sunod na pagkahulog sa isang hindi magandang bitag.

Para sa mga pinuno ng negosyo at mga nangungunang executive, ang parehong babala ay napupunta sa iyo at sa lahat ng tao sa iyong kumpanya. Ang mga senior exec ay nahuhuli sa sigasig at pagkamangha sa paggamit din ng generative AI. Maaari silang talagang makagulo at posibleng magpasok ng nangungunang antas ng lihim na impormasyon sa isang AI app.

Higit pa rito, maaaring mayroon silang malawak na mga liga ng kanilang mga empleyado na naglalaro din sa generative AI. Marami sa mga kawani na iyon ay walang pag-iisip at masayang naglalagay ng pribado at kumpidensyal na impormasyon ng kumpanya sa mga AI app na ito. Ayon sa kamakailang mga ulat ng balita, tila natuklasan ng Amazon na ang ilang mga empleyado ay naglalagay ng iba't ibang impormasyon sa pagmamay-ari sa ChatGPT. Ang isang babala na nakatuon sa legal ay sinasabing ipinadala sa loob upang maging maingat sa paggamit ng hindi mapaglabanan na AI app.

Sa pangkalahatan, may kaunting kabalintunaan ang dumarating sa mga tumataas na phenomena ng mga empleyado na walang sawang pagpasok ng kumpidensyal na data sa ChatGPT at iba pang generative AI. Payagan akong magpaliwanag. Ang mga modernong kumpanya ngayon ay karaniwang may mahigpit na mga patakaran sa cybersecurity na maingat nilang ginawa at ipinatupad. Maraming teknolohikal na proteksyon ang umiiral. Ang pag-asa ay upang maiwasan ang aksidenteng paglabas ng mga mahahalagang bagay. Ang patuloy na drumbeat ay ang maging maingat kapag bumisita ka sa mga website, maging maingat kapag gumagamit ka ng anumang hindi naaprubahang app, at iba pa.

Kasama nito ang mga generative na AI app tulad ng ChatGPT. Ang balita tungkol sa AI app ay napupunta sa bubong at nakakakuha ng malawak na atensyon. Isang siklab ng galit ang lumitaw. Ang mga tao sa mga kumpanyang ito na mayroong lahat ng mga proteksyon sa cybersecurity na ito ay nagpasyang sumakay sa isang generative AI app. Idly nila itong nilalaro noong una. Pagkatapos ay sinimulan nilang ipasok ang data ng kumpanya. Wham, mayroon na silang potensyal na nalantad na impormasyon na hindi dapat ibunyag.

Ang makintab na bagong laruan na mahiwagang umiiwas sa milyun-milyong dolyar na paggasta sa mga proteksyon sa cybersecurity at patuloy na pagsasanay tungkol sa kung ano ang hindi dapat gawin. Ngunit, hey, nakakatuwang gumamit ng generative AI at maging bahagi ng “in” crowd. Iyon ang mahalaga, tila.

Nagtitiwala ako na nakukuha mo ang aking drift tungkol sa pagiging lubhang maingat.

Susunod, tingnan natin nang malapitan kung paano teknikal na nakikitungo ang generative AI sa teksto ng mga senyas at na-output na sanaysay. Susuriin din namin ang ilan sa mga itinatakda sa paglilisensya, gamit ang ChatGPT bilang isang halimbawa. Mangyaring mapagtanto na hindi ko sasaklawin ang buong gamut ng mga elemento ng paglilisensya na iyon. Siguraduhing isama ang iyong legal na tagapayo para sa alinmang mga generative na AI app na maaari mong ipasya na gamitin. Gayundin, ang paglilisensya ay naiiba mula sa AI maker hanggang sa AI maker, kasama ang isang ibinigay na AI maker ay maaaring mag-opt na baguhin ang kanilang paglilisensya kaya siguraduhing manatiling mapagbantay sa anumang itinatakda ng pinakabagong bersyon ng paglilisensya.

Mayroon kaming ilang kapana-panabik na pag-unpack na dapat gawin sa nakakatakot na paksang ito.

Una, dapat nating tiyakin na lahat tayo ay nasa parehong pahina tungkol sa kung ano ang binubuo ng Generative AI at kung ano ang tungkol sa ChatGPT. Kapag nasaklaw na natin ang foundational facet na iyon, maaari tayong magsagawa ng cogent assessment ng mirror metaphor na nauugnay sa ganitong uri ng AI.

Kung ikaw ay lubos na pamilyar sa Generative AI at ChatGPT, maaari mong tikman ang susunod na seksyon at magpatuloy sa seksyong kasunod nito. Naniniwala ako na ang iba ay makakahanap ng pagtuturo sa mahahalagang detalye tungkol sa mga bagay na ito sa pamamagitan ng masusing pagbabasa ng seksyon at pagkuha ng up-to-speed.

Isang Mabilis na Primer Tungkol sa Generative AI At ChatGPT

Ang ChatGPT ay isang general-purpose AI interactive conversational-oriented system, na sa esensya ay isang tila hindi nakapipinsalang pangkalahatang chatbot, gayunpaman, ito ay aktibo at masigasig na ginagamit ng mga tao sa mga paraan na nakakaakit ng marami, gaya ng aking ilalarawan sa ilang sandali. Ang AI app na ito ay gumagamit ng isang diskarte at teknolohiya sa AI realm na madalas na tinutukoy bilang Generative AI. Ang AI ay bumubuo ng mga output gaya ng text, na siyang ginagawa ng ChatGPT. Ang iba pang mga generative-based na AI app ay gumagawa ng mga larawan tulad ng mga larawan o likhang sining, habang ang iba ay bumubuo ng mga audio file o video.

Magtutuon ako sa mga text-based na generative AI app sa talakayang ito dahil iyon ang ginagawa ng ChatGPT.

Napakadaling gamitin ng mga generative AI app.

Ang kailangan mo lang gawin ay maglagay ng prompt at bubuo ang AI app para sa iyo ng isang sanaysay na sumusubok na tumugon sa iyong prompt. Ang nabuong teksto ay tila ang sanaysay ay isinulat ng kamay at isip ng tao. Kung maglalagay ka ng prompt na nagsasabing "Sabihin mo sa akin ang tungkol kay Abraham Lincoln" ang generative AI ay magbibigay sa iyo ng isang sanaysay tungkol kay Lincoln. Ito ay karaniwang nauuri bilang generative AI na gumaganap text-to-text o mas gusto ng ilan na tawagan ito text-to-essay output. Gaya ng nabanggit, may iba pang mga mode ng generative AI, gaya ng text-to-art at text-to-video.

Ang iyong unang naisip ay maaaring ang kakayahang makabuo ng kakayahang ito ay hindi mukhang napakalaking bagay sa mga tuntunin ng paggawa ng mga sanaysay. Madali kang makakagawa ng online na paghahanap sa Internet at madaling makahanap ng tonelada at toneladang sanaysay tungkol kay Pangulong Lincoln. Ang kicker sa kaso ng generative AI ay ang nabuong sanaysay ay medyo kakaiba at nagbibigay ng orihinal na komposisyon sa halip na isang copycat. Kung susubukan mong hanapin ang sanaysay na ginawa ng AI online sa isang lugar, malamang na hindi mo ito matuklasan.

Ang Generative AI ay pre-trained at gumagamit ng isang kumplikadong mathematical at computational formulation na na-set up sa pamamagitan ng pagsusuri ng mga pattern sa mga nakasulat na salita at kwento sa buong web. Bilang resulta ng pagsusuri sa libu-libo at milyon-milyong nakasulat na mga sipi, ang AI ay maaaring maglabas ng mga bagong sanaysay at kuwento na isang mishmash ng kung ano ang natagpuan. Sa pamamagitan ng pagdaragdag sa iba't ibang probabilistic functionality, ang resultang text ay medyo kakaiba kumpara sa kung ano ang ginamit sa training set.

Kaya naman nagkaroon ng kaguluhan tungkol sa pagiging madaya ng mga estudyante kapag nagsusulat ng mga sanaysay sa labas ng silid-aralan. Ang isang guro ay hindi maaaring basta-basta kunin ang sanaysay na iginiit ng mga mapanlinlang na mag-aaral ay kanilang sariling sulatin at hinahangad na malaman kung ito ay kinopya mula sa ibang online na mapagkukunan. Sa pangkalahatan, walang anumang tiyak na dati nang sanaysay online na akma sa sanaysay na binuo ng AI. Ang lahat ng sinabi, ang guro ay kailangang malulungkot na tanggapin na ang mag-aaral ay nagsulat ng sanaysay bilang isang orihinal na piraso ng trabaho.

May mga karagdagang alalahanin tungkol sa generative AI.

Ang isang mahalagang downside ay ang mga sanaysay na ginawa ng isang generative-based na AI app ay maaaring magkaroon ng iba't ibang mga kasinungalingan na naka-embed, kabilang ang maliwanag na hindi totoo na mga katotohanan, mga katotohanan na mapanlinlang na inilalarawan, at maliwanag na mga katotohanan na ganap na gawa-gawa. Ang mga gawa-gawang aspeto ay madalas na tinutukoy bilang isang anyo ng Mga guni-guni ng AI, isang catchphrase na hindi ko pinapaboran ngunit nalulungkot na tila nakakakuha pa rin ng sikat na traksyon (para sa aking detalyadong paliwanag kung bakit ito ay pangit at hindi angkop na terminolohiya, tingnan ang aking saklaw sa ang link dito).

Gusto kong linawin ang isang mahalagang aspeto bago tayo pumasok sa kapal ng mga bagay sa paksang ito.

Nagkaroon ng ilang mga kalokohan outsized claim sa social media tungkol sa Generative AI iginiit na ang pinakabagong bersyon ng AI ay sa katunayan nararamdaman AI (hindi, mali sila!). Ang mga nasa AI Ethics at AI Law ay kapansin-pansing nag-aalala tungkol sa umuusbong na trend na ito ng mga nakalahad na claim. Maaari mong magalang na sabihin na ang ilang mga tao ay labis na nagsasaad kung ano ang aktwal na magagawa ng AI ngayon. Ipinapalagay nila na ang AI ay may mga kakayahan na hindi pa natin nakakamit. Nakakalungkot naman. Ang mas masahol pa, maaari nilang payagan ang kanilang sarili at ang iba na mapunta sa mga mahihirap na sitwasyon dahil sa isang pagpapalagay na ang AI ay magiging sensitibo o tulad ng tao sa kakayahang kumilos.

Huwag i-anthropomorphize ang AI.

Ang paggawa nito ay madadala sa iyo sa isang malagkit at nakakapagod na reliance trap ng pag-asa na gagawin ng AI ang mga bagay na hindi nito kayang gawin. Dahil dito, ang pinakabago sa generative AI ay medyo kahanga-hanga para sa kung ano ang magagawa nito. Magkaroon ng kamalayan kahit na may mga makabuluhang limitasyon na dapat mong patuloy na tandaan kapag gumagamit ng anumang generative AI app.

Kung interesado ka sa mabilis na lumalawak na kaguluhan tungkol sa ChatGPT at Generative AI lahat, gumawa ako ng isang nakatutok na serye sa aking column na maaari mong makitang nagbibigay-kaalaman. Narito ang isang sulyap kung sakaling magustuhan mo ang alinman sa mga paksang ito:

• 1) Mga Predictions Ng Generative AI Advances Paparating. Kung gusto mong malaman kung ano ang posibleng mangyari tungkol sa AI sa buong 2023 at higit pa, kabilang ang mga paparating na pag-unlad sa generative AI at ChatGPT, gugustuhin mong basahin ang aking komprehensibong listahan ng mga hula sa 2023 sa ang link dito.
• 2) Generative AI at Mental Health Advice. Pinili kong suriin kung paano ginagamit ang generative AI at ChatGPT para sa payo sa kalusugan ng isip, isang nakakabagabag na kalakaran, ayon sa aking nakatutok na pagsusuri sa ang link dito.
• 3) Mga Batayan Ng Generative AI At ChatGPT. Tinutuklas ng bahaging ito ang mga pangunahing elemento kung paano gumagana ang generative AI at lalo na ang pag-aaral sa ChatGPT app, kabilang ang pagsusuri ng buzz at fanfare, sa ang link dito.
• 4) Tensyon sa Pagitan ng Mga Guro At Estudyante Dahil sa Generative AI At ChatGPT. Narito ang mga paraan na ang mga mag-aaral ay mapanlinlang na gumamit ng generative AI at ChatGPT. Bilang karagdagan, mayroong ilang mga paraan para labanan ng mga guro ang tidal wave na ito. Tingnan mo ang link dito.
• 5) Konteksto At Generative AI Use. Gumawa rin ako ng seasonally flavored tongue-in-cheek na pagsusuri tungkol sa isang kontekstong nauugnay sa Santa na kinasasangkutan ng ChatGPT at generative AI sa ang link dito.
• 6) Mga Scammer na Gumagamit ng Generative AI. Sa isang nakakatakot na tala, naisip ng ilang scammer kung paano gamitin ang generative AI at ChatGPT para gumawa ng maling gawain, kabilang ang pagbuo ng mga email ng scam at kahit na paggawa ng programming code para sa malware, tingnan ang aking pagsusuri sa ang link dito.
• 7) Mga Pagkakamali ng Rookie Gamit ang Generative AI. Maraming tao ang parehong nag-overshoot at nakakagulat na nag-undershoot kung ano ang magagawa ng generative AI at ChatGPT, kaya tiningnan ko lalo na ang undershooting na kadalasang ginagawa ng AI rookies, tingnan ang talakayan sa ang link dito.
• 8) Pagharap sa Mga Generative AI Prompt At AI Hallucinations. Inilalarawan ko ang isang nangungunang diskarte sa paggamit ng mga add-on ng AI upang harapin ang iba't ibang isyu na nauugnay sa pagsubok na magpasok ng mga angkop na prompt sa generative AI, at may mga karagdagang AI add-on para sa pag-detect ng tinatawag na AI hallucinated na mga output at kasinungalingan, bilang sakop sa ang link dito.
• 9) Debunking Bonehead Claims Tungkol sa Pag-detect ng Generative AI-Produced Essays. Mayroong isang misguided gold rush ng AI apps na nagpapahayag na magagawang tiyakin kung ang anumang ibinigay na sanaysay ay ginawa ng tao kumpara sa AI-generated. Sa pangkalahatan, ito ay mapanlinlang at sa ilang mga kaso, isang walang kabuluhan at hindi mapagkakatiwalaang claim, tingnan ang aking saklaw sa ang link dito.
• 10) Role-Playing Via Generative AI Maaaring Magpahiwatig ng Mga Kakulangan sa Kalusugan ng Pag-iisip. Ang ilan ay gumagamit ng generative AI gaya ng ChatGPT para mag-role-playing, kung saan ang AI app ay tumutugon sa isang tao na parang nasa isang fantasy world o iba pang gawa-gawang setting. Ito ay maaaring magkaroon ng mga epekto sa kalusugan ng isip, kita n'yo ang link dito.
• 11) Paglalantad sa Saklaw ng Mga Na-output na Error at Kasinungalingan. Pinagsasama-sama ang iba't ibang nakolektang listahan upang subukan at ipakita ang katangian ng mga error at kasinungalingan na ginawa ng ChatGPT. Ang ilan ay naniniwala na ito ay mahalaga, habang ang iba ay nagsasabi na ang ehersisyo ay walang saysay, tingnan ang aking pagsusuri sa ang link dito.
• 12) Ang mga Paaralan na Nagba-ban sa Generative AI ChatGPT ay Nawawala Ang Bangka. Maaaring alam mo na ang iba't ibang paaralan tulad ng New York City (NYC) Department of Education ay nagdeklara ng pagbabawal sa paggamit ng ChatGPT sa kanilang network at mga nauugnay na device. Kahit na ito ay tila isang kapaki-pakinabang na pag-iingat, hindi nito magagalaw ang karayom ​​at nakalulungkot na lubusang nakakaligtaan ang bangka, tingnan ang aking saklaw sa ang link dito.
• 13) Ang Generative AI ChatGPT ay Pupunta Saanman Dahil Sa Paparating na API. May isang mahalagang twist na darating tungkol sa paggamit ng ChatGPT, ibig sabihin, sa pamamagitan ng paggamit ng API portal sa partikular na AI app na ito, ang ibang mga software program ay makakapag-invoke at makakagamit ng ChatGPT. Ito ay kapansin-pansing magpapalawak sa paggamit ng generative AI at may mga kapansin-pansing kahihinatnan, tingnan ang aking pagpaliwanag sa ang link dito.
• 14) Mga Paraan na Maaaring Magulo o Matunaw ang ChatGPT. Maraming mga potensyal na nakakainis na isyu ang nangunguna sa ChatGPT sa mga tuntunin ng pagbabawas sa napakalaking papuri na natanggap nito. Masusing sinusuri ng pagsusuring ito ang walong posibleng problema na maaaring maging sanhi ng pagkawala ng singaw ng ChatGPT at mapunta pa sa doghouse, tingnan ang link dito.

Maaari kang makakita ng interes na ang ChatGPT ay nakabatay sa isang bersyon ng naunang AI app na kilala bilang GPT-3. Ang ChatGPT ay itinuturing na isang bahagyang susunod na hakbang, na tinutukoy bilang GPT-3.5. Inaasahan na ang GPT-4 ay malamang na maipalabas sa Spring ng 2023. Malamang, ang GPT-4 ay magiging isang kahanga-hangang hakbang pasulong sa mga tuntunin ng kakayahang makagawa ng tila mas matatas na sanaysay, lumalalim, at maging isang pagkamangha -kagila-gilalas na kagila-gilalas sa mga komposisyong kayang gawin.

Maaari mong asahan na makakita ng isang bagong yugto ng ipinahayag na pagkamangha pagdating ng tagsibol at ang pinakabago sa generative AI ay inilabas.

Ibinalita ko ito dahil may isa pang anggulo na dapat tandaan, na binubuo ng isang potensyal na Achilles heel sa mas mahusay at mas malaking generative AI app na ito. Kung ang sinumang vendor ng AI ay gagawa ng isang generative AI app na bumubula ng karumihan, maaari nitong sirain ang pag-asa ng mga gumagawa ng AI na iyon. Ang isang societal spillover ay maaaring maging sanhi ng lahat ng generative AI na magkaroon ng malubhang black eye. Ang mga tao ay walang alinlangan na lubos na magalit sa mga masasamang output, na nangyari nang maraming beses na at humantong sa maingay na pagkondena ng lipunan na sumasagot sa AI.

Isang huling paunang babala sa ngayon.

Anuman ang nakikita o nabasa mo sa isang generative na tugon ng AI tila upang maiparating bilang pulos makatotohanan (mga petsa, lugar, tao, atbp.), siguraduhing manatiling may pag-aalinlangan at handang suriing muli ang iyong nakikita.

Oo, ang mga petsa ay maaaring ihanda, ang mga lugar ay maaaring gawin, at ang mga elemento na karaniwan nating inaasahan na walang kapintasan ay lahat napapailalim sa mga hinala. Huwag paniwalaan ang iyong binabasa at panatilihin ang isang may pag-aalinlangan kapag sinusuri ang anumang generative na sanaysay o output ng AI. Kung sasabihin sa iyo ng isang generative AI app na si Abraham Lincoln ay lumipad sa buong bansa gamit ang sarili niyang pribadong jet, walang alinlangan na malalaman mo na ito ay malabo. Sa kasamaang-palad, maaaring hindi napagtanto ng ilang tao na ang mga jet ay wala sa kanyang panahon, o maaaring alam nila ngunit hindi nila napapansin na ang sanaysay ay gumagawa ng bastos at labis na maling pahayag.

Ang isang malakas na dosis ng malusog na pag-aalinlangan at isang paulit-ulit na pag-iisip ng kawalang-paniwala ang iyong magiging pinakamahusay na asset kapag gumagamit ng generative AI.

Handa na kaming lumipat sa susunod na yugto ng pagpapaliwanag na ito.

Alam Kung Ano ang Mangyayari ng Diyablo Sa Tekstong Iyan

Ngayong naitatag na natin ang mga pangunahing kaalaman, maaari na tayong sumabak sa mga pagsasaalang-alang ng data at impormasyon kapag gumagamit ng generative AI.

Una, isaalang-alang natin sandali kung ano ang mangyayari kapag nagpasok ka ng ilang text sa isang prompt para sa ChatGPT. Hindi namin alam kung ano ang nangyayari sa loob ng ChatGPT dahil ang programa ay itinuturing na pagmamay-ari. Itinuro ng ilan na pinababa nito ang pakiramdam ng transparency tungkol sa AI app. Ang isang medyo matalinong pangungusap ay na para sa isang kumpanya na tinatawag na OpenAI, ang kanilang AI ay talagang sarado sa pampublikong pag-access at hindi magagamit bilang open source.

Pag-usapan natin ang tokenization.

Kapag naglagay ka ng plain text sa isang prompt at pindutin ang return, malamang na may conversion na agad na mangyayari. Ang teksto ay na-convert sa isang format na binubuo ng mga token. Ang mga token ay mga subpart ng mga salita. Halimbawa, ang salitang "hamburger" ay karaniwang nahahati sa tatlong token na binubuo ng bahaging "ham", "bur", at "ger". Ang isang patakaran ng thumb ay ang mga token ay may posibilidad na kumakatawan sa mga apat na character o itinuturing na humigit-kumulang 75% ng isang kumbensyonal na salitang Ingles.

Ang bawat token ay muling binabalangkas bilang isang numero. Iba't ibang mga panloob na talahanayan ang nagtatalaga kung aling token ang itinalaga sa partikular na numero. Ang pagkatuto dito ay ang teksto na iyong inilagay ay isa na ngayong isang hanay ng mga numero. Ang mga numerong iyon ay ginagamit upang masuri ang pagkalkula ng prompt. Higit pa rito, ang network ng pagtutugma ng pattern na nabanggit ko kanina ay batay din sa mga tokenized na halaga. Sa huli, kapag bumubuo o bumubuo ng na-output na sanaysay, ang mga numeric na token na ito ay unang ginagamit, at pagkatapos ay bago ipakita, ang mga token ay iko-convert pabalik sa mga hanay ng mga titik at salita.

Pag-isipan iyon sandali.

Kapag sinabi ko sa mga tao na ganito ang mekanismo ng pagproseso, madalas silang natulala. Ipinapalagay nila na ang isang generative AI app gaya ng ChatGPT ay dapat gumamit ng ganap na pinagsama-samang mga salita. Lohikal naming ipinapalagay na ang mga salita ay nagsisilbing keystone para sa istatistikal na pagtukoy ng mga relasyon sa mga nakasulat na salaysay at komposisyon. Lumalabas na ang pagpoproseso ay talagang gumagamit ng mga token. Marahil ito ay nagdaragdag sa pagkamangha sa kung paano ang proseso ng computational ay tila gumagawa ng isang nakakumbinsi na trabaho ng paggaya sa wika ng tao.

Dinala kita sa prosesong iyon dahil sa isang karaniwang maling kuru-kuro na tila kumakalat sa paligid. Ang ilang mga tao ay mukhang naniniwala na dahil ang iyong prompt na text ay kino-convert sa mga numerong token, ikaw ay ligtas at maayos na ang mga panloob ng AI app kahit papaano ay wala na ang iyong orihinal na inilagay na teksto. Kaya, nagpapatuloy ang paghahabol, kahit na naglagay ka ng kumpidensyal na impormasyon sa iyong prompt, wala kang alalahanin dahil ang lahat ng ito ay tila na-tokenize.

Ang paniwala na iyon ay isang kamalian. Itinuro ko lang na ang mga numeric na token ay madaling maibalik sa textual na format ng mga titik at salita. Ang parehong ay maaaring gawin sa na-convert na prompt na na-tokenize. Walang mahiwagang proteksiyon tungkol sa pagiging tokenized. Iyon ay sinabi, pagkatapos ng conversion sa mga token, kung may karagdagang proseso na nagpasyang mag-drop out ng mga token, ilipat ang mga ito sa paligid, at kung hindi man ay pag-aagawan o paghiwa-hiwalayin ang mga bagay, sa kasong iyon, talagang may posibilidad na ang ilang bahagi ng orihinal prompt ay hindi na buo (at ipagpalagay na ang isang orihinal na kopya ay hindi pinananatili o iniimbak sa isang lugar sa loob).

Gusto ko sa susunod na tingnan ang iba't ibang mga notification at mga itinatakda sa paglilisensya ng ChatGPT.

Kapag nag-log in ka sa ChatGPT, mayroong isang serye ng mga pag-iingat at mga komentong nagbibigay-kaalaman na ipinapakita.

Nandito na sila:

• "Paminsan-minsan ay maaaring makabuo ng maling impormasyon."
• "Maaaring makagawa paminsan-minsan ng mga mapaminsalang tagubilin o may pinapanigang content."
• "Sinanay na tanggihan ang mga hindi naaangkop na kahilingan."
• "Ang aming layunin ay makakuha ng panlabas na feedback upang mapahusay ang aming mga system at gawing mas ligtas ang mga ito."
• “Habang mayroon kaming mga pananggalang na nakalagay, ang system ay maaaring paminsan-minsan ay bumuo ng hindi tama o mapanlinlang na impormasyon at makagawa ng nakakasakit o may pinapanigan na nilalaman. Hindi ito naglalayong magbigay ng payo."
• "Maaaring suriin ng aming mga AI trainer ang mga pag-uusap upang mapabuti ang aming mga system."
• "Mangyaring huwag magbahagi ng anumang sensitibong impormasyon sa iyong mga pag-uusap."
• "Ang sistemang ito ay na-optimize para sa dialogue. Ipaalam sa amin kung ang isang partikular na tugon ay mabuti o hindi nakakatulong."
• "Limitadong kaalaman sa mundo at mga kaganapan pagkatapos ng 2021."

Ang dalawa sa mga nakasaad na pag-iingat ay partikular na nauugnay sa talakayang ito. Tingnan ang ikaanim na bullet point at ang ikapitong bulleted point.

I-unpack natin ang dalawang iyon:

"Maaaring suriin ng aming mga AI trainer ang mga pag-uusap upang mapabuti ang aming mga system."

Ang ikaanim na bullet na puntong ito ay nagpapaliwanag na ang mga pag-uusap sa text kapag gumagamit ng ChatGPT ay maaaring suriin ng ChatGPT sa pamamagitan ng "AI trainer" nito na ginagawa upang mapabuti ang kanilang mga system. Ito ay para ipaalam sa iyo na para sa anuman at lahat ng iyong ipinasok na text prompt at ang kaukulang outputted na mga sanaysay, na lahat ay bahagi ng "pag-uusap" na gagawin mo sa ChatGPT, ito ay ganap na makikita ng kanilang mga tao. Ang katwiran na ibinibigay ay ginagawa ito upang mapabuti ang AI app, at sinabi rin sa amin na ito ay isang uri ng gawain sa trabaho na ginagawa ng kanilang mga tagapagsanay ng AI. Siguro nga, pero ang kinalabasan ay pinapansin ka nila na maaari nilang tingnan ang iyong text. Panahon, full stop.

Kung gagawa sila ng ibang bagay sa iyong teksto, malamang na humingi ka ng legal na payo tungkol sa kung sila ay labis na lumampas sa mga iminungkahing limitasyon ng pagrepaso lamang sa teksto para sa mga layunin ng pagpapabuti ng system (ipagpalagay na nagawa mong matuklasan na ginawa nila ito, alin sa mismo ay tila hindi malamang). Gayon pa man, maaari mong isipin ang legal na wrangling ng sinusubukang i-pin down sila sa ito, at ang kanilang mga pagtatangka sa wordsmith ang kanilang paraan sa labas ng nabbed para sa anumang paraan ay lumalabag sa mga hangganan ng kanilang disclaimer.

"Mangyaring huwag magbahagi ng anumang sensitibong impormasyon sa iyong mga pag-uusap."

Ang ikapitong bullet na punto ay nagpapahiwatig na hindi ka dapat magbahagi ng anumang sensitibong impormasyon sa iyong mga pag-uusap. Iyon ay tila medyo prangka. Sa palagay ko maaari kang mag-quibble sa kung ano ang binubuo ng kahulugan ng sensitibong impormasyon. Gayundin, hindi sinasabi sa iyo ng naka-bullet na punto kung bakit hindi ka dapat magbahagi ng anumang sensitibong impormasyon. Kung balang araw ay kailangan mong subukan at sa matinding pawis ay ipaliwanag kung bakit walang kabuluhang ipinasok mo ang kumpidensyal na data, maaari mong subukan ang nakataas na kilay na claim na ang babala ay hindi partikular, samakatuwid, hindi mo naunawaan ang kahalagahan. Hawakan ang iyong hininga sa isang iyon.

Sa kabuuan, nangangahas akong sabihin na karamihan sa mga tao na nakita ko na gumagamit ng ChatGPT ay may posibilidad na hindi basahin ang mga naka-bullet na punto, o sinagap nila ang mga naka-bullet na pag-iingat at tinatango lang ang kanilang ulo na para bang ito ang karaniwang walang kwentang legalese na nakikita mo sa lahat ng oras. Iilan lamang ang waring mahigpit na isinasapuso ang mga babala. Kasalanan ba ito ng vendor sa hindi paggawa ng mga pag-iingat nang mas malinaw? O dapat ba nating ipagpalagay na ang mga gumagamit ay dapat na maging responsable at maingat na basahin, unawain, at pagkatapos ay kumilos nang matalino batay sa mga babala?

Sinasabi pa nga ng ilan na ang AI app ay dapat na paulit-ulit na balaan ka. Sa bawat oras na magpasok ka ng isang prompt, ang software ay dapat mag-pop up ng isang babala at tanungin ka kung gusto mong pindutin ang pagbabalik. Paulit-ulit. Kahit na ito ay maaaring mukhang isang kapaki-pakinabang na pag-iingat, tinatanggap na ito ay makakainis sa mga gumagamit. Isang matitinik na tradeoff ang kasangkot.

Okay, kaya iyon ang mga malinaw na pag-iingat na ipinakita para madaling makita ng lahat ng mga gumagamit.

Ang mga user na maaaring mas matanong, ay maaaring mag-opt na ituloy ang ilan sa mga detalyadong itinatakda sa paglilisensya na nai-post din online. Duda ako na marami ang gumagawa nito. Ang kutob ko ay kakaunti ang seryosong tumitingin sa mga bullet na puntos kapag nagla-log in, at mas kaunti pa sa malaking margin pagkatapos ay tingnan ang mga detalye ng paglilisensya. Muli, lahat tayo ay medyo manhid sa mga ganitong bagay ngayon. Hindi ko idinadahilan ang pag-uugali, ang pagpuna lamang kung bakit ito nangyayari.

Susuriin ko ang ilang mga sipi mula sa naka-post na mga tuntunin sa paglilisensya.

Una, narito ang isang kahulugan ng kung ano ang itinuturing nilang "nilalaman" na nauugnay sa paggamit ng ChatGPT:

• “Iyong Nilalaman. Maaari kang magbigay ng input sa Mga Serbisyo ('Input'), at makatanggap ng output na nabuo at ibinalik ng Mga Serbisyo batay sa Input ('Output'). Ang Input at Output ay sama-samang "Nilalaman." Sa pagitan ng mga partido at sa lawak na pinahihintulutan ng naaangkop na batas, pagmamay-ari mo ang lahat ng Input, at napapailalim sa iyong pagsunod sa Mga Tuntuning ito, itinatalaga sa iyo ng OpenAI ang lahat ng karapatan, titulo at interes nito sa at sa Output. Maaaring gumamit ang OpenAI ng Content kung kinakailangan para ibigay at mapanatili ang Mga Serbisyo, sumunod sa naaangkop na batas, at ipatupad ang aming mga patakaran. Ikaw ay may pananagutan para sa Nilalaman, kabilang ang para sa pagtiyak na hindi ito lumalabag sa anumang naaangkop na batas o sa Mga Tuntuning ito.”

Kung maingat mong susuriin ang kahulugang iyon, mapapansin mong ipinapahayag ng OpenAI na maaari nitong gamitin ang nilalaman ayon sa kanilang inaakala na kinakailangan upang mapanatili ang mga serbisyo nito, kabilang ang pagsunod sa mga naaangkop na batas at pagpapatupad ng mga patakaran nito. Ito ay isang madaling gamitin na catchall para sa kanila. Sa paparating na isa sa aking mga column, tatalakayin ko ang ibang ngunit kaugnay na paksa, partikular ang tungkol sa mga karapatan sa Intelektwal na Ari-arian (IP) na mayroon ka tungkol sa mga ipinasok na text prompt at output na mga sanaysay (itinuturo ko ito dito dahil sa kahulugan ng Ang nilalaman ay nauugnay sa paksang iyon).

Sa karagdagang bahagi ng mga termino, na may label na seksyon c, binanggit nila ang facet na ito: "Ang isa sa mga pangunahing benepisyo ng mga modelo ng machine learning ay maaari silang mapabuti sa paglipas ng panahon. Upang matulungan ang OpenAI na ibigay at mapanatili ang Mga Serbisyo, sumasang-ayon ka at nagtuturo na maaari naming gamitin ang Nilalaman upang bumuo at mapabuti ang Mga Serbisyo. Ito ay katulad ng naunang tinalakay na one-line na pag-iingat na lumilitaw kapag nag-log in ka sa ChatGPT.

Ang isang hiwalay na dokumento na naka-link dito ay nagbibigay ng ilang karagdagang aspeto sa mabibigat na bagay na ito:

• “Bilang bahagi ng patuloy na pagpapahusay na ito, kapag gumamit ka ng mga modelo ng OpenAI sa pamamagitan ng aming API, maaari naming gamitin ang data na ibinibigay mo sa amin upang mapabuti ang aming mga modelo. Hindi lamang ito nakakatulong sa aming mga modelo na maging mas tumpak at mas mahusay sa paglutas ng iyong partikular na problema, nakakatulong din ito na pahusayin ang kanilang mga pangkalahatang kakayahan at kaligtasan. Alam namin na ang privacy at seguridad ng data ay kritikal para sa aming mga customer. Nag-iingat kaming mabuti na gumamit ng naaangkop na mga kontrol sa teknikal at proseso upang ma-secure ang iyong data. Inaalis namin ang anumang impormasyong nagbibigay ng personal na pagkakakilanlan mula sa data na nilalayon naming gamitin para mapahusay ang performance ng modelo. Gumagamit din kami ng maliit na sampling ng data bawat customer para sa aming mga pagsisikap na pahusayin ang performance ng modelo. Halimbawa, para sa isang gawain, ang maximum na bilang ng mga kahilingan sa API na aming nasasampol sa bawat customer ay nililimitahan sa 200 bawat 6 na buwan" (kinuha mula sa dokumentong pinamagatang "Paano ginagamit ang iyong data upang mapabuti ang pagganap ng modelo").

Tandaan na ang takda ay nagpapahiwatig na ang probisyon ay nalalapat sa paggamit ng API bilang isang paraan ng pagkonekta sa at paggamit ng mga modelo ng OpenAI na lahat ay sinabi. Medyo malabo kung ito ay pantay na nalalapat sa mga end user na direktang gumagamit ng ChatGPT.

Sa ibang dokumento, isa na naglalaman ng kanilang listahan ng iba't ibang FAQ, nagbibigay sila ng serye ng mga tanong at sagot, dalawa sa mga ito ay tila partikular na nauugnay sa talakayang ito:

• “(5) Sino ang makakatingin sa aking mga pag-uusap? Bilang bahagi ng aming pangako sa ligtas at responsableng AI, sinusuri namin ang mga pag-uusap para mapahusay ang aming mga system at para matiyak na sumusunod ang content sa aming mga patakaran at kinakailangan sa kaligtasan."
• “(8) Maaari mo bang tanggalin ang mga partikular na prompt? Hindi, hindi namin matanggal ang mga partikular na prompt mula sa iyong kasaysayan. Mangyaring huwag magbahagi ng anumang sensitibong impormasyon sa iyong mga pag-uusap.”

Mayroong karagdagang dokumento na sumasaklaw sa kanilang patakaran sa privacy. Ganito ang sabi nito: “Kami ay nangongolekta ng impormasyon na nag-iisa o kasama ng iba pang impormasyong nasa aming pagmamay-ari ay maaaring magamit upang makilala ka (“Personal na Impormasyon”)” at pagkatapos ay nagpapaliwanag na maaari silang gumamit ng data ng log, data ng paggamit, impormasyon sa komunikasyon, impormasyon ng device, cookies, analytics, at iba pang posibleng makolektang impormasyon tungkol sa iyo. Siguraduhing basahin ang fine print.

Sa tingin ko, halos nagbibigay ito ng tour ng ilang pagsasaalang-alang na pinagbabatayan kung paano maaaring gamitin ang iyong data. Gaya ng binanggit ko sa simula, hindi ko gagawin ang lahat ng mga itinatakda sa paglilisensya.

Sana, ito ay magdadala sa iyo sa isang balangkas ng pag-iisip sa mga bagay na ito at mananatili sa iyong isip.

Konklusyon

Nasabi ko na ito noon at uulitin ko, huwag maglagay ng kumpidensyal o pribadong data sa mga generative na AI app na ito.

Isaalang-alang ang ilang madaling gamiting tip o opsyon sa sage na payo na ito:

• Mag-isip Bago Gumamit ng Generative AI
• Alisin ang Bagay Bago
• I-mask O Peke ang Input Mo
• I-setup ang Iyong Sariling Instance
• iba

Susunod kong ipahiwatig kung ano ang binubuo ng bawat isa sa mga iyon. Ang pag-set up ng sarili mong instance ay mas maagang tinalakay dito. Ang paggamit ng "iba pa" sa aking listahan ay dahil sa posibilidad ng iba pang mga paraan upang makayanan ang pagpigil sa kumpidensyal na data mula sa pagsama, na higit kong tatalakayin sa isang pag-post sa column sa hinaharap.

Suriin natin ang mga ito:

• Mag-isip Bago Gumamit ng Generative AI. Kasama sa isang diskarte ang pag-iwas sa paggamit ng generative AI sa kabuuan. O hindi bababa sa mag-isip nang dalawang beses bago mo gawin ito. Sa palagay ko ang pinakaligtas na paraan ay kinabibilangan ng hindi paggamit ng mga AI app na ito. Ngunit ito rin ay tila medyo malubha at halos sumobra.
• Alisin ang Bagay Bago. Ang isa pang diskarte ay binubuo ng pag-alis ng kumpidensyal o pribadong impormasyon mula sa anumang ipinasok mo bilang isang prompt. Sa ganoong kahulugan, kung hindi mo ito ipasok, walang pagkakataon na maipasok ito sa Borg. Ang downside ay maaaring ang pag-alis ng kumpidensyal na bahagi sa paanuman ay nakakabawas o nakakabawas sa sinusubukan mong gawin ng generative AI para sa iyo.
• I-mask O Peke ang Iyong Mga Input. Maaari mong baguhin ang iyong iminungkahing teksto sa pamamagitan ng pagpapalit ng impormasyon upang ang anumang tila kumpidensyal o pribado ay iba na ang pagkakalarawan. Halimbawa, sa halip na isang kontrata na banggitin ang Kumpanya ng Widget at John Smith, babaguhin mo ang teksto upang sumangguni sa Specious Company at Jane Capone. Ang isang isyu dito ay kung gagawa ka ng isang sapat na kumpleto na trabaho upang ang lahat ng mga kumpidensyal at pribadong aspeto ay ganap na binago o peke. Madaling makaligtaan ang ilan sa mga pag-ulap at umalis sa mga bagay na hindi dapat naroroon.

Narito ang isang kawili-wiling idinagdag na twist na maaaring makakuha ng iyong noggin sa karagdagang pag-uulat sa paksang ito. Kung maaari mong ganap na matiyak na wala sa iyong mga input prompt na naglalaman ng anumang kumpidensyal na impormasyon, ito ba ay nagpapahiwatig na hindi mo kailangang mag-alala tungkol sa mga nai-output na sanaysay na naglalaman din ng alinman sa iyong kumpidensyal na impormasyon?

Ito ay tila axiomatically totoo. Walang kumpidensyal na input, walang kumpidensyal na output.

Narito ang iyong isip-bending twist.

Ang Generative AI ay madalas na naka-set up upang computationally retrain ang sarili nito mula sa mga text prompt na ibinibigay. Gayundin, ang generative AI ay madalas na ginawa upang computationally retrain mula sa outputted essays. Ang lahat ng retraining na ito ay nilayon upang mapabuti ang mga kakayahan ng generative AI.

Inilarawan ko sa isa sa aking iba pang mga column ang sumusunod na eksperimento na aking isinagawa. Sinusubukan ng isang abogado na tumuklas ng isang nobelang paraan ng pagharap sa isang legal na isyu. Pagkatapos ng isang kumpletong pagtingin sa legal na literatura, tila lahat ng mga anggulo na lumitaw ay natagpuan. Gamit ang generative AI, nakuha namin ang AI app para makagawa ng bagong bagay sa isang legal na diskarte na tila hindi pa natukoy dati. Ito ay pinaniniwalaan na wala pang ibang nakarating sa legal na postura na ito. Isang legal na gold nugget, kumbaga. Ito ay maaaring isang madiskarteng mahalagang mapagkumpitensyang legal na bonanza na sa tamang panahon ay magagamit at pinagsamantalahan.

Ang na-output na sanaysay ba ay bumubuo ng isang anyo ng kumpidensyal na impormasyon, kung kaya't ito ay nabuo ng AI para sa partikular na taong ito at naglalaman ng isang bagay na espesyal at tila kakaiba?

Aha, dinadala tayo nito sa iba pang magkakaugnay at magkakaugnay na paksa tungkol sa pagmamay-ari at mga karapatan sa IP na nauugnay sa generative AI. Manatiling nakatutok upang makita kung paano ito lumalabas.

Isang huling pangungusap sa ngayon.

Ibinigay ni Sophocles ang ganitong karunungan: “Gumawa ng anuman nang palihim; sapagkat ang panahon ay nakakakita at nakakarinig ng lahat ng bagay, at naghahayag ng lahat.” Sa palagay ko maaari mong gawing moderno ang mga salita at ipaglaban na ang generative AI at ang mga nag-iisip at nagpapanatili ng AI ay apt na makita ang lahat.

Ito ay isang katamtamang token na piraso ng payo na karapat-dapat na alalahanin.