AI Ethics At AI-Induced Psychological Inoculation Para Tulungan ang Mga Tao na May Disinformation

Ano ang gagawin natin tungkol sa napakalaking pagdagsa ng disinformation at maling impormasyon?

Ang lahat ng ito ay nagpapakitang lumalala at lumalala, sa bawat araw na lumilipas.

Marahil ang Artificial Intelligence (AI) ay maaaring sumagip sa atin. Oo, tama, maaari nating gamitin ang mga kapaki-pakinabang na paggamit ng AI upang makayanan ang ating walang tigil na tsunami ng disinformation at maling impormasyon. Maaaring maging matalino tayong subukang gawin ito. Ang bawat paraan ng potensyal na solusyon ay tila karapat-dapat na ituloy.

Bilang isang tabi, gusto kong agad na kilalanin at tandaan na ang AI ay walang alinlangan na Rin maging bahagi din ng problema. Walang tanong na madaling magamit ng mga tao ang AI upang makabuo ng disinformation at maling impormasyon. Higit pa rito, mapanlinlang na magagamit ang AI upang gawing kahanga-hangang wasto ang disinformation at maling impormasyon at lokohin ang mga tao sa paniniwalang ang ipinakitang impormasyon ay kaakit-akit na tumpak at makatotohanan. Isang tiyak na malungkot na bahagi ng mukha ng kung ano ang dinadala ng AI sa talahanayan. Babalik tayo sa downside conundrum na ito sa pagtatapos ng talakayang ito.

Sa ngayon, isuot natin ang ating mga nakangiting mukha at tuklasin kung paano kapaki-pakinabang ang AI sa pagdadala ng disinformation at maling impormasyon sa napakalakas nitong tuhod. Ang isang mahalagang undercurrent ay ang lahat ng ito ay magkakaugnay sa mahahalagang elemento ng AI Ethics. Ang saklaw ng aking column ng AI Ethics at Ethical AI ay patuloy at malawak, kasama na ang link dito at ang link dito, Lamang upang pangalanan ang ilang.

Isaalang-alang ang mga pundasyong paraan na ito kung saan maaaring maging kapaki-pakinabang ang AI sa digmaan laban sa disinformation at maling impormasyon:

• Huminto Sa Get-Go: Maaaring gamitin ang AI upang tuklasin at subukang i-excise ang disinformation at maling impormasyon bago ito makawala
• Salain Bago Makita: Maaaring gamitin ang AI upang i-filter ang disinformation at maling impormasyon para hindi mo kailangang mag-alala na makita ito
• Ihanda Ka Upang Maging Immune: Maaaring gamitin ang AI upang palakasin ang iyong kahandaan at kakayahang makipaglaban sa disinformation at maling impormasyon (medyo pormal na kilala bilang pagbibigay ng isang uri ng psychological inoculation)
• iba

Ang unang nakalistang bullet point ay nangangailangan ng pagsisikap na ihinto ang disinformation at maling impormasyon sa pinakamaagang posibleng sandali, bago ang nilalaman na mapunta sa mundo.

Ito ay isang napaka-problemadong diskarte. Ang ilan ay malakas na magtaltalan na maaaring ito ay isang pagtatangka ni Big Brother na sugpuin ang kalayaan sa pagsasalita. Hanggang saan kaya ang AI na ito? Maiiwasan ba nito ang mga tao na malayang magpahayag ng kanilang mga pananaw? Ang nakakatakot na ito ay maaaring maging isang madulas na dalisdis ng AI na sa huli ay nagiging pinakamasamang bangungot ng mga masasamang resulta na inosenteng nagsimula sa pinakamahusay na mga intensyon.

Sigurado akong nakuha mo ang larawan.

Ang pangalawang bullet point ay medyo mas katamtaman at nagmumungkahi na maaari naming gamitin ang AI upang i-filter ang nilalaman para sa amin.

Maaaring mayroon kang AI filter bot na mag-ii-scan sa lahat ng iyong papasok na data feed mula sa iba't ibang balita at iba pang mapagkukunan. Ang AI ay iniakma upang mahuli ang anumang disinformation o maling impormasyon na akma sa iyong personal na pamantayan. Kaya, sa ganoong senaryo, hindi ito sitwasyon ng censorship ng Big Brother. Kinokontrol mo ang AI at kung paano nito sinasala ang iyong tunay na inbox ng impormasyon sa ngalan mo.

Mukhang maganda.

Bagaman mayroong ilang mga kapansin-pansing alalahanin.

Halimbawa, lubos na tayong napolarize sa ating mga pananaw at ang paggamit ng AI na ito ay maaaring maging mas malalim at mas madidilim ang polariseysyon na iyon. Isipin na sa makinis na AI na ito na gumagana nang walang tigil na 24×7, hindi mo na kailangang makakita ng kaunting impormasyon na inuri mo bilang potensyal na disinformation at maling impormasyon. Ang iyong polarized na pananaw ay halos garantisadong mananatiling buo. Buong araw at sa tuwing hinahangad mong tingnan ang impormasyong naghihintay sa iyong atensyon, ito ay palaging ganap na pinipili, at walang pagkakataong sumulyap sa tinatawag na disinformation at maling impormasyon.

Sinasabi ko na maaaring maging disinformation at maling impormasyon tinatawag na dahil mayroong napakalaking kontrobersya sa kung ano talaga ang bumubuo ng disinformation at maling impormasyon. Iginigiit ng ilang mga pantas na mayroong ganap na batayan para sa pagtiyak kung ano ang disinformation at kung ano ang maling impormasyon. May tama at mali. Ang lahat ay maaaring kalkulahin nang hindi nagkakamali na ang isang bagay ay alinman sa disinformation o maling impormasyon.

Hindi lahat ay nakikita ang mga bagay bilang napakalinaw.

Ang proverbial on-or-off mutually exclusive dichotomy contrast ay sinasabing isang mapanlinlang na balangkas ng pag-iisip. Ang disinformation ng isang tao ay maaaring hindi ituring na disinformation sa ibang tao. Gayundin tungkol sa maling impormasyon. Ang assertion ay ang disinformation at maling impormasyon ay saklaw sa mga tuntunin ng kalikasan at magnitude. Ang pagsisikap na tiyakang pag-uri-uriin ang lahat ng impormasyon sa isang tumpok o sa isa pa ay mas mahirap kaysa sa iminumungkahi ng pag-wave ng kamay.

Ang diwa ay ang pangalawang bullet point tungkol sa paggamit ng AI bilang isang mekanismo ng pag-filter ay may mga tradeoff nito. Mayroong maliit na tanong na ang AI ay lalong ilalagay sa paggamit na ito. Kasabay nito, kailangan nating alalahanin ang mga hamon na ibibigay ng naturang AI sa unahan. Ang AI bilang isang filter para sa disinformation at maling impormasyon ay hindi isang silver bullet o slam dunk.

Dadalhin tayo nito sa ikatlong punto, lalo na ang posibilidad ng paggamit ng AI upang gawing mas mahusay ang mga tao sa pagharap sa disinformation at maling impormasyon.

Nagdududa ako na malamang na marami ka nang narinig tungkol sa ikatlong paraan ng paggamit ng AI sa kontekstong ito. Nagsisimula pa lang itong lumabas. Nasa dulo ka na ngayon ng isang bagay na malamang na lalago at unti-unting magagamit. Mangyaring malaman kahit na habang lumalawak ang kasikatan na ito, ang kontrobersya sa kung ito ay isang angkop na diskarte ay magiging lubos na makikita.

Bahagi ng isyu ay ang AI ay medyo ginagamit para sa kung ano ang tinutukoy ng ilan sa isang mapang-abusong paraan paglalaro ng isip sa mga tao.

Mukhang nakakatakot iyon.

Dinadala din tayo nito sa larangan ng AI Ethics.

Ang lahat ng ito ay nauugnay din sa mga umuusbong na alalahanin tungkol sa AI ngayon at lalo na sa paggamit ng Machine Learning at Deep Learning bilang isang paraan ng teknolohiya at kung paano ito ginagamit. Nakikita mo, may mga paggamit ng ML/DL na malamang na may kinalaman sa pagkakaroon ng AI na ma-antropomorphize ng publiko sa pangkalahatan, naniniwala o pinipiling ipagpalagay na ang ML/DL ay alinman sa sentient AI o malapit sa (ito ay hindi). Bilang karagdagan, ang ML/DL ay maaaring maglaman ng mga aspeto ng computational pattern na pagtutugma na hindi kanais-nais o tahasang hindi wasto, o ilegal mula sa etika o legal na mga pananaw.

Maaaring maging kapaki-pakinabang na linawin muna kung ano ang ibig kong sabihin kapag tinutukoy ang pangkalahatang AI at magbigay din ng maikling pangkalahatang-ideya ng Machine Learning at Deep Learning. Mayroong malaking kalituhan kung ano ang ibig sabihin ng Artificial Intelligence. Gusto ko ring ipakilala sa iyo ang mga alituntunin ng AI Ethics, na magiging mahalaga lalo na sa natitirang bahagi ng diskursong ito.

Pagsasabi ng Record Tungkol sa AI

Siguraduhin natin na tayo ay nasa parehong pahina tungkol sa likas na katangian ng AI ngayon.

Walang anumang AI ngayon na nakakaramdam.

Wala kaming ganito.

Hindi namin alam kung magiging posible ang sentient AI. Walang sinuman ang maaaring mahulaan kung makakamit natin ang sentient AI, o kung ang sentient AI ay kahit papaano ay miraculous na kusang lalabas sa isang anyo ng computational cognitive supernova (karaniwang tinutukoy bilang The Singularity, tingnan ang aking coverage sa ang link dito).

Napagtanto na ang AI ngayon ay hindi nagagawang "mag-isip" sa anumang paraan na katumbas ng pag-iisip ng tao. Kapag nakipag-ugnayan ka kay Alexa o Siri, ang mga kakayahan sa pakikipag-usap ay maaaring mukhang katulad ng mga kapasidad ng tao, ngunit ang katotohanan ay ito ay computational at walang katalinuhan ng tao. Ang pinakabagong panahon ng AI ay gumawa ng malawakang paggamit ng Machine Learning at Deep Learning, na gumagamit ng computational pattern matching. Ito ay humantong sa mga sistema ng AI na may hitsura ng mga proclivities na tulad ng tao. Samantala, walang anumang AI ngayon na may pagkakatulad ng sentido komun at wala ring anumang mga nagbibigay-malay na pagtataka ng matatag na pag-iisip ng tao.

Bahagi ng isyu ay ang tendensya nating gawing antropomorphize ang mga computer at lalo na ang AI. Kapag ang isang computer system o AI ay tila kumikilos sa mga paraan na iniuugnay natin sa pag-uugali ng tao, mayroong halos napakatinding pagnanasa na ibigay ang mga katangian ng tao sa system. Ito ay isang pangkaraniwang bitag sa pag-iisip na maaaring humawak ng kahit na ang pinaka-walang pag-aalinlangan tungkol sa mga pagkakataong maabot ang sentido.

Sa ilang antas, iyon ang dahilan kung bakit ang AI Ethics at Ethical AI ay isang napakahalagang paksa.

Ang mga tuntunin ng AI Ethics ay nagdudulot sa atin na manatiling mapagbantay. Ang mga technologist ng AI ay maaaring minsan ay maging abala sa teknolohiya, lalo na ang pag-optimize ng high-tech. Hindi nila kinakailangang isaalang-alang ang mas malalaking epekto sa lipunan. Ang pagkakaroon ng isang AI Ethics mindset at ang paggawa nito nang lubos sa AI development at fielding ay mahalaga para sa paggawa ng naaangkop na AI, kabilang ang pagtatasa kung paano ang AI Ethics ay pinagtibay ng mga kumpanya.

Bukod sa paggamit ng mga alituntunin sa AI Ethics sa pangkalahatan, may katumbas na tanong kung dapat ba tayong magkaroon ng mga batas upang pamahalaan ang iba't ibang paggamit ng AI. Ang mga bagong batas ay inilalagay sa paligid sa pederal, estado, at lokal na antas na may kinalaman sa hanay at kalikasan ng kung paano dapat gawin ang AI. Ang pagsisikap na bumalangkas at magpatibay ng mga naturang batas ay unti-unti. Ang AI Ethics ay nagsisilbing isang itinuturing na stopgap, sa pinakamababa, at halos tiyak na sa ilang antas ay direktang isasama sa mga bagong batas na iyon.

Magkaroon ng kamalayan na ang ilan ay matatag na nangangatuwiran na hindi namin kailangan ng mga bagong batas na sumasaklaw sa AI at na ang aming mga kasalukuyang batas ay sapat. Nagbabala sila na kung gagawin natin ang ilan sa mga batas na ito ng AI, papatayin natin ang ginintuang gansa sa pamamagitan ng pagpigil sa mga pagsulong sa AI na nagbibigay ng napakalaking pakinabang sa lipunan. Tingnan halimbawa ang aking saklaw sa ang link dito.

Sa mga naunang column, sinaklaw ko ang iba't ibang pambansa at internasyonal na pagsisikap na gumawa at magpatupad ng mga batas na kumokontrol sa AI, tingnan ang link dito, Halimbawa. Sinaklaw ko rin ang iba't ibang mga prinsipyo at alituntunin sa AI Ethics na natukoy at pinagtibay ng iba't ibang bansa, kasama na halimbawa ang pagsisikap ng United Nations tulad ng UNESCO set ng AI Ethics na pinagtibay ng halos 200 bansa, tingnan ang link dito.

Narito ang isang kapaki-pakinabang na listahan ng keystone ng pamantayan o mga katangian ng Ethical AI patungkol sa mga AI system na dati kong na-explore nang mabuti:

• Aninaw
• Katarungan at Pagkamakatarungan
• Non-Maleficence
• Pananagutan
• Privacy
• Pagkabenta
• Kalayaan at Autonomy
• Pagkatiwalaan
• Pagpapanatili
• Dignidad
• Pagkakaisa

Ang mga alituntuning iyon sa AI Ethics ay taimtim na dapat na ginagamit ng mga developer ng AI, kasama ang mga namamahala sa mga pagsusumikap sa pagpapaunlad ng AI, at maging ang mga sa huli ay naglalagay at nagsasagawa ng pagpapanatili sa mga AI system. Ang lahat ng stakeholder sa buong AI life cycle ng pag-unlad at paggamit ay isinasaalang-alang sa loob ng saklaw ng pagsunod sa mga itinatag na pamantayan ng Ethical AI. Ito ay isang mahalagang highlight dahil ang karaniwang pagpapalagay ay ang "mga coder lamang" o yaong mga nagprograma sa AI ay napapailalim sa pagsunod sa mga paniwala sa AI Ethics. Gaya ng naunang idiniin dito, kailangan ng isang nayon upang makabuo at maglagay ng AI, at kung saan ang buong nayon ay kailangang sanay at sumunod sa mga tuntunin ng AI Ethics.

Itago natin ang mga bagay-bagay at tumuon sa computational non-sentient AI ngayon.

Ang ML/DL ay isang anyo ng computational pattern matching. Ang karaniwang diskarte ay ang mag-ipon ka ng data tungkol sa isang gawain sa paggawa ng desisyon. Ipapakain mo ang data sa mga modelo ng ML/DL computer. Ang mga modelong iyon ay naghahangad na makahanap ng mga pattern ng matematika. Matapos mahanap ang gayong mga pattern, kung ito ay natagpuan, gagamitin ng AI system ang mga pattern na iyon kapag nakatagpo ng bagong data. Sa pagtatanghal ng bagong data, ang mga pattern na batay sa "luma" o makasaysayang data ay inilapat upang mag-render ng kasalukuyang desisyon.

Sa tingin ko maaari mong hulaan kung saan ito patungo. Kung ang mga tao na gumagawa ng pattern sa mga desisyon ay nagsasama ng mga hindi kanais-nais na pagkiling, malamang na ang data ay nagpapakita nito sa banayad ngunit makabuluhang mga paraan. Ang Machine Learning o Deep Learning computational pattern matching ay susubukan lang na mathematically gayahin ang data nang naaayon. Walang pagkakahawig ng sentido komun o iba pang nakikitang aspeto ng AI-crafted modeling per se.

Higit pa rito, maaaring hindi napagtanto ng mga developer ng AI kung ano ang nangyayari. Ang arcane mathematics sa ML/DL ay maaaring magpahirap sa pag-iwas sa mga nakatagong bias ngayon. Nararapat kang umasa at aasahan na ang mga developer ng AI ay susubok para sa mga potensyal na nakabaon na bias, kahit na ito ay mas nakakalito kaysa sa tila. Mayroong matatag na pagkakataon na kahit na may medyo malawak na pagsubok na magkakaroon pa rin ng mga bias na naka-embed sa loob ng mga pattern na tumutugma sa mga modelo ng ML/DL.

Medyo maaari mong gamitin ang sikat o kasumpa-sumpa na kasabihan ng garbage-in garbage-out. Ang bagay ay, ito ay mas katulad sa mga biases-in na insidiously makakuha infused bilang biases lumubog sa loob ng AI. Ang algorithm na paggawa ng desisyon (ADM) ng AI ay axiomatically nagiging puno ng hindi pagkakapantay-pantay.

Hindi maganda.

Naniniwala ako na naitakda ko na ngayon ang yugto upang sapat na talakayin ang papel ng AI bilang isang paraan upang i-prompt ang sikolohikal na pagbabakuna na may kaugnayan sa pagharap sa disinformation at maling impormasyon.

Pagpasok sa Isip Ng Tao

Magsimula tayo sa mga pangunahing kaalaman o batayan na pinagbabatayan ng maling impormasyon at disinformation.

Sa pangkalahatan, ang maling impormasyon ay tumutukoy sa mali o mapanlinlang na impormasyon.

Ang disinformation ay halos pareho bagaman binubuo ng idinagdag na elemento ng layunin. Karaniwan naming binibigyang-kahulugan ang impormasyon bilang disinformation kapag ito ang impormasyon nilalayon sa maling impormasyon.

Baka sabihin ko sa iyo na kasalukuyang 10 o'clock na ng gabi, which let's say is false dahil hatinggabi na talaga ang oras. Kung sinabi ko sa iyo na 10 o'clock bilang isang kutob at hindi sinusubukang maging mapanlinlang, karaniwan naming sasabihin na mali ang pagkakaalam ko sa iyo. Nagkaroon ako ng maling impormasyon. Siguro tinatamad ako o baka naniwala talaga akong 10 o'clock na. Sa kabilang banda, kung nabanggit ko ang alas-10 dahil sinadya kong linlangin ka sa pag-iisip na ang oras ay alas-10 at alam kong hatinggabi na talaga ang oras, ito ay masasabing isang uri ng disinformation. .

Ang isang kapansin-pansing aspeto ng impormasyon sa pangkalahatan ay kadalasan ay nakakalat tayo sa paligid ng impormasyon at sa gayon ang impormasyon ay maaaring maging medyo laganap. Ang impormasyon ay maaaring dumaloy tulad ng tubig, sa isang malawak na kahulugan.

Ang sabi ko sa iyo ay 10 na ng gabi. Mayroon ka na ngayong partikular na piraso ng impormasyon. Maaari kang sumigaw nang malakas sa isang grupo ng mga kalapit na tao na 10 na ng gabi. Mayroon din silang parehong impormasyon ngayon. Marahil ang ilan sa mga taong iyon ay kumukuha sa kanilang mga cell phone at tumawag sa ibang mga tao upang sabihin sa kanila na ito ay 10:XNUMX. Sa kabuuan, ang impormasyon ay maaaring ikalat o ibahagi at kung minsan ay ginagawa nang napakabilis habang sa ibang mga pagkakataon ay ginagawa nang napakabagal.

Sa isang kahulugan, maaari mong ipaglaban na ang impormasyon ay maaaring maging viral.

Mayroong isang likhang salita o terminolohiya na maaaring hindi mo partikular na nakita o ginamit na tumutulong sa paglalarawan ng hindi pangkaraniwang bagay na ito ng impormasyon na nagiging viral, ang salita ay impodemikong. Ang salitang ito ay isang mashup ng parehong impormasyon at pagiging isang epidemya. Sa pangkalahatan, ang isang infodemic ay nauugnay sa mga pangyayari na kinasasangkutan ng pagkalat ng maling impormasyon o disinformation. Ang paniwala ay ang mali o mapanlinlang na impormasyon ay maaaring maging viral, hindi kanais-nais, katulad ng hindi kanais-nais na pagkalat ng sakit o mga sakit.

Sa halimbawa tungkol sa oras na ika-10 ng gabi, ang tila katotohanang ito ay isang piraso ng impormasyon na ipinakalat sa kalapit na grupo ng mga tao. Ipinakalat naman nila ang katotohanan sa iba. Kung ang 10 o'clock ay pekeng kung gayon ang partikular na pagkakataong ito ng disinformation o maling impormasyon ay kumalat sa marami pang iba. Maaaring hindi nila alam na ang impormasyon ay maling impormasyon o posibleng disinformation.

Nagtitiwala ako na ang lahat ng mga kahulugan at batayan na ito ay mukhang makatuwiran at ikaw ay nasa barko sa ngayon.

Mahusay, magpatuloy tayo.

Medyo palihim kitang dinala sa isang bagay na sumasakop sa labis na pagkahumaling at pagkabalisa. Ang diwa ay na may mga arguably makatwirang tunog parallel sa pagitan ng kung ano ang mga sakit na ginagawa virally at kung ano ang maling impormasyon o disinformation ay virally.

Hindi lahat ay sumasang-ayon sa mga sinasabing parallel na ito. Gayunpaman, ang mga ito ay nakakaintriga at karapat-dapat na isaalang-alang.

Payagan akong magpaliwanag.

Nakikita mo, maaari naming subukang gamitin ang madaling gamitin na pagkakatulad ng pagtukoy sa mga sakit na dala ng tao at mga sakit na kumakalat, ginagawa ito upang ihambing ang isang katulad na posibilidad sa pagkalat ng maling impormasyon at disinformation. Upang subukan at itigil ang pagkalat ng mga sakit, maaari nating layunin na maagang tuklasin at hanapin na maglaman ng isang umuusbong na pinagmulan ng sakit na ituro ang potensyal na pagkalat ng karamdaman. Ang isa pang paraan upang harapin ang isang kumakalat na sakit ay ang pag-iingat laban sa pagkuha nito sa pamamagitan ng maingat na paggamit ng pagsusuot ng maskara o kagamitang pang-proteksyon. Ang ikatlong diskarte ay maaaring binubuo ng pagkuha ng mga pagbabakuna upang subukan at palakasin ang iyong kaligtasan sa sakit na nauugnay sa sakit.

Buong bilog na tayo ngayon dahil ang parehong mga pamamaraang iyon sa pagharap sa mga sakit ay maaaring tahasang maihahalintulad sa pagharap sa maling impormasyon at disinformation. Nauna kong binanggit na may mga katulad na pagsisikap na isinasagawa upang gumamit ng Artipisyal na Katalinuhan para sa mga layunin ng pagsisikap na makayanan ang disinformation at maling impormasyon, lalo na (tulad ng nabanggit kanina):

• Huminto Sa Get-Go: Maaaring gamitin ang AI upang tuklasin at subukang i-excise ang disinformation at maling impormasyon bago ito makawala
• Salain Bago Makita: Maaaring gamitin ang AI upang i-filter ang disinformation at maling impormasyon para hindi mo kailangang mag-alala na makita ito
• Ihanda Ka Upang Maging Immune: Maaaring gamitin ang AI upang palakasin ang iyong kahandaan at kakayahang makipaglaban sa disinformation at maling impormasyon (medyo pormal na kilala bilang pagbibigay ng isang uri ng psychological inoculation)
• iba

Ang ikatlong aspeto ay magiging pinaka-interes dito.

Narito ang deal.

Alam natin na kadalasang tinatamaan ng mga sakit ang tao katawan. Gamit ang pagkakatulad kung paano nangyayari ang maling impormasyon at disinformation, maaari naming imungkahi na ang maling impormasyon ay tumama sa isip ng tao. Oo, maaari kang makaramdam ng disinformation o maling impormasyon na dumadaloy sa iyong isipan. Ang disinformation o maling impormasyon ay posibleng masira o lason ang iyong paraan ng pag-iisip.

Ang katawan ng tao ay maaaring mabakunahan upang subukan at ihanda ang sarili sa pagkakaroon ng mga sakit. Isang malaking katanungan ang bumangon tungkol sa kung maaari ba nating gawin ang parehong para sa isip ng tao. Posible bang subukan at inoculate ang isip upang kapag ang disinformation o maling impormasyon ay pumasok sa iyong isip na ikaw ay handa na para dito at na-inoculate nang naaayon?

Isang larangan ng pag-aaral na kilala bilang sikolohikal na pagbabakuna ay naglalagay na ang isip ay maaari ngang ma-inoculate sa diwa ng pagiging handa upang mahawakan ang maling impormasyon o disinformation.

Isaalang-alang ang paglalarawang ito sa isang kamakailang pag-aaral sa pananaliksik tungkol sa psychological inoculation at kung ano ang minsan ay may label na ginagawa prebunking:

• "Ang pag-debune ng maling impormasyon ay may problema din dahil ang pagwawasto ng maling impormasyon ay hindi palaging nagpapawalang-bisa sa mga epekto nito, isang kababalaghan na kilala bilang patuloy na epekto ng impluwensya. Alinsunod dito, kabaligtaran sa debunking, ang prebunking ay nakakuha ng katanyagan bilang isang paraan upang maagang bumuo ng katatagan laban sa inaasahang pagkakalantad sa maling impormasyon. Ang pamamaraang ito ay karaniwang nakabatay sa teorya ng inoculation. Ang teorya ng inoculation ay sumusunod sa isang pagkakatulad ng medikal na pagbabakuna at naglalagay na posible na bumuo ng sikolohikal na pagtutol laban sa hindi ginustong mga pagtatangka sa panghihikayat, tulad ng mga medikal na pagbabakuna ay nagtatayo ng pisyolohikal na pagtutol laban sa mga pathogen” (Paglago Science, Agosto 24, 2022, “Napapabuti ng Psychological Inoculation ang Resilience Against Misinformation On Social Media” ng mga co-author na sina Jon Roozenbeek, Sander van der Linden, Beth Goldberg, Steve Rathje, at Stephan Lewandowsky).

Bumabalik sa aking halimbawa tungkol sa oras na alas-10 ng gabi, ipagpalagay na dati kong sinabi sa iyo na kung minsan ang inaangkin na oras ay hindi ang aktwal na oras. Mula ngayon mayroon kang isang paraan ng pagbabakuna upang maging maingat sa mga inaangkin na oras. Inihanda ka ng inoculation na ito para sa pakikipag-ugnayan sa mga sinasabing oras na disinformation o maling impormasyon.

Kung binalaan kita ilang taon na ang nakalipas tungkol sa mga na-claim na oras na hindi aktwal na mga oras, may pagkakataon na hindi mo maiisip ang babalang iyon noong nakaraan. Kaya, ang naunang inoculation ay (sasabihin natin) ay nawala. Baka kailangan pang palakasin ang inoculation ko para sa iyo.

Mayroon ding pagkakataon na ang inoculation ay hindi sapat na tiyak para magamit mo ito kapag kinakailangan. Kung binalaan kita noong nakalipas na mga taon tungkol sa mga oras ng pag-claim kumpara sa mga aktwal na oras, maaaring masyadong malawak iyon. Maaaring hindi gumana ang inoculation sa partikular na pagkakataon na sinabihan ka tungkol sa 10 o'clock. Sa ganoong kahulugan, marahil ang aking inoculation ay dapat na maging maingat ka kapag ginamit ang isang inaangkin na oras na 10 o'clock. Siyempre, ang mga inoculation sa kaso ng mga sakit ay medyo pareho, kung minsan ay napaka-espesipiko sa mga kilalang karamdaman habang sa ibang mga kaso ay malawak na spectrum.

Ang isang madalas na binanggit na pag-aaral sa pananaliksik na ginawa noong 1961 sa psychological inoculation ni William McGuire ng Columbia University ay karaniwang itinuturing na isang klasiko sa larangan ng pag-aaral na ito. Maaari mong makitang interesado ang mahahalagang puntong ito na ginawa niya noong panahong iyon:

• "Ang ganitong pangkalahatang pagbabakuna ay maaaring magmula sa alinman sa dalawang mekanismo. Ang pre-exposure ay maaaring mabigla sa tao sa pag-unawa na ang "truisms" na palagi niyang tinatanggap ay talagang mahina, kaya nag-udyok sa kanya na bumuo ng isang pagtatanggol sa kanyang paniniwala, na nagreresulta na siya ay mas lumalaban sa malakas na kontraargumento kapag dumating ang mga ito. Bilang kahalili, ang mga pagtanggi na kasangkot sa pre-exposure ay maaaring magmukhang hindi gaanong kahanga-hanga ang lahat ng kasunod na ipinakitang kontraargumento laban sa paniniwala" (William McGuire, "Resistance To Persuasion Conferred By Active And Passive Prior Refutation Of The Same And Alternative Counterarguments", Journal of Abnormal and Sikolohiyang Panlipunan, 1961).

Nakikita mo bang kapaki-pakinabang at angkop na paghahambing ang pagkakatulad na ito ng mga inoculations at pagbabakuna sa larangan ng maling impormasyon at disinformation?

Ang ilan ay ginagawa, ang ilan ay hindi.

Para sa mga layunin ng talakayang ito, mangyaring tanggapin na ang premise ay makatwiran at angkop.

Paano natin susubukan at i- inoculate o i-immunize ang isipan ng mga tao?

Maari nating mahikayat ang mga tao na magbasa ng mga aklat na maaaring magpapaliwanag sa kanilang isipan. Maaari naming sabihin sa kanila ang tungkol dito, o ipapanood sa kanila ang mga video o makinig sa mga audio tape. atbp.

At maaari naming gamitin ang AI upang gawin ang parehong.

Maaaring gumawa ng AI system para maging iyong inoculator. Sa tuwing magsisimula kang mag-online tulad ng pagtingin sa Internet, maaaring ihanda ka ng isang AI-based na app para sa iyong online na paglalakbay. Ang AI ay maaaring magpakain sa iyo ng isang maliit na maliit na halaga ng disinformation na may label na tulad nito, na nagbibigay-daan sa iyong matanto na malapit ka nang makakita ng isang bagay na sadyang mali.

Sa pagkakalantad sa disinformation na pinapakain ng AI na ito, nagiging handa na ang iyong isip upang makayanan ang disinformation o maling impormasyon na maaari mong makaharap sa ligaw sa Internet. Ang iyong isip ay handa na. Voila, nakikita mo ang isang blog sa Internet na nag-aalok ng isang sinasabing katotohanan na ang mga dayuhang nilalang mula sa Mars ay narito na sa mundo at nagtatago sa simpleng paningin, ngunit ang tila disinformation o maling impormasyon na ito ay madaling tinanggihan ng iyong isip dahil sa naunang inoculation (well, at muli, marahil ito ay totoo at sila ay talagang narito!).

Gayon pa man, umaasa ako na naiintindihan mo na ngayon kung paano makakatulong ang AI sa pagbabakuna o pagbabakuna sa mga tao kaugnay ng disinformation o maling impormasyon.

Ginagawa ang iba't ibang AI app na gaganap bilang mga inoculator ng disinformation o maling impormasyon. Maaaring maghangad ang AI na magbigay ng inoculation na malawak at nagbibigay ng pangkalahatang pagkakahawig ng pagbabakuna. Ang AI ay maaari ding gawin para sa mas tiyak na mga anyo ng inoculation. Higit pa rito, ang AI ay maaaring gumana sa isang personalized na batayan na nakatutok sa iyong mga partikular na pangangailangan o interes. Susubukan din ng advanced AI sa espasyong ito na tukuyin ang iyong tolerance level, mental absorption rate, retention capacity, at iba pang salik kapag bumubuo at nagpapakita ng tinatawag na immunization shots, kumbaga.

Mukhang medyo madaling gamitin.

AI Bilang Delikadong Mind Games Player

Ang AI na ginamit sa paraang ito ay sa unang sulyap ay mukhang madaling gamitin (hey, nabanggit ko iyon sa isang segundo lang ang nakalipas).

Mayroong isang patayan ng mga potensyal na downsides at mga problema na nakababahala at marahil nakakatakot.

Sa aking mga column, madalas kong tinatalakay ang mga dual-use na kapasidad ng AI, tingnan ang halimbawa ang link dito. Ang AI ay maaaring maging isang mahalagang kontribyutor sa sangkatauhan. Sa kasamaang palad, ang AI ay nabibigatan din ng maraming panganib at kapus-palad na mga pitfalls.

Para sa kaso ng AI bilang isang inculcator, isaalang-alang natin itong nagpapakita ng mga isyung nauugnay sa AI Ethics:

• Mga masamang reaksyon ng mga tao
• Mga hindi tumutugon na reaksyon ng mga tao
• mistargeting ng AI
• Mali ang pagta-target ng AI
• Cyber ​​Breach ng AI
• iba

Sa madaling sabi ay tutuklasin natin ang mga alalahaning iyon.

Masamang Reaksyon Ng Tao

Ipagpalagay na ang isang tao na tumatanggap ng ganitong uri ng inoculation na nakabatay sa AI ay may masamang reaksyon o nagdudulot ng masamang epekto.

Maaaring mali ang kahulugan ng tao sa pagbabakuna at biglang maging hindi tumanggap sa anumang impormasyong natatanggap nila. Hinaharang nila ang lahat ng impormasyon. Ang AI ay kahit papaano ay nag-trigger sa kanila na itapon ang sanggol gamit ang tubig na paliguan (isang matandang kasabihan, marahil ay nagkakahalaga ng pagretiro). Sa halip na subukan lamang na makayanan ang disinformation at maling impormasyon, ang tao ay nag-react sa pamamagitan ng pagpapasya na ang lahat ng impormasyon ay palaging mali.

Sa palagay ko ay hindi namin nais na ang mga tao ay lumampas sa dagat.

Maraming masamang reaksyon na maaaring itaguyod ng AI. Ito ay bahagyang dahil sa kung paano sinubukan ng AI na isagawa ang inoculation, ngunit kailangan din nating ilagay ang bahagi ng isyu sa paanan ng taong nakatanggap ng inoculation. Maaaring nag-react sila sa ligaw o kakaibang paraan na hindi ginawa ng iba na nakatanggap ng parehong AI inoculation.

Muli, maihahalintulad mo ito sa pagkakatulad ng mga inoculation para sa mga sakit.

Sa madaling salita, magiging mahalaga na kapag ginamit ang naturang mga pagsisikap ng AI, gagawin ang mga ito sa mga responsableng paraan na naglalayong bawasan ang masamang epekto. Dapat ding magkaroon ng follow-on na aspeto ng AI upang subukan at tiyakin kung may naganap na masamang reaksyon. Kung may nakitang masamang reaksyon, ang AI ay dapat gawin upang subukan at tulungan ang tao sa kanilang masamang tugon at hangarin na madaig o maibsan ang tugon.

Mga Hindi Tumutugon na Reaksyon Ng Tao

Ang isa pang posibilidad ay ang AI-fed inoculation ay walang epekto sa tumatanggap na tao.

Ang isang tao ay nakakakuha ng AI-based inoculation na nauugnay sa maling impormasyon o disinformation. Bagama't karamihan sa mga tao ay "nakakakuha" at nabakunahan, tiyak na may mga tao na hindi magre-react. Wala silang natutunan sa inoculation. Hindi sila tumutugon sa pagtatangka ng AI sa pagbabakuna sa kanila para sa lahat o ilang uri ng maling impormasyon o disinformation.

Muli, ito ay maihahambing sa mga pagbabakuna para sa mga sakit.

Ang AI ay dapat na binuo upang labanan ang gayong pangyayari.

AI Mistargeting

Isipin na ang isang AI ay umaasa na mabakunahan ang mga tao tungkol sa isang partikular na paksa na sasabihin namin ay paksa X, ngunit lumalabas na ang paksang Y ay sa halip ay sakop. Ang AI ay mistargeting.

Ito ay isang dobleng problema. Una, ang paksa X ay hindi pa nasasaklaw bilang ang ipinapalagay at inaasam na layunin ng AI inoculator. Pangalawa, ang paksang Y ay sakop ngunit maaaring hindi namin nais na ang mga tao ay mabakunahan sa paksang iyon.

Oops.

Ang daming tanong. Maiiwasan kaya itong mangyari? Kung mangyari ito, maaari ba nating i-undo ang paksa ng pagbabakuna sa Y? Maaari ba nating hanapin ang paksang X inoculation, o ang tao ba ay hindi gaanong tumanggap o hindi tumanggap dahil sa maling pag-target ng AI sa orihinal?

Maraming problemang alalahanin ang lumitaw.

AI Under-Targeting

Ang AI ay nagbibigay ng inoculation sa paksang Z. Ang mga taong tumatanggap ng inoculation ay tila may kaunti o halos hindi gaanong reaksyon. Ang inoculation ay hindi sapat upang hawakan.

Maaaring matukso kang mabilis na sabihin na madali itong malutas. Ang kailangan mo lang gawin ay ulitin ang inoculation. Siguro oo siguro hindi.

Ang AI inoculation ay maaaring may limitadong halaga na kahit na mayroon kang mga tao na makaranas nito ng isang daang beses, ang resulta ay isang marginal na kinalabasan. Maaaring kailanganin mong palakasin ang inoculation sa halip na ulitin ito.

Samantala, isipin na ang isang pagtatangka ay ginawa upang palakasin ang AI-fed inoculation ngunit ito ay lumampas. Ang pinalakas na bersyon ay nagdudulot ng mga hyper-reaksyon. Yikes, naging masama tayo.

Cyber ​​Breach Ng AI

Isipin na malawakang ginagamit ang AI upang tulungan ang mga tao na ma-inokulasi mula sa disinformation at maling impormasyon.

Ang isang pangkalahatang pag-asa ay tumatagal ng mga tao. Alam at inaasahan nila na ipapakita sa kanila ng AI ang mga snippet na magbubukas ng kanilang mga mata sa tinatawag na disinformation at maling impormasyon.

Ang lahat ay mabuti at mabuti, tila.

Ang isang gumagawa ng masama ay kahit papaano ay nakakagawa ng cyber breach sa AI. Palihim nilang pinipilit sa AI ang ilang ninanais na disinformation na gusto nilang isipin ng mga tao na hindi disinformation. Ang AI ay inayos upang ang aktwal na disinformation ay magmukhang totoong impormasyon. Pati na rin, ang tunay na impormasyon ay ginawang lumabas bilang disinformation.

Ang mga tao ay ganap na snooked. Sila ay disinformed ng AI. Higit pa rito, dahil naging dependent sila sa AI, at dahil sa pagtitiwala na ginagawa ng AI ang tamang bagay, nahuhulog sila sa hook, line, at sinker para sa nilabag na AI na ito. Walang pag-aalinlangan.

Dahil sa kung gaano kabilis kumalat ang disinformation, maaaring matuwa ang masasamang loob na ang pagkakaroon ng ganitong uri ng AI ay ang kanilang pinakamadali at pinakamabilis na paraan upang gawin ang kanilang mga tusong kasinungalingan sa buong mundo. Kabalintunaan, siyempre, ang paggamit ng AI inoculator upang mahalagang maikalat ang sakit.

Konklusyon

Dapat bang mayroon tayong AI na nakikipaglaro sa atin?

Maaaring ang AI para sa disinformation at maling impormasyon na inoculation ay isang mapanganib na Trojan horse?

Maaari kang gumawa ng isang mahalagang kaso para sa pag-aalala tungkol sa gayong bangungot.

Ang iba ay kinukutya ang gayong posibilidad. Ang mga tao ay sapat na matalino upang malaman kung kailan sinubukan ng AI na linlangin sila. Hindi mahuhulog ang mga tao sa ganyang dribble. Tanging mga idiot lang ang naliligaw sa kanilang sarili ng gayong AI. Iyan ay ang mga karaniwang retorts at counterarguments.

Hindi gustong magmukhang mas mababa kaysa sa ganap na paghanga sa mga tao at kalikasan ng tao, iminumungkahi ko lang na mayroong sapat na indikasyon na ang mga tao ay maaaring mahulog sa AI na nanlilinlang sa kanila.

Mayroong mas malaking isyu na marahil ay bumabalot sa lahat ng ito.

Sino ang gumagawa ng AI at paano nagpapasya ang AI sa algorithm kung ano ang itinuturing na disinformation at maling impormasyon?

Isang buong labanan ang nagaganap ngayon sa buong mundo tungkol sa kung ano ang partikular na bumubuo ng disinformation at maling impormasyon. Iginigiit ng ilan na ang mga katotohanan ay katotohanan, kaya hindi kailanman maaaring magkaroon ng anumang kalituhan sa kung ano ang wastong impormasyon laban sa hindi wastong impormasyon. Ang diyablo kahit na kung minsan ay nasa mga detalye, iyon ay para sa darned sigurado.

Isang huling pangungusap sa ngayon. Si Abraham Lincoln ay tanyag na sinabi: "Maaari mong lokohin ang lahat ng mga tao minsan at ang ilan sa mga tao sa lahat ng oras, ngunit hindi mo maaaring lokohin ang lahat ng mga tao sa lahat ng oras."

Ang AI ba na ginagamit para sa pagtulong sa pagbabakuna ng sangkatauhan mula sa disinformation at maling impormasyon ay magiging isang mahalagang tool para matiyak na hindi lahat ng tao ay maaaring lokohin sa lahat ng oras? O baka ito ay ginagamit upang lokohin ang higit pa sa mga tao nang mas madalas?

Panahon ang makapagsasabi.

At iyon ay tiyak na walang disinformation o maling impormasyon.