Ang Chatbot ng Microsoft ay Nagtataas ng Mga Alalahanin Tungkol sa Katumpakan ng Impormasyon sa Halalan

Ang Microsoft, bilang pangunahing manlalaro sa industriya ng teknolohiya, ay aktibong kasangkot sa pagtugon sa mga alalahaning ito. Ang kumpanya ay gumawa ng mga hakbang upang labanan ang disinformation at pahusayin ang integridad ng mga digital platform. Kasama sa mga inisyatiba ng Microsoft ang pagbuo at pag-deploy ng mga advanced na tool at teknolohiya ng AI upang matukoy at mabawasan ang pagkalat ng mapanlinlang o maling impormasyon.

Ang pag-aaral ay nagbubunyag ng mga nakakatakot na kamalian sa chatbot ng microsoft

Ang isang kamakailang pag-aaral na isinagawa ng European NGOs Algorithm Watch at AI Forensics ay nagbigay-liwanag sa mga potensyal na panganib na nauugnay sa chatbot ng Microsoft, na pinapagana ng GPT-4 ng OpenAI. Nakatuon ang pag-aaral sa mga tugon ng chatbot sa mga tanong na nauugnay sa mga halalan sa Germany at Switzerland. Ang mga natuklasan ay nagsiwalat na ang chatbot ay nagbigay ng mga maling sagot sa isang-katlo ng mga tanong na ibinibigay.

Bagama't kadalasang nakasentro ang mga alalahanin sa mga malisyosong aktor na sadyang nagpapakalat ng disinformation, binibigyang-diin ng pag-aaral na ang mga chatbot sa pangkalahatan ay maaaring magdulot ng pantay na banta sa ecosystem ng impormasyon. Ipinunto ni Salvatore Romano, Senior Researcher sa AI Forensics, “Ipinakikita ng aming pananaliksik na ang mga malisyosong aktor ay hindi lamang ang pinagmumulan ng maling impormasyon; Ang mga pangkalahatang layunin na chatbot ay maaaring maging kasing banta sa ekosistema ng impormasyon."

Ang chatbot ng Microsoft: Isang Pinagmumulan ng mga mapanlinlang na factual error

Ang mga pagkakamaling natukoy sa pag-aaral ay mula sa mga maling petsa ng halalan at hindi napapanahong impormasyon ng kandidato hanggang sa ganap na gawa-gawang mga kontrobersiya na nakapalibot sa mga kandidato. Kapansin-pansin, ang chatbot ay nag-attribute ng maling impormasyon sa mga mapagkakatiwalaang mapagkukunan na aktwal na nagtataglay ng tumpak na impormasyon sa mga paksa. Ang AI chatbot ay natagpuan din na nag-imbento ng mga kuwento tungkol sa mga kandidato na nakikibahagi sa nakakainis na pag-uugali, na higit pang nag-aambag sa pagkalat ng mapanlinlang na impormasyon.

Nang malaman ang tungkol sa mga resulta ng pag-aaral, nagpahayag ang Microsoft ng pangako sa pagtugon sa mga isyung ibinangon. Gayunpaman, ang mga kasunod na sample na nakolekta makalipas ang isang buwan ay nagbunga ng mga katulad na resulta, na nagpapahiwatig ng patuloy na mga hamon sa pagtiyak ng katumpakan ng impormasyong ibinigay ng chatbot. Ang press office ng Microsoft ay hindi nagbigay ng komento para sa artikulong ito, ngunit ipinaalam ng isang tagapagsalita ng kumpanya sa Wall Street Journal na ang mga pagsisikap ay isinasagawa upang ihanda ang kanilang mga tool para sa 2024 na halalan.

Ang panawagan para sa mga pagbabago sa istruktura

Si Riccardo Angius, Applied Math Lead at Researcher sa AI Forensics, ay hinamon ang paglalarawan ng mga kamalian bilang 'hallucinations' lamang, na nagsasabing, "Panahon na nating siraan ang pagtukoy sa mga pagkakamaling ito bilang 'hallucinations'. Inilalantad ng aming pananaliksik ang mas masalimuot at istruktural na paglitaw ng mapanlinlang na mga pagkakamali sa katotohanan sa mga pangkalahatang layunin na LLM at chatbots."

Ang katiyakan ng Microsoft at pag-iingat ng gumagamit

Bagama't kinikilala ng Microsoft ang pangangailangang tugunan ang mga natukoy na isyu, hinihimok ang mga user na gamitin ang kanilang "pinakamahusay na paghatol" kapag sinusuri ang mga resultang nabuo ng AI chatbot. Binibigyang-diin ng tech giant ang patuloy nitong pagsisikap na pahusayin ang performance ng mga tool nito para sa paparating na halalan sa 2024. Gayunpaman, binibigyang-diin ng pag-aaral ang kahalagahan ng mapagbantay na pagsisiyasat ng gumagamit sa harap ng potensyal na maling impormasyon.

Ang mundo ay pumapasok sa isang kritikal na panahon ng demokratikong paggawa ng desisyon, ang intersection ng generative AI at mga halalan ay naglalabas ng mahahalagang alalahanin. Ang chatbot ng Microsoft, isang kilalang manlalaro sa landscape na ito, ay nahaharap sa pagsisiyasat para sa papel nito sa pagpapakalat ng hindi tumpak na impormasyon. Ang mga paghahayag ng pag-aaral ay nag-udyok ng muling pagsusuri kung paano isinama ang mga teknolohiya ng AI sa mga demokratikong proseso, na nagbibigay-diin sa pangangailangan para sa patuloy na mga pagpapabuti upang matiyak ang integridad ng impormasyong nauugnay sa halalan.