3 Dahilan na Mangangailangan ang Iyong Organisasyon ng Mga External Algorithm Assessor

Ni Satta Sarmah-Hightower

Ang mga pinuno ng negosyo ay pinipiga ang lahat ng halaga na maaari nilang makuha sa artificial intelligence (AI). Natuklasan ng isang pag-aaral sa 2021 KPMG Karamihan sa mga pinuno ng gobyerno, industriyal na pagmamanupaktura, serbisyong pinansyal, retail, life science, at mga pinuno ng negosyo sa pangangalagang pangkalusugan ay nagsasabing ang AI ay hindi bababa sa moderately functional sa kanilang mga organisasyon. Natuklasan din ng pag-aaral na kalahati ng mga respondent ang nagsabing pinabilis ng kanilang organisasyon ang pag-ampon ng AI bilang tugon sa pandemya ng Covid-19. Sa mga organisasyon kung saan pinagtibay ang AI, hindi bababa sa kalahati ang nagsasabi na ang teknolohiya ay lumampas sa mga inaasahan.

Ang mga algorithm ng AI ay lalong nagiging responsable para sa iba't ibang mga pakikipag-ugnayan at inobasyon ngayon—mula sa personalized mga rekomendasyon ng produkto at serbisyo sa customer mga karanasan sa mga bangko mga desisyon sa pagpapahiram at kahit tugon ng pulis.

Ngunit para sa lahat ng mga benepisyong inaalok nila, ang mga algorithm ng AI ay may malalaking panganib kung hindi sila epektibong sinusubaybayan at sinusuri para sa katatagan, pagiging patas, kakayahang maipaliwanag at integridad. Upang matulungan ang mga pinuno ng negosyo sa pagsubaybay at pagsusuri sa AI, ang pag-aaral na binanggit sa itaas ay nagpapakita na a Ang dumaraming bilang ng mga lider ng negosyo ay nagnanais na i-regulate ng gobyerno ang AI upang payagan ang mga organisasyon na mamuhunan sa tamang teknolohiya at mga proseso ng negosyo. Para sa kinakailangang suporta at pangangasiwa, matalinong isaalang-alang ang mga panlabas na pagtatasa na inaalok ng isang service provider na may karanasan sa pagbibigay ng mga naturang serbisyo. Narito ang tatlong dahilan kung bakit.

1. Ang Algorithm ay "Mga Black Box"

Ang mga algorithm ng AI—na natututo mula sa data upang malutas ang mga problema at mag-optimize ng mga gawain—ay ginagawang mas matalino ang mga system, na nagbibigay-daan sa kanila na makakalap at makabuo ng mga insight nang mas mabilis kaysa sa magagawa ng mga tao.

Gayunpaman, itinuturing ng ilang stakeholder ang mga algorithm na ito bilang "mga itim na kahon," paliwanag ni Drew Rosen, isang audit managing director sa KPMG, isang nangungunang propesyonal na kompanya ng serbisyo. Sa partikular, maaaring hindi maunawaan ng ilang stakeholder kung paano napunta sa isang partikular na desisyon ang algorithm at samakatuwid ay maaaring hindi kumpiyansa sa pagiging patas o katumpakan ng desisyong iyon.

"Ang mga resulta na nakuha mula sa algorithm ay maaaring madaling kapitan ng bias at maling interpretasyon ng mga resulta," sabi ni Rosen. "Maaari din itong humantong sa ilang mga panganib sa entity habang ginagamit nila ang mga resultang iyon at ibinabahagi [ang mga ito] sa publiko at sa kanilang mga stakeholder."

Ang isang algorithm na gumagamit ng maling data, halimbawa, ay hindi epektibo sa pinakamahusay—at nakakapinsala sa pinakamasama. Ano kaya ang hitsura nito sa pagsasanay? Isaalang-alang ang isang AI-based na chatbot na nagbibigay ng maling impormasyon ng account sa mga user o isang automated na tool sa pagsasalin ng wika na hindi tumpak na nagsasalin ng text. Ang parehong mga kaso ay maaaring magresulta sa mga malubhang pagkakamali o maling interpretasyon para sa mga entidad o kumpanya ng gobyerno, pati na rin ang mga nasasakupan at mga customer na umaasa sa mga desisyon na ginawa ng mga algorithm na iyon.

Ang isa pang nag-aambag sa problema sa black-box ay kapag ang likas na bias ay tumagos sa pagbuo ng mga modelo ng AI, na posibleng magdulot ng bias na paggawa ng desisyon. Ang mga nagpapautang, halimbawa, ay lalong gumagamit ng AI upang mahulaan ang pagiging karapat-dapat sa kredito ng mga potensyal na nanghihiram upang makagawa ng mga pagpapasya sa pagpapahiram. Gayunpaman, maaaring magkaroon ng panganib kapag ang mga pangunahing input sa AI, tulad ng credit score ng potensyal na nanghihiram, may materyal na pagkakamali, na humahantong sa mga indibidwal na tinanggihan ng mga pautang.

Itinatampok nito ang pangangailangan para sa isang panlabas na tagasuri na maaaring magsilbi bilang isang walang kinikilingan na tagasuri at magbigay ng isang nakatutok na pagtatasa, batay sa tinatanggap na pamantayan, ng kaugnayan at pagiging maaasahan ng makasaysayang data at mga pagpapalagay na nagpapagana sa isang algorithm.

2. Hinihiling ng Mga Stakeholder At Regulator ang Transparency

Noong 2022, walang kasalukuyang kinakailangan sa pag-uulat para sa responsableng AI. Gayunpaman, sabi ni Rosen, "tulad ng kung paano ipinakilala ng mga namamahala na katawan ang regulasyon ng ESG [kapaligiran, panlipunan at pamamahala] sa ulat sa ilang partikular na sukatan ng ESG, sandali na lang na makakita na tayo ng mga karagdagang kinakailangan sa pag-uulat ng regulasyon para sa responsableng AI.”

Sa katunayan, epektibo sa Enero 1, 2023, sa New York City Lokal na Batas 144 nangangailangan na magsagawa ng bias audit sa isang automated na tool sa pagpapasya sa trabaho bago ito gamitin.

At sa antas ng pederal, ang National Artificial Intelligence Initiative Act ng 2020—na bubuo sa a 2019 executive order—nakatuon sa mga teknikal na pamantayan at gabay ng AI. Bukod pa rito, ang Algorithmic Accountability Act ay maaaring mangailangan ng mga pagtatasa ng epekto ng mga automated na sistema ng pagpapasya at pinalaki ang mga kritikal na proseso ng pagpapasya. At sa ibang bansa, ang Artificial Intelligence Act ay iminungkahi, na nag-aalok ng komprehensibong balangkas ng regulasyon na may mga partikular na layunin sa kaligtasan, pagsunod, pamamahala at pagiging mapagkakatiwalaan ng AI.

Sa mga pagbabagong ito, ang mga organisasyon ay nasa ilalim ng mikroskopyo ng pamamahala. Ang isang algorithm assessor ay maaaring magbigay ng mga naturang ulat na tumutugon sa mga kinakailangan sa regulasyon at nagpapahusay sa transparency ng stakeholder habang iniiwasan ang panganib na ang mga stakeholder ay mali ang interpretasyon o misled sa pamamagitan ng mga resulta ng pagtatasa.

3. Nakikinabang ang Mga Kumpanya Mula sa Pangmatagalang Pamamahala sa Panganib

Si Steve Camara, isang kasosyo sa kasanayan sa pagtitiyak sa teknolohiya ng KPMG, ay hinuhulaan na ang mga pamumuhunan ng AI ay patuloy na lalago habang ang mga entidad ay nagpapatuloy sa pag-automate ng mga proseso, pagbuo ng mga inobasyon na nagpapahusay sa karanasan ng customer at namamahagi ng AI development sa mga function ng negosyo. Upang manatiling mapagkumpitensya at kumikita, ang mga organisasyon ay mangangailangan ng mga epektibong kontrol na hindi lamang tumutugon sa mga kagyat na pagkukulang ng AI ngunit binabawasan din ang anumang pangmatagalang panganib na nauugnay sa mga pagpapatakbo ng negosyo na pinapagana ng AI.

Ito ay kung saan ang mga panlabas na tagasuri ay pumapasok bilang isang pinagkakatiwalaan, matalinong mapagkukunan. Habang patuloy na tinatanggap ng mga organisasyon ang integridad ng AI bilang isang business enabler, ang partnership ay maaaring maging mas mababa sa isang ad hoc na serbisyo at higit pa sa isang pare-parehong pakikipagtulungan, paliwanag ni Camara.

"Nakikita namin ang isang paraan pasulong kung saan kailangang magkaroon ng patuloy na ugnayan sa pagitan ng mga organisasyon na umuunlad at nagpapatakbo ng AI sa patuloy na batayan at isang layunin na panlabas na tagasuri," sabi niya.

Isang Pagtingin sa Kung Ano ang Susunod

Sa hinaharap, maaaring gamitin ng mga organisasyon ang mga panlabas na pagtatasa sa higit pa sa isang paikot na batayan habang sila ay bumubuo ng mga bagong modelo, nakakakuha ng mga bagong data source, nagsasama ng mga solusyon sa third-party na vendor o nag-navigate sa mga bagong kinakailangan sa pagsunod, halimbawa.

Kapag ipinag-uutos ang mga karagdagang regulasyon at mga kinakailangan sa pagsunod, ang mga external na tagasuri ay maaaring makapagbigay ng mga serbisyo upang direktang suriin kung gaano kahusay ang pag-deploy o paggamit ng AI ng isang organisasyon kaugnay ng mga kinakailangang iyon. Ang mga assessor na ito ay magiging pinakamahusay na posisyon upang ibahagi ang mga resulta ng pagtatasa sa isang malinaw at pare-parehong paraan.

Upang mapakinabangan ang teknolohiya habang pinangangalagaan din ang mga limitasyon nito, ang isang organisasyon ay dapat na humingi ng mga external na tagasuri upang magbigay ng mga ulat na maaari nitong pagkatiwalaan upang ipakita ang higit na transparency kapag nagde-deploy ng mga algorithm. Mula doon, mas mauunawaan ng organisasyon at ng mga stakeholder ang kapangyarihan ng AI—at ang mga limitasyon nito.