Sa Tesla at Iba Pang Malalaking Tech Firm, Hindi Ito Ang Mga Makina Kundi Ang Mga Pagpapalagay na Nasa Likod Nila ay Nagdudulot ng Mga Problema

Ang mga bagong teknolohiya ay palaging naglalabas ng mga nellies na kinakabahan. Noong 370 BCE, nag-isip si Plato sa kanyang aklat Phaedrus na ang tumaas na "trend" patungo sa pagsusulat ay magiging sanhi ng mga tao mawala ang lahat ng kanilang napanatili na karunungan. Noong 1880s, ang mga de-kuryenteng butones, ng lahat ng bagay ay pinangangambahan na maging sanhi ng ating lahat mawala ang ating pagkamalikhain sa pamamagitan ng hayaan ang isang button na gumawa ng isang gawain para sa amin. Sa ating henerasyon, nagkaroon ng matinding takot na ang anumang pagkakalantad sa mga video game ay mabubulok utak ng mga bata. Ang ganitong mga teorya ay madalas na sa huli ay nagpapatunay sa kanilang sarili na mali. Ngunit kung minsan, ang inaasahan nating mananatili sa larangan ng science fiction ay nagiging katotohanan.

Mayroon kaming dalawang napakalakas na paalala tungkol sa mga panganib ng walang pigil na paggamit ng teknolohiya sa nakalipas na ilang buwan. Ang aming pinakamasamang mga bangungot ay nagkatotoo, at ang mga buhay ay hindi na mababawi pa:

• Sa loob ng ilang oras ng Tesla leader na si Elon Musk na ipahayag ang kanilang mga self-driving na kotse sa Twitter, isang Tesla sa self-drive mode ang nagpasya na huminto sa gilid ng Bay Bridge, isang 4-lane, mabilis na lakad at daanan. sanhi ng 8-car accident nasugatan ang 9 na tao kabilang ang isang 2 taong gulang. Isa ito sa daan-daang aksidente na sanhi ng mga self-driving system ng Tesla, na humahantong sa 19 na namatay mula noong 2016.
• Si Randall Reid ay papunta sa isang huli na hapunan sa Thanksgiving kasama ang kanyang ina nang pigilan siya ng mga pulis at ikinulong siya ng isang linggo pagkatapos. Na-flag siya ng face-matching software bilang suspek sa isang Louisiana luxury purse theft case. Ang kaisa-isang problema? Hindi pa siya nakatapak sa estado. Ngunit, ang 28-taong-gulang na residente ng Georgia ay African-American–at ang software sa pagkilala sa mukha ay malawak na binatikos dahil sa kawalan nito ng kakayahang tumpak na makilala ang mga Itim na mukha.

"Sinabi nila sa akin na mayroon akong warrant out sa Jefferson Parish. Sabi ko, 'Ano ang Jefferson Parish?'” Reid nabanggit sa AP. "Hindi pa ako nakapunta sa Louisiana isang araw sa aking buhay. Pagkatapos ay sinabi nila sa akin na ito ay para sa pagnanakaw. Kaya hindi lang ako nakapunta sa Louisiana, hindi rin ako nagnanakaw.”

Marahil hindi sa pagtatanggol kay Elon Musk, ngunit sa paraan ng pagpapaliwanag, madalas niyang napapansin na ang kanyang altruistic na layunin ay bawasan ang bilang ng mga aksidente sa trapiko at pagkamatay sa pamamagitan ng paggawa ng mga kotse na mas matalino kaysa sa mga tao. At upang gawing mas matalino ang mga sasakyang iyon, maaaring kailanganin nilang lumipat mabilis (literal) at masira ang ilang bagay (gayundin, literal) sa totoong mga kalsada.

Ito ay kung saan maaaring iayon ng isa ang kanyang mga layunin–mas ligtas na mga kalsada–ngunit pagtatalo sa kanyang mga pamamaraan–ang eksperimento ng tao. Mula sa pagsusuri ng gamot sa mga tao–nang walang pahintulot nila, sa kaso ng Nazi Alemanya at ang Tuskegee "mga pag-aaral" — sa mga daga, na hindi pumayag — sa mga industriya tulad ng mga kosmetiko na natututo kung paano subukan ang mga produkto nang walang gastos sa buhay, tao, hayop o iba pa. Maaari bang masuri ang teknolohiya nang hindi nakakapinsala sa mga tao sa daan? Dito tayo — at ang mga regulatory body ng gobyerno — ay makakagawa ng mga pagpipilian tungkol sa kung anong uri ng mga eksperimento ang handa nating isailalim sa ating mga mamamayan.

At pagkatapos ay sa kaso ng artificial intelligence, nagkaroon ng makatwirang pag-aalala na ipinahayag na sa konteksto ng mga tech team na karaniwang kulang sa pagkakaiba-iba ng ating pandaigdigang mundo kung saan higit sa 85% ng mga tao nakatira sa Asya, Africa at Latin America, nariyan ang posibilidad ng malaking pinsala na maaaring gawin kung ang mga teknolohiya nabigo na isama ang pagkakaiba-iba sa kanilang mga disenyo. Mga taong tulad ni Timnit Gebru kasama Itim sa AI ay ginagawa ang hirap sa pagsisikap na panatilihing may pananagutan ang mga tao sa likod ng mga makina ngunit mayroon nahaharap sa maraming headwind dahil sa mga puwersang pang-ekonomiya na kumokontrol sa karamihan ng pananaliksik na ito.

Hindi natin kailangang bumalik sa mga kabayo at kalesa kung tatanggihan natin ang mga self-driving na sasakyan. Ang MAAARI naming gawin ay isang tagapagtaguyod para sa isang bagong tech na motto para sa susunod na dekada: "move slow and break less."

Katulad nito, sumulat si Hermant Tenaja sa Harvard Business Review, Dapat palitan ng "minimum na mabubuting produkto" ang "minimum na mabubuting produkto"— mga bagong alok na sumusubok sa epekto sa mga stakeholder at nagtatayo ng mga bantay laban sa mga potensyal na pinsala." Nag-aalok siya ng walong tanong na dapat itanong ng mga tech entrepreneur ngayon, kabilang ang:

• Anong sistematiko, pagbabago sa lipunan ang nais mong gawin gamit ang iyong produkto?
• Paano mo mapapanatili ang birtud ng iyong produkto?
• Ano ang iyong balangkas para sa paggamit ng data at AI nang responsable?
• Paano mo tinukoy at itinataguyod ang pagkakaiba-iba sa konteksto ng iyong negosyo?

Maaaring pag-isipan ng mga negosyante ang mga tanong na ito para sa kanilang mga produkto. At pagkatapos para sa mga consumer, bago ibaling ang iyong mukha sa pinakabago, pinakadakilang, avatar-generating na serbisyo, maaaring maging matalinong mag-isip nang dalawang beses tungkol sa kung paano iyon maaaring bumalik upang kagatin ka. Hindi natin kailangang balewalain ang teknolohiya — ngunit marahil ay matututo tayong maging mas may kamalayan na mga mamimili ng teknolohiya.