Kasabay ng pag-unlad nito, ang artificial intelligence (AI) ay lalong sumusulong, at ang panganib ng tinatawag na "inbreeding" sa mga generative AI system ay nagiging isang panganib, matagal nang karaniwan sa mga populasyon ng tao at mga alagang hayop.
Ang artikulong ito ay magbibigay ng kaunting liwanag sa konsepto ng inbreeding sa liwanag ng generative AI at kung paano maaaring maiugnay ang inbreeding sa hinaharap ng nilalamang binuo ng AI.
Ang pag-unawa sa Generative AI Inbreeding Generative AI system tulad ng large language models (LLMs) ay pangunahing sinanay sa mga komprehensibong set ng data mula sa textual, visual, at audio content na available sa web. Sa una, ang data set ay higit sa lahat ay kinabibilangan ng mga bagay na ginawa ng mga tao, tulad ng panitikan, artikulo, at mga gawa ng sining. Gayunpaman, sa pagtaas ng mga generative AI tool, parami nang parami ang content sa internet na isinulat ng AI mismo.
Ang pagbabagong ito ay nagpapataas ng mga alalahanin tungkol sa kalidad at pagkakaiba-iba ng mga dataset na ginagamit upang sanayin ang mga hinaharap na AI system. Sa ebolusyon ng nilalamang binuo ng AI, inaasahan na maraming susunod na henerasyon ng mga modelo ng AI ang matututo mula sa mga dataset na hindi kumakatawan sa nilalaman ng tao ngunit materyal na nilikha ng AI.
Ang mga kahihinatnan ng generative AI inbreeding ay multifaceted.
Sa kabaligtaran, ang pagpapatuloy ng pag-aaral ng AI system mula sa mas maraming bilang ng mga homogenous na dataset ay maaaring humantong sa pagbaba ng pagkamalikhain at pagka-orihinal sa output na binuo ng AI.
Kung ang prosesong ito ay paulit-ulit—iyon ay, pagkopya mula sa isang kopya—na sunud-sunod sa mga henerasyon, ang kalidad ng output ay nababanat, at ang mga resulta ay may panganib na maging hindi gaanong nakakaengganyo na trabaho at hindi gaanong posibleng sumasalamin sa kung ano ang itinuturing nating malikhaing output ng tao. . Sa paglaki ng nilalamang nabuo ng AI na sinanay sa mga inbred na dataset, maaaring lumala ang mga naturang problema.
Kung ang mga dataset ng pagsasanay ay hindi sapat na magkakaibang, ang mga AI system na binuo ay magsisilbi lamang upang palakasin at palakihin ang mga bias na naroroon sa loob ng nilalamang binuo ng AI, sa gayon ay higit na pinapahina ang mapagkakatiwalaang paggamit ng nilalamang binuo ng AI bilang isang mapagkukunan ng impormasyon. Higit pa rito, ang kakulangan ng pagkakaiba-iba sa data ng pagsasanay ay maaaring limitahan ang posibilidad ng pagbuo ng mga AI system na maaaring maunawaan at kumatawan sa malawak na hanay ng mga karanasan at pananaw ng tao nang tama. Maaaring nililimitahan nito ang pag-unlad sa iba't ibang bahagi ng aplikasyon ng AI, gaya ng natural na pagpoproseso ng wika, pagbuo ng nilalaman, at mga sistema ng paggawa ng desisyon.
Pagtugon sa Hamon ng Generative AI Inbreeding
Higit sa lahat, ito ay isang tunay na panganib, lalo na ang inbreeding ng mga generative AI na teknolohiya. Gayunpaman, binibigyan nito ng responsibilidad ang mga mananaliksik, developer, at maging ang mga gumagawa ng patakaran na kumilos nang maagap, Tinitiyak na ang magkakaibang at kinatawan na mga dataset ay ginagamit bilang isang bagay na pangunahing priyoridad sa panahon ng pagsasanay ng AI system, pagsasama-sama ng mga mekanismo na makakatuklas at makakabawas. mga bias sa nilalamang binuo ng AI, at pagtiyak ng epektibong interdisciplinary na pakikipagtulungan habang tinutugunan at tinitiyak na ang mga implikasyon sa etika at panlipunan ng pagbuo ng AI ay pinangangalagaan.
Dapat nilang higit pang pangasiwaan ang pangangailangan para sa pagiging bukas at pananagutan sa pag-deploy ng mga AI system at nangangailangan na ang kamalayan sa mga limitasyon at bias ay ibahagi sa mga user ng nilalamang binuo ng AI. Kaya naman, ang lahat ng mga stakeholder ay maaaring aktibong maghangad na makipagtulungan sa paggamit ng kapangyarihan ng generative AI habang pinapagaan ang mga panganib na nauugnay sa inbreeding sa pagbuo ng AI.
Ang konsepto ng inbreeding sa generative AI ay isang magandang hamon sa hinaharap para sa pagbuo at pag-deploy ng mga AI system. Makakatulong ito sa kanila na matiyak na ang responsable at etikal na pag-unlad ng pagpapabuti ng teknolohiya para sa lipunan ay natutugunan sa pamamagitan ng pag-unawa sa mga implikasyon at mga paraan upang mapabuti ang generative AI inbreeding nang epektibo.
Pinagmulan: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/