Ang NTT at ang Unibersidad ng Tokyo ay Bumuo ng Unang Optical Computing AI sa Mundo Gamit ang Algorithm na Inspirado ng Utak ng Tao

Isinusulong ng collaboration ang praktikal na aplikasyon ng low-power, high-speed AI batay sa optical computing

TOKYO–(BUSINESS WIRE)–#TechforGood-NTT Corporation (Presidente at CEO: Akira Shimada, “NTT”) at ang University of Tokyo (Bunkyo-ku, Tokyo, Presidente: Teruo Fujii) ay gumawa ng bagong algorithm sa pag-aaral na inspirasyon ng pagproseso ng impormasyon ng utak na angkop para sa multi-layered na artificial neural network (DNN) gamit ang mga analog na operasyon. Ang tagumpay na ito ay hahantong sa pagbawas sa pagkonsumo ng kuryente at oras ng pagkalkula para sa AI. Ang mga resulta ng pag-unlad na ito ay nai-publish sa British siyentipikong journal Nature Communications noong Disyembre 26^th.

Nakamit ng mga mananaliksik ang unang pagpapakita sa mundo ng mahusay na naisagawang optical DNN na pag-aaral sa pamamagitan ng paglalapat ng algorithm sa isang DNN na gumagamit ng optical analog computation, na inaasahang magpapagana ng mga high-speed, low-power machine learning device. Bilang karagdagan, nakamit nila ang pinakamataas na pagganap sa mundo ng isang multi-layered na artificial neural network na gumagamit ng mga analog na operasyon.

Noong nakaraan, ang mga kalkulasyon ng high-load na pag-aaral ay isinagawa sa pamamagitan ng mga digital na kalkulasyon, ngunit ang resulta na ito ay nagpapatunay na posible na mapabuti ang kahusayan ng bahagi ng pag-aaral sa pamamagitan ng paggamit ng mga analog na kalkulasyon. Sa teknolohiya ng Deep Neural Network (DNN), ang isang paulit-ulit na neural network na tinatawag na deep reservoir computing ay kinakalkula sa pamamagitan ng pag-aakalang isang optical pulse bilang isang neuron at isang nonlinear optical ring bilang isang neural network na may mga recursive na koneksyon. Sa pamamagitan ng muling pag-input ng output signal sa parehong optical circuit, artipisyal na lumalalim ang network.

Ang teknolohiya ng DNN ay nagbibigay-daan sa advanced artificial intelligence (AI) tulad ng machine translation, autonomous driving at robotics. Sa kasalukuyan, ang lakas at oras ng pagkalkula na kinakailangan ay tumataas sa bilis na lumalampas sa paglago sa pagganap ng mga digital na computer. Ang teknolohiya ng DNN, na gumagamit ng analog signal calculations (analog operations), ay inaasahang maging isang paraan ng pagsasakatuparan ng high-efficiency at high-speed calculations na katulad ng neural network ng utak. Ang pakikipagtulungan sa pagitan ng NTT at ng Unibersidad ng Tokyo ay nakabuo ng isang bagong algorithm na angkop para sa isang analog na operasyong DNN na hindi ipinapalagay ang pag-unawa sa mga parameter ng pag-aaral na kasama sa DNN.

Ang iminungkahing paraan ay natututo sa pamamagitan ng pagbabago ng mga parameter ng pag-aaral batay sa huling layer ng network at ang nonlinear na random na pagbabago ng error ng nais na output signal (error signal). Pinapadali ng pagkalkulang ito ang pagpapatupad ng mga analog na kalkulasyon sa mga bagay tulad ng mga optical circuit. Maaari din itong gamitin hindi lamang bilang isang modelo para sa pisikal na pagpapatupad, kundi pati na rin bilang isang cutting-edge na modelo na ginagamit sa mga application tulad ng machine translation at iba't ibang mga modelo ng AI, kabilang ang modelo ng DNN. Ang pananaliksik na ito ay inaasahang mag-aambag sa paglutas ng mga umuusbong na problema na nauugnay sa AI computing, kabilang ang pagkonsumo ng kuryente at pagtaas ng oras ng pagkalkula.

Bilang karagdagan sa pagsusuri sa pagiging angkop ng pamamaraang iminungkahi sa papel na ito sa mga partikular na problema, isusulong din ng NTT ang malakihan at maliit na integrasyon ng optical hardware, na naglalayong magtatag ng high-speed, low-power optical computing platform para sa hinaharap na optical. mga network.

Suporta para sa Pananaliksik na ito:

Sinusuportahan ng JST/CREST ang bahagi ng mga resulta ng pananaliksik na ito.

Paglalathala ng Magasin:

Magazine: Nature Communications (Online na bersyon：Dis. 26)

Pamagat ng Artikulo: Physical Deep Learning with Biologically Inspired Training Method: Gradient-Free Approach para sa Physical Hardware

Mga May-akda：Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto, at Kohei Nakajima

Paliwanag ng Terminolohiya:

1. Optical circuit: Isang circuit kung saan isinama ang silicon o quartz optical waveguides sa isang silicon wafer gamit ang electronic circuit manufacturing technology. Sa komunikasyon, ang pagsasanga at pagsasanib ng mga landas ng optical na komunikasyon ay ginagawa sa pamamagitan ng optical interference, wavelength multiplexing/demultiplexing, at iba pa.
2. Paraang Backpropagation (BP): Ang pinakakaraniwang ginagamit na algorithm ng pag-aaral sa malalim na pag-aaral. Nakukuha ang mga gradient ng mga timbang (parameter) sa network habang pinapalaganap ang signal ng error pabalik, at ina-update ang mga timbang upang maging mas maliit ang error. Dahil ang proseso ng backpropagation ay nangangailangan ng transposisyon ng weight matrix ng modelo ng network at nonlinear differentiation, mahirap ipatupad sa mga analog circuit, kabilang ang utak ng isang buhay na organismo.
3. Analog computing: Isang computer na nagpapahayag ng mga tunay na halaga gamit ang mga pisikal na dami tulad ng intensity at phase ng liwanag at ang direksyon at intensity ng magnetic spins at nagsasagawa ng mga kalkulasyon sa pamamagitan ng pagbabago ng mga pisikal na dami na ito ayon sa mga batas ng physics.
4. Direct feedback alignment (DFA) method: Isang paraan ng pseudo-calculating ang error signal ng bawat layer sa pamamagitan ng pagsasagawa ng nonlinear random transformation sa error signal ng final layer. Dahil hindi ito nangangailangan ng differential information ng modelo ng network at maaaring kalkulahin lamang sa pamamagitan ng parallel random transformation, ito ay katugma sa analog na pagkalkula.
5. Reservoir computing: Isang uri ng paulit-ulit na neural network na may paulit-ulit na koneksyon sa nakatagong layer. Ito ay nailalarawan sa pamamagitan ng random na pag-aayos ng mga koneksyon sa isang intermediate layer na tinatawag na reservoir layer. Sa malalim na reservoir computing, ang pagpoproseso ng impormasyon ay ginagawa sa pamamagitan ng pagkonekta ng mga reservoir layer sa maraming layer.

Ang NTT at ang logo ng NTT ay mga rehistradong trademark o trademark ng NIPPON TELEGRAPH AND TELEPHONE CORPORATION at/o mga kaakibat nito. Ang lahat ng iba pang tinutukoy na pangalan ng produkto ay mga trademark ng kani-kanilang mga may-ari. © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION

Makipag Ugnayan

Stephen Russell

Komunikasyon sa Wireside®

Para sa NTT

+ 1 804--362 7484-

[protektado ng email]