Mga Key Takeaway
- Itinuturo ng bagong pananaliksik ng mga MIT scientist ang paraan sa paglalagay ng mga neural network sa maliliit na device.
- Binibigyang-daan ng MCUNet ang malalim na pag-aaral sa mga system na may limitadong lakas sa pagproseso at memorya.
- Maaaring magbigay-daan din ang inobasyon para sa mas matalino, mas maliksi na mga medikal na device.
Ang mga smart speaker at iba pang device na bumubuo sa Internet of Things (IoT) ay maaaring makakuha ng lakas ng neural network na gumawa ng higit pa sa mas kaunti, sabi ng mga mananaliksik.
Pinapayagan ng bagong system na tinatawag na MCUNet ang disenyo ng maliliit na neural network sa mga IoT device, kahit na may limitadong memorya at kapangyarihan sa pagproseso. Ayon sa isang papel ng mga MIT scientist na inilathala sa preprint server na Arxiv, ang teknolohiya ay maaaring magdala ng mga bagong kakayahan sa mga smart device habang nagtitipid ng enerhiya at pinapahusay ang seguridad ng data.
Ang pananaliksik "ay isa sa mga mahuhusay na ideya na tila halata kapag narinig mo ito," sabi ni John Suit, na nagpapayo sa CTO sa kumpanya ng robotics na KODA, sa isang panayam sa email. "Ito ay isang eleganteng diskarte sa problema. Napakahalaga ng pananaliksik na ito dahil sa kalaunan, papayagan nila ang real-time na pag-optimize ng mga neural network para sa anumang device kung saan maaaring malaman ng algorithm ang mga mapagkukunan."
Ang talagang ipinapakita nito ay ang kapangyarihan ay hindi kailangang itali sa laki..
Malalaking Pagkalkula sa Maliit na Device
Ang mga IoT na device ay karaniwang tumatakbo sa mga computer chip na walang operating system, na nagpapahirap sa pagpapatakbo ng mga gawain sa pagkilala sa pattern tulad ng malalim na pag-aaral. Para sa mas matinding pagsusuri, ang data na nakolekta ng IoT ay kadalasang pinoproseso sa cloud, bagama't mahina ito sa pag-hack.
Maraming maaaring gawin ng mga neural network para palakihin ang dumaraming bilang ng mga IoT device, ngunit naging problema ang laki.
"Upang ilipat ang mga network sa mismong device, na napatunayang mahirap, kakailanganin mong humanap ng paraan upang ma-optimize ang espasyo sa paghahanap para sa iba't ibang microcontroller," paliwanag ni Suit. "Hindi gagana ang isang standard o generic na system dahil sa mga resource tolerance sa mga IoT device. Isipin ang napakababang power, napakaliit na processor sa mga tuntunin ng processing power."
Diyan pumapasok ang gawain ng mga mananaliksik ng MIT.
"Paano tayo direktang magde-deploy ng mga neural net sa maliliit na device na ito?" ang nangungunang may-akda ng pag-aaral, si Ji Lin, isang Ph. D. estudyante sa Departamento ng Electrical Engineering at Computer Science ng MIT, sinabi sa isang paglabas ng balita. "Ito ay isang bagong lugar ng pagsasaliksik na nagiging napakainit. Ang mga kumpanya tulad ng Google at ARM ay lahat ay nagtatrabaho sa direksyon na ito."
TinyEngine to the Rescue
Ang pangkat ng MIT ay nagdisenyo ng dalawang sangkap na kinakailangan para sa pagpapatakbo ng mga neural network sa mga microcontroller. Ang isang bahagi ay ang TinyEngine, na katulad ng isang operating system, ngunit tinatanggal ang code hanggang sa mga mahahalaga nito. Ang isa pa ay ang TinyNAS, isang neural architecture search algorithm.
"Marami kaming microcontroller na may iba't ibang kapasidad ng kuryente at iba't ibang laki ng memorya," sabi ni Lin. "Kaya binuo namin ang algorithm [TinyNAS] upang i-optimize ang espasyo sa paghahanap para sa iba't ibang microcontroller. Ang naka-customize na katangian ng TinyNAS ay nangangahulugan na maaari itong bumuo ng mga compact neural network na may pinakamahusay na posibleng pagganap para sa isang partikular na microcontroller-na walang mga hindi kinakailangang parameter. Pagkatapos ay ihahatid namin ang pangwakas, mahusay na modelo sa microcontroller."
Ito ay isang eleganteng diskarte sa problema.
Maaaring isalin ang gawa ni Lin para maging mas matalino, mas maliksi na mga medikal na device.
"Ang talagang ipinapakita nito ay ang kapangyarihan ay hindi kailangang itali sa laki, at sa mga ospital, kung saan ang lahat ay mabilis na gumagalaw sa masikip na espasyo, na literal na nangangahulugan ng pagkakaiba sa pagitan ng buhay at kamatayan, " Kevin Goodwin, Sinabi ng CEO ng EchoNous, isang kumpanyang gumagawa ng AI-assisted medical device, sa isang email interview.
Sinabi ni Goodwin na ang kanyang koponan ay gumugol ng maraming taon sa pagbuo at pagsasanay ng isang neural network na maaaring magamit sa pagmamapa ng mga istruktura ng puso sa isang real-time na ultrasound scan-lahat sa isang handheld device na tinatawag na KOSMOS na may timbang na wala pang dalawang libra.
"Ngayon ay madaling lumipat ang mga doktor mula sa silid patungo sa pagkuha ng mga diagnostic-kalidad na pag-scan gamit ang gabay ng AI," dagdag niya. "Hindi nila kailangang magpadala ng mga pasyente sa ibang lugar para sa mga pag-scan na iyon o mawalan ng kritikal na oras sa pagdidisimpekta ng mga makinarya na nakabatay sa cart."
Ang MCUNet ay isang kapana-panabik na pagtingin sa isang mundo kung saan ang mga maliliit na gadget ay maaaring maging mas matalino kaysa dati. Habang mabilis na lumalaki ang bilang ng mga IoT device, hahanapin namin ang lahat mula sa mga smart appliances hanggang sa mga medikal na device para magkaroon ng sarili nilang mga neural network.
