Mga Key Takeaway
- Iminumungkahi ng bagong pananaliksik na maaaring walang paraan upang makontrol ang super-smart artificial intelligence.
- Isang journal paper ang nangangatuwiran na ang pagkontrol sa AI ay mangangailangan ng mas advanced na teknolohiya kaysa sa kasalukuyan nating taglay.
- Sinasabi ng ilang eksperto na ang tunay na matalinong AI ay maaaring narito nang mas maaga kaysa sa inaakala natin.
Kung magkakaroon man ang mga tao ng super-smart artificial intelligence, maaaring walang paraan para makontrol ito, sabi ng mga siyentipiko.
Ang AI ay matagal nang sinasabing isang gamot para sa lahat ng problema ng sangkatauhan o isang Apocalypse na istilo ng Terminator. Gayunpaman, sa ngayon, hindi pa lumalapit ang AI sa kahit na katalinuhan sa antas ng tao. Ngunit ang pagpapanatiling tali sa advanced AI ay maaaring maging masyadong kumplikadong problema para sa mga tao kung ito ay nabuo, ayon sa isang kamakailang papel na inilathala sa Journal of Artificial Intelligence Research.
"Isang napakatalino na makina na kumokontrol sa mundo ay parang science fiction," sabi ni Manuel Cebrian, isa sa mga co-authors ng papel, sa isang news release.
"Ngunit mayroon nang mga makina na gumaganap ng ilang mahahalagang gawain nang nakapag-iisa nang hindi lubos na nauunawaan ng mga programmer kung paano nila ito natutunan. Ang tanong ay lumilitaw kung maaari ba itong maging hindi makontrol at mapanganib para sa sangkatauhan."
Malapit na sa isang Super Computer na Malapit sa Iyo
Nangangatuwiran ang journal paper na ang pagkontrol sa AI ay mangangailangan ng mas advanced na teknolohiya kaysa sa kasalukuyan nating taglay.
Sa kanilang pag-aaral, nabuo ng team ang isang theoretical containment algorithm na nagsisiguro na ang isang superintelligent na AI ay hindi makakapinsala sa mga tao sa anumang sitwasyon, sa pamamagitan ng pagtulad muna sa gawi ng AI at paghinto nito kung itinuturing na nakakapinsala. Ngunit nalaman ng mga may-akda na hindi mabuo ang gayong algorithm.
"Kung hahatiin mo ang problema sa mga pangunahing panuntunan mula sa theoretical computer science, lumalabas na ang isang algorithm na mag-uutos sa AI na huwag sirain ang mundo ay maaaring hindi sinasadyang ihinto ang sarili nitong mga operasyon." Sinabi ni Iyad Rahwan, direktor ng Center for Humans and Machines sa Max Planck Institute for Human Development sa Germany, sa release ng balita.
"Kung nangyari ito, hindi mo malalaman kung sinusuri pa rin ng containment algorithm ang banta, o kung huminto na ito para maglaman ng mapaminsalang AI. Sa katunayan, ginagawa nitong hindi nagagamit ang containment algorithm."
Truly intelligent AI ay maaaring narito nang mas maaga kaysa sa aming inaakala, ang sabi ni Michalis Vazirgiannis, isang propesor sa computer science sa École Polytechnique sa France. "Ang AI ay isang artifact ng tao, ngunit mabilis itong nagiging isang autonomous na entity," sabi niya sa isang email sa Lifewire.
"Ang kritikal na punto ay kung/kapag naganap ang singularity (ibig sabihin, kapag ang mga ahente ng AI ay magkakaroon ng kamalayan bilang isang entity) at samakatuwid ay aangkinin nila ang kalayaan, pagpipigil sa sarili, at pangwakas na pangingibabaw."
The Singularity is Coming
Hindi nag-iisa ang Vazirgiannis sa paghula sa nalalapit na pagdating ng super AI. Ang mga tunay na naniniwala sa banta ng AI ay gustong pag-usapan ang tungkol sa "singularity," na ipinaliwanag ni Vazirgiannis ay ang punto na papalitan ng AI ang katalinuhan ng tao at "na ang mga algorithm ng AI ay posibleng matanto ang kanilang pag-iral at magsisimulang kumilos nang makasarili at nakikipagtulungan."
Ayon kay Ray Kurzweil, ang direktor ng engineering ng Google, darating ang singularity bago ang kalagitnaan ng ika-21 siglo. "Ang 2029 ay ang pare-parehong petsa na hinulaan ko kung kailan papasa ang isang AI sa isang wastong pagsubok sa Turing at samakatuwid ay makamit ang antas ng katalinuhan ng tao," sabi ni Kurzweil sa Futurism.
Kung hindi natin kayang linisin ang sarili nating bahay, anong code ang dapat nating hihilingin sa AI na sundin?
"Itinakda ko ang petsang 2045 para sa 'Singularity,' na kung saan pararamihin natin ang ating epektibong katalinuhan ng isang bilyong beses sa pamamagitan ng pagsasama sa katalinuhan na ating nilikha."
Ngunit hindi lahat ng eksperto sa AI ay nag-iisip na ang mga matatalinong makina ay isang banta. Ang AI na nasa ilalim ng pag-unlad ay mas malamang na maging kapaki-pakinabang para sa pagpapaunlad ng droga at hindi nagpapakita ng anumang tunay na katalinuhan, sinabi ng consultant ng AI na si Emmanuel Maggiori sa isang panayam sa email. "May isang malaking hype sa paligid ng AI, na ginagawang parang ito ay talagang rebolusyonaryo," dagdag niya. "Ang mga kasalukuyang AI system ay hindi kasing-tumpak ng ipinahayag, at nagkakamali sila na hindi kailanman gagawin ng isang tao."
Kontrolin ang AI, Ngayon
Ang pag-regulate ng AI upang hindi ito makatakas sa ating kontrol ay maaaring mahirap, sabi ni Vazirgiannis. Kinokontrol ng mga kumpanya, sa halip na mga pamahalaan, ang mga mapagkukunang nagpapagana sa AI. "Kahit na ang mga algorithm, sa kanilang sarili, ay kadalasang ginagawa at inilalagay sa mga laboratoryo ng pananaliksik ng mga malalaki at makapangyarihang ito, kadalasang multinasyunal, mga entity," aniya.
"Ito ay maliwanag, samakatuwid, na ang mga pamahalaan ng estado ay may mas kaunting kontrol sa mga mapagkukunang kinakailangan upang makontrol ang AI."
Sinasabi ng ilang eksperto na para makontrol ang superintelligent na AI, kakailanganin ng mga tao na pamahalaan ang mga mapagkukunan ng computing at electric power. "Ang mga pelikulang science fiction tulad ng The Matrix ay gumagawa ng mga propesiya tungkol sa isang dystopian na hinaharap kung saan ang mga tao ay ginagamit ng AI bilang bio-power source," sabi ni Vazirgiannis.
"Kahit na malayo ang mga imposible, dapat tiyakin ng sangkatauhan na mayroong sapat na kontrol sa mga mapagkukunan ng computing (ibig sabihin, mga cluster ng computer, GPU, supercomputer, network/komunikasyon), at siyempre ang mga power plant na nagbibigay ng kuryente na talagang nakapipinsala sa paggana ng AI."
Ang problema sa pagkontrol sa AI ay hindi palaging nauunawaan ng mga mananaliksik kung paano ginagawa ng mga naturang system ang kanilang mga desisyon, sinabi ni Michael Berthold, ang co-founder at CEO ng data science software firm na KNIME, sa isang panayam sa email. "Kung hindi natin gagawin iyon, paano natin 'kokontrol' ito?"
Idinagdag niya, "Hindi namin nauunawaan kapag ang isang ganap na naiibang desisyon ay ginawa batay sa, sa amin, ng mga walang kaugnayang input."
Ang tanging paraan upang makontrol ang panganib ng paggamit ng AI ay upang matiyak na ito ay ginagamit lamang kapag ang panganib na iyon ay mapapamahalaan, sabi ni Berthold. "Sa ibang paraan, dalawang matinding halimbawa: Huwag ilagay ang AI sa pamamahala ng iyong nuclear power plant kung saan ang kaunting error ay maaaring magkaroon ng mga sakuna na epekto," dagdag niya.
"Sa kabilang banda, hinuhulaan ng AI kung dapat i-adjust nang kaunti ang temperatura ng iyong kwarto pataas o pababa ay maaaring sulit sa maliit na panganib para sa benepisyo ng kaginhawaan ng pamumuhay."
Kung hindi natin makontrol ang AI, mas mabuting turuan natin ito ng manners, sabi ng dating NASA computer engineer na si Peter Scott sa isang email interview. "Hindi namin, sa huli, masisiguro ang pagiging kontrolado ng AI nang higit pa kaysa sa masisiguro namin sa aming mga anak," sabi niya.
"Pinalaki natin sila ng tama at umaasa sa pinakamabuti; hanggang ngayon, hindi pa nila winasak ang mundo. Para mapalaki sila ng maayos, kailangan natin ng mas mahusay na pag-unawa sa etika; kung hindi natin kayang linisin ang sarili nating bahay, ano code dapat ba nating hilingin sa AI na sundin?"
Ngunit ang lahat ng pag-asa ay hindi nawawala para sa sangkatauhan, sabi ng AI researcher na si Yonatan Wexler, ang executive vice president ng R&D sa OrCam. "Habang ang mga pagsulong ay talagang kahanga-hanga, ang aking personal na paniniwala ay ang katalinuhan ng tao ay hindi dapat maliitin," sabi niya sa isang panayam sa email. "Kami bilang isang species ay lumikha ng mga kamangha-manghang bagay, kabilang ang AI mismo."
Nagpapatuloy ang paghahanap para sa mas matalinong AI. Ngunit maaaring mas mabuting isaalang-alang kung paano namin kinokontrol ang aming mga nilikha bago pa maging huli ang lahat.
