Mga Key Takeaway
- Ang AI system na tinatawag na DALL-E2 ay lumilitaw na lumikha ng sarili nitong sistema ng nakasulat na komunikasyon.
- Sinasabi ng ilang eksperto na maaaring walang kwenta lang ang nakikitang wika.
- Ito ay isang halimbawa kung gaano kahirap bigyang-kahulugan ang mga resulta ng mga advanced na AI system.
Mukhang nakabuo ang Artificial Intelligence (AI) ng sarili nitong wika, ngunit may pag-aalinlangan ang ilang eksperto sa claim.
Ang text-to-image AI system ng OpenAI na tinatawag na DALL-E2 ay lumilitaw na lumikha ng sarili nitong sistema ng nakasulat na komunikasyon. Isa itong halimbawa kung gaano kahirap bigyang-kahulugan ang mga resulta ng mga advanced na AI system.
"Dahil sa laki at lalim ng malalaking modelo, napakahirap ipaliwanag ang gawi ng modelo," sabi ni Teresa O'Neill, ang direktor ng arkitektura ng mga solusyon para sa natural na pag-unawa sa wika sa iMerit, sa Lifewire sa isang panayam sa email. "Ito ay isa sa mga pangunahing hamon, at sa ilang mga kaso, etikal na mga isyu na may lalong makapangyarihang mga modelo. Kung hindi natin maipaliwanag kung bakit sila kumikilos tulad ng ginagawa nila, maaari ba nating hulaan ang kanilang pag-uugali o panatilihin ito na naaayon sa ating mga pamantayan at inaasahan?"
AI Chats
Nabanggit kamakailan ng mag-aaral sa Computer Science na si Giannis Daras na ang DALLE-2 system, na gumagawa ng mga larawan batay sa text input, ay magbabalik ng mga walang katuturang salita bilang text sa ilalim ng ilang partikular na sitwasyon.
"Ang isang kilalang limitasyon ng DALLE-2 ay ang pakikibaka nito sa teksto," isinulat niya sa isang papel na inilathala sa preprint server na Arxiv. "Halimbawa, ang mga text prompt gaya ng: 'Isang larawan ng salitang eroplano' ay kadalasang humahantong sa mga nabuong larawan na naglalarawan ng walang kwentang text."
Ngunit, isinulat ni Daras, maaaring may paraan sa likod ng maliwanag na kalokohan. "Natuklasan namin na ang ginawang teksto na ito ay hindi random, ngunit sa halip ay nagpapakita ng isang nakatagong bokabularyo na ang modelo ay tila nabuo sa loob," patuloy niya. "Halimbawa, kapag pinapakain ng walang kwentang text na ito, ang modelo ay madalas na gumagawa ng mga eroplano."
Sa kanyang tweet, ipinunto ni Daras na nang hilingin sa DALLE-2 na i-sub title ang isang pag-uusap ng dalawang magsasaka, ipinakita nitong nag-uusap sila, ngunit ang mga speech bubble ay napuno ng mga tila walang katuturang salita. Ngunit natuklasan ni Daras na ang mga salita ay tila may sariling kahulugan sa AI: ang mga magsasaka ay nagsasalita tungkol sa mga gulay at ibon.
Nicola Davolio, ang CEO ng tech company na Hupry, na nagtatrabaho sa AI, ay ipinaliwanag sa Lifewire sa isang panayam sa email na ang wika ay batay sa mga simbolo na natutunan ng DALL-E2 system na iugnay sa ilang mga konsepto. Halimbawa, ang simbolo para sa "aso" ay maaaring nauugnay sa isang larawan ng aso, habang ang simbolo para sa "pusa" ay maaaring nauugnay sa isang larawan ng isang pusa. Nilikha ng DALL-E2 ang wika nito dahil binibigyang-daan nito itong makipag-usap nang mas epektibo sa iba pang mga AI system.
Ang mga puzzle tulad ng tila nakatagong bokabularyo ng DALL-E2 ay nakakatuwang makipagbuno, ngunit hina-highlight din ng mga ito ang mas mabibigat na tanong…
"Ang wika ay binubuo ng mga simbolo na mukhang Egyptian hieroglyph at mukhang walang partikular na kahulugan," dagdag niya. "Ang mga simbolo ay malamang na walang kahulugan sa mga tao, ngunit ang mga ito ay may perpektong kahulugan sa AI system dahil ito ay sinanay sa milyun-milyong larawan."
Naniniwala ang mga mananaliksik na nilikha ng AI system ang wika upang tulungan itong mas maunawaan ang mga ugnayan sa pagitan ng mga larawan at salita, sabi ni Davolio.
"Hindi sila sigurado kung bakit binuo ng AI system ang wika nito, ngunit pinaghihinalaan nila na maaaring may kinalaman ito sa kung paano ito natutong gumawa ng mga larawan," dagdag ni Davolio. "Posible na binuo ng AI system ang wika nito upang gawing mas mahusay ang komunikasyon sa pagitan ng iba't ibang bahagi ng network."
AI Mysteries
Ang DALL-E2 ay hindi lamang ang AI system na nakabuo ng panloob na wika nito, sinabi ni Davolio. Noong 2017, lumikha ang AutoML system ng Google ng bagong anyo ng neural architecture na tinatawag na 'child network' pagkatapos iwanang magpasya kung paano pinakamahusay na kumpletuhin ang isang partikular na gawain. Ang child network na ito ay hindi kayang bigyang-kahulugan ng mga taong lumikha nito.
"Ang mga halimbawang ito ay ilan lamang sa mga pagkakataon kung saan ang mga AI system ay bumuo ng mga paraan ng paggawa ng mga bagay na hindi namin maipaliwanag," sabi ni Davolio. "Ito ay isang umuusbong na kababalaghan na kaakit-akit at nakababahala sa pantay na sukat. Habang nagiging mas kumplikado at nagsasarili ang mga AI system, maaari nating lalong makita ang ating sarili sa posisyon na hindi maunawaan kung paano gumagana ang mga ito."
Sinabi ni O'Neill na hindi niya iniisip na gumagawa ang DALL-E2 ng sarili nitong wika. Sa halip, sinabi niya na ang dahilan para sa maliwanag na linguistic na pag-imbento ay malamang na medyo mas prosaic.
"Ang isang kapani-paniwalang paliwanag ay isang random na pagkakataon--sa isang modelong ganoon kalaki, maaaring malapat ang kaunting Batas ni Murphy: kung may mangyayaring kakaiba, malamang na mangyayari ito, " dagdag ni O'Neill. Ang isa pang posibilidad na iminungkahi ng research analyst na si Benjamin Hilton sa isang Twitter thread na tumatalakay sa mga natuklasan ni Daras ay ang anyo ng pariralang "apoploe vesrreaitais" ay ginagaya ang anyo ng Latin na pangalan para sa isang hayop. Kaya't nagbunga ang system ng bagong order ng Aves, idinagdag ni O'Neill.
"Ang mga puzzle na tulad ng tila nakatagong bokabularyo ng DALL-E2 ay nakakatuwang makipagbuno, ngunit binibigyang-diin din ng mga ito ang mas mabibigat na tanong tungkol sa panganib, bias, at etika sa madalas na hindi maisip na pag-uugali ng malalaking modelo," sabi ni O'Neill.
