Mga Key Takeaway
- Ang AI at machine learning algorithm ay nanonood ng gawi ng tao at matututong manipulahin ito, sabi ng mga eksperto.
- Gumawa kamakailan ang mga mananaliksik ng isang paraan upang hanapin at pagsamantalahan ang mga kahinaan sa mga paraan ng pagpili ng mga tao gamit ang AI.
- Ang pinaka-sopistikadong social media algorithm ngayon ay ang TikTok, sabi ng isang tagamasid.
Ang mga algorithm ng artificial intelligence (AI) at machine learning ay lalong natututo kung paano maimpluwensyahan ang gawi ng mga user, sabi ng mga eksperto.
Ang mga mananaliksik sa pambansang ahensya ng agham ng Australia ay gumawa kamakailan ng isang paraan upang hanapin at pagsamantalahan ang mga kahinaan sa mga paraan ng mga tao na pumipili gamit ang AI. Ang pinakabagong pananaliksik ay isa lamang sa isang wave ng AI-driven system na idinisenyo upang manipulahin ang paggawa ng desisyon ng tao.
"Walang katapusan ang maraming paraan kung saan naiimpluwensyahan na ng AI ang pag-uugali," Kentaro Toyama, isang propesor sa University of Michigan School of Information at may-akda ng Geek Heresy: Rescuing Social Change from the Cult of Technology, sinabi sa isang panayam sa email.
"Sa katunayan, kung nakagawa ka na ng paghahanap sa Google at nag-follow-up sa isang link, naapektuhan ka ng isang AI system na nahulaan ang iyong mga interes at nagbalik ng mga resulta na sa tingin nito ay pinaka-nauugnay sa iyo."
AI vs. Humans
Sa pananaliksik sa Australia na inilathala sa isang kamakailang papel, ang mga kalahok ng tao ay naglaro laban sa isang computer sa iba't ibang mga eksperimento. Ang unang eksperimento ay nag-click sa mga kalahok sa pula o asul na mga kahon upang manalo ng pera.
Naging matagumpay ang AI sa halos 70% ng oras, natutunan ang mga pattern ng pagpili ng kalahok at ginagabayan sila patungo sa isang partikular na pagpipilian.
Sa isa pang eksperimento, nanood ang mga kalahok sa isang screen at pinindot ang isang button kapag ipinakita sa kanila ang isang partikular na simbolo, o hindi ito pinindot kapag nag-alok ng isa pa. Natutunan ng AI na muling ayusin ang mga simbolo, kaya mas maraming pagkakamali ang ginawa ng mga kalahok.
Ang resulta ng mga eksperimento, ayon sa mga mananaliksik, ay natuto ang AI mula sa mga tugon ng mga kalahok. Tinukoy at tina-target ng makina ang mga kahinaan sa paggawa ng desisyon ng mga tao. Sa katunayan, maaaring manipulahin ng AI ang mga kalahok sa paggawa ng mga partikular na aksyon.
Ang katotohanang maaaring manipulahin ng AI o machine learning ang mga tao ay hindi dapat ikagulat, sabi ng mga tagamasid.
"Naiimpluwensyahan ng AI ang ating pag-uugali araw-araw," sabi ni Tamara Schwartz, assistant professor ng cybersecurity at business administration sa York College of Pennsylvania, sa isang panayam sa email.
"Palagi naming naririnig ang tungkol sa mga algorithm sa mga application ng social media tulad ng Facebook o Twitter. Itinutuon ng mga algorithm na ito ang aming pansin sa nauugnay na nilalaman at lumilikha ng epekto ng 'echo chamber', na nakakaimpluwensya naman sa aming pag-uugali."
TikTok ay Nanonood
Ang pinaka-sopistikadong social media algorithm ngayon ay TikTok, sabi ni Schwartz. Sinusuri ng app kung ano ang kinaiinteresan mo, kung gaano ka katagal nanonood ng isang bagay, at kung gaano kabilis mong laktawan ang isang bagay, pagkatapos ay pinipino ang mga alok nito para patuloy kang manood.
"Ang TikTok ay higit na nakakahumaling kaysa sa iba pang mga platform dahil sa AI algorithm na ito, na nauunawaan kung ano ang gusto mo, kung paano ka natututo, at kung paano ka pumili ng impormasyon," dagdag niya. "Alam namin ito dahil ang average na oras na ginugugol ng mga user sa TikTok ay 52 minuto."
Ang pagmamanipula ng pag-uugali ng tao sa pamamagitan ng artificial intelligence ay maaaring magkaroon ng mga positibong gamit, argumento ni Chris Nicholson, CEO ng kumpanya ng AI na Pathmind, sa isang panayam sa email. Ang mga ahensya ng pampublikong kalusugan, halimbawa, ay maaaring gumamit ng AI para hikayatin ang mga tao na gumawa ng mas mahusay na mga desisyon.
"Gayunpaman, ang social media, mga gumagawa ng video game, mga advertiser, at mga awtoridad na rehimen ay naghahanap ng mga paraan upang mahikayat ang mga tao na gumawa ng mga desisyon na hindi para sa kanilang pinakamahusay na interes, at ito ay magbibigay sa kanila ng mga bagong tool upang gawin iyon, " dagdag niya.
Ang mga isyung etikal sa pag-uugali na nakakaimpluwensya sa AI ay kadalasang nasa antas, sabi ni Toyama. Binibigyang-daan ng AI ang nakatutok na advertising kung saan maaaring samantalahin ang mga indibidwal na kagustuhan at kahinaan.
"Posible, halimbawa, para sa isang AI system na tukuyin ang mga taong sumusubok na huminto sa paninigarilyo at bigyan sila ng mga nakakatuksong ad ng sigarilyo," dagdag niya.
Hindi lahat ay sumasang-ayon na ang pagmamanipula ng AI sa gawi ng tao ay may problema. Ang klasikal na sikolohiya at AI ay parehong nagmamasid sa data, itinuro ni Jason J. Corso, direktor ng Stevens Institute for Artificial Intelligence, sa isang panayam sa email.
"Malamang na mas mahusay ang mga human scientist sa pag-generalize ng mga obserbasyon at pag-distill ng mga teorya ng pag-uugali ng tao na maaaring mas malawak na naaangkop samantalang ang mga modelo ng AI ay magiging mas katanggap-tanggap sa pagtukoy ng mga nuances na partikular sa problema," sabi ni Corso.
"Mula sa isang etikal na pananaw, wala akong nakikitang pagkakaiba sa pagitan ng mga ito."
