Mga Key Takeaway
- Ang algorithm na bias ay nakakapinsala sa mga teenager na gumugugol ng maraming oras sa internet, sabi ng mga eksperto.
- Ang mga user ng Twitter ay nakatagpo kamakailan ng problema kung saan ang mga itim na mukha ay kinuha pabor sa mga puti.
- Ang pagbuo ng utak ng mga teenager ay maaaring partikular na madaling kapitan sa mga nakakapinsalang epekto ng algorithmic bias, sabi ng mga mananaliksik.
Ang pagkiling na dulot ng ilang teknolohiya, na kilala bilang algorithmic bias, ay maaaring makapinsala sa maraming grupo, ngunit sinasabi ng mga eksperto na partikular itong nakakapinsala sa mga kabataan.
Ang Algorithmic bias, kapag ang mga computer system ay nagpapakita ng mga prejudiced na resulta, ay isang lumalaking problema. Nakahanap kamakailan ang mga user ng Twitter ng isang halimbawa ng bias sa platform nang ang isang algorithm sa pag-detect ng imahe na nag-crop ng mga larawan ay nagpuputol ng mga Itim na mukha pabor sa mga puti. Humingi ng paumanhin ang kumpanya para sa isyu, ngunit hindi pa naglalabas ng pag-aayos. Ito ay isang halimbawa ng bias na kinakaharap ng mga teenager kapag nag-online sila, na ginagawa nila nang higit pa kaysa sa iba pang pangkat ng edad, sabi ng mga eksperto.
"Karamihan sa mga kabataan ay walang kamalayan na ang mga kumpanya ng social media ay naglalagay sa kanila upang mag-promote ng partikular na nilalaman na sa tingin nila ay magugustuhan ng mga user [upang] mapanatiling sila hangga't maaari sa platform, " Dr. Mai- Sinabi ni Ly Nguyen Steers, assistant professor sa School of Nursing sa Duquesne University na nag-aaral sa paggamit ng social media sa mga kabataan/kolehiyo, sa isang panayam sa email.
"Kahit na may ilang antas ng kamalayan tungkol sa algorithm, ang epekto ng hindi pagkuha ng sapat na mga like at komento ay malakas pa rin at maaaring makaapekto sa pagpapahalaga sa sarili ng mga kabataan," dagdag ni Steers.
Nagpapaunlad ng Utak
Maaaring maapektuhan ng algorithmic bias ang mga kabataan sa hindi inaasahang paraan dahil umuunlad pa rin ang kanilang prefrontal cortex, ipinaliwanag ni Mikaela Pisani, Chief Data Scientist sa Rootstrap, sa isang panayam sa email.
Ang epekto ng hindi pagkakaroon ng sapat na mga like at komento ay malakas pa rin at maaaring makaapekto sa pagpapahalaga sa sarili ng mga kabataan.
"Lalong mahina ang mga kabataan sa phenomenon ng 'Social Factory', kung saan ang mga algorithm ay gumagawa ng mga societal cluster sa mga online na platform, na humahantong sa pagkabalisa at depresyon kung hindi natutugunan ang mga pangangailangan ng tinedyer sa social approval," sabi ni Pisani. "Nagpapasimple ang mga algorithm batay sa nakaraang hindi perpektong data-na humahantong sa labis na representasyon ng mga stereotype sa kapinsalaan ng higit pang mga nuanced na diskarte sa pagbuo ng pagkakakilanlan.
"Sa pamamagitan ng mas malawak na pananaw, tayo rin ay naiiwan sa pagtatanong, bilang isang lipunan, kung gusto natin ng mga algorithm na humuhubog sa mga paglalakbay ng ating mga kabataan sa pagiging adulto, at sinusuportahan ba ng system na ito sa halip na pigilan ang indibidwal na personal na paglago?"
Dahil sa mga problemang ito, lumalaki ang pangangailangang isaisip ang mga teenager kapag nagdidisenyo ng mga algorithm, sabi ng mga eksperto.
"Batay sa input mula sa mga developmental specialist, data scientist, at youth advocates, ang ika-21 siglong mga patakaran sa pagkapribado ng data at algorithmic na disenyo ay maaari ding mabuo nang nasa isip ang mga partikular na pangangailangan ng mga kabataan, " Avriel Epps-Darling, isang doktoral estudyante sa Harvard, ay sumulat kamakailan. "Kung sa halip ay patuloy nating babalewalain o balewalain ang mga paraan na ang mga kabataan ay mahina sa algorithmic racism, ang mga pinsala ay malamang na umuugong sa mga susunod na henerasyon."
Paglaban sa Pagkiling
Hanggang may solusyon, sinusubukan ng ilang mananaliksik na humanap ng mga paraan para mabawasan ang pinsalang naidulot sa mga kabataan sa pamamagitan ng mga bias na algorithm.
"Nakatuon ang mga interbensyon sa pagpapakilala sa mga kabataan na ang kanilang mga pattern sa social media ay negatibong nakakaapekto sa kanilang kalusugang pangkaisipan at sinusubukang makabuo ng mga diskarte upang mabawasan iyon (hal., pagbawas sa paggamit ng social media), " sabi ni Steers.
"Ilan sa mga estudyante sa kolehiyo na aming kinapanayam ay nagpahiwatig na napipilitan silang bumuo ng nilalaman upang manatiling "may kaugnayan," kahit na ayaw nilang lumabas o mag-post, " patuloy niya. "Gayunpaman, sa palagay nila kailangan nilang bumuo ng nilalaman upang mapanatili ang kanilang mga koneksyon sa kanilang mga tagasunod o kaibigan."
Ang pinakahuling sagot ay maaaring alisin ang bias ng tao sa mga computer. Ngunit dahil tao lamang ang mga programmer, isang mahirap na hamon iyon, sabi ng mga eksperto.
Ang isang posibleng solusyon ay ang bumuo ng mga computer na desentralisado at nakaprograma upang makalimutan ang mga bagay na kanilang natutunan, sabi ni John Suit, Chief Technology Officer sa robotics firm KODA.
"Sa pamamagitan ng isang desentralisadong network, ang data, at ang analytics ng data na iyon, ay pinagsama-sama at sinusuri mula sa maraming punto," sabi ni Suit sa isang panayam sa email. "Ang data ay kinokolekta at pinoproseso hindi mula sa isang pagpoproseso ng isip ng AI sa loob ng mga limitasyon ng algorithm nito, ngunit daan-daan o kahit libu-libo.
"Habang ang data na iyon ay kinokolekta at sinusuri, ang mga lumang "konklusyon" o labis na data ay nakalimutan. Sa pamamagitan ng system na ito, ang isang algorithm na maaaring nagsimula sa bias ay sa kalaunan ay itatama at papalitan ang bias na iyon kung ito ay mapatunayang mali."
Bagama't ang bias ay maaaring matagal nang problema, maaaring may mga paraan upang labanan ito, kahit online. Ang pagdidisenyo ng mga computer na nag-aalis ng ating mga pagkiling ay ang unang hakbang.
