Mga Key Takeaway
- Gumagamit ang mga kumpanya ng artificial intelligence para subaybayan ang kanilang mga empleyado.
- Nag-install ang Amazon ng mga machine learning-powered na camera sa mga delivery van nito sa unang bahagi ng taong ito.
- Ang pagsubaybay sa AI ay maaaring humantong sa mga isyu sa privacy at seguridad kung gagamitin ng mga walang prinsipyong kumpanya.
Lalong sinusubaybayan ng mga tagapag-empleyo ang kanilang mga manggagawa gamit ang artificial intelligence, at sinasabi ng mga tagamasid na ang kagawian ay nagdudulot ng mga alalahanin sa privacy.
Nag-install ang Amazon ng mga machine learning-powered na camera sa mga delivery van nito sa unang bahagi ng taong ito. Sinabi kamakailan ng kumpanya sa mga driver nito na dapat silang sumang-ayon na gamitin ang mga ito. Maaaring legal ang pagsasagawa ng on-the-job surveillance, ngunit hindi lahat ay sumasang-ayon na ito ay etikal.
"Gumamit ng mga tool sa pagsubaybay ng empleyado ang mga kumpanya sa loob ng ilang dekada, ngunit sa pagsulong ng teknolohiya, nagiging mas invasive ang mga ito," sabi ni Aimee O'Driscoll, isang security researcher sa website ng paghahambing ng teknolohiya na Comparitech, sa isang panayam sa email.
"Karamihan sa pagsubaybay ng empleyado ay maaaring ituring na isang panghihimasok sa privacy, at maaaring pagtalunan na ang ginagawa ng Amazon ay hindi lubos na naiiba sa pagkakaroon ng mga CCTV camera sa isang opisina."
Bantayan o Matanggal sa trabaho
Ang humigit-kumulang 75, 000 delivery driver ng Amazon sa US ay kinakailangan na ngayong pumirma sa isang form na "biometric consent". Ang form ng pahintulot ay nagbibigay-daan sa mga camera na pinapagana ng AI na panoorin ang lokasyon, paggalaw, at biometric na data ng mga driver. Maaaring tanggalin sa trabaho ang mga empleyadong hindi pumirma sa dokumento.
Sinusubaybayan ng AI surveillance ang lahat ng ginagawa ng mga driver ng Amazon, nanghihimasok sa ipinapalagay na privacy ng paksa, sinabi ni Chris Hauk, isang privacy researcher sa privacy website na Pixel Privacy, sa isang email interview.
"Kabilang dito ang pagre-record sa tuwing humihikab o kumamot ang subject sa isang sensitibong lugar," dagdag niya. "Ang isang driver ay may kahit na ilang karapatan sa isang pagkakatulad ng privacy habang nasa loob ng kanilang mga sasakyan."
Ang pagsubaybay sa empleyado ng AI ay lumalaking isyu. Ang Walmart ay nag-patent ng isang teknolohiya ng AI na nagbibigay-daan sa pakikinig sa mga pakikipag-ugnayan ng empleyado sa mga customer sa mga pag-checkout, sinabi ni O'Driscoll.
Ang Software developer Enable ay nagbibigay ng mga tool sa pagiging produktibo batay sa AI software. Ang iba't ibang kumpanya, kabilang ang Macy's, ay gumagamit ng analytics system ng Microsoft, na maaaring subaybayan ang pag-uugali ng empleyado. Gumamit ang Domino’s ng AI technology para tingnan kung tama ang pagkakagawa ng mga pizza.
"Isa sa mga pangunahing isyu ay kapag ginamit sa maling paraan, ang kawalan ng privacy ay maaaring humantong sa mga isyu sa seguridad," sabi ni O’Driscoll.
"Maaaring mapunta sa mga kamay ng mga kriminal ang data ng pagsubaybay, o ang mga masasamang aktor mismo ay maaaring gumamit ng AI surveillance para i-target ang mga biktima."
Ang Biometric face scan ay nagreresulta sa isang mathematical na representasyon ng mukha ng data subject na maaaring magamit upang matukoy at masubaybayan sila kahit saan, sa buong buhay nila, sinabi ni Ray Walsh, isang eksperto sa privacy sa website na ProPrivacy, sa isang panayam sa email.
"Nagtataas ito ng malubhang panganib sa privacy at seguridad para sa mga driver ng Amazon na ang data ay maaaring masira, ma-leak, o posibleng magamit pa ng mga snoop ng gobyerno gamit ang isang warrant," dagdag niya.
Dahil medyo bago ang teknolohiya ng AI, walang mga konkretong alituntunin sa paggamit nito patungkol sa privacy, sabi ni O'Driscoll. "Iyon ay sinabi, ang kaligtasan ay malamang na palaging isang lehitimong dahilan para sa pagsalakay sa privacy, kaya ang Amazon ay sakop sa ilalim ng kasalukuyang mga intensyon nito," dagdag niya.
Habang ang mga empleyado ay may karapatang huminto o pumayag sa iminungkahing AI monitoring, ginagawa nila ito sa harap ng napakalaking power imbalance, Sinabi ni O’Driscoll na ang AI surveillance ay dapat na regulahin. "Ang mga kumpanya ay dapat magkaroon ng mga lehitimong dahilan (gaya ng kaligtasan) para sa AI surveillance," dagdag niya.
Ang ilang estado ay nagpasa ng mga panukalang batas na naglilimita at kumokontrol sa paggamit ng pagsubaybay sa lugar ng trabaho, ngunit kulang ang pederal na batas, ipinunto ni Walsh.
Noong 2019, ang Algorithmic Accountability Act ay ipinakilala sa Kamara at Senado, ngunit sa huli ay tinanggihan ito. Ang isang katulad na aksyon ay maaaring ipakilala sa taong ito, at "inaasahan na ang isang Democrat-lead Congress at White House ay maaaring mapabuti ang mga pagkakataong makapasa," sabi ni Walsh.
Huwag Asahan ang Privacy sa Trabaho
Hindi lahat ay nag-iisip na ang pagbabantay ng Amazon sa mga driver nito ay isang pagsalakay sa privacy.
"Sa tingin ko ay mahirap makipagtalo na ang isang empleyado ay may makatwirang inaasahan ng privacy sa isang sasakyang pag-aari ng kumpanya," sabi ni Will Griffin, ang punong opisyal ng etika para sa kumpanya ng AI na Hypergiant, sa isang panayam sa email.
"Ang mas malaking alalahanin ay na sa loob ng ilang maikling taon, ang lahat ng mga driver na ito ay mapapalitan ng mga autonomous na sasakyan. Kaya't anumang debate tungkol sa patakaran ng driver ay magiging isang moot point habang ang fleet ay nagiging ganap na autonomous."
Itinatampok ng kaso sa Amazon ang pangangailangan para sa isang unyon o naka-target na interbensyon ng pederal bilang isang paraan upang maibalik ang balanse ng kapangyarihan sa pagitan ng mga manggagawa ng Amazon at ng kumpanya, sabi ni Griffin.
"Habang ang mga empleyado ay may karapatang huminto o pumayag sa iminungkahing AI monitoring, ginagawa nila ito sa harap ng napakalaking power imbalance," dagdag niya.
