Mga Key Takeaway
- Pinapayagan ng bagong software tool ang AI na subaybayan ang mga komento sa internet para sa mapoot na salita.
- Kinakailangan ang AI upang i-moderate ang nilalaman ng internet dahil sa napakalaking dami ng materyal na higit sa kakayahan ng tao.
- Ngunit sinasabi ng ilang eksperto na ang pagsubaybay ng AI sa pagsasalita ay nagdudulot ng mga alalahanin sa privacy.
Habang dumarami ang online na hate speech, sinabi ng isang kumpanya na maaaring mayroon itong solusyon na hindi umaasa sa mga taong moderator.
Ang isang startup na tinatawag na Spectrum Labs ay nagbibigay ng artificial intelligence technology sa mga provider ng platform upang matukoy at isara ang mga nakakalason na palitan sa real-time. Ngunit sinasabi ng mga eksperto na ang pagsubaybay sa AI ay naglalabas din ng mga isyu sa privacy.
"Ang pagsubaybay sa AI ay kadalasang nangangailangan ng pagtingin sa mga pattern sa paglipas ng panahon, na nangangailangan ng pagpapanatili ng data, " sinabi ni David Moody, isang senior associate sa Schellman, isang kumpanya sa pagtatasa ng pagsunod sa seguridad at privacy, sa Lifewire sa isang panayam sa email. "Maaaring kasama sa data na ito ang data na na-flag ng mga batas bilang data ng privacy (impormasyon na nagbibigay ng personal na pagkakakilanlan o PII)."
Higit pang Mapoot na Pagsasalita
Nangangako ang Spectrum Labs ng high-tech na solusyon sa lumang problema ng mapoot na salita.
"Sa average, tinutulungan namin ang mga platform na bawasan ang pagsusumikap sa pag-moderate ng content ng 50% at pataasin ng 10x ang pagtuklas ng mga nakakalason na gawi," ang sabi ng kumpanya sa website nito.
Sabi ng Spectrum, nakipagtulungan ito sa mga research institute na may kadalubhasaan sa mga partikular na nakakapinsalang gawi upang bumuo ng mahigit 40 na modelo ng pagkilala sa gawi. Ang platform ng pagmo-moderate ng nilalaman ng Guardian ng kumpanya ay binuo ng isang pangkat ng mga data scientist at moderator upang "suportahan ang pagprotekta sa mga komunidad mula sa toxicity."
May lumalaking pangangailangan para sa mga paraan upang labanan ang mapoot na salita dahil imposible para sa isang tao na subaybayan ang bawat bahagi ng online na trapiko, si Dylan Fox, ang CEO ng AssemblyAI, isang startup na nagbibigay ng speech recognition at may mga customer na kasangkot sa pagsubaybay sa poot. talumpati, sinabi sa Lifewire sa isang panayam sa email.
"Mayroong humigit-kumulang 500 milyong tweet sa isang araw sa Twitter lamang," dagdag niya. "Kahit na maaaring suriin ng isang tao ang isang tweet bawat 10 segundo, kakailanganin ng twitter na gumamit ng 60 libong tao para gawin ito. Sa halip, gumagamit kami ng mga matalinong tool tulad ng AI upang i-automate ang proseso."
Hindi tulad ng isang tao, ang AI ay maaaring gumana 24/7 at potensyal na maging mas pantay dahil ito ay idinisenyo upang pantay na ilapat ang mga panuntunan nito sa lahat ng user nang walang anumang personal na paniniwala na nakakasagabal, sabi ni Fox. May bayad din para sa mga taong kailangang mag-monitor at mag-moderate ng content.
"Maaari silang malantad sa karahasan, poot, at karumaldumal na gawain, na maaaring makapinsala sa kalusugan ng isip ng isang tao," aniya.
Ang Spectrum ay hindi lamang ang kumpanyang naglalayong awtomatikong makakita ng online na mapoot na salita. Halimbawa, naglunsad kamakailan ang Center Malaysia ng isang online na tracker na idinisenyo upang mahanap ang mapoot na salita sa mga Malaysian netizens. Ang software na kanilang binuo-tinawag na Tracker Benci-ay gumagamit ng machine learning para matukoy ang mapoot na salita online, lalo na sa Twitter.
Ang hamon ay kung paano lumikha ng mga puwang kung saan ang mga tao ay maaaring talagang makipag-ugnayan sa isa't isa nang maayos.
Mga Alalahanin sa Privacy
Habang ang mga tech na solusyon tulad ng Spectrum ay maaaring labanan ang online na mapoot na salita, ibinabangon din nila ang mga tanong tungkol sa kung gaano karaming mga computer sa pagpupulis ang dapat gawin.
May mga libreng implikasyon sa pagsasalita, ngunit hindi lamang para sa mga nagsasalita na ang mga post ay aalisin bilang mapoot na salita, sinabi ni Irina Raicu, direktor ng internet ethics sa Markkula Center for Applied Ethics sa Santa Clara University, sa Lifewire sa isang email panayam.
"Ang pagpayag sa panliligalig sa pangalan ng 'kalayaan sa pagsasalita' ay nagtulak sa mga target ng naturang pananalita (lalo na kapag nakatutok sa mga partikular na indibidwal) na huminto sa pagsasalita-upang tuluyang talikuran ang iba't ibang mga pag-uusap at platform," sabi ni Raicu."Ang hamon ay kung paano lumikha ng mga puwang kung saan ang mga tao ay maaaring talagang makipag-ugnayan sa isa't isa nang maayos."
AI speech monitoring ay hindi dapat magtaas ng mga isyu sa privacy kung ang mga kumpanya ay gumagamit ng pampublikong impormasyon na magagamit sa panahon ng pagsubaybay, sinabi ni Fox. Gayunpaman, kung bibili ang kumpanya ng mga detalye sa kung paano nakikipag-ugnayan ang mga user sa ibang mga platform para matukoy ang mga may problemang user, maaari itong magdulot ng mga alalahanin sa privacy.
"Maaaring medyo gray area ito, depende sa application," dagdag niya.
Si Justin Davis, ang CEO ng Spectrum Labs ay nagsabi sa Lifewire sa isang email na maaaring suriin ng teknolohiya ng kumpanya ang 2 hanggang 5 libong row ng data sa loob ng mga fraction ng isang segundo. "Pinakamahalaga, ang teknolohiya ay maaaring mabawasan ang dami ng nakakalason na nilalaman na nakalantad sa mga moderator ng tao," sabi niya.
Maaaring nasa tuktok na tayo ng isang rebolusyon sa pagsubaybay ng AI sa pagsasalita at text ng tao online. Kasama sa mga pagsulong sa hinaharap ang mas mahusay na independyente at autonomous na mga kakayahan sa pagsubaybay upang matukoy ang mga dati nang hindi kilalang anyo ng mapoot na salita o anumang iba pang mga censorable na pattern na mag-evolve, sabi ni Moody.
Malapit na ring makilala ng AI ang mga pattern sa mga partikular na pattern ng pagsasalita at maiugnay ang mga source at iba pang aktibidad ng mga ito sa pamamagitan ng pagsusuri ng balita, pampublikong pag-file, pagsusuri ng pattern ng trapiko, pisikal na pagsubaybay, at marami pang ibang opsyon, dagdag niya.
Ngunit sinasabi ng ilang eksperto na ang mga tao ay palaging kailangang makipagtulungan sa mga computer upang masubaybayan ang mapoot na salita.
"Ang AI lang ay hindi gagana," sabi ni Raicu. "Kailangan itong kilalanin bilang isang hindi perpektong tool na kailangang gamitin kasabay ng iba pang mga tugon."
Pagwawasto 1/25/2022: Nagdagdag ng quote mula kay Justin Davis sa ika-5 talata mula sa dulo upang ipakita ang isang email pagkatapos ng publikasyon.
