Mga Key Takeaway
- Ang isang kumpanya ng software ay iniulat na nangongolekta ng impormasyon sa social media upang lumikha ng mga profile na maaaring magamit upang makilala ang mga taong nagdudulot ng mga panganib sa seguridad.
- Voyager Labs ay nagselyado ng malaking deal sa isang ahensya ng gobyerno ng Japan.
- Ngunit nagbabala ang mga eksperto na ang AI prediction software ay maaaring malinlang.
Maaaring gamitin ang iyong online na impormasyon upang hulaan kung maaari kang gumawa ng krimen.
Ang Voyager Labs ay iniulat na nangongolekta ng impormasyon sa social media upang lumikha ng mga profile na maaaring magamit upang matukoy ang mga taong nagdudulot ng mga panganib sa seguridad. Bahagi ito ng lumalaking pagsisikap na gumamit ng artificial intelligence (AI) para imbestigahan ang mga potensyal na kriminal. Ngunit sinasabi ng ilang eksperto na ang kilusan ay puno ng mga potensyal na problema.
"Napakahirap hulaan ang pag-uugali ng tao," sinabi ni Matthew Carr, isang security researcher sa Atumcell Group, sa Lifewire sa isang panayam sa email. "Hindi rin namin mahulaan ang aming sariling pag-uugali, lalo na ang sa ibang tao. Sa tingin ko, posibleng magamit ang AI sa hinaharap para sa layuning ito, ngunit malayo pa ang magagawa namin sa kasalukuyan."
Paggawa ng Mga Profile
Tulad ng iniulat kamakailan ng The Guardian, tinitingnan ng departamento ng pulisya ng Los Angeles ang paggamit ng software sa paghula ng krimen ng Voyager Lab. Inanunsyo din ng kumpanya na nag-seal ito ng malaking deal sa isang ahensya ng gobyerno ng Japan.
Ang kasunduan sa Japan ay nagbibigay sa ahensya ng gobyerno ng isang AI-based na platform ng pagsisiyasat na nagsusuri ng napakaraming impormasyon mula sa anumang pinagmulan, kabilang ang bukas at malalim na data.
"Natutuwa akong nakikipagtulungan tayo sa paglaban sa terorismo at krimen," sabi ni Divya Khangarot, Managing Director APAC sa Voyager Labs, sa pahayagang balita. "Gamit ang mga cutting-edge na solusyon sa intelligence ng Voyager Lab, ang aming mga kliyente ay nakakakuha ng mga natatanging kakayahan upang maagap na tukuyin at guluhin ang mga potensyal na banta. Nagdadala kami ng mga karagdagang layer ng malalim na mga insight sa pagsisiyasat gamit ang kumbinasyon ng AI, Machine Learning, at OSINT upang matuklasan ang mga nakatagong landas, nilabag na impormasyon, at masasamang artista."
Not So Smart?
Ngunit sa isang panayam sa email, si Matt Heisie, ang co-founder ng Ferret.ai, na gumagamit din ng AI para mahulaan ang mga nagkasala, ay nagduda sa ilan sa mga claim ng Voyager Labs.
"Mayroon bang malinaw na ugnayan sa pagitan ng, halimbawa, ng rekord ng pag-aresto at pag-uugaling kriminal sa hinaharap, gaya ng may itim na bahagi sa isang pagsubok at pag-unlad ng isang tumor?" sinabi niya. "Isipin ang lahat ng mga potensyal na kaguluhan na napunta sa pag-aresto na iyon-kung anong kapitbahayan ang tinitirhan ng tao, ang dami at kalidad, kahit na mga bias, ng mga pulis sa lugar na iyon. Ang edad ng tao, ang kanilang kasarian, ang kanilang pisikal na anyo, lahat ng iyon ay may magkakaugnay na epekto sa posibilidad ng taong iyon na magkaroon ng rekord ng pag-aresto, ganap na hiwalay sa kanilang aktwal na pagkahilig na gawin ang krimen na sinusubukan naming hulaan."
Ang mga nasasakdal na may mas mahuhusay na abogado ay mas malamang na mapigilan ang mga rekord na maging available sa publiko, sabi ni Heisie. Nililimitahan ng ilang hurisdiksyon ang pagpapalabas ng mga mugshot o mga rekord ng pag-aresto para protektahan ang akusado.
"Matututo ang computer batay sa data na ibibigay mo dito at isasama ang lahat ng bias na napunta sa pangongolekta ng data na iyon…"
"Lahat ng ito ay nagdaragdag ng karagdagang bias sa mga algorithm," dagdag niya. "Matututo ang computer batay sa data na ibibigay mo dito at isasama ang lahat ng bias na napunta sa pagkolekta ng data na iyon sa pag-aaral at interpretasyon."
Nagkaroon ng ilang mga pagtatangka upang lumikha ng krimen na hinuhulaan ang AI, at sa madalas na nakakainis na mga resulta, sabi ni Heisie.
Ang COMPAS, isang algorithm na ginagamit ng pagpapatupad ng batas upang mahulaan ang muling pagkakasala, ay kadalasang ginagamit sa pagtukoy ng paghatol at piyansa. Napaharap ito sa iskandalo noong 2016 dahil sa pagkiling sa lahi, sa paghula na ang mga Black defendant ay nagdulot ng mas mataas na panganib ng recidivism kaysa sa aktwal na ginawa nila, at ang kabaligtaran para sa mga puting akusado.
Mahigit sa 1,000 technologist at iskolar, kabilang ang mga akademiko at mga eksperto sa AI mula sa Harvard, MIT, Google, at Microsoft, ang nagsalita noong 2020 laban sa isang papel na nagsasabing ang mga mananaliksik ay nakabuo ng isang algorithm na maaaring mahulaan ang kriminalidad batay lamang sa isang mukha ng isang tao, na nagsasabing ang paglalathala ng mga naturang pag-aaral ay nagpapatibay sa dati nang pagkiling sa lahi sa sistema ng hustisyang pangkriminal, sabi ni Heisie.
Ang China ay ang pinakamalaking at pinakamabilis na lumalagong merkado para sa ganitong uri ng teknolohiya, pangunahin dahil sa malawakang pag-access sa pribadong data, na may higit sa 200 milyong surveillance camera at advanced na pananaliksik sa AI na nakatuon sa isyung ito sa loob ng maraming taon, sabi ni Heisie. Ang mga system tulad ng CloudWalk's Police Cloud ay ginagamit na ngayon upang hulaan at subaybayan ang mga kriminal at matukoy ang pagpapatupad ng batas.
"Gayunpaman, iniulat din doon ang malaking bias," sabi ni Heisie.
Idinagdag ni Heisie na maingat na kino-curate ng kanyang kumpanya ang data na pumapasok at hindi gumagamit ng mga mugshot o record ng pag-aresto, "sa halip ay tumutuon sa higit na layunin na pamantayan."
"Natuto ang aming AI mula sa na-curate na data, ngunit higit sa lahat, natututo rin ito mula sa mga tao, na mismong nagsusuri, nag-curate, at nagsusuri ng mga talaan, at nagsasabi sa amin tungkol sa kanilang mga pakikipag-ugnayan sa iba," dagdag niya. "Pinapanatili rin namin ang ganap na transparency at libre at pampublikong pag-access sa aming application (sa pinakamabilis na panahon na maaari naming hayaan silang maging beta), at tinatanggap ang insight sa aming mga proseso at pamamaraan."
