Mga Key Takeaway
- Habang mas madaling gawin ang mga deepfakes, naging priyoridad ang mga bago at pinahusay na paraan ng pagtukoy sa mga ito.
- Ang teknolohiya ng deepfake-spotting ng Facebook ay gumagamit ng reverse machine learning para malaman kung deepfake o hindi ang isang video.
- Sinasabi ng mga eksperto na ang paggamit ng teknolohiyang blockchain ay ang pinakamahusay na paraan upang makita kung totoo o hindi ang isang video dahil umaasa ang pamamaraan sa data sa konteksto.
Ang Facebook ay kumpiyansa sa modelo ng machine learning nito upang labanan ang mga deepfakes, ngunit sinasabi ng mga eksperto na ang machine learning sa sarili nitong pag-aaral ay hindi magliligtas sa atin mula sa malinlang ng mga deepfakes.
Ang mga kumpanya tulad ng Facebook, Microsoft, at Google ay lahat ay nagtatrabaho upang labanan ang mga deepfakes mula sa pagkalat sa web at mga social network. Bagama't magkakaiba ang mga pamamaraan, mayroong isang potensyal na paraan upang makita ang mga maling video na ito: mga blockchain.
“Binibigyan ka lang ng [Blockchains] ng maraming potensyal para ma-validate ang deepfake sa paraang iyon ang pinakamagandang paraan ng pagpapatunay na nakikita ko,” Stephen Wolfram, founder at CEO ng Wolfram Research at may-akda ng A New Kind of Science, sinabi sa Lifewire sa telepono.
Facebook's Deepfake-Spotting Tech
Deepfake tech ay mabilis na lumago sa nakalipas na ilang taon. Gumagamit ang mga mapanlinlang na video ng mga paraan ng machine learning para gawin ang mga bagay tulad ng pagpapatong ng mukha ng isang tao sa katawan ng ibang tao, baguhin ang mga kundisyon sa background, pekeng lip-sync, at higit pa. Mula sa mga hindi nakakapinsalang parodies hanggang sa paggawa ng mga celebrity o public figure na sabihin o gawin ang isang bagay na hindi nila ginawa.
Sinasabi ng mga eksperto na ang teknolohiya ay mabilis na umuunlad, at ang mga deepfakes ay magiging mas kapani-paniwala (at mas madaling gawin) habang ang teknolohiya ay nagiging mas malawak na magagamit at mas makabago.
Ang Facebook kamakailan ay nagbigay ng higit na insight sa deepfake detecting technology nito sa pakikipagsosyo sa Michigan State University. Sinasabi ng social network na umaasa ito sa reverse engineering mula sa isang larawang nabuo ng artipisyal na katalinuhan hanggang sa generative na modelo na ginamit upang gawin ito.
Sinabi ng mga research scientist na nagtrabaho sa Facebook na ang pamamaraan ay umaasa sa pagtuklas ng mga natatanging pattern sa likod ng AI model na ginamit upang makabuo ng deepfake.
“Sa pamamagitan ng pag-generalize ng attribution ng larawan sa open-set na pagkilala, maaari tayong magpahiwatig ng higit pang impormasyon tungkol sa generative model na ginamit upang lumikha ng deepfake na higit pa sa pagkilala na hindi pa ito nakikita noon. At sa pamamagitan ng pagsubaybay sa mga pagkakatulad sa mga pattern ng isang koleksyon ng mga deepfakes, masasabi rin natin kung ang isang serye ng mga imahe ay nagmula sa iisang pinagmulan, isinulat ng mga research scientist na sina Xi Yin at Tan Hassner sa blog post ng Facebook tungkol sa deepfake-spotting method nito.
Sabi ni Wolfram, makatuwiran na gagamit ka ng machine learning para makita ang isang advanced na modelo ng AI (isang deepfake). Gayunpaman, palaging may puwang para lokohin ang teknolohiya.
“Hindi talaga ako nagulat na may disenteng paraan ng pag-aaral ng makina ng [pagtuklas ng mga deepfakes],” sabi ni Wolfram. “The only question is if you put in enough effort, kaya mo bang lokohin? Sigurado akong kaya mo.”
Paglaban sa Mga Deepfake sa Ibang Paraan
Sa halip, sinabi ni Wolfram na naniniwala siyang ang paggamit ng blockchain ang magiging pinakamahusay na opsyon upang tumpak na makita ang ilang uri ng deepfakes. Ang kanyang opinyon sa paggamit ng blockchain sa machine learning ay bumalik sa 2019, at sinabi niya na, sa huli, ang blockchain approach ay makakapagbigay ng mas tumpak na solusyon sa aming deepfake na problema.
“Inaasahan kong ang mga manonood ng larawan at video ay maaaring regular na magsuri laban sa mga blockchain (at 'data triangulation computations') tulad ng kung paano sinusuri ngayon ng mga web browser ang mga sertipiko ng seguridad,” isinulat ni Wolfram sa isang artikulong inilathala sa Scientific American.
Dahil ang mga blockchain ay nag-iimbak ng data sa mga bloke na pagkatapos ay magkakadena sa magkakasunod na pagkakasunud-sunod, at dahil ang mga desentralisadong blockchain ay hindi nababago, ang data na ipinasok ay hindi na mababawi.
Ang tanong lang ay kung nagsusumikap ka, kaya mo bang lokohin? Sigurado akong kaya mo.
Ipinaliwanag ni Wolfram na sa pamamagitan ng paglalagay ng video sa isang blockchain, makikita mo ang oras na kinuha ito, ang lokasyon, at iba pang impormasyon sa konteksto na magbibigay-daan sa iyong malaman kung binago ito sa anumang paraan.
“Sa pangkalahatan, ang pagkakaroon ng mas maraming metadata na nagkokonteksto sa larawan o video, mas malamang na masasabi mo,” sabi niya. “Hindi ka maaaring magpeke ng oras sa isang blockchain.”
Gayunpaman, sinabi ni Wolfram na ang paraan na ginamit-maging machine learning man ito o paggamit ng blockchain-ay nakadepende sa uri ng deepfake na sinusubukan mong protektahan laban sa (ibig sabihin, isang video ni Kim Kardashian na nagsasabi ng kalokohan o isang video ng isang politikong gumagawa ng pahayag o mungkahi).
“Ang blockchain approach ay nagpoprotekta laban sa ilang uri ng deep fakes, tulad ng machine learning image processing na nagpoprotekta laban sa ilang uri ng deep fakes,” aniya.
Mukhang ang pangunahing punto ay ang pagbabantay para sa ating lahat pagdating sa paglaban sa paparating na malalim na delubyo.
