Mga Key Takeaway
- Ang Alexa voice assistant ng Amazon ay maaaring kumopya ng boses na may kasing liit ng isang minutong audio.
- Maaari mong hilingin kay Alexa na magbasa ng isang kuwento sa boses ng isang namatay na magulang.
- Ito ay kapareho ng ideya ng malalim na peke, ginagamit lamang para sa kapangyarihan ng kabutihan.
Ang pinakabagong gimik ni Amazon Alexa ay ang matutong gayahin ang boses ng isang namatay na mahal sa buhay, para makausap ka nila mula sa kabila ng libingan.
Kailangan lang ni Alexa ng isang minuto ng pasalitang audio para makakumbinsi na gayahin ang isang boses. Sinisingil ito ng Amazon bilang isang nakakaaliw na tampok na maaaring makipag-ugnayan sa iyo sa mga mahal sa buhay, ngunit maaari rin itong maging isang medyo katakut-takot na karanasan. At ipinapakita nito kung gaano kadaling gumawa ng malalim na pekeng audio na sapat na upang lokohin tayo, kahit na ang boses ay alam na alam natin.
"Tiyak na pumasok ang Amazon sa isang medyo kakaiba-at kakaibang teritoryo kasama ang anunsyo nito na malapit nang matuto si Alexa at pagkatapos ay gamitin ang boses ng mga namatay na kamag-anak sa lalong madaling panahon," sabi ni Bill Mann, eksperto sa privacy sa Restore Privacy, Lifewire sa pamamagitan ng email. "Para sa ilang mga tao, hindi ito katakut-takot. Sa katunayan, ito ay medyo nakakaantig."
Ghost in the Machine
Bilang bahagi ng taunang re:MARS conference nito, ipinapakita ng Amazon ang feature sa isang maikling video. Sa loob nito, tinanong ng isang bata si Alexa kung maaari bang patuloy na basahin ni lola ang "The Wizard of Oz," ang paboritong gawaing pampublikong domain ng bawat bata na madaling gamitin sa pangunahing tono. At ito ay medyo nakakaantig na sandali. Mahirap na hindi makaramdam ng emosyon ng tao kapag nagsimulang magbasa si lola.
"Ang mga tao ay nakikipagpunyagi sa mortalidad, lalo na sa kulturang Kanluranin. Sa loob ng maraming siglo sinubukan naming humanap ng mga paraan para alalahanin ang mga patay, mula sa mga maskara ng kamatayan, hanggang sa buhok, sa mga lumang larawan, hanggang sa panonood ng mga lumang pelikula, " Andrew Selepak, isang propesor sa social media sa University of Florida, ay nagsabi sa Lifewire sa pamamagitan ng email. "Ginagamit ng mga Deepfakes ang pinakabagong teknolohiya para gumawa ng bagong death mask ng isang namatay na mahal sa buhay. Ngunit, depende sa pananaw ng isang tao, nakakatakot ba ito o isang paraan para alalahanin at hawakan ang isang taong mahal mo pagkatapos nilang mamatay?"
Ngunit ang isang memento mori ay parehong nakakaaliw at nakakatakot. Patay na ang kaibigan ng isang miyembro ng pamilya, ngunit maririnig mo pa rin silang nagsasalita. Hindi nakakatulong na si Alexa ay may kasaysayan ng kakaiba, at kung minsan ay nakakatakot, na pag-uugali. Noong 2018, habang humihiga ang NYT opinion columnist na si Farhad Manjoo, ang kanyang Amazon Echo ay "nagsimulang humagulgol, na parang bata na sumisigaw sa isang horror-movie dream."
Di nagtagal, inamin ng Amazon na minsan tumatawa ng malakas si Alexa, na, kasama ng mga kabataan at cellar, ay horror movie 101.
Mapapaisip lang kung ano ang mararamdaman mo kung ganoon din ang ginawa ni Alexa sa boses ni lola.
Deep Fake
Ang maliwanag na kadalian na natutunan ni Alexa na gayahin ang isang boses ay humahantong sa amin sa mas karumal-dumal na paggamit ng voice cloning: malalim na mga pekeng.
"Hindi bago ang deepfake na audio, kahit na ito ay hindi gaanong naiintindihan at hindi gaanong kilala. Ang teknolohiya ay magagamit sa loob ng maraming taon upang muling likhain ang boses ng isang indibidwal gamit ang artificial intelligence at malalim na pag-aaral gamit ang medyo maliit na aktwal na audio mula sa tao, " sabi ni Selepak. "Maaaring mapanganib at mapanira rin ang naturang teknolohiya. Maaaring muling likhain ng isang nababagabag na indibidwal ang boses ng isang namatay na dating kasintahan o kasintahan at gamitin ang bagong audio para magsabi ng mga napopoot at masasakit na bagay."
Nasa konteksto lang iyon ni Alexa. Ang malalim na pekeng audio ay maaaring higit pa rito, na nakakakumbinsi sa mga tao na ang mga kilalang pulitiko ay naniniwala sa mga bagay na hindi nila, halimbawa. Ngunit sa kabilang banda, kapag mas nasanay tayo sa malalalim na pekeng ito-marahil sa anyo ng mga tinig ni Alexa na ito-mas lalo tayong mag-aalinlangan sa mas masasamang pekeng. At muli, kung gaano kadaling magkalat ng kasinungalingan sa Facebook, marahil ay hindi.
Hindi sinabi ng Amazon kung mapupunta ang feature na ito sa Alexa o kung isa lang itong demo ng teknolohiya. Medyo umaasa ako. Ang teknolohiya ay nasa pinakamainam kapag ito ay ginagamit sa isang makatao na paraan tulad nito, at kahit na ang madaling reaksyon ay tawagin itong katakut-takot, gaya ng sabi ni Selepak, ito ay talagang hindi gaanong naiiba sa panonood ng mga lumang video o pakikinig sa mga naka-save na voicemail, tulad ng isang karakter sa isang tamad na scripted na palabas sa TV.
At kung ang teknolohiya para sa malalim na mga pekeng ay madaling magagamit, bakit hindi ito gamitin upang aliwin ang ating sarili?
