Atslēgas līdzņemšanai
- Amazon Alexa balss palīgs var kopēt balsi ar tikai vienas minūtes audio.
- Jūs varētu lūgt Aleksai nolasīt stāstu miruša vecāka balsī.
- Tā ir tāda pati ideja kā dziļiem viltojumiem, ko izmanto tikai labas spējas dēļ.
Amazon Alexa jaunākais triks ir iemācīties atdarināt miruša tuvinieka balsi, lai viņi varētu runāt ar jums ārpus kapa.
Alexa nepieciešama tikai minūte ierunāta audio, lai pārliecinoši atdarinātu balsi. Amazon to uzskata par mierinošu līdzekli, kas var likt jums sazināties ar mīļajiem, taču tā varētu būt arī diezgan rāpojoša pieredze. Un tas parāda, cik viegli ir izveidot dziļu viltus audio, kas ir pietiekami labs, lai mūs apmānītu, pat ja balss ir tāda, kuru mēs ļoti labi zinām.
"Amazon noteikti ir iegājusi diezgan unikālā un dīvainā teritorijā ar savu paziņojumu, ka Alexa drīz varēs mācīties un pēc tam drīzumā izmantot mirušo radinieku balsi," sacīja Bils Manns, Restore Privacy privātuma eksperts. Lifewire pa e-pastu. "Dažiem cilvēkiem tas nemaz nav rāpojošs. Patiesībā tas var būt diezgan aizkustinošs."
Spoks mašīnā
Ikgadējās konferences re:MARS ietvaros Amazon demonstrē šo funkciju īsā videoklipā. Tajā bērns jautā Aleksai, vai vecmāmiņa var turpināt lasīt viņam "Oza burvi", kas ir katra bērna iecienītākais pamatnosacījumiem draudzīgais darbs. Un tas ir diezgan aizkustinošs brīdis. Ir grūti nejust cilvēciskas emocijas, kad vecmāmiņa sāk lasīt.
"Cilvēki cīnās ar mirstību, jo īpaši Rietumu kultūrā. Gadsimtiem ilgi mēs esam mēģinājuši atrast veidus, kā pieminēt mirušos, sākot no nāves maskām, matu šķipsnām, vecām fotogrāfijām un vecu filmu skatīšanās, " Endrjū Selepaks, sociālo mediju profesors no Floridas universitātes, pastāstīja Lifewire pa e-pastu. "Deepfakes izmanto jaunākās tehnoloģijas, lai izveidotu jaunu miruša tuvinieka nāves masku. Bet, atkarībā no cilvēka perspektīvas, vai tas ir rāpojošs vai veids, kā pieminēt un noturēt kādu, kuru mīlat pēc viņa nāves?"
Bet memento mori var būt gan mierinošs, gan rāpojošs. Ģimenes locekļa draugs ir miris, taču jūs joprojām varat dzirdēt viņu runājam. Tas nepalīdz, ka Aleksai ir bijusi dīvaina un dažreiz biedējoša uzvedība. 2018. gadā, kad NYT viedokļu komentētājs Farhads Mandžo slējās gultā, viņa Amazon Echo "sāka vaimanāt kā bērns, kurš kliedz šausmu filmas sapnī".
Drīz pēc tam Amazon atzina, ka Alexa dažreiz skaļi smējās, kas kopā ar tīņiem un pagrabiem ir šausmu filma 101.
Var tikai brīnīties, kā jūs varētu justies, ja Aleksa izmantotu tos pašus trikus vecmāmiņas balsī.
Deep Fake
Acīmredzamais vieglums, ar kādu Alexa mācās atdarināt balsi, liek mums izmantot vēl ļaundabīgākus balss klonēšanas veidus: dziļus viltojumus.
"Deepfake audio nav nekas jauns, pat ja tas ir maz saprotams un maz zināms. Tehnoloģija ir bijusi pieejama gadiem ilgi, lai atjaunotu indivīda balsi ar mākslīgo intelektu un dziļu mācīšanos, izmantojot salīdzinoši maz faktiskā audio no personas, " saka Selepaks. "Šāda tehnoloģija var būt arī bīstama un destruktīva. Satraukts cilvēks var atveidot miruša bijušā drauga vai draudzenes balsi un izmantot jauno audio, lai pateiktu naidpilnus un aizskarošus vārdus."
Tas ir tikai Alexa kontekstā. Dziļa viltus audio varētu būt daudz tālāk par to, pārliecinot cilvēkus, ka, piemēram, ievērojami politiķi tic lietām, kurām viņi netic. Bet, no otras puses, jo vairāk mēs pieradīsim pie šiem dziļajiem viltojumiem - iespējams, šo Alexa balsu veidā -, jo vairāk mēs būsim skeptiski pret ļaunākiem viltojumiem. Tomēr, ņemot vērā to, cik viegli ir izplatīt melus Facebook, iespējams, nē.
Amazon nav norādījusi, vai šī funkcija būs pieejama Alexa, vai arī tā ir tikai tehnoloģiju demonstrācija. Es nedaudz ceru, ka tā būs. Tehnika ir vislabākajā gadījumā, ja tā tiek izmantota humānistiskā veidā, kā šis, un, lai gan to var viegli saukt par rāpojošu, kā saka Selepaks, tas tiešām neatšķiras no vecu videoklipu skatīšanās vai saglabātu balss pasta ziņojumu klausīšanās. kā varonis slinkā TV šovā.
Un, ja dziļo viltojumu tehnoloģija ir viegli pieejama, kāpēc gan neizmantot to, lai sevi mierinātu?
