AI“換臉”一時爽,你知道“丟臉”的后果嗎?

近日,一款基於人工智能技術的“換臉”APP走紅網絡。使用者隻要上傳自己的高清照片,即可將本人面孔與大量影視片段中的明星面孔置換。既可以自己過明星癮,又可與心愛偶像“同框”出演,大量年輕用戶選擇將自己面孔上傳網絡,“換臉”娛樂。
記者發現,如此“換臉”,用戶面部生物特征信息被盜或失控的“丟臉”風險不小。一旦“丟臉”,我們將面臨哪些風險?漏洞又該如何堵上?記者就此展開調查。
“丟臉”或變“丟錢”
當前,大部分銀行等金融機構開設了人臉識別登陸APP功能。“刷臉”支付甚至是遠程簽約等場景也越來越多見。如果用戶的“臉”不安全,“錢”也將面臨莫大風險。
記者從多家已啟用人臉識別功能的金融機構處了解到:當前金融機構設置的人臉識別安全等級高於智能手機相關功能,但由於不少交易場景中識別標准並不統一,因此風險仍在。多名專家建議,用戶將面部識別設置為財產賬戶密碼時,應同時設置其他驗証辦法,減小風險。
“丟臉”能致“丟清白”
當前,“換臉”技術被用在一些涉嫌違法犯罪領域的情況已不少見。記者發現一些網站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢,且難辨真假。另外,記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關鍵詞檢索發現,有不少社交群組打著“技術交流”幌子兜售此類“明星換臉”視頻。
知情人告訴記者,除販賣“換臉”非法音視頻產品牟利外,一些不法分子還利用手中掌握的貸款人人臉信息,以此類技術進行非法催收活動,直接侵害貸款人人格權、名譽權,甚至滋生出敲詐勒索等其他嚴重犯罪活動。
“丟臉”或會“被貸款”
有過網貸申請經歷的人對於“點點頭”“搖搖頭”“張張嘴”之類的動作也許並不陌生。借貸者在錄入身份信息后,網貸機構會對申請人進行“活體檢測”,以確保放款對象為本人,把關借貸安全。但記者發現,一些基於相關技術的修圖APP能夠“起死回生”,讓靜態面部照片模仿生物活體“動”起來。
記者使用一款知名修圖軟件,載入一張包含人物面孔的照片后使用其“3D塑顏”的功能,圖片中的人物便能按記者需要完成“上下點頭”和“左右搖頭”等“動作”。
在另一款宣傳語為“讓你的照片活過來”的APP中,隻要載入一張包含人物面孔的照片,就可以一鍵讓照片中的人物“開口說話”。記者發現,使用者還能利用該APP決定說話內容,並可對錄入聲音進行聲線處理,調整音色音調,視聽感覺十分逼真。
有業內人士告訴記者,目前不少網貸機構進行“活體檢測”時仍使用人工審核或技術含量偏低的機器審核,一旦公眾的面部識別信息被不法分子掌握,用這些黑科技“活”過來的面孔,很可能以假亂真,讓不知情者“被網貸”背上巨額債務。
中國信息安全研究院副院長左曉棟認為,隨著AI“換臉”使用場景更豐富,行業和監管部門應當研發相應的“反換臉”檢測技術,來篩選相關視頻是否由“換臉術”完成。他建議,要加快建立人工智能算法的安全評估制度,對不同場景下AI“換臉”技術進行評估,解決相關技術濫用問題。(顏之宏)
分享讓更多人看到
相關新聞
- 評論
- 關注