人民網
人民網>>IT

對惡意人工智能應用監管不能滯后

天歌
2019年07月22日08:09 | 來源:北京青年報
小字號
原標題:對惡意人工智能應用監管不能滯后

  一套人工智能算法,數十張正常的生活照,二者結合就能憑空生成一個女性的裸體照片,甚至把她的臉移花接木到淫穢視頻女優身上。據報道,類似的事情正在人們周圍發生,已有多名女明星中招,成為不法賣家的牟利工具。

  這就是所謂AI“脫衣術”,更確切地說是一種“偽造”,即以人工智能算法為基礎,可以識別並“刪去”照片中人物的衣服,從而把正常照片轉為“裸照”。由於被脫掉衣物的照片過於逼真,普通人用肉眼很難分得清是當事人真實的裸照,還是經過AI軟件處理的“偽作”,於是“脫衣術”之說不脛而走。

  人工智能是近年來的一個熱點話題,也被社會各界視為下一個互聯網風口。如果拋卻道德色彩,正如任何其他高新技術一樣,“脫衣術”也具有兩面性,在一些公共安全領域、刑事偵緝領域,可能會發揮自己獨特的作用。但是一旦這樣的技術不受控制,不受監管,乃至落入不法分子之手,就可能助紂為虐,成為違法犯罪行為的幫凶。令人遺憾的是,至少從目前媒體的報道來看,AI“脫衣術”大多數情況下,都被用在了一些歪門邪道上,比如通過給一些女星“脫衣”制作色情圖片﹔比如把一些女性的臉移花接木到淫穢視頻女優身上,並因此在網絡上形成了地下產業鏈。

  更加值得關注的是,雖然正版的AI“脫衣”軟件因為招致巨大的道德爭議而從各應用商店下架,但市面上卻盛傳所謂的“破解版”“無水印版”,在網絡上隻要花費不到十塊錢,就能買到這款軟件應用。這下問題就嚴重了,如果有人使用這樣的軟件來對自己身邊的女性進行“脫衣”,然后傳播這樣的“裸照”,后果無疑十分嚴重,同時傳播“裸照”者也涉嫌侵犯當事人的肖像權、名譽權等罪名。更有甚者,如果有人利用這樣的軟件進行敲詐勒索等違法犯罪行為,后果不堪設想。

  法律專家認為,從民事層面看,未經當事人同意,以營利為目的使用公民的肖像,有侵犯肖像權之嫌,虛假的淫穢視頻也可能構成名譽侵權。無論是出於好玩惡搞,還是用於不法目的,買賣雙方均須認識到其中的法律與安全風險,莫因無知或不懂法觸犯法律乃至難逃牢獄之災。同時,電商平台也應加強對此類軟件的監管,對一些不法商家須採取必要的規制性措施,甚至借助法律的力量對其實施精准打擊。

  對充滿惡意的人工智能應用,政府層面的監管不能滯后,而需要跟上技術的發展。監管部門已經注意到這類惡意的人工智能應用的危害性。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權分編擬規定,任何組織或個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。5月底,國家網信辦會同有關部門發布《數據安全管理辦法(征求意見稿)》,其中要求,網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息,應以明顯方式標明“合成”字樣﹔不得以謀取利益或損害他人利益為目的自動合成信息。

  上述法律法規正式出台后,對AI“脫衣術”之類惡意應用當能發揮一定的遏制懲治作用。從社會共治的角度看,廣大網友應當主動抵制、積極向有關平台舉報類似軟件,向有關部門提供惡意應用涉嫌違法的線索,為國家依法打擊惡意應用提供社會支持。

(責編:畢磊、孫紅麗)

分享讓更多人看到

返回頂部