別把個人隱私不知不覺“喂”給人工智能

江耘

2019年03月25日08:16  來源:科技日報
 
原標題:別把個人隱私不知不覺“喂”給人工智能

  最近人工智能又惹來一番爭議。

  據英國廣播公司(BBC)報道,IBM近日被指在未經用戶同意的情況下,在圖片分享網站Flickr上獲取了大約100萬張照片,用於訓練其人臉識別算法。

  當個人隱私成了“數據”

  據報道,IBM研究人員在一篇公開的論文中詳細描述了使用這些照片進行人臉分析的步驟,包括測量人臉五官的距離等等。研究人員寫道,通過使用頭部和面部的47個標記點,可以對人的面部照片進行很多可靠的測量。

  對於技術公司而言,這些照片的價值不言而喻。龐大的圖片數據集有助於將人臉識別算法訓練得更加精確,從而可以快速地從不同照片或不同場景中識別出某個用戶。

  然而,那些照片上的人,大概並沒有想到,自己的肖像數據就這樣被技術公司收集,“喂”給了人工智能神經網絡,不知不覺地成了人臉識別技術迭代升級的“糧食”。

  IBM在一則聲明中表示,它非常嚴肅地對待用戶隱私,一直謹慎地遵循隱私原則,並表示用戶可以選擇退出數據集。

  話說回來,選擇退出時間點應為用戶在肖像數據被獲取之前,知道自己的肖像數據將被用於其他用途。而在這一事件中,很多用戶的隱私已不知不覺地被侵犯了。

  行業內公開的秘密

  假如你的頭像也是上述100萬張照片之一,肯定會覺得這件事特別詭異。但對某些人來說,IBM的所作所為並不值得大驚小怪,只是行業內公開的秘密而已。

  《麻省理工技術評論》官網發表文章說,人工智能研發人員一直在從互聯網的各個角落搜集大量數據,來“喂”那些飢餓的機器學習算法,因為這些算法的訓練需要以大數據為支撐。該文稱,社交平台Instagram上的照片也常常作為技術公司獲取圖片數據的來源,而且照片的內容標簽經常對應照片的內容,這更加方便了研發人員對數據的標注。

  除了社交平台上的照片被不知不覺地獲取,隨著人工智能技術的應用越來越廣泛,個人隱私被不當利用的擔憂同樣存在於其他場景。

  比如,最近不少商家把人臉識別技術請上了收銀台,推廣刷臉支付。消費者在刷臉支付的同時,自己的面部肖像也同時被人臉識別系統所獲取。關鍵是,這些面部會不會也像Flickr上的照片那樣,變成訓練人工智能神經網絡的數據?甚至在未經消費者同意的情況下,再次被提供給其他商家,用於其他用途?這些都是值得追問的。

  可能被侵犯的個人隱私也不僅僅限於面部肖像。現在多種應用軟件都可以在語音識別技術的支持下,允許用戶進行語音輸入。但聲紋是重要的個人生物信息,這些語音數據被商家獲取后將如何被保管和使用?要知道,一旦聲紋數據被泄露,不法分子有可能利用當前的語音技術,合成出難辨真偽的聲音,用於電話詐騙等不良企圖。

  虹膜識別、指紋支付、文字識別等人工智能技術在應用過程中也可能毫不例外地涉及個人隱私問題。

  用戶知情同意是前提

  人工智能時代,正讓每個置身其中的人變得越來越透明。享受其便利的同時,公民的個人隱私也很容易被推向灰色地帶。

  解決方案其實很簡單:獲取用戶個人隱私信息,應保証用戶的知情權﹔要給予用戶選擇不拿個人隱私“喂”人工智能的權利。

  要實現這一目標,僅僅依靠行業自覺恐怕遠遠不夠。制定相關法律對人工智能技術的應用加以規范才是硬道理。

  就在IBM事件掀起軒然大波之際,兩位美國參議員提議通過新的法案——商業面部識別隱私法,對技術公司的人臉識別技術使用進行一定限制。

  這項法案提出,禁止在未經用戶同意的情況下,使用商業面部識別技術收集和分享數據,用於識別或追蹤用戶。新法案還將要求公司在收集人臉識別數據時明確地告知用戶,並且經過用戶的知情同意才能分享給第三方。

  令人欣喜的是,今年兩會期間,我國在相關領域也有好消息傳出:全國人大常委會已將個人信息保護法等與人工智能密切相關的立法項目列入本屆五年的立法規劃。

  期待人工智能技術在變得越來越能干的同時,也越來越懂得尊重個人隱私。

  延伸閱讀

  歐美學者對於《一般數據保護條例》表示擔憂

  過去一年,科技發展與隱私保護的沖突似乎愈演愈烈。近日,2014年經濟學諾獎得主、法國圖盧茲經濟學院教授讓·梯若爾等多位知名學者現身杭州,就“數據隱私和技術發展”發表了各自的看法。

  2018年5月,由歐盟頒發、被稱為史上最嚴格的GDPR(《一般數據保護條例》)開始實施,Facebook等巨頭企業接連收到了歐洲開出的天價罰單。與此同時,對於隱私保護的政策爭議不斷,有人呼吁出台更嚴格的隱私保護條例,也有不少專家認為,歐洲嚴格的數據保護條例,並不適合在全世界推廣,在未來的大世界面前,隱私就是一個小問題。

  討論中來自歐美的學者對這一由歐盟頒發的數據保護條例普遍表示了擔心。讓·梯若爾認為,該條例太過復雜,如果不允許收集數據,就類似於“想倒掉洗澡水,把寶寶也潑出去了”。美國伯克利法學院教授姆斯·鄧普希則直言,當前對隱私問題的研究,有待於更充足的經濟學、社會學層面的知識給予支撐和完善。

  《經濟學人》智庫發布的最新報告稱,關於隱私,存在很多地區偏見。中國比歐美更認同“數據隱私對企業治理的重要性”。98%的中國受訪者認為,數據隱私是良好企業治理的最重要組成部分,這與中國企業不重視隱私的普遍觀念截然相反。(記者江耘 實習生洪恆飛)

(責編:趙超、楊波)