舊金山為何要限制人臉識別

2019年04月26日08:13  來源:新京報
 
原標題:舊金山為何要限制人臉識別

  對於人臉識別,正確的做法是用客觀、理性、發展、審慎的態度,針對具體的情況進行公開的、廣泛的具體分析,從而做到趨利避害。

  人臉識別是當下人工智能的熱門領域之一。但對於人臉識別是否應該用於執法,美國正處於立法爭議階段,部分地方政府對人臉識別技術展現出了謹慎和排斥的傾向。比如,近日有報道稱,舊金山或將成為美國第一個禁止人臉識別的城市。

  今年1月,舊金山提出了一項關於監視技術的行政法規——《停止秘密監視條例》。針對人臉識別技術,該條例特別指出,“人臉識別技術危害公民權利和公民自由的傾向大大超過了其聲稱的好處,這項技術將加劇種族不平等,並威脅到我們不受政府長期監控的生活能力。”

  某種程度上,這是西方“重隱私”觀念的一個體現。當然,這並不是說人臉識別技術不該用於執法。人臉識別用在追捕逃犯、重要場合快速安檢等,都是有必要的。而且,用人臉識別技術來識別簽証逾期人員,這與國家安全相關,也是可以接受的。

  需要指出的是,舊金山對人臉識別的禁止,並不是全城區域內禁止,只是對政府利用人臉識別技術的一定程度上的限制。至於商業上的應用,比如手機刷臉支付,則並不在此之列。

  從更深層面看,這體現了決策機制與新技術發展之間的微妙關系。歐美國家的決策機制體現了普通人對新技術的態度。而且,這種機制一定程度上會放大普通人的焦慮,甚至會渲染這種焦慮,以獲得民眾的支持。然而,這對新技術的發展並不那麼友好。

  歐洲有比美國強得多的法律、法規保護消費者隱私,但實際上,這極大地限制了歐洲IT技術、行業的發展。在全球資本市場市值前十的公司中,新技術公司佔6家,比如微軟、蘋果、谷歌等,但沒有一家歐洲公司,在這一波新技術發展中,歐洲已經落后了。

  4月8日,在最熱門的人工智能領域,歐盟委員會發布了人工智能倫理准則,目的是提升人們對人工智能產業的信任——歐盟的人工智能技術發展沒有走在世界前列,在制定規則上卻走在了前面。但在我看來,這個倫理准則會限制歐盟人工智能技術的研究與應用。

  比如,歐盟提出的“透明度”准則,要求人工智能的過程是“可理解的”“可復盤的”,雖然理論上能做到,但人工智能越來越像一個“黑箱”,解讀行為的因果邏輯的成本會非常高。工程師們要理解“阿爾法狗”為何下在這裡,而沒下在那裡,可能要幾周、幾個月的時間。

  所以,如果歐盟這個規則被嚴格執行的話,會嚴重阻礙人工智能在歐洲的發展。對技術的過慮會抑制一個國家、一個地區的技術水平,這反過來又會促成對新技術更嚴厲的態度。

  一項新技術得以蓬勃發展,必定是因為有需求。近幾十年來,新技術發展日新月異,改造著人類生活的方方面面。在新技術的應用中,必然會帶來一些新問題,但單純的禁止是因噎廢食,正確的做法是,用客觀、理性、發展、審慎的態度,針對具體情況進行公開的、廣泛的具體分析,從而做到趨利避害。

  □劉遠舉(上海金融與法律研究院研究員)

(責編:趙超、孟哲)