人民網
人民網>>IT

人工智能“降門檻”須警惕安全風險

朱涵
2018年12月03日08:41 | 來源:經濟參考報
小字號
原標題:人工智能“降門檻”須警惕安全風險

  一批人工智能開放平台正在大幅降低技術門檻,讓人工智能走近中小企業,不再是財力雄厚者才能擁有的“奢侈品”。專家認為,開放平台是人工智能技術發展新趨勢,將推動人工智能發展進入高峰,但同時也不可避免帶來多重安全風險,須予以防范。

  人工智能“降門檻”推動創新

  百度與金龍客車合作的無人小巴“阿波龍”日前在北京海澱公園進行了公開試乘,這款無人車搭載了百度Apollo系統,能基於高精地圖和智能感知技術,對行進路線進行最優規劃。

  不僅僅是“阿波龍”,在百度Apollo自動駕駛平台開放的一年多裡,已在全球有了133家生態伙伴和11000多家的開發者。

  “包括戴姆勒、福特、沃爾沃、因特、微軟、比亞迪、北汽、奇瑞等汽車產業鏈上下游的領軍巨頭加入Apollo的生態。自動駕駛趕上了汽車和通訊兩個百年產業的交錯之際,百度多年積累的人工智能技術發展通過開源的方式加速整個生態的創新。” 百度總裁張亞勤說。

  前段時間在浙江烏鎮召開的第五屆世界互聯網大會上,百度Apollo自動駕駛開放平台與亞馬遜機器學習全托管平台、安謀中國全新人工智能平台“周易”、supET工業互聯網平台、京東智能供應鏈技術服務平台、小米智能家居開放平台等一批人工智能平台作為15項“世界互聯網領先科技成果”的重要組成在大會上進行發布。

  中科院院士鄔賀銓作為世界互聯網領先科技成果推薦委員會中方主任,高度評價人工智能平台類成果。“發布成果由47名全球知名的互聯網業界專家投票產生,代表了互聯網領域的創新智慧和未來互聯網的發展趨勢。‘平台’成為領先科技成果‘重頭戲’。”鄔賀銓認為平台類成果打造生態,將利於其他中小企業利用平台和技術進行進一步開發。

  在百度自動駕駛開放平台上,開發者甚至不用學習就能輕鬆使用相關的技術。安謀中國全新人工智能平台“周易”能夠將人工智能的設備開發周期縮短三到五倍,把算力開發成本減少五到十倍。亞馬遜機器學習全托管平台上,受過訓練的開發人員僅需3到4周的時間,就能夠完成原本需要10到20個博士級專家耗時9個月完成的項目。

  “今天幾乎所有的人工智能設備都是針對特定的應用場景,垂直集成,產業協同效應低,開發費用往往達到數億元,周期要數年。我們產業急需一個開放適配性強、互通的人工智能軟硬件開發平台來降低開發成本。”安謀中國執行董事長兼首席執行官吳雄昂說。

  “大家都知道人工智能的重要性,但除了谷歌、騰訊、百度這樣的企業,沒有多少公司能真正有實力去開發先進的人工智能技術。所以我們將過去積累的技術能力開放出來。”百度公司董事長兼首席執行官李彥宏說。

  “天下武功,唯快不破。進入智慧時代,‘快’不僅僅是‘日新月異’,還可能是以小時、以分鐘計算。”中國工程院院士、浪潮集團首席科學家王恩東說,創新速度是人工智能發展的核心競爭力。

  多重安全風險值得警惕

  多名專家和業內人士表示,人工智能發展曾經歷多次低谷,本輪發展呈加速態勢,行業內對此已有共識,同時也應充分認識到,人工智能帶來的安全問題也會隨發展“動態演進”。

  人工智能“降門檻”將催生更多黑客、更多病毒和更短攻擊周期。鄔賀銓說,在網絡安全領域,人工智能的普及將有助於識別網絡安全風險,同時也將降低黑客的門檻,讓更多人學會黑客,病毒的變種越來越多,且周期會越來越短。

  “隨著人工智能的進步,人工智能的‘雙刃劍’特征會愈演愈烈。”鄔賀銓說。

  360集團董事長兼首席執行官周鴻祎說,如今的網絡攻擊已實現了智能化、自動化,速度極快。“網絡安全監控經常會發現一些網絡攻擊,發現后再去分析研究,拿出解決方案后還未實施,網絡攻擊已經過去了,而新的攻擊已經開始。”

  人工智能所依賴的傳感器、訓練數據和使用的開源軟件等存在安全隱患。中國信息通信研究院日前發布的《人工智能白皮書》顯示,人工智能產品和應用的研發主要基於谷歌、微軟、亞馬遜、臉譜、百度等科技巨頭發布的人工智能學習框架和組件,而這些開源框架和組件缺乏嚴格的測試管理和安全認証,漏洞和后門易被惡意利用。

  “有一種做法是‘數據投毒’,想辦法在訓練數據裡混入一些不正常數據,訓練出的人工智能系統就一定會犯錯。軟件隻要是人寫的,就一定有漏洞,比如1000行代碼裡就會有4個漏洞。” 周鴻祎說,由於漏洞不可避免,目前網絡攻防很不均衡。“嚴格來說,傳統大家常見的入侵檢測、防火牆、殺毒軟件這些技術,在抵御這種攻擊上已經顯得無能為力。”

  “目前人工智能生態還未完全建立,尤其是在產業各個環節處於一個相對割裂的狀態,這就意味著黑客有機可乘。” 藍盾股份高級研究員、人工智能專家江緯說,人工智能所帶來的安全風險還包括拒絕服務、信息泄露、系統劫持等,可導致識別系統出現漏判、誤判,導致系統崩潰、被劫持,或使智能設備變成僵尸攻擊工具等。

  風險管控及治理體系亟待建設

  “人工智能具有多學科綜合、高度復雜的特征,我們需統籌謀劃,穩步推進,把增強原創能力作為重點。”鄔賀銓等專家表示,在繼續加大人工智能研發應用力度、發揮人工智能應用潛力同時,要預判人工智能挑戰,從技術、法律等方面“揚長避短”,防范風險。

  首先,需要立足自身突破人工智能關鍵核心技術。王恩東認為,國內人工智能企業、科研機構要有清醒的認識,我們在基礎層面上還是有明顯差距,還要加強基礎研究和投入。鄔賀銓說,人工智能的應用才剛剛開始,但還處於起步階段,在解釋因果關系上目前還無能為力。更多的希望要寄托在人工智能的進步上。

  其次,應打通數據孤島提升安全防護能力。“網絡安全是‘牽一發動全身’的一個整體。我們面臨的很大問題是各個企業‘各自為戰’,數據沒有打通,沒有全球或全國的視野,就看不到真正網絡攻擊發生的過程。”周鴻祎說。

  第三,建立健全保障人工智能健康發展的法律法規、制度體系。“科技發展已經遠遠甩開現有社會法規與倫理規范,建立新的網絡秩序迫在眉睫。”美國智庫布魯金斯學會約翰·桑頓中國中心主任李成認為,要讓網絡空間和諧有序,社會、智庫、企業必須建立一個統一的網絡法律和規則。

  微軟全球副總裁沈向洋說,微軟提出了“公平、包容、透明、負責、可靠與安全、隱私與保密”的“六大原則”指引人工智能發展,由多個部門負責人組成團隊制定政策來管理和指導開發“負責任”的人工智能產品。

  此外,也要加強國際交流探討治理應對策略。美國東西方研究所全球副總裁布魯斯·邁康納建議,國際各方應通過構建官方和非官方均認可的網絡空間行為規則,預防風險共鑄安全長城。

(責編:易瀟、楊虞波羅)

分享讓更多人看到

返回頂部