人民网研发“风控大脑” 未来将向社会逐步开放

2020年06月12日19:47  来源:人民网-IT频道
 

人民网北京6月12日电 (吕骞)近日,人社部发布《关于对拟发布新职业信息进行公示的公告》,提出拟在“网络与信息安全管理员(4-04-04-02)”职业下拟增设“互联网信息审核员”工种。随着互联网技术发展,信息审核员成为互联网行业的新“刚需”,同时人工智能技术在内容审核领域扮演的角色也越来越重要。如何看待智能审核和人工审核的关系?智能审核未来发展方向是什么?人民网提出的“风控大脑”概念如何理解?近日,中科院自动化所研究员、人民中科董事长李兵接受采访,畅谈人工智能审核技术的发展前景。

李兵表示,人工智能技术是一把双刃剑。随着AI技术的快速发展,一方面使得内容造假、非法违规内容生成和制作变得简单便捷,给网络内容安全和意识形态领域的安全带来巨大挑战,但同时,基于AI的智能审核技术也大大降低了人工审核的工作量,极大地提高了内容审核的精度和效率。随着深度学习等技术的快速发展,智能审核技术在文本、图像、语音和视频不同模态数据上都取得了长足的进展。“尤其在图像和视频内容的审核方面,取得了巨大的突破,能够有效地对图像和视频中的特定目标和内容进行快速自动识别。在有明确定义和边界清晰的任务上,机器的效率远超人工审核,精度接近甚至超过人工。此外,智能审核技术能够长时间保持高效、稳定、统一的审核能力。”

李兵也同时指出,智能审核技术还不是万能的,“在可预见的未来,人工审核不可能被机器智能审核完全替代,两者协同工作将是内容审核的常态。”智能审核与人工审核之间是相辅相成、互相促进的关系。智能审核能有效辅助人工审核,降低人工成本,提升审核效率。在相互协作的过程中,人工审核的丰富的经验和先验知识会进一步指导智能审核系统的进化学习,提升智能审核的水平。下一步,人民中科将从高性能计算平台、智能审核算法模型、以及高价值审核数据三个层面来提升智能审核能力。

2019年,人民网发布的深度融合发展三年规划纲要中提出,将研发基于人工智能的“风控大脑”,旨在以人工智能技术为核心引擎,构建对海量全媒体数据的高通量感知、智能理解、深度挖掘、安全预警和全息展示的风控平台。

“人民网‘风控大脑’核心优势有三点:AI技术优势、高价值数据优势及审核经验优势。”李兵表示,为了更有效地发挥“风控大脑”在意识形态领域的积极作用,人民网、人民中科将进一步探索如何将审核专家的经验和知识有效地融入到智能审核技术中去。目前,“风控大脑”已完成了初步版本的建设,数十种审核算法都在逐步上线,系统也已经在小范围内上线测试使用。“未来时机成熟的时候,将有步骤有计划地逐步向社会开放‘风控大脑’的功能,向社会输出人民网的专业风控能力。”

(责编:赵竹青、吕骞)