人民网
人民网>>IT

百度借助AI技术保护内容生态 2018年共清理有害信息502.2亿

2019年01月04日16:31 | 来源:光明网
小字号
原标题:百度借助AI技术保护内容生态 2018年共清理有害信息502.2亿

  1月2日,百度正式对外发布《2018年内容生态综合治理报告》。报告显示,百度2018年全年通过全方面手段所处置的有害信息达502.2亿余条,涉及淫秽色情、毒品、赌博、非法信息交易等共11类危害社会安全及公民人身财产安全相关的有害信息。

  此外,在百度AI赋能下,通过语音技术、图片技术、视频技术、自然语言处理技术的帮助,百度从安全保障、社会关怀、文化建设、环境保护以及科技创新五大维度入手,在清理有害信息基础上,将内容生态安全扩大至文化、社会、环境等多个领域,实现了百度内容生态保护的全方位覆盖,为持续打造健康的网络环境以及繁荣可持续的网络生态保驾护航。

  安全保障:守好互联网第一道关卡

  今年,百度对数以千亿的文字、图片、视频等各类信息采取人工辅助机器、数据支撑模型的多种算法,在内容生产前、信息发布中、内容上线后多个环节严格把关。2018年,百度内容生态中心通过技术干预、自主巡查和第三方反馈等方式,着力清理包括黄赌毒、非法信息以及危险物品等在内的11类网络有害信息,共计巡查违法信息量502.2亿余条。其中,通过技术干预打击有害信息为500.99亿余条,通过人工干预自主巡查处置有害信息1.21亿条。

  (2018年百度通过技术干预打击的有害信息主要分类)

  2018年,百度还开展了多个专项活动,集中治理互联网有害信息。对于危害较大、网民反映强烈的“黄赌毒”、“黑拐骗”等犯罪行为,百度“净网2018”专项行动贯穿2018全年,从严打击非法信息集中的互联网平台、群组、社群以及直播软件和违规网游;此外,保护知识文化产权、处置侵权行为的“剑网2018”专项活动,以及“涉黄涉赌”清理专项、“扫黑除恶”专项等活动也取得了一定成果。

  社会关怀:传递温情,关爱特殊人群

  2018年,百度内容生态治理在以往“清理”的基础上,加大对社会敏感人群、边缘人群的关注内容。针对抑郁症、自闭症人群,百度依托平台优势和海量的用户群体,上线了包含关爱抑郁症、自闭症等相关搜索结果特型卡片,向社会公众普及相关知识,尽平台的力量为相关群体做一些力所能及的事。

  (百度搜索针对搜索“自杀”相关关键词的特型结果页面)

  针对有自杀倾向的人群,百度搜索、百度贴吧多年前就已经分别上线“自杀”的心理咨询卡片及“开展相约自杀清理专项”公告,并及时通过自主查询、用户反馈等渠道更新相关联系方式,保证其可用性、实用性。同时,百度还专门配备人力挖掘“轻生”言论及相关用户,第一时间作为线索反馈给政府执法部门实时营救。据统计,2018年,在百度线索协助下,公安部门成功解救三名轻生网民。百度内容安全中心正在为网民和社会创造多元价值,让所有群体感受到来自互联网的关怀与温情。

  文化建设:关爱青少年,身心两方面入手

  在医疗保健方面,针对长春长生疫苗事件,百度内容安全中心深层挖掘、清理假疫苗贩卖、推销、谣言等有害信息,排查风险疫苗;另一方面,联动百度搜索上线“疫苗查询通道”,方便网民最短时间内获得各类疫苗的详细信息。

  (百度搜索上线的疫苗查询工具)

  2018年,百度内容安全中心加大青少年保护力度,从生理健康与心理健康两方面入手,全方位保障未成年人的网络环境与自身发展。在文化建设方面,百度启动了“护苗2018”专项行动,并以此为基础联合企业、网民构建“护苗”安全体系,对于青少年接触较多的网络游戏、网络直播、短视频以及教育类内容彻底清查,确保青少年拥有健康绿色的互联网环境。

  环境保护:“DU AI万物”,百度在行动

  在百度内容生态管理中,动植物保护亦是其中重要一环。早在2017年底,百度内容安全中心牵头建立了“打击网络野生动植物非法贸易”联盟,联合多家互联网企业打击网络野生物贸易犯罪。数据显示,2018年全年,百度内容安全中心共清理野生动植物非法网络贸易信息40余万条。

  2018年6月22日,百度与国际爱护动物基金会(IFAW)联合发起“DU AI 万物”项目,包括百度百科、熊掌号等在内的多条产品线参与其中,将分别通过知识科普、线上线下活动正向引导、正向内容输出、目标用户运营等多种方式,落地生物多样性保护的理念。

  今年,百度内容安全中心联合百度搜索建立“百度搜索少儿语音绿色项目”,内容安全中心实时巡查线上情况、全程监控页面内容,过滤有害信息、确保内容安全。该项目还将充分结合百度AI技术与语音识别技术,自动识别幼儿至12岁学龄儿童语音,在教育、娱乐、认知和问答等多个垂类中展示儿童专版页面。

  伴随百度内容生态的不断完善与AI的飞速发展,百度内容安全中心将网络安全、伦理、社会关怀融入百度血液中,不但持续、高效净化互联网文化环境,更创造了有情怀、有影响力的百度系科技产品,让用户与互联网的交互更和谐、更有温度。(李宗)

(责编:赵超、杨波)

分享让更多人看到

返回顶部