近日，浙江省绍兴市越城区检察院以涉嫌诈骗罪对董健伟、吴波、赵雪妍、边春婧4人提起公诉。据介绍，“1·03”网络“黑产”系列专案涉案人员达160余人，被害人遍布全国20余个省、自治区、直辖市，涉案金额高达2000余万元。

若以涉案金额论，这个案子不算太大，但情节令人害怕，因为该案出现一个新动向：利用人工智能晒密撞库、聊天机器人，且属全国首例。为了提升安全性能，许多互联网公司的账号登录要求输入图片验证码，而“1·03”网络“黑产”系列专案中的黑客，利用人工智能识别图片验证码，识别正确率高达95%以上。在此平台被打掉的前3个月，已经提供验证码识别服务259亿次！

更不可思议的是，该案犯罪嫌疑人利用聊天机器人软件，一个人同时控制着一二十个端口，在微信、婚恋网站中假装成各种“美女”，同时和对方聊天交友，批量“谈恋爱”。不少人就在这些“虚拟美女”的诱惑中，上当受骗。可以想象，若不是公安机关及时破案，该诈骗案的“雪球”将越滚越大。

机器学习、神经网络、自动驾驶、疾病诊断……正在发展的人工智能，或许能将人类智慧和机器智慧结合起来，甚至将人类和机器结合起来，创造一个复杂美好现在难以描述的时代。中国科学院和央视共同主办的《机智过人》节目，向公众展示了人工智能这个超神奇世界。如顶尖人脸识别人工智能“御眼重明”，存储了1000万人的2亿余张图片，人脸识别度超过90%，并能实现跨年龄人脸识别，目前已在银行柜台、机场安检等多个领域投入使用。

科技是一把双刃剑，人工智能亦然。被好人利用，用在为人类自身服务，为世界创造美好未来，它就是一个再好不过的东西；不幸被歹人所用，用来坑蒙拐骗、实施罪恶，破坏秩序、挑战道德与法律底线，那就值得我们警惕。网络诈骗用上人工智能，无疑是向人工智能未来发展拉响的一次警报。对于人工智能发展出现偏离正常轨道的苗头，必须未雨绸缪，现在就予以重视。倘若坐视不理，随着人工智能迅猛发展与广泛普及，负面影响将会进一步显现，且不局限于网络诈骗。

你有张良计，我有过墙梯。利用人工智能技术检测欺诈与利用人工智能进行诈骗犯罪斗智斗勇是其中的技术解决方案，也是受互联网公司偏爱的防范路径，许多科技公司为此付出努力，并取得一定成效。如腾讯为了打击网络诈骗，采用了人工智能“麒麟”系统。该系统用于打击伪基站，基于大数据和深度机器学习，对伪基站进行精准定位，协助警方进行打击，伪基站所发出的诈骗短信，从伪主叫、内容、地址、经纬度和受影响用户程度等，都能得到“麒麟”系统的识别。

更深一层，在角度定位与法律供给。当人工智能可以像人类一样独立思考和决策，代替人类从事某些工作、担任某种角色（如汽车驾驶），人工智能的权利与义务何在，法律如何调整其中复杂的关系？当人工智能卷入犯罪案件中，责任主体如何界定，人工智能算不算具有法律和道德意识与行为能力的主体？如果不是，究竟应该由研发者、运营者还是使用者来承担责任？如果承认人工智能是有行为能力的主体，那么又该如何为“犯罪嫌疑人工智能”定罪量刑？这些问题都值得我们深度思考。

人工智能再厉害，网络诈骗也是在利用受害者的人性弱点，譬如轻信。作为利益主体，自我防范成本最低、效率最高。就算你“亲戚朋友”通过QQ或微信向你借钱，事先打个电话核实一下，不过是举手之劳，就可能躲过骗子精心布置的陷阱。

分享让更多人看到