阿里安全风险治理领域AI技术获CCKS 2021比赛第一名
12月27日消息，近日，中国中文信息学会语言与知识计算专业委员会主办的第十五届全国知识图谱与语义计算大会（CCKS 2021）在广州举行。大会的主题是"知识图谱赋能新基建”，旨在探讨大数据环境下语言理解、知识获取、知识融合、知识推理等方面的关键技术以及在新基建大背景下的各种智能应用。
此前，中国中文信息学会语言与知识计算专业委员会主办了“CCKS 2021通用百科知识图谱实体类型推断”比赛，邀请国内283支队伍参赛。12月25日，比赛结果出炉，阿里安全升级包含封建迷信、软色情、野生动植物保护、血腥暴力等重难点风险治理领域在内的AI技术获得第一名。
（图源天下网商）
阿里安全高级风控专家杜衡介绍，阿里安全在平台部署了上述新升级的新一代安全架构核心AI能力，让AI对风险商品进行“联想”，以此对抗突发新增、变异的风险商品。此前阿里风控平台对多类风险商品出台了明确的管理规则，进行了禁售规范，今年绿网计划则针对相关风险词，上线了科普宣导。
虽然该AI技术在竞赛的公开数据集上获得了突出的成果，但据阿里安全反馈，技术应用在真实环境中遇到了更多难题。
阿里安全算法工程师科蓝解释，第一个难点是商家发现相关风险词被平台管控后，立马试图用新词代替，为了让AI的能力跟上变异的节奏，甚至提前布防，AI会基于风险防控经验以及公共新闻事件等，自动挖掘一些新词，并对这些词进行扩充解释，让AI系统理解这些词的真正含义和匹配的风险场景，最后候选风险词还要经过运营的人工校验。
科蓝表示，目前依靠AI自动搜寻生产的非正常风险词汇，最终被人工运营审核后的采纳率为60%，逐步降低了人工寻找新风险词的成本，同时尽量提升覆盖更多风险区域的效率。
第二个难点是，除了风险词变异速度快，平台发现有些商家会以正常商品介绍的“外套”引导消费者到其他社交工具上进行沟通和成交。
“这种情况比较难以通过某种技术防控，一方面我们通过各种渠道向商家进行合规知识的宣导，一方面也希望互联网平台联合起来，针对此类风险共同探索合作治理机制。”杜衡说。
据了解，该AI目前升级覆盖到17个风险场景，阿里安全在加大技术治理风险场景的投入，比如建立人工智能治理与可持续发展的新型实验室，与顶尖高校联合发起“安全AI挑战者计划”等项目，培养实战型AI人才。
阿里安全资深算法专家薛晖表示，AI技术不是万能的，平台遇到各种风险变异与挑战也正说明，治理多类风险场景将是持续的博弈，但使用技术进行风险治理是其中一个发展方向，阿里还在继续提升AI联想的准确率，希望依靠科技创新构建更清朗的平台环境，探索如何更好地解决大众遇到的网络安全风险问题。
声明：
- 该内容为作者独立观点，不代表电商报观点或立场，文章为作者本人上传，版权归原作者所有，未经允许不得转载。
- 电商号平台仅提供信息存储服务，如发现文章、图片等侵权行为，侵权责任由作者本人承担。
- 如对本稿件有异议或投诉，请联系：info@dsb.cn
