鞭牛士报道 9月14日消息，日前，由阿里安全、清华大学主办的第五期“安全AI挑战者计划”竞赛开启，本期“安全AI挑战者计划”为双赛道竞赛，总奖金为254000元，并包含近10万的奖品福利。

据悉，第五期“安全AI挑战者计划”为全球首个针对证件文档类图像伪造检测的对抗攻击竞赛。旨在发现图像取证技术的不足，推进该技术更广泛的应用。

随着各种P图工具的普及，篡改伪造的门槛大幅降低，许多假图用于散播谣言、编造虚假新闻等。而随着反取证技术的出现，图像的真伪鉴定问题进入攻防博弈的阶段。区别于传统图像取证比赛专注于自然内容图像，此次竞赛更关注能够用于表征权利人权益的证明材料图像。

此次比赛，将采用真实的证书文档类图像数据，参赛者需通过对原始图像的特定候选区域进行伪造篡改（P图），做到视觉无伪造痕迹，并且让提供的图像取证模型无法识别篡改。

据介绍，2019年8月-2020年6月，安全AI挑战者计划已成功举办四期，共吸引全球200多所高校100多家企业的5000多支队伍参加。

第一期人脸对抗识别比赛模拟了人脸场景下的对抗攻击，在不知道模型详细信息的前提下，选手在线下对测试样本进行修改，然后提交至线上做攻击测试。入围奖项的队伍提交了11份原创的方案材料，其中很多方案具有创新性，提出了适合攻击人脸识别的对抗样本生成方法。从比赛的结果来看，前10的选手生成的扰动都很小，人脸无法区分，而且具有很强的攻击性。产生了至少1万左右的非常非常具有欺骗性的人脸图片样本，这些对抗样本能够很好的衡量人脸识别系统的安全性、帮助提升人脸识别系统的鲁棒性和防御能力。

第二期ImageNet图像对抗比赛赛题是ImageNet图像分类对抗攻击，有了第一期的经验，这一期参赛队伍超过1000支，超过10支队伍分享了参赛方案，贡献了7000多次提交，且比赛结束转为长期赛后，日均也能收到3-5左右的提交。每次提交平均能收集到约1300个经过选手特殊处理的恶意样本，而所有的提交样本都已被收集下来，用来提升业务人员在模型防御和对抗样本检测方向的能力。

而这次比赛选手提交的方案中，有不少使用了AI安全方向比较前沿的技术。如第一名队伍在黑盒情况下，仅仅对图像上下32像素的改动，就以接近100%的概率有目标的攻破了线上的防御模型。另外从攻击手段上，大部分高分选手都使用了输入变换（Input Diversity）和模型融合的方式增加黑盒情况下，对抗样本的迁移能力，这些都反向给了业务人员启发。

此外，第三期辱骂场景文本对抗比赛、第四期通用目标检测的对抗攻击几场竞赛也都针对行业现象与难题，展示了非常前沿的技术和方法，提供了问题解决思路与启发，并积累了大量样本与经验。

安全AI挑战者计划的最大特点是，以系列竞赛贯穿全年，主打高难度、高创新、高趣味、高回报的题目任务和运营玩法。每一期差异化的呈现，既满足年轻技术爱好者猎奇求新的偏好，又激发了选手剑走偏锋的奇思妙想，将思路方法持续的沉淀到技术社区，将互联网大企业、优秀科研院校的私有经验公有化，每一期都能够实现超预期的累加技术成就。

在第四期比赛中蝉联4周第一名的队伍表示：“这是一个能让你学到很多技能，更加深刻地理解深度神经网络是如何工作的比赛，这系列的比赛覆盖的领域非常广，从人脸识别，到图像分类，文本分类，目标检测，再到以后的视频，和声音的领域，可以说深度神经网络能做什么这里就能学什么，如果你能来参加这个比赛，绝对收获非常丰富。”

阿里安全图灵实验室高级算法专家觉奥在采访中介绍了阿里和清华举办“安全AI挑战者计划”的背景，他表示：“国家在提倡数字新基建，安全是新基建重要的领域，对阿里的业务也是如此，安全AI挑战者计划是阿里做安全基建的手段之一。目前为止，中国AI安全人才缺口达到140万，通过安全AI挑战者计划这类公开竞赛，结合实际业务场景，让参赛者‘放手’攻击，锻炼技术，培养人才，对阿里安全以及整个安全行业都会有积极的贡献和影响。”

在阿里平台，内容安全的应用很多，包括多媒体，如声音、视频、文本、图象等内容的判别与处理。觉奥举例，如果有人试图在阿里平台售卖违禁商品，靠人力审核根本审核不过来，一个好办法是依赖AI技术，让模型和算法自动挖掘和识别这些违禁商品，以便清除下架。同样，面对假货威胁，也可以用AI技术从多维度信息来自动判别和处理假货，如综合分析Logo、价格、退货行为、评价等信息。通过安全AI挑战者计划这样的竞赛，将积累更多的对抗样本，有利于升级防控模型，并给予安全从业人员更多的启发。

当然，安全AI挑战者计划是面向全互联网行业，为中国培养新基建安全人才的比赛。第三期挑战者计划题目就以清洁网络环境为目的，针对当下论坛、视频等平台评论场景中存在的如辱骂、色情等污染网络环境的内容，首次设置了“辱骂文本对抗”赛题。

阿里安全高级算法专家开阳介绍,阿里安全以及整个互联网安全行业都会研究相关内容防护的检测引擎，但由于自然语言表达的多样化，令检测引擎难以防范，而通过第三期比赛，参赛者利用基于AI的文本生成技术对原始辱骂的文本生成变异，一方面可以检验防守模型的鲁棒性，另一方面，也能帮业务人员提供更多思路，帮助训练防守性更好的模型。

有趣的是，在比赛过程中，为了避免提供辱骂语料污染网络环境，所以在比赛过程中，参赛者拿不到语料，需要做参赛预测。

今年以来，数字基建成为社会各方关注的焦点，安全基建理念和安全运营日常化成为网络安全领域的共识。基于此大背景，阿里和清华大学联合主办的安全AI挑战者计划，旨在打造全球最顶尖的安全AI赛事，面向未来培养更多新基建安全技术人才。

安全AI挑战者计划的赛题基于从源头构建安全的安全基建理念，将互联网大企业、优秀科研院校的私有经验公有化的同时，着力培养参赛者的全局安全观，为数字基建的安全运营人才提供实战型练兵场。

当下安全人才仍是稀缺资源。统计数据显示，到2020年，网络安全人才缺口达到140万。今年4月2日，阿里安全宣布面向全国高校在校生发布“青色计划”招募令，以期与高校通过科研、产品等合作方式，培养未来安全人才，填补安全人才缺口。作为“青色计划”的核心人才培养途径之一，安全AI挑战者计划比赛沉淀40多个具有前沿创新性的参赛源码和方案，激发出高校学生在安全AI领域极大的创造力，也为实际业务问题的解决贡献了力量，最大程度填补和缓解了AI安全人才缺口。