当人工PK人工智能，近百名选手参与开源模型代码接力对抗Deepfake

伪造概率值的问题，引发了毕导的追问，到底AI能否100%识别伪造。赛事出题人之一、ZOLOZ技术总监姚伟斌介绍道，让AI百分百识别伪造图像是否伪造，是十分困难的。伪造技术也在不断迭代更新，对抗需要不断地提升。这也是我们今天做比赛的一大意义。在实际应用中，通常是将识别算法与其他检测手段结合使用，综合判断风险。

视频赛道环节，毕导数字分身出演了多部经典电影名场面，选手同样要通过AI模型来辨别真伪。现场选手比分上，在一些难度一般的赛题上，表演赛的结果比分接近，伪造识别率几乎都在80%以上，但是在一些高难度赛题上，模型结果差异悬殊。

毕导向新加坡科技研究局天異教授发出灵魂拷问，为什么肉眼觉得一眼假的画面，AI却不能完全答对？而肉眼难以辨别的画面，AI反而1秒识别？

对此，周天異认为人类在判断图像是否伪造会依赖直觉和逻辑，比如毕导的人脸换到了哈利波特身上，人类一眼便知，AI却不了解背后的故事。而人类会下意识地偷懒，AI是最称职的工具人，AI不受情绪干扰，他会一丝不苟、勤勤恳恳地完成人类的指令。所以，AI在工作效率和稳定性上，都是大大高于人类的。

近百名选手参与开源模型代码接力

近日，Deepfake恶性事件牵动人心。8月30日，赛事组委会发起开源倡议：“支持并鼓励优秀参与者开源比赛模型，降低技术门槛、加强技术交流，进而帮助更多人检测伪造内容，助力AI向善。参赛者自主开源后，大赛组委会将在官方Github主页上汇总所有开源存储库。”

倡议一经发出，就得到中国科学院自动化研究所VisionRush队伍和澳门大学JT Group的积极相应。开源不仅仅是免费分享，还意味着在技术社区开展代码接力，任何人都可以参与完善开源模型。

姚伟斌表示，截至目前，已有近百名选手及所在队伍表示愿意参与代码接力，希望通过技术手段，为每一个可能受到伤害的人提供保护。参与选手还在不断增加。

研发检测算法，只是遏制Deepfake技术滥用的方式之一。姚伟斌坦言，这种方式是相对滞后的。如果要从根源上防范欺诈行为，姚伟斌认为应在标准和立法角度，要求给AIGC内容建立通用标识，比如每一张AIGC生成的视频/图片都在文件信息里带一个签名或水印，这样平台管理更有依据，也能让AIGC可以更可信。

会上，十余家机构联合发布国内首个面向金融场景的“AI 换脸”检测标准。该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据，也填补了这一领域的空白。这场Deepfake 攻防挑战赛，正是应用了此标准的框架和指标，进行赛题的制定和答案的评价。

全球Deepfake攻防挑战赛针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、香港、越南等26个国家和地区。

据了解，外滩大会AI创新赛包括 “AFAC2024 金融智能创新大赛”和“全球 Deepfake攻防挑战赛”两大子赛事。全面展示了人工智能在多个领域的最新应用与前沿探索，也彰显出了科技创新的无限活力。同时，Inclusion外滩大会第二届AI创新赛· "全球AI攻防挑战赛”也正式启动。赛事聚焦AI大模型产业实践，设有攻防双向赛道。