AI学会造假，我们该如何应对

本篇文章1261字，读完约3分钟

信不信由你，奥巴马会和特朗普说同样的话？有视频可以证明这一点。在一个对比视频中，两个人不仅有相同的单词，而且有相同的单词节奏，甚至面部肌肉的动作，但他们可以保持自己的特点。

这是一种新技术，称为“生成对抗网络”。最近，香山会议召开了以信息隐藏和人工智能为主题的学术研讨会。北京电子技术应用研究所副研究员李介绍说，gan是一个世代模式。通过将两个神经网络之间的对抗作为训练标准，可以自动生成图像，包括自动篡改图像。事实上，早在2015年，甘就被用来制作教皇表演桌布戏法的假视频，这些视频很快在互联网上流行起来，因为它们太逼真了。

据统计，大量的合成信息占据了互联网，如合成声音，生成图像，人工智能合成不存在的肖像等。，约占网络信息的30%。眼见为实可能不可靠。

机器人水军已经变得非常庞大

当人们判断真相时，他们经常说这真的很自然。人工智能欺诈将在尽可能自然的前提下自动生成。

淘宝上的机器人水军已经变得非常庞大。浙江大学管理学院的孔祥伟教授举了一个例子。例如，商品评估已经由机器自动生成，因此不再需要雇佣人员来注水。

自动发电带来的危机是规模和密度的大幅增加。孔祥伟说。以淘宝评价为例，如果虚假评价如潮水般涌来，它甚至不需要区分真假，这样就能淹没真实评价。

在社会事件的公众舆论中，如果机器人水军操纵公众舆论，它将把国家安全置于危险之中。孔祥伟说。

除了自动生成之外，gan的开源也带来了巨大的隐患。开源代码意味着任何人都可以使用它。一旦代码是开源的，它就会无休止地改变。相关研究人员表示:这意味着对这种代码的研究必须比对手的更彻底，以适应不断的变化。

应嵌入反编辑水印以防止欺诈

随着颤音等微视频应用的普及，视频被频繁发布。有没有办法防止公众的自拍像上面提到的视频一样被篡改？清华大学计算机科学与技术系副教授汪道顺表示，非法用户不仅在视频编辑工具的帮助下拷贝和修改视频内容，甚至未经授权转移视频内容。所有这些操作都是为了得到一个可以随意修改的白板。我们正在探索基于深度学习的反编辑视频水印技术。汪道顺说道。

这要求水印隐藏在视频中，不能编辑。利用人工智能的深度学习技术嵌入这些水印。汪道顺说，他的团队希望完成嵌入和检测的技术输出。

网络对抗演变成智能平台之间的对抗

gan的魔力在于两个神经网络之间的竞争。通过使两个神经网络对峙，人工智能的深度学习从识别事物升级为能够创造事物。

技术有两个方面，人工智能欺诈也可以使用。信息隐藏技术可以借用人工智能技术和思想，例如，利用神经网络生成隐藏信息，从而获得人工智能相关技术固有的自适应和海量特性。相关专家表示，深度学习在模式识别的许多领域都取得了巨大的成功，这给信息隐写术和隐写分析带来了新的方法和挑战。

对于信息隐藏的基础研究人员来说，在人工智能的深度学习模式下，传统分析手段难以发现的隐藏信息很容易被破解。香山会议讨论了新课题的紧迫性。专家认为，人工智能的发展使得网络对抗从人际对抗演变为智能和自动化的平台对抗。作为数据保护和隐蔽通信的关键技术，信息隐藏技术必须改变。