眼见不为实——Deepfake深度合成的近忧和远虑

未来

《黑镜》的一集——Be Right Back《马上回来）》的场景正在变成现实。主人公玛莎使用一种新技术，将她死去的男友阿什的个性和记忆复制到了一个机器人中，试图通过这种方式保持他的存在感。

以此为主题的影视剧大火，BBC前段时间推出了一部新剧《真相捕捉》，反派通过“AI换脸”伪造了男主行凶的假视频，并篡改了“真相”。这两部电视剧都很推荐。

《黑镜》和《真相捕捉》剧照

另外，根据2021 年《旧金山纪事报》的一篇纪实报道，Joshua的未婚妻Jessica 因病早逝，他伤心欲绝。一次偶然的机会，他把自己和 Jessica 的所有聊天记录都投喂给了人工智能 GPT-3，此后，约书亚有空就和 GPT-3 聊天，神奇的事情发生了。Joshua 真的感觉到电脑屏幕对面就是 Jessica 本人，而且经常约书亚经常就泪流满面，哭累了就睡，睡醒了继续聊。事情最后的结局是，Joshua 终于走出了未婚妻早逝的悲痛，GPT-3 也治愈了他。

对我和我们每一个人而言，我们都或多或少会在这个世界上留下我们个人的数字指纹，包括我们青少年时期写过的作文，成绩单，我们的病历，我们自己的感想、日记以及别人对我们的各种描述。周伯通的这些公号记录，以后说不定也能被用来生成一个数字的我的素材。

我们的肉体可能会朽坏，但我们的精神真的说不定可以不死。以后，大家来扫墓，刷一刷我的墓碑上的二维码，就会蹦出一个虚拟的我，可以和我对话。这可能是个挺酷的事情。为此，我会继续装深刻，以便我的数字自我更像我。

Bing作画：a tomb with a QR code & a screen in cartoon style

历史

这是ChatGPT大语言模型带来的对人的精神世界的模仿，而我们肉身的数字孪生技术——deepfake，在早几年前就已经问世成熟。

Deepfake英文直译为深度伪造，是英文“deep learning”（深度学习）和“fake”（伪造）的混成词，专指基于人工智能的人体图像合成技术的应用。在ChatGPT引发的大语言模型狂飙之前，同样基于深度学习的deepfake技术迅速发展，并已达到了以假乱真的地步。

“Deepfake”一词最初起源于2017年底的Reddit上一个名叫“deepfakes”的账号。他和一些其他用户通过合成技术将名人的脸换到小视频中的女演员身上，也包括将演过《变脸》的尼古拉斯·凯奇的脸换到各种电影中的视频。

2018年1月，一个名为FakeApp的专有APP推出。这个应用程序允许用户轻松地创建和分享具有换脸效果的视频。日后，类似的APP层出不穷，包括Faceswap、DeepFaceLab和Web网页DeepfakesWeb.com等。

在国内2019年8月30日，陌陌旗下一个名为“ZAO”的 AI换脸APP火遍社交网络。用户只需要在App中上传一张照片，就能将自己的脸替换成各种明星的脸，几乎可以以假乱真。与此同时，关于这种AI换脸玩法的质疑和担忧也纷至沓来。4天后的9月3日，工信部针对用户个人信息，对相关负责人进行了约谈。ZAO修改了其隐私协议，热度骤减。不过，周伯通发现，现在手机平台上还有不少AI换脸的APP，只是下载量寥寥。

2020年AI软件实现了不仅能换脸，还会换声。一个名为Impressions的移动deepfake应用程序能够在5秒的听取时间后克隆人类声音的AI软件。这项技术也很快被实际应用，我们听到的林志玲版的导航声音，就是衍生产品之一。

Deepfakes 技术不仅可用于伪造他人的信息和行为，也可以用于复活已故人士。2020年10月29日，卡戴珊发布了一段由Deepfake创建的已故父亲的视频。2022年，猫王埃尔维斯·普雷斯利在美国达人秀第17季中被 Deepfake 技术复活。2022年的江苏卫视跨年晚会，邓丽君的全息影像与现代歌手周深同台表演，献唱了《大鱼》等一首首耳熟能详的歌曲。

近忧

目前，深度合成技术已经进化到了以假乱真的地步，而且内容制作的技术门槛越来越低，实现了技术的“平民化”。眼见和耳听都不为实。通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为和事例已屡见不鲜。

2018年4月17日，美国演员乔丹·皮尔在YouTube上发布了一段奥巴马的深度伪造视频，视频中，奥巴马诅咒和谩骂唐纳德·特朗普的场景。在这个深度伪造视频中，乔丹·皮尔的声音和脸部被转换和操纵成了奥巴马的。这个视频的目的是展示深度伪造技术的危险后果和威力。其后，恶搞各类政治名人的视频比比皆是。特朗普、佩洛西、希拉克、金正恩和普京都是恶搞的对象。

2019年，英国一家能源公司的CEO接到其母公司总裁的电话，要求将22万欧元转入匈牙利银行账户，他照做了，但实际这个电话的声音是人工合成的。

2022年6月，在youtube和推特上，人们不断看到马斯克推广一个叫BitVex的加密货币投资项目，并承诺每天30％的回报！中国大妈都被反复告诫不要相信年化8%以上的收益承诺，但外国韭菜给BitVex的骗子送了1.28亿美元。

Bitvex宣称马斯克是CEO

拿马斯克开涮的不光有老外，还有咱国内的公众号。我关注过一个叫《外国名人讲笑话》的公众号，里面有扎克伯格、梅西等人，当然最多的还是马斯克讲中文笑话的视频。他们一本正经用东北腔的中文给你讲笑话，形成强烈反差萌。

2022年3月16日，一段长达一分钟的深度伪造视频在社交媒体上流传，视频中乌克兰总统泽连斯基让他的士兵放下武器投降。俄罗斯社交媒体大量采用了这个视频。黑客将这种虚假信息插入了电视台乌克兰24的实时滚动新闻中，并在该站点的网站上出现了这段视频。

深度伪造技术正在扩展到其他领域，例如篡改医学图像。在一项白帽渗透测试中，研究人员成功地潜入一家医院的数据库，自动在患者的3D CT扫描中注入或删除肺癌。结果如此逼真，以至于它欺骗了三名放射科医生和一种先进的肺癌检测人工智能。

应对

魔高一尺，道能否高一丈？要打击深度合成的不法应用，首先是技术上能否识别。2018年，美国国防高级研究计划局DARPA资助了一个竞赛项目，用自动化工具来检测Deepfakes视频；Facebook联合微软也举办全球Deepfakes检测竞赛。

互联网大平台也行动起来，出台政策规范Deepfakes为防止虚假信息传播，Twitter要求在包含篡改媒体和/或深度伪造内容的推文上放置一个通知，提示观众该媒体已被篡改。此外，还将出现一个警告提示，告诉用户不要转推、点赞或与该推文进行互动。同时，Twitter还将提供一个链接，让用户了解有关相关主题可靠新闻文章，作为澄清行动。Twitter还有权删除任何可能对用户安全造成危害的深度伪造或篡改媒体的推文。

2020年，Facebook推出了一项政策，将删除可能造成伤害的误导性虚假媒体。然而，将单词的顺序或上下文更改来更改消息的媒体将保留在该站点上，但会被标记为虚假，因为它不是由人工智能生成的。Facebook还投资于改进其人工智能AI系统，以更好地检测和删除Deepfakes和其他类型的操纵媒体。

为了解决这些深度合成技术产生的问题，各国政府纷纷出台相关法规和措施。

美国是第一个出台法律规范的国家。2018年，美国参议院提出了恶意深度合成禁止法案，而2019年，众议院则提出了《深度合成责任法案》。

多个州也相继出台了相关立法，其中包括弗吉尼亚州、得克萨斯州、加利福尼亚州和纽约州。

在加利福尼亚州，未经个人同意制作的性淫秽合成内容的创作者将面临诉讼，同时禁止在候选人选举前60天发布恶意合成音频或视觉媒体。

为了应对深度合成带来的挑战，2022年6月，欧洲委员会公布了加强版“反信息不实行为准则”，要求谷歌、Meta、推特和TikTok等至少在欧盟拥有4500万用户的大型科技公司，采取措施来打击其平台上的深度伪造和虚假账户，否则将面临高达其全球营业额6%的罚款。

在英国，2022年，新修订的法律规定在英格兰和威尔士未经同意分享色情深度伪造视频将成为犯罪。

尽管如此，欧美国家在对深度合成的态度上还是小心翼翼，唯恐踩了侵犯言论自由的红线。在应对深度合成方面，中国有关部门的行动更为迅速，而且所制定的规章也更为全面，可以说是开风气之先，后续各国可能都得考虑选择跟进。

2022年底，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，该部门规章自2023年1月10日起施行。

新规定义了深度合成，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。请注意，这里的深度合成的范围包括文本，所以大语言模型也是在规制范围内的。

新规也没有一棍子打死深度合成技术，借鉴了其他国家的一些做法，要求平台负责做到重点提示和辟谣两个机制。

深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

根据新规，深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

怎样应对深度生成的人脸技术带来的虚假视频？深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。注意这里不区分是否是明星或者政治人物，一概要获得同意，可比西方国家欲抱琵琶半遮面的规定明确多了。另外，如果谁要是把深度生成的视频用于政治，或者生成小视频，社会主义铁拳绝饶不了他。

怎样获得这位女士的同意？

远虑

有了这些规则就可以高枕无忧了吗？未必。这些规则只是让善意使用深度合成技术有规可依。但滥用者会无视这样的规定，而且滥用者也会通过技术手段逃避监管，他们或匿名操作，或在其他国家的服务器和平台上操作，这是目前监管的空白。

当然更深层次的忧虑来自AI技术自身会不会觉醒，利用deepfake欺骗人类达到自身的目的。这个看来是天方夜谭，但很多AI之士越来越认为这是有可能发生的。还记得GPT-4 是欺骗人类假说自己是视觉障碍者，以诱使工程师帮它通过验证码测试的例子吗？为了达到目的，AI可以不择手段。

难怪“AI教父”杰弗里从谷歌离职，以便能够更公开地谈论该技术的潜在危险，并表示对毕生研究感到后悔。杰弗里认为现阶段最担心的就是通过利用AI制造deepfake，在未来，杰弗里担心AI会对人类构成威胁，“因为AI可能通过大量的数据和分析，出现一些令人意想不到的行为针对“AI技术发展”的竞争，将让AI系统变得越来越危险。”

作者简介

周伯通，国内A股市场最大的汽车上市公司的总法。在日常繁忙的工作之余，他会坚持写一些“装作”深刻的东西，他说，装着装着，就说不定真的深刻了。他的目标是成为一个 “有好看皮囊的有趣灵魂”。

热门课程

热门文章