马斯克转发的贺锦丽假视频点击量过亿，人工智能对政治的影响凸显

（大中网/096.ca讯）美国联合通讯社（AP）报道说，一段模仿美国副总统贺锦丽（Kamala Harris）的声音说了一些她没有说过的话的篡改视频引发了人们对人工智能的担忧，因为距离大选日还有三个月的时间。

周五（7月26日）晚间，科技界亿万富翁马斯克（Elon Musk）在他的社交媒体平台 X （推特前身）上分享了这段恶搞视频，但没有明确指出这是一段模仿作品。

可能获得民主党总统候选人提名的贺锦丽上周发了参与总统竞选活动的视频。马斯克直接引用了这段视频，但视频中的画外音换成了另一个声音，令人信服地模仿了贺锦丽。

视频中的声音说："我，贺锦丽，是你们民主党的总统候选人，因为拜登终于在总统辩论赛中暴露了他的力不能及。"

视频还声称贺锦丽是一个 “多元化符号”，因为她是一名女性和亚非混血有色族裔，还说她不知道 “如何管理国家”。视频还加入了贺锦丽过去的一些真实片段。

贺锦丽竞选活动发言人埃伦伯格（Mia Ehrenberg）在给美联社的电子邮件中说： “我们相信，美国人民想要的是贺锦丽副总统提供的真正的自由、机会和安全；而不是马斯克和川普的虚假、被操纵的谎言。”

随着美国总统大选日益临近，这段被广泛分享的恶搞视频是一个例子，说明了栩栩如生的人工智能生成的图像、视频或音频片段是如何被用来取笑和误导政治的。换脸或换音的视频揭露了随着高质量人工智能的普及，美国联邦迄今仍未采取重大行动对其使用进行监管。目前，涉及政治领域的人工智能视频主要由各州和社交媒体平台自身监管。

这段视频还提出了人工智能边界的问题，特别是如果这些内容属于讽刺类的话。在一篇跟帖中，马斯克第二次分享了这段视频，并补充说“......滑稽的模仿（parody）在美国是合法的”。

最初发布视频的是一位名叫里根先生（Mr Reagan）的YouTube用户，他在 YouTube 和 X 上都透露，这段经过篡改的视频是模仿之作。但马斯克转发的帖子只包括 “这太神奇了 ”的标题和一个大笑的表情符号，点击量超过1.23亿次。

熟悉X平台的用户可能知道点击原帖可能可以看到相关信息。马斯克的转发并没有指示他们这样做。

一些用户在网上质疑马斯克的转发是否违反了社交平台X 的政策，该政策规定用户 “不得分享合成、篡改或断章取义的音画，这些音画可能会欺骗或迷惑他人并导致伤害”。

该政策规定，只要不造成“对音画真实性的重大混淆”，模仿作品（meme）和讽刺作品（satire）可以例外。

马斯克在今年总统大选中支持前总统川普。视频发布者和马斯克都没有立即回复周日（7月28日）通过电子邮件发来的置评请求。

两位专门研究人工智能的专家审查了虚假宣传广告中的音频，确认其中大部分是利用人工智能技术生成的。

其中一位是加州大学伯克利分校的数字取证专家法里德（Hany Farid）。他认为，这段恶搞视频显示了生成式人工智能和深度伪造的威力。

他在一封电子邮件中说："人工智能生成的声音非常逼真。尽管大多数人都不会相信这是贺锦丽的原话，但当视频中出现她的头像时，会增加说服力。"

倡导组织“公共公民”的联合总裁魏斯曼（Robert Weissman）不同意法里德的观点，他认为很多人在一开始就会被这段视频所迷惑。

魏斯曼在接受采访时说："这显然不是一个玩笑。我相信大多数人看了都不会认为这是一个玩笑。模仿的质量不是很好，但已经足够了。正因为副总统发表过类似言论或人们对她的刻板印象，所以大多数人都会相信视频是真实的。"

魏斯曼的倡导组织督促国会、联邦机构和各州对生成式人工智能进行监管，他提醒这段视频 “就是我们一直在警告的那种东西”。

在美国和其他地方，其他生成式人工智能深度伪造者会试图用错误信息或（和）恶搞影响选民。2023 年在欧洲的斯洛伐克，一段假音频片段冒充一名候选人，在投票前几天讨论操纵选举和提高啤酒价格的计划。2022 年在美国路易斯安那州，一个政治行动委员会的讽刺广告将一个市长候选人的脸换到一名演员脸上，把他描绘成一名成绩不佳的高中生。

美国国会尚未通过有关政治领域人工智能的立法，联邦机构也只采取了有限的措施，美国现有的大部分法规都是由各州制定的。根据美国议会联合会（NCSL）的数据显示，超过三分之一的州已经制定了自己的法律，对在竞选和选举中使用人工智能技术进行监管。

除 X 平台外，其他社交媒体公司也制定了有关在其平台上分享合成媒体的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了人工智能生成技术来制作视频，否则将面临账户暂停使用。