Facebook如何处理AI生成的假视频?好吧，不要期望该公司将其淘汰。
周二，Facebook表示将保留一段由AI生成的视频，该视频虚假地描述了公司首席执行官马克·扎克伯格(Mark Zuckerberg)谈论着一个类似光明会的秘密社会来控制世界。
假的扎克伯格在视频中说：“想象一下：一个人可以控制数十亿个人被盗数据。”“他们所有的秘密。他们的生活。他们的未来。我应归功于Spectre。Spectre向我展示了谁控制数据，谁就能控制未来。”
该视频看上去逼真，但实际上是AI驱动算法的产物。该软件能够从2017年的一次采访中改变扎克伯格的嘴巴，使其与视频中的虚假对话保持同步。
大多数人可能仅通过听声音就可以判断出这些镜头是伪造的，这与真正的扎克伯格所说的并不完全匹配。但是，视频背后的技术使IT专家和立法者感到担忧。有一天可以用来欺骗公众吗?
这段由母板首次报道的“ deepfake”视频已经引起记者们的怀疑，在将经过篡改的镜头上传到Facebook拥有的Instagram之后，社交网络是否会删除它。答案是不。相反，公司可能决定限制其发行量。
一名Instagram发言人在一份声明中说：“我们将以与对待Instagram上所有错误信息相同的方式来对待这些内容。如果第三方事实检查者将其标记为假，我们将从Instagram的推荐表面(例如Explore和hashtag页面)中将其过滤掉。” 。
Facebook经常采取压制虚假内容的方式，而不是删除虚假内容，以在滥用和言论自由之间保持平衡，其中包括极端或令人反感的评论。
在这种情况下，扎克伯格的篡改视频来自一对艺术家，他们与一家名为Canny AI的技术创业公司合作创作了这些镜头。他们的项目名为Spectre，旨在强调如何利用社交媒体来操纵公众。为了说明这一点，艺术家创造了其他深层的伪造品，以邪恶的眼光描绘了唐纳德·特朗普总统和真人秀电视明星金·卡戴珊。
Kardashian在Deepfake视频中说：“我真的很幸运，因为我真的很喜欢在线上为钱而操纵人们的过程。”
尽管如此，Facebook仍然面临打击其他篡改视频的压力。上个月，当众议院议长南希·佩洛西(Nancy Pelosi)放慢镜头的片段暗示她在平台上散布言论时，该公司试图在虐待和言论自由之间保持平衡的尝试受到了挑战。作为回应，该公司避免删除该内容。相反，它开始尝试限制其发行量，并使用免责声明警告这些视频是虚假的。
如果Facebook充斥着Deepfake视频，这种方法是否会奏效还有待观察。其他人则抱怨说，该公司正因内容监管而面临政治审查的风险。同时，国会委员会计划在本周四举行听证会，审查AI生成的视频对国家安全的危害。
标签：
免责声明：本文由用户上传，如有侵权请联系删除！