网络骗子正在利用人工智能语音克隆技术，让像史蒂夫·哈维和泰勒·斯威夫特等名人似乎鼓励粉丝们在YouTube上陷入与医疗福利相关的骗局中。本周，《404 Media》首次报道了这一趋势。这只是骗子利用日益可获得的生成式人工智能工具来针对经济困境社区并冒充名人以迅速获取金钱的最新例子之一。
《404 Media》接到了一个线人的联络，该线人向该出版物指出了YouTube上的1600多个视频，其中深度伪造的名人声音和非名人的声音都被用来推动骗局。据报道，这些视频中的许多仍然处于活跃状态，累计观看次数达1.95亿次。这些视频似乎违反了YouTube的几项政策，尤其是关于虚假陈述、垃圾信息和欺诈行为的政策。YouTube对《流行科学》的置评请求尚未立即回复。
这个骗局是如何运作的呢？
骗子们试图通过使用名人的剪辑片段和利用人工智能工具创建的声音合成来模仿名人的声音，来欺骗观众。史蒂夫·哈维、奥普拉、泰勒·斯威夫特、播客主持人乔·罗根和喜剧演员凯文·哈特都有深度伪造版本的声音，看起来是在宣传这个骗局。有些视频根本没有使用名人的深度伪造，而是看起来使用一组重复出现的真人，推销类似故事的不同变体。这些视频通常由具有误导性名称的YouTube账户发布，例如“USReliefGuide”、“ReliefConnection”和“Health Market Navigators”。
“几个月来，我一直告诉大家要申请这6400美元。”一个试图冒充《家庭争霸》主持人史蒂夫·哈维的深度伪造说道，“即使你没有工作，任何人都可以得到这笔钱！”单单这个视频，在撰写时仍然在YouTube上，就已经积累了超过1800万次观看。
尽管骗局的具体措辞因视频而异，但它们通常遵循一个基本模板。首先，深度伪造的名人或演员向观众发出警示，告诉他们美国政府通过“健康消费卡”发放一张价值6400美元的年底节日刺激支票。然后，名人的声音说任何人只要没有参加过医疗补助或医疗救助计划，都可以申请这笔刺激金。通常情况下，观众会被告知点击一个链接来申请这些福利。像许多成功的骗局一样，该视频还通过试图说服观众这个虚假交易不会持续很久，引入了一种紧迫感。
事实上，那些点击链接的受害者往往会被重定向到名为“secretsavingsusa.com”之类的网址，这些网址实际上与美国政府没有关联。PolitiFact的记者拨打了其中一个网站上列出的注册电话，并与一位“未经确认的代理人”交谈，该代理人要求他们提供收入、税务申报状况和出生日期等敏感个人数据，这些数据有可能被用于进行身份欺诈。据报道，有些骗子还要求提供信用卡号码。该骗局似乎利用了真实政府医疗税收抵免的混淆来诱使受害者上钩。
虽然确实存在许多政府计划和补贴来帮助有需要的人，但通常提供来自美国政府的“免费钱财”的泛泛之谈通常是一个警示信号。降低生成式人工智能技术的成本，该技术能够创建出相对令人信服的名人声音模仿，可以使这些骗局更加令人信服。联邦贸易委员会（FTC）在去年的一篇博文中警告了这种可能性，其中引用了欺诈者使用深度伪造和声音克隆进行敲诈勒索和金融欺诈等非法活动的简单例子。去年《PLOS One》的一项调查发现，深度伪造的音频几乎有25%的时间可以愚弄人类听众。
价格合理、易于使用的人工智能技术引发了名人深度伪造骗局的兴起
这并不是深度伪造名人骗局的第一个案例，几乎可以肯定也不会是最后一个。好莱坞传奇汤姆·汉克斯最近在Instagram上向粉丝道歉，因为有人发现一个深度伪造克隆品在推广一项牙科计划骗局。不久之后，CBS主播盖尔·金表示，骗子们使用类似的深度伪造方法，让人们误以为她在为一种减肥产品背书。最近，据报道，骗子们将流行歌星泰勒·斯威夫特的AI克隆声音与她使用Le Creuset厨具的真实图像相结合，试图说服观众参加一个厨房用品赠品活动。粉丝们从未收到闪亮的锅碗瓢盆。
发表评论 取消回复