观点：深度伪造骗局前所未有地利用了爱情和信任

AI驱动的诈骗案件正在增加，网络犯罪分子利用深度伪造技术制作令人信服的视频和图片以操控受害者。从一个认为自己正在帮助布拉德·皮特的法国女子，到一个被高质量的深度伪造所说服的受害者，现实和欺诈的界线正变得越来越模糊。随着AI工具的发展，风险也在增加。

我们许多人在一月份的新闻中看到了这个案件：一名法国女子误以为自己在给布拉德·皮特捐款——她以为自己已经和这个男人恋爱了一年多，结果却损失了超过85万美元的财富。

骗子们利用先进的生成式人工智能创造“自拍照”并伪造证据，成功地说服了他们的受害者——正在离婚过程中的53岁设计师Anne，让她相信了一个虚构的布拉德·皮特因紧急医疗需求的悲惨故事。他们声称由于皮特与安吉丽娜·朱莉离婚，他的资金被冻结了。

Anne做出了勇敢——且冒险——的决定，公开分享她的故事，面对着数百万的嘲笑、侮辱和虚拟攻击。”像个傻瓜，我付了钱……每次我对他产生怀疑，他都能消除我的疑虑，”她在法语Youtube节目中说，BBC报道中有提到。”我承认，我被耍了，这就是我站出来的原因，因为我并不是唯一的受害者。”

她并没有。几个月后，西班牙警方逮捕了5个假冒皮特的人，他们也欺骗了另外两个女性。几天前，一名中国男子也被骗，他被误导认为他的网友女友需要钱进行医疗手术和资助她的生意。

受害者收到了定制的视频和照片——这些图片在网上任何地方都找不到——这进一步使他们相信了骗子们精心编织的谎言。

最近，Entrust 的一份报告建议，每五分钟就会有一次深度伪造的尝试。每天都有新的被生成性AI骗取的案例浮出水面——这是一个令人担忧的趋势，尤其当考虑到成千上万，甚至数百万的人深陷债务和羞愧之中，他们不敢向当局报告，更不用说公之于众了。

深度伪造骗局日益增多

多项研究和报告对由AI驱动的欺诈和网络攻击的增加发出了警告。《TrustPair的2025欺诈趋势与洞察》的最新数据显示，AI驱动的欺诈同比增长了118%，这是由CFO报道的。

嗨，一家专注于语音安全和性能解决方案的美国公司Hiya，最近分享了一项调查结果，揭示了在2024年，六个国家的31%的客户接到了深度伪造的电话，其中45%的人被诈骗——其中34%的人损失了金钱，32%的人的个人信息被盗。平均来说，受害者每人因电话诈骗损失超过500美元。

几天前，卫报揭示，东欧的格鲁吉亚有一个有组织的网络，利用Facebook和Google上的假广告，在欧洲、加拿大和英国的范围内诈骗了超过6000人，通过他们的运作赚取了3500万美元。

大约85名高薪的格鲁吉亚骗子利用英国记者马丁·刘易斯、作家和冒险家本·福格尔以及埃隆·马斯克等公众人物进行诈骗。骗子们推广假的加密货币和其他投资方案，使受害者通过Revolut等数字银行转账——该银行最近在英国获得了银行牌照。

先进的AI，更复杂的诈骗

在过去的几年里，网络犯罪分子一直在使用生成性AI，利用像ChatGPT这样的工具来编写和翻译吸引人的电子邮件，并生成有说服力的基于文本的内容。现在，随着AI工具的发展，使用AI生成的图像和视频的情况也在增加。

几周前，字节跳动推出了其最新的AI视频工具，OmniHuman-1，能够生成市场上最逼真的深度伪造影像。同时，更多的AI公司正在开发类似的技术。这些工具被用于欺诈似乎只是时间问题。

虽然这些技术可以“善意”使用，甚至用来抵制欺诈的增长 —— 如 O2的AI ‘奶奶’ Daisy，设计用于实时呼叫中与骗子进行互动，分散他们对真实受害者的注意力 —— 但他们恶意使用的后果似乎无法估量。

在 Wizcase，我们最近报道了“自欺欺人攻击”增长了614%，指出黑客如何利用深度伪造技术使假内容看起来“更真实”，以及社交媒体公司如Meta如何不得不介入猪肉屠宰诈骗，因为许多威胁者使用这些平台。在这项研究中，Meta指出许多诈骗源于约会应用程序，这证明了浪漫的爱情是最常见的诱饵之一——无论是现在还是历史上。

爱：强大的诱饵

网络犯罪分子不仅擅长理解和使用先进的人工智能，他们也深刻理解人类的智能。威胁行为者知道如何识别弱点，建立信任，并在恰当的时机提出他们的要求。

这项研究你爱我吗？浪漫诈骗受害者的心理特征，由博士Monica T. Whitty在2018年发表，解释了国际犯罪团伙如何多年来进行恋爱诈骗——甚至在互联网出现之前就开始了，以及为何中年受过良好教育的女性更容易上当受骗——就像安妮一样。

那么，现在距离这项研究已经过去八年，我们又能期待什么呢？在这个仿佛科幻般的技术环境下，恐怕我们都比自己想象的更加脆弱。

“这种欺诈的受害者通常是正在寻找人生意义、情绪上容易受伤的人们，”魁北克大学蒙特利尔分校（UQAM）的副教授安妮·勒孔普特在最近发表在The Conversation的一篇文章中写道。“尽管这种浪漫欺诈被嘲笑和误解，但它是基于复杂的心理机制，利用受害者的信任、情感和脆弱。”

心碎，钱包空

刘——这是最近在一次由AI驱动的诈骗中损失了约20万人民币，约28000美元的中国男子的姓——真心相信他的AI女友是真实的，因为他看到了个性化的照片甚至视频。他与骗子建立了越来越强烈的情感联系……

虽然他没有在报告中提供更多的情境细节，但另一位受害者，77岁的妮基·麦克劳德（Nikki MacLeod）却做到了。她也认为自己与一个AI女朋友处于真实的恋爱关系，并通过银行转账，贝宝，和礼品卡给她寄了17,000英镑——约合22,000美元。

“我并不是一个愚蠢的人，但她却能说服我她是一个真实的人，我们将会一起度过余生，” 麦克劳德对BBC说道。

当麦克劳德感到孤独和悲伤的时候，她在一个群聊中遇到了阿拉·摩根。过了一段时间，麦克劳德请求进行实时视频，但摩根说她在石油钻井平台上工作，所以无法实现。当麦克劳德开始产生疑虑时，摩根开始发送逼真的视频。“她给我发送了一个视频，说’你好，Nikki，我不是骗子，我在我的石油钻井平台上’，我被它完全说服了，”麦克劳德解释道。这个内容可以在BBC的网站上找到，很容易看出为什么麦克劳德会相信它是真实的——这是一个高质量的深度伪造。

BBC请阿伯泰大学的网络安全和人机交互专家Lynsay Shepherd博士分析麦克劳德收到的照片和视频。“乍一看它看起来是合法的，如果你不知道该寻找什么，但是如果你看眼睛——眼睛的移动并不完全正确，”Shepherd博士说。

“文件看起来真实，视频看起来真实，银行也看起来真实，”麦克劳德说。”随着人工智能的引入，每一样东西都可能是假的。”