一名全球工程公司奥雅普（Arup）的财务员工在加入似乎是合法的视频会议后，转移了近2,500万美元，会议中包括公司的首席财务官和同事，后来才发现几乎每个参与者都是由AI生成的。此次事件成功是因为攻击者利用令人信服的合成语音和面孔，在视频通话中突破了技术控制，利用人类信任进行攻击。根据Resemble AI发布的一份新指南，此案例已成为深度伪造技术从孤立演示演变为影响企业、金融机构和政府机构的普遍安全风险的典型例子，Gartner、FBI和世界经济论坛的研究描绘了不断增长的威胁格局。
奥雅普员工在AI生成的视频会议中授权转账2,500万美元
奥雅普事件已成为行业内关于AI深度伪造欺诈的典型案例。一名财务员工最初怀疑一封请求机密交易的钓鱼邮件。该员工没有立即采取行动，而是加入了一场似乎是公司首席财务官和几位同事的视频会议。每个人看起来都很真实，听起来也很真实，会议完全合法。在会议中收到指示后，员工授权了总计约2,500万美元的多笔电汇。事后调查人员才发现，几乎每个参与者都是由AI生成的。攻击成功的原因在于它绕过组织多年来不断完善的技术控制，没有恶意软件、受损端点或恶意附件。员工正确识别了可疑邮件，但被视频会议中熟悉的面孔和声音提供的似乎确认所压倒。
Gartner报告62%的组织遭遇深度伪造攻击
根据Gartner在Resemble AI报告中引用的研究，62%的组织在过去12个月内遭遇过深度伪造攻击。近七成攻击针对视频系统，67%针对基于语音的通信。FBI 2025年互联网犯罪投诉中心报告估算，AI支持的诈骗造成的报告损失约8.93亿美元。研究人员还估计，2025年期间，约有800万件合成媒体在网上流通，显示出比几年前爆炸性的增长。尽管估算因方法不同而异，但所有主要研究都指向同一方向：由AI生成的欺骗正以超出现有安全控制设计能力的速度扩展。对金融机构而言，其影响远超社交媒体误导，因为每个依赖语音识别、视频验证或数字身份信任的流程都可能成为攻击面。
语音克隆技术仅需几秒音频
Resemble AI报告指出，组织应停止将深度伪造视为孤立的网络安全事件，而应将其视为身份问题。语音克隆技术现在只需几秒公开音频即可生成令人信服的模仿。会议演讲、财报电话、播客和访谈实际上成为攻击者模仿高管的训练材料。视频生成也取得了类似的改进，以前需要昂贵的视觉特效的内容，现在可以使用消费者级AI工具生成逼真的面部表情、同步语音和逼真的视频通话。Gartner先前预测，到2026年，30%的企业将不再单纯依赖身份验证，因为AI生成的深度伪造变得越来越复杂，这一预测随着攻击手段的日益精细而变得尤为相关。
金融服务面临高管冒充和投资诈骗
虽然深度伪造攻击影响多个行业，但金融服务面临独特的风险，因为许多高价值决策依赖可信的通信。支付批准、账户恢复、远程入职、财富管理咨询和客户支持等越来越多通过数字渠道进行，而这些渠道的身份验证传统上依赖视觉或语音识别。指南已识别出几种已影响组织的重复攻击模式。高管冒充仍是最高价值类别，利用克隆的高管授权欺诈性付款。投资诈骗继续使用AI生成的政治人物、名人和金融人士的视频，宣传虚假交易或加密货币平台。招聘欺诈也成为日益增长的担忧，合成身份和AI生成的应聘者试图进入组织获取敏感系统或信息。消费者欺诈也在不断演变，通过模仿家庭成员的AI生成语音进行所谓的虚拟绑架诈骗或客户服务冒充攻击。
传统安全工具难以检测感知型攻击
报告指出，大多数网络安全投资集中在检测恶意软件、可疑邮件或受损设备，但深度伪造的操作方式不同，它们通过攻击感知而非网络。当一名合法员工在看似正常的视频会议中使用可信的笔记本电脑授权付款时，传统安全控制通常不会察觉异常。没有恶意附件需要隔离，也没有受损设备，只有一个人基于虚假视觉和音频证据做出看似合法的商业决策。这一区别解释了为何企业越来越将深度伪造检测视为一门独立的安全学科，而非现有反钓鱼技术的延伸。
Resemble AI指南建议四层防御策略
该报告建议采用多层次策略，结合四个互补的能力。第一层关注身份验证，通过活体检测和持续认证实现。第二层利用内容凭证和数字水印等技术，建立内容的出处。第三层采用AI检测系统，分析音频、视频和图像中的合成伪造痕迹，并提供可解释的结果供安全团队调查。最后一层超越检测，进行持续监控，帮助组织在虚假高管冒充、虚假品牌使用等深度伪造传播之前识别。报告指出，没有单一层能完全消除威胁，组织应假设攻击者最终会绕过单个控制点，并据此设计安全方案。
常见问答
奥雅普深度伪造事件中发生了什么？
全球工程公司奥雅普的一名财务员工在加入一场似乎包括公司首席财务官和几位同事的视频会议后，转移了近2,500万美元。调查人员后来确认，几乎每个参与者都是由AI生成的，攻击者利用逼真的合成语音和面孔，利用人类信任绕过技术安全控制。
根据Gartner，多少组织遭遇过深度伪造攻击？
根据在Resemble AI报告中引用的Gartner研究，62%的组织在过去12个月内遭遇过深度伪造攻击。近七成攻击针对视频系统，67%针对基于语音的通信，FBI 2025年互联网犯罪投诉中心报告估算，AI支持的诈骗造成的报告损失约8.93亿美元。
Resemble AI指南建议采用什么防御策略应对深度伪造？
Resemble AI指南建议采用四层防御策略，包括通过活体检测和持续认证进行身份验证，利用内容凭证和数字水印建立内容出处，部署AI检测系统分析音频和视频中的合成伪造痕迹，以及进行持续监控，提前识别高管冒充和虚假品牌使用，防止其扩散。
