Facebook上有视频称，国际刑警组织（Interpol）可以帮助投资诈骗受害者追回损失。表面看似善意的邀请，背后却是一场令人不寒而栗的骗局。
澳洲华女Sunni Wan在2023年被骗走了4.9万澳元。直到今年早些时候，她才发现自己的面部信息遭盗取，被用来制作AI诈骗视频。
这段视频制作“精良”，令她既感到恶心，又担心其他人会因此上当。
视频画面中的Wan情绪激动，实际取自她接受澳洲媒体采访的片段。此前，她曾为数百名HSBC客户争取赔偿。
如今，连同那段时期的情绪创伤，她的身份又被用于如此阴险的诈骗，这让她难以接受。
Facebook上的帖子。Hong Kong Daily是一个虚假出版物。图片：供图
这名单亲妈妈担心，视频中自己占据显眼位置，可能会让新的受害者找上门来。她还在社交媒体上运营网红账号，TikTok粉丝达2.8万人。
Wan告诉澳洲新闻集团，发现自己的脸被这样利用时，她“非常震惊”，因为自己本身就是受害者，诈骗者却拿她的经历去诈骗更多受害者。
她表示，自己也替那些被视频吸引的人难过，并认为相关平台应该能够阻止这种事情发生。
网络安全公司Infoblox调查了这些广告。该公司表示，正在追踪一名实施者：对方借助虚假新闻页面推广制作精良的AI视频广告，再把用户导向承诺“奇迹般翻盘”的诱导网站。Infoblox形容，这像是一部“没人要求的续集”。
Meta在泄露的内部文件中预计，2024年可从诈骗广告获得数百万美元。香港媒体报道此事后，Meta撤下了使用Wan画面的广告，但Infoblox说，网上仍然有大量同类内容。
Infoblox透露，幕后说俄语的实施者正在快速更换策略，大规模推出新的品牌、域名和法律服务。
澳洲新闻集团的一项调查，正着眼于AI在短短几年内已经给澳洲社会带来的广泛人为影响。
Sunni Wan在三年前成为诈骗受害者，如今发现自己出现在一段AI制作的诈骗视频中，感到十分愤怒。图片：供图
AI会如何加剧“诈骗末日”？
Thomson Reuters Institute最近发布的报告警告，全球正在发生的“诈骗末日”可能因AI而加速，Wan的遭遇也发生在这一背景下。
报告预测，到2027年，AI可以持续试验各种诈骗套路，根据防御措施实时改变策略，并且全天候运作，不会疲惫，也不容易出错。
报告说，诈骗者如今可以同时进行数千次实验，优化攻击方式，不必再依靠人工反复试错。深度伪造、声音克隆、合成身份和语法完美的钓鱼信息，也会抹去过去那些能够暴露骗局的传统破绽。
AI诈骗已经在澳洲造成影响。
维州警方10月发出警告，称针对说普通话人士的AI诈骗电话正在广泛出现。诈骗者冒充医生、全科医生或外科医生，导致受害者损失数万澳元。
在其中一宗案件里，诈骗者复制了受害者认识的一名医疗专业人士的声音，并要求受害者在3天内买下价值5万澳元的礼品卡。
她担心其他诈骗受害者被诱骗，最后损失更多钱。图片：Instagram
目前，Scamwatch不会记录已举报诈骗是否使用AI。该机构认为，消费者的报告无法可靠判断诈骗中有没有使用AI，但也指出，部分报告者可能会提及AI、深度伪造、声音克隆或类似技术。
Scamwatch为这项决定辩护，称相关说法都是自行报告、未经核实，不能据此完整而可靠地统计AI诈骗数量或造成的损失。
AI让诈骗者获利的能力也在增强。凭借越来越高的技术水平，虚假网站、发票、文件和应用程序都可以在几秒内生成。
美国2025年的数据表明，提到AI的投诉只占全部投诉的2.2%，却涉及4.3%的财务损失。
每宗AI相关事件的平均损失为3.9935万美元（5.73万澳元），接近其他事件平均损失2.41万美元（3.46万澳元）的两倍；同时，AI诈骗的增长速度也超过非AI诈骗。
音频深度伪造AI的危险
AI正在“培养”诈骗受害者
诈骗心理学专家Martina Dove博士说，过去几年诈骗活动因诈骗园区而大幅增加。随着各地加强打击并关闭这些园区，AI很可能接替它们。
近年来，东南亚多个国家的诈骗园区不断扩张。它们通常与有组织犯罪网络相连，涉及人口贩运、拘禁，以及把受害者关在类似呼叫中心的环境中强迫行骗。
Dove指出，长期投资诈骗和恋爱诈骗等最有效的骗局，往往都包含逐步取得受害者信任的过程；她认为，AI已经在这一环节产生巨大影响。
她说，在AI出现之前，诈骗者必须花力气把自己包装得可信，一旦有地方不对劲，多数人就会提高警觉。
但如今，制作虚假网站、发票、文件和应用程序只需几秒，成本很低，成品却足以以假乱真。Dove说，这项技术过去既耗时又昂贵，还需要复杂技能，现时诈骗者的投入极小，回报却非常可观，而且这种趋势会延续下去。
研究人员、诈骗心理学专家、《诈骗、说服与诈骗技巧心理学》作者Martina Dove博士。图片：供图
相比之下，她更担心AI代理参与“培养”受害者的过程。
Dove说，人们往往喜欢机器人，因为机器人礼貌、会认真听取需求，做错事时还会积极道歉。如果诈骗者懂得按照目标的处境、喜好和厌恶来定制话术，把这部分工作交给AI机器人，培养信任的效果可能更强。
她认为，这是一件强大的工具，效果可能是诈骗园区的100倍，而诈骗者已经开始以这种方式使用AI。
在她看来，AI会扩大诈骗者可利用的受害者范围。过去不容易上当的人，如今也可能因无法判断真假而陷入风险。
有多少澳洲人预期会成为AI犯罪受害者？
澳洲犯罪学研究所（AIC）今年2月公布的研究显示，半数澳洲成年人担心AI会被用来伤害自己；五分之一的人预计，未来12个月内可能成为AI相关犯罪的受害者。
受访者担心，AI可以破解密码、帮助实施网络犯罪，也可以模仿他们的声音或脸部进入账户，诱骗亲友提供钱财或敏感资料，甚至生成黑客攻击和恶意软件所需的代码。
RMIT的Joshua Dwight博士表示，澳洲人的担忧并不夸张。他说，AI诈骗领域出现了“真正可怕”的情况，包括照片遭操纵，以及利用冒充身份的电子邮件行骗。
Dwight说，目前已有AI模型能在3至15秒内克隆一个人的声音。收集到的声音资料越多，克隆效果就会越好；他近期观察到，这类声音已经变得非常逼真，电话和音频通讯应用很难分辨真假，许多人都会受到影响。
Joshua Dwight博士是位于河内的RMIT越南分校计算技术副项目经理。图片：供图
Dwight说，如果恶意行为者利用目前免费的模型开发出“犯罪AI”，他也不会意外。
他以计算机入侵为例说，联邦调查局和其他执法机构通常会把这种行为视为犯罪；如果ChatGPT实质上入侵Hugging Face，同样属于计算机入侵。
他认为，真正危险的是，有些公司会关注这些问题，但犯罪者的出发点完全不同。只要能达到自己的目的，他们并不在乎是否会摧毁其他东西。
面对AI诈骗，还能采取哪些措施？
Thomson Reuters Institute报告称，留给各机构准备应对AI诈骗冲击的时间只有12个月。不过，报告也列出了应对办法。
报告认为，单靠交易监控和事后取证并不足够，银行还要分析客户行为，并在实时情况下介入。
原因在于，各行业看到的是诈骗链条的不同部分：银行看见交易，却看不见受害者如何被逐步操控；社交媒体看得到关系建立，却看不到造成的财务伤害；电信公司能发现社会工程，却看不到账户遭接管。因此，所有行业必须合作防诈骗。
报告说，许多金融机构的瓶颈在于运营准备不足。反诈骗团队缺人，针对新型诈骗手法的培训水平不一，现有工具也让分析师只能手动把分散在不同系统里的数据拼接起来。
报告警告，反应过慢的企业可能遭遇监管反弹和市场份额流失；等到完全自主的诈骗启动时，还可能承受灾难性的风险暴露。
Dove指出，除了行业合作，各国也需要联手。
她说，跨境起诉并不容易，但只要各国结成联盟，明确各自责任，并界定放任诈骗在本国司法管辖区内不受惩罚的后果，跨境追责并非不可能。
她还主张，社会不应继续停留在泛泛而谈的诈骗教育上。
Dove说，社会在技术上投入了大量资金，但诈骗者真正针对的是人。他们会花时间了解目标，设计符合人性运作方式的骗局，这正是诈骗有效的原因。
她表示，自己研究诈骗已经超过10年，也一直倡导在防诈骗领域加入更多了解诈骗心理学的人，但情况几乎没有改变。如今AI进一步发展，社会必须把重点放回人本身，提供真正优秀、具有吸引力的教育。
Scam Victims Alliance副主席Alex Brooks。图片：供图
“灾难性后果”
Scam Victims Alliance副主席Alex Brooks最先在AI制作的Facebook广告中认出Wan，但她说，这个发现并没有让自己感到意外。
她说，诈骗已经让受害者经历了一次次新的低谷，而针对像Sunni这样站出来发声的人，让她“更是心痛”。在她看来，这是维持非法资金流向诈骗者的又一招数。
Brooks认为，AI模型的想象力超过任何犯罪策划者。由AI驱动的诈骗网络可以构思更好、更新的方案，以人类难以跟上的速度不断优化和迭代；智能体系统甚至能在不留痕迹的情况下完成这些工作，最近由OpenAI智能体引发的一宗Medicare数据泄露事件便说明了这一点。
她说，真正危险的不是AI代理能够进入、并将进入计算机系统，而是目前没有法律明确规定：如果个人或企业因此遭遇灾难性后果，究竟应该如何处理。
她表示，有组织网络多年来一直在利用澳洲的监管漏洞，AI只会让澳洲面对更大风险。
据怀疑，这宗诈骗源自俄罗斯。图片：供图
在Facebook播出的影片截图。图片：供图
银行、电信公司和大型科技公司如何应对AI诈骗？
澳洲电信联盟首席执行官Luke Coleman说，电信公司自2020年以来已经拦截超过30亿个诈骗电话和超过10亿条诈骗短信。
他说，根据竞争与消费者委员会（ACCC）国家反诈骗中心的数据，电话是财务损失降幅最大的诈骗接触方式，相关损失同比减少32%。
他还介绍，Telstra和CommBank已试行诈骗提示服务，让CBA能够检查客户是否正在通话，因为这通常是诈骗发生的重要迹象。
Optus则与银行合作推出“Call Stop”项目，把诈骗短信中的回拨号码转接到警告信息。
澳洲银行业协会首席执行官Simon Birmingham。图片：NewsWire/Martin Ollman。
澳洲银行业协会首席执行官Simon Birmingham最近向AI联合特别委员会表示，诈骗者将越来越多地使用自主代理探查系统、冒充客户，并以任何人类团队都难以匹敌的速度调整策略。
他说，银行大规模运用AI，是唯一可能的防御方式。目前，银行每天用AI筛查2000万笔支付，并向客户发出超过4万条实时警告。
Birmingham说，银行还在部署AI机器人，与诈骗者互动、收集情报并瓦解诈骗网络。
大型科技公司的行业机构Digital Industry Group表示，《诈骗预防框架》预计明年3月生效，但目前仍在完善，因此暂时无法发表评论。
与此同时，Choice呼吁把AI聊天机器人、电子邮件服务、自然搜索、线上市场和交友应用纳入新的《诈骗预防框架》。
