AI对决AI！金融科技打响AI欺诈攻防战

（原标题：AI对决AI！金融科技打响AI欺诈攻防战）

图片来源于网络，如有侵权，请联系删除

经济观察报 记者 老盈盈

在AI（人工智能）技术快速发展的背景下，各式各样的“深度伪造”（Deepfake）随时可能在日常生活中出现，让人防不胜防。

近期，蚂蚁数字科技（下称“蚂蚁数科”）的产品技术人士在对算法进行优化时发现了一些不法分子新的欺诈手段。不法分子首先布下“钓鱼”陷阱，以银行的身份向被攻击对象发送短信或邮件链接，引导他们到其网站进行交易。等被攻击对象不慎点击进入钓鱼网站，提交了自己的姓名、身份证号、电话号码、短信验证码和支付密码后，这些不法分子就像拿到了“万能钥匙”，立刻用这些信息登录被攻击对象的手机银行，同时利用被攻击对象的照片生成高度逼真的AI深度伪造图像或视频，再通过注入式攻击（通过注入恶意代码）来劫持被攻击对象的手机摄像头，随后用预录的图像或视频，篡改或替代物理摄像头的自拍，绕过活体检测这道防线进行验证，以此实施欺诈等非法活动。如此一来，在身份验证通过后，不法分子就可以转移被攻击对象的资金，甚至还会用被攻击对象的信息申请贷款，而被攻击对象却可能浑然不知。

但“魔高一尺，道高一丈”，在11月3日至4日的香港金融科技周上，“AI对抗AI”的展位里藏着一场看不见硝烟的攻防战。在蚂蚁数科展出的宣传片中，多组机械臂在实验室中24小时连轴转、模拟身份欺诈攻击，识别图像真伪。一组配备手机摄像头的机械臂不停伸缩、对焦，反复识别着眼前的图片；另一组机械臂则精准地举起图片，稳稳递到摄像头前。计算机实时记下每一次识别的结果，再把这些数据喂给人工智能算法，让它在一次次实战中快速成长，以更好地识别出不同AI欺诈的破绽。

这不是科幻电影里的机器人觉醒，而是一场与非法人工智能的长期攻防拉锯战。当不法分子的攻击升级至新的层级，金融机构的反击必须同步攀升至更高维度，二者在攻防博弈中形成持续循环。

AI如何反击AI

在蚂蚁数科的展台前，一个名为“深度伪造生成”的互动模块吸引了不少参观者。只需拍下一张自拍，系统瞬间就能生成十几张“孪生照片”，其中只有一至两张是真实人像，其余均由AI生成。这些照片只有少数因为发型或光线变化等较为明显的破绽，能通过肉眼识别真伪，大部分都因高度逼真而难以分辨。

经济观察报记者从采访中了解到，全球有数百万不法分子正在投身AI欺诈等非法活动，这些人具备快速学习的能力，能及时吃透新技术。更为重要的是，此类非法活动能带来超高“回报”，只要投入一到两名资深技术人员发起攻击，成功盗刷银行账户一次，就有可能卷走上百万元甚至更多。

蚂蚁数科的一位产品技术人士对经济观察报记者表示，上述注入式攻击是目前比较新的一种攻击手段，以往的欺诈则多是呈现式攻击，例如用照片、视频、普通面具或三维头部面具等伪造物，直接对着摄像头呈现，以绕过活体检测。以前，这种攻击方式通常是用图像或视频处理软件进行相应修改操作，而如今则基本借助类似美颜但更高级的生成工具通过AI生成，主要表现形式为用一张脸换成另一张脸、将静态图片转换为视频、改变面部特征、拼接两张脸等。

面对这种升级版攻击，金融科技公司已布下了“防御网”。上述产品技术人士表示，他们会深入研究不法分子的各类欺诈手段，模拟其操作逻辑，利用专业设备伪造人脸、指纹等样本，进而开展针对性攻防演练。他们认为，唯有精准洞悉不法分子的作案套路，才能构建更有效的防御体系。

金融壹账通一位产品技术人士对经济观察报记者表示，他们的算法会先分析图像是否由AI工具生成或者被篡改，重点分析其是否存在算法痕迹。AI工具处理图像时会产生技术印记，这种痕迹类似用Photoshop（图像处理软件）、美图秀秀修图后留下的代码残留。

他们发现，哪怕AI生成的素材看起来和真人、真实场景高度一致，但只要检测到AI工具的使用痕迹，就可以被判定为虚假并拦截。同时，算法还会校验画面背景的一致性，若检测到视频背景重复或图像背景与真实场景逻辑不符，也会判定为可疑。

但上述两位产品技术人士也发现，面对注入式攻击，纯算法已经无法完全防范，需要从算法、终端、身份网络等多维度进行防范。比如，除了从图像层面对脸部进行识别，判断是否属于AI生成或者篡改，还需要从系统层面在事前检测用户的手机有没有被注入式攻击。

此外，AI欺诈的“战场”还从图像延伸到了声音。金融壹账通产品技术人士称，正常情况下，人们不会选择在马路等嘈杂或公开环境中进行信息认证，而会选择安静的场所；同时，因为户外环境风险较高，部分银行甚至不认可在户外拍摄的自拍照。

上述人士亦称，一些不法分子常集中在同一办公场所内轮流通话，通话中会夹杂多人说话、设备运作等杂音，这种环境下产生的声音特征是可以被识别的，算法会把这类异常背景音标记为高风险通话。此外，算法还可以模拟测谎逻辑，通过语调波动、语速变化判断说话人是否在说谎，如果用户有一定的历史语音数据，下次通话时可以实时对比，以验证身份的一致性。

落地场景应用

据上述技术人士介绍，AI反诈技术的落地场景覆盖所有需电子身份认证的领域，包括银行、保险、证券、政务服务、电商等。该技术可以理解为一个SaaS（软件即服务）产品，可灵活集成到各类应用程序中，比如嵌入到手机银行系统后，就能为其提供全流程的反诈监控服务。当然，银行作为资金集中度较高的行业和欺诈重灾区，也是技术落地较多的场景。

近期，香港特区政府从监管的层面，面向银行机构，为其提供可进行模拟AI欺诈攻防测试的计划，助力其对抗深度伪造诈骗。

10月中旬，香港金融管理局（下称“香港金管局”）公布了第二期生成式人工智能沙盒参与者名单，新一期沙盒计划标志着业界从探索AI的可能性，迈向推动安全可靠的AI应用。

香港金管局表示，在超过60个建议方案中，来自20家银行和14家技术合作伙伴的27个案例获邀进入第二期生成式人工智能沙盒。第二期沙盒计划聚焦加强AI治理，多个案例采用“以AI对抗AI”策略，例如运用AI对AI生成内容进行自动化质量检测，针对与日俱增的深度伪造诈骗风险，为开发创新防御机制提供试验场。部分参与者将运用AI进行模拟攻防测试，巩固系统以抵御更精密的数码诈骗手法。

蚂蚁数科和金融壹账通均在此次参与者名单中。上述产品技术人员称，沙盒并非实体实验室，而是搭建在云端的“虚拟测试环境”。由监管机构主导，邀请银行等机构接入测试环境中，进行案例演示与效果验证。监管机构鼓励银行应用新技术，通过沙盒环境论证技术真实性与实用性，既给行业提供了可信案例，也展示了技术合规性，增强市场对新技术的信心，入选机构还可借此证明技术经监管认可。

中银香港也在第二期沙盒名单中。中银香港一位个人金融业务人士对经济观察报记者表示，他们在个人金融领域搭建了一套AI反诈体系，该体系由内部技术部门参与研发，核心是将AI反诈模型与传统数据模型深度融合，通过对用户个人交易进行实时监控与动态风险评估，精准判断每笔交易是否存在欺诈隐患。

该名个人金融业务人士同时表示，中银香港线上开户有20万港元转账额度限制，且暂无法使用投资账户，日常转账则不受影响，若想解除所有限制，储户需到线下分行完成身份信息验证。他们了解到，部分诈骗案件中存在不法分子盗取个人信息，伪冒客户本人致电银行要求解除账户限制的情况。

该名人士亦称，中银香港的AI模型训练依托内部历史数据，此前曾计划与外部公司合作，但出于信息安全考虑，相关合作未能推进。目前，香港金管局正牵头搭建跨银行间的诈骗数据交流平台，该平台会汇总并同步各银行的相关诈骗数据，银行可通过平台查询获取这些信息。

在银行场景之外，AI反欺诈技术也已拓展至政府和民生场景，如香港居民常用的“智方便”App（手机应用程序）。经济观察报记者从采访中了解到，“智方便”是香港特区政府推出的电子身份认证平台，提供身份验证、自动填表、个性化提示及数码签署等核心功能，支持市民通过生物认证登录政府及公私营机构在线服务，服务范围涵盖税务、医疗、教育、交通等民生领域。在使用该平台的服务前，用户需要进行面容或指纹等生物识别及身份证扫描认证，这个环节则需要AI防御系统，以确保是真人操作。

对此，一位汇丰香港对公业务人员对经济观察报记者表示，他们即将面向中小型企业推出一款新的企业服务，此项服务主要为香港中小型企业提供量身定制的专项信贷方案，以及创投债务融资。这项服务接入了上述“智方便”App，通过其生物识别功能来验证开户企业主信息的真实性。 

日常训练AI攻防

上述多位银行和金融科技机构的人士对记者表示，对于AI模拟应用，他们更注重日常针对性地训练与知识学习，使其在后续遭遇诈骗、洗钱等场景时，能够快速作出响应。

上述中银香港的业务人士表示，中银香港的个人金融业务，每日能产生数百万条个人金融交易数据，为AI模型提供丰富的训练样本。他们通常会接收各类案件报告，提取其中不法分子的相关信息，包括其账户及用于转账验证的关联账户，并全部列入黑名单，若这些账户再次启用，会直接进行管控；同时，他们也会受理香港金管局移交的举报线索，针对同一类型的诈骗行为，会进行归类并纳入数据库，供AI通过大数据学习以往各类诈骗模式与特征；未来，希望AI能依托这些学习成果，对每一笔转账同步开展风险评估，精准识别疑似诈骗的交易行为，进而实现交易冻结或向客户发送风险提醒的功能。

入选香港金管局第二期沙盒计划的金融科技公司Dyna.AI的产品人士亦对经济观察报记者表示，在日常反诈训练工作中，他们会以打标数据为基础开展模型训练。所谓打标数据，是指银行内部专家按合规要求，人工分析筛选出的可疑交易并确认后上报监管的数据。因为相关数据均需遵循严格的合规要求，不能流出银行系统，他们的团队会派技术人员驻场，在银行系统内搭建模型。若需采集用户人脸等样本数据，则需先经用户授权银行，再由银行授权团队在其内部开展相关工作。

上述Dyna.AI产品人士同时称，传统预设的规则易出现大量漏报、误报的问题，若系统只会机械执行这些明确的规则，遇到新的欺诈手段，若未提前添加对应规则，就会漏报、误报。在这种情况下，他们需要技术人员逐一核对数据，确认为真实可疑的交易再上报监管。

该名人士亦称，他们的训练一方面会借助历史打标数据优化现有规则，弥补系统漏洞，另一方面也会让模型通过学习这些数据，剔除以往常见的误报情况，最终输出精准的上报数据。原本的系统未必能精准地识别现有规则的相关内容，但经过针对性的训练后，它会更聚焦于防欺诈相关场景，进而识别出目前尚未被抓取、未归入系统的不法分子关联信息。