技术防伪3.0时代来临 大模型可抵御未知新型攻击-华龙网

技术防伪3.0时代来临 大模型可抵御未知新型攻击

2024-05-05 20:53:27 来源: 华龙网 听新闻

华龙网讯 5月5日,VALSE(中文全称:2024视觉与学习青年学者大会)在重庆开幕,本次会议由中国人工智能学会、中国图象图形学学会等权威机构主办、中国科学院院士胡事民、中国电信首席技术官李学龙、重庆邮电大学校长高新波等100多位知名专家学者分享前沿新知,吸引5000多位行业人士到场。马上消费人工智能研究院院长陆全作了题为“金融场景下的多模态理解与生成——大模型时代下的防伪挑战与机遇”的主题技术分享,引起广泛关注。

“Sora的发布无疑是技术领域的一次重大突破,但也会降低AI伪冒门槛,潜在引发Deep fake等黑色产业链滋生蔓延。”陆全在技术宣讲中开门见山地说,多模态生成大模型为金融黑产提供了“先进武器”,仅2023年,国内黑产欺诈引发的经济损失达1149亿元,金融业务欺诈金额达75亿元,国家监管机构持续预警,金融机构声誉严重受损,金融客户合法权益不时受到侵害。

图片1
马上消费人工智能研究院院长陆全作主题分享。马上消费供图 华龙网发

利用生成式AI技术衍生的金融“黑产”技术,对传统人工智能技术的人脸识别等防伪技术产生巨大挑战。马上消费已与武汉大学等多所大学联合研发,利用多模态大模型的最新技术:基于声波特征,图片和视频等多模态特征进行微调而构建的多模态防伪大模型——构建未来金融防伪和打击黑产的技术体系。

在经历了21世纪初Gabor/LBP局部特征引入商用的1.0技术防伪时代,2012年以卷积神经网络CNN兴起为代表的2.0技术防伪时代后,2023年至2024年,Gemini/Sora等多模态大模型发布,预示着3.0技术防伪时代来临——可以利用大模型技术有效防御从未出现的新型攻击。

以某银行大额业务场景为例,马上消费多模态大模型技术团队经过技术攻坚,成功应对客户方的高标准项目需求:对算法结果要求大于98%的高识别准确率;客户攻击数据多样,需要模型具有超强的泛化能力;定制化需求多,需要考虑建立完善的人机协同防御体系。从实际效果来看,该项目人脸和声纹相结合的核验防伪技术,将整个系统的安全性提高了一倍;已保障过亿转账资金安全落地;多模态防伪大模型将AI换脸、照片活化、视频翻拍等常见攻击方式的拦截率提升到98%。

在科技能力的加持下,金融行业打击黑产的效果越发显著。由马上消费研发的“爱马”平台试点以来,累计导入黑产数据3万多条,累计发现可用于联合打击数据近百条。

据主办方介绍,本次大会得到了业内顶尖的AI企业代表——华为、马上消费、美团、百度等技术企业的大力支持,期待这些企业能够与上述专家、学者深入交流,顺利达成产学研合作机会。

图片2
马上消费展台向与会师生展示科技能力及招贤机会。马上消费供图 华龙网发

责任编辑:文倩