【地评线】渝论 | 识破“AI换脸”诈骗还要靠慧眼
近期,不少网友发现直播间多了一批卖货的“当红女星”,但表情略显生硬。这些“明星”其实是用人工智能(AI)实时换脸技术生成的。

【地评线】渝论 | 识破“AI换脸”诈骗还要靠慧眼

来源:华龙网-新重庆客户端2023-05-26
直播间里好多“明星脸”?ai换脸小心惹祸上身3

近期,不少网友发现直播间多了一批卖货的“当红女星”,但表情略显生硬。这些“明星”其实是用人工智能(AI)实时换脸技术生成的。他们冒充明星艺人,只为增加卖点,助力卖货……随着AI换脸的应用范围越来越广,有不法分子开始利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。如此以假乱真,让人防不胜防。骗术“与时俱进”,我们的防骗意识也不能落伍。

互联网为我们生活的方方面面提供了诸多便利,但也意味着我们的个人信息与和众多企业发生了关联。为充分获取用户价值,平台往往会通过默认机制获取更多用户信息,但却在数据保护工作上存在很多缺陷,这除了平台增强技术建设,更需要法律加强监管。

面对更为复杂的网络环境,我们需要防范意识。下载运用时一定要选择通过正规渠道,安装软件前仔细阅读安装须知,从使用软件的实际必要出发,合理开启权限。牢记“天上不会掉陷阱”,自觉抵御各种诱惑,不要点击不明链接,及时安装防诈骗和拦截软件。

网络诈骗屡禁不止,主要原因是犯罪成本低、取证难。其实施可以随时随地进行,如果案犯在境外犯罪,还涉及管辖问题,更难侦破。此外,取证也是一大难题,如果不能证明案犯诈骗了较大数额,那案犯的刑罚就较轻,不能有效遏制犯罪。有些被害人被骗后,出于各种考虑不愿报案,或是不配合警方调查,更加大了警方取证的难度。除了加大执法力度,更需要创新联合执法,探索跨地域甚至跨国家的打击行动机制。

新的犯罪形式也为法律提出了新的问题,需要不断完善。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。随着制度设计更精准,相关立法更健全,AI诈骗有望得到有效遏制。

作者:樊耀文

g37hYLUPG2ppiXVIzlaTpm663QSBAm8iuuf
分享
新浪微博

【地评线】渝论 | 识破“AI换脸”诈骗还要靠慧眼

2023-05-26 06:00:00 来源:
直播间里好多“明星脸”?ai换脸小心惹祸上身3

近期,不少网友发现直播间多了一批卖货的“当红女星”,但表情略显生硬。这些“明星”其实是用人工智能(AI)实时换脸技术生成的。他们冒充明星艺人,只为增加卖点,助力卖货……随着AI换脸的应用范围越来越广,有不法分子开始利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。如此以假乱真,让人防不胜防。骗术“与时俱进”,我们的防骗意识也不能落伍。

互联网为我们生活的方方面面提供了诸多便利,但也意味着我们的个人信息与和众多企业发生了关联。为充分获取用户价值,平台往往会通过默认机制获取更多用户信息,但却在数据保护工作上存在很多缺陷,这除了平台增强技术建设,更需要法律加强监管。

面对更为复杂的网络环境,我们需要防范意识。下载运用时一定要选择通过正规渠道,安装软件前仔细阅读安装须知,从使用软件的实际必要出发,合理开启权限。牢记“天上不会掉陷阱”,自觉抵御各种诱惑,不要点击不明链接,及时安装防诈骗和拦截软件。

网络诈骗屡禁不止,主要原因是犯罪成本低、取证难。其实施可以随时随地进行,如果案犯在境外犯罪,还涉及管辖问题,更难侦破。此外,取证也是一大难题,如果不能证明案犯诈骗了较大数额,那案犯的刑罚就较轻,不能有效遏制犯罪。有些被害人被骗后,出于各种考虑不愿报案,或是不配合警方调查,更加大了警方取证的难度。除了加大执法力度,更需要创新联合执法,探索跨地域甚至跨国家的打击行动机制。

新的犯罪形式也为法律提出了新的问题,需要不断完善。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。随着制度设计更精准,相关立法更健全,AI诈骗有望得到有效遏制。

作者:樊耀文

g37hYLUPG2ppiXVIzlaTpm663QSBAm8iuuf
亲爱的用户,“重庆”客户端现已正式改版升级为“新重庆”客户端。为不影响后续使用,请扫描上方二维码,及时下载新版本。更优质的内容,更便捷的体验,我们在“新重庆”等你!
看天下
[责任编辑: 伊永军 ]
发言请遵守新闻跟帖服务协议
精彩视频
关闭