防治AI换脸滥用需要“道高一丈”
事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。不过,该技术一旦被用于违法犯罪,由于其足以产生以假乱真的效果,那么就会让人防不胜防,进而给公民个人财产安全带来威胁,并给网络空间秩序的维护、违法犯罪的打击治理带来挑战。

防治AI换脸滥用需要“道高一丈”

来源:法治网2023-05-28

近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。

事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。不过,该技术一旦被用于违法犯罪,由于其足以产生以假乱真的效果,那么就会让人防不胜防,进而给公民个人财产安全带来威胁,并给网络空间秩序的维护、违法犯罪的打击治理带来挑战。

其实,我国法律对此类违法犯罪行为的态度是非常明确的。我国民法典、个人信息保护法均明确规定,公民肖像权、个人信息权益受法律保护。为了实现对电信网络诈骗的源头治理与综合治理,去年我国还专门出台了反电信网络诈骗法。特别需要指出的是,为了加强对深度合成技术的规范管理,去年12月,多部门还联合发布了《互联网信息服务深度合成管理规定》。这些都为打击治理此类违法犯罪提供了明确的法律依据。

当然,在完善法律法规的同时,也需要监管部门与时俱进运用先进技术、优化相关机制,不断提升打击治理此类违法犯罪的能力。在此次案件中,警方联动银行迅速启动止付机制,及时帮受害人挽回大部分损失,就非常值得肯定,这也启示相关部门要时刻加强专业能力建设。

技术从来都是一把双刃剑,技术治理也是一场永恒的攻防对抗博弈。面对技术发展衍生的违法滥用问题,只有“道高一丈”,完善法律制度与强化监管并举,加大反诈宣传与提升技术反制能力同行,才能更好“校准”技术运用方向,让技术进步真正为人类谋福祉。

无障碍
推荐 | 要闻 重庆 两江评 | 区县 教育 文艺 | 健康 财经 生活 | 问政 汽车 直播 | 政法 视听 专题 | 鸣家 史家 旅游 | 房产 国企 原创 | 应急 信用 新闻发布
  • 站内
站内
分享
新浪微博
微信

防治AI换脸滥用需要“道高一丈”

2023-05-28 20:49:17 来源:

近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。

事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。不过,该技术一旦被用于违法犯罪,由于其足以产生以假乱真的效果,那么就会让人防不胜防,进而给公民个人财产安全带来威胁,并给网络空间秩序的维护、违法犯罪的打击治理带来挑战。

其实,我国法律对此类违法犯罪行为的态度是非常明确的。我国民法典、个人信息保护法均明确规定,公民肖像权、个人信息权益受法律保护。为了实现对电信网络诈骗的源头治理与综合治理,去年我国还专门出台了反电信网络诈骗法。特别需要指出的是,为了加强对深度合成技术的规范管理,去年12月,多部门还联合发布了《互联网信息服务深度合成管理规定》。这些都为打击治理此类违法犯罪提供了明确的法律依据。

当然,在完善法律法规的同时,也需要监管部门与时俱进运用先进技术、优化相关机制,不断提升打击治理此类违法犯罪的能力。在此次案件中,警方联动银行迅速启动止付机制,及时帮受害人挽回大部分损失,就非常值得肯定,这也启示相关部门要时刻加强专业能力建设。

技术从来都是一把双刃剑,技术治理也是一场永恒的攻防对抗博弈。面对技术发展衍生的违法滥用问题,只有“道高一丈”,完善法律制度与强化监管并举,加大反诈宣传与提升技术反制能力同行,才能更好“校准”技术运用方向,让技术进步真正为人类谋福祉。

亲爱的用户,“重庆”客户端现已正式改版升级为“新重庆”客户端。为不影响后续使用,请扫描上方二维码,及时下载新版本。更优质的内容,更便捷的体验,我们在“新重庆”等你!
看天下
[责任编辑: 何杜娟 ]
发言请遵守新闻跟帖服务协议
精彩视频
版权声明:
联系方式:重庆华龙网集团股份有限公司 咨询电话:60367951
①重庆日报报业集团授权华龙网,在互联网上使用、发布、交流集团14报1刊的新闻信息。未经本网授权,不得转载、摘编或利用其它方式使用重庆日报报业集团任何作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”或“来源:华龙网-重庆XX”。违反上述声明者,本网将追究其相关法律责任。
② 凡本网注明“来源:华龙网”的作品,系由本网自行采编,版权属华龙网。未经本网授权,不得转载、摘编或利用其它方式使用。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”。违反上述声明者,本网将追究其相关法律责任。
③ 华龙网及其客户端标明非华龙网的确定来源或未标注华龙网LOGO、名称、水印的文字、图片、音频、视频等稿件均为非原创作品。如转载涉及版权等问题,请及时与华龙网联系,联系邮箱:cqnewszbs@163.com。
附:重庆日报报业集团14报1刊:重庆日报 重庆晚报 重庆晨报 重庆商报 时代信报 新女报 健康人报 重庆法制报 三峡都市报 巴渝都市报 武陵都市报 渝州服务导报 人居周报 都市热报 今日重庆
关闭