近期,社会上出现了不法分子利用“AI换脸”诈骗的案件。不法分子利用仿真技术冒充亲人、同事或公职人员声音相貌行骗,此类新型网络诈骗手段多样、门槛降低、辨别难度加大,容易令公众放松警惕,造成财产损失。

当前,互联网、大数据、云计算、人工智能等新技术深刻演变。特别是今年以来,与生成式人工智能相关的各种新技术不断迭代,相关场景应用不断丰富。如何不断提升生成式人工智能技术的安全性、可靠性、可控性、公平性需要倍加关注。

据相关部门介绍,不法分子利用非法获取的个人信息,通过计算机算法仿真合成受骗者亲人、领导同事或公职人员的肖像面容与声音,冒充上述人员身份行骗。在获得受害者信任后使用事先准备好的套路话术向受害人发送银行卡转账、虚拟投资理财、刷单返利等诈骗信息,并利用视频通话、语音轰炸等手段进一步降低受害者的防备,受害者往往在短时间内难以察觉异样,一旦听信诈骗分子的骗术并完成转账,对方便杳无音信。

万变不离其宗,利用新技术诈骗与传统诈骗行为在本质上没有区别。作为应对,公众要加强个人信息保护,谨防重要信息泄露,仔细辨识存在个人信息泄露的风险点;在涉及转账汇款等资金往来时,要通过拨打对方手机号、当面核实等渠道多方核实、查验真伪,不要仅凭单一沟通渠道未经核实就转账汇款。

近年来,我国加快推进网络安全领域立法。颁布数据安全法、个人信息保护法等法律法规,出台《生成式人工智能服务管理暂行办法》等政策文件,让网络安全工作在法治化轨道上运行。有法必依、执法必严、违法必究是法治的核心要义。相关政府部门要加强监督管理,及时发布风险提示。

人工智能是科技发展新领域。在国际上,我们要进一步拓展人工智能领域合作,加强信息交流和技术合作,共同做好风险防范,形成具有广泛共识的人工智能治理框架和标准规范。

分享让更多人看到