谨防“AI换脸”等新型欺诈手段的风险提示！

近日，著名小品演员、相声演员“说英语”的视频震惊大众。 据央视11月5日报道，视频网站利用人工智能换脸。 国产影视剧的主角都是用英语说台词的。 人们还可以通过小程序把自己变成电影中的角色。 这项新技术给人们带来欢乐的同时，也带来了一种新的骗术，叫做“AI换脸诈骗”。 犯罪分子利用“AI换脸”功能，通过虚拟摄像头与受害者聊天。 相似度可以高达80%，计算机合成一个10秒的换脸视频只需要一两分钟。 为此，国家金融监管总局北京监管局近日发布风险提示，谨防“AI换脸”等新型诈骗手段。

“AI换脸”来了，让很多人感受到人工智能技术正在改变我们的生活。 除了用于开发小型娱乐软件外，人工智能技术正在广泛应用于医疗、新闻传播、生物多样性监测等领域，其发展前景值得期待。

人工智能技术正在快速发展，技术升级迭代的速度超出了很多人的想象。 就文本写作而言，如今相关技术可以在短时间内将短材料生成复杂的内容，非常专业且便捷。 过去，人工智能合成语音相对粗糙、生硬。 现在合成的语音不仅具有与真人相同的语气、语气和声音，甚至还有情感。

此外，某些人工智能技术的可及性有所提高，公众的应用门槛有所降低。 用户不需要专业知识和技能就可以使用一些人工智能软件，有些产品甚至实现了“傻瓜式操作”。 例如，很多视频编辑软件或者短视频平台都具有生成方言语音的功能。 用户通过输入文字或语音素材，即可即时生成生动的方言字幕，丰富自己视频作品的风格。

以“AI换脸”为例。 行业门槛并不像人们想象的那么高。 通过开源算法，普通工程师“分分钟”就能制作出一款换脸软件，这就导致源头控制自然困难。 几年前，一位国外工程师基于一个算法开源项目开发了一款换脸软件。 一时间，不少人参加网络视频会议时变成“阿凡达”、“马斯克”，令人啼笑皆非。

问题出现了。 首先，人工智能终端产品已经铺天盖地，但识别技术和设备尚未普及。 其次，相关监管约束没有及时跟上技术发展的步伐。 这些在很大程度上给某些人工智能技术的滥用提供了空间，引发了公众的担忧。

值得注意的是，相关监管一直在持续发力。 近年来，国家网信办等部门先后出台了《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等政策文件，并先后开展“互联网深度合成算法注册”和“大语言模型算法注册”等相关工作，有力促进了生成式人工智能的健康发展和规范应用，对生成式人工智能的使用形成了强有力的震慑。 AI以变脸、变声等手段实施违法犯罪。 与此同时，一些领先的互联网平台也在探索算法检测、软件识别等方法来识别人工智能生成的产品，并向公众提供解释，以缩小信息差距，增强公众的防范意识。

一项新技术的落地往往会经历一段“成长的烦恼”，这是新事物发展过程中的通病。 比如，近年来共享单车押金难退、伤亡责任纠纷、直播虚假推销商品、售后服务难找等问题，是相关各方解决共享单车问题的共同想法。问题在于加快监管步伐，不断补充法律法规、行业公约等“拼图”。 同样，在某些人工智能技术的应用门槛不断降低、触角越来越广的时候，需要积极研究和应对问题，研究出台有效措施，划定新领域的边界。技术使用、相关权利和责任等。工作更快，空白更少，规范更多。

某种程度上，人工智能技术的使用有多方便，可能存在风险和变数。 防止“AI换脸”等人工智能技术被滥用，需要加强人脸、声纹、指纹、步态等生物识别信息数据的安全保护。 这需要大家增强防范意识，也需要监管部门加快完善监管的进程。 （本报评论员 吴迪）