浙江绍兴破获多起涉人工智能案3人被抓

今年6月，浙江绍兴上虞区警方发现，有网友发布了一段有关上虞工业园区火灾的视频，短时间内浏览量迅速增加。 视频中，上虞区一工业园区发生猛烈火灾，整个园区笼罩在浓烟中。 爆炸声不时传来，场面惊心动魄。

警方核实，视频中的建筑物和森林火灾场景并非工业园区的真实场景，疑似来自其他视频。 经分析，警方认定该视频是利用人工智能合成技术将网络上多个不同视频片段拼接而成。 经侦查，警方认定某网络科技公司员工涉嫌作案，立即前往该公司所在地抓获唐某等三名犯罪嫌疑人。

“犯罪嫌疑人首先收集网络热点话题，通过生成式人工智能服务自动生成脚本，从网上抓取相关视频片段，然后利用AI软件合成带有音乐和字幕的完整视频。不到一分钟，假视频将‘新鲜出炉’。” 上虞区局民警沉林峰介绍，为了博取流量、吸引眼球，今年5月以来，该团伙利用人工智能技术制作虚假视频、散布谣言，在网上发布未经证实的视频。 总共有3000多个假视频。

随着人脸识别技术越来越普及，一些不法分子开始利用“AI换脸”等技术实施盗窃、诈骗等犯罪行为，引发公众对个人信息保护的担忧。

“我的APP好像被黑了！” 今年4月13日，朱女士到当地派出所报案，称有人登录政府APP，擅自下载了朱女士公司的电子营业执照。 当地公安机关接到报警后，迅速展开调查，很快确认曾某涉嫌重大作案。

经审查，犯罪嫌疑人曾某某使用手机号码注册账户，并通过朱女士的姓名、身份证号等信息进行实名认证，再通过人脸识别进行绑定，最终成功登录。实施犯罪的帐户。

“曾某某通过网购店铺引流，利用‘顾客’提供的人脸照片，利用专业人工智能软件制作合成人脸动画，利用人脸识别验证登录各类APP，非法获取相关信息。” 办案民警说道。 。

“每笔交易的价格都不一样，我只是以为这样会更容易赚钱，没想到我触犯了法律。” 曾先生后悔了。 据了解，曾某通过此类手段创作了1000多个动态面孔，获利9万多元。 目前，曾某某已被采取刑事强制措施，案件正在审理中。

公安部网信局相关负责人表示：“不法分子实施‘AI换脸’的材料主要是照片，特别是身份证照片，并与人名相结合。和身份证号码，以突破人脸识别验证系统。” 为预防和打击这一新型犯罪，公安机关联合科研单位开展人脸识别、活体检测技术安全评估，覆盖国内用户数量较多、问题突出、隐患突出的各类重点APP。并及时发现人脸识别验证系统的存在。 据介绍，公安机关依托“清网”专项行动，组织专项攻坚战，严厉打击违法犯罪源头。泄露身份证照片等图像信息，破获多起“AI换脸”案件，相关犯罪嫌疑人被抓获，有效遏制了此类犯罪势头。

“不法分子滥用人工智能技术，给社会造成严重危害，违反相关法律。” 警方表示，根据法律规定，利用人工智能技术制作、传播虚假信息，扰乱社会秩序，可能构成捏造、故意传播虚假信息。 犯罪; 利用人工合成技术破解他人账户、窃取他人个人信息的，可能构成侵犯公民个人信息罪。 此外，如果利用人工智能等科技手段实施欺凌、恐吓、威胁等行为，还可能构成寻衅滋事罪。

人工智能技术操作简单、可定制性强、应用场景广泛，降低了连锁犯罪的难度，被黑客等犯罪分子利用时危害极大。 据介绍，对于人工智能技术产生的新应用、新业态，公安机关要坚持价值引导和技术“纠错”并行，在保障人工智能技术健康发展的同时，防范和打击利用人工智能技术侵犯公民权利、危害公共安全的。 维护网络环境风清气正，全力保障网络空间安全。

办案民警提醒，警惕利用人工智能技术实施新犯罪。 建议个人增强信息保护意识，防止信息泄露，不要轻易向他人提供人脸、指纹等个人生物识别信息； 管理好自己的“朋友圈”，尽量避免过多暴露自己的隐私； 警惕不明平台发送的广告、抽奖等链接，不要随意点击或填写信息，以免上当受骗。

《人民日报》（2023年10月26日第18页）