上万个AI应用程序智能体等被处置！南都曾起底声音克隆乱象

7月6日，上万“网信中国”通报显示，应用程音克自4月启动的序智象“清朗·整治AI应用乱象”专项行动已取得阶段性成果，累计处置违规网站、体南都应用程序、等被底声智能体等AI产品逾1.4万款，处置下架违规AI商品1300余个。曾起与此同时，隆乱南都N视频《AI魔性侵权乱象系列调查》持续跟进，上万聚焦声音克隆与虚拟伴侣等领域的应用程音克乱象。调查揭示，序智象在部分AI创作平台上，体南都用户仅需上传3秒原声即可克隆音色，等被底声并随意篡改台词，处置侵权风险极高。曾起

南都此前报道。

中央网信办在第一阶段专项行动中，重点整治大模型备案缺失、平台安全审核能力薄弱、AI数据投毒以及生成内容标识落实不到位等突出问题。据统计，第一阶段共处置违规AI产品1.4万余款，清理违法违规信息600余万条，封禁账号2.6万余个，下架违规AI商品1300余个及违规开源数据集9个。

各地网信部门强化属地管理责任，实施精准监管。例如，北京网信办构建“平台自查+常态巡查+技术筛查+线索核查”联动机制；上海网信办细化平台分类要求，指导升级举报机制并发布治理公告；广东网信办建立多部门协调监管体系，通过技术巡查、人工复核、现场督导及约谈惩戒等手段，对AI应用乱象实施全链条治理。

南都N视频《AI魔性侵权乱象系列调查》深入剖析了滥用AI生成技术背后的侵权产业链。

4月上旬，南都记者在AI创作平台ViiTor AI实测发现，上传3秒原声仅需几分钟即可完成音色克隆，且支持任意改词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的原声素材被公开收录于音色库，使用人数已破万。此外，二手交易平台上AI声音克隆服务价格低廉，每50字收费不足1元。尽管大量商家宣称克隆相似度超98%，但在面对侵权质疑时，往往以“问就是有侵权”等模糊态度回应。

4月7日，知名配音演员季冠霖通过南都发声，呼吁平台建立侵权内容快速识别与下架机制，强调“技术应为文明赋能，而非成为侵权的温床”。

随着调查报道的传播，多地监管部门将“AI技术滥用”列为整治重点。4月16日，南都记者再次访问ViiTor AI平台发现，“音色克隆”功能已无法直接上传音视频文件，原有的“请上传3-5秒音频或视频”选项被移除；公共素材库中，“哪吒”等相关音色已无法搜索。

采写：南都N视频记者 彭雨欣

很赞哦!（65816）