中央网信办整治AI技术滥用，处置违规产品3500余款

“清朗·整治AI技术滥用”专项行动自2025年4月启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任务。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。在专项行动第一阶段，各地网信部门多措并举，扎实推进，积极履行属地管理责任。例如，北京网信办开设AI技术滥用治理举报渠道，形成“用户标记—平台核查—联合处置”工作模式；上海网信办推动标识要求落地示范，组织开展多场法规宣贯和专题交流；浙江网信办加大对属地AI应用和网站平台的督导力度；江苏网信办加强统筹协调，联合相关部门排查AI风险域名；天津网信办采用“人工+技术”方式，开展大模型安全监测。重点网站平台也积极履行主体管理责任，加强AI技术滥用源头治理。比如，腾讯规范应用程序管理，提高准入门槛，优化巡查机制；微博通过多渠道审核，累计处置违规内容4800余条；通义平台围绕数据生命周期建立安全管理体系；抖音建立“红蓝对抗”机制，修复潜在安全漏洞；阿里、快手、稀宇等重点平台积极推进元数据隐式标识落地落实；小红书在模型后置训练阶段输入专业领域数据，提升对重点领域问题的理解能力。下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。