上海出手了，1.4万个违规智能体被下架

6 月 26 日消息，上海市委网信办今日发布公告，通报 " 清朗 · 整治 AI 应用乱象 " 专项行动第一阶段工作成果。

自 2026 年 4 月下旬启动以来，上海累计清理拦截违法违规信息 487 万余条，处置违规账号 1.8 万余个，下架违规智能体 1.4 万余个。

17 家重点平台自查自纠

5 月 13 日，上海召开重点平台专项行动推进会，向属地 AI 平台、互联网内容平台、电商平台、应用商店、开源社区等五类共 17 家重点网站平台部署具体要求。

5 月 15 日，稀宇、千问、小红书、哔哩哔哩、拼多多等重点平台公开发布专项治理公告，上海举报中心官网同步开设专项举报渠道，迄今已受理涉 AI 类违法不良信息举报及 12345 市民反映线索 20 余件。

在第一阶段，17 家重点平台累计清理拦截去 AI 标识的工具和教程、数据投毒、未经授权 " 换脸拟声 "、AI 制谣传谣、AI 低俗内容等违法违规信息 487 万余条，处置违规账号 1.8 万余个，下架违规智能体 1.4 万余个，处置违规商品 1300 余个，并对多次违规账号实施阶梯式约束与封禁。

各平台差异化治理

稀宇持续下架 " 一键脱衣 "、赌球博彩等违规智能体，打击利用 AI 编写病毒、钓鱼软件等恶意行为；

小红书打击 AI 托管运营账号，禁售去 AI 标识商品，推进与各大制作平台的隐式标识互认；

哔哩哔哩在内容发布页强化提示，将 "AI 生成 " 列为必选标签；

魔搭社区全面清理涉低俗等违规数据集，强化开源模型审核与管理。

上海市委网信办还组织 3 家专业机构，对用户量大、影响力高的 32 款 AI 产品开展专项巡查测试，并赴 4 家企业进行现场检查，督导整改 AI 标识落实不到位、平台安全和审核能力不足等问题。

169 款大模型完成备案

7 月 15 日新规将施行

截至目前，上海已完成 169 款大模型备案，以及 183 款调用已备案模型 API 的生成式人工智能应用登记。

针对医疗、政务等重点领域，上海坚持 " 先测评后上线 " 原则，联合市数据局优化政务智能应用测评验证中心能力，协同市卫健委依托医疗大模型应用检测验证中心保障医疗 AI 应用安全。

值得注意的是，将于 2026 年 7 月 15 日正式施行的《人工智能拟人化互动服务管理暂行办法》已进入准备阶段。

上海市委网信办已向近百家重点平台进行法规宣贯，督导企业严格落实未成年人身份核验，防范情感依赖与消费诱导，并对问题突出的个别应用开展监管执法。

专项行动第二阶段将重点聚焦利用 AI 技术生成 " 数字泔水 "、制作发布虚假信息、散播暴力低俗内容、仿冒他人、侵害未成年人权益、从事网络水军活动等问题交易计划。（AI 普瑞斯）