上海市委网信办指导小红书、哔哩哔哩、拼多多等 15 家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规 AI 产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害 AI 内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和 AI 平台共拦截清理相关违法违规信息 82 万余条，处置违规账号 1400 余个，下线违规智能体 2700 余个。经整治，网络违规 AI 信息显著减少。
上海市委网信办深化大模型合规指导服务中心作用，指导各类提供生成式人工智能服务的主体落实合规义务，强化安全评估，迄今已完成 82 款大模型备案，87 款应用登记。对 3 款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚。
