中央网信办近日印发通知，决定在全国范围内开展为期三个月的“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，同时保障公民合法权益。
此次专项行动分为两个阶段进行。第一阶段主要聚焦于强化AI技术的源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，并推动网站平台提升检测鉴伪能力。第二阶段则集中整治利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。
在第一阶段，重点整治的六类突出问题包括:违规AI产品，如未履行大模型备案或登记程序的产品，提供违背法律、伦理功能的产品，以及未经授权克隆、编辑他人生物特征信息的产品;传授、售卖违规AI产品教程和商品;训练语料管理不严，使用侵权或虚假内容;安全管理措施薄弱，未建立内容审核和违规账号管理机制;未落实内容标识要求，未对深度合成内容添加标识;以及重点领域安全风险，如“AI开处方”“诱导投资”等问题。
第二阶段，重点整治的七类突出问题包括:利用AI制作发布谣言;制作发布不实信息;制作发布色情低俗内容;假冒他人实施侵权违法行为;从事网络水军活动;AI产品服务和应用程序违规;以及侵害未成年人权益。
中央网信办有关负责人强调，各地网信部门要充分认识到专项行动对于防范AI技术滥用风险、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照专项行动要求，健全AI生成合成内容审核机制，提升技术检测能力，并做好整改落实。同时，要加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，凝聚治理共识。
