AI在线 AI在线

网信办整治自媒体发布不实信息 平台需优化AI生成内容标识

中央网信办宣布自2025年7月24日起开展为期两个月的专项整治行动,重点打击“自媒体”发布不实信息行为。 此次行动覆盖全国各省、自治区、直辖市及新疆生产建设兵团,旨在通过技术治理与平台责任双轨并行,破解恶意蹭炒、数据造假、资质造假等突出问题。 行动明确剑指四大领域:一是恶意蹭炒行为,包括假冒热点事件当事人或知情人士编造虚假信息,以及在财经、军事等领域伪造“权威数据”误导公众;二是数据造假手段,如利用AI合成技术伪造新闻、通过拼凑剪辑制造虚假事件,或借助刷榜操纵热搜榜单;三是信息标注乱象,部分账号以模糊来源、隐蔽标注等方式传播无依据内容,甚至通过矩阵账号互相引用掩盖真实出处;四是专业领域信息失实,未认证或伪造资质者冒充专家发布违背常识的言论,或通过虚假摆拍打造“网红人设”引流带货。

中央网信办宣布自2025年7月24日起开展为期两个月的专项整治行动,重点打击“自媒体”发布不实信息行为。此次行动覆盖全国各省、自治区、直辖市及新疆生产建设兵团,旨在通过技术治理与平台责任双轨并行,破解恶意蹭炒、数据造假、资质造假等突出问题。

行动明确剑指四大领域:一是恶意蹭炒行为,包括假冒热点事件当事人或知情人士编造虚假信息,以及在财经、军事等领域伪造“权威数据”误导公众;二是数据造假手段,如利用AI合成技术伪造新闻、通过拼凑剪辑制造虚假事件,或借助刷榜操纵热搜榜单;三是信息标注乱象,部分账号以模糊来源、隐蔽标注等方式传播无依据内容,甚至通过矩阵账号互相引用掩盖真实出处;四是专业领域信息失实,未认证或伪造资质者冒充专家发布违背常识的言论,或通过虚假摆拍打造“网红人设”引流带货。

法律,条规、法院

中央网信办要求网站平台建立三大机制:在信息发布环节强制设置来源标注选项,未标注内容不得进入算法推荐池;细化专业资质认证流程,动态核验账号身份与运营业务匹配度;畅通举报渠道,对首次违规账号采取提示引导,对恶意编造重点领域信息、仿冒热点当事人的账号实施长期禁言或封号。同时,平台需完善负面清单、营利权限管理等制度,对存在突出问题的平台依法采取处罚措施。

此次行动强调“标本兼治”,既通过技术手段压缩不实信息生存空间,如优化AI生成内容标识功能,又压实平台主体责任,要求其定期排查隐形变异问题。据网信办负责人介绍,专项行动将与日常监管形成合力,推动建立“自媒体”行业信用评价体系,引导内容创作者回归真实、专业的传播轨道,为公众营造可信、有序的网络环境。

相关资讯

​中央网信办启动 “清朗” 专项行动,整治 AI 技术滥用现象

中央网信办发布通知,决定在全国范围内开展为期三个月的 “清朗・整治 AI 技术滥用” 专项行动,旨在规范人工智能(AI)服务和应用,促进行业的健康发展,同时保障公民的合法权益。 此次专项行动的实施,标志着对 AI 技术滥用现象的高度重视和系统治理的决心。 图源备注:图片由AI生成,图片授权服务商Midjourney此次专项行动分为两个阶段进行。
4/30/2025 6:00:51 PM
AI在线

​抖音启动 “AI 起号” 专项整治行动,清理低俗内容

抖音官方发布公告,宣布启动 “AI 起号” 专项治理行动,旨在整治平台内利用人工智能生成低俗猎奇视频等行为。 随着人工智能技术的快速发展,抖音发现一些用户利用 AI 进行造假、售卖虚拟账号等行为,这严重影响了平台的生态环境。 此次专项治理行动的重点包括:利用 AI 生成低质视频、虚拟幼儿教育专家的育儿内容、AI 视频账号的售卖教程以及 AI 账号的传授秘籍。
5/19/2025 6:00:55 PM
AI在线

AIGC时代如何打击图片造假诈骗?合合信息文档篡改检测有妙招

近日,第七届中国模式识别与计算机视觉大会(简称“PRCV 2024”)在乌鲁木齐举办。大会由中国自动化学会(CAA)、中国图象图形学学会(CSIG)、中国人工智能学会(CAAI)和中国计算机学会(CCF)联合主办,新疆大学承办。作为模式识别和计算机视觉领域学术盛会,PRCV 2024吸引了众多国内外科研工作者及行业从业者参与,分享最新理论研究进展和技术研发成果,促进产学研交流与合作。
10/22/2024 2:40:00 PM
机器之心
  • 1