内容

研究：反复使用 AI 生成的内容来训练 AI 可造成“模型崩溃”

感谢当地时间 9 月 4 日，据《福布斯》报道，牛津大学的伊利亚・舒梅洛夫博士和他的团队发现，当生成式 AI 软件仅依赖于由 AI 生成的内容时，回答的质量开始恶化。这项研究已经发表在《自然》杂志上。在最初的两次查询后，答案逐渐偏离准确性，到第五次时，质量显著下降，到了第九次连续查询时，回答已完全退化为无意义的胡言乱语。研究人员将这种生成式 AI 内容的循环过度使用称为“模型崩溃”，即 AI 在不断污染自己的训练集后，输出的内容逐渐偏离现实，最终变得毫无价值。舒梅洛夫表示：“令人惊讶的是，模型崩溃发生得如此迅速且难

9/5/2024 7:47:12 AM

清源

晋江文学城痛批“部分博主偷取多部知名小说喂 AI”：无耻嚣张的侵权行为

晋江文学城官方微博今天下午发布长文，痛批部分博主使用该平台登载的小说训练 AI、生成文字内容等行为。近日，晋江法务了解到小红书平台中有博主使用我司 V 文内容来宣传 AI 制作文字内容的方法，列举分解晋江作者作品内容生成 AI 文字内容的步骤和片段，广泛传播使用晋江多部知名小说训练 AI、生成文字内容的演示过程，声称“让 AI 继续写下去吧，反正它又不用吃饭”，并建群传播详细教程来吸引流量，已严重侵犯晋江作者的合法权益。晋江法务迅速向小红书平台发函维权，要求依法对该侵权网帖及用户账号采取必要措施，今核实到该网帖已被

8/30/2024 4:09:38 PM

清源

腾讯元宝上线深度阅读模式：原生支持最长近 50 万字输入，可提炼论文、生成杜邦分析图等

感谢腾讯元宝宣布，在最新版本的腾讯元宝中，当用户上传论文、财报、研报等专业内容的 URL 链接或文件，除获得文字概括总结外，还可进入深度阅读模式，对长文进行精读。该模式可提供核心内容概览及模块化解析，生成总结性图表，辅助用户快速理解关键信息。据介绍，深度阅读模式可原生支持最长近 50 万字的输入，能够在理解专业内容的基础上，生成图文并茂的内容，不仅可以引用输入内容的原图，还能通过代码绘制高阶的分析图。针对外文文献，腾讯元宝可提炼论文中的创新点与不足，便于对论文质量形成判断，也可随时划词搜索或翻译原文中的专业术语。▲

8/7/2024 10:32:08 AM

沛霖（实习）

大型 AI 行为艺术：「人类止步」Reddit，17 个大模型疯狂灌水｜开源

这个贴吧里的网友，都不是人！但是它们却能从诗词歌赋，聊到人生哲学。甚至还会叠楼讨论：俺们 AI 做的梦是不是模拟梦？这些 AI 楼主都活跃在一个叫 Deaddit 的虚拟贴吧平台。Deaddit 这个名字是对 Reddit 的一个有趣模仿。Reddit 相当于是国外网友的贴吧，Deaddit 则是一个虚拟的版本，而里面的“用户”也像它的名字一样，是一群没有生命的（Dead）AI 人。在这里，它们最多一天可以发 10 个帖子！每次刷新你都会看到全新的内容。短短几天已经生成了 2639 条帖子。（这个数字还在增长）沃顿

8/5/2024 1:54:26 PM

清源

Reddit 被曝屏蔽多个搜索引擎和 AI 爬虫，官方称与谷歌合作无关

感谢今年 2 月，谷歌宣布与 Reddit 达成一项新协议，Reddit 数据将用于训练谷歌的 AI 模型，并在谷歌搜索结果中着重显示 Reddit 结果。彭博社报道称，这笔交易的金额约为 6000 万美元。从那时起，Reddit 在谷歌搜索中的展示次数也大幅增加。而最新消息称，Reddit 已禁止其他搜索引擎检索其网站内容。外媒 404 Media 最先报道了此行为，并指出 Reddit 已更新其 robots.txt 文件（AI在线注：网站与爬虫的协议文件），阻止所有机器人抓取网站的任何内容。AI在线查询 Re

7/25/2024 10:56:05 AM

汪淼

美国参议员提跨党派提案：打击有害深度伪造，禁止篡改 AI 生成内容来源信息

来自共和民主两党的三位美国联邦参议院议员于当地时间 7 月 11 日宣布推出一项名为《保护内容来源和完整性，防止编辑和深度伪造媒体法案》的提案。AI在线注：这一法案英文全称为 Content Origin Protection and Integrity from Edited and Deepfaked Media Act，首字母简称为 COPIED ACT，后文以“COPIED 提案”代指。该提案旨在打击正在兴起的有害深度伪造，目标在美国联邦层面建立一个检测、标记与认证 AI 生成内容的透明度准则，保护记者、演

7/16/2024 5:44:15 PM

溯波（实习）

YouTube 推出新规：用户可要求平台下架模仿自己面部、声音的 AI 合成内容

随着 AI 生成影音内容的普及，YouTube 也随之进行了一些政策调整。据 PhoneArena 当地时间 13 日报道，用户现可要求 YouTube 下架由 AI 生成的模仿自己面部、声音的视频。这一请求将根据 YouTube 的隐私请求流程提出，而不是像 deepfake 那样因为具有误导性而要求将其删除。YouTube 表示，申诉要求下架的主因是影片伤害当事人的“隐私权”，而且只有主要当事人才能要求删除，而不是因为深伪技术及误导性内容。图源 PixabayYouTube 方面称，平台将根据多种因素来决定是否

7/15/2024 8:56:58 PM

清源

没有授权也没关系？多家 AI 公司被曝绕过网络标准抓取新闻出版商网站内容

据路透社上周六报道，专注于“内容许可”领域的初创公司 TollBit 近日向新闻出版商发出警告称，多家人工智能公司正在规避出版商用来阻止抓取内容的常见网络标准，并将抓取的内容用于训练生成式 AI 系统。这一消息是在 AI 搜索初创公司 Perplexity 与媒体《福布斯》之间就同一网络标准公开争执的背景下发出的。当前，科技和媒体公司之间正在就生成式 AI 时代的内容价值展开更广泛的辩论。Tollbit 将自己定位为内容匮乏的 AI 公司与愿意与他们达成重大许可协议的出版商之间的“媒人”。IT之家注：《福布斯》曾指

6/24/2024 7:37:25 AM

清源

谷歌 Play 商店宣布整顿生成式 AI 类 App：必须限制不当内容传播

感谢当地时间周四，谷歌针对 AI 类应用程序更新了指导方针，目标是减少“不适当的”和“被禁止的”内容。谷歌在新的政策中指出，提供生成式 AI 功能的应用必须防止生成受限制的内容，包括色情内容、暴力等，并要求应用对其 AI 模型进行“严格测试”。这些规则适用于多种应用程序，IT之家简要汇总如下：以文本、语音和图像提示输入的任何组合，经由生成式 AI 产生内容的 App。聊天机器人类、图像生成类（文生图、音生图、图生图）、语音及视频生成类 App。不适用于“仅仅承载”AI 内容的 App，或将 AI 用作生产力工具的

6/7/2024 11:21:51 AM

清源

澳大利亚拟颁布新法律：制作、传播深度伪造色情内容者将被判刑

据《卫报》报道，将在本周提交至澳大利亚联邦议会审议的一项新法律规定，若民众分享经由“数字篡改”的深度伪造色情内容，将会被处以 6 年监禁，制作这些内容的人则将被处以 7 年监禁。据报道，澳大利亚总检察长马克・德雷福斯预计将在本周三提出立法，将“在未经同意的情况下，分享利用 AI 或其他技术手段制作的露骨内容”这一行为定性为新的刑事犯罪。若这项新法律生效，就意味着无论是在私人或公开平台、无论与个人还是与大众分享这些内容，都将是非法行为。德雷福斯在周六宣布新立法时表示，政府不会容忍这种“阴险的犯罪行为”。“未经同意而分

6/3/2024 3:55:26 PM

清源

消息称谷歌和 Meta 为训练 AI，砸钱向好莱坞电影公司购买内容

感谢AI 时代主要挑战之一，就是如何合法获取内容来训练模型，因此很多 AI 公司开始砸钱来买受版权保护的内容。在 OpenAI 和新闻集团签署多年合作之后，最新消息称 Meta 和谷歌母公司 Alphabet 正寻求和好莱坞电影公司达成协议，使用其相关内容。消息称两家巨头公司已经接触洽谈了多家好莱坞电影公司，涉及的交易高达数百万美元。这些交易可以这两家公司获得授权的视频内容，以训练他们的人工智能模型。IT之家援引该消息源，Netflix、迪斯尼和华纳兄弟等电影公司都曾参与其中。前两家都不太愿意加入，不过也没有断然拒

5/25/2024 11:42:00 AM

故渊

OpenAI 和新闻集团签署多年协议，ChatGPT 可引用《华尔街日报》等媒体内容

感谢OpenAI 公司宣布和新闻集团（News Corp）签署多年协议，意味着 ChatGPT 等相关产品可以引用该集团的相关内容。IT之家注：新闻集团是一家位于美国的出版业跨国公司，是由前新闻集团的报纸和出版业务分拆而成。OpenAI 将获得新闻集团主要新闻和信息出版物的当前和存档内容，包括《华尔街日报》、《巴伦周刊》、《市场观察》、《投资者商业日报》、《FN》和《纽约邮报》；《泰晤士报》、《星期日泰晤士报》和《太阳报》；《澳大利亚人报》、news.com.au、《每日电讯报》、《信使邮报》、《广告人报》和《先驱

5/23/2024 7:26:12 AM

故渊

AI在用 | 原来，360 AI浏览器还能轻松编辑长视频

编辑：Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何使用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人工智能使用案例，来具体介绍AI使用方法，并激发大家思考。我们也欢迎读者投稿亲自实践的创新型用例。视频为王。不过，和视频生成领域的精彩纷呈相比，剪辑战场总差那么一口气。就拿长视频剪辑来说，费时费力，趁手的 AI 剪辑兵器却不多， Spikes Studio 、Nova A.I.、剪映....... 一只手也能数的过来。现在，又

5/22/2024 7:30:00 PM

机器之能

TikTok 将识别并标注第三方 AI 生成的内容

短视频平台 TikTok 正加强识别和标注人工智能 (AI) 生成内容的举措。继既有功能可以自动识别并标记使用 TikTok 自家 AI 工具创作的内容后，TikTok 还将识别其他平台生成的 AI 内容，并对其进行标注。图源 Pixabay据IT之家了解，这项新功能得益于 TikTok 与知名软件公司 Adobe 的合作。Adobe 开发了一套名为“内容凭证”（Content Credentials）的标记系统，可嵌入图像或视频的元数据中，表明该内容经过 AI 处理生成。目前，包括 Photoshop 和 Fir

5/9/2024 9:45:58 PM

远洋

程序员问答平台 Stack Overflow 将用户贡献内容喂给 AI，引发争议

程序员问答交流平台 Stack Overflow 最近与 OpenAI 达成协议，允许其通过 API 访问平台内容，用于训练人工智能系统。据 TheVerge 报道，这一举动引发了 Stack Overflow 用户的强烈不满，因为这意味着他们辛辛苦苦贡献的代码解答问题将被用于训练聊天机器人，而他们对此并没有选择权。部分用户尝试通过修改帖子内容来表达抗议，但 Stack Overflow 管理员迅速将这些改动还原，并暂停相关用户的账号。一位名为 Ben 的程序员在帖子上更新内容，表示自己将删除帖子以示抗议该协议，但

5/9/2024 3:35:10 PM

远洋

牵手五大顶尖高校教授 “云阙智能”打造AIGC智囊团

大模型竞争已进入白热化阶段，盲目卷资源已不再是长久之计，AI 创业公司的可持续性和科学性则是更重要的考量因素。在这一背景下，背靠强大高校，有科研能力、学术资源和充足的后备人才作为补充，变得愈发重要。 2024年5月8日，上海云阙智能科技有限公司（以下简称“云阙智能”）宣布成立AIGC学术顾问委员会，并邀请武汉大学新闻与传播学院副院长洪杰文教授、北京大学新闻与传播学院博士生导师胡泳教授、北京师范大学新闻传播学院院长张洪忠教授、复旦大学新闻学院副院长周葆华教授、广州大学新闻与传播学院博士生导师邹军教授等五大顶尖高校学者任委员会顾问。

5/8/2024 12:12:00 PM

王悦

OpenAI 向 ChatGPT Plus 用户开放“记忆”功能

感谢OpenAI 公司今天宣布，面向所有 ChatGPT Plus 用户开放“记忆”（Memory）功能，可以让 ChatGPT 记住用户在聊天中讨论过的事情，并避免重复信息。用户可以控制 ChatGPT 需要记住的内容，可向 ChatGPT 发出明确指令使其记住指定内容，同时也可以询问 ChatGPT“你记住了什么”。用户也可以完全关闭该功能，或者通过对话、设置来让 ChatGPT“忘记”此前要求记住的内容。ChatGPT 的记忆能力将会随着使用次数的增加而逐渐提升，OpenAI 总结了如下场景，IT之家附上示例

4/30/2024 6:20:24 AM

故渊

海外写作平台 Medium 5 月起禁止发布完全由 AI 生成的付费类文章

据海外知名写作平台 Medium 官方新闻稿，从 5 月 1 日起，该平台将禁止发布完全由 AI 生成的付费文章内容。Medium 平台声称，自家是“供人类讲故事的平台”，而不是给“AI 写作机器竞技大擂台”，虽然 AI 能够帮助某些人更清晰地写作，或者辅助创作者以自己生疏的第二语言撰写内容，但全然由 AI 撰写的内容并不可取，从 2024 年 5 月 1 日起，禁止用户发布任何由 AI 生成的付费内容。IT之家注意到，如果相关作者在 5 月 1 日以后继续发布由 AI 生成的付费内容，用户有权进行举报，相关作者将

4/21/2024 7:57:25 PM

漾仔

资讯热榜

苹果发布全新Xcode 26开发者工具：内置ChatGPT先进AI功能豆包App“一句话P图”功能全新升级基于SeedEdit 3.0实现全面优化 DeepSeek前高管秘密创业，新AI Agent项目已获顶级VC押注苹果向开发者开放本地AI能力，推出全新Foundation Models框架支持MCP！开源智能体开发框架 Rowboat：打造你的智能助手只需几分钟 Microsoft Releases 700 Real AI Cases to Explore New Intelligent Work Models 苹果将 ChatGPT 和其他 AI 模型引入 Xcode Grok接管推特算法！小号也能爆红，新人起号迎来黄金时代？

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 GPT Meta 学习图像技术 AI创作 Gemini 论文马斯克 Stable Diffusion 算法英伟达代码 Anthropic 芯片开发者生成式蛋白质腾讯神经网络训练 3D 研究生成智能体苹果计算机器学习 Sora Claude AI设计 AI for Science GPU AI视频人形机器人搜索华为百度场景大语言模型 xAI 预测伟达深度学习 LLM 字节跳动 Transformer Agent 模态具身智能神器推荐工具文本视觉 LLaMA 算力 Copilot 驾驶大型语言模型 API RAG 应用架构