大语言模型
AI安全警报：只需250份文件即可 “投毒” 大语言模型
近日，人工智能研究公司 Anthropic 发布了一项震惊业界的研究，揭示了对大语言模型进行 “数据投毒” 攻击的新可能性。 以往，大家普遍认为，攻击者需要占训练数据中一定比例的 “毒药” 样本才能成功，但该研究颠覆了这一观念。 实际上，只需 250 份 “投毒” 文档就足以对任何规模的大模型实施攻击。
10/12/2025 9:23:07 AM
AI在线
复旦、同济和港中文等重磅发布：强化学习在大语言模型全周期的全面综述
近年来，以强化学习为核心的训练方法显著提升了大语言模型（Large Language Models, LLMs）的推理能力与对齐性能，尤其在理解人类意图、遵循用户指令以及增强推理能力方面效果突出。 尽管现有综述对强化学习增强型 LLMs 进行了概述，但其涵盖范围较为有限，未能全面总结强化学习在 LLMs 全生命周期中的作用机制。 对此，来自复旦大学、同济大学、兰卡斯特大学以及香港中文大学 MM Lab 等顶尖科研机构的研究者们全面总结了大语言模型全生命周期的最新强化学习研究，完成题为 “Reinforcement Learning Meets Large Language Models: A Survey of Advancements and Applications Across the LLM Lifecycle” 的长文综述，系统性回顾了领域最新进展，深入探讨研究挑战并展望未来发展方向。
10/1/2025 10:51:00 AM
机器之心
从探索到验证：Parallel-R1 如何塑造大模型的"思考"哲学
大家好，我是肆〇柒。 今天看看由腾讯AI Lab Seattle联合马里兰大学、北卡罗来纳大学、香港城市大学和圣路易斯华盛顿大学共同研究的工作——Parallel-R1，它首次通过强化学习让大语言模型真正掌握了"并行思考"这一人类高级认知能力，而非仅依赖推理时策略的临时拼凑。 这项研究不仅刷新了AIME25数学竞赛基准测试的准确率记录，更揭示了机器"思考"方式的演化规律。
9/28/2025 9:00:00 AM
肆零柒
AI招聘独角兽Juicebox获3600万美元融资：4人团队打造千万ARR神话，红杉领投A轮
招聘行业正在经历一场由人工智能驱动的深刻变革。 AI驱动的人才搜索引擎Juicebox周四宣布完成总计 3600 万美元融资，其中包括由红杉资本领投的 3000 万美元A轮融资，这家仅有 4 人核心团队的初创公司已实现超过 1000 万美元的年度经常性收入。 多年来，招聘人员依靠机器学习技术通过关键词搜索简历和LinkedIn档案来寻找潜在候选人。
9/26/2025 11:51:00 AM
AI在线
奔驰携手字节跳动，共同推出搭载豆包大模型的全新纯电 CLA
近日，梅赛德斯 - 奔驰（中国）投资有限公司与字节跳动正式签署了升级战略合作备忘录，双方将共同推动人工智能技术在多个领域的应用。 这次合作将覆盖自动驾驶、智能座舱、智能化研发、数字化营销和客户运营等多个业务领域，旨在加速 AI 技术的深度融合和创新应用。 在智能座舱方面，奔驰将其智能座舱 AI 平台与字节跳动的 AI 能力相结合，使智能应用能够快速生成。
9/24/2025 9:56:46 AM
AI在线
当大模型“思考”时，它在做什么？—解构 LLM 架构体系
Hello folks，我是 Luga，今天我们来聊一下人工智能应用场景 - 构建大模型应用架构技术底座：LLM 架构体系。 在人工智能技术快速演进的时代背景下，大语言模型（Large Language Models, LLMs）作为自然语言处理领域的核心架构，正逐步重塑人机交互的技术范式。 从智能对话系统到内容生成平台，从复杂决策支持到跨语言信息处理，LLM 已成为现代人工智能基础设施中不可或缺的组成部分。
9/19/2025 9:46:53 AM
Luga Lee
长文本检索新突破！斯坦福RAPTOR：用递归树结构兼顾语义深度与细节，刷新多数据集SOTA
在大语言模型（LLMs）主导的AI时代，“检索增强”早已成为提升模型事实准确性、降低幻觉的核心技术。 然而，当前主流的检索方法仍面临一个关键瓶颈：无论是传统的BM25、基于深度学习的DPR，还是新兴的LLM检索器，大多依赖“文本分块 单一维度匹配”的模式，难以捕捉长文本（如学术论文、书籍章节）中的层次化语义结构——要么因只取片段丢失上下文，要么因过度抽象遗漏关键细节。 斯坦福大学团队在2024年ICLR提出RAPTOR（Recursive Abstractive Processing for Tree-Organized Retrieval），用“递归树状检索”的新思路打破了这一困境。
9/15/2025 9:25:26 AM
Goldma
Qwen3-Next 发布：通义千问的训练＆推理效率革命
近日，阿里巴巴旗下的通义千问（Qwen）团队发布了全新模型 Qwen3-Next，在保持性能的同时大幅提升训练与推理效率，引起了 AI 界广泛关注。 下面带大家深入了解一下 Qwen3-Next 的亮点、技术突破，以及它对未来应用的意义。 什么是 Qwen3-NextQwen3-Next 是 Qwen 系列的最新成员，基于 Qwen3 架构进行改进与优化。
9/15/2025 3:00:00 AM
AI大模型应用开发
20亿美金种子轮后首次发声！Mira Murati神秘实验室挑战AI随机性，誓要让机器思维变得可预测
硅谷最神秘的AI实验室终于撕开了面纱的一角。 自从前OpenAI首席技术官Mira Murati带着 20 亿美元的惊人种子资金和一众顶级研究人员创立思维机器实验室以来，整个科技圈都在屏息以待，想要一探这个全明星团队究竟在酝酿什么样的技术革命。 现在，答案开始浮出水面。
9/11/2025 11:01:29 AM
AI在线
幻觉成了AI的“癌症”，连OpenAI也治不了
学生参加考试，当他不知道题目的答案时，可能会猜测。 实际上，AI聊天机器人也一样。 AI给出的答案可能看起来正确，实际却是完全错误的，这就是所谓的“幻觉”。
9/11/2025 1:00:00 AM
小刀
毁誉参半的AI重建濒危语言之路
译者 | 陈峻审校 | 重楼众所周知，过去那些曾经定义和描述了灿烂文化的语言，如今可能只能留存于书面记录、片段影像、以及少数传颂者的记忆中。 而人类历史的每一次更迭，都会导致语言信息的此消彼长，文化知识的重塑。 目前，人工智能（AI）正在被用于研究手稿、音频档案和铭文，以重建失传的语法、词汇和发音。
9/8/2025 7:17:13 AM
陈峻
大语言模型为何难以突破科学瓶颈——每位快消行业的高管必须了解的真相
我们正处在一个时代，GenAI能够在几分钟内起草复杂的法律协议，在几秒钟内设计出合理的营销活动，并可按需在数十种语言之间自由切换。 从早期的机器学习模型到如今的GPT-4、Claude、Gemini等大型语言模型(LLM)，能力的跃升堪称惊人。 因此，企业高管提出一个合理的疑问：如果AI能写出一篇令人信服的研究论文，或者模拟一场技术对话，为什么不能开展科学实验?在某些圈子里，甚至流传着一种说法：科学家可能很快会像旅行社代理人或电影放映员一样，被“颠覆”到无关紧要。
9/4/2025 7:00:00 AM
Kumar
从3000万到1777.9 Token：LogicRAG用动态逻辑图实现“零预建图的高效推理
大家好，我是肆〇柒。 今天要和大家分享的是一项来自香港理工大学的研究——LogicRAG。 这项工作挑战了当前主流的GraphRAG范式，提出了一种无需预建图、按需生成动态逻辑结构的新型RAG框架。
8/28/2025 1:00:00 AM
肆零柒
告别固定分块！2024 EMNLP 新方法 LumberChunker：用 LLM 实现动态语义分块，检索效果显著提升
在大语言模型（LLM）主导的现代 NLP 领域，密集检索已成为问答、摘要、知识问答等任务的核心支撑 —— 毕竟模型再强大，也需要精准的外部上下文来避免 “幻觉”、获取最新信息。 但检索效果的好坏，往往卡在一个容易被忽视的环节：文本分块。 传统分块方法（按句子、段落或固定长度切割）就像用尺子机械丈量文本，完全忽略了内容的语义关联性：要么把一个完整的概念拆得七零八落，导致检索片段上下文残缺；要么把多个无关主题硬塞进一个块里，引入大量噪声。
8/25/2025 8:59:13 AM
Goldma
运用轻量化大语言模型：实现事件响应加速与幻觉抑制双重突破
墨尔本大学和伦敦帝国理工学院的研究人员开发了一种利用大语言模型(LLM)改进事件响应规划的方法，重点在于降低产生幻觉的风险，该方法采用经过微调的小型大语言模型，并结合检索增强生成技术和决策理论规划。 他们所针对的问题十分常见：目前事件响应在很大程度上仍依赖人工操作，速度缓慢，且依赖专家配置的应急预案。 许多企业需要数周甚至数月才能从事件中完全恢复。
8/25/2025 7:00:00 AM
Mirko Zorz
USENIX Security 25 | TEE+Legacy GPU混合算力下的模型隐私安全攻防
近日，字节跳动安全研究团队、北京大学和伊利诺伊大学香槟分校合作的研究论文《Game of Arrows: On the (In-)Security of Weight Obfuscation for On-Device TEE-Shielded LLM Partition Algorithms》被安全领域国际顶会USENIX Security收录。 USENIX Security 会议是网络与信息安全领域的四大顶级会议之一，也是中国计算机学会推荐的网络与信息安全领域A类国际学术会议。 该会议享有广泛的学术影响和深厚的学术底蕴，近五年平均录用率约为20%。
8/21/2025 2:05:07 PM
字节跳动技术团队
AI驱动电子表格平台Paradigm获500万美元种子轮融资 配备5000个AI智能体
在"AI智能体"这个概念还未兴起的时候，安娜·摩纳哥就已经开始构建AI智能体产品。 在开发了众多聊天机器人后，她开始寻找适合AI智能体的其他交互界面，最终将目光锁定在电子表格上。 摩纳哥向TechCrunch表示:"我有一个个人使用习惯，也注意到很多其他人都有这样的习惯，就是将非常重要的CRM数据放在电子表格中，因为这是最灵活的工具。
8/19/2025 10:47:00 AM
AI在线
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
谷歌
AI绘画
大模型
机器人
数据
AI新词
Midjourney
开源
Meta
微软
智能
用户
GPT
学习
技术
智能体
Gemini
马斯克
Anthropic
英伟达
图像
AI创作
训练
LLM
论文
代码
算法
苹果
AI for Science
Agent
Claude
芯片
腾讯
Stable Diffusion
蛋白质
开发者
具身智能
xAI
生成式
神经网络
机器学习
3D
AI视频
人形机器人
RAG
大语言模型
研究
百度
Sora
生成
GPU
工具
华为
计算
字节跳动
AGI
大型语言模型
AI设计
搜索
生成式AI
视频生成
DeepMind
特斯拉
场景
深度学习
AI模型
架构
亚马逊
Transformer
MCP
编程
视觉
预测