AI在线 AI在线

理论

重度使用ChatGPT可导致脑损伤

重度使用ChatGPT可导致脑损伤
GoUpSec点评：生成式人工智能已经永久性地污染了人类的在线数字资产，如果说这是一次伟大工业革命的“必要代价”，那么，过于依赖人工智能导致的对人类（尤其是青少年）大脑和认知思辨能力的损伤，则是比“食品安全”、“网络安全”和“气候安全”更加严重但又鲜为人知的威胁。 麻省理工的“吹哨”研究，为我们探索合理发展和应用人工智能技术提供了一个新的风险视角。 在AI狂飙突进的今天，一个根本问题被重新摆上台面：使用ChatGPT究竟是在“解放生产力”，还是在“摧毁思维力”？
6/26/2025 8:54:34 AM
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯

ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
本工作共同第一作者包括：张亦弛，清华大学计算机系三年级博士生，师从朱军教授，研究方向是多模态大模型和大模型安全，在CVPR、NeurIPS、ICML等顶会发表多篇论文，曾主导开发了首个多模态大模型可信度全面评测基准MultiTrust；张思源，清华大学计算机系一年级硕士生，导师是苏航副研究员，研究方向是大模型安全与对齐算法。 本文通讯作者是清华大学人工智能学院董胤蓬助理教授和计算机系朱军教授。 其他合作者来自北航、瑞莱智慧、阿里安全、百川智能等单位。
6/26/2025 8:42:00 AM
CIO引领AI生产力变革的行动指南

CIO引领AI生产力变革的行动指南
AI生产力繁荣的时代已经到来，它发展迅速，让未做好准备的人措手不及，改变工作的机会巨大，同时责任也重大。 企业技术正在经历一场历史性的重置，AI不再是一个未来的承诺，它正在重塑我们今天的工作方式，对于CIO而言，这意味着要从运营管理者转变为转型推动者。 根据最近麦肯锡的研究，到2030年，GenAI通过提高生产力，每年可为全球经济增加高达4.4万亿美元的价值。
6/26/2025 7:20:00 AM
Ashwin
提示词工程、RAG之后，LangChain：上下文工程开始火了！

提示词工程、RAG之后，LangChain：上下文工程开始火了！
AI 时代，你可能听说过提示词工程、RAG、记忆等术语。 但是很少有人提及上下文工程（context engineering）。 其实，这一术语并不新鲜，近两年很多智能体构建者一直在关注这个事情。
6/26/2025 7:00:00 AM
机器之心
CIO们摒弃“广撒网”策略，开始以更战略性的方式推进AI试点项目

CIO们摒弃“广撒网”策略，开始以更战略性的方式推进AI试点项目
在过去的两年里，许多企业已经启动了数十个AI概念验证项目，但这些项目的失败率很高，投资回报率也令人失望，然而，现在出现了一种新趋势，即对AI实验的“散弹枪”式方法进行重大重新评估。 一些IT观察人士现在注意到，许多企业正在减少他们启动的AI概念验证项目数量，一些IT领导者转而使用商业AI工具，而更多人则专注于有限数量的战略性和有针对性的用例。 在经历了一个广泛实验的时代之后，当时公司正在探索AI的潜力，现在许多公司已经将注意力集中在少数几个用例上，AArete公司(一家IT和管理咨询公司)的AI、数字化和技术解决方案董事总经理Bhrugu Pange说道。
6/26/2025 7:00:00 AM
Grant Gross
人工智能在金融网络安全领域的十大实际应用

人工智能在金融网络安全领域的十大实际应用
虽然“人工智能”已成为一个无处不在的流行词，但它对金融机构安全的实际影响却是实实在在的，并且与日俱增。 本文将拨开炒作的迷雾，详细介绍人工智能在现实世界中最重要的十大应用，这些应用目前正在改变金融网络安全运营，涵盖从欺诈预防到威胁情报与合规的各个领域。 人工智能与金融网络安全的融合已远远超出理论探讨，进入了实际应用阶段，影响深远。
6/26/2025 2:27:00 AM
铸盾安全
给Javaer看的大模型开发指南

给Javaer看的大模型开发指南
一、概述二、什么是大模型三、大模型的特点    1. 无状态    2. 结构化输出    3.
6/26/2025 2:24:00 AM
麻省理工研究揭示：ChatGPT等AI工具对认知能力存在侵蚀效应

麻省理工研究揭示：ChatGPT等AI工具对认知能力存在侵蚀效应
当 ChatGPT 等 AI 工具成为千万用户的 "数字拐杖" 时，麻省理工学院（MIT）的最新研究敲响了警钟，称这种便利性正在付出认知能力退化的代价。 该研究通过神经科学实验证实，长期依赖 AI 聊天机器人会显著削弱人类的批判性思维、记忆保留和深度思考能力。 MIT 媒体实验室开展对比测试试验MIT 媒体实验室的研究团队将 120 名参与者随机分为三组：ChatGPT 辅助组、搜索引擎组和无工具组，要求完成同一主题的分析性写作任务。
6/26/2025 1:00:00 AM
缓解人工智能威胁：弥合人工智能与传统安全之间的差距

缓解人工智能威胁：弥合人工智能与传统安全之间的差距
人工智能的飞速发展正以前所未有的速度改变着各个行业，大型语言模型 ( LLM ) 和代理系统已成为现代工作流程的关键。 这种快速部署也暴露出巨大的漏洞，防火墙、EDR 和 SIEM 等传统工具难以应对 AI 特有的威胁，包括自适应威胁模式和隐蔽的即时攻击工程。 除了技术威胁之外，以人为中心的威胁也是现有网络安全问题的核心，利用生成式人工智能 (GPU) 生成的高度个性化网络钓鱼诱饵很容易被检测到。
6/26/2025 1:00:00 AM
何威风
人形机器人首次打通视觉感知与运动断层，UC伯克利华人博士让宇树G1现场演示

人形机器人首次打通视觉感知与运动断层，UC伯克利华人博士让宇树G1现场演示
不用提前熟悉环境，一声令下，就能让宇树机器人坐在椅子上、桌子上、箱子上！ 还能直接解锁 “跨过箱子”、“敲门” 等任务~这是来自UC伯克利、卡内基梅隆大学等团队的最新研究成果LeVERB框架——基于模拟数据训练实现零样本部署，让人形机器人通过感知新环境，理解语言指令就能直接完成全身动作。 传统人形机器人要么 “能看懂指令却动不了”（缺乏全身控制能力），要么 “只能机械执行动作却读不懂环境”（依赖人工预设动作库）。
6/25/2025 4:09:40 PM
LLM的关键转折：LAM，究竟是什么？

LLM的关键转折：LAM，究竟是什么？
作者 | Bill Doerrfeld 编译 | 云昭出品 | 51CTO技术栈（微信号：blog51cto）操作 Windows 程序、自动对账发票、预订航班和酒店——这些只是新一代大型语言模型（LLMs）为 AI 智能体带来的众多可能性中的几个。 研究人员将这一阶段的进化称为“大型行动模型（Large Action Models）”，简称 LAMs。 迄今为止，LLM 是无状态的——它们无法自行采取行动、适应环境或与工具交互。
6/25/2025 2:18:36 PM
云昭
OpenAI突袭AI办公，微软谷歌恐遭大洗牌！密谋一年曝光，Office帝国危了

OpenAI突袭AI办公，微软谷歌恐遭大洗牌！密谋一年曝光，Office帝国危了
OpenAI未来想要做的，便是吞掉微软、谷歌的市场。 Information独家爆料称，OpenAI内部已筹划一年，计划在ChatGPT中植入「文档协作」与「即时通讯」功能。 图片OpenAI这一步棋，直接向「金主爸爸」微软发起正面挑战，同时也将开辟与谷歌竞争的新战线。
6/25/2025 1:46:16 PM
新智元
重磅！淘天联合爱橙开源强化学习训练框架ROLL，高效支持十亿到千亿参数大模型训练

重磅！淘天联合爱橙开源强化学习训练框架ROLL，高效支持十亿到千亿参数大模型训练
过去几年，随着基于人类偏好的强化学习（Reinforcement Learning from Human Feedback，RLHF）的兴起，强化学习（Reinforcement Learning，RL）已成为大语言模型（Large Language Model，LLM）后训练阶段的关键技术。 RL 不仅显著提升了模型的对齐能力，也拓展了其在推理增强、智能体交互等场景下的应用边界。 围绕这一核心范式，研究社区不断演化出多种优化策略和算法变体，如 Agentic RL、RLAIF、GRPO、REINFORCE 等。
6/25/2025 1:44:09 PM
Windows最新搭载微软自研模型Mu，一句话搞定所有系统配置

Windows最新搭载微软自研模型Mu，一句话搞定所有系统配置
还在为复杂的Windows设置头疼？ 微软来重新定义设置界面交互了。 全新发布的设备端小语言模型Mu，让Windows 11的设置也拥有了自己的AI Agent。
6/25/2025 1:42:54 PM
为什么MCP能爆火，但ChatGPT插件之流全都死了？神贴断言：MCP吞噬一切！网友：炒作太过，本质还是重复造轮子！

为什么MCP能爆火，但ChatGPT插件之流全都死了？神贴断言：MCP吞噬一切！网友：炒作太过，本质还是重复造轮子！
编辑 | 伊风出品 | 51CTO技术栈（微信号：blog51cto）MCP（Model Context Protocol）其实并不新，它早在去年就由 Anthropic 正式提出。 但短短几个月后，它的支持阵容迅速扩展，从 Cursor、Zed 等新兴工具，到谷歌、OpenAI 等顶级玩家，几乎整个 LLM 工具链都开始围绕 MCP 建设生态。 你有没有想过一个问题：为什么 MCP 之前的那些“前辈”都没活下来，它却突然火遍全场？
6/25/2025 1:13:52 PM
伊风
LLM 的反馈困境：为何大型语言模型难以完全吸收外部建议

LLM 的反馈困境：为何大型语言模型难以完全吸收外部建议
大家好，我是肆〇柒。 在 AI 领域，大型语言模型（LLM）正以前所未有的速度改变着我们处理信息和解决问题的方式。 然而，在当下落地 AI 应用时，一个关键问题逐渐浮出水面：LLM 是否能够真正理解并整合外部反馈，从而实现自我改进并达到其性能的极限？
6/25/2025 10:21:08 AM
肆零柒
万字干货：小红书 hi lab 团队关于奖励模型的一些探索

万字干货：小红书 hi lab 团队关于奖励模型的一些探索
奖励模型（Reward Models，RM）在确保大语言模型（LLMs）遵循人类偏好方面发挥着关键作用。 这类模型通过学习人类的偏好判断，为语言模型的训练提供重要的引导信号。 奖励模型很多科学问题都充满挑战，小红书 hi lab团队过去一段时间对下列几个问题和关键挑战进行了一些探索：奖励模型应该如何评估？
6/25/2025 9:53:59 AM
强化学习新发现：无需数学样本，仅游戏训练AI推理大增

强化学习新发现：无需数学样本，仅游戏训练AI推理大增
第一作者谢云飞是莱斯大学博士生，导师为通讯作者魏晨教授，研究方向包括多模态生成与理解。 Project Leader 肖俊飞是约翰斯・霍普金斯大学博士生，导师为 Bloomberg Distinguished Professor Alan Yuille。 第二作者马崟淞是约翰斯・霍普金斯大学博士生。
6/25/2025 9:28:38 AM