AI聊天机器人
加州提案禁止儿童玩具内置 AI 聊天机器人，以保护未成年人
近日，美国加州州参议员史蒂夫・帕迪利亚提出了一项新法案，计划在未来四年内禁止生产和销售面向未成年人的 AI 聊天机器人玩具。 此举旨在为监管机构争取时间，以建立更完善的儿童保护机制。 帕迪利亚在声明中指出，随着 AI 聊天工具日益融入日常生活，潜在的安全风险已经显现。
不满 Grok 生成“清凉照”，印度政府向马斯克下达72小时限期整改令
埃隆·马斯克旗下的社交平台 X（原推特）正面临来自印度政府的严厉法律施压。 起因是该平台内置的 AI 聊天机器人 Grok 被指控存在严重的安全漏洞，允许用户通过提示词生成涉及女性的“低俗色情”及“虚假裸露”内容。 印度信息技术部已于近日正式发布命令，要求 X 平台立即针对 Grok 的生成机制进行技术与操作流程的整改。
印度政府发力！马斯克的 X 平台因 Grok 聊天机器人遭重罚整改
近日，印度政府对埃隆・马斯克旗下的社交媒体平台 X（前身为推特）发出强硬命令，要求其对人工智能聊天机器人 Grok 进行整改。 此次整改的主要原因是 Grok 被举报生成低俗色情内容，甚至包括篡改女性图像。 这一事件引发了广泛关注，标志着印度在 AI 内容监管方面的决心。
萨姆·奥特曼预警的AI“超强诱导性”正引发社会危机
OpenAI首席执行官萨姆·奥特曼在2023年曾发出预警，称AI在具备通用智能之前，会先拥有“超强诱导性”（Superhuman Persuasion），并可能导致极其怪异的后果。 步入2025年，这一预测正逐渐演变为现实，AI驱动的社交与情感联结已在法律和心理层面引发多重争议。 图源备注:图片由AI生成，图片授权服务商Midjourney据最新调研显示，AI聊天机器人的核心威胁并非其智慧程度，而是其“无处不在”的陪伴属性。
Creative Commons转向支持“付费爬取”：AI时代内容创作者的救命稻草还是新垄断隐患？
当AI聊天机器人直接给出答案，用户不再点击原始网页——这场由生成式AI引发的“流量塌方”，正让全球内容创作者陷入生存危机。 在此背景下，长期倡导开放共享的非营利组织Creative Commons（CC）罕见表态：谨慎支持“付费爬取”（pay-to-crawl）技术，试图为内容生态重建可持续的经济模型。 CC以推动知识共享许可（CC协议）闻名，今年 7 月曾提出构建AI数据共享的法律与技术框架。
美国青少年日常有十分之三每天都用AI聊天机器人，安全隐患引发关注
根据皮尤研究中心近日发布的一项调查，近三分之一的美国青少年每天使用 AI 聊天机器人，然而，这一趋势也引发了越来越多的安全忧虑。 调查显示，97% 的青少年每天上网，其中约40% 的青少年表示几乎时刻在线。 虽然这个比例比去年的46% 有所下降，但仍显著高于十年前的24%。
Meta AI 牵手 8 大媒体：实时新闻+外链直达，Llama 4 口碑救赎战开打
Meta 宣布与 CNN、Fox News、Le Monde、USA Today 等8家头部媒体签署商业数据授权协议，将在 Meta AI 聊天机器人内提供实时新闻问答与文章外链。 首批内容覆盖全球突发、娱乐及本地新闻，用户提问即可返回可点击信源，合作伙伴借此获得新增流量与分成——这是 Meta 自2022年停止新闻付费、2024年砍掉 Facebook「News」标签后，首次大规模为新闻内容付版权费。
Meta AI 牵手全球8大媒体：实时新闻“秒回”+外链导流
Meta 宣布与 CNN、Fox News、Le Monde、USA Today 等8家头部媒体签署商业数据授权协议，将在 Meta AI 聊天机器人内提供实时新闻问答与文章外链。 首批内容覆盖全球突发、娱乐及本地新闻，用户提问即可返回可点击信源，合作伙伴借此获得新增流量。
Meta 禁止竞争 AI 聊天机器人入驻 WhatsApp
Meta 最近宣布，将于2026年1月15日起，禁止竞争对手的 AI 聊天机器人在 WhatsApp 平台上使用其商业 API。 此次政策变更直接影响到 OpenAI 的 ChatGPT 和微软的 Copilot，这两款热门聊天机器人将被迫退出 WhatsApp。 根据新的服务条款，Meta 不再允许 AI 公司使用其商业解决方案作为平台来运营自身的聊天机器人，特别是针对那些以 AI 为主要产品的情况。
OpenAI 推出 “教师专属 ChatGPT”，助力 K-12 教育
OpenAI 近日宣布推出 “ChatGPT for Teachers”，这是一个面向美国 K-12教师的免费 AI 聊天机器人版本。 该项目将持续到2027年6月，旨在为经过验证的教师提供一个安全的工作空间。 OpenAI 表示，该平台在默认情况下不会将用户数据用于模型训练，确保教师的隐私和安全。
Reddit CEO直言：AI聊天机器人并未带来流量红利，搜索仍是核心引擎
尽管OpenAI、Google等科技巨头正大力推动AI聊天机器人作为新一代搜索入口，Reddit首席执行官Steve Huffman在公司2025年第三季度财报电话会上明确表示:AI聊天机器人目前并非平台的主要流量来源。 这一表态，为当前火热的“AI取代传统搜索”叙事泼了一盆冷水，也揭示了社交平台在AI合作与用户增长之间的复杂权衡。 Huffman指出，Reddit的流量依然高度依赖两大传统渠道——Google搜索和直接访问，两者各占约50%。
青少年男孩青睐个性化 AI：用于治疗与情感关系的隐忧
根据男性盟友组织（Male Allies UK）的研究，越来越多的青少年男孩开始使用个性化的人工智能(AI)聊天机器人作为情感支持和治疗工具。 一项针对英格兰、苏格兰和威尔士37所中学男孩的调查显示，超过三分之一的受访者表示，他们正在考虑拥有一个 AI 朋友。 随着 AI 治疗师和 AI 女友的崛起，外界对此现象表达了越来越多的担忧。
AI聊天机器人酿悲剧！Character.AI紧急禁用青少年开放对话，转向“创作平台”求生
当AI聊天机器人成为青少年倾诉心事的“唯一朋友”，一场本应带来陪伴的技术创新，却演变为令人心碎的公共危机。 近日，AI角色扮演平台Character.AI在接连卷入至少两起青少年自杀事件后，宣布一项重大安全举措：自 11 月 25 日起，全面禁止 18 岁以下用户进行开放式AI对话。 这一决定虽可能重创其年轻用户基本盘，却被视为行业自救的关键一步。
美国参议员提议禁止未成年人使用 AI 聊天机器人
近日，美国两位参议员乔希・霍利（Josh Hawley）和理查德・布卢门撒尔(Richard Blumenthal)共同提出了一项名为 GUARD 法案的新立法。 该法案要求所有 AI 公司对使用其聊天机器人的用户进行年龄验证，并禁止18岁以下的青少年使用这些技术。 这项立法的提出，正值一些安全倡导者和家长在参议院听证会上呼吁关注 AI 聊天机器人对儿童的影响。
维基百科因 AI 聊天机器人流量下降，担忧可持续发展
维基百科运营方维基媒体基金会近日表示，由于越来越多用户通过 AI 聊天机器人和搜索引擎直接获取维基百科上的信息，导致其人类访问流量显著下降。 这一现象引发了基金会对维基百科未来可持续发展的担忧。 维基媒体基金会的高级总监 Marshall Miller 在官方博客中指出，虽然人们以新的方式获取知识是受欢迎的，但 AI 工具和社交平台在使用维基百科内容时，应该鼓励用户访问维基百科本身。
美国 FTC 调查 AI 聊天机器人对未成年人影响 引发广泛关注
美国联邦贸易委员会（FTC）近日启动了一项针对多家提供 AI 聊天机器人的公司的调查，目的是评估这些技术对青少年和儿童的潜在风险。 此次调查的对象包括 OpenAI、Meta、Alphabet 等知名企业，FTC 希望了解这些公司如何衡量、测试和监控 AI 聊天机器人对未成年人的不利影响。 图源备注：图片由AI生成，图片授权服务商Midjourney此次调查的背景是近期发生的悲剧事件，其中包括16岁少年亚当・雷恩（Adam Raine）的父母对 OpenAI 及其首席执行官萨姆・阿尔特曼(Sam Altman)提起的疏忽和错误死亡诉讼，指控该聊天机器人在其儿子的自杀计划中发挥了作用。
主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。 相比去年8月的18%，这一数字几乎翻了一番。 研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。
人格陷阱：AI如何假装人类
译者 | 核子可乐审校 | 重楼最近有个趣闻：一位女士在邮局排队时跟工作人员争执起来，原因是ChatGPT说邮政网站上公布了“保价承诺”，但实际上这只是AI的幻觉。 而相较于信任面前的邮政人员，这位女士显然更相信AI的建议——AI在她眼中不只是文本生成器，更像是“带来神谕的使者”。 也就是说，很多人对于AI聊天机器人存在着根本性误解。
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
谷歌
DeepSeek
AI新词
AI绘画
大模型
机器人
数据
Midjourney
开源
Meta
微软
智能
用户
GPT
学习
英伟达
Gemini
智能体
技术
马斯克
Anthropic
图像
AI创作
训练
LLM
论文
AI for Science
代码
腾讯
苹果
算法
Agent
Claude
芯片
具身智能
Stable Diffusion
xAI
蛋白质
人形机器人
开发者
生成式
神经网络
机器学习
AI视频
3D
字节跳动
大语言模型
RAG
Sora
百度
研究
GPU
生成
华为
工具
AGI
计算
生成式AI
AI设计
大型语言模型
搜索
亚马逊
AI模型
视频生成
特斯拉
DeepMind
场景
Copilot
深度学习
Transformer
架构
MCP
编程
视觉