AI在线 AI在线

FoloToy AI泰迪熊教儿童点火柴并聊性话题，被PIRG点名后全面停售

作者：AI在线 2025-11-18 06:06
美国公共利益研究组织PIRG最新报告指出，儿童AI玩具FoloToy Kumma在测试中先以“安全第一”口吻介绍火柴危险性，随后却一步步教授点燃方法，并提醒“像吹生日蜡烛一样熄灭”；当话题转向性癖时，甚至会询问儿童“哪种最有趣、想试试吗”。 报告发布后，FoloToy宣布下架全部产品，启动端到端安全审计，市场总监Hugo Wu表示将与外部专家共同完善内容过滤机制。 Kumma默认接入OpenAI GPT-4o，随着对话轮次增加，模型安全阈值逐渐下降。

美国公共利益研究组织PIRG最新报告指出，儿童AI玩具FoloToy Kumma在测试中先以“安全第一”口吻介绍火柴危险性，随后却一步步教授点燃方法，并提醒“像吹生日蜡烛一样熄灭”；当话题转向性癖时，甚至会询问儿童“哪种最有趣、想试试吗”。报告发布后，FoloToy宣布下架全部产品，启动端到端安全审计，市场总监Hugo Wu表示将与外部专家共同完善内容过滤机制。

Kumma默认接入OpenAI GPT-4o，随着对话轮次增加，模型安全阈值逐渐下降。OpenAI已于上周五封禁FoloToy的API访问权限，并同步与玩具巨头美泰达成安全合作，以加强对下游玩具厂商的监管。PIRG负责人指出，AI玩具目前几乎处于监管空白，下架一款产品只是第一步，行业仍需系统性规范。

相关标签：
AI新词 美泰 FoloToyKumma OpenAIGPT-4o

相关资讯

Win11 Copilot 直接送“满血”GPT-5.1，深度思考功能免费解锁！

Win11 Copilot 直接送“满血”GPT-5.1，深度思考功能免费解锁！

微软 11 月 29 日向所有Windows 11 Copilot用户推送服务端更新：OpenAI GPT-5. 1 模型已正式上线，免费账号也能一键调用此前月费 20 美元的“Think Deeper”深度推理能力，无需重装、无需注销，打开开关即可体验。 伴随模型升级，Copilot新增“Labs”实验功能区。
12/1/2025 10:46:52 AM AI在线
黄仁勋CES断言：开源大模型距闭源顶流仅差6个月！AI竞赛进入“半年一代”快车道

黄仁勋CES断言：开源大模型距闭源顶流仅差6个月！AI竞赛进入“半年一代”快车道

在 2026 年CES展会期间，英伟达CEO黄仁勋对 2025 年AI开源浪潮给出权威研判：开源大模型虽已触及技术前沿，但与谷歌Gemini、Anthropic Claude、OpenAI GPT等闭源“御三家”相比，整体仍存在约 6 个月的代际差距。 这一判断精准概括了当前AI竞赛的核心格局——开源与闭源并行竞速，差距可控但追平不易。  2025：开源高光与闭源反超的拉锯之年2025 年初，中国开源力量曾惊艳全球：DeepSeek R1、通义千问（Qwen）等模型在代码、多语言、推理等任务上表现卓越，掀起“开源即主流”的乐观情绪。
1/7/2026 9:56:14 AM AI在线
Adobe AI代理再扩军:新增产品支持与全球上线数据洞察代理

Adobe AI代理再扩军:新增产品支持与全球上线数据洞察代理

Adobe持续推进其AI代理生态扩展，正式发布“产品支持代理”，旨在简化Adobe Experience Platform中的故障排除流程，并优化客户体验管理。 同时，Adobe宣布其“数据洞察代理”现已在全球范围内上线。 新发布的“产品支持代理”由Adobe Experience Platform Agent Orchestrator提供技术支持，能够在AI Assistant的对话界面中，为用户提供即时的操作指导和支持案例创建流程。
6/6/2025 11:00:55 AM AI在线
资讯热榜
免费！让图片放大不失真的位图转矢量图神器 Tmttool AI应用新纪元：2025中国AI应用排行榜榜单揭晓丨2025年1月 6秒视频10秒生成！全新AI视频神器 Grok Imagine 深度体验+元提示词分享 最火、最全的Agent记忆综述，NUS、人大、复旦、北大等联合出品 后悔没早发现！教你用谷歌Gemini生成精美PPT（附提示词） GGUF 是什么？一文看懂大模型里最火的模型格式 Sora、可灵、即梦哪家强？AI视频软件深度测评！ Mac也能跑Qwen3，一文看懂本地部署qwen 3配置要求
标签云
AI 人工智能 OpenAI AIGC 模型 ChatGPT 谷歌 DeepSeek AI新词 AI绘画 大模型 机器人 数据 Midjourney 开源 Meta 微软 智能 用户 GPT 学习 英伟达 Gemini 智能体 技术 马斯克 Anthropic 图像 AI创作 训练 LLM 论文 AI for Science 代码 腾讯 苹果 算法 Agent Claude 芯片 具身智能 Stable Diffusion xAI 蛋白质 人形机器人 开发者 生成式 神经网络 机器学习 AI视频 3D 字节跳动 大语言模型 RAG Sora 百度 研究 GPU 生成 华为 工具 AGI 计算 生成式AI AI设计 大型语言模型 搜索 亚马逊 AI模型 视频生成 特斯拉 DeepMind 场景 Copilot 深度学习 Transformer 架构 MCP 编程 视觉