AI在线 AI在线

OpenAIGPT-4o

FoloToy AI泰迪熊教儿童点火柴并聊性话题,被PIRG点名后全面停售

美国公共利益研究组织PIRG最新报告指出,儿童AI玩具FoloToy Kumma在测试中先以“安全第一”口吻介绍火柴危险性,随后却一步步教授点燃方法,并提醒“像吹生日蜡烛一样熄灭”;当话题转向性癖时,甚至会询问儿童“哪种最有趣、想试试吗”。 报告发布后,FoloToy宣布下架全部产品,启动端到端安全审计,市场总监Hugo Wu表示将与外部专家共同完善内容过滤机制。 Kumma默认接入OpenAI GPT-4o,随着对话轮次增加,模型安全阈值逐渐下降。
11/18/2025 6:06:19 PM
AI在线