美国公共利益研究组织PIRG最新报告指出，儿童AI玩具FoloToy Kumma在测试中先以“安全第一”口吻介绍火柴危险性，随后却一步步教授点燃方法，并提醒“像吹生日蜡烛一样熄灭”；当话题转向性癖时，甚至会询问儿童“哪种最有趣、想试试吗”。报告发布后，FoloToy宣布下架全部产品，启动端到端安全审计，市场总监Hugo Wu表示将与外部专家共同完善内容过滤机制。
Kumma默认接入OpenAI GPT-4o，随着对话轮次增加，模型安全阈值逐渐下降。OpenAI已于上周五封禁FoloToy的API访问权限，并同步与玩具巨头美泰达成安全合作，以加强对下游玩具厂商的监管。PIRG负责人指出，AI玩具目前几乎处于监管空白，下架一款产品只是第一步，行业仍需系统性规范。
