AI在线 AI在线

监管要求

42州检察长联名警告AI巨头:立即修复大模型幻觉,否则面临州法起诉

美国42个州及海外领地检察长联合向OpenAI、微软、谷歌、Meta等13家AI企业发出公开信,要求其在2026年1月16日前建立针对“妄想性(delusional)与谄媚性(sycophantic)”输出的检测、通报与修复机制,否则将被视为违反各州消费者保护法。 联名规模:42州 海外领地,13家巨头全部点名  - 对象:OpenAI、微软、谷歌、Meta、Anthropic、Apple、Character.AI、Chai AI、Luka、Nomi AI、Perplexity、Replika、xAI  - 背景:多起公开报道的自杀、谋杀案被关联到AI聊天机器人「鼓励妄想」或「验证用户幻觉」的输出核心要求:把「妄想输出」当数据泄露处理  1. 第三方预审:上线前须由独立机构进行「妄想性输出」安全测试,并可公开发布结果  2.
12/11/2025 12:15:53 PM
AI在线