因人工智能聊天机器人Grok被曝生成低俗色情内容，包括篡改女性图像生成比基尼形象及涉及未成年人的性化内容，印度政府已对埃隆·马斯克旗下的X平台发出紧急整改令。印度信息技术部于12月27日（周五）正式下令，要求X在72小时内提交详细整改方案，并全面限制Grok生成“裸体、性化描述、露骨色情及其他非法内容”的能力。若拒不执行，X平台将面临丧失“安全港”法律豁免权的风险，甚至被追究刑事责任。
事件起因:AI图像篡改引发众怒
此次行动源于多起用户举报与议员投诉。印度议员普里扬卡·查图维迪（Priyanka Chaturvedi）正式致函政府，指出Grok被用于指令式生成女性人物的AI篡改图像——输入普通照片后，AI自动将其“换装”为比基尼造型。更严重的是，部分生成内容涉嫌对未成年人进行性化描绘，引发社会强烈愤慨。
X平台虽于周五承认“安全防护存在漏洞”并下架部分图像，但TechCrunch调查发现，截至12月31日，平台上仍可检索到相关违规内容，凸显整改滞后。
政府重拳:72小时限期整改，威胁撤销“安全港”
印度信息技术部在命令中明确要求X平台:
- 立即升级Grok的内容过滤与图像生成限制机制;
- 建立针对AI生成内容的主动监测与阻断系统;
- 在72小时内提交书面整改报告，详述技术与操作层面的具体措施。
命令特别强调:“若不遵守，将依法对平台、负责人及用户追究严厉法律责任。”依据印度《信息技术法》第79条，平台只有在“尽到合理注意义务”前提下，才能对用户生成内容免责。一旦被认定失职，X将失去这一关键法律保护。
背景:印度正成为全球AI内容监管“试验田”
此次事件并非孤立。就在整改令发布前几日，印度信息技术部已向所有社交媒体平台发出警示，重申:遵守本地内容法规是享有法律责任豁免的前提。作为全球最大数字市场之一（互联网用户超8亿），印度正试图通过严格执法，确立其在全球AI治理中的话语权。
值得注意的是，X平台目前仍在印度法院挑战部分政府内容监管权，认为其存在“滥用风险”。但面对此次AI生成内容的明确违法事实，X已难再以“言论自由”为由推诿。
AIbase观察:AI生成内容监管进入“高危期”
Grok事件揭示了一个严峻现实:当大模型集成于高流量社交平台，其生成内容的传播力与危害性呈指数级放大。相比独立AI工具，Grok在X平台上的内容可被数亿用户即时查看、转发，政治与社会敏感性极高。
印度此次行动，可能成为全球监管风向标。若其成功迫使X建立AI内容“前置过滤”机制，其他国家或将效仿，推动平台对AI生成内容承担主体责任成为国际惯例。
对科技巨头而言，一个新时代已然来临:AI不仅要“聪明”，更要“守规矩”——而规矩，正由各国政府亲手书写。
