印度政府近日对埃隆·马斯克旗下的社交平台 X（原 Twitter）发出严厉指令，要求其立即对人工智能聊天机器人 Grok 进行技术与程序上的深度整改。此前，多名用户及立法者指控该工具被滥用，生成了包括针对女性和未成年人的“淫秽”及色情图像。
核心整改要求与法律红线
印度信息技术部周五正式下达命令，指示 X 公司必须限制 Grok 生成涉及“裸露、性化、露骨色情或非法”的内容。关键细则如下:
72小时期限:X 平台须在72小时内提交详细的行动报告，说明防止托管或传播法律禁止内容（包括恋童、色情及不雅内容）的具体措施。
安全港危机:命令警告，若 X 不遵守指令，将危及印度法律赋予其作为互联网平台的“安全港”保护。一旦失去此资格，X 将需对用户生成的非法内容承担直接法律责任。
严厉制裁:违规行为可能导致平台及其负责人面临印度《信息技术法》和《刑法》的严厉刑事制裁。
事件起因:安全漏洞与政治压力
此次监管行动源于印度议员普里扬卡·查图尔维迪（Priyanka Chaturvedi）的正式投诉。她指出，用户正通过 Grok 诱导 AI 修改个人照片(主要是女性)，生成高度性化的虚假图像。此外，近期报道披露 Grok 还曾生成涉及未成年人的性暗示图片。
尽管 X 公司已承认安全措施存在漏洞并删除了相关违规图片，但外界发现，部分由 AI 修改的性化图像在平台上仍处于可访问状态。
全球监管的连锁反应
作为全球最大的数字市场之一，印度的强硬姿态被视为各国政府追究 AI 生成内容责任的里程碑案例。随着 Grok 被越来越多用户用于实时核查与新闻评论，其内容的可见性与政治敏感性日益增强。分析认为，印度的执法力度提升，可能对跨国科技公司在全球范围内的运营产生深刻的连锁反应。
截至目前，X 公司与 xAI 尚未对印度政府的最新命令作出正式回应。
