央视新闻今天援引“筑梦岛 App AI 智能体对话存在低俗内容被依法约谈”案例，曝光了 AI 聊天软件行业乱象。
AI在线参考通报获悉，以筑梦岛 App 为例，央视网提到该平台中的 AI 智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色，生成一系列“明显诱导性内容”，危害未成年人身心健康。
6 月 19 日上午，上海市网信办依法约谈筑梦岛 App 运营企业主要负责人，要求平台立即整改，健全 AI 生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。
央视网表示，当未成年人因 AI 聊天软件诱导性内容身心受损时，开发、运营方的法律责任边界亟待厘清。若相关行为导致未成年人出现自残情况，有可能构成刑法第 234 条规定的故意伤害罪。
此外，若软件开发、运营方未严格履行内容审核义务，对违规信息视而不见、放任传播，便需为侵权行为承担相应后果。若 AI 生成内容涉及色情擦边信息，软件开发、运营方极有可能触碰“传播淫秽物品罪”的红线；若软件开发、运营方非法收集未成年人隐私数据，将其用于商业牟利，同样可能因触犯“侵犯公民个人信息罪”而面临刑事追责。
