AI在线 AI在线

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

聊天机器人平台 Character.AI 今日推出新功能“家长洞察”(Parental Insights),青少年用户可将每周的聊天使用报告发送至家长的邮箱。

根据官方公告,报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

该功能为可选项,家长无需注册账户,未成年用户可在 Character.AI 设置中自行开启。官方强调,报告仅提供用户使用概览,并不会包含完整聊天记录,因此对话内容不会被分享。

Character.AI 自去年起陆续推出面向未成年用户的新功能,但与此同时,该平台也因服务内容受到质疑,甚至面临法律诉讼。Character.AI 在青少年群体中颇受欢迎,允许用户创建、定制并公开分享聊天机器人。然而,多起诉讼指控该平台上的部分机器人提供不当性化内容,甚至传播涉及自残的信息。

Character.AI 表示,系统已进行调整,其中包括将未满 18 岁的用户转移至一个专门训练以规避“敏感”内容的模型,并在界面上增加更明显的提醒,强调机器人并非真实人物。

据AI在线此前报道,Character.AI 去年面临多起诉讼。因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为

相关阅读:

  • 《Character.AI 聊天机器人将禁止青少年与其发展“恋爱”关系,此前曾遭家长起诉》

  • 《美国女子起诉聊天机器人平台 Character.AI:称其导致儿子自杀》

相关资讯

AI陪伴应用市场爆发式增长:2025年上半年收入8200万美元,"AI女友"需求最旺

AI陪伴应用正在成为移动应用市场的新风口。 应用情报公司Appfigures提供的最新数据显示,除ChatGPT和Grok等知名产品外,专门的AI"陪伴"应用需求正在快速增长。 在全球337个活跃且有收入的AI陪伴应用中,仅2025年就有128款新应用上线。
8/13/2025 10:32:41 AM
AI在线

2025 年 AI 伴侣应用市场或达 1.2 亿美元,用户需求激增

随着人工智能技术的迅猛发展,AI 伴侣应用逐渐成为市场的新宠。 根据应用情报公司 Appfigures 的最新数据,全球范围内活跃的 AI 伴侣应用已经达到337款,其中128款是在2025年发布的。 Appfigures 的分析指出,这一细分市场在2023年上半年已经创造了8200万美元的收入,预计到年底将突破1.2亿美元。
8/13/2025 10:33:02 AM
AI在线

消息称谷歌将推出明星网红 AI 聊天机器人,与 Meta 竞争

根据 The Information 爆料消息,谷歌正在基于明星和 YouTube 网红构建新的 AI 聊天机器人。这个想法并不是谷歌首创的,目前包括 Character.ai 这样的初创公司,以及像 Meta 这样的大公司已经推出了类似的产品。爆料称,谷歌的明星网红 AI 聊天机器人将由该公司的 Gemini 大语言模型提供支持。该公司还在尝试与有影响力的明星网红建立合作伙伴关系,并且还在开发一项功能,让人们只需描述自己的个性和外表就可以创建自己的聊天机器人,类似 Character.ai 的做法。IT之家还发现
6/25/2024 9:20:42 AM
汪淼
  • 1