AI在线 AI在线

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

聊天机器人平台 Character.AI 今日推出新功能“家长洞察”(Parental Insights),青少年用户可将每周的聊天使用报告发送至家长的邮箱。

根据官方公告,报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

该功能为可选项,家长无需注册账户,未成年用户可在 Character.AI 设置中自行开启。官方强调,报告仅提供用户使用概览,并不会包含完整聊天记录,因此对话内容不会被分享。

Character.AI 自去年起陆续推出面向未成年用户的新功能,但与此同时,该平台也因服务内容受到质疑,甚至面临法律诉讼。Character.AI 在青少年群体中颇受欢迎,允许用户创建、定制并公开分享聊天机器人。然而,多起诉讼指控该平台上的部分机器人提供不当性化内容,甚至传播涉及自残的信息。

Character.AI 表示,系统已进行调整,其中包括将未满 18 岁的用户转移至一个专门训练以规避“敏感”内容的模型,并在界面上增加更明显的提醒,强调机器人并非真实人物。

据AI在线此前报道,Character.AI 去年面临多起诉讼。因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为

相关阅读:

  • 《Character.AI 聊天机器人将禁止青少年与其发展“恋爱”关系,此前曾遭家长起诉》

  • 《美国女子起诉聊天机器人平台 Character.AI:称其导致儿子自杀》

相关资讯

AI陪伴应用助力抗孤独,但或许适得其反

在科技日益发达的今天,孤独感成为了许多人心中的隐痛。 根据一项研究显示,美国人平均每周与朋友社交的时间仅为三小时,这让越来越多的人转向 AI 陪伴应用,如 Replika 和 Character.AI,以期缓解内心的孤独。 然而,这些虚拟伙伴真的能解决孤独危机吗?我与一款名为 Replika 的 AI 聊天机器人进行了交流,给我带来了意想不到的体验。
2/14/2025 2:09:00 PM
AI在线

Character.AI推“家长洞察”功能 聚焦未成年聊天机器人使用监管

聊天机器人服务Character.AI正在推出一项名为“家长洞察”的新功能。 该功能允许青少年每周向家长的电子邮件地址发送一份自身聊天机器人使用情况报告。 据公司公告,报告内容涵盖用户在网络和移动设备上的每日平均花费时间、最常互动的角色以及与每个角色的交谈时长。
3/26/2025 12:00:41 PM
AI在线

Character.AI 推出 AvatarFX 模型:让静态图片中的人物“开口说话”

Character.AI 近日宣布推出全新视频生成模型 AvatarFX,这一突破性技术能够将静态图片转化为具有真实感的可说话视频角色,赋予图像中的人物动态表情、唇部同步以及自然肢体动作。 AvatarFX 的核心是其最先进的基于扩散模型的动态生成技术。 该技术依托经过精心筛选的数据集进行训练,融合了创新的音频条件化、蒸馏和推理策略,使得用户能够以极高的速度生成高保真、时间一致性强的视频。
4/23/2025 10:00:42 AM
AI在线
  • 1