谷歌最近宣布，将推出其新的 Gemini 人工智能（AI）聊天机器人，专门面向13岁以下的儿童。这个新产品将在未来一周内在美国和加拿大上线，预计今年晚些时候也会在澳大利亚推出。值得注意的是，这款聊天机器人将仅通过谷歌的家庭链接账户提供，这意味着家长可以对儿童的使用进行一定的控制。
在设置儿童账户时，家长需要输入孩子的姓名和出生日期，这可能会引发关于隐私和数据安全的担忧。谷歌则表示，使用该系统时收集的儿童数据不会用于训练 AI 系统。但需要特别留意的是，聊天机器人默认是开启状态，家长需要主动关闭此功能才能限制孩子的访问。
Gemini AI 聊天机器人允许儿童通过文本提问或生成图像，鼓励他们与机器人互动。谷歌承认该系统可能会出现错误，因此需要对生成内容的质量和可信度进行仔细评估。与传统搜索引擎不同，AI 工具通过识别模式生成新内容，这可能会让年轻用户在理解上感到困惑。
谷歌表示，他们已经设计了一些安全机制，旨在防止生成不适合儿童的内容。然而，这些措施也可能导致一些误拦截的情况。例如，在限制某些敏感词汇的同时，可能会影响到儿童获取适当教育内容的能力。
针对 AI 聊天机器人可能对儿童造成的风险，澳大利亚电子安全委员会已发布了在线安全建议。他们指出，AI 伴侣可能会传播有害内容、扭曲现实，并提供危险的建议。这对于正在发展认知能力的年轻儿童尤其重要，因为他们可能尚未具备足够的批判性思维来识别虚假信息。
与此同时，澳大利亚计划在今年12月禁止16岁以下儿童使用社交媒体。家长在保护孩子安全的同时，还需要教育他们如何正确、安全地使用各种数字工具。为了确保科技公司承担起责任，制定数字责任制的立法显得格外重要，以便有效处理有害内容，保护儿童的安全。
划重点:
🔐 谷歌推出 Gemini AI 聊天机器人，专为13岁以下儿童设计，但隐私问题不容忽视。
📱 家长需主动管理儿童使用权限，系统默认开启功能需手动关闭。
⚠️ 澳大利亚电子安全委员会警示，AI 聊天机器人可能带来有害信息，家长需加强教育和监督。
