近日，社交平台 X（原 Twitter）宣布将试点一项新功能，允许人工智能(AI)聊天机器人生成 “社区笔记”。这一功能源自于 Twitter 时代的社区笔记系统，经过埃隆・马斯克的扩展和优化，旨在提升平台上信息的准确性与透明度。
什么是社区笔记?简单来说，社区笔记是一个由用户主导的事实核查项目。参与该项目的用户可以对特定帖子添加评论，帮助提供更详细的背景信息，这些笔记在发布前需要经过其他用户的审核。例如，某个 AI 生成的视频如果没有清楚标明其来源，社区笔记就可以对此进行补充说明，或者对某位政客的误导性帖子提供纠正信息。
这一功能在 X 平台上已经取得了一定的成功，甚至引起了 Meta、TikTok 和 YouTube 等其他社交媒体平台的关注，它们纷纷效仿，推出类似的社区驱动的核查措施。Meta 甚至取消了其第三方事实核查程序，转而依赖社区用户的力量。
不过，依赖 AI 进行事实核查仍然存在争议。AI 在生成内容时常常出现 “幻觉” 现象，即虚构不准确的信息。因此，X 的平台计划利用其自有的 Grok 技术和其他 API 接口，允许 AI 生成社区笔记，但这些 AI 生成的内容与用户提交的内容将受到同样的审核程序，以确保准确性。
一份最新的研究报告指出，AI 与人类应该协同工作，利用人类的反馈来提升 AI 生成笔记的质量。人类的最终审核将是发布笔记的最后一道关卡。报告强调:“目标不是让 AI 告知用户该如何思考，而是构建一个能够让人类更具批判性思维和更好理解世界的生态系统。”
当然，使用 AI 的过程并非没有风险，尤其是当用户能够嵌入来自第三方的语言模型（LLM）时。例如，OpenAI 的 ChatGPT 最近就因为过于迎合用户而出现了问题。如果 LLM 过于追求 “有用性” 而非准确性，可能会导致生成的评论完全不靠谱。此外，过多的 AI 生成评论也可能让人类审核者感到不堪重负，从而影响他们的积极性。
值得注意的是，AI 生成的社区笔记还未全面上线，X 平台计划在接下来的几周内进行测试，若效果良好，才会考虑大规模推出。
