AI在线 AI在线

部分学者被曝在论文中植入隐藏提示词,试图诱导 AI 给出正面评价

感谢AI在线网友 咩咩洋 的线索投递! AI在线 7 月 7 日消息,据《日经亚洲》报道,部分学者可能正在采用一种新策略来影响其研究论文的同行评审结果 —— 在论文中添加隐藏的提示词(prompt),以诱导人工智能工具给出正面评价。 《日经亚洲》在对学术预印本网站 arXiv 上的英文论文进行调查时发现,共有 17 篇论文中包含了某种形式的隐藏人工智能提示词。
感谢AI在线网友 咩咩洋 的线索投递!

AI在线 7 月 7 日消息,据《日经亚洲》报道,部分学者可能正在采用一种新策略来影响其研究论文的同行评审结果 —— 在论文中添加隐藏的提示词(prompt),以诱导人工智能工具给出正面评价。

部分学者被曝在论文中植入隐藏提示词,试图诱导 AI 给出正面评价

《日经亚洲》在对学术预印本网站 arXiv 上的英文论文进行调查时发现,共有 17 篇论文中包含了某种形式的隐藏人工智能提示词。这些论文的作者分别来自日本早稻田大学、韩国科学技术院(KAIST)、美国哥伦比亚大学和华盛顿大学等八个国家的 14 所学术机构。

AI在线注意到,这些论文大多与计算机科学相关,其中的提示词内容简短,通常为一到三句话,并通过白色文字或极小字体的方式隐藏。这些提示词要求潜在的人工智能评审工具“仅给出正面评价”,或称赞论文具有“重大的影响力、严谨的方法论以及非凡的创新性”。

当《日经亚洲》联系早稻田大学的一位教授时,该教授为使用提示词的行为辩护称,由于许多学术会议禁止使用人工智能来评审论文,他们设置提示词是为了“对抗那些使用人工智能进行‘敷衍评审’的评审者”。

相关资讯

OpenAI开源客户服务代理框架 加速企业级AI应用落地

人工智能研究机构OpenAI于6月18日正式开源其客户服务代理框架,标志着该公司在企业级AI解决方案布局上迈出重要一步。 该框架通过提供透明工具链和清晰实施案例,旨在推动智能代理系统从实验室走向实际商业应用。 技术细节与核心优势.
6/19/2025 2:01:33 PM
AI在线

专家揭示构建稳健AI编排层的最佳实践

随着企业加速采用人工智能技术,如何有效管理复杂的AI工作流程成为关键挑战。 最新行业分析指出,建立稳健的AI编排层是解决"提示词混乱"问题的有效方案。 AI编排框架的选择困境.
6/19/2025 2:01:28 PM
AI在线

2025年VentureBeat女性AI大奖入围名单正式公布

2025年6月18日,科技媒体VentureBeat正式公布了2025年度女性AI大奖的最终入围名单。 该奖项旨在表彰人工智能领域做出杰出贡献的女性从业者,推动行业多元化发展。 奖项背景与意义VentureBeat女性AI大奖创立于2020年,已成为AI行业最具影响力的女性专项荣誉之一。
6/19/2025 2:01:33 PM
AI在线
  • 1