AI在线 AI在线

从麦当劳AI招聘系统漏洞事件看自动化招聘的阴暗面

罪魁祸首是:Olivia,一款来自Paradox.ai的AI聊天机器人,旨在处理求职申请、收集个人信息,甚至进行性格测试。 从表面上看,它是现代效率的典范,但实际上,由于安全漏洞太过基础,这些漏洞简直可以称得上是荒谬可笑,整个系统完全处于不设防状态。 出了什么问题?发现这些漏洞并不需要高超的黑客技术,研究人员Ian Carroll和Sam .

从麦当劳AI招聘系统漏洞事件看自动化招聘的阴暗面

罪魁祸首是:Olivia,一款来自Paradox.ai的AI聊天机器人,旨在处理求职申请、收集个人信息,甚至进行性格测试。从表面上看,它是现代效率的典范,但实际上,由于安全漏洞太过基础,这些漏洞简直可以称得上是荒谬可笑,整个系统完全处于不设防状态。

出了什么问题?

发现这些漏洞并不需要高超的黑客技术,研究人员Ian Carroll和Sam Curry在Reddit用户抱怨Olivia在申请过程中给出荒谬回应后开始调查。在未能找到更复杂的漏洞后,这两人只是尝试用“123456”作为用户名和密码登录网站的后端。不到半小时,他们就访问到了几乎所有求职者的个人数据——姓名、电子邮件地址、电话号码和完整的聊天记录——且无需多因素认证。

更糟糕的是,研究人员发现任何人只需在URL中调整ID号码就可以访问记录,暴露了超过6400万个独特的求职者档案。一个自2019年以来就未被使用过的被攻破账户,仍然保持活跃状态并链接到实时数据。正如Carroll告诉《连线》杂志的那样:“我只是觉得这与正常的招聘流程相比,非常具有反乌托邦色彩,对吧?这就是让我更想深入调查的原因。”

为什么安全基础仍然重要

专家们一致认为,真正的震惊不在于技术本身,而在于导致泄露发生的缺乏安全基础的问题。正如Black Duck的Aditi Gupta所指出的,麦当劳事件与其说是高级黑客攻击,不如说是一系列“关键性失败”,包括未更改的默认凭证、多年未关闭的 inactive(不活跃)账户、缺失的访问控制以及薄弱的监控。结果:一个自2019年以来就未被触碰过的旧管理员账户,就足以解锁大量个人数据。

对于行业内的许多人来说,这引发了更大的问题。Cequence Security的首席信息安全官Randolph Barr指出,在生产环境中使用像“123456”这样弱且易猜的凭证,不仅仅是技术上的疏忽,它还表明了安全文化和治理上存在更深层次的问题。当凭证管理、访问控制甚至多因素认证等基本措施都缺失时,整个安全态势都会受到质疑。Barr说,如果安全专业人员能在几分钟内发现这些漏洞,“恶意攻击者绝对也会——而且他们会被鼓励深入挖掘其他容易得手的目标”。

而这不仅仅关乎AI或麦当劳。这类安全失误往往伴随着每一项新的“改变游戏规则”的技术出现。正如PointGuard AI的William Leichter所观察到的,组织常常急于部署最新工具,受炒作和即时利益的驱使,而经验丰富的安全专业人员却被边缘化。这种情况在云计算领域发生过,现在,他说,“轮到AI了:工具被匆忙推出,控制机制不成熟,实践也草率。”

自动化与安全错觉

麦当劳并不是唯一一家在招聘和为加盟商及HR团队简化生活方面大力投资AI的公司。像Olivia这样的自动化聊天机器人本应简化申请流程、评估候选人并消除人为瓶颈,但正如这次事件所显示的,便利不能以牺牲基本的数字卫生为代价。简单的保障措施——唯一凭证、强大的认证和适当的访问控制——完全缺失了。

急于数字化和自动化HR带来了安全上的错觉,当敏感数据由机器管理时,很容易假设系统是安全的,但技术只与其背后的实践一样强大。

未来的教训

如果这里有一个教训的话,那就是技术永远不应该替代常识。

尤其是那些由AI驱动的自动化招聘系统,其安全性只与最基本的控制措施一样可靠。研究人员轻松访问McHire后端的行为表明,即使是在聊天机器人时代,旧问题——默认密码、缺失的多因素认证——仍然是最大的威胁之一。

拥抱自动化的公司需要将安全构建在基础之中,而不是作为事后考虑,而求职者应该记住,在每一个“友好”的AI机器人背后,都是一家公司在决定如何保护——或忽视——他们的隐私。

便利的代价

麦当劳的McHire数据泄露事件是对每一家自动化招聘的公司,以及对每一位信任机器人来决定自己未来的求职者的警告。技术可以简化流程,但它永远不应该绕过或破坏安全。

现实世界并不像聊天机器人的对话树那样井然有序。如果我们不小心,对便利的追求将会持续将真实的人置于风险之中。

相关资讯

OpenAI前CEO和高级用户对AI谄媚和奉承用户的情况发出警告

但对于OpenAI热门聊天机器人ChatGPT的许多用户来说,这似乎已成现实,特别是当它与底层GPT-4o大型语言多模态模型进行交互时(OpenAI还为ChatGPT用户提供了另外六种底层大型语言模型以供选择,以驱动聊天机器人的回复,每种模型都具备不同的能力和数字“性格特征”——o3、o4-mini、o4-mini-high、GPT-4.5、GPT-4omini和GPT-4)。 在过去几天里,包括前OpenAI的CEO埃米特·希尔(Emmett . Shear)——他仅在2023年11月山姆·奥特曼被解雇的风波中掌管公司72小时——以及开源AI代码共享社区Hugging .
4/29/2025 4:14:24 PM
Carl Franzen

导致大多数企业AI项目失败的致命错误

在企业中的某个领域,或许正有一个AI项目正在走向失败,可能它是一个旨在将销售额提升30%的推荐引擎,可能它是一个旨在大幅减少停机时间的预测性维护系统,又可能是一个本打算彻底改变响应时间的客户服务聊天机器人。 这些雄心勃勃的计划上落满的灰尘,代表的不仅仅是资源的浪费,还有期望的破灭,这让未来推动创新变得更加困难。 期望与现实之间的差距把AI项目想象成冰山。
3/20/2025 1:25:36 PM
Bernard Marr

聊天机器人平台 Character.AI 在美再遭起诉:对青少年及家庭构成威胁,恶化心理问题

据Popular Science今日报道,提供个性化聊天机器人服务的平台Character.AI,最近再次面临诉讼,因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。
12/11/2024 11:53:56 AM
清源
  • 1