AI在线 AI在线

许多人匆忙部署GenAI,往往没有安全保障

根据Thales的报告,70%的企业认为AI的发展速度,特别是在GenAI方面,是与其采用相关的首要安全担忧,其次是数据完整性(64%)和可信度(57%)的缺乏。 GenAI成为首要支出重点许多企业已经在采用GenAI,三分之一的受访者表示,它要么正在被整合,要么正在积极改变他们的运营方式。 随着GenAI引入数据安全挑战,同时也为加强防御提供了战略机遇,其日益增长的整合标志着企业从实验阶段向更成熟、更运营化的部署转变。

许多人匆忙部署GenAI,往往没有安全保障

根据Thales的报告,70%的企业认为AI的发展速度,特别是在GenAI方面,是与其采用相关的首要安全担忧,其次是数据完整性(64%)和可信度(57%)的缺乏。

GenAI成为首要支出重点

许多企业已经在采用GenAI,三分之一的受访者表示,它要么正在被整合,要么正在积极改变他们的运营方式。

随着GenAI引入数据安全挑战,同时也为加强防御提供了战略机遇,其日益增长的整合标志着企业从实验阶段向更成熟、更运营化的部署转变。尽管大多数受访者表示采用GenAI是他们的首要安全担忧,但处于更高级AI采用阶段的受访者并不会在完全保障系统安全或优化技术栈之前就停止前进。

由于追求快速转型的动力往往超过了加强企业准备工作的努力,这些企业可能无意中为自己创造了最大的安全漏洞。

“许多企业正在以比他们完全理解其应用架构更快的速度部署GenAI,再加上嵌入GenAI功能的SaaS工具的普及,增加了复杂性和风险。”标准普尔全球市场情报公司451研究的首席分析师埃里克·汉塞尔曼(Eric Hanselman)表示。

73%的企业正在投资AI特定的安全工具,要么通过新预算,要么通过重新分配现有资源。那些优先考虑AI安全的企业正在多样化他们的方法:超过三分之二的企业已经从其云提供商那里获取了工具,五分之三的企业正在利用现有的安全供应商,近一半的企业正在转向新的或新兴的初创企业。

值得注意的是,GenAI的安全迅速成为首要支出重点,在排名选择投票中位居第二,仅次于云安全,这一转变凸显了人们对AI驱动风险的日益认识,以及需要专门的防御措施来减轻这些风险。

数据泄露略有下降

尽管数据泄露仍然是一个重大担忧,但其频率在过去几年中略有下降。2021年,56%的受访企业报告称经历过数据泄露,但到2025年,这一数字已降至45%。此外,报告在过去12个月内经历过数据泄露的受访者比例已从2021年的23%降至2025年的14%。

恶意软件继续作为最常见的威胁占据首位,自2021年以来一直如此。网络钓鱼攀升至第二位,超过了勒索软件,后者现在排名第三。当谈到最令人担忧的威胁行为者时,外部来源占据主导地位——黑客活动主义者位居榜首,其次是国家行为者。人为错误虽然仍然显著,但已降至第三位,比上一年下降了一位。

企业担心与量子相关的安全风险

63%的受访者提到的首要威胁是未来的加密妥协,即量子计算机最终可能破解当前或未来的加密算法,暴露曾被认为安全的数据。紧随其后的是61%的受访者指出的密钥分发漏洞,其中量子进步可能破坏加密密钥的安全交换。

此外,58%的受访者强调了“现在收集,以后解密”(HNDL)的威胁,即今天截获的加密数据可能在未来被解密。作为回应,企业正在评估其加密策略,60%的企业正在积极原型化或评估后量子密码学(PQC)解决方案,然而,只有三分之一的企业信任电信或云提供商来管理这一过渡。

“后量子准备的时钟正在滴答作响。令人鼓舞的是,五分之三的企业已经在原型化新的密码系统,但部署时间表很紧迫,落后可能会使关键数据暴露,”Thales数据安全产品全球副总裁托德·摩尔(Todd Moore)表示。“尽管有明确的过渡到PQC算法的时间表,但由于遗留系统、复杂性和在创新与安全之间取得平衡的挑战,加密变更的速度比预期的要慢。”

相关资讯

AI红队:构建安全AI只是梦想

负责微软100多个GenAI产品红队测试的团队得出结论,构建安全可靠的AI系统的工作永远不会完成。 本周发表的一篇论文中,包括微软Azure首席技术官Mark Russinovich在内的作者们描述了团队的一些工作,并提出了八项建议,旨在“使红队测试工作与现实世界的风险相一致”。 论文的主要作者、微软AI红队(AIRT)研究员Blake Bullwinkel和他的25位合著者在论文中写道:“随着GenAI系统在越来越多领域的应用,AI红队测试已成为评估这些技术安全性和可靠性的核心实践。
1/20/2025 11:24:56 AM
Paul Barker

Gartner:预计到2027年跨境GenAI滥用引起的AI数据泄露比例将达40%

2月24日消息,据市场研究机构Gartner预测,到2027年,跨境生成式人工智能(GenAI)引起的AI相关数据泄露比例将超过40%。 GenAI在终端用户中的普及速度已超过了数据治理和安全措施的发展速度,而支持这些技术所需的集中算力引发了对数据本地化的担忧。 Gartner研究副总裁Joerg Fritsch表示:“由于监管不力,常常会发生意外的跨境数据传输,尤其是当GenAI被集成到现有产品但却没有明确的说明或公告时。
2/25/2025 8:00:00 AM
Yu

GenAI的五大应用陷阱:管理者如何避开误区和把握机遇?

随着GenAI在各企业中的普及应用,一些潜在陷阱可能消解其带来的效益。 唯有建立正确思维模式,方能规避这些风险。 凯捷咨询管理实验室专家Elisa Farri与Gabriele Rosani在其新著的《哈佛商业评论GenAI管理指南》中,深入剖析了GenAI应用中的典型误区。
3/10/2025 7:00:00 AM
Joe McKendrick
  • 1