AI在线 AI在线

对话顺丰科技网络安全总监梁博:大模型浪潮下物流网络安全的守与破

网络安全中的攻防一直是矛与盾的关系,它们是相互对立且不断发展的。 当大模型重塑产业形态时,网络安全的“攻防边界”正在被悄然改写,开始上演一场在用魔法打败魔法的战争,但最终谁会胜利,不得而知。 作为承载亿量级用户隐私数据、依托自动化场景运转的物流行业来说,既面临传统网络攻击的持续侵扰,又需应对大模型衍生的新型安全风险。

网络安全中的攻防一直是矛与盾的关系,它们是相互对立且不断发展的。当大模型重塑产业形态时,网络安全的“攻防边界”正在被悄然改写,开始上演一场在用魔法打败魔法的战争,但最终谁会胜利,不得而知。

作为承载亿量级用户隐私数据、依托自动化场景运转的物流行业来说,既面临传统网络攻击的持续侵扰,又需应对大模型衍生的新型安全风险。如何在技术创新与安全防护间找到平衡?

近日,顺丰科技网络安全总监梁博在专访中,以甲方视角拆解了大模型爆火后,物流行业存在的安全痛点、分享了顺丰科技的应对策略,并深度探讨了网络安全生态的缺口与未来方向,为行业提供了极具参考价值的实践路径。

物流行业的“权限与风险”困局

物流行业的网络安全威胁并非新生事物,传统网络攻防的各类技战术在此均有体现。

梁博表示,大模型的出现让网络安全威胁呈现出与了以往截然不同的特征,核心风险集中在“大模型本身”及“其衍生生态”,且在与物流场景的深度绑定中被进一步放大。

从大模型自身特性来看,主流大模型基于Transformer架构构建,这种自注意力机制使其天然存在不确定性,原生面临着“提示词注入攻击”等新型威胁。攻击者通过上下文诱导,就可以让大模型输出错误信息,甚至做出错误决策,也就是大家常说的“胡说八道”。这种攻击的门槛低、影响大且直接,传统安全防护手段难以提前预判与拦截。

但他也不得不承认,处在大模型时代,不发展是最大的不安全,任何行业任何企业都要赶上大模型的发展形势,否则很可能被直接淘汰。

目前,物流行业正在将Agent广泛应用各种核心场景:智能客服可以根据用户授权操作直接调用户订单号,并获取更多敏感数据以回应签收查询;此外,无人配送车、楼宇配送机器人也成了物流行业的标配。

那Agent究竟是如何引发安全隐患的?毋庸置疑的是,在诸多场景中,Agent的“高权限”是效率保障,但也形成了巨大安全缺口。如何判断Agent获取的用户电话是否合理?如何界定其是否越权读取无关订单数据?

如今,包括防火墙、WAF等在内的传统安全技术和设备,对这类自动化、场景化的行为已经无法实现实时有效的防护拦截。

“大模型的发展速度远超安全规划建设的进度”梁博强调,无论是智能客服的敏感数据交互,还是无人系统的户外权限管控,本质都是“效率与安全的博弈”:若为追求效率放宽权限,用户隐私与业务安全将面临威胁;若为保障安全收紧管控,又会削弱技术对物流行业的赋能价值,这种矛盾在物流行业尤为突出。

以攻促防,实战守护数智物流网络安全

面对大模型带来的新挑战,梁博表示,无论技术如何演变,安全的基本原理不变。传统网络安全治理框架,同样适用于大模型等新场景。

为此,顺丰科技采取了一套系统化、流程化的治理方法,其核心是“先理清家底,再针对性防护 。”资产识别和风险管理是第一步,首要任务是看的见,通过主动测绘、API与源码分析、流量分析等技术手段,彻底搞清楚企业内部大模型生态的完整情况,包括大模型的应用,大模型的场景,Agent智能体。

其中,威胁情报是关键因素,其核心价值在于可以提供可理解、可执行的上下文,而非模糊的告警。高质量的情报则能指导具体的行动,比如打补丁、设规则等,起到知己知彼的作用。

情报生产方面,顺丰科技利用AI技术从外部攻击和开源信息中自动化提炼情报。情报消费层面,其将外部情报与内部资产关联,通过知识图谱技术,理解一个漏洞或威胁对自身业务链的实际影响,从而实现精准行动。

“实战是检验网络安全的唯一标准”,这是顺丰科技内部一以贯之的安全理念。同时,梁博也分享了网络安全应对策略。他表示,顺丰的体量大,场景丰富,面临的安全挑战也相对严峻。面对大模型带来的新型威胁时,顺丰不单单依赖单一技术或解决方案,而是以实战为核心驱动。

一方面,通过威胁情报,同行交流,监管指导等方式,掌握更全面的风险。另一方面,基于这些风险,主动通过每季度内部红蓝对抗、每年邀请外部多久TOP攻击队演练和参加国家级实网攻防演练,加之分析外部APT报告、同行安全案例,了解更高级的安全威胁。

“通过这些实战方式,逐渐完善内部安全体系,并在实战中验证其是否能达到预期。此外,我们还建立了深度复盘机制,将实战中发现的问题转化为改进任务,形成闭环管理,推动安全体系持续迭代。”梁博补充道。

他坦言,安全运营是顺丰内部长期的痛点,往往需要投入大量的人力去做。因为之前没有大模型,大部分场景很难通过自动化的方式实现。近两年我们基于大模型研发了自动辅助研判的驾驶的安全机器人,自动化率提升至30%,但考虑到大模型仍存在幻觉问题,我们做了大量的兜底措施,诸如设置特定的提示词,严格限制自动化研判的场景。目前内部80%左右的安全场景已经能完全由大模型来研判。

多方联合弥补网络安全生态缺口

作为甲方企业,梁博对当前网络安全生态的“断层”有着深刻认知。行业内有一个经典的“威胁情报痛苦金字塔”理论(Pyramid of Pain):金字塔底层是攻击IP、域名、邮箱等,中层是攻击者使用的工具与技术,顶层是攻击者的技战术、技术、流程等,越往上层的对抗措施对攻击者的干扰越大,让甲方的防御更有主动性。

对话顺丰科技网络安全总监梁博:大模型浪潮下物流网络安全的守与破

但目前整个行业的情报消费仍处在痛苦金字塔中底层阶段,难以触及顶层。主要原因在于:其一,生产与需求不匹配。高级技战术情报的生产需要资深安全专家投入大量精力(仅依赖自动化&AI手段,准确率、召回率往往不足30%),而需求仅集中在少数企业群体中,投入产出比低,导致乙方缺乏生产动力。

其二,设备能力局限。当前主流安全设备,包括防火墙、终端EDR等仍局限于处理IOC级别的威胁,无法支持更高级别的检测。比如,根据流量中的Cookie、UA字段匹配等很难落地到现有设备中实现有效防御。

其三,接口与标准的缺失。多数安全设备仅开放了数据接口,未开放检测、分析、处置能力接口,甲方无法将更高级别的情报转化为设备可执行的动作,比如hunting行动、针对性防护检测规则等。

对于未来与乙方的合作,梁博期待行业能共同推动两大方向:一方面,希望乙方加大对高级情报的研发投入,探索更高效的生产模式,降低甲方消费门槛;另一方面,期待设备厂商升级产品能力,开放更多的深度检测与处置接口,并有可落地的行业情报质量标准进行牵引,让高级情报真正实现可落地、可执行。

写在最后

在大模型技术持续演进的当下,物流行业的网络安全没有“一劳永逸的答案”。

正如梁博所言,安全建设需要“直面挑战、快速迭代”——既要用成熟方法论管控新场景,又要通过实战持续优化防护体系,更需联合行业力量补齐生态缺口。顺丰的实践证明,唯有在“守”住安全底线的同时,积极“破”解新型风险,才能在技术创新与安全防护的平衡中,为物流业务保驾护航,也为行业提供可借鉴的安全范式。

相关资讯

2025年的十大网络安全预测

人工智能在2025年仍将是一个热门话题,但不要错过其他趋势,包括初始访问代理的增长、首席信息安全官(vCISO)的崛起、技术合理化等等。 每年这个时候,行业专家和分析师都会关注明年的网络安全趋势、预测和挑战。 专家预测,到2024年,生成式人工智能(GenAI)和大型语言模型将会增加,勒索软件攻击和第三方供应链挑战也将持续。
1/21/2025 2:58:29 PM
Harris编译

新的 AI 安全在 2025 年正对 CISO 及其团队构成挑战

安全团队总是必须适应变化,但2025年将出现的新发展可能会使变化特别具有挑战性。 AI 创新步伐的加快、日益复杂的网络威胁和新的监管政策将要求首席信息安全官 (CISO) 驾驭更复杂的环境。 供应商正在迅速将AI 功能添加到现有产品中,其使用的基础大型语言模型 (LLM) 在增强产品能力的同时也暴露了新的攻击面给攻击者,企业CISO 需要了解他们面临这些威胁的严重程度,以及如何缓解这些威胁。
1/22/2025 11:18:41 AM
Zicheng

2025年网络安全投资的六大关键考量:应对新威胁的智慧决策

尽管在2021年至2022年间,网络安全预算有所增长,但近几年的增长势头已明显放缓。 这意味着,网络安全领导者在采购决策时,必须更加审慎地考虑如何改善当前的安全和合规状况,以确保每一分投入都能带来实实在在的效益。 那么,如何在2025年优化企业的网络安全预算,以有效应对不断演变的威胁呢?领导层需要深入了解当前的网络安全格局,并明确哪些举措能够帮助他们恰当地缓解风险。
2/19/2025 11:29:11 AM
Rita Gurevich
  • 1