AI在线 AI在线

AI 生成代码隐忧,人工审查缺口成安全新威胁

报告指出在使用 AI 的开发者中,42% 的代码由 AI 生成,其中 16.6% 的开发者依赖 AI 贡献“大部分”代码,3.6% 的代码完全由机器生成。

Cloudsmith 于 6 月 18 日发布报告,指出 AI 生成的代码数量激增,但人工代码审核无法同步跟上。

AI在线援引报告内容,在使用 AI 的开发者中,42% 的代码由 AI 生成,其中 16.6% 的开发者依赖 AI 贡献“大部分”代码,3.6% 的代码完全由机器生成。

AI 生成代码隐忧,人工审查缺口成安全新威胁

这一趋势在 GitHub 2024 年的调查中得到印证:美国、巴西、德国、印度四国中,超 97% 的开发者曾使用 AI 编码工具,且 88%-59% 的受访者表示公司“至少部分支持”此类工具。

报告也指出 AI 快速生成代码的背后存在隐忧。调查显示开发者普遍担忧,AI 可能加剧开源恶意软件威胁:79.2% 的受访者认为 AI 将增加环境中恶意软件数量,其中 30% 认为威胁将“显著上升”。

AI 生成代码隐忧,人工审查缺口成安全新威胁

Cloudsmith 警告,三分之一的开发者未在每次部署前审查 AI 生成的代码,导致“大量代码未经验证”直接投入生产环境,形成供应链漏洞。

更关键的是,由于 AI“快速复用未知或不可信代码”,代码完整性、依赖管理、SBOMs(软件物料清单)等传统风险被放大。开发者坦言,AI 输入在“代码生成阶段”风险最高,仅 40% 认为该环节需严格管控。

AI 生成代码隐忧,人工审查缺口成安全新威胁

Cloudsmith 建议,需通过“智能访问控制”和“端到端可见性”强化制品管理,并采用动态访问策略与“政策即代码”框架。针对 AI 生成的代码,需强制执行自动政策,标记未经审查或不可信的 AI 制品,并通过“溯源追踪”区分人机代码。

相关资讯

YC 目前孵化的创业公司中,有四分之一的代码库由AI生成

随着人工智能技术的飞速发展,越来越多的开发者开始依赖 AI 生成代码,这一趋势在硅谷著名创业公司加速器 Y Combinator(YC)的最新一批创业公司中尤为明显。 YC 管理合伙人 Jared Friedman 在最近发布于 YouTube 的一段对话中透露,2025年冬季批次(W25)的创业公司中有四分之一,其代码库的95% 由人工智能生成。 弗里德曼澄清,这一惊人的95% 比例并不包括导入库的代码,而是特指人类与 AI 共同输入的核心代码量。
3/7/2025 9:57:00 AM
AI在线

CodeRabbit AI代码审查工具全面支持Cursor、VS Code与Windsurf

人工智能代码审查领域的领先企业CodeRabbit于近日宣布,其AI代码审查工具现已免费集成至Visual Studio Code(VS Code)、Cursor和Windsurf等主流开发环境,为开发者提供实时、上下文感知的代码审查体验。 这一突破性进展标志着AI在软件开发流程中的深度嵌入,极大提升了代码质量与开发效率。 技术亮点:实时审查与上下文智能CodeRabbit AI代码审查工具以其上下文感知和实时反馈功能为核心优势。
5/16/2025 12:00:55 PM
AI在线

文心快码发布多模态、多智能体协同AI IDE“Comate AI IDE”

近日,在百度AI开放日上,百度智能代码助手文心快码迎来重大突破,其独立AI原生开发环境工具——Comate AI IDE正式亮相。 这一行业首个多模态、多智能体协同的AI IDE,不仅首创设计稿一键转代码功能,还为国内企业和开发者提供了高效、智能、安全可靠的编程体验。 据了解,Comate AI IDE在“智能”、“拓展”、“协同”、“灵感”四大方面实现了全方位链接,具备多项核心能力。
6/23/2025 6:00:39 PM
AI在线
  • 1