AI在线 AI在线

大模型安全

乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁

乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁
当大模型加速涌入金融、政务、能源等关键领域，其“越智能，越危险”的安全悖论正引发行业警觉。 在2025年世界互联网大会乌镇峰会上，360数字安全集团正式发布国内首份《大模型安全白皮书》，系统性揭示大模型全生命周期中的五大核心风险，并首次提出“外挂式安全 平台原生安全”双轨治理框架，为高危AI时代拉起一道纵深防御屏障。 白皮书指出，大模型的安全威胁已形成跨层级、强耦合的复杂矩阵，涵盖五大维度:基础设施层:算力集群、训练平台遭攻击可能导致模型被投毒或窃取;内容层:生成虚假信息、违规内容或“AI幻觉”引发社会风险;数据与知识库层:训练数据泄露、知识库被污染将动摇模型可信根基;智能体层（Agent）:自主决策的AI代理若被操控，可能执行恶意任务;用户端层:提示注入、越权访问等攻击可绕过防护直接操控模型行为。
11/10/2025 9:51:00 AM
AI在线
MCP 安全“体检” | 基于 AI 驱动的 MCP 安全扫描系统

MCP 安全“体检” | 基于 AI 驱动的 MCP 安全扫描系统
1、概述Model Context Protocol（MCP）作为 AI 应用生态系统中的关键协议，为大语言模型与外部工具、数据源的集成提供了标准化接口。 随着 MCP 在企业级应用中的快速普及，其安全风险也日益凸显。 构建一套智能化的 MCP 安全扫描系统，不仅是技术发展的必然需求，更是保障 AI 生态安全的重要基础设施。
9/24/2025 10:21:11 AM
火山引擎云安全
应对AI大模型新的安全挑战，OpenAI、蚂蚁集团联合出招

应对AI大模型新的安全挑战，OpenAI、蚂蚁集团联合出招
去年年初，ChatGPT引爆了新一轮AI浪潮。 在人们期待大模型能够为各行各业带来颠覆性变革的同时，也不得不承认，大模型创造了新机遇，但也带来了新的安全风险。 比如，基于大模型的高效内容生成特质，黑客的攻击成本和门槛变低，发动更加密集的攻击变得容易，助长黑客行为；基于生成式AI在多种语言和信息整合的优势，伪造一个极其逼真的骗局成本和时间降低，网络钓鱼行为规模范围、实施效率大幅度提升；还有老生常谈的数据泄漏问题，将企业的安全、隐私等置于极大的威胁中。
4/17/2024 8:30:00 PM
晓楠