360数字安全集团

乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁

当大模型加速涌入金融、政务、能源等关键领域，其“越智能，越危险”的安全悖论正引发行业警觉。在2025年世界互联网大会乌镇峰会上，360数字安全集团正式发布国内首份《大模型安全白皮书》，系统性揭示大模型全生命周期中的五大核心风险，并首次提出“外挂式安全平台原生安全”双轨治理框架，为高危AI时代拉起一道纵深防御屏障。白皮书指出，大模型的安全威胁已形成跨层级、强耦合的复杂矩阵，涵盖五大维度:基础设施层:算力集群、训练平台遭攻击可能导致模型被投毒或窃取;内容层:生成虚假信息、违规内容或“AI幻觉”引发社会风险;数据与知识库层:训练数据泄露、知识库被污染将动摇模型可信根基;智能体层（Agent）:自主决策的AI代理若被操控，可能执行恶意任务;用户端层:提示注入、越权访问等攻击可绕过防护直接操控模型行为。

11/10/2025 9:51:00 AM

AI在线

资讯热榜

OpenAI更新ChatGPT规则：10月29日起禁止医疗、法律与财务建议 eBay携手ChatGPT开启智能电商新时代，购物体验将全面升级！看完刘润年度演讲，教你做好AI时代的能力迁徙！苹果Siri将大变样！付费请谷歌助力AI升级从AI到泰勒·斯威夫特——源于生活的案例与启示 LangChain 大模型应用开发框架：从 RAG 到 Agent 的完整指南库克:苹果将在人工智能领域寻求更多收购与合作机会谷歌推出新款 Vertex AI 代理构建工具，助力企业智能化

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画大模型机器人数据 Midjourney 开源 Meta AI新词微软智能用户 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法 AI for Science Agent 芯片苹果 Claude 腾讯 Stable Diffusion 蛋白质开发者生成式神经网络 xAI 机器学习 3D RAG 人形机器人 AI视频研究大语言模型具身智能生成百度 Sora 工具 GPU 华为计算字节跳动 AI设计大型语言模型 AGI 搜索视频生成场景深度学习架构生成式AI DeepMind 亚马逊编程视觉 Transformer AI模型预测特斯拉 MCP