越狱检测

多模态大模型存在「内心预警」，无需训练，就能识别越狱攻击

多模态大模型存在「内心预警」，无需训练，就能识别越狱攻击

多模态大模型崛起，安全问题紧随其后近年来，大语言模型（LLMs）的突破式进展，催生了视觉语言大模型（LVLMs）的快速兴起，代表作如 GPT-4V、LLaVA 等。通过将图像与文本深度融合，LVLMs 在图文问答、视觉推理等任务中大放异彩。但与此同时，一个严峻的问题也悄然浮现 ——LVLMs 比起纯文本模型更容易被 “越狱”。

7/21/2025 5:05:00 PM

机器之心

1

资讯热榜

OpenAI 开源模型被 Meta 研究员“逆改”！只动0.3%参数，gpt-oss-20B 解锁无约束基座首个面向肽分子设计的大模型平台：直接「读序列」出结合子，无需结构输入即可生成奥特曼：我承认GPT-5发布搞砸了小红书发布DynamicFace人脸生成技术，实现高质量图像视频人脸融合网易有道发布子曰教育大模型多款AI新品，定义教育AI应用能力L1-L5分级蚂蚁AI健康管家AQ上线四大打假功能向假医疗广告宣战从GPT-2到gpt-oss，深度详解OpenAI开放模型的进化之路 GPT 4o-mini华人领队离开OpenAI：真正推动AI进步不是模型架构，而是互联网

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体论文 Anthropic 英伟达代码训练算法 Stable Diffusion 芯片 AI新词 LLM 蛋白质开发者腾讯生成式 Claude 苹果 Agent AI for Science 神经网络 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora 百度 GPU AI设计华为工具大语言模型搜索具身智能 RAG 字节跳动场景大型语言模型深度学习预测伟达视觉 Transformer 视频生成 AGI 架构神器推荐亚马逊 Copilot DeepMind 特斯拉应用