AI在线 AI在线

企业安全

规模化应用生成式 AI 前，需先绘制 LLM 使用与风险图谱

规模化应用生成式 AI 前，需先绘制 LLM 使用与风险图谱
在本次Help Net Security访谈中，The Motley Fool应用与云安全总监Paolo del Mundo探讨了企业如何通过建立防护机制来扩展AI应用规模，同时降低提示注入、不安全输出和数据泄露等生成式AI特有风险。 已部署AI功能团队的首步审计重点生成式AI以传统威胁模型常忽视的方式扩大了攻击面。 新入行的安全从业者应首先了解这类新型漏洞及其防御方法。
6/18/2025 9:50:09 AM
Gy0un
AI 的阴暗面：揭露"举报模式"与勒索企图

AI 的阴暗面：揭露"举报模式"与勒索企图
人工智能行业正热议最新发布的克劳德4(Claude 4)系列模型。 这些模型具备先进的持续推理能力，能够在执行复杂任务时自主暂停，通过搜索引擎或外部工具检索数据，然后无缝恢复操作。 持续推理与举报功能这种设计使模型能够长时间不间断处理复杂任务。
5/26/2025 8:30:00 AM
憨憨鸭
初级开发者过度依赖 AI 的风险

初级开发者过度依赖 AI 的风险
当ChatGPT等工具出现故障时，软件开发人员离开工位、临时休息或沮丧地靠在椅背上的场景并不罕见。 对许多技术从业者而言，AI辅助编码工具已成为日常便利。 即便是像2025年3月24日那样的短暂中断，也可能导致开发工作停滞。
4/8/2025 8:05:00 AM
AI小蜜蜂
生成式AI正将员工转化为无意识的内鬼威胁：企业安全新挑战

生成式AI正将员工转化为无意识的内鬼威胁：企业安全新挑战
根据Netskope最新研究，企业向生成式AI（GenAI）应用共享的数据量呈现爆炸式增长，一年内激增30倍。 目前平均每家企业每月向AI工具传输的数据量已达7.7GB，较一年前的250MB实现跨越式增长。 这些数据包含源代码、受监管数据、密码密钥和知识产权等敏感信息，大幅增加了数据泄露、合规违规和知识产权盗窃的风险。
4/1/2025 8:50:00 AM
AI小蜜蜂