AI在线 AI在线

影子AI

AI聊天机器人正滑向隐私危机

AI聊天机器人正滑向隐私危机
AI聊天工具正逐渐占据办公室场景，但隐私成本几何?用户在聊天界面中常感到匿名，可能会在未意识到风险的情况下分享个人数据。 网络犯罪分子也发现了同样的漏洞，AI聊天对话中分享的信息最终引发重大数据泄露事件可能只是时间问题。 当工作场所工具缺乏监管时专家警告称，用户在使用ChatGPT或Gemini等平台时应保持警惕，因为看似简单的交流仍可能留下持久的数据痕迹。
11/4/2025 7:00:00 AM
Sinisa
影子AI每18个月翻倍增长，制造出安全运营中心永远无法察觉的盲区

影子AI每18个月翻倍增长，制造出安全运营中心永远无法察觉的盲区
这一场景每天都在全球各地的企业中上演，到2027年，深度伪造攻击将给各企业造成400亿美元的损失。 两年前还看似理论层面的技术，如今已实现工业化规模应用。 深度伪造只是新兴威胁态势中的一个维度。
9/17/2025 1:41:54 PM
Louis
员工争相开发定制AI应用 对安全风险无所顾忌

员工争相开发定制AI应用 对安全风险无所顾忌
Netskope的最新调查结果显示，受员工对开发定制化AI应用和智能体的工具需求不断增长的推动，企业终端用户对GenAI平台的使用量增加了50%。 尽管企业持续向安全启用GenAI应用和智能体转变，但影子AI(即员工使用的未经授权的AI应用)的增长仍在加剧潜在的安全风险，据估计，目前所有应用采用量中有超过50%为影子AI。 GenAI平台的兴起GenAI平台是支持企业构建定制化AI应用和智能体的基础架构工具，鉴于其使用简单且灵活，已成为影子AI中增长最快的类别。
8/19/2025 7:25:00 AM
隐藏在AI工作流程中的悄无声息的数据泄露

隐藏在AI工作流程中的悄无声息的数据泄露
随着AI日益融入日常业务流程，数据泄露的风险也随之增加。 Prompt泄露并非罕见个例，而是员工使用大型语言模型时的自然结果。 CISO不能将其视为次要问题。
4/16/2025 7:00:00 AM
Mirko
CIO在AI安全方面最大的盲点是什么？

CIO在AI安全方面最大的盲点是什么？
AI竞赛正在如火如荼地进行，但急于求成的企业可能会发现自己陷入了安全盲点。 创新与安全之间的紧张关系由来已久，创新者和CIO希望凭借新技术开辟道路，CISO和其他安全负责人则希望采取更为审慎的方法来降低风险。 近年来，随着AI的崛起，人们经常用“军备竞赛”来形容其发展态势，紧迫感切实存在，但那些有安全意识的人所担心的风险仍然存在。
4/15/2025 7:30:00 AM
Carrie
隐形AI风险浮现：安全专家呼吁该治理“影子AI”了

隐形AI风险浮现：安全专家呼吁该治理“影子AI”了
网安领导者和CISO发现，近年来大量影子AI应用程序已危及企业网络，有些甚至持续运行一年多。 这些应用并非典型的攻击手段，而是员工在无IT和安全监管的情况下私自创建的AI程序。 目的是实现从自动化报告到营销自动化、数据分析等多种功能。
2/21/2025 8:10:00 AM
影子AI：CISO常忽视的安全隐患

影子AI：CISO常忽视的安全隐患
在企业数字化转型的浪潮中，一股新的力量正悄然兴起，却也让安全领导者和CISO们头疼不已——那就是影子AI。 这些并非来自外部攻击者的威胁，而是由本应值得信赖的员工，在没有IT和安全部门监督或批准的情况下，自行创建的AI应用。 它们如同数字世界的“兴奋剂”，让使用者能在短时间内完成更细致的工作，却也让企业的安全边界变得岌岌可危。
2/18/2025 3:13:29 PM
Louis Columbus