我们在工作中使用GenAI来简化任务，但我们是否意识到其中的风险?
据Netskope称，现在平均每个企业每月与AI工具共享的数据量超过7.7GB，75%的企业用户正在使用具有GenAI功能的应用程序。
GenAI的阴暗面
事实上，89%的企业对AI的使用情况一无所知，这暴露了监督和控制方面的空白，更重要的是，71%的GenAI工具是通过个人非工作账户访问的。即使使用了公司账户，也有58%的登录绕过了单点登录(SSO)，这意味着安全团队无法看到员工使用的工具或共享的信息。
三星员工在使用ChatGPT协助工作时，无意中泄露了高度机密的数据，导致公司禁止使用GenAI工具。
DeepSeek在收到警告称其在中国境内的安全服务器上收集用户数据并用于各种目的后，仍出现了大量下载。
影子AI
一个更大的问题是影子AI——即未经官方批准在企业内使用AI工具。AI的使用痕迹较少，且可能在个人设备或浏览器上进行。将敏感数据输入AI工具可能导致该信息被存储在公司控制之外的外部服务器上，从而增加数据泄露和隐私侵犯的风险。
Ivanti发现，81%的上班族表示他们没有接受过GenAI的培训，15%的人正在使用未经批准的工具。
“虽然没有一个行业比另一个行业更容易受到影子AI风险的影响，但较大的企业或知名品牌通常更有可能因其影响而面临严重的声誉损害。”Skyhigh Security的CTO Steve Tait表示。
禁止GenAI并不足够
GenAI的发展速度超过了大多数公司的应对能力，许多公司仍然没有制定员工在工作时应如何使用这些工具的规则。
一些公司目前正在完全禁止使用GenAI或仅阻止某些应用程序，然而，仅凭禁止而不理解其潜在危险是不够的，这会导致影子使用。
企业应采取的措施：
• 制定政策，明确GenAI工具的使用时机以及何时需要人工监督以防止有害错误。
• 提供员工培训，并定期审计使用情况，以确保GenAI工具的负责任和合规使用。
• 控制和限制输入GenAI的信息类型，以保护个人数据并遵守隐私法。
教育是关键，员工应意识到，如果使用不当，这些应用程序和工具并非无害。
高层的盲点
企业不能忽视GenAI技术，因此，一些企业可能会在未充分了解其工作原理或所携带风险的情况下实施这些工具。对投资者说“我们使用AI”可能听起来不错，但这可能导致数据泄露、诉讼或负面报道。
“GenAI很可能成为IT安全演进的下一个主要诱因，随着AI融入每个流程，大多数企业将寻求方法以查看、控制和保护其用户和数据。”WitnessAI的CEO Rick Caccia指出。
领导者不需要成为AI专家，但他们需要提出正确的问题。模型使用了哪些数据?如何监控?如果出现问题，谁负责?没有这种意识，采用AI就不是一种策略，而是一种赌博。
