首页 > 商业 > 正文

近半公司不了解员工在用AI:AI办公普及加速,企业安全监管仍然滞后

2025-05-26 11:20:43 21世纪经济报道 21财经APP 肖潇

21世纪经济报道记者肖潇 北京报道

从AI聊天机器人,到今年迅速蹿红的AI智能体,人工智能正被视为提升生产力的关键引擎,快速渗透到各类办公场景中。但企业真的准备好了吗?思科最新发布的2025年《全球网络安全就绪指数》给出了一份略显冷静的答卷:可能还没有。

在企业安全中,AI的“双刃剑”属性表现得尤为明显。一方面,越来越多将AI应用在安全防护策略里:报告指出,大多数国内企业在安全运营中已初步使用AI,90%以上的受访者把生成式AI用到了威胁情报收集、威胁检测的环节中;

另一方面,企业也面临更复杂的AI安全风险。报告数据显示,全球86%的企业在过去一年里经历了至少一次AI相关的安全事件,放在中国大陆市场环境中,这一数字是92%。


(中国大陆市场的网络安全就绪指数,今年仍然只有5%的企业属于“成熟”|图《全球网络安全就绪指数2025》)

《全球网络安全就绪指数》特别提及了“员工使用AI”带来的不确定性和监管难题。几乎一半的国内员工正在使用公司批准的AI工具,但同时,也有约20%的员工能够不受限制地访问ChatGPT等公网AI工具——而有46%的企业对这一使用情况毫不知情。

工作中使用AI,可能无意中将企业的商业机密或用户数据暴露给外部AI模型。更严重的情况是,生成内容中可能被嵌入恶意指令。这类员工绕过公司合规体系、自行下载或使用AI工具的行为,被称为“影子AI(Shadow AI)”。

《全球网络安全就绪指数》指出,由于企业安全系统难以覆盖所有AI使用路径,大多数安全团队甚至无法追踪员工在生成式AI工具中的输入内容,更无法及时发现是否有敏感信息泄露、数据滥用或异常行为,成了企业AI管理中的一大盲区。整体来看,只有48%的国内受访者表示能够充分理解AI带来的安全威胁。不足一半的企业认为自家安全团队真正了解攻击者是如何利用AI发动攻击的。

在跟21记者交流的过程中,报告发布方思科公司的安全事业部总经理卜宪录介绍,该报告是由第三方进行的双盲调查,样本来自全球30个市场、8000多名私营企业的安全负责人,已经进行到第三年。

卜宪录特别指出,近两年来网络安全最大的变化之一,就是生成式AI的迅猛普及。“一方面,员工对AI的认知和理解还不够;另一方面,企业层面还处于‘AI赋能’的初级阶段,但与之配套的安全保障能力还没有跟上。”

中国市场在AI合规层面并不缺乏法规参照,比如《数据安全法》《个人信息保护法》以及2023年《生成式人工智能服务暂行管理办法》等都已出台。据卜宪录的了解,国内企业普遍最关注两个问题:第一就是AI的合规性,第二是业务连续性——尤其担心网络攻击、业务中断带来的影响。但挑战在于,AI系统往往分散部署在多个业务部门之间,涉及的数据链条复杂,使得统一管理难度加大。 

针对企业如何系统性加强AI安全防护,卜宪录给出了一个“三步走”的路线图:第一步是“发现”,明确公司内部网络中,存在哪些AI应用?包括员工是否使用了未经授权的AI工具;第二步是“检测”:识别这些AI系统可能存在的漏洞、风险点;第三步是“防护”:构建系统的安全机制,重点应对AI带来的新型攻击手法,比如提示词攻击、幻觉内容生成、敏感数据在对话中被无意泄露等。

 

21财经客户端下载

<--统计调用-->