大多数企业对生成式AI实施禁令的看法

关键要点

风险驱动决策：全球三分之二的公司考虑在工作场所实施对生成式AI的禁令。数据安全与隐私：企业担忧数据安全和隐私问题，导致对ChatGPT等应用的担忧。政策开发的迫切性：首席信息安全官CISO必须制定风险应对政策，同时支持创新。

根据黑莓公司最新的调查显示，全球四分之三的企业正在实施或考虑在工作场所禁止使用ChatGPT和其他生成式AI应用，原因在于数据安全、隐私和企业声誉等风险驱动了这一决策。调查结果显示，61的公司认为这些禁令是长期或永久性的。该调查包含了来自北美美国和加拿大、欧洲英国、法国、德国和荷兰、日本和澳大利亚的2000名IT决策者。

这则数据发布的时机恰逢OWASP Top 10 for LLMs报告的发布，报告详细描述了与大型语言模型LLMs相关的关键安全和安全挑战，很多生成式AI聊天机器人都是依赖于这些模型构建的。同时，各组织也意识到在企业内实施具体的生成式AI安全政策的必要性，因为这种技术正在迅速增长和被采纳。人们普遍关心的一个问题是，生成式AI是否为新的影子IT时代的到来铺平道路。

海鸥加速器下载

安全忧虑推动对生成式AI的禁令

尽管受访的IT决策者中，有55认识到生成式AI在工作场所能够提升效率，52认为能够促进创新，而51认为能够增强创造力，然而，有83担忧不安全的生成式AI应用对企业IT环境构成网络安全威胁，因此倾向于全面禁用这些应用。更有甚者，尽管81的受访者赞成使用生成式AI工具进行网络安全防御，以避免被网络犯罪分子突袭，80的人认为组织有权控制员工在商业活动中使用的应用。

黑莓公司的首席技术官Shishir Singh表示，企业应对工作场所中的生成式AI应用采取谨慎但灵活的方法。“在工作场所禁止使用生成式AI应用可能会抹杀众多潜在的商业利益。随着平台的成熟和法规的实施，组织政策中可以引入灵活性。关键在于拥有合适的工具来监视和管理工作场所中使用的应用。”

CISO必须制定应对风险的生成式AI政策，而不扼杀创新

制定适当且与业务目标对齐的生成式AI使用安全政策，应当成为CISO近期的重点考量。CISO面临的挑战是制定的网络安全政策不仅要迎合和支持技术的商业化应用，同时有效应对风险，却不抑制创新。任何认为可以延后一两年再考虑这一问题的人，实际上是在冒风险。回顾影子IT的发展，企业在应对个人技术被用于公司活动时，反应缓慢，导致的安全隐患亟需引起重视。