AI与网络安全的新纪元

关键要点

• 最新的人工智能（AI）和生成式AI（GenAI）技术为企业带来了新的商机和安全挑战，促使企业需要新的安全平台能力。
• 随着员工在工作中越来越多地使用GenAI应用，企业的攻击面扩大，带来了三大安全挑战。
• 现代安全平台必须支持对企业AI使用的可见性和控制，确保安全集成，并利用AI提高安全效能。

近年来，AI和GenAI的快速发展为IT和网络安全领域带来了新的转折点。这些技术不仅提供了新的商业机会，还带来了企业安全方面日益严峻的挑战，显示出在安全平台中引入新能力的必要性。

虽然围绕网络安全平台与单点解决方案的辩论已经持续了多年，但企业对AI的采纳所带来的新安全挑战，再次强调了采用综合平台的方法是多么重要。

与零信任（ZeroTrust）、安全访问服务边缘（SASE）和安全服务边缘（SSE）等安全范式一样，在AI时代，实现最佳安全的关键在于集中管理、一致性实施和统一监控。这使得综合安全平台成为现代网络安全基础设施的核心组成部分，能够有效对抗AI应用带来的新威胁，降低复杂性，简化安全操作，减少成本，提升整体安全水平。

特别是，最先进的现代安全平台必须理解AI如何改变企业攻击面，并能够减轻这些变化带来的新风险。

AI的使用增加了攻击面

员工正在以前所未有的速度采纳AI应用。各行各业的主要参与者通过推出自身的AI驱动应用获得竞争优势。尽管如此，这些技术日益增加的使用则扩大了攻击面，并给网络安全专业人士提出了三大新挑战：

• 消除员工访问和使用生成式AI（Gen AI）应用所带来的数据和安全风险。
• 通过减少AI应用栈和供应链中的风险来支持快速的Gen AI应用开发。
• 对新攻击提供运行时保护，以确保其AI生态系统的安全。

新攻击面#1：员工的AI采用

由于AI应用和大型语言模型（LLMs）的非凡能力，这些工具打开了新的数据安全问题，扩大了攻击面。随着采用的增加，这些应用成为攻击者更具吸引力的目标。根据最新的，超过14,000名员工中有55%在工作中使用未经批准的Gen AI。每月数十个新的AI应用程序的推出，意味着几乎每位员工和每种用例都可能存在AI应用。

这种新型的影子IT用法可能导致组织面临数据泄露和恶意软件的风险。同时，按照的研究，85%的企业已经计划或者已经将专有的LLM纳入到提供给客户的产品中。影子IT正在演变为影子AI。员工更倾向于使用便利和提高生产力的工具，这为严密的安全态势创造了重大挑战。

新攻击面#2：AI供应链

员工使用第三方AI并不是企业内AI渗透的唯一途径。创新型企业意识到，通过在其应用中应用AI可以同时提升其收入和利润。随着这一进程的发展，新的AI组件不断添加到应用栈中，潜在地加大了敏感数据通过训练和推断数据集暴露的风险。

减少AI开发供应链中的安全风险将在企业中变得愈加重要，企业需要识别其基于AI的应用中存的漏洞和暴露风险。

新攻击面#3：整个AI生态系统的运行时

除了保障AI开发供应链的安全外，AI组件的安全性还扩展到依赖这些新供应链的应用运行时的使用。对这些AI生态系统的运行时威胁包括：提示注入、恶意响应、大规模服务拒绝、训练数据污染以及基础的运行时攻击，例如恶意URL、命令和控制，以及横向威胁移动。

安全的企业AI采用平台蓝图

企业如何在确保安全的前提下