使用 Fortinet 解决方案保护 Oracle 云基础设施上的企业 AI 工作负载

2026-11-17 13:50 115浏览

  企业人工智能领域正迅速从孤立的实验阶段过渡到嵌入业务流程的生产系统。随着企业赋予人工智能应用访问专有数据、代码库和关键企业工具的权限,安全问题已不容忽视。企业人工智能的风险不仅限于提示和响应,还包括代理采取的行动。仅仅监控聊天界面已不足以保护企业工具、代码和数据库的安全。

  企业需要精细化、动态的控制措施来监控传入的提示、传出的工具调用和自动化操作,以发现不安全、恶意或违反策略的行为。为了满足这些需求,客户可以将 Oracle 云基础设施 (OCI) 模型、代理功能和平台治理与OCI Marketplace上提供的 Fortinet 解决方案相结合。例如,FortiAIGate AI 防护、成本控制和运行时保护可以帮助企业在保持运营控制的同时扩展 AI 应用。FortiAIGate 提供高性能防护、成本控制、基于角色的工作区和一键式合规策略。

  平衡人工智能自主性和企业控制

  《华尔街日报》最近的一篇报道揭示了人工智能代理日益强大的能力如何在提高生产力的同时,也可能导致敏感信息泄露、指令误读或做出意想不到的举动。其中一个案例是,一个代理在公司Slack频道中分享了个人财务信息,这表明一项看似平常的任务是如何迅速演变成安全和隐私事件的。

  随着开发团队在应用程序中扩展人工智能功能,平台和安全团队必须建立一致且集中的控制机制。如果没有统一的治理框架,各个团队可能会对人工智能应用不同的权限、安全措施、数据访问策略和监控实践,从而造成漏洞,攻击者或人工智能的意外行为都可能利用这些漏洞。

  集中式控制为人工智能系统如何访问数据、与应用程序交互、执行操作以及处理敏感信息建立了明确的规则。它们还支持企业范围内一致的身份管理、最小权限访问、可审计性和策略执行。

  将治理和安全功能嵌入平台,能够帮助企业在保持可见性、降低风险和保护业务关键数据的同时,助力开发人员快速创新。随着人工智能能力的快速扩展,同步扩展安全性和治理能力变得日益重要。

  使用 OCI 构建和管理 AI 应用

  客户可以将 OCI 企业级 AI 与 Fortinet 的 FortiAIGate 等解决方案结合使用,帮助开发团队构建 AI 代理原型、扩展规模并发布产品,同时保持数据可见性、数据治理和安全性。OCI 企业级 AI 由三个集成层组成,可帮助组织构建、协调和管理企业级 AI 应用:

  OCI 企业 AI 模型:组织可以通过单一界面访问和集成多个前沿模型,随着需求和专业知识的增长,简化高级模型的采用和扩展。

  OCI 企业级 AI 代理:托管工具、标准协议和开源框架帮助团队构建、协调和部署代理工作流。

  OCI 企业 AI 治理:安全、合规性、访问控制和运行时防护措施支持 AI 生命周期中的数据保护和监管一致性。

  将 AI 原型部署到生产环境会带来延迟、安全、成本和维护方面的挑战。OCI 企业级 AI 通过以下四项功能应对这些挑战:

  托管模型访问: Oracle 负责管理基础设施的配置和扩展。专用 AI 集群提供预留的模型容量,以确保可预测的性能和吞吐量。

  熟悉的 API: OCI 支持行业标准的 API 格式,包括 OpenAI 兼容的接口,帮助工程团队以最小的代码更改来适应现有的应用程序逻辑。

  开放的生态系统:支持开源框架和开源模型,使开发人员能够根据需求变化灵活地选择和替换组件。

  即用型运行时防护措施:客户可以采用 Oracle 提供的防护措施来帮助检测安全风险和潜在的有害内容。

  FortiAIGate 为 OCI AI 应用和代理提供安全保护和管理

  除了 OCI 企业级 AI 的云原生控制功能外,运行生产工作负载的企业还需要集中式安全检查和可视性,以监控应用程序、AI 代理和模型提供商之间的交互。FortiAIGate 是一个自托管的 AI 网关,适用于大型语言模型 (LLM)、代理和模型上下文协议 (MCP) 工具。通过单一控制点,组织可以阻止 AI 攻击和数据泄露,强制执行使用策略,并按用户、团队和项目限制支出。

  作为 Fortinet AI 原生安全架构的一部分,FortiAIGate 以容器化、GPU 加速的反向代理形式运行在组织的基础设施上。它位于应用程序和模型之间,检查请求和响应,并对通过网关的流量应用 AI 特有的安全防护措施。

  该方法基于以下两项能力:

  高性能检测:GPU 加速和高精度、低延迟的防护措施,能够根据预定义和自定义策略,在生产流量范围内进行检测。

  自托管部署:组织可以将网关部署在自己的云基础设施或私有数据中心,并保留对检查和网关日志的控制权。模型请求仍然会发送给他们选择的提供商。

  FortiAIGate 控制 AI 应用和工作流

  基于角色的工作区: FortiAIGate 使用组织、工作区和项目来组织用户、建模访问权限并管理应用程序资源。管理员分配角色和资源权限,以支持集中控制和委派团队管理。每个团队都有自己的工作区,包含各自的策略、模型和日志,并受集中管理。

  多层高性能防护: FortiAIGate 集成了 Virtue AI 的高精度、低延迟防护机制,用于检查提示和输出中是否存在不安全、有害或违反策略的内容。这些防护机制支持九种语言的提示和响应检查。内置的数据防泄漏功能可检测 35 种类型的敏感数据,并对其进行阻止或编辑。管理员可以使用自然语言编写自定义检测器,指定要阻止和允许的内容。

  MCP 防护: MCP 工具扫描会双向检查工具列表、工具调用和工具响应。它可以检测代理与 MCP 服务器之间通信流量中的提示注入、数据泄露和有害内容。

  合规性和策略:超过 50 项预定义策略涵盖人工智能治理框架、数据隐私法、行业法规和安全框架。管理员只需单击一下即可添加每项策略,并可根据业务需求自定义规则。工作区策略在生效前需经过审批流程。通过网关路由的提示、输出和工具调用日志可为审计提供证据。

  模型访问和成本控制: FortiAIGate 根据提供商定价跟踪请求成本。管理员可以为组织、每个工作区、项目、用户和虚拟密钥设置预算,并控制每个团队可以访问哪些模型。预算每日、每周或每月重置,当达到支出限额时,FortiAIGate 会阻止请求。速率限制会限制每分钟的请求数和令牌数。防护机制还会阻止恶意提示和拒绝钱包攻击,防止请求到达模型。

  LLM 代理和智能路由: FortiAIGate 提供基于内容的路由、反向代理功能以及跨模型组的负载均衡。管理员可以配置回退规则,为主要 AI 模型创建有序的恢复链。内容感知路由会将常规任务路由到成本较低的模型,并将高级模型保留给真正需要它们的任务。

  FortiAIGate 和 OCI 参考架构

  如何协同工作,以保护 AI 应用和代理的安全。FortiAIGate 可以运行在支持 GPU 的 Oracle Kubernetes Engine (OKE) 工作节点上,用于检查进出 OCI Enterprise AI 和外部模型提供商的流量。

  FortiAIGate 和 OCI 参考架构

  在这个示例中,AI聊天机器人通过FortiAIGate将请求路由到托管在OCI内部和外部的LLM。该网关运行在虚拟云网络(VCN)内的OKE集群中,其中入口控制器和负载均衡器负责管理传入流量。启用GPU的工作节点支持安全检查。

  在中心辐射型部署中,AI 代理和应用程序可以在辐射型虚拟云网络 (VCN) 中运行,这些辐射型虚拟云网络通过 Oracle 动态路由网关连接到中心型虚拟云网络 (VCN)。中心型虚拟云网络托管 FortiAIGate 等安全功能,该功能可以将经过检查的请求路由到 OCI 企业级 AI、外部提供商或其他公有云中的服务。

  自托管模式将网关的检查和日志保存在组织内部环境中。模型的处理位置和方式取决于所选的提供商和部署配置,因此组织必须选择符合其数据驻留要求的路由和模型。

  通过一致的安全性扩展企业人工智能

  自主人工智能代理可以提高生产力,但它们对企业数据和工具的访问权限要求在它们执行的工作流程中实施安全控制。企业需要了解这些活动,确保策略的一致执行,并采取保障措施,使人工智能支出控制在批准的预算范围内。

  OCI 和 Fortinet 携手合作,将托管式 AI 基础设施与运行时检查和成本控制相结合。这些功能可帮助企业扩展 AI 应用和代理,同时保护专有数据并保持运营控制。

  资料来源于网络,详情请点击:软件定义广域网(https://www.fortinet.com/cn/products/sd-wan)


展开
免责声明:非本网作品均来自互联网,发布目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、 版权和其他问题,请及时与本网联系,我们将核实后进行删除,本网站对此声明具有最终解释权。
相关推荐
精品推荐