咨询采购SentinelOne 请联系:王涛📞13818802872 📨wangtao@mfreelink.com
保护人工智能基础设施 | SentinelOne’s 人工智能安全态势管理(AI-SPM)
人工智能的广泛应用带来了独特的安全考量。人工智能基础设施中的错误配置以及不安全的应用程序编程接口(API)可能会造成漏洞,而网络犯罪分子会利用这些漏洞。在这篇博客文章中,我们将深入探讨SentinelOne’s旗下的无代理人工智能安全态势管理(AI-SPM)解决方案是如何通过提供人工智能资产自动化盘点、错误配置检测以及攻击路径分析,来帮助各机构有效保障其人工智能工作负载安全,从而应对这些挑战的。
越来越多的机构正在亚马逊网络服务(AWS)等公有云上部署生成式人工智能(GenAI)模型,这是因为公有云具备按需扩展的能力、拥有诸如高性能图形处理器(GPU)和张量处理器(TPU)之类的专用基础设施,以及像亚马逊 SageMaker、亚马逊 Bedrock、微软 Azure OpenAI 和谷歌 Vertex AI 这样的人工智能管理平台。
这一趋势正使得全球在人工智能(AI)领域的投资迅速增长,根据国际数据公司(IDC)发布的《全球人工智能及生成式人工智能支出指南》预测,到 2028 年,对支持人工智能的应用程序、基础设施和服务的支出将增加一倍以上,按 29% 的复合年增长率(CAGR)计算,届时支出将达到 6320 亿美元。在未来三年内,这一增长额将占到公有云总支出的近 40%。
防范不断演变的人工智能威胁
随着我们对人工智能技术的依赖程度不断提高,它也变得更受网络犯罪分子的觊觎。威胁行为者正在寻找新的途径,利用人工智能基础设施的错误配置,利用安全漏洞来操纵模型或窃取敏感数据。这种不断演变的威胁要求各机构积极主动地保护其人工智能系统免受新出现的以及既存风险的侵害。
与人工智能相关的最常见安全威胁之一就是数据盗窃。例如,倘若一位人工智能开发人员创建了一个亚马逊 Bedrock 训练任务来训练机器学习模型,但却未能将其关联到虚拟专用云(VPC),这种错误配置就可能会使该任务暴露在互联网上。类似这样的情况可能会让攻击者拦截或获取敏感的训练数据,进而有可能危及个人可识别信息(PII)或机密商业数据。此外,人工智能模型不安全的应用程序编程接口(API)端点可能会让威胁行为者直接与模型进行交互,有可能导致模型被滥用。
SentinelOne如何保护人工智能工作负载
SentinelOne’s人工智能安全态势管理(AI-SPM)解决方案作为云原生安全(CNS)的一部分,有助于应对与生成式人工智能(GenAI)相关的不断演变的风险。AI-SPM 从一开始就是为了保护部署在诸如亚马逊 SageMaker、亚马逊 Bedrock、微软 Azure OpenAI 和谷歌 Vertex AI 等托管式人工智能服务上的人工智能模型和流程而设计的。SentinelOne’s AI-SPM 能实现三个主要成效。人工智能基础设施的自动化盘点
AI-SPM 能够发现诸如机器学习(ML)模型、训练及处理任务以及流程等人工智能服务。例如,如果您所在的机构使用亚马逊 SageMaker 来管理人工智能 / 机器学习流程,您将能获得对 SageMaker 笔记本实例、SageMaker 端点以及该流程中已部署模型的端到端可见性。
人工智能原生错误配置检测
人工智能安全态势管理(AI-SPM)内置的安全规则能够洞察亚马逊网络服务(AWS)的 SageMaker、Bedrock、微软 Azure OpenAI 以及谷歌 Vertex AI 等各类人工智能服务中的错误配置情况。例如,如果一个亚马逊 SageMaker 笔记本实例被配置为可直接访问互联网,AI-SPM 就会生成风险提示,并推荐相应的解决措施。此外,对诸如《欧盟人工智能法案》和美国国家标准与技术研究院(NIST)人工智能风险管理框架等框架的支持,有助于云原生安全(CNS)客户确保其人工智能工作负载符合人工智能安全标准。
主动解决攻击路径相关的潜在问题
通过将与人工智能工作负载相关的攻击路径可视化,你可以确切地了解攻击者是如何穿越你的环境,并有可能进行横向移动以获取资源访问权限的。
结论
随着全球对人工智能的投资持续攀升,凭借其按需扩展能力以及专用人工智能基础设施所展现出的良好前景,各机构将着重应对随之而来的独特安全挑战。配置错误的人工智能系统,比如暴露的端点或不当的访问控制,是威胁行为者企图利用的明显薄弱环节,这有可能导致模型被操纵或数据受损。而SentinelOne’s人工智能安全态势管理(AI-SPM)这类主动式安全措施,对于保护关键业务数据以及在瞬息万变的基于人工智能的威胁环境中确保人工智能工作负载的完整性而言至关重要
若想进一步了解SentinelOne’s云安全能力?请咨询上海甫连信息