AI大模型创新与应用风起云涌，有机构预测2025年将涌现5亿个 ToB 和 ToC 的AI应用，加速渗透到金融、制造、政务等千行百业，推动生产效率与业务模式的深刻变革。但大模型的规模化应用也给企业带来了包括数据安全、内容合规、系统稳定性在内的复杂风险。
基于此，本期《安全记》栏目围绕“大模型应用安全防护”主题展开探讨，首次邀请到了阿里云智能集团研究院院长穆飞担任主持人，特邀阿里云通义大模型业务总经理徐栋、阿里云安全产品负责人祝建跃作为嘉宾，共同就大模型应用面临的风险、防护方案等方面展开探讨，结合阿里云和客户的供需双方实践经验，深入浅出地解构大模型应用安全挑战的应对路径与技术趋势。
本文基于访谈嘉宾观点进行提炼，完整版内容请点击下方视频。
AI大模型应用存在大量安全风险
访谈中徐栋表示，在大模型应用场景下的安全问题主要有三类：
- 以数据安全为代表的传统安全问题依旧存在。
- 部分大模型在线服务类企业更加关注内容安全问题。
- 对系统稳定性提出了更高要求，面对海量流量时确保平稳可靠。
祝建跃则进一步从技术角度阐述了上述安全风险出现的原因。他表示传统的经典安全问题，比如DDoS攻击等，在大模型场景下依然存在。但同时大模型应用场景下，其独特的服务形态还带来了新兴安全风险，例如算力环境安全、大模型API安全等，需要企业额外关注。
大模型应用“全栈防御”实践
面对日益严峻的安全风险，祝建跃表示，大模型应用场景下存在安全木桶理论，任何一块短板的出现都可能带来严重安全事故。
因此，大模型应用需具备全栈防御思维：
- 安全防护流程上；要建立起事前治理、事中防护和事后响应的安全闭环。
- 在安全防护路径上：针对边界层、系统层和应用环境建立起多层次防护体系。
阿里云安全团队也在基于大模型应用场景更新迭代防护方案，例如阿里云安全中心可对PAI、灵骏等Severless高性能GPU计算实例提供运行时的威胁检测，阻断工作负载中的恶意进程，特别是对于挖矿类的进程能快速识别并自动隔离，保障大模型应用的稳定性。
徐栋则从企业的视角分享了大模型应用安全的实践。他表示，大模型应用相比于传统互联网应用有一定的区别，其知识库可能更加简洁直白，为此阿里云针对性推出“本地知识库+云端模型”的安全架构来满足用户诉求：既可以享受在云上调用最好、最领先的模型，又兼顾安全可控的体验。
阿里云AI大模型应用安全的优势
祝建跃表示阿里云作为同时提供云计算与大模型服务的领先厂商，在云安全和大模型安全领域有着深厚的技术积累，以及丰富的安全实战经验，深刻理解企业业务效率和安全的平衡。例如推出了基于大模型的AI助手，帮助用户更好地了解和处置告警。
同时将安全能力深度融入云原生架构之中，具备云的天然优势，将包括弹性、高可用、规模化等赋予安全。最终为用户打造一个统一的云计算与大模型应用的安全防护体系，通过统一运营平台实现“构建-部署-运行”全生命周期安全管理，减少人为配置错误。
徐栋认为阿里云通义大模型依托于“百炼”模型服务平台，已经有大量用户使用，积累了丰富且成熟的经验。因为采取开源策略，所以阿里云在模型原生安全方面投入了大量的资源进行强化，并且未来还会持续提升。此外在模型对外提供服务时，阿里云自带安全围栏，帮助用户及时调整内容策略，让用户有更多的时间对业务进行优化，无需担心安全问题。
针对大模型应用是否会有全新的安全产品形态出现？
祝建跃表示，未来阿里云将进一步强化安全与AI的“双向赋能”。在大模型应用安全防护方面：
- 让用户更加方便、一体化地使用阿里云的安全能力；
- 对云安全中心AI-SPM的能力进行升级，给予用户更全面的安全态势管理；
- 针对企业高需求防护场景，包括防爬虫、防DDoS攻击、安全隔离等产品功能进行升级（Security for AI）。
同时阿里云也将利用大模型全面提升安全能力（AI for Security），例如在内容安全领域实现“用模型打败模型”；在威胁检测及自动化响应方面去做更多的能力提升。
徐栋也表示，AI时代大量的风险来源于文本，因此通义大模型将在不久之后，针对非IT层面的内容安全进行一次大的升级，围绕业务安全让传统小模型升级为大模型或大的风控智能体。
