本文介绍大模型可观测&安全推理审计解决方案和Demo演示，SLS 提供全面的 LLM 监控和日志记录功能。监控大模型使用情况和性能，自定义仪表盘；SLS 汇总 Actiontrail 事件、云产品可观测日志、LLM 网关明细日志、详细对话明细日志、Prompt Trace 和推理实时调用明细等数据，建设完整统一的大模型可观测方案，为用户的大模型安全推理审计提供全面合规支持。
本文分享了AI场景下面临的数据处理与检索挑战及解决方案。AI内容生产涉及数据准备、模型训练、推理及应用四大环节，其中数据准备环节面临数据来源复杂、格式多样及数据量激增的挑战，模型训练环节需解决推理准确性问题，AI应用环节则需克服接口兼容性难题。 为应对这些挑战，阿里云存储OSS与智能媒体管理IMM提供百余种数据处理能力，并升级数据索引功能支持向量检索，助力构建多模态检索应用。此外，还介绍了Serverless数据处理方案，可日均处理百亿级别文件，通过OSS数据索引能力，客户能快速构建RAG检索增强，同时实现多模态检索的搭建，显著提升AI应用的效能和用户体验。
日志审计的必要性在于其能够帮助企业和组织落实法律要求，打破信息孤岛和应对安全威胁。选择 SLS 下日志审计应用，一方面是选择国家网络安全专用认证的日志分析产品，另一方面可以快速帮助大型公司统一管理多组地域、多个账号的日志数据。除了在日志服务中存储、查看和分析日志外，还可通过报表分析和告警配置，主动发现潜在的安全威胁，增强云上资产安全。
一个有趣的现象引起了作者的注意：当启用行首正则表达式处理多行日志时，采集性能出现下降。究竟是什么因素导致了这种现象？本文将探索Logtail多行日志采集性能提升的秘密。
从海量的日志数据中，按照各种灵活的条件进行即时查询搜索，是可观测场景下的基本需求。本文介绍了 SLS 新推出的高性能 SPL 日志查询模式，支持 Unix 风格级联管道式语法，以及各种丰富的 SQL 处理函数。同时通过计算下推、向量化计算等优化，使得 SPL 查询可以在数秒内处理亿级数据，并支持 SPL 过滤结果分布图、随机翻页等特性。
对象存储OSS作为云上数据湖，被广泛应用在商业智能、数据决策、广告推荐等大数据分析的场景上。随着AI workload的不断增长，OSS数据湖也在随着workload的变化不断演进。
本文主要介绍通过KMS密钥管理服务产生的密钥对敏感的AK等数据进行加密之后可以有效解决泄漏带来的安全风险问题，其次通过KMS凭据托管的能力直接将MSE的主AK进行有效管理，保障全链路无AK的业务体验，真正做到安全、可控。
近日，2024云栖大会现场，阿里云宣布对其存储服务进行全面升级，围绕 Storage for AI 与 AI in Storage 两大领域，提出“4 Any + 3 AI ”的升级方向，揭示存储基础设施与AI的双向赋能路径。阿里云存储产品将支持更多AI业务高效创新， 同时 AI 技术也将助力基础设施迭代，支持企业更好地管理数据资产。
本文分享了如何利用阿里云的存储解决方案构建一个具备高效处理、高时效性的AI数据湖，通过高吞吐训练和高效推理帮助企业快速实现数据价值，以及用户在使用中的最佳实践。