本文主要介绍了解析云原生 AI 所遇到的技术挑战和应对方案，随后介绍云原生 AI 领域的关键技术与架构细节，最后分享我们在 ACK 的相关经验及工程实践。
大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型，本文主要讲述TensorRT-LLM利用量化、In-Flight Batching、Attention、Graph Rewriting提升 LLM 模型推理效率。
本文基于 2023 云栖大会上关于 Koordinator 分享的实录，介绍小红书通过规模化落地混部技术来大幅提升集群资源效能，降低业务资源成本。
提起CDN，大家想到的字眼可能是缓存、转发、调度，用来提升终端用户体验、保护源站IP、降低源站流量风险，同时可以将源站的应用功能卸载到边缘，进一步释放边缘算力满足业务需求。DCDN脱胎于CDN，面向动态元素，通过智能路由、协议优化、压缩传输等手段，将转发场景的性能提到极限，广泛应用于电商、游戏、政企等行业。在互联网蓬勃发展，传统企业寻求数字化转型机会的今天，DCDN作为流量的入口，搭配灵活易扩展的“高级条件”及“EdgeScript”，可以通过流量转发这一技术手段，实现客户上云的“安全灰度”。
本文从一个通用的客户问题出发，描述了一个问题如何从前置排查到使用AI Profiling进行详细的排查，最后到问题定位与解决、业务执行过程的分析，从而展现一个从黑箱到透明的精细化的剖析过程。
2023年10月31日，杭州·云栖大会，阿里云技术主论坛带来了一场关于阿里云主力产品与技术创新的深度解读，阿里云网络产品线负责人祝顺民带来《云智创新，网络随行》的主题发言，针对阿里云飞天洛神云网络（下文简称洛神网络）领域产品服务创新以及背后的技术积累进行了深度解读，不少背后的创新技术系首次重磅披露。
阿里云 ACK One Serverless Argo 助力深势科技构建高效任务平台
