类目筛选
2024-11-15
247
【提效】docker镜像构建优化-提速10倍
本文主要记录了自己通过查阅相关资料，一步步排查问题，最后通过优化Docerfile文件将docker镜像构建从十几分钟降低到1分钟左右，效率提高了10倍左右。
247
2024-05-15
101826
大语言模型推理提速，TensorRT-LLM 高性能推理实践
大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型，本文主要讲述TensorRT-LLM利用量化、In-Flight Batching、Attention、Graph Rewriting提升 LLM 模型推理效率。
101,826
2023-12-01
1087
Koordinator 助力云原生应用性能提升，小红书混部技术实践
本文基于 2023 云栖大会上关于 Koordinator 分享的实录，介绍小红书通过规模化落地混部技术来大幅提升集群资源效能，降低业务资源成本。
1,087
2024-11-01
328
ROS Terraform 托管服务与原生 Terraform 对比：选择最适合你的 IaC 工具
本文详细介绍了阿里云资源编排服务（ROS）提供的Terraform托管服务，对比了ROS与Terraform的原生能力，帮助用户根据需求选择合适的IaC工具。
328
