类目筛选
2024-05-15
150
OpenSergo/MSE & CloudWeGo 共同保障微服务运行时流量稳定性
微服务运行时稳定性的问题微服务的稳定性一直是开发者非常关注的话题。随着业务从单体架构向分布式架构演进以及部署方式的变化，服务之间的依赖关系变得越来越复杂，业务系统也面临着巨大的高可用挑战。大家可能都经历过以下的场景：演唱会抢票瞬间洪峰流量导致系统超出最大负载，load 飙高，用户无法正常下单；在线选...
150
2024-05-15
136
OpenSergo & ShardingSphere 社区共建微服务视角的数据库治理 Spec
为什么需要微服务治理与 OpenSergo？在经典微服务架构中，我们通常将服务调用中各角色划分为三部分：服务提供者、服务消费者、注册中心。经典的微服务架构可以解决微服务能调通、可以运行起来的问题。随着分布式服务架构的不断演进、业务规模的扩张，诸多复杂的稳定性与易用性问题显现出来，这时候就需要一些手段...
136
2024-05-15
397
从自建DevOps部署微服务再到云效
以Jenkins+Gitlab基于k8s集群实现自建DevOps系统的方式部署开源微服务PiggyMetrics，与云效DevOps对比，介绍真正的免运维，实现高效的业务开发流程。
397
2024-05-15
323
阿里云AccessKey调用溯源最佳实践
本文主要介绍如何对阿里云访问控制访问密钥（AccessKey）开展调用溯源工作，方便大家快速有效的开展事件调查、安全加固、应急处置等。
323
2024-05-15
412
从零构建现代深度学习框架(TinyDL-0.01)
本文主要以一个Java工程师视角，阐述如何从零(无任何二三方依赖)构建一个极简(麻雀虽小五脏俱全)现代深度学习框架（类比AI的操作系统）。
412
2024-05-15
484
人人都是AI大师 - Prompt工程
prompt工程不需要复杂的编程知识，人人都可以使用prompt工程成为AI大师。本文只探讨prompt工程，不涉及模型训练等内容。只讨论文本生成，不涉及图像等领域。
484
2024-05-15
1506
大模型推理优化实践：KV cache复用与投机采样
在本文中，我们将详细介绍两种在业务中实践的优化策略：多轮对话间的 KV cache 复用技术和投机采样方法。我们会细致探讨这些策略的应用场景、框架实现，并分享一些实现时的关键技巧。
1,506