【AI系统】推理系统架构
本文深入探讨了AI推理系统架构，特别是以NVIDIA Triton Inference Server为核心，涵盖推理、部署、服务化三大环节。Triton通过高性能、可扩展、多框架支持等特点，提供了一站式的模型服务解决方案。文章还介绍了模型预编排、推理引擎、返回与监控等功能，以及自定义Backend开发和模型生命周期管理的最佳实践，如金丝雀发布和回滚策略，旨在帮助构建高效、可靠的AI应用。
用尽每一寸GPU，阿里云cGPU容器技术白皮书重磅发布！
云原生已经成为业内云服务的一个趋势。在云原生上支持异构计算有助于提升CPU的利用率。一文分析业内主流GPU共享方案，并告诉你阿里云cGPU牛在哪里！阿里云异构计算推出的cGPU（container GPU）容器技术，创新地提出了一种不同于以往的GPU容器方案，克服了业内主流方案的一些常见的缺陷，在保证性能的前提下，做到了容器之间的GPU显存隔离和任务隔离，为客户充分利用GPU硬件资源进行训练和推理提供的有效保障。
机器学习项目实战：使用Python实现图像识别
在AI时代，Python借助TensorFlow和Keras实现图像识别，尤其在监控、驾驶、医疗等领域有广泛应用。本文通过构建CNN模型识别MNIST手写数字，展示图像识别流程：安装库→加载预处理数据→构建模型→训练→评估。简单项目为深度学习入门提供基础，为进一步探索复杂场景打下基础。
基于深度学习的【野生动物识别】系统设计与实现~Python
动物识别系统，使用Python作为主要开发语言，基于深度学习TensorFlow框架，搭建卷积神经网络算法。并通过对18种动物数据集进行训练，最后得到一个识别精度较高的模型。并基于Django框架，开发网页端操作平台，实现用户上传一张动物图片识别其名称。目前可识别的动物有：'乌龟', '云豹', '变色龙', '壁虎', '狞猫', '狮子', '猎豹', '美洲狮', '美洲虎', '老虎', '蜥蜴', '蝾螈', '蟾蜍', '豹猫', '钝吻鳄', '雪豹','非洲豹', '鬣蜥'。本系统是一个完整的人工智能，机器学习，深度学习项目，包含训练预测代码，训练好的模型，WEB网页端界面，数
进击的Kubernetes调度系统（三）：支持批任务的Binpack Scheduling
阿里云容器服务团队结合多年Kubernetes产品与客户支持经验，对Kube-scheduler进行了大量优化和扩展，逐步使其在不同场景下依然能稳定、高效地调度各种类型的复杂工作负载。 《进击的Kubernetes调度系统》系列文章将把我们的经验、技术思考和实现细节全面地展现给Kubernetes用户和开发者，期望帮助大家更好地了解Kubernetes调度系统的强大能力和未来发展方向。