在AMD GPU上部署AI大模型：从ROCm环境搭建到Ollama本地推理实战指南
本文详细介绍了在AMD硬件上构建大型语言模型（LLM）推理环境的全流程。以RX 7900XT为例，通过配置ROCm平台、部署Ollama及Open WebUI，实现高效本地化AI推理。尽管面临技术挑战，但凭借高性价比（如700欧元的RX 7900XT性能接近2200欧元的RTX 5090），AMD方案成为经济实用的选择。测试显示，不同规模模型的推理速度从9到74 tokens/秒不等，满足交互需求。随着ROCm不断完善，AMD生态将推动AI硬件多元化发展，为个人与小型组织提供低成本、低依赖的AI实践路径。
【AI系统】SIMD & SIMT 与芯片架构
本文深入解析了SIMD（单指令多数据）与SIMT（单指令多线程）的计算本质及其在AI芯片中的应用，特别是NVIDIA CUDA如何实现这两种计算模式。SIMD通过单指令对多个数据进行操作，提高数据并行处理能力；而SIMT则在GPU上实现了多线程并行，每个线程独立执行相同指令，增强了灵活性和性能。文章详细探讨了两者的硬件结构、编程模型及硬件执行模型的区别与联系，为理解现代AI计算架构提供了理论基础。
AVX2指令集简介和代码示例
这篇文章介绍了AVX2指令集，它是Intel在2013年为提高处理器并行计算能力引入的SIMD技术。AVX2增强了整数运算，包括256位操作和位操作，还提供了FMA指令及更多广播和转换功能。与AVX相比，AVX2在图像处理和媒体编码等领域有显著优势。文章通过一个C代码示例展示了如何使用AVX2进行向量加法，并提醒编译时需确保支持AVX2指令集。
