随着大型语言模型（LLM）规模的不断扩大和应用场景的日益复杂，推理性能已成为制约模型实际部署和应用的关键因素。尽管大模型在各项任务上展现出了令人惊艳的能力，但其庞大的参数量和计算需求也带来了严峻的性能挑战。在资源受限的环境中，如何在保持模型效果的同时，最大化推理性能，成为了研究人员和工程师们亟待解决的核心问题。

在当今数字化转型的浪潮中，混合云架构已成为企业IT基础设施的重要组成部分。截至2025年第一季度，全球云基础设施市场由三大云服务提供商主导：亚马逊云服务（AWS）占29%市场份额，微软Azure占22%，谷歌云平台（GCP）占12%。这三大提供商合计占据全球云市场约63%的份额。在这种情况下，企业越来越多地采用混合云策略，尤其是同时使用AWS和GCP这两个领先平台。

在当今的数字时代，我们已经习惯于与智能助手对话、向大语言模型提问，甚至依赖它们生成创意内容。然而，这看似理所当然的人机对话能力，实际上经历了长达半个多世纪的曲折发展历程。从1966年麻省理工学院的简陋程序，到2017年Google提出的革命性架构，聊天AI的演变不仅是技术的进步，更是人类对自身语言本质探索的缩影。

在大型语言模型（LLM）快速发展的今天，通用基准测试如MMLU、C-Eval等已成为评估模型能力的重要工具。然而，随着LLM在各个行业的深度应用，通用基准往往无法准确反映模型在特定领域、特定任务上的真实表现。2025年，构建企业或组织专属的自定义评测基准已成为大模型落地应用的关键环节。

一副AI眼镜帮你实时智能识别、一只机器狗陪你跑跨栏、一条机械臂听你指挥、一场与机器人的点球大战——这可不是科幻电影，这是2025云栖大会即将上演的现实。

我计划参加魔搭（ModelScope）平台上的Qwen-Coder比赛，通过制作一段视频，分享我开发人脸识别工具的过程。这段视频将以轻松幽默的方式，结合生活中的真实案例，展现如何利用AI技术解决普通人面临的隐私与安全问题。

6月底，Google正式开源发布了全新端侧多模态大模型 Gemma 3n！相较此前的预览版，最新的 Gemma 3n 完整版进一步提升性能表现，支持在 2GB 内存的硬件上本地运行，重点提升了编码和推理方面的能力。

6月30日，百度文心大模型4.5正式开源，魔搭社区在开源首日快速接入文心大模型，提供真正可用、好用、可落地的大模型解决方案，现已面向广大企业、开发者下载体验！

本文介绍了在通义点金平台搭建知识库时遇到的表格解析问题及解决方案。问题表现为表格数据被独立存储为chunk，缺少前后说明文字和表名信息，导致大模型回答错乱。解决方法是通过API将前后chunk内容合并到table类型的chunk中，补充表名和说明信息。具体步骤包括获取文档chunk列表、按顺序排序、修订table类型chunk并更新。示例展示了修订前后效果，同时说明了点金平台近期更新对部分问题的优化情况。

“振兴链-技术集成科技小院”以技术集成与区块链为核心，推动农业现代化。通过多维度技术整合（如精准农业、物联网等），突破资源约束，最大化单亩产值；同时利用区块链确权存证，建立透明分配机制，解决传统农业中收益不均问题。技术赋能生产，制度重塑分配，实现效率与公平的平衡，助力乡村振兴与产业升级。典型场景显示，该模式可显著提升单亩价值并确保增值公平分配。

Bolt.diy 是一款从创意到部署的极速开发工具，支持多语言模型（如 OpenAI、DeepSeek 等）灵活适配，满足不同任务需求。其模块化架构提供高度定制化能力，可扩展自定义服务与私有模型。全栈开发流程覆盖代码生成、调试、版本管理到一键部署，内置数据库管理与 API 自动生成功能。智能化辅助工具实时分析代码错误并提供建议，帮助开发者高效理解复杂项目。基于云原生平台 CAP 构建，支持快速部署与实时预览，适用于快速原型设计、教育及企业级开发等场景。

前几天，“杭州六小龙”之一「群核科技」在GTC 2025大会开源了空间理解模型：SpatialLM。

在当今快速发展的 AI 领域，多模态模型正逐渐成为推动技术革新的重要力量。Google 最新推出的 Gemma 3 模型，凭借其轻量级、多模态的特性，为文本生成和图像理解任务带来了全新的可能性。它不仅支持文本和图像输入，还具备强大的语言处理能力，覆盖超过 140 种语言，并且能够在资源有限的设备上高效运行。从问答到摘要，从推理到图像分析，Gemma 3 正在重新定义 AI 模型的边界，为开发者和研究人员提供了一个极具潜力的工具。

魔搭ModelScope本期社区进展：1066个模型，153个数据集，125个创新应用，13篇内容

VideoPainter 是由香港中文大学、腾讯ARC Lab等机构联合推出的视频修复和编辑框架，基于双分支架构和预训练扩散模型，支持任意长度视频的修复与编辑，具备背景保留、前景生成、文本指导编辑等功能，为视频处理领域带来新的突破。

TrajectoryCrafter 是腾讯与香港中文大学联合推出的单目视频相机轨迹重定向技术，支持后期自由调整视频的相机位置和角度，生成高质量的新型轨迹视频，广泛应用于沉浸式娱乐、创意视频制作等领域。

AppAgentX 是西湖大学推出的新型自我进化式 GUI 代理框架，通过记忆和进化机制提升智能手机交互的效率和智能性，支持复杂任务和跨应用操作，显著优于现有方法。

AI-Infra-Guard 是腾讯开源的高效、轻量级 AI 基础设施安全评估工具，支持 28 种 AI 框架指纹识别和 200 多个安全漏洞数据库，帮助用户快速检测和修复 AI 系统中的安全风险。

PySpur 是一款开源的轻量级可视化 AI 智能体工作流构建器，支持拖拽式界面，帮助用户快速构建、测试和迭代 AI 工作流，无需编写复杂代码。它支持多模态数据处理、RAG 技术、文件上传、结构化输出等功能，适合非技术背景的用户和开发者快速上手。

FlashMLA 是 DeepSeek 开源的高效 MLA 解码内核，专为 NVIDIA Hopper 架构 GPU 优化，支持 BF16 精度和页式 KV 缓存，适用于大语言模型推理和自然语言处理任务。

Sitcom-Crafter 是一款基于剧情驱动的 3D 动作生成系统，通过多模块协同工作，支持人类行走、场景交互和多人交互，适用于动画、游戏及虚拟现实等领域。

当你点进这个标题时内心是怎样复杂的心情，质疑，鄙夷，或者是惊讶？这也正是我们最初点开这篇论文时的心情。然而, 在完成项目测试后, 我们瘫坐在椅子上, 默默打下了 'Prompt工程师,不存在' 这几个

大模型微调是AI落地的关键技术，通过定向训练让通用模型在特定领域“从会到精”。本文详解微调原理、LoRA/QLoRA等高效方法，并提供评估与实操建议，助力新手快速上手，实现低成本、高精度的模型定制。

本文深入解析了大模型三大核心技术：输入编码、多头自注意力机制和前馈网络层，从应用视角阐述了它们的工作原理和协同效应。输入编码负责将文本转换为富含语义和位置信息的数学表示；多头自注意力机制通过多专家团队模式建立全局依赖关系，解决长距离依赖问题；前馈网络层则通过非线性变换进行深度语义消歧。文章通过可视化示例展示了词向量的语义关系建模、注意力权重的分布模式以及前馈网络的语义过滤功能，形象地说明了大模型如何通过这三层架构实现"广泛联系-深度加工"的认知过程。

本文探讨C语言在微服务架构中的实践路径，通过“模块化拆分+进程通信”实现轻量级分布式系统，适用于嵌入式与物联网等资源受限场景，结合MQTT协议支持跨设备协作，虽缺乏高级特性，但凭借高效、低耗优势，可作为特定场景下微服务的有力补充。

C语言是嵌入式与底层开发的基石。科学学习路径分四阶：入门打基础，深化指针内存，项目实战练工程，进阶嵌入式。掌握文件持久化、并发编程，融合硬件应用，实现从新手到工程师的跃迁，彰显其高性能、强控制与广生态的持久生命力。

本文系统梳理Java开发中10类常用工具类，涵盖字符串、日期、集合、加密、文件、数学、反射、IO流及网络操作，详解核心方法、使用场景与注意事项，结合案例帮助开发者提升效率、避免重复造轮子，助力写出更稳定、可读性更强的代码。

11

本文以简易学生信息管理系统为例，详解Python Web项目从需求分析、技术选型到编码部署的完整流程。采用Flask+SQLite+Bootstrap轻量栈，实现增删改查与Excel导出，助初学者快速掌握开发逻辑与实战技能。

今日发布DeepSeek-V3.1，支持混合推理架构，提升思考效率与Agent能力。编程与搜索智能体表现显著增强，API已升级并支持Anthropic格式，模型开源，上下文扩展至128K。

今天，我们正式发布Ling 2.0系列的第一款 旗舰非思考模型 - 拥有万亿参数的Ling-1T。推理，是智能的核心表达，更是通用智能体的认知基石。因此，我们持续扩展Ling 2.0 系列模型的自然语言推理能力。Ling-1T沿用 Li…

随着大语言模型(LLM)在各个行业的广泛应用，其计算需求和环境影响正日益受到关注。根据最新研究，训练一个大型LLM模型可能产生数百吨二氧化碳当量的排放，这相当于普通家庭几十年的碳足迹。在全球气候变化和可持续发展的背景下，如何优化LLM部署的碳足迹，实现环境友好型AI应用，已成为行业面临的重要挑战。

大型语言模型（LLM）的架构设计是其性能的核心决定因素。从2017年Transformer架构的提出，到如今的稀疏注意力和混合专家模型，LLM架构经历了快速的演进。本文将全面探讨LLM基础架构的设计原理，深入分析Transformer的核心机制，详细介绍稀疏注意力、MoE等创新架构，并展望未来架构发展方向。通过数学推导和实践案例，为构建高效、强大的LLM提供全面指导。

在当今快速发展的人工智能领域，大型语言模型（LLM）的应用正迅速渗透到各个行业。随着企业对AI响应速度的要求不断提高，低延迟LLM的选择与优化已成为技术团队面临的关键挑战。实时聊天机器人、智能客服、自动驾驶辅助系统等场景对响应时间提出了极高的要求，毫秒级的延迟差异可能直接影响用户体验和业务效率。2025年，随着推理优化技术的突破性进展，低延迟LLM已不再是难以企及的目标，而是成为实际生产环境中的标准配置。

随着大型语言模型（LLM）技术的快速发展和广泛应用，AI系统正以前所未有的方式改变着我们的工作和生活。然而，这种强大的技术也带来了新的安全挑战，其中提示注入（Prompt Injection）攻击已成为最具威胁性的安全问题之一。提示注入攻击通过精心构造的输入，操纵或欺骗AI系统执行非预期行为，可能导致数据泄露、权限绕过、输出不当内容等严重后果

随着2025年大语言模型技术的持续突破和规模化应用，计算资源已成为推动AI发展的关键驱动力。从最初的CPU计算，到GPU加速，再到专用AI加速器的崛起，大语言模型的计算需求正在重塑全球数据中心的基础设施架构。当前，全球AI半导体市场规模预计在2027年将达到2380亿美元（基本情境）甚至4050亿美元（乐观情境），这一增长背后，是大语言模型对计算能力、内存带宽和能效比的极致追求。