|
9月前
|
机器学习/深度学习 缓存 并行计算
|

90_推理优化:性能调优技术

随着大型语言模型(LLM)规模的不断扩大和应用场景的日益复杂,推理性能已成为制约模型实际部署和应用的关键因素。尽管大模型在各项任务上展现出了令人惊艳的能力,但其庞大的参数量和计算需求也带来了严峻的性能挑战。在资源受限的环境中,如何在保持模型效果的同时,最大化推理性能,成为了研究人员和工程师们亟待解决的核心问题。

631 0
|
9月前
|
敏捷开发 人工智能 自然语言处理
|

87_文化适配:多语言提示设计 - 分析本地化提示的适配性

在全球化日益深入的今天,大型语言模型(LLM)的多语言能力已成为其核心竞争力之一。随着企业和开发者将AI应用推广到不同语言区域,如何设计适配各文化背景的提示词,确保模型输出既准确又符合目标语言使用者的文化习惯,已成为提示工程领域的重要挑战。文化适配的多语言提示设计不仅涉及简单的语言翻译,更需要深入理解目标文化的思维模式、表达习惯、价值观和禁忌,通过精心设计的提示策略,引导LLM生成真正贴合当地文化语境的内容。

449 0
|
9月前
|
缓存 人工智能 并行计算
|

59_实时性模型:选择低延迟LLM

在当今快速发展的人工智能领域,大型语言模型(LLM)的应用正迅速渗透到各个行业。随着企业对AI响应速度的要求不断提高,低延迟LLM的选择与优化已成为技术团队面临的关键挑战。实时聊天机器人、智能客服、自动驾驶辅助系统等场景对响应时间提出了极高的要求,毫秒级的延迟差异可能直接影响用户体验和业务效率。2025年,随着推理优化技术的突破性进展,低延迟LLM已不再是难以企及的目标,而是成为实际生产环境中的标准配置。

646 0
|
9月前
|
机器学习/深度学习 数据采集 自然语言处理
|

99_监督微调:Alpaca数据集格式与实现

在大语言模型(LLM)的开发和应用中,微调是将通用预训练模型转化为特定任务专家的关键步骤。监督微调(Supervised Fine-Tuning, SFT)作为微调的一种重要范式,通过人工标注的高质量数据集指导模型学习特定任务的输入输出模式,从而显著提升模型在目标任务上的性能。

1557 0
|
9月前
|
存储 人工智能 自然语言处理
|

96_主动学习提示:用户反馈驱动优化

在人工智能快速发展的今天,大型语言模型(LLM)已经成为各行各业的核心工具。然而,如何让LLM能够持续学习和适应新的需求,如何从用户交互中获取有价值的信息来优化模型性能,已经成为当前研究和应用的热点。主动学习提示(Active Learning Prompts)作为一种新型的提示工程技术,通过用户反馈的闭环系统,实现了模型能力的持续优化和提升。

426 0
|
10月前
|
编解码 文字识别 自然语言处理
|

腾讯混元生图模型升级2.1版本:支持写字、2k分辨率,开源!

腾讯混元生图模型升级2.1版本:支持写字、2k分辨率,开源!

568 14
|
10月前
|
调度 开发者 异构计算
|

冠军10万美金!AMD 2025 分布式推理算子优化挑战赛来了

冠军10万美金!AMD 2025 分布式推理算子优化挑战赛来了

673 13
|
10月前
|
人工智能 安全 Devops
|

AI 驱动的 DevOps:通过智能命令执行实现基础设施自动化

本文探讨了如何利用能够根据自然语言提示执行命令、管理基础设施和自动部署的 AI 技术,来革新 DevOps 流程。通过模型上下文协议(MCP),AI 助手不仅能回答问题,还能直接操作终端、编辑文件并管理开发环境,从而简化复杂的 DevOps 任务,提高效率并降低错误率。

768 3
|
10月前
|
人工智能 并行计算 语音技术
|

魔搭社区模型速递(8.23-8.30)

🙋魔搭ModelScope本期社区进展:📟4924个模型,📁357个数据集,🎨99个创新应用,📄 9篇内容:

769 3
|
11月前
|
物联网
|

直播预告 | Qwen-lmage 技术分享+实战攻略直播

通义千问团队最新开源的图像生成模型 Qwen-Image,凭借其出色的中文理解与文本渲染能力,自发布以来获得了广泛关注与好评。

515 0
|
11月前
|
物联网 开发者
|

LoRA 模型的全新玩法——AutoLoRA 带你体验 LoRA 检索与融合的魔法

为了充分挖掘魔搭社区 Diffusion LoRA 模型的潜力,我们开发了一个自动 LoRA 检索与融合框架:AutoLoRA。他可以根据输入的文本提示,从 LoRA 候选池中检索到 个与提示词相关的LoRA,然后通过集成一个门控融合模块在生成图片的时候促进多个 LoRA 协同工作,充分发挥各个 LoRA 的能力。

425 0
|
11月前
|
人工智能 大数据 数据库
|

8月23日南京Unstructured Data Meetup 启动

8月23日,南京场Unstructured Data Meetup 将在阿里中心·南京建邺 江苏省南京市建邺区沙洲街道新城科技园科技创新综合体A2栋举办。

236 0
|
11月前
|
算法框架/工具 PyTorch
|

关于Pipeline官方示例的问题

249 0
|
12月前
|
机器学习/深度学习 数据采集 人工智能
|

全能高手&科学明星,上海AI实验室开源发布『书生』科学多模态大模型Intern-S1 | WAIC 2025

7月26日,2025世界人工智能大会(WAIC 2025)正式开幕。在当天下午举行的科学前沿全体会议上,上海人工智能实验室(上海AI实验室)发布并开源『书生』科学多模态大模型Intern-S1。

479 0
|
12月前
|
人工智能 自然语言处理 安全
|

魔搭社区模型速递(7.12-7.19)

🙋魔搭ModelScope本期社区进展:3072个模型,193个数据集,121个创新应用:Qwen-TTS-Demo 📄 8 篇内容:

579 0
|
3月前
|
大数据 弹性计算 固态存储
|

ECS下载魔搭大数据集卡住

197 0
来自:计算机视觉 版块
|
4月前
|
机器学习/深度学习 编解码 运维
|

红外小目标检测新突破!异常感知检测头AA-YOLO:节俭又鲁棒,小样本也能精准识别

本文提出AA-YOLO:首个将统计异常检验嵌入YOLO检测头的方法,通过指数分布建模背景,显式识别小目标为统计异常,显著降低误报率;仅需10%数据即达90%全量性能,参数比EFLNet少6倍,轻量高效;在噪声、跨域、跨模态下鲁棒性强,且可无缝适配各类YOLO及实例分割网络。

620 5
来自: 计算机视觉  版块
|
5月前
|
人工智能 算法 Cloud Native
|

【深度思考】当代码无法解决增长焦虑:一场关于“组织操作系统”的重构与意识进化

本文提出“意识进化模型”与“三账户核算体系”,以大型企业转型实践为基,超越KPI,将组织视为生命体:通过意识光谱诊断、七力雷达评估、85/15杠铃预算、良知效能比(CER)等机制,重写组织“操作系统”,推动从创伤防御态迈向使命驱动态,实现技术与人性的协同进化。(239字)

213 1
|
5月前
|
人工智能 数据可视化 文件存储
|

MIT开源 首款P2P-AIBridge工具 OoderNexus 发布

Nexus是基于OoderAgent V0.6.5的可视化开发套件,旨在降低P2P AI通信门槛。它提供设备管理(路由器/NAS/智能家居)、SkillFlow编排、场景配置等示例界面,让开发者快速构建SuperAgent分发系统,实现AI能力的直观调用与扩展。(239字)

264 2
|
5月前
|
人工智能 机器人 API
|

OpenClaw 注册 Moltbook 教程 让你的个人 OpenClaw Agent 加入全球最大 AI 社区

本教程教你用开源AI助手OpenClaw,快速注册并接入全球首个纯AI社交平台Moltbook——一个仅限AI智能体发帖、评论、互动的Reddit式社区(截至2026年1月已超140万个AI活跃)。只需部署OpenClaw、安装Moltbook Skill、完成X平台验证,即可让个人AI agent加入全球AI对话网络。(239字)

2084 5
|
6月前
|
机器学习/深度学习 测试技术 API
|

阿里云分布对齐的序列蒸馏实现卓越的Long CoT推理能力,登顶Hugging Face趋势榜!

阿里云飞天实验室发布DASD推理蒸馏技术,开源DASD-4B/30B-Thinking模型及高质量训练数据。创新提出温度调节学习、差异感知采样与混合策略蒸馏三大技术,仅用44.8万样本即在AIME25(83.3)、LCB v5(69.3)、GPQA-D(68.4)等基准上超越同尺寸甚至更大模型,数据集登顶Hugging Face趋势榜Top5。

752 3
|
7月前
|
应用服务中间件 微服务
|

微服务雪崩问题

高并发下商品服务占用过多Tomcat连接,可能导致接口延迟或阻塞,进而影响依赖它的购物车服务,引发连锁反应。若不加控制,将导致整个微服务集群雪崩。微服务保护旨在防止此类级联失败,保障系统稳定。

163 1
|
7月前
|
数据采集 存储 物联网
|

C 语言微服务架构实践:从模块化到轻量级分布式的探索

本文探讨C语言在微服务架构中的实践路径,通过“模块化拆分+进程通信”实现轻量级分布式系统,适用于嵌入式与物联网等资源受限场景,结合MQTT协议支持跨设备协作,虽缺乏高级特性,但凭借高效、低耗优势,可作为特定场景下微服务的有力补充。

218 2
|
7月前
|
消息中间件 Linux API
|

C 语言并发编程核心原理与实践技巧

C语言虽无内置线程库,但可通过POSIX pthread实现Linux多线程并发,配合互斥锁与信号量解决数据竞争;在嵌入式场景中,FreeRTOS提供任务调度、消息队列等机制,满足实时性需求。本文详解从基础线程创建到同步控制,再到嵌入式实时落地的全流程,助你掌握高效稳定的C并发编程核心技能。

299 0
|
7月前
|
存储 安全 C语言
|

C 语言实用标准库与工具函数使用指南:提升开发效率的核心技巧

本文系统梳理了C语言开发中常用的10类实用工具,涵盖标准库函数(如stdio.h、string.h、stdlib.h等)和自定义工具函数,详细介绍其核心用法、使用场景及注意事项,并结合代码案例帮助开发者提升开发效率与代码质量。

301 0
|
7月前
|
存储 缓存 运维
|

一场FullGC故障排查

本文记录了一次Java应用CPU使用率异常升高的排查过程。通过分析发现,问题由Full GC频繁触发导致,根源在于将大Excel文件解析为List<Map>结构后长期驻留JVM内存,造成堆内存膨胀、空间利用率低。结合JProfiler工具定位大对象,最终通过优化数据存储方式解决GC问题,总结出一套线上性能问题排查思路。

156 0
|
7月前
|
持续交付 项目管理
|

阿里巴巴-云效

本文介绍了如何开通并使用云效平台进行项目管理与自动化部署。涵盖服务开通、需求管理、代码托管及流水线构建等步骤,帮助团队高效协作,实现代码自动发布流程的搭建与体验。

265 0
|
7月前
|
Java 数据库连接 调度
|

xxljob执行源码分析

包含中文注释的XXL-JOB源码包及分析流程,涵盖架构设计与核心源码解析。重点包括任务调度、线程池管理、心跳注册、失败重试与告警机制、日志清理及时间轮调度原理,全面剖析分布式任务调度系统实现细节。(238字)

420 0
|
7月前
|
存储 缓存 监控
|

EFC&CTO:缓存引发数据不一致问题排查与深度解析

EFC客户端在NAS场景下因缓存架构更新引发CTO测试data mismatch问题。经排查,发现分布式缓存中版本号(dv)回退导致读取旧的NULL数据,污染pagecache并最终写坏文件系统。根本原因为慢请求返回覆盖了最新版本号,修复方案为丢弃回退的版本号。通过日志分析与流程复现确认问题,并结合内核行为深入理解POSIX接口实现细节,最终解决数据不一致难题。

140 0
|
7月前
|
Java 关系型数据库 MySQL
|

Auth2.0实战案例

本项目基于Spring Boot与Spring Cloud构建,实现OAuth2四种授权模式。通过父工程统一版本管理,搭建授权服务器与资源服务器,集成Spring Security、MyBatis及MySQL,完成认证授权流程。支持授权码、简化、密码及客户端四种模式,实现安全的分布式权限控制。

140 0
|
7月前
|
存储 缓存 安全
|

常用过滤器介绍

Spring Security通过过滤器链实现安全控制,如SecurityContextPersistenceFilter管理上下文,UsernamePasswordAuthenticationFilter处理登录,CsrfFilter防范跨站请求伪造等。不同过滤器各司其职,按需加载,共同构建安全体系。(238字)

432 0
|
7月前
|
前端开发 数据安全/隐私保护
|

1.自定义认证前端页面

111

196 0
|
7月前
|
Dubbo Java 应用服务中间件
|

Thrift

Dubbo的Thrift协议基于原生Thrift扩展,添加了服务名、魔数等头信息,需用Thrift IDL编译器生成Java代码。当前依赖libthrift 0.8.0,配置统一端口,示例可参考官方项目。注意:不支持传递null值,且与原生Thrift不兼容。

255 0
|
7月前
|
消息中间件 物联网 测试技术
|

语音通知

111

163 0
|
7月前
|
安全 Java 数据安全/隐私保护
|

SpringSecurity通用权限管理模型

本文介绍ACL、RBAC等常见权限模型。ACL基于对象授权,简单直接;RBAC则通过“用户-角色-权限-资源”模式实现灵活控制,具备最小权限、职责分离、数据抽象三大原则,并衍生出含角色继承与约束的RBAC0-RBAC3系列,助你构建系统化权限认知。(238字)

143 0
|
7月前
|
存储 NoSQL 关系型数据库
|

Python 持久层开发:从文件到数据库的实践指南

Python持久层开发覆盖全场景需求,从文件存储到分布式数据库。依据业务复杂度,可选TXT/JSON、SQLite、MySQL/PostgreSQL或MongoDB、Redis等方案,核心在于“按需选型”,匹配数据规模与性能要求,兼顾效率与可靠性。(239字)

181 0
|
7月前
|
敏捷开发 Java 测试技术
|

为什么要单元测试

本文探讨单元测试在软件开发中的核心价值,打破“写单测费时误事”的误区。通过解析测试体系演进、测试金字塔模型,阐明单元测试如何提升代码质量、调试效率与团队协作,并揭示常见反模式与认知误区,倡导研发自测、夯实基础,让软件开发从“爬行”迈向“奔跑”。

167 0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉答疑群:44837352

0
今日
15276
内容
6
活动
4250
关注
你好!
登录掌握更多精彩内容

相关产品

  • 人工智能平台 PAI
  • 文字识别
  • 智能语音交互