奕晓凡
奕晓凡_个人页
奕晓凡
文章
3
问答
1
视频
0
个人介绍
暂无个人介绍
擅长的技术
- 容器
获得更多能力
通用技术能力：
暂时未有相关通用技术能力~
云产品技术能力：
-
Clouder
-
大模型Clouder认证：基于百炼平台构建智能体应用商品
获得于2024-11-01 00:24:03
-
Apsara Clouder云计算专项技能认证：云服务器ECS入门
获得于2023-02-01 14:42:23
-
大模型Clouder认证：基于百炼平台构建智能体应用商品
-
ACA
-
阿里云云计算助理工程师认证（ACA）
获得于2018-11-21 22:17:40
-
阿里云云计算助理工程师认证（ACA）
阿里云技能认证
详细说明-
发表了文章 2024-11-04
基于NVIDIA A30 加速卡推理部署通义千问-72B-Chat测试过程
本文介绍了基于阿里云通义千问72B大模型（Qwen-72B-Chat）的性能基准测试，包括测试环境准备、模型部署、API测试等内容。测试环境配置为32核128G内存的ECS云主机，配备8块NVIDIA A30 GPU加速卡。软件环境包括Ubuntu 22.04、CUDA 12.4.0、PyTorch 2.4.0等。详细介绍了模型下载、部署命令及常见问题解决方法，并展示了API测试结果和性能分析。
-
发表了文章 2024-11-01
基于《文档智能 & RAG让AI大模型更懂业务》解决方案实践体验后的想法
通过实践《文档智能 & RAG让AI大模型更懂业务》实验，掌握了构建强大LLM知识库的方法，处理企业级文档问答需求。部署文档和引导充分，但需增加资源选型指导。文档智能与RAG结合提升了文档利用效率，但在答案质量和内容精确度上有提升空间。解决方案适用于法律文档查阅、技术支持等场景，但需加强数据安全和隐私保护。建议增加基于容量需求的资源配置指导。
暂无更多信息
-
发表了文章
2024-11-04
基于NVIDIA A30 加速卡推理部署通义千问-72B-Chat测试过程
-
发表了文章
2024-11-01
基于《文档智能 & RAG让AI大模型更懂业务》解决方案实践体验后的想法
-
发表了文章
2024-10-30
RAG让AI大模型更懂业务解决方案部署使用体验
滑动查看更多
暂无更多信息