目前,开源社区有类似Ollama等工具支持本地部署DeepSeek等开源大模型,使个人用户能在笔记本电脑上快捷、透明的上手体验大模型;同时面向企业用户的智能体平台Botnow也已迅速接入DeepSeek R1官方API和本地部署DeepSeek系列模型两种方式。本文客观地对比分析了使用Ollama和Botnow本地运行DeepSeek R1等开源大模型的不同,以供用户实践参考。
Part 1使用Ollama本地部署DeepSeek R1模型
一、安装前的环境准备
硬件概览:
型号:MacBook Pro
芯片:Apple M3 Pro
核总数:12(6性能和6能效)
内存:18 GB
储存空间:1T
浏览器:
Google Chrome
二、DeepSeek模型简介及尺寸说明
考虑到单机Mac的资源局限,这里选择“DeepSeek-R1-Distill-Qwen-7B”模型作为示例。
三、下载ollama到本地
下载链接:https://ollama.com/download
四、下载并运行 deepseek-r1:7b
ollama run deepseek-r1:7b
模型文件拉取完毕,会出现“Success”提示
五、测试运行
输入提示词“比较一下3.8和3.11哪个大,并给出分析过程”
运行“ollama -h”查看更多命令
Part 2使用浏览器插件图形化体验本地模型
一、安装Chrome浏览器插件“Page Assist”
1. 打开Google Chrome浏览器,地址栏输入 chrome://extensions/ ,打开浏览器扩展程序
2. 搜索插件“Page Assist”,点击安装
二、 使用图形化界面运行 DeepSeek R1 模型
1. 从Google浏览器打开“Page Assist”插件
2. 选择前面下载的deepseek-r1:7b模型
3. 输入示例问题,如“如何找到下一个DeepSeek的创业项目”
4. 查看更多设置
Part 3使用Botnow体验DeepSeek R1模型
一、使用 Botnow 接入的 DeepSeek R1 官方 API
1. 登录智能体平台 Botnow SaaS 版(域名:https://botnow.cn)
2. 进入“Bots”,点击“新建Bot”
3. 模型设置选择“DeepSeek reasoner”模型
4. 输入示例提示词“如何实现载人登月,给出具体分析步骤”
二、使用 Botnow 本地部署 DeepSeek R1 模型
1. 登录智能体平台 Botnow SaaS版(域名:https://botnow.cn)
2. 进入“模型管理”->“模型仓库”,点击“创建模型”
“DeepSeek-R1-Distill-Qwen-7B”模型文件拉取完毕后,可进行模型部署。
3. 进入“模型部署”,点击“创建模型服务”
4. 参考上一节创建Bot,选择“DeepSeek-R1-Distill-Qwen-7B”模型
Part 4 总结对比