在AI技术飞速发展的今天,大型语言模型已不再是云端服务的专属。本教程将教你如何通过Ollama和Chatbox两款轻量工具,在个人电脑上免费部署炙手可热的DeepSeek模型,无需高端显卡,普通CPU也能流畅运行!
ollama安装及部署Deepseek模型
首先我们需要在电脑上安装ollama,本文以windows为例。
ollama简介
Ollama 是一款开源的本地大模型部署工具,旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型(如 Llama、Mistral、DeepSeek 等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过 Ollama,开发者、研究者和爱好者可以快速部署私有化 AI 应用,无需依赖云端服务,同时享受高效、安全的本地 AI 体验。
ollama目前在github上已经拥有123k star
ollama github地址:https://github.com/ollama/ollama
ollama安装
ollama安装比较简单,直接在官网下载windows安装包安装就可以了。
ollama下载地址:https://ollama.com/download
安装完之后我们可以在dos窗口中使用以下命令查看版本
ollama -v
使用ollama下载deepseek模型
根据自己的电脑配置选择合适的deepseek-r1模型进行安装,目前deepseek-r1有以下版本
我下载的是14b的模型,下载命令如下(我已经下载过14b了,此处用8b做示范),
ollama run deepseek-r1:8b
如果之前未下载过模型文件,执行的命令的时候会下载
下载完成之后我们就可以在窗口中使用deepseek-r1模型提问了
ollama api默认只能在本机使用,如果我们想在局域网中使用我们模型的api,则需要在环境变量中添加以下两个配置:
OLLAMA_HOST 0.0.0.0
OLLAMA_ORIGINS *
添加完成之后需要重启电脑、重启电脑、重启电脑才能生效
chatbox安装及api配置
chatbox 简介
Chatbox 是一个 AI 模型桌面客户端,支持 ChatGPT、Claude、Google Gemini、Ollama 等主流模型,适用于 Windows、Mac、Linux、Web、Android 和 iOS 全平台
该项目目前已经在github上拥有28.9k star
github 地址: https://github.com/Bin-Huang/chatbox
chatbox安装
chatbox安装较为简单,下载最新安装包后直接安装就可以了,如果你之前安装过chatbox,卸载之后安装最新版本,不然会有点慢。
chatbox 下载地址:https://chatboxai.app/zh
ollama api配置
chatbox安装完成之后就可以配置ollama api了,如果要在局域网中使用的话前面所说的环境变量务必要配置,不然只能使用127.0.0.1了。
在chatbox中点击设置,模型提供方选择OLLAMA API
api 域名 填写模型安装机器的ip(本机安装的话也可以使用127.0.0.1):11434,
模型可以选择自己下载过的任意一个
这样,我们就可以使用chatbox进行提问了
总结
通过本教程,你已成功搭建了一个完全本地化的智能助手!无论是学术研究、代码编写还是日常问答,DeepSeek都能提供可靠支持。赶紧尝试用ollama list探索更多可用模型,开启你的本地AI之旅吧!