DeepSeek——DeepSeek模型部署实战

2025-02-14 1166

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 本文介绍了DeepSeek大模型的本地部署方法、使用方式及API接入。首先，通过下载Ollama平台部署DeepSeek-R1模型，提供7种不同参数版本（1.5b至671b），用户可根据硬件选择合适的模型大小。接着，文章详细描述了如何在终端运行命令启动模型，并通过Chatbox官网下载并接入DeepSeek API，实现本地和云端模型的交互。最后，提及了DeepSeek官网和集成工具如POE的使用，帮助用户更好地利用DeepSeek进行开发和应用。

摘要

文章主要介绍了DeepSeek大模型的本地部署方法、使用方式以及API接入相关内容。首先指出可通过下载Ollama来部署DeepSeek-R1模型，并给出了模型不同参数版本及存储信息。接着说明了如何通过Chatbox官网下载并接入DeepSeek API，以及如何接入本地部署模型。最后提及了DeepSeek官网使用和集成工具使用相关内容。

1. DeepSeek大模型本地部署

1.1. 下载Ollama（Ollama）

编辑

点击DeepSeek-R1的链接可以看到有关deepseek-r1的详细介绍：

编辑

1.2. 部署deepseek-r1模型

目前deepseek-r1模型大小提供了7个选择：1.5b、7b、8b、14b、32b、70b、671b。

你可以根据你的硬件情况选择，通常模型大小（参数量）越大，模型的理解和生成能力越强，但也会消耗更多的计算资源。点击Download按钮下载符合自己平台的Ollama：

编辑

我这里选择macOS，点击下载。下载文件大小不到200M，文件名为：Ollama-darwin.zip。解压后打开Ollama应用程序，提示：

编辑

1.3. 使用deepseek-r1模型

按照提示，打开终端，使用 Command + Space 快捷键调用 terminal：

编辑

这里Ollama默认给出的例子是下载/运行llama3.2大模型，我们这里不使用这个llama3.2模型，直接下载/运行deepseek，参数选择最小的1.5b，在终端窗口运行下面命令：

ollama run deepseek-r1:1.5b

编辑

jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
>>> Send a message (/? for help)

这里就直接可以和DeepSeek对话了：

>>> Hi! Who are you?
<think>
</think>
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service 
and would be delighted to assist you with any inquiries or tasks you may have.
>>> 你好，你是谁？
<think>
</think>
你好！我是DeepSeek-R1，一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学，代码和
逻辑推理等理工类问题。 Feel free to ask me anything you'd like me to know! 
>>> Send a message (/? for help)

2. DeepSeek大模型API接入

2.1. 下载Chatbox官方网站（Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download）

编辑

我这里还是Intel-based的MAC，下载的Chatbox-1.9.7.dmg，大小100M多点，点击安装，按下面提示拖到Applications内：

编辑

2.2. Chatbox接入DeepSeek API

编辑

2.3. Chatbox接入DeepSeek本地部署模型

实际上，若选择这个你本地的DeepSeek模型。实际正确应该选择OLLAMA API，然后就可以看到我们上一步安装好的deepseek-r1:1.5b。

编辑

配置好DeepSeek本地模型之后，就可以实现在断网情况下自由问答了，比如，此刻我正在写这篇文章，于是就问他帮我想名字：

我正在写一篇文章，手动部署DeepSeek本地模型在。请你帮我重新生成10个吸引眼球的标题供我选择。

编辑

3. DeepSeek大模型使用

3.1. DeepSeek官网使用（DeepSeek）

编辑

3.2. DeepSeek集成工具使用（https://poe.com/）

编辑