开发个人Ollama-Chat--1 项目介绍

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: **开发个人Ollama-Chat** 是一系列教程,聚焦于使用`go-zero`框架构建聊天应用后端,并通过`Docker`部署至公网。涉及`Ollama`API调用、`Docker`本地环境、`cloudflare`免费部署、内网穿透及阿里云域名绑定。项目包括服务拆分、用户&模型管理、UI设计及多步骤部署。

开发个人Ollama-Chat--1 项目介绍

Ollama-Chat

本文将以一个使用Ollama部署的ChatGPT为背景,主要还是介绍和学习使用 go-zero 框架,开发个人Ollama-Chat的服务器后端,使用Docker部署网站到公网,体验和了解微服务架构,发布微服务到网站的具体流程。

知识点大纲

  • Docker本地开发环境搭建

  • go-zero api rpc服务,鉴权,验证的使用

  • github.com/tmc/langchaingo/llms``Ollamaapi调用

  • cloudflare部署个人网站(白嫖)

  • fps内网穿透

  • 阿里云绑定域名,备案

文章目录

  • 开发个人Ollama-Chat--1 项目介绍

  • 开发个人Ollama-Chat--2 环境搭建

  • 开发个人Ollama-Chat--3 服务拆分

  • 开发个人Ollama-Chat--4 用户管理

  • 开发个人Ollama-Chat--5 模型管理

  • 开发个人Ollama-Chat--6 OpenUI

  • 开发个人Ollama-Chat--7 服务部署

  • 开发个人Ollama-Chat--8 网站部署

  • 开发个人Ollama-Chat--9 Frp穿透

  • 开发个人Ollama-Chat--10 绑定域名

项目地址

openui-frontend

openui-backend-go

相关文章
|
4月前
langchain 入门指南 - 使用 Agent
langchain 入门指南 - 使用 Agent
162 0
|
7月前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
7月前
ModelScope中swft app-ui 命令怎么开启推理日志?
ModelScope中swft app-ui 命令怎么开启推理日志?【1月更文挑战第4天】【1月更文挑战第19篇】
56 1
|
21天前
|
人工智能 C++ iOS开发
ollama + qwen2.5-coder + VS Code + Continue 实现本地AI 辅助写代码
本文介绍在Apple M4 MacOS环境下搭建Ollama和qwen2.5-coder模型的过程。首先通过官网或Brew安装Ollama,然后下载qwen2.5-coder模型,可通过终端命令`ollama run qwen2.5-coder`启动模型进行测试。最后,在VS Code中安装Continue插件,并配置qwen2.5-coder模型用于代码开发辅助。
1417 5
|
2月前
|
人工智能 并行计算 搜索推荐
ollama本地部署llama3(window系统)
这篇文章详细介绍了如何在Windows系统上本地部署Ollama框架来运行Llama 3大模型,并提供了具体的安装步骤和注意事项,以便实现离线使用高级AI模型进行对话。
334 0
ollama本地部署llama3(window系统)
|
1天前
|
人工智能 API 数据库
Qwen-Agent功能调用实践探索
本文详细解析了Qwen-Agent的核心功能——功能调用,涵盖其定义、工作流程、重要性和实际应用,通过实例展示了如何在Qwen-Agent中利用此功能与外部工具和API互动,扩展AI应用范围。
|
24天前
|
Linux iOS开发 异构计算
Ollama完成本地模型的运行
# Ollama完成本地模型的运行
183 5
Ollama完成本地模型的运行
|
2月前
|
自然语言处理 机器人 Python
ChatGPT使用学习:ChatPaper安装到测试详细教程(一文包会)
ChatPaper是一个基于文本生成技术的智能研究论文工具,能够根据用户输入进行智能回复和互动。它支持快速下载、阅读论文,并通过分析论文的关键信息帮助用户判断是否需要深入了解。用户可以通过命令行或网页界面操作,进行论文搜索、下载、总结等。
59 1
ChatGPT使用学习:ChatPaper安装到测试详细教程(一文包会)
|
2月前
LangChain-26 Custom Agent 自定义一个Agent并通过@tool绑定对应的工具 同时让大模型自己调用编写的@tools函数
LangChain-26 Custom Agent 自定义一个Agent并通过@tool绑定对应的工具 同时让大模型自己调用编写的@tools函数
85 3
LangChain-26 Custom Agent 自定义一个Agent并通过@tool绑定对应的工具 同时让大模型自己调用编写的@tools函数
|
24天前
|
存储 安全 API
使用Ollama和Open WebUI管理本地开源大模型
Open WebUI 是一个功能丰富且用户友好的自托管 Web 用户界面(WebUI),它被设计用于与大型语言模型(LLMs)进行交互,特别是那些由 Ollama 或与 OpenAI API 兼容的服务所支持的模型。Open WebUI 提供了完全离线运行的能力,这意味着用户可以在没有互联网连接的情况下与模型进行对话,这对于数据隐私和安全敏感的应用场景尤为重要。

热门文章

最新文章