20.7k star,强大!一个月狂揽万星的项目推荐
前面介绍了ollama,如果你想让它披上类似chatgpt的外衣,那么这个项目可以了解下。
openwebui简介
openwebui是一款开源可以自己定制化、功能丰富且强大的支持LLM的web程序,支持ollama及openai兼容的api。
简单讲就是你有本地私有模型是通过ollama构建的,那么可以直接接入,如果你有openai或者kimi的api,可以直接配置接入。
如果不太懂,可以去看下前面的文章,都有介绍过。
openwebui有哪些特点
很直观的界面、极类似chatgpt,用户体验很友好
支持桌面及移动端设备体验
可以docker部署或者直接部署在k8s种
支持markdown语法
从多种主题中选择,个性化你的Open WebUI体验。
- 语法高亮功能,享受增强的代码可读性。
通过 Web UI 轻松创建 Ollama 模型文件。通过开放 WebUI 社区集成轻松创建和添加角色/代理、自定义聊天元素以及导入模型文件。
支持用户认证管理
- 历史记录的保存、分享,还可以存档聊天记录
简单讲就是方便、快捷,而且有很多可以自定义的功能。
openwebui快速部署开始
参考上篇文章可以安装ollama,或者你自己本地已有,那么可以通过docker快速部署使用:
docker run -d -p 3000:8080
--add-host=host.docker.internal:host-gateway
-v open-webui:/app/backend/data
--name open-webui --restart always
ghcr.io/open-webui/open-webui:main
也可以通过配置文件,连接远程的ollama
docker run -d -p 3000:8080
-e OLLAMA_BASE_URL=https://example.com
-v open-webui:/app/backend/data
--name open-webui --restart always
ghcr.io/open-webui/open-webui:main
更多其它使用方法,可以到官网去查看