ollama集成open-webui本地部署大模型应用

文章目录

概述 安装ollama 运行指定模型 命令帮助 docker 安装 webui WebUI与ollama在同一台机器 WebUI与ollama不在同一台机器（推荐） 更新 open-webui离线安装 open-webui使用 验证访问 导入模型文件 参考资料

概述

ollama是一款在本地启动并运行大型语言模型的工具，主要功能是在 Docker 容器内部署和管理 LLM 的促进者，它使该过程变得非常简单。它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型
Ollama 将模型权重、配置和数据捆绑到一个包中，定义成 Modelfile。它优化了设置和配置细节，包括 GPU 使用情况。

安装ollama

在线安装：

curl -fsSL https://ollama.com/install.sh | sh

ollama离线安装教程