Ai本地大模型

mtain 2024年03月26日 46次浏览

说明

本次能运行的Ai大模型

一、Ollama

image.png
Github:https://github.com/ollama/ollama

  1. 运行Ollama

  2. 下载模型

ollama run llama2

  1. 安装WebUI
    注册信息存储在本地

第三方的WebUI:https://github.com/open-webui/open-webui

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.16.135:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main