Ai本地大模型

说明

本次能运行的Ai大模型

一、Ollama

Github：https://github.com/ollama/ollama

1. 运行Ollama

2. 下载模型

ollama run llama2

3. 安装WebUI
   注册信息存储在本地

第三方的WebUI:https://github.com/open-webui/open-webui

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.16.135:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main