1. 新建工程

带ollama的镜像：

docker run -d -p 8888:8080 \
  -v /root/ollama:/root/.ollama \
  -v /root/openwebui-test:/app/backend/data \
  --restart always -e HF_HUB_OFFLINE=1 \
  ghcr.io/open-webui/open-webui:ollama

不要Ollama：

docker run -d -p 8888:8080 -v /root/openwebui-test:/app/backend/data --restart always ghcr.io/open-webui/open-webui:main


docker run -d -p 8888:8080 -v /root/openwebui-test:/app/backend/data --restart always dockerproxy.com/kevinchina/deeplearning:openwebui

ollama

Azure OpenAI 转 openai proxy接口：

https://www.dong-blog.fun/post/1896

先部署好，然后这样设置后就可以使用了：

https://uright.ca/blogs/2024-07-29-unlocking-the-power-of-azure-openai-on-open-webui/

使用 litellm 简化 Azure GPT-4 调用

litellm 是一个统一接口库，它可以将 Azure 和 OpenAI 的接口规范统一，方便开发者使用。下面是如何通过 litellm 进行简单的 Azure GPT-4 调用。

https://kb.cloudpss.net/documents/software/emtlab/power-flow/fundamentals/