Open-WebUI en Docker

Veamos como integrar Open Web UI en nuestro laboratorio local. Esta es un herramienta ideal para poner a prueba modelos LLM pequeños que podamos correr en nuestro equipo mediante Ollama o para implementar un RAG con nuestros propios archivos.

Interfaz web para LLMs con OpenWebUI

Open WebUI es una plataforma de IA autoalojada, extensible , rica en funciones y fácil de usar, diseñada para funcionar completamente sin conexión. Es compatible con varios ejecutores LLM como Ollama y API compatibles con OpenAI , y cuenta con un motor de inferencia integrado para RAG, lo que la convierte en una potente solución para la implementación de IA .” Fuente: https://github.com/open-webui/open-webui

imagen

docker run -d –network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 –name open-webui –restart always ghcr.io/open-webui/open-webui:main

Instalación con configuración predeterminada

• Descargamos la images de docker:

docker pull ghcr.io/open-webui/open-webui:main

• Creaos el volumen open-webui-data

docker volume create open-webui_data

• Si Ollama está en tu computadora corriendo en un contenedor docker como es mi caso, entonces usa este comando:

docker run -d -p 3001:8080 --add-host=host.docker.internal:host-gateway -v open-webui_data:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

• Si Ollama está en un servidor diferente , use este comando: Para conectarse a Ollama en otro servidor, cambie la OLLAMA_BASE_URLURL del servidor:

docker run -d -p 3001:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui_data:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• Para ejecutar Open WebUI con compatibilidad con GPU Nvidia , use este comando:

docker run -d -p 3001:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui_data:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

Instalación solo para uso de la API de OpenAI

• Si solo usa la API de OpenAI , use este comando:

docker run -d -p 3001:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Configuración de servicios MCP

Fuente: 🛰️ MCP Support | Open WebUI Fuente: How to Connect a local MCP to Open WebUI + Ollama in 5 mins on MacBook Air M4!

Para configurar MCP en Open WebUI, sigue estos pasos: 1. Instala Docker Desktop y asegúrate de que esté funcionando antes de proceder con la instalación. 2. Descarga y compila la imagen Docker de MCP para desplegar mcpo, que expone servidores MCP como puntos finales HTTP compatibles con OpenAPI. 3. Personaliza la configuración del archivo ‘config.json’ según las especificaciones de tu servidor MCP. 4. Usa Docker Compose para iniciar los servidores con el comando ‘docker compose up -d’. 5. Conecta Open WebUI a los puntos finales expuestos, por ejemplo, ‘http://localhost:8000/memory’. 6. Revisa las herramientas disponibles dentro de Open WebUI para la interacción con los servidores MCP.
Estos pasos te permitirán desplegar y configurar MCP en Open WebUI de manera efectiva, facilitando la integración y gestión de modelos.

Servicio MCPO en Docker

Integración con Agentes de n8n