🐹 OpenWebUI란?
Gradio, Streamlit 와 유사하게 AI모델 인터페이스역할을 하는 웹 기반 사용자 인터페이스 플랫폼이다.
다양한 AI 모델을 로드하고 실행할 수 있는 직관적인 UI를 제공하며, 이를 통해 비개발자도 쉽게 AI 모델을 테스트하거나 활용할 수 있다.
🏡 Home | Open WebUI
Open WebUI is an extensible, feature-rich, and user-friendly self-hosted AI interface designed to operate entirely offline. It supports various LLM runners, including Ollama and OpenAI-compatible APIs.
docs.openwebui.com
🐹 설치 및 실행 방법
OpenWebUI를 사용 git을 clone하여 실행하는 방법과, docker를 이용하는 방법이 있다.
아래 github에 실행 방법이 안내되어있다.
https://github.com/open-webui/open-webui
GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
User-friendly AI Interface (Supports Ollama, OpenAI API, ...) - open-webui/open-webui
github.com
간단하게 docker로 실행시켜보자!
llm모델로 ollama를 사용하는데, 나는 ollama가 같은 서버에서 실행되고 있어 아래 명령어로 openwebui를 실행시켰다.
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
실행시 초기 화면은 아래와 같다.
'Internship' 카테고리의 다른 글
OpenWebUI & pipeline 서비스 구성 (0) | 2025.03.13 |
---|---|
[OpenWebUI] Pipeline 연결 (0) | 2024.12.20 |
RAG 시스템 키워드 추출 (1) | 2024.11.27 |
vLLM : LLM 추론 프레임워크 (0) | 2024.11.26 |
RAG란? (0) | 2024.11.24 |