Взаимодействуем с ollama через Web-интерфейс на Ubuntu 24.04 LTS Server

Продолжаю, если сейчас у меня есть развернутый Фреймворк ollama (Version 0.34.2) на Ubuntu 24.04 LTS Server который я описал в заметке: "Пробуем фреймворк Ollama + языковая модель llama3:8b на Ubuntu 24.04 Server", да через него можно взаимодействовать с установленной языковой моделью, как посредством консоли либо через curl запрос, относительно удобно. Вот только я знаю, что можно настроить работу через Web—интерфейс посредством браузера — это же удобнее. Вот именно и этой настройке и будет посвящена текущая заметка.

Необходимые моменты

• С системы Ubuntu 24.04 LTS Server должен быть выход в интернет

Шаг №1: Для доступа к фреймворку ollama и установленным в нем языковым моделям используется проект open-webui (https://github.com/open-webui/open-webui)

Шаг №2: Клонирую репозитарий проекта open-webui в текущую систему:

ekzorchik@srv-s2404a:~$ git config --global http.version HTTP/1.1
ekzorchik@srv-s2404a:~$ git config --global http.postBuffer 1572864
ekzorchik@srv-s2404a:~$ git clone https://github.com/open-webui/open-webui
Cloning into 'open-webui'...
remote: Enumerating objects: 191310, done.
remote: Counting objects: 100% (939/939), done.
remote: Compressing objects: 100% (287/287), done.
remote: Total 191310 (delta 792), reused 652 (delta 652), pack-reused 190371 (from 3)
Receiving objects: 100% (191310/191310), 427.33 MiB | 2.37 MiB/s, done.
Resolving deltas: 100% (126330/126330), done.
ekzorchik@srv-s2404a:~$

Шаг №3: Перехожу в клонированный репозитарий и сперва ознакамливаюсь с Readme файлом на предмет, как запустить Web—оснастку (open-webui):

ekzorchik@srv-s2404a:~/open-webui$ cat README.md

тут мне интересны строки

- **For CPU Only**:
If you're not using a GPU, use this command instead:
```bash
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

если бы у меня был бы графическая карта, то пригодилась бы строка

- **With GPU Support**:
Utilize GPU resources by running the following command:
```bash
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

к примеру, много заметок позже, я смотрел настройки если есть в наличии Nvidia Quadro P1000, то использовал строку:
sudo docker run -d -p 3000:8080 --gpus all --add-host=192.168.10.15:host-gateway -v ollama:/root/.ollama   -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://192.168.10.15:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

Итого, у меня только CPU, что еще нужно в текущую систему установить docker, на этот счет заметка: "Устанавливаем Docker & Docker Compose on Ubuntu 24.04 Server"

На момент составления текущей заметки (22.09.2026) имею версии

ekzorchik@srv-s2404a:~$ docker compose version
Docker Compose version v2.5.0
ekzorchik@srv-s2404a:~$ docker --version
Docker version 29.8.1, build 4a63305
ekzorchik@srv-s2404a:~$

Шаг №4: С учетом всего выше запускаем проект Web—оснастки:

ekzorchik@srv-s2404a:~/open-webui$ sudo docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
Unable to find image 'ghcr.io/open-webui/open-webui:ollama' locally
ollama: Pulling from open-webui/open-webui
dc22b8c341d9: Pull complete
4f4fb700ef54: Pull complete
5835db0f7345: Pull complete
2f49ca0457cc: Pull complete
b07a2d5ca901: Pull complete
774043ccc8cc: Pull complete
a69cd39be090: Pull complete
9b30b134fd69: Pull complete
246ac8b7cadc: Pull complete
ebdc97b065d2: Pull complete
551e251d236f: Pull complete
f57cecf87087: Pull complete
5607066c681f: Pull complete
fba636d4f755: Pull complete
c682813ed5d7: Pull complete
2f14788b299d: Pull complete
44136fa355b3: Download complete
d9f7dd8a8aa6: Download complete
0f352adffaa7: Download complete
Digest: sha256:8da1b14b73985f300daa9455efc325df1e21b7d3c399439e488a17e38f2eaf12
Status: Downloaded newer image for ghcr.io/open-webui/open-webui:ollama
f1a223cc126e7a4d8dd310c630c4fab456a85552598c388cdc8d8cbc2e326764
ekzorchik@srv-s2404a:~/open-webui$
ekzorchik@srv-s2404a:~/open-webui$ cd ~/
ekzorchik@srv-s2404a:~$

Шаг №5: Проверяю, что docker контейнер оболочки open-webui работает:

ekzorchik@srv-s2404a:~$ docker ps
CONTAINER ID   IMAGE                                  COMMAND           CREATED              STATUS                                 PORTS                                         NAMES
f1a223cc126e   ghcr.io/open-webui/open-webui:ollama   "bash start.sh"   About a minute ago   Up About a minute (health: starting)   0.0.0.0:3000->8080/tcp, [::]:3000->8080/tcp   open-webui

Шаг №6: Открываю браузер (к примеру браузер Google Chrome) на рабочей системе с которой по SSH взаимодействую с VM под Proxmox 8.2.2, и в строке URL адреса указываю IP адрес и порт:

ekzorchik@srv-s2404a:~$ ip r | head -1 | awk {'print $9'}
172.33.33.1
ekzorchik@srv-s2404a:~$

т.е. http://172.33.33.1:3000

первое что вижу

нажимаю "Get Started"

Задаю администратора

• Name (Enter Your Full Name): указываю, к примеру ekzorchik
• Email (Enter Your Email): указываю, к примеру support@ekzorchik.com
• Password (Enter Your Password): указываю, к примеру 712mbddr@

и нажимаю "Create Admin Account"

вижу

закрываю крестиком это окно

Вот так выглядит развернутый open-webui Web-интерфейс через который я буду взаимодействовать с Ollama+llama3.1:8b

Но чтобы делать запросы, нужно подключить модель

Нажимаю в левом нижнем углу на администратора (ekzorchik) - Settings

(Basics) General - Language — выбираю Russian (Russian)

и интерфейс меняется.

и нажимаю "Сохранить"

и нажимаю "Сохранить"

(AI) Модели

перехожу в модель llama3.1:8b и снимаю галочки с "Встроенные инструменты"

и нажимаю "Сохранить и обновить"

Пробую использовать Web-интерфейс

пишу 2 в степени 3?

получаю ну очень медленно

если смотреть по нагрузке, то все выделенные ядра системе под 100%, а вот когда я использовал Nvidia Quadro P1000 то результат появлялся за приемлемое время, т.е. все же нужен GPU.

спросив в языковой модели есть ли у нее доступ к консоли текущей операционной системы?

а если задать вопрос вида: "выполни через встроенные функции Python команду uname -a дабы узнать информацию"

проверив зайдя в докер:

ekzorchik@srv-s2404a:~$ docker exec -it open-webui /bin/bash
root@f1a223cc126e:/app/backend# uname -a
Linux f1a223cc126e 6.8.0-139-generic #139-Ubuntu SMP PREEMPT_DYNAMIC Sat Aug  1 03:52:05 UTC 2026 x86_64 GNU/Linux
root@f1a223cc126e:/app/backend#

ну т.е. доступа к системе нет.

Короче, нужна GPU карта, а так у меня теперь есть практическая заметка как сделать доступ через Web к фреймворку ollama и взаимодействовать с добавленными в него языковыми моделями, буду продолжать изучение, это интересно.

Пока на этом все, с уважением автор блога ekzorchik.