{"id":15380,"date":"2024-05-18T08:47:04","date_gmt":"2024-05-18T06:47:04","guid":{"rendered":"https:\/\/linux-bibel.at\/?p=15380"},"modified":"2024-05-18T08:51:14","modified_gmt":"2024-05-18T06:51:14","slug":"ollama-mit-gui-unter-linux-nutzen","status":"publish","type":"post","link":"https:\/\/linux-bibel.at\/index.php\/2024\/05\/18\/ollama-mit-gui-unter-linux-nutzen\/","title":{"rendered":"Open WebUI – Ollama mit GUI unter Linux nutzen"},"content":{"rendered":"\n

Ollama<\/a> lässt sich auch mit grafischer Oberfläche unter Linux<\/a> nutzen, die Software nennt sich Open WebUI. Zur Installation nutzen Sie Docker<\/a> oder Podman<\/a>. Ollama installieren Sie wie am ersten Link und lassen es via Systemd<\/a> laufen.<\/p>\n\n\n\n

Wie Sie Docker<\/a> nutzen, lesen Sie unter oben genannten Link, Podman nutzen Sie auf dieselbe Art – Podman wird jedoch weiterentwickelt, während Docker<\/a> (bis auf die Docker<\/a> Registry<\/em>) so gesehen tot ist.<\/p>\n\n\n\n

Wollen wir erst einmal das WebUI-Image herunterladen:<\/p>\n\n\n\n

Docker<\/a>:<\/mark><\/p>\n\n\n\n

docker pull ghcr.io\/open-webui<\/code><\/pre>\n\n\n\n
Podman:<\/mark><\/p>\n\n\n\n
podman pull ghcr.io\/open-webui<\/code><\/pre>\n\n\n\n
Jetzt können wir Open WebUI starten:<\/p>\n\n\n\n
podman run -d --network=host -e OLLAMA_BASE_URL=http:\/\/127.0.0.1:11434 -v open-webui:\/app\/backend\/data --name\nopen-webui --restart always open-webui<\/code><\/pre>\n\n\n\n
docker run -d --network=host -e OLLAMA_BASE_URL=http:\/\/127.0.0.1:11434 -v open-webui:\/app\/backend\/data --name\nopen-webui --restart always open-webui<\/code><\/pre>\n\n\n\n
Mit einem:<\/p>\n\n\n\n
docker ps -a\npodman ps -a<\/code><\/pre>\n\n\n\n
lässt sich prüfen, ob die Software läuft:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Jetzt öffnen Sie den Webbrowser mit der Adresse 127.0.0.1:8080<\/a>:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Sie klicken auf den Schalter „Sign up<\/strong>„, geben Ihre Mail-Adresse an und erstellen ein Passwort für den Admin-Account:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Schon finden Sie sich in Ihrer lokalen grafischen Oberfläche für Ihre KI<\/a> wieder. Oben mittig links klicken Sie auf den Pfeil „Select a model<\/strong>“ und wählen das bereits aktive llama2 und können schon los chatten:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Über die Liste links → Modelfiles<\/em> können Sie weitere Sprachmodelle, Bildgenerator<\/a>en und so weiter und so fort installieren:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Bei meinem Test war die Seite allerdings gerade nicht erreichbar :). Die volle Dokumentation zur Software finden Sie unter Open WebUI<\/a>.<\/p>\n\n\n\n
Schließen Sie den Browser-Tab – beendet sich auch die laufende KI<\/a>. Möchten Sie Open WebUI wieder los werden:<\/p>\n\n\n\n
podman stop open-webui\ndocker stop open-webui<\/code><\/pre>\n\n\n\n
podman rm -f open-webui\ndocker rm -f open-webui<\/code><\/pre>\n\n\n\n
podman volume rm open-webui\ndocker volume rm open-webui<\/code><\/pre>\n
\r\n    
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    4    <\/span>\r\n<\/div>
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    <\/span>\r\n<\/div><\/div>","protected":false},"excerpt":{"rendered":"
Ollama l\u00e4sst sich auch mit grafischer Oberfl\u00e4che unter Linux nutzen, die Software nennt sich Open WebUI. Zur Installation nutzen Sie Docker oder Podman. Ollama installieren Sie wie am ersten Link und lassen es via Systemd laufen. Wie Sie Docker nutzen, lesen Sie unter oben genannten Link, Podman nutzen Sie auf dieselbe Art – Podman wird […]<\/p>\n","protected":false},"author":1,"featured_media":15384,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[628],"tags":[698],"class_list":["post-15380","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","tag-kuenstliche-intelligenz"],"_links":{"self":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/comments?post=15380"}],"version-history":[{"count":2,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380\/revisions"}],"predecessor-version":[{"id":15388,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380\/revisions\/15388"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media\/15384"}],"wp:attachment":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media?parent=15380"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/categories?post=15380"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/tags?post=15380"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}