{"id":15380,"date":"2024-05-18T08:47:04","date_gmt":"2024-05-18T06:47:04","guid":{"rendered":"https:\/\/linux-bibel.at\/?p=15380"},"modified":"2024-05-18T08:51:14","modified_gmt":"2024-05-18T06:51:14","slug":"ollama-mit-gui-unter-linux-nutzen","status":"publish","type":"post","link":"https:\/\/linux-bibel.at\/index.php\/2024\/05\/18\/ollama-mit-gui-unter-linux-nutzen\/","title":{"rendered":"Open WebUI – Ollama mit GUI unter Linux nutzen"},"content":{"rendered":"\n

Ollama<\/a> l\u00e4sst sich auch mit grafischer Oberfl\u00e4che unter Linux nutzen, die Software nennt sich Open WebUI. Zur Installation nutzen Sie Docker<\/a> oder Podman<\/a>. Ollama installieren Sie wie am ersten Link und lassen es via Systemd laufen.<\/p>\n\n\n\n

Wie Sie Docker nutzen, lesen Sie unter oben genannten Link, Podman nutzen Sie auf dieselbe Art – Podman wird jedoch weiterentwickelt, w\u00e4hrend Docker (bis auf die Docker Registry<\/em>) so gesehen tot ist.<\/p>\n\n\n\n

Wollen wir erst einmal das WebUI-Image herunterladen:<\/p>\n\n\n\n

Docker:<\/mark><\/p>\n\n\n\n

docker pull ghcr.io\/open-webui<\/code><\/pre>\n\n\n\n
Podman:<\/mark><\/p>\n\n\n\n
podman pull ghcr.io\/open-webui<\/code><\/pre>\n\n\n\n
Jetzt k\u00f6nnen wir Open WebUI starten:<\/p>\n\n\n\n
podman run -d --network=host -e OLLAMA_BASE_URL=http:\/\/127.0.0.1:11434 -v open-webui:\/app\/backend\/data --name\nopen-webui --restart always open-webui<\/code><\/pre>\n\n\n\n
docker run -d --network=host -e OLLAMA_BASE_URL=http:\/\/127.0.0.1:11434 -v open-webui:\/app\/backend\/data --name\nopen-webui --restart always open-webui<\/code><\/pre>\n\n\n\n
Mit einem:<\/p>\n\n\n\n
docker ps -a\npodman ps -a<\/code><\/pre>\n\n\n\n
l\u00e4sst sich pr\u00fcfen, ob die Software l\u00e4uft:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Jetzt \u00f6ffnen Sie den Webbrowser mit der Adresse 127.0.0.1:8080<\/a>:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Sie klicken auf den Schalter „Sign up<\/strong>„, geben Ihre Mail-Adresse an und erstellen ein Passwort f\u00fcr den Admin-Account:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Schon finden Sie sich in Ihrer lokalen grafischen Oberfl\u00e4che f\u00fcr Ihre KI wieder. Oben mittig links klicken Sie auf den Pfeil „Select a model<\/strong>“ und w\u00e4hlen das bereits aktive llama2 und k\u00f6nnen schon los chatten:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
\u00dcber die Liste links \u2192 Modelfiles<\/em> k\u00f6nnen Sie weitere Sprachmodelle, Bildgeneratoren und so weiter und so fort installieren:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Bei meinem Test war die Seite allerdings gerade nicht erreichbar :). Die volle Dokumentation zur Software finden Sie unter Open WebUI<\/a>.<\/p>\n\n\n\n
Schlie\u00dfen Sie den Browser-Tab – beendet sich auch die laufende KI. M\u00f6chten Sie Open WebUI wieder los werden:<\/p>\n\n\n\n
podman stop open-webui\ndocker stop open-webui<\/code><\/pre>\n\n\n\n
podman rm -f open-webui\ndocker rm -f open-webui<\/code><\/pre>\n\n\n\n
podman volume rm open-webui\ndocker volume rm open-webui<\/code><\/pre>\n
\r\n    
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    6    <\/span>\r\n<\/div>
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    <\/span>\r\n<\/div><\/div>","protected":false},"excerpt":{"rendered":"
Ollama l\u00e4sst sich auch mit grafischer Oberfl\u00e4che unter Linux nutzen, die Software nennt sich Open WebUI. Zur Installation nutzen Sie Docker oder Podman. Ollama installieren Sie wie am ersten Link und lassen es via Systemd laufen. Wie Sie Docker nutzen, lesen Sie unter oben genannten Link, Podman nutzen Sie auf dieselbe Art – Podman wird […]<\/p>\n","protected":false},"author":1,"featured_media":15384,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[628],"tags":[698],"class_list":["post-15380","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","tag-kuenstliche-intelligenz"],"_links":{"self":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/comments?post=15380"}],"version-history":[{"count":2,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380\/revisions"}],"predecessor-version":[{"id":15388,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/15380\/revisions\/15388"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media\/15384"}],"wp:attachment":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media?parent=15380"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/categories?post=15380"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/tags?post=15380"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}