{"id":17839,"date":"2025-01-18T09:52:09","date_gmt":"2025-01-18T08:52:09","guid":{"rendered":"https:\/\/linux-bibel.at\/?p=17839"},"modified":"2025-01-18T09:52:11","modified_gmt":"2025-01-18T08:52:11","slug":"jan-lokale-alternative-zu-chatgpt-gemini-microsoft-copilot-und-co-unter-linux","status":"publish","type":"post","link":"https:\/\/linux-bibel.at\/index.php\/2025\/01\/18\/jan-lokale-alternative-zu-chatgpt-gemini-microsoft-copilot-und-co-unter-linux\/","title":{"rendered":"Jan – lokale Alternative zu ChatGPT, Gemini, Microsoft Copilot und Co. unter Linux"},"content":{"rendered":"\n

K\u00fcnstliche Intelligenz – kurz einfach KI ist so gut wie \u00fcberall im Gespr\u00e4ch, nur will nicht jeder seine Daten preisgeben. Jan ist eine freie Alternative – und, Jan l\u00e4uft lokal, braucht keine Anbindung zum Internet, keine Anmeldung, … Eine bessere Grafikkarte ist bei lokalen Sprachmodellen vom Vorteil, aber nicht unbedingt n\u00f6tig, ein halbwegs aktueller Rechner w\u00e4re nat\u00fcrlich gut.<\/p>\n\n\n\n

Jan installieren<\/h3>\n\n\n\n

Sie finden Jan auf GitHub<\/a> zum Download – hier finden Sie ein DEB-Paket f\u00fcr Debian, Ubuntu und darauf basierende Linux-Distributionen, sowie auch ein Appimage<\/a>. Das heruntergeladene DEB-Paket installieren Sie wie gehabt ganz einfach per Mausklick oder als root auf dem Terminal:<\/p>\n\n\n\n

apt install \/home\/username\/Downloads\/jan-beta-linux-...beta.deb<\/code><\/pre>\n\n\n\n
Oder, wenn Sie sich bereits im Verzeichnis mit der Datei auf dem Terminal befinden, etwas abgek\u00fcrzt:<\/p>\n\n\n\n
apt install .\/jan-beta-...<\/code><\/pre>\n\n\n\n
Wie einfach Sie das Appimage unter allen anderen Linux-Distributionen nutzen, lesen Sie am Link oben.<\/p>\n\n\n\n
Jan nutzen<\/h3>\n\n\n\n
Sie finden Jan nach der Installation im Anwendungsmen\u00fc unter der Kategorie Dienstprogramme (KDE<\/em>) oder unter Zubeh\u00f6r (andere Desktop-Umgebungen<\/em>), das Appimage starten Sie einfach per Mausklick:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Bisher haben Sie eigentlich nur die eigentliche Software heruntergeladen und installiert, jetzt geht es zur Auswahl des eigentlichen Sprachmodells. Hier kann Jan solche nutzen, die nur lokal laufen (on device modells<\/em>) und auch solche in der Cloud – also etwa ChatGPT und Co. F\u00fcr entsprechende Cloud-Modelle ben\u00f6tigen Sie nat\u00fcrlich einen Account – daf\u00fcr interessieren wir uns nat\u00fcrlich nicht, wir wollen lokale Modelle nutzen – klicken Sie neben „On-device Models<\/em>“ auf „See All<\/strong>„:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Die Liste der Sprachmodelle ist schon recht gro\u00df, neben der Bezeichnung finden Sie rechts auch die Download-Gr\u00f6\u00dfe und den Schalter f\u00fcr den Download. Der Zusatz „Slow on your device<\/em>“ zeigt Ihnen, wahrscheinlich fehlt es an der Hardware (Grafikkarte<\/em>). Gr\u00f6\u00dfere Sprachmodelle haben nat\u00fcrlich auch mehr Wissen in der Datenbank – eigentlich auch verst\u00e4ndlich. Etwas mehr Informationen \u00fcber ein Modell erhalten Sie, indem Sie dessen Namen anklicken:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Ein Klick auf den Schalter „Download<\/strong>“ und den Rest der Installation \u00fcbernimmt Jan, Sie k\u00f6nnen nat\u00fcrlich auch mehrere Sprachmodelle installieren und nutzen, installierte wieder \u00fcber Bord werfen.<\/p>\n\n\n\n
Haben Sie eines oder mehrere Modelle heruntergeladen, oder eines in der Cloud zur Nutzung gew\u00e4hlt, klicken Sie links oben auf den Schalter mit dem Chat-Symbol:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Haben Sie mehrere Modelle installiert, l\u00e4sst sich im Eingabefeld das gew\u00fcnschte ausw\u00e4hlen. Nutzen Sie ein Cloud-Modell, l\u00e4sst sich dieses in den Einstellungen links unten (der Schalter mit dem Zahnrad<\/em>) konfigurieren – etwa der API-Key eingeben:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Je nach Hardware kommen nach eingegebenen Fragen (lokales Modell<\/em>) dann entsprechend schnell die Antworten. Ich habe am Testrechner 16 GB RAM und 16 Kerne und eine AMD-Standard-Grafikkarte – mitlesen kann man bei einer solchen Konfiguration fast nicht mehr, also ansprechend schnell:<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Hin und wieder sollten Sie unter den genutzten Modellen nat\u00fcrlich auch nachsehen, ob es Aktualisierungen zum Download gibt.<\/p>\n
\r\n    
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    12    <\/span>\r\n<\/div>
\r\n    \r\n                            \"Gef\u00e4llt\r\n            <\/a>\r\n    <\/span>\r\n<\/div><\/div>","protected":false},"excerpt":{"rendered":"
K\u00fcnstliche Intelligenz – kurz einfach KI ist so gut wie \u00fcberall im Gespr\u00e4ch, nur will nicht jeder seine Daten preisgeben. Jan ist eine freie Alternative – und, Jan l\u00e4uft lokal, braucht keine Anbindung zum Internet, keine Anmeldung, … Eine bessere Grafikkarte ist bei lokalen Sprachmodellen vom Vorteil, aber nicht unbedingt n\u00f6tig, ein halbwegs aktueller Rechner […]<\/p>\n","protected":false},"author":1,"featured_media":17845,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[628],"tags":[698],"class_list":["post-17839","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","tag-kuenstliche-intelligenz"],"_links":{"self":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/17839","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/comments?post=17839"}],"version-history":[{"count":1,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/17839\/revisions"}],"predecessor-version":[{"id":17846,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/posts\/17839\/revisions\/17846"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media\/17845"}],"wp:attachment":[{"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/media?parent=17839"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/categories?post=17839"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/linux-bibel.at\/index.php\/wp-json\/wp\/v2\/tags?post=17839"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}