Nicht alle KI-Modelle (LLM) kann ich unter Linux auf meiner Hardware nutzen? Die Frage stellt man sich öfters – manche haben so gut wie keine Voraussetzungen, andere brauchen wieder eine starke Grafikkarte von NVIDIA, …
llmfit ist eine freie Software, die Ihnen zeigt, welche KI-Modelle auf Ihrer Hardware laufen.
llmfit installieren
Sie installieren diese Software auf dem Terminal mit dem einfachen Befehl als root:
curl -fsSL https://llmfit.axjns.dev/install.sh | sh
llmfit nutzen
Nach der Installation starten Sie die Software als normaler Benutzer am Terminal mit dem Befehl:
llmfit

Die Software untersucht Ihr System (RAM, Grafikkarte, CPU, Festplattengeschwindigkeit, …) und zeigt anschließend die Ergebnisse zu den Sprachmodellen.
Die Navigation dürfte Vim-Freunde freuen – Navigation mit j, k, /, Esc, PgUp, PgDn, g,G.Aber – Sie können auch die Maus zum Klicken und scrollen nutzen. Sie können einfach in das Feld „Search“ klicken und nach Begriffen suchen, nach Herstellern, …

Wichtig ist natürlich die Spalte „Score„, einfacher für Benutzer, die sich weniger leicht tuen – die Spalte „Fit„. Eine geöffnete Spalte schließen Sie einfach mit Esc.

Noch keine Reaktion