Auf dieser Seite
Du willst einen KI-Assistenten auf deinem Linux-Rechner. Und deine Entwürfe, Screenshots und Fragen sollen auf diesem Rechner bleiben. Für jede Art von KI erst einen eigenen Server aufzusetzen, sollte nicht der erste Schritt sein.
OGAD (Off Grid AI Desktop) führt Text, Bilderkennung, Bildgenerierung und Sprache lokal unter Linux aus. Installiere die App und lade die Modelle, die du brauchst. Danach nutzt du diese lokalen Modelle ohne Konto und ohne Internetverbindung. Wähle für diesen Ablauf lokale Modelle; verbundene Dienste haben ihre eigenen Netzwerkanforderungen.
Nimm 0.0.54 stable für die Kern-App oder 0.0.55-beta.114 preview für Pro-Capture, Replay, Clipboard und Vault unter Linux. Unterstützt wird Ubuntu 24.04 oder neuer auf x64. Aktuelle Downloads · Release Notes.

Was möchtest du mit Off Grid AI machen?
Gibt es eine Funktion oder einen Anwendungsfall, den wir unterstützen sollen? Sag uns, was du vorhast und welches Gerät du nutzt.
Schreib an [email protected], tritt unserer Slack-Community bei oder sprich mit uns auf Reddit.
Was kannst du mit lokaler KI unter Linux machen?
Mit einer Desktop-App kannst du Texte bearbeiten, Fragen zu einem Bild stellen, ein Bild erzeugen und Sprache nutzen. Jede Aufgabe braucht ein passendes Modell. Ein geladenes Chat-Modell bringt nicht automatisch einen Bildgenerator oder eine Stimme mit.
| Deine Aufgabe | Was du brauchst | Ein nützliches erstes Ergebnis |
|---|---|---|
| Eine grobe Notiz umschreiben | Ein lokales Textmodell | Ein klarerer Absatz zum Bearbeiten |
| Einen Screenshot verstehen | Ein lokales Vision-Modell | Eine Erklärung der sichtbaren Informationen |
| Eine Illustration erstellen | Ein lokales Bildmodell | Ein Bildentwurf nach deiner Beschreibung |
| Eine Frage einsprechen | Ein lokales Transkriptionsmodell | Deine Worte im Chat-Eingabefeld |
| Eine Antwort anhören | Ein lokales Sprachmodell und eine vorbereitete Stimme | Gesprochene Wiedergabe einer kurzen Antwort |
Angenommen, du bereitest ein kurzes Projekt-Update vor. Füge deine groben Notizen in den Chat ein und bitte um eine Zusammenfassung. Hänge einen Screenshot an, wenn ein sichtbarer Fehler erklärt werden muss. Bitte um eine einfache Illustration für das Update. Das sind getrennte Aufgaben, aber du erledigst sie in derselben App mit lokalen Modellen.
Das Ergebnis prüfst du trotzdem. Ein Modell kann einen Screenshot falsch lesen, eine wichtige Einschränkung weglassen oder ein Detail erfinden. Lokale Verarbeitung ändert, wo die Arbeit passiert; sie ersetzt nicht das Prüfen.
Was brauchst du vorher?
Nutze das veröffentlichte x64-AppImage oder amd64-.deb für Ubuntu 24.04 oder neuer. Ein Linux-ARM-Paket gibt es nicht. Geh nicht davon aus, dass jede Distribution unterstützt wird, nur weil sie ein AppImage starten kann.
Prüfe die Paketgröße auf der Release-Seite. Modelle sind zusätzliche Downloads. Plane Platz für die App, die Modelle und ihre Arbeitsdateien ein. Die Downloadgröße eines Modells ist nicht der RAM oder GPU-Speicher, den es zum Laufen braucht.
Für die ersten Downloads brauchst du Internet. Eine NVIDIA-GPU ist optional. Beginne mit der normalen Einrichtung der App, bevor du GPU-Komponenten hinzufügst. Für die installierte App brauchst du weder Docker noch ein CUDA-Entwickler-Toolkit. Diese Werkzeuge stehen in der Anleitung zum Bauen aus dem Quellcode, und das ist eine andere Aufgabe. Installationsdokumentation.
Wie bekommst du deine erste nützliche Antwort?
1. Die Linux-App installieren
Öffne die Downloads und wähle das stabile oder das Preview-Paket für Linux. Installiere die .deb mit dem Paketinstaller deines Systems, oder erlaube dem AppImage, als Programm zu laufen, und öffne es. Merke dir die Version, wenn du Bedienelemente mit älteren Anleitungen vergleichst.
2. Lokale Modelle einrichten
Öffne OGAD und folge der Einrichtung. Unter Settings → Setup & health findest du ebenfalls Einrichtungs- und Komponenteninformationen. Sieh dir die vorgeschlagenen Downloads an und wähle Configure. Lass die nötigen Downloads fertig laufen, bevor du die Verbindung trennst.
Nimm ein Modell, das zu deinem verfügbaren Speicher passt. Mit einem kleineren lokalen Modell lässt sich der ganze Ablauf leichter prüfen. Ein größeres kannst du ausprobieren, sobald die Grundlage funktioniert.
3. Eine echte, überschaubare Aufgabe geben
Öffne Chat und nutze ein geladenes lokales Textmodell. Füge eine kurze Notiz ein, zum Beispiel:
Der Desktop-Prototyp ist fertig. Den Export unter Linux müssen wir noch testen. Priya prüft die Beschriftungen am Donnerstag. Noch kein Veröffentlichungsdatum versprechen.
Dann frag:
Mach daraus ein Projekt-Update mit drei Stichpunkten. Behalte das offene Problem und die zuständige Person. Füge keine Fakten und kein Veröffentlichungsdatum hinzu.
Prüfe, ob die Antwort den Linux-Test, die Zuständige und die Unsicherheit beibehält. Ändere den Prompt, wenn du einen anderen Ton willst. Das ist ein nützlicherer erster Test, als ein Modell zu fragen, ob es funktioniert.
4. Die Aufgabe offline wiederholen
Sobald das Modell geladen ist und geantwortet hat, trenne die Netzwerkverbindung und sende eine weitere kurze lokale Anfrage. Du solltest weiterhin eine Antwort bekommen. Lass bei diesem Test Websuche, Remote-Modelle und verbundene Tools weg; das sind getrennte Abläufe.
Wie passen Bilder und Sprache in dieselbe App?
Für die Bildgenerierung wählst du zuerst ein lokales Bildmodell und lädst es herunter. Fang mit einem einfachen Motiv und einer moderaten Bildgröße an. Zum Beispiel: “Eine klare Illustration eines kleinen Kräutergartens drinnen, weiches Tageslicht, kein Text.” Prüfe das Ergebnis, bevor du die Bildgröße erhöhst oder Details hinzufügst.
Für die Spracheingabe bereitest du das Transkriptionsmodell vor und nutzt das Mikrofon im Chat. Prüfe die erkannten Worte, bevor du sie sendest. Die Transkription im Chat ist getrennt von Pro-Capture und Diktat. Die unterstützten Plattformen stehen in den Release Notes.
Für gesprochene Antworten öffnest du über den Settings-Button im Chat die Model settings. Wähle Voice, nimm eine lokale Stimme und warte, bis ihre Dateien bereit sind. Nutze Test voice, bevor du dich auf die Wiedergabe verlässt. Sprache hat eigene Modellressourcen; eine funktionierende Textantwort heißt noch nicht, dass die Stimme fertig eingerichtet ist.
Im Linux-Release-Prozess wurden lokale Audio-Transkription und eine erzeugte Sprach-WAV getestet. Auch die mitgelieferten Bild- und Sprach-Runtimes wurden geprüft. Das deckt den Kernumfang des Releases ab; es ist kein Leistungsversprechen für jeden Rechner. Build-Prüfungen des Releases.
Was, wenn ein Modell auf deinem Rechner nicht gut läuft?
| Was du siehst | Was du als Nächstes prüfst |
|---|---|
| Eine Anfrage will offline Dateien laden | Wieder verbinden und den nötigen Modell- oder Stimmen-Download abschließen |
| Ein großes Modell lädt nicht | Ein kleineres Modell probieren und andere speicherhungrige Arbeit schließen |
| Eine gewählte GPU-Engine scheint nicht aktiv | Das Modell neu laden und das tatsächliche Now-Backend prüfen |
| Sprachsteuerung ist da, aber stumm | Auf die Vorbereitung der Stimme warten, Test voice nutzen, dann die Audioausgabe prüfen |
| Eine Pro-Funktion fehlt | Build und Lizenz prüfen. Pro-Funktionen unter Linux brauchen eine unterstützte Preview; Funktionen unterscheiden sich je nach Plattform |
Mit einer NVIDIA-GPU bietet Settings → GPU performance ein optionales CUDA-Paket von etwa 5,88 GB. Installiere es, starte die App neu und prüfe dann das Backend einer echten Anfrage. Andere unterstützte Backends laufen auch ohne das Paket; was verfügbar ist, hängt vom Modelltyp ab. Sprache hat eigene Einstellungen.
Fang mit einer Aufgabe an, die du sowieso erledigen musst
Du musst nicht jedes Modell herunterladen, damit lokale KI nützlich wird. Schreib eine Notiz um, lass einen Screenshot erklären oder sprich eine Frage ein. Halte die erste Einrichtung klein, prüfe das Ergebnis und füge weitere Fähigkeiten hinzu, wenn du sie brauchst.
Für Linux herunterladen, ein lokales Modell einrichten und ihm eine Aufgabe aus deiner heutigen Arbeit geben.