AnleitungErste SchritteAndroid1 Min. Lesezeit

Auf dieser Seite
  1. Voraussetzungen
  2. Schritt 1: Off Grid AI installieren
  3. Schritt 2: Ein Modell herunterladen
  4. Schritt 3: Laden und chatten
  5. Hinweise für Android
  6. Getestete Geräte
  7. Weitere Anleitungen

Android einrichten

Führ ein lokales KI-Modell auf deinem Android-Smartphone aus: komplett offline, ohne Konto, ohne API-Schlüssel.

Voraussetzungen

  • Android 10 oder neuer
  • Mindestens 4 GB RAM (6 GB oder mehr für größere Modelle empfohlen)
  • Mindestens 3 GB freier Speicher
  • Internet nur für den ersten Download des Modells

Schritt 1: Off Grid AI installieren

Bei Google Play laden

Schritt 2: Ein Modell herunterladen

  1. Öffne Off Grid AI
  2. Tipp auf Models
  3. Wähl ein Modell. Qwen 3.5 0.8B oder Qwen 3.5 2B sind für die meisten Android-Geräte der beste Start
  4. Tipp auf Download

Der Download landet auf deinem Gerät. Nur für diesen Schritt brauchst du Internet.

Schritt 3: Laden und chatten

  1. Tipp neben deinem heruntergeladenen Modell auf Load
  2. Das Modell wird in den RAM geladen (5 bis 20 Sekunden, je nach Gerät)
  3. Tipp auf Chat und leg los

Hinweise für Android

Vulkan-Beschleunigung: Auf unterstützten Geräten nutzt Off Grid AI Vulkan für die Berechnung auf der GPU. Das verkürzt die Antwortzeit deutlich gegenüber reiner CPU-Nutzung. Unterstützt werden Geräte mit Snapdragon 8 Gen 2 und neuer, Dimensity 9000 und neuer sowie Exynos 2400.

Verhalten im Hintergrund: Android beendet den Modellprozess manchmal, wenn die App zu lange im Hintergrund ist. Lass Off Grid AI bei langen Unterhaltungen im Vordergrund oder schalt in den Einstellungen die Akkuoptimierung für die App aus.

Speicher: Modelle liegen im privaten Speicher der App. Sie tauchen nicht in deiner Galerie oder der Dateien-App auf, also löscht sie auch keine Aufräum-App aus Versehen.

Getestete Geräte

Gerät RAM Modelle, die laufen
Pixel 8 Pro 12 GB Llama 3.1 8B, Mistral 7B
Samsung S24 8 GB Llama 3.2 3B, Mistral 7B Q4
Pixel 7 8 GB Llama 3.2 3B, Phi-3 Mini
OnePlus 12 12 GB Llama 3.1 8B
Samsung A55 8 GB Phi-3 Mini, Gemma 2B

Weitere Anleitungen

HAT DAS GEHOLFEN?
NEUES VOM ENTWICKLER