Sur cette page
L’A17 Pro de ton iPhone embarque un Neural Engine à 16 cœurs capable de 35 000 milliards d’opérations par seconde. Apple s’en sert pour le traitement des photos et la correction automatique. Toi, tu peux t’en servir pour faire tourner de vrais modèles d’IA en local : sans iCloud, sans abonnement, sans qu’aucune donnée quitte ton téléphone.
Off Grid est une application gratuite et open source qui fait tourner des modèles d’IA en local sur ton iPhone. Plus besoin d’internet après le premier téléchargement du modèle. Pas besoin d’identifiant Apple pour les fonctions d’IA. Aucune donnée envoyée nulle part. Ce guide explique comment l’installer, quels modèles marchent le mieux sur iOS et à quelle vitesse t’attendre.
| App Store | GitHub |
Ce qu’il te faut
Minimum : un iPhone avec 6 Go de RAM (iPhone 13 Pro et plus récents), puce A16 ou A17. Tu peux commencer avec des modèles de 80 Mo seulement.
Recommandé : iPhone 15 Pro ou plus récent (8 Go de RAM). Ça ouvre la porte aux modèles de 3 milliards de paramètres et plus, qui donnent des réponses vraiment utiles.
Ce que tu laisses par rapport à l’IA dans le cloud : les services comme ChatGPT et Claude font tourner des modèles de centaines de milliards de paramètres sur des GPU de datacenter. En local sur ton iPhone, les modèles sont plus petits (1 à 7 milliards de paramètres). Les réponses sont moins poussées pour les raisonnements complexes, mais pour le quotidien (questions rapides, résumés, brouillons, analyse de documents), c’est étonnamment efficace.
Ce que fait Off Grid
Off Grid n’est pas qu’un chatbot texte. Il réunit six capacités d’IA dans une seule application, toutes sur ton appareil :
Exemple de conversation (iPhone)
|
Génération d'images (iPhone)
|
Modèles disponibles (iPhone)
|
Documents de projet (iPhone)
|
Texte. Fais tourner Qwen 3, Llama 3.2, Gemma 3, Phi-4 ou n’importe quel modèle GGUF. Les réponses s’affichent au fil de l’eau, avec rendu Markdown. L’accélération GPU Metal sur tous les iPhone récents donne 15 à 25 tokens par seconde.
Images. Stable Diffusion en local via le pipeline Core ML d’Apple, accéléré par le Neural Engine. Les modèles incluent SD 1.5, SD 2.1 et SDXL optimisés pour iOS.
Vision. Pointe l’appareil photo sur quelque chose ou joins une image, et pose ta question. SmolVLM et Qwen3-VL répondent en 7 secondes environ sur iPhone 15 Pro.
Transcription vocale. Whisper en local. Maintiens pour enregistrer, la transcription s’affiche pendant que tu parles. Aucun son ne quitte ton téléphone.
Outils. Les modèles qui gèrent l’appel de fonctions utilisent des outils intégrés : recherche web, calculatrice, date et heure, infos sur l’appareil. Le modèle les enchaîne tout seul, avec une protection contre les boucles sans fin.
Analyse de documents. Joins des PDF, des fichiers de code, des CSV et plus à tes conversations. Sur iOS, PDFKit extrait le texte directement.
Quels modèles choisir
Le catalogue de modèles d’Off Grid filtre selon la RAM de ton appareil, donc tu ne télécharges jamais un modèle que ton iPhone ne peut pas faire tourner. Voici ce que ça donne sur du vrai matériel :
iPhone avec 6 Go de RAM (iPhone 13 Pro, 14 Pro) : reste sur des modèles de 1 à 2 milliards de paramètres. Qwen 3 0.6B ou SmolLM3 sont de bons points de départ. Compte 8 à 12 tokens par seconde. Bien pour des réponses courtes et des tâches simples.
iPhone avec 8 Go de RAM (iPhone 15 Pro, 16 Pro) : le meilleur compromis. Qwen 3 1.5B ou Phi-4 Mini donnent des réponses nettement meilleures. 15 à 25 tokens par seconde avec l’accélération Metal.
La quantification compte. Un modèle quantifié en Q4_K_M prend environ moitié moins de mémoire que la version complète, avec une perte de qualité minime. Sur mobile, choisis toujours Q4 ou Q5.
Si tu as déjà des modèles, tu peux importer tes propres fichiers .gguf depuis le stockage de l’appareil.
Comment l’IA locale marche sur ton iPhone
En local, les poids du modèle sont chargés dans la RAM de ton iPhone et le calcul se fait sur ton processeur. Aucun serveur. Une fois le modèle téléchargé depuis HuggingFace, chaque calcul a lieu sur ton appareil.
Off Grid utilise llama.cpp compilé pour Apple Silicon avec l’accélération GPU Metal. C’est le même moteur que la plupart des IA locales sur Mac. Il tourne directement sur le GPU de ton iPhone, bien plus vite que sur le seul CPU.
Pour les images, Off Grid utilise le pipeline Stable Diffusion Core ML d’Apple, sur le Neural Engine, pour une efficacité maximale. Le matériel qu’Apple utilise pour la photographie computationnelle génère maintenant tes images.
Résultat : tes conversations, tes documents, tes images ne touchent jamais le réseau. Vérifie-le en mode avion. Tout fonctionne.
La mémoire sur iOS
iOS ferme sans hésiter les applications qui prennent trop de mémoire. Un modèle qui tient en théorie dans la RAM peut quand même être coupé si iOS a besoin de mémoire ailleurs.
Off Grid vérifie la mémoire avant de charger. Il calcule la RAM vraiment nécessaire (taille du fichier x 1,5 pour les modèles texte) et la compare à la mémoire disponible. Sur les appareils avec 4 Go de RAM ou moins, l’accélération GPU est désactivée automatiquement pour éviter les plantages d’allocation Metal.
Si un modèle ne rentre pas, tu vois un avertissement clair au lieu d’une application qui se ferme sans prévenir.
L’astuce du cache KV qui triple la vitesse
C’est le plus gros gain de performance que la plupart des gens ratent. Le cache KV garde le contexte de ta conversation. Par défaut, il utilise du f16 (virgule flottante 16 bits). Off Grid te permet de passer en q4_0 (quantification 4 bits) dans les réglages.
Passer de f16 à q4_0 triple à peu près la vitesse, avec un impact minime sur la qualité pour la plupart des modèles. L’application te le propose après ta première génération.
Pourquoi l’IA en local plutôt que dans le cloud
L’IA locale sur ton iPhone supprime trois dépendances d’un coup.
Pas d’abonnement. L’IA dans le cloud coûte 20 $ par mois et plus. L’IA locale est gratuite après le téléchargement unique du modèle.
Pas d’internet. Les modèles locaux marchent dans l’avion, dans une cave, partout. Pas de connexion, pas de coupure.
Pas d’exposition des données. Ce que tu tapes dans une IA en ligne est stocké sur un serveur que tu ne contrôles pas. En local, tes questions de santé, tes documents juridiques, ton journal intime et tes notes de travail ne quittent jamais ton appareil. Off Grid est open source : pas besoin de croire les promesses de confidentialité de qui que ce soit, lis le code toi-même.
Comparé à Apple Intelligence
Apple Intelligence traite certaines tâches sur l’appareil et en envoie d’autres vers les serveurs Private Cloud Compute d’Apple. Elle se limite aux modèles d’Apple et reste enfermée dans son écosystème. Tu ne choisis pas le modèle, tu ne peux pas vérifier ce qui tourne en local ou dans le cloud, et tu ne peux pas l’utiliser sur Android.
Off Grid fait tout en local. Tu choisis le modèle. Tu vérifies le code. Il marche sur iOS, Android et macOS. Pas de jardin clos.
Pour commencer
- Installe Off Grid depuis l’App Store
- Ouvre le catalogue et choisis un modèle recommandé pour la RAM de ton appareil
- Télécharge le modèle en Wi-Fi (de 80 Mo à plus de 4 Go)
- Active le mode avion pour vérifier que tout tourne en local
- Commence à discuter
La première réponse est plus lente, le temps de charger le modèle en mémoire. Les suivantes vont plus vite. Dans les réglages, passe le cache KV en q4_0 pour la meilleure vitesse.
Off Grid tourne aussi en natif sur les Mac Apple Silicon grâce à Mac Catalyst. La même application, les mêmes modèles, la même confidentialité.
La suite
Les prochaines puces d’Apple devraient rendre l’IA locale encore plus rapide, et l’optimisation des modèles tire toujours plus de qualité des petites tailles. L’écart entre IA locale et IA dans le cloud se réduit chaque trimestre.
Off Grid évolue en continu, avec de nouvelles fonctions chaque semaine. Les dernières versions sont sur GitHub.
Dans un an, faire tourner une IA en local sur son téléphone ne sera plus une astuce de passionné. Ce sera la norme.
Exemple de conversation (iPhone)
Génération d'images (iPhone)
Modèles disponibles (iPhone)
Documents de projet (iPhone)