IA† là où vous le voulez.
Si vous le voulez.
Chaque modèle dans SQLly fonctionne sur votre machine, selon vos conditions - ou dans le cloud si que vous vous le décidez. Rien ne se lance tant que vous n'avez pas actionné l'interrupteur. Ci-dessous : exactement ce qui s'exécute où, et la vitesse à laquelle votre processeur devrait réagir. Note de statut honnête : cette pile est déploiement en cours - chaque carte ci-dessous porte un badge indiquant son état réel.
Tout arrive désactivé par défaut
Par défaut, toutes les fonctionnalités d’IA† sont désactivées. Pas de téléchargements en arrière-plan, pas d'inférences silencieuses, aucun token ne quitte votre ordinateur portable. Vous activez chaque fonctionnalité individuellement - et vous choisissez le moteur sur lequel chacune fonctionne. Allez-y, activez-la.
Quatre interrupteurs, zéro surprise
Chaque fonctionnalité est indépendante. Activez ce qui en vaut la peine, laissez le reste éteint.
Autocomplétion en ligne, sur l'appareil
Autocomplétion fill-in-the-middle entièrement exécutée sur l'appareil par Qwen. Il voit le code avant et et après votre curseur, donc les suggestions s’insèrent dans le bon contexte au lieu de deviner aveuglément vers l’avant.
SELECT o.id, o.total▌ ⟶ , o.created_at FROM orders o WHERE …
Optimisé pour une faible latence sur un modèle de code dédié - pas un modèle de chat qui se prend pour un outil d’autocomplétion.
Qwen2.5-Coder · localChat d'agent - à vous de décider
Lancer l'agent entièrement sur l'appareil pour une confidentialité totale, ou pointez-le vers le cloud quand vous voulez la pleine puissance. Même interface, à vous de choisir requête par requête.
Les estimations de performances sur l'appareil pour chaque puce Apple Silicon sont dans le tableau ci-dessous - pour que vous sachiez ce que « local » donne vraiment avant que vous validiez.
sur appareil ou dans le cloud · selon votre choixBase de données vectorielle locale
Une base de données vectorielle locale soutient l’IA rapide† opérations - recherche sémantique dans le schéma, recherches de similarité et récupération - sans un seul aller-retour d'embedding vers le serveur de qui que ce soit.
les embeddings restent sur le disque, sur votre machineCartes d'entité et cache intelligent
Builds SQLly cartes d'entité locale pour tous les DDL pour que le modèle dispose d'un contexte dense et prémâché dès que vous posez la question. Associez cela à invalidations de cache avancées qui ne rafraîchit que ce qui a réellement changé.
- Cartes d'entité pour chaque objet - tables, vues, procédures stockées, fonctions.
- Invalidation chirurgicale - les entrées périmées meurent, les chemins chauds restent chauds.
À quelle vitesse votre Un air de Mac ?
Estimations pratiques de la vitesse de génération pour les modèles locaux fonctionnant sur Apple Silicon. Les chiffres sont jetons générés/sec - pas l’ingestion de prompt.
Pourquoi des chiffres uniquement pour Mac ? SQLly fonctionne sur macOS, Windows et Linux à partir d’une seule base de code - mais le cochon utilise quotidiennement un MacBook Pro M4 Max avec 128 Go de RAM, donc Apple Silicon est ce qu’il peut mesurer honnêtement. Nous testons également sur Windows et Linux ; partagez vos chiffres réels de génération de jetons et nous les publierons ici même.
Les performances réelles dépendent du runtime d'inférence, de la quantification, de la taille du contexte, des paramètres, de la pression sur la mémoire unifiée, de la thermique et du packaging du modèle. Considérez ces chiffres comme des ordres de grandeur honnêtes, pas comme des garanties.
Référence cloud (la « sensation cloud rapide ») : Artificial Analysis situe GPT-5.5 sortie d'API sans raisonnement d'environ 58 tokens/sec, avec une fourchette basse/sans raisonnement d'environ 58–100 t/s. La vitesse perçue dans une interface de chat varie selon le routage, le streaming, le mode de raisonnement et la charge - ceci est donc une référence de ressenti, pas un objectif de benchmark.
| Modèle | La RAM en pratique | Notes |
|---|---|---|
| Qwen3-4B-Instruct-2507 Q4_K_M | 8 Go min / 16 Go reco | Petit modèle d'assistant SQL local par défaut. Package Ollama ~2,5 Go. |
| gpt-oss-20b | 16 Go min / 24 Go reco | Modèle de raisonnement plus puissant. OpenAI liste 21B de paramètres totaux, 3,6B de paramètres actifs/token, contexte de 128K. |
| Gemma 4 E2B | 8 Go min / 16 Go reco | Petit modèle de la famille Google. Google indique ~2,9 Go de mémoire d'inférence en Q4 ; le package Ollama peut être plus volumineux. |
hypothèses de RAM du modèle
| Puce | Qwen3-4B Q4_K_M8 Go min / 16 Go reco | gpt-oss-20b16 Go min / 24 Go reco | Gemma 4 E2B8 Go min / 16 Go reco | Comment identifier la puce / le binaire |
|---|---|---|---|---|
| M1 | 18–28 | 5–10 | 16–28 | S'affiche comme Apple M1. Base M1 est le niveau à faible bande passante. |
| M1 Pro | 38–52 | 14–24 | 32–48 | S'affiche comme Apple M1 Pro. |
| M1 Max | 50–70 | 24–38 | 45–65 | S'affiche comme Apple M1 Max. |
| M1 Ultra | 60–85 | 32–50 | 55–80 | S'affiche comme Apple M1 Ultra. Généralement Mac Studio. |
| M2 | 25–35 | 8–14 | 22–34 | S'affiche comme Apple M2. |
| M2 Pro | 40–55 | 16–28 | 35–50 | S'affiche comme Apple M2 Pro. |
| M2 Max | 55–75 | 28–44 | 50–70 | S'affiche comme Apple M2 Max. |
| M2 Ultra | 70–100 | 38–60 | 60–90 | S'affiche comme Apple M2 Ultra. Généralement Mac Studio / Mac Pro. |
| M3 | 28–40 | 9–16 | 24–38 | S'affiche comme Apple M3. |
| M3 Pro | 35–50 | 14–22 | 32–48 | S'affiche comme Apple M3 Pro. |
| M3 Max, variante inférieure | 55–75 | 24–38 | 50–70 | Apple M3 Max - CPU 14 cœurs / GPU 30 cœurs. |
| M3 Max, variante supérieure | 65–90 | 32–48 | 60–85 | Apple M3 Max - CPU 16 cœurs / GPU 40 cœurs. |
| M3 Ultra | 80–115 | 45–70 | 70–105 | S'affiche comme Apple M3 Ultra. Généralement Mac Studio. |
| M4 | 35–50 | 10–18 | 30–45 | S'affiche comme Apple M4. |
| M4 Pro | 55–70 | 22–35 | 45–65 | S'affiche comme Apple M4 Pro. |
| M4 Max, variante inférieure | 70–95 | 32–48 | 60–85 | Apple M4 Max - CPU 14 cœurs / GPU 32 cœurs. |
| M4 Max, variante supérieure | 85–115 | 40–60 | 75–100 | Apple M4 Max - CPU 16 cœurs / GPU 40 cœurs. |
| M5 | 45–60 | 14–24 | 35–55 | S'affiche comme Apple M5. |
| M5 Pro | 65–85 | 26–42 | 55–75 | S'affiche comme Apple M5 Pro. |
| M5 Max, variante inférieure | 80–105 | 36–55 | 70–95 | Apple M5 Max - CPU 18 cœurs / GPU 32 cœurs. |
| M5 Max, variante supérieure | 95–125 | 45–70 | 85–115 | Apple M5 Max - CPU 18 cœurs / GPU 40 cœurs. |
estimation des jetons générés/sec par la puce Apple Silicon
Quel modèle, et quand
Des valeurs par défaut raisonnables, une échappatoire pour les problèmes difficiles et une voie à part pour l'autocomplétion. C'est le gamme par défaut prévue - il arrive en même temps que l'intégration du runtime local ci-dessus.
Qwen3-4B - par défaut
Petit, rapide et suffisamment bon pour la recherche de schéma et la rédaction de SQL. Raisonnable du M1 au M5. C'est le réglage par défaut prévu.
Qwen3-4B-Instruct-2507 Q4_K_M
gpt-oss-20b - le gros calibre
Le modèle optionnel « meilleur raisonnement local » : génération de SQL plus complexe, raisonnement sophistiqué sur le schéma, explication des procédures stockées, débogage en plusieurs étapes, revue de code, réécritures de requêtes. Plus lent, plus gourmand en RAM.
gpt-oss-20b
Gemma 4 E2B - l'alternative
Pour ceux qui veulent le soutien de la famille Google, l'alignement sur l'écosystème multimodal et une option de raisonnement compacte au milieu de la gamme.
Gemma 4 E2B
FIM reste dans son rôle
Faire pas esquisser des complétions en ligne avec un modèle de chat/de raisonnement. L'autocomplétion tourne sur un modèle FIM/code dédié - bien moins de latence.
Qwen2.5-Coder-1.5B Base Qwen2.5-Coder-3B Base
Ou choisissez simplement une ambiance
Pas envie de vous embêter avec les noms de modèles ? Choisissez un mode et SQLly s’occupe du reste :
Fast → Qwen3-4B Balanced → Gemma 4 E2B Advanced → gpt-oss-20b Cloud → GPT-5.5 or other hosted model
L’installateur montre la taille du téléchargement, la RAM requise et une estimation en temps réel pour votre pastille avant que quoi que ce soit n'atterrisse sur le disque.
Sources et références
Ces estimations combinent les spécifications de modèles publiées et les tailles de paquet avec des hypothèses pratiques de mise à l’échelle de la bande passante mémoire d’Apple Silicon.
Références utiles
- Qwen3-4B-Instruct-2507 Q4_K_M sur Ollama - ollama.com/library/qwen3:4b-instruct-2507-q4_K_M
- Spécifications du modèle OpenAI gpt-oss - openai.com/index/introducing-gpt-oss
- Exigences mémoire du modèle Gemma 4 - ai.google.dev/gemma/docs/core
- Listes de paquets Gemma 4 Ollama - ollama.com/library/gemma4
- Annonce GPT-5.5 OpenAI - openai.com/index/introducing-gpt-5-5
- Référence de vitesse de sortie de GPT-5.5 sans raisonnement - artificialanalysis.ai/models/gpt-5-5-non-reasoning
Ramenez l’intelligence chez le cochon
Désactivé par défaut. Activé par choix. Sur l'appareil par conception. La seule IA† qui demande d'abord la permission.
⬇ Téléchargez SQLly - c'est gratuit