IA† donde la quieras.
Si la quieres.
Cada modelo en SQLly se ejecuta en tu máquina, en tus términos - o en la nube si tú decide así. Nada se ejecuta hasta que actives el interruptor. Más abajo: qué se ejecuta exactamente y dónde, y lo fluida que debería sentirse con tu chip concreto. Nota de estado honesta: esta pila está desplegándose ahora - cada tarjeta a continuación está etiquetada con su estado real.
Todo llega desactivado de fábrica
Por defecto, todas las IA† funciones están desactivadas. Sin descargas en segundo plano, sin inferencia silenciosa, sin tokens que salgan de tu portátil. Activas función por función - y eliges en qué motor corre cada una. Venga, actívalo.
Cuatro interruptores, cero sorpresas
Cada capacidad es independiente. Activa lo que vale la pena y deja el resto apagado.
Autocompletado en línea, en el dispositivo
Autocompletado fill-in-the-middle que se ejecuta por completo en el dispositivo mediante Qwen. Ve el código antes y después de tu cursor, de modo que las sugerencias encajen en su contexto en lugar de ir adivinando a ciegas hacia delante.
SELECT o.id, o.total▌ ⟶ , o.created_at FROM orders o WHERE …
Optimizado para baja latencia sobre un modelo de código dedicado, no un modelo de chat disfrazado de autocompletado.
Qwen2.5-Coder · localChat del agente - tú decides
Ejecutar el agente completamente en el dispositivo para total privacidad, o apúntalo a la nube cuando quieras máxima potencia. La misma interfaz, tú eliges en cada solicitud.
Las estimaciones de rendimiento en el dispositivo para cada chip de Apple Silicon están en la tabla de abajo - para que sepas lo que se siente «local» antes de que hagas commit.
en el dispositivo o en la nube · tú eligesBase de datos vectorial local
Una base de datos vectorial local respalda una IA rápida† operaciones - búsqueda semántica del esquema, búsquedas por similitud y recuperación - sin una sola ida y vuelta de embeddings al servidor de nadie.
las incrustaciones permanecen en disco, en tu máquinaTarjetas de entidad y caché inteligente
SQLly construye tarjetas de entidad locales para todos los DDL para que el modelo tenga un contexto denso y predigerido en el momento en que preguntas. Combínalo con invalidación avanzada de caché que solo actualiza lo que realmente cambió.
- Tarjetas de entidad para cada objeto - tablas, vistas, procedimientos almacenados y funciones.
- Invalidación quirúrgica - las entradas viejas mueren, y las rutas calientes siguen calientes.
¿Qué tan rápido se sentirá tu ¿Sensación de Mac?
Estimaciones prácticas de velocidad de generación para modelos locales que se ejecutan en Apple Silicon. Los números son tokens generados/segundo - no es ingesta de prompts.
¿Por qué las cifras son solo de Mac? SQLly se ejecuta en macOS, Windows y Linux desde una única base de código, pero el cerdo trabaja a diario con un MacBook Pro M4 Max con 128GB de RAM, así que Apple Silicon es lo que él puede medir con honestidad. También probamos en Windows y Linux; comparte tus números reales de generación de tokens y los publicaremos aquí mismo.
El rendimiento real depende del runtime de inferencia, la cuantización, el tamaño del contexto, los ajustes, la presión de memoria unificada, la temperatura y el empaquetado del modelo. Tómalo como una estimación orientativa, no como una garantía.
Referencia en la nube (la «sensación rápida en la nube»): Artificial Analysis sitúa GPT-5.5 salida de API sin razonamiento alrededor de 58 tokens/seg, con una banda baja/sin razonamiento de aproximadamente 58–100 t/s. La velocidad percibida en una interfaz de chat varía según el enrutamiento, el streaming, el modo de razonamiento y la carga, así que esto es una orientación, no un objetivo de benchmark.
| Modelo | RAM real | Notas |
|---|---|---|
| Qwen3-4B-Instruct-2507 Q4_K_M | 8 GB mín / 16 GB rec | Modelo pequeño predeterminado del asistente SQL local. Paquete de Ollama ~2.5GB. |
| gpt-oss-20b | 16GB mín / 24GB recom | Modelo de razonamiento más potente. OpenAI indica 21B de parámetros totales, 3.6B de parámetros activos por token y 128K de contexto. |
| Gemma 4 E2B | 8 GB mín / 16 GB rec | Pequeño modelo de la familia Google. Google lista la memoria de inferencia Q4 ~2.9GB; el paquete Ollama puede ser más grande. |
Supuestos de RAM del modelo
| Chip | Qwen3-4B Q4_K_M8 GB mín / 16 GB rec | gpt-oss-20b16GB mín / 24GB recom | Gemma 4 E2B8 GB mín / 16 GB rec | Cómo identificar el chip / bin |
|---|---|---|---|---|
| M1 | 18–28 | 5–10 | 16–28 | Se muestra como Apple M1. El M1 base es el nivel de bajo ancho de banda. |
| M1 Pro | 38–52 | 14–24 | 32–48 | Se muestra como Apple M1 Pro. |
| M1 Max | 50–70 | 24–38 | 45–65 | Se muestra como Apple M1 Max. |
| M1 Ultra | 60–85 | 32–50 | 55–80 | Se muestra como Apple M1 Ultra. Normalmente Mac Studio. |
| M2 | 25–35 | 8–14 | 22–34 | Se muestra como Apple M2. |
| M2 Pro | 40–55 | 16–28 | 35–50 | Se muestra como Apple M2 Pro. |
| M2 Max | 55–75 | 28–44 | 50–70 | Se muestra como Apple M2 Max. |
| M2 Ultra | 70–100 | 38–60 | 60–90 | Se muestra como Apple M2 Ultra. Normalmente Mac Studio / Mac Pro. |
| M3 | 28–40 | 9–16 | 24–38 | Se muestra como Apple M3. |
| M3 Pro | 35–50 | 14–22 | 32–48 | Se muestra como Apple M3 Pro. |
| M3 Max, variante inferior | 55–75 | 24–38 | 50–70 | Apple M3 Max - CPU de 14 núcleos / GPU de 30 núcleos. |
| M3 Max, variante superior | 65–90 | 32–48 | 60–85 | Apple M3 Max - CPU de 16 núcleos / GPU de 40 núcleos. |
| M3 Ultra | 80–115 | 45–70 | 70–105 | Se muestra como Apple M3 Ultra. Normalmente Mac Studio. |
| M4 | 35–50 | 10–18 | 30–45 | Se muestra como Apple M4. |
| M4 Pro | 55–70 | 22–35 | 45–65 | Se muestra como Apple M4 Pro. |
| M4 Max, variante inferior | 70–95 | 32–48 | 60–85 | Apple M4 Max - CPU de 14 núcleos / GPU de 32 núcleos. |
| M4 Max, variante superior | 85–115 | 40–60 | 75–100 | Apple M4 Max - CPU de 16 núcleos / GPU de 40 núcleos. |
| M5 | 45–60 | 14–24 | 35–55 | Se muestra como Apple M5. |
| M5 Pro | 65–85 | 26–42 | 55–75 | Se muestra como Apple M5 Pro. |
| M5 Max, variante inferior | 80–105 | 36–55 | 70–95 | Apple M5 Max - CPU de 18 núcleos / GPU de 32 núcleos. |
| M5 Max, variante superior | 95–125 | 45–70 | 85–115 | Apple M5 Max - CPU de 18 núcleos / GPU de 40 núcleos. |
tokens/segundo de generación estimados por chip de Apple Silicon
Qué modelo, y cuándo
Valores predeterminados sensatos, una válvula de escape para los problemas difíciles y un canal aparte para el autocompletado. Esto es el lista prevista por defecto - llega junto con la integración de tiempo de ejecución local mencionada arriba.
Qwen3-4B - el predeterminado
Pequeño, rápido y suficientemente bueno para la búsqueda de esquemas y la redacción de SQL. Funciona razonablemente de M1 a M5. Está previsto que sea el valor predeterminado de fábrica.
Qwen3-4B-Instruct-2507 Q4_K_M
gpt-oss-20b - el peso pesado
El modelo opcional de “mejor razonamiento local”: generación de SQL más difícil, razonamiento complejo de esquemas, explicación de procedimientos almacenados, depuración en varios pasos, revisión de código y reescrituras de consultas. Más lento y con más hambre de RAM.
gpt-oss-20b
Gemma 4 E2B - la alternativa
Para cuando quieras soporte de la familia Google, alineación con su ecosistema multimodal y una opción de razonamiento más ligera en la gama media.
Gemma 4 E2B
FIM se mantiene en su propio carril
Hacer no redactar sugerencias en línea con un modelo de chat/razonamiento. El autocompletado usa un modelo FIM/código dedicado, de latencia mucho más baja.
Qwen2.5-Coder-1.5B Base Qwen2.5-Coder-3B Base
O simplemente elige un ambiente
¿No quieres pensar en nombres de modelos? Elige un modo y SQLly se encarga del resto:
Fast → Qwen3-4B Balanced → Gemma 4 E2B Advanced → gpt-oss-20b Cloud → GPT-5.5 or other hosted model
El instalador muestra el tamaño de descarga, la RAM requerida y una estimación en tiempo real para tu el chip antes de que nada llegue al disco.
Fuentes y referencias
Estas estimaciones combinan las especificaciones publicadas del modelo y los tamaños de los paquetes con supuestos prácticos de escalamiento de ancho de banda de memoria en Apple Silicon.
Referencias útiles
- Qwen3-4B-Instruct-2507 Q4_K_M en Ollama - ollama.com/library/qwen3:4b-instruct-2507-q4_K_M
- Especificaciones del modelo OpenAI gpt-oss - openai.com/index/introducing-gpt-oss
- Requisitos de memoria del modelo Gemma 4 - ai.google.dev/gemma/docs/core
- Listados del paquete Gemma 4 Ollama - ollama.com/library/gemma4
- Anuncio de GPT-5.5 de OpenAI - openai.com/index/introducing-gpt-5-5
- Referencia de velocidad de salida de GPT-5.5 sin razonamiento - artificialanalysis.ai/models/gpt-5-5-non-reasoning
Lleva la inteligencia a casa del cerdo
Apagado por defecto. Encendido por elección. En tu dispositivo por diseño. La única IA† que pide permiso primero.
⬇ Descarga SQLly - es gratis