// silicio, no la nube

IA† donde la quieras.
Si la quieres.

Cada modelo en SQLly se ejecuta en tu máquina, en tus términos - o en la nube si tú decide así. Nada se ejecuta hasta que actives el interruptor. Más abajo: qué se ejecuta exactamente y dónde, y lo fluida que debería sentirse con tu chip concreto. Nota de estado honesta: esta pila está desplegándose ahora - cada tarjeta a continuación está etiquetada con su estado real.

Todo llega desactivado de fábrica

Por defecto, todas las IA† funciones están desactivadas. Sin descargas en segundo plano, sin inferencia silenciosa, sin tokens que salgan de tu portátil. Activas función por función - y eliges en qué motor corre cada una. Venga, actívalo.

// los controles

Cuatro interruptores, cero sorpresas

Cada capacidad es independiente. Activa lo que vale la pena y deja el resto apagado.

⌨️
desactivado por defecto FIM · autocompletado ◐ en curso

Autocompletado en línea, en el dispositivo

Autocompletado fill-in-the-middle que se ejecuta por completo en el dispositivo mediante Qwen. Ve el código antes y después de tu cursor, de modo que las sugerencias encajen en su contexto en lugar de ir adivinando a ciegas hacia delante.

SELECT o.id, o.total▌
      ⟶ , o.created_at  FROM orders o WHERE …

Optimizado para baja latencia sobre un modelo de código dedicado, no un modelo de chat disfrazado de autocompletado.

Qwen2.5-Coder · local
💬
desactivado por defecto chat de agente ◐ en curso

Chat del agente - tú decides

Ejecutar el agente completamente en el dispositivo para total privacidad, o apúntalo a la nube cuando quieras máxima potencia. La misma interfaz, tú eliges en cada solicitud.

Las estimaciones de rendimiento en el dispositivo para cada chip de Apple Silicon están en la tabla de abajo - para que sepas lo que se siente «local» antes de que hagas commit.

en el dispositivo o en la nube · tú eliges
🧮
desactivado por defecto avanzado · en dispositivo ○ planificado

Base de datos vectorial local

Una base de datos vectorial local respalda una IA rápida† operaciones - búsqueda semántica del esquema, búsquedas por similitud y recuperación - sin una sola ida y vuelta de embeddings al servidor de nadie.

las incrustaciones permanecen en disco, en tu máquina
🗃️
desactivado por defecto avanzado · en dispositivo ◐ en curso

Tarjetas de entidad y caché inteligente

SQLly construye tarjetas de entidad locales para todos los DDL para que el modelo tenga un contexto denso y predigerido en el momento en que preguntas. Combínalo con invalidación avanzada de caché que solo actualiza lo que realmente cambió.

  • Tarjetas de entidad para cada objeto - tablas, vistas, procedimientos almacenados y funciones.
  • Invalidación quirúrgica - las entradas viejas mueren, y las rutas calientes siguen calientes.
// los números, en Mac

¿Qué tan rápido se sentirá tu ¿Sensación de Mac?

Estimaciones prácticas de velocidad de generación para modelos locales que se ejecutan en Apple Silicon. Los números son tokens generados/segundo - no es ingesta de prompts.

¿Por qué las cifras son solo de Mac? SQLly se ejecuta en macOS, Windows y Linux desde una única base de código, pero el cerdo trabaja a diario con un MacBook Pro M4 Max con 128GB de RAM, así que Apple Silicon es lo que él puede medir con honestidad. También probamos en Windows y Linux; comparte tus números reales de generación de tokens y los publicaremos aquí mismo.

El rendimiento real depende del runtime de inferencia, la cuantización, el tamaño del contexto, los ajustes, la presión de memoria unificada, la temperatura y el empaquetado del modelo. Tómalo como una estimación orientativa, no como una garantía.

Referencia en la nube (la «sensación rápida en la nube»): Artificial Analysis sitúa GPT-5.5 salida de API sin razonamiento alrededor de 58 tokens/seg, con una banda baja/sin razonamiento de aproximadamente 58–100 t/s. La velocidad percibida en una interfaz de chat varía según el enrutamiento, el streaming, el modo de razonamiento y la carga, así que esto es una orientación, no un objetivo de benchmark.

Modelo RAM real Notas
Qwen3-4B-Instruct-2507 Q4_K_M 8 GB mín / 16 GB rec Modelo pequeño predeterminado del asistente SQL local. Paquete de Ollama ~2.5GB.
gpt-oss-20b 16GB mín / 24GB recom Modelo de razonamiento más potente. OpenAI indica 21B de parámetros totales, 3.6B de parámetros activos por token y 128K de contexto.
Gemma 4 E2B 8 GB mín / 16 GB rec Pequeño modelo de la familia Google. Google lista la memoria de inferencia Q4 ~2.9GB; el paquete Ollama puede ser más grande.

Supuestos de RAM del modelo

Chip Qwen3-4B Q4_K_M8 GB mín / 16 GB rec gpt-oss-20b16GB mín / 24GB recom Gemma 4 E2B8 GB mín / 16 GB rec Cómo identificar el chip / bin
M118–285–1016–28Se muestra como Apple M1. El M1 base es el nivel de bajo ancho de banda.
M1 Pro38–5214–2432–48Se muestra como Apple M1 Pro.
M1 Max50–7024–3845–65Se muestra como Apple M1 Max.
M1 Ultra60–8532–5055–80Se muestra como Apple M1 Ultra. Normalmente Mac Studio.
M225–358–1422–34Se muestra como Apple M2.
M2 Pro40–5516–2835–50Se muestra como Apple M2 Pro.
M2 Max55–7528–4450–70Se muestra como Apple M2 Max.
M2 Ultra70–10038–6060–90Se muestra como Apple M2 Ultra. Normalmente Mac Studio / Mac Pro.
M328–409–1624–38Se muestra como Apple M3.
M3 Pro35–5014–2232–48Se muestra como Apple M3 Pro.
M3 Max, variante inferior55–7524–3850–70Apple M3 Max - CPU de 14 núcleos / GPU de 30 núcleos.
M3 Max, variante superior65–9032–4860–85Apple M3 Max - CPU de 16 núcleos / GPU de 40 núcleos.
M3 Ultra80–11545–7070–105Se muestra como Apple M3 Ultra. Normalmente Mac Studio.
M435–5010–1830–45Se muestra como Apple M4.
M4 Pro55–7022–3545–65Se muestra como Apple M4 Pro.
M4 Max, variante inferior70–9532–4860–85Apple M4 Max - CPU de 14 núcleos / GPU de 32 núcleos.
M4 Max, variante superior85–11540–6075–100Apple M4 Max - CPU de 16 núcleos / GPU de 40 núcleos.
M545–6014–2435–55Se muestra como Apple M5.
M5 Pro65–8526–4255–75Se muestra como Apple M5 Pro.
M5 Max, variante inferior80–10536–5570–95Apple M5 Max - CPU de 18 núcleos / GPU de 32 núcleos.
M5 Max, variante superior95–12545–7085–115Apple M5 Max - CPU de 18 núcleos / GPU de 40 núcleos.

tokens/segundo de generación estimados por chip de Apple Silicon

// elige tu luchador

Qué modelo, y cuándo

Valores predeterminados sensatos, una válvula de escape para los problemas difíciles y un canal aparte para el autocompletado. Esto es el lista prevista por defecto - llega junto con la integración de tiempo de ejecución local mencionada arriba.

⚡
predeterminado · rápido

Qwen3-4B - el predeterminado

Pequeño, rápido y suficientemente bueno para la búsqueda de esquemas y la redacción de SQL. Funciona razonablemente de M1 a M5. Está previsto que sea el valor predeterminado de fábrica.

Qwen3-4B-Instruct-2507 Q4_K_M
🧠
avanzado · razonamiento local

gpt-oss-20b - el peso pesado

El modelo opcional de “mejor razonamiento local”: generación de SQL más difícil, razonamiento complejo de esquemas, explicación de procedimientos almacenados, depuración en varios pasos, revisión de código y reescrituras de consultas. Más lento y con más hambre de RAM.

gpt-oss-20b
🔷
equilibrado · familia Google

Gemma 4 E2B - la alternativa

Para cuando quieras soporte de la familia Google, alineación con su ecosistema multimodal y una opción de razonamiento más ligera en la gama media.

Gemma 4 E2B
⌨️
mantener el autocompletado separado

FIM se mantiene en su propio carril

Hacer no redactar sugerencias en línea con un modelo de chat/razonamiento. El autocompletado usa un modelo FIM/código dedicado, de latencia mucho más baja.

Qwen2.5-Coder-1.5B Base
Qwen2.5-Coder-3B Base
🎚️
modo de rendimiento ○ planificado

O simplemente elige un ambiente

¿No quieres pensar en nombres de modelos? Elige un modo y SQLly se encarga del resto:

Fast      → Qwen3-4B
Balanced  → Gemma 4 E2B
Advanced  → gpt-oss-20b
Cloud     → GPT-5.5 or other hosted model

El instalador muestra el tamaño de descarga, la RAM requerida y una estimación en tiempo real para tu el chip antes de que nada llegue al disco.

// muestra tu trabajo

Fuentes y referencias

Estas estimaciones combinan las especificaciones publicadas del modelo y los tamaños de los paquetes con supuestos prácticos de escalamiento de ancho de banda de memoria en Apple Silicon.

Referencias útiles

// tu portátil, tus reglas

Lleva la inteligencia a casa del cerdo

Apagado por defecto. Encendido por elección. En tu dispositivo por diseño. La única IA† que pide permiso primero.

⬇ Descarga SQLly - es gratis
† «IA» es una marca registrada de gente a la que le da pereza decir aprendizaje automático.