// silício, não a nuvem

IA† onde você quiser.
Se você quiser.

Cada modelo no SQLly roda na sua máquina, nos seus termos - ou na nuvem se que você decidir assim. Nada dispara até você acionar o interruptor. Abaixo: exatamente o que roda onde, e o quão rápido isso deve parecer no seu chip. Nota honesta de status: esta pilha está sendo lançada agora - cada cartão abaixo traz um selo com o status real.

Tudo vem desligado por padrão

Por padrão, todos os recursos de IA† os recursos estão desligados. Nada de downloads em segundo plano, nada de inferência em silêncio, nenhum token saindo do seu laptop. Você ativa recurso por recurso - e escolhe o mecanismo em que cada um roda. Vai, ativa aí.

// os controles

Quatro interruptores, zero surpresas

Cada capacidade é independente. Ative o que vale a pena, deixe o resto apagado.

⌨️
desativado por padrão FIM · preenchimento automático ◐ em andamento

Autocompletar inline, no dispositivo

Autocompletar do tipo "fill-in-the-middle" totalmente executado no dispositivo por Qwen. Ele vê o código antes e depois do seu cursor, então o autocomplete sai no contexto certo em vez de adivinhar às cegas o que vem depois.

SELECT o.id, o.total▌
      ⟶ , o.created_at  FROM orders o WHERE …

Ajustado para baixa latência em um modelo de código dedicado - e não um modelo de chat vestindo o chapéu de autocompletar.

Qwen2.5-Coder · local
💬
desativado por padrão chat do agente ◐ em andamento

Chat do agente - você decide

Execute o agente totalmente no dispositivo para privacidade total, ou aponte para a nuvem quando você quer máxima potência. Mesma interface, sua escolha por solicitação.

As estimativas de desempenho no dispositivo para cada chip Apple Silicon estão na tabela abaixo - assim você sabe como é «local» na prática antes que você faz commit.

no dispositivo ou na nuvem · conforme sua escolha
🧮
desativado por padrão avançado · no dispositivo ○ planejado

Banco de dados vetorial local

Um banco de dados vetorial local sustenta uma IA rápida† operações - busca semântica de esquema, buscas por similaridade e recuperação - sem uma única viagem de ida e volta de embeddings para o servidor de ninguém.

os embeddings permanecem no disco, na sua máquina
🗃️
desativado por padrão avançado · no dispositivo ◐ em andamento

Cartões de entidade e cache inteligente

SQLLY constrói cartões de entidade locais para todo o DDL então o modelo tem um contexto denso, pré-mastigado no instante em que você pergunta. Combine isso com invalidação avançada de cache que atualiza apenas o que realmente mudou.

  • Cartões de entidade para cada objeto - tabelas, views, procedimentos armazenados, funções.
  • Invalidação cirúrgica - entradas obsoletas morrem, caminhos quentes continuam quentes.
// os números, no Mac

Quão rápido vai seu Com cara de Mac?

Estimativas práticas de velocidade de geração para modelos locais rodando em Apple Silicon. Números são tokens gerados/segundo - não para ingestão de prompts.

Por que números apenas do Mac? O SQLly roda no macOS, Windows e Linux a partir de uma única base de código - mas o porco usa no dia a dia um MacBook Pro M4 Max com 128GB de RAM, então Apple Silicon é o que ele consegue medir de forma honesta. Testamos também no Windows e Linux; compartilhe seus números de geração de tokens do mundo real e nós iremos publicá-los bem aqui.

O desempenho real depende do runtime de inferência, da quantização, do tamanho do contexto, das configurações, da pressão na memória unificada, do aquecimento térmico e do empacotamento do modelo. Trate estes números como estimativas honestas, não como garantias.

Referência na nuvem (a “sensação de nuvem rápida”): O Artificial Analysis estima GPT-5.5 saída de API sem raciocínio em torno de 58 tokens/seg, com uma faixa baixa/sem raciocínio de aproximadamente 58–100 t/s. A velocidade percebida em uma interface de chat varia com roteamento, streaming, modo de raciocínio e carga - então esta é uma referência de sensação, não uma meta de benchmark.

Modelo RAM prática Notas
Qwen3-4B-Instruct-2507 Q4_K_M 8GB mín / 16GB rec Pequeno modelo padrão do assistente SQL local. Pacote Ollama ~2,5GB.
gpt-oss-20b 16GB mín. / 24GB rec. Modelo de raciocínio mais forte. OpenAI lista 21B parâmetros totais, 3,6B parâmetros ativos/token, contexto 128K.
Gemma 4 E2B 8GB mín / 16GB rec Pequeno modelo da família Google. Google lista memória de inferência Q4 ~2,9GB; pacote Ollama pode ser maior.

suposições de RAM do modelo

Chip Qwen3-4B Q4_K_M8GB mín / 16GB rec gpt-oss-20b16GB mín. / 24GB rec. Gemma 4 E2B8GB mín / 16GB rec Como identificar o chip / o binário
M118–285–1016–28Mostra como Apple M1. O Base M1 é a faixa de baixa largura de banda.
M1 Pro38–5214–2432–48Mostra como Apple M1 Pro.
M1 Max50–7024–3845–65Mostra como Apple M1 Max.
M1 Ultra60–8532–5055–80Mostra como Apple M1 Ultra. Geralmente Mac Studio.
M225–358–1422–34Mostra como Apple M2.
M2 Pro40–5516–2835–50Mostra como Apple M2 Pro.
M2 Max55–7528–4450–70Mostra como Apple M2 Max.
M2 Ultra70–10038–6060–90Mostra como Apple M2 Ultra. Geralmente Mac Studio / Mac Pro.
M328–409–1624–38Mostra como Apple M3.
M3 Pro35–5014–2232–48Mostra como Apple M3 Pro.
M3 Max, bin inferior55–7524–3850–70Apple M3 Max - CPU de 14 núcleos / GPU de 30 núcleos.
M3 Max, bin superior65–9032–4860–85Apple M3 Max - CPU de 16 núcleos / GPU de 40 núcleos.
M3 Ultra80–11545–7070–105Mostra como Apple M3 Ultra. Geralmente Mac Studio.
M435–5010–1830–45Mostra como Apple M4.
M4 Pro55–7022–3545–65Mostra como Apple M4 Pro.
M4 Max, bin inferior70–9532–4860–85Apple M4 Max - CPU de 14 núcleos / GPU de 32 núcleos.
M4 Max, bin superior85–11540–6075–100Apple M4 Max - CPU de 16 núcleos / GPU de 40 núcleos.
M545–6014–2435–55Mostra como Apple M5.
M5 Pro65–8526–4255–75Mostra como Apple M5 Pro.
M5 Max, bin inferior80–10536–5570–95Apple M5 Max - CPU de 18 núcleos / GPU de 32 núcleos.
M5 Max, bin superior95–12545–7085–115Apple M5 Max - CPU de 18 núcleos / GPU de 40 núcleos.

tokens de geração estimados por segundo pelo chip Apple Silicon

// escolha seu lutador

Qual modelo, e quando

Padrões sensatos, uma válvula de escape para problemas difíceis e um canal separado para autocompletar. Este é o lista padrão planejada - ele chega junto com a integração de runtime local mencionada acima.

⚡
padrão · rápido

Qwen3-4B - o padrão

Pequeno, rápido e bom o suficiente para busca de esquemas e rascunhos de SQL. Razoável de M1 a M5. Este é o padrão planejado para vir de fábrica.

Qwen3-4B-Instruct-2507 Q4_K_M
🧠
avançado · raciocínio local

gpt-oss-20b - o peso-pesado

O modelo opcional de «melhor raciocínio local»: geração de SQL mais difícil, raciocínio complexo de esquema, explicação de procedimentos armazenados, depuração em várias etapas, revisão de código e reescrita de consultas. Mais lento, mais faminto por RAM.

gpt-oss-20b
🔷
balanceado · família google

Gemma 4 E2B - a alternativa

Para quando você quiser suporte da família Google, alinhamento com o ecossistema multimodal e uma opção de raciocínio menor, no meio do grupo.

Gemma 4 E2B
⌨️
manter o autocompletar separado

O FIM fica na própria faixa

Fazer não gerar sugestões inline com um modelo de chat/raciocínio. O autocomplete usa um modelo FIM/código dedicado - latência muito menor.

Qwen2.5-Coder-1.5B Base
Qwen2.5-Coder-3B Base
🎚️
modo de desempenho ○ planejado

Ou simplesmente escolha uma vibe

Não quer pensar em nomes de modelos? Escolha um modo e o SQLly cuida do resto:

Fast      → Qwen3-4B
Balanced  → Gemma 4 E2B
Advanced  → gpt-oss-20b
Cloud     → GPT-5.5 or other hosted model

O instalador mostra o tamanho do download, a RAM necessária e uma estimativa em tempo real para seu chip antes que qualquer coisa chegue ao disco.

// mostre seu trabalho

Fontes e referências

Estas estimativas combinam especificações de modelos publicados e tamanhos de pacotes com suposições práticas de escala de largura de banda de memória do Apple Silicon.

Referências úteis

// seu laptop, suas regras

Traga a inteligência de volta para o porco

Desativado por padrão. Ativado por escolha. No dispositivo por design. A única IA† que pede permissão primeiro.

⬇ Baixe o SQLly - é gratuito
† “IA” é uma marca registrada de pessoas que não se dão ao trabalho de dizer aprendizado de máquina.