ИИ† там, где вам нужно.
Если вам это нужно.
Каждая модель в SQLly работает на вашей машине, на ваших условиях - или в облаке, если вам решите так. Ничего не запускается, пока вы не включите переключатель. Ниже: что именно где выполняется и насколько быстрым будет ощущаться именно ваш чип. Честное замечание о статусе: этот стек выкатывается прямо сейчас - каждая карточка ниже помечена тем, где она фактически находится.
По умолчанию все выключено
По умолчанию, все функции ИИ† выключены. Никаких фоновых загрузок, никакого скрытого инференса, токены не покидают ваш ноутбук. Вы включаете каждую функцию отдельно — и сами выбираете движок, на котором она работает. Ну же, переключите.
Четыре переключателя, никаких сюрпризов
Каждая возможность независима. Включайте то, что оправдывает себя, остальное оставляйте выключенным.
Инлайн-автодополнение, выполняемое на устройстве
Автодополнение fill-in-the-middle полностью работает на устройстве с помощью Qwen. Оно видит код до и после курсора, так что автодополнения ложатся в контекст, а не угадываются вслепую.
SELECT o.id, o.total▌ ⟶ , o.created_at FROM orders o WHERE …
Оптимизировано для низкой задержки на специализированной модели для кода — не на чат-модели с маской автозаполнения.
Qwen2.5-Coder · локальноЧат с агентом — решать вам
Запускайте агента полностью на устройстве для полной приватности, или направьте его на облаке когда вы хотите максимальную мощность. Тот же интерфейс, ваш выбор по запросу.
Оценки производительности на устройстве для каждого чипа Apple Silicon - в таблице ниже, чтобы вы знали, что значит «локально» до вы закоммитите.
на устройстве или в облаке · по вашему выборуЛокальная векторная БД
Локальная векторная база данных поддерживает быстрые AI† операции - семантический поиск по схеме, поиск по сходству и извлечение - без единого обращения к чьему-либо серверу за эмбеддингами.
эмбеддинги остаются на диске, на вашем компьютереКарточки сущностей и умный кэш
SQLly строит локальные карточки сущностей для всех DDL чтобы модель в момент запроса уже имела под рукой плотный, заранее подготовленный контекст. Дополняйте это продвинутая инвалидация кеша которая обновляет только то, что действительно изменилось.
- Карточки сущностей для каждого объекта - таблицы, представления, хранимые процедуры, функции.
- Точечная инвалидация - устаревшие записи удаляются, горячие пути остаются активными.
Насколько быстро ваш Ощущается как Mac?
Практические оценки скорости генерации для локальных моделей на Apple Silicon. Цифры указаны как токены генерации/сек - а не сами подсказки.
Почему цифры только для Mac? SQLly работает на macOS, Windows и Linux из одной кодовой базы — но свинка изо дня в день сидит на MacBook Pro M4 Max с 128 ГБ ОЗУ, поэтому Apple Silicon — это то, что он может измерять честно. Мы тестируем и на Windows, и на Linux; делитесь своими реальными цифрами генерации токенов и мы опубликуем их прямо здесь.
Реальная производительность зависит от среды инференса, квантизации, размера контекста, настроек, нагрузки на единую память, температурного режима и упаковки модели. Воспринимайте эти цифры как честные ориентиры, а не гарантии.
Облачная справка (ощущение «быстрого облака»): Artificial Analysis оценивает GPT-5.5 вывод API без рассуждений порядка 58 токенов/сек, с диапазоном низких/без рассуждений примерно 58–100 т/с. Субъективная скорость в чат-интерфейсе зависит от маршрутизации, стриминга, режима рассуждений и нагрузки — так что это ориентир по ощущениям, а не целевой показатель бенчмарка.
| Модель | Реальные требования к памяти | Заметки |
|---|---|---|
| Qwen3-4B-Instruct-2507 Q4_K_M | мин. 8 ГБ / реком. 16 ГБ | Небольшая локальная модель SQL-ассистента по умолчанию. Пакет Ollama ~2,5 ГБ. |
| gpt-oss-20b | мин. 16 ГБ / реком. 24 ГБ | Более мощная рассуждающая модель. OpenAI указывает: 21B общих параметров, 3,6B активных параметров на токен, 128K контекста. |
| Gemma 4 E2B | мин. 8 ГБ / реком. 16 ГБ | Небольшая модель семейства Google. Google указывает ~2,9 ГБ памяти для инференса в Q4; пакет Ollama может быть больше. |
предположения о RAM модели
| Чип | Qwen3-4B Q4_K_Mмин. 8 ГБ / реком. 16 ГБ | gpt-oss-20bмин. 16 ГБ / реком. 24 ГБ | Gemma 4 E2Bмин. 8 ГБ / реком. 16 ГБ | Как определить чип / дамп |
|---|---|---|---|---|
| M1 | 18–28 | 5–10 | 16–28 | Отображается как Apple M1. Базовый M1 — это уровень низкой пропускной способности. |
| M1 Pro | 38–52 | 14–24 | 32–48 | Отображается как Apple M1 Pro. |
| M1 Max | 50–70 | 24–38 | 45–65 | Отображается как Apple M1 Max. |
| M1 Ultra | 60–85 | 32–50 | 55–80 | Отображается как Apple M1 Ultra. Обычно Mac Studio. |
| M2 | 25–35 | 8–14 | 22–34 | Отображается как Apple M2. |
| M2 Pro | 40–55 | 16–28 | 35–50 | Отображается как Apple M2 Pro. |
| M2 Max | 55–75 | 28–44 | 50–70 | Отображается как Apple M2 Max. |
| M2 Ultra | 70–100 | 38–60 | 60–90 | Отображается как Apple M2 Ultra. Обычно Mac Studio / Mac Pro. |
| M3 | 28–40 | 9–16 | 24–38 | Отображается как Apple M3. |
| M3 Pro | 35–50 | 14–22 | 32–48 | Отображается как Apple M3 Pro. |
| M3 Max, младшая ступень | 55–75 | 24–38 | 50–70 | Apple M3 Max - 14-ядерный CPU / 30-ядерный GPU. |
| M3 Max, старшая ступень | 65–90 | 32–48 | 60–85 | Apple M3 Max - 16-ядерный CPU / 40-ядерный GPU. |
| M3 Ultra | 80–115 | 45–70 | 70–105 | Отображается как Apple M3 Ultra. Обычно Mac Studio. |
| M4 | 35–50 | 10–18 | 30–45 | Отображается как Apple M4. |
| M4 Pro | 55–70 | 22–35 | 45–65 | Отображается как Apple M4 Pro. |
| M4 Max, младшая ступень | 70–95 | 32–48 | 60–85 | Apple M4 Max - 14-ядерный CPU / 32-ядерный GPU. |
| M4 Max, старшая ступень | 85–115 | 40–60 | 75–100 | Apple M4 Max - 16-ядерный CPU / 40-ядерный GPU. |
| M5 | 45–60 | 14–24 | 35–55 | Отображается как Apple M5. |
| M5 Pro | 65–85 | 26–42 | 55–75 | Отображается как Apple M5 Pro. |
| M5 Max, младшая ступень | 80–105 | 36–55 | 70–95 | Apple M5 Max - 18-ядерный CPU / 32-ядерный GPU. |
| M5 Max, старшая ступень | 95–125 | 45–70 | 85–115 | Apple M5 Max - 18-ядерный CPU / 40-ядерный GPU. |
оценка генерации в токенах/с по чипу Apple Silicon
Какая модель и когда
Разумные значения по умолчанию, аварийный выход для сложных задач и отдельная ветка для автозаполнения. Это планируемый набор по умолчанию - это появится вместе с описанной выше интеграцией локальной среды выполнения.
Qwen3-4B - по умолчанию
Компактная, быстрая и достаточно хорошая для поиска по схеме и чернового SQL. Приемлемо работает на M1–M5. Это планируемый вариант по умолчанию.
Qwen3-4B-Instruct-2507 Q4_K_M
gpt-oss-20b — тяжеловес
Необязательная модель «более умного локального рассуждения»: генерация сложного SQL, рассуждения о сложной схеме, объяснение хранимых процедур, многошаговая отладка, ревью кода, переработка запросов. Медленнее, требует больше оперативной памяти.
gpt-oss-20b
Gemma 4 E2B - альтернатива
Если нужна поддержка семейства Google, совместимость с мультимодальной экосистемой и средний по возможностям вариант с рассуждениями.
Gemma 4 E2B
FIM не лезет не в свое дело
Делать не пишите встроенные дополнения с помощью чат-модели/модели рассуждений. Автодополнение работает на выделенной модели FIM/code — задержка значительно ниже.
Qwen2.5-Coder-1.5B Base Qwen2.5-Coder-3B Base
Или просто выберите настроение
Не хотите думать о названиях моделей? Выберите режим — SQLly разберётся с остальным:
Fast → Qwen3-4B Balanced → Gemma 4 E2B Advanced → gpt-oss-20b Cloud → GPT-5.5 or other hosted model
Установщик показывает размер загрузки, требуемую память и живую оценку для ваш чип, прежде чем что-либо окажется на диске.
Источники и ссылки
Оценки сочетают опубликованные характеристики моделей и размеры пакетов с практическими допущениями о масштабировании по пропускной способности памяти Apple Silicon.
Полезные ссылки
- Qwen3-4B-Instruct-2507 Q4_K_M на Ollama - ollama.com/library/qwen3:4b-instruct-2507-q4_K_M
- Характеристики модели OpenAI gpt-oss - openai.com/index/introducing-gpt-oss
- Требования к памяти модели Gemma 4 - ai.google.dev/gemma/docs/core
- Список пакетов Gemma 4 Ollama - ollama.com/library/gemma4
- Анонс GPT-5.5 от OpenAI - openai.com/index/introducing-gpt-5-5
- Справка по скорости вывода GPT-5.5 без рассуждений - artificialanalysis.ai/models/gpt-5-5-non-reasoning
Приведите интеллект домой — к свинке
По умолчанию выключено. Включается по вашему выбору. Работает на устройстве — так и задумано. Единственный ИИ† который сначала спрашивает разрешение.
⬇ Скачать SQLly — это бесплатно