AI† 必要な場所に。
ご希望であれば。
SQLly のモデルはすべて マシン上で、思いどおりに - または、クラウドでも実行できます。あとは あなた そう決めてください。スイッチを入れるまで何も動きません。以下に、何がどこで実行されるか、お使いのチップでどの程度の速さに感じられるはずかを示します。正直なステータスメモ: このスタックは 現在展開中 - 以下の各カードには、実際の状況を示すバッジが付いています。
すべてオフの状態で提供されます
デフォルトでは、 すべてのAI† 機能はオフです。バックグラウンドでのダウンロードも、黙って行われる推論も、ノートパソコンから出ていくトークンもありません。機能ごとにオプトインし、それぞれがどのエンジンで動くかも選べます。 さあ、切り替えてみましょう。
スイッチは 4 つ、驚きはゼロ
各機能は独立しています。役に立つものだけをオンにし、残りはオフのままにしておきます。
インライン補完(オンデバイス)
Fill-in-the-middle オートコンプリートを、完全にデバイス上で駆動するのは Qwen。その前にコードを確認します そして カーソルの後ろの内容を参照するため、補完は先を闇雲に推測せず、文脈に沿って挿入されます。
SELECT o.id, o.total▌ ⟶ , o.created_at FROM orders o WHERE …
補完用の帽子をかぶっただけのチャットモデルではなく、専用のコードモデルで低レイテンシ向けにチューニングされています。
Qwen2.5-Coder · ローカルエージェントチャット - 判断は自由
エージェントを実行 完全にデバイス上で 動かせば完全なプライバシーを確保でき、または クラウド 最大限のパワーが欲しいときに。インターフェイスは同じで、リクエストごとに選べます。
すべての Apple Silicon チップのオンデバイス性能の目安を下の表に示します。「ローカル」の使い心地をつかめます。 の前に コミットするときに。
デバイス上かクラウド上か · 選択は自由ローカルベクトルDB
ローカルのベクトルデータベースが、高速な AI を支えます† 操作(セマンティックなスキーマ検索、類似度検索、取得)が、埋め込み用に誰かのサーバーへ往復することなく動作します。
埋め込みはディスク上、お使いのマシンに残りますエンティティカードとスマートキャッシュ
SQLly のビルド すべての DDL のローカルエンティティカード そのため、質問した瞬間にモデルは、密度の高い下ごしらえ済みのコンテキストを持っています。次と組み合わせると 高度なキャッシュ無効化 実際に変更された内容だけを更新するもの。
- すべてのオブジェクトのエンティティカード - テーブル、ビュー、ストアドプロシージャ、関数。
- 的を絞ったキャッシュ無効化 - 古いエントリは破棄され、よく使われる経路は温まった状態のままです。
はたして あなたの Macらしい使い心地?
Apple Silicon 上で動作するローカルモデルの、実用的な生成速度の目安。数値は 生成トークン/秒 - プロンプトの取り込みはありません。
なぜ Mac 限定の数値なのですか? SQLly は 1 つのコードベースで macOS、Windows、Linux 上で動作しますが、ブタが日常的に使っているのは M4 Max MacBook Pro、128GB RAM搭載、そのため、Apple Silicon であれば正直に計測できます。Windows と Linux でもテストしています。 実際のトークン生成数をぜひ共有してください そして、それらをここで公開します。
実際のパフォーマンスは、推論ランタイム、量子化、コンテキストサイズ、設定、ユニファイドメモリの圧迫、発熱、モデルのパッケージングに左右されます。これらは保証ではなく、誇張のない目安として捉えてください。
クラウドの基準(「高速なクラウドの使い心地」): Artificial Analysis の評価では、 GPT-5.5 非推論 API の出力は約 58トークン/秒、低推論/非推論の帯域はおよそ 58–100 t/s。チャット UI での体感速度は、ルーティング、ストリーミング、推論モード、負荷によって変わります。そのため、これはベンチマークの目標値ではなく、体感の目安です。
| モデル | 実用的な RAM | メモ |
|---|---|---|
| Qwen3-4B-Instruct-2507 Q4_K_M | 8GB最小/16GB推奨 | 既定の小型ローカル SQL アシスタントモデル。Ollama パッケージは約 2.5GB。 |
| gpt-oss-20b | 最小 16GB / 推奨 24GB | より強力な推論モデル。OpenAI は、総パラメータ数 21B、トークンあたりのアクティブパラメータ数 3.6B、コンテキスト 128K としています。 |
| Gemma 4 E2B | 8GB最小/16GB推奨 | Google ファミリーの小型モデル。Google は Q4 量子化での推論メモリを約 2.9GB としています。Ollama のパッケージはそれより大きくなる場合があります。 |
モデルの RAM 想定
| チップ | Qwen3-4B Q4_K_M8GB最小/16GB推奨 | gpt-oss-20b最小 16GB / 推奨 24GB | Gemma 4 E2B8GB最小/16GB推奨 | チップ / ビンの識別方法 |
|---|---|---|---|---|
| M1 | 18–28 | 5–10 | 16–28 | 表示形式: Apple M1。ベース M1 は低帯域幅のプランです。 |
| M1 Pro | 38–52 | 14–24 | 32–48 | 表示形式: Apple M1 Pro. |
| M1 Max | 50–70 | 24–38 | 45–65 | 表示形式: Apple M1 Max. |
| M1 Ultra | 60–85 | 32–50 | 55–80 | 表示形式: Apple M1 Ultra。通常は Mac Studio です。 |
| M2 | 25–35 | 8–14 | 22–34 | 表示形式: Apple M2. |
| M2 Pro | 40–55 | 16–28 | 35–50 | 表示形式: Apple M2 Pro. |
| M2 Max | 55–75 | 28–44 | 50–70 | 表示形式: Apple M2 Max. |
| M2 Ultra | 70–100 | 38–60 | 60–90 | 表示形式: Apple M2 Ultra。通常は Mac Studio / Mac Pro です。 |
| M3 | 28–40 | 9–16 | 24–38 | 表示形式: Apple M3. |
| M3 Pro | 35–50 | 14–22 | 32–48 | 表示形式: Apple M3 Pro. |
| M3 Max、下位ビン | 55–75 | 24–38 | 50–70 | Apple M3 Max - 14 コア CPU / 30 コア GPU。 |
| M3 Max、上位ビン | 65–90 | 32–48 | 60–85 | Apple M3 Max - 16 コア CPU / 40 コア GPU。 |
| M3 Ultra | 80–115 | 45–70 | 70–105 | 表示形式: Apple M3 Ultra。通常は Mac Studio です。 |
| M4 | 35–50 | 10–18 | 30–45 | 表示形式: Apple M4. |
| M4 Pro | 55–70 | 22–35 | 45–65 | 表示形式: Apple M4 Pro. |
| M4 Max、下位ビン | 70–95 | 32–48 | 60–85 | Apple M4 Max - 14 コア CPU / 32 コア GPU。 |
| M4 Max、上位ビン | 85–115 | 40–60 | 75–100 | Apple M4 Max - 16 コア CPU / 40 コア GPU。 |
| M5 | 45–60 | 14–24 | 35–55 | 表示形式: Apple M5. |
| M5 Pro | 65–85 | 26–42 | 55–75 | 表示形式: Apple M5 Pro. |
| M5 Max、下位ビン | 80–105 | 36–55 | 70–95 | Apple M5 Max - 18 コア CPU / 32 コア GPU。 |
| M5 Max、上位ビン | 95–125 | 45–70 | 85–115 | Apple M5 Max - 18 コア CPU / 40 コア GPU。 |
Apple Siliconチップ別の推定生成トークン/秒
どのモデルを、いつ使うか
理にかなった既定値、難しい問題を切り抜けるエスケープハッチ、そしてオートコンプリート専用の別レーン。これは 予定している既定のラインナップ - 上記のローカルランタイム統合と同時に提供されます。
Qwen3-4B - 既定
小さく高速で、スキーマ検索や SQL の下書きには十分な性能です。M1〜M5 で無理なく動作します。導入時の既定として予定しているモデルです。
Qwen3-4B-Instruct-2507 Q4_K_M
gpt-oss-20b - 一番の大物
オプションの「より高精度なローカル推論」モデル:難しい SQL の生成、複雑なスキーマ推論、ストアドプロシージャの説明、マルチステップのデバッグ、コードレビュー、クエリの書き直し。動作は遅く、RAM をより多く必要とします。
gpt-oss-20b
Gemma 4 E2B - 代替案
Google ファミリーのサポート、マルチモーダルなエコシステムとの整合性、そしてラインアップの中ほどにある小さめの推論オプションが欲しいときに。
Gemma 4 E2B
FIM は自分の持ち場を守る
すること ではなく チャット/推論モデルでインライン補完を下書きします。オートコンプリートは専用のFIM/コードモデルを実行するため、レイテンシがはるかに低くなります。
Qwen2.5-Coder-1.5B Base Qwen2.5-Coder-3B Base
あるいは、雰囲気を選ぶだけ
モデル名を考えたくない場合は、モードを選ぶだけで、残りは SQLly が決めます:
Fast → Qwen3-4B Balanced → Gemma 4 E2B Advanced → gpt-oss-20b Cloud → GPT-5.5 or other hosted model
インストーラーには、ダウンロードサイズ、必要な RAM、そして あなたの チップが、何かがディスクに書き込まれる前に表示されます。
出典と参考文献
これらの推定値は、公開されているモデルの仕様とパッケージサイズに、Apple Silicon のメモリ帯域についての現実的なスケーリングの仮定を組み合わせたものです。
参考リンク
- Qwen3-4B-Instruct-2507 Q4_K_M(Ollama 上)- ollama.com/library/qwen3:4b-instruct-2507-q4_K_M
- OpenAI gpt-oss モデルの仕様 - openai.com/index/introducing-gpt-oss
- Gemma 4 モデルのメモリ要件 - ai.google.dev/gemma/docs/core
- Gemma 4 Ollama パッケージ一覧 - ollama.com/library/gemma4
- GPT-5.5 の OpenAI 発表 - openai.com/index/introducing-gpt-5-5
- GPT-5.5 の非推論出力速度の参考値 - artificialanalysis.ai/models/gpt-5-5-non-reasoning
インテリジェンスを豚のもとへ持ち帰ろう
デフォルトはオフ。オンにするのは自分次第。設計からオンデバイス。唯一の AI† 最初に許可を求めるものです。
⬇ SQLly をダウンロード - 無料です