// クラウドではなくシリコンで

AI† 必要な場所に。
ご希望であれば。

SQLly のモデルはすべて マシン上で、思いどおりに - または、クラウドでも実行できます。あとは あなた そう決めてください。スイッチを入れるまで何も動きません。以下に、何がどこで実行されるか、お使いのチップでどの程度の速さに感じられるはずかを示します。正直なステータスメモ: このスタックは 現在展開中 - 以下の各カードには、実際の状況を示すバッジが付いています。

すべてオフの状態で提供されます

デフォルトでは、 すべてのAI† 機能はオフです。バックグラウンドでのダウンロードも、黙って行われる推論も、ノートパソコンから出ていくトークンもありません。機能ごとにオプトインし、それぞれがどのエンジンで動くかも選べます。 さあ、切り替えてみましょう。

// コントロール

スイッチは 4 つ、驚きはゼロ

各機能は独立しています。役に立つものだけをオンにし、残りはオフのままにしておきます。

⌨️
デフォルトでオフ FIM · オートコンプリート ◐ 進行中

インライン補完(オンデバイス)

Fill-in-the-middle オートコンプリートを、完全にデバイス上で駆動するのは Qwen。その前にコードを確認します そして カーソルの後ろの内容を参照するため、補完は先を闇雲に推測せず、文脈に沿って挿入されます。

SELECT o.id, o.total▌
      ⟶ , o.created_at  FROM orders o WHERE …

補完用の帽子をかぶっただけのチャットモデルではなく、専用のコードモデルで低レイテンシ向けにチューニングされています。

Qwen2.5-Coder · ローカル
💬
デフォルトでオフ エージェントチャット ◐ 進行中

エージェントチャット - 判断は自由

エージェントを実行 完全にデバイス上で 動かせば完全なプライバシーを確保でき、または クラウド 最大限のパワーが欲しいときに。インターフェイスは同じで、リクエストごとに選べます。

すべての Apple Silicon チップのオンデバイス性能の目安を下の表に示します。「ローカル」の使い心地をつかめます。 の前に コミットするときに。

デバイス上かクラウド上か · 選択は自由
🧮
デフォルトでオフ 高度な・デバイス内 ○ 予定

ローカルベクトルDB

ローカルのベクトルデータベースが、高速な AI を支えます† 操作(セマンティックなスキーマ検索、類似度検索、取得)が、埋め込み用に誰かのサーバーへ往復することなく動作します。

埋め込みはディスク上、お使いのマシンに残ります
🗃️
デフォルトでオフ 高度な・デバイス内 ◐ 進行中

エンティティカードとスマートキャッシュ

SQLly のビルド すべての DDL のローカルエンティティカード そのため、質問した瞬間にモデルは、密度の高い下ごしらえ済みのコンテキストを持っています。次と組み合わせると 高度なキャッシュ無効化 実際に変更された内容だけを更新するもの。

  • すべてのオブジェクトのエンティティカード - テーブル、ビュー、ストアドプロシージャ、関数。
  • 的を絞ったキャッシュ無効化 - 古いエントリは破棄され、よく使われる経路は温まった状態のままです。
// Mac での実測値

はたして あなたの Macらしい使い心地?

Apple Silicon 上で動作するローカルモデルの、実用的な生成速度の目安。数値は 生成トークン/秒 - プロンプトの取り込みはありません。

なぜ Mac 限定の数値なのですか? SQLly は 1 つのコードベースで macOS、Windows、Linux 上で動作しますが、ブタが日常的に使っているのは M4 Max MacBook Pro、128GB RAM搭載、そのため、Apple Silicon であれば正直に計測できます。Windows と Linux でもテストしています。 実際のトークン生成数をぜひ共有してください そして、それらをここで公開します。

実際のパフォーマンスは、推論ランタイム、量子化、コンテキストサイズ、設定、ユニファイドメモリの圧迫、発熱、モデルのパッケージングに左右されます。これらは保証ではなく、誇張のない目安として捉えてください。

クラウドの基準(「高速なクラウドの使い心地」): Artificial Analysis の評価では、 GPT-5.5 非推論 API の出力は約 58トークン/秒、低推論/非推論の帯域はおよそ 58–100 t/s。チャット UI での体感速度は、ルーティング、ストリーミング、推論モード、負荷によって変わります。そのため、これはベンチマークの目標値ではなく、体感の目安です。

モデル 実用的な RAM メモ
Qwen3-4B-Instruct-2507 Q4_K_M 8GB最小/16GB推奨 既定の小型ローカル SQL アシスタントモデル。Ollama パッケージは約 2.5GB。
gpt-oss-20b 最小 16GB / 推奨 24GB より強力な推論モデル。OpenAI は、総パラメータ数 21B、トークンあたりのアクティブパラメータ数 3.6B、コンテキスト 128K としています。
Gemma 4 E2B 8GB最小/16GB推奨 Google ファミリーの小型モデル。Google は Q4 量子化での推論メモリを約 2.9GB としています。Ollama のパッケージはそれより大きくなる場合があります。

モデルの RAM 想定

チップ Qwen3-4B Q4_K_M8GB最小/16GB推奨 gpt-oss-20b最小 16GB / 推奨 24GB Gemma 4 E2B8GB最小/16GB推奨 チップ / ビンの識別方法
M118–285–1016–28表示形式: Apple M1。ベース M1 は低帯域幅のプランです。
M1 Pro38–5214–2432–48表示形式: Apple M1 Pro.
M1 Max50–7024–3845–65表示形式: Apple M1 Max.
M1 Ultra60–8532–5055–80表示形式: Apple M1 Ultra。通常は Mac Studio です。
M225–358–1422–34表示形式: Apple M2.
M2 Pro40–5516–2835–50表示形式: Apple M2 Pro.
M2 Max55–7528–4450–70表示形式: Apple M2 Max.
M2 Ultra70–10038–6060–90表示形式: Apple M2 Ultra。通常は Mac Studio / Mac Pro です。
M328–409–1624–38表示形式: Apple M3.
M3 Pro35–5014–2232–48表示形式: Apple M3 Pro.
M3 Max、下位ビン55–7524–3850–70Apple M3 Max - 14 コア CPU / 30 コア GPU。
M3 Max、上位ビン65–9032–4860–85Apple M3 Max - 16 コア CPU / 40 コア GPU。
M3 Ultra80–11545–7070–105表示形式: Apple M3 Ultra。通常は Mac Studio です。
M435–5010–1830–45表示形式: Apple M4.
M4 Pro55–7022–3545–65表示形式: Apple M4 Pro.
M4 Max、下位ビン70–9532–4860–85Apple M4 Max - 14 コア CPU / 32 コア GPU。
M4 Max、上位ビン85–11540–6075–100Apple M4 Max - 16 コア CPU / 40 コア GPU。
M545–6014–2435–55表示形式: Apple M5.
M5 Pro65–8526–4255–75表示形式: Apple M5 Pro.
M5 Max、下位ビン80–10536–5570–95Apple M5 Max - 18 コア CPU / 32 コア GPU。
M5 Max、上位ビン95–12545–7085–115Apple M5 Max - 18 コア CPU / 40 コア GPU。

Apple Siliconチップ別の推定生成トークン/秒

// 好きなものを選んでください

どのモデルを、いつ使うか

理にかなった既定値、難しい問題を切り抜けるエスケープハッチ、そしてオートコンプリート専用の別レーン。これは 予定している既定のラインナップ - 上記のローカルランタイム統合と同時に提供されます。

⚡
デフォルト・高速

Qwen3-4B - 既定

小さく高速で、スキーマ検索や SQL の下書きには十分な性能です。M1〜M5 で無理なく動作します。導入時の既定として予定しているモデルです。

Qwen3-4B-Instruct-2507 Q4_K_M
🧠
高度な・ローカル推論

gpt-oss-20b - 一番の大物

オプションの「より高精度なローカル推論」モデル:難しい SQL の生成、複雑なスキーマ推論、ストアドプロシージャの説明、マルチステップのデバッグ、コードレビュー、クエリの書き直し。動作は遅く、RAM をより多く必要とします。

gpt-oss-20b
🔷
バランス型 · Googleファミリー

Gemma 4 E2B - 代替案

Google ファミリーのサポート、マルチモーダルなエコシステムとの整合性、そしてラインアップの中ほどにある小さめの推論オプションが欲しいときに。

Gemma 4 E2B
⌨️
オートコンプリートを分離しておく

FIM は自分の持ち場を守る

すること ではなく チャット/推論モデルでインライン補完を下書きします。オートコンプリートは専用のFIM/コードモデルを実行するため、レイテンシがはるかに低くなります。

Qwen2.5-Coder-1.5B Base
Qwen2.5-Coder-3B Base
🎚️
パフォーマンスモード ○ 予定

あるいは、雰囲気を選ぶだけ

モデル名を考えたくない場合は、モードを選ぶだけで、残りは SQLly が決めます:

Fast      → Qwen3-4B
Balanced  → Gemma 4 E2B
Advanced  → gpt-oss-20b
Cloud     → GPT-5.5 or other hosted model

インストーラーには、ダウンロードサイズ、必要な RAM、そして あなたの チップが、何かがディスクに書き込まれる前に表示されます。

// 作業内容を見せる

出典と参考文献

これらの推定値は、公開されているモデルの仕様とパッケージサイズに、Apple Silicon のメモリ帯域についての現実的なスケーリングの仮定を組み合わせたものです。

参考リンク

// 自分のノート PC、自分のルール

インテリジェンスを豚のもとへ持ち帰ろう

デフォルトはオフ。オンにするのは自分次第。設計からオンデバイス。唯一の AI† 最初に許可を求めるものです。

⬇ SQLly をダウンロード - 無料です
† 「AI」は、機械学習と言うのさえ面倒がる人たちの登録商標です。