// 클라우드 말고 실리콘

AI† 원하는 곳에.
원할 때만.

SQLly의 모든 모델은 내 컴퓨터에서, 내 방식대로 - 아니면 클라우드에서. 다음에 해당하면 여러분이 결정합니다. 스위치를 켜기 전까지는 아무것도 작동하지 않습니다. 아래에는 무엇이 어디서 실행되는지, 그리고 사용 중인 칩에서 얼마나 빠를지가 정확히 나옵니다. 솔직한 상태 메모: 이 스택은 지금 출시 중입니다 - 아래 각 카드에는 실제 상태가 표시되어 있습니다.

모든 기능은 기본적으로 꺼져 있습니다

기본적으로 모든 AI† 기능은 꺼져 있습니다. 백그라운드 다운로드 없음, 몰래 도는 추론 없음, 노트북 밖으로 나가는 토큰도 없음. 기능별로 직접 켜고, 각 기능이 돌아갈 엔진도 직접 고릅니다. 자, 한번 켜 보세요.

// 스위치들

스위치 4개, 놀람 0개

각 기능은 독립적입니다. 가치 있는 것만 켜고 나머지는 그대로 두세요.

⌨️
기본적으로 꺼짐 FIM · 자동완성 ◐ 진행 중

인라인 자동완성, 온디바이스

기기에서 완전히 구동되는 중간 채우기 자동완성 Qwen. 커서 앞의 코드 그리고 그다음에 하면 됩니다.

SELECT o.id, o.total▌
      ⟶ , o.created_at  FROM orders o WHERE …

짧은 지연 시간에 맞춰 튜닝한 전용 코드 모델입니다 - 자동 완성 모자를 쓴 채팅 모델이 아닙니다.

Qwen2.5-Coder · 로컬
💬
기본적으로 꺼짐 에이전트 채팅 ◐ 진행 중

에이전트 채팅 - 선택은 사용자 몫

에이전트 실행 완전히 온디바이스에서 완전한 프라이버시를 위해, 또는 그것을 향하게 하세요 클라우드 최대 성능이 필요할 때. 인터페이스는 같고, 요청마다 선택하면 됩니다.

모든 Apple Silicon 칩의 온디바이스 성능 추정치는 아래 표에 있습니다 - “로컬”이 어떤 느낌인지 알 수 있습니다 이전에 커밋하기 전에.

온디바이스 또는 클라우드 · 선택은 자유
🧮
기본적으로 꺼짐 고급 · 온디바이스 ○ 계획된

로컬 벡터 DB

로컬 벡터 데이터베이스가 뒷받침하는 빠른 AI† 작업 - 의미 기반 스키마 검색, 유사도 조회, 검색 - 을 임베딩을 누구의 서버로도 단 한 번 보내지 않고 처리합니다.

임베딩은 디스크에, 그러니까 사용자의 컴퓨터에 저장됩니다
🗃️
기본적으로 꺼짐 고급 · 온디바이스 ◐ 진행 중

엔티티 카드 & 스마트 캐시

SQLly 빌드 모든 DDL의 로컬 개체 카드 그래서 물어보는 즉시 모델에 촘촘하고 미리 정리된 컨텍스트가 있습니다. 여기에 짝을 이루는 것은 고급 캐시 무효화 실제로 변경된 부분만 새로 고칩니다.

  • 모든 객체에 대한 엔티티 카드 - 테이블, 뷰, 저장 프로시저, 함수.
  • 정밀 무효화 - 오래된 항목은 사라지고, 자주 쓰이는 경로는 캐시에 남아 있습니다.
// Mac에서의 수치

과연 얼마나 내 맥 느낌?

Apple Silicon에서 구동되는 로컬 모델의 실질적인 생성 속도 추정치. 수치는 생성 토큰/초 - 프롬프트 수집 건수가 아닙니다.

왜 Mac 전용 수치인가? SQLly는 하나의 코드베이스로 macOS, Windows, Linux 모두에서 실행되지만, 돼지가 평소에 쓰는 건 128GB RAM을 탑재한 M4 Max MacBook Pro, 그래서 그가 정직하게 측정할 수 있는 건 Apple Silicon입니다. Windows와 Linux에서도 테스트는 합니다; 실제 토큰 생성 속도 수치를 공유해 주세요 그러면 바로 여기에 공개하겠습니다.

실제 성능은 추론 런타임, 양자화, 컨텍스트 크기, 설정, 통합 메모리 압박, 발열, 모델 패키징에 따라 달라집니다. 보장이 아니라 솔직한 대략치로 보세요.

클라우드 기준(“빠른 클라우드 느낌”): Artificial Analysis 기준 GPT-5.5 비추론 API 출력은 대략 초당 58 토큰, 낮은/비추론 구간은 대략 다음 정도이고 초당 58–100 토큰. 채팅 UI에서 체감 속도는 라우팅, 스트리밍, 추론 모드, 부하에 따라 달라지므로, 벤치마크 목표가 아니라 체감용 참고입니다.

모델 실제로 필요한 RAM 메모
Qwen3-4B-Instruct-2507 Q4_K_M 8GB 최소 / 16GB 권장 작은 기본 로컬 SQL 어시스턴트 모델. Ollama 패키지 약 2.5GB.
gpt-oss-20b 16GB 최소 / 24GB 권장 더 강한 추론 모델입니다. OpenAI 기준 총 파라미터 21B, 토큰당 활성 파라미터 3.6B, 컨텍스트 128K.
Gemma 4 E2B 8GB 최소 / 16GB 권장 작은 Google 계열 모델. Google 기준 Q4 추론 메모리 약 2.9GB, Ollama 패키지는 더 클 수 있음.

모델 RAM 가정

칩 Qwen3-4B Q4_K_M8GB 최소 / 16GB 권장 gpt-oss-20b16GB 최소 / 24GB 권장 Gemma 4 E2B8GB 최소 / 16GB 권장 칩/빈 식별 방법
M118–285–1016–28다음과 같이 표시됨 Apple M1. Base M1은 저대역폭 등급입니다.
M1 Pro38–5214–2432–48다음과 같이 표시됨 Apple M1 Pro.
M1 Max50–7024–3845–65다음과 같이 표시됨 Apple M1 Max.
M1 Ultra60–8532–5055–80다음과 같이 표시됨 Apple M1 Ultra. 일반적으로 Mac Studio.
M225–358–1422–34다음과 같이 표시됨 Apple M2.
M2 Pro40–5516–2835–50다음과 같이 표시됨 Apple M2 Pro.
M2 Max55–7528–4450–70다음과 같이 표시됨 Apple M2 Max.
M2 Ultra70–10038–6060–90다음과 같이 표시됨 Apple M2 Ultra. 일반적으로 Mac Studio / Mac Pro.
M328–409–1624–38다음과 같이 표시됨 Apple M3.
M3 Pro35–5014–2232–48다음과 같이 표시됨 Apple M3 Pro.
M3 Max, 하위 등급55–7524–3850–70Apple M3 Max - 14코어 CPU / 30코어 GPU.
M3 Max, 상위 등급65–9032–4860–85Apple M3 Max - 16코어 CPU / 40코어 GPU.
M3 Ultra80–11545–7070–105다음과 같이 표시됨 Apple M3 Ultra. 일반적으로 Mac Studio.
M435–5010–1830–45다음과 같이 표시됨 Apple M4.
M4 Pro55–7022–3545–65다음과 같이 표시됨 Apple M4 Pro.
M4 Max, 하위 등급70–9532–4860–85Apple M4 Max - 14코어 CPU / 32코어 GPU.
M4 Max, 상위 등급85–11540–6075–100Apple M4 Max - 16코어 CPU / 40코어 GPU.
M545–6014–2435–55다음과 같이 표시됨 Apple M5.
M5 Pro65–8526–4255–75다음과 같이 표시됨 Apple M5 Pro.
M5 Max, 하위 등급80–10536–5570–95Apple M5 Max - 18코어 CPU / 32코어 GPU.
M5 Max, 상위 등급95–12545–7085–115Apple M5 Max - 18코어 CPU / 40코어 GPU.

Apple Silicon 칩별 예상 생성 속도(토큰/초)

// 취향대로 고르세요

어떤 모델, 그리고 언제

합리적인 기본값, 어려운 문제를 위한 탈출구, 그리고 자동 완성을 위한 별도의 경로. 이것이 예정된 기본 구성 - 위의 로컬 런타임 통합과 함께 출시됩니다.

⚡
기본 · 빠름

Qwen3-4B - 기본 모델

작고 빠르며, 스키마 검색과 SQL 초안 작성에는 충분합니다. M1부터 M5까지 무난합니다. 이 모델을 기본값으로 제공할 계획입니다.

Qwen3-4B-Instruct-2507 Q4_K_M
🧠
고급 · 로컬 추론

gpt-oss-20b - 강력한 모델

선택 사항인 “더 나은 로컬 추론” 모델: 어려운 SQL 생성, 복잡한 스키마 추론, 저장 프로시저 설명, 다단계 디버깅, 코드 리뷰, 쿼리 재작성. 더 느리고 RAM을 더 많이 요구합니다.

gpt-oss-20b
🔷
균형형 · 구글 패밀리

Gemma 4 E2B - 대안

Google 계열 지원, 멀티모달 생태계와의 정합성, 그리고 중간 수준의 추론 옵션이 필요할 때.

Gemma 4 E2B
⌨️
자동 완성은 별도로 유지

FIM은 자기 할 일만 한다

다음을 하지 마세요 아님 채팅/추론 모델로 인라인 완성을 초안 작성합니다. 자동 완성은 전용 FIM/코드 모델을 실행하며 훨씬 낮은 지연 시간을 제공합니다.

Qwen2.5-Coder-1.5B Base
Qwen2.5-Coder-3B Base
🎚️
성능 모드 ○ 계획된

또는 그냥 분위기로 고르세요

모델 이름을 고민하고 싶지 않으신가요? 모드만 선택하면 SQLly가 나머지는 알아서 정합니다:

Fast      → Qwen3-4B
Balanced  → Gemma 4 E2B
Advanced  → gpt-oss-20b
Cloud     → GPT-5.5 or other hosted model

설치 프로그램은 다운로드 크기, 필요한 RAM, 그리고 실시간 추정치를 보여줍니다 내 칩에 맞는 실시간 추정치까지 보여 줍니다. 아무것도 디스크에 기록되기 전에 말이죠.

// 풀이 과정 공개

출처 및 참고 자료

이 추정치는 공개된 모델 사양과 패키지 크기에 실질적인 Apple Silicon 메모리 대역폭 스케일링 가정을 더해 만든 것입니다.

유용한 참고 자료

// 내 노트북, 내 규칙

지능을 돼지 집으로 데려오세요

기본적으로는 꺼짐. 켜는 것은 선택. 설계상 기기 안에서 동작. 유일한 AI† 먼저 허락을 구하는 방식입니다.

⬇ SQLly 다운로드 - 무료입니다
† “AI”는 기계 학습이라고 말하기 귀찮은 사람들이 등록한 상표입니다.