Kimi K3 평가：2.8조 파라미터 OSS, API 라우팅을 바꿀 타이밍인가
대상 독자: Mac에서 Claude·GPT·DeepSeek로 코딩과 장문 문서 작업을 하는 개발팀.이 글에서 다루는 것: 2026년 7월 16일 Moonshot AI가 조용히 공개한 Kimi K3의 KDA/AttnRes/MoE 구조, 벤치마크 표, API 요금, 4채널 5단계 연동, 선정 매트릭스, 7월 27일 가중치 공개 일정.
📋 목차
비교 기사: GPT-5.6 Sol 벤치마크, Claude Fable 5 대안, DeepSeek 자체 AI 칩.
2026년 7월 16일 밤, Moonshot AI(월지암면)는 API 문서 상단에 「🎉 Kimi K3 已上线！」 배너를 걸었습니다. 기자회견도, 사전 마케팅도 없었습니다. 그러나 숫자는 분명합니다—2.8조 파라미터는 현재 세계 최대 오픈소스 AI 모델이며 DeepSeek V4 Pro(1.6T)보다 약 75% 큽니다. WAIC 2026 개막 전야라는 타이밍도 우연이 아닙니다.
01 · 도입 전 3가지 체크포인트
- 벤치마크 하네스 편차: 공식 수치에서 K3는 Kimi Code, GPT는 Codex, Claude는 Claude Code로 측정됩니다. Agent 루프·컨텍스트 압축 차이를 무시하면 「SWE Marathon 1위 = 모든 코딩 최강」으로 오판하기 쉽습니다.
- 표시 요금 vs 실제 청구서: $3/$15는 Claude Sonnet 5와 동일하지만 장시간 Agent는 출력 토큰이 급증합니다. 캐시($0.30/M)를 켜도 프로그래밍에서 히트율 90% 미만이면 월 비용이 예상을 크게 넘을 수 있습니다.
- 「OSS = Mac 로컬 실행」 착각: 7월 27일 가중치 공개 후에도 2.8T MoE 프로덕션 추론에는 64장 이상 GPU 슈퍼노드가 필요합니다. 개인·소규모 팀은 API/OpenRouter가 현실적입니다.
02 · Kimi K3란
Kimi K3는 Moonshot AI의 플래그십으로 희소 MoE 아키텍처를 채택했습니다. 최적화 대상:
- 장시간 코딩 Agent: SWE Marathon류 지속 구현, 대규모 레포 분석
- 초장문 추론: 100만 토큰으로 코드베이스·리서치 보고서 일괄 투입
- 멀티모달 업무: 네이티브 비전, OmniDocBench 문서 파싱 강점
비즈니스 지표도 주목할 만합니다: 2026년 6월 ARR 3억 달러, 기업가치 315억 달러, API 매출 비중 70%+, 해외 유료 사용자 400% 성장.
2.1 핵심 스펙
| 항목 | 값 |
|---|---|
| 총 파라미터 | 2.8조(2.8T)—세계 최대 OSS |
| 아키텍처 | KDA + AttnRes + Stable LatentMoE |
| MoE 전문가 | 896개, 추론 시 16개 활성(희소도 1.8%) |
| 컨텍스트 | 1,048,576 토큰(100만) |
| 입력 모달리티 | 텍스트·이미지·비디오 |
| 추론 모드 | 출시 시 max만 |
| API 모델 ID | kimi-k3 / OpenRouter moonshotai/kimi-k3 |
| 가중치 공개 | 2026년 7월 27일 Hugging Face |
03 · 핵심 아키텍처: KDA, AttnRes, Stable LatentMoE
3.1 Kimi Delta Attention(KDA)
풀 어텐션은 KV 캐시 메모리가 제곱으로 폭증합니다. KDA는 3:1로 선형·풀 어텐션을 교차 배치해 KV 캐시를 최대 75% 절감, 100만 토큰 디코딩을 6.3배 가속합니다.
3.2 Attention Residuals(AttnRes)
얕은 층 표현이 깊은 층에서 희석되는 문제에 선택적 깊이 간 검색을 도입합니다. 학습 효율 25% 향상, 추가 연산 2% 미만.
3.3 Stable LatentMoE
896 전문가 중 16개만 활성화하는 극단적 희소성에서 라우팅 최적화가 핵심입니다. Kimi K2 대비 확장 효율 2.5배.
04 · 요금: Sonnet 수준, 컨텍스트 5배
| 모델 | 입력(1M) | 출력(1M) | 캐시 입력 | 컨텍스트 |
|---|---|---|---|---|
| Kimi K3 | $3.00 | $15.00 | $0.30 | 1M |
| Claude Sonnet 5 | $3.00 | $15.00 | — | 200K |
| Claude Opus 4.8 | $5.00 | $25.00 | — | 200K |
| GPT-5.6 Sol | $5.00 | $30.00 | — | 400K |
| DeepSeek V4 Pro | $1.74 | $3.48 | $0.145 | 128K |
| Kimi K2.6 | $0.95 | $4.00 | $0.16 | 256K |
Claude Opus 4.8 대비 입·출력 각 40% 저렴, Kimi Code 캐시 히트율 90%+, 실효 입력 단가 약 $0.55/M.
05 · 벤치마크 표
| 벤치마크 | Kimi K3 | Claude Fable 5 | GPT-5.6 Sol | Claude Opus 4.8 | GLM-5.2 |
|---|---|---|---|---|---|
| DeepSWE | 67.5 | 70.0 | 73.0 | 59.0 | 46.2 |
| Program Bench | 77.8 🥇 | 76.8 | 77.6 | 71.9 | 63.7 |
| Terminal Bench 2.1 | 88.3 | 84.6 | 88.8 | 84.6 | 82.7 |
| FrontierSWE | 81.2 | 86.6 | 71.3 | 66.7 | 67.3 |
| SWE Marathon | 42.0 🥇 | 35.0 | 39.0 | 40.0 | 13.0 |
| BrowseComp | 91.2 🥇 | 88.0 | 90.4 | 84.3 | — |
| Automation Bench | 30.8 🥇 | 29.1 | 29.7 | 27.2 | 12.9 |
| GPQA-Diamond | 93.5 | 92.6 | 94.1 | 91.0 | 91.2 |
| MMMU-Pro | 81.6 | 81.2 | 83.0 | 78.9 | — |
| OmniDocBench | 91.1 🥇 | 89.8 | 85.8 | 87.9 | — |
Artificial Analysis Intelligence Index v4.1: K3 57.1(4위), 1위 Fable 5(59.9), 격차 2.8점.
06 · 4채널 5단계 연동
- platform.kimi.ai에서 API Key 발급, 과금 리전·속도 제한 확인
- OpenAI SDK로 첫 요청,
kimi-k3와https://api.moonshot.ai/v1검증 - 장시간 Agent에 컨텍스트 캐시 활성화, 입력 $0.30/M
- 멀티모달은 messages에
image_url포함해 비전 파이프라인 확인 - 동일 레포에서 장문 분석·버그 수정·리팩터 3작업을 Claude/GPT와 비교
07 · 선정 매트릭스
| 시나리오 | 추천 | 이유 |
|---|---|---|
| 장시간 코딩 | Kimi K3 | SWE Marathon 42.0, 1M 컨텍스트 |
| 복잡 Repo 버그 수정 | Claude Fable 5 | FrontierSWE 86.6 |
| 터미널 집약 Agent | GPT-5.6 Sol | Terminal Bench 2.1 우위 |
| 초장문·문서 이해 | Kimi K3 | OmniDocBench 91.1 |
| 비용 최우선 | DeepSeek V4 Pro | 출력 $3.48/M |
| OSS 자체 호스팅(7/27~) | Kimi K3 | 2.8T 신규 기준 |
08 · 7월 27일 오픈 가중치
Moonshot AI는 2026년 7월 27일 Hugging Face에 전체 가중치를 공개합니다. K3는 역대 최대 다운로드 가능 OSS 모델이자 2조 파라미터 이상 최초 OSS 가중치가 됩니다. MXFP4/NVFP4 양자화판과 vLLM·SGLang 지원이 예상됩니다.
09 · 요약
Kimi K3는 KDA·AttnRes·Stable LatentMoE로 장컨텍스트 MoE 실무 문제를 해결하고 SWE Marathon·OmniDocBench에서 폐쇄형 플래그십과 견줍니다. Sonnet급 요금에 5배 컨텍스트와 공격적 캐시 가격, 7월 27일 완전 OSS화까지 약속합니다. FrontierSWE급 Repo 수정이 최우선이면 Fable 5, 비용 최우선이면 DeepSeek이 여전히 유력하지만 Mac 개발자에게 K3는 DeepSeek 이후 가장 검토할 가치가 큰 중국발 OSS 옵션입니다.
10 · FAQ
Q: 무료 사용 가능?
A: kimi.com 무료 계정. API $3/$15, 캐시 입력 $0.30/M.
Q: Mac 로컬 실행?
A: 7/27 전 API만. 프로덕션은 64+ GPU 필요.
Q: Fable 5보다 강함?
A: 시나리오별. v4.1 K3 57.1 vs Fable 5 59.9.
Q: 100만 토큰 실용성?
A: 예. KDA로 디코딩 6.3배 가속.
Q: OpenRouter ID?
A: moonshotai/kimi-k3.
Q: 7/27 의미?
A: 최대 OSS 가중치, vLLM/SGLang 지원 예상.
11 · Mac 임대: Kimi K3 API 격리 검증
주력 모델 전환 전 격리된 Apple Silicon 노드에서 PoC를 마치는 것이 안전합니다. 프로덕션 레포 서브셋 클론, Moonshot API Key 설정, Kimi Code 또는 Cursor에 kimi-k3 연결 후 장문 분석·버그 수정·리팩터 3작업으로 Claude/GPT와 비교하세요. 주력 Mac에 API Key를 쓰면 백만 토큰 실험이 셸 설정·Keychain을 오염시킬 수 있습니다.
일임대 M 시리즈 Mac mini는 쓰고 버리는 검증이 가능합니다. 서버 스펙·메모리·대역폭·SSH는 M 시리즈 Mac 요금 안내를 참고하세요.
12 · 참고 자료
- Moonshot 공식: kimi.com/blog/kimi-k3
- API 문서: platform.kimi.ai
- Artificial Analysis: artificialanalysis.ai
- OpenRouter: openrouter.ai/moonshotai/kimi-k3
데이터 기준일: 2026년 7월 16일. 벤치마크는 Moonshot AI 자체 보고치입니다.