Daily-It

Java·백엔드 운영 경험으로 AI·개발·자동화와 일상 IT의 실제 판단을 기록하는 기술 블로그입니다.

Kimi K3.1 Pro 2.8T 모델 가중치 공개

AI를 서비스로 호출하는 것과 모델 파일을 받아 직접 운영하는 것은 다른 선택이다. 이번에는 Kimi K3.1 Pro의 가중치가 Hugging Face에 공개됐다. 앱·API 출시는 ArtificialWatch와 Neural Brew 보도 기준 2026년 10월 23일이며, 이번 가중치 공개와 구분해야 한다.[5][6]

핵심 요약

  • 전체 2.8T·활성 104B, 텍스트·이미지 입력과 1M 컨텍스트를 지원한다.[1]
  • 가중치 파일은 약 1.56TB이며, 상업 이용에는 라이선스 조건이 있다.[2][4]
  • 공식 API는 100만 토큰당 일반 입력 $2.00·출력 $10.00이다. 자체 배포와 API 이용 비용은 따로 비교해야 한다.[3]

언제 무엇이 공개됐나?

이번 공개로 모델 파일을 내려받아 자체 배포를 검토할 수 있게 됐다.[1][5]

ArtificialWatch는 11월 4일 14:30 UTC 무렵에는 공개 모델 목록에 없었고 15:31 UTC에는 확인됐다고 기록했다. 후자는 한국시간 11월 5일 00:31이다. 이는 해당 매체의 목록 관측 시각이지 정확한 최초 공개 시각이 아니다.[5]

저장소 생성일이나 발표 게시물 시각과도 구분해야 하며, X 발표의 정확한 시각은 이번 확인 범위에서 확정하지 않는다.[5]

Hugging Face 파일 목록에서 확인한 safetensors는 96개, 합계 1,561,293,160,568바이트로 약 1.56TB다. 이 숫자는 해당 가중치 파일의 저장 용량이지 실행에 필요한 GPU 메모리나 전체 운영 공간을 뜻하지 않는다.[4]

서버실에서 AI가 코드를 작성하고 테스트를 실행하는 동안 개발자가 커피를 들고 지켜보는 모습
공개된 가중치를 자체 서버에서 실행하는 모습을 표현했다. 개념 일러스트(daily-it.com 자체 제작)

2.8T와 활성 104B는 어떻게 다른가?

2.8T는 모델 전체 파라미터, 104B는 토큰 처리 시 활성화되는 파라미터 규모로, 서로 다른 수치다.[1]

Kimi K3.1 Pro는 일부 전문가를 선택해 사용하는 MoE 구조다. 활성 규모가 1040억이라고 해서 전체 가중치도 그 크기로 줄어드는 것은 아니다. 배포 검토에서는 총량과 활성량을 나눠 읽어야 한다.[1]

공식 모델카드 기준 주요 사양[1]
항목Kimi K3.1 Pro
구조·전체 파라미터MoE / 2.8T, 2조8000억
활성 파라미터104B, 1040억
레이어·어텐션93개 / 69 KDA + 24 Gated DSA
전문가 구성896개 / 토큰당 선택 16개 / 공유 전문가 2개
컨텍스트1,048,576토큰
입력·비전 인코더텍스트·이미지 / MoonViT-V2, 401M
양자화가중치 MXFP4 / 활성값 MXFP8, 양자화 인지 학습
권장 추론 엔진vLLM, SGLang, TokenSpeed

K3에서 달라진 부분은 전체 어텐션의 Gated MLA를 Gated DSA로 교체한 점이다. 모델카드는 긴 컨텍스트 처리의 효율을 위한 변경으로 설명한다.[1]

후학습에는 수백 개 하위 작업 영역을 함께 다루는 대규모 공동 강화학습(RL)을 적용했다. 구조와 학습 방식이 함께 바뀌었으므로, 성능 개선을 어느 한쪽의 효과로 단정하기는 어렵다.[1][7]

1M은 한 번의 처리에서 다루는 컨텍스트 범위이지, 답변을 100만 토큰까지 출력한다거나 모든 내용을 완벽하게 기억한다는 보장이 아니다.[1] Tencent Hy4와는 컨텍스트 범위가 1M으로 같다.

공개 가중치라면 제한 없이 상업화할 수 있나?

아니다. 정식 명칭은 Kimi K3.1-Pro License이며, MIT형 허용 조항에 추가 조건이 붙은 라이선스다.[2]

사용·복제·수정·배포·판매·미세조정과 파생물 작성은 허용되지만, 순수 MIT나 무제한 오픈소스라고 소개하면 조건을 놓친다. 특히 모델 접근권을 서비스로 제공하는 MaaS와 대규모 상용제품의 표시 의무는 서로 다른 기준이다.[2]

MaaS는 제3자에게 추론이나 미세조정 접근을 제공하면서, 그 제3자가 입력·파라미터·학습 데이터를 의미 있게 제어할 수 있는 형태다. 특정 기능이나 하네스 안에만 모델 능력이 내장된 최종제품, 다른 사업자가 호스팅하는 모델로 요청을 단순 중계하는 형태는 정의에서 제외된다. API라는 이름만으로 해당 여부를 결정하기보다 실제 제공 방식을 확인해야 한다.[2]

  • 라이선시 또는 계열사 중 누구라도 MaaS 사업을 운영하는가? 그렇고 연속 12개월 동안 라이선시와 계열사의 합산 총매출이 2000만달러를 초과한다면, 모델이나 파생물을 상업적으로 이용하기 전에 Moonshot AI와 별도 계약이 필요하다. 기준을 모델 API 매출로만 좁혀 계산하면 안 된다.[2]
  • 해당 상용제품·서비스의 월간 활성 이용자(MAU)가 1억명을 초과하거나 월매출이 2000만달러를 초과하는가? 둘 중 하나라도 해당하면 그 제품·서비스 UI에 ‘Kimi K3.1-Pro’를 눈에 띄게 표시해야 한다. 앞의 연속 12개월 합산매출 기준과 혼동하지 않아야 한다.[2]
  • 2·3조 예외에 해당하는가? 모델·출력·기반 능력을 제3자에게 제공하지 않는 내부사용, 또는 Moonshot 공식제품이나 인증 추론 파트너를 통한 이용에는 두 조항의 요구사항이 적용되지 않는다. 사내 서버에서 실행한다는 이유만으로 내부사용이라고 단정해서는 안 된다.[2]
  • 복제본이나 상당 부분에 저작권·허가문을 유지하는가? 관련 법규 준수와 무보증 조건도 확인해야 한다. 2·3조 예외는 모든 라이선스 의무를 없애는 포괄 면제가 아니다.[2]

위 내용은 라이선스 검토 항목을 정리한 것이며 법률자문이 아니다. 계열사의 사업 형태, 매출 집계 범위, 외부 고객에게 제공되는 기능을 함께 놓고 계약 필요성을 판단해야 한다.

API 요금은 어떻게 계산해야 하나?

입력을 일반·캐시 적중·캐시 쓰기로 구분하고, 실제 출력 사용량을 더해 계산해야 한다.[3]

공식 API 가격: USD / 100만 토큰, 세금 별도[3]
과금 항목kimi-k3.1-prokimi-k3.1-pro-highspeed
일반 입력$2.00$4.00
출력$10.00$20.00
캐시 적중 입력$0.20$0.20
5분 캐시 쓰기$2.00$4.00
1시간 캐시 쓰기$4.00$8.00

Highspeed는 일반 입력·출력·캐시 쓰기 단가가 두 배지만, 캐시 적중 단가는 같다. 따라서 전체 청구액이 언제나 두 배라고 계산하면 틀린다. 공식 가격 문서는 컨텍스트 길이에 따른 별도 가격 구간 없이 토큰 단가를 적용한다고 설명한다.[3]

입력의 캐시 적중·캐시 쓰기·일반 처리분은 상호 배타적이다. 캐시에 새로 쓴 토큰을 일반 입력에도 다시 넣어 중복 계산하지 않는다. 동일한 접두부 재사용은 캐시 적중에 중요하며, 앞부분이 달라지면 문장이 비슷해도 재사용이 보장되지 않는다.[3]

가령 캐시 적중과 쓰기가 전혀 없고 일반 입력 100만 토큰, 과금 대상 출력 10만 토큰을 사용한다고 가정하면 standard는 3달러, Highspeed는 6달러다. 세금 등을 제외한 계산 예시이며 실제 호출이나 청구 결과가 아니다.[3]

출력 비용은 화면에 보이는 답의 길이보다 API가 보고한 실제 usage를 기준으로 확인해야 한다. 추론 강도는 low·high·max를 지원하며 기본값은 max다. 사업용 예산을 잡을 때는 짧은 답변만 보지 말고, 추론 강도별 출력 사용량과 지연 시간을 함께 기록해야 한다.[1][3]

벤치마크는 어디까지 믿고 읽어야 하나?

공개 수치는 Moonshot의 자체 표기 결과로 읽고, 내부 평가와 실제 업무 성능을 구분해야 한다.[1]

모델카드는 Terminal-Bench 4.0 65.7, SWE Marathon v1.1 51.7, GPQA-Diamond 94.2를 제시한다. Kimi Code Bench 2.0의 77.1은 명시적으로 Internal인 내부 벤치마크다. 앞의 세 항목도 이 글에서 독립 재현한 수치가 아니라 Moonshot 모델카드에 실린 결과다.[1]

별도 설명이 없으면 추론 강도 max, temperature 1.0, top-p 0.95 조건이다. Terminal-Bench와 SWE Marathon의 Kimi 평가는 Claude Code 하네스를 사용한다. 도구·실행 환경이 포함된 점수이므로 실제 제품에서의 성공률이나 GPT 등 다른 모델과의 동급 성능을 보장하지 않는다.[1]

빈 의자 앞 모니터에서 AI 에이전트가 여러 작업 창을 조작하고 개발자가 뒤에서 지켜보는 모습
에이전트가 터미널과 컴퓨터를 조작하는 작업을 표현했다. 개념 일러스트(daily-it.com 자체 제작)
AI 에이전트가 여러 웹 창에서 자료를 모아 문서로 정리하고 개발자가 태블릿으로 확인하는 모습
에이전트가 웹에서 자료를 검색하고 정리하는 작업을 표현했다. 개념 일러스트(daily-it.com 자체 제작)

공식 기술블로그는 공개 가중치의 오용 위험을 줄이기 위해 중간 학습과 RL 단계에서 사이버 관련 데이터를 제거했다고 설명한다. 이는 회사가 밝힌 학습 조치이며, 보안 위험이 없어졌다는 뜻으로 확대해서는 안 된다.[7]

개발자와 사업자는 도입 전에 무엇을 확인해야 하나?

자체 호스팅은 실행 조건과 라이선스를, API 연동은 대화 상태 처리와 실제 비용을 먼저 확인해야 한다.

모델카드가 권장 추론 엔진을 제시한 것과 최소 GPU·VRAM 구성이 확정됐다는 것은 다르다. 이번 확인 자료만으로 최소 하드웨어, 추가 양자화판, 별도 기술보고서, Highspeed의 별도 가중치 여부는 확정하지 않는다.[1][5]

1.56TB라는 파일 용량만으로 개인 PC 실행 가능·불가능이나 필요한 장비 수를 단정할 근거도 부족하다.[1][4][5]

API는 OpenAI·Anthropic 호환 인터페이스를 제공하지만, 다중 턴과 도구 호출에서는 content뿐 아니라 reasoning_content와 tool_calls를 포함한 전체 assistant 메시지를 그대로 되돌려 보내도록 요구한다. 기존 연동기가 이 필드를 버리는지 먼저 점검할 필요가 있다.[1]

한국에서의 계정 가입·결제·실제 호출 가능 여부는 이번 자료로 확인되지 않았다. 도입 전에는 계약 조건, 실행 환경, 소규모 업무 표본의 품질과 usage를 각각 점검해야 한다. 가중치가 공개됐다는 사실만으로 바로 서비스에 쓸 수 있다고 판단해서는 안 된다.

자료 확인 기준: 2026년 11월 5일 13:59 KST. 공식 가격과 라이선스는 이후 바뀔 수 있으므로 계약·도입 시점에 원문을 다시 확인해야 한다.

출처