Recursive Flint 정리: 맥북에서 돌리는 40B 코딩 모델 성능

Recursive Flint는 전체 파라미터 398억 개 가운데 토큰당 약 25억 개만 쓰는 오픈 웨이트 코딩 모델로, 2026년 10월 21일 Apache 2.0 라이선스로 공개됐습니다. Recursive가 밝힌 점수는 SWE-bench Pro v2 89.7%, SWE-bench Verified 74.2%, Terminal-Bench 2.1 54.9%이고 M4 Pro 맥북 프로에서 초당 125토큰 넘게 생성한다고 합니다. 48GB 메모리 노트북에서 꽤 쓸 만한 코딩 에이전트를 돌릴 수 있다는 뜻입니다. 다만 Recursive가 직접 낸 비교 차트에서도 더 큰 덴스 모델인 Qwen 3.8이 가장 어려운 에이전트 벤치마크 두 개에서 Flint를 앞섭니다.

Flint는 Recursive의 첫 공개 모델이기도 합니다. 회사는 적은 인원이 'Eureka Machine'이라는 자동화 AI 연구 시스템의 도움을 받아 넉 달이 안 되는 기간에 처음부터 만들었다고 설명합니다. 가중치는 Hugging Face에 올라와 있고 10월 23일 기준 인기 급상승 모델 3위에 올랐습니다.

핵심 요약

• Flint는 전체 39.8B, 토큰당 활성 약 2.5B 파라미터(모델 본체만 따지면 약 2.2B)이며 라우팅 전문가 256개 중 6개를 골라 씁니다.
• Recursive 발표 기준 점수는 SWE-bench Pro v2 89.7%, SWE-bench Verified 74.2%, Terminal-Bench 2.1 54.9%, LiveCodeBench v6 80.3%입니다.
• 가중치 라이선스는 Apache 2.0입니다.
• 전용 엔진 rec는 메모리 48GB 이상인 애플 M4 Pro, M5 Pro, M5 Max 맥을 지원하며 M4 Pro에서 llama.cpp보다 1.4~2.6배 빠르다고 합니다.
• 서버용 BF16 체크포인트는 약 80GB이고 SGLang으로 복제본당 B300 또는 H200 GPU 한 장에서 돌아갑니다.
• 덴스 모델 Qwen 3.8이 Terminal-Bench 2.1과 SWE-bench Pro v2에서 더 높습니다. Flint의 강점은 활성 파라미터 대비 속도입니다.

Recursive Flint란?

Flint는 코딩 에이전트용으로 만든 디코더 전용 혼합 전문가(MoE) 트랜스포머입니다. MoE 모델은 대부분의 층을 '전문가'라고 부르는 작은 하위 네트워크 여러 개로 나누고 토큰마다 그중 몇 개만 거치게 합니다. 그래서 토큰당 연산량은 활성 파라미터(여기서는 2.5B)만큼만 들고 담을 수 있는 지식은 전체 파라미터(40B)만큼 됩니다. 모델 카드는 코드베이스 조사, 버그 수정, 기능 구현, 테스트 작성을 주 용도로 꼽고 추론과 여러 턴에 걸친 도구 호출을 지원한다고 적었습니다.

모델 카드에 나온 구조입니다.

슬라이딩 윈도 층과 전체 어텐션 층을 섞은 덕분에 긴 문맥도 부담이 덜합니다. 대부분의 층은 직전 512토큰만 보고 14개 층만 전체 시퀀스를 봅니다. 출시 글에는 최대 512K 토큰 컨텍스트를 지원하며 256K를 권장한다고 나와 있고 모델 카드에는 262,144토큰 설정이 적혀 있습니다.

Recursive는 Flint를 어떻게 만들었나

모델 카드에 따르면 Flint는 사전 학습, 중간 학습, 지도 미세조정, 강화학습을 거쳐 처음부터 학습했습니다. 눈에 띄는 건 설계를 정한 방식입니다. Recursive는 Eureka Machine이 데이터, 학습 레시피, 인프라, 추론 최적화에 걸쳐 아이디어를 내고 구현하고 시험했다고 말합니다. 전체 35B·활성 3B 기준 모델에서 출발해 전문가 수와 폭을 바꿔 가며 탐색한 끝에 40B·2.5B 구조에 도달했습니다.

그중 두 가지 선택이 특히 눈에 띕니다.

• 4비트 출력 헤드. 양자화 모델은 보통 마지막 출력층(lm_head)을 더 높은 정밀도로 남겨 둡니다. Recursive는 이 층까지 4비트로 양자화했고 16비트 모델을 교사로 쓰는 오프라인 증류 단계를 넣어 양자화 인지 학습(QAT) 방식보다 학습 스텝을 거의 절반으로 줄였다고 밝혔습니다. 공개된 NVFP4 모델은 여러 벤치마크에서 16비트 모델과 0.7점 이내 차이를 보입니다.
• 맥 전용 커널. Eureka Machine은 커널도 만들었습니다. M4·M5 칩용 Metal '메가커널'은 디코딩 한 번의 전체 과정을 GPU 프로그램 하나로 합칩니다.

Recursive는 아직 Eureka Machine에 관한 논문을 내지 않았습니다. 자동화 연구가 모델 설계를 이끌었다는 설명은 지금으로선 회사 주장입니다.

Flint 벤치마크: Qwen, Laguna, Muse Glimmer, Gemma와 비교

SWE-bench Verified와 SWE-bench Pro는 실제 GitHub 이슈를 저장소 안에서 해결하고 테스트를 통과하는지 보는 벤치마크이고 Terminal-Bench는 에이전트가 명령줄 환경에서 과제를 얼마나 완수하는지 잽니다. Recursive의 차트는 비슷한 하드웨어에서 돌아가는 로컬 모델과 Flint를 비교합니다. 전체 3335B·활성 3B인 희소 MoE 모델(Qwen 3.5, Qwen 3.6, Laguna XS 2.1)과 2731B 덴스 모델(Qwen 3.8, Muse Glimmer, Gemma 4)입니다.

단위는 %이며 모델 카드의 Recursive 차트에서 옮겼습니다. 비교 점수 일부는 Recursive가 측정했고 나머지는 개발사 발표치입니다.

이 표는 세 가지로 읽힙니다.

1. 비슷한 크기의 MoE 모델과 비교하면 Flint가 확실히 앞섭니다. 활성 파라미터가 더 적은데도 Qwen 3.6보다 Terminal-Bench 2.1에서 10점, SWE-bench Pro v2에서 16점 높습니다.
2. 덴스 모델과는 엎치락뒤치락합니다. Qwen 3.8이 Terminal-Bench 2.1(73.0 대 54.9), SWE-bench Pro v2(94.9 대 89.7), LiveCodeBench v6에서 이기고 SWE-bench Verified에서는 Muse Glimmer와 Qwen 3.8이 근소하게 앞섭니다. Recursive는 Flint가 이 모델들에 근접한 성능을 내면서 5배 이상 빠르다고 주장합니다.
3. 지시 이행이 가장 강합니다. IFBench 89.2점으로, 차트 속 덴스 모델 최고점보다 약 10점 높습니다.

모두 개발사 발표치라는 점은 감안해야 합니다. 모델 카드는 출처마다 평가 환경이 다르고 Flint의 Terminal-Bench 점수는 웹 검색으로 얻은 답을 실패로 처리했지만 다른 개발사 점수는 그렇지 않을 수 있다고 밝혔습니다. Flint 평가는 temperature 1.0, top-p 0.95, top-k 20으로, SWE-bench는 mini-swe-agent, Terminal-Bench는 Terminus 2로 돌려 최소 다섯 번 시도한 평균입니다.

Flint를 로컬에서 실행하는 방법

맥이라면 Recursive가 만든 엔진 rec이 가장 간단합니다. README에 나온 조건은 M4 Pro, M5 Pro, M5 Max 칩의 애플 실리콘 맥, 통합 메모리 48GB 이상, 여유 디스크 공간 약 30GB입니다. 스크립트 하나로 설치하고 모델과 코딩 하네스를 함께 띄웁니다.

curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bash
rec launch pi        # or: rec launch opencode

rec serve를 실행하면 http://127.0.0.1:11500/v1 주소에 모델 이름 flint로 OpenAI 호환 API가 열리므로, 이 API를 쓰는 클라이언트라면 무엇이든 붙일 수 있습니다. Recursive는 pi 하네스와 함께 쓸 때 결과가 가장 좋다고 말합니다. README는 rec이 한 세션 사용에 맞춰져 있다고 경고하며 에이전트 여러 개를 동시에 돌리려면 문서에 안내된 다른 런타임을 쓰라고 권합니다.

속도는 Recursive 발표 기준으로 M4 Pro 맥북 프로에서 초당 125토큰 이상, 64GB NVIDIA RTX Spark에서 짧은 문맥 기준 초당 150토큰 이상입니다. rec README에 따르면 48GB M4 Pro에서 4비트 가중치로 1K252K 토큰 프롬프트를 돌렸을 때 디코딩 처리량이 llama.cpp의 1.42.6배였습니다.

익숙한 도구를 쓰고 싶다면 llama.cpp, Ollama, Unsloth, LM Studio, vLLM, SGLang이 호환된다고 Recursive가 밝혔고 Hugging Face 페이지에는 커뮤니티 양자화 버전 링크도 있습니다. 서버에서는 모델 카드에 나온 SGLang 키트를 쓰면 됩니다. 약 80GB인 BF16 체크포인트를 받아 동봉된 Docker 이미지를 빌드하고, 복제본당 B300 또는 H200 한 장으로 서빙합니다.

권장 설정은 temperature 1.0, top-p 0.95, top-k 20이고 어려운 문제에는 출력 예산을 32,768토큰 이상으로 잡아야 합니다. 추론 토큰도 이 예산에 포함되기 때문입니다. 모델 카드 안내대로, 응답에 담긴 reasoning_content는 대화 기록에 남겨 두어야 합니다.

최근 오픈 모델 사이에서 Flint의 위치

10월에는 효율을 앞세운 오픈 모델이 줄줄이 나왔습니다. 딥시크의 V4.1-Flash-1017과 MiniMax M3.1 Flash는 저렴한 API 서빙과 대형 GPU를 겨냥합니다. Flint는 반대 방향입니다. 노트북 한 대에 맞춘 크기에 추론 엔진까지 함께 내놨습니다. 오프라인에서 돌고 코드가 내 컴퓨터 밖으로 나가지 않으며 토큰당 비용이 없는 코딩 에이전트를 원한다면 Flint가 딱 그 용도입니다.

한계는 작은 모델의 일반적인 약점에 Flint만의 사정이 더해집니다. 모델 카드는 Flint가 잘못된 코드나 부적절한 도구 호출을 내놓을 수 있으니 도구를 쓰는 환경에서는 자체 권한 통제를 두라고 경고합니다. 추론이 길어지면 답을 끝내기 전에 출력 예산이 바닥날 수 있습니다. 그리고 지금까지의 근거는 모두 Recursive에서 나왔습니다. Qwen 3.8과의 격차가 차트만큼 좁은지는 SWE-bench와 Terminal-Bench를 외부에서 다시 돌려 봐야 알 수 있습니다.

자주 묻는 질문

Recursive Flint는 무엇인가요?

Recursive Flint는 2026년 10월 21일 공개된 혼합 전문가(MoE) 구조의 오픈 웨이트 코딩 모델입니다. 전체 398억 파라미터 중 토큰당 약 25억 개를 쓰고 추론과 도구 호출을 지원하며 Apache 2.0 라이선스로 배포됩니다.

맥북에서 Flint를 돌릴 수 있나요?

최신 고사양 모델이라면 가능합니다. Recursive의 rec 엔진은 M4 Pro, M5 Pro, M5 Max 맥과 통합 메모리 48GB 이상, 디스크 약 30GB를 요구합니다. Recursive는 M4 Pro 맥북 프로에서 초당 125토큰 이상이 나온다고 밝혔습니다.

Flint의 코딩 실력은 어느 정도인가요?

Recursive 발표 기준으로 SWE-bench Pro v2 89.7%, SWE-bench Verified 74.2%, Terminal-Bench 2.1 54.9%입니다. 전체 50B 미만 MoE 모델 중에서는 앞서지만 Terminal-Bench 2.1과 SWE-bench Pro v2에서는 덴스 모델 Qwen 3.8에 뒤집니다.

Flint를 상업적으로 써도 되나요?

가중치는 상업적 이용이 가능한 Apache 2.0 라이선스로 공개됐습니다. Recursive는 자사 호스팅 API에는 별도 약관이 적용된다고 밝혔습니다.

rec 엔진은 무엇인가요?

rec은 애플 실리콘 맥에서 Recursive 모델을 돌리는 로컬 추론 엔진입니다. OpenAI 호환 서버를 띄우고 pi나 OpenCode 하네스를 대신 실행해 주며 한 번에 한 세션을 쓰는 데 최적화돼 있습니다.

출처

• Recursive: Introducing Recursive Flint
• Hugging Face: RecursiveSI/flint model card
• GitHub: recursive-oss/rec
• Recursive documentation: Getting started
• AI Weekly: Recursive opens Flint, a 40B/2.5B MoE coder