마이크로소프트, '대화 안 하는' 9B 모델 출시… 퀸 베이스로 결정만 맡는다

마이크로소프트가 '고르기만 하는' 모델을 냈다

10월 9일 발표한 **마이크로소프트 디시전-1(Microsoft Decision-1)**은 대화를 하지 않는다. 요약도, 메일 초안도 쓰지 않는다. 주어진 선택지 여러 개 가운데 가장 적절한 답 하나에 확률 점수를 매겨 돌려주는 것만 한다.

기존 LLM과 출력 방식이 다르다

일반 LLM은 자유 텍스트를 생성한다. 개발자는 그 텍스트를 파싱해 의도를 추측하고 형식 맞추기를 기대해야 한다. 디시전-1은 애초에 '확률 분포'를 출력한다. 선택지 A, B, C 각각에 0.72, 0.18, 0.10 같은 숫자가 나온다. 파싱 단계가 아예 없다. 발표문은 이 차이를 **'파싱 생략'**으로 설명한다. 라우팅, 분류, 우선순위 부여, 검증, 워크플로 제어 같은 고빈도·저지연 판단에 맞춰진 설계다.

왜 퀸 3.5 9B를 베이스로 썼나

마이크로소프트는 자체 모델(MAI)과 오픈AI 파트너십에 수십억 달러를 쏟아부은 회사다. 그런데 이번엔 알리바바의 오픈웨이트 모델 퀸 3.5 9B를 가져다 썼다. 더 레지스터(The Register)는 이를 두고 "중국 AI 랩의 공개 모델로 제품을 급히 내놓은 것"이라고 짚었다. 마이크로소프트도 이를 숨기지 않았다. 발표문에서 **"퀸 3.5 9B로 포스트 트레이닝해 빠르게 출시했으며, 곧 MAI와 오픈AI 모델로 리베이스(rebase)할 예정"**이라고 명시했다. 장기 아키텍처가 아니라 **'시장 선점용 스캐폴딩(scaffolding)'**임을 인정한 셈이다. 이 대목이 걸린다. 자체 역량이 충분한 대기업이 왜 남의 9B 모델로 시작했을까. 작고 명확한 과제 하나에선 거대한 범용 모델보다 경량 전문 모델이 더 싸고 빠르다는 판단으로 보인다.

가격과 접근성

• 입력 토큰 100만 개당 0.042달러
• 출력 토큰은 무료
• 마이크로소프트 파운더리(Foundry)에서 즉시 사용 가능
• 오픈라우터(OpenRouter)에도 조만간 연동 예정

국내에서 파운더리 요금제를 쓰려면 기업 계약이 필요하다. 오픈라우터는 개인도 API 키만 있으면 바로 호출할 수 있다. 환율 적용 시 입력 100만 토큰 ≈ 5만 6천 원 선이다. 출력이 무료라 분류·라우팅처럼 출력 길이가 짧은 작업에선 비용 이점이 크다.

벤치마크 주장과 검증 거리

발표문 기준 36개 테스트, 약 15만 개 질문으로 평가했다고 한다. 구체적 수치·비교 대상·테스트 셋 구성은 아직 공개되지 않았다. 독립 재현 결과도 나오지 않았다. '잘된다'는 제조사 주장만으로는 생산 적용을 결정하기 이르다.

커뮤니티 반응에서 읽히는 우려

해커뉴스 댓글에선 **"펠리컨 밈 벤치마크가 의사결정 시스템엔 무의미하다"**는 지적이 나왔다. 또 **"실제 파이프라인에서 쓸 만한지 검증된 게 없다"**는 회의도 있다. 펠리컨 밈은 시몬 윌리슨이 '펠리컨 자전거 타기' 같은 불가능한 이미지 생성을 테스트로 삼던 관행인데 이게 분류·채점 태스크 적합성을 말해주진 않는다는 얘기다. 실무 검증이 벤치마크보다 앞선다는 현장 인식이 깔려 있다.

본지가 앞서 다룬 퀸 시리즈와 맥락

본지는 지난달 퀸 3.8 플래시 넥스트(퀸 3.8 플래시 넥스트 공개… 125B MoE가 6B만 깨워 쓴다)를 다뤘다. 당시 125B 몸집에 6B만 활성화하는 MoE 구조로 **'작게 써도 큰 모델 효과'**를 노린다고 분석했다. 디시전-1은 그 반대 방향이다. 9B 전체를 한 가지 작업(채점)에만 쓴다. 퀸 생태계가 '확장'과 '특화' 양쪽으로 동시에 뻗어가는 모양새다.

쉽게 풀어보면

마이크로소프트가 '대화하지 않고 고르기만 하는' 소형 모델을 냈다. 뷔페에서 음식을 담는 대신 메뉴판에 있는 요리 중 '이게 제일 낫다'고 점수 매기는 심사위원 같은 역할이다. 기반은 알리바바 퀸 3.5 9B. 마이크로소프트는 "곧 우리 모델로 바꿔 끼우겠다"고 예고했다. 가격은 입력 100만 토큰당 약 5만 원, 출력은 공짜. 파운더리(기업용)와 오픈라우터(개인도 가능)에서 쓸 수 있다.

나에게 미치는 영향

챗GPT나 클로드에서 분류·라우팅 프롬프트를 돌리던 개발자라면 오픈라우터 키 하나만 추가해 디시전-1로 같은 태스크를 돌려보라. 출력 파싱 코드를 지우고 확률 분포만 받으면 된다. 비용이 1/10 이하로 떨어지는지, 지연이 100ms 이하로 들어오는지 오늘 오후에 확인 가능하다.

기업 구독만 쓰는 조직이라면 파운더리 콘솔에서 '디시전-1' 엔드포인트가 떴는지 먼저 확인하라. 아직 안 떴다면 오픈라우터 연동 소식을 기다리는 게 빠르다.

남은 쟁점

• 리베이스 일정이 '곧(soon)' 외에 구체적이지 않다. MAI·오픈AI 기반 버전이 나오면 가격·성능이 어떻게 바뀔지 모른다.
• 15만 질문 벤치마크의 테스트 셋 공개 여부가 독립 검증의 열쇠다.
• 한국어 분류 태스크에서 퀸 베이스의 한국어 이해도가 충분한지 별도 검증이 필요하다.
• 마이크로소프트가 이 모델을 내부 파이프라인에 이미 쓰고 있다고만 밝혔지, 정량 효과(비용 절감·정확도 상승)는 공개하지 않았다.

판단은 개발자가 직접 돌려보고 내려야 한다. 발표문만 믿고 갈아타기엔 **'리베이스 예고'**라는 변수가 너무 크다.