Microsoft, LLM보다 35배 빠른 결정 전용 모델 Decision-1 공개
Microsoft-Decision-1, our model for fast decision-making
Microsoft가 라우팅·분류·우선순위 판단에 특화된 결정 모델 Microsoft-Decision-1을 Microsoft Foundry에서 공개했다. 36개 벤치마크, 약 15만 문항에서 최고 정확도를 기록했고, 지연 시간은 2위 Quyet-1.0-Large보다 4.5배, GPT-6 Sol보다 35배 빨랐다. 입력 토큰 100만 개당 0.042달러로 출력 토큰은 무료다.
Microsoft-Decision-1은 평균적으로 변형의 1.3%에서만 결정을 바꿨고, 선택지 설명을 바꾸거나 순서를 뒤집거나 섞었을 때는 전혀 흔들리지 않았다.
HN 토론
55- nejch
이건 Cloudflare의 Clef, Strands decider, 그리고 지난 몇 주간 쏟아진 수많은 다른 것들처럼 더 작은 Qwen 모델 중 하나를 기반으로 한다.
이걸로 얼마나 많은 과대광고를 만들어낼 수 있는지 좀 웃기긴 한데, Qwen은 정말 할 수 있다고 믿는 작은 엔진이다. 오픈 소스는 아니더라도 오픈 웨이트가 이렇게 생태계 전체를 이끄는 모습을 보니 정말 좋다.
- Topfi
내 최소한의 테스트 모음에서 Jev보다 더 저렴했지만(0.72배) 지연 시간은 더 높았다(p50 283ms 대 369ms). 내가 측정한 모든 시나리오에서 결과는 매우 비슷했고, 내가 테스트한 것 중 처음으로 상업적 출시로서 존재 가치를 실제로 입증한 사례다.
Qwen 튜닝도 좋긴 한데, 내가 테스트한 각 사례는 값싸게 자체 호스팅하고 추가 파인튜닝할 수 있는 게 아니라면 가격이나 성능 중 하나 때문에 실행 가능하지 않다.
- chris_money202
Microsoft는 AI에 대해 다른 방식으로 접근하고 있다. 내가 느끼기에는 로컬 추론 쪽으로 크게 이동하고 있으며, Windows가 로컬에서 또는 선택적으로 클라우드/엣지에서 실행되는 네이티브 AI API를 갖는 미래를 보고 있는 것 같다.
- fredsmith219
이 기사는 코드에서 결정 모델을 사용하는 것에 대해 이야기하지만, 우유부단한 사람들이 일상생활에서 결정을 내리는 데 도움을 주는 데 쓸 수도 있지 않을까? 나는 그런 사람 몇 명을 아는데, 정말 도움이 필요할 것 같다.
- prometheus1992
왜 Jev와의 정확도 비교도 벤치마크하지 않았을까?