Thinking Machines Lab, Inkling과 동급 성능을 약 4분의 1 크기로 구현하는 ‘Inkling-Small’ 공개
Thinking Machines Lab releases “Inkling-Small,” which delivers performance comparable to Inkling at nearly one-quarter the size
TL;DR AI
1분핵심 요약
Thinking Machines Lab이 오픈 웨이트 Mixture-of-Experts 모델 Inkling-Small을 공개했다.
Inkling-Small은 총 2,760억 파라미터, 활성 120억 파라미터로 기존 Inkling(9,750억 파라미터)보다 훨씬 작다.
회사 측은 많은 벤치마크에서 더 적은 연산으로도 이전 모델과 비슷한 수준의 성능을 낸다고 밝혔다.
이 모델은 음성·이미지 추론, 가변적 사고 깊이, 최대 100만 토큰 컨텍스트를 지원하며 Tinker와 Hugging Face에서 제공된다.