맘바(Mamba) — 트랜스포머를 대체할 '선형 시간' 시퀀스 모델

핵심 요약

• 무엇을 · 트랜스포머의 계산 비효율과 긴 시퀀스 처리 한계를 개선하는 새 아키텍처 '맘바'를 제안.
• 어떻게 · 상태공간모델(SSM)의 파라미터가 입력에 따라 동적으로 변하도록 설계해 현재 토큰에 맞춰 정보를 선택적으로 전달·망각, 효율적 병렬 알고리즘으로 빠른 추론.
• 결과 · 트랜스포머 대비 약 5배 빠른 추론과 시퀀스 길이에 선형 확장성. 언어·오디오·유전체 등에서 최첨단 성능, 동급 트랜스포머를 능가.

왜 중요한가

딥러닝의 핵심인 트랜스포머의 고질적 비효율(긴 입력 비용)을 해결하면서 경쟁력 있는 성능을 제공해 확장성·접근성을 높인다.

실생활·산업 영향

더 긴 문맥의 LLM·음성·시계열·생명공학 모델로 확장 가능(중기).

한계·주의

초록에 명시적 한계는 없으나, 새 아키텍처인 만큼 초대형 규모 일반화는 추가 검증이 필요하다.