Mamba — 선택적 상태공간 모델로 선형 시간 시퀀스 처리

Mamba

트랜스포머의 2차(quadratic) 어텐션이 길어지면 비용이 커지는 문제를, 선택적 상태공간 모델(Selective SSM) 로 푼 아키텍처가 Mamba 예요. 입력에 따라 상태 갱신을 '선택'적으로 조절해, 정보 밀도가 높은 언어 모델링에서도 선형(linear) 시간 복잡도로 트랜스포머 수준 성능을 냈어요. Mamba-2는 구조화된 상태공간 이중성(SSD)으로 어텐션과 통합됐어요.

이 카테고리의 문서

• 개요: Mamba 공식 저장소 README — 선택적 SSM 아키텍처
• 핵심 기능: Mamba 논문 — 선형 시간 시퀀스 모델링
• 실전·API: Mamba-2 논문 — 상태공간 이중성과 SSD

출처: https://raw.githubusercontent.com/state-spaces/mamba/main/README.md