Letta — 컨텍스트를 벗어나도 잃지 않는 상태 유지 에이전트
Letta — 컨텍스트를 벗어나도 잃지 않는 상태 유지 에이전트
에이전트가 세계와 상호작용하면 '상태'가 쌓여요. 배운 행동, 환경에 대한 사실, 과거 대화의 기억이 그것이죠. Stateful agent(상태 유지 에이전트) 는 이 커지는 지식을 효과적으로 관리하며 일관된 행동을 유지해요.
어떤 원리인가요
Letta의 핵심은 컨텍스트 관리 시스템이에요. 메모리·사용자 메시지·추론·도구 호출 같은 모든 상태를 데이터베이스에 저장해요. 그래서 컨텍스트 창에서 내려간(evict) 정보조차 절대 사라지지 않아요.
- 메모리 블록: 에이전트가 첨부하는 컨텍스트 조각. 여러 에이전트가 '공유 블록'으로 함께 쓸 수도 있어요.
- 도구로 스스로 수정: 핵심 메모리는 시스템 프롬프트에 주입되고, 에이전트는 메모리 도구로 자신의 기억을 고칠 수 있어요.
- Runs & Steps: 사용자 입력 하나가 여러 추론 스텝으로 이어질 수 있어요. 예컨대 "버그 고쳐줘" 한마디가 여러 파일을 읽고 쓰는 일련의 단계로 이어지죠.
- 시제(retrieval): 오래된 메시지도 API와 검색 도구로 다시 꺼낼 수 있어요.
언제 쓰면 좋을까요
긴 대화나 멀티턴 작업에서 문맥이 자꾸 밀려나는 경우에 탁월해요. DB에 상태를 영속화하므로 서버 재시작에도 기억이 유지돼요.