Zep 소개 — Context Graph와 에이전트 메모리

Zep 소개

LLM의 컨텍스트 윈도우는 한정돼 있고 세션이 끝나면 사라져요. Zep은 그 대신 내구성 있는, 사용자별 메모리 계층을 제공해요. 에이전트가 쓸 컨텍스트를 컨텍스트 윈도우 바깥의 영속 저장소에 쌓아 두고, 매 턴에 필요한 조각만 꺼내 주는 거죠. 그래서 환각(hallucination)을 줄이고 정확도와 속도를 높여요.

시간 지식 그래프(Context Graph)

Zep의 메모리 단위는 Context Graph예요. 노드는 엔티티, 엣지는 사실/관계예요. 새 데이터가 들어오면 그래프가 동적으로 갱신되고, 낡은 사실은 삭제하지 않고 무효화(invalidate) 하면서 기록을 보존해요. 사실이 언제 유효해지고 언제 무효화됐는지가 엣지에 함께 저장되죠.

Context Block

컨텍스트 블록은 현재 스레드와 가장 관련 있는 그래프 정보로 만든 최적화된 문자열이에요. 사용자 요약과 핵심 사실, 그리고 사실이 유효해지고 무효화된 날짜까지 포함해요. 이걸 챗봇에 컨텍스트로 넣으면 되는 거죠.

입력·출력 프리미티브

입력: graph.add와 thread.add_messages로 JSON·텍스트·메시지 형태의 비즈니스 데이터와 채팅을 그래프에 넣어요.
출력: graph.search(저수준)와 thread.get_user_context(고수준)로 컨텍스트 그래프에서 조회해요.

거버넌스

Zep은 계정 관리를 담당하는 사람과 각 에이전트가 어떤 컨텍스트에 도달할 수 있는지를 통제하는 거버넌스 기능도 제공해요.