pgai Vectorizer — SQL 레벨에서 임베딩 자동화
pgai Vectorizer — SQL 레벨에서 임베딩 자동화
벡터 임베딩은 텍스트를 컴팩트하고 의미 풍부한 표현으로 바꿔서, 단어가 달라도 의미가 비슷한 내용을 찾게 해줘요. PostgreSQL 같은 벡터 DB는 이런 임베딩을 잘 저장·조회하지만, 임베딩과 원본 데이터를 동기화로 유지하는 건 예전엔 개발자 몫이었죠.
출처: https://github.com/timescale/pgai/blob/main/docs/vectorizer/overview.md
pgai Vectorizer는 임베딩 프로세스를 DBMS 안에서 자동화하는 SQL 레벨 인터페이스예요. 임베딩을 인덱스처럼 선언적 DDL 기능으로 취급하되, 행 데이터의 일부만 표현할 수 있는 유연성이 있어요. 이를 통해
- 원하는 텍스트 컬럼을 커스텀 규칙으로 임베딩 대상으로 지정하고 (PDF 같은 바이너리 문서는 document-embeddings 가이드 참조),
- 검색 가능한 임베딩 테이블을 자동 생성·유지하며,
- 임베딩을 원본 데이터와 비동기로 계속 동기화하고,
- 편리한 뷰로 검색 질의를 간단히 쓸 수 있게 해줘요.
이렇게 하면 수동 워크플로·커스텀 솔루션 없이도 임베딩 파이프라인을 DB가 직접 관리해요.