Hugging Face 통합 둘러보기

Hugging Face 통합 둘러보기

이 페이지는 Hugging Face Hub 및 transformers·sentence transformers·datasets 같은 라이브러리와의 모든 LangChain 통합을 다뤄요. Hugging Face 생태계의 모델·임베딩을 LangChain에서 바로 쓰고 싶다면 여기서 출발하면 좋아요.

출처: 공식문서

채팅 모델 (Chat models)

ChatHuggingFace

Hugging Face LLM 클래스를 쓸 수도 있고 ChatHuggingFace 클래스를 직접 쓸 수도 있어요. 사용 예시를 참고하세요.

from langchain_huggingface import ChatHuggingFace

LLM

HuggingFaceEndpoint

HuggingFaceEndpoint 클래스로 서버리스 Inference Providers 또는 전용 Inference Endpoints를 통해 오픈소스 모델을 실행할 수 있어요. 사용 예시를 참고하세요.

from langchain_huggingface import HuggingFaceEndpoint

HuggingFacePipeline

HuggingFacePipeline 클래스로 오픈소스 모델을 로컬에서 실행할 수 있어요. 사용 예시를 참고하세요.

from langchain_huggingface import HuggingFacePipeline

임베딩 (Embeddings)

HuggingFaceEmbeddings 클래스로 오픈소스 임베딩 모델을 로컬에서 실행할 수 있어요. 사용 예시를 참고하세요.

from langchain_huggingface import HuggingFaceEmbeddings

HuggingFaceEndpointEmbeddings 클래스로 전용 Inference Endpoint를 통해 오픈소스 임베딩 모델을 실행할 수도 있어요. 사용 예시를 참고하세요.

from langchain_huggingface import HuggingFaceEndpointEmbeddings

TEI (Text Embeddings Inference)

Sentence Transformers 모델을 셀프 호스팅으로 프로덕션 서빙하려면, Hugging Face가 배칭과 GPU 지원을 갖춘 전용 추론 서버인 Text Embeddings Inference를 공개해요. TEI는 OpenAI 호환 API를 노출하므로, LangChain을 OpenAIEmbeddings로 TEI 배포에 연결할 수 있어요. 전용 TEI 통합 가이드를 참고하세요.

Hugging Face의 BGE 모델은 베이징 인공지능 아카데미(BAAI)의 강력한 오픈소스 임베딩 패밀리예요.

BGE 모델은 Sentence Transformers 모델이므로 HuggingFaceEmbeddings를 encode_kwargs={"normalize_embeddings": True}와 함께 쓰세요. 사용 예시를 참고하세요.

더 알아보기 (Learn more)