원조 GTE (thenlper 모델군)

원조 GTE (thenlper 모델군)

GTE 계열의 원조 모델은 thenlper 조직의 gte-large, gte-base, gte-small이에요. 이후 알리바바 NLP 팀이 v1.5 시리즈로 발전시키며 성능을 크게 끌어올렸어요.

thenlper/gte-large

  • 크기: 0.3B 파라미터
  • 용도: 문장 유사도(Sentence Similarity)
  • 몇 만 건 이상 다운로드된 대표 원조 모델이에요.

시리즈 구성

  • thenlper/gte-large — 0.3B
  • thenlper/gte-base — 0.1B
  • thenlper/gte-small — 33.4M
  • thenlper/gte-large-zh, thenlper/gte-base-zh, thenlper/gte-small-zh — 중국어 버전

원조 모델의 의의

원조 GTE는 Multi-stage Contrastive Learning 논문(arXiv:2308.03281)으로 발표된 일반 목적 텍스트 임베딩으로, 이후 알리바바 NLP 팀이 v1.5(transformer++ 백본, 8192 토큰)와 다국어 계열로 확장하는 기반이 됐어요.

더 알아보기