왜 합성 데이터인가 — 비용·시간·탄소 절감
왜 합성 데이터인가 — 비용·시간·탄소 절감
맞춤형 모델을 만드는 가장 큰 병목은 '라벨 데이터 확보'였어요. 인간 작업자를 모집·조정하는 데 돈·시간·전문성이 필요했죠. 합성 데이터는 이 병목을 LLM으로 돌파해요.
핵심 아이디어
Mixtral 같은 Apache 2.0 라이선스의 강력한 개방형 모델이 GPT-3.5 수준 성능을 내면서, LLM이 생성한 합성 데이터를 상용 훈련 데이터로 쓸 수 있게 됐어요.
워크플로
- 강한 '선생(teacher)' LLM으로 원하는 태스크의 라벨을 합성 생성.
- 그 데이터로 작고 효율적인 '학생(student)' 모델을 파인튜닝.
- 배포 시 학생 모델을 써 추론 비용·에너지를 절감.
세 가지 이득
- 비용: 비싼 API 라벨링 대신 개방형 모델로 대량 생성.
- 시간: 사람 모집·조정 없이 빠르게 데이터 확보.
- 탄소: 작고 효율적인 모델을 써 추론 배출을 줄임.
이 프레임워크는 전용 도메인 모델을 빠르게 만들고 싶은 팀에게 강력한 선택지가 돼요.