모델 선택
모델 선택 (Model selection)
OpenAI가 제공하는 모델은 각자 특성과 비용, 성능이 달라요. 어떤 모델을 어떤 작업에 쓸지, reasoning effort는 어떻게 설정할지 고민이 많을 텐데요. 이 페이지가 그 판단의 출발점이 되어 드릴게요.
출처: 문서
본문
모델 살펴보기
모델과 제품에 따라 사용 가능 여부, 도구, reasoning 설정, 사용 한도가 달라져요. 자세한 내용은 ChatGPT에서 사용 가능한 모델 또는 API 모델 카탈로그를 확인하세요.
작업 흐름에 맞는 모델 찾기
하고 싶은 작업과 과제를 선택하면 추천 모델을 알려주는 기능이 있어요. 워크플로에 맞는 모델을 고를 때 가장 간단한 방법이죠.
모델과 reasoning effort를 생각하는 방법
Luna는 가장 비용 효율적인 모델이고, Astra는 최신 최고 성능 모델이에요. 비용과 지연 시간이 문제되지 않는다면 기본값으로 Astra를 써도 좋아요. 비용이나 지연 시간을 줄이고 싶다면 아래 기준을 참고해 모델과 reasoning effort를 선택하세요.
- Luna · Low — 세밀한 편집, 범위가 분명한 문제 해결, 간단한 데이터 추출에 적합해요.
- Luna · Medium — 명확한 설명서(brief)로부터 창작하거나 기존 작업을 조율해 업데이트할 때 좋아요.
- Luna · Extra high — 여러 앱에서 최신 컨텍스트를 찾고, 작업 우선순위를 정하며, 분명한 제약 조건 아래 문제를 해결할 때 유용해요.
- Sol · Low — 집중적인 글쓰기·편집, 사실 확인, 앱에서의 단순 작업에 적합해요.
- Sol · Medium — 판단력과 완결성이 필요한 일상적인 코딩, 리서치, 워크플로에 좋아요.
- Sol · Extra high — 문서·데이터·코드에 대한 더 깊은 분석, 철저한 검증, 신중한 검토가 필요할 때 쓰세요.
- Astra · Low — 사실과 뉘앙스를 살리는 간결한 글쓰기와 콘텐츠 변환에 적합해요.
- Astra · Medium — 넓은 컨텍스트, 신뢰성 있는 상호작용, 완전한 결과가 필요한 야심찬 프로젝트에 좋아요.
- Astra · Extra high — 까다로운 요구사항을 가진 정밀한 분석과 복잡한 산출물이 필요할 때 사용하세요.
실험해 보기
이 페이지의 기준은 출발점일 뿐이에요. 워크플로에 맞는 모델을 찾는 가장 좋은 방법은 여러 모델과 reasoning 설정으로 직접 실험해 보는 것이에요.
시작할 때는 이런 질문을 먼저 떠올려 보세요.
- 워크플로가 얼마나 자주 실행되나요? 자주 도는 자동화는 가끔 실행되는 프로젝트보다 사용량과 비용이 훨씬 빠르게 쌓여요.
- 결과가 얼마나 빨리 필요한가요? 기다리며 쓰는 작업은 밤새 돌려도 되는 작업보다 더 빠른 설정이 필요할 수 있어요.
- 결과물을 어떻게 사용하나요? 리뷰용 초안은 외부에 공유할 결과물보다 덜 다듬어도 괜찮을 수 있어요.
- 결과의 품질이 얼마나 중요한가요? 사용 사례나 업계에 따라 품질을 강조하기 위해 더 강한 모델을 쓰고 싶을 수도 있어요.
가능하면 동일한 입력으로 여러 실험을 비교해 보고, 품질 기준을 충족하는 가장 가벼운 설정을 유지하세요.
더 알아보기 (Learn more)
관련 문서: 모델 최적화(Model optimization)와 모델 카탈로그 가이드를 함께 보면 도움이 돼요.