Studio에서 API 플레이그라운드로 모델 테스트하기
Studio에서 API 플레이그라운드로 모델 테스트하기
코드를 한 줄도 쓰지 않고 Studio의 Playground에서 Mistral 모델에 프롬프트를 보내고, 생성 파라미터를 조정하며, 모델별 출력을 비교해 보는 퀵스타트예요. 모델을 직접 평가해 보고 애플리케이션에 통합할지 결정하는 감을 잡을 수 있어요.
출처: 문서
본문
Studio의 Playground를 이용하면 즉석에서 모델을 시험해 볼 수 있어요. 핵심 기능은 세 가지예요:
- 인터랙티브 테스트: 프롬프트를 입력하면 몇 초 안에 응답을 받아요.
- 모델 비교: 모델을 바꿔가며 출력이 어떻게 달라지는지 확인해요.
- 파라미터 조정: temperature, max tokens 같은 설정을 실시간으로 바꿔봐요.
여기까지 마치면 애플리케이션에 통합하기 전에 모델과 파라미터를 미리 평가하는 방법을 알게 돼요.
소요 시간: 약 5분
사전 준비
- 활성화된 Studio 계정. Free 모드가 기본 활성화되어 있고 사용량·레이트 리밋이 적용돼요.
Step 1: 플레이그라운드 열기
- Studio로 이동해요.
- 왼쪽 사이드바에서 Playground를 클릭해요.
플레이그라운드가 열리면 어떤 모델이든 대화할 수 있는 채팅 인터페이스가 나와요.
Step 2: 모델 선택하고 프롬프트 보내기
- 플레이그라운드 상단의 Model 드롭다운을 열어요.
- 모델을 선택해요 (예: 빠른 응답이 필요하면
mistral-small-latest, 더 높은 품질을 원하면mistral-large-latest). - 입력 필드에 프롬프트를 입력해요:
Explain the difference between supervised and unsupervised learning in three sentences.
- Send를 클릭하거나 Enter를 눌러요.
응답이 채팅 패널에 나타나요. 출력의 품질·정확도·스타일을 살펴보세요.
Step 3: 파라미터 조정하고 출력 비교하기
오른쪽 사이드바에서 생성 파라미터를 조절할 수 있어요. 값을 바꾸면 출력이 어떻게 달라지는지 직접 확인해보세요.
- Temperature: 무작위성(랜덤성)을 조절해요. 낮은 값(
0.1)은 더 결정적인 출력을, 높은 값(0.9)은 더 창의적인 출력을 만들어요. - Max tokens: 응답 길이를 제한해요. 비용과 장황함을 조절하는 용도로 쓰요.
- Top P: temperature 대신 다양성을 조절하는 대안이에요.
이렇게 실험해보세요:
- Temperature를
0.1로 맞추고 같은 프롬프트를 보내요. - 이번엔
0.9로 맞추고 다시 보내요. - 두 응답을 비교해보세요. 낮은 temperature의 응답은 더 집중되고 일관돼요. 높은 temperature의 응답은 변형이 더 많아요.
드롭다운에서 다른 모델로 바뀐 뒤 같은 프롬프트를 보내, 모델마다 같은 작업을 어떻게 처리하는지 비교해볼 수도 있어요.
확인 (Verify)
플레이그라운드를 통해 다음을 해봤다면 성공이에요:
- Mistral 모델에 프롬프트를 보냈다.
- temperature를 조정하고 출력에 미치는 영향을 관찰했다.
- 서로 다른 모델 간의 응답을 비교했다.
모델 선택과 파라미터가 생성 품질에 어떤 영향을 주는지 이해하게 됐고, 이는 애플리케이션을 만들 때 합리적인 선택을 내리는 데 도움이 돼요.