프롬프트 설정 구성하기

프롬프트 설정 구성하기

Playground에서 프롬프트의 다양한 설정을 제어하는 방법을 알려드릴게요. Prompt Settings 창에는 다음이 포함됩니다:

Prompt Settings에 접근하려면:

  1. 왼쪽 사이드바에서 Playground로 이동합니다.
  2. Prompts 제목 아래에서 모델 이름 옆의 기어 아이콘을 선택해 Prompt Settings 창을 엽니다.

출처: 문서

본문

모델 구성

모델 구성은 프롬프트가 동작하는 파라미터를 정의합니다. 구성은 워크스페이스 전반에 공유됩니다 — 여기에 저장된 모든 구성은 다른 LangSmith 기능에서 사용할 수 있으며 관리자가 Settings > Model configurations에서 볼 수 있습니다. 특정 설정에 대한 자세한 내용은 모델 프로바이더 문서를 참고하세요(예: Anthropic 또는 OpenAI).

저장된 구성 만들기

  1. Model Configurations 탭에서 필요에 따라 모델 구성을 조정합니다 — 저장된 구성을 편집하도록 선택할 수 있습니다.
  2. 상단 바의 Save As 버튼을 클릭합니다.
  3. 구성의 이름과 선택적 설명을 입력하고 확인합니다.
  4. 이제 구성을 저장했으므로 조직 워크스페이스의 누구나 접근할 수 있습니다. 모든 저장된 구성은 Model Configuration 드롭다운에서 사용할 수 있습니다.
  5. 저장된 구성을 만든 뒤 기본값으로 설정하면, 새로 만드는 모든 프롬프트가 자동으로 이 구성을 사용합니다. 구성을 기본값으로 설정하려면 드롭다운에서 모델 이름 옆의 Set as default 아이콘을 클릭합니다.

참고: OAuth 클라이언트 자격 증명 필드는 구성이 사전 설정으로 저장된 후에만 이 팝오버에 나타납니다. 일회성 구성에 OAuth를 연결하려면 먼저 사전 설정으로 저장하세요(OAuth 클라이언트 자격 증명 참고).

구성 편집

  1. 저장된 구성의 이름을 바꾸거나 설명을 업데이트하려면 구성 이름 또는 설명을 선택하고 필요한 변경을 수행합니다.
  2. 필요에 따라 현재 구성의 파라미터를 업데이트하고 상단의 Save 버튼을 클릭합니다.

구성 삭제

  1. 제거하려는 구성을 선택합니다.
  2. 휴지통 아이콘을 클릭해 삭제합니다.

추가 파라미터

Extra Parameters 필드는 LangSmith 인터페이스에서 직접 지원되지 않는 추가 모델 파라미터를 전달하게 합니다. 두 가지 시나리오에서 특히 유용합니다:

  1. 모델 프로바이더가 아직 LangSmith 인터페이스에 통합되지 않은 새 파라미터를 출시할 때. JSON 형식으로 이 파라미터를 지정해 바로 사용할 수 있습니다. 예:

    {
        "reasoning_effort": "medium"
    }
    
  2. Playground에서 파라미터 관련 오류를 해결할 때(예:)

    TypeError: AsyncCompletions.create() got an unexpected keyword argument 'max_concurrency'
    

    불필요한 파라미터에 대한 오류를 받으면(실행 트레이싱에 LangChain JS를 사용할 때 더 흔함) 이 필드를 사용해 추가 파라미터를 제거할 수 있습니다.

도구 설정

Tools는 LLM이 웹 검색, 정보 조회 등의 작업을 수행하게 합니다. Tools Settings 탭에서 프롬프트에 정의한 도구를 LLM이 사용·접근하는 방식을 관리할 수 있습니다:

  • Parallel Tool Calls: 적절할 때 여러 도구를 병렬로 호출. 모델이 서로 다른 소스에서 동시에 정보를 수집하게 합니다. (모델의 병렬 실행 지원에 의존합니다.)
  • Tool Choice: 모델이 접근할 수 있는 도구 선택. 자세한 내용은 프롬프트에서 도구 사용을 참고하세요.

워크스페이스에서 사용 가능한 도구(프롬프트 전반에서 도구 활성화·비활성화·편집 포함)를 관리하려면 레지스트리로 도구 관리를 참고하세요.

프롬프트 형식

Prompt Format 탭은 다음을 지정하게 합니다:

  • 프롬프트 유형(Prompt type). 채팅 및 완성 프롬프트에 대한 자세한 내용은 프롬프트 엔지니어링 개념을 참고하세요.
  • 템플릿 형식(Template format). 프롬프트 템플릿과 변수 사용에 대한 자세한 내용은 F-string vs. mustache를 참고하세요.

더 알아보기