텍스트 생성 튜토리얼

이 페이지는 Command 모델을 사용해 텍스트를 생성하는 방법을 설명해요. 다양한 생성 파라미터로 모델의 동작을 커스터마이즈하는 방법까지 함께 살펴볼게요.

출처: 문서

본문

LLM의 가장 흔한 사용 사례 중 하나는 텍스트 생성이에요. 이 튜토리얼에서는 Cohere의 Command 모델을 사용해 텍스트를 생성하고, 다양한 생성 파라미터로 그 동작을 커스터마이즈하는 방법을 보여줄게요.

이 튜토리얼은 코드 불필요 Cohere 소개인 Build Things with Cohere에서 각색했어요. 환경을 제대로 설정하려면 먼저 Part 1: 설치 및 설정을 완료해 주세요.

시작해 볼게요!

Command 모델로 텍스트 생성하기

Cohere의 Command 모델은 텍스트 생성과 분류, 요약, 추출 같은 광범위한 다른 작업을 수행하도록 특별히 설계됐어요. Command 모델은 지시사항 따르기에 특히 뛰어나도록 학습되었으며, RAG, JSON 객체 생성, 에이전트 기반 워크플로 등에 사용할 수 있어요.

다음은 Command 모델로 텍스트를 생성하는 예시예요. 아래 코드는 주어진 프로필에 대한 요약을 생성해요.

PYTHON

import cohere

co = cohere.ClientV2(api_key="YOUR_COHERE_API_KEY")

# 1. Choose the model
model = "command-a-03-2025"

# 2. Provide the input in the form of messages
#   - User message: the task you want the model to complete
#   - System message: the instructions for how the model should respond
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {
        "role": "user",
        "content": "Write a concise summary for the following profile: Profile: ...",
    },
]

# 3. Generate the response by calling the chat endpoint
response = co.chat(model=model, messages=messages)
print(response.message.content[0].text)

생성 파라미터 (Generation Parameters)

다양한 파라미터로 텍스트 생성 과정을 커스터마이즈할 수 있어요:

max_tokens: 모델이 생성할 수 있는 최대 토큰 수예요.
temperature: 응답의 무작위성과 창의성을 제어해요. 낮은 값은 더 예측 가능한 출력을 만들고, 높은 값은 더 다양하고 창의적인 응답을 만들어요.
top_p: nucleus sampling이라고도 해요. 이 파라미터는 누적 확률이 주어진 임계값을 초과하는 가장 작은 토큰 집합으로 샘플링 풀을 제한해요.
top_k: 샘플링 풀을 확률이 가장 높은 상위 k개 토큰으로 제한해요.
stop_sequences: 모델이 생성 중단할 문자열 목록이에요.
seed: 재현 가능한 생성을 위한 선택적 정수예요.
safety_mode: 사용자가 제공한 입력과 모델 입력을 살펴보고 안전하지 않거나 유해할 수 있는 콘텐츠를 걸러내요. 콘솔에서 활성화하고 요청별로 설정할 수 있어요.

예시: 생성 파라미터 설정하기

생성 파라미터를 설정하고 사용하는 예시는 다음과 같아요:

PYTHON

import cohere

co = cohere.ClientV2(api_key="YOUR_COHERE_API_KEY")

response = co.chat(
    model="command-a-03-2025",
    messages=[
        {
            "role": "system",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Give me a between 3 and 5 word list to motivate me for my workout.",
        },
    ],
    max_tokens=1000,
    temperature=0.7,
    top_p=0.5,
    top_k=50,
)
print(response.message.content[0].text)

다음 단계 (Next Steps)

계속 배우고 싶다면 Part 3: 챗봇으로 넘어가 사용자 질문에 답하는 챗봇을 만들어 보세요. 다음 튜토리얼에서는 여기서 배운 기초를 바탕으로 멀티스텝 동작을 구현하는 방법을 배우게 될 거예요.

더 알아보기 (Learn more)

Cohere 문서