Parea 모니터링 퀵스타트 — LLM 호출 로깅

Parea 모니터링 퀵스타트

LLM 요청과 애플리케이션 함수를 모니터링하려면 로깅부터 시작해요. Parea는 코드 몇 줄로 로그를 남기고 웹에서 확인하게 해줘요.

출처: https://docs.parea.ai/welcome/getting-started

1. 설치

Parea API 키를 준비한 뒤 SDK를 설치해요.

pip install parea-ai

2. 로깅 시작

아래 스니펫으로 LLM 요청 로깅을 시작할 수 있어요. Parea는 OpenAI, Anthropic, Langchain, 또는 Parea의 completion 메서드를 쓰면 어떤 모델이든 자동 로깅을 지원해요. @trace 데코레이터로 여러 함수를 하나의 트레이스에 묶을 수도 있어요.

OpenAI 자동 로깅 예시:

from openai import OpenAI
from parea import Parea

client = OpenAI(api_key="OPENAI_API_KEY")  # replace with your API key
p = Parea(api_key="PAREA_API_KEY")  # replace with your API key
p.wrap_openai_client(client)  # if OpenAI python version < 1.0.0: p.wrap_openai_client(openai)

response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    temperature=0.5,
    messages=[
        {
            "role": "user",
            "content": "Write a Hello World program in Python using FastAPI.",
        }
    ],
)
print(response.choices[0].message.content)

p.wrap_openai_client(client)로 클라이언트를 감싸면 이후 모든 completion 호출이 자동으로 Parea에 로그돼요.

3. 로그 확인

이제 Logs 페이지에서 트레이스 로그를 볼 수 있어요. 로그 표는 검색·필터·정렬을 지원하고, 로그를 클릭하면 상세 트레이스 뷰에서 각 스팬의 입력·출력·메시지·메타데이터를 확인할 수 있어요. 이 트레이스들을 테스트 컬렉션에 추가해 새 프롬프트를 이전 입력으로 테스트하거나, 플레이그라운드에서 예시를 열어 반복할 수도 있어요.

Parea 모니터링 퀵스타트 — LLM 호출 로깅