Graphsignal로 트레이싱하기

Graphsignal로 트레이싱하기 (Tracing with Graphsignal)

Graphsignal은 AI 에이전트와 LLM 애플리케이션의 관측성(observability)을 제공해요. LlamaIndex를 자동으로 트레이싱해서 쿼리·검색·인덱스 작업을 모니터링하는 방법을 알아봅시다.

출처: 문서

본문

Graphsignal은 AI 에이전트와 LLM 기반 애플리케이션을 위한 관측성을 제공합니다. 개발자가 AI 애플리케이션이 예상대로 동작하고 사용자가 최상의 경험을 누릴 수 있도록 돕습니다.

Graphsignal은 LlamaIndex를 자동으로 트레이싱하고 모니터링합니다. 트레이스와 메트릭은 쿼리(query), 검색(retrieval), 인덱스(index) 작업에 대한 실행 세부 정보를 제공합니다. 이러한 인사이트에는 프롬프트, 완성(completion), 임베딩 통계, 검색된 노드, 파라미터, 지연 시간, 예외가 포함됩니다.

OpenAI API를 사용할 때 Graphsignal은 배포(deployment), 모델 또는 모든 컨텍스트별 토큰 수와 비용 같은 추가 인사이트를 제공합니다.

설치 및 설정

Graphsignal 트레이서를 추가하는 것은 간단합니다. 설치하고 설정만 하면 됩니다.

터미널 창

pip install graphsignal

import graphsignal


# Provide an API key directly or via GRAPHSIGNAL_API_KEY environment variable
graphsignal.configure(
    api_key="my-api-key", deployment="my-llama-index-app-prod"
)

API 키는 여기에서 얻을 수 있습니다.

자세한 내용은 Quick Start 가이드, 통합 가이드, 예제 앱을 참고하세요.

다른 함수 트레이싱하기

추가로 어떤 함수나 코드든 트레이싱하려면 데코레이터(decorator)나 컨텍스트 매니저(context manager)를 사용할 수 있습니다.

with graphsignal.start_trace("load-external-data"):
    reader.load_data()

전체 지침은 Python API Reference를 참고하세요.

Graphsignal로 트레이싱하기