A2A 에이전트 비용 추적

LiteLLM은 A2A 에이전트에 대한 커스텀 비용 추적을 지원해요. 다음과 같이 설정할 수 있습니다:

쿼리당 고정 비용 - 각 에이전트 요청에 부과되는 고정 비용
입력/출력 토큰당 비용 - 토큰 사용량에 기반한 변동 비용

이를 통해 조직 전체의 에이전트 사용 비용을 추적하고 귀속시킬 수 있어요. 각 팀이나 프로젝트가 에이전트 호출에 얼마나 쓰고 있는지 쉽게 파악할 수 있답니다.

빠른 시작

1. Agents로 이동

사이드바에서 Agents 를 클릭해 에이전트 관리 페이지를 엽니다.

2. 새 에이전트 생성

+ Add New Agent 를 클릭해 생성 폼을 엽니다. 몇 가지 기본 정보를 입력해야 해요:

Agent Name - 에이전트의 고유 식별자 (API 호출에 사용)
Display Name - UI에 표시되는 사람이 읽을 수 있는 이름

3. 비용 설정 구성

아래로 스크롤해 Cost Configuration 을 클릭해 비용 설정 패널을 펼칩니다. 여기서 에이전트 사용에 대해 얼마를 부과할지 정의해요.

4. 쿼리당 비용 설정

쿼리당 비용 금액(달러)을 입력합니다. 예를 들어 0.05를 입력하면 이 에이전트에 대한 각 요청이 $0.05로 부과됩니다.

5. 에이전트 생성

모든 설정을 완료했으면 Create Agent 를 클릭해 저장합니다. 이제 에이전트는 비용 추적이 활성화된 상태로 사용할 준비가 됐어요.

출처: 문서

본문

비용 추적 테스트

Playground를 통해 테스트 요청을 보내 비용 추적이 동작하는지 확인해 봅시다.

1. Playground로 이동

사이드바에서 Playground 를 클릭해 대화형 테스트 인터페이스를 엽니다.

2. A2A 엔드포인트 선택

기본적으로 Playground는 채팅 컴플리션 엔드포인트를 사용해요. 에이전트를 테스트하려면 Endpoint Type 을 클릭하고 드롭다운에서 /v1/a2a/message/send를 선택하세요.

3. 에이전트 선택

방금 만든 에이전트를 에이전트 드롭다운에서 선택합니다. 표시 이름(display name)으로 목록에 보일 거예요.

4. 테스트 메시지 보내기

메시지를 입력하고 전송합니다. 제안된 프롬프트를 사용하거나 직접 작성할 수 있어요.

에이전트가 응답하면 요청이 설정한 비용과 함께 기록됩니다.

로그에서 비용 확인

이제 비용이 실제로 추적됐는지 확인해 봅시다.

1. Logs로 이동

사이드바에서 Logs 를 클릭해 모든 최근 요청을 확인합니다.

2. 비용 귀속 확인

목록에서 에이전트 요청을 찾아보세요. 설정한 금액이 표시된 비용 열을 볼 수 있을 거예요. 이 비용은 이제 요청을 만든 API 키에 귀속되므로 팀이나 프로젝트별 지출을 추적할 수 있습니다.

Usage 페이지에서 지출 확인

Admin UI의 Agent Usage 탭으로 이동해 에이전트 수준 지출 분석을 확인하세요:

1. Agent Usage 접근

Admin UI(PROXY_BASE_URL/ui/?login=success&page=new_usage)의 Usage 페이지로 가서 Agent Usage 탭을 클릭합니다.

2. 에이전트 분석 확인

Agent Usage 대시보드는 다음을 제공해요:

에이전트별 총 지출: 모든 에이전트에 걸친 총 지출 확인
일별 지출 추세: 시간에 따른 에이전트 지출 변화 확인
모델 사용 분석: 각 에이전트가 사용하는 모델 파악
활동 지표: 에이전트별 요청, 토큰, 성공률 추적

3. 에이전트로 필터링

에이전트 필터 드롭다운을 사용해 특정 에이전트의 지출을 확인하세요:

드롭다운에서 하나 이상의 에이전트 ID 선택
필터링된 분석, 지출 로그, 활동 지표 확인
서로 다른 에이전트 간 지출 비교

비용 설정 옵션

가격 모델에 따라 이 옵션들을 조합할 수 있어요:

필드	설명
Cost Per Query ($)	각 에이전트 요청에 부과되는 고정 비용
Input Cost Per Token ($)	처리된 입력 토큰당 비용
Output Cost Per Token ($)	생성된 출력 토큰당 비용

대부분의 사용 사례에서는 쿼리당 고정 비용이 가장 간단해요. 에이전트 비용이 입력/출력 길이에 따라 크게 달라진다면 토큰 기반 가격을 사용하세요.

A2A 에이전트 비용 추적