Poe

Quora의 AI 플랫폼인 Poe를 LiteLLM에서 사용하는 방법을 알아봐요. 텍스트·이미지·비디오·음성 등 100개 이상의 모델을 개발자 친화적인 API로 접근할 수 있어요.

출처: 문서

본문

개요

속성	내용
설명	Poe는 Quora의 AI 플랫폼으로, 텍스트·이미지·비디오·음성 모달리티에 걸쳐 100개 이상의 모델을 개발자 친화적인 API로 제공해요
LiteLLM 라우트	`poe/`
공식 문서	Poe Website ↗
Base URL	`https://api.poe.com/v1`
지원 연산	`/chat/completions`

Poe란?

Poe는 Quora의 AI 플랫폼으로 다음을 제공해요:

100+ 모델: 다양한 AI 모델에 접근 가능
여러 모달리티: 텍스트, 이미지, 비디오, 음성 AI
인기 모델: OpenAI의 GPT 시리즈와 Anthropic의 Claude 포함
개발자 API: 애플리케이션에 쉽게 통합 가능
광범위한 도달: Quora의 월간 4억 명의 고유 방문자를 활용

필수 변수

os.environ["POE_API_KEY"] = ""  # your Poe API key

Poe 플랫폼에서 Poe API 키를 받을 수 있어요.

LiteLLM Python SDK 사용법

비스트리밍

import os
import litellm
from litellm import completion

os.environ["POE_API_KEY"] = ""  # your Poe API key

messages = [{"content": "What is the capital of France?", "role": "user"}]

# Poe call
response = completion(
    model="poe/model-name",  # Replace with actual model name
    messages=messages
)

print(response)

스트리밍

import os
import litellm
from litellm import completion

os.environ["POE_API_KEY"] = ""  # your Poe API key

messages = [{"content": "Write a short poem about AI", "role": "user"}]

# Poe call with streaming
response = completion(
    model="poe/model-name",  # Replace with actual model name
    messages=messages,
    stream=True
)

for chunk in response:
    print(chunk)

LiteLLM Proxy 서버 사용법

1. 환경에 키 저장

export POE_API_KEY=""

2. Proxy 시작

model_list:
  - model_name: poe-model
    litellm_params:
      model: poe/model-name  # Replace with actual model name
      api_key: os.environ/POE_API_KEY

지원되는 OpenAI 파라미터

Poe는 모든 표준 OpenAI 호환 파라미터를 지원해요:

파라미터	타입	설명
`messages`	array	필수. 'role'과 'content'를 가진 메시지 객체의 배열
`model`	string	필수. 100개 이상의 모델 중 모델 ID
`stream`	boolean	선택. 스트리밍 응답 활성화
`temperature`	float	선택. 샘플링 온도
`top_p`	float	선택. Nucleus sampling 파라미터
`max_tokens`	integer	선택. 생성할 최대 토큰 수
`frequency_penalty`	float	선택. 빈번한 토큰에 패널티
`presence_penalty`	float	선택. 존재 기반 토큰 패널티
`stop`	string/array	선택. 중단 시퀀스
`tools`	array	선택. 사용 가능한 도구/함수 목록
`tool_choice`	string/object	선택. 도구/함수 호출 제어
`response_format`	object	선택. 응답 포맷 지정
`user`	string	선택. 사용자 식별자

사용 가능한 모델 카테고리

Poe는 여러 제공사에 걸친 모델에 접근을 제공해요:

OpenAI 모델: GPT-4, GPT-4 Turbo, GPT-3.5 Turbo 포함
Anthropic 모델: Claude 3 Opus, Sonnet, Haiku 포함
기타 인기 모델: 다양한 제공사 모델
멀티모달: 텍스트, 이미지, 비디오, 음성 모델

플랫폼 이점

LiteLLM을 통해 Poe를 사용하면 여러 장점이 있어요:

통합 접근: 다양한 모델을 위한 단일 API
Quora 통합: 대규모 사용자 기반과 콘텐츠 생태계 접근
콘텐츠 공유: 팔로워와 모델 출력을 공유하는 기능
콘텐츠 배포: 최고의 AI 콘텐츠를 모든 사용자에게 배포
모델 탐색: 새로운 AI 모델을 탐색하는 효율적인 방법

개발자 리소스

Poe는 개발자 기능을 적극적으로 구축 중이며, API 통합을 위한 얼리 액세스 요청을 환영해요.

더 알아보기 (Learn more)

Poe 웹사이트
Poe AI Quora Space
Poe에 관한 Quora 블로그 포스트