Synthetic

Synthetic

개요 (Overview)

Synthetic이란? (What is Synthetic?)

Synthetic은 프라이버시 중심의 AI 플랫폼으로, 다음과 같은 보장과 함께 오픈소스 LLM에 대한 접근을 제공해요:

• 프라이버시 우선 (Privacy-First): 데이터가 학습에 사용되지 않음
• 안전한 호스팅 (Secure Hosting): 미국과 EU의 안전한 데이터센터에서 모델 실행
• 자동 삭제 (Auto-Deletion): API 데이터를 14일 내 자동 삭제
• 오픈소스 (Open Source): 오픈소스 AI 모델 실행

필요한 변수 (Required Variables)

환경 변수

os.environ["SYNTHETIC_API_KEY"] = ""  # your Synthetic API key

Synthetic API 키는 synthetic.new에서 받을 수 있어요.

사용법 - LiteLLM Python SDK

비스트리밍 (Non-streaming)

Synthetic 비스트리밍 Completion

import os
import litellm
from litellm import completion

os.environ["SYNTHETIC_API_KEY"] = ""  # your Synthetic API key

messages = [{"content": "What is the capital of France?", "role": "user"}]

# Synthetic call
response = completion(
    model="synthetic/model-name",  # Replace with actual model name
    messages=messages
)

print(response)

스트리밍 (Streaming)

Synthetic 스트리밍 Completion

import os
import litellm
from litellm import completion

os.environ["SYNTHETIC_API_KEY"] = ""  # your Synthetic API key

messages = [{"content": "Write a short poem about AI", "role": "user"}]

# Synthetic call with streaming
response = completion(
    model="synthetic/model-name",  # Replace with actual model name
    messages=messages,
    stream=True
)

for chunk in response:
    print(chunk)

사용법 - LiteLLM Proxy Server

1. 환경에 키 저장

export SYNTHETIC_API_KEY=""

2. 프록시 시작

config.yaml:

model_list:
  - model_name: synthetic-model
    litellm_params:
      model: synthetic/model-name  # Replace with actual model name
      api_key: os.environ/SYNTHETIC_API_KEY

지원 OpenAI 파라미터 (Supported OpenAI Parameters)

Synthetic은 모든 표준 OpenAI 호환 파라미터를 지원해요:

프라이버시 및 보안 (Privacy & Security)

Synthetic은 엔터프라이즈급 프라이버시 보호를 제공해요:

• 데이터를 14일 이내 자동 삭제
• 모델 학습에 데이터 미사용
• 미국과 EU 데이터센터의 안전한 호스팅
• 규정 준수 친화적인 아키텍처

추가 자료 (Additional Resources)

• Synthetic Website

출처: 문서

본문

더 알아보기 (Learn more)

• Synthetic Website
• LiteLLM 제공자 목록
• LiteLLM 공식 문서