Retool Assist

이 가이드는 Retool Assist를 LiteLLM Proxy에 연결하는 방법을 안내합니다. Retool Assist는 Retool 앱 IDE 내에서 AI를 사용해 앱을 생성하고 편집합니다. LiteLLM을 Retool Assist와 함께 사용하면:

Retool Assist를 통해 100개 이상의 LLM에 접근
virtual key별 지출과 사용량 추적, 예산 한도 설정
Retool Assist가 접근할 수 있는 모델 제어
통합 OpenAI 호환 API를 통해 자체 LLM 제공자 사용

info

Hosted Retool에는 공개 URL이 필요합니다. Retool Cloud는 Retool의 서버에서 실행되므로 localhost는 동작하지 않아요. ngrok, Cloudflare Tunnel으로 LiteLLM proxy를 노출하거나 클라우드 제공자에 배포해야 합니다.

빠른 참조

전제 조건

로컬 또는 배포된 LiteLLM Proxy
호스팅 Retool과 로컬 개발을 위한 ngrok(또는 유사 터널)
Retool 계정(Cloud 또는 self-hosted)

1. LiteLLM Proxy 시작

Quickstart를 따라 LiteLLM Proxy를 설정하세요. proxy가 포트 4000에서 실행 중인지 확인하세요.

2. LiteLLM을 공개 URL로 노출

Retool Cloud는 Retool의 서버에서 실행됩니다. 공개 URL로 로컬 LiteLLM proxy를 노출해야 해요.

ngrok 사용

ngrok 설치
별도 터미널에서 실행:

ngrok http 4000

생성된 HTTPS URL(예: https://abc123.ngrok-free.app)을 복사하세요. 이것이 Retool용 Base URL이에요.

대안

LiteLLM을 Railway, Render, Fly.io 등 클라우드 제공자에 배포한다면 그 공개 URL을 Base URL로 사용하세요. Production Deployment 가이드를 참고하세요.

3. Virtual Key 생성

Retool Assist가 LiteLLM에 인증하는 데 사용할 virtual key를 만드세요. 키는 사용하려는 모델에 접근할 수 있어야 해요(예: 모든 OpenAI 모델에 openai/*).

LiteLLM UI를 통해

http://localhost:4000/ui로 이동
Virtual Keys → + Create New Key로 이동
필요한 모델(또는 모든 OpenAI 모델에 openai/*)을 선택
키 복사

4. Retool에서 LiteLLM을 커스텀 Provider로 추가

Retool 대시보드 안에서 LiteLLM을 커스텀 AI 리소스로 구성하세요:

Resources로 이동
AI 카테고리 아래에서 Custom Provider 선택
양식 작성:
- Name: LiteLLM
- Description: (선택) 예: LiteLLM Proxy - 100+ LLMs
- Provider Schema: OpenAI
- Base URL: ngrok 생성 URL(예: https://abc123.ngrok-free.app) 또는 배포된 proxy URL. Retool이 요구하지 않으면 /v1을 추가하지 마세요.
- API Key: 3단계의 LiteLLM virtual key
LiteLLM proxy에서 모델 이름 추가(예: openai/gpt-5.6-luna, openai/gpt-5.6-terra)
Create Resource 클릭

5. 연결 테스트

Retool에서 앱을 열고 Assist를 활성화(조직에서 아직 활성화하지 않았다면)
Assist를 사용해 앱 요소를 생성/편집하면 요청이 LiteLLM을 통해 라우팅됩니다.
Sidebar의 코드 옵션으로 리소스 쿼리를 추가하고 LiteLLM 리소스를 선택해 실행해 설정을 테스트하세요.
LiteLLM Logs 섹션을 확인해 요청을 검증하고 사용량을 추적하세요.

트러블슈팅

401 Unauthorized

Retool의 API Key가 LiteLLM virtual key와 정확히 일치하는지 확인
키가 LiteLLM에서 만료되거나 차단되지 않았는지 확인

401 "key not allowed to access model"

virtual key가 특정 모델로 제한되어 있어요. openai/*로 새 키를 생성하거나 키의 허용 모델 목록에 필요한 모델(예: openai/gpt-5.6-terra)을 넣으세요.

500 "api_key client option must be set"

LiteLLM이 OpenAI API 키를 사용해 제공자를 호출하지 못했어요. openai/* 모델을 사용할 때 OPENAI_API_KEY가 LiteLLM 환경(.env 또는 docker-compose.yml)에 설정되어 있는지 확인하세요.

localhost가 동작하지 않음

Retool Cloud는 Retool의 서버를 가리키는 localhost에 도달할 수 없어요. ngrok을 사용하거나 LiteLLM을 공개 URL에 배포하세요.

추가 리소스

Virtual Keys – API 키 생성 및 관리
Deploy LiteLLM – 프로덕션 배포 옵션
Retool Assist Documentation – Assist 구성 및 프롬프팅 가이드

더 알아보기 (Learn more)

LiteLLM Proxy Quick Start