프롬프팅

프롬프팅 (Prompting)

출처: 문서

Prompting은 모델에 입력을 제공하는 과정이에요. 출력의 품질은 모델을 얼마나 잘 프롬프트하느냐에 따라 크게 달라지는 경우가 많답니다.

개요

프롬프팅은 예술이자 과학이에요. OpenAI는 강력한 프롬프트를 구성하고 모델에서 일관되게 좋은 결과를 얻을 수 있도록 몇 가지 전략과 API 설계 결정을 제공하고 있어요. 폭넓게 실험해 보시길 권장해요.

프롬프트 도구와 기법

Prompt caching: 안정적인 프롬프트 접두부(prefix)를 재사용해서 캐시 히트 시 지연 시간과 입력 토큰 비용을 줄여요.
Prompt engineering: 프롬프트를 구성하는 전략, 기법, 도구에 대해 배워요.

프롬프트 다듬기

전체적인 톤이나 역할 지침은 시스템 메시지에 넣고, 작업별 세부 사항과 예시는 사용자 메시지에 담아요.
few-shot 예시를 간결한 YAML 스타일이나 불릿 블록으로 묶어서, 팀이 빠르게 훑고 업데이트할 수 있게 해요.
명확한 폴더 이름으로 프로젝트 구조를 반영해서, 팀원이 프롬프트를 빨리 찾을 수 있게 해요.
배포할 때마다 프롬프트 테스트와 평가 케이스를 실행해요. 이슈를 일찍 잡는 게 프로덕션에서 고치는 것보다 훨씬 저렴하답니다.

애플리케이션에서의 프롬프트

프롬프트를 애플리케이션 코드처럼 취급해요. 프롬프트 콘텐츠를 이름이 있는 모듈에 저장하고, 타입이 지정된 함수 인자로 동적 섹션을 구성하며, 프롬프트 변경 사항을 그에 대응하는 제품 동작과 동일한 pull request에서 검토해요.

OpenAI는 API에서 재사용 가능한 프롬프트 객체(prompt object)를 단계적으로 제거하고 있어요. 프롬프트 생성을 2026년 6월 3일부터 축소하기 시작하며, v1/prompts는 2026년 11월 30일에 종료될 예정이에요. 현재 일정은 deprecations 페이지에서 확인할 수 있어요.

새 작업에서는 재사용 가능한 프롬프트 객체를 만들지 마세요. 대신 이렇게 해요:

각 프로덕션 프롬프트를 prompts/supportReply.ts처럼 코드로 관리되고 버전 관리되는 헬퍼에 보관해요.
프롬프트 변수를 타입이 지정된 함수 파라미터나 검증된 입력 객체로 대체해요.
생성된 메시지를 Responses API의 input과 instructions로 직접 전달해요.
프롬프트 변경을 배포 프로세스와 함께 실행되는 테스트, 대표적인 fixture, 평가 검사로 검증해요.
git history, PR 리뷰, 릴리스 태그, feature flag를 사용해 프롬프트 변경을 검토·배포·비교·롤백해요.

이미 API 요청에서 프롬프트 ID나 프롬프트 버전을 사용 중이라면 마이그레이션 가이드를 따라 해당 프롬프트를 코드로 옮겨요.

다음 단계

프롬프트에 자신감이 생기면 다음 가이드와 리소스를 확인해 보세요.

Text generation — 모델을 프롬프트해서 텍스트를 생성하는 방법을 배워요.
Engineer better prompts — OpenAI의 프롬프트 엔지니어링 도구와 기법에 대해 알아봐요.