프롬프트(Prompt)란?

프롬프트(Prompt)란?

프롬프트는 LLM(대형 언어 모델) AI의 동작을 소통하고 지시하는 데 핵심적인 역할을 해요. 사용자가 모델에 제공하는 입력 또는 질의(queries)로서, 모델이 특정 응답을 끌어내게 하는 원천이에요. 이 글에서는 프롬프트 설계가 왜 중요한지, Semantic Kernel이 프롬프트 엔지니어링을 어떻게 돕는지 살펴볼게요.

출처: 공식문서

프롬프팅의 미묘함

효과적인 프롬프트 설계는 LLM AI 모델에서 원하는 결과를 얻기 위한 필수 조건이에요. 프롬프트 엔지니어링(또는 프롬프트 설계)은 창의성과 세심함이 필요한 신생 분야예요. 모델이 고품질의 관련성 있는 텍스트를 만들도록 이끄는 단어·구절·기호·형식을 고르는 작업이죠.

ChatGPT를 이미 실험해 봤다면, 입력에 따라 모델의 동작이 극적으로 변하는 걸 볼 수 있어요. 예를 들어 아래 두 프롬프트는 아주 다른 출력을 만들어요.

Please give me the history of humans.

Please give me the history of humans in 3 sentences.

첫 프롬프트는 긴 리포트를, 두 번째 프롬프트는 간결한 응답을 만들어요. 공간이 제한된 UI를 만든다면 두 번째가 더 적합하겠죠. 프롬프트에 세부 사항을 더 추가하면 동작을 더 다듬을 수 있지만, 너무 과하면 관련성 없는 출력이 나올 수도 있어요. 프롬프트 엔지니어로서 구체성(specificity)과 관련성(relevance) 사이의 올바른 균형을 찾아야 해요.

LLM 모델과 직접 작업할 때는 모델 동작에 영향을 주는 다른 제어장치도 쓸 수 있어요. 예를 들어 temperature 파라미터로 모델 출력의 무작위성을 제어할 수 있어요. top-k, top-p, frequency penalty, presence penalty 같은 파라미터도 모델 동작에 영향을 줘요.

프롬프트 엔지니어링: 새로운 직업

이렇게 제어할 수 있는 것이 많기 때문에, 프롬프트 엔지니어링은 LLM AI 모델로 작업하는 모든 이에게 중요한 스킬이에요. 더 많은 조직이 작업 자동화와 생산성 향상을 위해 LLM AI 모델을 도입하면서 수요도 높은 스킬이죠. 좋은 프롬프트 엔지니어는 원하는 출력을 만들어 내는 프롬프트를 설계해서 조직이 LLM AI 모델을 최대한 활용하도록 도울 수 있어요.

Semantic Kernel로 프롬프트 엔지니어가 되기

Semantic Kernel은 공통 인터페이스로 여러 모델에서 서로 다른 프롬프트와 파라미터를 실험할 수 있게 해 주는, 프롬프트 엔지니어링에 귀중한 도구예요. 이렇게 하면 여러 모델·파라미터의 출력을 빠르게 비교하고, 원하는 결과를 얻도록 프롬프트를 반복해서 다듬을 수 있어요.

프롬프트 엔지니어링에 익숙해지면 그 스킬을 실전에 적용할 수도 있어요. 프롬프트를 네이티브 함수와 커넥터와 결합하면 강력한 AI 기반 애플리케이션을 만들 수 있어요.

마지막으로, Visual Studio Code와 깊게 통합되어 있어서 프롬프트 엔지니어링을 기존 개발 프로세스에 녹이기도 쉬워요.

  • 선호하는 코드 편집기에서 바로 프롬프트를 만들어요.
  • 기존 테스트 프레임워크로 그 프롬프트의 테스트를 작성해요.
  • 기존 CI/CD 파이프라인으로 프로덕션에 배포해요.

프롬프트 엔지니어링 추가 팁

  • LLM AI 모델을 이해하세요. 아키텍처, 학습 과정, 동작을 포함해 LLM AI 모델이 어떻게 동작하는지 깊이 이해하세요.
  • 도메인 지식. 원하는 출력과 작업에 맞는 프롬프트를 설계할 도메인 지식을 갖추세요.
  • 실험. 다양한 파라미터와 설정을 탐색해 특정 작업이나 도메인에 맞게 프롬프트와 모델 동작을 다듬으세요.
  • 피드백과 반복. 모델이 생성한 출력을 지속적으로 분석하고, 사용자 피드백을 바탕으로 프롬프트를 반복해 품질과 관련성을 개선하세요.
  • 최신 상태 유지. 프롬프트 엔지니어링 기법·연구·모범 사례의 최신 동향을 따라가며 스킬을 향상시키세요.

프롬프트 엔지니어링은 역동적이고 계속 진화하는 분야예요. 숙련된 프롬프트 엔지니어는 LLM AI 모델의 역량을 효과적으로 활용하는 데 중요한 역할을 해요.

더 알아보기 (Learn more)