사고 능력으로 추론하기

사고(Thinking) 능력으로 추론하기

Gemini의 'thinking' 모델은 응답을 만들기 전에 내부에서 **생각 과정(thinking process)**을 먼저 생성하도록 학습됐어요. 그래서 일반 모델보다 복잡한 추론, 여러 단계 계획, 수학 문제 풀이, 코드 생성에 강해요. 이 글에서는 OpenAI-style reasoning과 달리 Gemini가 사고 예산을 어떻게 제어하는지, 되새김 예산 파라미터(thinking_budget, thinking_level)와 thought 요약 보기를 정리해 드릴게요.

출처: Thinking — Gemini Enterprise Agent Platform | Google Cloud Documentation

생각 과정이란 무엇인가요

생각 모델은 응답을 내놓기 전에 내부의 '생각 과정'을 생성하도록 훈련된 모델이에요. 덕분에 thinking 능력이 없는 모델보다 강한 추론, 다단계 계획, 수학 문제 풀이, 코드 생성을 할 수 있어요. Gemini 모델 전반에서 생각 과정은 기본적으로 활성화되어 있어요. Agent Studio를 쓰면 모델의 전체 생각 과정과 생성된 응답을 함께 볼 수 있어요.

모델별 사고 제어

Gemini 3 이상 모델

Gemini 3 모델은 thinking_level 파라미터를 도입해 사고 예산 구성을 이산 레벨로 단순화했어요. 복잡한 추론이 필요 없을 때 thinking_level을 제한하면 더 빠르고 낮은 지연시간의 응답을 얻을 수 있어요.

Python 예시:

from google import genai
from google.genai import types
client = genai.Client()

response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="How does AI work?",
    config=types.GenerateContentConfig(
        thinking_config=types.ThinkingConfig(thinking_level=types.ThinkingLevel.LOW),
    ),
)

Gemini 2.5 이하 모델

Gemini 3 이전 모델은 thinking_budget 파라미터로 생각에 사용할 토큰 수의 상한을 지정해요. 기본값으로 설정하지 않으면 모델이 자동으로 최대 8,192 토큰까지 사고량을 조절해요. API로 동적 예산을 쓰려면 thinking_budget을 -1로 설정해요.

생각 요약 보기 (Thought summaries)

**생각 요약(thought summaries)**은 모델이 응답을 생성하면서 수행한 중간 추론 단계를 보여 주는 기능이에요. Gemini 2.5 이상 모델에서 볼 수 있어요.

• Agent Studio에서는 생각 요약이 기본으로 활성화되어 있고, Thoughts 패널을 펼치면 확인할 수 있어요.
• API로는 ThinkingConfig에서 include_thoughts=True로 설정해 활성화해요.

요금 안내

모델의 생각 과정에서 생성된 토큰도 과금 대상이에요. Gemini 3 Pro나 Gemini 2.5 Pro 같은 일부 모델은 thinking이 기본으로 활성화되어 있어 그 토큰이 청구돼요. 비용을 관리하려면 '모델 사고 제어' 섹션을 참고하세요.

더 알아보기

• Gemini 모델 요약
• 콘텐츠 생성 파라미터
• Agent Platform 요금