OpenAI Reasoning models — 추론 토큰과 reasoning.effort
OpenAI Reasoning models — 추론 토큰과 reasoning.effort
OpenAI의 Reasoning 모델(예: GPT-5.x)은 응답 전에 내부 추론 토큰을 사용해 계획을 세우고, 도구를 효과적으로 쓰고, 여러 접근을 검토해요. 복잡한 다단계 문제 해결에 적합해요.
추론 토큰
입력·출력 토큰과 별도로 추론 토큰이 생겨요. 모델은 이 토큰으로 '생각'하고, 응답 생성 후 추론 토큰은 컨텍스트에서 버려져요. 사용량은 output_tokens_details.reasoning_tokens 로 확인할 수 있어요.
reasoning.effort
reasoning.effort 파라미터로 '얼마나 많이 생각할지'를 조절해요. 값은 모델에 따라 none·minimal·low·medium·high·xhigh·max 등이에요. 낮출수록 빠르고 토큰을 아끼고, 높일수록 더 완전하게 생각해 품질을 올려요.
interleaved thinking
최신 모델은 가시 출력 토큰과 추론을 섞어 생성하고, 도구 호출 사이에도 생각할 수 있어요. GPT-5.6는 standard/pro 모드(reasoning.mode=pro)도 지원해 고난도 태스크에 선택적으로 더 깊이 생각하게 할 수 있어요.