Google LLM 소개 — 사고 사슬의 이해
Google LLM 소개 — 사고 사슬의 이해
Google의 LLM 코스에서는 대규모 언어모델이 왜 사고 사슬(chain-of-thought) 이 필요해지는지, 그리고 어떻게 쓰는지를 설명해요. 단순 Q&A를 넘어 수학 문제나 추론이 필요한 과제에서 성능을 끌어올리는 핵심 기법이에요.
왜 CoT가 필요할까
- LLM은 한 번에 최종 답을 생성하도록 학습되어서, 복잡한 문제에선 중간 절차를 건너뛰며 틀리기 쉬워요.
- '먼저 생각하고, 생각한 과정을 보여주면서 답하라'고 지시하면 오류가 줄어요.
- 특히 산술·논리·다단계 추론 과제에서 격차가 큽니다.
사용 예시
물어보는 사람: 상점에서 사과 3개, 배 2개를 샀다. 사과는 개당 500원, 배는 400원이다.
합계는? → 생각을 한 단계씩 보여주며 계산해 봐.
- 어시스턴트가 '사과는 3×500=1500원, 배는 2×400=800원, 합계 2300원'처럼 순서를 밟아 답하도록 유도해요.
요점
- CoT는 모델 재학습 없이 프롬프트만으로 추론을 강화하는 '추론 시점(inference-time)' 기법이에요.
- 과한 설명은 토큰 낭비일 수 있어, 문제 난이도에 맞춰 쓰는 게 좋아요.