Chain-of-Thought
모델이 최종 정답을 도출하기 전에 단계적인 추론 과정을 명시적으로 거치도록 유도하는 프롬프팅 기법입니다.
단순 정답 요구 프롬프트보다 추론 단계를 명시한 프롬프트가 정확도를 끌어올리는 표준 기법이 됐기 때문이다.
CoT는 단순 'step by step' 한 줄이 아니라 검증·자체 평가 step을 포함할 때 진짜 효과가 난다.
모든 응답에 CoT를 켜서 토큰·latency만 두 배로 만드는 것.
CoT의 진짜 가치는 정답률이 아니라 LLM이 어떻게 틀렸는지를 builder가 볼 수 있게 하는 데 있다.