Sampling
모델이 예측해 낸 다음 토큰 확률 분포 지도 상에서 실제로 하나의 결과 값을 추출해 내는 통계적 연산 과정으로, 템퍼러처 등의 수치로 통제됩니다.
출력 결과물의 엄격한 결정론적 고정과 유연하고 창의적인 다변화 성향 사이의 질적인 밸런스를 조율하는 마스터 밸브 역할을 수행합니다.