TTFT
사용자가 시스템 주입 질의 버튼을 누른 순간부터, 모델 인프라가 연산을 개시하여 최초의 완성 출력 첫 번째 토큰 문자열 조각을 화면에 뱉어내기까지 걸린 지연 시간입니다.
체감 인터랙션 성능을 지배하는 사용자 경험의 마스터 메트릭입니다. 이 수치가 극도로 낮게 유지되어야 사용자는 서비스 인터페이스가 민첩하다고 느낍니다.