Tool Use
LLM이 외부 함수, API, 서비스 등을 호출하고 그 결과를 자신의 추론 루프에 다시 반영하는 능력입니다.
LLM이 외부 시스템을 조작하기 시작하면서 product 가치의 무게중심이 응답에서 행동으로 옮겨갔기 때문이다.
Tool 사용 안정성은 모델 능력보다 도구 schema·에러 메시지·재시도 정책 설계에서 결정된다.
tool schema를 LLM에 너무 많이 던지고 선택률·실패율을 측정하지 않는 것.
Tool use의 신뢰성은 모델 성능이 아니라 tool 설계 품질의 함수다. 도구를 LLM이 쓰기 좋게 만드는 게 곧 product 일이다.