대규모 텍스트 코퍼스를 학습하여 자연어를 생성하고 추론하는 트랜스포머 기반의 신경망입니다.
현재 AI 빌더가 다루는 거의 모든 제품의 출발점이기 때문이다.
LLM 선택은 모델 성능보다 latency·비용·prompt cache·tool 호출 지원 같은 운영 변수가 더 크다.
벤치마크 점수만 보고 가장 비싼 모델을 디폴트로 고정하는 것.
Frontier 모델은 빠르게 commoditize되고 있다. 진짜 차이는 모델 자체가 아니라 그 위에 쌓는 prompt·tool·eval 레이어에서 난다.