Prompt Engineering
LLM으로부터 원하는 동작을 안정적으로 유도하기 위해 지시사항, 예시, 문맥을 설계하는 작업입니다.
fine-tuning보다 빠르고 운영 변경이 쉬워 거의 모든 LLM 시스템의 1차 최적화 레이어이기 때문이다.
prompt 한 줄 잘 쓰는 게 아니라, 모델의 입력·출력 계약(structured I/O contract)을 설계하는 작업이다.
프롬프트를 코드처럼 다루지 않고 매번 손으로 고치고 versioning 안 하는 것.
프롬프트 엔지니어링은 문장 잘 쓰기가 아니라 모델의 입출력 계약을 설계하는 작업이다. 그래서 prompt도 코드처럼 versioning + eval이 따라가야 한다.