Job
프라이버시나 비용 때문에 로컬 모델로 옮기고 싶은데 작업 성공률이 절반으로 떨어지는 상황을 측정으로 다룹니다. 먼저 사용자의 실제 업무에서 과제 세트를 만들고, 로컬 모델의 현재 성공률을 여러 번 반복 실행해 편차까지 함께 잽니다. 그다음 실패한 사례를 형식 문제인지, 스키마 문제인지, 도구 호출 문제인지, 근거 없는 서술인지, 지시 미준수인지, 아니면 정말 모델이 못 푸는 것인지로 나눕니다. 앞의 다섯 가지는 구조로 고칠 수 있고 마지막 하나는 그 모델의 한계입니다. 이어서 출력 계약, 제약 디코딩, 스키마 검증, 횟수를 제한한 수정 재시도, 도구 호출 검사, 작업 분해를 한 겹씩 적용하고 매번 다시 측정해 어떤 겹이 실제로 점수를 올렸는지 가려냅니다. 목표 성공률에 못 미치면 도달했다고 하지 않고 최고치와 남은 원인을 그대로 보고합니다.