Claude 공식 릴리스 노트의 새 항목을 AI가 분석·정리한 글입니다. 정확한 내용은 하단 원문에서 확인해 주세요.
🤖 AI 분석 (Claude)
advisor 도구가 이제 max_tokens 파라미터를 지원합니다. 이 파라미터를 설정하면 advisor 모델의 호출당 출력을 제한할 수 있습니다.
이를 통해 전체 길이의 응답이 필요 없는 워크로드에서 레이턴시와 출력 토큰 비용을 줄일 수 있습니다.
왜 중요한가
advisor 모델의 응답 길이를 제한함으로써 불필요한 출력을 줄이고, 이로 인해 API 호출 비용을 낮추고 응답 속도를 빠르게 할 수 있습니다. 특히 짧은 답변만 필요한 경우 효율성이 크게 향상됩니다.
실제로 써보려면
advisor 도구를 정의할 때 tools[].max_tokens 파라미터를 설정하여 원하는 최대 출력 토큰 수를 지정하면 됩니다.
⚠️ AI가 원문을 바탕으로 생성한 분석입니다. 사실 확인은 아래 원문에서 해 주세요.
변경 내용 (원문)
The advisor tool now supports a max_tokens parameter to cap the advisor model's output per call, reducing latency and output token cost for workloads that don't need full-length advisor responses. Set tools[].max_tokens on the advisor tool definition; see Capping advisor output.
출처: Claude Platform 릴리스 노트 (원문 보기)