실행하면 다음과 같이 입력 토큰, 출력 토큰, 전체 토큰 수를 확인할 수 있습니다.

> uv run python examples/3_first_call.py
...
입력 토큰: 20
출력 토큰: 37
합계    : 57

입력 토큰은 모델에 전달한 질문의 토큰 수이고, 출력 토큰은 모델이 생성한 답변의 토큰 수입니다. 합계는 둘을 더한 전체 토큰 수입니다.

LLM API 비용은 보통 입력 토큰과 출력 토큰을 기준으로 계산됩니다. 따라서 같은 모델이라도 입력이 길어지거나 생성하는 답변이 길어질수록 비용이 증가합니다. 지금 단계에서는 비용을 세세하게 계산하기보다 작은 예제를 여러 번 실행해보며 모델 호출 흐름과 응답 구조에 익숙해지는 데 집중합니다.

참고