2.4.4 사용량 메타데이터

OpenAI API는 토큰 단위로 사용량을 계산합니다. 토큰(token)은 모델이 텍스트를 처리하는 기본 단위로, 문장을 잘게 나눈 조각이라고 생각하면 됩니다. 영문은 보통 단어 하나가 1~2개 토큰으로 나뉘고, 한글은 영문보다 더 많은 토큰을 사용하는 경우가 많습니다.

앞의 코드에서 response에는 텍스트뿐 아니라 사용량 정보도 함께 들어 있습니다. 이 정보는 usage_metadata 속성에서 확인할 수 있습니다. 출력 부분을 다음과 같이 수정합니다.

examples/3_first_call.py

(전략)
response = llm.invoke("파이썬을 한 문장으로 설명해줘.")

usage = response.usage_metadata
if usage:
    print(f"입력 토큰: {usage['input_tokens']}")
    print(f"출력 토큰: {usage['output_tokens']}")
    print(f"합계    : {usage['total_tokens']}")