1. 도구 정의
개발자는 LLM이 사용할 수 있는 함수나 API를 미리 정의합니다. 예를 들어 다음과 같은 도구를 만들 수 있습니다.
• get_current_weather
• search_database
• run_code
이때 각 도구의 이름, 기능 설명, 입력 형식을 JSON 형태로 정의해 LLM에 전달합니다.
2. LLM 판단
사용자가 질문을 입력하면 LLM은 이를 분석해 어떤 도구를 사용해야 하는지 판단합니다. 그리고 필요한 경우 도구 이름과 입력값을 포함한 실행 요청을 생성합니다. 이 단계에서는 실제 도구가 실행되지 않고, 실행 계획만 생성됩니다.