사용한 코드에 대해 자세히 알아봅시다. 먼저 MCP 서버를 초기화하는 부분인데요. "chatbot"이라는 MCP 서버의 이름 옆에 MCP 서버에서 사용할 LLM을 지정합니다.

코드

mcp = FastMCP("chatbot", llm=llm)

도구로 사용할 함수를 정의합니다. 사용자가 입력한 input을 LLM에 전달하고, 응답을 그대로 돌려줍니다(GPT가 생성한 답변을 수정하거나 가공하지 않고, 있는 그대로 사용자에게 전달합니다). 또한 ainvoke()는 GPT-4o와의 비동기 호출 방식입니다.

코드

@mcp.tool()
async def chat(input: str) -> str:
    """LLM과 일반적인 대화를 수행합니다."""
    result = await llm.ainvoke(input)