더북(TheBook)

3. 스트림

챗봇이 생각나는 대로 응답하는 것처럼 보이도록 스트림(실시간 출력) 방식으로 출력합니다. st.write_stream() 명령을 사용하면 한 번에 한 토큰씩 점진적으로 텍스트를 출력할 수 있습니다.

st.write_stream(출력_내용)

 

4. 시스템 프롬프트

• 챗봇의 성격과 응답 스타일을 결정하는 프롬프트로, 모든 대화 내용에 적용하고 싶은 프롬프트가 있을 때 설정합니다.

• 대화 내용을 관리하기 위해 세션 상태를 리스트(st.session_state.messages)로 선언하고 시스템 프롬프트를 대화의 시작 메시지로 설정합니다.

# 시스템 프롬프트 추가
system_message = """
프롬프트_내용
"""
# 대화 내용 관리를 위한 세션 상태 설정
if "messages" not in st.session_state:
    st.session_state.messages = [{"role": "system", "content": system_message}]
신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.