Note 스트림

추가한 코드의 (11)번과 (12)번에는 stream이라는 단어가 있습니다. (11)번에서 API 요청을 할 때 stream=True라는 조건을 추가했고, (12)번에서 응답 결과를 출력할 때 st.write()가 아닌 st.write_stream() 명령을 이용했습니다.

챗GPT에게 질문하면 챗GPT가 응답을 완성할 때까지 기다렸다가 한꺼번에 답변하지 않습니다. 마치 생각나는 대로 말하는 것처럼 응답을 순차적으로 출력하는데, 이러한 형태의 데이터 흐름을 스트림(stream)이라고 합니다. 이렇게 하면 사용자 입장에서는 전체 응답을 기다릴 필요가 없기 때문에 생동감 있게 AI와 대화하는 느낌을 받을 수 있습니다.