보안

LLM 모델의 경우, 모든 사용자가 모델을 공유해서 사용하다 보니 ‘내가 입력한 데이터가 학습에 활용되지 않을까?’ 혹은 ‘내 데이터가 LLM까지 넘어가면서 보안에 문제는 없을까?’라는 의문을 가질 수 있습니다.

▲ 그림 2-11 모델 공유

보안(특히 네트워크 측면의 보안)을 강화하기 위해서는 마이크로소프트 애저(Azure) 오픈AI를 사용하는(정확히는 프라이빗 엔드포인트(private endpoint)) 방법도 고려해볼 수 있습니다. 애저에서는 오픈AI가 PaaS¹ 형태로 서비스되기 때문에 SLA²뿐만 아니라 보안을 강화할 수 있는 방법들이 많이 추가되어 있습니다.

그럼 2장의 마지막으로 LLM의 한계에 대해 알아보겠습니다.