표 1-1 상용 API 모델과 오픈소스 모델 비교
|
기준 |
상용 API 모델 |
오픈소스 모델 |
|
개발 속도 |
매우 빠름 |
비교적 느림 |
|
초기 비용 |
낮음 |
높음 |
|
운영 복잡도 |
낮음 |
높음 |
|
커스터마이징 |
제한적 |
매우 높음 |
|
데이터 보안 |
외부 전송 필요 |
내부 운영 가능 |
모델 선택은 LLM 애플리케이션 개발에서 가장 중요한 출발점으로, 이후의 구조와 운영 방식에 큰 영향을 미칩니다. 따라서 앞에서 제시한 기준을 바탕으로 서비스 환경과 목표에 가장 적합한 모델 전략을 선택해야 합니다.
다음 장에서는 선택한 모델을 실제 애플리케이션에서 사용하기 위한 개발 환경 설정 방법을 살펴보겠습니다.