그러나 LLM 거대화 트렌드는 뚜렷한 한계가 있습니다. 바로 방대한 양의 데이터로 모델을 훈련하려면 막대한 비용과 다량의 고성능 컴퓨팅 자원(GPU 등)이 필요하다는 점입니다.
▼ 표 2-3 기업별 NVIDIA H100 GPU 구매 수량(2014년 10월 기준)
출처: https://www.visualcapitalist.com/which-companies-own-the-most-nvidia-h100-gpus/
|
기업 |
H100 GPU 수량 |
유형 |
|
메타 |
350,000 |
프라이빗 클라우드 |
|
XAI/X |
100,000 |
프라이빗 클라우드 |
|
테슬라 |
35,000 |
프라이빗 클라우드 |
|
람다 |
30,000 |
퍼블릭 클라우드 |
|
구글A3 |
26,000 |
퍼블릭 클라우드 |
|
오라클 클라우드 |
16,000 |
퍼블릭 클라우드 |
LLM을 직접 개발할 수 없다고 하더라도, 오픈소스 파운데이션 모델이 널리 공유되면서 기업이나 개인이 이를 기반으로 미세 조정 기술을 적용해 LLM을 훈련시키고, 특정 산업이나 고유한 사용 사례에 맞게 애플리케이션을 개발할 수 있습니다.