GPUaaS는 GPU as a Service로 클라우드 환경에서 GPU를 서비스 형태로 제공하는 것을 의미합니다. 클라우드 서비스 제공자가 GPU를 가상화하여 사용자에게 제공하는 방식입니다. 사용자는 필요한 만큼의 GPU 자원만을 할당받아 사용하고, 사용한 만큼만 비용을 지불할 수 있습니다. 이를 통해 복잡한 시뮬레이션, 데이터분석, 인공지능(AI) 트레이닝 등 리소스 집약적인 프로젝트에 GPU를 더욱 유연하게 사용할 수 있습니다. GPU를 실제 도입 및 구축하려면 초기 구축 비용뿐만 아니라 이를 지속적으로 관리하는 데에도 많은 비용이 소모됩니다. 이럴 경우 원하는 시점에서만 사용할 수 있는 GPUaaS가 도움이 될 수 있습니다. 오늘 Cover Stroy에서는 GPUaaS에 대한 개념 및 주요 이점, 도입 고려사항 등의 상세한 내용을 살펴보고자 합니다.
클라우드 서비스를 통해 슈퍼컴퓨터 인프라를 쓸 수 있는 서비스가 빠르게 늘고 있어요. AI를 비롯해 강력한 컴퓨팅 성능을 요구하는 분야가 많아지고 있어서인데요. 업계 관계자는 "클라우드 기반 슈퍼컴퓨터는 유지보수 비용을 크게 절감할 수 있고 확장성에서 큰 장점을 가진다"라며 "AI를 비롯한 발전과 과학 연구에 실질적인 도움이 될 것"이라고 전망한 바 있어요.
오라클은 지난 12일 AI 슈퍼컴퓨터 'OCI 슈퍼클러스터'를 발표했어요. 슈퍼컴퓨터 인프라를 직접 구축하지 않고 클라우드 서비스를 통해 슈퍼컴퓨터 수준의 고성능 AI 연산을 수행할 수 있어요. 오라클 뿐만 아니라 많은 기업이 슈퍼컴퓨터 경쟁에 뛰어들었는데요. 마이크로소프트는 클라우드 플랫폼 애저를 통해 슈퍼컴퓨터 '이글'을 운용하고 있고 아마존웹서비스도 '아마존 EC2 인스턴스 클러스터'라는 이름으로 고성능 클라우드 컴퓨팅을 지원해요.
현재와 같은 추세로 인공지능(AI) 관련 기술이 발전할 경우, 2030년에는 AI 모델의 규모가 지금의 1만 배로 확장될 수 있다는 예측이 나왔어요. 에포크는 "확장 추세는 2030년까지 중단 없이 계속될 것"이라며 "AI는 10년 안에 극적으로 발전할 것"이라고 강조했어요.
비영리 연구기관 에포크의 연구진은 AI 확장에 있어 가장 큰 제약 요소로 '전력'을 꼽았어요. 전력은 AI 학습에 가장 중요한 요소인 AI 칩을 실행하는 데 사용돼요. 병목 현상을 해소하기 위해 여러 데이터센터에 학습을 분산하는 방법이 유력하다고 전했어요. 더불어 '학습용 데이터 부족'도 제약 요소로 꼽았는데, 현재 성장률로는 5년 안에 양질의 텍스트가 바닥날 것이라고 해요.
한국클라우드산업협회가 개최한 '클라우드 빅테크 2024' 컨퍼런스에서는 소프트웨어부터 인프라, 미래의 생성 AI까지 클라우드 산업의 현재와 미래를 논의하는 자리가 마련됐어요. 기조강연에서 네이버클라우드 상무는 "AI 도입과 활용은 목적이 아닌 수단이 되어야 한다"라며 "실질적으로 활용 가능한 AI를 위해서는 방향성을 인지하는 게 우선"이라고 강조했는데요. AI 도입에 있어 기업의 과제를 효과적으로 해결하기 위한 솔루션을 선택하는 것이 가장 중요하다는 의미예요.
KT클라우드 본부장은 발전하는 AI 알고리즘과 늘어나는 데이터양, 개선된 컴퓨팅 파워가 AI 산업 성자의 토양이 됐으며 이제는 GPU 활용에 드는 높은 전력 사용량과 고집적 인프라, 보안 등 3가지 요소에 집중할 시기라고 전했어요.
'2024 울산 포럼'에서 SK가 울산시를 혁신하기 위한 AI 활용 방안과 지역문제 해법을 제시했어요. SK 최 회장은 "AI를 제대로 활용하기 위해서는 클렌징이 잘 돼 있는 엄청난 양의 데이터로 AI를 훈련시켜야 하지만, 울산의 개별 기업이 이렇게 하기에는 한계가 있다"면서 "울산 산업단지 내 전체 데이터를 다같이 공유하는 방식으로 AI 관련 인프라를 만드록, 이를 울산 제조어벵 맞도록 반영해야 효과를 볼 수 있다"라고 설명했어요. 울산이 시도하면 여수, 대전 등의 다른 도시도 모두 시도하게 되어 결국은 제조업 관련 데이터를 총망라하는 거대한 AI 산업 인프라로 만들 수 있다는 것이에요.
