AI 기술이 급격히 발전하면서, 기업들은 AI 인프라를 확장하는 것에 많은 관심을 쏟고 있습니다. 더 많은 데이터를 처리하고, 더 복잡한 모델을 학습시키기 위해서는 강력한 컴퓨팅의 자원이 필요하기 때문입니다. 하지만 인프라 확장만으로는 AI 성능을 극대화하기 어렵습니다. 한 설문조사에 따르면 경영진 중 93%가 컴퓨팅 리소스를 자체적으로 활용할 수 있다면 AI 팀의 생산성이 크게 향상될 것이라고 믿고 있다고 합니다.
이처럼 인프라를 효과적으로 사용하기 위해서는 자원을 어떻게 하면 더욱 잘 활용할 수 있을지에 대해 고찰해 보고 그에 맞는 방안을 찾는 것이 매우 중요합니다. 고가의 고성능 자원들을 효과적으로 활용하지 못한다면, 인프라를 확장한 만큼의 효과성을 보지 못할 가능성이 높습니다. 이번 IT 트렌드에서는 AI 인프라 확장의 필요성과 당면 과제, 그리고 GPU 자원을 최적화할 수 있는 방안에 대해 알아보겠습니다.
인공지능, 특히 딥러닝은 데이터를 기반으로 작동해요. 양질의 데이터의 양, 다양성 및 속도는 딥러닝 모델을 학습하고 테스트하는 데 있어 핵심이며, 이를 통해 실제 배포 시 기대하는 결과를 얻을 수 있어요. 따라서 데이터 품질을 높이는 것이 중요한데요. 기업 데이터가 사일로(silos)화 되면 딥러닝 모델을 위한 학습이 제대로 이루어지기 어려워요.
그래서 제조업계 전반의 머신 비전 팀에는 딥러닝 머신 비전을 의뢰할 수 있는 새로운 방법이 필요한데, 그 중 하나가 바로 클라우드예요. 클라우드 기반의 머신 비전 플랫폼을 이용하면 사용자는 현장, 국가, 지역에 관계없이 여러 제조 위치에서 데이터를 안전하게 업로드하고 라벨을 지정해 주석을 다는 등의 작업을 할 수 있어요.
최근 인공지능의 발전과 함께 고성능 연산을 위한 그래픽처리장치(GPU) 수요가 폭발하면서 'GPUaaS'라고 하는 서비스형GPU(GPU as a Service) 시장이 주목받고 있어요. 국내에서는 아직 생소한 개념이지만 해외에선 GPUaaS 시장의 성장 잠재력을 높게 평가하고 있는데요. 시장조사기관 '포천 비즈니스 인사이트'에 따르면 글로벌 GPUaaS 시장은 연평균 35.8%로 성장해 2032년 498억 4000만 달러에 달할 것으로 예상돼요.
국내에선 최근 SK텔레콤이 미국 GPUaaS 기업 '람다'와 손잡고 12월부터 사업을 본격화하겠다고 밝혔고, 삼성SDS도 엔비디아 GPU 기반의 GPUaaS 시장에 뛰어든 바 있어요. 더불어 KT클라우드는 슬라이싱 기술을 통해 고성능 GPU 인프라를 쪼개서 제공하는 서비스를 제공하고 있어요.
28일 삼성동에서 '델 테크놀로지스 포럼 2024(DTF 2024)'이 개최되었어요. 한국 델 테크놀로지스 총괄사장은 "생성형 AI는 모든 산업의 화두이자 시대의 과제로 자리잡았다"라며 "AI 인프라를 구축하려는 움직임이 가속화되고 있지만, 핵심은 방대한 데이터로부터 비즈니스 통찰력을 얻는 것이 중요하다"라고 강조했어요.
델테크놀로지스 아시아태평양·일본·중국(APJC) 총괄 사장은 생성형 AI 기반의 혁신 리더십을 구축하는 방안을 제시했는데요. AI 시대를 산업 혁명 시기에 비교하며, 이번 혁신의 주요 동력은 데이터라고 강조했어요. AI 시대에 앞서 나가기 위해 데이터센터와 고성능 AI PC로 주요 데이터를 빠르게 처리하는 것이 중요하다고 얘기했어요.
시장조사업체 욜 인텔리전스에 따르면 반도체 첨단 패키징 시장 규모는 지난해 392억 달러(52조 원)에서 2029년 695억 달러(약 92조 원)로 77.3% 증가할 전망이에요. 연평균 성장률은 11% 수준인데요. 욜은 지난해 첨단 패키징이 전체 반도체 패키징 시장의 약 44%를 차지했다면서 HPC, 생성형 AI, 자동차 등에서의 수요 증가로 점유율은 더욱 확대될 것이라고 진단했어요.
욜 측은 "아직 첨단 패키징 수요가 약세이고 고객들이 재고를 소화하는 중이지만 올해는 회복의 해"라며 "하반기부터 수요는 더 강해질 것"이라고 분석했어요.
R&D 업종에 계시는 분들이 직접 꼽은 <R&D 연구 현장의 불편함>을 토대로, 아렌티어의 기능 BEST 5를 뽑아보았어요! 관리자와 사용자가 필요로 하는 기능이 다른 만큼 아렌티어의 기능 또한 각각 나누어봤는데요. HPC 솔루션을 사용하면 ICT관리자와 R&D연구원에게 어떤 이점이 있을지, 아래 영상을 통해 확인해보세요! ✨
