단순히 '얼마나 빠른가'가 핵심 경쟁력이었던 과거 고성능컴퓨팅(HPC) 환경과 달리, 현재는 단순히 속도만으로는 복잡한 컴퓨팅 환경의 요구사항을 충족할 수 없게 되었습니다. 디지털 트렌스포메이션의 가속화와 데이터의 폭발적 증가로 인해, 기업 및 연구기관들은 더 많은 코어, 더 빠른 프로세서, 더 큰 메모리를 갖춘 시스템을 구축하는 데 집중하고 있습니다. 이제 기관들은 '얼마나 많은 자원을 보유하는가'보다 '어떻게 지능적으로 자원을 활용하는가'에 초점을 맞추어 경쟁력을 높이고 있습니다. 이것이 바로 '워크로드 인텔리전스'의 시대가 도래한 이유입니다. 이번 Cover Story에서는 워크로드 인텔리전스가 무엇인지, 산업별로 이를 어떻게 활용할 수 있는지, 어떤 솔루션을 사용할 수 있는지 등을 알아보고자 합니다.
글로벌 관세 정책 변화와 그래픽처리장치(GPU) 수급난의 영향으로 국내 인공지능(AI) 산업의 핵심 자원인 GPU 확보가 국가적 화두로 떠올랐어요. 이에 학계에서는 인프라 부족 문제를 지속적으로 제기하고 있으며 정치권에서는 5만장 규모의 GPU 확보 계획을 발표했는데요. 정부 일각에서는 전력과 부지 확보 등 문제를 거론하며 실행 가능성에 의문을 제기하고 있어요.
서울대 전기정보공학부 교수는 연구비는 정부와 국회에서 지원해 AI 관련 연구비가 상당히 늘어나고 있는 것을 체감하고 있지만, 학교 인프라는 여전히 부족한 실정이라고 말했어요. 또한 그는 "최첨단 AI 연구는 GPU 활용률이 대부분인 만큼 클라우드보다 자체 GPU 서버 운용이 훨씬 효율적"이라고 덧붙였어요.
기업의 생성형 인공지능(AI) 활용이 본격화되면서, 이들의 클라우드 인프라 전략에도 변화 조짐이 감지돼요. 초기에는 퍼블릭 클라우드 중심의 AI 도입을 우선했더라도, 점차 고도화 단계에 접어들면서 온프레미스 또는 프라이빗 클라우드 환경으로 다시 돌아가는 경우가 적지 않다는 것인데요. 이유는 기업들이 AI를 제대로 활용하기 위해 '내재화'하는 과정에서 퍼블릭 클라우드만으로는 충족하기 어려운 요구사항이 생겨나고 있기 때문이에요.
초기에는 퍼블릭 클라우환경에서 외부 생성형 AI 서비스를 단순 경험 수준으로 테스트하는 것이 가능할지라도, 도메인별 파인튜닝(미세조정)과 사내 시스템 통합 및 워크플로 연동 등 본격적인 내재화 단계에 접어들면 한계가 뚜렷하다는 지적이 있어요. 이에 따라 기업들은 보다 통제 가능한 인프라 환경에서 AI를 구축하고자 하는 수요가 커지고 있으며, 자연히 프라이빗 클라우드 또는 온프레미스 기반 전략에 대한 관심이 높아지고 있어요. 특히 금융·공공·제조 등 규제 산업군에서 이 같은 흐름이 더 명확해요.
금융당국이 엄격한 금융회사 망분리 규제를 풀어 인공지능(AI) 플랫폼 개발에 물꼬를 트자 새로운 서비스를 내놓겠다는 업체들이 쇄도했어요. 망분리는 지난 2013년 금융사에서 대규모 전산사고가 터지면서 도입된 규제인데요. 외부 침입으로부터 내부 전산자원을 보호하기 위해 내부망과 외부망을 철저히 분리하도록 강제한 것이에요. 이 때문에 다른 산업에서는 생성형 AI와 클라우드 서비스가 보편화됐지만 금융회사에서는 신기술 도입이 어려웠어요. 이에 당국은 규제 특례를 통해 단계적으로 관련 규제를 완화하기로 했는데, 이 같은 사업을 펼쳐보겠다는 금융사 신청이 급증하고 있어요.
업계에 따르면 신한은행은 생성형 AI를 이용한 문서정보 자동 추출 시스템을 신청했고, 하나은행은 클라우드를 활용해 AI 기술을 내부망에 이용한다는 계획을 세웠어요.
산업연구원이 조사한 '산업 AI 기업 활용 현황'에 따르면, 기업의 AI 활용 비율은 2017년 1.4%에서 2023년 6.3%까지 증가했지만 여전히 낮은 것으로 나타나요. 산업별 AI 도입률은 정보통신과 금융·보험은 25.7%와 15.3%지만 제조업은 3.9% 수준에 그친 것으로 나타났는데요.
KAIST 산업 및 시스템공학과 교수는 "자율제조의 핵심 기술은 AI·로봇·디지털트윈이어야 하며 특히, AI 기술이 급격히 고도화되는 상황"이라고 말했어요. 산업부는 AI를 통해 산업 현장 구체적 문제를 해결해야 하는 만큼, 선도 프로젝트를 발굴해 성공사례를 산업 전반으로 확산하고 산업데이터 생성·활용과 산업 현장에 익숙한 AI 인재 양성, 제조기업과 AI 기업이 함께하는 생태계 구축 등을 위해 범용 AI와는 차별화한 전략을 세운다는 계획이에요.
클루닉스가 HD한국조선해양과 HD현대중공업에 'R&D Workspace'를 구축했어요. 이는 차세대 연구개발(R&D) 플랫폼으로, 웹 기반의 인터페이스를 통해 언제 어디서나 간편하게 업무 환경에 접근할 수 있어요. 또한 기존 컴퓨팅 환경을 중앙에서 한 번에 관리해서 효율성을 높일 수 있는데요. 연구원들은 필요할 때 즉시 컴퓨팅 자원을 활용할 수 있게 되었고, 프로젝트별 모니터링 및 자원 관리 기능을 통해 관리자들의 운영 효율성이 극대화되었어요.
