오늘날 기업과 연구 기관들은 전례 없는 데이터 폭증과 복잡한 연산 요구에 직면해 있습니다. 인공지능, 빅데이터 분석, 시뮬레이션, 디지털 트윈 등 첨단 기술의 도입은 컴퓨팅 환경의 복잡성을 급격히 증가시켰습니다. 이러한 변화 속에서 고성능 컴퓨팅(HPC) 인프라의 효율적인 통합 관리가 기업 경쟁력의 핵심 요소로 부상하고 있습니다.
오늘은 IT TREND를 통해 분산된 자원을 관리하는 것에 대한 한계점과 통합 관리에 대한 필요성, 핵심 요구사항과 활용 사례 등에 대해 알아보겠습니다.
오픈AI '챗GPT', 앤트로픽 '클로드' 등의 범용 LLM은 다양한 주제를 빠르게 학습할 수 있다는 장점이 있지만, 각 산업이 요구하는 맥락 이해력, 정확성, 규제 대응력 등에 대해서는 취약하다는 지적이 나와요. 이러한 한계는 성능 문제가 아니라 학습 데이터의 범용성과 과적합 위험, 도메인에 특화된 개념 계층구조 부족에서 기인해요. 이에 따라 인공지능(AI) 기술이 거대언어모델(LLM)을 중심으로 확산되던 흐름에서 벗어나 산업 맞춤형 '버티컬 AI'로 전환되는 흐름이 빨라지고 있어요.
버티컬 AI가 주목받는 배경에는 세 가지 축이 자리해요. ▲도메인 최적화로 인한 문제 해결력 ▲데이터 중심의 경량화 전략 ▲정확성 향상을 통한 규제 산업 대응력인데요. 이미 LG AI연구원, 코히어 등의 파운데이션 모델 기업들은 기존처럼 모델 파라미터를 키우기보단 양질의 산업 데이터로 성능을 끌어올리는 방식에 주력하고 있어요.
구글클라우드가 추론 기능에 초점을 맞춘 텐서처리장치(TPU) '아이언우드'(Ironwood)를 공개했어요. 이는 구글이 내놓은 첫 추론 전용 AI 칩인데요. 기존 AI 모델이 방대한 데이터에서 패턴을 학습해 확률에 기반한 답변을 생성해 냈다면, 추론 모델은 문제 해결 과정을 단계별로 보여주고 마치 사람의 사고를 따라가듯 답변을 제공해요. 여러 단계를 미리 생각하고 사용자를 대신해 복잡한 작업을 수행해야 하는 AI 에이전트에 필요한 핵심 기술인데요. 이를 부하 없이 구동하려면 탄탄한 컴퓨팅 파워가 받쳐줘야 하는데, 구글 클라우드는 이 같은 시장 상황을 반영해 새로운 칩을 내놨어요.
추론AI에 이어 이를 뒷받침할 AI 칩 기술 경쟁도 한층 더 치열해질 전망이에요. 엔비디아 CEO 젠슨황은 "추론 모델 등장으로 이전보다 100배 많은 컴퓨팅 파워가 필요하다. 사고 능력을 갖춘 AI 에이전트가 많이 사용될수록 AI 추론 수요는 늘어날 것"이라고 언급한 바 있어요.
중소벤처기업부(중기부)와 중소기업기술정보진흥원 부설 스마트제조혁신추진단이 '스마트제조 정책혁신 라운드테이블'을 개최했어요. 여기에는 제조 분야 인공지능 기술 전문가들과 산업계, 학계, 지원기관 관계자 등 40여 명이 참석했는데요. 중기부는 인공지능 기술이 생성형AI(인공지능)에서 '에이전틱 AI'와 '피지컬 AI' 등으로 발전함에 따라 혁신적인 인공지능 기술을 중소제조현장에 활용하고 확산시키기 위한 방안을 연구하고 있어요.
AI 기술의 발전은 제조업 분야의 매출 증대와 생산 비용을 절감할 것이라는 전망이 나왔어요. 전문가들은 AI 기술이 제조업 1인당 매출을 7년 뒤에는 최대 40%까지 증가시키고, 생산 비용은 최대 46% 줄일 수 있다고 예상한 바 있어요.
경기대학교가 AI·빅데이터 관련 신기술 과목 수요 증가와 교육 고도화 요구에 대응하기 위해 고성능 GPU가 탑재된 컴퓨터 46대를 추가 설치했어요. 최신 GPU가 장착된 고사양 장비를 통해 학생들은 대규모 데이터 분석, 딥러닝 학습 등 대용량 실습을 실시간으로 수행할 수 있게 되었는데요.
전북대학교도 4차 산업혁명 시대를 선도할 실감형 콘텐츠와 인공지능 기술에 기반한 교육·연구 플랫폼 구축의 핵심이 될 'XR실습실'과 'AI서버실'을 구축했어요. 'AI서버실'에는 고성능 GPU 서버와 대용량 데이터 저장 장비가 구축되어 있어 학생과 연구자들이 대규모 데이터 분석 및 인공지능 모델 개발을 효과적으로 수행할 수 있는 환경을 제공해요.
