[픽클레터] AI 데이터센터, 연산 시설 넘어 ‘AI 팩토리’로 진화 🏭

생성형 AI와 에이전틱 AI가 확산되면서 대규모 연산을 안정적으로 뒷받침할 데이터센터의 역할도 달라지고 있습니다. 기존의 데이터 저장·처리 기능에서 나아가 모델 학습과 추론, 서비스 운영에 필요한 GPU와 전력·냉각·네트워크 설비를 통합하는 AI 팩토리가 새로운 모델로 부상하고 있습니다. 이에 따라 컴퓨팅 자원을 유기적으로 연결하고 전체 시스템을 효율적으로 관리하는 역량이 경쟁력의 기준으로 자리 잡고 있습니다.

AI 워크로드가 학습에서 추론, 에이전틱 AI로 진화하면서 GPU에 집중됐던 연산 구조에도 변화가 나타나고 있습니다. AMD는 국내 팹리스 기업들과 협력해 EPYC CPU와 GPU, 퓨리오사AI의 NPU, 망고부스트의 DPU를 결합한 이기종 컴퓨팅 환경 구축에 나섰습니다. 이처럼 개방형 하드웨어와 소프트웨어를 기반으로 여러 연산 장치를 연계하면 작업 특성에 맞춰 자원을 효율적으로 배분할 수 있습니다.

고성능 GPU가 집적된 서버 랙의 전력 밀도가 높아지면서 기존 공기냉각만으로 발열을 제어하기 어려워지고 있습니다. 이에 칩에 직접 냉각수를 공급하는 D2C(Direct-to-Chip) 방식 등 액체냉각 기술의 도입이 활발해지고 있습니다. 설비 이상 징후를 AI로 사전에 감지하거나 로봇을 활용해 시설을 점검하는 자동화 기술도 도입되면서, 데이터센터 관리 체계가 사후 대응에서 예측·예방 중심으로 전환되는 모습입니다.

엔비디아의 차세대 AI 가속기 베라 루빈과 AMD의 MI450 등 신규 플랫폼 출시를 앞두고 고용량 MLCC(적층세라믹콘덴서) 수요도 증가하고 있습니다. AI 서버의 연산 규모가 커지면서 GPU뿐 아니라 CPU와 메모리 등 각 부품의 안정적인 전력 공급을 뒷받침하는 MLCC 탑재량도 늘어나는 추세입니다. 반면 고급형 제품의 생산능력을 단기간에 늘리기는 어려워 수요와 공급 간 격차가 당분간 지속될 것으로 전망됩니다.