AI가 최신 데이터 센터의 전력, 케이블 및 연결성을 재편하는 방법

AI는 데이터센터 내부에서 일어나는 일뿐만 아니라 시설 자체를 재구성하고 있습니다. 급증하는 전력 소비, 치솟는 랙 밀도, 새로운 냉각 수요, 초고속 네트워킹, 800G 및 1.6T 인프라로의 전환은 데이터센터의 설계 및 운영 방식을 재정의하고 있습니다. 이 블로그에서는 AI 워크로드가 전력, 케이블, 연결 요구사항에 전례 없는 변화를 주도하는 방법과 조직이 AI 지원 백본을 구축할 때 우선순위를 정해야 하는 사항에 대해 자세히 설명합니다.

AI 시대: 전력 및 인프라의 새로운 기준

인공지능은 데이터센터를 근본적으로 새로운 설계 패러다임으로 이끌고 있습니다. 학습 및 추론 워크로드가 폭발적으로 증가함에 따라 전력 소비량이 급격히 증가하고 있습니다. 업계 예측에 따르면 2030년까지 전 세계 데이터센터 전력 사용량이 두 배 이상 증가할 것으로 예상되며, 그 주요 촉진 요인으로 AI가 지목되고 있습니다.

랙 수준에서는 그 변화가 극적입니다. 이전에는 한 자릿수 킬로와트 범위에 머물렀던 밀도는 이제 일반적으로 10~30kW이며, 최첨단 AI 클러스터는 이를 초과하여 액체 냉각을 표준으로 필요로 합니다. 이러한 현실로 인해 운영자, 유틸리티, 기획자는 그리드 연결 및 냉각 토폴로지부터 케이블 및 연결 시스템의 물리적 설계에 이르기까지 모든 것을 재고해야 합니다.

AI의 에너지 수요와 효율성의 균형 맞추기

지난 10년 동안 데이터센터는 에너지 효율성을 크게 향상시켰습니다. 평균 PUE는 2010년 약 2.20에서 2022년 약 1.55로 개선되었으며, AI 중심 시설은 이제 1.3 미만의 수치를 목표로 하고 있습니다. 그러나 AI는 글로벌 지속가능성 문제에 대한 해결책을 제시하는 동시에 오늘날 에너지 수요를 증가시키는 역설을 불러일으킵니다.

대규모 AI 학습은 리소스 집약적인 것으로 유명합니다. IEA는 2022년에서 2026년 사이에 데이터 센터의 전력 소비가 AI로 인해 두 배로 증가할 것으로 예상합니다. 매사추세츠 애머스트 대학의 연구에 따르면 하나의 대형 AI 모델을 학습시키는 데 자동차 5대의 평생 배출량보다 많은 626,000파운드(284,000kg) 이상의 CO₂를 배출할 수 있는 것으로 나타났습니다.

효율성이 향상되면 AI를 더 저렴하게 운영할 수 있고, 이는 더 많은 사용을 장려하여 궁극적으로 총 에너지 소비를 증가시키는 고전적인 반동 효과가 발생합니다.

업계가 환경에 미치는 영향을 확대하지 않으면서 AI의 잠재력을 활용할 수 있는 방법은 무엇일까요?

이미 진행 중인 전략

이러한 긴장을 해결하기 위해 데이터센터는 몇 가지 보완적인 접근 방식을 배포하거나 개발하고 있습니다:

• 재생 에너지 통합: 소형 모듈형 원자로 또는 대규모 태양열/풍력 등 탄소 배출이 없는 전원으로 전환.
• 최적화된 AI 모델: 성능과 에너지 효율성의 균형을 맞추도록 설계된 알고리즘.
• 에너지 효율적인 하드웨어: 총 에너지 소비를 줄이는 특수 제작된 칩과 시스템.
• 고급 냉각: 액체 냉각, 침수 냉각, 차세대 열 추출 시스템으로 안전한 온도를 유지하는 데 소비되는 에너지를 줄입니다.

케이블 및 연결: 차세대 큰 병목 현상

대규모 AI 모델 배포가 폭발적으로 증가하면서 네트워크 성능이라는 새로운 제약 조건이 드러났습니다. AI 클러스터는 GPU 상호 연결에 크게 의존하며, 종종 RDMA를 사용하여 CPU의 개입을 최소화하고 처리량을 최대화합니다.

기존 네트워킹은 더 이상 적합하지 않습니다:

• 이더넷만으로는 대규모 AI 클러스터 요구 사항을 충족할 수 없습니다.

• InfiniBand 및 RoCE와 같은 고급 표준도 한계에 부딪히고 있습니다.

• 800G는 병목 현상을 일으키기 시작했으며 업계는 1.6T를 향해 가속화하고 있습니다.

AI 데이터센터 네트워크가 다른 이유

AI 중심 환경에는 다음이 필요합니다:

1. 초고속 네트워킹

2. 대규모 GPU 클러스터 전반에 걸친 초저지연

네트워크는 400G → 800G → 1.6T로 전례 없는 속도로 진화하고 있습니다. 이러한 변화는 구조화된 케이블링 요구사항(ISO/IEC 11801-5, TIA-942)에 직접적인 영향을 미치므로 고밀도 MPO 시스템이 필수적입니다.

업그레이드를 뒷받침하는 기술: SerDes 및 채널 속도

대역폭 증가는 두 가지 요소에 의존합니다:

• SerDes 채널 속도 (레인당 25G → 50G → 100G → 200G)

• 사용되는 채널 수

예시:

• 800G는 16×50G, 8×100G 또는 4×200G 솔루션으로 달성할 수 있습니다.

• 16채널 설정에는 2개의 MPO-16/24 커넥터가 필요합니다.

• 4채널 솔루션은 MPO-8/12 커넥터 하나만 필요하므로 인프라가 간소화되고 비용이 절감되며 Gbps당 에너지 효율이 향상됩니다.

채널 속도가 증가함에 따라 케이블링은 덜 복잡해지고 비용 효율성이 높아집니다.

레이턴시: 조용한 성능 저하 요인

AI 성능은 지연 시간에 매우 민감합니다. 10,000개 이상의 GPU로 확장할 경우, 3계층 스위칭 아키텍처는 최대 5개의 스위치 홉을 도입하여 광섬유 또는 구리 링크 자체보다 훨씬 더 많은 지연 시간을 유발할 수 있습니다.

AI 규모에 발맞추려면 케이블링 인프라가 그 어느 때보다 빠르게 진화해야 합니다. 유연하고 미래 지향적인 구조의 케이블링은 속도가 증가함에 따라 운영자가 숨겨진 인프라를 반복적으로 점검할 필요가 없도록 보장합니다.

ISO/IEC 11801-5 및 TIA-942와 같은 표준은 ToR, 스파인 리프 및 메시 토폴로지를 포함한 확장 가능한 설계를 지원합니다.

AI-레디 데이터 센터 케이블링에서 살펴봐야 할 사항

미래에 대비한 AI 백본을 구축하려면 이를 위해 설계된 케이블링이 필요합니다:

1. 옵틱 및 스위치 로드맵과 일치

• Base-8 및 Base-16 병렬 광케이블에 대한 기본 지원

• 오늘날의 400G/800G SR 옵틱과의 호환성

• 1.6T로 마이그레이션 시 연선 없음

IEEE P802.3dj 프로젝트는 이미 다가오는 AI 하드웨어의 물결을 위한 200G/400G/800G/1.6T 표준을 정의하고 있습니다.

2. 설치 간소화 및 TCO 절감

사전 종단 처리된 고밀도 케이블 시스템은 설치 시간을 단축하고 위험을 최소화하며 경로 공간을 최대 40%까지 절약할 수 있습니다.

3. 고밀도 패치 시스템

이러한 시스템

• 복잡성 감소

• 유지보수 효율성 향상

• VSFF 커넥터 및 새로운 멀티코어 광케이블 기술 지원

4. 밀도 및 마이그레이션을 위한 설계

소규모 엔터프라이즈 시설에서든 하이퍼스케일 클러스터에서든 접근 방식은 일관적입니다:

• LC/MPO 밀도 및 향후 마이그레이션을 위한 계획 수립

• 감사 가능한 패치 워크플로우 사용

• 공간, 거리, 토폴로지에 따라 미디어 크기 조정

시설 유형별 맞춤형 고려 사항

• 엔터프라이즈/소규모 DC: 잦은 MAC → 구리선/멀티모드 혼합, UHD LC, MPO-LC.

• 코로케이션: 빠른 테넌트 턴업 → HD/UHD 프레임, MPO 백본, 강력한 라벨링, AIM 워크플로우.

• 하이퍼스케일/AI 행: OS2 파이버, 초저손실 MPO, 마이크로 번들, 사전 종단 트렁크.

• 에지/마이크로 DC 및 아웃도어 POP: 소형, 적은 인력 → 사전 종단된 LC/MPO, 원격 가시성, 견고한 인클로저.

결론

AI는 랙 밀도 및 냉각, 그리드 설계, 모든 것을 하나로 묶는 케이블 및 연결에 이르기까지 데이터센터 에코시스템의 모든 계층을 재정의하고 있습니다. 업계가 800G 및 1.6T로 전환함에 따라 효율성, 확장성, 장기적인 성능을 보장하기 위해 구조화된 케이블링과 미래 지향적인 연결 전략이 중요해지고 있습니다.

AI 시대에 번창하는 데이터센터는 AI만큼 빠르게 진화하도록 설계된 고밀도의 유연하고 마이그레이션이 가능한 물리적 인프라에 구축된 데이터센터가 될 것입니다.

Share this