데이터 센터
AI 붐에 필요한 자금 조달은 하나의 과제이며, AI의 장기적인 가치를 보호하는 것은 또 다른 과제입니다.
AI 아키텍처가 변경될 때, 인프라 중 어느 정도를 그대로 유지할 수 있을까? AI 인프라 붐은 전례 없는 규모의 자금 조달 문제를 야기하고 있다.
파이낸셜 타임스(Financial Times)는 최근 기술 기업들이 AI 데이터센터 및 칩 구축에 필요한 부채를 지원하기 위해 최대 3,000억 달러 규모의 잔존가치 보증을 제공했다고 보도했다. 은행가들은 이러한 구조를 “대차대조표 효율적”이라고 설명한다. 즉, 특수목적법인(SPV)이 인프라를 소유하고 채권을 발행하는 한편, 기술 기업들은 기초 자산의 최소 미래 가치를 보증하는 방식이다.
이러한 구조는 자본을 확보하고 구축 속도를 가속화할 수 있다. 그러나 이는 동시에 AI 인프라 확충의 핵심에 도사린 근본적인 모순을 드러내기도 한다. 즉, AI 인프라는 장기적으로 자금을 조달받는 반면, 그 내부 기술은 놀라운 속도로 진화하고 있다는 점이다. 이는 자금 조달만으로는 답할 수 없는 다음과 같은 의문을 제기한다:
AI 아키텍처가 변화할 때, 오늘날의 인프라 중 얼마나 많은 부분이 여전히 유용하게 활용될 수 있을까?
잔존 가치 보증은 재정적 확신을 줄 수는 있겠지만, 장기적인 기술적 타당성을 보장하지는 못합니다. 가속기 세대는 계속해서 급속히 진화하고 있습니다. 네트워크 로드맵은 400G와 800G에서 신흥 1.6T 기술로 진전되고 있습니다. 랙 밀도는 증가하고, 냉각 아키텍처는 변화하며, 새로운 AI 배포 모델은 다양한 인프라 요구 사항을 만들어내고 있습니다. 많은 현용 기술들은 주변 물리적 인프라의 수명 주기 동안 여러 차례 교체될 가능성이 높습니다.
물리적 연결성만으로는 AI 투자에 수반되는 상업적 위험을 제거할 수 없습니다. 수요를 창출하거나, 전력을 확보하거나, 구형 프로세서의 가치를 보존할 수도 없습니다. 다만, 사용 중인 기술이 바뀔 때마다 피할 수 있는 물리 계층 교체가 추가적인 비용, 지연 및 운영 차질의 원인이 되는 것을 방지할 수는 있습니다.
인프라 계획에서 가장 흔한 실수 중 하나는 데이터 센터를 단일 기술 자산으로 취급하는 것입니다. 실제로 서로 다른 인프라 계층은 매우 다른 수명 주기를 가집니다. 프로세서는 몇 년 내에 교체될 수 있습니다. 스위치와 광 트랜시버는 또 다른 교체 주기를 따를 수 있습니다. 반면, 경로, 광섬유 인프라, 랙 및 분배 프레임워크는 종종 훨씬 더 오랫동안 생산성을 유지할 수 있습니다. 목표는 기술적 변화를 막는 것이 아닙니다. 변화는 불가피합니다. 목표는 한 계층의 변화가 주변의 모든 것을 자동으로 교체하도록 강요하지 않도록 보장하는 것입니다.
활성 기술은 컴퓨팅 성능을 결정하지만, 물리적 계층은 차세대 기술을 얼마나 효율적으로 배포, 통합 및 확장할 수 있는지에 영향을 미칩니다. 확장 가능한 광섬유 분배, 접근성이 뛰어난 경로, 명확한 연결 지점, 정확한 문서를 갖춘 잘 설계된 네트워크 기반은 향후 마이그레이션을 간소화하고 운영 중단을 최소화할 수 있습니다. 인프라 업계에서는 종종 솔루션을 “미래에 대비한” 것으로 묘사합니다. AI처럼 빠르게 변화하는 시장에서, 그러한 약속을 지키기는 점점 더 어려워지고 있습니다. 어떤 공급업체도 5년 후 어떤 가속기 아키텍처, 토폴로지 또는 연결 모델이 주류를 이룰지 확실하게 예측할 수 없습니다.
Aginode에서는 정의된 마이그레이션 시나리오에 따라 인프라를 평가하는 것이 더 신뢰할 수 있는 접근 방식이라고 믿습니다. 조직은 솔루션이 ‘미래에 대비된’ 것인지 묻기보다는 다음과 같은 실질적인 질문을 던져야 합니다:
- 400G에서 800G로 마이그레이션하는 동안 무엇이 바뀌는가?
- 800G에서 새롭게 등장하는 1.6T 환경으로 마이그레이션할 때 어떤 변화가 발생하나요?
- 어떤 수동형 인프라를 그대로 유지할 수 있을까요?
- 배전 환경을 재구축하지 않고도 밀도를 높일 수 있는가?
- 운영 중단을 최소화하면서 업그레이드를 완료할 수 있을까요?
이러한 질문들은 단순히 미래에 대비하겠다는 막연한 약속보다 더 가치 있는 것, 즉 무엇이 그대로 유지될 수 있고, 무엇이 변경되어야 하며, 각 전환 과정에서 무엇이 필요할지에 대한 실질적인 이해를 제공합니다.
Aginode에서는 이러한 접근 방식을 ‘인프라 유지(Infrastructure Retention)’라고 부릅니다. 인프라 유지는 정의된 기술 전환 후 설치된 물리적 기반 중 어느 정도를 계속 사용할 수 있는지 평가합니다. 목표는 모든 구성 요소를 무기한으로 보존하는 것이 아닙니다. 목표는 불필요한 교체를 피하는 것입니다. 일반적인 AI 데이터 센터 마이그레이션을 생각해 보십시오. 가동 중인 장비는 400G 환경에서 800G 또는 그 이상으로 업그레이드될 수 있습니다. 새로운 스위치와 트랜시버가 필요할 수 있습니다. 초기 설계에 따라 광분배 인프라, 경로 및 연결 프레임워크의 상당 부분이 그대로 유지될 수 있습니다. 이는 공사량 감소, 마이그레이션 비용 절감, 운영 중단 최소화, 새로운 용량의 신속한 구축을 의미할 수 있습니다. 이는 설계 논의의 방향을 바꿉니다. 운영자는 인프라가 현재의 요구 사항을 지원하는지 여부만 묻는 대신, 다음과 같은 질문도 함께 던져야 합니다:
이 인프라 중 다음 번 실질적인 기술 전환 시까지 계속 유용하게 활용될 비율은 어느 정도인가?
많은 AI 데이터 센터 운영자에게 있어 확장성은 더 이상 순수한 운영상의 고려 사항이 아니라 점차 경제적 고려 사항으로 자리 잡고 있습니다. 물리적 기반을 반복적으로 재구축하지 않고도 여러 세대의 활성 기술을 지원할 수 있는 시설은 향후 마이그레이션 비용을 절감하고, 업그레이드를 가속화하며, 운영 위험을 낮출 수 있습니다.
그러나 이러한 가치는 증거로 뒷받침되어야 합니다. 인프라 제공업체는 어떤 마이그레이션 시나리오를 지원할 수 있는지, 어떤 구성 요소를 유지할 수 있는지, 어떤 구성 요소는 교체가 필요한지, 그리고 일반적인 마이그레이션이 어느 정도 운영 차질을 초래할 가능성이 있는지를 설명할 수 있어야 합니다. AI에 대한 야망을 운영 인프라로 전환하기 위해서는 자본이 필수적입니다. 하지만 자금 조달이 완료된 용량이 지속 가능한 용량과 동일하지는 않습니다. 프로젝트는 여전히 전력을 확보하고, 건설을 완료하며, 고객을 유치하고, 기술이 진화함에 따라 운영상 관련성을 유지해야 합니다. 그렇기 때문에 프로젝트 평가 시에는 발표된 용량, 자금 조달된 용량, 계약된 용량, 건설 단계의 용량, 운영 용량, 그리고 기술 변화 속에서도 유용성을 유지할 수 있는 용량을 구분해야 합니다.
물리적 연결성은 이 전체 그림의 한 부분에 불과합니다. 하지만 이는 미래의 전환을 지원하도록 의도적으로 설계할 수 있는 몇 안 되는 인프라 계층 중 하나입니다. 올바른 질문은 인프라가 미래를 예측할 수 있는지 여부가 아닙니다. 그럴 수는 없습니다. 올바른 질문은 설계가 오늘날의 아키텍처에 대한 불필요한 의존성을 야기하는지, 아니면 속도, 밀도, 토폴로지 및 기술 세대의 신뢰할 만한 변화를 뒷받침할 수 있는 기반을 제공하는지 여부입니다.
자금 조달을 통해 AI 용량을 가동할 수는 있습니다. 하지만 ‘인프라 유지(Infrastructure Retention)’는 다음 아키텍처가 등장했을 때 그 투자 중 얼마나 많은 부분이 여전히 가치를 지닐지 결정하는 데 도움을 줍니다.
이처럼 빠르게 변화하는 시장에서 인프라의 가치는 단순히 첫날에 배포할 수 있는 것으로만 측정되지 않을 것입니다. 점점 더 ‘둘째 날에 재구축할 필요가 없는 것’으로 측정될 것입니다.