데이터 센터
왜 AI는 캠퍼스 네트워크에서 시작되는가
모두가 AI 데이터 센터에 대해 이야기합니다. 하지만 AI가 실제로 어디서 시작되는지에 대해서는 거의 아무도 이야기하지 않습니다.
AI에 대한 일반적인 이미지는 GPU, 첨단 냉각 시스템, 고속 광통신 네트워크로 가득 찬 거대한 하이퍼스케일 시설입니다. 이러한 시설이 중요하다는 점은 의심할 여지가 없습니다. 하지만 이는 전체 그림의 일부에 불과합니다. 현실은 모든 AI 상호작용이 다른 곳에서 시작된다는 것입니다. 바로 기업 네트워크, 즉 조직 전반에 걸쳐 사용자, 기기, 애플리케이션을 연결하는 캠퍼스 인프라에서 시작됩니다.
직원이 Microsoft Copilot을 사용하거나, AI 비서에게 질문을 하거나, 생성형 AI로 데이터를 분석하거나, AI 기반 비즈니스 애플리케이션과 상호작용할 때 가장 먼저 접하는 인프라는 AI 훈련 클러스터가 아닙니다. 바로 기업 네트워크입니다. 이는 당연한 사실처럼 보일 수 있지만, 여전히 많은 조직이 AI를 전사적 인프라 혁신이 아닌 데이터 센터 차원의 프로젝트로만 간주하고 있습니다. 이러한 가정은 앞으로 점점 더 큰 비용을 초래할 수 있습니다.
AI 도입 뒤에 숨겨진 과제
초기 AI 논의의 상당 부분은 모델, GPU, 클라우드 제공업체에 집중되었습니다. 조직이 실험 단계에서 기업 차원의 배포 단계로 넘어감에 따라 또 다른 일련의 질문들이 대두되고 있습니다.
- 우리 네트워크가 훨씬 더 많은 트래픽을 감당할 수 있을까요?
- 우리의 무선 인프라는 증가하는 수요를 감당할 수 있을까?
- 우리 건물은 점점 늘어나는 연결 기기를 수용할 준비가 되어 있는가?
- 사용자들이 AI 기반 애플리케이션에 안정적이고 안전하게 접속할 수 있을까?
AI는 애플리케이션의 작동 방식을 변화시키기 때문에 이러한 질문들은 점점 더 중요해지고 있습니다. 기존 애플리케이션은 비교적 예측 가능한 트래픽 패턴을 생성합니다.
AI 애플리케이션은 다릅니다. AI 애플리케이션은 지속적으로 데이터를 교환하고, 클라우드 서비스와 상호작용하며, 여러 출처에서 정보를 가져오고, 종종 실시간 협업, 영상 및 분석 기능을 통합합니다. AI 사용이 증가함에 따라 안정적인 연결에 대한 의존도도 높아지고 있습니다.
AI는 새로운 사용자 경험에 대한 기대치를 형성하고 있습니다
직원들은 즉각적인 답변을 받는 것에 빠르게 익숙해지고 있습니다. 이러한 기대는 AI 애플리케이션에만 국한되지 않습니다. 이는 전체 디지털 경험으로 확대되고 있습니다. 사용자가 하루 종일 AI 기반 도구를 활용하다 보면, 느린 네트워크, 불안정한 무선 커버리지, 인프라 병목 현상, 저조한 애플리케이션 성능 등의 문제가 더욱 두드러지게 드러납니다. 사실상 AI는 네트워크 자체에 대한 기대치를 높이고 있습니다. 네트워크는 더 이상 배경에서 작동하는 유틸리티가 아닙니다. 생산성에 직접적으로 기여하는 요소가 된 것입니다.
이것이 인프라 계획에 중요한 이유
AI 도입 준비도를 평가하는 많은 조직이 서버와 클라우드 서비스에 초점을 맞추고 있습니다. 그러나 보다 실질적인 질문은 대개 다음과 같습니다. ‘기존 인프라가 대규모 AI 도입을 지원할 수 있는가?’ 많은 환경에서 그 대답은 ‘부분적으로만 가능하다’는 것입니다. 트래픽 증가, 연결된 기기 수 증가, 전력 요구량 증가, 실시간 연결에 대한 수요 증가는 이전에는 눈에 띄지 않았던 인프라의 한계를 드러낼 수 있습니다. 그렇다고 모든 조직이 대대적인 재설계가 필요하다는 뜻은 아닙니다. 다만 캠퍼스 인프라가 AI 도입 준비 논의의 일부가 되어야 한다는 의미입니다.
AI 도입 준비는 AI에 최적화된 기업 네트워크에서 시작됩니다
AI가 일상적인 비즈니스 프로세스에 깊숙이 뿌리내림에 따라, AI를 종단 간 인프라 과제로 인식하는 조직일수록 성공할 가능성이 높아질 것입니다.
캠퍼스 네트워크는 직원들이 연결되는 곳입니다. 애플리케이션이 사용되는 곳이기도 하며, AI가 비즈니스 가치를 창출하는 곳이기도 합니다. 이 계층을 간과하는 조직은 정교한 AI 투자가 결국 기본적인 인프라 제약으로 인해 한계에 부딪힐 수 있음을 깨닫게 될 것입니다. AI의 미래는 데이터 센터에서 구축될지 모르지만, 그 성공은 캠퍼스 네트워크에서 시작됩니다.