Chris Sharp, 최고 기술 책임자

본 아티클은 인공지능 및 AI-ready 데이터 센터를 다루는 3부작 시리즈 중 두번째 글입니다.

1부 읽기: 디지털 리얼티와 함께 AI의 가능성을 발휘하고 변화를 이끌어보세요
2부 계속 읽기
3부 읽기: AI 시대의 데이터 센터 설계: AI와 레거시 인프라의 통합

미래를 위한 데이터 센터 설계

저는 디지털 리얼티의 CTO로서, "현재와 미래의 워크로드를 효율적이고 지속 가능한 방법으로 지원하기 위해서는 데이터 센터를 어떻게 설계해야 하나요?" 와 같은 질문을 받곤 합니다.

간단한 기업용 웹 호스팅만을 고려해 구축된 데이터 센터가 차세대의 AI 워크로드와 저장, 전송 및 처리해야 하는 방대한 양의 데이터를 지원할 수 있게 하려면 어떻게 해야 할까요?

디지털 리얼티는 2017년 데이터 센터에 대한 AI의 영향을 최초로 공개적으로 발표했지만, 그 이전부터 AI의 진화를 추적하고 있었습니다. 우리는 AI가 적용된 서비스 출시가 가속화될 시점을 예상해 데이터 센터 설계에 필요한 가변성과 모듈성을 구축했습니다.

AI 혁신을 위한 AI-ready 인프라는 단순히 하나의 데이터 센터를 건설하는 것만으로는 충분하지 않습니다. 규모에 따라 요구 사항을 지원할 수 있는 모듈식 글로벌 데이터 센터 플랫폼이 필요한 이유를 본 아티클에서 알아보세요.

IT 인프라 요구 사항은 항상 진화하고 있습니다.

인터넷과 인터넷을 사용하는 용도와 이를 지원하는 인프라는 항상 변화하고 있습니다.

AI는 IT 인프라 요구 사항에 영향을 미치는 최초의 새로운 기술도 아니며, 마지막도 아닐 것입니다.

이메일, 웹 브라우징, 소셜 미디어, 스트리밍 비디오와 같은 기술의 등장과 성숙을 통해 데이터 센터와 데이터 센터 내 인프라에 대한 규모와 복잡성에 대한 요구 사항이 크게 변화했습니다.

AI를 위해 필요한 IT 인프라 요구사항

인공지능(AI)은 데이터 센터로 새로운 세대의 칩, 네트워크 장비 및 다른 인프라를 밀어넣고 있습니다. 우리는 데이터 센터에 연결되는 네트워크의 크기와 수, 그리고 전통적인 기업이 저장하는 데이터 양에서 큰 변화를 목격했습니다. 이건이 우리가 연결된 데이터 커뮤니티와 데이터 중력의 영향에 대한 통찰력을 여러 해 동안 공유해온 이유입니다.

AI는 클라우드 이후 인터넷의 어떤 변화보다도 더 많은 컴퓨팅, 네트워크, 스토리지 인프라를 필요로 합니다. 향후에는 이 같은 수요가 훨씬 더 강력해질 것이라고 생각합니다.

디지털 리얼티는 이러한 변화에 적극적으로 참여해왔습니다. Digital Realty의 글로벌 데이터 센터 플랫폼인 PlatformDIGITAL^®은 여러 획기적인 AI 학습과 어플리케이션의 본거지로 선택되어 무엇이 가능한지 증명해냈습니다. 예를 들어, Atlassian은 Castle Globalⁱ, SURFsaraⁱⁱ, Graphcoreⁱⁱⁱ 같은 고객에게 혁신을 위한 인프라를 지원했으며, 우리의 경험, 전문성 및 주요 파트너십을 활용하여 곧 AI 여정을 시작하는 기업들을 돕고 있습니다. 가장 최근에는 일본 오사카에 위치한 최신 데이터 센터인 KIX13이 전 세계 데이터 센터 공급업체 중 NVIDIA DGX H100 지원이 가능한 최초의 데이터 센터가 되었다는 점을 발표했습니다.

시스템 복합 체계: 모듈성은 시대를 초월한 설계 접근 방식의 핵심입니다.

디지털 리얼티 데이터 센터는 랙, 층, 스위트, 건물, 캠퍼스의 냉각 기술까지 수많은 개별 시스템으로 구성되어 있습니다.

데이터 센터를 상호 연결된 모듈식 시스템으로 설계하면, 한 번에 모든 것을 다시 설계하거나 개조할 필요 없이 한 번에 한 개 또는 적은 수의 시스템만 발전시킬 수 있습니다. 이를 "시스템 복합 체계" 설계 접근법이라고 합니다. 이 접근 방식은 비용 효과적이며, 운영 효율이 높습니다. 고객이 모듈화를 통해 새로운 인프라를 지원하는 데 필요한 시간과 비용을 줄일 수 있습니다.

모듈화로 맞춤형 AI 배포 가능

이러한 설계 접근 방식을 통해 다른 고객에게 영향을 주지 않고 고객의 맞춤형 요구 사항을 해결할 수도 있습니다. 이는 AI의 요구를 충족시키는 데 중요한 요소로, 새로운 배포가 종종 빠르게 필요하며 전력 소비와 냉각에 대한 특수한 요구 사항이 있기 때문입니다.

AI 애플리케이션은 PlatformDIGITAL^®에 배포된 컴퓨팅 인프라의 크기와 밀도를 변경하며, 이는 고객의 요구를 수용하기 위한 데이터 센터 시설의 설계에 직접적인 영향을 미칩니다.

예를 들어, 일부 AI 인프라는 업계 평균 랙당 전력의 10배를 소비하지만 여전히 에너지 사용량이 적은 다른 인프라와 동일한 물리적 공간에 배포해야 할 수도 있습니다. 고도의 모듈식 접근 방식을 통해 이러한 수준의 유연성을 쉽게 구현할 수 있습니다.

모듈화로 지속 가능한 냉각 기술 구현

디지털 리얼티의 모듈식 설계 철학을 실천에 옮기는 또 다른 예는 데이터 센터에 액체 냉각을 배치할 수 있는 능력입니다.

AI 인프라의 냉각 요구 사항으로 인해 데이터 센터에서 액체 냉각을 사용하는 것에 대한 관심이 크게 증가하고 있습니다. 이 냉각 방식은 기존 공기 냉각 방식과 다르며, 시설 주위로 펌프로 순환하는 냉각수 순환을 사용하고 이를 랙의 열 발생 칩에 연결한 다음 그 열을 대형 라디에이터로 옮겨서 빼내는 방식입니다.

^{마더보드에서 액체 냉각 방식을 통해 냉각되는 컴퓨터 CPU}

액체 냉각은 액체가 공기보다 800배나 밀도가 높아 IT 장비에서 발생하는 과도한 열을 훨씬 쉽게 이동시킬 수 있기 때문에 AI 인프라를 냉각하는 데 매우 효율적인 방법입니다. 또한, 데이터 센터에서 유틸리티의 전력을 보다 효율적으로 사용하여 전체 전력 사용량을 줄일 수 있습니다.

액체 냉각은 당사의 모듈식 설계 철학을 보여주는 주목할만한 예입니다. 5년 전만 해도 데이터 센터에서 액체 냉각을 사용하는 것은 엣지 케이스 외에는 어려운 일로 여겨졌는데, 당시 애플리케이션에서 사용하는 인프라는 액체 냉각을 사용할 만큼 충분한 열이 발생하지 않았기 때문입니다. 오늘날 이러한 냉각 방식은 밀도가 높은 AI 인프라 배포에 대한 엄격한 요구 사항으로 점점 더 인식되고 있습니다.

디지털 리얼티의 데이터 센터 중 상당수는 이러한 용도로 사용할 수 있는 액체 냉각 시스템을 갖추고 있습니다.

또한 새로운 냉각 수요를 지원하기 위해 다양한 방법을 연구, 개발 및 운영하는 데 수 년을 보냈습니다. 예를 들어, 고효율 공기 냉각 방식과 기타 대체 액체 냉각 기술을 사용하며 바닥, 스위트룸 또는 개별 랙에 맞게 적용할 수 있습니다. 디지털 리얼티는 모듈식 설계를 채택하고 있기 때문에 이러한 대안을 수용할 수 있습니다.

디지털 리얼티 데이터 센터 시설의 고성능 컴퓨팅(HPC) 배포를 냉각하는 후면 도어 열교환기

^{Digital Realty 데이터 센터 시설에서 고성능 컴퓨팅(HPC) 배포를 냉각하는 후면 도어 열교환기}

이 모듈식 접근 방식은 고객의 요구 사항과 성능 목표를 만족시키는데 그치지 않고, 우리를 경제적이고 매우 지속 가능한 방향으로 이끕니다. 우리는 특정 고객의 요구에 맞는 가장 효율적인 기술을 사용하고, 한 층 내에서도 글로벌 규모에서 조합하여 사용합니다.

모든 요구사항을 충족하는 단 하나의 솔루션은 존재하지 않으며, 유연성은 복잡성을 초래합니다.

2.4 GW 이상의 전력으로 수많은 고유 시스템을 대규모로 운영하는 것이 벅차게 느껴질 수 있지만, 이런 일이 바로 디지털 리얼티가 가장 잘 할 수 있는 일입니다. PlatformDIGITAL^®은 최대 규모의 멀티테넌트 데이터 센터 사업 영역을 보유한 세계 최고의 글로벌 데이터 센터 플랫폼으로, 전 세계에서 가장 크고 혁신적인 5,000곳 이상의 기업과 파트너십을 맺으며 전문성과 능력을 키워나가고 있습니다.

디지털 리얼티는 우리가 오늘날 할 수 있는 일에 그치지 않으며, 수십 년 동안 고객을 지원할 준비가 되어 있습니다. 디지털 리얼티는 2023년과 2024년에 400 메가와트 이상의 추가 데이터 센터 용량을 온라인으로 제공할 것으로 예상되며, 다른 시설과 동일한 미래지향적 방식으로 설계되었습니다.

IT 인프라 설계는 최종 목표를 염두에 두고 시작해야 합니다.

디지털 리얼티는 2017년부터 AI가 인터넷과 데이터 센터에 미칠 영향을 평가하기 시작했습니다.

애플리케이션이 언제 성숙할 것인지 또는 AI 서비스가 다음 차례로 대세가 될지 예측할 수는 없지만, 성공적인 디지털 혁신의 핵심은 가능한 한 최종적인 목적을 염두에 두고 인프라 배포를 계획하는 것이라는 점을 고객과 함께 반복하여 확인했습니다.

미래에 대비한 인프라를 지금부터 꾸준히 설계하고 배포하면 앞으로 시간과 비용을 절약할 수 있습니다.

디지털 리얼티에 연락하여 효율적으로 AI를 배포하고 비즈니스 혁신을 달성하세요.

본 아티클은 인공지능 및 AI-ready 데이터 센터를 다루는 3부작 시리즈 중 두번째 글입니다.

"AI 전성시대가 도래하면 데이터 센터는 쇠퇴할 것이다." 과연 그럴까요?