아티클

디지털 인프라 분야의 IT 리더를 위한 AI와 HPC의 미래는 무엇일까요?

올해 우리는 인공지능(AI) 기술의 눈부신 발전을 목격하고 있으며, 이에 따라 엔터프라이즈 AI에 대한 수요가 급격히 증가할 것입니다. 이러한 혁신은 엔터프라이즈 IT 환경에 대한 기존의 사고방식을 완전히 바꾸게 될 것입니다.

디지털 리얼티의 최고 전문가 3인은 AI, 고성능 컴퓨팅(HPC), 그리고 이들을 움직이는 데이터의 미래에 대해 업계에서 가장 시급한 질문들에 답했습니다. 아래는 IDC FutureScape에서 발표한 "2024년 디지털 인프라의 미래 예측"에 대한 세 가지 주요 답변을 정리한 내용입니다. 특히 올해 AI 적용과 관련된 답변입니다.

참고: 인터뷰 답변은 이해를 돕기 위해 일부 편집되었습니다.

예측 1: 통합된 IT 인프라의 증가

IDC FutureScape에 따르면 '생성형 AI를 촉매로 2027년까지 기업의 40%가 클라우드, 코어, 엣지 전반에 걸쳐 통합된 IT 아키텍처에 의존하여 위치에 구애받지 않는 동적 워크플로 우선순위를 지원할 것'이라고 합니다.

IT 리더들은 AI와 HPC 수요 증가를 어떻게 관리할 수 있을까요?

● 패트릭 라스텐넷(Patrick Lastennet), 엔터프라이즈 부문 이사

2024년에는 훈련된 AI 모델을 배포하고 새로운 데이터에 대한 예측을 내리는 '추론' 단계가 더욱 확산될 것입니다. 많은 기업이 AI 추론을 위해 강력한 네트워크 인프라를 필요로 하며, 이를 통해 더욱 정밀한 데이터를 기반으로 예측하고 분석할 수 있게 될 것입니다. 대기업들은 사기 방지, 가격 예측 등의 AI 추론 사용 사례를 통해 혜택을 보게 될 것이며, 문서 요약, 코딩, 챗봇 등의 기능도 지원받을 것입니다.

이러한 추론의 성공적인 도입을 위해서는 강력한 WAN 네트워크가 필수적입니다. 기업들은 AI 추론을 통해 지적 재산에 대한 더 넓은 접근을 확보하고, 이를 통해 제품에 대한 이해의 격차를 줄일 수 있을 것입니다. 기업들이 이 기회를 최대한 활용하려면 정확하고 정제된 데이터를 사용해야 하며, 이를 통해 AI의 잠재력을 극대화할 수 있습니다.

기업들은 AI 추론을 위한 GPU 클러스터를 네트워크 운영 데이터 허브 근처에 배치할 계획입니다.

● 대니얼 옹(Daniel Ong) - 솔루션 아키텍트, 아태지역 이사

2024년에는 많은 기업들이 내부 리소스를 활용해 ChatGPT와 유사한 AI 시스템을 구축할 것입니다. 하지만 데이터가 사일로에 저장되어 있는 경우가 많기 때문에, AI 수요 관리와 부서 간 협업을 통한 실질적인 기회들이 존재합니다.

그러나 기업 내 데이터에 대한 접근은 지적 재산에 실존적인 보안 위험을 초래할 수 있습니다. 2024년에는 미래를 대비한 기업들이 AI를 활용해 강력한 데이터 보안 및 개인정보 보호 조치를 취해 지적 재산이 외부 인터넷에 노출되지 않도록 할 것입니다. 내부 보안 위험 또한 중요하게 관리되어야 하며, 이를 통해 권한이 없는 내부 그룹이나 개인에게 데이터가 유출되는 것을 방지해야 합니다.

기업들이 이러한 경계를 잘 유지할 수 있다면, 음성 어시스턴트, 지식 기반 챗봇, 사이버 보안 위협 탐지와 같은 기술을 최대한 활용할 수 있을 것입니다.

북미 지역에서는 고객들에게 어떤 변화가 있었으며, AI 수요 증가를 처리하기 위해 인프라 아키텍처의 우선순위를 어떻게 정하고 있을까요?

● 스티브 스미스(Steve Smith), 미주 지역 책임자, 전무 이사
AI 및 기타 신흥 기술의 경우 비즈니스를 최적화하고 미래를 대비하는 것이 중요합니다.

많은 북미 기업들이 더 나은 의사 결정을 내리고 비즈니스 운영 방식을 최적화하며 서비스와 제품을 더 잘 제공하기 위해 AI를 도구이자 지렛대로 활용하고 있습니다.

많은 고객이 AI가 어떻게 최적화되는지 이해하려고 시도하는 초기 단계에 있지만, 초기 연구 결과는 전반적으로 극적인 효율성을 허용하는 유망한 결과와 역량을 보여 줍니다.

프런트엔드에서 고객의 위치를 파악하는 것부터 공급망 구축 방법, 서비스 최적화에 이르기까지 AI는 고객의 성과를 파악하고 운영을 개선하는 데 필요한 인사이트를 제공합니다.

Digital Realty와 파트너 관계를 맺은 고객들은 운영 효율성을 위해 이러한 대규모 학습 기능에 액세스할 수 있는 방법을 모색하고 있습니다. 성공하는 기업은 단순하게 시작하여 파트너에게 더 높은 수준의 서비스를 요구하는데, 여기에는 기업의 비즈니스 운영 방식에 대한 이해도를 높이고 기업이 AI에서 얻은 인사이트를 적용하는 방법이 포함됩니다.

예측 2: 중요 워크로드를 위한 서비스형(as-a-service for critical workloads)을 가장 중요한 위치에 배치

IDC FutureScape에 따르면, "2028년까지 IT 구매자의 80%가 주요 워크로드에 대해 유연한 서비스형 소비를 우선시하여 IT 지출을 최적화하고, ITOps 기술을 강화하며 지속 가능성 목표를 달성할 것"이라고 예측했습니다.

AI 이니셔티브의 글로벌 출시를 관리하는 가장 좋은 방법에는 어떤 것이 있을까요?

● 패트릭 라스텐넷, 엔터프라이즈 부문 이사

기업 리더가 해야 할 첫 번째 단계는 중요한 워크로드를 식별하고, 그 워크로드를 어디에서 관리할 것인지 결정하는 것입니다. 데이터 개인정보 보호(주권 문제)와 사용자 경험(지연 시간)에 따라 워크로드의 로컬라이제이션을 결정해야 합니다.

다음으로, AI 지원 인프라의 글로벌 오케스트레이션을 제공할 수 있는 파트너 및 다음과 같은 파트너들과의 협력과 연결을 고려하고자 할 것입니다.

소프트웨어 개발 및 운영(DevOps): 여기서는 단일 창 관리를 통한 개발 오케스트레이션에 중점을 둡니다.
네트워크 운영(NetOps): 강력한 NetOps 태세는 단편화된 환경에서도 워크플로가 작동하도록 보장합니다. 무대 뒤에서 인프라의 글로벌 오케스트레이션에 집중해 보세요. (ServiceFabric™은 광범위한 AI 파트너 네트워크에 액세스하려는 경우 시작하기에 좋은 위치입니다.)

스마트 워크로드 배치를 위한 옵션은 무엇일까요?

클라우드에서 AI를 시작하는 것은 초기 단계에서 민첩성을 제공하며, 이후 AI 훈련이 진행됨에 따라 CPU, 스토리지, 메모리 등 리소스를 유연하게 조정할 수 있습니다.

또한, 클라우드 외부에서 관리형 솔루션을 통해 온프레미스 GPU 클러스터를 활용해 클라우드 툴링과 비용 관리를 유지하는 것도 하나의 방법입니다.

● 대니얼 옹 - 솔루션 아키텍트, 이사

AI 이니셔티브의 초기 단계에서 기업들은 기술 제공 업체와 협력해 글로벌 출시를 지원받고 있습니다. 아시아 태평양 지역에서는 AI 클러스터 구축과 학습이 활발히 이루어지고 있으며, 사이버 보안 위협 탐지가 주요 사용 사례로 자리 잡고 있습니다.

기업들은 Lenovo, Dell, HPE와 같은 제공 업체와 파트너십을 통해 GPU 애드온 기능을 활용하고 있습니다.

북미 기업들은 파트너십과 디지털 리얼의 개방형 생태계를 어떻게 활용하고 있을까요?

● 스티브 스미스, 미주 지역 책임자, 전무 이사
기업은 디지털 리얼티의 개방형 생태계를 활용할 수 있습니다. 이를 통해 우선순위가 높은 서비스형 AI 제공 업체와 전략적으로 연결하고 필요에 맞는 적절한 서비스를 선택할 수 있습니다.

기업은 또한 다음 사항을 고려해야 합니다.

AI 워크로드의 고성능 컴퓨팅 환경 요구 사항을 지원할 수 있는 누가 지원할 수 있을까요?
AI 활성화 파트너가 어떻게 컴퓨팅 환경에 액세스할 수 있을까요?
기업은 어떻게 서비스를‌사용하기 시작하나요?

기업은 디지털 리얼티가 소유하고 운영하는 고도로 연결된 데이터 센터 캠퍼스에서 이러한 질문에 대한 해답을 찾을 수 있습니다. 이 캠퍼스는 ServiceFabric™ 을 사용하여 다양한 파트너에 AI 워크플로 데이터를 전달하는 중심점입니다.

예측 3: at-ingest 데이터 분류의 도입 확대

IDC에 따르면, "2028년까지 IT 조직의 60%가 거버넌스, 데이터 손실 방지(DLP), 데이터 분석을 개선하기 위해 at-ingest 데이터 분류 엔진을 도입할 것"이라고 예측했습니다.

컴퓨팅 IT 리소스 수요 증가에 대비하여 IT 리더는 분산 데이터에 어떻게 접근해야 할까요?

● 패트릭 라스텐넷, 엔터프라이즈 부문 이사
분산 데이터에 대한 견고한 접근 방식은 텐서(tensor) 중력을 기반으로 합니다. 데이터 수집을 최적화하려면 IT 리더는 데이터의 출처에 더 많은 노력을 기울여야 합니다. AI 워크플로를 산업화하면 어떤 결과를 얻을 수 있을지 생각해 보세요. 모든 수집 영역이 어디에 위치할지 자문한 다음, 컴퓨팅을 데이터로 가져오는 것이지, 그 반대가 아닙니다.

● 대니얼 옹 – 솔루션스 아키텍트, 이사
데이터의 위치는 AI 워크플로의 효율성과 효과에 영향을 미칩니다. 이는 AI 파이프라인 전반의 접근성, 보안, 지연 시간에 영향을 미칩니다.

데이터가 수집되는 곳으로 컴퓨팅을 이동하면 다음과 같은 이점이 있습니다.

지연 시간 단축 및 정확도 향상: AI 클러스터에 더 가까운 데이터는 결과를 개선할 수 있도록 합니다. 이를 통해 더 빠르게 예측하고 의사 결정을 내릴 수 있습니다.
네트워크 및 에너지 비용 절감: 데이터 위치와 각 네트워크 비용은 에너지 절감과 궁극적으로 TCO에 영향을 미칩니다.
데이터 개인정보 보호 및 보안 규정 준수: 글로벌 기업은 지역별 데이터 수집을 위해 컴퓨팅을 사용하여 끊임없이 진화하는 데이터 보안 규정 및 보안 제어 조치의 환경을 따릅니다.

북미의 IT 리더들은 컴퓨팅 리소스에 대한 수요 증가에 따라 분산 데이터에 어떻게 접근하고 있을까요? Digital Realty는 북미 지역에서 이러한 컴퓨팅 집약적 워크로드를 충족하기 위해 어떻게 설정되었나요?

● 스티브 스미스, 미주 지역 책임자, 전무 이사
과거에 AI는 대규모 컴퓨팅 블록으로, 대량의 데이터를 수집하여 기업이 모델을 실행하면서 그 데이터에서 반복할 결론을 도출하는 것이었습니다.

이제 기업은 분산된 데이터를 더 가까이에서 가져와 실시간으로 의사 결정을 내릴 수 있습니다. 경쟁이 치열한 환경에서는 어떤 조직이 대규모 언어 모델 또는 데이터 블록의 데이터를 가장 잘 보호하고 검증하며 사용해 경쟁사보다 더 나은 의사 결정을 내릴 수 있는지가 차별화 요소가 될 것입니다.

여기서 다룬 세 가지 예측을 보다 폭넓게 살펴보면 어떤 통찰력을 얻을 수 있을까요?

● 스티브 스미스, 미주 지역 책임자, 전무 이사
AI 효율성을 실현하기 위한 경쟁은 기업이 역량을 가치로 전환할 수 있는 파트너를 어떻게 활용하느냐에 달려 있습니다. Digital Realty의 확장과 역량을 살펴보면, Digital Realty는 탁월한 경쟁 우위를 제공할 수 있습니다. 전 세계에 걸친 광범위한 플랫폼, 연결성, 전 세계 주요 대도시를 기반으로 사람, 기업, 데이터를 통합하여 더욱 효율적으로 업무를 처리할 수 있도록 지원합니다.

Digital Realty는 현재에만 유의미한 것이 아니라 향후 수년간의 미래에도 지속 가능한 비즈니스를 지원하기 위해 설계 방식, 냉각 방식, 상호 연결 솔루션 제공 방식에 있어 엄청난 진전을 이루고 있습니다.

AI 전략의 미래에 대비하는 방법을 자세히 알아보려면 최신 백서인 IT 리더를 위한 AI를 다운로드하세요.

*IDC FutureScape: 전 세계 디지털 인프라 2024년 예측(Worldwide Digital Infrastructure 2024 Predictions), 문서 #US50401023, 2023년 10월