(좌측부터) 카카오뱅크 서상원 팀장, 엄준식 CIO, 안현철 CRDO, 신재홍 CTO, 디지털 리얼티 코리아 한성민 대표,
맷 베르작(Matt Berzak) 포트폴리오 매니지먼트 부사장, 이성진 센터장, 황성환 영업 이사

카카오뱅크는 AI를 기반으로 금융 혁신을 지원하기 위해 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화된 인프라와 연결성을 제공하는 디지털 리얼티의 ICN10데이터 센터를 선택했으며, 카카오뱅크 AI 센터는 AI 기반의 서비스 고도화, 맞춤형 콘텐츠 생산뿐만 아니라 금융과 연계한 다양한 서비스 및 신규 서비스 개발(R&D)를 지원할 예정이다.

최근 생성형 AI가 전 산업의 영역에 걸쳐 본격적으로 활용되기 시작하면서 다양한 글로벌 금융 기관들도 챗 GPT와 같은 생성형 AI 기술의 중요성을 빠르게 인지하고 막대한 비용을 투입해 대규모 언어모델(LLM)과 같은 원천 기술의 내재화와 적용에 힘쓰고 있다.

데이터 센터가 생성형 AI와 같이 최신 AI 워크로드를 지원하기 위해서는 충분한 전력 공급량과 서버 냉각 기술이 필수이다. AI 서비스는 많은 전력을 소비하는 고성능 컴퓨팅이 필요한데, 전력을 많이 소비할수록 한 공간에 수용 가능한 서버 수가 줄고 높은 발열량 때문에 서버 수명도 짧아지기 때문이다.

디지털 리얼티의 데이터 센터 솔루션은 AI 워크로드를 지원하기 위한 유연한 모듈식 서비스를 제공해 고객의 요구사항에 맞춰 고성능, 냉각, 레이아웃, 연결성을 제공한다. 디지털 리얼티는 작년 8월 랙당 최대 70킬로와트(kW)의 워크로드를 지원하기 위해 글로벌 28개 시장에서 고밀도 코로케이션 서비스를 출시했다. 디지털 리얼티의 ICN10 데이터 센터는 혁신적인 공기 보조 액체 냉각 (AALC)기술로 업계 최고 성능의 GPU 서버를 수용할 수 있다는 공급업체 인증을 받은 바 있다.

디지털 리얼티 ICN10은 금융사가 요구하는 '미션 크리티컬' 환경을 충족시켜줄 수 있다. 금융은 무엇보다 신뢰성이 요구되는 산업으로 갑작스러운 기능의 중단은 고객과의 신뢰 관계에 치명적인 단절을 일으킬 수도 있다. 디지털 리얼티는 16년 연속 파이브 나인스(five-nines)를 달성한 노하우를 바탕으로 고가용성을 보장하는 데이터 센터 서비스를 제공하며 업타임 인스티튜드(Uptime Institute)에서 무중단 유지보수가 가능한 티어 3등급을 받아 어떤 재난/재해 상황에서도 운영이 가능하다.

데이터는 AI 애플리케이션에서 매우 중요하다. AI는 전체 데이터 세트에서 학습이 이뤄질 때 더욱 강력해 진다는 특성을 가지고 있기 때문이다. 디지털 리얼티의 글로벌 데이터 센터 플랫폼인 플랫폼디지털® (PlatformDIGITAL®)은 서비스패브릭™ 커넥트(ServiceFabric™ Connect)를 통해 기업 에코시스템 전반의 데이터 세트에 대한 안전하고 뛰어난 성능의 액세스를 지원함으로써 프라이빗 클라우드 사용을 지원한다. 뿐만 아니라, 디지털 리얼티 ICN10은 AWS 다이렉트 커넥트(Direct Connect) 온램프(On-Ramp)를 지원한다. 향후 카카오뱅크 AI 센터가 하이브리드 클라우드 운영모델로 전환시 클라우드 온램프 연결성 확장의 용이성을 제공한다는 장점이 있다. 카카오뱅크는 자사의 프라이빗 인프라를 AWS 아태지역(서울)에 연결해 AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 활용할 수 있다.

또한 ICN10의 서울 디지털 미디어 시티 중심부에 위치한 지리적 이점과 네트워크 중립 환경은 지연 시간을 최소화하고 국내 금융 기관의 기존 데이터 센터에 다양한 연결 옵션을 제공함으로써 경쟁 우위를 제공한다.

안현철 카카오뱅크 최고연구개발책임자는 “이번 AI센터 개소를 통해 카카오 공동체 그리고 외부 학계 및 기업과 협력을 강화할 수 있는 환경을 갖추었고, 생성형AI, 언어모델 등 복잡한 연산이 필요한 다양한 AI기반 사업과 연구에 속도를 낼 계획이며, 더 많은 고객들에게 선택받고 지속적으로 성장하기 위해 기술 역량을 고도화할 계획이다.”라고 밝혔다.

디지털 리얼티 코리아 한성민 대표는 카카오뱅크 AI센터 개소식 축사에서 “한국은 아시아 태평양 지역에서 빠르게 성장하는 AI 시장중 하나로 주목하고 있다”고 말하며, “디지털 리얼티는 글로벌 AI 기업들의 ‘요람’으로 많은 경험을 가지고 있다. 이런 경험으로 앞으로 카카오뱅크의 금융분야 AI 혁신을 지원하기 위해 지원을 아끼지 않을 것”이라고 밝혔다.

추가 정보 안내

Platform DIGITAL^®에 대해 자세히 알아보기
ServiceFabric™에 대해 자세히 알아보기
Digital Reality의 서울 데이터 센터에 대해 자세히 알아보기

PDx®: AI 학습/추론 - 퍼블릭 클라우드