클라우드 및 망중립 데이터 센터와 코로케이션 및 상호 연결 솔루션을 제공하는 글로벌 최대 공급업체 디지털 리얼티(Digital Realty)는 카카오뱅크의 ‘AI 센터’ 개소식을 1월 30일 오전 서울 상암동 ICN10 데이터 센터에서 개최했다.
카카오뱅크는 인공지능(AI)을 기반으로 금융 혁신을 지원하기 위해 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화한 인프라와 연결성을 제공하는 디지털 리얼티의 ICN10 데이터 센터를 선택했다. 카카오뱅크 AI 센터는 AI 기반의 서비스 고도화, 맞춤형 콘텐츠 생산뿐만 아니라 금융과 연계한 다양한 서비스 및 신규 서비스 개발(R&D)을 지원할 예정이다.
최근 생성형 AI가 전 산업의 영역에 걸쳐 본격적으로 활용되기 시작하면서 다양한 글로벌 금융 기관들도 챗GPT와 같은 생성형 AI 기술의 중요성을 빠르게 인지하고, 막대한 비용을 투입해 대규모 언어 모델(LLM)과 같은 원천 기술의 내재화와 적용에 힘쓰고 있다. 데이터 센터가 생성형 AI와 같이 최신 AI 워크로드를 지원하기 위해서는 충분한 전력 공급량과 서버 냉각 기술이 필수다. AI 서비스는 많은 전력을 소비하는 고성능 컴퓨팅이 필요한데, 전력을 많이 소비할수록 한 공간에 수용할 수 있는 서버 수가 줄고 높은 발열량 때문에 서버 수명도 짧아지기 때문이다.
디지털 리얼티의 데이터 센터 솔루션은 AI 워크로드를 지원하기 위한 유연한 모듈식 서비스를 제공해 고객 요구 사항에 맞춰 고성능, 냉각, 레이아웃, 연결성을 제공한다. 디지털 리얼티는 2023년 8월 랙당 최대 70킬로와트(kW)의 워크로드를 지원하기 위해 글로벌 28개 시장에서 고밀도 코로케이션 서비스를 출시했다. 디지털 리얼티의 ICN10 데이터 센터는 혁신적인 공기 보조 액체 냉각 (AALC) 기술로 업계 최고 성능의 GPU 서버를 수용할 수 있다는 공급업체 인증을 받은 바 있다.
디지털 리얼티 ICN10은 금융사가 요구하는 ‘미션 크리티컬’ 환경을 충족시켜줄 수 있다. 금융은 무엇보다 신뢰성이 요구되는 산업으로, 갑작스러운 기능 중단은 고객과 신뢰 관계에 치명적인 단절을 일으킬 수도 있다. 디지털 리얼티는 16년 연속 파이브 나인스(five-nines)를 달성한 노하우를 바탕으로 고가용성을 보장하는 데이터 센터 서비스를 제공하며 업타임 인스티튜드(Uptime Institute)에서 무중단 유지 보수가 가능한 티어 3등급을 받아 어떤 재난·재해 상황에서도 운영할 수 있다.
데이터는 AI 애플리케이션에서 매우 중요하다. AI는 전체 데이터 세트에서 학습이 이뤄질 때 더 강력해진다는 특성이 있기 때문이다. 디지털 리얼티의 글로벌 데이터 센터 플랫폼인 플랫폼 디지털®(PlatformDIGITAL®)은 서비스패브릭™ 커넥트(ServiceFabric™ Connect)를 통해 기업 에코시스템 전반의 데이터 세트에 대한 안전하고 뛰어난 성능의 액세스를 지원함으로써 프라이빗 클라우드 사용을 지원한다.
그뿐만 아니라 디지털 리얼티 ICN10은 AWS 다이렉트 커넥트(Direct Connect) 온램프(On-Ramp)를 지원한다. 앞으로 카카오뱅크 AI 센터가 하이브리드 클라우드 운영 모델로 전환 시 클라우드 온램프 연결성 확장의 용이성을 제공한다는 장점이 있다. 카카오뱅크는 자사 프라이빗 인프라를 AWS 아태 지역(서울)에 연결, AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 활용할 수 있다. 또 ICN10의 서울 디지털 미디어 시티 중심부에 자리한 지리적 이점과 네트워크 중립 환경은 지연 시간을 최소화하고, 국내 금융 기관의 기존 데이터 센터에 다양한 연결 옵션을 제공함으로써 경쟁 우위를 제공한다.
안현철 카카오뱅크 최고연구개발책임자는 “이번 AI 센터 개소를 통해 카카오 공동체 그리고 외부 학계 및 기업과 협력을 강화할 수 있는 환경을 갖췄고, 생성형 AI 및 언어모델 등 복잡한 연산이 필요한 다양한 AI 기반 사업과 연구에 속도를 낼 예정”이라며 “더 많은 고객에게 선택받고 꾸준히 성장하기 위해 기술 역량을 고도화할 계획”이라고 밝혔다.
