하이퍼스케일러가 뭔가요?

스마트폰으로 유튜브 동영상을 감상하거나, 넷플릭스에서 좋아하는 영화를 보거나, 챗GPT(ChatGPT)에게 질문을 던질 때, 그 뒤에는 디지털 세상을 움직이는 ‘초거대 디지털 공장’이 숨어 있다. 이러한 편리한 서비스의 이면에서 거대한 디지털 세상을 만드는 주인공이 바로 ‘하이퍼스케일러(Hyperscaler)’다.

1. 하이퍼스케일러의 의미

‘하이퍼스케일러’는 ‘엄청나게 큰(Hyperscale) 자원을 자유자재로 조절하여 서비스하는 초거대 플랫폼 기업’을 뜻한다.

이해를 돕기 위해 비유하자면 다음과 같다.

• 개인의 컴퓨터가 혼자 타는 자전거라면,
• 일반 회사들의 컴퓨터 서버실은 사람들을 실어 나르는 시내버스다.
• 하이퍼스케일러는 승객이 수백만 명으로 늘어나면 기차 칸을 즉석에서 수만 개로 늘려버리는 초고속 마법 열차와 같다.

이 기업들은 전 세계 곳곳에 축구장 수십 개 크기의 거대한 컴퓨터 창고인 ‘하이퍼스케일 데이터 센터’를 직접 구축하여 가동한다. 공식적으로는 컴퓨터(서버)를 최소 5,000대 이상 보유하고 있고, 면적이 900제곱미터(약 270평)를 초과하는 대형 시설을 갖추고 있어야 하이퍼스케일이라는 명칭을 사용할 수 있다.

2. 데이터 센터의 분류와 전력 효율성

컴퓨터를 보관하는 데이터 센터는 규모와 목적에 따라 크게 세 가지 유형으로 나뉜다.

• 엔터프라이즈 데이터 센터 (자체 운영형): 한 기업이 자사 직원들과 서비스를 위해 직접 소규모로 꾸려놓은 컴퓨터실이다.
• 코로케이션 데이터 센터 (임대형 아파트): 거대한 건물의 공간을 칸칸이 나누어 여러 회사에 빌려주고 월세를 받는 컴퓨터 아파트와 같은 곳이다.
• 하이퍼스케일 데이터 센터 (초거대 디지털 허브): 구글이나 아마존 같은 빅테크 거인들이 직접 설립하여 전 세계의 방대한 데이터를 한곳에 모아 처리하는 최첨단 시설이다.

이 세 시설은 ‘전기를 얼마나 알뜰하게 쓰느냐’에서 가장 큰 차이를 보인다. 컴퓨터가 작동하면 엄청나게 뜨거운 열이 발생하므로 이를 식히기 위해 에어컨을 가동해야 하는데, 이 과정에서 막대한 전기가 소모되기 때문이다.

• 일반 회사 컴퓨터실(엔터프라이즈)은 이 점수가 평균 1.6~1.8 수준으로 에어컨 가동에 많은 전력을 소모한다.
• 반면, 최첨단 냉각 기술이 집약된 하이퍼스케일 데이터 센터는 PUE가 1.1 근처에 수렴하여 전력 낭비가 거의 없다.

3. 글로벌 시장을 이끄는 3대 기업

전 세계 클라우드와 인터넷 인프라 시장은 영토의 대부분을 차지하고 있는 ‘빅 3’ 기업이 주도하고 있다.

1. 아마존웹서비스 (AWS): 클라우드 시장의 전통적인 절대 강자다. 전 세계 퍼블릭 클라우드 시장의 약 30%를 차지하고 있으며, 200개가 넘는 매우 폭넓은 종류의 서비스를 제공하는 것이 강점이다.
2. 마이크로소프트 애저 (Azure): 윈도우나 오피스 365 같은 기존 소프트웨어 생태계와 챗GPT 개발사인 오픈AI와의 강력한 파트너십을 바탕으로 가장 빠르게 성장 중인 2인자다.
3. 구글 클라우드 (GCP): 유튜브와 검색 엔진을 지탱하는 세계 최고 수준의 자체 전용 광대역 네트워크 망을 갖추고 있으며, 데이터 분석과 인공지능 엔지니어링 실력이 뛰어난 것으로 정평이 나 있다.

여기서 주목할 점은 마이크로소프트 애저가 기업 비즈니스 계약을 바탕으로 높은 매출을 올리고 있으나, 실제 인터넷망을 타고 흐르는 데이터 사용량(트래픽)을 측정해 보면 구글 클라우드가 훨씬 앞선다는 사실이다.

구글은 전 세계 사용자가 끊임없이 유튜브 동영상을 시청하기 때문에 물리적으로 흐르는 데이터 트래픽 효율이 극대화되는 반면, 마이크로소프트는 고부가가치의 소프트웨어 라이선스를 잘 판매하는 사업적 강점을 가졌기 때문이다.

4. 인공지능(AI)과 컴퓨터 두뇌: “독자 반도체를 만들자”

챗GPT와 같은 생성형 인공지능을 가르치고 작동시키려면 성능이 매우 뛰어난 컴퓨터 머리(반도체)가 필요하다. 이 분야는 엔비디아(NVIDIA)의 가속기(GPU)가 시장을 장악하고 있으나, 가격이 지나치게 비싸고 구하기 어려워 하이퍼스케일러들은 엄청난 투자 비용 부담을 지게 되었다.

이에 대응하여 하이퍼스케일러들은 엔비디아에 대한 의존도를 줄이기 위해 직접 AI 전용 맞춤형 반도체(ASIC)를 설계하기 시작했다.

• 구글의 TPU v7 (Ironwood): 인공지능이 사람처럼 빠르게 생각하고 답을 내는 ‘추론’ 단계에 최적화하여 설계한 7세대 반도체다. 물로 칩의 열을 식히는 액체 냉각 기술과 결합하여 전 세대보다 성능을 대폭 향상했다.
• 아마존의 Trainium (트레이니움): 인공지능에게 지식을 가르치는 ‘학습’ 단계와 실무 연산을 고루 처리하도록 아마존이 개발한 전용 칩셋이다.
• 마이크로소프트의 Maia 200 (마이아 200): 마이크로소프트의 AI 비서인 ‘코파일럿’과 오픈AI의 플래그십 인공지능 모델을 전담 가동하기 위해 설계된 최첨단 가속 칩이다.

이처럼 독자적인 반도체를 확보함으로써 하이퍼스케일러들은 외부 칩 구매 비용을 절감하는 동시에 자사 인공지능 서비스에 맞춘 최적의 가동 속도를 실현할 수 있게 되었다.

5. 전력 부족 한계와 차세대 냉각 기술

인공지능 서비스의 팽창으로 데이터 센터의 전력 소모량은 상상을 초월할 정도로 늘어났다. 인공지능 서버 한 대의 전력 수요는 일반 가정 수십 가구의 사용량과 맞먹는다.

발전소에서 전기를 공급받기 위해 대기하는 시간만 평균 5~7년이 걸리면서 데이터 센터 시장에는 전력 비상이 걸렸다. 이 전력 부족 문제를 극복하기 위해 빅테크 기업들이 주목한 무탄소 에너지가 바로 ‘원자력 발전’이다.

• 아마존(AWS)은 펜실베이니아에 있는 Susquehanna 대형 원자력 발전소와 직접 전선 계약을 맺어 데이터 센터로 깨끗한 친환경 전기를 다이렉트로 공급받는 구조를 마련했다.
• 마이크로소프트는 가동을 중단했던 미국의 ‘스리마일섬 원자력 발전소’를 재가동하는 프로젝트에 자금을 대고, 여기서 생산되는 전기를 20년간 독점 구매하기로 약속했다.
• 구글은 공장에서 블록처럼 조립해 데이터 센터 옆에 바로 배치할 수 있는 차세대 미니 원자로인 ‘SMR(소형 모듈형 원자로)’ 기술에 선제적으로 자본을 투자하고 있다.

전력을 안정적으로 수급하는 것만큼 컴퓨터를 식히는 냉각 기술도 빠르게 진화하고 있다.

• 액침 냉각(Immersion Cooling): 전기가 통하지 않는 특수한 절연 오일 수조에 컴퓨터 메인보드를 통째로 담가 열을 식히는 기술이다.
• 자연 외기 냉방: 기온이 낮은 지역의 차가운 바람을 필터로 걸러 데이터 센터 내부로 흐르게 함으로써 에어컨 가동을 줄이는 자연 냉방 기법이다.
• 폐열 재활용: 컴퓨터 열기 때문에 뜨거워진 공기를 모아서 주변 아파트 주민들의 지역난방이나 스마트 농장의 온실 난방수로 순환 공급하여 에너지를 재활용한다.

6. 대한민국을 지키는 우리의 데이터 센터

글로벌 빅테크의 무차별적인 국내 진입 속에서, 대한민국의 데이터 주권을 수호하고 인공지능 연산 자원을 스스로 확보하려는 로컬 인프라 구축 노력도 대단히 치열하다.

특히 우리나라 법률은 국가 안보, 세금, 공공 금융 등 민감한 공공 데이터가 국외로 유출되는 것을 차단하기 위해 외산 클라우드의 사용을 원천 제한하고 있다. 이처럼 우리 영토 내에서 안전하게 데이터를 격리 보존하려는 움직임을 ‘소버린 클라우드(Sovereign Cloud)’라 부른다.

또한 전력 계통 과밀을 막기 위해 수도권 내 10MW 이상의 대용량 시설 입지를 제한하는 ‘전력계통영향평가’가 시행됨에 따라, 국내 하이퍼스케일러들은 세종이나 광주 등 지방 거점으로 인프라를 분산 건설하고 있다.

• 네이버 ‘각 세종’: 세종특별자치시에 구축된 네이버의 두 번째 자체 하이퍼스케일 데이터 센터다. 축구장 41개 크기에 달하며, 60만 유닛의 국내 최대 서버 수용 능력을 갖추고 있다. 내부적으로 자율주행 자산 로봇 ‘가로’와 ‘세로’가 돌아다니며 장비를 효율적으로 나르고, 자체 개발한 자연 바람 공조 시스템인 ‘NAMU’를 통해 에너지를 획기적으로 절약한다.
• 카카오 데이터센터 안산: 카카오가 안산 한양대 에리카 캠퍼스 내에 구축하여 가동을 개시한 첫 자체 데이터 센터다. 총 12만 대의 서버 수용 성능을 가졌으며, 수열 순환 기반의 친환경 설계를 적용해 연간 수천 톤의 온실가스 배출량을 감축하고 있다.
• NHN클라우드 광주 국가 AI 데이터센터: 광주광역시 첨단 지구에 마련된 인공지능 연구 특화 기지다. 현존 최고의 상용 연산 장치인 엔비디아 H100 등을 국내 최대 규모로 구축하여, 연구소나 대학 및 기업들이 초고성능 컴퓨터(HPC) 자원을 원활하게 활용할 수 있도록 지원하고 있다.

이상 하이퍼스케일러에 대해서 알아봤다. 구체적으로 들어가면 상당히 복잡하지만 최대한 쉽게 풀어서 작성했으므로, 어느정도 이해는 할수 있다고 생각한다.