작년에 회사에서 클라우드 비용 구조를 분석하다 충격을 받은 적이 있다. AI 모델 서버 한 대가 웹 서버 열 대보다 전력을 더 먹고 있었다. 그때부터 AI 데이터센터의 전력 문제에 관심을 갖게 됐는데, 2026년이 되니 상황이 상상을 초월한다. 가트너 추산으로는 올해 글로벌 데이터센터 전력 소비가 565 TWh에 달한다. 포르투갈 한 국가가 쓰는 전기량과 맞먹는다.
더 놀라운 건 AI 서버가 전체의 31%인 175 TWh를 차지한다는 점이다. 2027년이면 기존 범용 서버 전력 소비를 처음으로 추월한다고 한다.
AI 서버는 도대체 왜 이렇게 전력을 먹는가
일반 웹 서버는 요청이 올 때 작동하고 대기 상태에서는 전력을 거의 안 먹는다. 반면 AI 서버, 특히 학습 중인 서버는 수주 동안 최대 부하로 가동된다. 추론(사용자 질문에 답하는 과정)도 기존 웹 서비스와는 비교가 안 된다.
엔비디아의 최신 B300 칩을 보자. H100 대비 와트당 연산 성능이 약 4배 올랐다고는 하는데, 칩 하나당 소비 전력 자체도 크게 뛰었다. 효율은 좋아졌는데 더 많은 칩을 더 빽빽하게 밀어 넣으니 데이터센터 전체 전력은 오히려 가파르게 상승한다. 딜레마다.
특히 에이전트 AI의 등장이 변수다. 기존 챗GPT 한 번 질문이 약 0.34Wh를 소비했는데, 자율적으로 여러 단계를 수행하는 에이전트 AI는 하루에 최대 3kWh까지 간다. 약 1만 배 차이다.
전력 부족 — 이미 현실이 됐다
2026년 여름, 미국 버지니아주 북부에서 전력 그리드가 한계에 달했다. 전 세계 데이터센터 밀집도가 가장 높은 지역인데, 신규 데이터센터 연결을 제한하겠다는 발표가 나왔다.
한국도 마찬가지다. 국내 클라우드 사업자들이 증설을 추진하지만 지역 전력망 수용 한계와 주민 반대에 부딪힌다.
- 미국 AI 데이터센터 전력 소비: 연간 68 TWh (전체의 약 3분의 1)
- 한국 데이터센터 전력 소비: 연간 약 20 TWh 추산
- 빅테크 4사(MS·구글·메타·아마존) 2026년 인프라 투자: 합산 7,000~7,250억 달러
냉각 비용이 또 다른 병목
전력만 문제가 아니다. AI 서버가 뿜어내는 열을 식히는 데도 에너지가 막대히 든다. 데이터센터 전력의 약 40%가 냉각 시스템에 쓰인다. 액체 냉각(Liquid Cooling) 전환이 빠르게 진행 중이다.
액체 냉각은 공기보다 열 전달 효율이 수십 배 높다. 다이렉트 투 칩(Direct-to-Chip) 방식이나 침지식(Immersion) 냉각까지 여러 기술이 상용화 단계에 들어섰다.
프리쿨링(Free Cooling)도 주목받는다. 사계절이 뚜렷한 한국 기후에서는 연간 에너지 비용을 20~30% 절감할 수 있다.
기업들이 내놓은 카드들
근본적인 접근은 칩 효율 자체를 끌어올리는 것이다. 엔비디아 데이터센터 칩의 와트당 연산 성능은 2016년 이후 약 150배 향상됐다.
하지만 제펜스 역설(Jevons Paradox)이 발목을 잡는다. 효율이 좋아지면 비용이 내려가고 더 많이 쓰게 돼서 총 소비량은 오히려 느는 현상이다.
재생에너지와 원자력 쪽도 움직임이 있다. 구글, 마이크로소프트, 메타가 대규모 PPA를 체결 중이고 아마존은 펜실베이니아의 원자력 발전소를 매입했다. SMR(소형모듈원전)은 상용화가 2030년대 초반이라 당장은 기대하기 어렵다.
ESS(에너지저장장치) 설치도 늘고 있다. LG에너지솔루션, 삼성SDI 등 한국 배터리 기업이 데이터센터용 ESS 시장에서 주도적 역할을 하고 있어 국내 데이터센터 에너지 효율 개선에 유리한 환경이다.
EU 규제가 만드는 파급효과
2026년 8월 2일부터 EU AI법의 투명성 의무가 본격 시행됐다. 데이터센터의 에너지 효율과 탄소 배출에 대한 투명성 요구가 한층 높아졌다.
유럽에서 서비스하는 AI 기업만 해당되는 게 아니다. 글로벌 스탠다드가 되면 결국 모든 시장으로 퍼진다.
일반 사람들에게 이게 왜 중요한가
데이터센터 전력 문제가 멀게 느껴질 수 있지만 소비자에게 직결된다. AI 서비스 요금은 전력 단가 상승으로 인상될 수밖에 없다.
스마트폰 가격도 마찬가지다. AI 데이터센터용 HBM 수요가 폭증하면서 일반 DRAM 가격까지 올랐다. RAM 1GB 가격이 2.80달러에서 12달러로 6배 급등했고 구글 픽셀이 799달러에서 899달러로 오른 게 대표 사례다.
- AI 서비스 구독료: 전력 비용 증가로 인한 인상 압력
- 스마트폰 가격: 메모리 수요 폭증으로 10~15% 인상
- 전기요금: 데이터센터 전력 수요 증가가 산업용 전력 단가에 영향
앞으로 어떻게 될까
가트너는 2027년 AI 서버 전력이 258 TWh에 달해 기존 서버를 추월할 것으로 본다. 액체 냉각 보급, 신세대 고효율 칩, 재생에너지 확충, ESS 설치 등 다각적 접근이 동시에 이루어지고 있다.
소비자 입장에서는 자신이 쓰는 AI 서비스의 환경 발자국에 관심을 갖는 것부터 시작할 수 있다.