[ Industry flow : Day3 ] HBM은 왜 AI 시대의 ‘혈액’일까?

제품을 보면 반도체가 보이고, 흐름을 보면 산업이 보인다.

최근 몇 년 동안 반도체 산업에서 가장 많이 등장한 단어를 꼽으라면 단연 HBM(High Bandwidth Memory)일 것이다.

뉴스에서는 HBM을 차세대 메모리라고 이야기하고, 투자자들은 HBM 관련 기업을 찾기 위해 분주하다.

하지만 나는 HBM을 단순히 성능이 좋은 메모리 반도체라고 생각하지 않는다.

오히려 AI 시대를 움직이는 혈액에 가깝다고 생각한다.

많은 사람들은 제품을 본다.

하지만 나는 제품보다 흐름을 보려고 한다.

혈액을 이해하면 사람의 몸을 이해할 수 있듯,

HBM을 이해하면 AI 산업 전체를 이해할 수 있기 때문이다.

오늘은 HBM이라는 제품이 아니라,

HBM이 만들어내는 산업의 흐름을 이야기해보려고 한다.

One’s Pace | AI Editorial Illustration

사람들은 흔히 뇌가 가장 중요한 기관이라고 말한다.

하지만 아무리 뛰어난 뇌를 가지고 있어도 혈액 공급이 멈추면 몸은 정상적으로 움직일 수 없다.

AI도 똑같다.

많은 사람들이 AI 산업의 핵심은 GPU라고 이야기한다.

틀린 말은 아니다.

GPU는 AI 모델을 학습시키고 추론하는 AI의 뇌다.

하지만 GPU도 데이터를 공급받지 못하면 아무 일도 하지 못한다.

수많은 데이터를 초고속으로 전달받아야만 비로소 성능을 발휘할 수 있다.

그리고 그 역할을 하는 것이 바로 HBM이다.

그래서 나는

GPU가 AI의 뇌라면, HBM은 AI의 혈액이라고 생각한다.

One’s Pace | AI Editorial Illustration

HBM을 단순히 메모리로만 보면 반도체 기업 하나가 보인다.

하지만 HBM을 흐름으로 보면 전혀 다른 세상이 보이기 시작한다.

HBM의 성능이 향상된다.

↓

GPU가 더 많은 데이터를 처리한다.

↓

AI 성능이 높아진다.

↓

더 많은 AI 서비스를 운영할 수 있다.

↓

더 많은 데이터센터가 필요해진다.

↓

전력과 냉각 설비가 함께 늘어난다.

↓

건설과 인프라 투자가 확대된다.

↓

자본이 움직인다.

결국

HBM 하나의 변화가 산업 전체의 흐름을 바꾸는 것이다

One’s Pace | AI Editorial Illustration

여기서 가장 중요하게 생각하는 질문이 하나 있다.

“지금 산업의 병목은 어디에 있는가?”

AI 기업들은 GPU를 더 많이 사고 싶어 한다.

하지만 GPU만 있다고 AI는 움직이지 않는다.

HBM 공급이 부족하면 GPU도 기다려야 한다.

GPU가 기다리면 데이터센터 구축도 늦어진다.

데이터센터가 늦어지면 AI 서비스 확장도 늦어진다.

결국 산업 전체가 하나의 병목에서 속도가 결정된다.

그래서 기업들은 HBM 확보에 경쟁적으로 투자하기 시작했고,

투자자들의 관심도 자연스럽게 HBM으로 향했다.

많은 사람들은

돈이 좋은 기업으로 간다고 생각한다.

하지만 나는 조금 다르게 생각한다.

돈은 좋은 기업보다, 가장 큰 병목으로 먼저 움직인다.

One’s Pace | AI Editorial Illustration

산업혁명 시대에는 공장이 국가 경쟁력을 결정했다.

공장이 많을수록 더 많은 제품을 만들 수 있었고,

더 많은 부가가치를 창출할 수 있었다.

그렇다면 AI 시대의 공장은 무엇일까?

나는 데이터센터라고 생각한다.

오늘날 AI 기업들은 새로운 모델을 학습시키기 위해 막대한 규모의 데이터센터를 건설하고 있다.

그리고 그 안에는 수많은 GPU와 HBM이 필요하다.

AI는 소프트웨어 산업처럼 보이지만,

실제로는 막대한 전력과 냉각, 통신, 건설 인프라 위에서 작동하는 인프라 기반 산업이다.

그래서 AI를 이해하려면 반도체만 봐서는 부족하다.

그 반도체를 움직이는 인프라를 함께 봐야 AI산업 생태계를 이해할 수 있다.

One’s Pace | AI Editorial Illustration

One’s Insight

많은 사람들은 HBM을 하나의 제품으로 본다.

하지만 흐름을 읽는 사람은 HBM이 연결하는 산업을 본다.

기업은 결과다. 제품도 결과다.

더 중요한 것은

기술이 산업을 만들고, 산업이 인프라를 만들며,

인프라가 새로운 병목을 만들고,

자본은 그 병목을 향해 움직인다는 사실이다.

산업을 이해한다는 것은 제품을 아는 것이 아니라, 연결 구조를 이해하는 것이다.

오늘의 체크포인트

오늘 하루 뉴스를 볼 때 아래 다섯 가지를 먼저 확인해 보자.

① 지금 시장이 주목하는 기술은 무엇인가?
② 그 기술이 해결하려는 병목은 무엇인가?
③ 그 병목 때문에 함께 성장하는 산업은 어디인가?
④ 그 산업을 움직이기 위해 필요한 인프라는 무엇인가?
⑤ 지금 자본은 그 연결 구조의 어느 지점으로 이동하고 있는가?

다음 이야기

오늘 우리는 AI 산업의 혈액(HBM)을 보았다.

그렇다면 이 혈액은 어디에서 가장 많이 사용될까?

바로 AI 시대의 공장, 데이터센터다.

다음 글에서는 왜 데이터센터가 AI 시대의 핵심 인프라가 되었는지, 그리고 왜 전 세계 자본이 데이터센터 건설에 몰리고 있는지를 함께 살펴보려 한다.

One’s Pace | AI Editorial Illustration