구글이 쏘아올린 AI칩 다변화…삼성·SK HBM 전략도 진화

[이데일리 김소연 기자] 인공지능(AI) 반도체가 학습과 추론을 넘어 보안과 초장문맥 처리 등 용도별로 세분화되면서 고대역폭메모리(HBM) 시장에서도 고객 맞춤형 경쟁이 가속화하고 있다. 구글이 메모리 용량과 대역폭 등을 달리한 4종의 TPU 시스템을 선보이는 등 AI 반도체 시장의 경쟁이 개별 칩의 성능을 넘어 작업 특성에 맞춘 시스템 최적화로 확대되고 있다.

삼성전자와 SK하이닉스도 엔비디아를 비롯한 글로벌 빅테크 기업들과 차세대 HBM 협력을 강화하며 고객별 요구에 대응하고 있다. AI 가속기의 활용 목적과 설계 구조가 다양해지면서 고객이 요구하는 사양에 맞춰 메모리를 개발하는 역량이 핵심 경쟁력으로 떠오르는 모습이다.

10일 업계에 따르면 구글은 전날 보안 특화 TPU ‘8tx’와 초장문맥 처리용 ‘8i Max’를 공개했다. 지난 4월 선보인 대규모 AI 학습용 ‘8t’, 실시간 추론용 ‘8i’를 포함해 8세대 TPU 제품군을 총 4종으로 확대한 것이다. 기존 AI칩을 기반으로 메모리와 네트워크, 보안 기능 등을 달리 구성해 작업별로 특화된 시스템을 구축하는 전략이다.

구글은 8세대 TPU 제품군을 총 4종으로 확대했다. (사진=구글클라우드)

용도에 따라 HBM 구성도 달라진다. 학습용 8t에는 216GB 용량의 HBM이 탑재되는 반면 추론용 8i에는 288GB가 탑재된다. 두 제품 모두 HBM3E를 사용하는 것으로 알려졌다. 8i의 메모리 대역폭도 8t보다 약 32% 높다. 새롭게 공개된 8i Max는 8i 칩 2개를 하나의 패키지에 결합해 연산 성능과 HBM 대역폭을 각각 2배로 높였다. AI칩의 활용 목적에 따라 메모리 용량과 데이터 전송 속도까지 최적화하고 있는 셈이다.

구글이 TPU 제품군을 세분화한 배경에는 고객사들의 다양한 요구가 자리 잡고 있다. 구글은 그동안 자체 AI 모델 개발을 위해 TPU를 설계해왔지만 최근에는 외부 기업들의 요구도 적극 반영하고 있다고 설명했다. AI 에이전트가 방대한 정보를 동시에 처리할 수 있는 시스템을 원하는 기업이 있는가 하면, 금융·공공 등 규제가 엄격한 분야에서는 민감한 데이터를 보호하기 위한 보안 기능을 요구하고 있다는 것이다. 구글은 기존 AI칩을 기반으로 메모리와 광통신, 보안 기능 등의 구성을 조정해 다양한 수요에 대응하고 있다.

이처럼 AI 가속기 개발사들이 작업 특성에 따라 AI칩과 메모리 등을 달리 조합해 다양한 시스템을 구축하면서 메모리에 요구되는 사양도 세분화되고 있다. 이에 HBM 제조사인 삼성전자와 SK하이닉스 역시 고객사의 AI칩 설계 단계부터 협력하며 맞춤형 제품 개발에 속도를 내고 있다.

대표적인 사례가 엔비디아와의 협력이다. 삼성전자와 SK하이닉스, 마이크론 등 메모리 3사는 엔비디아가 추진하는 맞춤형 HBM4E인 ‘NVHBM’ 개발에 대응하고 있다. NVHBM은 엔비디아의 NVLink 퓨전(Fusion) 플랫폼을 활용하는 맞춤형 AI 가속기에 최적화된 메모리다. 삼성전자는 AMD와 지난 3월 차세대 AI 메모리 협력을 확대하는 업무협약을 체결한 바 있다. AMD의 차세대 AI 가속기 MI455X에 HBM4를 공급할 예정이며, 차세대 메모리 아키텍처까지 협력 범위를 넓혔다.

구글 새 AI칩 'TPU 8i Max'. (사진=구글클라우드)

지난 2월 최태원 SK그룹 회장은 미국 새너제이 구글 캠퍼스에서 순다르 피차이 구글 최고경영자(CEO)를 만나 AI 메모리 장기 공급 협력을 논의했다. 당시 SK하이닉스는 구글의 차세대 AI 모델과 TPU 아키텍처 개발 계획에 맞춰 고객 맞춤형 HBM을 공동 설계하고, 향후 HBM4 기반 TPU로 협력을 확대하는 방안을 제안했다. 메모리 공급을 넘어 AI칩의 초기 설계 단계부터 협력하겠다는 구상이다.

SK하이닉스는 최근 실적 발표 콘퍼런스콜에서도 “향후 고객별 시스템과 워크로드에 최적화된 커스텀 HBM이 더욱 중요해질 것”이라며 “주요 고객과 관련 프로젝트를 긴밀하게 추진 중”이라고 밝혔다.

구글의 TPU 사업 확대도 HBM 시장의 새로운 변수로 떠오르고 있다. 구글은 TPU 고객사가 AI 모델 개발 기업과 금융사, 유통업체, 대학 등 약 100곳에 이른다고 밝혔다. 지난달에는 오라클과 TPU 공급 협력을 체결하고 2027년부터 오라클 클라우드 인프라에 TPU를 도입하기로 했다. 엔비디아 GPU 외에 자체 설계 AI 가속기의 활용이 확대되면서 HBM 수요처도 한층 다양해질 전망이다.

업계 관계자는 “고객사의 AI칩 설계와 활용 목적이 다양해지면서 HBM 제조사도 고객이 요구하는 용량과 대역폭, 전력 효율 등을 맞춰 공급해야 한다”며 “커스텀 HBM 개발 역량이 향후 경쟁을 좌우할 것”이라고 내다봤다.