GPU 전쟁은 끝났다…AMD가 노리는 것은 'AI 공장'이다
기존 고객 메타와 오픈AI, 오라클에 이어 세계 최대 클라우드 사업자인 MS까지 확보하면서 AMD는 AI 반도체 기업에서 AI 인프라 기업으로의 전환을 본격화했다.
표면적으로는 새로운 AI 서버 제품 하나를 발표한 것처럼 보인다. 그러나 이번 발표의 의미는 훨씬 크다.
AI 산업의 경쟁이 더 이상 GPU 한 장의 성능을 겨루는 시대가 아니라, 데이터센터 전체를 누가 더 효율적으로 설계하고 운영하느냐를 겨루는 시대로 넘어가고 있음을 보여주는 사건이기 때문이다.
엔비디아를 따라가는 것이 아니라 경쟁의 판을 바꾸려 한다
불과 몇 년 전까지만 해도 AI 반도체 경쟁은 단순했다. 더 빠른 GPU를 만들고, 더 많은 연산을 처리하면 시장을 선점할 수 있었다.
하지만 생성형 AI 시대가 열리면서 상황은 완전히 달라졌다. GPT와 같은 초거대 언어모델은 수천, 수만 개의 GPU가 동시에 작동해야 한다.
GPU가 아무리 뛰어나도 CPU와 메모리, 네트워크, 저장장치, 냉각 시스템이 이를 뒷받침하지 못하면 전체 데이터센터의 성능은 크게 떨어질 수밖에 없다.
이 때문에 AI 산업의 경쟁 단위도 GPU에서 랙(Rack), 다시 말해 데이터센터를 구성하는 하나의 완성된 시스템으로 이동하고 있다.
엔비디아는 이미 그레이스 블랙웰과 차세대 베라 루빈 플랫폼을 통해 GPU와 CPU, 네트워크를 하나로 묶은 랙 시스템을 공급하고 있다.
고객들은 개별 반도체를 조립하는 것이 아니라 완성된 AI 인프라를 그대로 설치하는 방식으로 데이터센터를 구축한다.
AMD의 헬리오스 역시 같은 전략이다. GPU와 서버용 CPU, 네트워크 장비를 하나의 랙으로 통합해 기업이 별도의 시스템 설계 없이 곧바로 AI 학습과 추론에 활용할 수 있도록 만든 것이다.
이는 AMD가 더 이상 GPU 제조사에 머무르지 않고 AI 데이터센터 전체를 공급하는 기업으로 진화하겠다는 선언이다.
AI 반도체의 승부는 이제 '토큰당 비용'이다
AMD가 이번 발표에서 가장 강조한 것은 GPU 성능이 아니었다. 바로 '토큰당 비용(Cost per Token)'이었다. 이는 생성형 AI 시대를 상징하는 새로운 경쟁 기준이다.
AI 기업들은 이미 세계 최고 수준의 반도체를 확보하고 있다. 이제 중요한 것은 GPU가 얼마나 빠른지가 아니라 같은 전력과 같은 비용으로 얼마나 많은 AI 답변을 생산할 수 있는가다.
챗GPT나 코파일럿, AI 검색처럼 서비스 이용자가 늘어날수록 데이터센터는 하루에도 수십억 개의 토큰을 생성해야 한다.
GPU 성능이 조금 높아지는 것보다 토큰 하나를 만드는 비용을 몇 퍼센트 줄이는 것이 훨씬 큰 경쟁력이 된다.
AMD는 헬리오스를 통해 전체 소유 비용(TCO)을 낮추고 토큰당 비용을 최소화하는 데 초점을 맞췄다고 설명했다. 이는 엔비디아와 경쟁하는 방식이 달라졌음을 의미한다.
과거에는 "누가 더 빠른 GPU를 만드는가"가 핵심이었다면 이제는 "누가 더 낮은 비용으로 AI 서비스를 운영하게 해주는가"가 새로운 경쟁력이 되는 것이다.
이번 발표에서 가장 눈에 띄는 부분은 고객 명단이다. 메타는 최대 6기가와트 규모의 AMD GPU 도입을 결정했고 오픈AI와 오라클도 헬리오스 시스템을 구축할 예정이다.
여기에 MS까지 애저 데이터센터 도입을 공식 발표하면서 AMD는 세계 주요 AI 기업 대부분을 고객군에 포함하게 됐다. 이들이 AMD를 선택하는 이유는 단순히 가격 때문만은 아니다.
현재 AI 데이터센터 GPU 시장의 95% 이상을 엔비디아가 차지하고 있다. 한 기업에 지나치게 의존하면 공급 지연이나 가격 협상에서 불리해질 수 있다.
AI 데이터센터 하나를 짓는 데 수십조 원이 투입되는 상황에서 공급망을 다변화하는 것은 선택이 아니라 위험 관리에 가깝다. AMD는 이러한 틈을 공략하고 있다.
개방형 생태계를 앞세워 특정 기업의 기술에 종속되지 않는 AI 인프라를 구축할 수 있다는 점을 강조하고 있으며 GPU뿐 아니라 CPU와 네트워크를 하나의 플랫폼으로 제공하면서 기업들의 선택지를 넓히려 하고 있다.
AMD는 엔비디아를 단숨에 따라잡는 것이 아니라 AI 시장의 두 번째 축으로 자리 잡는 것만으로도 막대한 성장 기회를 확보할 수 있다.
AI 산업의 승자는 '칩 회사'가 아니라 'AI 공장'을 만드는 기업이 된다
이번 헬리오스 공개는 AMD가 엔비디아를 넘어섰다는 선언은 아니다. 엔비디아는 여전히 GPU 성능과 CUDA 소프트웨어 생태계, 개발자 기반, 시장 점유율에서 압도적인 우위를 유지하고 있다.
AMD가 해결해야 할 과제도 적지 않다. 소프트웨어 생태계 확대와 개발자 지원, 안정성 검증 등 넘어야 할 장벽은 여전히 높다.
그럼에도 이번 발표는 AI 산업의 경쟁 방식이 근본적으로 바뀌고 있음을 보여준다. AI 데이터센터는 이제 GPU만으로 완성되지 않는다.
반도체와 CPU, 네트워크, 메모리, 냉각 기술, 소프트웨어까지 하나의 시스템으로 통합돼야 한다. 기업들이 구매하는 것도 GPU가 아니라 AI 서비스를 생산하는 거대한 공장이다.
결국 앞으로의 승자는 가장 빠른 반도체를 만드는 기업이 아니라, 가장 효율적으로 AI를 생산할 수 있는 데이터센터를 설계하는 기업이 될 가능성이 크다.
AMD의 헬리오스는 새로운 서버 제품 하나의 출시가 아니다. 이는 AI 반도체 시장의 경쟁이 '칩'에서 'AI 공장'으로 이동했음을 알리는 신호탄이다.
그리고 엔비디아가 독주해 온 AI 인프라 시장에 처음으로 본격적인 경쟁이 시작됐음을 보여주는 상징적인 사건이다.