글로벌 반도체 기업 AMD의 리사 수 회장 겸 최고경영자(CEO)는 목요일 샌프란시스코에서 열린 '어드밴싱 AI 2024' 행사에서 차세대 인공지능 가속기 '인스팅트 MI325X'와 코드명 '튜린'으로 명명된 5세대 에픽 서버용 프로세서를 공식 발표했습니다.

이번 발표는 생성형 AI 반도체 시장을 독점하고 있는 엔비디아의 아성에 본격적인 도전장을 내민 것으로, 독보적인 메모리 용량과 개방형 ROCm 소프트웨어 생태계를 앞세워 하이퍼스케일 클라우드 시장을 정조준했습니다.

인스팅트 MI325X, 압도적 HBM3E 메모리 용량과 대역폭 실현

주력 제품인 인스팅트 MI325X는 업계 최대 용량인 256GB의 초고속 HBM3E 메모리와 초당 6.0테라바이트(TB/s)의 대역폭을 갖췄습니다. AMD는 메타의 라마 3.1 등 대규모 언어 모델(LLM) 추론 성능에서 엔비디아의 H200보다 최대 1.3배 뛰어난 처리량을 보였다고 밝혔습니다.

MI325X는 2024년 4분기부터 본격적인 양산 출하를 시작하며, 델 테크놀로지스, HPE, 레노버, 슈퍼마이크로 등 주요 글로벌 서버 제조사들이 내년 초부터 탑재 시스템을 전 세계에 공급할 예정입니다.

“AI represents the most transformative technology revolution in fifty years. Our new Instinct accelerators and EPYC processors deliver the performance, memory, and open software needed to scale generative AI globally.” — Lisa Su, Chair and CEO of Advanced Micro Devices

192코어 5세대 에픽 튜린, 엔터프라이즈 데이터센터 컴퓨팅 재정의

가속기 칩과 더불어 AMD는 첨단 'Zen 5' 아키텍처 기반의 5세대 에픽 튜린 CPU를 선보였습니다. 단일 소켓에 최대 192코어 384스레드를 집적하여 가상화 클라우드 워크로드에서 경쟁사 x86 칩 대비 최대 2.7배의 연산 처리 성능과 전력 효율성을 달성했습니다.

리사 수 CEO는 기조연설에서 데이터센터용 AI 칩 시장 규모 전망치를 상향 조정하며, 전 세계 기업들의 생성형 AI 투자가 폭발적으로 증가함에 따라 시장 전체 규모가 2028년까지 5000억 달러에 달할 것이라고 강조했습니다.

Frequently Asked Questions

AMD 인스팅트 MI325X는 엔비디아 H200과 비교해 어떤 성능적 강점이 있나요?

256GB HBM3E 메모리와 6.0 TB/s 대역폭을 갖춰 엔비디아 H200 대비 대형 언어 모델 추론 성능이 최대 30% 뛰어납니다.

5세대 에픽 튜린 프로세서의 주요 사양은 어떻게 되나요?

최대 192개의 Zen 5 코어를 탑재하여 서버 가상화와 클라우드 데이터센터 환경에서 압도적인 컴퓨팅 성능과 효율을 제공합니다.

Sources

AMD 인공지능 반도체 리사수 인스팅트MI325X 에픽튜린