[IT] AMD, Advancing AI 2024에서 선도적인 AI 솔루션 공개
출처 | https://www.amd.com/en/newsroom/press-re...ing-a.html |
---|
ChatGPT로 번역함
-
AMD, 5세대 AMD EPYC 프로세서, AMD Instinct MI325X 가속기, 차세대 네트워킹 솔루션 및 기업용 AI를 위한 AMD Ryzen AI PRO 프로세서 출시 -
-
Dell, Google Cloud, HPE, Lenovo, Meta, Microsoft, Oracle Cloud Infrastructure, Supermicro 및 AI 리더 Databricks, Essential AI, Fireworks AI, Luma AI 및 Reka AI가 AMD와 협력하여 기업과 최종 사용자용 AI 솔루션 확장을 선보임 -
-
Cohere, Google DeepMind, Meta, Microsoft, OpenAI 등 기술 리더들이 AMD ROCm 소프트웨어를 활용하여 AMD Instinct 가속기에서 모델과 애플리케이션을 배포하는 방법에 대해 논의함 -
2024년 10월 10일, 샌프란시스코 (GLOBE NEWSWIRE) - AMD(NASDAQ: AMD)는 오늘 5세대 AMD EPYC™ 서버 CPU, AMD Instinct™ MI325X 가속기, AMD Pensando™ Salina DPU, AMD Pensando Pollara 400 NIC 및 기업용 AI PC를 위한 AMD Ryzen™ AI PRO 300 시리즈 프로세서를 포함하여 AI 컴퓨팅 시대를 정의하는 최신 고성능 컴퓨팅 솔루션을 출시했습니다. AMD와 파트너들은 대규모로 AMD AI 솔루션을 배포하는 방법과 AMD ROCm™ 오픈 소스 AI 소프트웨어의 생태계 성장을 발표하며 AMD Instinct 가속기, EPYC CPU 및 Ryzen PRO CPU를 기반으로 한 다양한 신규 솔루션 포트폴리오를 선보였습니다.
AMD 회장이자 CEO인 리사 수 박사는 “데이터 센터와 AI는 AMD에 큰 성장 기회를 제공하며, 우리는 EPYC 및 AMD Instinct 프로세서에 대해 점점 더 많은 고객들과의 협력을 통해 강력한 성장 모멘텀을 구축하고 있습니다”라며 “새로운 EPYC CPU, AMD Instinct GPU 및 Pensando DPU로 고객의 가장 중요한 작업 부하를 지원하는 리더십 컴퓨팅을 제공하고 있습니다. 2028년까지 데이터 센터 AI 가속기 시장이 5천억 달러로 성장할 것으로 보고 있으며, 실리콘, 소프트웨어, 네트워크 및 클러스터 수준 솔루션을 확장하여 개방형 혁신을 대규모로 제공하는 데 전념하고 있습니다”라고 말했습니다.
AI 시대의 데이터 센터 정의
AMD는 AI, 기업, 클라우드 및 혼합 작업 부하를 위한 다양한 데이터 센터 솔루션 포트폴리오를 발표했습니다:
-
새로운 AMD EPYC 9005 시리즈 프로세서는 데이터 센터의 다양한 요구를 충족하기 위한 최적의 컴퓨팅 솔루션을 제공하며 기록적인 성능을 보여줍니다. 최신 "Zen 5" 아키텍처를 기반으로 최대 192개의 코어를 제공하며, 오늘부터 주요 OEM 및 ODM 플랫폼에서 이용할 수 있습니다.
-
AMD는 AMD Instinct MI325X를 출시하며 AI 가속기 연례 출시 일정을 계속 이어가고 있으며, 가장 까다로운 AI 작업 부하에 대한 리더십 성능과 메모리 기능을 제공합니다. AMD는 2025년 하반기에 출시될 예정인 차세대 AMD Instinct MI350 시리즈 가속기에 대한 새로운 세부 사항을 공유하며, AMD Instinct의 메모리 용량과 생성적 AI 성능의 리더십을 확대하고 있습니다. AMD는 AMD CDNA Next 아키텍처를 기반으로 한 AMD Instinct MI400 시리즈 가속기 개발에 상당한 진전을 이루었으며, 이는 2026년에 출시될 예정입니다.
-
AMD는 AMD ROCm 소프트웨어 스택을 지속적으로 개선하여 AMD Instinct MI300X 가속기의 추론 및 훈련 성능을 2배로 높였으며, 오늘날 가장 인기 있는 AI 모델에서 원활하게 실행되는 모델이 1백만 개 이상으로 MI300X 출시 당시의 세 배에 달하며, 가장 널리 사용되는 모델에 대해 당일 지원을 제공합니다.
-
AMD는 AI 인프라의 시스템 네트워킹 요구 사항을 해결하기 위해 고성능 네트워킹 포트폴리오를 확장하여 CPU 및 GPU 성능을 최대화하여 시스템 전체에서 성능, 확장성 및 효율성을 제공합니다. AMD Pensando Salina DPU는 AI 시스템을 위한 고성능 프론트엔드 네트워크를 제공하며, Ultra Ethernet Consortium의 첫 번째 NIC인 AMD Pensando Pollara 400은 성능 조정의 복잡성을 줄이고 생산 시간을 개선하는 데 도움이 됩니다.
-
AMD 파트너들은 AMD 데이터 센터 솔루션을 활용하여 리더십 생성적 AI 기능을 구동하고, 수백만 명이 매일 사용하는 클라우드 인프라를 제공하며, 주요 기업을 위한 온프레미스 및 하이브리드 데이터 센터를 지원하는 방법을 설명했습니다.
-
2023년 12월 출시 이후 AMD Instinct MI300X 가속기는 주요 클라우드, OEM 및 ODM 파트너에 의해 대규모로 배포되었으며, OpenAI의 ChatGPT, Meta Llama 및 Hugging Face 플랫폼의 100만 개 이상의 오픈 소스 모델을 포함한 인기 AI 모델을 통해 매일 수백만 명의 사용자에게 서비스를 제공하고 있습니다.
-
Google은 AI, 고성능, 범용, 기밀 컴퓨팅을 위한 다양한 인스턴스를 지원하기 위해 AMD EPYC 프로세서를 어떻게 사용하는지 강조했으며, AI ROI(투자 대비 성과)를 극대화하도록 설계된 슈퍼컴퓨팅 아키텍처인 AI 하이퍼컴퓨터를 발표했습니다. Google은 2025년 초에 EPYC 9005 시리즈 기반 VM을 출시할 예정이라고 밝혔습니다.
-
Oracle Cloud Infrastructure는 AMD EPYC CPU, AMD Instinct 가속기 및 Pensando DPU를 활용하여 Uber, Red Bull Powertrains, PayPal, Fireworks AI와 같은 고객을 위한 빠르고 에너지 효율적인 컴퓨팅 및 네트워킹 인프라를 제공하는 방법을 공유했습니다. OCI는 EPYC 9005 프로세서로 구동되는 새로운 E6 컴퓨팅 플랫폼을 발표했습니다.
-
Databricks는 AMD Instinct 및 ROCm에서 모델과 워크플로가 원활하게 실행되는 방식을 강조하며, AMD Instinct MI300X GPU의 대용량 메모리와 컴퓨팅 기능이 Llama 및 Databricks의 독점 모델에서 성능을 50% 이상 향상시키는 데 기여한다는 테스트 결과를 발표했습니다.
-
Microsoft CEO 사티아 나델라는 Microsoft의 제품 및 인프라에서 AMD와의 오랜 협업과 공동 혁신을 강조했으며, MI300X가 Microsoft Azure와 GPT 작업 부하에서 강력한 성능을 제공하고 있다고 밝혔습니다. 나델라와 리사 수 박사는 또한 AMD Instinct 로드맵에 대한 두 회사의 깊은 파트너십과 Microsoft가 향후 MI350 시리즈 및 이후의 AMD Instinct 가속기를 활용하여 AI 애플리케이션에서 리더십 성능-비용-전력비를 제공할 계획에 대해 논의했습니다.
-
Meta는 AMD EPYC CPU 및 AMD Instinct 가속기가 AI 배포 및 서비스 전반에 걸쳐 컴퓨팅 인프라를 지원하는 방법을 자세히 설명했으며, MI300X가 Llama 405B의 모든 라이브 트래픽을 처리하고 있다고 밝혔습니다. Meta는 또한 실리콘, 시스템 및 네트워킹에서 소프트웨어와 애플리케이션까지 AI 성능을 최적화하기 위해 AMD와 협력하고 있습니다.
-
주요 OEM인 Dell, HPE, Lenovo 및 Supermicro는 AI 시대를 위해 데이터 센터를 현대화하기 위해 AMD EPYC 프로세서를 기반으로 하는 에너지 효율적이고 고성능의 새로운 플랫폼을 출시하여 라인업을 확장하고 있습니다.
오픈 AI 생태계 확장
AMD는 오픈 AI 생태계에 대한 투자를 지속하고 있으며, 최신 기능, 도구, 최적화 및 지원을 포함하는 AMD ROCm 오픈 소스 소프트웨어 스택을 확장하여 개발자가 AMD Instinct 가속기에서 최상의 성능을 추출하고 오늘날의 주요 AI 모델에 대해 즉시 지원할 수 있도록 지원합니다. Essential AI, Fireworks AI, Luma AI 및 Reka AI의 리더들은 AMD 하드웨어와 소프트웨어에서 모델을 최적화하는 방법을 논의했습니다.
AMD는 또한 Microsoft, OpenAI, Meta, Cohere, xAI 등의 AI 개발 생태계의 기술 리더들이 참여하는 개발자 이벤트를 개최했습니다. Triton, TensorFlow, vLLM, Paged Attention, FastChat 등 AI 혁신에 중요한 인기 AI 프로그래밍 언어, 모델 및 프레임워크의 발명자들이 발표를 통해 공급업체에 구애받지 않는 프로그래밍 언어를 통해 AI 성능 최적화를 이루는 방법과 AMD Instinct 가속기에서 모델을 가속화하고 ROCm 소프트웨어로의 포팅이 얼마나 쉬운지, 오픈 소스 접근 방식이 생태계에 가져다주는 이점을 공유했습니다.
AI PC를 통한 기업 생산성 향상
AMD는 기업용 Microsoft Copilot+ 노트북을 지원하는 최초의 Ryzen AI PRO 300 시리즈 프로세서를 출시했습니다. Ryzen AI PRO 300 시리즈 프로세서는 배터리 수명과 성능에서 리더십을 유지하면서 기업 사용자에게 엔터프라이즈급 보안 및 관리 기능을 추가하여 생산성을 극대화합니다.
Ryzen AI PRO 300 시리즈 프로세서는 최신 AMD "Zen 5"와 AMD XDNA™ 2 아키텍처를 특징으로 하며, 상업용 프로세서 중 세계에서 가장 진보된 성능4을 제공합니다. Ryzen AI 9 HX PRO 375 프로세서가 장착된 Ryzen AI PRO 노트북은 현장에서 AI 작업을 처리할 수 있도록 업계 최고인 55 NPU TOPS6의 AI 성능을 제공합니다.
Microsoft는 Windows 11 Copilot+와 Ryzen AI PRO 300 시리즈가 새로운 생산성 및 보안 기능을 포함한 차세대 AI 경험을 준비하고 있다고 강조했습니다. HP 및 Lenovo를 포함한 OEM 파트너들은 Ryzen AI PRO 300 시리즈 프로세서로 구동되는 새로운 상업용 PC를 확장하고 있으며, 2025년까지 100개 이상의 플랫폼이 시장에 출시될 예정입니다.