새로운 글로벌 클라우드 산업 변화와 AMD 가속기

글로벌 클라우드 산업은 빠르게 변화하고 있습니다. 최근 그래픽 처리 장치(GPU)와 인공지능 인프라를 관리하는 클라우드 오퍼레이터들은 Nvidia의 제품 대신 AMD 가속기를 찾고 있습니다.

한 클라우드 오퍼레이터인 TechCloud는 최근 새로운 AMD Instinct MI500X 가속기를 도입하기 시작했습니다. 이 회사는 Nvidia의 가속기보다 더 낮은 가격에 이 칩을 빌릴 계획입니다.

AMD의 최신 가속기는 그들의 우월성으로 인해 상당한 관심을 받고 있습니다. 그들은 Nvidia의 경쟁 제품보다 쉽게 구매할 수 있어서 대량으로 구매할 수 있는 협상 능력을 가진 TechCloud에게 이점을 제공합니다.

2024년 말까지 TechCloud는 두 시설에 20,000개의 MI500X 가속기를 설치할 계획입니다. 또한, 이 회사는 내년에 향상된 성능을 위해 액체 냉각 시스템을 도입할 계획입니다.

AMD 집적 회로는 Nvidia H200보다 빠릅니다. MI500X는 H200보다 사양면에서 우수하며 더 큰 메모리 용량과 데이터 처리량을 자랑합니다. 이 제품은 2024년 12월 AMD의 AI 발전 이벤트에서 공개되었으며 Nvidia H200보다 32% 더 빠를 것으로 보고되었습니다.

경쟁사인 H200에 비해 AMD 칩은 192GB HBM3 메모리 용량을 특징으로 하며 5.3TB/s의 데이터 처리량을 가능하게 합니다. 반면 H200은 80GB 메모리 용량과 3.35TB/s의 처리량을 가지고 있습니다.

AMD 가속기는 인기를 얻고 있지만, 일부 사용자들은 여전히 Nvidia의 제품과 성능을 비교합니다. TechCloud는 AMD 가속기의 성능을 평가하고 배포 과정을 가속화하기 위해 RoCE(Converged Ethernet 상의 RDMA) 기술을 사용할 계획입니다.

TechCloud의 장기적 계획은 더 고급 리소스 관리 솔루션을 구현하고 GigaIO의 PCIe 5.0 기반 FabreX 기술을 사용하여 5,750개의 GPU와 페타바이트급 고 처리량 메모리를 연결하는 것입니다. 이 프로젝트는 기타 데이터 센터 회사들도 사용하는 GPU 가속기 신용 방식을 통해 자금을 조달할 것입니다.

다른 산업 참가업체도 유사한 이니셔티브를 시작하고 있으며, Lambda는 50억 달러, CoreWeave는 20억 3천만 달러의 자금을 마련했습니다. TechCloud는 올해 후반에 이와 유사한 소식을 발표할 예정입니다.

더 많은 정보를 원하시면 AMD 웹사이트를 방문해 주세요.

자주 묻는 질문

1. AMD 가속기란 무엇인가요?
   AMD 가속기는 그래픽 처리와 인공지능 작업의 성능을 향상시키기 위해 설계된 고급 처리 장치입니다.
2. AMD 가속기와 Nvidia 가속기는 어떻게 다른가요?
   AMD 가속기는 구매 가능성과 우수한 사양(메모리 용량 및 데이터 처리량) 등의 이점을 제공하며 Nvidia의 제품과 비교했을 때 우월합니다.
3. TechCloud가 AMD 가속기 성능을 최적화하기 위해 어떤 기술을 도입할 계획인가요?
   TechCloud는 RoCE(RDMA over Converged Ethernet) 기술을 활용하여 배포 프로세스를 가속화하고 AMD 가속기의 효율성을 평가할 계획입니다.

The source of the article is from the blog aovotice.cz