Shawn Fajardo
AWS는 NVIDIA와의 협력 관계를 혁신적으로 확장하여 AI 추론 프로세스를 크게 향상시킬 것을 약속했습니다. 연례 AWS re:Invent 컨퍼런스에서 발표된 이 내용은 AWS가 주요 AI 제공 서비스에 걸쳐 NVIDIA NIM 마이크로서비스를 확장하여 더 빠르고 효율적인 AI 지원을 제공하는 것을 목표로 하고 있습니다.
NVIDIA NIM 마이크로서비스는 이제 AWS Marketplace, Amazon Bedrock Marketplace 및 Amazon SageMaker JumpStart와 같은 플랫폼을 통해 접근할 수 있어 다양한 모델에 대한 NVIDIA 최적화 추론 솔루션의 배포를 간소화합니다. 이 마이크로서비스는 클라우드 환경 및 데이터 센터에서 안전하고 견고한 배포를 위해 설계된 NVIDIA의 AI Enterprise 소프트웨어의 일부입니다.
NIM 컨테이너는 NVIDIA Triton Inference Server 및 PyTorch와 같은 고급 추론 엔진으로 개발되어, 오픈 소스, NVIDIA Foundation 또는 맞춤형 창작물 등 광범위한 AI 모델을 지원합니다. 이러한 마이크로서비스는 Amazon EC2, Amazon EKS 및 Amazon SageMaker와 같은 AWS 서비스와 원활하게 통합되어 개발자가 AI 애플리케이션을 효율적으로 관리할 수 있도록 합니다.
개발자는 NVIDIA API 카탈로그에서 Meta 및 NVIDIA와 같은 저명한 출처의 모델을 포함한 100개 이상의 NIM 마이크로서비스를 미리 볼 수 있습니다. 수요가 많은 마이크로서비스에는 NVIDIA Nemotron-4 및 Llama 모델이 포함되어 있으며, 이는 합성 데이터 생성 및 다국어 대화와 같은 고급 기능을 제공합니다.
NIM을 통합함으로써 SoftServe와 같은 기업은 다양한 분야에서 AI 기반 솔루션 개발을 가속화할 수 있게 되었습니다. NIM의 기능을 활용하면 성능을 향상시키면서 데이터 보안을 보장할 수 있습니다. 이러한 리소스를 탐색하고자 하는 개발자는 AWS Marketplace를 통해 다양한 모델에 접근하고 이를 배포하여 NVIDIA의 최첨단 기술을 활용하여 혁신을 추진할 수 있습니다.
AI 잠재력 열기: AWS와 NVIDIA의 협력 확대
AWS는 NVIDIA와의 파트너십을 강화하여 AI 추론 기능에서 중요한 개선을 약속하며 큰 도약을 이루었습니다. 이 협력 관계는 AWS re:Invent 컨퍼런스에서 하이라이트로 다루어졌으며, NVIDIA NIM 마이크로서비스의 확장이 다양한 AWS 플랫폼에서 AI 지원을 강화하는 주요 혁신으로 소개되었습니다.
혁신 하이라이트: NVIDIA NIM 마이크로서비스
NVIDIA NIM 마이크로서비스는 AWS Marketplace, Amazon Bedrock Marketplace 및 Amazon SageMaker JumpStart와 같은 인기 AWS 플랫폼에 원활하게 통합되었습니다. 이 통합은 강력한 AI 모델이 필요한 개발자를 위해 NVIDIA 최적화 추론 솔루션의 배포 프로세스를 간소화하는 것을 목표로 하고 있습니다.
이 마이크로서비스는 클라우드 및 데이터 센터 환경에서 안전하고 효율적인 배포를 제공하는 NVIDIA의 AI Enterprise 제품군의 일부입니다. 오픈 소스 및 NVIDIA Foundation부터 맞춤형 솔루션에 이르기까지 다양한 AI 모델을 지원하는 이 마이크로서비스는 산업의 다양한 요구를 충족하도록 설계되었습니다.
AI 개발자를 위한 향상된 기능
NVIDIA NIM 마이크로서비스는 NVIDIA Triton Inference Server 및 PyTorch와 같은 고급 추론 엔진을 활용하여 뛰어난 성능을 제공합니다. 이들은 Amazon EC2, Amazon EKS 및 Amazon SageMaker와 같은 AWS 서비스와 원활하게 통합되어 개발자가 AI 애플리케이션을 효율적으로 관리하고 확장할 수 있도록 합니다.
이 제공의 독특한 특징은 NVIDIA API 카탈로그를 통해 제공되는 100개 이상의 NIM 마이크로서비스의 방대한 카탈로그입니다. 여기에는 합성 데이터 생성 및 다국어 대화와 같은 고급 작업을 용이하게 하는 NVIDIA Nemotron-4 및 Llama와 같은 수요가 많은 모델이 포함됩니다.
실용적인 사용 사례 및 산업 채택
NIM 마이크로서비스의 통합은 SoftServe와 같은 기업에 이미 혁신적인 영향을 미쳐 다양한 분야에서 AI 기반 솔루션의 빠른 개발을 가능하게 했습니다. 이 협력 관계는 성능을 향상시킬 뿐만 아니라 데이터 보안을 철저히 보장합니다.
최첨단 기술을 활용하고자 하는 개발자를 위해 NVIDIA의 풍부한 모델 저장소는 AWS Marketplace를 통해 쉽게 접근할 수 있습니다. 이는 그들이 AI 혁신을 발전시킬 수 있는 충분한 기회를 제공합니다.
AWS와 NVIDIA로 AI에서 경쟁 우위 확보
AWS와 NVIDIA의 파트너십은 AI 분야에서 새로운 기준을 설정하고 있으며, 개발자가 AI 기술의 한계를 넘는 도구와 리소스를 제공합니다. 이 두 기업이 계속해서 혁신을 추진함에 따라, 산업 전반에 걸쳐 새로운 발견과 응용 프로그램을 위한 길을 열어가고 있습니다.
AWS 서비스에 대한 자세한 정보는 AWS 웹사이트를 방문하십시오.
AI 배포를 가속화하려는 기업이든, AI에서 다음 큰 것을 만들고자 하는 개발자이든, AWS와 NVIDIA 간의 이 협력 관계는 성공에 필요한 도구를 제공할 준비가 되어 있습니다.
