Shawn Fajardo
AWS公布了与NVIDIA合作的突破性扩展，承诺显著提升AI推理过程。在年度AWS re:Invent大会上宣布，AWS在其关键AI产品中扩展了NVIDIA NIM微服务，旨在提供更快、更高效的AI支持。
NVIDIA NIM微服务现已通过包括AWS Marketplace、Amazon Bedrock Marketplace和Amazon SageMaker JumpStart在内的平台提供，简化了针对各种模型的NVIDIA优化推理解决方案的部署。这些微服务是NVIDIA AI Enterprise软件的一部分，旨在确保在云环境和数据中心的安全和稳健部署。
NIM容器使用先进的推理引擎如NVIDIA Triton推理服务器和PyTorch开发，支持广泛的AI模型，无论是开源、NVIDIA Foundation还是自定义创建。这些微服务与AWS服务如Amazon EC2、Amazon EKS和Amazon SageMaker无缝集成，使开发人员能够高效管理AI应用。
开发人员可以预览超过100个NIM微服务，展示来自Meta和NVIDIA等知名来源的模型，均可在NVIDIA API目录中找到。一些高需求的微服务包括NVIDIA Nemotron-4和Llama模型，提供合成数据生成和多语言对话的先进能力。
整合NIM使得像SoftServe这样的公司能够加速各个行业AI驱动解决方案的开发。利用NIM的能力提升性能，同时确保数据安全。渴望探索这些资源的开发人员可以通过AWS Marketplace访问大量模型，并利用NVIDIA的尖端技术推动创新。
释放AI潜力：AWS与NVIDIA合作扩展
AWS通过增强与NVIDIA的合作关系迈出了重要一步，承诺显著改善AI推理能力。这一合作在AWS re:Invent大会上成为亮点，NVIDIA NIM微服务的扩展被介绍为提升AWS各平台AI支持的关键创新。
创新亮点：NVIDIA NIM微服务
NVIDIA NIM微服务已无缝集成到流行的AWS平台中，包括AWS Marketplace、Amazon Bedrock Marketplace和Amazon SageMaker JumpStart。此集成旨在简化针对需要强大AI模型的开发人员的NVIDIA优化推理解决方案的部署过程。
这些微服务是NVIDIA AI Enterprise套件的一部分，提供在云和数据中心环境中的安全和高效部署。支持广泛的AI模型——从开源和NVIDIA Foundation到自定义解决方案——这些微服务旨在满足行业的多样化需求。
为AI开发人员增强能力
NVIDIA NIM微服务利用先进的推理引擎，如NVIDIA Triton推理服务器和PyTorch，提供卓越的性能。它们与AWS服务如Amazon EC2、Amazon EKS和Amazon SageMaker无缝集成，使开发人员能够高效管理和扩展他们的AI应用。
此产品的一大特色是通过NVIDIA API目录提供的超过100个NIM微服务的庞大目录。这包括需求量大的模型，如NVIDIA Nemotron-4和Llama，能够促进合成数据生成和多语言对话等高级任务。
实际应用案例和行业采用
NIM微服务的整合已经对像SoftServe这样的企业产生了变革性的影响，使得各个行业能够快速开发AI驱动的解决方案。这一合作不仅提升了性能，还确保了严格的数据安全。
对于渴望利用这些尖端技术的开发人员，NVIDIA丰富的模型库可以通过AWS Marketplace轻松访问。这为他们提供了充分的机会，以推进他们的AI创新，利用NVIDIA的最先进技术。
在AI领域获得竞争优势：AWS与NVIDIA
AWS与NVIDIA的合作正在AI领域设定新标准，为开发人员提供工具和资源，以推动AI技术的可能性边界。随着这些公司不断创新，他们为各行业的新发现和应用铺平了道路。
有关AWS服务的更多信息，请访问AWS网站。
无论您是希望加速AI部署的企业，还是努力打造下一个AI大作的开发人员，AWS与NVIDIA的合作都将提供您成功所需的工具。
