Shawn Fajardo
AWS представила революционное расширение своего сотрудничества с NVIDIA, которое обещает значительно улучшить процессы вывода ИИ. Объявлено на ежегодной конференции AWS re:Invent, AWS расширила микросервисы NVIDIA NIM в своих ключевых предложениях по ИИ, стремясь предоставить более быстрое и эффективное ИИ-поддержку.
Микросервисы NVIDIA NIM теперь доступны через платформы, включая AWS Marketplace, Amazon Bedrock Marketplace и Amazon SageMaker JumpStart, упрощая развертывание оптимизированных для NVIDIA решений вывода для различных моделей. Эти микросервисы являются частью программного обеспечения NVIDIA AI Enterprise, разработанного для безопасного и надежного развертывания в облачных средах и центрах обработки данных.
Контейнеры NIM, разработанные с использованием современных движков вывода, таких как NVIDIA Triton Inference Server и PyTorch, поддерживают широкий спектр моделей ИИ, будь то с открытым исходным кодом, NVIDIA Foundation или пользовательские разработки. Эти микросервисы бесшовно интегрируются с услугами AWS, такими как Amazon EC2, Amazon EKS и Amazon SageMaker, позволяя разработчикам эффективно управлять ИИ-приложениями.
Разработчики могут просмотреть широкий выбор из более чем 100 микросервисов NIM, демонстрирующих модели от известных источников, таких как Meta и NVIDIA, среди прочих, в каталоге API NVIDIA. Некоторые востребованные микросервисы включают модели NVIDIA Nemotron-4 и Llama, предлагающие передовые возможности для генерации синтетических данных и многоязычного диалога.
Внедрение NIM позволило таким компаниям, как SoftServe, ускорить разработку решений на базе ИИ в различных секторах. Использование возможностей NIM повышает производительность, обеспечивая при этом безопасность данных. Разработчики, стремящиеся исследовать эти ресурсы, могут получить доступ к множеству моделей и развернуть их через AWS Marketplace, воспользовавшись передовыми технологиями NVIDIA для стимулирования инноваций.
Раскрытие потенциала ИИ: расширение сотрудничества AWS и NVIDIA
AWS сделала гигантский шаг вперед, улучшив свое партнерство с NVIDIA, обещая значительные улучшения в возможностях вывода ИИ. Это сотрудничество стало ключевым моментом на конференции AWS re:Invent, где расширение микросервисов NVIDIA NIM было представлено как ключевая инновация для повышения поддержки ИИ на различных платформах AWS.
Основные моменты инноваций: микросервисы NVIDIA NIM
Микросервисы NVIDIA NIM были бесшовно интегрированы в популярные платформы AWS, включая AWS Marketplace, Amazon Bedrock Marketplace и Amazon SageMaker JumpStart. Эта интеграция направлена на упрощение процесса развертывания оптимизированных для NVIDIA решений вывода, ориентированных на разработчиков, которым требуются надежные модели ИИ.
Эти микросервисы являются частью набора инструментов NVIDIA AI Enterprise, который предлагает безопасное и эффективное развертывание как в облачных, так и в центрах обработки данных. С поддержкой широкого спектра моделей ИИ — от открытого исходного кода и NVIDIA Foundation до пользовательских решений — эти микросервисы разработаны для удовлетворения разнообразных потребностей отрасли.
Расширенные возможности для разработчиков ИИ
Микросервисы NVIDIA NIM используют современные движки вывода, такие как NVIDIA Triton Inference Server и PyTorch, для обеспечения исключительной производительности. Они легко интегрируются с услугами AWS, такими как Amazon EC2, Amazon EKS и Amazon SageMaker, позволяя разработчикам эффективно управлять и масштабировать свои ИИ-приложения.
Уникальной особенностью этого предложения является обширный каталог из более чем 100 микросервисов NIM, доступных через каталог API NVIDIA. Это включает востребованные модели, такие как NVIDIA Nemotron-4 и Llama, которые облегчают выполнение сложных задач, таких как генерация синтетических данных и многоязычные диалоги.
Практические примеры использования и принятие в отрасли
Интеграция микросервисов NIM уже оказала преобразующее влияние на такие компании, как SoftServe, позволяя быстро разрабатывать решения на базе ИИ в различных секторах. Это сотрудничество не только повышает производительность, но и обеспечивает строгую безопасность данных.
Для разработчиков, стремящихся использовать эти передовые технологии, богатый репозиторий моделей NVIDIA доступен через AWS Marketplace. Это предоставляет им множество возможностей для продвижения своих ИИ-инноваций, используя передовые технологии NVIDIA.
Получите конкурентное преимущество в ИИ с AWS и NVIDIA
Партнерство AWS и NVIDIA устанавливает новые стандарты в области ИИ, предоставляя инструменты и ресурсы для разработчиков, чтобы расширить границы возможного в технологии ИИ. Поскольку эти компании продолжают внедрять инновации, они прокладывают путь для новых открытий и приложений в различных отраслях.
Для получения дополнительной информации о службах AWS посетите веб-сайт AWS.
Будь вы предприятием, стремящимся ускорить развертывание ИИ, или разработчиком, стремящимся создать следующее большое достижение в ИИ, это сотрудничество между AWS и NVIDIA готово предложить вам инструменты, необходимые для успеха.
