Технология

NVIDIA выпускает микросервисы генеративного ИИ для разработчиков

Published March 18, 2024

NVIDIA объявила о запуске нового пакета микросервисов NIM и облачных конечных точек для предварительно обученных моделей ИИ, оптимизированных для работы на сотнях миллионов GPU с поддержкой CUDA в облаках, центрах обработки данных, рабочих станциях и ПК. Данные микросервисы предназначены для ускорения обработки данных, настройки моделей машинного обучения, выполнения вывода, улучшения повторного генерирования информации и контроля за процессами.

Широкая интеграция в экосистему ИИ

Платформы ведущих компаний уже используют новые микросервисы NVIDIA для создания и быстрого внедрения генеративных ИИ-сопровождающих и других приложений генеративного ИИ. Благодаря предварительно построенным контейнерам со встроенным программным обеспечением NVIDIA для вывода, разработчики могут сократить время на развертывание с недель до минут.

Ускорение разработки и внедрения ИИ

С CUDA-X микросервисами предприятия могут ускорить подготовку данных, настройку и обучение, чтобы быстрее разрабатывать ИИ для производственных нужд в разных отраслях. Это позволит предприятиям стать ИИ-ориентированными компаниями, используя возможности искусственного интеллекта на полную катушку.

ИИ, технологии, облачные