Сложность закупок графических процессоров возрастает, поскольку все больше поставщиков предлагают облачные варианты графических процессоров. AIMultiple проанализировал поставщика облачных графических процессоров по наиболее важным параметрам, чтобы облегчить закупку облачных графических процессоров.

Перечисляя плюсы и минусы каждого провайдера, мы опирались на отзывы пользователей на G2, другие онлайн-обзоры, а также на нашу оценку.

Веб-сервисы Amazon (AWS)

AWS — крупнейший поставщик облачных платформ и ведущий поставщик облачных графических процессоров.¹Amazon EC2 (Elastic Compute Cloud) предлагает экземпляры виртуальных машин на базе графического процессора, облегчающие ускоренные вычисления для задач глубокого обучения.

Плюсы

Предлагает бесшовную интеграцию с другими популярными решениями AWS, такими как:

• SageMaker, используемый для создания, обучения, развертывания и крупномасштабного применения моделей машинного обучения.
• Simple Storage Service (Amazon S3), Amazon RDS (Relational Database Services) или другие сервисы хранения AWS, которые могут служить решением для хранения обучающих данных.

Минусы

• AWS предлагает меньше вариантов графических процессоров, чем некоторые другие игроки, такие как Azure.
• Пользователи считают пользовательский интерфейс сложным

• Цена за час по требованию выше, чем у других крупных облачных провайдеров. Как и другие поставщики облачных услуг, AWS предлагает оптовые скидки.

Microsoft Azure

Microsoft Azure, второй по величине поставщик облачных услуг, предоставляет облачную службу графических процессоров, известную как виртуальные машины Azure N-серии, которая использует графические процессоры NVIDIA, как и другие поставщики, для обеспечения высокопроизводительных вычислительных возможностей.⁴ Эта услуга особенно подходит для требовательных приложений, таких как глубокое обучение, моделирование, рендеринг и обучение моделей искусственного интеллекта.

Плюсы

• Microsoft Azure предлагает более широкий набор вариантов графических процессоров, чем большинство других поставщиков.
• Бесплатный план предлагает 12 месяцев доступа к некоторым услугам.
• Интуитивно понятный пользовательский интерфейс Azure хвалят за простоту использования.

Минусы

• Некоторые пользователи считают, что некоторые расширенные функции Azure требуют высокого уровня технических знаний для эффективной настройки и управления.

• Некоторые пользователи находят структуру ценообразования Azure сложной для навигации и подчеркивают важность тщательного планирования во избежание непредвиденных затрат.

Облачная платформа Google (GCP)

Google Cloud Platform (GCP) — третья по величине облачная платформа.⁶ GCP предлагает экземпляры графических процессоров, которые можно подключить к существующим виртуальным машинам (ВМ) или стать частью новой установки ВМ.

Плюсы

• Пользовательский интерфейс проще, чем на других распространенных платформах, таких как AWS.
• Предлагает ограниченные бесплатные варианты графического процессора для пользователей Kaggle и Colab.
• Клиенты могут использовать более 20 продуктов бесплатно, вплоть до месячного лимита использования.

Минусы

• Графические процессоры должны быть подключены к стандартным виртуальным машинам, что затрудняет ценообразование.
• Как и AWS, GCP предлагает меньше вариантов графического процессора, чем некоторые игроки, такие как Azure.

Облако NVIDIA DGX

NVIDIA является лидером на рынке аппаратного обеспечения графических процессоров. NVIDIA запустила свое облачное предложение на основе графических процессоров DGX Cloud, арендовав места в центрах обработки данных ведущих поставщиков облачных услуг (например, OCI, Azure и GCP).

Облако DGX предлагает NVIDIA Base Command™, NVIDIA AI Enterprise и сетевые платформы NVIDIA. На момент запуска инстансы DGX Cloud включали 8 графических процессоров NVIDIA H100 или A100 с тензорными ядрами емкостью 80 ГБ.

Исследовательская группа первого клиента, Amgen, утверждает, что обучение белковых LLM с помощью BioNeMo происходит в 3 раза быстрее, а анализ после обучения — до 100 раз с NVIDIA RAPIDS.⁸

Облачная инфраструктура Oracle (OCI)

Oracle увеличила предложение графических процессоров после официального оформления партнерства с NVIDIA.⁹

Oracle предоставляет экземпляры графических процессоров как в формате «голого железа», так и в формате виртуальных машин для быстрых, экономичных и высокоэффективных вычислений. Экземпляры Oracle Bare-Metal предлагают клиентам возможность выполнять задачи в невиртуализированных условиях. Эти экземпляры доступны в таких регионах, как США, Германия и Великобритания, причем они доступны как по моделям ценообразования по требованию, так и по моделям с прерыванием.

Плюсы

• Широкий спектр облачных продуктов и услуг. Среди облачных сервисов технологических гигантов только OCI предлагает графические процессоры без ОС.¹⁰ Для пользователей кластеров графических процессоров только OCI предлагает RoCE v2 для своей кластерной технологии среди облачных сервисов технологических гигантов.¹¹
• Экономичность по сравнению с другими крупными облачными провайдерами.
• Предлагает бесплатный пробный период и некоторые бесплатные продукты навсегда.

Минусы

• Пользовательский интерфейс воспринимается пользователями как неуклюжий и медленный.

• Некоторым пользователям документация кажется сложной для понимания.

• Некоторые пользователи сочли процесс начала использования вычислительных сервисов Oracle Cloud бюрократическим, сложным и трудоемким.

Джарвис Лабс

Компания Jarvis Labs, основанная в 2019 году и базирующаяся в Индии, специализируется на быстром и простом обучении моделей глубокого обучения на вычислительных экземплярах графических процессоров. Центры обработки данных Jarvis Labs расположены в Индии. Компания Jarvis Labs известна своей удобной для пользователя настройкой, которая позволяет пользователям быстро приступить к работе.

Плюсы

• Для регистрации не требуется кредитная карта
• Простой интерфейс для новичков

Минусы

• Хотя Jarvis Labs и набирает обороты, она не является хорошим вариантом для выполнения трудоемких задач корпоративного уровня.

Лямбда Лаборатория

Первоначально Lambda Labs занималась производством оборудования и предлагала решения для сборки настольных компьютеров и серверного оборудования с графическими процессорами. С 2018 года Lambda Labs предлагает Lambda Cloud в качестве платформы графических процессоров. Предлагаемые ими виртуальные машины предварительно оснащены преобладающими платформами глубокого обучения, драйверами CUDA и выделенным ноутбуком Jupyter. Пользователи могут подключаться к этим экземплярам через веб-терминал на облачной панели управления или напрямую, используя заданные ключи SSH.

Плюсы

• Предложение, ориентированное исключительно на графические процессоры

ЯДРО

Paperspace — это платформа облачных вычислений, которая, помимо других услуг, предлагает виртуальные машины с ускорением на графическом процессоре. Компания пользуется хорошей репутацией за свое внимание к рабочим нагрузкам с интенсивным использованием графических процессоров и предоставляет облачную платформу для разработки, обучения и развертывания моделей машинного обучения.

Плюсы

• Предлагает широкий спектр графических процессоров по сравнению с другими поставщиками.
• Пользователи считают цены справедливыми за предоставляемую вычислительную мощность.
• Пользователи считают службу поддержки дружелюбной и отзывчивой.

Минусы

• Некоторые пользователи жалуются на доступность машин, как с точки зрения бесплатных виртуальных машин, так и с точки зрения конкретных типов машин, доступных не во всех регионах.

• Встроенный интерфейс Jupyter подвергается критике и в нем отсутствуют некоторые сочетания клавиш, хотя предлагается собственный интерфейс Jupyter Notebook.

• Более длительное время загрузки или создания машин.
• Ежемесячная абонентская плата помимо стоимости оборудования может оказаться недостатком, а обучение работе с несколькими графическими процессорами может оказаться дорогостоящим.

Внешние ссылки

1. Большая тройка доминирует на мировом рынке облачных технологий, СтатистикаПроверено 19 июля 2023 г.
2. https://www.g2.com/products/amazon-ec2/reviews/amazon-ec2-review-8154729
3. https://www.g2.com/products/aws-cloud/reviews/aws-cloud-review-8271023
4. Тот же источник Statista, что и выше.
5. https://www.g2.com/products/azure-virtual-machines/reviews/azure-virtual-machines-review-8145738
6. Тот же источник Statista, что и выше.
8. «NVIDIA запускает облако DGX, предоставляющее каждому предприятию мгновенный доступ к суперкомпьютеру с искусственным интеллектом из браузера«. NVIDIA. 21 марта 2023 г. Проверено 26 сентября 2023 г.

   Предложение ориентировано на предприятия: прейскурантная цена экземпляров DGX Cloud начинается с 36 999 долларов США за экземпляр в месяц при запуске.

   Плюсы

   • Поддержка инженеров NVIDIA

   Минусы

   • Предложение не подходит для компаний с ограниченными потребностями в графических процессорах.
   • Услуга предоставляется поверх физической инфраструктуры облачных провайдеров. Поэтому покупателю необходимо платить за прибыль как поставщика облачных услуг, так и NVIDIA.

   IBM Облако

   Графический процессор, предлагаемый IBM Cloud, обеспечивает гибкий процесс выбора серверов и обеспечивает полную интеграцию с архитектурой, приложениями и API IBM Cloud. Это достигается через глобально распределенную сеть взаимосвязанных центров обработки данных.

   Плюсы

   • Мощная интеграция с архитектурой и приложениями IBM Cloud.
   • Распределенные центры обработки данных по всему миру повышают защиту данных

   Минусы

   • Ограниченное внедрение по сравнению с тремя ведущими поставщиками.⁷ Тот же источник Statista, что и выше.
   • «Oracle и NVIDIA сотрудничают, чтобы ускорить внедрение ИИ на предприятиях«. Оракул. 18 октября 2022 г. Проверено 26 сентября 2023 г.
   • Экземпляры графического процессораOracle, дата обращения 19 июля 2023 г.
   • Блог об облачной инфраструктуре Oracle, ОракулПроверено 19 июля 2023 г.
   • https://www.g2.com/products/oracle-cloud-infrastructure-compute/reviews/oracle-cloud-infrastructure-compute-review-7509159
   • https://www.g2.com/products/oracle-cloud-infrastructure-compute/reviews/oracle-cloud-infrastructure-compute-review-8144154
   • https://www.g2.com/products/paperspace-core/reviews/paperspace-core-review-5092833
   • https://www.g2.com/products/paperspace-core/reviews/paperspace-core-review-6974232