Если вы гибко подходите к модели графического процессора и хотите выбрать наиболее экономичный облачный графический процессор, ознакомьтесь с нашей диаграммой «доллары облачного графического процессора / пропускная способность».

Если вам известен конкретный облачный графический процессор (например, A100), который вам нужен, укажите поставщиков облачных услуг, которые его предлагают.

Цена облачного графического процессора за пропускную способность

Спотовые графические процессоры

* Пропускная способность обучения — хороший показатель для измерения относительной эффективности графического процессора. Он измеряет количество токенов, обрабатываемых графическим процессором в секунду для языковой модели (например, bert_base_squad).¹ Обратите внимание, что эти значения пропускной способности следует учитывать при сравнении различных графических процессоров. Одно и то же оборудование будет иметь существенно разную пропускную способность для вашей рабочей нагрузки, поскольку существует значительная разница в пропускной способности даже между LLM, работающими на одном и том же оборудовании.²

*** Без учета стоимости хранилища, производительности сети, входящего и исходящего трафика и т. д. Это только стоимость графического процессора.³

Во всех этих таблицах производительности на доллар:

• Перечислены не все возможные конфигурации, включены конфигурации, ориентированные на глубокое обучение, аналогичные параметрам AWS.
• По возможности использовались западные или центральные регионы США.
• Это указанные цены для каждой категории, они могут быть улучшены

Графические процессоры по запросу от крупных поставщиков облачных технологий

Графические процессоры по запросу от других облачных провайдеров

Доступность облачного графического процессора в разных облаках

Введите нужную модель в поле поиска, чтобы найти всех облачных провайдеров, которые ее предлагают:

** Расчетные значения. Это было необходимо, когда отдельные экземпляры GPU были недоступны.^{4 5}

Отказ от ответственности

Обратите внимание, что облачные провайдеры постоянно обновляют свои предложения, поэтому могут быть обновления.

Внешние ссылки

1. Тесты GPU для глубокого обученияLambda Labs, дата обращения 15 июля 2023 г.
2. Открытая таблица лидеров LLM-PerfОбнимающее лицо , дата обращения 15 июля 2023 г.
3. полный стек/веб-сайт/документы/облако-gpusGitHub, дата обращения 15 июля 2023 г.
4. Полное руководство по поставщикам облачных графических процессоровPaperspace , дата обращения 15 июля 2023 г.
5. CloudOptimizerCloudOptimizer, дата обращения 15 июля 2023 г.

Джем является главным аналитиком AIMultiple с 2017 года. AIMultiple ежемесячно информирует сотни тысяч компаний (по данным SimilarWeb), включая 55% компаний из списка Fortune 500.

Работа Джема цитируется ведущими мировыми изданиями, в том числе Бизнес-инсайдерФорбс, Вашингтон постглобальные фирмы, такие как Делойт, HPE и НПО, такие как Всемирный Экономический Форум и наднациональные организации, такие как Европейская комиссия. Вы можете увидеть больше авторитетных компаний и ресурсов, которые ссылались на AIMultiple.

На протяжении всей своей карьеры Джем работал техническим консультантом, закупщиком технологий и предпринимателем в области технологий. Он консультировал предприятия по их технологическим решениям в McKinsey & Company и Altman Solon более десяти лет. Он также опубликовал отчет McKinsey по цифровизации.

Он руководил технологической стратегией и закупками телекоммуникационных компаний, подчиняясь генеральному директору. Он также руководил коммерческим ростом компании Hypatos, занимающейся глубокими технологиями, которая достигла 7-значного годового постоянного дохода и 9-значной оценки от 0 в течение 2 лет. Работа Джема в Hypatos освещалась ведущими технологическими изданиями, такими как TechCrunch нравиться Бизнес-инсайдер.

Джем регулярно выступает на международных технологических конференциях. Он окончил Университет Богазичи по специальности инженер-компьютерщик и имеет степень магистра делового администрирования Колумбийской школы бизнеса.