Больше облачных графических процессоров будет доступно

DeepLearning 23 нояб. 2023 г.

Новая компания в области облачных вычислений обещает предоставить вычислительные мощности искусственного интеллекта для стартапов и исследователей по очень низким ценам.

Что нового: Некоммерческая организация Voltage Park, расположенная к северу от Силиконовой долины, предложит вычислительные мощности от 24 000 передовых графических процессоров Nvidia H100 (GPU) стоимостью около 500 миллионов долларов по конкурентоспособным ценам. Конкуренты по поставке облачных GPU перегружены, так как на рынке дефицит GPU.

Как это работает: Компания, финансируемая миллиардером-криптоинвестором Джедом МакКалебом, планирует построить центры обработки данных в Техасе, Вирджинии и Вашингтоне.

Voltage Park будет взимать почасовую плату за использование до 8 выделенных GPU. Цены начинаются от 1,89 доллара в час за один GPU. В сравнении, самый дешевый пакет AWS предлагает 8 GPU по цене около 43 долларов в час при трехлетнем обязательстве или 98 долларов в час по запросу.
Клиенты, которым требуются больше 100 часов, смогут арендовать до 248 чипов на короткий срок или до 4 088 чипов в годовую аренду.
Компания уже обслуживает отдельные стартапы, включая Character AI и Atomic AI. Она примет другие стартапы, некоммерческие организации и исследовательские учреждения с января 2024 года.

За кулисами: Недостаток высококлассных GPU от Nvidia, оптимизированных для обработки рабочих нагрузок машинного обучения, создает проблемы для организаций, стремящихся войти в бум искусственного интеллекта. Бизнесу приходится бороться с управлением спросом.

Инженеры и предприниматели платят высокую премию за эти чипы, если они вообще доступны.
Провайдер облачных услуг CoreWeave занял 2,3 миллиарда долларов, чтобы построить кластер из 45 000 графических процессоров Nvidia. Цены на H100 от этого провайдера начинаются от 4,76 доллара в час.
Китай также сталкивается с дефицитом GPU, но по другой причине: в прошлом году правительство США наложило ограничения — и недавно ужесточило их — на продажу высокопроизводительных чипов, производимых американскими компаниями, китайским клиентам. Baidu заказал 1600 AI-чипов у Huawei, что свидетельствует о возможном появлении отечественных альтернатив.

Почему это важно: Обучение и обслуживание современных систем искусственного интеллекта требует огромных вычислительных мощностей. Поэтому стартапы в области искусственного интеллекта сталкиваются с серьезными препятствиями из-за нехватки специализированного оборудования. Крупные компании обладают либо собственными вычислительными мощностями, либо устоявшимися партнерскими отношениями с облачными провайдерами. Меньшие поставщики, такие как DataCrunch, Lambda Labs и Paperspace, имеют ограниченный запас. При буме генеративного искусственного интеллекта организации, способные предоставлять доступ к графическим процессорам на гибких условиях, вероятно, найдут своих клиентов.

Мы думаем: Voltage Park является дочерней компанией благотворительной организации МакКалеба, и ее прибыль будет финансировать деятельность этой организации, о которой на ее веб-сайте нет информации. Статус некоммерческой организации может быть предварительным этапом к коммерческой деятельности. Нам любопытно, куда движется эта компания.