NVIDIA L4 против A100 и H100 в 2026 году: руководство по выбору GPU для инференса
Разговор о GPU на большинстве закупочных совещаний в компаниях изменился. Два года назад вопрос стоял так: какой ускоритель купить для обучения. В 2026 году массовый вопрос звучит иначе: какой ускоритель купить дляинференса— и ответом часто оказывается не самая новая и не самая крупная карта.
Этот сдвиг имеет реальные бюджетные последствия. Одна карта H100 80GB PCIe стоит в текущих каналах от $25,000 до $32,200. Карта L4 24GB — от $2,492 до $4,040. По цене их разделяет примерно порядок величины, и для значительной доли продуктивных нагрузок инференса более дешёвая карта обеспечивает тот уровень сервиса, который вам действительно нужен.
Это руководство сравнивает три ускорителя NVIDIA, которые корпоративные заказчики чаще всего закладывают в спецификации в 2026 году — L4, A100 40GB и H100 80GB — на основе отслеживаемых цен каналов, и показывает, какие нагрузки оправдывают тот или иной уровень.
Три уровня и что их различает
Три карты ниже также поставляются отдельными позициями:NVIDIA L4 24GB,A100 40GBиH100 80GB— а тем, кто подбирает процессор для тех же серверов, стоит прочитать нашеруководство по CPU для ИИ-инференса.
NVIDIA L4 24GBпредставляет собой карту PCIe мощностью 72W, рассчитанную на эффективность, а не на пиковую пропускную способность. Она устанавливается в стандартный серверный слот без дополнительного питания, а значит, её можно добавить в существующие 2U-серверы без пересмотра схем питания и охлаждения. Для транскодирования видео, небольших языковых моделей, выдачи рекомендаций и периферийного инференса она с большим отрывом лидирует в этом сравнении по ёмкости на ватт.
NVIDIA A100 40GB— это рабочая лошадка центров обработки данных предыдущего поколения. Производство завершилось в 2024 году, поэтому сегодня в обороте находятся складские остатки и предложение вторичного рынка. Это делает A100 40GB снятой с производства, но по-прежнему хорошо поддерживаемой позицией — с ценовым поведением продукта на закате жизненного цикла, а не актуального.
NVIDIA H100 80GB— это текущий верхний сегмент: наибольший объём памяти, самая высокая пропускная способность и самый высокий темп обработки из трёх. Это также единственная из трёх карт, где решающим ограничением часто становится не цена, а доступность.
Что показывают ценовые данные 2026 года
По запрашиваемым ценам, отслеживаемым в каналах США, ЕС и АТР в сентябре 2026 года:
| GPU | Память | Цена канала (новая) | Вторичный рынок |
|---|---|---|---|
| NVIDIA L4 | 24GB | $2,492–$4,040 (медиана ≈ $2,950) | — |
| NVIDIA A100 40GB | 40GB | — | $3,150–$5,870 (отслеживаемый диапазон $5,500–$7,900) |
| NVIDIA H100 80GB PCIe | 80GB | $25,000–$32,200 | ≈ $28,000 |
Для планирования бюджета важны два наблюдения.
L4 и A100 40GB сблизились по цене.Новая L4 и бывшая в употреблении A100 40GB сегодня находятся в пересекающихся диапазонах. Это необычно — как правило, более новая архитектура идёт с надбавкой — и отражает тот факт, что предложение A100 конечно и оценивается как устаревший склад, тогда как L4 продолжает активно производиться.
Цена H100 относится к иному порядку величины, а выборка по ней мала.Наш отслеживаемый диапазон по H100 PCIe основан на небольшом числе предложений и должен восприниматься как ориентировочный, а не как устоявшаяся рыночная цена. Варианты SXM5 стоят ещё выше. Покупателям следует ожидать, что котировки H100 будут двигаться вслед за выделением квот, а не за прайс-листом.
Как подобрать карту под нагрузку
Самая дорогая ошибка при закупке GPU для инференса — выбирать по месту в рейтинге бенчмарков, а не по нагрузке. Эти три карты закрывают действительно разные задачи.
Когда L4 — правильный ответ
L4 — верный выбор, когда нагрузка состоит измножества одновременных инференсов умеренного размераа не из нескольких крупных. Транскодирование видео и аналитические конвейеры, выдача эмбеддингов и поиска, модели рекомендаций, малые и средние языковые модели, а также инференс на периферии или в филиалах — всё это относится сюда. Решающее преимущество — энергопрофиль 72W: он означает плотность — несколько карт на сервер, причём в серверах, которые у вас уже есть.
Если ваша модель свободно помещается в 24GB и вы обслуживаете множество запросов, а не двигаете границу размера моделей, то, платя цену H100, вы покупаете производительность, которую не сможете использовать.
Где A100 40GB по-прежнему оправдывает своё место
A100 40GB остаётся разумной покупкой для организаций, которым нужно больше памяти и пропускной способности, чем даёт L4, но которые не могут обосновать текущие цены на H100. Сюда попадают более крупные языковые модели, сочетание обучения и дообучения с инференсом, а также нагрузки HPC, выигрывающие от профиля пропускной способности A100.
Оговорка касается жизненного цикла. A100 40GB снята с производства; горизонт поддержки и остаточная стоимость с этого момента только снижаются. Если вы покупаете A100 сегодня, берите её под нагрузку, которую сможете перенести, и подтвердите происхождение и состояние карты — GPU со вторичного рынка нуждаются в проверке ничуть не меньше, чем накопители со вторичного рынка.
Когда H100 неизбежна
H100 80GB — это ответ, когда пул памяти 80GB является требованием, а не предпочтением: крупные модели, которые не помещаются в 40GB, высокопроизводительная выдача, где меньшие карты не укладываются в целевые задержки, и любая среда, где предполагается, что нагрузка будет расти вместе с картой на протяжении срока её службы.
Если вы закладываете в спецификацию H100, рассматривайте срок поставки и выделение квот как основной риск планирования. Бюджетируйте карту и сроки отдельно друг от друга.
Вопрос серверной платформы
GPU редко покупают в отрыве от остального, и выбор платформы часто ограничивает выбор GPU сильнее, чем наоборот.
Энергопрофиль L4 в 72W означает, что её можно поставить в стандартный 2U-сервер без дополнительного питания — в том числе во многие платформы текущего и предыдущего поколения, уже находящиеся в эксплуатации. Это путь с наименьшим сопротивлением для добавления ёмкости инференса в существующий парк.
И A100, и H100 требуют существенно большего запаса по питанию и охлаждению, а также, как правило, специально спроектированной под них платформы: подходящей топологии PCIe или SXM, достаточного воздушного потока и, в случае H100, такого электропитания, которое может потребовать обсуждения на уровне площадки, а не просто выбора сервера. Когда покупатели просят нас сравнить цены на GPU, честный ответ часто сводится к сравнению полных серверных конфигураций.
Частые вопросы
Достаточно ли L4 для продуктивного инференса LLM, или нужна A100 либо H100?
Для малых и средних моделей, помещающихся в 24GB, и для высокопараллельной выдачи умеренных запросов L4 часто достаточно, а покупать и эксплуатировать её заметно дешевле. A100 или H100 становятся необходимыми, когда сама модель превышает 24GB, когда нужно не только обслуживать, но и дообучать, либо когда меньшая карта не укладывается в целевые задержки при высокой пропускной способности. Измерьте фактический объём модели и уровень параллелизма, прежде чем по умолчанию выбирать самый крупный вариант.
Почему бывшая в употреблении A100 40GB стоит почти как новая L4?
Потому что A100 40GB снята с производства и её оставшееся предложение конечно, тогда как L4 продолжает активно выпускаться и стабильно поступает в канал. Это сближение — артефакт предложения, а не признак того, что карты равноценны: они обслуживают разные профили нагрузок, и у более новой L4 горизонт поддержки длиннее.
Какую GPU выбрать, если я также хочу дообучать модели?
A100 40GB или H100 80GB. L4 ориентирована на инференс и более лёгкие нагрузки; дообучение крупных моделей — это как раз тот случай, где важны более широкие шины памяти и большие пулы памяти A100 и H100. Если вам нужно и то и другое в одной среде, пул 80GB у H100 даёт наибольший запас — при соответствующей стоимости.
Стоит ли покупать восстановленные или бывшие в употреблении GPU?
Это может иметь смысл для второстепенных нагрузок при условии, что происхождение и состояние поддаются проверке, а продавец даёт гарантию. GPU для ЦОД, как правило, долговечнее потребительских аналогов, но на вторичном рынке встречаются карты с неизвестной историей. Запрашивайте те же подтверждения, что и для систем хранения: происхождение карты, историю её эксплуатации, если она есть, и гарантийные условия в письменном виде.
Можете ли вы поставить GPU в составе полной серверной конфигурации?
Да. Мы поставляем NVIDIA L4, A100 40GB и H100 80GB вместе с серверными платформами Dell PowerEdge, HPE ProLiant и Lenovo ThinkSystem со склада в Гонконге, чтобы заказчики могли закладывать полную проверенную конфигурацию, а не закупать карты и шасси по отдельности. Пришлите нам требования к нагрузке, и мы предложим конфигурацию и цену.
Наш вердикт на 2026 год
Не выбирайте по умолчанию самую крупную карту. Для высокопараллельного инференса на умеренных моделях и видеонагрузокL4— правильная покупка в 2026 году, а энергопрофиль 72W делает её единственной из трёх, которую можно добавить в существующий сервер без решения по платформе.A100 40GBостаётся оправданной для более крупных моделей и смешанной работы по обучению и инференсу, с оговоркой, что она на закате жизненного цикла и её следует покупать под нагрузку, которую вы сможете перенести.H100 80GBоправдана, когда пул 80GB — жёсткое требование, и в этом случае планируйте исходя из выделения квот и сроков поставки, а не из прайс-листа.
Обсудим ваши требования к GPU
HKCHL держит на складе и поставляет ускорители NVIDIA L4, A100 и H100 — отдельно или в составе полных проверенных серверных конфигураций — со своего склада в Гонконге с доставкой по всему миру. Пришлите нам объём вашей модели, целевой уровень параллелизма и ограничения по платформе, и мы вернёмся с конфигурацией и предложением, обычно в течение 12 часов.
Нужны актуальные цены на GPU для инференса или на готовый GPU-сервер? Мы поставляем и полностью тестируем корпоративные серверы, GPU, системы хранения и память ECC DDR4/DDR5 со своего склада в Гонконге. Свяжитесь с нами и опишите требования — мы отвечаем в течение 12 часов.