Telefly Telecommunication Equipment Co., Ltd.
Telefly Telecommunication Equipment Co., Ltd.
Новости

NVIDIA H100 141GB NVL Оригинал теперь доступен: переопределение производительности искусственного интеллекта в масштабе

Шэньчжэнь, Китай - июль 2025 г. - В результате прорыва для ИИ и крупных языковых модельных вычислений NVIDIA запустилаH100 141 ГБNVL Original, решение следующего поколения, предназначенное для расширения границ производительности искусственного интеллекта, способности памяти и энергоэффективности. Построенный с учетом рабочих нагрузок ИИ в масштабе предприятия, модуль H100 NVL 141GB адаптирован для удовлетворения требований современных передовых центров обработки данных, обучения языковой модели и вывода на беспрецедентной скорости и масштабе. 


В 3 раза быстрее выводы LLM - основан на архитектуре NVL

В отличие от стандартных графических процессоров SXM или PCIE, NVL H100 представляет собой уникальный форм-фактор с двумя графическими процессорами H100, подключенными через NVLink и упакованный в виде решения с двойным GPU с 141 ГБ общей памяти HBM3 и полосой памяти более 7 ТБ/с. Это делает его идеальным графическим процессором для:


Обучение GPT-3, GPT-4 и Llama 3

Крупномасштабные рабочие нагрузки с выводом трансформатора

Мультимодальные задачи AI (зрение, речь и т. Д.)

Согласно внутреннему тестированию NVIDIA, H100 NVL обеспечивает до 12 раз более быстрый вывод для крупных языковых моделей по сравнению с A100 80GB.

Похожие новости
X
We use cookies to offer you a better browsing experience, analyze site traffic and personalize content. By using this site, you agree to our use of cookies. Privacy Policy
Reject Accept