Шэньчжэнь, Китай - июль 2025 г. - В результате прорыва для ИИ и крупных языковых модельных вычислений NVIDIA запустилаH100 141 ГБNVL Original, решение следующего поколения, предназначенное для расширения границ производительности искусственного интеллекта, способности памяти и энергоэффективности. Построенный с учетом рабочих нагрузок ИИ в масштабе предприятия, модуль H100 NVL 141GB адаптирован для удовлетворения требований современных передовых центров обработки данных, обучения языковой модели и вывода на беспрецедентной скорости и масштабе.
В 3 раза быстрее выводы LLM - основан на архитектуре NVL
В отличие от стандартных графических процессоров SXM или PCIE, NVL H100 представляет собой уникальный форм-фактор с двумя графическими процессорами H100, подключенными через NVLink и упакованный в виде решения с двойным GPU с 141 ГБ общей памяти HBM3 и полосой памяти более 7 ТБ/с. Это делает его идеальным графическим процессором для:
Обучение GPT-3, GPT-4 и Llama 3
Крупномасштабные рабочие нагрузки с выводом трансформатора
Мультимодальные задачи AI (зрение, речь и т. Д.)
Согласно внутреннему тестированию NVIDIA, H100 NVL обеспечивает до 12 раз более быстрый вывод для крупных языковых моделей по сравнению с A100 80GB.
