Nvidia представила новую линейку ПК с искусственным интеллектом для разработчиков и исследователей
Американская технологическая компания Nvidia анонсировала новую линейку персональных суперкомпьютеров с искусственным интеллектом на базе чипсетной платформы Grace Blackwell. Устройства ориентированы на разработчиков по искусственному интеллекту, исследователей и других специалистов, занимающихся созданием прототипов, настройкой и доработкой больших моделей.
Анонс устройств
Руководство компании Nvidia анонсировало новую линейку персональных суперкомпьютеров с искусственным интеллектом (ИИ) на базе чип-платформы Grace Blackwell, об этом пишет TechCrunch.
Генеральный директор компании Nvidia Дженсен Хуанг (Jensen Huang) лично представил две новые машины — DGX Spark (бывший Project DIGITS) и DGX Station. Анонсированные компьютеры позволят пользователям создавать прототипы, дорабатывать и запускать ИИ-модели разных размеров на периферии.
«Это компьютер эпохи ИИ-технологий. ИИ преобразовал все уровни вычислительного стека. Вполне логично появление нового класса компьютеров, созданных для разработчиков в ИИ-сфере, а также используемых для запуска ИИ-приложений. С новыми персональными ИИ-компьютерами DGX ИИ-технологии могут распространиться как на облачные ИТ-сервисы, так и на десктопные и периферийные приложения», — сказал Хуанг во время презентации. Он добавил, что именно так должны выглядеть ИИ-компьютеры, и именно так они будут работать в будущем. Хуанг поделился, что сейчас у компании Nvidia есть целая линейка для предприятий, как от крошечных устройств, так и до рабочих станций.
DGX Spark
DGX Spark — это самый маленький в мире ИИ-суперкомпьютер, аппаратной основой которого стал суперчип GB10 Grace Blackwell, оптимизированный для формфактора десктопного компьютера. GB10 Grace Blackwell оснащен графическим процессором с тензорными ядрами пятого поколения, он обеспечивает FP4-производительность до 1 Пфлопс (1 тыс. трлн операций в секунду). Центральный процессор включает 20 ядер — по десять Arm Cortex-X925 и Cortex-A725. В качестве программной платформы выступает фирменная DGX OS.
Полнофункциональная ИИ-платформа от Nvidia для пользователей DGX Spark обеспечивает бесшовный перенос ИИ-моделей с рабочих станций в облако DGX Cloud или любую другую облачную среду либо инфраструктуру дата-центра. Этот процесс требует минимальных изменений в коде, что упрощает создание прототипов, настройку и повторение рабочих процессов.
DGX Station
Рабочая станция DGX Station обеспечит производительность уровня дата-центра в компактном ИИ-компьютере. Это первая рабочая станция на базе ускорителя GB300 на архитектуре Grace Blackwell. Графический процессор Blackwell Ultra с тензорными ядрами последнего поколения подключен к процессору Grace с 72 Arm-ядрами Neoverse V2 через NVLink-C2C, и обеспечивает лучшую в своём классе производительность — до 20 Пфлопс FP4. Данная система предложит 784 ГБ когерентной памяти — 288 ГБ HBM3e и 496 ГБ LPDDR5X.
В оснащении DGX Station сетевой адаптер ConnectX-8 SuperNIC, который оптимизирован для ускорения гипермасштабируемых вычислительных нагрузок благодаря поддержке сетевых соединений на скорости до 800 ГБ/с. Объединив возможности рабочих станций DGX с платформой Nvidia CUDA-X AI, ИИ-разработчики смогут достичь высокого уровня производительности при создании ИИ-моделей на персональном компьютере (ПК).
Характеристики чипа
Как описывал ранее в 2024 г. CNews, компания Nvidia представила ИИ-ускорители следующего поколения на графических процессорах с архитектурой Blackwell. Со слов производителя, грядущие ИИ-ускорители позволят создавать еще более крупные нейросети, в том числе работать с большими языковыми моделями (LLM) с триллионами параметров, и при этом будут до 25 раз энергоэффективнее и экономичнее в сравнении с Hopper.
Архитектура GPU Blackwell получила название в честь американского математика Дэвида Блэквелла (David Blackwell) и включает в себя целый ряд инновационных технологий для ускорения вычислений, которые помогут совершить прорыв в обработке данных, инженерном моделировании, автоматизации проектирования электроники, компьютерном проектировании лекарств, квантовых вычислениях и генеративном ИИ.
Grace Blackwell оснащен технологией NVLink-C2C, которая обеспечивает высокоскоростную связь между CPU и GPU с пропускной способностью, превышающей PCIe 5.0 в пять раз. Этот чип, разработанный совместно с MediaTek, сочетает графический процессор Nvidia Blackwell и 20 ядерный процессор Nvidia Grace на базе архитектуры Arm. Система включает 128 ГБ памяти и до 4 ТБ NVMe-хранилища. Эта архитектура ускоряет распределение данных между GPU и CPU, оптимизируя производительность для задач в ИИ-сфере с высокими требованиями к памяти.