NVIDIA представила ускоритель вычислений H200 на базе архитектуры Hopper.
Обновленная память HBM3e обеспечивает 141 Гбайт со скоростью 4,8 Тбайт/с, почти вдвое больше и существенно быстрее предыдущего поколения. Улучшение памяти обещает значительный рост производительности, например, ускорение работы моделей Llama 2 и GPT-3.
Партнеры, включая ASRock Rack, Dell, и Lenovo, уже планируют выпустить системы с H200, а крупные облачные провайдеры, например, AWS и Microsoft Azure, начнут предлагать инстансы на базе H200 в следующем году.
Ускоритель будет доступен со второго квартала 2024 года и обещает установить новые стандарты производительности в области вычислений и искусственного интеллекта.
https://3dnews.ru/1095915/nvidia-predstavila-h200-samiy-bistriy-v-mire-uskoritel-vichisleniy-dlya-moshchneyshih-ii