您的位置首页百科知识

H100/H200

H100/H200

的有关信息介绍如下:

H100/H200

H100/H200是英伟达(NVIDIA)公司推出的两代基于Hopper架构的高性能数据中心GPU,专为人工智能(AI)训练与推理、高性能计算(HPC)及数据分析工作负载设计。

H100率先发布,采用台积电4N工艺,集成了超过800亿个晶体管。其核心创新包括专用的Transformer引擎、第四代Tensor Core以及对FP8精度的支持,旨在加速大型语言模型(LLM)训练。它通过第四代NVLink提供高达900 GB/s的GPU间互联带宽。

H200是H100的迭代升级产品,于2023年11月发布。它是首款采用HBM3e内存的GPU,将显存容量提升至141GB,带宽达到4.8 TB/s,能够支持Llama 2等大语言模型的推理任务。

这两款GPU是英伟达在AI计算领域的重要硬件产品,被应用于云服务器、超级计算机及AI算力集群。

想要了解更多“H100/H200”的信息,请点击:H100/H200百科