英伟达 H100 GPU性能，规格，供给分析

NVIDIA H100张量核心GPU提供前所未有的性能，可扩展性，以及各种工作负载的安全性。与NVIDIA®NVLink®开关系统，最多256H100 gpu可以连接加速百亿亿级工作负载，而专用Transformer Engine支持万亿参数语言模型。H100使用突破性创新的NVIDIA Hopper™架构提供业界-领先的会话AI，将大型语言模型的速度提高了30倍以前的一代。

NVIDIA H100 gpu具有第四代张量内核和Transformer引擎具有FP8精度，进一步扩展了NVIDIA在市场领先的AI领导地位训练速度提高4倍，推理速度提高30倍语言模型。对于高性能计算(HPC)应用，H100将FP64的每秒浮点运算次数(FLOPS)增加三倍，并将其添加动态规划(DPX)指令提供高达7倍的更高性能。采用第二代多实例GPU (MIG)，内置NVIDIA机密计算，和NVIDIA NVLink交换系统，H100安全地加速所有从企业级到百亿亿级的每个数据中心的工作负载。

H100 主要参数

作为 A100 的替代，H100 采用了当前最先进的台积电 4nm 工艺、单块芯片拥有800 亿个晶体管，可以加快 AI、HPC、内存带宽、互连和通信的发展，甚至能够实现每秒近 5 兆字节的外部连接，是第一个支持PCle Gen5和利用HBM3的GPU，使记忆体频宽达到3TB/s。