知情人士称,这三款芯片均基于英伟达 H100 改良而来,英伟达预计最快将于 11 月 16 号之后公布,国内厂商最快将在这几天拿到样品。
查询公开资料获悉,NVIDIA H100 Tensor Core GPU 采用全新 Hopper 架构,基于台积电 N4 工艺,集成了 800 亿个晶体管。与上一代产品相比,可为多专家 (MoE) 模型提供高 9 倍的训练速度。
它配备第四代 Tensor Core 和 Transformer 引擎(FP8 精度),还具有高度可扩展的 NVLink 互连技术(最多可连接达 256 个 H100 GPU,相较于上一代采用 HDR Quantum InfiniBand 网络,带宽高出 9 倍,带宽速度为 900GB/s)等功能。
2024-03-28
2024-04-23
2024-01-09
2023-12-13
微软资讯推荐
win10系统推荐