英特尔中国“特供版”AI芯片曝光

coffee198375

继不久前英特尔正式发布了新一代AI加速芯片Gaudi 3 之后，正准备面向中国市场推出“特供版”Gaudi 3，包括名为HL-328的OAM兼容夹层卡（Mezzanine Card）和名为HL-388的PCle加速卡两种硬件形态。


英特尔在其Gaudi 3 白皮书中披露了上述信息，其中HL-328将于6月24日推出，HL-388将于9月24日推出。


具体硬件规格方面，中国特供版的Gaudi 3 与原版相比，具有相同的96MB SRAM片上内存， 128GB HBM2e高带宽内存，带宽为 3.7TB/s，拥有PCIe 5.0 x16 接口和解码标准。但是，由于美国对于AI芯片的出口管制规则限制，使得这类高性能AI的综合运算性能（TPP）需要低于4800才能出口到中国， 这意味中国特供版的Gaudi 3 的16bit性能不能超过150 TFLOPS。


根据英特尔公布的数据显示，Gaudi 3 在 FP16/BF16 上可以达到 1835 TFLOPS，相比英伟达H100在大模型训练方面快40%、推理能效高50%。


显然，中国特供版的Gaudi 3 需要大幅降低AI性能，才能合规出口到中国。因此，中国特供版Gaudi 3 需要大幅削减内核数量（原版拥有 8 个矩阵数学引擎和64 个张量内核）和工作频率，最终可能需要其AI性能降低约92%才能符合美国的出口管制要求。


由于中国特供版Gaudi 3 AI性能的降低，这也将使得其TDP（热设计功耗）大幅降低。根据曝光的资料显示，中国特供版Gaudi 3的OAM卡和PCIe卡的TDP均为450瓦，而原版PCIe卡（HL-338）的TDP高达600瓦，原版OAM卡（HL-325L、HL-335）的TDP更是高达900瓦。


可以预见的是，英特尔专为中国市场推出的“特供版”Gaudi 3的OAM兼容夹层卡（HL-328）和PCle加速卡（HL-388）的AI性能将会与英伟达针对中国市场推出的AI加速卡H20相当，它具有 148 TFLOPS 的 FP16/ BF16 性能，略低于 150 TFLOPS 的限制。但是，在HBM容量及带宽上，英特尔中国特供版Gaudi 3将低于英伟达H20，这也使得其在与英伟达H20的竞争当中可能将处于劣势，当然具体也要看定价是否有优势。