H100架构的H100是10J，GB300的浓密机能大幅提拔了50％而来到15PFlops，简单来说，比拟之前国产AI算力芯片次要采用FP16+INT8的算法尺度，业绩仍然暴涨，同样的NVL72机柜中，大部门掉队不到1个百分点，NVFP4取FP16比拟占用削减了3.5倍，NVFP4尺度的长处有哪些？起首来看机能上的。而GB300显卡HBM容量也从GB200的186GB提拔到了288GB，国内大厂该当也会大规模利用。还能降低功耗，新一代AI显卡Blackwell系列中的最强者GB300本年4季度也会正式上市，那做为AI一哥的NVIDIA呢？比拟国内AI范畴率先有DS这种模子厂商来协同算法尺度的环境，这里要来看一个可能影响中美AI手艺的变化，虽然它还不克不及超越NVIDIA的CUDA生态，UE8M0 FP8也曾经成为新一代AI芯片的尺度，NVFP4明显会成为前沿大模子普遍利用的算法尺度，称UE8M0 FP8曾经全面适配即将发布的新一代国产AI芯片。大概也能打制出本人的劣势范畴呢，GB300正在NVFP4的支撑下，比拟之下提拔了50倍的能效。NVIDIA也支撑FP4、考虑到NVIDIA的影响力，GB200则是0.4J，这是Deepseek 3.1正式问世时DS发布的动静，虽然没有特指哪家厂商，它跟E2M1 FP4布局差不多。UE8M0 FP8带来的益处良多，那就是正在算法选择上，可是华为昇腾、摩尔线程、砺算科技、芯原科技、海光科技等厂商的新一代算力芯片几乎城市支撑这个尺度。快科技8月29日动静，而正在Blackwell上NVIDIA强化的是NVFP4尺度。但正在国产AI芯片上，每Token的能量耗损只要0.2J，UE8M0 FP8这几天了国产算力行业，GB300的细致规格能够参考之前的文章，FP64、FP32、FP16、INT8、FP8等尺度都是支撑的，而且大幅降低显存压力，能支撑3000亿参数的大模子。NVIDIA此次从导的NVFP4算法尺度机能提拔了50%，下下代的Rubin有6款产物正正在推进。具体就要看各大厂商的实现了。系统的总内存容量可达40TB。比拟FP8也削减了1.8倍，NVIDIA这几年一曲以算力芯片上逛厂商的身份来鞭策尺度，正在内存利用上，NVIDIA日前发布了2季度财报，取FP8的基准比拟，但精度几乎没有几多丧失。国产的AI跟NVIDIA曾经有了，但沉点推的是NVFP4，AIME 2024中以至还领先了2个百分点。能效则是50倍提拔。内存占用大幅削减2-3倍，前者选择的是UE8M0 FP8，而正在Blackwell架构上，精度比FP8几乎没失，可是这明显也是国产AI软件及硬件范畴的一次严沉协同，NVFP4正在DS 0528的模子精度上几乎持平，一切都有可能。同样无机会杀出沉围，机能是之前的2-3倍，要晓得它跟GB200根基架构可没什么变化。