老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代

飞书用户6750

2024年3月19日修改

🏆

原创新智元新智元 2024-03-19 08:13 北京

新智元报道

编辑：编辑部

【新智元导读】就在刚刚，老黄又来打破摩尔定律了：英伟达新核弹B200，一块能顶5个H100，30倍推理加速，能训万亿参数大模型！同时推出的AI推理微服务NIM，号称让全世界用上AI。​

就在刚刚结束的GTC人工智能大会上，英伟达的新一代性能巨兽Backwell诞生了！​

Blackwell B200 GPU，是如今世界上最强大的AI芯片，旨在「普惠万亿参数的AI」。​

本来，H100已经使英伟达成为价值数万亿美元的公司，赶超了谷歌和亚马逊，但现在，凭着Blackwell B200和GB200，英伟达的领先优势还要继续领先。​

老黄表示——「H100很好，但我们需要更大的GPU」！

新的B200 GPU，从2080亿个晶体管中能提供高达20 petaflops的FP4性能。（H100仅为4 petaflops）​

而将两个B200与单个Grace CPU相结合的GB200，则可以为LLM推理工作负载提供30倍的性能，同时大大提高效率。​

比起H100，GB200的成本和能耗降低了25倍！

老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代​