打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
性能暴涨30倍,NVIDIA发布全球最强AI芯片
userphoto

2024.03.19 北京

关注
昨晚GTC 2024大会上,NVIDIA宣布推出最新AI芯片--Blackwell B200。除了介绍该芯片的功能特性与强悍性能,还展示了多个基于生成式AI的使用场景与机器人的商业用途。


全新B200 GPU基于Blackwell架构拥有2080亿个晶体管,可提供20petaflops的FP4算力。但GB200并非单个GPU芯片组成,而是将两个GPU和一个Grace CPU结合在一起,并通过10 TB/s NV-HBI(NVIDIA高带宽接口)连接,以确保每一颗芯片能够单独运行。GB200可为LLM推理工作负载提供30倍的性能,同时还能大大提高效率;与前作H100相比,GB200可将成本和能耗降低25倍。

另外B200的优势就是其FP4算力。NVIDIA CEO 黄仁勋表示在过去的8年时间里,AI算力提升了1000倍,其中最为关键的改进是第二代Transformer引擎,通过FP4算力使计算、带宽和模型大小得到了显著提升。相较于AI常用的FP8算力,B200的2个计算芯片让其性能达到了H100的2.5倍,每个Blackwell架构下的芯片算力要比上代Hopper芯片高出了25%。

对于算力炸裂的性能,生成式AI能给人类带来哪些福音呢?GTC现场展示了传统天气模型结合NVIDIA气象模型Cordiff后,能后实现探索数百公里甚至数千公里范围的气象预报,从而最大程度上提供预警并减少人类损失。此外,生成式AI还可凭借庞大的算力扫描数十亿种化合物,从而为医药领域提供新药的配方。

当然,硬件强悍离不开软件的支持配合,只有这样才更加便于管理提高效率。NVIDIA也现场展示了通过AI与Omniverse结合后所打造的占地10万平米的机器人仓库。通过100个安装在天花板上的摄像机,使用NVIDIA的Metropolis软件与自动移动机器人(AMR)的路线规划功能,从而实时映射了仓库的所有活动。

Blackwell B200的发布,在感叹性能大爆发的同时能源特别是电能消耗问题也不容小觑。之前就有不少声音表示AI算力设备的电能消耗过大,对于欧洲等电价不菲的国家来讲的确是一笔大支出。而戴尔公司曾透露:B200芯片整体能耗高达1000W,相较于前代增长40%,需戴尔运用创新工程技术进行散热管理。可见,能耗高还带来散热难的新问题,从而牵扯出数据中心架构更改费用,甚至新建机房的成本。

面对算力能源问题,我国早就有“东数西算”的战略,从而大大降低成本并提供稳定的数据中心服务。只可惜不要说B200,之前H100芯片都不能在中国使用,目前国内只能使用阉割版的A系列AI芯片。

最后,科技不应该是冰冷的,科技应该更好的为人类服务,有温度的服务。就像人们从未为“美好”设下具象定义一样,科技也不应该停下探索的脚步。

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
英伟达新架构发布,AI芯片上限提升了九倍,20块带宽就等于全球互联网
IBM全新AIU芯片:5nm工艺,230亿晶体管!深度学习处理性能强劲!​
推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」,2人公司估值3400万刀
重磅!英伟达官宣全球最强AI芯片:性能提升30倍,并将重新设计整个底层软件堆栈
Nvidia发布全新AI芯片Jetson Xavier,意在给机器人“造脑”?
英伟达重磅发布:144核超级Arm CPU及800亿晶体管GPU!
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服