Nvidia发布ChatGPT专用GPU,性能提升10倍!

添加书签

3月21日,Nvidia 2023GTC大会召开。Nvidia创始人兼首席执行官黄仁勋介绍了四款AI推理芯片、三个大模型云服务、超级计算机,以及针对场景优化的应用100个、新功能的工业元宇宙Omniverse。

其中,针对ChatGPT等大语言模型的巨大算力需求,Nvidia推出了H100 NVL,这与用于GPT-3的HGX A100相比,整体性能提升10倍,可以将大语言模型的处理成本降低一个数量级。

Nvidia发布ChatGPT专用GPU,性能提升10倍!插图

据悉,H100 NVL由两个H100芯片组成,每个芯片都有94G显存,一共188G显存,芯片之间提供了900 G/s的带宽,比PCIe Gen 5快了7倍,这也是Nvidia目前最强GPU之一。

Nvidia发布ChatGPT专用GPU,性能提升10倍!插图1

除了H100 NVL之外,Nvidia 还发布了L4 GPU,该 GPU专门为AI自动生成视频提供算力。Nvidia 表示,L4处理AI生成的视频的能力是CPU的120倍,能效提高了 99%。除了用于生成AI视频外, L4具有视频解码和转码功能,可用于增强现实。

由于L4内存容量增加了50%,可以生成更大的图像,最高可达1024×768,这在上一代 GPU上是不可能实现的。

Nvidia发布ChatGPT专用GPU,性能提升10倍!插图2

Nvidia表示,Google Cloud 是首批应用 L4 的公司之一。谷歌计划在今天晚些时候通过其 Vertex AI 平台向客户提供L4服务。Nvidia将在稍后从合作伙伴处提供该产品,包括联想、戴尔、华硕、惠普、技嘉和惠普等。

Nvidia发布ChatGPT专用GPU,性能提升10倍!插图3

END

加入AIGC开放社区交流群

添加微信:13331022201 ,备注“职位信息&名字”

管理员审核后加入讨论群