H200问世!英伟达再推AI巅峰芯片 内含HBM3e内存引领性能飞跃

   发布时间:2023-11-14 15:26

【智快网】11月14日消息,最新科技动向传来好消息,英伟达在当地时间周一发布了其最新人工智能(AI)芯片HGX H200,该GPU采用了创新的Hopper架构,旨在为人工智能应用提供更强大的加速性能。

这款H200芯片是英伟达去年发布的H100 GPU的后续产品,而H100则是英伟达首款基于Hopper架构的GPU,曾一度被誉为该公司最强大的人工智能GPU芯片。

据悉,H200是目前市场上首款搭载HBM3e内存的GPU。由于采用了HBM3e技术,H200可提供高达141GB的内存和每秒4.8TB的带宽,从而显著提升了生成式人工智能和大型语言模型(LLM)的加速效果。同时,H200还能处理人工智能和超级计算工作负载所需的大量数据。

据智快网了解,英伟达表示,H200的推出将带来更为突出的性能提升,例如在Llama 2(一个具有700亿参数的LLM)上的推理速度比H100快了近一倍。预计在未来的软件更新中,H200的性能将进一步领先并实现更高水平。

英伟达还透露,全球范围内的系统制造商和云服务提供商将从2024年第二季度开始广泛应用H200芯片,这标志着这一先进技术将逐步在全球范围内推动人工智能和计算领域的发展。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群