亚马逊云计算推出H200 GPU和Trainium2芯片 助力人工智能应用飞速发展

   发布时间:2023-11-29 09:22

【智快网】11月29日消息,亚马逊旗下的云计算部门AWS在美国时间周二举办的Reinvent大会上推出了全新的人工智能(AI)芯片,以满足客户对构建和运行人工智能应用程序的需求,并计划引入英伟达最新芯片。

为了在云服务领域脱颖而出,AWS正致力于提供各种高性价比的选择。然而,与其它云服务提供商不同的是,AWS并非仅仅销售自家品牌的产品。与亚马逊在线零售市场类似,AWS的云计算服务将提供来自不同供应商的顶级产品,包括英伟达的GPU等。

据智快网了解,自从人工智能初创企业OpenAI去年发布了ChatGPT聊天机器人以来,英伟达GPU的需求不断攀升。ChatGPT聊天机器人以其出色的信息总结和真人文本撰写能力引起广泛关注,导致英伟达芯片短缺。多家公司争相将类似生成式人工智能技术整合到产品中,使得亚马逊采取了双管齐下的策略,既推出自家芯片,又允许客户使用英伟达最新芯片,以抗衡微软等头号竞争对手。微软早些时候也发布了首款人工智能芯片Maia 100,并表示Azure云将采用英伟达H200 GPU。

具体而言,AWS宣布将提供英伟达最新的H200人工智能图形处理单元,该公司还发布了Trainium2人工智能芯片和通用Graviton4处理器。

新的H200 GPU是H100的升级版,曾被OpenAI用于训练先进的大语言模型GPT-4。在芯片供应有限的情况下,大型公司、初创企业和政府机构纷纷争夺,因此从亚马逊等云服务提供商那里租用芯片的需求也相应增加。据英伟达表示,H200的输出速度将是H100的近两倍。

此外,亚马逊推出的Trainium2芯片专为训练人工智能模型而设计,支持OpenAI ChatGPT等聊天机器人的基础模型。初创公司Databricks和亚马逊支持的Anthropic计划将使用新的Trainium2芯片构建模型,性能将提高四倍。

Graviton4处理器基于Arm架构,相较于英特尔或AMD的芯片,能耗更低。AWS承诺Graviton4的性能将比现有的Graviton3芯片提高30%,实现更高的性价比。由于通货膨胀率居高不下,央行提高利率,一些组织为了更好地应对经济问题,可能考虑迁移到Graviton上以降低云服务账单。

亚马逊表示,已有超过5万名AWS客户在使用Graviton芯片。

作为加深与英伟达合作的一部分,AWS将运营超过16000颗英伟达GH200 Grace Hopper超级芯片,其中包含英伟达GPU和基于Arm架构的通用处理器。英伟达的研发团队和AWS客户都将能够充分利用这一基础设施。

自2006年推出EC2和S3服务以来,AWS已经推出了200多种云产品。尽管不是所有服务都取得了巨大成功,有些版本已经很长时间没有更新,甚至停产,但亚马逊仍在持续投资Graviton和Trainium项目,这表明其已经认识到市场需求。

尽管AWS尚未宣布搭载英伟达H200芯片的虚拟机实例的发布日期,以及使用Trainium2芯片的虚拟机实例的发布日期,但客户现在已经可以开始测试Graviton4的虚拟机实例,商业使用将在几个月后启动。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群