为AI热潮再添动力 英伟达发布新一代芯片H200
原创
2023-11-13 16:36 星期一
财联社 牛占林
①新的H200芯片集成了141GB的内存,更加擅长进行“推理”。在用于推理或生成问题答案时,性能较H100提高60%至90%;
②H200预计将于2024年第二季度上市,将与AMD的MI300X GPU展开竞争。

财联社11月14日讯(编辑 牛占林)当地时间周一,半导体巨头英伟达发布了新一代人工智能(AI)芯片H200,旨在培训和部署各种人工智能模型。美股盘中,英伟达股价震荡走高,目前涨逾1%。

新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品,集成了141GB的内存,更加擅长进行“推理”。在用于推理或生成问题答案时,性能较H100提高60%至90%。

image

据英伟达官网消息,基于英伟达的“Hopper”架构的H200也是该公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。

英伟达称:“借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。

另外,H200预计将于2024年第二季度上市,将与AMD的MI300X GPU展开竞争。与H200类似,AMD的芯片比其前身拥有更多的内存,这有助于大语言模型来运算推理。

英伟达表示,H200将与H100兼容,这意味着已经在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。

英伟达副总裁伊恩·巴克声称:“为了训练生成式人工智能和高性能计算应用程序,必须使用高效能GPU。而有了H200,业界领先的人工智能超级计算平台可以更快地解决一些世界上最重要的挑战。”

英伟达加速计算首席产品经理迪翁·哈里斯表示:“看看市场上正在发生的事情,你会发现大模型尺寸正在急速膨胀。这是我们继续引领最新、最伟大技术的又一个例子。”

据美国金融机构Raymond James透露,H100芯片成本仅3320美元,但英伟达对其客户的批量价格仍然高达2.5万至4万美元。这导致H100利润率或高达1000%,成为了有史以来最赚钱的一种芯片。

而在训练大语言模型时,需要数千个H100集群工作,这导致科技巨头、初创公司和政府机构都在争夺英伟达有限的芯片供应。

由于对其产品的需求似乎是个无底洞,英伟达今年的销售额井喷,股价上涨了230%,市值突破了1.2万亿美元的大关。英伟达预计第三财季营收约为160亿美元,同比增长170%。

英伟达将在下周向投资者提供更清晰的业绩细节,该公司定于11月21日公布最新财报。

收藏
76.82W
我要评论
图片
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
评论(13)
cls-8162tq2年前 · 浙江
垃圾芯片还值得吹?
(2)
回复0条回复
cls-2cr5zv2年前 · 广东
今日华为概念要跳水了
(1)
回复0条回复
cls-13772202年前 · IP未知
我选择华为晟腾再升级版
(1)
回复0条回复
珍惜底部机会之wudi2年前 · 上海
相比A800性能是多少呢?
(0)
回复0条回复
ole机器人2年前 · IP未知
机器人吗
(0)
回复1条回复
潮平两岸阔回复ole机器人2年前 · 上海
(0)
回复
好像还是炒AI吧 和半导体?半导体已经涨了
cls-刘风云又讲故事2年前 · 广西
[心][心][心][心][心]#加油#
(0)
回复0条回复
cls-辛思齐2年前 · 浙江
暗示跟h20相比落后10倍?
(0)
回复0条回复
徐汇琦哥2年前 · 上海
【算力相关标的】1、光模块,海外核心受益:旭创、天孚;确定进入海外但是仍需等待放量:新易盛;国内核心受益:中际、华工、光迅、博创;光芯片(弹性&不确定性):源杰、光库、长光、仕佳、永鼎等。 2、交换机服务器:中兴(有芯片)、紫光、菲菱科思(弹性)、浪潮等。 3、PCB:沪电、胜宏等。 4、算力租赁:润建、润泽、恒润、中贝等。 5、运营商(分红)及应用:移动、联通、电信、梦网、彩讯等 6、国产算力芯片服务器等:华为算力产业链条(多为计算机的覆盖)、菲菱科思、盛科通信、烽火通信等
(0)
回复0条回复
cls-13543302年前 · IP未知
又不卖给咋们
(0)
回复0条回复
cls-ohlubc2年前 · 广东
利好hbm存储佰维存储
(0)
回复0条回复
cls-dc68iw2年前 · IP未知
为什么没评论
(0)
回复0条回复
cls-6fci562年前 · IP未知
不给你用吹啥,还是看华为
(0)
回复0条回复