【风口专家会议】AI推理大布局到来?特邀行业专家全面解读AI应用落地终端带来的硬件增量需求
风口专家会议
2024.12.17 07:49 星期二

博通2024财年公司的人工智能收入增长220%,达到122亿美元;博通预计AI产品收入将在2025财年第一财季同比增长65%。博通还透露,目前正在与三个非常大型的客户开发AI芯片,预计明年公司AI芯片的市场规模为150亿-200亿美元。

国盛证券表示,AI业务中,博通已有的三家大客户已迭代多版XPU,在2027年,每家客户均将在单一网络架构中部署百万个XPU,ASIC芯片需求初步演绎、后续趋势明确

特邀行业专家全面解读AI应用落地终端带来的硬件增量需求,12月17日(周二)19:00,财联社VIP携手蜂网专家为您带来“ASIC芯片”主题的【风口专家会议】。

特邀专家AI芯片行业专家

分享主题:

AI推理大布局到来?

——特邀行业专家全面解读AI应用落地终端带来的硬件增量需求

分享内容:

1、美股博通连续大涨!ASIC推理芯片增量需求分析;

2、ASIC推理芯片主要生产厂商及下游客户介绍;

3、数据中心AEC方案优势及相关业务厂商分析;

4、AI应用落地终端有望带动其它电子硬件增量需求分析。

您可以在12月17日(周二)晚上7点前等待电话外呼接入会议,也可以点击以下链接参会。(会议结束后点击链接可看回放)

image

PC端点击链接入会☛ 《AI推理大布局到来?》

手机APP端点击链接入会☛ 《AI推理大布局到来?》☚

微信、海报等点击链接入会☛ 《AI推理大布局到来?》

小贴士包时段用户可以在新更新的会议纪要文章里直接查看纪要内容。仅单篇解锁该文章的用户,会议纪要会同步更新的该文章内,次交易日午后可以回看该文章查阅纪要。

如您对《风口专家会议》的订阅以及观看流程有疑问,或者有特别想对专家提问的问题,可以添加财联社小财神客服微信(clsvip168),了解详情。

附本次会议纪要

AI芯片行业核心逻辑

image

电话会议纪要

问题一什么是ASIC芯片?如何分类以及分别有怎样的用途?与通常的GPU和CPU相比有怎样的区别?

专家:ASIC指专用集成电路,GPU和CPU是通用芯片。通用芯片有普适性、广泛性和强兼容性,而专用芯片更能满足某一场景的使用。ASIC芯片的种类丰富,无论芯片是否简易,都可以做成专用芯片。目前的种类如MCU芯片、通讯芯片、AI芯片,都有相应的专用芯片。CPU和GPU芯片在市面上可以直接买到,有大厂提供标准规格的产品,不需要额外的开发成本,而ASIC芯片需要额外开发和定制,有时间成本和开发成本。ASIC芯片的开发也可能会失败,因为需要满足特定应用的强适配和某些硬件、软件的强绑定,有技术壁垒。

总结来看,ASIC芯片是定点给某些特定客户或自己做研发,不是公开出售的,类似一个唯一的或者非常稀缺的资产,开发完成后在该场景有非常高的竞争力,但有开发成本和时间成本。

问题二介绍一下博通公司。业绩大涨的原因是什么?明年是否还有增速的持续性?

专家:博通是个美国公司,之前注册在新加坡,做过很多笔大额交易的并购,最初是一个做通讯和交换芯片的公司,经过一系列的收购后,现在是一个软硬件综合实力强、聚焦专用芯片和通用芯片的企业。在通讯交换芯片领域,目前是世界前两大供应商之一。在ASIC芯片领域,曾收购过美国一家非常著名的芯片设计、开发公司。第三大业务还有数据连接部分。

业绩大涨是由于最近公开宣布了2025-2027年的业绩预测和前瞻性分析,特别是在ASIC定制化芯片业务上,有来自AI端的增长,有几家互联网大厂做了一些订单和承诺,预计比此前的收入规模增长很多。另外,在接下来AI强落地的背景下,ASIC定制化芯片可能会对通用芯片形成强补充,可能会增加芯片总需求,也甚至可能会瓜分部分英伟达的通用芯片市场

此外,英伟达的股价上涨过久,被部分兑现,市场可能也需要一个新的增长点,博通出现的节点不错。

问题三是否存在ASIC芯片增速大幅提升、英伟达通用芯片增速相对放缓的预期?

专家:专用芯片销量增速提升是有可能的,在过去很长一段时间中,大部分是用英伟达方案,即通用方案,增速提升是由于ASIC芯片基础存量较低。如果大家都采用英伟达的通用芯片,产品就不具备差异性。另外,英伟达的通用芯片无法将软硬件和独有算法进行强绑定,改善空间小,专用芯片可以在算法上进行优化,做协同性调整。因此,大厂做这件事情是势在必行,尤其是互联网大厂,一年用几万至十万套的芯片,一部分选择专用芯片,一部分选择通用芯片,合理分摊算力。

问题四国内有哪些ASIC芯片设计和代工厂商?其下游大客户是否会考虑使用这些厂商的产品?

专家:国内大陆的选择非常有限,大陆只有几家ASIC芯片设计公司,其中上市公司有芯原股份,做ASIC芯片定制,业务小;灿芯股份也可以承接ASIC芯片定制开发业务。此外,国内使用大模型的公司有一些自己开发定制芯片,但帮别人设计的比较少。比如翱捷科技也在尝试承接业务,从财报上可以看出有一部分来自委外设计,但它不是专业的,主要还是做手机芯片。华为海思也可以做从端侧到训练侧的所有芯片,有自己的生产线和平台,但不可能帮别人做。百度昆仑做的类似ASIC芯片,与博通、三星都有合作。平头哥、寒武纪、摩尔线程等仍以通用芯片为主,对标国产版英伟达。代工厂商的话,中芯国际可能是唯一选择,但是也不太优。

问题五什么是AEC连接方案?还有哪些连接方式?AEC的优势所在?

专家:主要的连接方式有三种:AEC、AOC和DAC。AOC是光通讯,AEC和DAC都是用铜缆或者电缆来完成的。区别分三个维度:成本、距离、性能。

成本维度上,由高到低分别是AOC、AEC、DAC。AOC里面是光纤,所以最贵。

一个数据中心由数百个机柜组成,每个机柜由数10台服务器构成,数10台服务器里包括算力卡服务器和交换服务器,彼此的柜子需要连接在一起,这样矩阵才能扩大。如果在机柜内部用DAC直连,一个机柜线缆的长度不长,5-10米就足够了,所以DAC是可以控制和覆盖的。与DAC的显著区别在于,AEC会做主动的芯片增强、恢复、校准、纠错,或者将数据包进行分包处理。所以,AEC的距离可以达到15-20米,宽带可达100-200G。AOC是光缆,只要光纤不损坏、不折断,再远都可以传。

性能维度上,DAC的带宽在100G以内,常规的25G到40G都没问题。DAC是铜线会衰竭,但在可控距离范围内,衰竭还是可以被克服的。

这三个技术都很成熟,在数据中心里已经存在了5-10年以上。AEC火的原因是数据中心单个通道的数据吞吐量和功耗提高了,但物理空间有限,需要把密度提高,就必须用更高效的传输方式,比如AEC或AOC,但AOC比较贵。

问题六AEC业务比较好的公司及其上游公司有哪些?

专家:不清楚有哪些供应商,但用户很明确,需要部署数据中心的都是用户,但这跟数据中心总量有关,因为一个机柜里面需要的AEC长度是确定的,和数据中心的机柜容量呈倍数关系。

问题七在大模型落地的关键节点,除了推理芯片,还有哪些消费电子端的硬件需求会大幅提升?包括性能需求和量的需求。

专家:推理芯片的形态产生了,但是尚未普及。目前推理侧的应用都是图文生成、语音转字幕,或者文案输出等,终端产品的形态可以各种各样,玩具、手机、电脑、眼镜、智能音箱等,需要不断试错。推理芯片本身跟训练芯片完全不一样,推理要用专用芯片来实现,市场上没有推理芯片的通用芯片,所以推理芯片的落地和商业化还会产生很多专用芯片的可能性,ASIC的机会更大一点。

问题八除了推理芯片,手机的存储芯片、通讯模组等其他零部件的需求提升幅度多大?大概的增量排序如何?

专家:以手机为例,其推理芯片很有可能会被主芯片集成掉。现在主芯片的供应商如高通、联发科,都具备这个能力。

如果要推出智能终端产品,首先要在GPU上做大规模的性能提升,相配套的是内置存储。因为一旦做推理,有很多在线和离线的交互,这些会产生大量存储容量的强需求,占多少增量比例取决于终端的推理功能强度。

目前手机上做推理侧的应用强度较轻,一旦加重,整个手机的能耗、面积、体积、设计等各方面都会出问题,至少在目前的体量上都会有问题。此外,可能也会增加一些外设功能的强度,比如摄像头、外设的辅助设备。

问题九如何看待交换机未来的增量需求?随着数据中心的运算量增大,它的升级是否重要?

专家:博通是做交换芯片出身的,对于这方面有非常深的理解,参与了数据中心的建设、扩容和升级,与互联网大厂有非常好的关系。

交换芯片在其中起到举足轻重的作用,是一个通路,无论是单体还是多体,提升主要在于其单芯片或多芯片的带宽容量增加、单通道和多通道的容量增加、吞吐率、对时延和功耗的控制。随着数据中心AI需求的增加,数据吞吐量急剧增加,意味着交换机的设备和主芯片都要提升上去。

光靠训练侧和推理侧的提升,数据会拥塞在交换部分,那是解决不了问题的,交换设备一定要提升。随着AI的落地,无论是训练侧还是推理侧的都会显著体现的,所以做交换芯片的公司肯定是有红利的。

问题十国内做交换机的品牌有哪些?

专家:国际企业中,思科和博通都可以提供这方面的芯片,也可以提供整机和设备。此外,国内还有几家自研交换芯片的公司,比如华为海思、中兴通讯的中兴微电子、烽火通信、苏州申科,其产品性能带宽跟博通比有差距。

系统厂商方面,上述有些芯片公司本身提供系统,包括华为、中兴通讯和烽火通信等。此外,浪潮信息是贴牌的,用别人芯片来做交换设备。苏州申科也提供交换设备,并且自己也做芯片。对做整机的公司来说,有自研芯片的能力是很重要的,如果没有自研芯片,只是拿别人芯片来组装,其竞争力相对较弱,因为交换机的核心在于硬件芯片和协议上。

问题十一PCB产品是否会因为ASIC芯片的布局,需要做出产品改变或者数量提升?

专家:需要。一般来说,做了专业芯片,PCB设计的BOM的其他配件或元器件,需要跟专用芯片适配。 专用芯片不是一个单芯片的问题,而是一个系统问题。一般客户开一个专用芯片,会有系统解决方案,包括专用芯片,加上外设和其他元器件,PCB设计需要做一些调整。

问题十二除了PCB,其他也需要根据专用芯片做产品革新或改变吗?

专家:不需要,既然做专用芯片,就不应该去提高整个系统的改变成本或结构。专用芯片的量一旦起来,它的成本要比通用芯片便宜。如果只需要100-1000张,会觉得GPU比专用芯片的开发成本低,当需要1万张以上时,肯定是专用芯片便宜。

问题十三目前数据中心的液冷需求高吗?市面上主要有哪些液冷产品提供商?

专家液冷是一个确定的趋势,随着芯片颗粒变大、集成度变高,无论是单芯片还是单板,单机柜还是多机柜,整体功耗会显著上升。AI有几个瓶颈,分别是算力瓶颈,能耗瓶颈,电力瓶颈。通过液冷的方式,可以快速实现能量转换,液冷不只是做个散热,还要做转换,所以用液冷是目前的最佳解决方案,比传统的风冷、自然冷却、加特殊材料,或者在上面贴冷却板或冷却片,肯定是要强得多。

液冷供应商提供的液体不是水,是丙醇加上其他混合体,还提供整个设备的解决方案。科创板和和北交所都有上市公司,比如中科曙光,提供整个解决方案,甚至帮数据中心做完整配套,为百度、京东等提供了服务。

专家火线解读 透视风口行业(加赠金牌纪要库)
1288元起
立即购买
展开
最新文章
加载更多
风口专家会议
收藏
|
69.18W
|
VIP试读
①人气火爆催生多只翻倍股!栏目一季度持续跟踪AI方向,邀约专家梳理产业链新进展,题材内大涨股频现; ②用电需求2年激增2.6倍!栏目高频邀约专家专场解读数据中心、算力细分方向,相关公司或迎来发展契机; ③机器人行业快速发展!栏目火速邀约专家探究机器狗产业进展,精选行业要闻并发布.
栏目:风口专家会议04月04日 09:04
①华为昇腾+DeepSeek!端侧AI迈向商业化变现阶段,国产一体机爆火,这家公司3日内涨超33%; ②苹果阿里强强联合,哪些企业受益阿里推理算力需求溢出?栏目深度梳理阿里算力布局+人气公司已2连板; ③推理算力资源短缺,云服务市场迎来需求暴增,栏目梳理到这家公司收获涨停。
栏目:风口专家会议02月14日 09:02
①高阶智驾平权!比亚迪“天神之眼”下放低价车型行业带动性分析;②DeepSeek等模型对自动驾驶渗透率及未来影响分析;③比亚迪高阶智驾对自身供应链影响分析;④高阶智驾方案、车路协同进展和重要时间节点介绍。本场风口专家会议将于2月9日(周日)16:00举行,特邀行业专家全面解读高阶智驾现行方案变化及对产业链影响。
栏目:风口专家会议02月08日 06:02
①智谱清影2.0领跑国产AI大模型,栏目火速梳理多家公司持续上涨; ②国内商超开启调改浪潮,栏目特邀专家解读零售变革新趋势,Ta们有望率先受益; ③电源系统成为算力数据中心最大受益者,栏目梳理到这家公司收获涨停。
栏目:风口专家会议01月24日 09:01
①持续跟踪AI产业链发展进展,梳理提及AI眼镜、AI智能体等细分方向,大涨股频现; ②AI硬件多个环节需求增长,栏目10月多次邀约专家专场解读铜连接、光通信方向,相关公司或迎来发展契机。
栏目:风口专家会议01月11日 11:01
①美股博通连续大涨!ASIC推理芯片增量需求分析;②ASIC推理芯片主要生产厂商及下游客户介绍;③数据中心AEC方案优势及相关业务厂商分析;④AI应用落地终端有望带动其它电子硬件增量需求分析。本场风口专家会议将于12月17日(周二)19:00举行,特邀行业专家全面解读AI应用落地终端带来的硬件增量需求。
栏目:风口专家会议12月17日 07:12
①2025年GB200铜连接市场规模有望达到245亿元,这两家公司类似神宇股份、沃尔核材,有望通过供应线材切入产业链,为头部公司提供产品配套;②受益华为、中兴持续扶持,国内背板连接器厂商研制进度上逐步追赶上海外巨头,这家公司224Gbps产品实现样品试制合格;③I/O连接器曾由安费诺等巨头垄断,这两家公司经过技术研发,112G相应产品实现小批量生产。
相关股票:
栏目:风口专家会议10月18日 00:10
①持续跟踪汽车相关产业链,梳理车路云、智能驾驶、汽车安全等细分方向,大涨股频现; ②消费电子AI眼镜、折叠屏方向活跃,栏目分时机解读产业链增量环节,“掘金”梳理多条价值资讯。
栏目:风口专家会议10月14日 10:10
①牛市来袭?从白酒业务复苏态势看谁或成本轮板块最大“黑马”;②高端白酒价格复盘及复苏拐点逻辑分析;③中秋节白酒市场行情复盘及四季度需求分析;④本轮各白酒企业市场应对策略及成效优劣分析。本场风口专家会议将于10月6日(周日)19:30举行,特邀行业专家全面解读本轮各白酒企业业务情况及四季度市场变化。
栏目:风口专家会议10月04日 13:10
①《黑神话:悟空》已售出120万套,预估销售额约4亿元人民币,有望吸引更多的开发者和资本进入这一领域,这些公司参与版号审核以及相关股份投资;②这个细分游戏品类成为行业最大亮点,上半年收入达到166亿元、同比增长超过60%,这两家公司旗下产品领跑行业,展现出较高景气度;③2024年1-7月共发放国产游戏版号733款,月均发放104.7款,同比增长20%,这些公司手握版号有望成为下半年“黑马”。
相关股票:
栏目:风口专家会议08月16日 04:08
推荐专栏
盘中有「宝」,快人一步!
今日更新6条1小时前更新
¥1888 起
提前挖掘“超预期”,捕捉下一个市场“风口”
今日更新4条3小时前更新
¥1088 起
揭秘游资模式,找寻资金背后的逻辑
今日更新1条7小时前更新
¥618起
火线解读!即时推送重要资讯独家深度解析
今日更新5条2小时前更新
¥898 起
今日复盘+明日前瞻,精选更有价值的交易资讯!
1天前更新
¥518 起
主流机构投资者眼中的“价值研报”
今日更新1条13小时前更新
¥528 起
大势研判+热点前瞻,盘前必读的特供早报!
今日更新1条12小时前更新
¥688起
解读利好公告,提前规避“黑天鹅”
1天前更新
¥428起
精粹专家视角 传递市场先声
今日更新1条7小时前更新
¥ 688起