一、大摩：GB200 供应链更新
近日，大摩更新了 GB200 供应链的情况, 提到 GB200 DGX/MGX 的供应链已经启动，目前正在设计微调和测试阶段，预计2025年的订单和供应商分配将在未来几个月内最终确定。
1.大摩对 GB200 在2024年/2025年的出货量预测
基于CoWoS的产能分配，大摩预测：
• 2024年下半年，预计将向市场交付约42万颗 GB200 超级芯片；
• 2025年，GB200芯片产量预计约为150万至 200万颗。
2.GB200 催生两个增量市场：测试、封装
大摩提到了 GB200 带来的两个增量环节：半导体测试、半导体封装。
• 半导体测试：GB200中，英伟达采用了大芯片的战略，芯片尺寸的增大会导致良率下降，进而拉动对半导体测试的需求，数据显示24Q2英伟达的AI GPU测试需求环比增长了20%；
• 半导体封装：GB200采用的先进封装工艺将使用玻璃基板。主要是因为与硅、有机基板相比，玻璃基板具有强度可调节、能耗低、耐高温的优势。但缺点是玻璃基板的使用成本相比于硅、有机基板要更高。
3.ASIC 芯片入局AI半导体市场
大摩预测 ASIC（定制化AI芯片）将在未来几年内超过 GPU 的增长速度，并有可能在四到五年内占据云 AI 半导体市场 30% 的份额。
主要原因是由于下游逐渐个性化的需求。参考本月初海力士和美光提到的 HBM 逐渐趋向于定制化，也是因为下游需求的个性化趋势。
同理，ASIC 专为特定 AI 任务设计，可以针对特定算法和模型进行优化，从而获得比通用 GPU 更高的性能。
目前，海外大型云服务厂商，如 Google、AWS、Tesla 和 Microsoft，都在积极开发和部署自己的定制 ASIC。报告中提到的 AWS 的 Inferentia 和 Trainium 芯片，其每瓦性能比 GPU 高出 50%。
二、小摩：存储供需紧张仍在持续
市场认为，厂商积极的供货会使得
存储器的价格增长放缓。
此次，小摩在其报告中指出，尽管供应链有所缓和，但内存市场将保持紧张，直到 2025 财年下半年。这是基于以下三个因素。
1.AI终端的兴起：AI手机、AI PC将推动终端设备中 DRAM 和 RAM 容量的增长。报告预测：
• 人工智能手机的内存容量将增加 40%，平均 RAM 将达到 28GB；
• 人工智能个人电脑（主要来自惠普、联想和华硕）将使用 32GB 内存；
• 智能手机/笔记本电脑内容在未来三年将以14%/12% 的复合年增长率增长；
2.良率损失的影响：存储使用的 CoWoS 封装工艺中的良率损失较高，这种良率损失约为 10-15%，将直接影响 HBM 的有效供应。
3.NAND 需求增长：得益于 AI 服务器中 QLC SSD（四级单元固态硬盘）的采用。 QLC SSD 凭借其高存储密度和较低成本将逐步取代传统SSD。
基于这些发现，该报告将 2024/2025 财年的内存总目标市场 (TAM) 提高了 15%-18%。
大摩曝出英伟达GB200新料：供应链启动，两个细分有新变化
关于英伟达 GB200
18个这样的计算节点共有36CPU+72GPU，组成更大的“虚拟GPU”。
它们之间由今天宣布的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum™-X800 以太网平台连接，可提供速度高达800Gb/s的网络。
在NVLink Switch支持下，最终成为“新一代计算单元”GB200 NVL72。
一个像这样的“计算单元”机柜，FP8精度的训练算力就高达720 PFlops，直逼H100时代一个DGX SuperPod超级计算机集群（1000 PFlops）。
把GB200 NVL72当做单个GPU使用，具有1.4EFlops的AI推理算力和30TB高速内存。
英伟达新核弹B200发布，一台服务器顶一个超算，万亿参数大模型30倍推理加速
关于浮点运算 Flops
如下表示FLOPS，分别以M，G，T，P四种级别来表示，当然你也可以用到TOPS上面。
一个MFLOPS（megaFLOPS）等于每秒一百万（=10^6）次的浮点运算；
一个GFLOPS（gigaFLOPS）等于每秒十亿（=10^9）次的浮点运算；
一个TFLOPS（teraFLOPS）等于每秒一万亿（=10^12）次的浮点运算（1太拉）；
一个PFLOPS（petaFLOPS）等于每秒一千万亿（=10^15）次的浮点运算。
TFLOPS与TOPS有什么区别？
沪公安联网 31011502019103