５ｐａｂｏｏｋ_2025年9月23日之前

5pa · 2025-8-27 17:24:07

當矽光子晶片，當量子晶片

１Ｄ的晶片就很好用，哪需要３Ｄ封裝呢？

現階段台積電為了ＨＢＭ堆疊搞了一堆３Ｄ封裝技術
往後都可能被類似華為ＵＣＭ＋ＡＩ　ＳＳＤ給大量避開ＨＢＭ

ＨＢＭ大量需求不再後，價格會崩跌，當然台積電封裝價格也會大跌

5pa · 2025-8-27 17:15:40

Huawei OceanDisk EX 560作為極致性能盤，隨機寫入性能最高可達1,500K IOPS，隨機寫時延低於7µs，耐久性可達60 DWPD（每日全盤寫入次數），適用於AI一體機訓練場景，透過高效能AI SSD將單機可微調的模型參數擴大6倍大尺寸，可擴大高品質參數。

Huawei OceanDisk SP 560定位為高性能盤，主打高性價比。它的隨機寫入效能最高可達600K IOPS，隨機寫入延遲也低於7µs，耐久性為1 DWPD，適用於一體機和群集的推理場景。可推理序列長度提升了2.5倍，推理體驗進一步優化，成本也更具優勢。不僅如此，其還實現了TPS提升1~2倍，首Token時延降低75%，讓推理環節更有效率、更流暢。

Huawei OceanDisk LC 560為大容量盤。它實現了超大容量突破，最大單盤實體容量高達245TB，讀頻寬可達14.7GB/s。對於叢集訓練場景而言，此產品的作用十分關鍵，它能助力資料擷取預處理效率提升6.6倍，高效儲存海量多模態語料庫，為AI訓練提供充足的資料「彈藥庫」，有力支撐了叢集訓練在資料儲存與讀取方面的高要求。

華為發表三款自研AI SSD，單盤實體容量高達245TB
在發表會現場，華為公司副總裁、資料儲存線總裁週躍峰表示，AI SSD（固態硬碟）將以技術創新提升AI業務體驗，攻克效率與成本難關。此外，華為也推出DiskBooster驅動軟體，支援AI SSD與HBM、DDR記憶體智慧協同，透過記憶體擴充技術實現虛擬池化記憶體20倍擴充。

就在先前的8月12日，華為正式發表AI推理創新技術UCM（推理記憶資料管理器）。據了解，作為一款以KV Cache為中心的推理加速套件，UCM融合了多類型緩存加速演算法工具，分級管理推理過程中產生的KV Cache記憶數據，可擴大推理上下文窗口，實現高吞吐、低時延的推理體驗，降低每Token推理成本。

華為發布自研的AI SSD，與華為先前發布的UCM技術結合，取代現有的AI技術，劍指英偉達、SK海力士。
以前的AI晶片，大量使用HBM內存，HBM內存越多，速度越快，頻寬頻寬，性能性能強。
但華為發布了UCM技術，透過一系列演算法，將AI推理過程中不同要求的數據，放在不同的位置，例如即時數據放HBM中，短期數據放DRAM中，長期數據放SSD。
同時，華為又自研了AI SSD，搭載了UCM、XtremeLink和SpeedFlex技術。
隨著華為UCM技術的推出，再加上華為的AI SSD等，就不再那麼依賴HBM內存了，華為的AI晶片，配合UCM技術，再加上AI SSD，就可以在AI晶片上，實現相應的成本，更好的推理效率。

感覺好像華為近日的ＵＣＭ＋ＡＩ　ＳＳＤ很厲害？？
問題是：寒武紀［思元６９０］ＡＩ晶片根本就不需要採用ＨＢＭ．ＧＤＤＲ７
哪需要像華為這麼拼命避開昂貴的ＨＢＭ

等進入ＤＤＲ６＋PCIe 7.0光纖
就不需要ＡＩ　ＳＳＤ，直接存取ＤＤＲ６內存就夠