2025年8月7日

隨著人工智慧和機器學習的廣泛普及，高效能運算不僅開始應用於超級電腦等專業領域，也開始應用於通用領域。另一方面，高效能運算消耗大量能源，並對環境造成巨大影響。因此，迫切需要一種能夠同時提高運算效能和能源效率的解決方案。 「記憶體運算」就是其中一種解決方案，它透過在記憶體中提供運算功能來降低處理器和記憶體之間資料傳輸相關的能耗。

在我們之前的工作中，我們開發了封裝升壓轉換器[1]。該技術顯著降低了讀取操作的功耗。透過擴展前期工作，我們探索了使用3D快閃記憶體的新型節能記憶體運算。

在人工智慧和機器學習中，有一個過程是搜尋相似的向量數據，以獲得矢量化的句子和圖像。這個過程用於人工智慧識別圖像中的物件和上下文。這個過程被稱為近似搜尋。[2]。

在本研究中，我們提出了一種用於記憶體計算的新型近似搜尋方法，該方法將順序多塊活化與電流控制單元（CC單元）結合（圖1）。關鍵向量資料沿線儲存。待搜尋的查詢向量資料應用於選定的字線。每個字串都放置一個CC單元，其作用是將導通字串的電流限制為一個恆定的較低值。每位線的導通電流由CC單元決定。由導通電流總和所獲得的向量內積表示關鍵向量資料和查詢向量資料之間的相似性。

我們以128維向量資料進行了近似搜尋演示，結果表明，相似度高的關鍵向量資料能夠被有效區分（圖2）。

與傳統讀取操作相比，128維記憶體運算的能效顯著提升。每位記憶體存取能量從30 pJ/bit降低至0.17 pJ/bit（圖3）。該技術與傳統3D快閃記憶體完全相容，被認為是實現高能效記憶體運算的關鍵技術。