CXL-記憶體創新與系統性能的關鍵
背景
數據量正在以指數級增長，記憶體是啟用創新應用程序的關鍵，包括邊緣人工智慧、機器學習等。高性能平台對於即時訪問、處理、存儲和傳輸有價值的數據至關重要。對於 CPU 和記憶體的性能要求越來越高，而高容量和低延遲記憶體的發展速度遠遠慢於多核心處理器中核心數量的擴展。這就是 CXL 進入市場的原因，我們將在這篇科技博客中介紹它。
CXL是什麼
CXL 指的是計算擴展鏈接，是一種開放標準，旨在提高高性能系統的內存利用率以獲得更好的性能。CXL 提供了一條高帶寬、低延遲的通道，允許加速器訪問系統資源，並使系統能夠利用連接到 CXL 設備的內存。它提供了 CPU、內存、GPU 和其他加速器之間高效且一致的通信。
– 協議
– CXL.io它是發現、配置、I/O 訪問註冊等的基礎通信協議。它基於 PCIe，是所有 CXL 設備運行的必須支持協議。
– CXL.cache它使外圍設備能夠一致地訪問和緩存主機 CPU 記憶體，以降低延遲。
– CXL.mem該協議允許主機處理器訪問外圍設備的內存，以提高內存利用率。
這三種協議共同促進了主機（CPU）和設備（加速器）之間的內存資源的協同共享。
– 裝置類型
– 類型 1：設備（加速器）缺乏本地記憶體，例如智能網路介面卡依賴於對主機（CPU）記憶體的連貫訪問。
– 類型 2：配備本地記憶體的裝置，如 GDDR 或 HBM，像是通用加速器（GPU、ASIC 或 FPGA）可以利用 CXL 來一致性地訪問主機 CPU 的記憶體和/或將加速器的記憶體本地提供給主機 CPU。
– 類型 3：記憶體裝置，包括記憶體擴展板和持久性記憶體，可以通過 CXL 連接，以擴展主機 CPU 的記憶體容量和帶寬。
圖片 2. CXL Type 1/2/3 設備的比較插圖
CXL市場仍處於早期階段，但已獲得主要行業領導者的強力支持。一些記憶體供應商早在2022年就開始開發支持CXL的E3.S記憶體。以下是一些已經生產樣品的市場參與者，供參考。
*SK Hynix 首次於 2022 年推出支援 CXL2.0 的 96GB E3.S 記憶體模組，目前正在開發 128GB E3.S 版本。
– 規格
– CXL 1.x (1.0/1.1)CXL 1.0 基於 PCIe 5.0，允許主機 CPU 訪問設備內存以進行內存擴展，這指的是類型 2 應用程序。CXL 1.1 進一步支持設備級內存擴展，用於類型 3 應用程序，以及協同加速器模式，用於類型 1 應用程序。主機和設備之間的連接必須是一對一的。
– CXL 2.0支持 CXL 單層切換，多個 CXL 2.0 主處理器可以連接到多個 CXL 1.0/CXL 1.1/CXL 2.0 設備，跨越多個虛擬層級，這大大增加了設備連接的靈活性。記憶體池允許多個主機訪問共享記憶體資源，同時每個主機被分配一個不重疊的地址範圍。每個 CXL 2.0 設備可以被劃分為多個邏輯設備供主處理器訪問。通過有效分配共享記憶體資源，可以實現更好的記憶體利用率。
– CXL 3.0CXL 3.0 提升了傳輸性能並加強了多個連接的靈活性。基於 PCIe 6.0 接口，傳輸帶寬相比於基於 PCIe 5.0 的 CXL 2.0/1.1/1.0 翻倍。連接一個邏輯設備到一個主處理器沒有限制，內存共享允許多個主機訪問相同的內存。憑藉多級交換和網絡能力的支持，它使得極具靈活性的連接的大規模架構成為可能。
CXL 提供 CPU、記憶體、GPU 和其他加速器之間高效且一致的通信。為了利用這個開放標準，CPU 和連接的設備必須與其兼容。主要市場領導者，包括 Intel 和 AMD，已將 CXL 1.0+ 和 CXL 2.0+ 功能整合到他們的處理器中。支援表如下所示，供參考。
CXL 正在穩步推進，朝著廣泛採用和商業準備的方向發展。目前大多數解決方案基於 CXL 1.1 或 CXL 2.0，支持 CXL 2.0 的解決方案的量產預計在 2025 年進行。
摘要
CXL 是一種新興的互連技術，能夠實現記憶體擴展、記憶體池化和記憶體共享，以優化記憶體利用率和提高成本效率。它在數據分析、邊緣人工智慧、機器學習、生成式人工智慧等創新應用中扮演著至關重要的角色，這些應用需要高效處理大量數據。
