构建面向下一代AI工作负载的高性能数据管线
前言
AI基础设施过去主要着重于利用高性能CPU、GPU与AI加速器提升计算性能。然而，随着AI工作负载持续处理规模更大、类型更多样的数据，仅依靠计算能力已经无法满足需求。下一代 AI 基础设施必须从计算能力进一步延伸至数据处理，构建高性能数据管线，让AI工作负载能够持续以高效、流畅且稳定的方式运行。
构建AI数据管线
生成式AI(GenAI)数据管线会将数据依次经过多个阶段，从多元数据源与数据采集开始，经历预处理、Embedding生成、存储、数据检索、推理，到最终的服务部署。这些数据管线需要处理大量非结构化数据，包括文档、图像、音频和视频，以及实时交互数据，以支持 RAG、内容生成及更多创新AI应用。
实时AI应用需要持续进行数据采集与快速处理，以提供即时响应并支持AI驱动的决策；另一方面，RAG与推理工作负载则需要频繁且并行地访问数据集、Embedding、知识库及模型数据。随着数据管线持续扩展，系统必须在分布式环境中高效管理海量数据，以及高吞吐量I/O。为了满足这些需求，高性能存储已经成为AI基础架构中的关键要求，也进一步推动了下一代存储标准的应用。
E3.S NVMe SSD：满足高吞吐量AI数据需求
E3.S 是 Enterprise and Datacenter Standard Form Factor(EDSFF)家族的一员，专为现代数据中心存储环境对性能、存储密度与可扩展性的需求而设计。其紧凑的外形尺寸能够提升存储密度，并更高效地利用机箱内部空间。此外，E3.S 还支持新一代 PCIe 接口，包括 PCIe Gen6，为不断增长的数据处理工作负载提供更高带宽。
E3.S将高存储密度与新一代PCIe带宽相结合，为不断发展的AI环境提供可扩展的存储基础。其能够在紧凑的空间内提供高性能存储，有助于满足AI数据管线对于吞吐量、存储容量以及高效数据传输不断增长的需求。
AEWIN AI数据管线全闪存储服务器
AEWIN通过BS28-A10710全闪存储服务器进一步扩展其基础架构产品组合。这款2U1P平台支持16个E3.S Gen6 NVMe SSD，搭载AMD EPYC™ 9006系列服务器CPU，提供卓越的计算性能与高密度存储能力，满足数据密集型作业的需求。
BS28-A10710支持16个DDR5 RDIMM/MRDIMM插槽，可提供高性能数据处理工作负载所需的高内存带宽。同时，通过PCIe Gen6 CEM插槽与OCP 3.0插槽，该平台具备良好的扩展能力，可支持高性能网络、加速器及 I/O扩展，实现基础架构内部更高效的数据传输。
通过在单一平台中整合高密度E3.S Gen6存储、高性能计算与充足的内存资源，AEWIN提供驱动下一代AI工作负载所需的均衡基础架构，帮助构建高性能且可扩展的AI数据管线。
总结
随着AI工作负载在计算与数据规模上持续增长，基础设施也必须从以计算为核心的架构进一步演进。高性能存储与更快速的数据传输，正逐渐成为维持AI数据管线高效、快速响应与可扩展性的关键。
通过高密度E3.S NVMe存储、高性能计算以及PCIe Gen6连接能力，AEWIN采用整合式架构，帮助企业支持下一代AI工作负载所需的可扩展高性能数据管线。
