热点:

    NVIDIA Spectrum-X持续进化:生成式AI在以太网络加速演进

      [  中关村在线 原创  ]   作者:徐鹏

    “人工智能和加速计算的交汇将重新定义未来。”在COMPUTEX 2024的主题演讲中,NVIDIA创始人兼首席执行官黄仁勋讲述了AI世界的宏大计划。生成式AI、多模态AI等技术的热潮席卷全球,新一代的智能化数据中心建设如火如荼,海量GPU连接后形成的超级计算集群,离不开更高效的网络支撑。在生成式AI时代,NVIDIA将不断加大以太网络在现代化数据中心中的应用,为AI构建更稳定的运力基础。

    NVIDIA Spectrum-X以太网是一个端到端网络平台,包括交换机、DPU、SmartNIC、线缆、收发器和网络软件。而全新的NVIDIA Spectrum-X配备了NVIDIA Spectrum SN5600以太网交换机和NVIDIA BlueField-3 SuperNIC,是首个专为AI构建的以太网网络架构,可以加速生成式AI的性能。从产品特性来看,动态路由、拥塞控制、无损网络等功能对AI负载相关的训练成本和时间都有所缩减,带宽最大化的噪声隔离保证了高性能和性能的可预测性,可以同时运行数千个不同规模的AI应用而不互相干扰。根据NVIDIA的表述,可将生成式AI网络性能较传统以太网网络平台提升1.6倍。

    NVIDIA Spectrum-X持续进化:生成式AI在以太网络加速演进

    据了解,Spectrum-4融合了Co-Design(协同设计)的技术,使得网络平台与BlueField-3 SuperNIC/DPU可以做到紧密地耦合,以满足瞬时的大规模突发数据传输需求,性能隔离的特性也可以提升多租户、多任务的性能,使其与裸金属环境维持一致。其中,NVIDIA BlueField-3 SuperNIC可以为云和数据中心的计算网络和     存储带来更好的加速体验,提供400Gb/s的网络速度,不仅有     大规模的吞吐量,还有更低的延迟。

    众所周知,InfiniBand可以满足高性能、低延迟的负载要求,而Spectrum-X则可以满足多租户、工作负载的多样性,符合生成式AI的特性。再结合王牌NVLink网络,两套网络的组合可以满足不同的场景需求。Spectrum-X解决了数据中心内东西向的流量加速和性能问题,无损RoCE网络在以太网架构下可以不丢包,也支持以太网的RDMA传输。再与NVIDIA BlueField-3 DPU在南北向集成,对GPU资源的弹性扩展、零信任安全等也有很     好的支持。

    正是有了分布式、东西向,再加上能够应对密集型突发网络流量,使得Spectrum-X得以更好地解决网络抖动、流量暴增等情况对AI负载的巨大冲击。通过端到端的优化,生成式AI在云端的大规模部署和扩展性在Spectrum-X上变成了可能。当然,Spectrum-X还提供了相应的开发接口、管理软件、操作系统等,具有高度的通用性,可以支持开发者构建软件定义的云原生AI应用。从配置来看,Spectrum-4系统具有1000亿颗晶体管,带宽为51.2Tb/s,采用了100Gb/s SerDes技术,可支持64个800G端口和128个400G端口。

    在Spectrum-X中,支持SONiC、Cumulus等各类网络操作系统,围绕DOCA提供各种应用加速功能、使得用户可以根据自身所需进行编程和加速,NVIDIA Air还允许用户使用完整的软件功能对数据中心部署进行建模,从而创建数据中心的数字孪生,通过在数字世界的仿真、验证、以及自动更改和更新来改变和简化现实世界的网络运营。

    目前,NVIDIA Spectrum-X以太网网络平台已被广泛使用,并且将进一步加快新品发布计划。率先采用NVIDIA Spectrum-X的AI云服务提供商有CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global和Yotta等,他们的AI基础设施因此而获得了超强网络性能。另外,继戴尔科技、慧与、联想和超微等将Spectrum-X平台整合到他们的产品中后,又有多家NVIDIA合作伙伴也发布了基于Spectrum-X的产品,包括永擎电子、华硕、技嘉科技、鸿佰科技、英业达、和硕、云达科技、纬创和纬颖科技等。

    未来,NVIDIA计划每年都推出新的Spectrum-X产品,为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,持续提高AI以太网网络性能。据悉,2024年的Spectrum-X800将满足数万卡(配合400G SuperNIC和DPU),2025年将满足数十万卡(如xAI项目),2026年将可以满足百万GPU的连接需求。业内预计,Spectrum-X将在一年内跃升为价值数十亿美元的产品线。

    NVIDIA网络高级副总裁Gilad Shainer表示:“NVIDIA Spectrum-X是对以太网络的一次革命,让企业能够充分利用其AI基础设施的强大力量来改变其运营方式,甚至颠覆他们的行业。”

    本文属于原创文章,如若转载,请注明来源:NVIDIA Spectrum-X持续进化:生成式AI在以太网络加速演进https://net.zol.com.cn/876/8764217.html

    net.zol.com.cn true https://net.zol.com.cn/876/8764217.html report 3305 “人工智能和加速计算的交汇将重新定义未来。”在COMPUTEX 2024的主题演讲中,NVIDIA创始人兼首席执行官黄仁勋讲述了AI世界的宏大计划。生成式AI、多模态AI等技术的热潮席卷全球,新一代的智能化数据中心建设如火如荼,海量GPU连接后形成的超级计算集群,离不开更高效的...
    提示:支持键盘“← →”键翻页阅读全文
    本文导航
    • 第1页:NVIDIA Spectrum-X再进化
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐经销商
    投诉欺诈商家: 010-83417888-9185
    • 北京
    • 上海
    周关注排行榜
    • 路由器
    • 交换机
    • 无线路由
    • 无线AP
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错