快问快答 | 你关切的AIGC规划有关问题，都在这里！

本文将萦绕AIGC规划做出相应问题的解答

#光？

颁布功夫：2024-11-07
点击量：
点赞：

分享至

我想评论

随着AI模型不休演进，模型参数持续攀升，智算中心的能力提升火烧眉毛。就在两周前，我们约请了Ggpoker官网网络数据中心网络事业群解决规划专家冀国和善解决规划SE缆符根两位教员，和各人在线上对AIGC规划做了进一步互换和沟通。

由于问答环节功夫有限，在这里，我们出格整顿了各人普遍关切的一些问题和解答，但愿可能对你有所援手。错过直播或对我们AIGC规划感兴致的伴侣们，快来查收吧！

AIGC直播FAQ

1.AI 对数通畅业有哪些影响？

AI 对数通畅业已经产生了多方面的影响

在技术迭代方面：由于AI算力需要的激增，推动了互换芯片厂商从25.6T，51.2T和112.4T的急剧迭代；BroadCOM，Marvell、NVIDIA、Cisco、盛科等芯片厂商都在急速芯片的迭代创新；

在行业创新方面：同时随着AI的不休发展，也会推进产业创新生态形成，好比算力中心高能耗，推动了液冷技术和LPO技术的发展；再好比UEC、GSE等新技术尺度的创新等。

在运维治理方面：好比故障预测与诊断，AI 可能实时辰析网络中的大量数据，对潜在的故障进行精准预测，我司运维平台中的光？楣收险锒虾驮げ庖步∪I模型进行训练的。

在服务支持方面：借助 AI 技术，可以为用户提供越发个性化的服务履历，好比我司的智能客服系统可能正确理解用户的需要，提供针对性的解答和建议，提高用户中意度。

2.互换机buffer对RoCE有哪些影响？

buffer是保险RoCE网络不丢包的关键，一旦网络产生拥塞，就必要先通过buffer把来不及转发出去的报文先缓存起来，通过PFC或者ECN通知源端降速之后，再把缓存的报文慢慢转发出去。所以buffer越大，能应对越极端情况，好比要跨数据中心的百公里级RoCE传输的时辰，就必要更大的buffer，来应对更长功夫的降速响应功夫内，缓存住更多已经从源端发出但来不及转发的报文。buffer跟工厂的仓库类似，好比工厂按固定速度出产产品，先存放到仓库，有人下单仓库再往表发货，当下单的速度比出产的速度慢的时辰，仓库治理员发现库存到肯定水平了，就要通知工厂出产慢一点，若是通知的链条太长，通知得慢了，仓库就有可能被挤爆。

3.同样是RoCE，你们和其他互换机厂商有啥区别？

我们和互联网头部客户合作很缜密，从25G的时辰就给他们部署RoCE，对RoCE的理解有技术积淀。此刻智算场景也是互联网头部先做大的集群部署，前面规划介绍里面有提到我们200G/400G互换机我们是出货量第一的，能够说我们跟这些互联网头部客户合作最缜密的。

我们在服务这些互联网头部客户的同时把他们的思路步骤延长到其它企业用户场景中，打造了服务产品来给用户做技术兜底，全程参加援手客户从0到1建设智算集群。

4.你们的规划能支持哪些 GPU 品牌？

理论上所有的 GPU 类型都合用，互换机直接对接的是网卡，只必要在速度和和谈上适配就能跑起来，蕴含RoCE和谈和接口封装的和谈等。同时我们跟大部吩旆牌的GPU都有对接测试过，蕴含英伟达(A100\A800\H100\H800)，异腾的(910B)，燧原，沐曦，寒武纪，海光，瀚博等。

5.运维平台能否申请测试账号使用？我比力看沉要算力评估、仿真分析、网络监控、硬件监控、光？榧嗫刂澳。

能够，请您点击下方按钮申请，我们会尽快联系您获取测试履历账号，感激您的关注~

申请测试账号

目前我司的网络运维平台已经颁布，并且有客户已下单使用。而蕴含算力仿真？榈陌姹疽布唇洳。若是您只想履历算力量化分析职能，我们也有搭建好的算力仿真线上平台，可在会后能够联系Ggpoker官网进行线上履历试用。

6.我们是必要对表进行租用，模型时时要更换，若是模型更换以来，RoCE 网络需不必要沉新调优?若是必要，具体涉及什么步骤，必要什么共同?

RoCE 网络影响机能的参数重要是 PFC 和 ECN 有关，其中 PFC 配置重要跟衔接的线缆长度和服务器响应功夫有关，环境固定后即可确定下来，ECN 的参数则跟流量模型有肯定关系，智算场景的流量模型相对单一，我们也有形成一些专家经验参数库，在我们多多的现实部署案例中，初次部署实现后的参数根基能够合用后续的所有业务场景，目前还没有遇到部署验收完了以来必要再调整参数的情况。当然，若是有新场景的确必要再次调参的情况，我们也筹备了自适应 ECN 职能援手客户自动去做调参。

7.液冷技术是比力热点的话题，液冷互换机有现实落地案例吗？

其切实2019年，我们就与阿里合作开发了浸没式液冷互换机的产品，并在阿里的张北数据中心、仁和数据中心进行了规；渴。好比在张北数据中心是全球首个浸没式液冷集群的部署地址，通过将服务器和互换机浸泡在特殊的冷却液中，大幅降低了散热能耗，PUE低于1.2，最低能够达到1.09，已经达到世界先进水平。近期我们还结合阿里开发了用于智算网络的TH5 Liquid Tigatron的冷板式互换机，若是各人感兴致，能够进入Ggpoker官网公家号去查看具体信息。

→ 点击阅读：《深度揭秘：下一代液冷AI互换机该是什么样？》

8.运维平台能否对AILB和RALB的流量平衡进行调优？对光端口？槭褂们榭鼋屑嗫丶肮收细婢？

目前不必要运维平台对AILB和RALB的流量平衡调优，这两种负载平衡技术是互换机自动对流量进行平衡调度；Ggpoker官网运维平台能够对光？榈脑诵星榭鼋屑嗫，并在指标劣化超过阈值时进行告警。

9.能监控RoCE网络中发送CNP报文吗？

Ggpoker官网网管软件平台能够监控到服务器的CNP报文数量，同时也能对经过互换机的CNP报文进行统计计数。

10.推理网络有没有什么要求？

算力租户各自租赁分歧的GPU服务器进行推理推算。由于数据安全等要求，必要让分歧租户之间只能接见本租户的服务器，不能接见非本租户的服务器。因而必要互换机具备多租户安全隔离的职能。

11.LPO？榧壑祷嵯灾仙，对互换机有要求吗？

与传统高速光？橄啾，LPO光？槿サ袅薉SP芯片，产品的成本会更优；同时削减了高耗能DSP芯片，光？榈墓ぷ魑露染突峤档，MTBF获得提升，从而降低了光？榈墓收细怕，这一点是运维团队极度关注的；Ggpoker官网LPO光？橛400G-Q112-DR4-LD，800G-OSFP-DR8-LD和800G-OSFP-2DR4-LD三种型号，您能够联系我司销售代表征询具体价值。

LPO光？楸匾钤卦贐roadCom TH5芯片的互换机，Ggpoker官网的互换机型号为RG-S6990-128QC2XS。