康普吴健:寻找数据中心网络发展的确定性

康普吴健:寻找数据中心网络发展的确定性,第1张

摘要

2022年11月9日-10日,第十届数据中心标准峰会在北京隆重召开,峰会以“汇聚双碳科技 夯实数据之基”为主题,康普北亚区技术总监吴健在本次峰会上以《寻找数据中心网络发展的确定性》为题发表演讲,现将精彩内容整理如下,供数据中心广大从业者学习交流。

康普吴健:寻找数据中心网络发展的确定性,图片,第2张
以下为演讲实录
今天的世界有很多的不确定性因素,“在不确定性中找到确定性”尤为重要。对于网络来说,各种技术流派都在发展,迭代更新日新月异,我们总在思考如何在发展中找到确定性的因素。

高密度与节能

第一个确定性就是“高密度”。不同的从业者对高密度的理解可能不一样,有人认为是配电的密度,也可能是制冷的密度,可能是空间密度,也可能是网络接口的密度。对于网络来说,“高密度”更多地体现着高速率和高性能。

以太网的发展

康普吴健:寻找数据中心网络发展的确定性,第3张

康普吴健:寻找数据中心网络发展的确定性,图片,第4张

康普吴健:寻找数据中心网络发展的确定性,图片,第5张

IEEE组织每年都会更新以太网发展的线路图,我们已经走过了一个时代,那就就是10G到100G的时代;那么接下来,我们会进入一个新的时代,我们需要思考100G之后的时代是什么技术路线?100G之后的确定性是什么?100G之后发展的决定性因素又是什么?
放眼200G、400G、800G、1.6T等各种前瞻性技术,100G之后最具有确定性和生命力的应该是400G。纵观线路图我们仍然能找到一个参数、一个因素、或一个确定性,那就是:四倍速迭代。有了25G单通道能力,于是就有了100G的网络;有了100G的单通道,于是就有了400G的网络;有了200G的应用,也很容易达到800G网络;当400G成熟时,必然会成型 1.6T的网络,这就是确定性。以太网已经不再延续过去1M,100M,1000M,10G这样的10倍速迭代。

交换机的发展

康普吴健:寻找数据中心网络发展的确定性,图片,第6张
从最近四代网络交换机的技术发展来看,基本上印证了高密度的趋势。随着数据交换密度越来越高,芯片集成度也越来越高。例如25.6T交换机需要14纳米的芯片支持,到51.2T需要7纳米的技术。在网络技术发展过程中,有一个非常重要的决定性因素,实现高效率地数据交换,必须不断地基于单通道叠加复用,交换机内借助于电气通道的复用,交换机外借助于光纤通道的堆叠,才能达到高速率。这就是搭建高速网络架构地底层逻辑。
所以确定性因素是什么?要达到更高速的数据交换,必须要有更高速的单通道能力。通俗地说,服务器速率决定着网络速率的迭代或叠加需求,而单通道速率则是由光电芯片决定的。光电转换的通道速率,由芯片制成技术决定,进而最终形成高密度交换机的成果。

康普吴健:寻找数据中心网络发展的确定性,图片,第7张

大家的个人经验是,服务器作为计算单元与交换机路由器等网络传输设备来比较,前者更耗能。随着网络速率的迭代,事实是否如此?我们来看一下数据分析,从2010年到2022年,这12年中带宽增长了80倍;这是从交换机的升级过程来计算的,比如从640G交换容量发展到今天的51.2T交换容量,速率提高了80倍,能耗提升了22倍。这时我们看到一个好消息,也看到一个坏消息:好消息是密度提高,能效提高了,更节能了;坏消息是单一设备能耗的绝对值提升了,基础设施面临挑战。

康普吴健:寻找数据中心网络发展的确定性,图片,第8张

从能耗的细分组成来看,总能耗提升了22倍,而与光电器件相关的能耗却提升了26倍之多;实验数据显示,随着速率提高,耗能贡献最大的不是CPU,不是GPU,而是光电转换器件,是光通讯器件。所以通讯能耗增长速率远远大于计算处理器的能耗,意味着当网络向高速迈进时,光通讯技术,以及光电芯片的技术发展决定着整个网络的能耗。这就是我要给大家的一个提示:重视网络设备的能耗。当然,这里的通讯是指广义的通信,包含了IT设备内部的数据交换和IT设备外部的传输。

康普吴健:寻找数据中心网络发展的确定性,图片,第9张

从长期的技术演进看,ASIC的耗能不再占据IT设备耗能的主导地位,此类现象只在IT界存在吗?
如果把人的大脑与数据社会的数据中心做类比,人脑是人体耗能最高的单一器官,大约耗掉人体20%的能量。这里面大概有800亿到1000亿个神经元,这些神经元主要负责计算,仿佛是信息社会的服务器,那么神经系统的组成部分中,那个部分是最耗能的呢?科学研究表明是轴突和树突。轴突可以理解为单模光纤完成远端连接,树突可以理解为多模光纤完成近端连接,它们一起来完成人脑计算的沟通和通讯。实验数据显示神经元间的通讯耗能竟然是计算耗能的35倍, 我们的大量能量不是用在计算上,而是用在通讯上,用在沟通上,用在连接上!或许超出了各位的传统认知。
正如数据中心作为一个高耗能的场地,其带动和代表着信息社会这个“人体”的智慧程度,同时我们必须重视另一个趋势:能量不仅仅用于计算上,而是更多地用在连接上。随着高性能网络的发展,未来数据中心网络通讯的耗能有可能大幅度增加。这是对基础设施的挑战之一。

康普吴健:寻找数据中心网络发展的确定性,图片,第10张

“高密度”是确定的,如果有了高密度的交换机,新的架构就可以抛弃很多低性能的交换机,被少量高密度高性能的交换机所取代,从而达到低延时,高可用性,节能,节省总成本的目的。这就是我提到的第一个确定性-高密度。

网络架构的优化

康普吴健:寻找数据中心网络发展的确定性,第3张

康普吴健:寻找数据中心网络发展的确定性,图片,第12张

再来看第二个确定性,网络架构的演进。很多年前,数据中心网路在“东西流量”大于“南北流量”的业务模型驱动下,从传统三层架构在向(Leaf-Spine)扁平架构推演。而所谓Leaf-Spine是逻辑上的两层架构,并非真正的两层架构,因为在Leaf-Spine交换机互联之下,通常会下挂一个TOR交换机。如果一组服务器群要连入到Leaf-Spine云中去,它至少跳转了三级设备区域:由TOR交换机,到Leaf交换机,最后到Spine交换机。而此时,尽管大容量的交换效率提升了很多,东西流量的可靠性和一致性提升很多,但是依然没有跳出三层交换的构架模型。过去,TOR交换机在数据中心中起到有效的服务器接入作用,在高性能高密度数据中心中完成收敛、转发、汇聚等作用, 功不可没。直到颠覆性的技术出现,该架构将面临挑战。

康普吴健:寻找数据中心网络发展的确定性,图片,第13张

我们需要颠覆性的技术就是VSFF,便于中文表述,在这里我把它称作“微双工”。它是一种新型连接器,适用于高密度的连接,也是一种网络收敛策略,借助于微双工可以把高速接口分成两个或四个低速接口,就是“一对二”或“一对四”的连接关系。四倍速率的确定性因素再次出现。同时,微双工的出现,为“去除TOR”带来了一个契机。
众所周知,LC是一种非常普遍的双工连接器,而微双工比LC尺寸还要小,配合接口高密度的趋势,更加微小灵活的连接器应运而生,目前国内外有很多连接器厂商正在提供自有专利的VSFF接口。如你所知,MPO也是一种高密度接口,那么为何还需要微双工呢?这里还有一个驱动因素,那就是灵活性。用一根MPO-LC扇形分支缆,可以形成一对多的分支连接关系,比如MPO12分为6组LC双工,但是在MPO侧则是固定的,无法快速拆分与聚合。高密度和灵活性是IT技术发展的两个必要因素和重要因素。

康普吴健:寻找数据中心网络发展的确定性,图片,第14张

到了400G/800G时代,微双工出现后,可以在Leaf/Spine网络架构中去除TOR置顶交换机。随着单通道100G的成熟,服务器接口速率可能提升到100G,这时TOR交换机夹在100G服务器和400G leaf交换机之间,只会制约网络速率和增加网络延时,因此必须去除TOR这一层有源设备。如果不这样优化架构,TOR这种过去的“法宝” 将成为今后的桎梏,它带来了更多的能耗、更多转发跳转和更大的延时。400G以后的网络用物理层的收敛替代数据链路层的收敛,使得成本更低、能耗更低、密度更高、延时更低。

康普吴健:寻找数据中心网络发展的确定性,图片,第15张

去除TOR置顶交换机,作为一个长期目标是确定的。这个确定性在布线系统的设计层面来看将带来一个更有利的确定性姿态,那就是列中或列头的布线模式将更有生命力和普适性。通过高速光纤系统来对服务器群的高速接口收敛接入Leaf/Spine矩阵中,让网络架构极简,让网络极可靠。这是大势所趋,这就是我今天提到的第二个确定性--提高物理层的收敛能力。

光纤的节能选择

康普吴健:寻找数据中心网络发展的确定性,第3张

康普吴健:寻找数据中心网络发展的确定性,图片,第17张

第三个确定性就是光纤的合理选择。网络系统的提速,其实和社会交通运输路网的提速模型如出一辙。三个维度而已:1)提高车速;2)提高车的容量容积;3)提供更多的车道。
PAM4编解码相当于“车”的容量定义;波特率相当于车辆的最高时速;光纤通道的并行使用,支持传输能力达到2倍、4倍、8倍、16倍的带宽提升。车已确定,车速也确定,大幅度提高容量的方式只剩下一个:建立更多的通道。光纤系统可以建立更多的物理通道(光纤),也可以建立更多的逻辑通道(光波),从而有了单模和多模的选择问题,以及微型连接器的选择问题。
在企业数据中心中,单模和多模光纤系统谁占比更多呢?

康普吴健:寻找数据中心网络发展的确定性,图片,第18张

各位是否可以从上图找到一些确定性的因素?我们至少可以看到两点:一,多模仍然占据主导地位;二,并行技术的增长趋势更为明显。也就是MPO形态的多模和单模预端接系统都会快速增长。多芯或多波长并行技术的发展,就是因为需要建立更多的通道,从而快速达到400G/800G的应用。

康普吴健:寻找数据中心网络发展的确定性,图片,第19张

多模光纤已经在数据中心中被广泛使用。多模有很多优势,例如成本更低、能耗更低、易于维护等等,所以多模仍然在高速数据中心有用武之地。尽管所有的连接任务单模系统都可以胜任,但是在数据中心里面,考虑到从IT侧节能考虑,IT设备本身的节能会对整个机房的总体节能有非常大的贡献,多模的收发器件和多模的光器件对节能贡献非常显著。要节能,多模必是首选。

康普吴健:寻找数据中心网络发展的确定性,图片,第20张

要考虑节能,必须要重视多模。在应用标准里,无论400G还是800G,仍然保留着非常多的多模光纤选项。例如400GBAE-SR8, 400GBASE-SR4.2, 800GBASE-SR8等等。

康普吴健:寻找数据中心网络发展的确定性,图片,第21张

到了800G时代多模是否会退出市场?事实上在800G的市场里,多模仍然在努力,比如800GBASE-VR8和800GBASE-SR8都是基于8发8收,借助MPO16的多模光纤技术线路。前者是50米的应用场景,后者是面向100米的应用场景。
康普吴健:寻找数据中心网络发展的确定性,第3张
单模光纤和多模光纤自从光通讯诞生以来就成为彼此成就的兄弟。在数据中心里,也是携手前行。多模系统的优势是节能,成本低,缺点是距离太短;单模系统应用距离非常自由,但缺点是成本高,耗能太高,连接器要求进一步提高。
在两套技术系统发展过程中,二者也在互相借鉴,互相学习。单模和多模是如何互相学习呢?
第一,我们刚刚提到,提高“车”的容量,需要优化编解码方式,比如PAM-4比NRZ的信息容量高,但是PAM4对于插入损耗IL和回波损耗RL非常敏感,这就需要在网络传输中尽量优化回波损耗这一参数。在RL这方面单模过去做得非常不错,这就是APC端面连接器的广泛采用。

康普吴健:寻找数据中心网络发展的确定性,图片,第23张

但是多模能否也在400G之后,向单模学习,进一步优化传输能力,避免回波噪声所带来的影响?答案是确定的,多模在学习单模,我们创造一种APC斜面研磨面的多模系统来减少回波噪声的影响,从而可以更好地支持信号完整性,达到更高的带宽。

康普吴健:寻找数据中心网络发展的确定性,图片,第24张

模之所以在通讯行业做到长距离,高带宽的应用,激光器和WDM波分复用技术功不可没。那么多模是否可以学习借鉴单模的这种波分复用模式呢,答案是肯定的。光纤科学家们多年前就已经建立了短波分复用的标准SWDM,携手OM5宽带多模光纤,实现4倍带宽,同时进一步延展应用距离。这就是OM5诞生的背景,从而使多模在数据中心领域有持久的生命力。OM5的核心问题不仅在于距离,也不仅在于850nm波长的表现,还在于850nm之外稍长波长的表现,并不是每个厂商的产品都能达到理想模式带宽。

康普吴健:寻找数据中心网络发展的确定性,图片,第25张

多模和单模都有自己的用武之地,尤其多模在节能方面的表现更好,这里面提到两个400G应用在多模方面的标准:400GBASE-SR8和400GBASE-SR4.2,前者消耗更多的光纤,后者推荐配合OM5达到短波分复用的优势。
在单模应用方面,值得注意的是两个标准:400G DR4和400G FR4; 其中400G DR4充分反映了单模也吸收了多模的优势,功率降低,距离缩短。所以数据中心行业特别看好400G DR4的发展,而且500米可以覆盖数据中心内部绝大部场景的应用距离。400G DR4是一个好例子,敞开胸怀,吸收对方优点,拥抱新技术,可以让你的数据中心更节能。

康普吴健:寻找数据中心网络发展的确定性,图片,第26张

不论是单模系统还是多模系统,要做出正确的选择,必须从设备成本,布线成本和运维成本三个维度综合分析。从400G的三款单模和多模网络总成本看,上图展示了全球头部互联网公司采用三种技术的成本对比,很明显400G SR8作为多模的代表技术,具有做好的成本优势;对比于企业网数据中心采用三种技术的成本对比,趋势没有变,400G SR8地位也没有变,依照FR4、DR4和SR8的次序逐步降低。多模的成本优势和节能优势是确定的。

以不变应万变

康普吴健:寻找数据中心网络发展的确定性,第3张
寻找确定性。康普经过15年以上,与数据中心设计建设者和使用者的沟通,一直在听取客户的反馈,尝试建立一套适应性更强,包容性更强,更易于维护的解决方案。什么样的光纤方案能把所有的技术,所有的不确定性,融合到一个统一的平台里呢?

康普吴健:寻找数据中心网络发展的确定性,图片,第28张

比如把所有的MPO8/MPO12/MPO16/MPO24等技术融入进去,把所有的连接器技术融入进去,把智能化融入进去,绿色环保的理念融入进去,形成一个统一的解决方案。它就是PROPEL。PROPEL是驱动力的意思,驱动数据中心进入400G之后的新时代。
康普吴健:寻找数据中心网络发展的确定性,第3张
以太网速率的提高带来了技术的多样性和需求的多样性。让PROPEL满足多样性的需求,它有多种不同的模块选择,并在一个统一平台里任意组合,满足高密度,高性能,智能化,易于维护,易于升级的特性。
如果用一句话概括,今天所讲的所有确定性因素,都是为了确定一个绿色节能数据中心的发展方向。高密度是为了绿色节能;去TOR架构是为了绿色节能;充分利用多模光纤是为了绿色节能;建立统一融合的平台也是为了绿色节能。所以绿色节能就是我们确定的追求,谢谢各位!
DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
白度搜_经验知识百科全书 » 康普吴健:寻找数据中心网络发展的确定性

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情