数据量增长不断推动数据中心变革 正如大家所知,技术正在不断驱动数据中心的变革。带来这一变革的驱动因素是什么?2017年,近 2.5亿用户首次登录互联网,而这一数量在2018年又增长了7%。每秒钟就有11个新用户在看社交媒 体,人均每天花在网上的时间约6个小时。 而数据中心不断变革的原因其实很简单,就是为了“销售额”!现在,几乎所有公司都有了自己的官网,而2017年电子商务帮助企业获得了近1.5万亿美元。但是,如果你的网站加载时间超过三秒,你 可能会失去近四之一的访问者。仅一秒钟的延迟就能损失11%的页面浏览量和7%的商机! 因此,服务器计算速度在过去数年中不断增长,且在未来还将继续增长。服务器计算速度也推动了 收发器的销售和发展。你可以从图1中看到,1G连接迅速成为过去,10G也很快就会消失。25G收发器 目前在市场上立足,但是在未来几年将会被50G收发器取代。此外,许多超大型和云数据中心预计在未来几年将采用100G的服务器端口速度。这些更高的服务器速度可以由2芯或8芯并行光学收发器来实现40G、100G 、200G和400G通道速率
| | |
| 图 1. 全球服务器出货量(来源: Dell’Oro Group) | | 通过不同的技术实现更高的传输速率
收发器制造商使用几种不同的技术来实现传输速率的增长。 第一种方法也是最简单的方法,增加波特率。换句话说,就是看你能多块的开关激光器。这种方法适用于低数据速率例如10G,但在更高的数据速率传输时,信噪比便成为较难解决的问题。 第二种方法是增加光纤的数量。将2芯扩展至8芯,你可以使用并行传输的方式通过8芯传输来实现一个40G或100G的连接。 第三种方法是通过增加波长数。这种方法通过使用多个光源和多路复用信号到一根光纤中,接收时再解复用。通常被称为WDM或波分复用。 第四种方法是通过改变调制的格式。收发器使用脉冲幅度调制(PAM4)在同一个时间段内携带4倍的数据量替代非归零调制(NRZ)来实现更高的数据率。 更高的数据速率,无论使用NRZ还是PAM4,都需要某种前向纠错(FEC)算法。因为干扰信号对PAM4的影响非常大,这就需要一个更复杂的FEC算法。无论使用哪种方法,最后所使用的光纤链路(如图2)都是2芯或8芯。有一些早期的400G解决方案可能会用到16芯或32芯,但这两种也都可以通过基于8芯的架构来实现。
2芯还是8芯?那么我们是选择双工(2芯)还是并行传输(8芯)解决方案呢?下面我们将从价格、功耗、密度、和灵活性几个方面来讨论。 对于企业数据中心,平均的链路长度为49米,且超过90%的链路短于100米。因此对于大多数企业数据中心来说,多模光纤及相关光器件足够满足大部分链路的需求。 对于链路长度大于100米的,单模并行通信是一种有效的方式。在PSM4和SR4光器件的价格可比的情况下,超大规模数据中心和云数据中心通常会部署单模链路。 就双工连接而言,为了实现更高的速率就要研发新的组件。比较而言,并行通信连接使用现有的技术来生产下一代收发器。此外并行光学器件既可以使用4个自然冷却激光器又可以使用耦合1个波分和4个调制器的单一激光器。这不仅能够降低制造成本,而且可以降低综合功耗。
大部分数据中心业主和管理人员都同意能耗是数据中心内部最大的单一运营成本。因此,采用低能耗的产品解决方案将有助于降低运营成本。一个10G收发器的功率低于1W,而一个40G并行光学收发器的功耗为1.5W。一个40G收发器相当于4个10G收发器,但是耗电量却减少了60%。而且冷却系统同样需要耗费电力。所以电子设备的节能也将带来冷却系统的节能,从而实现整体的电力节省。
最后,在高密度解决方案中,利用并行光学链接有助于降低总拥有成本。一个36端口高密度QSFP转换卡,每个端口可以用作四个10G端口使用。一个QSFP转换器,可以支持多达144个10G链接,能够减少线卡的数量,减少电力供应、冷却设备、监控设备、控制器和软件许可证的数量。而为了实现以上这些成本的节约,结构化布线系统必须支持8芯连接。 使用基于8芯结构化布线系统,将使布线系统更加灵活,升级更高数据速率的网络也将更加平滑,大部分原有的光纤配件和转换器模块都可以继续使用。
基于8芯结构化布线部署结构化布线并不是一个新概念。数据中心正在不断地从以往的临时连接,转向预端接主干光缆等多纤连接器。数据中心光纤布线系统通常采用12到144芯MTP/MPO预端接光缆作为主干光缆。但不断增长的数据中心规模和网络架构的演变,需要更高芯数的光缆来支持,比如288,432甚至576芯光缆。高芯数缆的使用可以大大增加在有限的桥架空间内部署光缆的密度。同时由于减少缆的数量,从而减少部署时间,降低了安装成本。 图 4 描绘了3种不同芯数光缆的部署场景,占用的线槽空间是相同的 • 采用370 x 12芯MTP光缆部署,总芯数4,440芯 • 采用95 x 144芯MTP光缆部署,总芯数13,680芯 • 采用56 x 288芯MTP光缆部署,总芯数16,128芯
| | | | 图 4: 采用不同芯数缆在线槽 (12" x 6")内的填充率 | |
数据中心规模逐渐扩大,单个建筑已无法满足超大型数据中心的需求。超大型数据中心往往包括多个建筑,园区网络环境要求布线基础设施包括高芯数预链接光缆或普通光缆作为主干。这些主干光缆芯数需求有时甚至超过864,高达1728或3456芯光纤。 你们发现没有?不知道,从什么时候开始,这个世界,变得越来越快了。快得仿佛昨天刚刚来到这个世界,一眨眼就日暮西山了。 是的,时间过得好快,回想起2002年7月电气和电子工程师协会(IEEE)批准了10Gbit/s以太网的正式标准“IEEE802.3ae”,仿佛还是昨天的事情。而现在,数据中心网络已经从100G以太网应用迈向了400G/800G。间隔了20多年,数据中心链路速度翻了近百倍。 无论是超大规模数据中心,还是企业数据中心,亦或是多租户数据中心 (MTDC),以及服务提供商数据中心,一个不争的事实正摆在大家面前,数据中心链路速度不得不考虑更快的选择。 01 挑战来了,挡都挡不住
曾几何时,数据中心管理者会想到现在的数据中心的链路速度会提升得如此之快。 挑战来了,挡都挡不住。在数据中心领域存在着这样一个“三角平衡定律”。一直以来,服务器、交换机和连接三者决定了数据中心的能力,相互制衡的这三者,任何一方的创新发展都会驱动彼此提升速度,降低成本。从而,形成了影响数据中心发展升级的“三角平衡定律”。不过,他们之间的“三角关系”力求获得平衡,才能进一步促进整个数据中心的能力提升。 当前,中国算力猛增,在用数据中心机架总规模已经达到520万标准机架,中国算力规模排名全球第二。之前数据中心在网络连接介质方面基于铜缆的方案,还能好用吗?针对进一步加快高端芯片、新型数据中心、超算等领域突破,数据中心40G左右的铜缆连接方案,还能行吗? 数据中心双绞线铜线有用距离不断缩小,复杂性不断增加,随着交换机容量增长,铜线距离问题突出。对于大规模数据中心而言,不去铜化还能怎么办?当然对于规模较小的企业数据中心,低带宽、短距离的铜缆连接虽然可用,但倘若停留在40G的网络应用水平,不知道在面对迈向400G/800G的企业挑战时,还能进行竞争吗? 随着数据中心建设针对服务器和交换机方面都向着支持400G和800G的方向不断发展,“三角平衡定律”凸显出数据中心网络连接成为“三角关系”平衡的挑战。 那么,又是什么因素在刺激着数据中心的以太网呈现出前所未有的发展新需求? 来自云服务、分布式云架构、人工智能、视频和移动应用等各种创新应用工作负载的爆炸式增长带来的挑战,来自企业数据中心升级以太网带来高速连接的挑战,来自资源密集型应用产生的高数据流量带来更高容量、更快速度、更低延迟的网络挑战,来自数据中心基于云的演进不断加速带来连接带宽、延迟与速度的更高挑战。可见,不同行业不同领域的创新,打破了数据中心网络的旧格局,网络连接所面临的挑战与压力,比以往任何时候都大。 百行百业各个领域的数据都处于高速增长,数字洪流超乎了我们想象。 2020年前,仅一位互联网用户每日就能产生1.5GB的流量,一家智能工厂每天将产生1PB的数据,而云视频服务提供商每日则将产生高达750PB的视频数据。 作为全球视频会议服务领域的某明星供应商,成立于2011年,在疫情之前并不知名。经过8年发展,在2019年12月统计的日活跃用户才1000万人,但是到了2020年3月激增至超过2亿人,与2019年年底相比翻了20倍。 更想不到的是,一个月后,2020年4月日活跃用户已经猛增到了3亿人,也就一个月时间增加了1亿人。 增加一个日活跃用户必然就增加一份视频数据流量,日活跃用户数量的高速带来了该视频会议服务提供商视频数据流量的井喷式增长,从而带给了该视频会议服务提供商数据中心很大的压力与挑战。在2020年新加坡建立了新的数据中心后,该视频会议服务提供商在全球范围内的云数据中心数量达到了18个。 要承载来自全球各地的海量会议通讯的需求,并且还要保障信息安全,该视频会议服务提供商的云数据中心对网络带宽、速率、并发量等方面的指标要求非常高。日活跃用户从1000万人增加到3亿人,倘若不事先考虑云数据中心的网络冗余设计,如何能支撑起海量数据流量爆发式增长带来的访问压力? 为此,进一步实现数据中心内“三角关系”的平衡,云数据中心的管理者想要增加高带宽、加快速度、缩短延迟越来越迫切,迈向400G/800G以太网的选择成为必然趋势。挑战与机遇往往并存,数据中心网络怎能甘于落后? 02 搞定问题,还得靠创新
挑战来了,让我们的发展更有动力。解决问题,还得靠更有能力的技术跃进。 不过,为什么光纤适合今天的数据中心建设,光进铜退已经成为事实的背后原因到底是什么? 业内人士分析指出,在设备分布区域(EDA)中机柜内交换机到服务器方面,铜缆连接方案仍然为一味追求便宜的数据中心管理者继续发挥着“余热”,但是更多数据中心管理者需要的是更快吞吐量和设计灵活性网络方案,光进铜退成为了焦点。据不完全统计,目前在大型数据中心中的光纤占比远远高出铜缆,已经超过了70%以上,几乎整个数据中心网络都在使用光纤。 需求在变,诸多挑战也公开地摆在了我们面前,这一切挑战与需求变化,把光纤网络的价值进一步彰显了出来。更高的带宽容量,更快的速度,更低的延迟率,这越来越明显的需求,不断驱动着数据中心管理者在选择越来越多的光纤部署。 在算力猛增、交换机设备性能得以提升后,带宽和速率怎能拖后腿,高密度的光纤部署不仅很有必要,更要做足冗余,这样才能做到未雨绸缪,用面向未来的考量来减少“不确定性风险”可能带来的新增成本。 如此看来,搞定数据中心网络的挑战,还得靠光纤的技术跃迁。光纤比任何其他介质都能提供更大的带宽、安全性和可靠性,从可卷曲带状光纤到400G光收发器,看看吧,光纤技术创新的跃迁早已在面向未来发展之路上。 光纤技术创新一,可卷曲带状光纤让数据中心管理者积极应对日益增长的连接挑战。 数据中心的光纤主干网络的光纤芯数从96芯到144芯、288芯和864芯,现在部分光纤制造商已经提供6912芯、7776芯的光缆。 为了解决光纤弯曲半径的挑战,新的光纤封装和设计带来了密度的增加,光缆制造商开始采用具有250微米、200微米包覆层的可卷曲带状光缆结构,有积极一些的超大规模数据中心开始了部署。 光纤技术创新二,多模让数据中心管理者的眼前一亮。 在数据中心内部,叶交换机到服务器的连接距离更短,密度更大,主要考虑因素是光纤模块的成本和运营成本。 2016年推出支持多种波长的新型多模光纤OM5,相比OM4而言,OM5多模光纤实现了更高的单芯容量,可以在双向应用中减少光纤数,延长距离。虽然在数据中心网络链路配置相同情况下,OM5总成本比OM4贵大约6.2%。 但是,在这样并不高的总成本对比下,数据中心管理者使用OM5多模光纤可减少纤芯数量,从而能够更好的利用现有的光纤线槽,更少的光缆意味着更少的空间占用。 更值得一提的是OM5可以带来更多的自由度利用未来的技术,因为OM5多模光纤不仅兼容OM3和OM4光纤类型,同时支持数据中心网络升级到400G/800G甚至更高阶调制方案。 光纤技术创新三,收发器类型不断变化革新,让数据中心运维更省事。 在光收发器的发展路径上,尽管嵌入式光模块具有更高的带宽密度和更快的通道速率,但是以太网行业仍更青睐于 400G可插拔光模块,原因在于可插拔光模块更易于维护,同时实现按需付费的成本效益,并且可插拔光模块的全新设计也为网络设计师提供了更多可选工具,如QSFP-DD和OSFP,从而兼顾400G光模块也支持下一代800G光模块。 为了实现更好的数据中心网络连接效率,非常有意思的是,许多数据中心仍在使用由多模光纤提供支持的低成本垂直腔面发射激光 (VCSEL) 收发器。还有许多数据中心则选择混合方法,即在核心层网络中使用单模光纤,而服务器与一级叶交换机之间采用多模光纤连接。 光纤技术创新四,IEEE出台全新400GBASE标准带来了新机会。 针对多模光纤400 Gbps方面IEEE推出了400GBASE-SR8标准,可以支持24芯MPO连接器或单行16芯MPO连接器。此外,IEEE推出的400Gbase SR4.2标准,使用具有双向信令的单行MPO8,非常适用于交换机到交换机的连接,同时还引入了OM5多模光纤。 除了以太网升级的挑战,就是针对光纤技术创新的选择,对于数据中心管理者而言,到底该选哪条路已经十分明显了。 面向未来,挑战会更多,发展会更快。5G、物联网、云计算、AI等新兴技术应用日新月异,伴随着数据中心算力、存储、交换机整体性能速度在加快,光纤网络技术也在不断演进,挑战与机遇依然并存。 对于数据中心管理者来说,无论是为了减少链接数量,还是为了减少能耗,抑或是为了节省投资成本,在迎接400G,面向800G,寄望1.6T的数据中心网络发展路上,交换容量推动网络效率的提升,光纤技术创新与能力的持续提升可以满足超大规模数据中心、企业数据中心、多租户数据中心 (MTDC)、服务提供商数据中心更多更高要求。 业内人士透露,据说有大规模数据中心管理者已经开始在数据中心内部署2x400G和8x100G解决方案,这样说来,400G正在迎来,800G、1.6T的部署可能还远吗?可以断言:打造下一代数据中心网络的大趋势已经无法阻挡。
小结 没有最快,只有更快
数据中心网络从2002年出现10Gb/s后,速率不停迭代。二十多年了,在2023年新春伊始,我们已经站在400Gb/s的舞台上,开启了800Gb/s的精彩表演。 从数据中心网络“迎来送往”的历史可以看出,当前基于100G/200G以太网应用到跃进到400G/800G,以及可预见的2024年的1.6T、2025年的3.2T,必然会一路加速光纤在数据中心网络中的长足发展。 没有最快只有更快。针对数据中心链路速度的不断提升,如今,哪个数据中心管理者不想想以后怎么办?是固步自封,还是选择拥抱400G/800G,以及未来可见的1.6T/3.2T?答案已经十分明显。 当前与未来,数据中心行业竞争依然是十分激烈。在满足算力、存储与连接更快速度的选择上,谁跑在了世界的最前面,谁就能赢得更多的时间,并能借助下一代数据中心网络技术的创新应用赢得更多的机会。 而这一切,需要我们进一步看清楚数据中心网络的发展趋势。如何看得更清楚呢? 来自《数据中心的发展趋势:2023年发展趋势展望》白皮书报告用9个章节对这一切做了深入浅出的分析,任何一个新技术的迭代发展,都会经历一个过程。5G、物联网、AI等新兴应用带来数据流量爆发式增长,对于富有前瞻性的超大规模数据中心管理者而言,向800G跃进迫在眉睫。在应对以太网跃进之路上,低延迟、高带宽和高可靠的光纤连接方案呈现更好的发展趋势。事实上,在光纤技术领域带来了可卷曲带状光缆、OM5多模光缆、400G光收发器等创新。此外,随着边缘计算的发展,5G也刺激着数据中心的角色不断演变,同时更多因素在推动多租户数据中心 (MTDC) 连接升级,光纤技术应用更为多元化。一切的变革与发展,在通往更高速、更大带宽与容量的1.6T的道路上,超大规模和多租户数据中心管理者已经在磨拳擦掌了。
|