查看官网原文 → 在乐享AI咨询 →
品牌/新闻

数智QA|高密服务器的“高与冷”?-联想乐享知识库

⚡ 核心结论

数智QA|高密服务器的“高与冷”? 智能化正加速千行万业发生深刻变革。在这场变革当中,作为新型基础设施的算力,也走到了一个关键节点。以大模型为代表的新一代AI技术,正让其需求每年呈现高达10倍的增长…

内容来源:联想官方

数智QA|高密服务器的“高与冷”?

智能化正加速千行万业发生深刻变革。在这场变革当中,作为新型基础设施的算力,也走到了一个关键节点。以大模型为代表的新一代AI技术,正让其需求每年呈现高达10倍的增长。

“数据中心容量不断增加,以前宽敞的机房现在很拥挤”“IT业以前是高技术行业,现在都快变成高耗能产业了”……在现实中,我们也不时听到这样的抱怨。

借助其强大的计算能力和灵活的定制服务,高密服务器正成为智能化浪潮中的得力助手,引领行业迈向更加智能的未来。在最新一期《数智QA》中,我们将为您揭示高密服务器在推动行业智能化进程中的独特优势。

Q:什么是高密度服务器?

High-Density Server

A:

高密服务器指的是专为云计算、AI训推、数据中心、互联网应用等场景所推出的一种优化架构的服务器。简单来说,它能在有限的空间里,把计算密度和资源利用效率都“玩到飞起”。

Q:高密服务器“高”在哪?

High-Density Server

A:

首先是计算密度高。高密服务器设计的核心在于在有限的空间内集成更多的计算单元,比如CPU、GPU或其他加速器,以提高单位机架空间内的计算能力。这通常意味着在一个标准的1U或2U机架空间内,可容纳比传统服务器更多数量的处理器和其他硬件组件。

以联想ThinkSystem SD520 V4高密服务器为例,其在2U的机箱里可以支持高达576个核心,数量比第二代至强处理器多2.25倍,处理网络事务的能力直接飙升3.18倍。如果把联想ThinkSystem SD520 V4部署到数据中心,一个标准机柜的CPU处理器核心数量就能轻松破万。万核协同之下服务器能以极高的兼容性、敏捷性和低延迟特性,大规模并行处理海量的数据并发请求。

其次是存储密度高。除了计算能力,高密服务器也通常配备高容量的存储解决方案,如SSD硬盘、HDD硬盘或高速缓存技术,以便在较小的空间内存储更多的数据。联想凌拓已推出30TB的SSD。这意味着在2U的空间里,可提供高达3.0PB的全闪容量。

另外是成本效益高。超高的计算密度和存储密度,能够大幅降低投入成本。就拿联想凌拓的DG、C系列高密全闪陈列存储来说,可节约95%的占地空间,成本节省高达50%。而对于AI智算集群而言,光通信成本与传输距离成正比。采用短距离多模SR和有源光纤AOC收发器,要比长距离单模DR和FR收发器节约2.5倍的网络成本,更比使用800G相干光收发器成本节约10倍以上。

此外,高密服务器还具备能效比高、管理效率高、定制化程度高等“高特性”。

Q:高密服务器为什么必须兼具“冷科技”?

High-Density Server

A:

尽管高密服务器能以“高”著称,但必须注重能耗问题。在有限的空间内要喂饱千瓦级甚至万瓦级的“电老虎”,对数据中心来说压力山大。行业专家指出,在IDC机房产生的能耗中,有50%来源于基础设施,有40%来源于制冷能耗。

在政府把节能减排作为发展经济的重要指标情况下,企业的IT设备所造成的能源消耗越来越受到重视。到2025年,全国新建大型、超大型数据中心PUE需降到1.3以下。

Q:目前有哪些“冷科技”可用?

High-Density Server

A:

解决高密服务器那些让人头疼的散热、电力和网络等问题,就得拿出“冷科技”来应对。

面对电力能耗挑战,除了对机架进行电源负载改造外,采用最新处理器并通过技术创新也能实现能效优化。搭配了Intel Xeon 6能效核处理器的联想问天服务器,在处理器加压到100%时,平均每核能耗只有1.6W,只相当于一个LED指示灯的耗电量,每核能耗降低70%。

对于传统风冷模式,联想新一代服务器采用“羊角”EVAC散热器,内部仿生“猫爪”铜管结构,可支持下一代500-550W处理器风冷散热。同时,新款服务器还全线支持液冷模式。

联想海神温水水冷水路演示

除了风冷,液冷也正成为主流。其中,联想海神温水水冷技术汇集了材料学、流体力学、传热学等多学科的科研结晶,可实现100%服务器部件用水冷却,热移除效率最高达98%,并节省42%能源,可将数据中心PUE降到1.1以下。同时,该液体冷却方案还可根据不同客户的业务需要,通过温水液冷+热能回收,综合降低和算力无关的电力消耗,实现能源的循环再利用。

2023年11月6日,在联合国工业发展组织(UNIDO)Global Call 2023全球方案征集活动中,联想温水水冷技术从全球60多个国家的方案中脱颖而出,斩获能效优化赛道冠军(特等奖)。

Q:企业如何选择适合自己的高密服务器?

High-Density Server

A:

对于企业来说,选服务器就像选对象,性能、能效和可靠性这些硬指标一个都不能少,而这也正是联想服务器设计时最关键的考量指标。

性能方面,联想充分考虑客户业务场景,最大化设计服务器扩展性和高速I/O匹配,通过模块化设计灵活组合,提供量身定制和极致的性能输出。

能效利用方面,从概念设计到整机生产,联想无时不在尽力将服务器功耗降到最低。

可靠性方面,联想服务器从元器件品质到高可靠系统设计,每个环节都通过严苛测试保障,确保算力可靠运行和客户的业务连续性。联想对服务器的苛刻要求已获得业界广泛认可。截至2024年5月1日,联想服务器共斩获566项性能测试世界纪录。

此外,还需要考虑全周期的服务支持。经过30多年发展,联想建立了强大的算力服务支撑体系,具备了新IT全栈全周期服务能力,在中国非运营商IT服务市场居第二名。

Q:联想如何助力释放AI新动能?

Intelligent Computing

A:

如今,由大模型开启的AI 2.0时代已经迈着大步朝我们走来,联想正重塑过去积累的技术,来升级联想AI基础设施。今年年初,联想正式发布了 “全栈AI”战略布局,包括“一体多端”的AI终端、“一横五纵”的AI基础设施和“一擎三箭”的AI解决方案与服务。

其中,联想在AI基础设施领域进行了“一横五纵”的完整布局,通过“一横”联想万全异构智算平台实现通用、AI、科学算力的融合管理,提供高效、稳定的基础设施生产力;同时,全面升级“五纵”服务器、存储、数据网络、软件及超融合、边缘的产品能力,充分贯彻AI基础设施的战略意图,构建万全生态,以期问鼎AI基础设施。

面向未来,联想将以布局完整、稳定高效、绿色低碳的AI基础设施,为千行万业下一个十年的智能化转型,构筑坚实的“算力基石”。