您当前的位置:首页 > 互联网百科 > 大数据

AI如何改变数据中心设计

时间:2023-10-10 16:05:28  来源:千家网  作者:

AI如何改变数据中心设计

2023年至2026年,全球在AI系统上的支出将翻一番,显然,数据中心的容量将迅速增加,以满足需求。

然而,令人惊讶的是,在过去的一年里,许多数据中心运营商对新项目踩下了刹车,放缓了投资,伦敦的空置容量在2022-23年间下降了6.3%。

这种违反直觉的趋势背后是什么原因?要解释这一点,我们需要了解围绕AI计算和支持它的基础设施的一些问题。

AI如何改变数据中心基础设施

数据中心历来是围绕使用CPU的机架构建的,以应对传统的计算工作负载,然而,AI计算转而需要使用GPU驱动机架,与同等的CPU容量相比,它消耗更多的电力,释放更多的热量,占用更多的空间。

在实践中,这意味着AI计算能力通常需要更多的电源连接或替代冷却系统。

由于这是嵌入式基础设施,它被内置到数据中心综合体的结构中——这使得更换它往往代价高昂,如果不是在经济上完全不可能的话。

在实践中,运营商必须承诺在他们的新数据中心中有多少空间专门用于AI和传统计算之间的“分割”。

如果弄错了这一点,并过度承诺AI,可能会让数据中心运营商背负着永久未充分利用和无利可图的负担。

AI市场还处于初级阶段,这加剧了这个问题,Gartner声称,它目前正处于炒作周期中夸大预期的顶峰。因此,许多运营商选择在设计阶段按兵不动,而不是过早承诺在新数据中心项目中承担AI计算的比例。

在设计阶段采取全面的方法

然而,运营商敏锐地意识到,在失去市场份额和竞争优势之前,他们只能冒着推迟投资的风险,但考虑到数据中心基础设施的许多基本要素正在被实时重写,这是一项艰巨的任务。

为了满足成为先行者的需求,同时抵消风险,运营商需要将他们的数据中心设计为在AI计算时代具有最大的效率和弹性,这需要一种全新的整体设计方法。

1、让更多利益相关者参与进来

无论操作员决定AI和传统计算之间的确切分离,具有AI计算能力的数据中心站点有望比传统设施复杂得多。更复杂的往往意味着更多的故障点,特别是在AI计算比传统计算有更多需求的情况下。

因此,为了保证正常运行时间并降低站点生命周期内出现代价高昂的问题的风险,团队需要在数据中心的规划阶段更加彻底。

特别是,设计阶段应在项目开始时寻求更广泛的团队和专业知识的投入。除了寻求电力和冷却方面的专业知识外,设计人员还应该及早接触运营、布线和安全团队,以了解潜在的瓶颈或故障来源。

2、将AI融入数据中心运营

由于运营商现在在现场进行AI计算,他们应该利用自己的能力来利用AI来提高运营的新效率。AI在数据中心的采用已经有很长时间了,这项技术能够以极高的精度和质量承担工作流。例如,AI可以在以下方面提供帮助:

  • 温度和湿度监测。
  • 安全系统运营。
  • 用电监控和分配。
  • 硬件故障检测和预测性维护。

通过在数据中心生命周期的每个阶段主动使用该技术,运营商可以显著提高其运营的效率和稳健性。AI非常适合于帮助应对采用这些新一代数据中心新颖而复杂的布局时遇到的新挑战,例如通过故障检测和预测性维护。

3、避免虚假的节约

在高峰期,例如在培训运行期间或在生产中运行企业级模型时,AI会给数据中心带来更大的负载。在这些期间,AI计算在功耗、冷却需求和数据吞吐量方面往往会大大超出传统的预期。

在最基本的层面上,这意味着数据中心的底层材料面临更大的压力。如果这些底层材料或部件质量不高,这意味着它们更容易失败。由于AI计算意味着一个站点的组件和连接数量急剧增加,这意味着在传统站点中运行良好的更便宜、更低质量的材料可能会使运行AI计算的数据中心陷入停顿。

为此,运营商应该避免通过购买质量较低的材料来节省资金,比如不合格的电缆。这样做可能会带来虚假的经济风险,因为这些材料更容易失效,需要更频繁地更换。但是,最有问题的是,不合格的材料和部件的故障往往会导致网站停机或停机,从而影响其盈利能力。

解决基础设施难题

尽管AI计算的基础设施要求可能是运营商拖延投资的主要原因,但从长远来看,情况并非如此。

随着市场不确定性的消除,公司将在数据中心的传统计算和AI计算之间的分裂问题上汇聚到他们的“适中区域”。

随着这种情况的发生,公司将需要确保随着他们的学习和成熟,他们在网站的运营中拥有一切可能的优势。

这意味着从一开始就进行整体设计,利用AI本身来发现他们网站的新效率,并投资于能够满足更大的AI计算需求的高质量组件。



Tags:数据中心   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
京东小程序数据中心架构设计与最佳实践
一、京东小程序是什么京东小程序平台能够提供开放、安全的产品,成为品牌开发者链接京东内部核心产品的桥梁,致力于服务每一个信任我们的外部开发者,为不同开发能力的品牌商家提...【详细内容】
2024-03-27  Search: 数据中心  点击:(9)  评论:(0)  加入收藏
AI时代,数据中心下一站迎来“量子狂潮”
AI时代,技术巨轮正滚动前进,基础设施变革也已经露出苗头。今年初,工业和信息化部、教育部、科技部、交通运输部、文化和旅游部、国务院国资委、中国科学院等7部门联合印发的《...【详细内容】
2024-03-20  Search: 数据中心  点击:(21)  评论:(0)  加入收藏
AIGC重塑基础设施,高密数据中心为何众望所归?
凯文·凯利在《必然》中认为,科技在本质上有所偏好,使得它朝往某种特定方向。毫无疑问,进入到数字经济时代,人工智能技术飞速发展与加速应用之际,这个特定方向逐渐明朗:即算...【详细内容】
2023-12-26  Search: 数据中心  点击:(49)  评论:(0)  加入收藏
盘点那些常见的数据中心类型,你知道几个?
在数字化潮流的浪潮下,数据中心如同企业的神经系统,关系到业务的稳健运转。而在这个巨大的网络中,各种数据中心类型如雨后春笋般崭露头角。从企业级的个性至云数据中心的虚拟化...【详细内容】
2023-12-07  Search: 数据中心  点击:(65)  评论:(0)  加入收藏
数据中心到底是如何工作?
数字时代的数据中心,就如同网络世界的心脏,它的鼓动关系到整个网络生态的运转。但这个复杂而庞大的数据枢纽背后隐藏着怎样的精密机制,是许多人颇感好奇的谜。今天,我们将深入解...【详细内容】
2023-12-07  Search: 数据中心  点击:(133)  评论:(0)  加入收藏
数据中心的七个关键特征
随着信息技术的不断演进,数据中心的可靠性、可扩展性、高效性、安全性、灵活性、管理性和可持续性成为业界探讨的焦点。下面让我们一同深入剖析这些关键特征,了解它们是如何影...【详细内容】
2023-12-06  Search: 数据中心  点击:(63)  评论:(0)  加入收藏
如何有效减少 AI 模型的数据中心能源消耗?
在让人工智能变得更好的竞赛中,麻省理工学院(MIT)林肯实验室正在开发降低功耗、高效训练和透明能源使用的方法。在 Google 上搜索航班时,您可能已经注意到,现在每个航班的碳排放...【详细内容】
2023-11-17  Search: 数据中心  点击:(235)  评论:(0)  加入收藏
什么是云数据中心?与传统数据中心有什么不同
云计算数据中心是一种基于云计算架构的,计算、存储及网络资源松耦合,完全虚拟化各种IT设备、模块化程度较高、自动化程度较高、具备较高绿色节能程度的新型数据中心。云数据中...【详细内容】
2023-11-13  Search: 数据中心  点击:(102)  评论:(0)  加入收藏
优化数据中心的四个技巧
效率是商业成功的核心。从财务部门到人力资源部门,优化的工作流程是脱颖而出、满足业务目标的最佳方式。随着数字化的快速发展,每一个现代组织都受到其IT网络的支撑。高效的网...【详细内容】
2023-11-13  Search: 数据中心  点击:(144)  评论:(0)  加入收藏
为什么闪存是下一代数据中心的未来
在一个由数据驱动决策和始终在线业务定义的时代,下一代数据中心将成为创新和效率的考验。随着数字环境的发展和组织应对前所未有的数据增长和处理需求,存储解决方案成为人们关...【详细内容】
2023-10-11  Search: 数据中心  点击:(253)  评论:(0)  加入收藏
▌简易百科推荐
大数据杀熟何时告别“人人喊打却无可奈何”?
2月7日郑州飞往珠海的航班,不同手机、不同账号搜索该航班显示出不同价格。图源网络有网友近日分享在某平台的购票经历,引发社会广泛关注——用3个账号买同一航班同...【详细内容】
2024-01-30    中国青年网  Tags:大数据杀熟   点击:(32)  评论:(0)  加入收藏
简易百科:到底什么是大数据?
随着互联网的快速发展,大数据已经成为了当今社会最热门的话题之一。那么,到底什么是大数据呢?首先,我们需要明确大数据的定义。大数据是指数据量极大、类型繁多、处理难度高的数...【详细内容】
2024-01-30    简易百科  Tags:大数据   点击:(40)  评论:(0)  加入收藏
数据采集新篇章:AI与大模型的融合应用
开篇在AIGC(人工智能与通用计算)应用中,大型语言模型(LLM)占据着举足轻重的地位。这些模型,如GPT和BERT系列,通过处理和分析庞大的数据集,已经极大地推动了自然语言理解和生成的边界...【详细内容】
2024-01-17  崔皓  51CTO  Tags:数据采集   点击:(50)  评论:(0)  加入收藏
挑战 Spark 和 Flink?大数据技术栈的突围和战争
十年的轮回,正如大数据的发展一般,它既是一个轮回的结束,也是崭新的起点。大数据在过去的二十年中蓬勃发展,从无到有,崛起为最具爆炸性的技术领域之一,逐渐演变成为每个企业不可或...【详细内容】
2024-01-17  InfoQ    Tags:大数据   点击:(40)  评论:(0)  加入收藏
分布式存储系统在大数据处理中扮演着怎样的角色?
如果存储节点本身可以定制,则通常会让其支持部分计算能力,以利用数据的亲和性,将部分计算下推到相关的存储节点上。如果存储是云上的 S3 等对象存储,无法定制,则通常会将数据在计...【详细内容】
2023-12-19  木鸟杂记  微信公众号  Tags:大数据   点击:(48)  评论:(0)  加入收藏
大数据如何实时拯救生命:车联网的数据分析有助预防交通事故
译者 | 李睿审校 | 重楼车联网(IoV)是汽车行业与物联网相结合的产物。预计车联网数据规模将越来越大,尤其是当电动汽车成为汽车市场新的增长引擎。问题是:用户的数据平台准备...【详细内容】
2023-12-19    51CTO  Tags:大数据   点击:(41)  评论:(0)  加入收藏
利用生成对抗网络进行匿名化数据处理
在互联网时代,数据日益成为人们的生产资料。然而,在某些情况下,我们需要分享数据,但又需要保护个人隐私。这时,匿名化技术就显得尤为重要。本文将介绍利用生成对抗网络进行匿名化...【详细内容】
2023-12-18  技巧达人小影    Tags:数据处理   点击:(57)  评论:(0)  加入收藏
盘点那些常见的数据中心类型,你知道几个?
在数字化潮流的浪潮下,数据中心如同企业的神经系统,关系到业务的稳健运转。而在这个巨大的网络中,各种数据中心类型如雨后春笋般崭露头角。从企业级的个性至云数据中心的虚拟化...【详细内容】
2023-12-07  数据中心之家  微信公众号  Tags:数据中心   点击:(65)  评论:(0)  加入收藏
数据中心的七个关键特征
随着信息技术的不断演进,数据中心的可靠性、可扩展性、高效性、安全性、灵活性、管理性和可持续性成为业界探讨的焦点。下面让我们一同深入剖析这些关键特征,了解它们是如何影...【详细内容】
2023-12-06  数据中心之家  微信公众号  Tags:数据   点击:(63)  评论:(0)  加入收藏
什么是数据解析?将数据转化为更好的决策
什么是数据解析?数据解析是一门专注于从数据中获取洞察力的学科。它包含数据分析(data analysis)和管理的流程、工具和技术,包括数据的收集、组织和存储。数据解析的主要目的是...【详细内容】
2023-12-06  计算机世界    Tags:数据解析   点击:(62)  评论:(0)  加入收藏
站内最新
站内热门
站内头条