您当前的位置:首页 > 新闻 > 快讯

28.5万CPU核心、1万个GPU,微软打造AI训练超级计算机

时间:2020-05-20 21:20:36  来源:  作者:

微软与OpenAI合作后的第一个成果已经重磅发布!

 

它是一台拥有超过28.5万个CPU核心、1万个GPU、每GPU拥有400Gbps网络带宽的单一系统超级计算机!

 

28.5万CPU核心、1万个GPU,微软打造AI训练超级计算机

 

去年,微软宣布将向OpenAI投资10亿美元,以共同开发用于Microsoft Azure云平台的新技术,并“进一步扩展”大规模AI功能,以“兑现人工智能”的承诺。作为交换,OpenAI同意将其部分知识产权许可给微软,然后该公司将其商业化并出售给合作伙伴,并在OpenAI致力于开发下一代计算硬件时在Azure上训练和运行AI模型。

 

今年的微软Build 2020开发者大会完全转到了线上,会上微软宣布与OpenAI独家合作打造了一台与当前最新的“全球超算500”列表(该项目对500台性能最佳的超级计算机进行了基准测试和详细介绍)对比,性能位居前五的超级计算机,该计算机专门用来在Azure公有云上训练超大规模的AI模型。

 

实现超大规模AI模型

 

得益于在Azure上托管,这台超级计算机拥有现代云计算基础设施的各种优点,包括快速部署、可持续发展的数据中心、并可以访问所有Azure服务。相比以往的单独AI模型训练单独任务,超级计算机可以实现更高级别的超大规模人工智能模型,深入了解语言语法、知识概念中的差别,完成复杂的任务。

 

举例来说,可以总结冗长的讲话,可以从上千份法律文件中找到相关陈述,可以直接从GitHub上找到代码。

 

微软今年2月推出的针对自然语言的图灵模型已经全球最大的AI语言模型。通过Azure人工智能服务和GitHub开源社区,将大型AI模型、优化训练工具和超级计算机资源开放出来,让开发者、数据科学家和商业用户都能轻松利用这一超大规模的人工智能平台,开发自己的项目。

 

为AGI铺路?

 

OpenAI很久以来就断言,巨大的计算能力是迈向AGI或AI的必经之路,AGI可以学习人类可以完成的任何任务。

 

虽然像Mila创始人Yoshua Bengio和Facebook副总裁兼首席AI科学家Yann LeCun 这样的名人认为 AGI不存在,但OpenAI的联合创始人和支持者-其中包括Greg Brockman,首席科学家Ilya Sutskever,Elon Musk,Reid Hoffman和前Y Combinator总裁Sam Altman-相信功能强大的计算机结合强化学习和其他技术可以实现范式转移的AI进步。

 

超级计算机的发布代表了OpenAI在该愿景上的最大赌注。

 

无论采用何种形式,目前尚不清楚新的超级计算机是否具有足够的功能来实现任何接近AGI的功能。

 

去年,Brockman接受英国《金融时报》采访时表示,OpenAI预计将在2025年之前花费微软公司10亿美元的全部投资,构建一个可以运行“人脑大小的AI模型”的系统。2018年,OpenAI自己的研究人员发布了一份分析报告,显示从2012年到2018年,最大规模的AI训练运行中使用的计算量增长了300,000倍,而3.5个月的时间却翻了一番,远远超过了摩尔定律的步伐。上周,在此基础上,IBM详细介绍了神经计算机,该公司使用数百种定制设计的芯片在创纪录的时间内训练Atari播放AI,Nvidia宣布了一款基于其A100 Tensor Core显卡(称为A100)的5 petaflop服务器。

 

有证据表明,效率的提高可能会抵消不断增长的计算需求。OpenAI的另一项更近期的调查发现,自2012年以来,在流行基准(ImageNet)中将AI模型训练为具有相同性能以对图像进行分类所需的计算量每16个月减少了两倍。但是与新颖的算法方法相比,计算在多大程度上有助于提高性能仍然是一个悬而未决的问题。

 

 



Tags:计算机   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
一、背景介绍永恒之蓝是指2017年4月14日晚,黑客团体Shadow Brokers(影子经纪人)公布一大批网络攻击工具,其中包含“永恒之蓝”工具,“永恒之蓝”利用Windows系统的SMB漏洞可以获...【详细内容】
2021-12-27  Tags: 计算机  点击:(3)  评论:(0)  加入收藏
准备好软件IPOP、用ENSP模拟一下华为交换机 启动交换机 <Huawei>sysEnter system view, return user view with Ctrl+Z.[Huawei]sysname FTPClient[FTPClient]interface vla...【详细内容】
2021-12-15  Tags: 计算机  点击:(24)  评论:(0)  加入收藏
一、计算机网络概述 1.1 计算机网络的分类按照网络的作用范围:广域网(WAN)、城域网(MAN)、局域网(LAN);按照网络使用者:公用网络、专用网络。1.2 计算机网络的层次结构 TCP/IP四层模...【详细内容】
2021-12-14  Tags: 计算机  点击:(31)  评论:(0)  加入收藏
上一节中我们学了如何实现ARP断网攻击,本节中我们将利用ARP欺骗的原理实现截取目标计算机图片流量,内容包括:&uuml;如何开启ip转发&uuml;怎样截取受害机图片流量 一、开启ip转...【详细内容】
2021-11-23  Tags: 计算机  点击:(23)  评论:(0)  加入收藏
今天几乎所有的数字显示设备都基于某种类型的 RGB(红、绿、蓝)颜色模型。RGB 是表示人类可以看到的大多数颜色的最有效方式(有一些颜色不能很好地产生,但这是另一个讨论)。相机...【详细内容】
2021-10-09  Tags: 计算机  点击:(50)  评论:(0)  加入收藏
一、漏洞介绍如果用户在受影响的系统上收到特制的 RPC 请求,则该漏洞可能允许远程执行代码。在 Microsoft Windows 2000、Windows XP 和 Windows Server 2003 系统上,攻击者可...【详细内容】
2021-09-23  Tags: 计算机  点击:(74)  评论:(0)  加入收藏
随着计算机变得越来越小,存储驱动器等硬件组件也必须变得越来越小。固态驱动器的引入允许超薄型设计,如Ultrabook,但这与行业标准SATA接口相冲突。 mSATA接口旨在创建可与SATA...【详细内容】
2021-09-03  Tags: 计算机  点击:(83)  评论:(0)  加入收藏
在系统运行时, 病毒通过病毒载体即系统的外存储器进入系统的内存储器, 常驻内存。该病毒在系统内存中监视系统的运行, 当它发现有攻击的目标存在并满足条件时,便从内存中将...【详细内容】
2021-08-30  Tags: 计算机  点击:(97)  评论:(0)  加入收藏
Hey guys,这里是 cxuan,欢迎你阅读我最新一期的文章,大家知道,我连载计算机网络已经有一定时间了,当我每了解一个新技术或者新框架的时候,我都想要先把名字概念弄懂是什么,可见概念...【详细内容】
2021-08-30  Tags: 计算机  点击:(52)  评论:(0)  加入收藏
根据个人总结,其原因主要有以下三点: 让符号位也能参与数值的计算,让计算规则更简单 让减法运算也能用加法表示,简化了硬件电路的设计 让0有统一的编码,因为 反码 和 原码 中 +0...【详细内容】
2021-08-30  Tags: 计算机  点击:(54)  评论:(0)  加入收藏
▌简易百科推荐
就公安部单独制定新的部门规章《道路交通安全违法行为记分管理办法》并于2022年4月1日起实施,公安部交通管理局李江平局长今天(2021年12月27日)向记者进行了详细解答。李江平...【详细内容】
2021-12-27    北京日报客户端  Tags:交通违法   点击:(7)  评论:(0)  加入收藏
为打造清朗的网络生态环境,营造安全、健康、绿色的网络空间,更好维护MCN的正常运营秩序。今日头条将加强对MCN机构的管理,保障创作环境与用户体验,管理MCN机构帐号在平台相关行...【详细内容】
2021-12-24    头条安全中心  Tags:今日头条   点击:(9)  评论:(0)  加入收藏
人力资源社会保障部、民政部、退役军人事务部、全国总工会、全国工商联五部门联合开展的“2021年金秋招聘月活动”正式启动啦具体有哪些活动?一起来看...【详细内容】
2021-12-24  人力资源和社会保障部    Tags:金秋招聘   点击:(5)  评论:(0)  加入收藏
有一种天体既是彗星,又是小行星。 艺术家描绘的“法厄同”。NASA / JPL-Caltech / IPAC每年12月中旬是双子座流星雨的爆发期。2021年的双子座流星雨极大期出现在北京时间12月...【详细内容】
2021-12-14  星空天文    Tags:流星雨   点击:(15)  评论:(0)  加入收藏
中国人民银行决定于2021年12月15日下调金融机构存款准备金率0.5个百分点(不含已执行5%存款准备金率的金融机构)。本次下调后,金融机构加权平均存款准备金率为8.4%。中国人民银行...【详细内容】
2021-12-07    中国人民银行  Tags:存款准备金率   点击:(18)  评论:(0)  加入收藏
新京报快讯 据支付宝微信公众号消息,在开放共享和安全有序的原则下,支付宝与中国银联携手加速推进互联互通。最新的工作进展如下:支付宝与中国银联在2020年开始基于条码互联互...【详细内容】
2021-12-03    新京报  Tags:支付宝   点击:(17)  评论:(0)  加入收藏
今起,进返京有新政,航班、铁路、公路具体实施方案如下&mdash;&mdash; 进返京人员,须持48小时内核酸检测阴性证明和“北京健康宝”绿码。48小时怎么界定?阴性证明的形式有无要求?...【详细内容】
2021-11-17    北京日报  Tags:   点击:(69)  评论:(0)  加入收藏
今天(9日),北京市小客车指标调控管理办公室公布“配置指标申请、京牌小客车变更或转移登记申请的资格审核结果的通告”。按照《北京市小客车数量调控暂行规定》实施细则(20...【详细内容】
2021-11-10    北京日报  Tags:小客车摇号   点击:(16)  评论:(0)  加入收藏
一月一度的汽车销量排行榜,近日正式出炉。虽然受到芯片短缺等因素的影响,许多车企的产量都有所下降,部分车型的价格有所上涨,但是在10月份的销量排行榜中,许多车型依旧获得了不...【详细内容】
2021-11-10  汽车资讯库    Tags:汽车   点击:(59)  评论:(0)  加入收藏
随着交易和会员规则的落地,北交所7件基本业务规则已全部发布,市场开市运行的基础制度准备完成。根据安排,北交所开市后,新三板精选层的公司将整体平移进入北交所,成为交易所的上...【详细内容】
2021-11-05  米多课堂    Tags:北交所   点击:(24)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条