您当前的位置:首页 > 新闻资讯 > 科技

全球“火拼”GPT,我国智能算力够用吗?

时间:2023-03-22 11:05:33  来源:北京商报  作者:

3月22日,在“华彩杯”算力大赛上海赛区启动会上,上海市经信委副主任汤文侃表示,分析GPT-4等大模型成功要素,除海量的高质量语料数据外,更重要的是庞大的智算算力支持。我国有超过20%的算力是智能算力,但目前智能算力较为分散,进一步支撑AI大模型的训练还有一定难度,同时,和新发布的ChatGPT专用GPU相比,我国在AI芯片上也存在代际差距。

面对智能算力存在的不足,北上广等数字经济发达地区陆续出台了政策推进智算中心建设,全国首个AI公共算力平台前不久也落地上海。有AI领域人士表示,希望AI公共算力平台能够提供训练模型所需要的一部分算力,同时也希望能够降低训练成本。

20%

近年来,我国数据和算力基础设施建设成效显著。中国信通院云大所副所长李洁在接受媒体采访时表示,截至2022年底,全国在用数据中心机架总规模超过650万标准机架,算力总规模达到180EFLOPS,位居全球第二,算力总规模近五年年均增速超过了25%,存力总规模超过1000EB。

“随着‘东数西算’工程全面启动,算力提升到和水电气等基础资源同等重要的地位和高度,我国算力基础设施建设持续提速,未来算力对我国经济发展的促进作用将得到进一步提升。”李洁说。

算力还可以进一步细分成三种不同的类型,基础算力、智能算力和超算算力。当前的算力规模中,有超过20%的算力是智能算力,可用于人工智能各类应用,包括模型训练和推理。

智能算力和基础算力有何不同?开域集团董事长兼CEO施侃对北京商报记者表示,智能算力主要是指基于GPU、FPGA、ASIC等可以加速AI计算的服务器平台提供的算法,区别于由CPU服务器提供算力的基础算力。

“基础算力主要用于传统的计算应用,如计算机科学、数值计算和物理模拟等领域。而智能算力主要用于人工智能应用,如图像识别、语音识别和自然语言处理等领域。智能算力的计算能力要求更高,需要具备更好的并行计算能力和内存容量。”全联并购公会信用管理委员会专家委员安光勇说。

根据《2022-2023中国人工智能计算力发展评估报告》,2021年中国智能算力规模达155.2 EFLOPS(FP16),预计到2026年中国智能算力规模将达到1271.4 EFLOPS。2021-2026年期间,预计中国智能算力规模年复合增长率达52.3%。

短板

AI大模型的成功有赖庞大智能算力的支持。正因为有万张训练卡的计算资源支撑,OpenAI才带来算法应用的革新。有数据显示,ChatGPT的总算力消耗约为3640PF-days,需要7-8个投资规模30亿元、算力500P的数据中心才能支撑运行。

“根据OpenAI ChatGPT的访问量估算,仅仅是支持推理服务就需要长期占用上万张A100芯片。就训练GPT3这样规模的大模型来看,也需要同时使用上千张A100训练1个月以上。”施侃说。

施侃介绍,算力的开销受多种因素影响,比如训练的数据量、模型大小、推理服务器数量等等。开域集团目前主要消耗量在训练视频生成的多模态大模型上,在训练期间最多会同时使用数百张A100芯片。

不过,智能算力已经成为了制约我国AI大模型研发和生产的重要瓶颈之一。“智能算力依赖AI芯片,主流AI芯片是英伟达公司生产的GPU,最先进的GPU芯片限于禁令对我国封锁,中国目前只能使用缩水版A100,而美国已经有ChatGPT专用芯片,相比之下有至少两代的差距。”深度科技研究院院长张孝荣对北京商报记者表示。

3月22日,在GTC大会上,英伟达发布ChatGPT专用GPU,推理速度提升了10倍。“当前唯一可以实际处理ChatGPT的GPU是英伟达HGXA100。与前者相比,现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。”英伟达CEO黄仁勋说道。

智能算力分散也是目前面临的一大难题。中国人民大学副教授、北京市社科院研究员王鹏对北京商报记者表示,要进一步训练AI大模型,我国所需要的是高端化、专门针对大模型训练的芯片,这一类智能算力我国目前还不够多。同时,智能算力还分布在全国各地的不同算力中心,难以发挥整体算力优势,统一协调、集中起来为某几个项目、实验室或企业的AI大模型训练服务,还有一定难度。

精进

面对智能算力存在的不足,各地也在积极扩大智能算力规模。北京、上海、广州等数字经济发达地区陆续出台了政策推进智算中心建设。

2月13日,北京发布《2022年北京人工智能产业发展白皮书》,提出北京将支持头部企业打造对标ChatGPT的大模型,着力构建开源框架和通用大模型的应用生态。加强人工智能算力基础设施布局,加速人工智能基础数据供给。

2月20日,全国首个AI公共算力平台上海市人工智能公共算力服务平台在上海正式揭牌启用。汤文侃表示,为抢占算力发展制高点,接下来,上海推进算力网络建设,推广公共算力服务,依托已成立的市人工智能公共算力服务平台,满足科研机构和广大中小企业的人工智能算力需求。

人工智能企业希望获得哪些支持?施侃表示,“我们主要还是希望获得算力方面的支持,一方面是能够提供训练模型所需要的一部分算力,另一方面能够在价格方面降低训练成本。在这方面我们非常愿意积极参与,并且与上海市人工智能公共算力服务平台一起探索这种创新的模式”。

王鹏认为,除了提供政策支持和补贴外,各地政府还应当进一步夯实基础设施,例如通过多元化的方式方法,调动各方力量和资源共同来推进,在全国集中建几个针对智能算力的超级运算中心,用来训练AI大模型,把更多的优质算力集中起来统一分配,统一研发攻关。

北京商报记者 方彬楠 袁泽睿



Tags:算力   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
KIMI爆火,背后的算力产业链公司有哪些?
在人工智能领域,KIMI作为月之暗面科技有限公司开发的AI助手,已经成为市场上的一股不可忽视的力量。然而,随着KIMI用户量的激增,其背后的算力供应链也受到了前所未有的关注。近日...【详细内容】
2024-03-25  Search: 算力  点击:(20)  评论:(0)  加入收藏
英伟达“算力核弹”强在哪里?
训练万亿参数级别的大模型,需要多大规模的算力?在今日凌晨进行的Nvidia GTC 2024主旨演讲中,英伟达创始人兼首席执行官黄仁勋在现场做了一道数学题。以OpenAI最先进的1.8万亿参...【详细内容】
2024-03-20  Search: 算力  点击:(16)  评论:(0)  加入收藏
央企将发力AI算力建设,相关领域有望率先受益
截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投智能、中科曙光、润泽科技等多股涨超6%。2月22日,算力概念开盘活跃,截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投...【详细内容】
2024-02-22  Search: 算力  点击:(31)  评论:(0)  加入收藏
Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
这是近两天最火的网络梗图。左图是OpenAI CEO 奥尔特曼(Sam Altman),图右是百万粉丝卖 AI 课程的清华博士李一舟。事实上,100多个小时之前,美国OpenAI公司发布的 AI 视频生成模型...【详细内容】
2024-02-20  Search: 算力  点击:(28)  评论:(0)  加入收藏
大模型成长进入关键期,探究AI背后的算力战争
文 | 元宇宙新声,作者 | 贾桂鹏距离大模型横空出世已经过去一年有余,在AI大模型的浪潮下,各大科技企业争先恐后地推出了自家的大模型产品。与此同时,各行业企业也对大模型保持着...【详细内容】
2024-01-31  Search: 算力  点击:(76)  评论:(0)  加入收藏
五部门重磅发布,AI算力产业变革将至?
2023年12月27日早盘,算力题材冲高,云创数据涨超14%,智微智能涨停,奥飞数据涨近8%,立昂技术涨超4%。截至2023年12月27日 09:52,AI人工智能ETF(512930.SH)上涨0.55%,成分股中国软件(6...【详细内容】
2023-12-27  Search: 算力  点击:(54)  评论:(0)  加入收藏
虚拟现实技术发展按下“加速键” 人工智能算力需求快速增长
去年,国内外众多互联网企业纷纷布局虚拟现实技术,各种与之配套的可穿戴设备也是赚足了眼球。这一切,都让虚拟现实技术一下子成为从科技界、资本圈到街头巷尾热议的话题。那么,虚...【详细内容】
2023-12-27  Search: 算力  点击:(85)  评论:(0)  加入收藏
智能算力进阶C位,揭秘人工智能产业背后的“冰山一角”
前几年,在IDC领域,市场谈及最多的还是数据中心,随着人工智能产业的成熟,特别是今年以来大模型的爆发,智算中心逐步替代了数据中心进入大众视野,成为市场热议的关键词,智能算力的热...【详细内容】
2023-12-22  Search: 算力  点击:(115)  评论:(0)  加入收藏
爆发式增长!澎湃算力“算”出生产力
我国算力总规模达到每秒1.97万亿亿次浮点运算,位居全球第二!算力规模近5年年均增速近30%!即将过去的2023年是我国算力产业爆发式增长的一年。这一年,各级政策频出为算力高质量发...【详细内容】
2023-12-19  Search: 算力  点击:(106)  评论:(0)  加入收藏
AI算力芯片,AMD终于站起来了
作者 | David Moadel、张津京计算芯片未来可能不是英伟达的专长,AMD也要来了。12月7日,AMD在美国加州圣何塞举办的Advancing AI大会上正式揭晓了两款旗舰级AI芯片产品,分别为In...【详细内容】
2023-12-14  Search: 算力  点击:(120)  评论:(0)  加入收藏
▌简易百科推荐
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
AI(人工智能)芯片紧缺之际,越来越多科技巨头选择自行研发。当地时间4月10日,社交巨头Meta公布了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片...【详细内容】
2024-04-11    澎湃新闻  Tags:Meta   点击:(1)  评论:(0)  加入收藏
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11    上海证券报  Tags:英特尔   点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11    工人日报  Tags:AI   点击:(2)  评论:(0)  加入收藏
科技巨头狂撒千亿美元 “买照片”,只为训练AI模型?
高质量的数据,越来越值钱。你能想象,那些被遗忘在网盘的陈年老图,有朝一日能价值千金?就在最近,路透社报道称,苹果公司正与图像托管网站Photobucket协商,希望得到这家公司近130亿张...【详细内容】
2024-04-10    镁客网  Tags:AI模型   点击:(0)  评论:(0)  加入收藏
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(8)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(9)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(2)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(5)  评论:(0)  加入收藏
站内最新
栏目相关
  • · Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
  • · 英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
  • · AI“复活”亲人成生意,哪些红线待划定?
  • · 科技巨头狂撒千亿美元 “买照片”,只为训练AI模型?
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条