您当前的位置:首页 > 电脑百科 > 人工智能

大模型时代到来 算力够用吗?

时间:2023-07-04 09:50:21  来源:新民晚报  作者:

探访亚洲规模最大的智算中心

大模型时代到来 算力够用吗?

每秒百亿、千亿次的浮点运算能力,千万亿字节(PB)级的数据存储规模……许多人可能对这些指标没有太多概念,但要说起对答如流的大语言模型,自动驾驶中反应神速的汽车,大家应该不会感到陌生了吧?

看得见的应用背后,是看不见的算力在支撑。“大模型时代”谁能占得先机,这个问题谁说了“算”?在2023世界人工智能大会召开之际,记者探访了商汤科技人工智能计算中心(AIDC)。如今,基于最新人工智能理论、采用领先人工智能计算架构,提供算力服务、数据服务和算法服务的智算中心,在推进大模型能力和数字经济发展中正发挥着越来越重要的作用。

商汤科技人工智能计算中心,是目前亚洲规模最大的人工智能计算中心之一 新民晚报记者 陈炅玮 摄

AIGC时代

不可或缺的“血液”

这座位于临港新片区的商汤科技人工智能计算中心,是目前全亚洲规模最大的人工智能计算中心之一。经过一年半的运营,今天的算力规模已经达到了5000PFLPOS(1PFLPOS相当于每秒可以进行1千万亿次浮点运算)的体量,超过了当时设计的算力规模水平。

“换句话说,商汤智算中心的峰值算力可以达到每秒500亿亿次浮点运算。通过这样的一个超大规模的算力,我们可以支持20个千亿参数超大模型同时进行训练,并提供完整的人工智能基础设施资源的能力。”商汤AI大装置产业赋能中心主任蒋钦告诉记者。

大模型吹响了生成式人工智能(AIGC)的号角,这必然伴随着“能源”的进一步开发。这样的“能源”,在AIGC时代,正是无数服务器中运转不息的庞大算力。打比方说,大模型若是人工智能抽象化的“身体”,那么海量的算力,则是维系身体运转的“血液”。

蒋钦解释,所谓算力并不是单一概念,它包括通用算力,就是以CPU芯片为主的算力;还包括超算,就是各种超算中心提供的高性能算力,主要服务于科学计算;还有目前非常热门的智能算力,即以GPU为典型代表的,以AI芯片为主的服务于人工智能训练和推理相关需求的计算能力。

其中,以AI芯片为主的人工智能算力近年来呈现快速增长态势。中国信通院统计显示,2016年的算力结构中,国内人工智能算力比例只占3%左右;而截至去年,整个人工智能算力比重已超过半壁江山。

各行各业

需求与日俱增

随着人工智能技术的高速发展,以及大语言模型的出现和应用,各行各业对智能算力的需求也在与日俱增。蒋钦介绍,2012年前后是一道分水岭,随着深度学习的兴起,在此之后,最先进人工智能模型的计算量每三四个月就翻一番,也就是每年增长近10倍。尤其是最近几年,在大模型取得突破、应用场景的广泛开拓与深入发展的背景下,对智能算力的需求迎来井喷。

没有人会否认,大模型江湖的混战已然愈演愈烈,“下场”的选手越来越多。由大模型为代表引发的人工智能新技术热潮,会带动整个算力需求呈现出非常旺盛的态势。

“大模型需要处理海量的数据,并且需要在短时间内完成复杂的计算任务,这就意味着需要更高的计算能力。”蒋钦指出,“大模型也需要访问大量的数据,存储大量的参数和中间结果,因此需要更大的内存容量。”与此同时,大模型需要在多个硬件设备上同时进行计算,因此需要更好的并行计算能力;而在“双碳”背景下,消耗大量能源的大模型也在呼唤更高能效比的算力。

“虽然纯CPU算力也能用来进行部分人工智能计算,但效率非常低、能耗非常高。我们不会以这样的算力形式去支撑产业的发展。”蒋钦判断,“而搭载以AI芯片为主的新型算力基础设施是未来发展的重要趋势和热潮。”

他告诉记者,在大模型的热潮下,算力服务器目前呈现紧缺状态,“大模型的发展和智能算力底座有着深刻联系,需要在大规模资源汇聚的基础上做好算力、算法、数据三要素的协同实践和联合优化,助力实体经济高质量发展。”

助力临港

打造算力新高地

作为亚洲已投入使用的、最大规模的单节点智能计算中心,商汤AIDC除了算力规模体量巨大外,与之相配套的人工智能模型开发工具,针对大模型的训练、推理、数据优化服务等,都可以高效率、低成本、规模化地支撑和服务好目前以大模型为代表的整个人工智能产业的高速发展。

今年上半年,人工智能应用向纵深发展:AIGC打造的“数字人”效果媲美真人水平;人工智能预测蛋白质结构给基础研究带来全新的研究手段;人工智能驱动的大语言模型在多轮次对话和长文本理解能力上突飞猛进……这些无不依赖算力提供支撑。

“商汤科技人工智能计算中心除了为‘日日新’大模型体系提供底层算力基座和AI工具的支撑外,也为其他行业赋能AI相关的基础能力。”蒋钦介绍,“通过云服务的方式,我们已在泛互联网、泛娱乐、自动驾驶、科研院所等多个领域里支持了十余家大模型客户的开发工作。”

商汤科技人工智能计算中心会依托临港,进一步夯实算力底座、扩大算力规模。在算力软件平台相关技术领域,持续对集群架构、集群网络、存储性能、能源管理等多方面开展技术攻关,对于大模型训练与推理定向支持等开展技术迭代更新,以支撑更大规模的算力集群落地,助力临港打造智能算力新高地。“临港本身具有非常强大的区域产业优势,集聚了集成电路、人工智能、生物医药、高端装备制造、新能源汽车等核心优势产业。这也要求我们围绕这些优势产业去打造人工智能基础设施行业解决方案与丰富的产业上下游生态,做好产业智能化升级的算力底座。”蒋钦表示。(新民晚报 记者 郜阳)



Tags:算力   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
KIMI爆火,背后的算力产业链公司有哪些?
在人工智能领域,KIMI作为月之暗面科技有限公司开发的AI助手,已经成为市场上的一股不可忽视的力量。然而,随着KIMI用户量的激增,其背后的算力供应链也受到了前所未有的关注。近日...【详细内容】
2024-03-25  Search: 算力  点击:(20)  评论:(0)  加入收藏
英伟达“算力核弹”强在哪里?
训练万亿参数级别的大模型,需要多大规模的算力?在今日凌晨进行的Nvidia GTC 2024主旨演讲中,英伟达创始人兼首席执行官黄仁勋在现场做了一道数学题。以OpenAI最先进的1.8万亿参...【详细内容】
2024-03-20  Search: 算力  点击:(16)  评论:(0)  加入收藏
央企将发力AI算力建设,相关领域有望率先受益
截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投智能、中科曙光、润泽科技等多股涨超6%。2月22日,算力概念开盘活跃,截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投...【详细内容】
2024-02-22  Search: 算力  点击:(31)  评论:(0)  加入收藏
Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
这是近两天最火的网络梗图。左图是OpenAI CEO 奥尔特曼(Sam Altman),图右是百万粉丝卖 AI 课程的清华博士李一舟。事实上,100多个小时之前,美国OpenAI公司发布的 AI 视频生成模型...【详细内容】
2024-02-20  Search: 算力  点击:(28)  评论:(0)  加入收藏
大模型成长进入关键期,探究AI背后的算力战争
文 | 元宇宙新声,作者 | 贾桂鹏距离大模型横空出世已经过去一年有余,在AI大模型的浪潮下,各大科技企业争先恐后地推出了自家的大模型产品。与此同时,各行业企业也对大模型保持着...【详细内容】
2024-01-31  Search: 算力  点击:(76)  评论:(0)  加入收藏
五部门重磅发布,AI算力产业变革将至?
2023年12月27日早盘,算力题材冲高,云创数据涨超14%,智微智能涨停,奥飞数据涨近8%,立昂技术涨超4%。截至2023年12月27日 09:52,AI人工智能ETF(512930.SH)上涨0.55%,成分股中国软件(6...【详细内容】
2023-12-27  Search: 算力  点击:(54)  评论:(0)  加入收藏
虚拟现实技术发展按下“加速键” 人工智能算力需求快速增长
去年,国内外众多互联网企业纷纷布局虚拟现实技术,各种与之配套的可穿戴设备也是赚足了眼球。这一切,都让虚拟现实技术一下子成为从科技界、资本圈到街头巷尾热议的话题。那么,虚...【详细内容】
2023-12-27  Search: 算力  点击:(85)  评论:(0)  加入收藏
智能算力进阶C位,揭秘人工智能产业背后的“冰山一角”
前几年,在IDC领域,市场谈及最多的还是数据中心,随着人工智能产业的成熟,特别是今年以来大模型的爆发,智算中心逐步替代了数据中心进入大众视野,成为市场热议的关键词,智能算力的热...【详细内容】
2023-12-22  Search: 算力  点击:(115)  评论:(0)  加入收藏
爆发式增长!澎湃算力“算”出生产力
我国算力总规模达到每秒1.97万亿亿次浮点运算,位居全球第二!算力规模近5年年均增速近30%!即将过去的2023年是我国算力产业爆发式增长的一年。这一年,各级政策频出为算力高质量发...【详细内容】
2023-12-19  Search: 算力  点击:(105)  评论:(0)  加入收藏
AI算力芯片,AMD终于站起来了
作者 | David Moadel、张津京计算芯片未来可能不是英伟达的专长,AMD也要来了。12月7日,AMD在美国加州圣何塞举办的Advancing AI大会上正式揭晓了两款旗舰级AI芯片产品,分别为In...【详细内容】
2023-12-14  Search: 算力  点击:(120)  评论:(0)  加入收藏
▌简易百科推荐
行业大模型快速落地的一年,如何做?
生成式AI正成为时下科技企业“讲故事”的关键词之一。但从发展上看,无论是“文生文”的大语言模型,还是“文生图”的多模态模型,更多的是辅助人们进行一些简单的办公,或者提供一...【详细内容】
2024-04-10    钛媒体APP  Tags:行业大模型   点击:(3)  评论:(0)  加入收藏
互联网充斥“针对小白的AI课”,能相信吗?普通人不学AI课程会被淘汰?
早前,一位标榜清华大学博士和多家公司AI顾问名头的百万级粉丝量博主,向用户大力推介“所有人都需要学”的AI入门课程。不过,这些课程最终因贩卖焦虑、蒙骗学员而被平台下架。然...【详细内容】
2024-04-10    九派新闻  Tags:AI课   点击:(5)  评论:(0)  加入收藏
藏在AI背后的“吃电狂魔”
人工智能时代的能耗黑洞据估算,到2027年,人工智能行业每年将消耗85~134太瓦时的电力,相当于瑞典或荷兰一年的总用电量。马斯克判断,电力缺口最早可能会在2025年发生,“明年你会看...【详细内容】
2024-04-09    雪豹财经社  Tags:AI   点击:(3)  评论:(0)  加入收藏
OpenAI和谷歌再起纷争:AI的尽头是内容
日前,纽约时报的一篇报道称,人工智能公司 OpenAI为收集高质量训练数据而开发了一个语音转录模型Whisper。该模型主要用于转录 OpenAI 获取的超过 100 万小时的 YouTube 视频,也...【详细内容】
2024-04-09  小编也疯狂  新浪网  Tags:AI   点击:(2)  评论:(0)  加入收藏
AI产业的灰色暗面:OpenAI、谷歌、META如何搞训练语料
财联社4月7日讯(编辑 史正丞)种种迹象显示,目前站在全世界AI领域潮头浪尖的这些公司,早在几年前就已经陷入对训练语料的“绝望”追逐中——为此他们不惜修改政策条款...【详细内容】
2024-04-09    财联社  Tags:AI产业   点击:(3)  评论:(0)  加入收藏
和“数字人”交朋友,当心隐私被出卖......
在虚拟社交中如何在保护用户隐私和数据安全的同时提供高质量的社交体验?如何避免过度依赖虚拟社交找到虚拟与真实之间的平衡点?《中国消费者报》记者就此展开了调查APP里有个...【详细内容】
2024-04-09    中国消费者报  Tags:数字人   点击:(6)  评论:(0)  加入收藏
AI“复活”成产业链:成本可降至数百元
大模型应用落地,带火数字人(11.560, 0.29, 2.57%)赛道。文|《中国企业家》记者李艳艳 实习生 孙欣编辑|姚赟头图来源|《流浪地球2》电影画面截图清明节前,预估会有需求的庞立...【详细内容】
2024-04-09    中国企业家  Tags:AI“复活”   点击:(3)  评论:(0)  加入收藏
多方热议人工智能产业新机遇
编者按  从前沿科技展会到高层对话平台,从上海、重庆到博鳌,从线上到线下……一场场高规格、大规模的盛会中,人工智能正在成为各界热议的高频词。赋能千...【详细内容】
2024-04-08    中国家电网  Tags:人工智能   点击:(5)  评论:(0)  加入收藏
​人形机器人时代来了吗
日前,由中国人形机器人(11.080, -0.05, -0.45%)百人会主办的人形机器人大赛在北京经济技术开发区开赛。工作人员向参观者展示一款人形机器人。参观者与一款陪护型人形机器人...【详细内容】
2024-04-08    中国青年报  Tags:​人形机器人   点击:(6)  评论:(0)  加入收藏
AI重塑社交:腾讯与字节跳动的新赛场
文|新火种 一号编辑|美美最近,腾讯和字节跳动这两大互联网巨头几乎同步推出了各自的AI社交产品,尽管腾讯和字节跳动在前段时间刚刚“破冰”,但这一举措不仅意味着这两大巨头之...【详细内容】
2024-04-07    蓝鲸财经  Tags:AI   点击:(8)  评论:(0)  加入收藏
站内最新
站内热门
站内头条