您当前的位置:首页 > 新闻资讯 > 科技

AI大模型“战火”从互联网烧到了手机侧 谁在提前布局?

时间:2023-07-06 10:03:44  来源:第一财经  作者:

作者: 李娜

  [ 在卢言霞看来,将大模型部署到手机端进行推理主要有两种方式:一种是通过云端进行推理,一种是在手机端直接进行推理。如果选择回传云端推理,则对手机的通信能力要求较高;而如果选择在手机端推理,则对算力有一定的要求。 ]

尽管大模型算力消耗惊人,但这并没有阻止各大科技公司AI应用于其他设备,比如智能手机。

一个月内,已有多家科技厂商对AI大模型在手机上的应用作出公开表态,以自研或者合作的方式进入这一狂热的赛道。

“手机上的对话助手、智能相册和地图等都可以基于AI大模型升级。”IDC中国研究总监卢言霞对第一财经记者表示,生成式AI的应用,例如语音修图、智能对话、文生图等也将逐步得到落地。

“但预训练大模型的进展和手机端算力的不断提升是实现这些应用的关键因素。大模型的成败高度依赖于算力的支持,而一个大型的人工智能大模型通常需要使用数万亿个单词进行训练,其参数量也达到了上万亿级别,这对于手机终端来说仍是一个巨大的挑战。”卢言霞说。

“大模型手机”要来了?

ChatGPT引发的全球AI领域军备赛,已经从互联网蔓延至手机端。

今年5月,OpenAI发布了ChatGPT应用程序的IOS版本。不到三周,市场下载量便高达500万次。在那前后,与AI大模型相关的App已充斥在iOS与Android/ target=_blank class=infotextkey>安卓应用商店中。

在互联网厂商还在讨论“中国版ChatGPT”何时诞生的时候,手机厂商以及产业链玩家也在寻找大模型为手机产业带来的新机会,试图从中分得一杯羹。

“我们内部正在就网络大模型方面的需求跟互联网公司进行合作,目前已(和意向公司)有所接触。”荣耀CEO赵明在此前举行的上海世界移动通信大会上对记者表示,正在把AI大模型的能力引入终端。

在赵明看来,智能手机行业正处在一个AI、5G+开启的新一轮创新周期中,而智能手机是计算平台、通信平台、显示平台、AI平台的集合,智能手机的发展就是不断打破边界、集成新技术、融合新品类的过程。AI、通信技术的持续演进,以及新形态的发展为智能手机打开了机会大门,利于行业重回千帆竞渡态势,共同开启下一个黄金周期。

除了荣耀外,国内厂商方面,华为以及OPPO也在低调部署。

目前,华为则基于多模态大模型技术,通过在手机端侧对模型进行小型化处理,完善了手机在海量图片中的搜索能力。

OPPO研究院6月初则在一篇论文中介绍了一款专注图片标记的基础模型“Recognize Anything Model”,而在此前更是与阿里大模型展开深度合作。中国区总裁刘波对记者表示,内部也在思考大模型在手机端的应用,未来AI或将改变整个手机产业链。

以语音助手为例,该技术采用的也是深度学习模型,但语音大模型可以替代语音助手工作模块中对语义理解的功能,修复此前因为唤醒和识别错误带来的不便。

微软CEO纳德拉曾直言不讳地指出语音助手的“愚蠢”:“无论是Cortana、Alexa、google Assistant还是Siri,这些语音助手笨得像块石头。”但在未来,语音助手或许可以真正像个人助理一样,精准地帮助用户实现预订机票、网上购物等功能。

赵明对记者表示,现阶段荣耀以MagicOS中“YOYO建议”已经可以提供基于地理围栏、用户习惯等数据的多场景个人化提醒。“Magic V2上将会部署AI功能,在未来可以通过在端侧引入AI大模型赋能语音智慧助手,提供更自然的交互与更精准的意图识别服务。”

算力与成本下的挑战

但和其他大模型公司所遇到的一样,在手机端侧上实现这一技术的最大挑战来自两方面:其一是算力,其二是成本。

在卢言霞看来,将大模型部署到手机端进行推理主要有两种方式:一种是通过云端进行推理,一种是在手机端直接进行推理。如果选择回传云端推理,则对手机的通信能力要求较高;而如果选择在手机端推理,则对算力有一定的要求。尽管技术提供商会对模型进行剪枝和压缩等优化,但仍然需要一定的算力。

例如,ChatGPT这样的超大模型需要1000张主流卡容量的独立计算集群,以及对应的模型并行算法框架来支持训练。在成本方面,超大模型的训练需要大规模计算集群以及对应的模型并行算法框架的支撑,因此训练成本通常很高。ChatGPT单次模型训练耗时1个月,训练成本达1200万美元。

CounterpointResearch分析师FloraTang对第一财经记者表示,手机公司的软件工程团队相较于互联网公司而言,人力较少,所以从大模型的自研角度是不现实的。但可以选择一些已有的合作方进行大模型领域的技术优化。

但从手机产业链来看,上游芯片厂商正在做出努力,试图在英伟达统治的算力江湖下找到缝隙,以减少成本并且实现对AI芯片的把控能力。

高通前不久提出了一个云边一体“混合AI”的概念,并计划在今年下半年对外展示在手机上运行100亿个参数的大语言模型。从高通已有的模型落地案例来看,其边缘大模型相当于云端大模型的“感知器官”,从而实现AI功能在终端设备的实现。

同时,虽然苹果并没有直接表态,但从其芯片布局来看,苹果已经公开进入生成式AI训练硬件领域。“M2芯片家族的最新成员M2 Ultra是苹果在AI领域一个值得关注的地方,这种能力可能会在训练大模型上派上用场。”FloraTang对记者说。

值得注意的是,今年6月,iOS 17发布的开发者版本中,其中一个改动是“Hey Siri”去掉了前缀,用户仅需说“Siri”就能唤醒语音助手。这一变动背后也有来自语音大模型的支撑。

国内厂商方面,荣耀在上海所布局的一家芯片公司也受到了行业内的关注。在随后的回应中,荣耀表示,上海荣耀智慧科技开发有限公司主要进行的是终端侧核心软件、图形算法、通信、拍照等方面研究开发工作。

结合赵明此前在采访中提及的“将在算力中心进行端侧大模型的前置算法训练”,上述芯片公司的定位或与荣耀端侧AI大模型布局有关。

在业内看来,不管是自身技术实力的积累还是与未来与苹果在AI上的竞争,拥有处理AI数据的能力变得越来越重要。

“大型模型将在云中进行训练,但真正的价值在于更小、更高效的模型,这些模型经过调整,可以在手机终端设备上运行。”FloraTang说。

但对于何时能真正迎来手机端的“ChatGPT”时刻,卢言霞则对记者表示,这取决于大模型本身的进展。一些小的应用,例如对话式应用,很快就可以落地。然而,对于一些具有挑战性的应用,例如文生图或者在现有APP中嵌入这些应用,可能还需要一定的时间。



Tags:AI大模型   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
超长文本是AI大模型的能力突破口吗?
◎记者 刘怡鹤近日,能“一口气读完20万字小说”的AI大模型应用Kimi再次为国内AI产业添了一把火。业内认为,国产大模型能力提升或成今年国内AI领域最核心的主线。超长上下文是...【详细内容】
2024-03-26  Search: AI大模型  点击:(8)  评论:(0)  加入收藏
AI大模型之争远未落幕
吕归亚自2022年年底OpenAI发布聊天机器人ChatGPT3.0后,各大科技公司纷纷跟进推出各自的产品。经历了一年多高速推进且“万众瞩目”的发展后, ChatGPT依旧是行业内的标杆级存在...【详细内容】
2024-03-20  Search: AI大模型  点击:(19)  评论:(0)  加入收藏
多模态AI大模型赋能移动机器人!受益上市公司梳理
财联社3月3日讯(编辑 若宇)移动机器人赛道近期关注度逐步上升。GTC 2024将于3月18至21日在加州圣何塞会议中心举行,英伟达计划发布机器人领域最新突破成果。英伟达大概率是通过...【详细内容】
2024-03-04  Search: AI大模型  点击:(39)  评论:(0)  加入收藏
新一批国产AI大模型通过备案
快科技1月30日消息,据媒体报道,新一批的国产AI大模型通过了备案许可,其中小米的小爱同学AI助手位居其中。据了解,此次共有13家企业14个AI大模型通过备案,是获批数量最大的一次,也...【详细内容】
2024-01-30  Search: AI大模型  点击:(57)  评论:(0)  加入收藏
解读AI大模型
AI大模型AI大模型,即大型人工智能模型,是近年来人工智能领域的重要进展。它通过在大规模数据集上进行训练,能够适应一系列下游任务,具有广泛的普适应用支撑能力。相比于小模型,AI...【详细内容】
2024-01-05  Search: AI大模型  点击:(205)  评论:(0)  加入收藏
群雄逐鹿AI大模型 狂飙之后如何商业化
◎记者 罗茂林年初爆火的《狂飙》,剧名正暗合了AI大模型的这一年。2月ChatGPT“带火”OpenAI时,行业还预测国内追赶尚需时日;但转眼的5月,一场声势浩大的“百模大战”便拉开帷幕...【详细内容】
2023-12-26  Search: AI大模型  点击:(61)  评论:(0)  加入收藏
AI大模型赋能的“数字地图”来了,可覆盖99%城乡道路
越来越“聪明”的导航来了。近日,高德地图宣布旗下基于北斗卫星导航系统、深度学习模型、惯性导航、泛在信号等前沿技术研发的车道级导航服务,截至目前已支持在国内99%以上的...【详细内容】
2023-12-12  Search: AI大模型  点击:(63)  评论:(0)  加入收藏
中国AI大模型,应该如何商业化?
文|产业家,作者|斗斗,编辑|皮爷如今,大模型的商业化问题再次被摆在台面上。一个事实是,当下的大模型训练需要强大的算力支撑,尤其是参数量大的模型,花费极大。比如OpenAI的语言模型GP...【详细内容】
2023-12-08  Search: AI大模型  点击:(199)  评论:(0)  加入收藏
谷歌AI大模型Gemini亮相:擅长复杂学科推理,能懂编程语言PK GPT-4
美国科技巨头谷歌今日宣布推出人工智能模型Gemini,并针对三种不同的尺寸优化了 Gemini 1.0:Gemini Ultra——谷歌最大、最有能力的模型,适用于高度复杂的任务。Gemin...【详细内容】
2023-12-08  Search: AI大模型  点击:(151)  评论:(0)  加入收藏
厂商争相布局,AI大模型加速在手机落地
中新社北京11月24日电 (记者 刘育英)中国多家手机厂商已在手机中部署AI大模型,或推出AI手机。接受采访的多位专家表示,AI大模型在手机中落地的路径更加清晰,但仍存在部分难点。...【详细内容】
2023-11-27  Search: AI大模型  点击:(73)  评论:(0)  加入收藏
▌简易百科推荐
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11    上海证券报  Tags:英特尔   点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11    工人日报  Tags:AI   点击:(2)  评论:(0)  加入收藏
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(8)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(9)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(2)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(5)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(7)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
  • · AI“复活”亲人成生意,哪些红线待划定?
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条