您当前的位置:首页 > 新闻资讯 > 科技

碾压GPT-4!谷歌DeepMind CEO自曝:下一代大模型将与AlphaGo合体

时间:2023-06-27 15:14:57  来源:新智元  作者:

新智元报道

编辑:编辑部

【新智元导读】谷歌DeepMind CEO Hassabis全新爆料:全新Gemini模型将结合进AlphaGo和大语言模型,成本预计是数千万美元,甚至数亿。

谷歌,是真的破釜沉舟了。

传说中合并了AlphaGo和类GPT-4大模型的Gemini,终于要来了吗?

一个是用强化学习击败人类围棋冠军、创造历史的AI系统,一个是目前霸榜几乎所有大模型榜单、一骑绝尘的最强多模态大模型,两个AI一合体,简直要无敌了!

谷歌DeepMind CEO Hassabis近日对外媒Wired表示,Gemini还在开发中,还需要几个月,而谷歌DeepMind已经准备砸进数千万美元,甚至数亿。

此前,Sam Altman曾透露,创建GPT-4的成本超过了1亿美元。谷歌DeepMind,当然也不能输。

太长不看版

Gemini会将AlphaGo与GPT-4等大模型的语言功能合并,系统解决问题和规划的能力将大大增强。

  • Gemini是一个大语言模型,类似于 GPT-4
  • 预计花费数千万到数亿美元,与开发GPT-4的成本相当
  • 除了AlphaGo,还会有别的创新

Gemini会整合使用了强化学习和树搜索的 AlphaGO。

  • 强化学习允许AI通过从反复尝试和反馈中学习,解决挑战性难题

  • 树搜索方法有助于探索和记住场景中可能的移动,比如在游戏场景中

DeepMind在强化学习方面的丰富经验,会为Gemini带来崭新功能。

  • 其他领域技术(如机器人和神经科学)也会整合到Gemini中

下一个算法,要超越ChatGPT

根据OpenAI CEO Sam Altman的说法,GPT-5距离发布尚有时日,至少6个月内不会开始训练。而Gemini的发布时间尚未确定,可能在几个月之内。

尚在开发中的Gemini,也是一个处理文本的大语言模型,性质上和GPT-4类似。

但谷歌DeepMind CEO Demis Hassabis表示,Gemini会结合进AlphaGo中使用的技术,这将赋予系统全新的规划、解决问题的能力。

2016年,AlphaGo击败围棋世界冠军李世石的那一幕,如今依然历历在目。

Hassabis表示,「可以这么说,Gemini把AlphaGo系统的一些优势,和大语言模型惊人的语言能力结合在一起了。并且,我们还有一些其他有趣的创新。」

据说,Gemini具有以前模型中没有的多模态功能,在集成工具和API方面非常高效。而且,Gemini将提供多种规模,旨在支持未来内存和规划上的创新。

在三月份,曾经有这样一个说法:Gemini会像GPT-4一样,具有一万亿个参数。而且,据说Gemini将使用数以万计的谷歌TPU AI芯片进行训练。

在上个月的谷歌开发者I/O大会上,谷歌就曾提到,从一开始,Gemini的目标就是多模态、高效集成工具、API。

而当时谷歌的预告是:「虽然还在早期,但我们已经在Gemini中,看到了在之前的模型中从未见过的多模态能力,这让人印象太深刻了。」

AlphaGo背后的技术,就是强化学习,这是DeepMind首创的技术。

RL代理随着时间的推移与环境交互,通过反复试验来学习策略,从而最大限度地提高长期累积奖励

通过强化学习,AI能够通过反复尝试和接受反馈来调整自己的表现,因而学会处理很棘手的问题,比如在围棋或电子游戏中选择如何采取下一步行动。

另外,AlphaGo还使用了蒙特卡洛树搜索(MCTS)方法,来探索和记住棋盘上所有可能的动作。

这已经不是Hassabis第一次搅动起科技巨头的大规模人工智能淘金热了。

2014年,DeepMind使用强化学习,让AI学会了玩简单的视频游戏,这一成果惊为天人,直接让DeepMind被谷歌收购。

谷歌的注果然押对了。

接下来几年,DeepMind隔一段时间就产出一个惊艳全世界的成果。

深度学习和强化学习正在解决许多经典的人工智能问题,例如逻辑、推理和知识表示

2016年,石破天惊的AlphaGo,直接点燃了深度学习和第一轮AI产业的热潮。

2017年,AlphaGo Zero没有使用人类数据,就迅速超越了AlphaGo。

AlphaGo Zero

2020年,AlphaFold对于蛋白质结构的预测与实验室技术相当,基本解决了蛋白质的折叠问题。

今年6月,AlphaDev创造全新的排序算法,或将彻底改变计算机科学的效率和成果。

相比OpenAI更通用的路线,DeepMind多年来深耕垂直领域。

语言模型的下一个重大飞跃在哪里?Gemini或许指引了下一代语言模型的方向。

背水一战

很明显,Gemini是谷歌的背水一战。

谷歌开创的许多技术,比如Transformer架构,让最近的AI洪流成为可能。

因为对于技术的开发和部署太过谨慎,在ChatGPT和其他生成式AI构成的竞争面前,它反而显得暂时落后。

为了对打ChatGPT,谷歌连续抛出多个动作,比如推出Bard,并且将生成式AI集成到搜索引擎和其他产品中。

为了集中力量办大事,在4月,谷歌干脆把Hassabis的DeepMind和谷歌的主要人工智能实验室谷歌大脑合并,合体为谷歌DeepMind。

对于合体后的全新团队,Haasabis显然非常自信。他表示,全新的团队汇集了两股对最近的人工智能进步至关重要的力量。

「如果你看看我们在人工领域的位置,你会相信,未来80%或90%的创新,就会来自其中一个团队。在过去十年里,两个团队都做出了极其出色的成果。」

新的想法

训练像OpenAI的GPT-4这样的大型语言模型,需要将来自书籍、网页和其他来源的大量精选数据集的输入「Transformer」中。

Transformer使用训练数据中的模式来熟练预测后续文本中应该出现的每一个字母和单词。

这种看似简单的机制,却在回答问题和生成文本或代码方面非常强大。

但这个看似简单的技术原理也被很多行业大佬或者人工智能专家们诟病。

马斯克:目前AI技术的本质就是统计学

LeCun:现在的AI的智能水平还不如狗

OpenAI在GPT系列模型上的突破,就是在Transformer的核心技术之上,很激进地采用了RLHF来强化模型的能力。

而DeepMind在强化学习方面同样有非常丰富的经验。

这就让人有非常充足的理由期待Gemini在未来可能会展现出来的创新能力。

更加关键的是,Hassabis和他的团队也会试图用人工智能其他领域的核心技术来增强大型语言模型的能力。

DeepMind的技术积累非常广泛。

从机器人技术到到神经科学,他们武器库里有各种各样的装备可供他们挑选。

比如像LeCun这样的AI大佬就表示,Transformer将语言模型的能力过度限制在了文本的范围之内。

像人类和动物⼀样,从世界的物理经验中学习可能才是发展人工智能的最优解。

也许在Gemini身上,人工智能将展示出其他方向的潜力。

不确定的未来

Hassabis的任务是加速谷歌的人工智能技术的发展,同时管理未知和潜在的严重的风险险。

大语言模型的飞速进步让许多人工智能专家开始担心这项技术是否会打开潘多拉的魔盒,让人类社会付出无法接受的代价。

Hassabis表示,人工智能可能给人类社会带来的收益不可估量。

人类必须要持续发展这项技术。

强制暂停发展AI技术完全没有可操作性。

但是这并不意味着Hassabis和他领导的DeepMind会不计后果地推进技术的发展。

毕竟,谷歌和DeepMind之所以把AI技术的领袖位置拱手让给OpenAI。

很大一部分原因就是对待AI发展采用了「过于负责任」的态度。

网友:不看好

但是对于未来Gemini的发布,因为考虑到之前谷歌保守的态度,大部分网友似乎都不太看好。

你们觉得这个类似于AGI的模型会在什么时候发布呢?

我赌10块谷歌永远不会发布这个东西。

如果有人关注过谷歌的项目的话,就会发现,他们一般都是先吹一阵牛,然后什么也不发布,一年后再把这个项目给砍了。

不过,对于谷歌在目前大语言模型中做的贡献,网友还是很认可的。

网友A:OpenAI用的大语言模型技术基本都是谷歌发明的

网友B:是的,不过特斯拉发不了财,但是爱迪生可以。

这位网友就很看好DeepMind将利用自己在强化学习方面的经验能在大语言模型上产生的突破。

不过他依然认为可能谷歌只会用改进自己现有产品的思路来推进这个技术,而不是推出全新的产品。

参考资料:

https://the-decoder.com/deepmind-founder-shares-details-on-gemini-googles-next-gen-response-to-gpt-4



Tags:GPT-4   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07  Search: GPT-4  点击:(7)  评论:(0)  加入收藏
微软AI程序员登场,10倍AI工程师真来了?996自主生成代码,性能超GPT-4 30%
新智元报道编辑:桃子 润【新智元导读】全球首个AI程序员Devin诞生之后,让码农纷纷恐慌。没想到,微软同时也整出了一个AI程序员——AutoDev,能够自主生成、执行代码等...【详细内容】
2024-03-18  Search: GPT-4  点击:(17)  评论:(0)  加入收藏
前端不存在了?盲测64%的人更喜欢GPT-4V的设计,杨笛一等团队新作
3 月 9 日央视的一档节目上,百度创始人、董事长兼 CEO 李彦宏指出,以后不会存在「程序员」这种职业了,因为只要会说话,人人都会具备程序员的能力。「未来的编程语言只会剩下两种...【详细内容】
2024-03-11  Search: GPT-4  点击:(9)  评论:(0)  加入收藏
多模态大模型,阿里通义千问能和GPT-4V掰手腕了
通义千问的图像推理能力,最近有了大幅提升。2024 年,大模型领域要卷什么?如果没有思路的话,不妨看看各家大厂都在押注什么方向。最近一段时间,先是 OpenAI 推出 GPT-4V,让大模型...【详细内容】
2024-01-29  Search: GPT-4  点击:(75)  评论:(0)  加入收藏
微软Copilot Pro来了:个人用户也能在Word里用GPT-4,20美元/月
面向个人用户的微软Copilot会员版来了。一个月多交20刀(约合人民币142元),Microsoft 365个人版/家庭版用户就能在Word、Excel、PPT等Office全家桶中用上GPT-4。就像这样,不用在C...【详细内容】
2024-01-16  Search: GPT-4  点击:(90)  评论:(0)  加入收藏
“GPT-4变傻”不只是OpenAI的苦恼,所有大模型与人类交往越久就会越蠢?
 许多大模型在处理早期数据时展现出的优异表现,实际上是受到了‘任务污染’的影响,回答问题全靠记,而非纯粹基于学习理解能力。  ChatGPT发布一年多,已经在全世界...【详细内容】
2024-01-05  Search: GPT-4  点击:(48)  评论:(0)  加入收藏
GPT-4V开源平替!清华浙大领衔,LLaVA等开源视觉模型大爆发
新智元报道编辑:Aeneas【新智元导读】GPT-4V的开源替代方案来了!极低成本,性能却类似,清华、浙大等中国顶尖学府,为我们提供了性能优异的GPT-4V开源平替。如今,GPT-4 Vision在语言...【详细内容】
2024-01-03  Search: GPT-4  点击:(53)  评论:(0)  加入收藏
谷歌Gemini扳回一局!多模态能力和GPT-4V不分伯仲|港中文128页全面测评报告
量子位 | 公众号 QbitAI谷歌扳回一局!在Gemini开放API不到一周的时间,港中文等机构就完成评测,联合发布了多达128页的报告,结果显示:在37个视觉理解任务上,Gemini-Pro表现出了和GP...【详细内容】
2023-12-22  Search: GPT-4  点击:(120)  评论:(0)  加入收藏
GPT-4V 都搞不明白的未来推理有解法了!来自华科大 & 上科大
多模态大语言模型展现了强大的图像理解和推理能力。但要让它们基于当前观测来对未来事件进行预测推理仍然非常困难。即便是当前最强大的 GPT-4V(如下图所示),也无法很好地解决...【详细内容】
2023-12-18  Search: GPT-4  点击:(58)  评论:(0)  加入收藏
OpenAI 宣布修复GPT-4变懒问题,将在离线评估及AB测试后更新模型
IT之家 12 月 11 日消息,OpenAI 在上周遭到部分用户投诉,许多用户声称,他们在使用 ChatGPT 或 GPT-4 API 时,会遇到回应速度慢、敷衍回答、拒绝回答、中断会话等一系列问题,OpenA...【详细内容】
2023-12-12  Search: GPT-4  点击:(50)  评论:(0)  加入收藏
▌简易百科推荐
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11    上海证券报  Tags:英特尔   点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11    工人日报  Tags:AI   点击:(2)  评论:(0)  加入收藏
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(8)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(9)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(2)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(5)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(7)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
  • · AI“复活”亲人成生意,哪些红线待划定?
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条