您当前的位置:首页 > 新闻资讯 > 科技

让企业更易上手生成式AI!英伟达连宣多项重磅合作,从Azure云到本地化部署

时间:2023-05-24 10:55:34  来源:智东西  作者:

智东西

作者 | ZeR0

编辑 | 漠影

智东西5月24日报道,作为加速计算的“守门员”,自ChatGPT引爆生成式AI热潮后,NVIDIA(英伟达)凭借其旗舰计算芯片A100和H100 GPU在AI训练领域无出其右的地位,在生成式AI赛道刷满了存在感。今日,NVIDIA又接连宣布多个合作进展,进一步为企业提供加速AI应用的新工具。

在微软Build开发者大会上,英伟达和微软展示了采用英伟达RTX GPU的windows 11 PC和工作站的一系列改进,以满足生成式AI的需求。此外,NVIDIA还宣布将NVIDIA AI Enterprise软件套件集成到微软的Azure机器学习中,以帮助企业加速推进AI计划。

在戴尔科技集团全球大会上,戴尔科技集团与NVIDIA联合发布用于安全、本地化部署生成式AI的Project Helix合作项目,旨在让企业更方便在本地构建和使用生成式AI模型,从而实现快速、安全交付更好的客户服务、市场情报、企业搜索等各种功能。

一、在Windows 11上轻松训练和部署高级AI模型

NVIDIA和微软今日展示的一系列进展,包括在Windows PC上开发AI的工具、优化和部署AI的框架、驱动程序性能和效率的改进。这些将使开发者能够以生成式AI为核心,构建下一代Windows应用程序。

据介绍,超过400个Windows应用程序和游戏已经采用了AI技术,由RTX GPU上的Tensor Cores专用处理器加速。微软Windows芯片和系统集成公司副总裁Pavan Davuluri说,通过与 NVIDIA在硬件和软件优化方面的合作,微软为开发人员提供了变革性的、高性能的、易于部署的体验。

传统上,AI开发在linux上进行,要求开发者要么双启动他们的系统,要么使用多台PC在其AI开发操作系统中工作,同时仍然需要使用到Windows生态系统的资源。过去几年,微软一直在探索构建直接能在Windows操作系统中运行Linux的功能,并将该功能命名为Windows Subsystem for Linux(WSL)。

NVIDIA与微软密切合作,为WSL内的整个NVIDIA AI软件堆栈提供GPU加速和支持。开发者可使用Windows PC来满足本地AI开发需求,并能用到WSL上GPU加速的深度学习框架。

由于NVIDIA RTX GPU在桌面工作站中提供了高达48GB的RAM,能满足跑更大模型的需求。大内存也提高了AI模型局部微调的性能和质量。再加上相同的NVIDIA AI软件堆栈在NVIDIA数据中心GPU上运行,开发者也能很方便地将他们的模型推送到微软Azure云去进行大规模训练。

微软发布了优化PyTorch模型并将其转换为ONNX的微软Olive工具链,使开发者能自动利用RTX Tensor Cores等GPU硬件加速。开发者可以通过Olive或ONNX优化模型,将Tensor Core加速模型部署到PC或云端。

RTX Tensor Core可提供的AI推理算力高达1400 Tensor TFLOPS。去年NVIDIA一直致力于提高DirectML性能,以充分利用RTX硬件。NVIDIA将发布532.03版驱动程序中的最新优化,这些优化与Olive优化模型相结合,可大幅提升AI性能。使用Olive优化版本的Stable Diffusion文转图生成器和流行的Automatic1111发行版,新驱动程序的性能提高了2倍以上。

不久后,NVIDIA将推出新的Max-Q低功耗推理,用于RTX GPU上的AI工作负载。它优化了Tensor Core性能,同时保持GPU功耗尽可能低,延长电池寿命,保持系统凉爽、安静。

NVIDIA和微软正为开发人员提供多种资源,以便Windows PC上测试顶级生成式AI模型。Hugging Face上提供了Dolly 2.0大型语言模型的Olive优化版本。面向对话式AI的NVIDIA NeMo大型语言模型的PC优化版本也即将推出。开发者还可以学习如何端到端优化他们的应用程序,以通过NVIDIA AI充分利用GPU加速来加速应用程序开发人员站点。

微软Windows平台和NVIDIA动态AI硬件和软件堆栈背后的互补技术将帮助开发者快速轻松地在Windows 11上开发和部署生成式AI。

二、NVIDIA AI企业软件+Azure机器学习,加速企业就绪的生成式AI

除了方便开发者在PC上部署生成式AI应用外,NVIDIA还宣布将NVIDIA AI Enterprise软件套件集成到微软的Azure机器学习中,以创建一个安全、企业就绪的平台,使全球Azure客户能够使用NVIDIA AI平台的软件层NVIDIA AI Enterprise全面支持的100多个NVIDIA AI框架和工具来快速构建、部署并管理应用程序。

通过Azure机器学习上集成的NVIDIA AI Enterprise,用户还能够访问最高性能的NVIDIA加速计算资源,来加快AI模型的训练和推理。NVIDIA AI Enterprise与Azure机器学习形成互补,同时还包括NVIDIA专家的帮助和支持。

微软AI平台副总裁John Montgomery说:“微软Azure机器学习用户期待的是性能最高、最安全的开发平台。Azure机器学习与NVIDIA AI Enterprise软件套件的集成使我们能够满足用户的期望,让企业和开发人员能够轻松地访问他们训练和部署定制、安全的大型语言模型所需的一切。”

NVIDIA AI Enterprise包含100多个框架、预训练模型和开发工具,例如NVIDIA RAPIDS用于加速数据科学负载,NVIDIA Metropolis可加速视觉AI模型开发,NVIDIA Triton Inference Server支持企业实现标准化的模型部署和执行,NVIDIA NeMo大型语言模型框架用于构建主题鲜明、安全可靠的生成式AI聊天机器人。

NVIDIA AI Enterprise与Azure机器学习的集成目前为有限技术预览版,可通过在NVIDIA社区中注册获得。NVIDIA AI Enterprise还可在Azure Marketplace上使用,为全球企业提供了一个全面安全和完全支持的AI开发和部署的新选项。

此外,NVIDIA Omniverse Cloud平台即服务现已在Microsoft Azure上提供面向企业的私有版本。Omniverse Cloud为开发者和企业提供了一个全栈云环境,用于大规模设计、开发、部署和管理工业元宇宙应用。

三、NVIDIA与戴尔联手,让企业安全本地化部署生成式AI

在戴尔科技集团全球大会上,戴尔科技集团与NVIDIA宣布了一个基于戴尔和NVIDIA基础设施与软件打造的合作项目Project Helix。

Project Helix将提供一系列包含技术专长和预构建工具的全栈式解决方案。通过戴尔提供的经过测试和优化的软硬件产品组合,该项目极大简化了企业生成式AI的部署,助力企业在保持数据隐私的同时,将数据转化为更加智能和更高价值的成果,更轻松、负责任、准确地快速部署定制化的生成式AI应用。

戴尔科技集团副董事长兼联席首席运营官Jeff Clarke说:“Project Helix为企业提供特制的AI模型,使企业可以更加快速、安全地从目前还未被充分利用的大量数据中获得价值。通过高度可扩展的高效基础设施,企业可以创造出新一批生成式AI解决方案,重塑他们所在的行业。”

NVIDIA创始人兼首席执行官黄仁勋谈道,NVIDIA与戴尔科技集团一起设计出极具可扩展性的高效基础设施,使企业能够安全使用自己的数据来构建和运行生成式AI应用,从而推动业务的变革。

Project Helix将支持从基础设施配置、建模、训练、微调、应用开发和部署一直到部署推理和精简结果等整个生成式AI的生命周期。

Dell PowerEdge服务器针对提升生成式AI训练和AI推理性能做了优化,如采用NVIDIA H100 Tensor Core GPU和NVIDIA先进网络技术的PowerEdge XE9680和PowerEdge R760xa。企业可将该基础架构与Dell PowerScale和Dell ECS Enterprise Object Storage等具有弹性、可扩展的非结构化数据存储搭配使用,进而使用戴尔服务器和存储软件中的企业功能,以及Dell CloudIQ软件提供的可观测能力。

Project Helix包含NVIDIA AI Enterprise软件,可提供用于整个AI生命周期的工具;并将安全和隐私功能内置在基础组件中,如Secured Component Verification。基于Project Helix项目的Dell Validated Designs将从今年7月起通过传统渠道和APEX灵活的消费选项提供。

结语:生成式AI应用浪潮正加速推动企业创新

生成式AI正以AI聊天机器人、图像生成应用、游戏渲染等形式迅速开创计算生产力的新时代。微软Windows芯片和系统集成公司副总裁Pavan Davuluri认为,AI将成为未来几年Windows客户创新的最大推动力。

随着生成式AI应用浪潮的到来,企业正在寻求安全的加速工具和服务,以推动创新。在NVIDIA创始人兼首席执行官黄仁勋看来,我们正处于一个历史性时刻,生成式AI的惊人进步与企业对于事半功倍的需求彼此交织。

可以看到,NVIDIA今日宣布的一系列进展,都围绕着企业在实际业务中构建与部署AI模型的切实需求。经过验证的设计可以帮助企业快速大规模构建生成式AI基础设施。在本地保护数据,可以降低固有风险,帮助企业满足监管要求。

正如TECHnalysis Research总裁兼首席分析师Bob O’Donnell所言:“企业渴望探索生成式AI工具给自己的组织带来的机会,但许多企业不清楚该从哪里入手。”

对于企业来说,NVIDIA与其生态伙伴们联合推出的完善解决方案,相当于提供了一条能够充分利用自己独有资产、解决数据隐私问题、快速构建及运行定制化生成式AI的捷途。



Tags:英伟达   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11  Search: 英伟达  点击:(2)  评论:(0)  加入收藏
英伟达CEO黄仁勋预测:十年内AI将能实时生成游戏中的所有像素
IT之家 3 月 21 日消息,在英伟达 GTC 2024 大会上发布了全新 Blackwell GPU 架构之后,黄仁勋在问答环节中对游戏领域的 AI 未来做出了大胆预测。据 Tom's Hardware 报道,这...【详细内容】
2024-03-21  Search: 英伟达  点击:(17)  评论:(0)  加入收藏
英伟达“算力核弹”强在哪里?
训练万亿参数级别的大模型,需要多大规模的算力?在今日凌晨进行的Nvidia GTC 2024主旨演讲中,英伟达创始人兼首席执行官黄仁勋在现场做了一道数学题。以OpenAI最先进的1.8万亿参...【详细内容】
2024-03-20  Search: 英伟达  点击:(16)  评论:(0)  加入收藏
英伟达发布机器人基础模型,具身智能离现实又进了一步?
·英伟达发布人形机器人通用基础模型Project GR00T和新型计算机 Jetson Thor,希望能让机器人拥有更聪明的大脑。·上海机器人产业技术研究院副院长周梅杰分析认...【详细内容】
2024-03-20  Search: 英伟达  点击:(10)  评论:(0)  加入收藏
世界首款!英伟达重磅发布人形机器人模型
3月19日,在备受瞩目的GTC 2024大会上,英伟达CEO黄仁勋带来了一项震撼人心的发布:世界首款人形机器人模型正式亮相。这一创新成果不仅标志着英伟达在人工智能领域的又一重大突破...【详细内容】
2024-03-19  Search: 英伟达  点击:(16)  评论:(0)  加入收藏
英伟达抛出年度AI杀器:史上最强芯片,还有机器人大模型
作者丨邱晓芬、景霖编辑丨苏建勋3月18日-21日期间,英伟达在美国圣何塞召开GTC大会。作为英伟达一年一度的技术发布会, GTC大会也被誉为AI行业的风向标。创始人黄仁勋在GTC大会...【详细内容】
2024-03-19  Search: 英伟达  点击:(15)  评论:(0)  加入收藏
“我是GR00T”,英伟达放大招
作 者丨赵云帆编 辑丨骆一帆图 源丨图虫、资料图在社交平台“预热”人形机器人的新进展之后,英伟达果然放了一个大招。美国当地时间3月18日,英伟达GTC发布会中,该公司发布了“P...【详细内容】
2024-03-19  Search: 英伟达  点击:(9)  评论:(0)  加入收藏
英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
新一代信息技术的加速演进,为行业发展带来前所未有的机遇,也推动数据、算力、人工智能成为社会生产力发展的重要支撑。随着5G技术的不断演进,下一轮更替已经蓄势待发。当地时间...【详细内容】
2024-02-28  Search: 英伟达  点击:(22)  评论:(0)  加入收藏
详解AI芯片参数,英伟达凭啥不能被替代?
文 | 产业象限,作者 | 山茶,编辑 | 钱江2月22日,英伟达发布2024财年四季报,营收221亿美元,同比增长265%,净利润123亿美元,同比激增769%,双双大超市场预期。然后,英伟达就杀疯了。一夜...【详细内容】
2024-02-28  Search: 英伟达  点击:(34)  评论:(0)  加入收藏
英伟达市值一夜涨了2万亿,约等于一个茅台三个宁德时代,黄仁勋身家超越中国首富钟睒睒
在英伟达靓丽财报的带动下,美股三大指数高开高走,道指、标普双双刷新高,纳指也接近历史最高收盘价。截至当地时间2月22日收盘,英伟达报785.38美元涨16.4%,创历史新高,市值逼近2万...【详细内容】
2024-02-23  Search: 英伟达  点击:(43)  评论:(0)  加入收藏
▌简易百科推荐
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11    上海证券报  Tags:英特尔   点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11    工人日报  Tags:AI   点击:(2)  评论:(0)  加入收藏
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(8)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(9)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(2)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(5)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(7)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
  • · AI“复活”亲人成生意,哪些红线待划定?
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条