英伟达联手VMware提供虚拟化GPU 加速AI部署
英伟达和VMware于周一发布了一款新的软件,该软件使客户能在本地或AWS平台的VMware Cloud上虚拟化GPU。这是第一个允许企业使用GPU加速AI、机器学习(ML)或深度学习工作负载的混合云产品。
英伟达产品管理副总裁John Fanelli表示:“在现代数据中心,各组织机构将使用GPU为AI、深度学习和分析提供支持。由于工作负载的规模很大,一部分处理将在数据中心内部进行,还有一些在云中进行,并在它们之间不断迭代。”
新产品的应用从企业数据中心产品开始——英伟达的新虚拟计算服务器软件(vComputeServer)。它针对VMware的vSphere进行优化,主要的OEM厂商(包括思科、戴尔、HPE、联想和Supermicro)均可使用。
Fanelli说:“现在我们能够将AI以数据中心IT管理员运行和设计其数据中心的方式(即在虚拟化环境中)引入数据中心。”
vComputeServer在旧金山召开的VMWorld大会上发布,与会企业正在雇用越来越多的数据科学家,以便从专有和公共数据中获得更多分析和见解。Fanelli说,他们可能已经在使用英伟达推出的Rapids——一个针对数据分析和机器学习的平台,能为数据科学工作实现GPU加速。
vComputeServer支持Rapids和载体。此外,它还支持GPU共享,以及个体用户对更大工作量的GPU聚合。
该技术基于GPU量运行。Fanelli说,虚拟化通常会导致低于5%的性能影响,尽管这将取决于工作负载。与性能受损相权衡,客户更从虚拟化收益,如可管理性和灵活性。
同时,VMware计划在VMware Cloud上提供vComputeServer。AWS上的VMware cloud允许客户在公共、个人或混合云环境下运行任意应用。该服务经过优化,可在专用的AWS基础设施上运行。
Vmware的产品营销总监Ivan Oprencak表示:“在云中海量数据集里,我们可以为客户提供丰富的数据分析洞察,以及ML、AI和其他数据分析功能。数据科学家将能够利用云环境来扩展其AI、ML和其他数据分析应用。”
AI正在迅速发展——根据Gartner的统计,超过一半的组织已经运行了至少一个AI部署,他们计划在未来几年内大幅加速AI的应用。
虽然VMware与英伟达在vComputeServer上开展专门合作,但它采取了其他措施来适应不断增加的AI工作负载。上个月该公司宣布,计划收购位于德克萨斯州首府的Bitfusion,该公司为硬件加速器创建了弹性和虚拟操作系统。
您可能也感兴趣:
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
5499元起!华为Pura70系列先锋计划开售
iPhone 16 Pro影像规格曝光:超广角将升级至4800万像素
一季度全球智能手机出货近2.9亿部 小米传音出货量同比均有大增
花旗预计“每卖一台SU7亏6800元” 小米高管回应:信息偏差较大
苹果将允许用户和第三方维修商使用二手正品零部件维修iPhone
苹果市值一夜暴涨8113亿元 据称拟升级整个Mac产品线
余承东调侃小米SU7原装手机支架设计?雷军发文回应
OpenAI超蚂蚁集团 胡润榜单上的“中国VS美国”
智己汽车因标注错误发致歉函 但致歉函中也有错误
更多
- 2023年营收165亿元,三七互娱拟提升分红频次至一年四次
- “AI换脸”骗走2亿港元 专家支招如何防范
- 媲美GPT4的开源模型Llama 3怎么用?亚马逊云科技官方教程已上线
- 谷雨“龙井”奶茶外卖量涨5倍,茉莉奶白等多品牌联合饿了么上线“春日收官”新品
- 《热辣滚烫》获北影节“春节档特别荣誉” 出品人侯晓楠:海外票房已破700万美元
- Qorvo 谈 Wi-Fi 7、BMS 及 Sensor Fusion 的技术革新之力
- 三年霸榜 亚马逊云科技为何成为中国AI开发平台顶流?
- 英特尔发布大型神经拟态系统Hala Point
- SHARP MultiSync王牌系列工程投影机发布
- 比亚迪秦L内饰座舱首次曝光 将于北京车展正式亮相
更多
- 消息称特斯拉下周将宣布在印度投资 最多30亿美元
- 特斯拉全球裁员不会影响墨西哥超级工厂建设 当地称正按计划推进
- Meta推出Llama 3大模型 在集成近25000块英伟达H100计算集群上训练
- 消息称苹果12.9英寸版iPad Air将采用mini-LED显示屏 在5月初推出
- 从5nm制程工艺来看 台积电3nm工艺或要明年才能成为最大营收来源
- 台积电一季度营收188.7亿美元 预计二季度会更高
- 分析师称iPhone 17 Plus屏幕将略小于iPhone 15 Plus和iPhone 16 Plus
- 苹果有意代工商在印尼建厂 CEO库克称将评估可行性
- SK海力士Q1营收有望超过12万亿韩元 营业利润重回万亿韩元之上
- 消息称苹果有意在印度生产iPhone摄像头部件 同当地厂商有过接触