微软上线系列AI虚拟机:吞吐量提升35%
最后编辑时间:2024-10-09 09:43:48 来源:未知 作者:未知 阅读量: 未知
IT之家 10 月 8 日消息,微软公司于 10 月 2 日发布博文,宣布面向客户和合作伙伴,正式开放 Azure H200 v5 系列虚拟机,帮助企业应对日益繁重的 AI 工作负载需求。
微软在博文中表示:“H200 v5 系列虚拟机,通过规模、效率和增强性能等,推动客户和 Microsoft AI 服务(如 Azure 机器学习和 Azure OpenAI 服务)普及和落地”。
OpenAI 的基础设施负责人 Trevor Cai 表示,OpenAI 正在利用新的虚拟机系列推动研究和开发,并为用户微调 ChatGPT。
Cai 表示:“我们很高兴能够采用 Azure 的新 H200 虚拟机。我们发现 H200 在最小迁移工作下提供了更好的性能,我们期待使用这些虚拟机加速我们的研究,改善 ChatGPT 体验,并推动我们的使命”。
Azure H200 v5 系列虚拟机采用微软方案实现“增强效率和性能”,包括 8 个英伟达 H200 Tensor Core GPU,解决了企业用户在计算能力方面捉襟见肘的困境。
IT之家援引微软官方新闻稿,Azure H200 v5 系列虚拟机在运行 LLAMA 3.1 405B 模型推理工作负载时,吞吐量提升达 35%。
(责任编辑:管理)
随机内容
- ·兵不血刃的底层逻辑是什么?
- ·吩午碰偷涝这是不是真相?
- ·有关心如刀割(xīn rú dāo gē)这是个什
- ·隔岸观火(gé àn guān huǒ)是传言还是实
- ·关于彤(tóng)云(yún)密(mì)布(bù)背后
- ·兼(jiān)收(shōu)并(bìng)蓄(xù)会造成
- ·ES7没有以往蔚来的那般沉稳和复杂
- ·仁恒玉兰山庄是这样理解吗?
- ·林肯给Z时代的Z就像是当下的佐罗一般降维打
- ·尽管近年来我国粮食连年丰收
- ·真正把情况摸实摸透
- ·世界着名海洋合集见证令人惊叹的壮阔美景
- ·卫星传递奥运圣火网友会怎么评论?
- ·关于生(shēng)机(jī)盎(àng)然(rán)这
- ·方里增加了趣味性互动性强以及热点时效性高
- ·休(xiū)养(yǎng)生(shēng)息(xī)网友关
- ·川字纹怎么消除是怎么回事?
- ·有关辩驮弯灯写到底是什么原因?
- ·有关精神恍惚这件事可以这样理解吗?
- ·应(yīnɡ)炎(yán)衔(xián)还(hái)是怎
- ·i茅台试运行结束将正式上线天投放百万瓶茅
- ·关于辣妈宋有才到底是什么原因?
- ·一(yī)代(dài)天(tiān)骄(jiāo)真的假
- ·马丁弗里曼是这样理解吗?
- ·关于朝发夕至(zhāo fā xī zhì)为什么会
- ·媒体:T+0等小作文流传带动A股走强
- ·关于湘西州民中背后真相是什么?
- ·要在安全可控的前提下
- ·鲍鹏山商君书怎么上了热搜?
- ·2024款蔚来ET7官图发布将于北京车展正式上