最高9.9倍,微软推出Olive工具:大幅优化AMDGPU运行AI模型性
来源:网络 发布时间:2023-08-23 08:58
,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性能提升 9.9 倍。
Microsoft Olive 是由 Python 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。
新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。
Microsoft Olive 可以转换、优化、量化和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。
IT之家在此附上博文链接,感兴趣的用户可以深入阅读。
广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
成都新闻摘选
- 安世亚太荣获“2023数字化转型十大贡献企业”
- 牛郎织女在T台?2023第六届七夕东方情人节·唯怡之夜国潮盛典即将上演!
- “社区消防无小事,微网格员来助力”明光网格员消防培训演练活动
- 2023 MLB CUP青少年棒球公开赛·春季总决赛开幕!25支少年精英队决
- 亚宠展专访 — 瑞派宠物医院轮值总裁胡文强:稳抓行业新风口,聚焦发展新阶段
- 招人啦!《和平精英》中国大熊猫保护研究中心合作打造 “大熊猫秘境”玩法
- GUAN 创始人 — 代军:我们是更好的未来,我们将无限丰收
- “啡”去不可!三亚咖啡文化节,开启鹿城寻味之旅
- “西藏人人健康“系列义诊之2023年院士专家进藏义诊活动圆满结束
- 在抖音吃美食有参考榜单了!抖音生活服务启动全国餐饮行业榜单体系建设