OpenVINO 2023.1 发布:更多 GenAI、扩展 LLM 支持和 Meteor Lake VPU

英特尔的 OpenVINO 2023.1 刚刚在 GitHub 上发布,这是这个开源工具包的最新版本,用于在 CPU、GPU 上优化和部署人工智能工作负载,现在还正式支持 Meteor Lake SoC 上的新 VPU。

OpenVINO 2023.1 带来了新的生成式 AI “GenAI “选项,进一步增强了对 PyTorch 模型的支持,同时还优化了对 Hugging Face 的支持。OpenVINO 2023.1 还提供了更广泛的大型语言模型(LLM)支持,以提高运行时性能并减少内存使用,改进了 LLM GPU 支持,并为神经网络压缩框架提供了新的 8 位权重压缩方法。

OpenVINO 2023.1 版本还支持即将推出的 Meteor Lake / Intel Core Ultra SoC 的 VPU。这将进一步提升 OpenVINO AI 工作负载在即将推出的英特尔笔记本电脑上的性能。新发布的 OpenVINO 还集成了 MediaPipe,可以更方便地构建多用途人工智能流水线。

随着英特尔 VPU 在流星湖(Meteor Lake)上的广泛应用,以及一些 Linux 驱动程序工作显示出在月湖(Lunar Lake)上的改进版本,OpenVINO 2023.1 将不再支持英特尔高斯与神经加速器(英特尔 GNA),该硬件块在 SoC 上可以追溯到虎湖(Tiger Lake)时代。英特尔 GNA 现已被英特尔 VPU 取代,OpenVINO 软件集成将于明年取消。

OpenVINO 2023.1 发布:更多 GenAI、扩展 LLM 支持和 Meteor Lake VPU

有关 OpenVINO 2023.1 的下载和更多详细信息,请访问:https://github.com/openvinotoolkit/openvino/releases/tag/2023.1.0

作者:Michael Larabel
源自phoronix.

版权声明:本文内容转自互联网,本文观点仅代表作者本人。本站仅提供信息存储空间服务,所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至1393616908@qq.com 举报,一经查实,本站将立刻删除。

(0)

相关推荐

发表回复

登录后才能评论