英特尔的 OpenVINO 2023.1 刚刚在 GitHub 上发布,这是这个开源工具包的最新版本,用于在 CPU、GPU 上优化和部署人工智能工作负载,现在还正式支持 Meteor Lake SoC 上的新 VPU。
OpenVINO 2023.1 带来了新的生成式 AI “GenAI “选项,进一步增强了对 PyTorch 模型的支持,同时还优化了对 Hugging Face 的支持。OpenVINO 2023.1 还提供了更广泛的大型语言模型(LLM)支持,以提高运行时性能并减少内存使用,改进了 LLM GPU 支持,并为神经网络压缩框架提供了新的 8 位权重压缩方法。
OpenVINO 2023.1 版本还支持即将推出的 Meteor Lake / Intel Core Ultra SoC 的 VPU。这将进一步提升 OpenVINO AI 工作负载在即将推出的英特尔笔记本电脑上的性能。新发布的 OpenVINO 还集成了 MediaPipe,可以更方便地构建多用途人工智能流水线。
随着英特尔 VPU 在流星湖(Meteor Lake)上的广泛应用,以及一些 Linux 驱动程序工作显示出在月湖(Lunar Lake)上的改进版本,OpenVINO 2023.1 将不再支持英特尔高斯与神经加速器(英特尔 GNA),该硬件块在 SoC 上可以追溯到虎湖(Tiger Lake)时代。英特尔 GNA 现已被英特尔 VPU 取代,OpenVINO 软件集成将于明年取消。
有关 OpenVINO 2023.1 的下载和更多详细信息,请访问:https://github.com/openvinotoolkit/openvino/releases/tag/2023.1.0
作者:Michael Larabel
源自phoronix.
版权声明:本文内容转自互联网,本文观点仅代表作者本人。本站仅提供信息存储空间服务,所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至1393616908@qq.com 举报,一经查实,本站将立刻删除。