2024 年 9 月 19 日，英特尔工程师发布了 OpenVINO 2024.4，这是其开源 AI 工具包的最新版本。OpenVINO 2024.4 为即将推出的英特尔酷睿超系列 2 “Lunar Lake” 处理器做好准备，支持较新的 Gen AI 模型，现在支持 Python 3.12，并最终增加了对 Red Hat Enterprise Linux 9 的官方支持。
OpenVINO 2024.4 增加了对 GLM-4-9B Chat、MiniCPM-1B、Llama 3 和 3.1、Phi-3-Mini、Phi-3-Medium 和 YOLOX-s 型号的支持。
OpenVINO 2024.4 还扩展了其大型语言模型 (LLM) 支持，包括对 Xe Matrix Extensions (XMX) 脉动阵列的运行时优化、对 Lunar Lake CPU 的内存共享、对独立 GPU 的新 PagedAttention 功能、对 OpenAI 兼容 API 的生产质量支持、改进的性能和内存消耗、Python 3.12 支持以及对 RHEL9 的支持。
获取有关新 OpenVINO 2024.4 AI 工具包版本的更多详细信息：https://github.com/openvinotoolkit/openvino/releases/tag/2024.4.0
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/52477.html
