2024年11月12日,Red Hat 宣布他们已签署最终协议,收购 DeepSparse 和 nm-vllm 等产品背后的 AI 软件公司 Neural Magic。
Red Hat 收购 Neural Magic 是为了增强其 AI 产品,并利用 Neural Magic 在 GPU 和 CPU 推理方面的工程人才,为生成式 AI“GenAI”工作负载提供支持。
Red Hat 在新闻稿中写道:
“Red Hat 打算通过 vLLM 的开放式创新,让更多组织更容易获得 gen AI,从而应对这些挑战。vLLM 由加州大学伯克利分校开发,是一个社区驱动的开源项目,用于开放模型服务(gen AI 模型如何推断和解决问题),支持所有关键模型系列、高级推理加速研究和各种硬件后端,包括 AMD GPU、AWS Neuron、Google TPU、Intel Gaudi、NVIDIA GPU 和 x86 CPU。Neural Magic 在 vLLM 项目中的领导地位,加上 Red Hat 强大的混合云 AI 技术组合,将为组织提供一条开放的构建途径。…
Neural Magic 在 vLLM 方面的技术领导地位将增强 Red Hat AI 的能力,使其能够通过现成的、高度优化和开放的推理堆栈支持在混合云的任何地方部署 LLM。”
虽然 Neural Magic 确实保留了一些开源软件的元素,但它们也有一些专有组件。一旦 Red Hat 完成此次收购,它看起来可能全部都是开源的。Red Hat 官网常见问题页面有写到:
“Neural Magic 的核心产品基于 vLLM 开源技术,并附加了专有代码。Red Hat 长期以来一直致力于开源其所获得的技术,我们没有理由期待这种方法会发生变化。我们的具体计划和时间表将在未来几个月内确定。”
NeuralMagic 公司网站已经更新,承认了 Red Hat 的收购计划和“人工智能的未来是开源的”。
本文来自作者投稿,版权归原作者所有。如需转载,请注明出处:https://www.nxrte.com/zixun/53813.html