Llamafile
-
Mozilla 的 Llamafile 0.8.2 通过新的 AVX2 性能优化获得巨大成功
Mozilla Ocho 是浏览器公司的创新和实验小组,其有趣的创新之一是 Llamafile,这是一种从单个文件分发和运行人工智能大型语言模型(LLM)的简便方法。5月9日晚上发…
-
Llamafile 0.8.1 发布,为更多 AMD 图形处理器/加速器提供了 GPU 支持
就在几天前,Llamafile 0.8 发布,支持 LLaMA 3 和 Grok,并提高了 F16 性能。现在,这个来自 Mozilla 的项目又发布了一个新版本0.81,该版本用…