借助 Llamafile 的最新更新，在土产货系统上启动广宽的 LLM 模子变得更容易了，因为采取 AVX-512 的 AMD Ryzen CPU 性能擢升了 10 倍。Phoronix报说念称，Llamafile 的最新更新当今撑合手 AVX-512 指示集，使撑合手 AVX-512 的 CPU 在使用该软件时性能取得大幅擢升。

据悉，AMD 的 Zen 4\"Ryzen\"CPU 在使用新更新后，领导评估速率将提高十倍，最终使该用具的 LLM 性能愈加高效。

关于不了解 Llamafile 的东说念主来说，它只需部署一个可实行文献，将 LLM 模子与启动该模子所需的库集会在一说念即可。Mozilla Ocho 竖立了这一用具，旨在通过运用 CPU 和 GPU 的实行能力，让更多东说念主了解 LLM。

不外，Llamafile的竖立仍处于早期阶段，因此还存在一些不准确的处所，咱们肯定一朝边际计较的发展势头苍劲，这些问题很快就会取得措置。

你不错通过 GitHub 拜谒最新版块。请疑望，AMD 的 Ryzen CPU 是惟一撑合手 AVX-512 指示的摧毁级芯片，云尔经毁灭了对它的撑合手，因为窄小这会影响其至强芯片的销售。这使得 AMD 的 Ryzen 平台关于但愿启动 AVX-512 应用步调的用户来说更具上风。