标签:llamafile

Mozilla的Llamafile 0.8.2凭借新的AVX2性能优化获得高分

Mozilla的Llamafile 0.8.2凭借新的AVX2性能优化获得高分

作为浏览器公司的创新和实验小组,Mozilla Ocho的一个有趣的创新是Llamafile,这是一种从单个文件分发和运行人工智能大型语言模型(LLM)的简单方法。今晚发布的是Llamafile 0.8.2,它是最新版本,更新了Llama.cpp,最令人兴奋的是一些AVX2性能优化。 Llama

法医 法医 2024-05-10
0 0 0
Llamafile 0.8与LLaMA3&Grok支持,更快的F16性能

Llamafile 0.8与LLaMA3&Grok支持,更快的F16性能

在人工智能时代,Llamafile是Mozilla的Ocho团队的一个非常有趣的项目。Llamafile使运行和分发独立于单个文件中的大型语言模型(LLM)变得容易。Llamafile建立在Llama.cpp的基础上,可以轻松地将整个LLM作为一个单独的文件,同时支持CPU和GPU执行。Llamaf

张二河 张二河 2024-04-26
0 0 0