GGML 与 llama.cpp 加入 Hugging Face，推进 Local AI 长期发展
GGML and llama.cpp join HF to ensure the long-term progress of Local AI
Hugging Face 宣布 GGML 及其创建的 llama.cpp 加入 HF，Georgi Gerganov 团队的目标是让未来 AI 保持开放，并为 ggml 与 llama.cpp 社区提供规模化和支持。
GGML 团队加入 HF 后，llama.cpp 的维护自主权与长期资源安排是本地推理生态的关键变化。
- What will change for llama.cpp, the open source project and the community?
- Technical focus
- Our long term vision
我们非常高兴地宣布，GGML，即 Llama.cpp 的创造者，正在加入 HF，以保持未来 AI 的开放性。🔥
Georgi Gerganov 和团队正在加入 HF，目标是在未来几年本地 AI 持续指数级发展之际，扩展并支持 ggml 和 llama.cpp 背后的社区。
我们与 Georgi 及其团队合作已有一段时间（团队中甚至已有 llama.cpp 的杰出核心贡献者，如 Son 和 Alek），因此这是一个非常自然的过程。
llama.cpp 是本地推理的基础构建块，而 transformers 是模型定义的基础构建块，所以这基本上是天生一对。❤️
llama.cpp、开源项目和社区将会发生哪些变化？
变化不大——Georgi 和团队仍将 100% 投入时间维护 llama.cpp，并在技术方向和社区方面拥有完全自主权和领导权。HF 为项目提供长期可持续的资源，提高项目成长和繁荣的机会。项目将继续保持 100% 开源和社区驱动，与现在一样。
技术重点
llama.cpp 是本地推理的基础构建块，而 transformers 是模型和架构定义的基础构建块，因此我们将努力确保未来尽可能无缝（几乎“一键式”）地将新模型从 transformers 库这一模型定义的‘真相来源’发布到 llama.cpp 中。
此外，我们将改进基于 ggml 的软件的打包和用户体验。随着我们进入本地推理成为云推理的有意义且具竞争力的替代方案的阶段，改善和简化普通用户部署和访问本地模型的方式至关重要。我们将努力使 llama.cpp 无处不在、随时可用。
我们的长期愿景
我们的共同目标是为社区提供构建块，使开源超级智能在未来几年内惠及全世界。
我们将与不断壮大的本地 AI 社区一起实现这一目标，继续构建能在我们的设备上尽可能高效运行的终极推理栈。
来源：Hugging Face Blog · hf-mirror.com