AROUND THE WORLD / 相关软件

认识其他建设者的探索。

发现来自不同团队的智能体、研究工具与模型技术。找到感兴趣的项目,继续走进它的官网与开源社区。

2 个相关项目了解用途,找到适合自己的工具。
开放基础设施 · ggml-org

llama.cpp

在不同硬件上运行模型的轻量推理工具。

持续开发MIT
开放基础设施 · vLLM Project

vLLM

面向高吞吐模型推理与服务的开放引擎。

持续开发Apache-2.0