跳转至

vLLM Awesome

vLLM 是一个快速且易于使用的库,用于LLM推理和服务。vLLM最初由加州大学伯克利分校的Sky Computing Lab开发,现已发展成为一个由学术界和行业共同贡献的社区驱动项目

藏云阁 vLLM Awesome,全国内资源,您的一站式 vLLM 知识库。

官网镜像

代码镜像

动态

最佳实践

论坛

视频