积
核
探索
分类
起始页
博客
切换语言
登录
探索发现全球精选网站
按垂直分类、精选标签与社区热度，发掘全球最新、最值得打开的宝藏网站与高生产力工具。
推荐网站
推荐网站
分类
标签
1
全部
清除全部
排序:
热门浏览
标签:
#model-serving
vLLM
vllm.ai
开源高吞吐 LLM 推理与服务引擎，通过 PagedAttention 高效管理显存，支持连续批处理与 OpenAI 兼容 API，适合本地或生产环境部署开源大模型。
#开源
#LLM 开发
#大模型推理
#模型服务
#GPU 计算
0
0.0
来自
G-Hubs
