winson的blog
行动起来，活在当下
累计撰写
31
篇文章
累计创建
37
个标签
累计收到
0
条评论
栏目
目 录
CONTENT
以下是
Xinference
相关的文章
2025-03-20
vLLM 参数配置与 Xinference 默认配置对比
vLLM 参数配置与 Xinference 默认配置对比 关键参数对比 参数 Xinference 默认值 推荐优化值 性能影响 gpu_memory_utilization 0.7 0.85-0.9 提高可增加 20-30%性能 enable_chunked_prefill False True
2025-03-20
107
0
0
vLLM
AI
