卓琪的开发笔记zhuoqidev.comRSSllms.txt
~/categories/ 深度调研

深度调研

分类 · 2

  1. LLM 推理引擎怎么选

    阿里云那张 Ollama / vLLM / SGLang / HF Pipeline 四引擎表在 2026 年已经不够用了。这篇把推理引擎按「本地 → 高性能服务 → 分布式分离」三层重新梳理,覆盖 8 个主流引擎和 PD 分离 / 投机解码 / FP4 量化三大新趋势,附决策矩阵和决策树。

来加个微信吧

刘卓琪的微信二维码

微信扫码,或在手机上长按识别

加好友请备注来意,不然可能会漏掉哦~