Autoscaling on Chen Kai Bloghttps://www.chenk.top/zh/tags/autoscaling/Recent content in Autoscaling on Chen Kai BlogHugozh-CNTue, 07 Apr 2026 09:00:00 +0000大模型工程（十二）：生产落地与监控https://www.chenk.top/zh/llm-engineering/12-production/Tue, 07 Apr 2026 09:00:00 +0000https://www.chenk.top/zh/llm-engineering/12-production/<p>这是最后一章。前面的章节涵盖了模型构建、提示工程、检索和评估，而本章聚焦于如何在不烧钱的前提下维持系统稳定运行。生产环境中的 LLM 服务更像一个高流量 Web 服务，而非传统机器学习服务——每次请求都会产生成本，且响应时间甚至可能长达两分钟。</p>