架构师在核心LLM不可用时,于云原生网关与容器平台中,设计多级降级链:本地缓存、小模型、规则引擎、静态模板、队列削峰。 边界:缓存命中率下降后要自动切断回源。 验证:混沌演练看P99与降级成功率。
相似问题