活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      查看所有产品

      微服务云应用平台

      微服务云应用平台

      目录
        • 产品公告
        • 产品简介
        • 产品定义
        • 产品优势
        • 应用场景
        • 产品规格
        • 名词解释
        • 购买指南
        • 计费说明
        • 订购与退订
        • 快速入门
        • 快速体验容器应用托管
        • 快速体验ECS应用托管
        • 通过JAR包部署微服务应用
        • 通过镜像部署微服务应用
        • 通过制品部署前端应用
        • 使用K8s配置项替换配置文件
        • 关联调用链与日志
        • 应用设置公网访问
        • 用户指南
        • 环境规划
        • 环境管理
        • 资源管理
        • 应用管理
        • 应用列表
        • 技术栈管理
        • 制品库
        • 通用制品库
        • 镜像库
        • 资源占用
        • 部署运维
        • 容器应用实例
        • 创建制品微服务
        • 创建镜像微服务
        • 微服务应用部署
        • 应用部署到服务网格
        • 应用实例列表
        • 应用总览
        • 应用全生命周期管理
        • 应用访问
        • 应用扩缩容
        • 发布历史和回滚
        • 应用监控
        • 日志中心
        • 事件中心
        • 限流降级
        • 云原生工具箱
        • 发布单
        • 批量发布单
        • Kubernetes配置
        • 应用路由
        • ECS应用实例
        • 创建应用实例
        • 应用实例列表
        • 应用总览
        • 应用生命周期管理
        • 应用访问
        • 应用扩缩容
        • 变更记录
        • 应用监控
        • 日志中心
        • 事件中心
        • 限流降级
        • 发布单
        • 批量发布单
        • 批量运维
        • 微服务治理
        • 微服务配置
        • Spring Cloud治理
        • 服务查询
        • 标签路由
        • 服务鉴权
        • 服务降级
        • 离群实例摘除
        • 服务测试
        • 自动化回归-用例管理
        • 自动化回归-用例集
        • 服务Mock
        • Dubbo治理
        • 服务查询
        • 标签路由
        • 服务鉴权
        • 服务降级
        • 离群实例摘除
        • 服务测试
        • 自动化回归-用例管理
        • 自动化回归-用例集
        • 服务Mock
        • 全链路流量控制
        • 全链路流量控制简介
        • 使用全链路流量控制将流量路由到目标应用
        • 应用监控
        • 应用总览
        • 应用监控
        • 应用管理
        • agent管理
        • 链路分析
        • 链路查询
        • 告警管理
        • 告警规则
        • 告警事件历史
        • 告警发送历史
        • 通知组
        • 通知策略
        • 静默策略
        • 系统管理
        • 主子账号
        • 权限管理
        • 服务连接管理
        • 审计日志
        • API参考
        • API使用说明
        • 最佳实践
        • IAM用户权限管理最佳实践
        • K8s环境管理最佳实践
        • Spring Cloud和Dubbo框架应用无缝迁移上MSAP
        • 应用部署配置最佳实践
        • 应用启动异常排查最佳实践
        • 通过调用链和日志排查异常最佳实践
        • 部署Go微服务应用
        • 常见问题
        • 计费类
        • 操作类
        • 管理类
        • 相关协议
        • 天翼云微服务云应用平台服务协议
        • 天翼云微服务云应用平台服务等级协议
          无相关产品

          本页目录

          概述

          前提条件

          规则管理

          流控规则

          隔离规则

          熔断规则

          主动降级规则

          热点规则

          自适应流控

          操作日志

          接口监控

          帮助中心 微服务云应用平台 用户指南 部署运维 容器应用实例 限流降级
          限流降级
          更新时间 2025-02-21 09:42:32
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          最近更新时间: 2025-02-21 09:42:32
          下载本页

          限流降级

          2025-02-21 01:42:32

          概述

          限流降级包含限流和降级两个功能。限流是指通过调节流量阈值控制通过系统的最大流量值,保证系统安全可靠运行。降级通常用于对下游出现超时的非核心服务提供者进行低优先级调用,确保上游核心应用(服务消费者)不被影响。通过接入限流降级,您实时查看限流降级详情和动态变更规则,从而全面保障您的应用可用性。使用限流降级需要事先部署时配置限流降级高级配置接入限流降级。

          前提条件

          1. 开通微服务治理中心企业版
          2. 开启接入微服务治理和限流降级

          规则管理

          支持配置流控规则、隔离规则、熔断规则、主动降级规则、热点规则、自适应流控等规则。

          流控规则

          流控规则的原理是监控应用或服务流量的QPS指标,当指标达到设定的阈值时立即拦截流量,避免应用被瞬时的流量高峰冲垮,从而保障应用高可用性。适用于需要限制突发的流量,在尽可能处理请求的同时来保障服务不被击垮的场景。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择流控规则页签,点击新增进入流控规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          1. 配置防护规则
          参数 描述
          是否集群流控 开启集群流控,对集群内此资源的调用总量进行限制。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          单机QPS阈值 触发对流控接口的统计维度对象的QPS阈值。
          来源应用 该规则针对的来源应用,默认来源应用设为default,代表不区分来源应用。
          统计维度 选择资源调用关系进行流控。
          1,当前接口 :直接控制来自来源应用中调用来源的访问流量,如果来源应用为default则不区分调用来源。通常应用于流量匀速通过的场景。
          2,关联接口 :控制当前资源的关联资源的流量。通常应用于资源争抢时,留足资源给优先级高接口的场景。
          3,链路入口 :控制该资源所在的调用链路的入口流量。选择链路入口后需要继续配置入口资源,即该调用链路入口的上下文名称。通常应用于预热启动避免大流量冲击的场景
          流控效果 选择流控方式来处理被拦截的流量。
          1,快速失败: 达到阈值时,立即拦截请求。按照应用系统设置中的适配模块配置信息,进行内容返回。
          2,预热启动: 需设置具体的预热时间。
          如果系统在此之前长期处于空闲的状态,当流量突然增大的时候,该方式会让处理请求的速率缓慢增加,经过设置的预热时间以后,到达系统处理请求速率的设定值。
          默认会从设置的QPS阈值的1/3开始慢慢往上增加至设置的QPS值,多余请求会按照快速失败处理。
          3,排队等待: 请求匀速通过,允许排队等待,通常用于请求调用削峰填谷等场景。需设置具体的超时时间,达到超时时间后请求会快速失败。
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的流控规则将出现在流控规则列表中。

          隔离规则

          隔离规则通过控制接口或依赖的并发线程数,来保证系统的稳定性。适用于在调用第三方服务时,防止过多的慢调用挤占正常调用的资源,避免服务不可用。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择隔离规则页签,点击新增进入规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称
          1. 配置防护规则
          参数 描述
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          并发数阈值 资源的并发线程数(即该资源正在执行的线程数)阈值。
          来源应用 该规则针对的来源应用,默认来源应用设为default,代表不区分来源应用。
          统计维度 选择资源调用关系进行流控。
          1,当前接口 :直接控制来自来源应用中调用来源的访问流量,如果来源应用为default则不区分调用来源。通常应用于流量匀速通过的场景。
          2,关联接口 :控制当前资源的关联资源的流量。通常应用于资源争抢时,留足资源给优先级高接口的场景。
          3,链路入口 :控制该资源所在的调用链路的入口流量。选择链路入口后需要继续配置入口资源,即该调用链路入口的上下文名称。通常应用于预热启动避免大流量冲击的场景。
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的隔离规则将出现在隔离规则列表中。

          熔断规则

          熔断规则可以监控应用内部或者下游依赖的响应时间或异常比例,当达到指定的阈值时立即降低下游依赖的优先级。在指定的时间内,系统不会调用该不稳定的资源,避免应用受到影响,从而保障应用高可用性,当指定时间过后,再重新恢复对该资源的调用。用于避免局部不稳定因素(某个慢调用、异常服务)导致整体的雪崩。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择熔断规则页签,点击新增进入熔断规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          1. 配置防护规则
          参数 描述
          统计窗口时长 统计的时间窗口长度,取值范围为1秒~120分钟。
          阈值类型 可选择慢调用比例、异常比例、异常个数阈值类型。
          1,慢调用比例 : 需要设置允许的慢调用RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。
          规则开启后,在单位统计时长内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。
          2,异常比例 : 需要在降级阈值中设置触发熔断的异常比例。
          规则开启后,在单位统计时长内业务异常数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。
          3,异常个数: 需要在降级阈值中设置触发熔断的异常个数。
          规则开启后,在单位统计时长内业务异常数目大于设置的最小请求数目,则接下来的熔断时长内请求会自动被熔断。
          降级阈值 触发阈值类型的阈值。
          熔断时长 即熔断触发后持续的时间。
          资源进入熔断状态后,在配置的熔断时长内,请求都会快速失败。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          最小请求数目 触发熔断的最小请求数。
          熔断策略 熔断器进入恢复阶段(半开启状态)的恢复策略。
          1,单次探测恢复:
          经过熔断时长后,熔断器会对接下来的一个请求进行探测,若该请求符合预期(不为慢调用或没有异常),则结束熔断;否则重新回到熔断阶段。
          2,渐进式恢复: 需要设置恢复阶段数和每步最小通过数目。
          经过熔断时长后,熔断器按照设定的恢复阶段数进行渐进式恢复,若该阶段内请求达到一定量即每步最小通过数目,则触发检查。
          检查的请求若都未超过阈值,则逐步提高允许通过的请求比例,直到请求完全恢复;若某一步的指标超出阈值,则重新回到熔断阶段。
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。点击确定即可新增流控行为。

          配置成功后,新的熔断规则将出现在熔断规则列表中。

          主动降级规则

          主动降级规则可以指定对某些接口进行降级,被降级的接口会触发自定义的降级行为而不会执行原有的逻辑。主要用于在流量高峰时保障核心功能而将非核心功能返回预先准备的数据。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择主动降级规则页签,点击新增进入主动降级规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          1. 配置限流行为
          参数 描述
          关联行为 统计表示开启该降级规则后,该接口调用的行为。
          默认行为对应应用设置页面基础设置中的模块适配设置Web的配置。

          若需要新增行为,单击“新增行为 ”,完成以下配置,然后单击“新增”:

          Web行为:

          参数 描述
          行为名称 该行为的名称。长度不超过128个字符,同个应用内名称不能重复。
          针对的资源类型 支持Web和Rpc两种类型,此处仅为Web。
          Web限流处理策略 定义Web接口访问触发某种规则后的行为表现。目前支持以下两种策略:
          1,自定义返回: 需设置HTTP返回状态码、返回内容的格式和返回的内容。表示Web接口访问触发规则后返回自定义的内容。
          2,跳转到指定页面: 需设置指定跳转的URL。表示Web接口访问触发规则后系统会跳转指定的页面URL。
          HTTP返回状态码 默认为429。当Web限流处理策略为自定义返回时,需要填写。
          返回content-type 设置返回内容的格式为普通文本(TEXT)或JSON。当Web限流处理策略为自定义返回时,需要填写。
          HTTP返回文本 输入当Web接口访问触发规则后返回的内容。当Web限流处理策略为自定义返回时,需要填写。
          跳转地址 输入当Web接口访问触发规则后系统会跳转的页面URL。当Web限流处理策略为跳转到指定页面时,需要填写。

          Rpc行为:

          参数 描述
          行为名称 该行为的名称。长度不超过128个字符,同个应用内名称不能重复。
          针对的资源类型 支持Web和Rpc两种类型,此处仅为Rpc。
          缓存实例 是否缓存返回值。若开启,则会缓存生成的Fallback对象,在该行为触发时,均复用同一对象。
          Rpc限流处理策略 定义Rpc接口访问触发某种规则后的行为表现。目前支持以下两种策略:
          1,自定义返回: 自定义返回结果。需设置返回类型和返回的内容,表示Rpc接口访问触发规则后返回自定义的实体类。
          2,自定义异常: 抛出自定义异常。需设置异常的类名和异常文本,表示Rpc接口访问触发规则后系统会返回指定的异常信息。
          返回类型获取方式 填充返回值类名的方式,分别为:
          1,手动输入: 选择手动输入模式,需要填写自定义返回值的全限定类名(返回值类名),然后单击校验进行有效性校验,校验通过后可以创建行为。
          2,自动探测: 选择自动探测模式,需要选择创建RPC行为的接口方法(行为关联方法)。
          控制台会根据选择的行为关联方法,自动填充方法返回值类名,然后填写完成对象内容(JSON格式)后可以创建行为。
          行为关联类名 当返回类型获取方式为自动探测时,需要选择当前Rpc行为关联的接口方法,方法返回值类型即为当前自定义返回值的类型。
          返回值类名 选择Rpc限流处理策略为自定义返回时,需填写的类名称路径。
          对象内容 选择RPC限流处理策略为自定义返回时,填写当Rpc接口访问触发规则时返回结果的对象内容(JSON格式)。
          异常类名 选择Rpc限流处理策略为自定义异常时,需填写的异常类名称路径。
          异常信息文本 选择Rpc限流处理策略为自定义异常时,填写Rpc接口访问触发规则后抛出自定义异常的文本信息。

          配置成功后,新的主动降级规则将出现在主动降级规则列表中。

          热点规则

          热点规则通过分析统计参数,即资源调用过程中的调用次数较高的参数,并根据配置的热点规则对包含热点参数的资源调用进行限流,保护系统稳定性。适用于针对某些热点数据中访问频次最高的Top数据进行控制的场景。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择热点规则页签,点击新增进入热点规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          1. 配置防护规则
          参数 描述
          参数位置索引 埋点传入参数的索引位置。
          统计维度 可选择通过请求数或并发线程数。
          1,通过请求数: 限制一段时间内的调用次数。
          2,并发数: 限制该资源调用的并发数。
          统计周期时间 统计窗口时间长度(单位为秒)。
          单机阈值 是作用于每个热点参数的阈值。
          流控效果 当统计维度为通过请求数时,可以选择流控效果来处理被拦截流量。
          1,快速失败: 达到阈值时,立即拦截请求。
          该模式下可以额外设置一个缓冲请求数,即针对突发请求额外允许的请求数目。
          2,排队等待: 请求匀速通过,允许排队等待,通常用于消息队列削峰填谷等场景。
          需设置具体的超时时间,排队时会计算预计的排队时长,若超过最大超时时间则请求会直接被拒绝。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的热点规则将出现在热点规则列表中。

          自适应流控

          系统支持自适应流控或手动设置系统规则,自适应流控是根据系统的CPU使用率自动动态地调整应用程序的入口流量;系统规则是从整体维度手动设置规则,对应用入口流量进行控制。目的都是为了让系统的入口流量和系统的负载达到一个平衡,保证系统在最大吞吐量状态下稳定运行。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择自适应流控页签,点击新增进入系统规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          1. 配置防护规则
          参数 描述
          统计维度 CPU使用率 : 当系统CPU使用率超过阈值即触发系统保护,阈值设置范围为0.0~1.0(代表0%~100%)。
          Load : 限当系统的Load超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护。
          线程数: 当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
          入口平均RT: 当单台机器上所有入口流量的平均RT达到阈值即触发系统保护,单位是毫秒。
          入口总QPS: 当单台机器上所有入口流量的QPS达到阈值即触发系统保护。
          阈值 对应统计维度的阈值。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的流控规则将出现在流控规则列表中。

          操作日志

          操作日志记录限流降级相关操作日志,您可以查看所有的限流降级操作信息,如操作时间、类别、操纵内容和操作等。

          接口监控

          接口监控主要展示该应用所有接口的通过QPS、拒绝QPS、异常QPS、RT、并发数据等监控信息。

          分享文章
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          本章节介绍微服务云应用平台限流降级能力

          概述

          限流降级包含限流和降级两个功能。限流是指通过调节流量阈值控制通过系统的最大流量值,保证系统安全可靠运行。降级通常用于对下游出现超时的非核心服务提供者进行低优先级调用,确保上游核心应用(服务消费者)不被影响。通过接入限流降级,您实时查看限流降级详情和动态变更规则,从而全面保障您的应用可用性。使用限流降级需要事先部署时配置限流降级高级配置接入限流降级。

          前提条件

          1. 开通微服务治理中心企业版
          2. 开启接入微服务治理和限流降级

          规则管理

          支持配置流控规则、隔离规则、熔断规则、主动降级规则、热点规则、自适应流控等规则。

          流控规则

          流控规则的原理是监控应用或服务流量的QPS指标,当指标达到设定的阈值时立即拦截流量,避免应用被瞬时的流量高峰冲垮,从而保障应用高可用性。适用于需要限制突发的流量,在尽可能处理请求的同时来保障服务不被击垮的场景。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择流控规则页签,点击新增进入流控规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          配置项 描述
          1. 配置防护规则
          参数 描述
          是否集群流控 开启集群流控,对集群内此资源的调用总量进行限制。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          单机QPS阈值 触发对流控接口的统计维度对象的QPS阈值。
          来源应用 该规则针对的来源应用,默认来源应用设为default,代表不区分来源应用。
          统计维度 选择资源调用关系进行流控。
          1,当前接口 :直接控制来自来源应用中调用来源的访问流量,如果来源应用为default则不区分调用来源。通常应用于流量匀速通过的场景。
          2,关联接口 :控制当前资源的关联资源的流量。通常应用于资源争抢时,留足资源给优先级高接口的场景。
          3,链路入口 :控制该资源所在的调用链路的入口流量。选择链路入口后需要继续配置入口资源,即该调用链路入口的上下文名称。通常应用于预热启动避免大流量冲击的场景
          流控效果 选择流控方式来处理被拦截的流量。
          1,快速失败: 达到阈值时,立即拦截请求。按照应用系统设置中的适配模块配置信息,进行内容返回。
          2,预热启动: 需设置具体的预热时间。
          如果系统在此之前长期处于空闲的状态,当流量突然增大的时候,该方式会让处理请求的速率缓慢增加,经过设置的预热时间以后,到达系统处理请求速率的设定值。
          默认会从设置的QPS阈值的1/3开始慢慢往上增加至设置的QPS值,多余请求会按照快速失败处理。
          3,排队等待: 请求匀速通过,允许排队等待,通常用于请求调用削峰填谷等场景。需设置具体的超时时间,达到超时时间后请求会快速失败。
          参数 描述
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的流控规则将出现在流控规则列表中。

          隔离规则

          隔离规则通过控制接口或依赖的并发线程数,来保证系统的稳定性。适用于在调用第三方服务时,防止过多的慢调用挤占正常调用的资源,避免服务不可用。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择隔离规则页签,点击新增进入规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称
          配置项 描述
          1. 配置防护规则
          参数 描述
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          并发数阈值 资源的并发线程数(即该资源正在执行的线程数)阈值。
          来源应用 该规则针对的来源应用,默认来源应用设为default,代表不区分来源应用。
          统计维度 选择资源调用关系进行流控。
          1,当前接口 :直接控制来自来源应用中调用来源的访问流量,如果来源应用为default则不区分调用来源。通常应用于流量匀速通过的场景。
          2,关联接口 :控制当前资源的关联资源的流量。通常应用于资源争抢时,留足资源给优先级高接口的场景。
          3,链路入口 :控制该资源所在的调用链路的入口流量。选择链路入口后需要继续配置入口资源,即该调用链路入口的上下文名称。通常应用于预热启动避免大流量冲击的场景。
          参数 描述
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的隔离规则将出现在隔离规则列表中。

          熔断规则

          熔断规则可以监控应用内部或者下游依赖的响应时间或异常比例,当达到指定的阈值时立即降低下游依赖的优先级。在指定的时间内,系统不会调用该不稳定的资源,避免应用受到影响,从而保障应用高可用性,当指定时间过后,再重新恢复对该资源的调用。用于避免局部不稳定因素(某个慢调用、异常服务)导致整体的雪崩。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择熔断规则页签,点击新增进入熔断规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          配置项 描述
          1. 配置防护规则
          参数 描述
          统计窗口时长 统计的时间窗口长度,取值范围为1秒~120分钟。
          阈值类型 可选择慢调用比例、异常比例、异常个数阈值类型。
          1,慢调用比例 : 需要设置允许的慢调用RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。
          规则开启后,在单位统计时长内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。
          2,异常比例 : 需要在降级阈值中设置触发熔断的异常比例。
          规则开启后,在单位统计时长内业务异常数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。
          3,异常个数: 需要在降级阈值中设置触发熔断的异常个数。
          规则开启后,在单位统计时长内业务异常数目大于设置的最小请求数目,则接下来的熔断时长内请求会自动被熔断。
          降级阈值 触发阈值类型的阈值。
          熔断时长 即熔断触发后持续的时间。
          资源进入熔断状态后,在配置的熔断时长内,请求都会快速失败。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          最小请求数目 触发熔断的最小请求数。
          熔断策略 熔断器进入恢复阶段(半开启状态)的恢复策略。
          1,单次探测恢复:
          经过熔断时长后,熔断器会对接下来的一个请求进行探测,若该请求符合预期(不为慢调用或没有异常),则结束熔断;否则重新回到熔断阶段。
          2,渐进式恢复: 需要设置恢复阶段数和每步最小通过数目。
          经过熔断时长后,熔断器按照设定的恢复阶段数进行渐进式恢复,若该阶段内请求达到一定量即每步最小通过数目,则触发检查。
          检查的请求若都未超过阈值,则逐步提高允许通过的请求比例,直到请求完全恢复;若某一步的指标超出阈值,则重新回到熔断阶段。
          参数 描述
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。点击确定即可新增流控行为。

          配置成功后,新的熔断规则将出现在熔断规则列表中。

          主动降级规则

          主动降级规则可以指定对某些接口进行降级,被降级的接口会触发自定义的降级行为而不会执行原有的逻辑。主要用于在流量高峰时保障核心功能而将非核心功能返回预先准备的数据。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择主动降级规则页签,点击新增进入主动降级规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          配置项 描述
          1. 配置限流行为
          参数 描述
          关联行为 统计表示开启该降级规则后,该接口调用的行为。
          默认行为对应应用设置页面基础设置中的模块适配设置Web的配置。
          参数 描述

          若需要新增行为,单击“新增行为 ”,完成以下配置,然后单击“新增”:

          Web行为:

          参数 描述
          行为名称 该行为的名称。长度不超过128个字符,同个应用内名称不能重复。
          针对的资源类型 支持Web和Rpc两种类型,此处仅为Web。
          Web限流处理策略 定义Web接口访问触发某种规则后的行为表现。目前支持以下两种策略:
          1,自定义返回: 需设置HTTP返回状态码、返回内容的格式和返回的内容。表示Web接口访问触发规则后返回自定义的内容。
          2,跳转到指定页面: 需设置指定跳转的URL。表示Web接口访问触发规则后系统会跳转指定的页面URL。
          HTTP返回状态码 默认为429。当Web限流处理策略为自定义返回时,需要填写。
          返回content-type 设置返回内容的格式为普通文本(TEXT)或JSON。当Web限流处理策略为自定义返回时,需要填写。
          HTTP返回文本 输入当Web接口访问触发规则后返回的内容。当Web限流处理策略为自定义返回时,需要填写。
          跳转地址 输入当Web接口访问触发规则后系统会跳转的页面URL。当Web限流处理策略为跳转到指定页面时,需要填写。
          参数 描述

          Rpc行为:

          参数 描述
          行为名称 该行为的名称。长度不超过128个字符,同个应用内名称不能重复。
          针对的资源类型 支持Web和Rpc两种类型,此处仅为Rpc。
          缓存实例 是否缓存返回值。若开启,则会缓存生成的Fallback对象,在该行为触发时,均复用同一对象。
          Rpc限流处理策略 定义Rpc接口访问触发某种规则后的行为表现。目前支持以下两种策略:
          1,自定义返回: 自定义返回结果。需设置返回类型和返回的内容,表示Rpc接口访问触发规则后返回自定义的实体类。
          2,自定义异常: 抛出自定义异常。需设置异常的类名和异常文本,表示Rpc接口访问触发规则后系统会返回指定的异常信息。
          返回类型获取方式 填充返回值类名的方式,分别为:
          1,手动输入: 选择手动输入模式,需要填写自定义返回值的全限定类名(返回值类名),然后单击校验进行有效性校验,校验通过后可以创建行为。
          2,自动探测: 选择自动探测模式,需要选择创建RPC行为的接口方法(行为关联方法)。
          控制台会根据选择的行为关联方法,自动填充方法返回值类名,然后填写完成对象内容(JSON格式)后可以创建行为。
          行为关联类名 当返回类型获取方式为自动探测时,需要选择当前Rpc行为关联的接口方法,方法返回值类型即为当前自定义返回值的类型。
          返回值类名 选择Rpc限流处理策略为自定义返回时,需填写的类名称路径。
          对象内容 选择RPC限流处理策略为自定义返回时,填写当Rpc接口访问触发规则时返回结果的对象内容(JSON格式)。
          异常类名 选择Rpc限流处理策略为自定义异常时,需填写的异常类名称路径。
          异常信息文本 选择Rpc限流处理策略为自定义异常时,填写Rpc接口访问触发规则后抛出自定义异常的文本信息。
          参数 描述

          配置成功后,新的主动降级规则将出现在主动降级规则列表中。

          热点规则

          热点规则通过分析统计参数,即资源调用过程中的调用次数较高的参数,并根据配置的热点规则对包含热点参数的资源调用进行限流,保护系统稳定性。适用于针对某些热点数据中访问频次最高的Top数据进行控制的场景。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择热点规则页签,点击新增进入热点规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          配置项 描述
          1. 配置防护规则
          参数 描述
          参数位置索引 埋点传入参数的索引位置。
          统计维度 可选择通过请求数或并发线程数。
          1,通过请求数: 限制一段时间内的调用次数。
          2,并发数: 限制该资源调用的并发数。
          统计周期时间 统计窗口时间长度(单位为秒)。
          单机阈值 是作用于每个热点参数的阈值。
          流控效果 当统计维度为通过请求数时,可以选择流控效果来处理被拦截流量。
          1,快速失败: 达到阈值时,立即拦截请求。
          该模式下可以额外设置一个缓冲请求数,即针对突发请求额外允许的请求数目。
          2,排队等待: 请求匀速通过,允许排队等待,通常用于消息队列削峰填谷等场景。
          需设置具体的超时时间,排队时会计算预计的排队时长,若超过最大超时时间则请求会直接被拒绝。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          参数 描述
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的热点规则将出现在热点规则列表中。

          自适应流控

          系统支持自适应流控或手动设置系统规则,自适应流控是根据系统的CPU使用率自动动态地调整应用程序的入口流量;系统规则是从整体维度手动设置规则,对应用入口流量进行控制。目的都是为了让系统的入口流量和系统的负载达到一个平衡,保证系统在最大吞吐量状态下稳定运行。

          1. 在应用总览页面,选择限流降级-规则管理,进入规则管理页面
          2. 选择自适应流控页签,点击新增进入系统规则配置页面
          3. 选择防护场景
          配置项 描述
          接口名称 待流控的资源名称。
          配置项 描述
          1. 配置防护规则
          参数 描述
          统计维度 CPU使用率 : 当系统CPU使用率超过阈值即触发系统保护,阈值设置范围为0.0~1.0(代表0%~100%)。
          Load : 限当系统的Load超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护。
          线程数: 当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
          入口平均RT: 当单台机器上所有入口流量的平均RT达到阈值即触发系统保护,单位是毫秒。
          入口总QPS: 当单台机器上所有入口流量的QPS达到阈值即触发系统保护。
          阈值 对应统计维度的阈值。
          是否开启 打开开关表示启用该规则,关闭开关表示禁用该规则。
          参数 描述
          1. 配置限流行为

          配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则(如流控、熔断、降级)后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为,则选择默认行为即可。

          配置成功后,新的流控规则将出现在流控规则列表中。

          操作日志

          操作日志记录限流降级相关操作日志,您可以查看所有的限流降级操作信息,如操作时间、类别、操纵内容和操作等。

          接口监控

          接口监控主要展示该应用所有接口的通过QPS、拒绝QPS、异常QPS、RT、并发数据等监控信息。

          上一篇 :  事件中心
          下一篇 :  云原生工具箱
          建议与反馈
          以上内容是否对您有帮助?
          有 没有
          感谢您的反馈,您的支持是我们前进的动力!
          您的操作过于频繁,清稍后再试
          文档反馈

          建议您登录后反馈,可在建议与反馈里查看问题处理进度

          鼠标选中文档,精准反馈问题

          选中存在疑惑的内容,即可快速反馈问题,我们会跟进处理

          知道了

           文本反馈

          本页目录

          概述
          前提条件
          规则管理
          流控规则
          隔离规则
          熔断规则
          主动降级规则
          热点规则
          自适应流控
          操作日志
          接口监控
          搜索
            无相关产品
            ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
            公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
            备案 京公网安备11010802043424号 京ICP备 2021034386号
            ©2025天翼云科技有限公司版权所有
            京ICP备 2021034386号
            备案 京公网安备11010802043424号
            增值电信业务经营许可证A2.B1.B2-20090001
            用户协议 隐私政策 法律声明