# 自动降级的实现：Hystrix 有时，我们需要根据服务的超时时间等对服务进行自动降级。这种场景下，Hystrix就可以发挥它的作用了。 ## Hystrix概述 ### Hystrix是什么 [Hystrix](https://github.com/Netflix/Hystrix)是Netflix开源的一个容灾框架，解决当外部依赖故障时拖垮业务系统、甚至引起雪崩的问题。在分布式环境中，许多服务依赖关系中的一些不可避免地会失败。 通过Hystrix为应用/服务添加延迟容限和容错逻辑，则控制这些分布式服务之间的交互。 Hystrix通过隔离服务之间的访问、停止它们之间的级联故障、提供备用选项来实现这一点，所有这些都可以提高系统的整体弹性。 ### Hystrix可以做什么 Hystrix是为如下功能而设计的： * 在依赖方延迟或失败情况下（通常是网络原因），为应用提供处理这些问题的能力 * 避免在复杂的分布式系统中出现雪崩效应（级联故障） * 失败回退（Fallback）和优雅的服务降级机制 * 监控、报警和其他一些运营操作 更多详见：[Hystrix 官方介绍](https://github.com/Netflix/Hystrix/wiki) ## 使用Hystrix实现自动降级 假如我们有EchoService，其中有个接口为echoTime，它会返回当前时间。 ```java public class EchoService { public String echoTime(){ //模拟抛出异常：（1/5的概率抛出异常） if(new Random().nextInt(10) > 7){ System.out.println("exception:::failure processing echo time"); throw new RuntimeException(); } //模拟网络耗时（1/2的概率100，1/2的概率1200） try { long elapsed = new long[]{100, 1200}[new Random().nextInt(2)]; System.out.println("elapsed:::" + elapsed); Thread.sleep(elapsed); } catch (InterruptedException e) { e.printStackTrace(); } return "[normal]time:::" + System.currentTimeMillis(); } } ``` �对EchoService的echoTime()编写对应的Command： ```java public class EchoTimeCommand extends HystrixCommand { private EchoService echoService; public EchoTimeCommand(EchoService echoService) { super(setter()); this.echoService = echoService; } @Override protected String run() { return echoService.echoTime(); } /** * 降级方法 */ @Override protected String getFallback() { //此处不应该再进行网络请求 long defaultTime = 0; return "[fallback]time:::" + defaultTime; } /** * * 降级策略配置 * * @return */ private static Setter setter() { //服务分组 HystrixCommandGroupKey groupKey = HystrixCommandGroupKey.Factory.asKey("echo_service"); HystrixCommandKey commandKey = HystrixCommandKey.Factory.asKey("echo_time"); HystrixCommandProperties.Setter setter = HystrixCommandProperties.Setter() //隔离策略，默认THREAD .withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.THREAD) //是否允许降级，默认允许，如果允许，则在超时或异常时会调用getFallback()进行降级处理 .withFallbackEnabled(true) //getFallback()的并发数，如果超出该值，就不再调用getFallback()方法，而是快速失败，默认为10 .withFallbackIsolationSemaphoreMaxConcurrentRequests(10) //当执行线程执行run()超时时，是否进行中断处理，默认false .withExecutionIsolationThreadInterruptOnFutureCancel(true) //是否开启/run()方法超时设置，默认true .withExecutionTimeoutEnabled(true) //run()方法的超时时间（单位毫秒），默认1000 .withExecutionTimeoutInMilliseconds(1000) //run()方法超时的时候，是否中断run()执行，默认true .withExecutionIsolationThreadInterruptOnTimeout(false); return HystrixCommand.Setter .withGroupKey(groupKey) .andCommandKey(commandKey) .andCommandPropertiesDefaults(setter); } } ``` **执行逻辑**：首先Command会调用run方法，如果run方法超时或抛出异常，且启用降级处理，则会调用getFallback()方法进行降级。� 进行调用测试： ```java public class Client { public static void main(String[] args) throws InterruptedException { EchoService service = new EchoService(); for (;;){ EchoTimeCommand command = new EchoTimeCommand(service); //注意这里，要调用command的execute()方法，而不是直接调用run() String time = command.execute(); System.out.println(time); } } } //输出如下： elapsed:::1200ms [fallback]time:::0 elapsed:::100ms [normal]time:::1529733096909 elapsed:::1200ms [fallback]time:::0 elapsed:::1200ms [fallback]time:::0 elapsed:::100ms [normal]time:::1529733099022 elapsed:::1200ms [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 elapsed:::100ms [normal]time:::1529733100134 ``` TODO：测试调用getFallback()的并发限制数。 ## 使用Hystrix实现熔断 Hystrix提供了熔断机制，在熔断后会自动进行降级处理。如果配置了开启熔断功能（默认开启），则Command会先判断服务已经被熔断，如果已经被熔断，则直接调用Command的getFallBack()进行降级处理，在服务被熔断一定时间后（circuitBreakerSleepWindowInMilliseconds），会重新进行允许调用run()方法，如果成功了，则关闭熔断，如果还是没有成功，则继续保持熔断状态。 还是以上面的例子来继续： 修改`EchoService`的`echoTime()`方法，增大超时和异常的概率： ```java public class EchoService { public String echoTime(){ //模拟抛出异常 if(new Random().nextInt(10) > 5){ System.out.println("exception:::failure processing echo time"); throw new RuntimeException(); } //模拟网络耗时，100或者1200 try { long elapsed = new long[]{100, 1200, 1500}[new Random().nextInt(3)]; System.out.println("elapsed:::" + elapsed + "ms"); Thread.sleep(elapsed); } catch (InterruptedException e) { e.printStackTrace(); } return "[normal]time:::" + System.currentTimeMillis(); } } ``` 修改EchoTimeCommand的配置，设置熔断相关的参数： ```java public class EchoTimeCommand extends HystrixCommand { private EchoService echoService; public EchoTimeCommand(EchoService echoService) { super(setter()); this.echoService = echoService; } @Override protected String run() { return echoService.echoTime(); } /** * 降级方法 */ @Override protected String getFallback() { //此处不应该再进行网络请求 long defaultTime = 0; return "[fallback]time:::" + defaultTime; } /** * 熔断配置 * * @return */ private static Setter setter() { HystrixCommandGroupKey groupKey = HystrixCommandGroupKey.Factory.asKey("echo_service"); HystrixCommandKey commandKey = HystrixCommandKey.Factory.asKey("echo_time"); HystrixCommandProperties.Setter commandProperties = HystrixCommandProperties.Setter() // 是否开启熔断机制，默认为true .withCircuitBreakerEnabled(true) // 是否强制打开熔断器，默认false .withCircuitBreakerForceOpen(false) // 是否强制关闭熔断器，默认false .withCircuitBreakerForceClosed(false) // 至少有n个请求才计算错误比率，默认20 .withCircuitBreakerRequestVolumeThreshold(3) // 对Command进行熔断的出错率阈值，超过这个阈值，则会将打开熔断器 .withCircuitBreakerErrorThresholdPercentage(50) // 统计滚动的时间窗口 .withMetricsRollingStatisticalWindowInMilliseconds(5000) // 开启熔断后的静默时间，超过这个时间，就会重新放一个请求进去，如果请求成功的话就关闭熔断，失败就再等一段时间，默认5000 .withCircuitBreakerSleepWindowInMilliseconds(2000) // 为了便于观察，关闭超时时的线程中断 .withExecutionIsolationThreadInterruptOnTimeout(false); return Setter .withGroupKey(groupKey) .andCommandKey(commandKey) .andCommandPropertiesDefaults(commandProperties); } } ``` �修改测试代码，以便于观察熔断情况： ```java public class Client { public static void main(String[] args) throws InterruptedException { EchoService service = new EchoService(); int count = 0 ; for (;;){ EchoTimeCommand command = new EchoTimeCommand(service); String time = command.execute(); if(command.isCircuitBreakerOpen()){ count++; if(count > 5){ Thread.sleep(2000); } System.out.println("[alert!!! alert!!! alert!!! circuit breaker is opened]"); } System.out.println(time); } } } //输出如下 exception:::failure processing echo time [fallback]time:::0 elapsed:::1500ms [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 elapsed:::100ms [normal]time:::1529735983294 elapsed:::100ms [normal]time:::1529735983401 elapsed:::1500ms [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 exception:::failure processing echo time [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 elapsed:::1200ms [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 exception:::failure processing echo time [alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0 elapsed:::100ms [normal]time:::1529735993536 elapsed:::1500ms [fallback]time:::0 elapsed:::100ms [normal]time:::1529735994655 elapsed:::1500ms [fallback]time:::0 exception:::failure processing echo time [fallback]time:::0 ``` �熔断器有以下几种状态： * closed：如果关闭熔断机制或者当前请求失败率没有超过失败率阈值，则熔断器处于closed状态。 * open：如果当前请求失败率超过了失败率阈值，则熔断器处于open状态。 * half-open：当熔断器处于open状态时，不能一直对服务进行熔断，需要在一定的时间后进行重试，这种状态就是half-open，如果重试时，run()成功了，则熔断器会回到closed状态，如果仍然失败，则熔断器回到open状态。 TODO：Hystrix的熔断机制的具体实现 ## 参考 [hystrix在spring mvc的使用](http://tech.lede.com/2017/06/15/rd/server/hystrix/) 《亿级流量网站架构核心技术》：降级特技 [hystrix配置解释](https://github.com/Netflix/Hystrix/wiki/Configuration)： [服务容错模式](https://tech.meituan.com/service-fault-tolerant-pattern.html) --- # Agent Instructions: Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter: ``` GET https://maxwell.gitbook.io/way-to-architect/xi-tong-she-ji/jiang-ji/du-fu-wu-jiang-ji.md?ask= ``` The question should be specific, self-contained, and written in natural language. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.