自动降级的实现：Hystrix
有时，我们需要根据服务的超时时间等对服务进行自动降级。这种场景下，Hystrix就可以发挥它的作用了。
Hystrix概述
Hystrix是什么
Hystrix是Netflix开源的一个容灾框架，解决当外部依赖故障时拖垮业务系统、甚至引起雪崩的问题。在分布式环境中，许多服务依赖关系中的一些不可避免地会失败。 通过Hystrix为应用/服务添加延迟容限和容错逻辑，则控制这些分布式服务之间的交互。 Hystrix通过隔离服务之间的访问、停止它们之间的级联故障、提供备用选项来实现这一点，所有这些都可以提高系统的整体弹性。
Hystrix可以做什么
Hystrix是为如下功能而设计的：
在依赖方延迟或失败情况下（通常是网络原因），为应用提供处理这些问题的能力
避免在复杂的分布式系统中出现雪崩效应（级联故障）
失败回退（Fallback）和优雅的服务降级机制
监控、报警和其他一些运营操作
更多详见：Hystrix 官方介绍
使用Hystrix实现自动降级
假如我们有EchoService，其中有个接口为echoTime，它会返回当前时间。
public class EchoService {
public String echoTime(){
//模拟抛出异常：（1/5的概率抛出异常）
if(new Random().nextInt(10) > 7){
System.out.println("exception:::failure processing echo time");
throw new RuntimeException();
}
//模拟网络耗时（1/2的概率100，1/2的概率1200）
try {
long elapsed = new long[]{100, 1200}[new Random().nextInt(2)];
System.out.println("elapsed:::" + elapsed);
Thread.sleep(elapsed);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "[normal]time:::" + System.currentTimeMillis();
}
}对EchoService的echoTime()编写对应的Command：
public class EchoTimeCommand extends HystrixCommand<String> {
private EchoService echoService;
public EchoTimeCommand(EchoService echoService) {
super(setter());
this.echoService = echoService;
}
@Override
protected String run() {
return echoService.echoTime();
}
/**
* 降级方法
*/
@Override
protected String getFallback() {
//此处不应该再进行网络请求
long defaultTime = 0;
return "[fallback]time:::" + defaultTime;
}
/**
*
* 降级策略配置
*
* @return
*/
private static Setter setter() {
//服务分组
HystrixCommandGroupKey groupKey = HystrixCommandGroupKey.Factory.asKey("echo_service");
HystrixCommandKey commandKey = HystrixCommandKey.Factory.asKey("echo_time");
HystrixCommandProperties.Setter setter = HystrixCommandProperties.Setter()
//隔离策略，默认THREAD
.withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.THREAD)
//是否允许降级，默认允许，如果允许，则在超时或异常时会调用getFallback()进行降级处理
.withFallbackEnabled(true)
//getFallback()的并发数，如果超出该值，就不再调用getFallback()方法，而是快速失败，默认为10
.withFallbackIsolationSemaphoreMaxConcurrentRequests(10)
//当执行线程执行run()超时时，是否进行中断处理，默认false
.withExecutionIsolationThreadInterruptOnFutureCancel(true)
//是否开启/run()方法超时设置，默认true
.withExecutionTimeoutEnabled(true)
//run()方法的超时时间（单位毫秒），默认1000
.withExecutionTimeoutInMilliseconds(1000)
//run()方法超时的时候，是否中断run()执行，默认true
.withExecutionIsolationThreadInterruptOnTimeout(false);
return HystrixCommand.Setter
.withGroupKey(groupKey)
.andCommandKey(commandKey)
.andCommandPropertiesDefaults(setter);
}
}执行逻辑：首先Command会调用run方法，如果run方法超时或抛出异常，且启用降级处理，则会调用getFallback()方法进行降级。
进行调用测试：
public class Client {
public static void main(String[] args) throws InterruptedException {
EchoService service = new EchoService();
for (;;){
EchoTimeCommand command = new EchoTimeCommand(service);
//注意这里，要调用command的execute()方法，而不是直接调用run()
String time = command.execute();
System.out.println(time);
}
}
}
//输出如下：
elapsed:::1200ms [fallback]time:::0
elapsed:::100ms [normal]time:::1529733096909
elapsed:::1200ms [fallback]time:::0
elapsed:::1200ms [fallback]time:::0
elapsed:::100ms [normal]time:::1529733099022
elapsed:::1200ms [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
elapsed:::100ms [normal]time:::1529733100134 TODO：测试调用getFallback()的并发限制数。
使用Hystrix实现熔断
Hystrix提供了熔断机制，在熔断后会自动进行降级处理。如果配置了开启熔断功能（默认开启），则Command会先判断服务已经被熔断，如果已经被熔断，则直接调用Command的getFallBack()进行降级处理，在服务被熔断一定时间后（circuitBreakerSleepWindowInMilliseconds），会重新进行允许调用run()方法，如果成功了，则关闭熔断，如果还是没有成功，则继续保持熔断状态。
还是以上面的例子来继续：
修改EchoService的echoTime()方法，增大超时和异常的概率：
public class EchoService {
public String echoTime(){
//模拟抛出异常
if(new Random().nextInt(10) > 5){
System.out.println("exception:::failure processing echo time");
throw new RuntimeException();
}
//模拟网络耗时，100或者1200
try {
long elapsed = new long[]{100, 1200, 1500}[new Random().nextInt(3)];
System.out.println("elapsed:::" + elapsed + "ms");
Thread.sleep(elapsed);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "[normal]time:::" + System.currentTimeMillis();
}
}修改EchoTimeCommand的配置，设置熔断相关的参数：
public class EchoTimeCommand extends HystrixCommand<String> {
private EchoService echoService;
public EchoTimeCommand(EchoService echoService) {
super(setter());
this.echoService = echoService;
}
@Override
protected String run() {
return echoService.echoTime();
}
/**
* 降级方法
*/
@Override
protected String getFallback() {
//此处不应该再进行网络请求
long defaultTime = 0;
return "[fallback]time:::" + defaultTime;
}
/**
* 熔断配置
*
* @return
*/
private static Setter setter() {
HystrixCommandGroupKey groupKey = HystrixCommandGroupKey.Factory.asKey("echo_service");
HystrixCommandKey commandKey = HystrixCommandKey.Factory.asKey("echo_time");
HystrixCommandProperties.Setter commandProperties = HystrixCommandProperties.Setter()
// 是否开启熔断机制，默认为true
.withCircuitBreakerEnabled(true)
// 是否强制打开熔断器，默认false
.withCircuitBreakerForceOpen(false)
// 是否强制关闭熔断器，默认false
.withCircuitBreakerForceClosed(false)
// 至少有n个请求才计算错误比率，默认20
.withCircuitBreakerRequestVolumeThreshold(3)
// 对Command进行熔断的出错率阈值，超过这个阈值，则会将打开熔断器
.withCircuitBreakerErrorThresholdPercentage(50)
// 统计滚动的时间窗口
.withMetricsRollingStatisticalWindowInMilliseconds(5000)
// 开启熔断后的静默时间，超过这个时间，就会重新放一个请求进去，如果请求成功的话就关闭熔断，失败就再等一段时间，默认5000
.withCircuitBreakerSleepWindowInMilliseconds(2000)
// 为了便于观察，关闭超时时的线程中断
.withExecutionIsolationThreadInterruptOnTimeout(false);
return Setter
.withGroupKey(groupKey)
.andCommandKey(commandKey)
.andCommandPropertiesDefaults(commandProperties);
}
}修改测试代码，以便于观察熔断情况：
public class Client {
public static void main(String[] args) throws InterruptedException {
EchoService service = new EchoService();
int count = 0 ;
for (;;){
EchoTimeCommand command = new EchoTimeCommand(service);
String time = command.execute();
if(command.isCircuitBreakerOpen()){
count++;
if(count > 5){
Thread.sleep(2000);
}
System.out.println("[alert!!! alert!!! alert!!! circuit breaker is opened]");
}
System.out.println(time);
}
}
}
//输出如下
exception:::failure processing echo time [fallback]time:::0
elapsed:::1500ms [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
exception:::failure processing echo time [fallback]time:::0
elapsed:::100ms [normal]time:::1529735983294
elapsed:::100ms [normal]time:::1529735983401
elapsed:::1500ms
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
exception:::failure processing echo time
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
elapsed:::1200ms
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
exception:::failure processing echo time
[alert!!! alert!!! alert!!! circuit breaker is opened] [fallback]time:::0
elapsed:::100ms [normal]time:::1529735993536
elapsed:::1500ms [fallback]time:::0
elapsed:::100ms [normal]time:::1529735994655
elapsed:::1500ms [fallback]time:::0
exception:::failure processing echo time
[fallback]time:::0 熔断器有以下几种状态：
closed：如果关闭熔断机制或者当前请求失败率没有超过失败率阈值，则熔断器处于closed状态。
open：如果当前请求失败率超过了失败率阈值，则熔断器处于open状态。
half-open：当熔断器处于open状态时，不能一直对服务进行熔断，需要在一定的时间后进行重试，这种状态就是half-open，如果重试时，run()成功了，则熔断器会回到closed状态，如果仍然失败，则熔断器回到open状态。
TODO：Hystrix的熔断机制的具体实现
参考
《亿级流量网站架构核心技术》：降级特技
Last updated