|
架构干货，关键时刻马上送达！  为什么需要Hystrix在大中型分布式系统中，通常系统很多依赖，如下图: 在高并发访问下，这些依赖的稳定性与否对系统的影响非常大，但是依赖有很多不可控问题：如网络连接缓慢，资源繁忙，暂时不可用，服务脱机等，如下图： 当依赖阻塞时，大多数服务器的线程池就出现阻塞，影响整个线上服务的稳定性，如下图： 在复杂的分布式架构的应用程序有很多的依赖，都会不可避免地在某些时候失败。高并发的依赖失败时如果没有隔离措施，当前应用服务就有被拖垮的风险。 Hystrix如何解决依赖隔离
Hystrix依赖的隔离架构，如下图： 如何使用Hystrix使用maven引入Hystrix依赖 hystrix.version>1.3.16hystrix.version> hystrix-metrics-event-stream.version>1.1.2hystrix-metrics-event-stream.version> dependency> groupId>com.netflix.hystrixgroupId> artifactId>hystrix-coreartifactId> version>${hystrix.version}version> dependency> dependency> groupId>com.netflix.hystrixgroupId> artifactId>hystrix-metrics-event-streamartifactId> version>${hystrix-metrics-event-stream.version}version> dependency> 使用命令模式封装依赖逻辑 public class HelloWorldCommand extends HystrixCommandString> { private final String name; public HelloWorldCommand(String name) { //最少配置:指定命令组名(CommandGroup) super(HystrixCommandGroupKey.Factory.asKey('ExampleGroup')); this.name = name; } @Override protected String run() { // 依赖逻辑封装在run()方法中 return 'Hello ' + name +' thread:' + Thread.currentThread().getName(); } //调用实例 public static void main(String[] args) throws Exception{ //每个Command对象只能调用一次,不可以重复调用, //重复调用对应异常信息 HelloWorldCommand helloWorldCommand = new HelloWorldCommand('sync-hystrix'); //使用execute()同步调用代码,效果等同于:helloWorldCommand.queue().get(); String result = helloWorldCommand.execute(); System.out.println('result=' + result); helloWorldCommand = new HelloWorldCommand('async-hystrix'); //异步调用,可自由控制获取结果时机, Future使用Fallback() 提供降级策略 //重载HystrixCommand的getFallback方法实现逻辑 public class HelloWorldCommand extends HystrixCommandString> { private final String name; public HelloWorldCommand(String name) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('HelloWorldGroup')) .andCommandPropertiesDefaults(HystrixCommandProperties.Setter() .withExecutionIsolationThreadTimeoutInMilliseconds(500))); this.name = name; } @Override protected String getFallback() { return 'exeucute Falled'; } @Override protected String run() throws Exception { //sleep 1 秒,调用会超时 TimeUnit.MILLISECONDS.sleep(1000); return 'Hello ' + name +' thread:' + Thread.currentThread().getName(); } public static void main(String[] args) throws Exception{ HelloWorldCommand command = new HelloWorldCommand('test-Fallback'); String result = command.execute(); } } NOTE: 除了HystrixBadRequestException异常之外，所有从run()方法抛出的异常都算作失败，并触发降级getFallback()和断路器逻辑。 HystrixBadRequestException用在非法参数或非系统故障异常等不应触发回退逻辑的场景。 依赖命名:CommandKey public HelloWorldCommand(String name) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('ExampleGroup')) /* HystrixCommandKey工厂定义依赖名称 */ .andCommandKey(HystrixCommandKey.Factory.asKey('HelloWorld'))); this.name = name; } NOTE: 每个CommandKey代表一个依赖抽象，相同的依赖要使用相同的CommandKey名称。依赖隔离的根本就是对相同CommandKey的依赖做隔离。 依赖分组:CommandGroup 命令分组用于对依赖操作分组，便于统计，汇总等。 //使用HystrixCommandGroupKey工厂定义 public HelloWorldCommand(String name) { Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('HelloWorldGroup')) } NOTE: CommandGroup是每个命令最少配置的必选参数，在不指定ThreadPoolKey的情况下，字面值用于对不同依赖的线程池/信号区分。 线程池/信号:ThreadPoolKey public HelloWorldCommand(String name) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('ExampleGroup')) .andCommandKey(HystrixCommandKey.Factory.asKey('HelloWorld')) /* 使用HystrixThreadPoolKey工厂定义线程池名称*/ .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey('HelloWorldPool'))); this.name = name; } NOTE: 当对同一业务依赖做隔离时使用CommandGroup做区分，但是对同一依赖的不同远程调用如(一个是redis 一个是http)，可以使用HystrixThreadPoolKey做隔离区分。 最然在业务上都是相同的组，但是需要在资源上做隔离时，可以使用HystrixThreadPoolKey区分。 信号量隔离:SEMAPHORE 隔离本地代码或可快速返回远程调用(如memcached，redis)可以直接使用信号量隔离，降低线程隔离开销。 public class HelloWorldCommand extends HystrixCommandString> { private final String name; public HelloWorldCommand(String name) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('HelloWorldGroup')) /* 配置信号量隔离方式,默认采用线程池隔离 */ .andCommandPropertiesDefaults(HystrixCommandProperties.Setter() .withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.SEMAPHORE))); this.name = name; } @Override protected String run() throws Exception { return 'HystrixThread:' + Thread.currentThread().getName(); } public static void main(String[] args) throws Exception{ HelloWorldCommand command = new HelloWorldCommand('semaphore'); String result = command.execute(); System.out.println(result); System.out.println('MainThread:' + Thread.currentThread().getName()); } } Hystrix关键组件分析Hystrix流程结构解析 流程说明： 1，每次调用创建一个新的HystrixCommand，把依赖调用封装在run()方法中 2，执行execute()/queue做同步或异步调用 3，判断熔断器(circuit-breaker)是否打开，如果打开跳到步骤8，进行降级策略，否则继续后续步骤 4，判断线程池/队列/信号量是否跑满，如果跑满进入降级步骤8，否则继续后续步骤 5，调用HystrixCommand的run方法，运行依赖逻辑
6，判断逻辑是否调用成功
7，计算熔断器状态，所有的运行状态上报给熔断器，用于统计从而判断熔断器状态 8，getFallback()降级逻辑
9，返回执行成功结果 熔断器:Circuit Breaker Circuit Breaker 流程架构和统计 每个熔断器默认维护10个bucket，每秒一个bucket，每个blucket记录成功、失败、超时、拒绝的状态，默认错误超过50%且10秒内超过20个请求进行中断拦截.。 隔离(Isolation)分析 Hystrix隔离方式采用线程/信号的方式，通过隔离限制依赖的并发量和阻塞扩散。 (1) 线程隔离 把执行依赖代码的线程与请求线程分离，请求线程可以自由控制离开的时间(异步过程)。 通过线程池大小可以控制并发量，当线程池饱和时可以提前拒绝服务，防止依赖问题扩散。 线上建议线程池不要设置过大，否则大量堵塞线程有可能会拖慢服务器。 线程池的使用示意图如下图所示，当n个请求线程并发对某个接口请求调用时，会先从hystrix管理的线程池里面获得一个线程，然后将参数传递给这个线程去执行真正调用。线程池的大小有限，默认是10个线程，可以使用maxConcurrentRequests参数配置，如果并发请求数多于线程池线程个数，就有线程需要进入队列排队，但排队队列也有上限，默认是 5，如果排队队列也满，则必定有请求线程会走fallback流程。 线程池模式可以支持异步调用，支持超时调用，支持直接熔断，存在线程切换，开销大。 (2) 线程隔离的优缺点 线程隔离的优点：
线程隔离的缺点：
NOTE: Netflix公司内部认为线程隔离开销足够小，不会造成重大的成本或性能的影响。 Netflix内部API每天100亿的HystrixCommand依赖请求使用线程隔，每个应用大约40多个线程池，每个线程池大约5-20个线程。 (3) 信号隔离 信号隔离也可以用于限制并发访问，防止阻塞扩散, 与线程隔离最大不同在于执行依赖代码的线程依然是请求线程（该线程需要通过信号申请）。 如果客户端是可信的且可以快速返回，可以使用信号隔离替换线程隔离，降低开销。 线程隔离与信号隔离区别如下图：
信号量的使用示意图如下图所示，当n个并发请求去调用一个目标服务接口时，都要获取一个信号量才能真正去调用目标服务接口，但信号量有限，默认是10个，可以使用maxConcurrentRequests参数配置，如果并发请求数多于信号量个数，就有线程需要进入队列排队，但排队队列也有上限，默认是 5，如果排队队列也满，则必定有请求线程会走fallback流程，从而达到限流和防止雪崩的目的。
信号量模式从始至终都只有请求线程自身，是同步调用模式，不支持超时调用，不支持直接熔断，由于没有线程的切换，开销非常小。 (4) 总结 当请求的服务网络开销比较大的时候，或者是请求比较耗时的时候，我们最好是使用线程隔离策略，这样的话，可以保证大量的容器(tomcat)线程可用，不会由于服务原因，一直处于阻塞或等待状态，快速失败返回。而当我们请求缓存这些服务的时候，我们可以使用信号量隔离策略，因为这类服务的返回通常会非常的快，不会占用容器线程太长时间，而且也减少了线程切换的一些开销，提高了缓存服务的效率。
|
|
|
