13 高可用的服务

由于服务端宕机、线程死锁等原因，可能导致应用程序对服务端的调用失去响应， 进而导致用户请求长时间得不到响应，同时还占用应用程序的资源，不利于及时将访问 请求转移到正常的服务器上。

在应用程序中设置服务调用的超时时间，一旦超时，通信框架就抛出异常，应用程 序根据服务调度策略，可选择继续重试或将请求转移到提供相同服务的其他服务器上。

3. 异步调用

应用对服务的调用通过消息队列等异步方式完成，避免一个服务失败导致整个应用 请求失败的情况。如提交一个新用户注册请求，应用需要调用三个服务：将用户信息写 入数据库，发送账户注册成功邮件，开通对应权限。如果釆用同步服务调用，当邮件队 列阻塞不能发送邮件时，会导致其他两个服务也无法执行，最终导致用户注册失败。

如果采用异步调用的方式，应用程序将用户注册信息发送给消息队列服务器后立即返回用户注册成功响应。而记录用户注册信息到数据库、发送用户注册成功邮件、调用 用户服务开通权限这三个服务作为消息的消费者任务，分别从消息队列获取用户注册信 息异步执行。即使邮件服务队列阻塞，邮件不能成功发送，也不会影响其他服务的执行, 用户注册操作可顺利完成，只是晚一点收到注册成功的邮件而已。

当然不是所有服务调用都可以异步调用，对于获取用户信息这类调用，采用异步方 式会延长响应时间，得不偿失。对于那些必须确认服务调用成功才能继续下一步操作的 应用也不合适使用异步调用。

4. 服务降级

在网 **《一线大厂 Java 面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义》无偿开源 威信搜索公众号【编程进阶路】** 站访问高峰期，服务可能因为大量的并发调用而性能下降，严重时可能会导致 服务宕机。为了保证核心应用和功能的正常运行，需要对服务进行降级。降级有两种手 段：拒绝服务及关闭服务。

拒绝服务：拒绝低优先级应用的调用，减少服务调用并发数，确保核心应用正常使

用；或者随机拒绝部分请求调用，节约资源，让另一部分请求得以成功，避免要死大家 一起死的惨剧。貌似 Twitter 比较喜欢使用随机拒绝请求的策略，经常有用户看到请求失 败的故障页面，但是问下身边的人，其他人都正常使用，自己再刷新页面，也好了。

关闭功能：关闭部分不重要的服务，或者服务内部关闭部分不重要的功能，以节约系统开销，为重要的服务和功能让岀资源。淘宝在每年的“双十一”促销中就使用这利 方法，在系统最繁忙的时段关闭“评价”、“确认收货”等非核心服务，以保证核心交易服 务的顺利完成。

5. 幂等性设计

应用调用服务失败后，会将调用请求重新发送到其他服务器，但是这个失败可能是总假的失败。比如服务已经处理成功，但因为网络故障应用没有收到响应，这时应用重 新提交请求就导致服务重复调用，如果这个服务是一个转账操作，就会产生严重后果。

服务重复调用是无法避免的，应用层也不需要关心服务是否真的失败，只要没有收 到调用成功的响应，就可以认为调用失败，并重试服务调用。因此必须在服务层保证服 务重复调用和调用一次产生的结果相同，即服务具有幕等性。