嗨，小伙伴们，我是猫头虎博主，今天我们要来解决一个Tomcat服务器上常见的小难题：请求的资源[/XXX/]不可用。别担心，即使你是个编程小白，我也会用最简单的语言，带你一步步解决问题。让我们开始吧！😸
释：服务提供者A因为某种原因出现故障，那么服务调用者服务B依赖于服务A的请求便无法成功调用其提供的接口，假以时日依赖于服务A的请求越来越多导致服务B的Tomcat资源耗尽，造成服务B线程阻塞，导致服务B也出现故障。那么假如服务C依赖于服务B由于服务B也出现了故障导致服务C出现故障。以此类推引起整个链路中的所有微服务都不可用。
导读：Hystrix中文含义是豪猪，因其背上长满棘刺，从而拥有了自我保护的能力。是Netlifx开源的一款容错框架，防雪崩利器，具备服务降级，服务熔断，依赖隔离，监控(Hystrix Dashboard)等功能。
2.服务器上的Tomcat接收到该url,根据该url判断为Servlet请求，此时Tomcat将产生两个对象：请求对象(HttpServletRequest)和响应对象(HttpServletResponce)
因为单向存储文件, 会被Nginx轮询, 导致上传到一台Tomcat上, 会导致后续如果该请求没有被轮询到指定的Tomcat, 就会无法访问该文件, 导致访问失败, 并且该文件应为只存储在Tomcat一中, 一旦该节点宕机, 那么该节点上的所有资源将进入不可用状态, 应为没有数据冗余备份, 所以所有存在Tomcat1中的资源将全部不可用
常见的资源,例如磁盘、网络、CPU等等,都会存在竞争的问题,在构建分布式架构时,可以将原本连接在一起的组件、模块、资源拆分开来,以便达到最大的利用效率或性能。资源隔离之后,当某一部分组件出现故障时,可以隔离故障,方便定位的同时,阻止传播,避免出现滚雪球以及雪崩效应。
分布式系统中经常会出现某个基础服务不可用造成整个系统不可用的情况, 这种现象被称为服务雪崩效应. 为了应对服务雪崩, 一种常见的做法是手动服务降级. 而Hystrix的出现,给我们提供了另一种选择.
常见的资源，例如磁盘、网络、CPU 等等，都会存在竞争的问题，在构建分布式架构时，可以将原本连接在一起的组件、模块、资源拆分开来，以便达到最大的利用效率或性能。
就目前来说nginx已经是计算机系统的必备组件了。主要的作用有静态资源代理、反向服务代理，负载均衡，虚拟主机，fastcgi等。
Nmon是一款计算机性能系统监控工具，因为它免费，体积小，安装简单，耗费资源低，广泛应用于AIX和Linux系统。
“ 在微服务的架构中，服务隔离应该是一个比较常见词汇，什么是服务隔离呢，它是指将系统按照一定的原则划分为若干个服务模块，各个模块之间相对独立，无强依赖。当有故障发生时，能将问题和影响隔离在某个模块内部，而不扩散风险，不波及其它模块，不影响整体的系统服务 ”
系统上线后，要评估下系统容量+业务流量，可以避免系统资源浪费、防止系统资源不足导致系统不可用。
● Nginx：192.168.56.105 ● Tomcat1：192.168.56.106 ● Tomcat2：192.168.56.107 ● Tomcat3：192.168.56.108 这里，我们在原来的 my.conf 中来编写配置文件：
在《SpringCloud Alibaba实战》专栏前面的文章中，我们实现了用户微服务、商品微服务和订单微服务之间的远程调用，并且实现了服务调用的负载均衡。但是，现在系统中存在着一个很明显的问题，那就是如果系统的并发量上来后，系统并没有容错的能力，这可能会导致系统不可用或者直接宕机，所以，我们的系统需要支持容错的能力。
3、所有 worker 进程的 listenfd 会在新连接到来时变得可读 ，为保证只有一个进程处理该连接，所有 worker 进程在注册 listenfd 读事件前抢占 accept_mutex ，抢到互斥锁的那个进程注册 listenfd 读事件 ，在读事件里调用 accept 接受该连接。 4、当一个 worker 进程在 accept 这个连接之后，就开始读取请求、解析请求、处理请求，产生数据后，再返回给客户端 ，最后才断开连接。
熟练掌握Nginx负载均衡的使用对运维人员来说是极其重要的！下面针对Nignx负载均衡upstream容错机制的使用做一梳理性说明： 一、nginx的upstream容错 1）nginx 判断节点失效状态 Nginx默认判断失败节点状态以connect refuse和time out状态为准，不以HTTP错误状态进行判断失败，因为HTTP只要能返回状态说明该节点还可以正常连接，所以nginx判断其还是存活状态；除非添加了proxy_next_upstream指令设置对404、502、503、504、500
面试时，大家可能都会碰到关于事务相关的问题，升级版的可能是分布式事务的问题。在互联网行业中，一句马马虎虎的补偿事务就能蒙混过关，毕竟都是些短小精悍的接口。 但在很多企业级应用中，这行不通。我们必须直面惨淡的现实。
TensorFlow Serving服务在Kubernetes集群中的部署方案，如果是从零开始建设，那么可以通过Kubernetes原生的Service+KubeDNS实现服务的注册与发现，并通过对接LVS集群进行负载均衡。因此我们在TaaS中开发了Kube2LVS模块，负责对TensorFlow Serving服务进行ListAndWatch，实现TensorFlow Serving Service Info动态reload到LVS config中。
记得在三年前公司因为业务发展需要，就曾经将单体应用迁移到分布式框架上来。当时就遇到了这样一个问题：系统仅有一个控制单元，它会调用多个运算单元，如果某个运算单元（作为服务提供者）不可用，将导致控制单元（作为服务调用者）被阻塞，最终导致控制单元崩溃，进而导致整个系统都面临着瘫痪的风险。 那个时候还不知道这其实就是服务的雪崩效应，雪崩效应好比就是蝴蝶效应，说的都是一个小因素的变化，却往往有着无比强大的力量，以至于最后改变整体结构、产生意想不到的结果。雪崩效应也是我们目前研发的产品直面的一道坎，下面我们来看有哪些场
近日，官方公开了Apache Tomcat HTTP/2拒绝服务漏洞，该漏洞是由于应用服务允许接收大量的配置流量，并且客户端在没有读写请求的情况下可以长时间保持连接而导致。如果来自客户端的连接请求过多，最终可导致服务端线程耗尽，攻击者成功利用此漏洞可实现对目标的拒绝服务攻击。
如图，如果服务提供者I发生了故障，当前的应用的部分业务因为依赖于服务I，因此也会被阻塞。
高可用并不是一套整体解决方案，而是由诸多环节组成，一环扣一环，鬼知道为了这些串联起来的环节，我得出多少张牌去应对，才能最终组成一个整个系统的高可用落地方案。
在定义什么是高可用，可以先定义下什么是不可用，一个网站的内容最终呈现在用户面前需要经过若干个环节，而其中只要任何一个环节出现了故障，都可能导致网站页面不可访问，这个也就是网站不可用的情况。
在分布式系统中，每个服务都可能会调用很多其他服务，被调用的那些服务就是依赖服务，有的时候某些依赖服务出现故障也是很常见的。
一、先从servlet容器说起：大家最为熟悉的servlet容器就是Tomcat ，Servlet 容器是如何管理 Servlet？
那显而易见，做服务隔离的目的就是避免服务之间相互影响。毕竟谁也不能说自己的微服务百分百可用，如果不做隔离，一旦一个服务出现了问题，整个系统的稳定性都会受到影响！ 因此，做服务隔离是很有必要的。那么怎么隔离呢？有如下两种方式 – 按种类隔离 – 按用户隔离 OK，接下来开始细说这两种方式！
Spring Cloud 是实现微服务思想落地开发的一整套技术的集合。 Spring Cloud专注于提供良好的开箱即用经验的典型用例和可扩展性机制覆盖。
我们网关现在完全基于netty 实现http 协议，包含客户端和服务端，http 客户端有很多选择，比如 HttpClient ，jdk 自带的等，都能模拟http ,但是和netty 相比，netty 支持堆外内存，而且内存自己管理，不需要频繁的申请和回收,可以减少GC的压力，以及极致的优化。所以netty http 协议是实现http client的首选。
Nginx ，是一个 Web 服务器和反向代理服务器用于 HTTP、HTTPS、SMTP、POP3 和 IMAP 协议。
在开发和部署Spring Boot应用程序时，有时可能会遇到org.apache.catalina.LifecycleException异常。这个异常通常表示Tomcat容器在启动应用程序时遇到了问题。
什么是SpringBoot？ 1、用来简化spring初始搭建和开发过程使用特定的方式进行配置(properties或者yml文件) 2、创建独立的spring引用程序main方法运行 3、嵌入Tomcat无需部署war包，直接打成jar包nohup java -jar – & 启动就好 4、简化了maven的配置 4、自动配置spring添加对应的starter自动化配置 SpringBoot常用的starter： 1、spring-boot-starter-web(嵌入Tomcat和web开发需要的servlet和jsp支持) 2、spring-boot-starter-data-jpa(数据库支持) 3、spring-boot-starter-data-Redis(Redis支持) 4、spring-boot-starter-data-solr(solr搜索应用框架支持) 5、mybatis-spring-boot-starter(第三方mybatis集成starter) SpringBoot自动配置原理： 1、@EnableAutoConfiguration这个注解会”猜”你将如何配置spring，前提是你已经添加了jar依赖项，如果spring-boot-starter-web已经添加Tomcat和SpringMVC，这个注释就会自动假设您在开发一个web应用程序并添加相应的spring配置，会自动去maven中读取每个starter中的spring.factories文件，该文件里配置了所有需要被创建spring容器中bean 2、在main方法中加上@SpringBootApplication和@EnableAutoConfiguration SpringBoot starter工作原理： 1、SpringBoot在启动时扫描项目依赖的jar包，寻找包含spring.factories文件的jar 2、根据spring.factories配置加载AutoConfigure 3、根据@Conditional注解的条件，进行自动配置并将bean注入到Spring Context SpringBoot的优点： 1、减少开发、测试时间和努力 2、使用JavaConfig有助于避免使用XML 3、避免大量的maven导入和各种版本冲突 4、提供意见发展方法 5、通过提供默认值快速开始开发 6、没有单独的web服务器需要，这就意味着不再需要启动Tomcat、Glassfish或其他任何东西 7、需要更少的配置，因为没有web.xml文件。只需添加用@Configuration注释的类，然后添加用@Bean注释的方法，Spring将自动加载对象并像以前一样对其进行管理。甚至可以将@Autowired添加到bean方法中，以使用Spring自动装入需要的依赖关系中 Springcloud解决那些问题： 配置管理、（注册中心eureka、zk）、服务发现、服务注册、断路器、路由策略、全局锁、分布式会话、客户端调用、接口网关（zuul）、服务管理系统 SpringBoot与Springcloud： 1>、SpringBoot简化了xml配置，快速整合框架 2>、Springcloud是一套微服务解决方案—RPC远程调用 3>、关系Springcloud依赖与SpringBoot（web组件用的SpringMVC），为什么Springcloud会依赖与SpringBoot？因为Springcloud写接口就是SpringMVC接口 4>、SpringBootproperties和yml中可以使用${random}设置一些随机值 服务的调用： rest、feign（均使用httpclient技术），负载均衡ribbon 服务调用的原理： 服务首先注册到注册中心eureka中(注册一个名字通过名字调用) 负载均衡 ribbon，先去注册中心取到对应的服务，然后交给我ribbon 配置详解： 1>、eureka.client.register-with-eureka：是否向注册中心注册自己，注册为true反之为false 2>、eureka.client.fetch-registry： 是否需要去检索服务，检索为true反之为false 3>、eureka.client.serviceUrl.defaultZone : 指定服务注册中心的地址 Eureka： 1>、eureka可分为三个角色：服务发现者、服务注册者、注册发现中心，但是这三个角色并不和实际部署的模型是一对一的关系 2>、所有的网络通信都是基于http(s)协议的 3>、Eureka和AWS是紧密结合的，无论是配置还是源码，比如Region、zone…，Region可以通过
一个tomcat打天下的时代，不能说完全淘汰了，在一个管理系统，小型项目中还经常使用，这并不过分，出于成本的考虑，这反而值得提倡。但如果要延伸到高并发场景下就必然要了解分布式系统：
Session共享有多种解决方法，常用的有四种： 1）客户端Cookie保存 2）服务器间Session同步 3）使用集群管理Session（如MSM） 4）把Session持久化到数据库 针对上面Session共享四种方法的详解： 1）客户端Cookie保存以cookie加密的方式保存在客户端.优点是减轻服务器端的压力，每次session信息被写在客服端,然后经浏览器再次提交到服务器。即使两次请求在集群中的两台服务器上完成，也可以到达session共享。 2）将session持久化到数据中这种共享ses
作者：高级架构师 文章来自：https://my.oschina.net/u/3772106/blog/1616343 nginx 对于中间件nginx常用来做流量的分发，同时nginx本身也有自己的
对于高并发架构，毫无疑问缓存是最重要的一环，对于大量的高并发，可以采用三层缓存架构来实现，nginx+redis+ehcache nginx 对于中间件nginx常用来做流量的分发，同时nginx本身
很多开源组件中可以看到 HA 方案就是提升组件的可用性，让系统免于宕机无法服务的方案。
Nginx通常被用作后端服务器的反向代理，这样就可以很方便的实现动静分离，以及负载均衡，从而大大提高服务器的处理能力。
Netflix Hystrix是SOA/微服务架构中提供服务隔离、熔断、降级机制的工具/框架。Netflix Hystrix是断路器的一种实现，用于高微服务架构的可用性，是防止服务出现雪崩的利器。 在分布式架构中，一个应用依赖多个服务是非常常见的。如果其中一个依赖由于延迟过高发生阻塞，调用该服务的线程就会阻塞。如果相关业务的QPS较高，就可能产生大量阻塞，从而导致该应用/服务由于服务器资源被耗尽而拖垮。 关于服务雪崩、降级、熔断的概念请看这里：https://blog.csdn.net/qq_43753724/article/details/119948804
Tomcat Manager默认安装在上下文路径：/manager中，支持的功能有：
高可用性这个topic，然后咱们会用几讲的时间来讲解一下如何用hystrix，来构建高可用的服务的架构
##写在前面 做爬虫的小伙伴一般都绕不过代理IP这个问题. PS:如果还没遇到被封IP的场景，要不就是你量太小人家懒得理你，要不就是人家压根不在乎… 爬虫用户自己是没有能力维护一系列的代理服务器和代理IP的，这个成本实在有点高了。 所以公用代理服务器应运而生,现在几大云服务商家都提供代理IP服务，一般论个买… 同时网上也有很多代理IP共享网站，会把一些免费的代理IP放出来给大家用。 大家都是做爬虫的，那么，是不是可以先把代理IP网站的数据爬一遍？ 所以可以看到不少的爬代理IP的爬虫，如突破反爬虫的利器——开
上一篇 文章我们围绕如何合理利用资源的主题做了一些最佳实践的分享，这一次我们就如何提高服务可用性的主题来展开探讨。
K8S作为云原生架构下最流行的服务编排平台，核心功能之一就是对该平台上的容器进行动态编排。
作者陈鹏（roc），腾讯工程师，负责腾讯云TKE的售中、售后的技术支持，根据客户需求输出合理技术方案与最佳实践，为客户业务保驾护航。 引言 上一篇文章我们围绕如何合理利用资源的主题做了一些最佳实践的分享，这一次我们就如何提高服务可用性的主题来展开探讨。 怎样提高我们部署服务的可用性呢？ K8S 设计本身就考虑到了各种故障的可能性，并提供了一些自愈机制以提高系统的容错性，但有些情况还是可能导致较长时间不可用，拉低服务可用性的指标。本文将结合生产实践经验，为大家提供一些最佳实践来最大化的提高服务可用性。 图片
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
