springboot内置的tomcat支持最大的并发量问题

2023-03-13 10:50 开发作者： Joe world

springboot内置的tomcat支持最大的并发量

SpringBoot内置Tomcat，在默认设置中，Tomcat的最大线程数是200，最大连接数是10000。支持的并发量是指连接数，也就是说支持最大并发量是一万(默认)

Tomcat有两种处理连接的模式

1，是BIO，一个线程只处理一个Socket连接，

2，是NIO，一个线程处理多个Socket连接。

由于HTTP请求不会太耗时，而且多个连接一般不会同时来消息开发者_Python学习，所以一个线程处理多个连接没有太大问题。一个线程处理多个连接数会很慢有可能会超时

默认内嵌Tomcat配置

server.tomcat.accept-count：等待队列长度，当可分配的线程数全部用完之后，后续的请求将进入等待队列等待，等待队列满后则拒绝处理，默认100。
server.tomcat.max-connections：最大可被连接数，默认10000
server.tomcat.max-threads：最大工作线程数，默认200,
server.tomcat.min-spare-threads：最小工作线程数，初始化分配线程数，默认10

默认配置下，连接超过10000后会出现拒绝连接情况

默认配置下，触发的请求超过200+100后拒绝处理(最大工作线程数+等待队列长度)

如果默认配置无法满足当前需求可以自己调优可以手动修改配置来进行处理并发

修改pro文件

server.port=7001

server.tomcat.accept-count=1000

server.tomcat.max-connections=10000

server.tomcat.max-threads=500

server.tomcat.min-spare-threads=100

然后打包重启项目

kill -9 9545 //杀死进程

ps -ef | grep Java //查看项目启动的端口

pstree -p 7968 | wc -l //查看进程数

我们也可以使用配置文件, 可以新增WebServerConfiguration.java文件

import org.apache.catalina.connector.Connector;

import org.apache.coyote.http11.Http11NioProtocol;

import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;

import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;

import org.springframeworpythonk.boot.web.server.ConfigurableWebServerFactory;

import org.springframework.boot.web.server.WebServerFactoryCustomizer;

import org.springframeandroidwork.stereotype.Component;


//当Spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会吧此bean加载进spring容器中

@Component

public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {

  @Override

  public void customize(ConfigurableWebServerFactory configurableWebServerFactory) {

      //使用对应工厂类提供给我们的接口定制化我们的tomcat connector

    ((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() {

      @Override

      public void customize(Connector connector) {

        Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();

        //定制化keepalivetimeojsut,设置www.devze.com30秒内没有请求则服务端自动断开keepalive链接

        protocol.setKeepAliveTimeout(30000);

        //当客户端发送超过10000个请求则自动断开keepalive链接

        protocol.setMaxKeepAliveRequests(10000);

      }

    });

  }

}

备注：

mysql 数据库 QPS 容量问题：

主键查询：千万级别数据 == 1-10 ms
唯一索引查询：千万级别数据 == 10-100 ms
非唯一索引查询：千万级别数据 == 100-1000ms
无索引数据：百万级别数据 == 1000ms+

MySQL 数据库 TPS 容量问题：

非插入的更新删除操作：同查询
插入操作： 1w~10w tps(依赖配置优化)

提高tomcat并发量的几种方法

1、Apache + Tomcat 结合起来用Apache负责静态页面，Tomcat负责动态页面，同时减少connectionTimeout的时间，以应对并发量大线程回收来不及的情况。

2、压力过大的问题，可以做负载均衡，一个TOMCAT无论如何也不可能担当如此多的线程负载，而且JVM过大，其内存管理成本将显著加大。2G的内存，做3-4个TOMCAT实例（512RAM*4），更为科学合理。

3、数据库连接池，不少人，都推荐使用C3P0，能提高访问数据库的并发性能好几倍。

4、采用Tomcat集群可以最大程度的发挥服务器的性能，可以在配置较高的服务器上部署多个Tomcat，也可以在多台服务器上分AENRUSjsJe别部署Tomcat，Apache和Tomcat整合的方式还是JK方式。经过验证，系统对大用户量使用的响应方面，Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时，如果一个Tomcat出现宕机，系统可以继续使用，所以在硬件系统性能足够优越的情况下，需要尽量发挥软件的性能，可以采用增加Tomcat集群的方式。

5、1. 设置MPM（Multi Processing Modules多道处理模块）。ThreadPerChild,这个参数用于设置每个进程的线程数，在Windows环境下默认值是64，最大值是1920，建议设置为100-500之间，服务器性能高的话值大一些，反之小一些。MaxRequestPerChild表示每个子进程能够处理的最大请求数。这个参数的值更大程度上取决于服务器的内存，如果内存比较大的话可以设置为很大的参数，否则设置一个较小的值，建议值是3000.

2. 关闭DNS和名字解析 HostnameLookups off

3. 打开UseCanonicalName模块 UseCanonicalName on

4. 关闭多余模块一般来说，不需要加载的模块有，mod_include.so、mod_autoindex.so、mod_Access.so、mod_auth.so.

5. 打开KeepAlive支持

KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000

根据实际经验，通过Apache和Tomcat集群的方式提高系统性能的效果十分明显，这种方式可以最大化的利用硬件资源，通过多个Tomcat的处理来分担单Tomcat时的压力。

web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，linux是1000个左右。

总结

以上为个人经验，希望能给大家一个参考，也希望大家多多支持我们。

继续阅读：springboot内置tomcat springboot并发量 springboot最大并发量

springboot内置的tomcat支持最大的并发量问题

目录