springboot内置的tomcat支持最大的并发量问题

springboot内置的tomcat支持最大的并发量

SpringBoot内置Tomcat，在默认设置中，Tomcat的最大线程数是200，最大连接数是10000。支持的并发量是指连接数，也就是说 支持最大并发量是一万(默认)

Tomcat有两种处理连接的模式

1，是BIO，一个线程只处理一个Socket连接，

2，是NIO，一个线程处理多个Socket连接。

由于HTTP请求不会太耗时，而且多个连接一般不会同时来消息，所以一个线程处理多个连接没有太大问题。一个线程处理多个连接数会很慢 有可能会超时

默认内嵌Tomcat配置

• server.tomcat.accept-count：等待队列长度，当可分配的线程数全部用完之后，后续的请求将进入等待队列等待，等待队列满后则拒绝处理，默认100。
• server.tomcat.max-connections：最大可被连接数，默认10000
• server.tomcat.max-threads：最大工作线程数，默认200,
• server.tomcat.min-spare-threads：最小工作线程数，初始化分配线程数，默认10

默认配置下，连接超过10000后会出现拒绝连接情况

默认配置下，触发的请求超过200+100后拒绝处理(最大工作线程数+等待队列长度)

如果默认配置无法满足当前需求 可以自己调优 可以手动修改配置来进行处理并发

修改pro文件

server.port=7001

server.tomcat.accept-count=1000

server.tomcat.max-connections=10000

server.tomcat.max-threads=500

server.tomcat.min-spare-threads=100

然后 打包重启项目

kill -9 9545   //杀死进程

ps -ef | grep java   //查看项目启动的端口

pstree -p 7968 | wc -l    //查看进程数

我们也可以使用配置文件, 可以新增WebServerConfiguration.java文件

import org.apache.catalina.connector.Connector;

import org.apache.coyote.http11.Http11NioProtocol;

import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;

import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;

import org.springframework.boot.web.server.ConfigurableWebServerFactory;

import org.springframework.boot.web.server.WebServerFactoryCustomizer;

import org.springframework.stereotype.Component;


//当Spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会吧此bean加载进spring容器中

@Component

public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {

    @Override

    public void customize(ConfigurableWebServerFactory configurableWebServerFactory) {

            //使用对应工厂类提供给我们的接口定制化我们的tomcat connector

        ((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() {

            @Override

            public void customize(Connector connector) {

                Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();

                //定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接

                protocol.setKeepAliveTimeout(30000);

                //当客户端发送超过10000个请求则自动断开keepalive链接

                protocol.setMaxKeepAliveRequests(10000);

            }

        });

    }

}

备注：

MySQL 数据库 QPS 容量问题：

• 主键查询： 千万级别数据 == 1-10 ms
• 唯一索引查询： 千万级别数据 == 10-100 ms
• 非唯一索引查询： 千万级别数据 == 100-1000ms
• 无索引数据： 百万级别数据 == 1000ms+

MySQL 数据库 TPS 容量问题：

• 非插入的更新删除操作： 同查询
• 插入操作： 1w~10w tps(依赖配置优化)

提高tomcat并发量的几种方法

1、Apache + Tomcat 结合起来用Apache负责静态页面，Tomcat负责动态页面，同时减少connectionTimeout的时间，以应对并发量大线程回收来不及的情况。

2、压力过大的问题，可以做负载均衡，一个TOMCAT无论如何也不可能担当如此多的线程负载，而且JVM过大，其内存管理成本将显著加大。2G的内存，做3-4个TOMCAT实例（512RAM*4），更为科学合理。

3、数据库连接池，不少人，都推荐使用C3P0，能提高访问数据库的并发性能好几倍。

4、采用Tomcat集群可以最大程度的发挥服务器的性能，可以在配置较高的服务器上部署多个Tomcat，也可以在多台服务器上分别部署Tomcat，Apache和Tomcat整合的方式还是JK方式。经过验证，系统对大用户量使用的响应方面，Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时，如果一个Tomcat出现宕机，系统可以继续使用，所以在硬件系统性能足够优越的情况下，需要尽量发挥软件的性能，可以采用增加Tomcat集群的方式。

5、1. 设置MPM（Multi Processing Modules多道处理模块）。ThreadPerChild,这个参数用于设置每个进程的线程数，在Windows环境下默认值是64，最大值是1920，建议设置为100-500之间，服务器性能高的话值大一些，反之小一些。MaxRequestPerChild表示每个子进程能够处理的最大请求数。这个参数的值更大程度上取决于服务器的内存，如果内存比较大的话可以设置为很大的参数，否则设置一个较小的值，建议值是3000.

2. 关闭DNS和名字解析 HostnameLookups off

3. 打开UseCanonicalName模块 UseCanonicalName on

4. 关闭多余模块 一般来说，不需要加载的模块有，mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.

5. 打开KeepAlive支持

KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000

根据实际经验，通过Apache和Tomcat集群的方式提高系统性能的效果十分明显，这种方式可以最大化的利用硬件资源，通过多个Tomcat的处理来分担单Tomcat时的压力。

web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。

总结

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。