最佳线程数:
性能压测的情况下,起初随着用户数的增加,QPS会上升,当到了一定的阀值之后,用户数量增加QPS并不会增加,或者增加不明显,同时请求的响应时间却大幅增加。这个阀值我们认为是最佳线程数。
为什么要找最佳线程数
1.过多的线程只会造成,更多的内存开销,更多的CPU开销,但是对提升QPS确毫无帮助
2.找到最佳线程数后通过简单的设置,可以让web系统更加稳定,得到最高,最稳定的QPS输出
最佳线程数的获取:
1、通过用户慢慢递增来进行性能压测,观察QPS,响应时间
2、根据公式计算:服务器端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
3、单用户压测,查看CPU的消耗,然后直接乘以百分比,再进行压测,一般这个值的附近应该就是最佳线程数量。
影响最佳线程数的主要因素:
1、IO
2、CPU
根据公式:服务器端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
一般来说是IO和CPU。IO开销较多的应用其CPU线程等待时间会比较长,所以线程数量可以开的多一些,相反则线程数量要少一些,其实有两种极端,纯IO的应用,比如proxy,则线程数量可以开到非常大(实在太大了则需要考虑线程切换的开销),这种应用基本上后端(比如这个proxy是代理搜索的)的QPS能有多少,proxy就有多少。
另一种是耗CPU的计算,这种情况一般来讲只能开到CPU个数的线程数量。但是并不是说这种应用的QPS就不高,往往这种应用的QPS可以很高。
QPS和线程数的关系
1、在最佳线程数量之前,QPS和线程是互相递增的关系,线程数量到了最佳线程之后,QPS持平,不在上升,甚至略有下降,同时相应时间持续上升。
2、同一个系统而言,支持的线程数越多(最佳线程数越多而不是配置的线程数越多),QPS越高
QPS和响应时间的关系
1、对于一般的web系统,响应时间一般有CPU执行时间+IO等待时间组成
2、CPU的执行时间减少,对QPS有实质的提升,IO时间的减少,对QPS提升不明显。如果要想明显提升QPS,优化系统的时候要着重优化CPU消耗大户。
最佳线程数和jvm堆内存得关系:
以上都是依据性能瓶颈在CPU的情况,对于java应用还有一个因素是FULL GC,我们要保证在最佳线程数量下,不会发生频繁FULL GC
根据公式::(小GC时间间隔/rt)*(并发线程数量 * thm) <=young 计算得到的并发线程数量如果<最佳线程数量 则可能导致FULL GC较频繁,实际情况看来这种情况在web系统上非常少。不过可以模拟出来。
所以我们在设置jboss线程的时候,可以利用内存公式计算出来的线程数量来设置,通过压测和计算得到最佳线程数,然后设置线程数。
设置线程数量:
压测最佳线程数<真实设置的线程数量<内存极限线程数
比如,通过压测得到某系统的最佳线程数量是10,然后通过内存计算的线程数量是20,则,设置jboss的线程数量为15是可行的,如果直接设置了10,由于系统本身会受到一些依赖系统的变化而产生一些变化,比如系统依赖一些IO的响应时间会突然延长,由于线程数量还是10,其实这个时候最佳线程数量已经变成了13了,由于我们设置死了10,其结果就是导致qps下降,但是如果超过20,则又会引起FULL gc非常频繁,反过来影响QPS的下降。
jboss的线程数设置:
对于jboss而言,设置线程数量要看使用了那种线程连接,如http、ajp等
http和ajp的设置是完全一样的,非常简单:
以ajp为例,找到server.xml或者tomcat-server.xml:
默认线程数量是200个
<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="200" minSpareThreads="40" maxSpareThreads="75" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>
这里将默认的线程数量改成了20,当然相应的其他最小空闲线程数和最大空闲线程数也做一下调整:
<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="20" minSpareThreads="20" maxSpareThreads="20" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>
分享到:
相关推荐
总结起来,使用多线程编程具有如下几个优点: 进程之间不能共享内存,但线程之间共享内存非常容易。 操作系统在创建进程时,需要为该进程重新分配系统资源,但创建线程的代价则小得多。因此,使用多线程来实现多任务...
线程池 epoll 总结了一两种常用的线程模型, 归纳了进程间通讯与线程同步的最佳实践,以期用简单规范的方式开发多线程程序。
1. 编程基础 技巧1:理解并有效使用命名空间和类 技巧2:构造函数的最佳实践与注意事项 技巧3:变量声明与初始化的规范化 技巧4:使用Nullable类型避免NullReferenceException 2. 异常处理与安全性 技巧5:合理的...
必须深入理解Android核心技术的底层原理和在开发中总结并使用各种最佳实践,别无他法!深入Android应用开发:核心技术解析与最佳实践以Android的源代码为主,SDK为辅,针对应用开发者的需求,对各种核心技术的使用...
必须深入理解Android核心技术的底层原理和在开发中总结并使用各种最佳实践,别无他法!深入Android应用开发:核心技术解析与最佳实践以Android的源代码为主,SDK为辅,针对应用开发者的需求,对各种核心技术的使用...
1、技术人的职业发展 2、计算机基础知识与Java语言特性 3、JVM原理 4、并发与多线程 5、数据结构与算法 6、常用工具集 7、必会框架: Spring全家桶 8、缓存 9、MySQL调优与最佳实践 10、架构的演进之路与前沿技术 11...
最佳实践我们引用的来自yahoo前端性能团队总结的35条黄金定律。原文猛击这里。下面我们分门别类将每条的关键点总结一下。80%的响应时间花在下载网页内容(images,stylesheets,javascripts,scripts,flash等)。减少请求...
入门篇(第1~10章)详细讲述支付系统涉及的基本概念,概要设计,核心流程。核心子域设计篇(第4~10章)深入地剖析支付系统各核心子域的架构设计精华。技术专题篇(第11~18章)介绍了一些支付系统领域内非常实用的...
第1章 数据库概念简介 1.1 数据库设计阶段 1.1.1 概念阶段 1.1.2 逻辑阶段 1.1.3 实现阶段 1.1.4 物理阶段 1.2 关系数据结构 1.2.1 数据库和模式 1.2.2 表、行和列 1.2.3 信息原则 ...
这是一个学习的项目,用来总结平时用的技术。 将学习到的新技术积累在该项目下,以便在需要参考的时候可以快速的找到 MAS add mysql jdbc驱动 mvn install:install-file -Dfile=ext_jar/mysql-connector-java-5.1.46...
前 言 致 谢 第一部分 走近Java 第1章 走近Java / 2 1.1 概述 / 2 1.2 Java技术体系 / 3 1.3 Java发展史 / 5 1.4 展望Java技术的未来 / 9 1.4.1 模块化 / 9 1.4.2 混合语言 / 9 1.4.3 多核并行 / 11 ...
序 1 目录 2 JAVA字节代码的操纵 4 动态编译JAVA源文件 4 JAVA字节代码增强 6 JAVALANGINSTRUMENT 8 总结 9 参考资料 10 JAVA类的加载、链接和初始化 11 JAVA类的加载 11 JAVA类的链接 12 JAVA类的初始化 13 创建...
第一章 概述 1 1.1 课题背景 1 1.2 网络爬虫的历史和分类 2 1.2.1 网络爬虫的历史 2 1.2.2 网络爬虫的分类 3 1.3 网络爬虫的发展趋势 4 第二章 相关技术背景 6 ...第六章 总结和展望 24
它使用与C++语言相同的API接口,不仅可以用来开发出大型的软件,而且是了解操作系统运行细节的最佳方式。本书从编写应用程序的角度,从“Hello World!”这个简单的例子开始到编写多线程、注册表和网络通信等复杂的...
它使用与C++语言相同的API接口,不仅可以用来开发出大型的软件,而且是了解操作系统运行细节的最佳方式。本书从编写应用程序的角度,从“Hello World!”这个简单的例子开始到编写多线程、注册表和网络通信等复杂的...
本书是Microsoft.NET Forms程序库的最佳使用指南。, 全书包括15章和4个附录,对WinForms进行了全面而深入的讲解。前半部分讨论了窗体、对话框、GDI+以及打印等相对常见的技术;后半部分则专注于高级主题,内容涵盖...
Java集合详解1:一文读懂ArrayList,Vector与Stack使用方法和实现原理 Java集合详解2:Queue和LinkedList Java集合详解3:Iterator,fail-fast机制与比较器 Java集合详解4:HashMap和HashTable Java集合详解5:深入...
它使用与C++语言相同的API接口,不仅可以用来开发出大型的软件,而且是了解操作系统运行细节的最佳方式。本书从编写应用程序的角度,从“Hello World!”这个简单的例子开始到编写多线程、注册表和网络通信等复杂的...
它使用与C++语言相同的API接口,不仅可以用来开发出大型的软件,而且是了解操作系统运行细节的最佳方式。本书从编写应用程序的角度,从“Hello World!”这个简单的例子开始到编写多线程、注册表和网络通信等复杂的...
考据,即广泛收集资料,比较分析,去伪存真,总结精要的意思。 为什么要以“考据”的形式研究Java应用管理和调优(包括内存、线程等)并撰写这篇文章? 因为“Java应用管理和调优”这一主题不仅涉及理论也涉及实践...