记一次基于Docker的性能测试

2019 年 12 月 12 日
笔记

来源：http://www.ltesting.net

一句话结论

对于跑在单核CPU上的运算类API, 根据业务需求（最大响应时间）来调试找到最大线程数，然后依据线程数调试出heap大小（主要看年老代的回收次数）

若有理解不到位之处，请在评论区留言，跪谢！

背景

断断续续忙碌了几个月，终于自己写的开源项目算是有了雏形，打包成Docker image发布到AWS EC2后，写代码算是告一段落。随之而来的问题就是“我的项目能够支撑多少QPS” ，由于用了Docker, 即变成了“我的项目基于Docker的配置能够支撑多少QPS”, 更进一步细化这个问题的话，有以下几点：

因为我用了IaaS来创建Linux服务器（选用了Ubuntu）基本配置为 1G RAM 1CPU （2.5GHz）10G+ 硬盘空间（非SSD）
当然我并不希望一个Docker container就把上述资源全部占用掉。另一个原因是目前IaaS所提供的内存最小单元是500M，算上系统其他进程的开销，可供一个Docker image 的最大内存资源我定在了400M

说句题外话，我认为按照服务商提供的最小单元来划分的好处在于：减少开销。500M的费用只有1G的一半，而且将来项目动态伸缩的灵活度高，粒度更小。

项目是一个OAuth2的Spring boot实现，本身对于IO的要求不高、都是短链接。因为要生成JWT令牌，主要压力在CPU。用了内置的Tomcat，多线程在一个CPU上跑，请求数目一多，99%使用率简直是家常便饭

第一步：确定性能测试的指标（benchmark）

俗话说的好, 抛开业务需求来谈IT就是耍流氓。

项目是开源项目，业务需求那就只好我自己定了，一般来说我们并不希望用户登录过快（并且并发登录的情况虽然有但是确实比较少见），这次的api (oauth/token) 我定在了2秒的最大值,以此为基础来找出性能瓶颈。

第二步：确定可调参数

那么在不改动项目代码的前提下，可以调整哪些参数来提升性能的呢？

JVM 相关参数，例如 GC、Heap、Thread stack
Tomcat 相关参数，例如 max-threads、max-connections、accept-count

对于计算为主的项目，主要关注点还是在max-threads，设置合理的话可以减少CPU上下文切换带来的性能开销，以及合适的Heap大小来避免频繁触发GC所造成性能抖动。

第三步：开测 (多图预警)

虽然标题是基于Docker的性能测试，但是我还是想对比一下用与不用Docker上的性能差异，所以测试会分为两个部分, 以下为jre的基本信息

ubuntu@ip-xxx-xx-xx-xxx:~$ java -version  openjdk version "11.0.4" 2019-07-16  OpenJDK Runtime Environment (build 11.0.4+11-post-Ubuntu-1ubuntu218.04.3)  OpenJDK 64-Bit Server VM (build 11.0.4+11-post-Ubuntu-1ubuntu218.04.3, mixed mode, sharing)复制代码

ubuntu jre 信息

/ # java -version  openjdk version "11" 2018-09-25  OpenJDK Runtime Environment 18.9 (build 11+28)  OpenJDK 64-Bit Server VM 18.9 (build 11+28, mixed mode)复制代码

docker jre 信息