最近阅读《软件性能测试、分析与调优实践之路》一书,个人认为性能调优章节为整部书的精华,该章节包括了性能测试调优模型、调优思想和调优技术。下面是摘抄整理自书中内容:
调优模型
下图为互联网中常见的用户请求的分层转发和处理的过程,在性能调优时就是 不断采集系统中的性能指标以及系统模型中各层的资源消耗,从中发现性能瓶颈和性能问题,然后对瓶颈和问题进行分析诊断来确定性能调优方案,最后通过性能压测进行验证调优方案是否有效,如果无效继续重复这个过程进行性能分析,直到调优方案有效,瓶颈和问题得到解决。
系统模型中相关的组件描述如下表所示:
组件 |
描述 |
网络分发 |
网络分发是高速发展的互联网时代常用的降低网络拥塞,快速响应用户请求的一种技术手段,最常用的网络分发就是CDN(Content Delivery Network,即内容分发网络),依靠部署在世界各地的边缘服务器,通过中心平台的负载均衡、源服务器内容分发、调度等功能模块,使世界各地用户就近获取所需内容,而不用每次都到中心平台的源服务器获取响应结果,比如南京的用户直接访问部署在南京的边缘服务器,而不需要访问部署在遥远的北方的北京的服务器 |
Web服务器 |
Web服务器用于部署Web服务,Web服务器的作用就是负责请求的响应和分发以及静态资源的处理 |
Web服务 |
Web服务指运行在Web服务器上的服务程序,最常见的Web服务就是Nginx和Apache |
Web Cache |
Web Cache指Web层的缓存,一般都是临时缓存HTML、CSS、图像等静态资源文件 |
应用服务器 |
应用服务器用于部署应用程序,如Tomcat、WildFly、普通的Java应用程序(如jar包服务),IIS等 |
应用程序服务 |
应用程序服务指运行在应用服务器上的程序,比如Java应用,C/C++应用、Python应用,一般用于处理用户的动态请求 |
应用缓存 |
应用缓存指应用程序层的缓存服务,常用的应用缓存技术有Redis、Memcached等,这些技术手段也是动态扩展的高并发分布式应用架构中经常使用的技术手段 |
数据库(DB) |
用于数据的存储,可以包括关系型数据库以及NoSql数据库(非关系型数据库),常见的关系型数据库有Mysql、Oracle、Sqlserver、DB2等,常见的NoSql数据库有Hbase、MongoDB、ElasticSearch等 |
外部系统 |
指当前系统依赖于其他的外部系统,需要从其他的外部系统中通过二次请求获取数据,外部系统有时候可能会存在很多个 |
调优思想
1、分层分析
分层分析指的就是 按照系统模型以及系统架构分层、按照调用链进行监控分析和问题排查,如下图所示:
- 分层排查一般需要对系统的应用架构层次以及部署架构非常的熟悉,需要熟悉请求的处理链过程。
- 分层排查一般需要对每一层建立checklist,然后按照每层的checklist逐一进行分析。
- 分层排排查效率较低,但是往往能发现更多的性能问题。
- 分层排查可以自上而下也可以自下而上。
2、科学论证
通常包括发现问题、问题假设、预测、试验论证、分析:
- 发现问题:指通过性能采集和监控,发现了性能瓶颈或者性能问题,比如并发用户数增大后TPS并不增加、每台应用服务器的CPU消耗相差特别大等。
- 问题假设:指根据自己的经验判断,假设是某个因素导致了出现瓶颈和问题。
- 预测:指根据问题假设,预测可能出现的一些现象或者特征。
- 试验论证:根据预测,去检查预期可能出现的现象或者特征
- 分析:根据获取到的实际现象或者特征进行分析,判断假设是否正确,如果不正确,就重新按照这个流程进行分析论证。
科学论证法进行性能分析与调优的示例如下图所示:
3、问题追溯与归纳总结
1、问题追溯分析
问题追溯分析指的是根据问题去追溯最近系统或者环境发生的变化,通过在追溯和描述中去逐步排查可能导致问题的原因,一般适用于生产已上线系统的版本发布或者环境变动导致的性能问题。
2、归纳总结
根据经验的总结,在出现某种性能瓶颈或者性能问题时根据以往总结的原因进行逐一排查。
调优技术
1、缓存调优
缓存调优的关键点:
- 如何让缓存的命中率更高?
- 如何注意防止缓存穿透?
- 如何控制好缓存的失效时间?
- 如何做好缓存的监控分析?比如slow log分析、连接数监控、内存使用监控。
- 如何防止缓存雪崩?
其中,缓存雪崩 指的是服务器在出现断电等极端异常情况后,缓存中的数据全部丢失,导致大量的请求全部需要从数据库中直接获取数据从而数据库压力过大造成数据库崩溃,防止缓存雪崩需要注意:
测试新兵(2023-06-29 07:33:59)
写的太好了,非常实用,已经收藏~