程序員必須練就的「性能調優」組合拳【2】

性能調優系列前序文章索引:

  • 程序員必須掌握的性能調優:老兵哥結合個人經歷解釋了程序員往架構師方向發展時為什么要跨越性能調優這一關,以及介紹了從 X、Y、Z 三個維度優化性能的思路。
  • 從  X  維度優化系統的性能:老兵哥分享了從 X 維度優化系統性能的思路,包括讓客戶端分計算存儲任務、優化交互設計等,主要是作為引子拓寬我們性能調優的思路。

程序員在轉型架構師的過程中需要建立流程化、結構化、系統化的思維方式,而性能調優是非常難得的契機,它既給了我們壓力,也給了我們動力,跨越它就是突破自己的過程。

  • X 維度,即業務維度,技術始終是服務業務的,任何技術問題的原點就是業務需求。在啟動技術層面的性能優化之前,我們有必要先審視一下業務流程是否合理,交互設計上有沒有可以優化的空間等。
  • Y 維度,待業務維度優化完畢,接下來就是審視技術在實現當前業務流程或交互設計的全鏈路上有沒有可優化的地方,即 HTTP 請求處理全流程,從瀏覽器到應用容器,再到 Spring、Hibernate、數據庫等。
  • Z 維度,除了沿著 HTTP 請求的橫向鏈路,我們還要審視支持應用系統的縱向技術棧,從上到下包括 JVM、操作系統和硬件等,這是整套應用系統運行的環境,許多性能問題都跟運行環境存在關系。

Y 維度,就是從業務 HTTP 請求的橫向處理流程來看,HTTP 請求會穿越網絡、計算機、應用容器(Tomcat)、Spring、ORM(Hibernate)、數據庫等節點,在這個流程中每個節點都有許多可以可優化的地方,今天老兵哥先談談如何通過優化應用容器(Tomcat)來優化系統性能。

建議在閱讀本文內容前,先參考下面這個系列的文章了解 Web 應用是怎樣處理 HTTP 請求的:

 

2. 應用容器 Tomcat

2.1 啟動參數

操作系統選型,盡可能選擇 64 位操作系統,在 64 位系統上 JVM 內存最高可以設置為 3800MB 左右,在 32 位系統上 JVM 內存最高可以設置為 1500MB 左右。另外,我們可以根據系統物理內存大小合理設置下列五個啟動參數(在文件 catalina.sh、catalina.bat 中):

-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m 

通常,參數取值符合規則:-Xms=-Xmx,-XX:PermSize=-XX:MaxPermSize。上述參數經過驗證,可以穩定運行在各種操作系統平臺和 JDK 版本上,通過調參盡可能地壓榨服務器性能。具體場景下的參數取值需要具體分析,基本原則就是不要超過空閑物理內存的 80% 即可。如果沒有特殊理由,不要設置上述五個參數之外的 JVM 參數,一者無法保證操作系統平臺的可移植性,二者過度干涉內存管理會導致無法預料的后果。

非服務方式啟動的 TOMCAT 調參方式如下:

  • 在 Linux/Unix 系統上,修改 tomcat_home/bin/catalina.sh,添加以下內容:
JAVA_HOME=/export/home/jdk1.6.0_16
JAVA_OPTS="-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote"
  • 在 Windows 系統上,修改 tomcat_home/bin/catalina.bat,添加以下內容:
set JAVA_HOME=C:\Program Files\Java\jdk1.6.0_16
set JAVA_OPTS=-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote

  兩者區別:Linux/Unix 不需要 set,但有”“;Windows 需要set,但不能有”“。服務方式啟動的 TOMCAT 調參方式如下,僅限于 Windows 系統:

 

  • 在 JAVA 選項卡中,設置 JAVA OPTIONS,添加以下三個參數,每行一個,不能并列:
-XX:PermSize=256m
-XX:MaxPermSize=256m
-Dcom.sun.management.jmxremote  
  • 設置 Initial memory pool 為 1000MB。
  • 設置 Maximum menory pool 為 1000MB。
  • 不要設置 thread stack size。


2.2 使用 NIO 的 http1.1 超文本傳輸協議

Java 的 IO 操作集中在 java.io 這個包當中,基于阻塞 API(即 BIO,Block IO)。對許多應用來說,這樣的 API 使用很方便,但某些對性能要求較高的應用,尤其是服務器端應用,往往需要一個更高效的方式來處理 IO。從 JDK1.4 起,NIO API 作為一個基于緩沖區,并能提供非阻塞 IO 操作的 API(即 NIO,non-blocking IO)被引入。BIO 與 NIO 之間最為重要的不同,就是采用 BIO 往往要引入多線程,每個連接分配一個單獨的線程;NIO 是使用單線程或者只使用少量線程,所有連接共用一個線程。具體更改方法如下:

  • 打開 Tomcat 的配置文件:$TOMCAT_HOME/conf/server.xml
  • 找到:<Connector port="8080" protocol="http1.1" ...
  • 改為:<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"...

2.3 調整線程數

Tomcat 可以采用線程池來提升響應速度,默認創建 5 個線程,最大線程數是 200。如果業務并發量較大,則可以對下列幾個參數做些調整,最大線程數可以用“同時在線人數 * 用戶每秒操作次數 * 平均操作時間”公式計算:

  • maxThreads:Tomcat 可創建的最大線程數。
  • acceptCount:如果當前可用線程數為 0,則將請求放入處理隊列中。這個值限定了請求隊列的大小,超過這個數值的請求將不予處理。
  • connectionTimeout:網絡連接超時時間,單位毫秒。
  • minSpareThreads:如果當前沒有空閑線程,且沒有超過 maxThreads,一次性創建的空閑線程數量。Tomcat 初始化時創建的線程數量也由此值設置。
  • maxSpareThreads:一旦創建的線程超過此數值,Tomcat會關閉不再需要的線程。

2.4 使用 APR 來增強性能

Tomcat 可以采用 APR(Apache Portable Runtime)提供超強的可伸縮性和性能,更好地集成本地服務器技術。APR 是一個高可移植庫,它是 Apache HTTP Server 2.x 的核心。APR 有很多用途,包括訪問高級 IO 功能(例如:sendfile、epoll、open SSL 等)、OS 級別的功能(隨機數生成、系統狀態等)、本地進程管理(共享內存、NT 管道、UNIX socket 等),這些功能使 Tomcat 作為 WEB 應用服務器,能更好地與其它本地 Web 技術集成,讓 Tomcat 也可以擔當更高性能的前端 Web 應用服務器,而不是僅僅是后端 Java EE 應用服務器。APR 的具體安裝步驟如下(下載地址:http://apr.apache.org):

  • 安裝 apr 及 apr-util:
> tar zxvf apr-1.3.8.tar.gz
> cd apr-1.3.8
> ./configure —prefix=/usr/lib/apr
> make
> make install
> tar zxvf apr-util-1.3.9.tar.gz
> cd apr-util-1.3.9
> ./configure —with-apr=/usr/lib/apr
> make
> make install
  • 安裝 tomcat-native.tar.gz,此文件在目錄 $TOMCAT_HOME/bin 下:
> tar zxvf tomcat-native.tar.gz
> cd tomcat-native-1.1.16-src/jni/native
> ./configure —with-apr=/usr/lib/apr
> make
> make install
  • 在 Tomcat 的啟動文件($TOMCAt_HOME/bin/catalina.sh)中加入環境變量:
CATALINA_OPTS=-Djava.library.path=/usr/local/apr/lib
  • 或在操作系統的環境變量(/etc/profile)中添加:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

重新啟動計算機或使用命令 source /etc/profile 使其即時生效。
查看啟動日志($TOMCAT_HOME/logs/catalina…….log),如出現如下信息表示APR啟動成功:

啟動時發現日志中有:

Sep 30, 2019 4:32:55 PM org.apache.coyote.http11.Http11AprProtocol start 
INFO: Starting Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:32:55 PM org.apache.coyote.ajp.AjpAprProtocol start 
INFO: Starting Coyote AJP/1.3 on ajp-8009

 

停止時發現日志中有:

Sep 30, 2019 4:27:06 PM org.apache.coyote.http11.Http11AprProtocol destroy 
INFO: Stopping Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:27:06 PM org.apache.coyote.ajp.AjpAprProtocol destroy 
INFO: Stopping Coyote AJP/1.3 on ajp-8009

 

 

2.5 集成Web服務器處理靜態內容

作為一個 Jsp/Servlet 容器,Tomcat 本身對靜態 HTML 文件的處理速度要遠遜于 Apache 等 Web 服務器。通過與此類 Web 服務器集成,Tomcat 僅僅處理動態資源請求,靜態資源請求則交給 Web 服務器處理,這樣可以顯著地降低系統負載,從而提高整體響應的速度。

關注「 IT老兵哥 」,賦能程序人生!堅持原創不易,請小伙伴們不吝點個「 」哦!推薦軟技能文章,請點擊鏈接:程序員,怎樣打造個人影響力?

 

 

近期熱評系列《 程序員必須懂的架構師入門課 》:

posted @ 2020-01-19 11:18  IT老兵哥  閱讀(1019)  評論(7編輯  收藏
最新chease0ldman老人