服务器性能优化案例(服务器性能优化的通用方法)

作为一个程序员,性能优化是常有的事情,不管是桌面应用还是web应用,不管是前端还是后端,不管是单点应用还是分布式系统。本文从以下几个方面来思考这个问题:性能优化的一般性原则,性能优化的层次,性能优化的通用方法。

服务器性能优化案例(服务器性能优化的通用方法)(1)

1.使用内存数据库

内存数据库,其实就是将数据放在内存中直接操作的数据库。相对于磁盘,内存的数据读写速度要高出几个数量级,将数据保存在内存中相比从磁盘上访问能够极大地提高应用的性能。内存数据库抛弃了磁盘数据管理的传统方式,基于全部数据都在内存中重新设计了体系结构,并且在数据缓存、快速算法、并行操作方面也进行了相应的改进,所以数据处理速度比传统数据库的数据处理速度要快很多。

但是安全性的问题可以说是内存数据库最大的硬伤。因为内存本身有掉电丢失的天然缺陷,因此我们在使用内存数据库的时候,通常需要,提前对内存上的数据采取一些保护机制,比如备份,记录日志,热备或集群,与磁盘数据库同步等方式。对于一些重要性不高但是又想要快速响应用户请求的部分数据可以考虑内存数据库来存储,同时可以定期把数据固化到磁盘。

2.使用RDD

在大数据云计算相关领域的一些应用中,Spark可以用来加快数据处理速度。Spark的核心是RDD,RDD最早来源与Berkeley实验室的一篇论文《Resilient Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing》。现有的数据流系统对两种应用的处理并不高效:一是迭代式算法,这在图应用和机器学习领域很常见;二是交互式数据挖掘工具。这两种情况下,将数据保存在内存中能够极大地提高性能。

服务器性能优化案例(服务器性能优化的通用方法)(2)

3.增加缓存

很多web应用是有大量的静态内容,这些静态内容主要都是一些小文件,并且会被频繁的读,采用Apache以及nginx作为web服务器。在web访问量不大的时候,这两个http服务器可以说是非常的迅速和高效,如果负载量很大的时候,我们可以采用在前端搭建cache服务器,将服务器中的静态资源文件缓存到操作系统内存中直接进行读操作,因为直接从内存读取数据的速度要远大于从硬盘读取。这个其实也是增加内存的成本来降低访问磁盘带来的时间消耗。

4.使用SSD

除了对内存方面的优化,还可以对磁盘这边进行优化。跟传统机械硬盘相比,固态硬盘具有快速读写、质量轻、能耗低以及体积小等特点。但是ssd的价格相比传统机械硬盘要贵,有条件的可以使用ssd来代替机械硬盘。

服务器性能优化案例(服务器性能优化的通用方法)(3)

5.优化数据库

大部分的服务器请求最终都是要落到数据库中,随着数据量的增加,数据库的访问速度也会越来越慢。想要提升请求处理速度,必须要对原来的单表进行动刀了。目前主流的Linux服务器使用的数据库要属mysql了,如果我们使用mysql存储的数据单个表的记录达到千万级别的话,查询速度会很慢的。根据业务上合适的规则对数据库进行分区分表,可以有效提高数据库的访问速度,提升服务器的整体性能。另外对于业务上查询请求,在建表的时候可以根据相关需求设置索引等,以提高查询速度。

6.选择合适的IO模型

IO模型又分为:

(1).阻塞I/O模型:数据没到达之前,I/O一直阻塞,如果数据到达,则会返回。典型的是recvfrom,一般的默认都是阻塞的。

(2).非阻塞的I/O模型:和阻塞相反,只要不能得到结果的时候,I/O立刻返回。不会阻塞当前线程。

IO复用模型:也就是自己要学习的部分。多路复用的意思是,将多路信号合并到一路上进行处理,类似多个管道汇集到一个管道,与之相反的是多路分解。

IO复用模型主要是select,poll,epoll;对一个IO端口,两次调用,两次返回,比阻塞IO并没有什么优越性;关键是能实现同时对多个IO端口进行监听;函数也会使进程阻塞,但是和阻塞I/O所不同的的,这两个函数可以同时阻塞多个I/O操作。而且可以同时对多个读操作,多个写操作的I/O函数进行检测,直到有数据可读或可写时,才真正调用I/O操作函数。

信号驱动:首先开启套接口信号驱动I/O功能,并通过系统调用sigaction安装一个信号处理函数。当数据报准备好被读时,就为该进程生成一个SIGIO信号。随即可以在信号处理程序中调用recvfrom来读数据报,井通知主循环数据已准备好被处理中。也可以通知主循环,让它来读数据报。

异步的IO模型:告知内核启动某个操作,并让内核在整个操作完成后(包括将数据从内核拷贝到用户自己的缓冲区)通知我们。这里并不是说一定要用某个模型,epoll也并不是在所有情况下都比select性能要好的,在选择的时候还是要结合业务需求来。

服务器性能优化案例(服务器性能优化的通用方法)(4)

7.使用多核处理策略

现在运行服务器的主流机器配置都是多核CPU的,我们在设计服务器的时候可以利用多核心的特点,采用多进程或者多线程的框架。关于选择多线程还是多进程可以根据实际的需求,结合各自的优缺点进行选择。对于多线程的使用,特别是使用线程池的时候可以通过测试不同线程池服务器的性能来设置合适的线程池。

8.分布式部署程序

当单机服务器已经找不到合适的优化点时,我们可以通过分布式部署来提高服务器的响应能力。优秀的服务器开发都会为自己的服务器的扩容,容灾提出一些解决方案。个人觉得服务器设计的时候简单点比较好,这样后期扩容的时候会很方便。

分享服务器常用软件简介

先来说 Web 服务器,它一般指的是网站服务器,可以向浏览器(PC端或者移动端)等 Web 客户端提供服务,供请求数据或者下载数据。服务器使用 HTTP (超文本传输协议)和客户端浏览器进行通信,因此我们也把 Web 服务器称作为 HTTP 服务器。

再来说应用服务器,它是一种软件框架,提供一个应用程序运行的环境。通常用于为应用程序提供安全、数据、事务支持、负载平衡大型分布式系统管理等服务。

在我看来,Web 服务器和应用服务器之间的界限已经非常模糊,后者更高级一点,就好像公司与企业这两个名词之间的差别。

常见的 Web 服务器软件包括 Nginx、Apache、IIS,常见的应用服务器软件包括 WebLogic、JBoss,前者更轻量级,后者更重量级。

接下来,我们就来唠唠常见的一些服务器软件。

01、Tomcat

就我的程序生涯来看,Tomcat 用的算是最多了,没有之一。如果 Tomcat 安装成功的话,可以在本地的浏览器中访问 http://127.0.0.1:8080 来展示它的默认首页,见下图。

服务器性能优化案例(服务器性能优化的通用方法)(5)

Tomcat 是由 Apache 软件基金会属下 Jakarta 项目开发的 Servlet 容器,实现了对 Servlet 和 JavaServer Page(JSP)的支持,并提供了作为 Web 服务器的一些特有功能。

JSP 是由 Sun Microsystems 公司主导建立的一种动态网页技术标准。JSP 可以响应客户端发送的请求,并根据请求内容动态地生成 HTML、XML 或其他格式文档的 Web 网页,然后返回给请求者。

JSP 以 Java 语言作为脚本语言,为用户的 HTTP 请求提供服务,并能与服务器上的其它 Java 程序共同处理复杂的业务需求。我是一名三线城市的 Java 程序员,免不了要开发一些小型网站,这也就是为什么我用 Tomcat 最多的原因。

02、Nginx

Nginx 是一款轻量级的 Web 服务器、也支持反向代理,由于它的内存占用少,启动极快,高并发能力强,所以在互联网项目中广泛应用。

服务器性能优化案例(服务器性能优化的通用方法)(6)

关于 Nginx,比较令人遗憾的一件事是,它的作者伊戈尔·赛索耶夫进了监狱。

Nginx 在官方测试的结果中,能够支持五万个并行连接,国内比较有名的公司,比如说百度、京东、新浪、网易、腾讯、淘宝等都在使用。

不知道你有没有听过虚拟主机的概念,就是在 Web 服务里有一个独立的网站站点,这个站点对应独立的域名(也可能是IP 或端口),具有独立的程序及资源,可以独立地对外提供服务供用户访问。

虚拟主机有三种类型:基于域名的虚拟主机、基于端口的虚拟主机、基于 IP 的虚拟主机。

Nginx 可以使用一个 server{}标签来标识一个虚拟主机,一个 Web 服务里可以有多个虚拟主机标签对,即可以同时支持多个虚拟主机站点。这一点,非常的实用。

03、Apache

最开始的时候,我以为 Apache 就是 Tomcat,傻傻分不清楚。后来知道它们完全不同,logo 就不同(说什么大实话)。

服务器性能优化案例(服务器性能优化的通用方法)(7)

Apache 一般是指 Apache HTTP Server,是 Apache 软件基金会(和 Tomcat 同属一家基金会,因此容易混淆)下的一个网页服务器软件。由于其跨平台和安全性,被广泛使用,是最流行的 Web 服务器软件之一。它快速、可靠并且可通过简单的 API 扩展。

我是在服务器上安装 WordPress 的时候用到了 Apache,当时并不知道有 LAMP 的存在,所以安装的过程中吃了很多苦,关键是最后没有安装成功,大写的尴尬。

最后还是在青铜群里的一个群友的远程帮助下才完成安装的,他是搞 PHP 的。LAMP 就是他告诉我的,安装起来非常的傻瓜式,非常适合我这种对命令行有抗拒心理的程序员。

LAMP 是指一组运行动态网站或者服务器的自由软件名称首字母缩写:

  • Linux,操作系统(一般服务器软件都安装在 Linux 上,性能极佳)
  • Apache,网页服务器(就是 Apache HTTP Server)
  • MariaDB 或 MySQL,数据库管理系统
  • PHP、Perl 或 Python,脚本语言

这些软件配合起来使用的时候,极具活力,它的变体还有很多,另外一个比较有名的就是 LNMP,用 Nginx 代替 Apache。

04、Jetty

Jetty 和 Tomcat 有很多相似之处,比如说可以为 JSP 和 Servlet 提供运行时环境。Jetty 是 Java 语言编写的,它的 API 以一组 JAR 包的形式发布。

服务器性能优化案例(服务器性能优化的通用方法)(8)

与 Tomcat 相比,Jetty 可以同时处理大量链接并且长时间的保持这些链接,例如,一些 Web 聊天应用非常适合用 Jetty 服务器,比如说淘宝的 Web 版旺旺。

Jetty 的架构比较简单,它有一个基本数据模型,这个数据模型就是 Handler,所有可以被扩展的组件都可以作为一个 Handler,添加到 Server 中,Jetty 就是帮我们管理这些 Handler 的。

05、Undertow

Undertow 是一个用 Java 编写的、灵活的、高性能的 Web 服务器,提供基于 NIO 的阻塞和非阻塞 API。

Undertow 可以嵌入到应用程序中或独立运行,只需几行代码,非常容易上手。下面这段代码是官网提供的一个使用 Async IO 的简单 Hello World 服务器示例:

public class HelloWorldServer { public static void main(final String[] args) {Undertow server = Undertow.builder.addHttpListener(8080, "localhost").setHandler(new HttpHandler {@Overridepublic void handleRequest(final HttpServerExchange exchange) throws Exception {exchange.getResponseHeaders.put(Headers.CONTENT_TYPE, "text/plain");exchange.getResponseSender.send("Hello World");}}).build;server.start;}}

直接运行后,在浏览器中地址栏中输入 http://localhost:8080就可以访问到了。是不是感觉非常轻巧?

如果有小伙伴使用过 JFinal 开发过小型网站的话,对 Undertow 应该不会陌生,因为 JFinal 的默认容器已经切换到了 Undertow。

JFinal 是基于 Java 语言的极速 WEB ORM 框架,其核心设计目标是开发迅速、代码量少、学习简单、功能强大、轻量级、易扩展、Restful。

06、企业级

至于其他的一些企业级服务器软件,我个人没有用过,就不细说了。

  • JBoss,红帽子收购过,后更名为 WildFly。
  • WebLogic,甲骨文出品。
  • WebSphere,IBM 公司出品。

相信小伙伴们看了出品方,就知道这些服务器软件足够的重量级,都是大佬,都是大佬。

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页