`
zhb8015
  • 浏览: 374240 次
  • 性别: Icon_minigender_1
  • 来自: 北京
博客专栏
Group-logo
Spring Roo杂谈
浏览量:0
社区版块
存档分类
最新评论

高性能Web后端(转)

阅读更多

真正有资格谈Web高性能的,一定是具有丰富实战经验、经过很多次高并发压力考验的架构师。到目前为止我没有这种经验,个人作品访问量几近于零,接外包做的网站访问压力也不大。虽然没有机会披甲上阵,但纸上谈兵总是可以的吧!国内有2本非常不错的Web架构技术书籍,一本是来自阿里巴巴技术专家李智慧的《 大型网站技术架构 》,另一本则是监控宝CTO郭欣写的《 构建高性能Web站点 》。

《大型网站技术架构》所涉及的范围非常广,从5个方面(高性能、高可用、伸缩性、可扩展、安全)谈到了大型网站的架构。高屋建瓴,一目了然,唯一的缺点就是细节不够。而《构建高性能Web站点》则集中精力谈高性能,给出了很多实战操作示例。总的来说,这2本书非常适合搭配着看。

高性能可以分别对Web前端和Web后端来谈,本文是在我草草翻了翻这2本书后,针对如何提高Web后端性能做的一点读书笔记。

性能评价

要知道Web系统的性能怎么样,首先必须要有评价指标和测试方法。

(1)评价指标

一般有下面几个:

  • 吞吐率:单位时间内服务器处理的请求次数(requests per second)
  • 用户平均请求等待时间:每个用户发起一次请求->得到回应的耗时
  • 服务器平均请求处理时间:服务器处理一条请求的耗时
  • 系统负载:一般包括CPU使用率、CPU Load、内存使用情况、磁盘I/O、网络I/O等

这里稍微提一下CPU Load,它是指一段时间内CPU正在处理以及等待CPU处理的进程数之和的统计信息。如果服务器是8核,若Load=1,表示只有1个任务正在被处理,此时负载很小;Load=8,表示每个核都在处理一个任务,满负载;Load>8,表示需要处理的任务太多,CPU已经超负荷工作啦!可以用top命令查看CPU Load。

(2)测试方法

如何得到上面的指标呢?可以用Apache2附带的工具ab发起测试请求,用法很简单:

ab -n10000 -c10 http://localhost:5000

-n10000 表示总共发起10000次请求, -c10 表示并发用户数为10,也就是说同一时刻有10个用户访问了网站 http://localhost:5000 ,一共访问了10000次(假设每个用户访问网站时仅发起1次请求)。执行完毕后就有blabla一大堆数据出来。

引起评价指标波动的关键因素在于 并发数 ,所以一般会在不同并发数下发起测试,得到指标数据。然后以每个评价指标作为y轴,并发数作为x轴进行描点绘图。一般y=f(x)有一个最大值,这个最大值就是系统能够承受的最大并发数了,高于此并发,系统性能会急剧下降,直至崩溃。下面是吞吐量随并发数的变化曲线示例:

load-graph

Web系统模型

Web系统一般是由不同组件构成的,必须着眼不同的组件来考虑性能优化。以最简单的Web架构来说吧,如图:

web-arch

从左往右看:用户发出request,服务器收到后派发给App(就是指网站程序,一般基于某Web开发框架),App解析request,然后根据业务逻辑可能会访问数据库、读写文件等等,把信息整合为response交给Server,Server再传回用户。

用一个隐喻说明上面的关系:Server就像Boss,负责接活/将产品交付用户;App是干活的码农,但他在干活中可能还需要测试部门、安全部门等的支持。很简单吧!下面针对不同组件来分析性能优化方法。

Server性能优化

关键:如何提升网络I/O吞吐率。

(1)并发策略

要想同一时间处理更多请求,自然要考虑并发了。就我的理解来看,并发策略中主要有2个自由度:I/O模型、执行模型。

在这里,I/O模型主要指服务器如何处理网络I/O。《UNIX网络编程》6.2节对此有非常精彩的描述,一般有5种:阻塞、非阻塞、I/O多路复用、信号驱动、异步。前四种都属于同步I/O,就是说用户进程在I/O处理中存在阻塞,而异步I/O则是在底层完成I/O处理后再通过信号机制通知用户进程。

执行模型的话,一般有这些:单进程/线程、多进程/线程(不考虑协程的话)。多进程/线程一般比单进程/线程性能要好,这样可以充分利用多核的优势。

与I/O模型组合起来说就是:到底是用哪一种执行模型,来运行哪一种I/O模型。举一些例子:NodeJS是单线程+异步I/O、Gunicorn是多进程+同步I/O等等。

完全追求I/O性能的话,多线程/进程+异步I/O应该是最牛的吧,比如用 pm2 开启cluster 模式,使用多进程在多核机器上跑NodeJS,性能有多强悍,还没有做过测试...

(2)集群与负载均衡

一个扛不住?那就加更多的服务器一起上吧!还需要使用某种负载均衡技术将网络请求均衡地分配到各个机器上,一般有:HTTP重定向、DNS轮询、反向代理、IP负载均衡、数据链路层负载均衡。均衡算法一般有:轮询、加权轮询、随机、最少连接、源地址散列等。以上这些在《大型网站技术架构》中都有精彩的阐述,就不展开说明了。

值得一提的是,集群和负载均衡是一种非常通用的技术,可以用于很多Web组件中。

(3)持久链接

HTTP是建立在TCP基础之上的,浏览器是一种HTTP软件,它在与服务器通信时首先需要建立TCP连接,这个过程有一定的开销。如果每次请求后都断掉的话,那是不是太浪费资源了?好在现代浏览器和服务器一般都支持长连接(Keep-Alive)技术。服务器在开启Keep-Alive后,会在HTTP应答中加上Connection: Keep-Alive 这个header,然后浏览器就知道需要长时间保持连接不关掉啦!

App性能优化

关键:在接收到request后,如何更快地做出response。

(1)执行速度

不同语言的运行速度会相当不一样,但是运行速度和开发效率是需要相互权衡的。让我用汇编去写Web,打死都不愿意!一般根据业务需求、团队喜好来选择,Java/Python/NodeJS/Go/PHP/Ruby都不错。选定后,可以采用某些措施加速代码的运行,比如使用更好的编译器/解释器、使用C/C++编译的第三方库等等。

(2)算法与数据结构

如果业务逻辑中涉及到一定复杂度的运算,那就可以考虑从算法和数据结构层面进行优化。这个可能对单次request效果不明显,但如果访问量特别大的话,微小的性能提升也会被放大很多倍哦!

(3)I/O模型

你可能比较好奇,不是在Server中已经提了I/O模型了嘛,怎么这里又来一个?请注意,Server中的I/O一般指网络I/O,具体来说是对TCP Socket的读写。而在App代码中也会和各种I/O设备打交道,举例:

  • 磁盘I/O:读写文件
  • 网络I/O:发起OAuth请求
  • 数据库I/O:读写MySQL
  • 内存I/O:读写Redis

内存I/O等待一般是可以忽略的(除非是分布式缓存,或者某块内存忽然坏掉-_-),其他I/O则不容忽视。那么从I/O请求到读写完毕之间,到底该怎么处理?一般的Web开发框架都是同步I/O模型,但是也有采用异步模型的,比如NodeJS、Tornado。在App中采用异步模型,必须采用支持异步调用的库。NodeJS中的File、HTTP、Net、Stream等module都是为Node量身打造的,完全异步。Tornado也可以使用到很多第三方库的 异步版 。值得一提的是,在App层面采用的异步I/O库,一般都是在Server的异步I/O机制的基础上打造的:Node自然不用说了,都是基于Node的事件机制;Tornado的异步库也都是基于 tornado.ioloop 的。

天下没有免费的午餐,由于执行模式是异步的,会给编程和调试带来巨大挑战。我们需要采取额外的措施来提升开发体验,事件机制、Promise等都是NodeJS中比较流行的应对方法。

BTW,在App层面采用异步I/O模型,只能解决I/O性能问题。如果业务逻辑是偏CPU运算密集型,提升效果就不明显啦!

(4)缓存

缓存真的是万金油。哪里卡哪里抹一点,从前端到后端,能抹的地方太多啦。对于App来说,下面是几种典型的应用场景:

  • 缓存Session
  • 缓存HTML页面:比如访问压力较大的首页
  • 数据库读缓存/写缓存:读缓存很常见,这里提一下写缓存,有时候我们没有必要太频繁地写数据库,可以将写操作直接在缓存上做,然后累积到一定次数再一起写入数据库中
  • 缓存复杂运算结果:比如把计算得出的当前热门话题缓存起来

一般使用Redis/Memcached来做缓存。

(5)计算外包

为了保证较高的请求吞吐率,业务逻辑代码中不适合出现特别耗时的操作(比如图像处理、群发邮件等),这个时候就可以把这些耗时的计算过程从App中外包出去,交给独立的计算模块完成。计算外包(也就是分布式计算啦)可以有2种策略:异步计算、并行计算。

异步计算 是将计算任务转移出去的一种方法,这种架构中一般会有3种角色:生产者、任务队列、消费者。App在这里充当了生产者的角色,不断地将新的计算任务插入队列中;可以用Redis、MySQL、第三方消息队列(比如RabbitMQ)等存储计算任务;消费者就是真正执行计算的了,一般会开启多个后台worker,不断地从队列中取出任务来执行。

举个例子,GitHub仓库的语言构成的计算是比较耗时的,每一次commit都执行计算是非常划不来的,所以GitHub采用了异步计算,每周以一定频率计算并更新各仓库的语言构成。

之前的异步计算只是把计算任务转移,但并没有减少总体的处理时间。怎么办?能不能把计算任务先分割为小块儿,然后一起算,算好了再汇总呢?这就是 并行计算 的原理啦!这里不得不提一下Google的Map/Reduce分布式并行计算框架。

简单地说,App这边负责拆分计算任务,然后会有多个worker对每一个计算任务都并发调用Map函数来运算,运算结果根据某参照(比如城市编号、班级号)存放在不同的结果集中。所有的Map都运算完毕后,再由worker针对每一个Map结果集都并发调用Reduce函数进行汇总计算,得出最终结果。这篇 文章 还不错,可以说明Map/Reduce的大概原理。

(6)资源复用

之前说过,既然Server可以复用与客户端的TCP连接,那么App能不能复用与各种I/O设备的连接呢?当然可以!比如MySQL、Redis等都可以用线程池的形式存放连接,减少开销。

数据库性能优化

关键:如何更快地读/写数据。

这里的数据库特指MySQL,在介绍数据库性能优化方法之前,提几个用于性能分析的MySQL命令行工具:

  • mysqlreport :第三方MySQL状态报告工具,分析结果一目了然
  • explain :用于分析SQL语句的执行细节(比如是否用到了索引)
  • mysqlsla :用于查询哪些SQL操作的耗时超过了预设的阈值,使用此工具之前需要在 my.cnf 开启慢查询日志,即增加 long_query_time=1 和log-slow-queries = /data/var/mysql_slow.log 这2行配置项

(1)索引

索引就像是一本书的目录,好的索引可以极大地提升select操作的效率,但会增加delete/update/insert的开销。如果你的数据库的读远多于写,那么索引是非常奏效的。

  • 在哪个字段设置索引:经常出现在select语句的where/order by/group by后的字段,都可以考虑设置索引
  • 使用组合索引:如果一条select语句的条件过滤中涉及到了多个field,那可以考虑设置组合索引,组合索引有一个最重要的原则就是 最左前缀 ,比如where A=1 and C=2 是无法使用到 A, B, C 组合索引的
  • 判断一个SQL操作是否用到索引,可以使用explain工具

(2)冗余设计

数据库的表设计一般遵循所谓的第三范式(3NF),即要求非主键字段之间不能存在依赖关系。但是如果完全按照这样来做的话,SQL语句中会包含大量的join操作。在设计时我们可以保留适量的冗余,比如一个user的blogs数目,可以直接在user表中增加一个blogs_count字段,每次增加/删除blog时就相应地+/-此字段。以后查询起来就快了。

(3)读写分离

单个数据库读写扛不住?那就把读写分离开吧,使用MySQL的主从复制功能,多个从数据库保持与主数据库的同步,然后update/delete/insert全部走主数据库,select则使用负载均衡技术分摊到多个从数据库上。

(4)垂直分区 & 水平分区

读写分离了还是不行,怎么办?可以考虑把相对独立的数据表存放在不同的服务器上,然后每一个都采用读写分离技术,这就是垂直分表,可以进一步将读写压力分摊到更多的服务器上。

如果垂直分表了还不行,那就考虑将单表进一步拆分(分表),然后每n(n>=1)个表部署到独立的服务器上(水平分区)。分表和水平分区的方法大概有:哈希算法、范围分区、映射关系,具体见《构建高性能Web站点》P370页。

(5)NoSQL

如果以上的方法还不奏效,或者虽然奏效但维护成本太高,那就可以考虑抛弃关系数据库,转投NoSQL阵营了。需要注意的是,关系数据库和NoSQL都有各自的适用场景,谁也无法完全取代谁。但NoSQL实在是太多啦,如何选择呢?这里推荐一些比较不错的博文:Robbin的 文章 对NoSQL有一个概览式的分类,草屋主人的NoSQL系列文章 涉及到了各类应用场景,值得一读。

文件存储性能优化

关键:如何更快地写入和读取。

(1)存储介质

换过SSD的同学一般都会体会到操作体验的巨大提升,我所用过的Digital Ocean的主打亮点就是SSD。不过SSD的性价比和稳定性尚待考验,但未来应该是SSD的!

(2)分布式存储

了解了很多眼花缭乱的名词:RAID、HDFS、MongoDB GridFS...但完全不知道它们的关系和脉络到底如何,至于适用场景的话也没怎么看懂TAT,所以就不说了...以后如果有了这方面的实战经验,我想可以单独讨论一下。留几个链接以后再看吧: [1] 、 [2] 、 [3] 、 [4] 。

Web后端性能优化方面的知识就记录到这里,前端篇待续。

· EOF ·

分享到:
评论

相关推荐

    实战Nginx高性能Web服务器

    1、高性能Web服务器Nginx的配置与部署研究(1)Nginx简介及入门示例 内容:概述Nginx的背景知识和简单的入门实例。 2、高性能Web服务器Nginx的配置与部署研究(2)Nginx入门级配置与部署及“Hello World” 内容:...

    互联网架构设计:高性能的后端

    1)Web浏览器高性能设计 2)App客户端高性能设计 3)高性能的网络和硬件4)后台服务高性能设计后端服务一般指用户直接看到的远程服务,涉及到网络硬件、逻辑计算、通信协议和数据存储等部分。下面

    基于erlang/otp的高性能web框架 cowboy 做后端服务, 支持基于webrtc 一对一视频通话功能

    使用erlang做后端、flutter做前端开发的一款开源的即时聊天解决方案(基于erlang/otp的高性能web框架 cowboy 做后端服务,用 "8核16G 主机"压测,保持100万+TCP稳定在线90分钟以上) 支持基于webrtc 一对一视频通话...

    高性能web建议

    建立高性能web站点的一些建议和实践,90%的性能问题都可能出之于前端而不是后端

    高性能Php应用开发

    它分析和研究了Web应用程序的前端和后端,并系统地提升了其性能和运行效率。《高性能PHP应用开发》还介绍了PHP编码最佳实践的运用以及如何使用工具来应用缓存技术。另外书中也涉及了对Web服务器的优化和数据库的优化...

    高性能PHP应用开发

    它分析和研究了Web应用程序的前端和后端,并系统地提升了其性能和运行效率。《高性能PHP应用开发》还介绍了PHP编码最佳实践的运用以及如何使用工具来应用缓存技术。另外书中也涉及了对Web服务器的优化和数据库的优化...

    php高性能应用开发

    它分析和研究了Web应用程序的前端和后端,并系统地提升了其性能和运行效率。《高性能PHP应用开发》还介绍了PHP编码最佳实践的运用以及如何使用工具来应用缓存技术。另外书中也涉及了对Web服务器的优化和数据库的优化...

    完结16章SpringBoot2 仿B站高性能前端+后端项目

    2、内嵌服务器:Spring Boot 提供内嵌的 Tomcat、Jetty 和 Undertow 等 Web 服务器,使得应用程序的部署变得非常简单,开发人员只需要将应用程序打包成一个jar文件,即可在任何地方运行应用程序 3、简化依赖...

    实战Nginx:取代Apache的高性能Web服务器

    实战Nginx:取代Apache的高性能Web服务器 作者: 张宴 出版社: 电子工业出版社 出版年: 2010年2月 内容简介  Nginx (“engine x”) 是俄罗斯人Igor Sysoev编写的一款高性能HTTP 和反向代理服务器。Nginx选择了...

    SpringBoot2 仿B站高性能前端+后端项目[24年3月完结16章]

    这点在Spring的官网上有比较详情的描述,我们可以在Spring的项目 里看到Spring的生态涵盖了web开发、数据访问、安全控制、分布式、消息服务、移动开发、批处理等等 SpringBoot优点 SpringBoot的优点我可以在 ...

    Go-提供最简单的方法创建web应用程序在Go语言中

    web.go提供最简单的方法创建web应用程序在Go语言中。它非常适合编写简单的,高性能的后端Web服务。

    构建MetroNic+Mybatis+ Spring MVC的高性能web应用

    是一个通用JavaWeb项目框架,使用Java、Web等一系列技术,搭建开发高性能、高可拓展性、高可维护性,高安全性的web项目; 以及Web前端模块化、组件化开发,与后台最佳的交互;以及探索使用NoSQL、与SQL等多数据库...

    web性能权威指南

    本书是谷歌公司高性能团队核心成员的权威之作,堪称实战经验与规范解读完美结合的产物。本书目标是涵盖Web 开发者技术体系中应该掌握的所有网络及性能优化知识。全书以性能优化为主线,从TCP、UDP 和TLS 协议讲起,...

    RestRserve:用于构建高性能微服务和应用程序后端的R Web API框架

    RestRserve:用于构建高性能微服务和应用程序后端的R Web API框架

    koacrab是基于koa2的高性能web框架。.zip

    包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源、音视频、网站开发等各种技术项目的源码。 包括STM32、ESP8266、PHP、QT、Linux、iOS、C++、Java、python...

    高并发、高性能Web架构

    以下是一个典型的高负载web应用示例:上图展示了一个典型的,三层架构的高性能Web应用。这种成熟的架构多年以来已被广泛部署于包括Google、Yahoo、Facebook、Twitter、Wikipedia在内的诸多大型Web应用中。位于三层...

    实战Nginx.取代Apache的高性能Web服务器.2010 pdf

     Nginx (“engine x”) 是俄罗斯人Igor Sysoev编写的一款高性能HTTP 和反向代理服务器。Nginx选择了epoll和kqueue作为网络I/O模型,在高连接并发的情况下,Nginx是Apache服务器不错的替代品,它能够支持高达50 000...

Global site tag (gtag.js) - Google Analytics