服务器大流量、高并发如何应对？？

所谓服务器大流量高并发是指同时或短时间内到达服务端的大量请求，每个请求都需要消耗资源处理，并做出相应的反馈。

高并发处理的常用思路和手段

从服务端的角度来看，并发性很高

服务端处理要求需要消耗服务端资源，如可同时打开的流程数、可同时运行的线程数、网络连接数等cpu、I/O、内存等，由于服务端资源有限，服务端可以同时处理的要求也有限。高并发性问题的本质是资源的有限性

高并发问题

服务端的处理和响应会越来越慢，甚至会丢弃一些请求，导致服务端崩溃。

高并发处理的基本思路

1)从客户端看

尽量减少请求数量，如依靠客户自身的缓存或处理能力

尽量减少服务端资源的不必要消耗，如重复使用某些资源，如连接池客户端处理的基本原则是不访问服务端

2)从服务端看

增加资源供应，如网络带宽更大，服务器配置更高，性能更高Web使用高性能数据库的服务器

使用集群、分布式系统架构等请求分流

应用优化，如使用更有效的编程语言，优化业务逻辑算法，优化访问数据库SQL

基本原则：分而治之，并提高单个请求的处理速度

高并发处理的基本手段

1)客户端发出请求层面，常用手段有:

尽量利用浏览器的缓存功能，减少访问服务器，如：js、css、图片等

采用压缩传输功能，减少网络流量，提高传输速度

考虑使用异步请求分批获取数据

2)前端接收客户端请求层面，常用手段有:

动静分离，部分静态资源可直接从Nginx返回

根据不同的要求，分发到不同的后端进行处理，如负载平衡、业务拆分访问等

前面加一层做多个Nginx例如：LVS、F5等

也可以在前面使用CDN服务

还可以缓存动态内容，尽量减少访问后端服务

3）Web在服务器层面，常见的手段有：

使用最新的JVM，配置优化

对Web调整内存数量、线程数量等服务器配置优化

能够提供相同服务的多个人Web实现负载均衡的服务器

仔细规划Web部署在服务器上的应用规模

对Web集群服务器

4）Web在应用层面，常见的手段有:

静态动态内容

Java开发优化

优化业务逻辑算法

缓存的合理高效利用

优化访问数据库Sql，使用存储过程等数据库的能力可以考虑

合理使用多线程，加快业务处理

有些业务可以考虑内存数据库或纯内存处理

尽量避免远程调用和大量调用I/O等待耗时的操作

合理规划事务等资源消耗操作

异步处理的合理使用

考虑采用预处理或预计算来减少部分业务的实时计算量

尽量直接调用和处理内部系统之间的业务，减少WebService、工作流等

5)在数据库层面，常手段有：

数据库引擎的合理选择，如Mysql的InnoDB与MyISAM引擎

配置优化

复杂的数据逻辑可以考虑使用存储过程

数据库集群，进行读写分离

数据库的表结构和索引设计合理

减少单库和单表的数据量

微云网络部署了世界120多个国家的数据中心，为世界上许多国家提供海外服务器租赁。所有服务器都可以根据需要配置大带宽和大流量G口独享大带宽服务器，告别网络拥堵；