数据库访问量很大时,如何做优化
当数据量很大的时候,主要从以下几点入手。
索引:
任何时候创建索引都是第一选择,当数据量很大嗯时候,有没有索引的查询速度可以说是指数级别的差距,通过索引可以大幅度提升检索效率。

分表:
当数据量非常大的时候,索引可能已经不起作用了,这个时候我们就需要对数据分表存储,可以水平分表和垂直分表,通过分表,一个表的数据量变少了,就是复杂问题简单处理,细分处理。
分布式:
一个数据库的数据量过大的时候,我们可以考虑部署多个数据库,这样每个数据库的数据量相对来说减少了。
缓存:
对热数据进行缓存,28定律存在于整个宇宙中,经常检索的数据一定是少部分数据,我们缓存它们,可以大大提升数据库查询效率。
你好!如果有大量的访问用到调取到数据库时,往往查询速度会变得很慢,所以我们需要进行优化处理。
优化从三个方面考虑:
SQL语句优化、
主从复制,读写分离,负载均衡、
数据库分库分表。
一、SQL查询语句优化
1、使用索引
建立索引可以使查询速度得到提升,我们首先应该考虑在where及order by,group by涉及的列上建立索引。
2、借助explain(查询优化神器)选择更好的索引和优化查询语句
SQL 的 Explain 通过图形化或基于文本的方式详细说明了 SQL 语句的每个部分是如何执行以及何时执行的,以及执行效果。通过对选择更好的索引列,或者对耗时久的SQL语句进行优化达到对查询速度的优化。
3、任何地方都不要使用SELECT * FROM语句。
4、不要在索引列做运算或者使用函数
5、查询尽可能使用limit来减少返回的行数
6、使用查询缓存,并将尽量多的内存分配给MYSQL做缓存
二、主从复制,读写分离,负载均衡
目前大多数的主流关系型数据库都提供了主从复制的功能,通过配置两台(或多台)数据库的主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上。网站可以利用数据库这一功能,实现数据库的读写分离,从而改善数据库的负载压力。一个系统的读操作远远多于写操作,因此写操作发向master,读操作发向slaves进行操作(简单的轮询算法来决定使用哪个slave)。
利用数据库的读写分离,Web服务器在写数据的时候,访问主数据库(master),主数据库通过主从复制将数据更新同步到从数据库(slave),这样当Web服务器读数据的时候,就可以通过从数据库获得数据。这一方案使得在大量读操作的Web应用可以轻松地读取数据,而主数据库也只会承受少量的写入操作,还可以实现数据热备份,可谓是一举两得。
三、数据库分表、分区、分库
1、分表
通过分表可以提高表的访问效率。有两种拆分方法:
垂直拆分
在主键和一些列放在一个表中,然后把主键和另外的列放在另一个表中。如果一个表中某些列常用,而另外一些不常用,则可以采用垂直拆分。
水平拆分
根据一列或者多列数据的值把数据行放到两个独立的表中。
2、分区
分区就是把一张表的数据分成多个区块,这些区块可以在一个磁盘上,也可以在不同的磁盘上,分区后,表面上还是一张表,但是数据散列在多个位置,这样一来,多块硬盘同时处理不同的请求,从而提高磁盘I/O读写性能。实现比较简单,包括水平分区和垂直分区。
3、分库
分库是根据业务不同把相关的表切分到不同的数据库中,比如web、bbs、blog等库。
分库解决的是数据库端 并发量的问题。分库和分表并不一定两个都要上,比如数据量很大,但是访问的用户很少,我们就可以只使用分表不使用分库。如果数据量只有1万,而访问用户有一千,那就只使用分库。
注意:分库分表最难解决的问题是统计,还有跨表的连接(比如这个表的订单在另外一张表),解决这个的方法就是使用中间件,比如大名鼎鼎的MyCat,用它来做路由,管理整个分库分表,乃至跨库跨表的>毗连/p>
优化服务器性能有哪些方法
首先是要做好待优化项目的profile,先对各方面性能做好基准评估,找到瓶颈,才能对症下药。
服务器性能包括四个基本指标,cpu占用,内存占用,网络性能,磁盘性能。相互之间又有>管束/p>
cpu的性能优化很简单,首先是提升利用率,用多进程把每个核充分利用起来。在此基础上,如果cpu占用升高了,只需要扩展cpu核数(云主机)或者更换新的cpu(物理主机)即可。
内存优化最简单,韩信点兵多多益善,但是相对来说内存比较贵,看钱包来优化,比如发现内存只占了一半的话那么可以先不着急升级。
网络性能优化主要是两个方面,一是对网络参数的微调,二是尽量用io异步跑满带宽。参数优化最常见的就是提高fd的最大打开数限制,一般系统初始设置都比较保守,比如1024左右,但是作为服务器来使用是不够的。 应用设计的时候用异步io可以最大限度的利用现有带宽,这个基础上如果带宽跑满了造成瓶颈,要么升级带宽,要么把耗带宽大户移除服务器,比如图片,文件服务
磁盘性能在系统设置上没啥好动的,软件上用好异步io即可。非要觉得慢,要么换ssd,要么上raid(多块磁盘带宽合并)
调优是个很细致的工作,比如fd限制加大了会造成内存开销也会变大,可能优化网络后内存也会告急,有可能加大了带宽后,同时处理的请求也多了,原本富裕的cpu也会告急。所以够写一本书来慢慢说了