IT序号网

DBA的40条军规

xmjava 2021年06月14日 数据库 288 0


DBA操作规范


1、涉及业务上的修改/删除数据,在得到业务方、CTO的邮件批准后方可执行,执行前提前做好备份,必要时可逆。


2、所有上线需求必须走工单系统,口头通知视为无效。


3、在对大表做表结构变更时,如修改字段属性会造成锁表,并会造成从库延迟,从而影响线上业务,必须在凌晨0:00后业务低峰期执行,另统一用工具pt-online-schema-change避免锁表且降低延迟执行时间。


使用范例:


#pt-online-schema-change  --alter="add index   IX_id_no(id_no)"  \

--no-check-replication-filters  --recursion-method=none  --user=dba    \  

--password=123456  D=test,t=t1 --execute


对于MongoDB创建索引要在后台创建,避免锁表。


使用范例:


db.t1.createIndex({idCardNum:1},{background:1})


4、所有线上业务库均必须搭建MHA高可用架构,避免单点问题。


5、给业务方开权限时,密码要用MD5加密,至少16位。权限如没有特殊要求,均为select查询权限,并做库表级限制。


6、删除默认空密码账号。


delete from mysql.user where user='' and password='';

flush privileges;


7、汇总库开启Audit审计日志功能,出现问题时方可追溯。


行为规范


8、禁止一个MySQL实例存放多个业务数据库,会造成业务耦合性过高,一旦出现问题会殃及池鱼,增加了定位故障问题的难度。通常采用多实例解决,一个实例一个业务库,互不干扰。


9、禁止在主库上执行后台管理和统计类的功能查询,这种复杂类的SQL会造成CPU的升高,进而会影响业务。


10、批量清洗数据,需要开发和DBA共同进行审查,应避开业务高峰期时段执行,并在执行过程中观察服务状态。


11、促销活动等应提前与DBA当面沟通,进行流量评估,比如提前一周增加机器内存或扩展架构,防止DB出现性能瓶颈。


12、禁止在线上做数据库压力测试。


基本规范


13、禁止在数据库中存储明文密码。


14、使用InnoDB存储引擎。


  • 支持事务,行级锁,更好的恢复性,高并发下性能更好。

  • InnoDB表避免使用COUNT(*)操作,因内部没有计数器,需要一行一行累加计算,计数统计实时要求较强可以使用memcache或者Redis。


15、表字符集统一使用UTF8。


不会产生乱码风险。


16、所有表和字段都需要添加中文注释。


方便他人、方便自己。


17、不在数据库中存储图片、文件等大数据。


图片、文件更适合于GFS分布式文件系统,数据库里存放超链接即可。


18、避免使用存储过程、视图、触发器、事件。


MySQL是OLTP应用,最擅长简单的增、删、改、查操作,但对逻辑计算分析类的应用,并不适合,所以这部分的需求最好通过程序上实现。


19、避免使用外键,外键用来保护参照完整性,可在业务端实现。


外键会导致父表和子表之间耦合,十分影响SQL性能,出现过多的锁等待,甚至会造成死锁。


20、对事务一致性要求不高的业务,如日志表等,优先选择存入MongoDB。


其自身支持的sharding分片功能,增强了横向扩展的能力,开发不用过多调整业务代码。


库表设计规范


21、表必须有主键,例如自增主键。


这样可以保证数据行是按照顺序写入,对于SAS传统机械式硬盘写入性能更好,根据主键做关联查询的性能也会更好,并且还方便了数据仓库抽取数据。从性能的角度来说,使用UUID作为主键是个最不好的方法,它会使插入变得随机。


22、禁止使用分区表。


分区表的好处是对于开发来说,不用修改代码,通过后端DB的设置,比如对于时间字段做拆分,就可以轻松实现表的拆分。但这里面涉及一个问题,查询的字段必须是分区键,否则会遍历所有的分区表,并不会带来性能上的提升。此外,分区表在物理结构上仍旧是一张表,此时我们更改表结构,一样不会带来性能上的提升。所以应采用切表的形式做拆分,如程序上需要对历史数据做查询,可通过union all的方式关联查询。另外随着时间的推移,历史数据表不再需要,只需在从库上dump出来,即便捷地迁移至备份机上。


字段设计规范


23、用DECIMAL代替FLOAT和DOUBLE存储精确浮点数。


浮点数的缺点是会引起精度问题,请看下面一个例子:


mysql> CREATE TABLE t3 (c1 float(10,2),c2 decimal(10,2));       
Query OK, 0 rows affected (0.05 sec)
>mysql> insert into t3 values (999998.02, 999998.02);    
Query OK, 1 row affected (0.01 sec)
>mysql> select * from t3;
+-----------+-----------+
| c1        | c2        |
+-----------+-----------+
| 999998.00 | 999998.02 |
+-----------+-----------+
1 row in set (0.00 sec)


可以看到c1列的值由999998.02变成了999998.00,这就是float浮点数类型的不精确性造成的。因此对货币等对精度敏感的数据,应该用定点数表示或存储。


24、使用TINYINT来代替ENUM类型。


采用enum枚举类型,会存在扩展的问题,例如用户在线状态,如果此时增加了:5表示请勿打扰、6表示开会中、7表示隐身对好友可见,那么增加新的ENUM值要做DDL修改表结构操作了。


25、字段长度尽量按实际需要进行分配,不要随意分配一个很大的容量。


选择字段的一般原则是保小不保大,能用占用字节少的字段就不用大字段。比如主键,强烈建议用int整型,不用uuid,为什么?省空间啊。空间是什么?空间就是效率!按4个字节和按32个字节定位一条记录,谁快谁慢太明显了。涉及几个表做join时,效果就更明显了。更小的字段类型占用的内存就更少,占用的磁盘空间和磁盘I/O也会更少,而且还会占用更少的带宽。

有不少开发人员在设计表字段时,只要是针对数值类型的全部用int,但这不一定合适,就比如用户的年龄,一般来说,年龄大都在1~100岁之间,长度只有3,那么用int就不适合了,可以用tinyint代替。又比如用户在线状态,0表示离线、1表示在线、2表示离开、3表示忙碌、4表示隐身等,其实类似这样的情况,用int都是没有必要的,浪费空间,采用tinyint完全可以满足需要,int占用的是4字节,而tinyint才占用1个字节。

int整型有符号(signed)最大值是2147483647,而无符号(unsigned)最大值是4294967295,如果你的需求没有存储负数,那么建议改成有符号(signed),可以增加int存储范围。


int(10)和int(1)没有什么区别,10和1仅是宽度而已,在设置了zerofill扩展属性的时候有用,例:


root@localhost(test)10:39>create table test(id int(10) zerofill,id2 int(1));
Query OK, 0 rows affected (0.13 sec)
root@localhost(test)10:39>insert into test values(1,1);
Query OK, 1 row affected (0.04 sec)
root@localhost(test)10:56>insert into test values(1000000000,1000000000);
Query OK, 1 row affected (0.05 sec)
root@localhost(test)10:56>select * from test;
+------------+------------+
| id         | id2        |
+------------+------------+
| 0000000001 |          1 |
| 1000000000 | 1000000000 |
+------------+------------+
2 rows in set (0.01 sec)


26、字段定义为NOT NULL要提供默认值。


从应用层角度来看,可以减少程序判断代码,比如你要查询一条记录,如果没默认值,你是不是得先判断该字段对应变量是否被设置,如果没有,你得通过java把该变量置为''或者0,如果设了默认值,判断条件可直接略过。


NULL值很难进行查询优化,它会使索引统计更加复杂,还需要MySQL内部进行特殊处理。


27、尽可能不使用TEXT、BLOB类型。


增加存储空间的占用,读取速度慢。


索引规范


28、索引不是越多越好,按实际需要进行创建。


索引是一把双刃剑,它可以提高查询效率但也会降低插入和更新的速度并占用磁盘空间。适当的索引对应用的性能至关重要,而且在MySQL中使用索引它的速度是极快的。遗憾的是,索引也有相关的开销。每次向表中写入时(如INSERT、UPDATEH或DELETE),如果带有一个或多个索引,那么MySQL也要更新各个索引,这样索引就增加了对各个表的写入操作的开销。只有当某列被用于WHERE子句时,才能享受到索引的性能提升的好处。如果不使用索引,它就没有价值,而且会带来维护上的开销。


29、查询的字段必须创建索引。


如:1、SELECT、UPDATE、DELETE语句的WHERE条件列2、多表JOIN的字段。


30、不在索引列进行数学运算和函数运算。


无法使用索引,导致全表扫描。


例:SELECT * FROM t WHERE YEAR(d) >= 2016;
由于MySQL不像Oracle那样支持函数索引,即使d字段有索引,也会直接全表扫描。
应改为----->
SELECT * FROM t WHERE d >= '2016-01-01';


31、不在低基数列上建立索引,例如‘性别’。


有时候,进行全表浏览要比必须读取索引和数据表更快,尤其是当索引包含的是平均分布的数据集是更是如此。对此典型的例子是性别,它有两个均匀分布的值(男和女)。通过性别需要读取大概一半的行。在种情况下进行全表扫描浏览要更快。


32、不使用%前导的查询,如like ‘%xxx’。


无法使用索引,导致全表扫描。


低效查询
  SELECT * FROM t WHERE name LIKE '%de%';
  ----->
  高效查询
  SELECT * FROM t WHERE name LIKE 'de%';


33、不使用反向查询,如 not in / not like。


无法使用索引,导致全表扫描。


34、避免冗余或重复索引。


联合索引IX_a_b_c(a,b,c) 相当于 (a) 、(a,b) 、(a,b,c),那么索引 (a) 、(a,b) 就是多余的。


SQL设计规范


35、不使用SELECT *,只获取必要的字段。


  • 消耗CPU和IO、消耗网络带宽;

  • 无法使用覆盖索引。


36、用IN来替换OR。


低效查询

SELECT * FROM t WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30;

----->

高效查询

SELECT * FROM t WHERE LOC_IN IN (10,20,30);


37、避免数据类型不一致。


SELECT * FROM t WHERE id = '19';

----->

SELECT * FROM t WHERE id = 19;


38、减少与数据库的交互次数。


INSERT INTO t (id, name) VALUES(1,'Bea');
INSERT INTO t (id, name) VALUES(2,'Belle');
INSERT INTO t (id, name) VALUES(3,'Bernice');
----->
INSERT INTO t (id, name) VALUES(1,'Bea'), (2,'Belle'),(3,'Bernice');

Update … where id in (1,2,3,4);

Alter table tbl_name add column col1, add column col2;


39、拒绝大SQL,拆分成小SQL。


低效查询
SELECT * FROM tag
JOIN tag_post ON tag_post.tag_id = tag.id
JOIN post ON tag_post.post_id = post.id
WHERE tag.tag = 'mysql';
可以分解成下面这些查询来代替
----->
高效查询
SELECT * FROM tag WHERE tag = 'mysql'
SELECT * FROM tag_post WHERE tag_id = 1234
SELECT * FROM post WHERE post_id in (123, 456, 567, 9098, 8904);


40、禁止使用order by rand()


SELECT * FROM t1 WHERE 1=1 ORDER BY RAND() LIMIT 4;

---->

SELECT * FROM t1 WHERE id >= CEIL(RAND()*1000) LIMIT 4; 


相关专题:



评论关闭
IT序号网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!