本课时讲解的主要内容是:“高性能库表设计”。

范式与反范式

优秀的库表设计是高性能数据库的基础。如何才能设计出高性能的库表结构呢?这里必须要提到数据库范式。范式是基础规范,反范式是针对性设计。

范式

范式是关系数据库理论的基础,也是我们在设计数据库结构过程中所要遵循的规则和指导方法。数据库的设计范式是数据库设计所需要满足的规范。只有理解数据库的设计范式,才能设计出高效率、优雅的数据库,否则可能会设计出低效的库表结构。

目前关系数据库有六种范式:第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF)和第五范式(5NF,还又称完美范式)。

满足最低要求的叫第一范式,简称 1NF。在第一范式基础上进一步满足一些要求的为第二范式,简称 2NF。其余依此类推。各种范式呈递次规范,越高的范式数据库冗余越小。通常所用到的只是前三个范式,即:第一范式(1NF),第二范式(2NF),第三范式(3NF)。

第一范式

第一范式无重复的列,表中的每一列都是拆分的基本数据项,即列不能够再拆分成其他几列,强调的是列的原子性.。

如果在实际场景中,一个联系人有家庭电话和公司电话,那么以“姓名、性别、电话”为表头的表结构就没有达到 1NF。要符合 1NF 我们只需把电话列拆分,让表头变为姓名、性别、家庭电话、公司电话即可。

第二范式

第二范式属性完全依赖于主键,首先要满足它符合 1NF,另外还需要包含两部分内容:

表必须有一个主键;

没有包含在主键中的列必须完全依赖于主键,而不能只依赖于主键的一部分。即要求实体的属性完全依赖于主关键字。所谓完全依赖是指不能存在仅依赖主关键字一部分的属性。

第三范式

第三范式属性不传递依赖于其他非主属性,首先需要满足 2NF,另外非主键列必须直接依赖于主键,不能存在传递依赖。即不能存在:非主键列 A 依赖于非主键列 B,非主键列 B 依赖于主键的情况。

第二范式和第三范式的区别

第二范式:非主键列是否依赖主键(包括一列通过某一列间接依赖主键),要是有依赖关系就是第二范式;

第三范式:非主键列是否直接依赖主键,不能是那种通过传递关系的依赖。要是符合这种依赖关系就是第三范式。

通过对前三个范式的了解,我们知道 3NF 是 2NF 的子集,2NF 是 1NF 的子集。

设计符合 2NF 的表

接下来以订单信息表为例,讲述如何设计一个符合 2NF 的表,首先,我们看原始的订单信息表,如下图所示。

图中,以订单编号和商品编号作为联合主键,商品名称、单位、价格等信息不与主键相关,只与编号相关,违反了第二范式。 应该对订单信息表进行拆分,商品信息单独一张表,订单项目一张表,如下所示,拆分分成 3 张表。

包含客户信息的订单信息表;

包含商品详情的商品信息表;

包含订单详情的订单详情表。

范式优缺点

经过前面的讲解和案例分析可知范式具备以下优点:

避免数据冗余,减少维护数据完整性的麻烦;

减少数据库的空间;

数据变更速度快。

同时,也有如下缺点:

按照范式的规范设计的表,等级越高的范式设计出来的表数量越多。

获取数据时,表关联过多,性能较差。

表的数量越多,查询所需要的时间越多。也就是说所用的范式越高,对数据操作的性能越低。  

反范式

范式是普适的规则,满足大多数的业务场景的需求。对于一些特殊的业务场景,范式设计的表,无法满足性能的需求。此时,就需要根据业务场景,在范式的基础之上进行灵活设计,也就是反范式设计。

反范式设计主要从三方面考虑:

业务场景;

相应时间;

字段冗余。

反范式设计就是用空间来换取时间,提高业务场景的响应时间,减少多表关联。主要的优点如下。

允许适当的数据冗余,业务场景中需要的数据几乎都可以在一张表上显示,避免关联;

可以设计有效的索引。

范式与反范式异同

范式化模型:

数据没有冗余,更新容易;

当表的数量比较多,查询数据需要多表关联时,会导致查询性能低下。

反范式化模型:

冗余将带来很好的读取性能,因为不需要 join 很多表;

虽然需要维护冗余数据,但是对磁盘空间的消耗是可以接受的。

MySQL 使用原则和设计规范

讲完范式,接下来我们看看 MySQL 使用中的一些使用原则和设计规范。

MySQL 虽然具有很多特性并提供了很多功能,但是有些特性会严重影响它的性能,比如,在数据库里进行计算,写大事务、大 SQL、存储大字段等。

想要发挥 MySQL 的最佳性能,需要遵循 3 个基本使用原则。

首先是需要让 MySQL 回归存储的基本职能:MySQL 数据库只用于数据的存储,不进行数据的复杂计算,不承载业务逻辑,确保存储和计算分离;

其次是查询数据时,尽量单表查询,减少跨库查询和多表关联;

还有就是要杜绝大事务、大 SQL、大批量、大字段等一系列性能杀手。

大事务,运行步骤较多,涉及的表和字段较多,容易造成资源的争抢,甚至形成死锁。一旦事务回滚,会导致资源占用时间过长。

大 SQL,复杂的 SQL 意味着过多的表的关联,MySQL 数据库处理关联超过 3 张表以上的 SQL 时,占用资源多,性能低下。

大批量,意味着多条 SQL 一次性执行完成,必须确保进行充分的测试,并且在业务低峰时段或者非业务时段执行。

大字段,blob、text 等大字段,尽量少用。必须要用时,尽量与主业务表分离,减少对这类字段的检索和更新。

下面具体讲解数据库的基本设置规则:

必须指定默认存储引擎为 InnoDB,并且禁用 MyISAM 存储引擎,随着 MySQL 8.0 版本的发布,所有的数据字典表都已经转换成了 InnoDB,MyISAM 存储引擎已成为了历史。

默认字符集 UTF8mb4,以前版本的 UTF8 是 UTF8mb3,未包含个别特殊字符,新版本的 UTF8mb4 包含所有字符,官方强烈建议使用此字符集。

关闭区分大小写功能。设置 lower_case_tables_name=1,即可关闭区分大小写功能,即大写字母 T 和小写字母 t 一样。

这里在实践中有个小问题,如何让系统中区分大小写的库表转换为不区分大小写的库表呢?因为要修改底层数据,还是比较麻烦的,操作步骤如下。

MySQL dump 导出数据库。

修改参数 lower_case_tables_name=1。

导入备份数据时,必须停止数据库,停止业务,影响非常大。

开启 per-table 表空间,开启后,每张业务表会单独创建一个独立于系统表空间的表空间,便于空间的回收,数据的迁移。

MySQL 数据库提供的功能很全面,但并不是所有的功能性能都高效。

存储过程、触发器、视图、event。为了存储计算分离,这类功能尽量在程序中实现。这些功能非常不完整,调试、排错、监控都非常困难,相关数据字典也不完善,存在潜在的风险。一般在生产数据库中,禁止使用。

lob、text、enum、set。这些字段类型,在 MySQL 数据库的检索性能不高,很难使用索引进行优化。如果必须使用这些功能,一般采取特殊的结构设计,或者与程序结合使用其他的字段类型替代。比如:set 可以使用整型(0,1,2,3)、注释功能和程序的检查功能集合替代。

以上是基础规范的内容,但并不是全部,只是以点带面,进行粗略的介绍。下面我们开始讲解命名规范,统一的规范命名,可以增加可读性,减少隐式转换。

规范命名

命名规范如下,命名时的字符取值范围为:a~z,0~9 和 _(下画线)。 

所有表名小写,不允许驼峰式命名;

允许使用 -(横线)和 (空格);如下图所示,当使用 -(横线),后台默认会转化成 @002d;

不允许使用其他特殊字符作为名称,减少潜在风险。

数据库库名的命名规则必须遵循“见名知意”的原则,即库名规则为“数据库类型代码 + 项目简称 + 识别代码 + 序号”。

这样包含了更多的业务信息,比如:

出入系统业务生产库:AOCT、AOCT1、AOCT2;

出入系统业务开发库:AOCTDEV、AOCTDEV1、AOCTDEV2;

出入系统业务测试库:AOCTTEST、AOCTTEST1、AOCTTEST2;

只有一个数据库,则不加序号,否则末尾增加序号;

生产库不加识别代码,否则需要增加识别代码 DEV 或 TEST;

如果只作历史库,则只需要项目简称 +H+ 序号;

图例为常用的识别代码。

表名的命名规则分为:

单表仅使用 a~z、_;

分表名称为“表名_编号”;

业务表名代表用途、内容:子系统简称_业务含义_后缀。

常见业务表类型有:

临时表,tmp;

备份表,bak;

字典表,dic;

日志表,log。

字段名精确,遵循“见名知意”的原则,格式:名称_后缀。

避免普遍简单、有歧义的名称。

用户表中,用户名的字段为 UserName 比 Name 更好。

布尔型的字段,以助动词(has/is)开头。

用户是否有留言 hasmessage,用户是否通过检查 ischecked 等。

常见后缀如下:

流水号/无意义主键,后缀为 id,比如 task_id;

时间,后缀为 time,insert_time。

程序账号与数据库名称保持一致。如果所有的程序账号都是 root@‘%’,密码也一样,很容易错连到其他的数据库,造成误操作。

索引命名格式,主要为了区分哪些对象是索引:

前缀_表名(或缩写)_字段名(或缩写);

主键必须使用前缀“pk_”;

UNIQUE 约束必须使用前缀“uk_”;

普通索引必须使用前缀“idx_”。

数据库规范库表字段的命名,能够提高数据库的易读性,为数据库表设计打下基础。下面我们具体看看表设计的一些规则。

显式指定需要的属性;

创建表时显示指定字符集、存储引擎、注释信息等。         

不同系统之间,统一规范;

不同表之间的相同字段或者关联字段,字段类型/命名要保持一致;库表字符集和前端程序、中间件必须保持一致的 UTF8mb4。

InnoDB 表的注意事项

主键列,UNSIGNED 整数,使用 auto_increment;禁止手动更新 auto_increment,可以删除。

必须添加 comment 注释。

必须显示指定的 engine。

表必备三字段:id、 xxx_create、 xxx_modified。

id 为主键,类型为 unsigned bigint 等数字类型;

xxx_create、xxx_modified 的类型均为 datetime 类型,分别记录该条数据的创建时间、修改时间。

备份表/临时表等常见表的设计规范

备份表/临时表等常见表的设计规范如下。

备份表,表名必须添加 bak 和日期,主要用于系统版本上线时,存储原始数据,上线完成后,必须及时删除。

临时表,用于存储中间业务数据,定期优化,及时降低表碎片。

日志类表,首先考虑不入库,保存成文件,其次如果入库,明确其生命周期,保留业务需求的数据,定期清理。

大字段表,把主键字段和大字段,单独拆分成表,并且保持与主表主键同步,尽量减少大字段的检索和更新。

大表,根据业务需求,从垂直和水平两个维度进行拆分。

垂直拆分:按列关联度。

水平拆分:

按照时间、地域、范围等;

冷热数据(历史数据归档)。

字段设计要求

根据业务场景需求,选择合适的类型,最短的长度;确保字段的宽度足够用,但也不要过宽。所有字段必须为 NOT NULL,空值则指定 default 值,空值难以优化,查询效率低。比如:人的年龄用 unsigned tinyint(范围 0~255,人的寿命不会超过 255 岁);海龟就必须是 smallint,但如果是太阳的年龄,就必须是 int;如果是所有恒星的年龄都加起来,那么就必须使用 bigint。

表字段数少而精,尽量不加冗余列。

单实例表个数必须控制在 2000 个以内。

单表分表个数必须控制在 1024 个以内。

单表字段数上限控制在 20~50 个。

禁用 ENUM、SET 类型。

兼容性不好,性能差。

解决方案:使用 TINYINT,在 COMMENT 信息中标明被枚举的含义。`is_disable` TINYINT UNSIGNED DEFAULT ‘0’ COMMENT ‘0:启用 1:禁用 2:异常’。

禁用列为 NULL。

MySQL 难以优化 NULL 列;

NULL 列加索引,需要额外空间;

含 NULL 复合索引无效。

解决方案:在列上添加 NOT NULL DEFAULT 缺省值。

禁止 VARBINARY、BLOB 存储图片、文件等。

禁止在数据库中存储大文件,例如照片,可以将大文件存储在对象存储系统中,数据库中存储路径。

不建议使用 TEXT/BLOB:

处理性能差;

行长度变长;

全表扫描代价大。

解决方案:拆分成单独的表。

存储字节越小,占用空间越小。尽量选择合适的整型,如下图所示。

主键列,无负数,建议使用 INT UNSIGNED 或者 BIGINT UNSIGNED;预估字段数字取值会超过 42 亿,使用 BIGINT 类型。

短数据使用 TINYINT 或 SMALLINT,比如:人类年龄,城市代码。

使用 UNSIGNED 存储非负数值,扩大正数的范围。

int(3)/int(5) 区别

int(3)/int(5) 的区别,如下图所示。

正常显示没有区别。

3 和 5 仅是最小显示宽度而已。

有 zerofill 等扩展属性时则显示有区别。

浮点数与定点数区别

浮点数与定点数区别,如下图所示。

浮点数:float、double(或 real)。

定点数:decimal(或 numberic)。

从上图中可以观察到:

浮点数存在误差问题;

尽量避免进行浮点数比较;

对货币等对精度敏感的数据,应该使用定点数。

N 解释

字符集都为 UTF8mb4,中文存储占三个字节,而数据或字母,则只占一个字节。

下面看一下字符类型中 N 的解释。

CHAR(N) 和 VARCHAR(N) 的长度 N,不是字节数,是字符数。

username 列可以存多少个汉字,占用多少个字节   

username 最多能存储 40 个字符,占用 120 个字节。

Char 与 Varchar 类型

存储字符串长度相同的全部使用 Char 类型;字符长度不相同的使用 Varchar 类型,不预先分配存储空间,长度不要超过 255。

Char 和 Varchar 占用空间的对比,如下图所示。

Varchar 值存储为 1 字节或 2 字节长度前缀加数据。如果值不超过 255 个字节,则列使用一个字节长度;如果值可能需要超过 255 个字节,则列使用两个字节长度。

为什么超过 255 个字节时,必须使用两个字节长度。

28=256,1 个字节是 8 位;

216=65535,2 个字节是 16 位。

案例

我们学习了范式和反范式、命名规则、表设计规范,下面通过几个具体的案例,进一步巩固这些知识。

IP 处理

一般使用 Char(15) 进行存储,但是当进行查找和统计时,字符类型不是很高效。

MySQL 数据库内置了两个 IP 相关的函数 INET_ATON()、INET_NTOA(),可以实现 IP 地址和整数的项目转换。

因此,我们使用 INT UNSIGNED(占用 4 个字节)存储 IP,非 Char(15)。占 15 个字节。

下图所示,IP:192.168.0.1 与整数之间的转换。

将 IP 的存储从字符型转换成整形,转化后数字是连续的,提高了查询性能,使查询更快,占用空间更小。

TIMESTAMP 处理

同样的方法,我们使用 MySQL 内置的函数(FROM_UNIXTIME(),UNIX_TIMESTAMP()),可以将日期转化为数字,用 INT UNSIGNED 存储日期和时间。

下图示所示,时间 2007-11-30 10:30:19 与整数之间的转换,转化后数字是连续的,占用空间更小,并且可以使用索引提升查询性能。

本案例展示的是,不当的数字类型,导致表无法插入新数据,如下图所示。

当我们使用 load data 进行批量加载数据时,会导致 1467 错误。根据分析,导致 1467 错误是由于 auto_increment 的值,超过了 int 类型的取值范围。

原因分析部分显示,max(seq_id) 为 2147477751,而 int 的范围为 -2147483648~ 2147483647,还剩余空间 5896,而程序需要导入 1 万行,所以报错。

解决办法

将 int 改为 bigint 或者将数据分表。

表大小及使用频率

设计表时,必须考虑表的大小和使用频率,避免由于取值范围过小,导致程序运行失败。

对于 InnoDB 表,要求创建一个与业务无关的主键,比如:每张表以 id 列为主键。但是 id 列非常常见,完全无法表达更深层次的意思,特别是在做两张表的联合查询时,它们都有相同的 id 主键的情况下。

如果你的程序用的是列名,该如何区分 Accounts 表的 id 和 Bugs 的 id 呢?如下图所示,列名 id 并不会使查询变得更加清晰。但如果列名叫作 bug_id 或者 account_id,事情就会变得更加简单。

我们使用主键来定位唯一一条记录,因此主键的列名就应该更加便于理解,如下图所示。

在缺陷跟踪数据库中,我们使用 Products 表中的 product_id 主键列来关联产品和对应的联系人。每个账号可能对应很多产品,每个产品又引用了一个联系人,因此产品和帐号之间是多对一的关系

随着项目日趋成熟,一个产品可能会有多个联系人,除了多对一的关系外,还需要支持产品到账号的一对多的关系。Products 表中的一行数据必须要存储多个联系人。

为了把数据库表结构的改动控制在最小范围内,我们决定将 account_id 的类型修改为 Varchar,这样可以在该列中存储多个账号 id,每个账号 id 之间用逗号分隔。

这样的设计似乎是可行的,没有创建额外的表和列,仅仅改变了一个字段的数据类型。然而,我们来看看这样的设计所必须承受的性能和数据完整性问题。所有外键都合并在一个单元格内,查询会变成异常困难。只能通过正则表达式进行模糊匹配,不但可能会返回错误的结果,而且无法使用索引提高性能。例如:查询指定产品的账号时,联合两张表将不能使用任何索引。这样的查询必然会对两张表进行全表扫描,并创建一个交叉结果集,然后使用正则表达式遍历每一行联合后的数据进行匹配。

出于性能优化方面的考虑,可能在数据库的结果中需要使用反范式的设计。上述 Products 表中将列表存储为以逗号分隔的字符串,就是反范式的一个实例。这个设计只是简化了存储,但是性能低下。因此你需要谨慎使用反范式的数据库设计。尽可能地使用规范化的数据库设计。

根据业务需求,我们如何设计合理的反范式,解决方案是:创建一个交叉表。将 account_id 存储在一张单独的表中,而不是存储在 Products 表中,从而确保每个独立的 account 值都可以占据一行。

这张新表 Contacts,实现了 Products 和 Accounts 的多对多关系。当一张表有指向两张表的外键时,称这种表为交叉表,它实现了两张表之间的多对多关系。这意味着每个产品都可以通过交叉表和多个账号关联;同样地,一个账号也可以通过交叉表和多个产品关联。当我们“查询指定产品的账号”时,就可以直接使用下面的联合查询语句高效实现。

总结回顾

本节课主要讲解一些高性能表设计的规则和案例。

以高性能为目标,库表设计以范式为主,根据特殊业务场景使用反范式,允许必要的空间换时间。

规范数据库的使用原则,统一规范命名,减少性能隐患,减少隐式转换。

高性能表设计的原则:合适的字段、合适的长度、NOT NULL。

从不同角度思考 IP、timestamp 的转换,拓宽设计思路。

规范的命名可提高可读性,反范式设计可提高查询性能。

本课时到这里就结束了,主要讲了范式和反范式、基础规范、命名规范、表设计规范、高性能数据库表实践,下一课时将分享“高性能索引如何设计”。

-– ### 精选评论 ##### **心: > 字符集都为 UTF8mb4,中文存储占三个字节,而数据或字母,则只占一个字节。

utf8mb4是不是占四个字节啊 ######     讲师回复: >     没太理解,可以举个例子看看 ##### **慧: > 数据库字符集有好多,一般的有什么区别,是分场景还是什么? ##### **明: > 我都是用一个字段逗号隔开的去查一列数据,并没有使用正则表达式哦,这个反范式是,不正常吗?mysql 中有很多这样的函数啊? ######     编辑回复: >     小编已记录并反馈给讲师,也建议小伙伴加入咱们的学习群,和大家一起讨论。 ##### **4396: > 为什么不区分大小写?有时候实际的业务需要区别大小写,要做额外的处理,处理起来也很麻烦 ##### **颉: > “因此,我们使用 INT UNSIGNED(占用 4 个字节)存储 IP,非 Char(15)。占 15 个字节。” 这句用字符和字节比较不太合适, 应改成 ”因此,我们使用 INT UNSIGNED(占用 10个字符)存储 IP,非 Char(15)。占 15 个字符。“