way-to-architect
  • 前言
  • Java
    • Java关键字
      • Java中四种修饰符的限制范围
      • static和final
    • 容器
      • 容器概述
        • 容器:综述
        • Iterator原理及实现
        • fast-fail机制
        • 比较器Comparator
        • Collections工具类
      • List
        • List综述
        • ArrayList原理分析
        • ArrayList在循环过程中删除元素的问题
        • 常用的小技巧
        • CopyOnWrite
      • Set
        • Set综述
        • HashSet
        • LinkedHashSet
        • TreeSet
      • Queue
        • Queue综述
        • ArrayBlockingQueue实现原理
        • LinkedBlockingQueue实现原理
        • 高性能无锁队列Disruptor
      • Map
        • Map综述
        • HashMap
          • HashMap实现原理
          • HashMap中的位运算
          • HashMap其他问题
        • LinkedHashMap
        • TreeMap
        • ConcurrentHashMap
          • ConcurrentHashMap实现原理JDK1.7
          • ConcurrentHashMap实现原理JDK1.8
        • ConcurrentSkipListMap
        • Map中key和value的null的问题
    • 线程
      • 线程
        • 创建线程
        • 线程状态及切换
        • 线程中断的理解
        • 几种方法的解释
        • 用户线程与守护线程
        • 线程组ThreadGroup
      • 线程池
        • 线程池工作原理及创建
        • Executor
        • 如何确保同一属性的任务被同一线程执行
      • ThreadLocal
        • ThreadLocal原理
        • ThreadLocal之父子线程传值
        • InheritableThreadLocal
      • 同步与锁
        • 线程安全与锁优化
        • synchronize关键字
        • Lock
          • 队列同步器
            • 同步状态的获取与释放
            • 使用方式
            • 示例:Mutex
            • 示例:TwinsLock
          • 重入锁和读写锁
          • LockSupport
          • Condition
          • 并发工具类
        • CAS
          • CAS的理解
          • Java中原子操作类
        • 3个经典同步问题
      • fork/join的理解
    • I/O
      • I/O概述
        • 磁盘I/O与网络I/O
        • 主要接口
        • 输入流和输出流的使用示例
        • InputStream的重复读
        • BufferdxxxxStream
        • Serailizable
        • File常用方法
        • Files和Path
        • RandomAccessFile
        • 通过零拷贝实现有效数据传输
        • 正确地处理文件
      • NIO基础
      • NIO2
      • Netty
        • Java I/O的演进之路
        • 为什么是Netty
        • 更多
      • I/O调优
    • 异常
      • 异常体系及为什么要有这种异常设计
      • 多catch的执行情况
      • try catch finally 与reture
      • 异常处理的误区
      • Preconditions:方法入参校验工具
    • 枚举
      • 常见用法
      • 枚举类在序列化中的问题
    • 注解
      • 概述
      • Spring中的组合注解的条件注解
      • 常用注解
        • JSR-330标准注解
    • 反射
      • 概述
      • 内部类的反射
      • 反射中需要注意的地方
    • 流程控制
      • switch case without break
      • Java: for(;;) vs. while(true)
    • JVM
      • JVM内存结构
      • Java内存模型
      • 垃圾收集器和内存分配策略
      • 四种引用类型区别及何时回收
      • 类文件结构
      • 类初始化顺序
      • 类加载机制
      • 虚拟机执行引擎
      • 逃逸分析
      • JVM常用配置
      • GC日志分析
      • Java8 JVM 参数解读
      • 垃圾收集器和内存分配策略
    • 面向对象
      • Object类中的方法
      • Class类中的方法
      • 值传递还是引用传递?
      • 接口和抽象类的区别
      • 深拷贝和浅拷贝
      • Integer.parseInt()与Interger.valueof()
      • hashCode()与equal()
      • String
        • String池化及intern()方法的作用
        • 关于字符串
    • 序列化
      • Java序列化的方式有哪些?
    • 新特性
      • 流 Stream
        • Stream是什么
        • Stream API详解
        • Stream进阶
        • 流编程
        • 其他事项
      • lambda表达式
      • 默认方法(Default Methods)
      • @FunctionalInterface注解
    • SPI
      • 理解SPI
    • 字节码
      • javaagent
      • 字节码操纵
      • 如何查看类编译后的字节码指令
      • 字节码指令有哪些
  • Python
    • 异常处理
  • Go
  • 数据结构与算法
    • 数据结构
      • 概述
        • 线性表
        • 栈
        • 队列
        • 串
        • 树
        • 图
      • Java的一些实现
      • 红黑树
      • 双缓冲队列
      • 跳表SkipList
    • 算法
      • 概述
      • 常见算法
        • 基本排序
        • 高级排序
        • 动态规划
  • 框架或工具
    • Spring
      • Spring基础
        • Spring整体架构
        • 什么是IoC
        • Ioc容器的基本实现
        • Spring的MainClass
          • Spring的BeanFactory
          • Spring的Register
          • Spring的Resource和ResourceLoader
          • Spring的PropertySource
          • Spring的PropertyResolver
          • Spring的PropertyEditor
          • Spring的Convert
          • Spring的BeanDefinition
          • Spring的BeanDefinitionReader
          • Spring的BeanDefiniton其他Reader
          • Spring的BeanDefinition其他Reader2
          • Spring的Aware
          • Spring的BeanFctoryPostProcessor
          • Spring的BeanPostProcessor
          • Spring的Listener
        • Xml格式的应用启动
          • Xml格式的应用启动2
          • Xml格式的应用启动3
          • Xml格式的应用启动4
          • Xml格式的应用启动5
          • Xml格式的应用启动6
          • Xml格式的应用启动7
        • Spring中的设计模式
        • 什么是AOP
        • Spring中AOP的实现
      • Spring应用
        • Spring的事务控制
        • @Transactional注解在什么情况下会失效
        • 如何在数据库事务提交成功后进行异步操作
        • Spring中定时任务的原理
    • SpringMVC
      • Controller是如何将参数和前端传来的数据一一对应的
      • 请求处理流程
    • Zookeeper
      • Zookeeper是什么
      • Zookeeper能干啥
    • Shiro
    • druid
    • Netty
    • Consul
      • Consul是什么
    • etcd
    • confd
    • Akka
      • Actor模型是什么
  • 数据库
    • 基本概念
    • MySQL
      • 基本配置
      • MySQL数据类型
      • MySQL存储引擎
      • MySQL事务
        • MySQL事务概念
      • MySQL索引
        • MySQL中的索引类型
        • B-Tree/B+Tree概述
        • 为什么使用B+Tree
        • MySQL中的B+Tree索引
        • MySQL高性能索引策略
      • MySQL查询
        • MySQL查询过程
        • MySQL查询性能优化
        • 使用EXPLAIN
      • MySQL锁
        • MySQL中锁概述
        • InnoDB的并发控制
        • MySQL乐观锁
      • MySQL分库分表
        • 分库/分表
        • 跨库JOIN
        • 跨库分页
        • 分库分表后的平滑扩容
        • 分区表
        • 分布式ID生成方法
      • MySQL实战
        • 在线表结构变更
        • MySQL优化规则
        • MySQL问题排查
        • 常见查询场景
    • Redis
    • Hbase
    • OpenTSDB
    • rrd
    • MongoDB
    • 连接池
  • 系统设计
    • 一致性Hash算法
    • 限流
      • 限流是什么
      • 限流算法
      • 应用内限流
      • 分布式限流
      • 接入层限流
        • ngx_http_limit_conn_module
        • ngx_http_limit_req_module
        • lua_resty_limit-tarffic
      • 节流
    • 降级
      • 降级详解
      • 人工降级开关的实现
      • 自动降级的实现:Hystrix
    • 负载均衡
      • 概述
      • 互联网架构下的负载均衡
      • Nginx负载均衡(七层)
      • Nginx负载均衡(四层)
      • Nginx动态配置
    • 超时与重试机制
      • 什么地方要超时与重试
      • 代理层超时与重试
      • Web容器超时
      • 中间件客户端超时与重试
      • 数据库超时
      • NoSQL客户端超时设置
      • 业务超时
      • 前端请求超时
    • 网关
    • CAP
      • 什么是CAP
      • CAP理解
    • 生产者-消费者模型
      • 使用notify/wait方式
      • 使用await/signal实现
      • 使用阻塞队列实现
      • 使用信号量实现
      • 使用管道流实现
      • 无锁队列Disruptor
      • 双缓冲队列
    • 缓存
      • 缓存概述
      • 数据库缓存
      • 应用缓存
      • 前端缓存
      • 本地缓存
    • 秒杀
    • LRU
  • 版本控制
    • Git
      • Git常用命令
      • 场景命令
    • Svn
  • 计算机操作系统
    • Linux
      • Linux中重要概念
      • 常用命令
      • 查看日志
      • 权限管理
      • 登录或传输
      • 防火墙
      • 配置ssh免密
      • 进程
      • 防火墙
    • Mac
    • 计算机基础
      • 进制
      • Java中的位运算
      • 计算机存储系统结构
  • 网络
    • TCP三次握手和四次挥手
    • 网络术语
      • 网关、路由器、交换机、IP等
      • VLAN
      • LAN
  • 设计模式
    • 设计模式概述
    • 创建型
      • 单例模式
      • 工厂模式
      • 建造者模式
      • 原型模式
      • 享元模式
    • 行为型
      • 观察者模式
      • 策略模式
      • 模板模式
      • 责任链模式
      • 命令模式
      • 外观模式
      • 迭代器模式
      • 中介者模式
        • 中介模式续
      • 状态模式
        • 状态模式实例
        • 状态模式思考
      • 访问者模式
        • 访问者实例1
        • 访问者模式续
    • 结构型
      • 组合模式
        • 组合模式续
      • 装饰模式
        • 装饰模式续
      • 代理模式
      • 备忘录模式
      • 桥接模式
        • 桥接模式实例一
  • 构建工具
    • Maven
      • 常用命令
      • Maven生命周期
      • Maven中的变量和属性
      • 不同环境的如何配置不同的变量
      • 常用插件及配置
      • 其他问题
      • dependencies与dependencyManagement的区别
    • Gradle
  • 大数据
    • Hadoop
    • Storm
    • Spark
  • 服务器
    • Tomcat
      • server.xml配置详解
      • 线程池和连接数配置
      • Maven远程部署
      • 一些小技巧
      • Tomcat类加载机制分析
      • Tomcat的日志
      • Tomcat架构
        • 概述
        • Server 的启动流程
        • 请求处理流程
    • Nginx
      • 常用命令
      • 基本配置
      • Lua
    • Tengine
  • 中间件
    • 任务调度
      • 为什么需要任务调度
    • 消息队列
      • 为什么需要消息队列
      • 消息队列关键点
      • 消息中间件需要解决的问题
      • 不同消息队列产品对比
      • RocketMQ
        • 快速入门
        • 整体架构
        • 部署方式
          • Broker部署方案
        • 客户端使用
          • 客户端使用指南
          • 快速开始
          • 简单示例
          • 有序消息示例
          • 广播消息示例
          • 定时消息示例
          • 批量消息示例
          • 过滤消息示例
          • 日志输出配置示例
        • 关键点实现
          • 顺序消息的实现
        • 最佳实践
          • Broker的最佳实践
          • 生产者最佳实践
            • 生产者最佳实践续
          • 消费者最佳实践
            • 消费者最佳实践续
          • 名称服务最佳实践
          • JVM/kernel配置的最佳实践
          • 新特性 Filter Server
          • 其他事项
      • RabbitMQ
      • Kafka
    • 分布式事务
      • 什么是分布式事务
      • 解决方案
    • 服务治理
      • RPC概念
      • RPC最简实现
      • 为什么需要服务治理
      • Dubbo
        • Dubbo整体架构
      • Java RMI
    • 分布式锁
      • 如何设计分布式锁
        • 基于zookeeper
        • 基于Redis
    • 注册中心
      • 注册中心的职责
      • 不同注册中心的比较
    • 配置中心
      • 概述
      • 配置中心的实现与选型
  • Web开发
    • Http请求类型及区别
    • 常见的content-type
    • 如何处理跨域
    • Restful最佳实践
    • HTTP状态码
    • Http下载原理
  • 测试
    • 压测:apache bench
    • 压测:Jmeter
Powered by GitBook
On this page
  • 优化数据访问
  • 重构查询类型
  • 利用查询优化器
  • 优化特定类型的查询
  1. 数据库
  2. MySQL
  3. MySQL查询

MySQL查询性能优化

对于MySQL,最简单的衡量查询开销的三个指标如下:

  • 响应时间

  • 扫描的行数

  • 返回的行数

没有哪个指标能够完美地衡量查询的开销,但它们大致反映了MySQL在内部执行查询时需要访问多少数据,并可以大概推算出查询运行的时间。 这三个指标都会记录到MySQL的慢日志中。

优化数据访问

有些查询会请求超过实际需要的数据, 然后这些多余的数据会被应用程序丢弃。这会给MySQL服务器带来额外的负担, 并增加网络开销。另外也会消耗应用服务器的CPU 和内存资源。

错误示例:查询不需要的记录;多表关联时返回全部列;使用SELECT * 取出全部列; 重复查询相同的数据(可以考虑缓存热点)

重构查询类型

(1)考虑是否需要将一个复杂的查询分成多个简单的查询;

(2)切分查询:如有必要,将一个大查询切分成小查询, 每个查询功能完全一样,每次只返回一小部分查询结果;

(3)分解关联查询:对每一个表进行一次单表查询, 然后将结果在应用程序中进行关联,这么做基于以下考虑:

    • 让缓存的效率更高。 应用程序便于缓存单表查询结果/MySQL的查询缓存单表更小概率缓存失效;

    • 将查询分解后,执行单个查询可以减少锁的竞争;

    • 在应用层做关联, 可以更容易对数据库进行拆分, 更容易做到高性能和可扩展;

    • 主要场景:当能够使用IN()的方式替代关联查询的时候;当查询中使用同一个表的时候;当应用中使用单个查询结果缓存的时候;

利用查询优化器

优化特定类型的查询

优化COUNT()

  • 统计某个列值的数量:COUNT(col_name),统计col_name字段的非空行数,不统计这个字段值为null的记录

  • 统计行数:COUNT(1)或者COUNT(*),

    • COUNT(*) 的通配符*井不会扩展成所有的列,它会忽略所有的列而直接统计所有的行数。

    • 对于MyISAM,不带任何WHERE条件的COUNT(*)可以很快返回结果,因为它会为表直接维护总记录数

优化关联查询

MySQL执行关联查询的方式是嵌套循环关联(Nested Loop Join):即MySQL先在一个表中循环取出单条数据,然后再嵌套循环到下一个表中寻找匹配的行,依次下去,直到找到所有表中匹配的行为止。然后根据各个表匹配的行,返回查询中需要的各个列。MySQL会尝试在最后一个关联表中找到所有匹配的行,如果最后一个关联表无法找到更多的行以后, MySQL返回到上一层次关联表, 看是否能够找到更多的匹配记录, 依此类推迭代执行。

举个例子

# 查询语句
SELECT tbl1.col1, tbl2.col2
FROM tbl1 INNER JOIN tbl2 USING(col3)
WHERE tbl1.col1 IN(5, 6)

# 查询过程用伪代码表示如下
outer_iter = iterator over tbl1 where col1 IN(5, 6)                
outer_row = outer_iter.next
while outer_row
    inner_iter = iterator over tbl32 where col3 = outer_row.col3
    inner_row = inner2_iter.next
    while inner_row
        output [outer_row.col1, inner_row.clo2]
        inner_row = inner_iter.next
    end
    outer_row = outer_iter.next
end

根据先获取tbl1中的数据,并以tbl1为基础,循环tbl2,这里,tbl1称为驱动表,tbl2称为被驱动表;显而易见,外层循环次数越少,查询就会越快,所以在进行连接查询的时候,应该尽可能的使用小表做为驱动表;此外,循环体中tbl2查询时,使用了关联字段等值条件,如果tbl2中的col3字段有索引,则查询速度就会很快,所以在进行连接查询的时候,要求关联字段必须有索引,但并不是说tbl1和tbl2上的col3都需要建索引,上面例子中,关联顺序为(tab1, tbl2),那么只需要在tbl2的col3字段上创建索引即可: 一般来说,除非有其他理由, 否则只需要在关联顺序中的第二个表的相应列上创建索引。

如果将上面的INNER JOIN改为LEFT JOIN,执行过程仍是适用的:

# 查询语句
SELECT tbl1.col1, tbl2.col2
FROM tbl1 LEFT JOIN tbl2 USING(col3)
WHERE tbl1.col1 IN(5, 6)

# 查询过程用伪代码表示如下
outer_iter = iterator over tbl1 where col1 IN(5, 6)                
outer_row = outer_iter.next
while outer_row
    inner_iter = iterator over tbl32 where col3 = outer_row.col3
    inner_row = inner2_iter.next
    if inner_row
        while inner_row
            output [outer_row.col1, inner_row.clo2]
            inner_row = inner_iter.next
        end
    else
        output [outer_row.col1, NULL]
    outer_row = outer_iter.next
end

理解了这两个执行过程,也能对INNER JOIN和OUTER JOIN的区别有更深一层的认识。

对应RIGHT JOIN,MySQL会将其改写为等价的LEFT JOIN。

此外,优化关联查询还有重要的一条:确保GROUP BY和ORDER BY中的表达式只涉及到第一个表中的列, 这样MySQL才有可能使用索引来优化这个过程。下面会详细介绍。

优化排序

MySQL的排序方式有两种:索引排序和文件排序。

MySQL会在以下情况使用索引排序:

    • ORDER BY col,且col上有单列索引

    • ORDER BY col1, col2, col3 ,且col1, col2, col3上有多列索引,且顺序为col1, col2, col3;

    • 对于关联查询还需要有一个额外的条件:ORDER BY后面的字段必须全部为关联查询中第一个表(驱动表)的字段。

当MySQL不能使用索引排序时,就会进行文件排序(filesort):

    • 数据量小,直接在内存中进行排序(但也叫filesort)

    • 数据量大,则需要借助磁盘:先将数据分块,对每个独立的块进行排序,并将各个块的排序结果放在磁盘上,最后将各个排好序的块进行合并,返回排序结果

对于关联查询的文件排序,有以下规则:

    • 如果ORDER BY后面所有的字段都来自第一个表(驱动表),则在关联处理第一个表的时候就进行文件排序(此时,EXPLAIN的Extra字段会有"Using filesort"信息)

    • 除此之外的所有情况,MySQL都会先将关联的结果存放到一个临时表中,然后在所有的关联都结束后,再进行文件排序。(此时,EXPLAIN结果的Extra字段可以看到"Using temporaya, Using filesort"信息)

对于ORDER BY和LIMIT同时出现的查询:

    • MySQL5.6版本之前:LIMIT会在排序之后应用,所以即使需要返回较少的数据,临时表和需要排序的数据量仍然会非常大。

    • MySQL5.6及更新版本:会根据实际情况,选择抛弃不满足条件的结果,然后再进行排序。

优化子查询

  • 尽可能使用关联查询代替子查询,但是在MySQL5.6或更新的版本或者MariaDB,可以忽略该建议。

优化GROUP BY和DISTINCT

  • 当无法使用索引的时候, GROUP BY使用两种策略来完成:使用临时表或者文件排序来做分组。

  • 如果需要对关联查询做GROUP BY,并且是按照查找表中的某个列进行分组, 那么通常采用查找表的标识列分组的效率会比其他列更高。

优化LIMIT分页

  • 最简单的办法就是尽可能地使用索引覆盖扫描, 而不是查询所有的列。 然后根据需要做一次关联操作再返回所需的列。 对于偏移量很大的时候, 这样做的效率会提升非常大。

优化UNION查询

  • 尽量使用UNION ALL,而不是UNION,即使有去重需求,如果数据量不大,也将去重工作交给程序,而非MySQL

    • 对于UNION查询,MySQL先将一系列的单个查询结果放到一个临时表中,然后再重新读出临时表数据来完成UNION查询。在MySQL的概念中,每个查询都是一次关联,所以读取结果临时表也是一次关联。

    • 如果没有ALL关键字,MySQL会给临时表加上DISTINCT选项,会导致对整个临时表的数据做唯一性检查,代价非常高。

内容来源:《高性能MySQL》:查询性能优化

PreviousMySQL查询过程Next使用EXPLAIN

Last updated 6 years ago

该部分内容见:

《MySQL查询过程》