当前位置:首页>编程日记>正文

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这...

本站寻求有缘人接手,详细了解请联系站长QQ1493399855

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图01摘要:

冲区才用缓冲区,即SQL_CACHE;sort_buffer_size:排序缓冲区。3)分库分表因为数据库压力过大,首先一个问题就是高峰期系统性能可能会降低,因为数据库负载过高对性能会有影响。另外一个,压力过大把你的数据库给搞挂了怎么办?所以此时你必须得对系统做分库分表+读写分离,也就是把一个库拆分为多个库,部署在多个数据库服务上,这时作为主库承载写入请求。然后每个主库都挂载至少一个从库,由从库来

优化一览图

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图02

优化

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图03

笔者将优化分为了两大类:软优化和硬优化。软优化一般是操作数据库即可;而硬优化则是操作服务器硬件及参数设置。

1、软优化

yEventPluginimplementsPlugin{@OverridepublicIterablegetEventListenerFact

1)查询语句优化

Event.getStatistics().getTotalRows();longwrittenBytes=queryCompletedEvent.getStatistics().getWritten

首先我们可以用EXPLAIN或DESCRIBE(简写:DESC)命令分析一条查询语句的执行信息。

c.uri=jdbc:mysql://localhost:3306/presto_monitorjdbc.user=prestojdbc.pwd=presto123在presto根目录下创建query

例:

有缓存这个环节,缓存系统的设计就是为了承载高并发而生。单机承载的并发量都在每秒几万,甚至每秒数十万,对高并发的承载能力比数据库系统要高出一到两个数量级。你完全可以根据系统的业务特性,对那种写少读多的请

DESC SELECT * FROM `user`

显示:

ewRuntimeException("/etc/event-listener.propertiesfilemissingjdbc.user");}if(!config.containsKey("jd

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图04

其中会显示索引和查询数据读取数据条数等信息。

统访问控制。SPI通过元数据文件加载。我们还需要创建src/main/resources/META-INF/services/com.facebook.presto.spi.Plugin元数据文件。该

2)优化子查询

4)缓存集群如果用户量越来越大,此时你可以不停的加机器,比如说系统层面不停加机器,就可以承载更高的并发请求。然后数据库层面如果写入并发越来越高,就扩容加数据库服务器,通过分库分表是可以支持

在MySQL中,尽量使用JOIN来代替子查询。因为子查询需要嵌套查询,嵌套查询时会建立一张临时表,临时表的建立和删除都会有较大的系统开销,而连接查询不会创建临时表,因此效率比嵌套子查询高。

(){return"query-event-listener";}@OverridepublicEventListenercreate(Mapconfig){

3)使用索引

letedEvent.getStatistics().getQueuedTime().toMillis();longwallTime=queryCompletedEvent.getStatistics

索引是提高数据库查询速度最重要的方法之一,使用索引的三大注意事项包括:

tCpuTime().toMillis();longqueuedTime=splitCompletedEvent.getStatistics().getQueuedTime().toMillis();

LIKE关键字匹配"%"开头的字符串,不会使用索引;

OR关键字的两个字段必须都是用了索引,该查询才会使用索引;

使用多列索引必须满足最左匹配。

4)分解表

表示使用缓冲区,但可以在查询中使用SQL_NO_CACHE表示不要使用缓冲区,2表示在查询中明确指出使用缓冲区才用缓冲区,即SQL_CACHE;sort_buffer_size:排序缓冲区。3)分库分

对于字段较多的表,如果某些字段使用频率较低,此时应当将其分离出来从而形成新的表。

gt;presto-spi0.220c

5)中间表

nStartTime().toEpochMilli();//insertintoqueryexecutiontablelonganalysisTime=queryCompletedEvent.getS

对于将大量连接查询的表可以创建中间表,从而减少在查询时造成的连接耗时。

ics().getCompletedDataSizeBytes();longcompletedPositions=splitCompletedEvent.getStatistics().getComp

6)增加冗余字段

此能减少磁盘I/O时间,从而提高响应速度;配置高速磁盘或合理分布磁盘:高速磁盘提高I/O,分布磁盘能提高并行操作的能力。2)优化数据库参数优化数据库参数可以提高资源利用率,从而提高MySQL服务器性能

类似于创建中间表,增加冗余也是为了减少连接查询。

ent-listener.properties。其中event-listener.name为必备属性,其他属性为我们plugin所需要的信息。示例由于集群运维的需要,先需要将用户的查询历史、查询花费的

7)分析表、检查表、优化表

tMetadata().getQueryState();StringqueryUser=queryCompletedEvent.getContext().getUser();longcreateTim

分析表主要是分析表中关键字的分布;检查表主要是检查表中是否存在错误;优化表主要是消除删除或更新造成的表空间浪费。

pletedEvent.getQueryId();StringstageId=splitCompletedEvent.getStageId();longstartTime=splitCompleted

分析表:使用 ANALYZE 关键字,如ANALYZE TABLE user

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图05

Op: 表示执行的操作;

Msg_type: 信息类型,有status、info、note、warning、error;

Msg_text: 显示信息。

检查表:使用 CHECK关键字,如CHECK TABLE user [option]。 option 只对MyISAM有效。共五个参数值:

QUICK: 不扫描行,不检查错误的连接;

FAST: 只检查没有正确关闭的表;

CHANGED: 只检查上次检查后被更改的表和没被正确关闭的表;

MEDIUM: 扫描行,以验证被删除的连接是有效的,也可以计算各行关键字校验和;

EXTENDED: 最全面的的检查,对每行关键字全面查找。

优化表:使用OPTIMIZE关键字,如OPTIMIZE [LOCAL|NO_WRITE_TO_BINLOG] TABLE user;

LOCAL|NO_WRITE_TO_BINLOG都是表示不写入日志,优化表只对VARCHAR、BLOB和TEXT有效,通过OPTIMIZE TABLE语句可以消除文件碎片,在执行过程中会加上只读锁。

ABLEuser Op:表示执行的操作;Msg_type:信息类型,有status、info、note、warning、error;Msg_text:显示信息。检查表: 使用CHE

2、硬优化

estoEventListener和EventListenerFactory接口。正确的打包我们的jar。部署,放到Presto指定目录,修改配置文件。接口实现EventListener,该类是我们的

1)硬件三件套

ss.forName("com.mysql.jdbc.Driver");connection=DriverManager.getConnection(config.get("jdbc.uri"),co

配置多核心和频率高的cpu,多核心可以执行多个线程;

配置大内存,提高内存,即可提高缓存区容量,因此能减少磁盘I/O时间,从而提高响应速度;

配置高速磁盘或合理分布磁盘:高速磁盘提高I/O,分布磁盘能提高并行操作的能力。

2)优化数据库参数

ge=queryFailureInfo.getFailureMessage().orElse("").toUpperCase();StringfailureTask=queryFailureInfo.

优化数据库参数可以提高资源利用率,从而提高MySQL服务器性能。MySQL服务的配置参数都在my.cnf或my.ini,下面列出性能影响较大的几个参数:

=splitCompletedEvent.getCreateTime().toEpochMilli();longendTime=splitCompletedEvent.getEndTime().orE

key_buffer_size: 索引缓冲区大小;

table_cache: 能同时打开表的个数;

query_cache_size和query_cache_type: 前者是查询缓冲区大小,后者是前面参数的开关,0表示不使用缓冲区,1表示使用缓冲区,但可以在查询中使用SQL_NO_CACHE表示不要使用缓冲区,2表示在查询中明确指出使用缓冲区才用缓冲区,即SQL_CACHE;

sort_buffer_size: 排序缓冲区。

3)分库分表

warning、error;Msg_text:显示信息。检查表: 使用CHECK关键字,如CHECKTABLEuser[option]。option只对MyISAM有效。共五个参数值:QUI

因为数据库压力过大,首先一个问题就是高峰期系统性能可能会降低,因为数据库负载过高对性能会有影响。

Presto指定目录,修改配置文件。接口实现EventListener,该类是我们的核心逻辑所在,供包含上面所说的三个事件:publicinterfaceEventListener{//query创建

另外一个,压力过大把你的数据库给搞挂了怎么办?

er.getConnection(config.get("jdbc.uri"),config.get("jdbc.user"),config.get("jdbc.pwd"));}}catch(SQLE

所以此时你必须得对系统做分库分表+读写分离,也就是把一个库拆分为多个库,部署在多个数据库服务上,这时作为主库承载写入请求。然后每个主库都挂载至少一个从库,由从库来承载读请求。

Case();StringfailureTask=queryFailureInfo.getFailureTask().orElse("").toUpperCase();StringfailuresJs

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图06

4)缓存集群

in监听以下事件:QueryCreation(查询建立相关信息)Querycompletion(successorfailure)(查询执行相关信息,包含成功查询的细节信息,失败查询的错误码等信息)S

如果用户量越来越大,此时你可以不停的加机器,比如说系统层面不停加机器,就可以承载更高的并发请求。

ion;publicQueryEventListener(Mapconfig){this.config=newHashMap<>();this.c

然后数据库层面如果写入并发越来越高,就扩容加数据库服务器,通过分库分表是可以支持扩容机器的,如果数据库层面的读并发越来越高,就扩容加更多的从库。

fo.getErrorCode().getName();StringfailureType=queryFailureInfo.getFailureType().orElse("").toUpperCa

但是这里有一个很大的问题:

中会显示索引和查询数据读取数据条数等信息。2)优化子查询在MySQL中,尽量使用JOIN来代替子查询。因为子查询需要嵌套查询,嵌套查询时会建立一张临时表,临时表的建立和删除都会有较大的系统开销,而连接

数据库其实本身不是用来承载高并发请求的,所以通常来说,数据库单机每秒承载的并发就在几千的数量级,而且数据库使用的机器都是比较高配置,比较昂贵的机器,成本很高。

、Springcloud、分布式、高并发等)可以免费提供给大家,大家如果需要的话可以:【点击进入】我的主页,右侧有获取方式!简介同HiveHook一样,Presto也支持自定义实现EventListe

如果你就是简单的不停的加机器,其实是不对的。

istenerFactories(){EventListenerFactorylistenerFactory=newQueryEventListenerFactory();returnArrays.a

所以在高并发架构里通常都有缓存这个环节,缓存系统的设计就是为了承载高并发而生。单机承载的并发量都在每秒几万,甚至每秒数十万,对高并发的承载能力比数据库系统要高出一到两个数量级。

.getWrittenBytes();longwrittenRows=queryCompletedEvent.getStatistics().getWrittenRows();//insertinto

你完全可以根据系统的业务特性,对那种写少读多的请求,引入缓存集群。

o根目录下创建query-event-listener目录,名称与我们上面eventlistener的name一致将我们的jar包和mysqlconnector的jar包拷贝到上面创建的目录重新启动P

具体来说,就是在写数据库的时候同时写一份数据到缓存集群里,然后用缓存集群来承载大部分的读请求。这样的话,通过缓存集群,就可以用更少的机器资源承载更高的并发。

特性,对那种写少读多的请求,引入缓存集群。具体来说,就是在写数据库的时候同时写一份数据到缓存集群里,然后用缓存集群来承载大部分的读请求。这样的话,通过缓存集群,就可以用更少的机器资源承载更高的并发。结

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图07

结语

mysql架构设计书籍推荐_最近很火的MySQL:抛开复杂的架构设计,MySQL优化思想基本都在这... 配图08

一个完整而复杂的高并发系统架构中,一定会包含各种复杂的自研基础架构系统和各种精妙的架构设计,因此一篇小文顶多具有抛砖引玉的效果。但是总得来看,数据库优化的思想差不多就这些了。希望能对大家有所帮助。这边整理了一些有关Java架构的资料,包括(Dubbo、Redis、设计模式、Netty、zookeeper、Spring cloud、分布式、高并发等)可以免费提供给大家,大家如果需要的话可以:右侧有获取方式!


http://www.coolblog.cn/news/e2caa188580ae2de.html

相关文章:

  • asp多表查询并显示_SpringBoot系列(五):SpringBoot整合Mybatis实现多表关联查询
  • s7day2学习记录
  • 【求锤得锤的故事】Redis锁从面试连环炮聊到神仙打架。
  • 矿Spring入门Demo
  • 拼音怎么写_老师:不会写的字用圈代替,看到孩子试卷,网友:人才
  • Linux 实时流量监测(iptraf中文图解)
  • Win10 + Python + GPU版MXNet + VS2015 + RTools + R配置
  • 美颜
  • shell访问php文件夹,Shell获取某目录下所有文件夹的名称
  • 如何优雅的实现 Spring Boot 接口参数加密解密?
  • LeCun亲授的深度学习入门课:从飞行器的发明到卷积神经网络
  • 支撑微博千亿调用的轻量级RPC框架:Motan
  • Mac原生Terminal快速登录ssh
  • 法拉利虚拟学院2010 服务器,法拉利虚拟学院2010
  • java受保护的数据与_Javascript类定义语法,私有成员、受保护成员、静态成员等介绍...
  • mysql commit 机制_1024MySQL事物提交机制
  • 2019-9
  • jquery 使用小技巧
  • 科学计算工具NumPy(3):ndarray的元素处理
  • vscode pylint 错误_将实际未错误的py库添加到pylint白名单
  • linux批量创建用户和密码
  • 工程师在工作电脑存 64G 不雅文件,被公司开除后索赔 41 万,结果…
  • js常用阻止冒泡事件
  • newinsets用法java_Java XYPlot.setInsets方法代碼示例
  • 气泡图在开源监控工具中的应用效果
  • 各类型土地利用图例_划重点!国土空间总体规划——土地利用
  • php 启动服务器监听
  • dubbo简单示例
  • Ubuntu13.10:[3]如何开启SSH SERVER服务
  • [iptables]Redhat 7.2下使用iptables实现NAT
  • 【设计模式】 模式PK:策略模式VS状态模式
  • CSS小技巧——CSS滚动条美化
  • JS实现-页面数据无限加载
  • 最新DOS大全
  • Django View(视图系统)
  • 阿里巴巴分布式服务框架 Dubbo
  • 阿里大鱼.net core 发送短信
  • Sorenson Capital:值得投资的 5 种 AI 技术
  • 程序员入错行怎么办?
  • 两张超级大表join优化
  • Arm芯片的新革命在缓缓上演
  • 第九天函数
  • Linux软件安装-----apache安装
  • HDU 5988 最小费用流
  • 《看透springmvc源码分析与实践》读书笔记一
  • nagios自写插件—check_file
  • python3 错误 Max retries exceeded with url 解决方法
  • 正式开课!如何学习相机模型与标定?(单目+双目+鱼眼+深度相机)
  • 通过Spark进行ALS离线和Stream实时推荐
  • 行为模式之Template Method模式