MySQL -- 全表扫描
Server层12-- db1.t有200GBmysql -h$host -P$port -u$user -p$pwd -e "select * from db1.t" > $target_file 查询数据 InnoDB的数据是保存在主键索引上，全表扫描实际上是直接扫描表t的主键索引 获取一行，写到net_buffer中，默认为16K，控制参数为net_buffer_length 重复获取行，直到写满net_buffer，然后调用网络接口发出去 如果发送成功，就清空net_buffer，然后继续取下一行并写入net_buffer 如果发送函数返回EAGAIN或者WSAEWOULDBLOCK，表示本地网络栈socket send buffer写满 此时，进入等待，直到网络栈重新可写，再继续发送 一个查询在发送数据的过程中，占用MySQL内部的内存最大为net_buffer_length，因此不会达到200G socket send buffer也不可能达到200G，如果socket send buffer被写满，就会暂停读取数据 1234567-- 16384...
MySQL -- KILL + 客户端
KILL KILL QUERY THREAD_ID 终止这个线程中正在执行的语句 KILL [ CONNECTION ] THREAD_ID 断开这个线程的连接，如果该线程有语句在执行，先停止正在执行的语句 锁等待表初始化1234567CREATE TABLE `t` ( `id` INT(11) NOT NULL, `c` INT(11) NOT NULL, PRIMARY KEY (`id`)) ENGINE=InnoDB;INSERT INTO t VALUES (1,1); 操作次序 session A session B session C BEGIN; UPDATE t SET c=c+1 WHERE id=1; UPDATE t SET c=c+2 WHERE id=1;(Blocked) SHOW PROCESSLIST; KILL QUERY 24; ERROR 1317 (70100): Query execution was interrupted 1234567...
MySQL -- 数据恢复
DELETE 使用DELETE语句误删除了数据行，可以使用Flashback通过闪回把数据恢复 Flashback恢复数据的原理：修改binlog的内容，然后拿到原库重放 前提：binlog_format=ROW和binlog_row_image=FULL 针对单个事务 对于INSERT语句，将Write_rows event改成Delete_rows event 对于DELETE语句，将Delete_rows event改成Write_rows event 对于UPDATE语句，binlog里面记录了数据行修改前和修改后的值，对调两行的位置即可 针对多个事务 误操作 (A)DELETE (B)INSERT (C)UPDTAE Flashback (REVERSE C)UPDATE (REVERSE B)DELETE (REVERSE A)INSERT 不推荐直接在主库上执行上述操作，避免造成二次破坏 比较安全的做法是先恢复出一个备份或找一个从库作为临时库 在临时库上执行上述操作，然后再将确认过的临时库的数据，恢复到主库 预防措施 sql_safe_updates=ON，下列情况...
MySQL -- 故障诊断
SELECT 1SELECT 1只能说明数据库进程还在，但不能说明数据库没有问题 1234567-- innodb_thread_concurrency表示并发线程数量mysql> SHOW VARIABLES LIKE '%innodb_thread_concurrency%';+---------------------------+-------+| Variable_name | Value |+---------------------------+-------+| innodb_thread_concurrency | 16 |+---------------------------+-------+ 表初始化12345678910-- innodb_thread_concurrency默认为0，表示不限制并发线程数量，建议设置范围64~128SET GLOBAL innodb_thread_concurrency=3;CREATE TABLE `t` ( `id` INT(11) NOT NULL, `c` INT...
MySQL -- 读写分离
读写分离架构客户端直连 Proxy 对比 客户端直连 少了一层Proxy转发，查询性能稍微好一点 整体架构简单，排查问题方便 需要了解后端部署细节，在出现主从切换、库迁移时，客户端有感知，需要调整数据库连接信息 一般伴随着一个负责管理后端的组件，例如ZooKeeper Proxy – 发展趋势 对客户端友好，客户端不需要关注后端细节，但后端维护成本较高 Proxy也需要高可用架构，带Proxy的整体架构相对复杂 过期读由于主从延迟，主库上执行完一个更新事务后，立马在从库上执行查询，有可能读到刚刚的事务更新之前的状态 解决方案强制走主库 将查询请求做分类 必须要拿到最新结果的请求，强制将其发送到主库上 可以读到旧数据的请求，将其发到从库上 如果完全不能接受过期读，例如金融类业务，相当于放弃读写分离，所有的读写压力都在主库上 SLEEP 主库更新后，读从库之前先SLEEP一下，类似于SELECT SLEEP(1) 基于的假设：大多数主从延时在1秒内 卖家发布商品后，用Ajax直接把客户端输入的内容作为“新的商品”显示在页面上，而非真正的做数据库查询 等卖家再次刷新页面，其...
MySQL -- 主从切换
一主多从 虚线箭头为主从关系，A和A'互为主从，B、C、D指向主库A 一主多从的设置，一般用于读写分离，主库负责所有的写入和一部分读，其它读请求由从库分担 主库故障切换A'成为新的主库，B、C、D指向主库A' 基于位点的切换B原先是A的从库，本地记录的也是A的位点，但相同的日志，A的位点与A'的位点是不同的 12345678-- 节点B设置为节点A'的从库CHANGE MASTER TOMASTER_HOST=$host_nameMASTER_PORT=$portMASTER_USER=$user_nameMASTER_PASSWORD=$passwordMASTER_LOG_FILE=$master_log_nameMASTER_LOG_POS=$master_log_pos 寻找位点 很难精确，只能大概获取一个位置 由于在切换过程中不能丢数据，在寻找位点的时候，总是找一个稍微往前的位点，跳过那些已经在B执行过的事务 常规步骤 等待新主库A'将所有relaylog全部执行完 在A'上执行SHOW MASTER STATUS，得到...
MySQL -- 从库并行复制
主从复制 第一个黑色箭头：客户端写入主库，第二个黑色箭头：从库上sql_thread执行relaylog，前者的并发度大于后者 在主库上，影响并发度的原因是锁，InnoDB支持行锁，对业务并发度的支持还算比较友好 如果在从库上采用单线程（MySQL 5.6之前）更新DATA的话，有可能导致从库应用relaylog不够快，造成主从延迟 多线程模型 coordinator就是原来的sql_thread，但不会再直接应用relaylog后更新DATA，只负责读取relaylog和分发事务 真正更新日志的是worker线程，数量由参数slave_parallel_workers控制 123456mysql> SHOW VARIABLES LIKE '%slave_parallel_workers%';+------------------------+-------+| Variable_name | Value |+------------------------+-------+| slave_parallel_workers | 4 |...
Java核心 -- final + finally + finalize
final 修饰类，代表不可以继承扩展 修饰变量，代表变量不可以修改 修饰方法，代表方法不可以重写 实践 推荐使用final关键字来明确表示代码的语义和逻辑意图 将方法或类声明为final，明确表示不允许重写或继承 使用final修饰参数或变量，能够避免意外赋值而导致的编程错误 final变量产生了某种程度的不可变（immutable）的效果，可以用于保护只读数据 现在JVM足够智能，_**final对性能的影响，在大部分情况下，都没有必要考虑**_，应用程序更应该关注的是语义 final != immutableJava目前没有原生的immutable支持 12345678// final只能约束strList这个引用不可以被赋值，但strList对象本身的行为是不受影响的final List<String> strList = new ArrayList<>();strList.add("Hello");strList.add("World");// since 9List<String> unmodifi...
MySQL -- 主从复制的可靠性与可用性
Master-Master 主从切换 同步延时 主库A执行完成一个事务，写入binlog，记为T1 然后传给从库B，从库B接收该binlog，记为T2 从库B执行完成这个事务，记为T3 同步延时：T3-T1 同一个事务，在从库执行完成的时间和主库执行完成的时间之间的差值 SHOW SLAVE STATUS中的Seconds_Behind_Master Seconds_Behind_Master 计算方法 每个事务的binlog里面都有一个时间字段，用于记录该binlog在主库上的写入时间 从库取出当前正在执行的事务的时间字段的值，计算它与当前系统时间点差值，得到Seconds_Behind_Master 即T3-T1 如果主库与从库的时间不一致，Seconds_Behind_Master会不会有误差？ 一般不会 在从库连接到主库时，会通过SELECT UNIX_TIMESTAMP()获取当前主库的系统时间 如果从库发现当前主库的系统时间与自己的不一致，在计算Seconds_Behind_Master会自动扣除这部分差值 但建立连接后，主库或从库又修改了系统时间，依然会不准确 ...
MySQL -- 基于Docker搭建主从集群
目录结构12345678$ tree.├── master│ ├── data│ └── master.cnf└── slave ├── data └── slave.cnf master.cnf12345678[mysqld]pid-file = /var/run/mysqld/mysqld.pidsocket = /var/run/mysqld/mysqld.sockdatadir = /var/lib/mysqlserver-id=1log-bin=master-bingtid_mode=onenforce_gtid_consistency=on slave.cnf1234567891011[mysqld]pid-file = /var/run/mysqld/mysqld.pidsocket = /var/run/mysqld/mysqld.sockdatadir = /var/lib/mysqlserver-id=2log-bin=slave-binread-only=1relay_log=relay-binlog-sl...
