mongodb 性能调优建议

时间 2019-11-17

原文原文链接

摘要
1. MongoDB 适用场景简介
2. Mongodb 性能监控与分析
3. Mongodb 性能优化建议mysql

关于Mongodb的几个大事件
1.根据美国数据库知识大全官网发布的DB热度排行，Mongodb的热度排名从2014年的第5名，在2015年跃升为第4名，仅次于主流DB（Oracle、MySQL、SQLServer）以后。linux

2.2015第六届中国数据库技术大会(DTCC)上，Mongodb高调宣布收购开源引擎WiredTiger，性能在3.0版本上实现了7~10倍的提高。ios

Mongodb 适用场景简介算法

适用场景
1. 实时的CRU操做，如网站、论坛等实时数据存储
2. 高伸缩性，能够分布式集群，动态增删节点
3. 存储大尺寸、低价值数据
4. 缓存
5. BSON结构对象存储
不适用场景
1. 高度事务性操做，如银行或会计系统
2. 传统商业智能应用，如提供高度优化的查询方式
3. 须要SQL的问题
4. 重要数据，关系型数据sql

Mongodb 性能监控与分析mongodb

mongostat
1. faults/s：每秒访问失败数，即数据被交换出物理内存，放到SWAP。
若太高（通常超过100），则意味着内存不足。
vmstat & iostat & iotop

si：每秒从磁盘读入虚拟内存的大小，若大于0，表示物理内存不足。
so：每秒虚拟内存写入磁盘的大小，若大于0，同上。shell

mongostat
2. idx miss %：BTree 树未命中的比例，即索引不命中所占百分比。
若太高，则意味着索引创建或使用不合理。
db.serverStatus()
indexCounters” : {
“btree” : {
“accesses” : 2821726, #索引被访问数
“hits” : 2821725, #索引命中数
“misses” : 1, #索引误差数
“resets” : 0, #复位数
“missRatio” : 3.543930204420982e-7 #未命中率
}数据库

mongostat
3. locked %：全局写入锁占用了机器多少时间。当发生全局写入锁时，全部查询操做都将等待，直到写入锁解除。
若太高（通常超过50%），则意味着程序存在问题。
db.currentOp()
{
“inprog” : [ ],
“fsyncLock” : 1, #为1表示MongoDB的fsync进程（负责将写入改变同步到磁盘）不容许其余进程执行写数据操做
“info” : “use db.fsyncUnlock() to terminate the fsync write/snapshot lock”
}缓存

mongostat
4. q r|w ：等待处理的查询请求队列大小。
若太高，则意味着查询会过慢。
db.serverStatus()
“currentQueue” : {
“total” : 1024, #当前须要执行的队列
“readers” : 256, #读队列
“writers” : 768 #写队列
}性能优化

mongostat
5. conn ：当前链接数。
高并发下，若链接数上不去，则意味着Linux系统内核须要调优。
db.serverStatus()
“connections” : {
“current” : 3, #当前链接数
“available” : 19997 #可用链接数
}

6.链接数使用内存过大

shell> cat /proc/$(pidof mongod)/limits | grep stack | awk -F 'size' '{print int($NF)/1024}'

将链接数使用Linux栈内存设小，默认为10MB（10240）

shell> ulimit -s 1024

优化器Profile
db.setProfilingLevel(2);
0 – 不开启
1 – 记录慢命令 (默认为>100ms)
2 – 记录全部命令
info: #本命令的详细信息
reslen: #返回结果集的大小
nscanned: #本次查询扫描的记录数
nreturned: #本次查询实际返回的结果集
millis: #该命令执行耗时(毫秒)

表KnowledgeAnswer未创建有效索引（建议考虑使用组合索引）
存在大量慢查询，均为表KnowledgeAnswer读操做，且响应超过1秒
每次读操做均为全表扫描，意味着耗用CPU(25% * 8核)
每次返回的记录字节数近1KB，建议过滤没必要要的字段，提升传输效率

执行计划Explain
db.test.find({age: “20”}).hint({age:1 }).explain();
cursor: 返回游标类型(BasicCursor 或 BtreeCursor)
nscanned: 被扫描的文档数量
n: 返回的文档数量
millis: 耗时(毫秒)
indexBounds: 所使用的索引

在查询条件、排序条件、统计条件的字段上选择建立索引
db.student.ensureIndex({name:1,age:1} , {backgroud:true});
注意：
 最新或最近记录查询，结合业务须要正确使用索引方向：逆序或顺序
 建议索引创建操做置于后台运行，下降影响
 实际应用过程当中多考虑使用复合索引
 使用limit()限定返回结果集的大小，减小数据库服务器的资源消耗，以及网络传输的数据量
db.posts.find().sort({ts:-1}).limit(10);
只查询使用到的字段，而不查询全部字段
db.posts.find({ts:1,title:1,author:1,abstract:1}).sort({ts:-1}).limit(10);
基于Mongodb分布式集群作数据分析时，MapReduce性能优于count、distinct、group等聚合函数
Capped Collections比普通Collections的读写效率高
db.createCollection(“mycoll”, {capped:true, size:100000});
例：system.profile 是一个Capped Collection。
注意：
 固定大小；Capped Collections 必须事先建立，并设置大小。
 Capped Collections能够insert和update操做；不能delete操做。只能用 drop（）方法删除整个Collection。
 默认基于 Insert 的次序排序的。若是查询时没有排序，则老是按照insert的顺序返回。
 FIFO。若是超过了Collection的限定大小，则用 FIFO 算法，新记录将替代最早 insert的记录。
Mongodb 3.0.X版本性能较Mongodb 2.0.X有7-10倍提高，引入WiredTiger新引擎，同时支持MMAPv1内存映射引擎

注意：
 默认MMAPv1，切换至WiredTiger：mongod –dbpath /usr/local/mongodb/data –storageEngine wiredTiger
备注：若更换新引擎，则以前使用旧引擎创建的DB数据库没法使用。建议先经过Mongodb的同步机制，将旧引擎创建的DB数据同步到从库，且从库使用新引擎.
 选择 Windows 2008 R2 x64 或 Linux x64，Linux版本性能优于 Windows，建议基于Linux系统进行架构选型
 根据RHEL版本号选择Mongodb相应Linux版本
 Mongodb Driver 与 Mongodb 版本一致

最后的建议
哪种物理设计更适合Mongodb：范式化 & 反范式化 & 业务 ?
 范式化设计的思想是“彻底分离”，存在关联查询，查询效率低，但写入、修改、删除性能更高
 反范式化设计的思想是“数据集中存储”，查询效率高，而Mongodb对查询机制支持较弱，看似成为一种互补

下面咱们来看一个图书信息DB表设计案例：

示例1：范式化设计

{
"_id" : ObjectId("5124b5d86041c7dca81917"),
"title" : "MongoDB性能调优",
"author" : [
ObjectId("144b5d83041c7dca84416"),
ObjectId("144b5d83041c7dca84418"),
ObjectId("144b5d83041c7dca84420"),
]
}

分析：更新效率高，由于不须要关联表操做。好比更新做者年龄，只须要更新做者信息1张表就能够了。而查询效率低，由于须要关联表操做。好比查看某本图书的做者简介，须要先查图书信息表以获取做者ID，再根据ID，在做者信息表中查询做者简介信息。

示例2：反范式化设计

{
"_id" : ObjectId("5124b5d86041c7dca81917"),
"title" : "MongoDB性能调优",
"author" : [
{
　　　　 "name" : "张三"
　　　　 "age" : 40,
　　　　"nationality" : "china",
},
{
　　　　 "name" : "李四"
　　　　 "age" : 49,
　　　　 "nationality" : "china",
},
{
　　　　 "name" : "王五"
　　　　 "age" : 59,
　　　　 "nationality" : "china",
},
]
}

分析：将做者简介信息嵌入到图书信息表中，这样查询效率高，不须要关联表操做。依然是更新做者年龄，此时更新效率就显得低，由于该做者出过多本书，须要修改多本图书信息记录中该做者的年龄。

示例3：不彻底范式化设计

{
"_id" : ObjectId("5124b5d86041c7dca81917"),
"title" : "MongoDB性能调优",
"author" : [
{
　　　　"_id" : ObjectId("144b5d83041c7dca84416"),
　　　　 "name" : "张三"
},
{
　　　　 "_id" : ObjectId("144b5d83041c7dca84418"),
　　　　 "name" : "李四"
},
{
　　　　 "_id" : ObjectId("144b5d83041c7dca84420"),
　　　　 "name" : "王五"
},
]
}

分析：其实咱们知道某本书的做者姓名是不会变化的，属于静态数据，又好比做者的年龄、收入、关注度等，均属于动态数据，因此结合业务特色，图书信息表确定是查询频率高、修改频率低，故能够将一些做者的静态数据嵌入到图书信息表中，作一个折中处理，这样性能更优。

总结：Mongodb性能调优不是最终或最有效的手段，最高效的方法是作出好的物理设计。而什么样的物理设计适合Mongodb，最后仍是由当前业务及业务将来发展趋势决定的。最后送给你们一句话“好的性能不是调出来的，更可能是设计出来的”！