mongdb

时间  2019-11-10
标签 mongdb 繁體版
原文   原文链接

简介

  • MongoDB 是一个基于分布式 文件存储的NoSQL数据库
  • 由C++语言编写，运行稳定，性能高
  • 旨在为 WEB 应用提供可扩展的高性能数据存储解决方案
  • 查看官方网站

MongoDB特色

  • 模式自由 :能够把不一样结构的文档存储在同一个数据库里
  • 面向集合的存储：适合存储 JSON风格文件的形式
  • 完整的索引支持：对任何属性可索引
  • 复制和高可用性：支持服务器之间的数据复制，支持主-从模式及服务器之间的相互复制。复制的主要目的是提供冗余及自动故障转移
  • 自动分片：支持云级别的伸缩性：自动分片功能支持水平的数据库集群，可动态添加额外的机器
  • 丰富的查询：支持丰富的查询表达方式，查询指令使用JSON形式的标记，可轻易查询文档中的内嵌的对象及数组
  • 快速就地更新：查询优化器会分析查询表达式，并生成一个高效的查询计划
  • 高效的传统存储方式：支持二进制数据及大型对象（如照片或图片）

1. 基本操做

  • MongoDB将数据存储为一个文档，数据结构由键值(key=>value)对组成
  • MongoDB文档相似于JSON对象，字段值能够包含其余文档、数组、文档数组
  • 安装管理mongodb环境
  • 完成数据库、集合的管理
  • 数据的增长、修改、删除、查询

名词

SQL术语/概念 MongoDB术语/概念 解释/说明
database database 数据库
table collection 数据库表/集合
row document 数据记录行/文档
column field 数据字段/域
index index 索引
table joins   表链接,MongoDB不支持
primary key primary key 主键,MongoDB自动将_id字段设置为主键
  • 三元素：数据库，集合，文档
    • 集合就是关系数据库中的表
    • 文档对应着关系数据库中的行
  • 文档，就是一个对象，由键值对构成，是json的扩展Bson形式
{'name':'guojing','gender':'男'}
  • 集合：相似于关系数据库中的表，储存多个文档，结构不固定，如能够存储以下文档在一个集合中
{'name':'guojing','gender':'男'}
{'name':'huangrong','age':18}
{'book':'shuihuzhuan','heros':'108'}
  • 数据库：是一个集合的物理容器，一个数据库中能够包含多个文档
  • 一个服务器一般有多个数据库

1.1. 安装

  • 下载mongodb的版本，两点注意
    • 根据业界规则，偶数为稳定版，如1.6.X，奇数为开发版，如1.7.X
    • 32bit的mongodb最大只能存放2G的数据，64bit就没有限制
  • 到官网，选择合适的版本下载
  • 解压
tar -zxvf mongodb-linux-x86_64-ubuntu1604-3.4.0.tgz
  • 移动到/usr/local/目录下
sudo mv -r mongodb-linux-x86_64-ubuntu1604-3.4.0/ /usr/local/mongodb
  • 将可执行文件添加到PATH路径中
export PATH=/usr/local/mongodb/bin:$PATH

管理mongo

  • 配置文件在/etc/mongod.conf

  • 默认端口27017html

  • 启动python

sudo service mongod start
  • 中止
sudo service mongod stop
  • 使用终端链接
  • 这个shell就是mongodb的客户端，同时也是一个js的编译器
mongo
  • 命令
db查看当前数据库名称
db.stats()查看当前数据库信息
  • 终端退出链接
exit
或ctrl+c
  • GUI：robomongo，解压后在bin目录下找到运行程序
  • 界面以下：

 1.2 数据库操做linux

数据库切换

  • 查看当前数据库名称
db
  • 查看全部数据库名称
  • 列出全部在物理上存在的数据库
show dbs
  • 切换数据库
  • 若是数据库不存在，则指向数据库，但不建立，直到插入数据或建立集合时数据库才被建立
use 数据库名称
  • 默认的数据库为test，若是你没有建立新的数据库，集合将存放在test数据库中

数据库删除

  • 删除当前指向的数据库
  • 若是数据库不存在，则什么也不作


1.3. 集合操做db.dropDatabase()

集合建立

  • 语法
db.createCollection(name, options)
  • name是要建立的集合的名称
  • options是一个文档，用于指定集合的配置
  • 选项​​参数是可选的，因此只须要到指定的集合名称。如下是可使用的选项列表：
  • 例1：不限制集合大小
db.createCollection("stu")
  • 例2：限制集合大小，后面学会插入语句后能够查看效果
  • 参数capped：默认值为false表示不设置上限，值为true表示设置上限
  • 参数size：当capped值为true时，须要指定此参数，表示上限大小，当文档达到上限时，会将以前的数据覆盖，单位为字节
db.createCollection("sub", { capped : true, size : 10 } )

查看当前数据库的集合

  • 语法
show collections

删除

  • 语法



db.集合名称.drop()

1.4. 数据类型

  • 下表为MongoDB中经常使用的几种数据类型：
  • Object ID：文档ID
  • String：字符串，最经常使用，必须是有效的UTF-8
  • Boolean：存储一个布尔值，true或false
  • Integer：整数能够是32位或64位，这取决于服务器
  • Double：存储浮点值
  • Arrays：数组或列表，多个值存储到一个键
  • Object：用于嵌入式的文档，即一个值为一个文档
  • Null：存储Null值
  • Timestamp：时间戳
  • Date：存储当前日期或时间的UNIX时间格式

 

object id

  • 每一个文档都有一个属性，为_id，保证每一个文档的惟一性
  • 能够本身去设置_id插入文档
  • 若是没有提供，那么MongoDB为每一个文档提供了一个独特的_id，类型为objectID
  • objectID是一个12字节的十六进制数
    • 前4个字节为当前时间戳
    • 接下来3个字节的机器ID
    • 接下来的2个字节中MongoDB的服务进程id
    • 最后3个字节是简单的增量值

1.5. 数据操做 

插入

  • 语法
db.集合名称.insert(document)
  • 插入文档时，若是不指定_id参数，MongoDB会为文档分配一个惟一的ObjectId
  • 例1
db.stu.insert({name:'gj',gender:1})
  • 例2
s1={_id:'20160101',name:'hr'}
s1.gender=0
db.stu.insert(s1)

简单查询

  • 语法
db.集合名称.find()

更新

  • 语法
db.集合名称.update(
   <query>,
   <update>,
   {multi: <boolean>}
)
  • 参数query:查询条件，相似sql语句update中where部分
  • 参数update:更新操做符，相似sql语句update中set部分
  • 参数multi:可选，默认是false，表示只更新找到的第一条记录，值为true表示把知足条件的文档所有更新
  • 例3：全文档更新
db.stu.update({name:'hr'},{name:'mnc'})
  • 例4：指定属性更新，经过操做符$set
db.stu.insert({name:'hr',gender:0})
db.stu.update({name:'hr'},{$set:{name:'hys'}})
  • 例5：修改多条匹配到的数据
db.stu.update({},{$set:{gender:0}},{multi:true})

保存

  • 语法
db.集合名称.save(document)

  • 若是文档的_id已经存在则修改，若是文档的_id不存在则添加web

  • 例6正则表达式

db.stu.save({_id:'20160102','name':'yk',gender:1})
  • 例7
db.stu.save({_id:'20160102','name':'wyk'})

删除

  • 语法
db.集合名称.remove(
   <query>,
   {
     justOne: <boolean>
   }
)
  • 参数query:可选，删除的文档的条件
  • 参数justOne:可选，若是设为true或1，则只删除一条，默认false，表示删除多条
  • 例8：只删除匹配到的第一条
db.stu.remove({gender:0},{justOne:true})
  • 例9：所有删除
db.stu.remove({})

关于size的示例

  • 例10
  • 建立集合
db.createCollection('sub',{capped:true,size:10})
  • 插入第一条数据库查询
db.sub.insert({title:'linux',count:10})
db.sub.find()
  • 插入第二条数据库查询
db.sub.insert({title:'web',count:15})
db.sub.find()
  • 插入第三条数据库查询
db.sub.insert({title:'sql',count:8})
db.sub.find()
  • 插入第四条数据库查询
db.sub.insert({title:'django',count:12})
db.sub.find()
  • 插入第五条数据库查询
db.sub.insert({title:'python',count:14})
db.sub.find()

 1.6

数据查询

基本查询

  • 方法find()：查询
db.集合名称.find({条件文档})
  • 方法findOne()：查询，只返回第一个
db.集合名称.findOne({条件文档})
  • 方法pretty()：将结果格式化
db.集合名称.find({条件文档}).pretty()

比较运算符

  • 等于，默认是等于判断，没有运算符
  • 小于$lt
  • 小于或等于$lte
  • 大于$gt
  • 大于或等于$gte
  • 不等于$ne
  • 例1：查询名称等于'gj'的学生
db.stu.find({name:'gj'})
  • 例2：查询年龄大于或等于18的学生
db.stu.find({age:{$gte:18}})

逻辑运算符

  • 查询时能够有多个条件，多个条件之间须要经过逻辑运算符链接
  • 逻辑与：默认是逻辑与的关系
  • 例3：查询年龄大于或等于18，而且性别为1的学生
db.stu.find({age:{$gte:18},gender:1})
  • 逻辑或：使用$or
  • 例4：查询年龄大于18，或性别为0的学生
db.stu.find({$or:[{age:{$gt:18}},{gender:1}]})
  • and和or一块儿使用
  • 例5：查询年龄大于18或性别为0的学生，而且学生的姓名为gj
db.stu.find({$or:[{age:{$gte:18}},{gender:1}],name:'gj'})

范围运算符

  • 使用"$in"，"$nin" 判断是否在某个范围内
  • 例6：查询年龄为1八、28的学生
db.stu.find({age:{$in:[18,28]}})

支持正则表达式

  • 使用//或$regex编写正则表达式
  • 例7：查询姓黄的学生
db.stu.find({name:/^黄/})
db.stu.find({name:{$regex:'^黄'}}})

自定义查询

  • 使用$where后面写一个函数，返回知足条件的数据
  • 例7：查询年龄大于30的学生


1.6.1 Limit和Skipdb.stu.find({$where:function(){return this.age>20}})

Limit

  • 方法limit()：用于读取指定数量的文档
  • 语法：
db.集合名称.find().limit(NUMBER)
  • 参数NUMBER表示要获取文档的条数
  • 若是没有指定参数则显示集合中的全部文档
  • 例1：查询2条学生信息
db.stu.find().limit(2)

skip

  • 方法skip()：用于跳过指定数量的文档
  • 语法：
db.集合名称.find().skip(NUMBER)
  • 参数NUMBER表示跳过的记录条数，默认值为0
  • 例2：查询从第3条开始的学生信息
db.stu.find().skip(2)

一块儿使用

  • 方法limit()和skip()能够一块儿使用，不分前后顺序sql

  • 建立数据集mongodb

for(i=0;i<15;i++){db.t1.insert({_id:i})}
  • 查询第5至8条数据


1.6.2db.stu.find().limit(4).skip(5)
或
db.stu.find().skip(5).limit(4)

投影

  • 在查询到的返回结果中，只选择必要的字段，而不是选择一个文档的整个字段
  • 如：一个文档有5个字段，须要显示只有3个，投影其中3个字段便可
  • 语法：
  • 参数为字段与值，值为1表示显示，值为0不显示
db.集合名称.find({},{字段名称:1,...})
  • 对于须要显示的字段，设置为1便可，不设置即为不显示
  • 特殊：对于_id列默认是显示的，若是不显示须要明确设置为0
  • 例1
db.stu.find({},{name:1,gender:1})
  • 例2


1.6.3db.stu.find({},{_id:0,name:1,gender:1})

排序

  • 方法sort()，用于对结果集进行排序
  • 语法
db.集合名称.find().sort({字段:1,...})
  • 参数1为升序排列
  • 参数-1为降序排列
  • 例1：根据性别降序，再根据年龄升序


1.6.4db.stu.find().sort({gender:-1,age:1})

统计个数

  • 方法count()用于统计结果集中文档条数
  • 语法
db.集合名称.find({条件}).count()
  • 也能够与为
db.集合名称.count({条件})
  • 例1：统计男生人数
db.stu.find({gender:1}).count()
  • 例2：统计年龄大于20的男生人数

1.6.5db.stu.count({age:{$gt:20},gender:1})

消除重复

  • 方法distinct()对数据进行去重
  • 语法
db.集合名称.distinct('去重字段',{条件})
  • 例1:查找年龄大于18的性别（去重）

1.7db.stu.distinct('gender',{age:{$gt:18}})

总结

  • 安装
  • 数据库建立、删除
  • 集合建立、删除
  • 文档增长、修改、删除
  • 文档查询：find(),limit(),skip(),投影,sort(),count(),distinct()

做业

  • 建立科目集合sub，并进行数据的操做
  • 查询sub中的数据

2. shell

高级操做

  • 讲解关于mongodb的高级操做，包括聚合、主从复制、分片、备份与恢复、MR
  • 完成python与mongodb的交互

2.1数据库

聚合 aggregate

  • 聚合(aggregate)主要用于计算数据，相似sql中的sum()、avg()
  • 语法
db.集合名称.aggregate([{管道:{表达式}}])

管道

  • 管道在Unix和Linux中通常用于将当前命令的输出结果做为下一个命令的输入
ps ajx | grep mongo
  • 在mongodb中，管道具备一样的做用，文档处理完毕后，经过管道进行下一次处理
  • 经常使用管道
    • $group：将集合中的文档分组，可用于统计结果
    • $match：过滤数据，只输出符合条件的文档
    • $project：修改输入文档的结构，如重命名、增长、删除字段、建立计算结果
    • $sort：将输入文档排序后输出
    • $limit：限制聚合管道返回的文档数
    • $skip：跳过指定数量的文档，并返回余下的文档
    • $unwind：将数组类型的字段进行拆分

表达式

  • 处理输入文档并输出
  • 语法
表达式:'$列名'
  • 经常使用表达式
    • $sum：计算总和，$sum:1同count表示计数
    • $avg：计算平均值
    • $min：获取最小值
    • $max：获取最大值
    • $push：在结果文档中插入值到一个数组中
    • $first：根据资源文档的排序获取第一个文档数据
    • $last：根据资源文档的排序获取最后一个文档数据
2.1.1

$group

  • 将集合中的文档分组，可用于统计结果
  • _id表示分组的依据，使用某个字段的格式为'$字段'
  • 例1：统计男生、女生的总人数
db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            counter:{$sum:1}
        }
    }
])

Group by null

  • 将集合中全部文档分为一组
  • 例2：求学生总人数、平均年龄
db.stu.aggregate([
    {$group:
        {
            _id:null,
            counter:{$sum:1},
            avgAge:{$avg:'$age'}
        }
    }
])

透视数据

  • 例3：统计学生性别及学生姓名
db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            name:{$push:'$name'}
        }
    }
])
  • 使用$$ROOT能够将文档内容加入到结果集的数组中，代码以下


2.1.2db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            name:{$push:'$$ROOT'}
        }
    }
])

$match

  • 用于过滤数据，只输出符合条件的文档
  • 使用MongoDB的标准查询操做
  • 例1：查询年龄大于20的学生
db.stu.aggregate([
    {$match:{age:{$gt:20}}}
])
  • 例2：查询年龄大于20的男生、女生人数



db.stu.aggregate([
    {$match:{age:{$gt:20}}},
    {$group:{_id:'$gender',counter:{$sum:1}}}
])
2.1.3

$project

  • 修改输入文档的结构，如重命名、增长、删除字段、建立计算结果
  • 例1：查询学生的姓名、年龄
db.stu.aggregate([
    {$project:{_id:0,name:1,age:1}}
])
  • 例2：查询男生、女生人数，输出人数


2.1.4db.stu.aggregate([
    {$group:{_id:'$gender',counter:{$sum:1}}},
    {$project:{_id:0,counter:1}}
])

$sort

  • 将输入文档排序后输出
  • 例1：查询学生信息，按年龄升序
b.stu.aggregate([{$sort:{age:1}}])
  • 例2：查询男生、女生人数，按人数降序

2.db.stu.aggregate([
    {$group:{_id:'$gender',counter:{$sum:1}}},
    {$sort:{counter:-1}}
])

2.1.5

$limit

  • 限制聚合管道返回的文档数
  • 例1：查询2条学生信息
db.stu.aggregate([{$limit:2}])

$skip

  • 跳过指定数量的文档，并返回余下的文档
  • 例2：查询从第3条开始的学生信息
db.stu.aggregate([{$skip:2}])
  • 例3：统计男生、女生人数，按人数升序，取第二条数据
db.stu.aggregate([
    {$group:{_id:'$gender',counter:{$sum:1}}},
    {$sort:{counter:1}},
    {$skip:1},
    {$limit:1}
])
  • 注意顺序：先写skip，再写limit

2.1.6django

$unwind

  • 将文档中的某一个数组类型字段拆分红多条，每条包含数组中的一个值

语法1

  • 对某字段值进行拆分
db.集合名称.aggregate([{$unwind:'$字段名称'}])
  • 构造数据
db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})
  • 查询
db.t2.aggregate([{$unwind:'$size'}])

语法2

  • 对某字段值进行拆分
  • 处理空数组、非数组、无字段、null状况
db.inventory.aggregate([{
    $unwind:{
        path:'$字段名称',
        preserveNullAndEmptyArrays:<boolean>#防止数据丢失
    }
}])
  • 构造数据
db.t3.insert([
{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
{ "_id" : 2, "item" : "b", "size" : [ ] },
{ "_id" : 3, "item" : "c", "size": "M" },
{ "_id" : 4, "item" : "d" },
{ "_id" : 5, "item" : "e", "size" : null }
])
  • 使用语法1查询
db.t3.aggregate([{$unwind:'$size'}])
  • 查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了
  • 问：如何能不丢弃呢？
  • 答：使用语法2查询


2.2安全db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])

超级管理员

  • 为了更安全的访问mongodb，须要访问者提供用户名和密码，因而须要在mongodb中建立用户
  • 采用了角色-用户-数据库的安全管理方式
  • 经常使用系统角色以下：
    • root：只在admin数据库中可用，超级帐号，超级权限
    • Read：容许用户读取指定数据库
    • readWrite：容许用户读写指定数据库
  • 建立超级管理用户
use admin
db.createUser({
    user:'admin',
    pwd:'123',
    roles:[{role:'root',db:'admin'}]
})

启用安全认证

  • 修改配置文件
sudo vi /etc/mongod.conf
  • 启用身份验证
  • 注意：keys and values之间必定要加空格, 不然解析会报错
security:
  authorization: enabled
  • 重启服务
sudo service mongod stop
sudo service mongod start
  • 终端链接
mongo -u 'admin' -p '123' --authenticationDatabase 'admin'

普通用户管理

  • 使用超级管理员登陆，而后进入用户管理操做
  • 查看当前数据库的用户
use test1
show users
  • 建立普通用户
db.createUser({
    user:'t1',
    pwd:'123',
    roles:[{role:'readWrite',db:'test1'}]
})
  • 终端链接
mongo -u t1 -p 123 --authenticationDatabase test1

  • 切换数据库，执行命令查看效果

  • 修改用户：能够修改pwd、roles属性


2.3db.updateUser('t1',{pwd:'456'})

复制（副本集）

什么是复制

  • 复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提升了数据的可用性，并能够保证数据的安全性
  • 复制还容许从硬件故障和服务中断中恢复数据

为何要复制

  • 数据备份
  • 数据灾难恢复
  • 读写分离
  • 高（24* 7）数据可用性
  • 无宕机维护
  • 副本集对应用程序是透明

复制的工做原理

  • 复制至少须要两个节点A、B...
  • A是主节点，负责处理客户端请求
  • 其他的都是从节点，负责复制主节点上的数据
  • 节点常见的搭配方式为：一主一从、一主多从
  • 主节点记录在其上的全部操做，从节点按期轮询主节点获取这些操做，而后对本身的数据副本执行这些操做，从而保证从节点的数据与主节点一致
  • 主节点与从节点进行数据交互保障数据的一致性

复制的特色

  • N 个节点的集群
  • 任何节点可做为主节点
  • 全部写入操做都在主节点上
  • 自动故障转移
  • 自动恢复

设置复制节点

  • 接下来的操做须要打开多个终端窗口，并且可能会链接多台ubuntu主机，会显得有些乱，建议在xshell中实现
  • step1:建立数据库目录t一、t2
  • 在Desktop目录下演示，其它目录也能够，注意权限便可
mkdir t1
mkdir t2
  • step2:使用以下格式启动mongod，注意replSet的名称是一致的
mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0
mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0
  • step3:链接主服务器，此处设置192.168.196.128:27017为主服务器
mongo --host 192.168.196.128 --port 27017
  • step4:初始化
rs.initiate()
  • 初始化完成后，提示符以下图：

 

  • step5:查看当前状
rs.status()
  • 当前状态以下图：

  •  

  • step6:添加复本集
rs.add('192.168.196.128:27018')
  • step7:复本集添加成功后，当前状态以下图：

 

  • step8:链接第二个mongo服务
mongo --host 192.168.196.128 --port 27018
  • 链接成功后，提示符以下图：

初始化

  • step9:向主服务器中插入数据
use test1
for(i=0;i<10;i++){db.t1.insert({_id:i})}
db.t1.find()
  • step10:在从服务器中插查询
  • 说明：若是在从服务器上进行读操做，须要设置rs.slaveOk()
rs.slaveOk()
db.t1.find()

其它说明

  • 删除从节点
rs.remove('192.168.196.128:27018')
  • 关闭主服务器后，再从新启动，会发现原来的从服务器变为了从服务器，新启动的服务器（原来的从服务器）变为了从服务器

2.4

备份

  • 语法
mongodump -h dbhost -d dbname -o dbdirectory
  • -h：服务器地址，也能够指定端口号
  • -d：须要备份的数据库名称
  • -o：备份的数据存放位置，此目录中存放着备份出来的数据
  • 例1
sudo mkdir test1bak
sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

恢复

  • 语法
mongorestore -h dbhost -d dbname --dir dbdirectory
  • -h：服务器地址
  • -d：须要恢复的数据库实例
  • --dir：备份数据所在位置
  • 例2

2.5mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

与python交互

进入虚拟环境
sudo pip install pymongo
或源码安装
python setup.py
  • 引入包pymongo
import pymongo
  • 链接，建立客户端
client=pymongo.MongoClient("localhost", 27017)
  • 得到数据库test1
db=client.test1
  • 得到集合stu
stu = db.stu
  • 添加文档
s1={name:'gj',age:18}
s1_id = stu.insert_one(s1).inserted_id
  • 查找一个文档
s2=stu.find_one()
  • 查找多个文档1
for cur in stu.find():
    print cur
  • 查找多个文档2
cur=stu.find()
cur.next()
cur.next()
cur.next()
  • 获取文档个数

2.6print stu.count()

总结

  • 聚合
  • 安全
  • 副本集
  • 备份与恢复
  • 与python交互

做业

  • 熟练聚合
  • 熟练与python交互
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程