手动编译配置ceph

1、手工编译ceph源代码。

     一、下载ceph源代码。

          从阿里云开源镜像网站下载当前最新版本的ceph源代码，具体下载地址以下：http://mirrors.aliyun.com/ceph/tarballs/ceph_10.2.1.orig.tar.gz

     二、编译ceph源代码。

          1）编译运行环境说明。

               使用的编译和运行环境是ubuntu16.04-server-amd64，安装完ubuntu镜像后更新运行环境到最新。

               #apt-get update

               #apt-get upgrade

          2）解压缩源代码。

               #mkdir -p /root/src

               #tar -xf ceph_10.2.1.orig.tar.gz -C/root/src

          3）安装编译依赖包。

               A）执行ceph源代码目录下的install_deps.sh脚原本安装必要的依赖（该脚本并不能彻底安装编译ceph源代码全部的依赖）

                    #cd ceph-10.2.1

                    #./install-deps.sh

               B）安装额外的依赖包。

                    #apt-get install libtool automake pkg-config cython libsnappy-dev libleveldb-dev libblkid-dev libudev-dev libkeyutils-dev libcryto++-dev libfuse-dev libatomic-ops-dev libaio-dev xfslibs-dev libboost-dev libboost-iostreams-dev libboost-random-dev libboost-program-options-dev libldap2-dev virtualenv python-pip zlib1g-dev libcurl4-nss-dev libfcgi-dev libssl-dev

          4）配置ceph源代码。

               #cd ceph-10.2.1

               #./autogen.sh

               #./configure --prefix=/usr  --libexecdir=/usr/lib  --sysconfdir=/etc  --with-radosgw  --with-rados  --with-rbd  --with-cephfs  --with-debug --with-nss --without-libcryptopp

          5）编译ceph源代码。

               #make -j32

     三、安装ceph源代码。

          编译成功后，执行make install安装ceph到本地运行。

          #make install

 

2、配置ceph运行环境。

     一、ceph运行环境硬件说明。

          ceph使用的硬件运行环境是华为服务器，其中CPU是Xeon E5-2650 v2，内存128GB，一共有4块600GB的SAS盘，其中一块做为系统盘，其他三块做为ceph存储节点。

     二、配置monitor节点。

          1）检查/etc/ceph目录是否存在，若不存在则手动建立一个。通常来讲，在执行make install后回自动生成/etc/ceph目录；

          2）建立/etc/ceph/ceph.conf配置文件；

               #vim /etc/ceph/ceph.conf

          3）建立unique ID；

               #uuidgen

          4）将建立的unique ID值写入到ceph.conf配置文件中；

               fsid = xxxx-yyyy-zzzz

          5）在ceph.conf中填写monitor节点成员名称和ip地址；

               mon initial members = B-79-5

               mon host = 192.168.250.93                    

          6）建立monitor keyring；

               #ceph-authtool —create-keyring /tmp/ceph.mon.keyring —gen-key -n mon. —cap mon ‘allow *'

          7）建立client.admin keyring；

               #ceph-authtool —create-keyring /etc/ceph/ceph.client.admin.keyring —gen-key -n client.admin —set-uid=0 —cap mon ‘allow *’ osd ‘allow *’ mds ‘allow'

          8）将client.admin的key添加到monitor的keyring中；

               #ceph-authtool /tmp/ceph.mon.keyring —import-keying /etc/ceph/ceph.client.admin.keyring

          9）初始化monmap；

               #monmaptool —create —add B-79-5 192.168.250.93 —fsid xxxx-yyyy-zzzz /tmp/monmap

          10）建立monitor工做目录；

               #mkdir -p /var/lib/ceph/mon/ceph-B-79-5

          11）使用monmap和monitor keyring初始化monitor进程；

               #su - ceph ceph-mon —mkfs -i B-79-5 —monmap /tmp/monmap —keyring /tmp/ceph.mon.keyring

          12）设置monitor工做目录全部者为ceph用户；

               #chown -R ceph:ceph /var/lib/ceph/mon/ceph-B-79-5

          13）标识monitor节点初始化完成且能够启动；

               #touch /var/lib/ceph/mon/ceph-B-79-5/done

          14）建立ceph asok使用的目录；

               #mkdir -p /var/run/ceph

               #chown -R ceph:ceph /var/run/ceph

          14）启动monitor进程；

               #systemctl start ceph-mon@B-79-5

          15）查看当前ceph的状态；

               #ceph -s

     三、配置osd节点。

          1）为OSD节点生成unique ID；

               #uuidgen                                   #该命令返回unqiue ID字符串aaaa-bbbb-cccc

          2）建立OSD节点；

               #ceph osd create aaaa-bbbb-cccc                   #该命令会返回建立的OSD节点编号{id}

          3）建立OSD节点工做目录；

               #mkdir -p /var/lib/ceph/osd/ceph-{id}

          4）建立OSD磁盘且挂载该磁盘到OSD节点工做目录；

               #mkfs.xfs /dev/sdb1

               #mount /dev/sdb1 /var/lib/ceph/osd/ceph-{id}

          5）初始化OSD节点工做目录；

               #ceph-osd -i {id} —mkfs —mkkey —osd-uuid aaaa-bbbb-cccc

          6）注册OSD节点认证key；

               #ceph auth add osd.{id} osd ‘allow *’ mon ‘allow profile osd’ -i /var/lib/ceph/osd/ceph-{id}/keyring

          7）OSD节点添加到CrushMap；

               #ceph osd crush add-bucket virtual-node{id} host

               #ceph osd crush move virtual-node{id} root=default

               #ceph osd crush add osd.{id} 1.0 host=virtual-node{id}

          8）设置OSD节点工做目录全部者为ceph；

               #chown -R ceph:ceph /var/lib/ceph/osd/ceph-{id}

          9）启动OSD进程；

               #systemctl start ceph-osd@{id}

          10）查看ceph状态；

               #ceph -s

     以相同的方式添加剩余两个OSDs节点。

    

3、注意事项。

     一、注意/tmp/ceph.mon.keyring和/tmp/monmap的访问权限，最好设置成0644；

     二、注意monitor和OSD节点工做目录的全部者和访问权限，即：全部者是ceph，访问权限最好设置成0644；

     三、基本的ceph.conf文件内容以下：

/etc/ceph/ceph.conf

[global]

fsid = a7f64266-0894-4f1e-a635-d0aeaca0e993

mon initial members = B-79-5

mon host = 192.168.250.93

public network = 192.168.250.0/24

auth cluster required = cephx auth service required = cephx auth client required = cephx