readhat8搭建SFTP双机高可用并配置Rsync数据实时同步

readhat8,sftp,rsync · 浏览次数 : 0

小编点评

本文详细介绍了如何在两台服务器上搭建SFTP环境,并结合Keepalived实现双机高可用。文章首先列出了所需的环境准备步骤,包括主机IP地址、VIP地址、SSH版本要求等。接着,逐步讲解了如何配置SFTP服务器、SSH服务和rsync服务端。最后,文章展示了如何使用sersync实现实时文件同步,并结合Keepalived进行高可用设置。 1. **环境准备**:文章首先列出了环境准备所需的步骤,包括检查SSH版本、关闭防火墙和SELinux、配置SSH和rsync服务等。 2. **SFTP服务器配置**:详细讲解了如何创建SFTP组、用户、数据存储目录,以及配置sshd_config和chroot目录权限等。 3. **rsync服务端搭建**:介绍了如何在两台服务器上安装rsync,并修改rsync配置文件以启用SFTP服务。 4. **SFTP客户端配置**:描述了如何在主机-61-118上搭建rsync客户端,并配置sersync以实现实时同步。 5. **高可用设置**:文章最后部分讲述了如何使用Keepalived和sersync实现双机高可用设置,包括配置Keepalived、编写check_sshd脚本以及进行高可用测试。 总的来说,本文提供了详细的步骤和配置说明,帮助读者快速在两台服务器上搭建起SFTP环境和rsync服务,并实现了基于Keepalived的高可用方案。

正文

环境准备:

  • 主机

host-61-118 : 192.168.61.118

host-61-119:192.168.61.119

vip:192.168.61.220

  • 检测openssh版本,版本必须大于4.8.p1,否则需要升级openssh版本
[root@host-61-118 ~]# ssh -V
OpenSSH_7.4p1, OpenSSL 1.0.2k-fips  26 Jan 2017
  • 关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
  • 关闭SELinux
setenforce 0
sed -i s/SELINUX=enforcing/SELINUX=disabled/g /etc/selinux/config

环境搭建

1️⃣ 两台服务器配置配置SFTP:

1. 创建SFTP组
# groupadd sftp
2. 创建sftp用户,用户名为sftp,密码为mysftp
# useradd -g sftp -s /bin/false mysftp
# echo 'mysftp'|passwd --stdin myssftp
3. 创建sftp数据存储目录sftp,并将mysftp默认目录指到该目录下
# mkdir /sftp/mysftp -pv
# usermod -d /sftp/mysftp mysftp
4. 配置sshd_config,严格按照如下配置,否则重启sshd后,sftp可登录,但ssh远程登陆失败现象!
# cp /etc/ssh/sshd_config /etc/ssh/sshd_config.bak
......
Subsystem       sftp    internal-sftp
Match Group sftp
ChrootDirectory /sftp/%u
ForceCommand    internal-sftp
AllowTcpForwarding no
X11Forwarding no
......
5. 设置chroot目录权限
# chown root:sftp /sftp/mysftp
# chmod 755 /sftp/mysftp
6. 建立SFTP用户登录后可写入的数据目录
# 按照上述配置,ssh重启后用户mysftp已可登录,但是使用chroot指定根目录后,根目录是无法写入的,所以要新建一个目录供mysftp上传文件。该目录的所有者为mysftp,所有组为sftp,所有者有写权限,所有组无写权限
# mkdir /sftp/mysftp/upload
# chown mysftp:sftp /sftp/mysftp/upload
# chmod 755 /sftp/mysftp/upload
7. 重启sshd服务
systemctl restart sshd
8. 验证SFTP环境
[root@host-61-118 ~]# sftp mysftp@host-61-118
The authenticity of host 'host-61-118 (192.168.61.118)' can't be established.
ECDSA key fingerprint is SHA256:kOHc1UsswEh7edXbzH8bSa6fLkPNn9IxkOmTvV7YWdY.
ECDSA key fingerprint is MD5:04:a1:33:24:b9:cc:fb:33:58:05:a5:bb:7f:8f:e1:e0.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 'host-61-118' (ECDSA) to the list of known hosts.
mysftp@host-61-118's password: 
Connected to host-61-118.
sftp> ls
upload  
sftp> cd upload/
sftp> ls
9. 如果ssh是非22端口,比如是6666端口,则连接命令:sftp -o port=6666 mysftp@host-61-118

2️⃣ host-61-119搭建rsync服务端,用作备份存储服务器

1. 安装rsync
yum install -y rsync
2. 修改rsync配置文件,
# 注意:uid 填写的是root,gid填写的是sftp,是因为/sftp
[root@host-61-119 ~]# grep -Ev "^$|#" /etc/rsyncd.conf 
uid = root
gid = sftp
use chroot = no
max connections = 200
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsyncd.lock
ignore errors
list = false
read only = false
transfer logging = yes
log file = /top/rsyncd.log
auth users = rsync_user
secrets file = /etc/syncd.passwd
hosts allow = 10.111.61.118/24
hosts deny = 0.0.0.0/24
timeout = 900
[sftp_backup]
       path = /sftp/mysftp
3. 创建用户认证文件
echo 'rsync_user:my_rsync' >/etc/syncd.passwd
4. 设置文件访问权限
chmod 600 /etc/rsyncd.conf
chmod 600 /etc/syncd.passwd
5. 重启rsync服务,并配置开机自启
systemctl restart rsyncd.service
systemctl enable rsyncd.service

3️⃣ host-61-118 搭建rsync客户端,并配置sersync数据实时同步

1. 安装rsync
yum install -y rsync
2. 创建rsync认证所需的密码文件
[root@host-61-118 ~]# cat /etc/rsync.passwd 
my_rsync
3. 设置密码文件为600权限权限
chmod 600 /etc/rsync.passwd
4. 下载sersync,并配置环境变量
tar -zxf sersync2.5.4_64bit_binary_stable_final.tar.gz
# sersync目录只有两个文件:一个是二进制程序文件,一个是xml格式的配置文件
[root@host-61-118 /opt]# tree GNU-Linux-x86/
GNU-Linux-x86/
├── confxml.xml
└── sersync2
mv GNU-Linux-x86/sersync2 /bin/
mv GNU-Linux-x86/confxml.xml /etc/

5. 修改sersync配置文件
[root@host-61-118 /opt]# cat /etc/confxml.xml 
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
    <host hostip="localhost" port="8008"></host>
    <!--是否开启debug调试-->
    <debug start="false"/>
    <fileSystem xfs="false"/>
    <!--不开启文件过滤功能,当为true时,以下类型的文件将不同步-->
    <filter start="false">
	<exclude expression="(.*)\.svn"></exclude>
	<exclude expression="(.*)\.gz"></exclude>
	<exclude expression="^info/*"></exclude>
	<exclude expression="^static/*"></exclude>
    </filter>
    <!--监控事件,默认监控delete/close_write/moved_from/moved_to/create folder-->
    <inotify>
	<delete start="true"/>
	<createFolder start="true"/>
	<createFile start="false"/>
	<closeWrite start="true"/>
	<moveFrom start="true"/>
	<moveTo start="true"/>
    	<!--修改此行为true,文件属性变化后也会同步-->
	<attrib start="true"/>
	<modify start="false"/>
    </inotify>
    <!--rsync的命令配置段-->
    <sersync>
        <!--需要同步的源目录或文件,建议同步目录-->
	<localpath watch="/sftp/mysftp">
        <!--# 指定备份服务器地址和rsync daemon的模块名,如果下面开启了ssh start,此时name为远程shell方式运行时的目标目录-->
	    <remote ip="192.168.61.119" name="sftp_backup"/>
	    <!--<remote ip="192.168.8.39" name="tongbu"/>-->
	    <!--<remote ip="192.168.8.40" name="tongbu"/>-->
	</localpath>
	<rsync>
    	    <!-- 指定rsync的选项:
    	         -a 归档模式,表示递归传输并保持文件属性。
		 -r 归档模式,表示递归传输并保持文件属性。
		 -t 保持mtime属性。强烈建议任何时候都加上"-t",否则目标文件mtime会设置为系统时间,导致下次更新检查出mtime不同从而导致增量传输无效。
		 -u 仅在源mtime比目标已存在文件的mtime新时才拷贝。注意,该选项是接收端判断的,不会影响删除行为
		 -z 传输时进行压缩提高效率
    	     -->
	    <commonParams params="-artuz"/>
            <!--修改为true,指定备份服务器的rsync配置的用户和密码文件-->
	    <auth start="true" users="rsync_user" passwordfile="/etc/rsync.passwd"/>
	    <!--指定rsync的非标准端口号-->
	    <userDefinedPort start="false" port="874"/><!-- port=874 -->
	    <timeout start="false" time="100"/><!-- timeout=100 -->
	    <!--默认使用rsync daemon运行rsync命令,true为使用远程shell模式-->
	    <ssh start="false"/>
	</rsync>
	<!--#错误重传及日志文件路径-->
	<failLog path="/tmp/rsync_fail_log.log" timeToExecute="60"/><!--default every 60mins execute once-->
	<!--不开启crontab功能-->
	<crontab start="false" schedule="600"><!--600mins-->
	    <!--不开启crontab定时传输的筛选功能-->
	    <crontabfilter start="false">
		<exclude expression="*.php"></exclude>
		<exclude expression="info/*"></exclude>
	    </crontabfilter>
	</crontab>
	<plugin start="false" name="command"/>
    </sersync>

    <plugin name="command">
	<param prefix="/bin/sh" suffix="" ignoreError="true"/>	<!--prefix /opt/tongbu/mmm.sh suffix-->
	<filter start="false">
	    <include expression="(.*)\.php"/>
	    <include expression="(.*)\.sh"/>
	</filter>
    </plugin>

    <plugin name="socket">
	<localpath watch="/opt/tongbu">
	    <deshost ip="192.168.138.20" port="8009"/>
	</localpath>
    </plugin>
    <plugin name="refreshCDN">
	<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
	    <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
	    <sendurl base="http://pic.xoyo.com/cms"/>
	    <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
	</localpath>
    </plugin>
</head>
5. 查看sersync2 -h帮助
[root@host-61-118 /opt]# sersync2 -h
set the system param
execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启用守护进程模式
参数-r:在监控前,将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量,默认为10个
参数-o:指定配置文件,默认使用confxml.xml文件
参数-m:单独启用其他模块,使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块,使用 -m socket 开启socket模块
参数-m:单独启用其他模块,使用 -m http 开启http模块
不加-m参数,则默认执行同步程序
______________________________________________________
6. 以后台方式启动同步
sersync2 -dro /usr/local/sersync/confxml.xml
#sersync支持多实例,也即监控多个目录时,只需分别配置不同配置文件,然后使用sersync2指定对应配置文件运行
[root@host-61-118 /opt]# sersync2 -rd -o /etc/sersync.d/nginx.xml
7. 配置sersync开机自启动
echo '/bin/sersync2 -dro /etc/confxml.xml' >>/etc/rc.local
chmod +x /etc/rc.local
#这样,host-61-118机器的/sftp/mysftp目录下的文件就会自动实时同步到host-61-119机器的/sftp/mysftp目录下
# 注意:这是单向实时同步!如果要想做双向实时同步!那就需要在host-61-119机器上再启动一个sersync(同时,host-61-118也要做个rsyncd.conf文件)

4️⃣ SFTP​结合keepalived做双机高可用

1. 两台机器同时安装keepalived
yum install -y keepalived
# host-61-118 keepalived.conf 配置文件
! Configuration File for keepalived
global_defs {
    router_id LVS_DEVEL
}

vrrp_script check_sshd {
    script "/etc/keepalived/check_sshd.sh" 
    interval 2 
    weight -5 
    fall 3  
    rise 2 
}
vrrp_instance VI_1 {
    state MASTER
    interface ens192
    mcast_src_ip 192.168.61.118
    virtual_router_id 220
    priority 100
    advert_int 2
    authentication {
        auth_type PASS
        auth_pass 1220
    }
    virtual_ipaddress {
        192.168.61.220/24
    }
    track_script {
       check_sshd
    }
}
# host-61-119 keepalived.conf 配置文件
! Configuration File for keepalived
global_defs {
    router_id LVS_DEVEL
}

vrrp_script check_sshd {
    script "/etc/keepalived/check_sshd.sh" 
    interval 2 
    weight -5 
    fall 3  
    rise 2 
}
vrrp_instance VI_1 {
    state BACKUP
    interface ens192
    mcast_src_ip 192.168.61.119
    virtual_router_id 220
    priority 70
    advert_int 2
    authentication {
        auth_type PASS
        auth_pass 1220
    }
    virtual_ipaddress {
        192.168.61.220/24
    }
    track_script {
       check_sshd
    }
}
2. 配置check_sshd.ssh检测脚本
#!/bin/bash
source /etc/profile
if [ "$(/bin/systemctl is-active sshd)" != "active" ];then
  /bin/systemctl restart sshd
  sleep 5
  if [ "$(/bin/systemctl is-active sshd)" != "active" ];then
     /bin/systemctl restart keepalived 
  fi
fi
3. 启动keepalived,并配置开机自启动
systemctl start keepalived.service
systemctl enable keepalived.service
4. 高可用测试:
-> 先关闭host-61-118机器的Keepalived服务,发现vip资源就会自动漂到host-61-119机器上继续提供服务。
   当host-61-118机器的Keepalived服务恢复后,vip资源就会自动抢占回来。
-> 关闭host-61-118机器的ssh服务,通过脚本会自动启动ssh服务,当启动失败后,会强制重启Keepalived服务,从而实现vip资源的漂移!

5️⃣ ​测试实时同步

[root@host-61-119 /opt]# sftp mysftp@host-61-220
mysftp@host-61-220's password: 
Connected to host-61-220.
sftp> ls
upload  
sftp> cd upload/
sftp> put MegaCli.tar.gz
Uploading MegaCli.tar.gz to /upload/MegaCli.tar.gz
MegaCli.tar.gz                                                                                       100% 2779KB  15.7MB/s   00:00    
sftp> 

[root@host-61-118 /sftp/mysftp]# stat upload/MegaCli.tar.gz 
  File: ‘upload/MegaCli.tar.gz’
  Size: 2845866   	Blocks: 5560       IO Block: 4096   regular file
Device: 803h/2051d	Inode: 270248282   Links: 1
Access: (0644/-rw-r--r--)  Uid: (20001/  mysftp)   Gid: (20001/    sftp)
Context: unconfined_u:object_r:default_t:s0
Access: 2024-06-22 15:37:52.260541142 +0800
Modify: 2024-06-22 15:37:42.106734109 +0800
Change: 2024-06-22 15:37:42.106734109 +0800
 Birth: -
[root@host-61-119 /sftp/mysftp]# stat upload/MegaCli.tar.gz
  File: ‘upload/MegaCli.tar.gz’
  Size: 2845866   	Blocks: 5560       IO Block: 4096   regular file
Device: 803h/2051d	Inode: 404149882   Links: 1
Access: (0644/-rw-r--r--)  Uid: (20001/  mysftp)   Gid: (20001/    sftp)
Access: 2024-06-22 15:37:52.372865018 +0800
Modify: 2024-06-22 15:37:42.106734109 +0800
Change: 2024-06-22 15:37:52.372865018 +0800
 Birth: -


与readhat8搭建SFTP双机高可用并配置Rsync数据实时同步相似的内容: