基于TPC-C的OLTP基准测试，对比Mysql和PostgreSQL的性能
一、什么是TPC-C和tpmC
1、TPC-C
TPC-C是一种旨在衡量联机事务处理（OLTP）系统性能与可伸缩性的行业标准基准测试项目。这种基准测试项目将对包括查询、更新及队列式小批量事务在内的广泛数据库功能进行测试。TPC-C基准测试针对一种模拟订单录入与销售环境测量每分钟商业事务（tpmC）吞吐量。
2、tpmC
tpmC值在国内外被广泛用于衡量计算机系统的事务处理能力，是TPC-C吞吐率的单位。tpm是transactions per minute的简称；C指TPC中的C基准程序。它的定义是每分钟内系统处理的新订单个数。
二、sysbench
sysbench是一款压力测试工具，可以测试系统的硬件性能，也可以用来对数据库进行基准测试。
1、下载安装
- 从GitHub上下载安装包：下载地址
- 安装
-
安装sysbench之前，因为是对比Mysql和PostgreSQL，所以先安装两个数据库，我的PG用源码编译安装，Mysql使用yum安装，还需要安装对应版本的mysql-devel
yum install mysql-devel -
先定位好PG和Mysql的头文件和lib文件，即include和lib文件夹，如：
PG：/opt/pgsql/include /opt/pgsql/lib
mysql: /usr/include/mysql /usr/lib64/mysql -
将下载好的sysbench安装包上传至服务器，解压后编译安装
unzip sysbench-master.zipcd sysbench-master./ autogen.sh生成configure文件./configure –prefix=/opt/sysbench --with-mysql --with-mysql-includes=/usr/include/mysql --with-mysql-libs=/usr/lib64/mysql --with-pgsql --with-pgsql-includes=/opt/pgsql/include --with-pgsql-libs=/opt/pgsql/libmake && make install[NOTE]
sysbench也支持Oracle，安装时可以用--with-oracle参数来安装。 -
设置环境变量：
vim ~/.bash_profile添加：
export LD_LIBRARY_PATH=/opt/pgsql/lib
export PATH=$PATH:/opt/sysbench/bin -
完成安装
-
2、sysbench支持的几种测试模式
- CPU运算性能
- 磁盘IO性能
- 调度程序性能
- 内存分配及传输速度
- POSIX线程性能
- 数据库性能(OLTP基准测试)
[NOTE]
目前sysbench主要支持 mysql,drizzle,pgsql,oracle 等几种数据库。
3、数据库性能测试
以Mysql数据库为例，sysbench的数据库性能测试主要分为三个步骤，prepare、run、cleanup
-
准备阶段（prepare）
sysbench oltp_read_write.lua --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-db=sbtest --mysql-user=root --mysql-password=Grea1234 --table_size=1000000 --tables=10 --threads=20 --events=0 --report-interval=10 --time=120 --range_size=500 prepare
部分参数说明：- --mysql-host IP
- --mysql-port 端口号
- --mysql-db 希望链接的数据库
- --mysql-user 用户名
- --mysql-password 密码
- --table_size 每张表初始化的数据数量
- --tables 初始化表的数量
- --threads 启动的线程
- --time 运行时间设为0表示不限制时间
- --report-interval 运行期间日志，单位为秒
- --events 最大请求数量，定义数量后可以不需要--time选项
-
执行阶段（run）
sysbench oltp_read_write.lua --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-db=sbtest --mysql-user=root --mysql-password=Grea1234 --table_size=1000000 --tables=10 --threads=20 --events=0 --report-interval=10 --time=120 --range_size=500 run >>/opt/sysbench/result/oltp_read_write.log -
清理数据阶段（cleanup）
sysbench oltp_read_write.lua --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-db=sbtest --mysql-user=root --mysql-password=Grea1234 --table_size=1000000 --tables=10 --threads=20 --events=0 --report-interval=10 --time=120 --range_size=500 cleanup
[NOTE]
对PG数据库进行测试，添加参数--db-driver=pgsql，然后对应的将mysql换成pgsql；
样例中是oltp的读写模式，还有只读模式等，具体可以通过sysbench --help查看或者sysbench testname help查看具体test的帮助，如sysbench oltp_read_write help
4、结果解读
Running the test with following options:
Number of threads: 5
Report intermediate results every 10 second(s)
Initializing random number generator from current time
Initializing worker threads...
Threads started!
-- 每10秒钟报告一次测试结果，tps、每秒读、每秒写、95%以上的响应时长统计
[ 10s ] thds: 5 tps: 294.23 qps: 5893.38 (r/w/o: 4125.90/1178.52/588.96) lat (ms,95%): 24.83 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 5 tps: 302.41 qps: 6046.38 (r/w/o: 4232.73/1208.84/604.82) lat (ms,95%): 22.69 err/s: 0.00 reconn/s: 0.00
[ 30s ] thds: 5 tps: 282.70 qps: 5653.91 (r/w/o: 3958.11/1130.40/565.40) lat (ms,95%): 24.83 err/s: 0.00 reconn/s: 0.00
[ 40s ] thds: 5 tps: 299.80 qps: 5993.54 (r/w/o: 4195.16/1198.79/599.59) lat (ms,95%): 22.69 err/s: 0.00 reconn/s: 0.00
[ 50s ] thds: 5 tps: 310.00 qps: 6204.40 (r/w/o: 4342.80/1241.60/620.00) lat (ms,95%): 21.50 err/s: 0.00 reconn/s: 0.00
[ 60s ] thds: 5 tps: 282.20 qps: 5641.45 (r/w/o: 3949.33/1127.71/564.40) lat (ms,95%): 22.69 err/s: 0.00 reconn/s: 0.00
[ 70s ] thds: 5 tps: 301.77 qps: 6037.16 (r/w/o: 4226.12/1207.49/603.55) lat (ms,95%): 21.89 err/s: 0.00 reconn/s: 0.00
[ 80s ] thds: 5 tps: 317.23 qps: 6345.01 (r/w/o: 4441.36/1269.20/634.45) lat (ms,95%): 21.11 err/s: 0.00 reconn/s: 0.00
[ 90s ] thds: 5 tps: 317.10 qps: 6341.87 (r/w/o: 4439.28/1268.39/634.20) lat (ms,95%): 21.11 err/s: 0.00 reconn/s: 0.00
[ 100s ] thds: 5 tps: 314.40 qps: 6288.52 (r/w/o: 4401.71/1258.00/628.80) lat (ms,95%): 21.50 err/s: 0.00 reconn/s: 0.00
[ 110s ] thds: 5 tps: 316.70 qps: 6334.14 (r/w/o: 4433.93/1266.81/633.40) lat (ms,95%): 21.11 err/s: 0.00 reconn/s: 0.00
[ 120s ] thds: 5 tps: 318.57 qps: 6370.30 (r/w/o: 4459.68/1273.48/637.14) lat (ms,95%): 21.11 err/s: 0.00 reconn/s: 0.00
SQL statistics:
queries performed:
read: 512078 -- 读总数
write: 146308 -- 写总数
other: 73154 -- 其他操作总数(SELECT、INSERT、UPDATE、DELETE之外的操作，例如COMMIT等)
total: 731540 -- 全部总数
transactions: 36577 (304.76 per sec.) -- 总事务数(每秒事务数)
queries: 731540 (6095.25 per sec.) -- 总操作数包括读写和其他（每秒操作数）
ignored errors: 0 (0.00 per sec.) -- 错误次数
reconnects: 0 (0.00 per sec.) -- 重连次数
Throughput:
events/s (eps): 304.7625 -- 每秒事务数
time elapsed: 120.0181s -- 运行时间
total number of events: 36577 -- 总的事务数
Latency (ms):
min: 8.99 -- 最小耗时
avg: 16.40 -- 平均耗时
max: 505.74 -- 最长耗时
95th percentile: 22.28 -- 超过95%平均耗时
sum: 599942.57
Threads fairness: -- 线程公平性统计信息，表示负载的公平性
events (avg/stddev): 7315.4000/8.82
execution time (avg/stddev): 119.9885/0.01
[NOTE]
我们主要关注总事务数和每秒事务数来做对比
5、其他几种模式简单测试
- 测试CPU性能
sysbench cpu --cpu-max-prime=10000 run - I/O测试
准备：sysbench fileio --file-total-size=40G prepare
运行顺序写入测试：sysbench fileio --file-total-size=40G --file-test-mode=seqwr run
运行顺序重写测试：sysbench fileio --file-total-size=40G --file-test-mode=seqrewr run