娱乐一下:测试WinRAR与7-Zip压缩比(使用wordpress源码文件及相机照片)

测试环境

软件:采用当前(2019/03/28)的最新x64位版,软件都从官方下载。

  • WinRAR:  v5.70简体中文版      winrar-x64-570sc.exe
  • 7-Zip: 7-Zip 19.00 (2019-02-21) 7z1900-x64.msi

测试素材: 1) WordPress源码解压缩后的文件夹,是 wordpress-3.5.2-zh_CN.zip 比较老,没有特别原因,只是电脑上正好有这个zip包而已。  2) 一批数码相机照片,计400多张,370M.

测试项目

使用WinRAR与7-Zip分别压缩,含标准压缩、最大压缩,压缩成各家独特格式、zip格式,然后比较压缩包大小。

结果

$ ls -l --block-size=K
total 1566840K
drwxrwx---+ 1 feng None      0K Mar 28 17:50 photos

-rwxrwx---+ 1 feng None 377416K Mar 28 17:52 photos_7z19_stand.7z
-rwxrwx---+ 1 feng None 379106K Mar 28 17:51 photos_winrar57_stand.rar

-rwxrwx---+ 1 feng None 377081K Mar 28 17:55 photos_7z19_max.7z
-rwxrwx---+ 1 feng None 379106K Mar 28 17:53 photos_winrar57_max.rar

drwxrwx---+ 1 feng None      0K Jun 22  2013 wordpress

-rwxrwx---+ 1 feng None   6199K Mar 28 17:31 wordpress_winrar57_stand.rar
-rwxrwx---+ 1 feng None   4996K Mar 28 17:19 wordpress_7z19_stand.7z

-rwxrwx---+ 1 feng None   6196K Mar 28 17:45 wordpress_winrar57_max.rar
-rwxrwx---+ 1 feng None   6374K Mar 28 17:58 wordpress_winrar57_max.zip

-rwxrwx---+ 1 feng None   6381K Mar 28 17:58 wordpress_winrar57_stand.zip
-rwxrwx---+ 1 feng None   6337K Mar 28 18:00 wordpress_7z19_stand.zip

-rwxrwx---+ 1 feng None   4969K Mar 28 18:02 wordpress_7z19_max.7z
-rwxrwx---+ 1 feng None   6292K Mar 28 17:57 wordpress_7z19_max.zip

-rwxrwx---+ 1 feng None   6172K Mar 28 17:19 wordpress_winrar371_stand.rar

[注] 为方便对照,调整了条目的次序,并非ls原始次序。

简评

从结果上看,所有测试项目都是7-Zip胜出,这在意料之中。但同样压缩成zip格式,7-Zip都好于WinRAR.

甚至,winrar 3.71版比 5.70版压缩率还更高!实在让人大跌眼镜!

存储过程实现MySQL表数据变更记录追踪(含历史快照)

直接上代码及调用示例,调用示例:

假设有一张表user_status_in_playground,存储了用户在每个游戏场的统计数据,如总积分 、玩过次数、最近玩的时间、最近次得分。逻辑上 user_id + playground_id 是个惟一键,我们希望按照这个惟一键追踪其它字段的数据变更记录(建数据快照)。需要快照时执行一次存储过程,快照数据存到表archive_user_status_in_playground里。其中归档表只需要指定表名即可,将由存储过程自动创建。

SET @data_source='source_db.`user_status_in_playground`';
SET @archive_target='archive_db.archive_user_status_in_playground';
SET @identify_columns='user_id,playground_id';
SET @track_columns='score,paly_times,last_play_time,last_score';

call revision_archive(@data_source, @archive_target, @identify_columns, @track_columns, @dmesg);

如果我想按指定的时间点倒出当时的完整快照,其中revision是时间点(年月日时分秒),快照表也是自动创建的,指定表名即可。

SET @archive_location='archive_db.archive_user_status_in_playground';
SET @dump_location='`tmp`.`user_status_in_playground__dump`';
SET @identify_columns='user_id,playground_id';
SET @track_columns='score,paly_times,last_play_time,last_score';
SET @revision=20190603100255;

call revision_dump(@archive_location, @dump_location, @identify_columns, @track_columns, @revision, @dmesg);

(原始存储过程见附件)

db_revision_archive.mysql.sql

MySQL语句实现字段拆分成多行

问题简述

如上图,拆分字段为多行,只使用MySQL本身功能,不借助其它工具。

下页结合实例详述原理,最后是完整的拆分语句。实际使用中,只需把最后一节的语句当作模板,修改字段名、表名即可。

核心知识点

    • 表连接关系 JOIN... ON 中使用小于号,而非通常用的等号
    • MySQL函数 SUBSTRING_INDEX() 详参MariaDB文档MySQL文档

示例数据表article_tags

文章标签表,文章编号aid,及文章标签`tags` ;即待拆分tags数据,分隔符为 " | ",竖线及前后空格共计三个字符。

CREATE TABLE `article_tags` (
  `aid` int(11) NOT NULL COMMENT 'article id',
  `tags` varchar(255) NOT NULL DEFAULT '',
  KEY `aid` (`aid`)
) ENGINE=MyISAM  DEFAULT CHARSET=utf8;

辅助表sp_idx

拆分过程需要一张辅助表,包含了正整数的序列的一列数据。可按下页语句构造1024行。

CREATE TABLE `sp_idx` (
 `id` smallint(5) unsigned NOT NULL AUTO_INCREMENT,
 `x` bit(1) NOT NULL DEFAULT b'0',
 PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=utf8 COMMENT='拆分辅助表(正整数序列)';
INSERT into `sp_idx`(`id`,`x`) values(1,0);
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;
INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;

计算每条记录拆分条数

计算每行要拆分成的行数据,即有多少条数据通过分隔符拼接在一起。即计算字符串中删除分隔符后长度的减少量,即是 分隔符的个数*分隔符长度。分隔符个数+1 即是拆分条数。

这里使用char_length()计算长度;因为分隔符可能包含ASCII码,故不用length()。

SELECT r.`aid`, `tags`,
 (char_length(`tags`)-char_length(REPLACE(`tags`,' | ',''))) DIV char_length(' | ') + 1 as kw_count 
FROM `article_tags` r ;

联入入辅助表

按上步计算出的kw_count,联入相应条数的序列数据,从1 到 kw_count,序列数据从辅助表取。联表关系使用 < ,而不是通常使用的等于。

SELECT r.`aid`, `tags`
 ,x.`id`
FROM `article_tags` r INNER JOIN `sp_idx` x 
ON x.`id` <= (char_length(tags)-char_length(REPLACE(tags,' | ',''))) DIV char_length(' | ') + 1
;

按序号取子串

结果记录集最后一列id,事实上就是原始字符的排序号。每条记录按该序号截取子串即是结果了。这里使用 SUBSTRING_INDEX() 函数,截取前N段或后N段子串。

第一步,如下,截前N段子串的结果,再截最后一段即是每行所需结果。

SELECT r.`aid`, `tags`
 ,x.`id`, substring_index(`tags`,' | ',x.`id`) as step_1
 ,substring_index(substring_index(`tags`,' | ',x.`id`),' | ',-1) as step_2
FROM `article_tags` r
INNER JOIN `sp_idx` x 
on x.`id` <= (char_length(tags)-char_length(REPLACE(tags,' | ',''))) DIV char_length(' | ') + 1
;

总结整个过程

SELECT r.`aid`, `tags`
,x.`id` as idx, substring_index(substring_index(`tags`,' | ',x.`id`),' | ',-1) as piece
FROM `article_tags` r INNER JOIN `sp_idx` x 
ON x.`id` <= (char_length(`tags`)-char_length(REPLACE(`tags`,' | ',''))) DIV char_length(' | ') + 1 
WHERE r.`tags`!='' HAVING `piece` !='';

该语句,可以当作模板使用,其中:

  • `tags` 替换为待拆分字段(共4处),' | ' 为分隔字符串(共4处);
  • `piece`为拆分结果列,`idx` 为 `piece`在原始`tags`中的序号;
  • 比前面步骤增加了WHERE及HAVING子句,用来排除原表tags为空字符串的行、及拆分piece为空字符串的行。

辅助表`sp_idx`需要事先建好,事实上只要从是从1开始的整数序列即可;如果待拆分子串数超过1024,则要扩充本表,多跑几次该句即可:INSERT into `sp_idx`(`x`) SELECT `x` FROM `sp_idx`;

如果实在不方便建辅助表,可以使用`mysql`. `help_topic`表的help_topic_id字段(不推荐)。要能保证其完整性,而且最大拆分子串数不大于`help_topic`的总行数。而且还要多加个where条件 help_topic_id>0,否则会拆分出多余的空串行,因为help_topic_id字段是从0开始编号的。

附件:

示例数据及SQL脚本 split_field_to_lines_in_mysql.zip

linode vps关闭删除前状态备份181226

2018/12/26 23:30    linode 关闭删除前一些状态备份,算是愐怀吧

uptime

[root@n feng]# uptime
 15:35:19 up 240 days, 20 min,  1 user,  load average: 0.00, 0.00, 0.00

free -m

[root@n feng]# free -m
             total       used       free     shared    buffers     cached
Mem:           979        598        380        118         44        309
-/+ buffers/cache:        244        735
Swap:          255        123        132

top -m

top - 15:37:34 up 240 days, 22 min,  1 user,  load average: 0.00, 0.00, 0.00
Tasks:  77 total,   1 running,  39 sleeping,   0 stopped,   0 zombie
Cpu(s):  0.0%us,  0.0%sy,  0.0%ni,100.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:   1003304k total,   610928k used,   392376k free,    45784k buffers
Swap:   262140k total,   126644k used,   135496k free,   316108k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
22454 nobody    20   0  477m 123m 109m S  0.0 12.6   4:51.90 php-fpm
24518 nobody    20   0  476m  98m  86m S  0.0 10.1   1:06.22 php-fpm
21476 nobody    20   0  476m  98m  86m S  0.0 10.0   0:44.83 php-fpm
24531 nobody    20   0  476m  97m  85m S  0.0 10.0   1:06.05 php-fpm
24530 nobody    20   0  476m  97m  86m S  0.0  9.9   1:06.23 php-fpm
 2828 mysql     20   0  783m  48m 3948 S  0.0  5.0 754:20.54 mysqld
19132 root      20   0  102m 6180 5128 S  0.0  0.6   0:00.03 sshd
25817 nginx     20   0 54016 5236 2660 S  0.0  0.5  30:55.19 nginx
 8991 root      20   0  238m 4864  416 S  0.0  0.5  10:16.11 rsyslogd
19134 feng      20   0  103m 4852 2416 S  0.0  0.5   0:00.41 sshd
11101 root      20   0  455m 3596 2404 S  0.0  0.4   5:00.05 php-fpm
19155 root      20   0  105m 2764 2264 S  0.0  0.3   0:00.14 bash
19154 root      20   0  144m 2760 2352 S  0.0  0.3   0:00.01 su
13703 root      20   0 49476 2512 1700 S  0.0  0.3   0:00.01 nginx
26466 root      20   0 26440 2512  600 S  0.0  0.3  12:55.89 ss-server
19135 feng      20   0  105m 2496 2112 S  0.0  0.2   0:00.00 bash
19971 root      20   0 15076 2008 1728 R  0.0  0.2   0:00.00 top
 8758 root      20   0 66320 1432 1344 S  0.0  0.1   6:59.90 sshd
 2567 root      16  -4 27780  592  480 S  0.0  0.1  13:20.38 auditd
 2886 root      20   0  114m  548  464 S  0.0  0.1   0:40.77 crond
 1897 root      16  -4 10784  324  320 S  0.0  0.0   0:00.12 udevd
    1 root      20   0 19292   96    0 S  0.0  0.0   1:36.95 init
 2907 root      20   0  4140   52   48 S  0.0  0.0   0:00.00 agetty
 2908 root      20   0  4140   52   48 S  0.0  0.0   0:00.00 agetty
 2693 root      20   0  105m   48   48 S  0.0  0.0   0:00.01 mysqld_safe
    2 root      20   0     0    0    0 S  0.0  0.0   0:00.00 kthreadd
    4 root       0 -20     0    0    0 I  0.0  0.0   0:00.00 kworker/0:0H
    6 root       0 -20     0    0    0 I  0.0  0.0   0:00.00 mm_percpu_wq
    7 root      20   0     0    0    0 S  0.0  0.0   3:54.26 ksoftirqd/0
    8 root      20   0     0    0    0 I  0.0  0.0  21:00.86 rcu_sched
    9 root      20   0     0    0    0 I  0.0  0.0   0:00.00 rcu_bh
   10 root      RT   0     0    0    0 S  0.0  0.0   0:00.00 migration/0
   11 root      20   0     0    0    0 S  0.0  0.0   0:00.00 cpuhp/0

top -p

top - 15:38:37 up 240 days, 23 min,  1 user,  load average: 0.00, 0.00, 0.00
Tasks:  77 total,   1 running,  39 sleeping,   0 stopped,   0 zombie
Cpu(s):  0.0%us,  0.3%sy,  0.0%ni, 99.7%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:   1003304k total,   611348k used,   391956k free,    45812k buffers
Swap:   262140k total,   126644k used,   135496k free,   316112k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
19972 root      20   0 15076 1988 1700 R  0.3  0.2   0:00.01 top
    1 root      20   0 19292   96    0 S  0.0  0.0   1:36.95 init
    2 root      20   0     0    0    0 S  0.0  0.0   0:00.00 kthreadd
    4 root       0 -20     0    0    0 I  0.0  0.0   0:00.00 kworker/0:0H
    6 root       0 -20     0    0    0 I  0.0  0.0   0:00.00 mm_percpu_wq
    8 root      20   0     0    0    0 I  0.0  0.0  21:00.86 rcu_sched
    9 root      20   0     0    0    0 I  0.0  0.0   0:00.00 rcu_bh
   10 root      RT   0     0    0    0 S  0.0  0.0   0:00.00 migration/0
   11 root      20   0     0    0    0 S  0.0  0.0   0:00.00 cpuhp/0
   12 root      20   0     0    0    0 S  0.0  0.0   0:00.00 kdevtmpfs
   13 root       0 -20     0    0    0 I  0.0  0.0   0:00.00 netns
   14 root      20   0     0    0    0 S  0.0  0.0   2:32.35 kauditd
   28 root      20   0     0    0    0 I  0.0  0.0  38:15.30 kworker/0:1

ifconfig

[root@n feng]# ifconfig
eth0      Link encap:Ethernet  HWaddr F2:3C:91:84:5F:56
          inet addr:106.185.34.99  Bcast:106.185.34.255  Mask:255.255.255.0
          inet6 addr: 2400:8900::f03c:91ff:fe84:5f56/64 Scope:Global
          inet6 addr: fe80::f03c:91ff:fe84:5f56/64 Scope:Link
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:236135630 errors:0 dropped:0 overruns:0 frame:0
          TX packets:178602310 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:1000
          RX bytes:38497969194 (35.8 GiB)  TX bytes:382481811071 (356.2 GiB)

lo        Link encap:Local Loopback
          inet addr:127.0.0.1  Mask:255.0.0.0
          inet6 addr: ::1/128 Scope:Host
          UP LOOPBACK RUNNING  MTU:65536  Metric:1
          RX packets:54474136 errors:0 dropped:0 overruns:0 frame:0
          TX packets:54474136 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:1000
          RX bytes:113921748796 (106.0 GiB)  TX bytes:113921748796 (106.0 GiB)

MySQL/phpMyAdmin 状态

数据库服务器

    服务器: My Local MySQL server (Localhost via UNIX socket)
    软件: MySQL
    软件版本: 5.1.73-log - Source distribution
    协议版本: 10
    用户: root@localhost
    服务器字符集: UTF-8 Unicode (utf8)

网站服务器

    nginx/1.14.0
    数据库客户端版本: libmysql - 5.1.73
    PHP 扩展: mysqli 文档
    显示 PHP 信息

phpMyAdmin

    版本信息: 3.5.0
    文档
    维基 (Wiki) (外链,英文)
    官方主页 (外链,英文)
    贡献
    获取支持
    更新列表
自启动以来的网络流量: 732.1 GB

此 MySQL 服务器已运行 240 天 0 小时,11 分 17 秒。启动时间为 2018 年 04 月 30 日 15:20 。

此 MySQL 服务器正以主服务器运行于复制进程中。 要获得更多关于此服务器的复制状态,请查看复制状态信息。
复制状态
主服务器状态
变量 	值
File 	mysql-bin.000127
Position 	622011141
Binlog_Do_DB 	
Binlog_Ignore_DB 	

流量  	ø 每小时
已接收 	44.8 GB 	8 MB
已发送 	687.2 GB 	122.2 MB
总计 	732.1 GB 	130.1 MB
连接 	ø 每小时 	%
最大并发连接数 	17 	--- 	---
已失败 	9 	<0.01 	<0.01%
已取消 	39 	0.01 	<0.01%
总计 	3,714 k 	644.73 	100.00%
进程 	ID 	用户 	主机 	数据库 	命令 	时间 	状态 	SQL 查询 显示完整查询
杀死 	3713760 	root 	localhost 	mysql 	Sleep 	3 	--- 	---
杀死 	3713761 	root 	localhost 	无 	Sleep 	1 	--- 	---
杀死 	3713762 	root 	localhost 	mysql 	Query 	0 	--- 	SHOW PROCESSLIST
杀死 	3713763 	root 	localhost 	无 	Sleep 	2 	--- 	---
杀死 	3713764 	root 	localhost 	无 	Sleep 	2 	--- 	---
 自启动以来的内部查询: 118,225,577 文档
ø 每小时: 20,524
ø 每分钟: 342
ø 每秒: 6
说明 	查询数量 	ø 每小时 	%
select 	96,653 k 	16.8 k 	81.75%
set option 	7,441 k 	1,291.8 	6.29%
update 	6,285 k 	1,091.1 	5.32%
change db 	3,711 k 	644.2 	3.14%
show fields 	3,144 k 	545.8 	2.66%
insert 	926 k 	160.7 	0.78%
delete 	49,614 	8.6 	0.04%
delete multi 	3,054 	0.5 	<0.01%
show table status 	2,864 	0.5 	<0.01%
show create table 	2,373 	0.4 	<0.01%
show triggers 	2,308 	0.4 	<0.01%
begin 	1,477 	0.3 	<0.01%
commit 	1,477 	0.3 	<0.01%
show tables 	401 	0.1 	<0.01%
show variables 	327 	0.1 	<0.01%
alter table 	251 	<0.1 	<0.01%
create table 	239 	<0.1 	<0.01%
show databases 	173 	<0.1 	<0.01%
show master status 	138 	<0.1 	<0.01%
show slave status 	136 	<0.1 	<0.01%
show keys 	128 	<0.1 	<0.01%
show binlogs 	98 	<0.1 	<0.01%
replace 	49 	<0.1 	<0.01%
show create db 	46 	<0.1 	<0.01%
rename table 	31 	<0.1 	<0.01%
show grants 	23 	<0.1 	<0.01%
show plugins 	16 	<0.1 	<0.01%
show function status 	12 	<0.1 	<0.01%
show procedure status 	12 	<0.1 	<0.01%
flush 	11 	<0.1 	<0.01%
show warnings 	9 	<0.1 	<0.01%
show status 	9 	<0.1 	<0.01%
show processlist 	7 	<0.1 	<0.01%
create db 	7 	<0.1 	<0.01%
grant 	7 	<0.1 	<0.01%
drop table 	6 	<0.1 	<0.01%
show storage engines 	6 	<0.1 	<0.01%
insert select 	4 	<0.1 	<0.01%
create user 	4 	<0.1 	<0.01%
drop db 	3 	<0.1 	<0.01%
show slave hosts 	3 	<0.1 	<0.01%
show binlog events 	2 	<0.1 	<0.01%
optimize 	1 	<0.1 	<0.01%
kill 	1 	<0.1 	<0.01%
drop user 	1 	<0.1 	<0.01%
alter db 	1 	<0.1 	<0.01%

aa

CentOS 7的web环境等

原则:尽量使用yum repo安装

CentOS 官方对第三方repo的说明  https://wiki.centos.org/zh/AdditionalResources/Repositories

nginx

使用nginx 官方提供的repo,配置文件 /etc/yum.repos.d/nginx.repo 文件内容如下

[nginx]
name=nginx repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
enabled=1

更多参看 http://nginx.org/en/linux_packages.html

php(fastcgi版)

因为要配合nginx,所以要选择fastcgi版的php-fpm, 这里选择remi源,这也是centos 官方推荐的php源之一。如下命令配置repo,将会配置好几个repo文件,但只有remi-safe.repo 是默认激活的,其他repo中的包有可能与系统文件冲突,所以在需要使用时在临时激活。

rpm -ivh https://rpms.remirepo.net/enterprise/remi-release-7.rpm

如下命令安装php-fpm

yum --enablerepo=remi-php73 install php-fpm

remi维护了多个php版本,选用目前最新的7.3,通过--enablerepo临时激活该源。注意包名带 "-fpm" 否则是apache的模块版。注意一下安装进程,没有自动安装httpd。

按需要安装其他php扩展,下面是常用扩展的参考

yum --enablerepo=remi-php73 install php-gd php-gmp php-igbinary \
  php-mbstring php-mcrypt php-memcached php-mysqli php-odbc \
  php-pdo php-xml php-zip php-zlib php-bcmath php-imagick

配置php-fpm。主要是文件  /etc/php-fpm.d/www.conf ,默认fastcgi进程数是动态管理的,根据机器内存、负载等控制进程数,下面是微小站点的配置,其中user/group 不改默认apache也行。(或许默认的apache与后面提到的session文件目录默认权限是相符的,待确定 TODO )

user = nobody
group = nobody
pm = dynamic
pm.max_children = 10
pm.start_servers = 2
pm.min_spare_servers = 2
pm.max_spare_servers = 5

修改php默认的session文件存储目录权限,按前面php-fpm用户设置为

chown nobody:nobody /var/lib/php/session

在nginx启用php

nginx主配置文件为 /etc/nginx/nginx.conf,站点配置文件在 /etc/nginx/conf.d/*.conf ,默认参看主配置文件结尾处 include /etc/nginx/conf.d/*.conf 一行。

推荐习惯:把web站点文件放在 /var/www/html/ 目录下,每个站点一个子目录,下面以默认站点文件的配置为例,其他站点参考即可。更多参考nignx官方文档,尤其是其中core模块 ngx_http_core_module

为默认站点 default.conf 创建目录 mkdir -p /var/www/html/default ,备份一下自带的的站点文件 cp /etc/nginx/conf.d/default.conf{,__original} ,参考下面示例修改 /etc/nginx/conf.d/default.conf 文件。有更多站点,用default.conf 作模板修改。选项说明:

  • 其中 listen 80 default; 一行表示这是默认站点,其他站点就不能加了。
  • 原来在location / {...} 中的root 指令; 推荐直接放到server{...}节点中,目的是,在php 配置fastcgi_param中使用$document_root 变量,而不是像默认配置文件里的再写一遍绝对路径,其中也可以省略掉root指令了。
  • try_files $uri $uri/ /index.php; 一行是wordpress的伪静态rewrite规则;
  • rewrite ^/feed /license.txt; 是把url重写到指定文件上
  • 如果配置ssl/https,可以使用Let’s Encrypt免费证书,步骤及设置参数可参看这里
server {
    listen 80 default;
    server_name blog.path8.net;
    #server_name blog.path8.net www.path8.net; #多域名
    root /var/www/html/default;
    #autoindex on;
    #charset koi8-r;
    #access_log  /var/log/nginx/host.access.log  main;

    location /favicon.ico {
        log_not_found off;
        access_log off;
    }
    location /robots.txt {
        log_not_found off;
        access_log off;
    }

    location / {
    #    root   /usr/share/nginx/html;
        index  index.html index.htm;
        #try_files $uri $uri/ /index.php;
        #rewrite ^/feed /license.txt;
    }

    #error_page  404              /404.html;

    # redirect server error pages to the static page /50x.html
    #
    error_page   500 502 503 504  /50x.html;
    location = /50x.html {
        root   /usr/share/nginx/html;
    }

    # proxy the PHP scripts to Apache listening on 127.0.0.1:80
    #
    #location ~ \.php$ {
    #    proxy_pass   http://127.0.0.1;
    #}

    # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
    #
    location ~ \.php$ {
    #    root           html;
        fastcgi_pass   127.0.0.1:9000;
        fastcgi_index  index.php;
        fastcgi_param  SCRIPT_FILENAME  $document_root$fastcgi_script_name;
        include        fastcgi_params;
    }

    # deny access to .htaccess files, if Apache's document root
    # concurs with nginx's one
    #
    #location ~ /\.ht {
    #    deny  all;
    #}
}

修改完成后,nginx -t 测试配置文件,无误后启动(start)nginx及php-fpm,并设置自动启动(enable)

nginx -t
systemctl start nginx
systemctl status nginx
systemctl enable nginx
systemctl start php-fpm
systemctl status php-fpm
systemctl enable php-fpm

如果静态文件正常,php请求报错 File not found ,并且nginx error日志中有如下错误 FastCGI sent in stderr: "Primary script unknown" while reading response header from upstream 可去检查web文件权限与php-fpm用户是否匹配,还有是不是开着SELinux且没配置好规则。

数据库MySQL/MariaDB安装

遵循CentOS7的改变,使用Mariadb替换MySQL,使用上差别不大,基本上完全沿用MySQL,除了改个名字。yum安装服务端及客户端

yum install mariadb mariadb-server

先不急着启动服务,修改一下配置文件,参考下面,放到[mysqld]节点后,大概第10行。这是适合微小型服务器的配置参数,可以按实际调整。的话添加下面几行。

#add by fengyqf start 161105
skip-name-resolve

innodb_log_buffer_size=32M
innodb_buffer_pool_size=64M
innodb_log_file_size=16M
innodb_additional_mem_pool_size=16M

server-id=301
log-bin=mysql-bin
log-error=mysql-bin.err
expire_logs_days=30
open_files_limit=10240
#add by fengyqf end

其中server-id起的4行,是配置复制功能用的,不要MySQL复制功能的话不要加,它们会生成一系列二进制文件,多占用磁盘。复制是自动同步把数据到其他服务上,还要其他配置才行,只这几行不够的。保存好启动服务。

systemctl start mariadb
systemctl status mariadb
systemctl enable mariad

如果在修改配置前启动过服务,启动会失败,删除日志文件再启动即可 rm /var/lib/mysql/ib_logfile*

new section

amazon lightsail使用记录及主要配置项(CentOS 7实例)

从朋友处得知amazon的lightsail,有东京机房而且网络质量还不错,价格还公道(512M最低配3.5刀),于是想换掉已经使用了7年的linode,正在用的早已绝版的东京1也4年了,网络抽风的频率有点高。试用过一段时间的东京2,网络质量确实有待改善。好几年前试用过aws的1年免费,啥都没干而浪费掉了,那时还跟linode一样是20刀1月。

英文国际版 https://aws.amazon.com/lightsail/

中国优化版 https://amazonaws-china.com/cn/lightsail/

网上有人说lightsail中文页面价格比英文高,可能是以前吧,现在并不是,所以跟随aws的提示进优化过的中文版,而且英文版可能还要科学上网(否则页面加载不完整)。

直接购买,目前最低配的首月免费,位置选择东京,平台选Linux/Unix,蓝图选仅操作系统-CentOS ,实例计划选最低的3.5刀版本,创建即可。关于系统版本,不选用预装应用(如Wordpress, Nginx等)的版本,是希望拿到干净的系统,按自己的需要定制。其实这点全看个人喜好了。

VPS实例初始化很快,搞一个静态IP地址,关联上去,免费的。

用户登录

默认不允许用户名/密码的登录方式,使用密钥对登录,按照提示进行即可。自带的用户名是centos,也可以先使用Web版SSH连接到服务器。关于用户方案推荐如下:

  • 先用web版ssh登录,添加一个新用户,设置密码,默认用户centos不去动它,似乎lightsail管理后台要用。useradd {yourname}; passwd {yourname}
  • 如果你使用linux/cygwin/maxosx,推荐把你的ssh公钥添加上去,以便直接ssh公钥登录,这比密码更安全,注意要 chmod 600 /home/{yourname}/.ssh/authorized_keys
  • 按后台提示创建适合putty用的密钥对,保存好不要泄漏。
  • 开启密码登录(只使用ssh密钥可略过):修改/etc/ssh/sshd_config 找到其中 PasswordAuthentication no 一行,删除或改成 PasswordAuthentication yes
  • (接上条)增强ssh,不允许root用户直接登录、只允许指定用户(默认用户centos及前面新建用户)登录,/etc/ssh/sshd_config 结尾追加如下两行
    AllowUsers {yourname} centos
    PermitRootLogin no

    记得systemctl restart sshd 重启sshd

防火墙/iptables

lightsail后台防火墙默认只开了几个端口,而iptables则完全开放(添加一条规则“所有TCP+UDP” 即可),推荐防火墙全开,而开启linux的iptables。如果不能掌握iptables基础使用,还是使用后台防火墙吧。

yum install iptables-services
systemctl start iptables
systemctl enable iptables

这样 iptables -L就显示默认规则了,按需要开启端口

iptables -I INPUT 5 -m state --state NEW -p tcp --dport 80 -j ACCEPT
iptables -I INPUT 6 -m state --state NEW -p tcp --dport 443 -j ACCEPT

[tip] lightsai防火墙没有开启ping或icmp的选项,但当允许了“所有TCP+UDP” 后,就可以ping了。

SELinux

lightsail的CentOS 7默认是开启SELinux的,玩不来还是关了的好. 临时关闭setenforce 0,修改配置文件/etc/selinux/config永久关闭。

 

python pip安装ConfigParser/MySQL-python的Hack方案

python3.x下pip报错No module named 'ConfigParser'

cygwin下virtual-env的python3.6下安装 MySQL-python报错,错误消息如后,提示找不到ConfigParser模块,而事实上该模块在python3.x后改名了。那就照旧名做个包,引用进去。

文件 /path-to-you-python/site-packages/ConfigParser.py

内容如下(事实上只要第二行就行),再运行正常了。(当然mysql-python的其他依赖包之前已经安装过。)

"""compatible configparser"""
from configparser import *
$ pip install MySQL-python
Looking in indexes: https://mirrors.ustc.edu.cn/pypi/web/simple
Collecting MySQL-python
  Downloading https://mirrors.ustc.edu.cn/pypi/web/packages/a5/e9/51b544da85a36a68debe7a7091f068d802fc515a3a202652828c73453cad/MySQL-python-1.2.5.zip (108kB)
    100% |████████████████████████████████| 112kB 799kB/s
    Complete output from command python setup.py egg_info:
    Traceback (most recent call last):
      File "", line 1, in 
      File "/tmp/pip-install-pasqnywc/MySQL-python/setup.py", line 13, in 
        from setup_posix import get_config
      File "/tmp/pip-install-pasqnywc/MySQL-python/setup_posix.py", line 2, in 
        from ConfigParser import SafeConfigParser
    ModuleNotFoundError: No module named 'ConfigParser'

    ----------------------------------------
Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-install-pasqnywc/MySQL-python/
(py36)

python3.x下pip安装 pymysql 代替MySQL-python 的方案

MySQL-python/MySQLdb 模块实在太久没有更新了,MariaDB发布后,其devel包的文件与mysql-devel有所不同,将造成编译失败。网上有hack方案,照着做补丁编译实在太麻烦,其实完全可以使用pymysql代替。

pip install pymysql

安装pymysql

新建个文件 /path-to-you-python/site-packages/MySQLdb.py 内容如下

"""compatible MySQLdb"""
from pymysql import *
install_as_MySQLdb()

完工。

前述的错误消息示例如后。如果还没安装mysql-devel包,报错将如下:

    _mysql.c:44:10: fatal error: my_config.h: No such file or directory
     #include "my_config.h"

装过MariaDB的devel包安装会报如下编译错误:

    In file included from _mysql.c:44:0:
    /usr/include/mysql/my_config.h:3:2: warning: #warning This file should not be included by clients, include only <mysql.h> [-Wcpp]
     #warning This file should not be included by clients, include only <mysql.h>
      ^~~~~~~

 

 

dokuwiki经验总结

设置

尽量不要直接修改doku程序源码(原因:容易出错,官方发布更新后还得麻烦一次);除非你对php程序足够自信、且不怕麻烦。

fnencode

linux/unix环境下,推荐在 管理-配置管理器-高级设置  里把 fnencode 改成utf-8,这样服务器上的中文文件名也将显示为原始文件名,会方便很多。(不要像网上有些文章里说的直接修改代码)。如果已经有非ascii文件名,可以先将它们改成英文文件名,改过fnencode后再从英文文件名改回来;否则非ascii码文件在前台将全部不可见。如果media附件也有非ascii码,好像没办法改。

扩展(插件/主题)

douku的扩展有两大类,插件与主题。以下都是插件,并且都可以在dokuwiki后台在线安装。尽量不要从别处下载扩展,以免夹带不好的私货。后台扩展管理界面,

  • Move 页面改名,并能自动修正所有相关链接
  • edittable 可视化编辑表格;从excel、网页等复制表格后,可以直接在可视化编辑界面粘贴
  • IPGroup 可以把某个ip的用户直接授权为相应的用户组。doc
  • WordPress authentication  允许使用wordpres站点的用户作为doku用户。

修改git提交的历史

前言

如果是团队协合中的git仓库,其历史最好不要修改;但如果是没有别人参与的个人项目,那就随便了,自己开心就好。毕竟,历史的条理与历史的真象,在哲学上就是一对矛盾。以下所有操作前,都最好把整目录备份一下,方便出错时从头再来。

修改最近一次提交及指定提交时间

git commit --amend --date "Wed, 01 Jan 2020 15:40:30 +0800"

commit 命令的 --amend 参数这个很简单,应该都用过。主要是 --date 这个参数,用来手工指定本次提交的时间(而不是默认的上次提交时间当前前系统时间),但是,它的日期格式 GIT_COMMITTER_DATE 不是汉语日常习惯的日期格式,很不方便手写,可以通过date命令做转换,如下(注意其中的三层引号是不同的,如果不熟悉bash可以死记,从外到内分别是单、反、双):

git commit --date '`date -R -d "2020/1/1 15:40:30"`'

删除文件

假设要删除passwords.txt的文件,让在整个git历史像不存在过一样

git filter-branch --tree-filter 'rm -f passwords.txt' HEAD

上面命令默认保留空提交,即删除文件后某些提交会成空提交,如清空这些空提交,可加入参数 --prune-empty

单个文件改名/单目录改名

git filter-branch --tree-filter 'if [ -f old-name.txt ]; then mv old-name.txt new-name.txt; fi' HEAD
git filter-branch --tree-filter 'if [ -d old-name ]; then mv old-name new-name; fi' HEAD

如上两行,分别是对单文件改名(old-name.txt  -> new-name.txt), 单目录改名(old-name -> new-name) ,事实上并没区别。

注意 .git/refs/original/refs/heads 目录要为空。否则会报错说"Cannot create a new backup. A previous backup already exists in refs/original/  Force overwriting the backup with -f",然而加-f参数似乎并没有用;可直接删除目录 .git/refs/original。  执行过该命令,就会生成一次.git/refs/original/refs/heads/master,大概是filter-branch的后悔药(备份目录)

如果有多个分支,可以强行将分支们合并,改过名后再滚回到合并前,这样通常更方便些:可一次完成所有分支里的改名,同时避免被一大堆各种分支搞晕。(方法来源于stackoverflow,具体链接忘了)。详细参考:Pro Git-重写历史

子目录变根目录

要把某个子目录foodir/ 下的所有文件(包含其历史),独立出去,成为一个单独的项目。其它文件自然被丢弃了,所以操作前要把整个仓库备份一下,或者在克隆的新仓库上操作。

git filter-branch --subdirectory-filter foodir -- --all

整个项目作为项目的子目录(根目录改子目录)

因为功能扩充、重构等原因,要把项目所有文件移到子目录里,git mv 不能被真正的跟踪。按如下操作,可移到newsubdir子目录中

git filter-branch --index-filter \
'git ls-files -s | sed "s-\t\"*-&newsubdir/-" |
GIT_INDEX_FILE=$GIT_INDEX_FILE.new \
git update-index --index-info &&
mv "$GIT_INDEX_FILE.new" "$GIT_INDEX_FILE"' HEAD

参看git联机文档 git filter-branch --help

合并提交(把多次commit合并成一个)

变基(rebase)相关操作,如 git rebase -i HEAD~3 更多参考git-book 重写历史

修改提交历史中的邮箱地址

git filter-branch --commit-filter '
if [ "$GIT_AUTHOR_EMAIL" = "schacon@localhost" ];
then
GIT_AUTHOR_NAME="Scott Chacon";
GIT_AUTHOR_EMAIL="schacon@example.com";
git commit-tree "$@";
else
git commit-tree "$@";
fi' HEAD

删除指定姓名的所有提交历史

这样作法不好,跟这人得多大的仇

git filter-branch --commit-filter '
       if [ "$GIT_AUTHOR_NAME" = "Darl McBribe" ];
       then
               skip_commit "$@";
       else
               git commit-tree "$@";
       fi' HEAD

从所有git历史版本中修改某个文件中指定内容(字串替换)

某个文件已经有多个历史版本,但里面有某些宜的内容(比如用户名密码),因此希望保留某完整的历史,而不是简单的将其所有历史中删除,而只把指定字符串替换掉。

git filter-branch --tree-filter '
  if [ -f create_table_sql.txt ];
  then
    sed -i "s/realpasswd/fackstring/g" create_table_sql.txt;
  fi' HEAD

自由的编辑(交互式,而非前面的批处理式)

  1. git rebase -i <commit> 命令打开交互式 rebase 编辑器(若要从第一次提交开始修改,可以使用 git rebase -i --root 命令)。
  2. 在编辑器中,将需要修改的提交行的前缀由 pick 改为 edit,然后保存并关闭编辑器。
  3. Git 将会逐个应用每个提交,并在需要修改的提交上停止。在停止处,可以自由的编辑,然后使用 git commit --amend 命令修改提交,或使用 git reset HEAD~ 命令取消提交并将文件恢复到未提交的状态。
  4. 如果把新近的 commit 拉到早期历史中,其日期将维持,这样插在历史记录显得很突兀;可以使用 --date 参数任意指定。不过日期格式 GIT_COMMITTER_DATE 很不方便手写,可以在shell里通过 date -R -d "2020-05-15 20:30:40" 转换,此二者是一致的,参看前面第一节中所述。
  5. 完成修改后,使用 git rebase --continue 命令继续 rebase 操作,直到所有的提交都被修改或应用。
  6. 如果在 rebase 过程中出现任何问题,可以使用 git rebase --abort 命令取消 rebase 操作并回到修改前的状态。

.EOF.

firefox多版本独立共存、同时运行方案

firefox升级到57以后,改进步子有点大,旧扩展失效,所以希望:多个版本互不影响的共存、并且可以同时运行,经过多数次反复折腾,基本上完美达成目标。

原理及要点

  1. 通过about:profiles创建多个配置文件,每个版本使用自己独立的配置文件
  2. 启动firefox时指定 --no-remote 参数,这样可以多版本同时运行
  3. 禁用旧版本的自动更新,最好再把其配置文件目录打包备份,配置文件被破坏时可以快速恢复(针对“自动更新”这个大敌)。

操作步骤

当前已经更新到最新的 firefox ESR 60.x,是为主要版本。另新安装一个ESR 52.x 作为第二版本。即平时使用60.x,需要兼容旧应用或扩展时再启动52.x。毕竟新版本速度更快,是未来的趋势。

  1. 启动一个firefox 60,地址栏输入 about:profiles 回车,按照提示创建新建一个配置文件,命名为esr52,完成后,新配置文件将默认创建到在 AppData\RoamingAppData\Local 下各一个子目录。示例如后图
  2. 安装firefox 52 ,注意要自定义安装,并修改安装目录(推荐安装到C:\Program Files\Mozilla Firefox_ESR52),否则将把默认版本覆盖掉! 安装完毕后不要直接启动。
  3. 把进入目录 C:\Program Files\Mozilla Firefox_ESR52 ,把firefox.exe发送到桌面快捷方式,然后修改快捷方式属性:目标增加两个参数 --no-remote -P esr52  其中--no-remote即是允许多版本启动,-P 参数指定的是配置文件名,即前面第1步的命名。
  4. 通过上面修改后的快捷方式启动firefox 52,进入 选项 - 高级-更新,选中“不检查更新”。按您的需要做其他设置(这里建议不要使用firefox同步功能,避免新旧两个版本同步扩展带来的混乱;如果执意要用的话可以注册两个同步账号)。
  5. 在firefox 52中打开about:profiles,确认当前使用的是esr52的配置文件。打开该配置的“根目录”文件夹,把该文件夹整体打包备份。

杂项附注

  • 最后的firefox旧版本:  https://ftp.mozilla.org/pub/firefox/releases/52.9.0esr/win64/zh-CN/ (Mozilla官方的版本存档,各版本、各语言)
  • 还可以尝试firefox便携版(Firefox Portable ,Mozilla官方产品),从 \Other\Source\ 中复制文件 FirefoxPortable.ini 到FirefoxPortable.exe所在目录,修改参数 AllowMultipleInstances=true,即可同时多开。有很多参数,说明参看Other\Source\Readme.txt

附图

新建配置文件

about:profiles 中显示配置文件信息

多个profile版本示例,及firefox 52启动快捷方式设置示例