MySQL, Solr, Redis, Apache, Nginxなどのログ設定
まだ書きかけ
今まで、さくらのVPSでサーバの設定をしていて、
nginxでリバースプロキシを立てて処理させた方がメンテナンス性もあがるのではと考えています。
こちらのサイトを参考にサーバの構築をしていきたいとおもいます。
というより、アプリケーションサーバもNginxにしたほうがいいのかなと思ったのですが
アプリケーションサーバはapacheのままの方が情報量が多いのでそのままにしておきます。
以下、設定手順です。
必要なライブラリをインストールします。
sudo yum install libxslt-devel.x86_64 -y sudo yum install gd-devel.x86_64 -y sudo yum install geoip-devel.x86_64 -y
次にnginxをダウンロードしてインストールします。
この後で、nginxのproxy cache機能を使用するのですが、nginxにはキャッシュの削除機能が無く
「時間経過による削除」「キャッシュディレクトリ以下のファイルの全削除」
この2通りしかできません。
なので、個別にキャッシュを削除出来るように「nginx cache purge」というモジュールも追加でインストールします。
「nginx cache purge」の最新ファイルは、こちらから最新版をダウンロードしてnginxに組み込みます。(今回は1.5を使用します)
nginxのconfigureオプションは
色々と自分ようにアレンジしています。
wget http://labs.frickle.com/files/ngx_cache_purge-1.5.tar.gz tar zxvf ngx_cache_purge-1.5.tar.gz wget http://nginx.org/download/nginx-1.0.11.tar.gz tar zxvf nginx-1.0.11.tar.gz cd nginx-1.0.11 ./configure --user=www-data --group=www-data --with-http_ssl_module --with-http_realip_module --with-http_addition_module --with-http_xslt_module --with-http_image_filter_module --with-http_geoip_module --with-http_sub_module --with-http_dav_module --with-http_flv_module --with-http_mp4_module --with-http_gzip_static_module --with-http_random_index_module --with-http_secure_link_module --with-http_degradation_module --with-http_stub_status_module --prefix=/opt/nginx --sbin-path=/usr/sbin/nginx --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --pid-path=/var/run/nginx.pid --lock-path=/var/lock/subsys/nginx --http-log-path=/var/log/nginx/access.log --add-module=../ngx_cache_purge-1.5 make sudo make install
これでインストール完了です。
yumを使用してインストールした場合に、作成される「/etc/init.d/nginx」のファイルの中身が以下の内容なのでそれを
「/etc/init.d/nginx」に作成する
#!/bin/sh
#
# nginx - this script starts and stops the nginx daemon
#
# chkconfig: - 85 15
# description: Nginx is an HTTP(S) server, HTTP(S) reverse \
# proxy and IMAP/POP3 proxy server
# processname: nginx
# config: /etc/nginx/nginx.conf
# config: /etc/sysconfig/nginx
# pidfile: /var/run/nginx.pid
# Source function library.
. /etc/rc.d/init.d/functions
# Source networking configuration.
. /etc/sysconfig/network
# Check that networking is up.
[ "$NETWORKING" = "no" ] && exit 0
nginx="/usr/sbin/nginx"
prog=$(basename $nginx)
NGINX_CONF_FILE="/etc/nginx/nginx.conf"
[ -f /etc/sysconfig/nginx ] && . /etc/sysconfig/nginx
lockfile=/var/lock/subsys/nginx
start() {
[ -x $nginx ] || exit 5
[ -f $NGINX_CONF_FILE ] || exit 6
echo -n $"Starting $prog: "
daemon $nginx -c $NGINX_CONF_FILE
retval=$?
echo
[ $retval -eq 0 ] && touch $lockfile
return $retval
}
stop() {
echo -n $"Stopping $prog: "
killproc $prog
retval=$?
echo
[ $retval -eq 0 ] && rm -f $lockfile
return $retval
}
restart() {
configtest_q || configtest || return 6
stop
start
}
reload() {
configtest_q || configtest || return 6
echo -n $"Reloading $prog: "
killproc $nginx -HUP
echo
}
configtest() {
$nginx -t -c $NGINX_CONF_FILE
}
configtest_q() {
configtest >/dev/null 2>&1
}
rh_status() {
status $prog
}
rh_status_q() {
rh_status >/dev/null 2>&1
}
# Upgrade the binary with no downtime.
upgrade() {
local pidfile="/var/run/${prog}.pid"
local oldbin_pidfile="${pidfile}.oldbin"
configtest_q || configtest || return 6
echo -n $"Staring new master $prog: "
killproc $nginx -USR2
retval=$?
echo
sleep 1
if [[ -f ${oldbin_pidfile} && -f ${pidfile} ]]; then
echo -n $"Graceful shutdown of old $prog: "
killproc -p ${oldbin_pidfile} -QUIT
retval=$?
echo
return 0
else
echo $"Something bad happened, manual intervention required, maybe restart?"
return 1
fi
}
case "$1" in
start)
rh_status_q && exit 0
$1
;;
stop)
rh_status_q || exit 0
$1
;;
restart|configtest)
$1
;;
force-reload|upgrade)
rh_status_q || exit 7
upgrade
;;
reload)
rh_status_q || exit 7
$1
;;
status|status_q)
rh_$1
;;
condrestart|try-restart)
rh_status_q || exit 7
restart
;;
*)
echo $"Usage: $0 {start|stop|reload|configtest|status|force-reload|upgrade|restart}"
exit 2
esac
自動起動されるように設定しておきます
sudo chkconfig nginx on
次は、リバースプロキシとして動作させる為に必要な設定です。
※IPアドレスを「127.0.0.1」としていますが、各自のサーバのIPアドレスに変更してください。
変更前
Listen 80
変更後
Listen 8080
変更前
NameVirtualHost 127.0.0.1
変更後
NameVirtualHost 127.0.0.1:8080
変更前
NameVirtualHost 127.0.0.1 <VirtualHost 127.0.0.1> ServerName hogehoge.com
変更後
NameVirtualHost 127.0.0.1:8080 <VirtualHost 127.0.0.1:8080> ServerName hogehoge.com:8080
これで再起動するとApacheが8080番ポートで動作するようになります。
外部からの直接Apacheへのアクセスをさせないようにします。
「VirtualHost」にアクセス設定の行を追加します。
変更前
NameVirtualHost 127.0.0.1 <VirtualHost 127.0.0.1> ServerName hogehoge.com Order deny,allow Allow from all
変更後
NameVirtualHost 127.0.0.1:8080 <VirtualHost 127.0.0.1:8080> ServerName hogehoge.com:8080 Order deny,allow Allow from 127.0.0.1 Allow from 192.168.0.1 Deny from all
「Allow from IPアドレス」の箇所は必要な分だけ設定して下さい。
Apacheにmod_rpafのモジュールを追加します。
このモジュール追加をしないと、リバースプロキシ経由のリモートホストのアドレスが全てローカルIPになってしまうので修正します。
問題ないなら設定する必要はありません。
以下のコマンドでインストールできます。
wget http://stderr.net/apache/rpaf/download/mod_rpaf-0.6.tar.gz tar zxvf mod_rpaf-0.6.tar.gz cd mod_rpaf-0.6 sudo apxs -i -c -n mod_rpaf-2.0.so mod_rpaf-2.0.c
これでモジュールのインストールは完了です。
次に設定の変更です。
LoadModule rpaf_module modules/mod_rpaf-2.0.so
この行を追加してmod_rpafモジュールを有効化します。
RPAFenable On RPAFsethostname Off RPAFproxy_ips 127.0.0.1
これを追加することで、内部からのアクセスに対して動作するようになります。
指定しているIPアドレスはプロキシサーバのIPアドレスです。
server {
server_name .hogehoge.com;
location / {
proxy_pass http://127.0.0.1:8080;
}
}
これで、単純にアクセスはApacheに行くようになりますが、
apacheのアクセスログを見るとアクセス先のIPアドレスが127.0.0.1となっていてプロキシサーバのアドレスが記録されてしまっています。
アクセス元のIPアドレスが登録されるようにnginxの設定を変更します。
server {
server_name .hogehoge.com;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # クライアントの IP アドレス
proxy_set_header X-Forwarded-Host $host; # オリジナルのホスト名。クライアントが Host リクエストヘッダで渡す。
proxy_set_header X-Forwarded-Server $host; # プロキシサーバのホスト名
proxy_set_header X-Real-IP $remote_addr;
location / {
proxy_pass http://127.0.0.1:8080;
}
}
これで、Apacheのログにアクセス元のクライアントのIPアドレスが残ります。
最後にproxy_cacheの設定します。
httpディレクティブの設定
http {
include /etc/nginx/mime.types;
default_type application/octet-stream;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
access_log /var/log/nginx/access.log main;
sendfile on;
#tcp_nopush on;
keepalive_timeout 5;
#keepalive_timeout 0;
#keepalive_timeout 65;
gzip on;
gzip_http_version 1.0;
gzip_types text/plain text/xml text/css application/xml application/xhtml+xml application/rss+xml application/atom_xml application/javascript application/x-javascript application/x-httpd-php;
gzip_disable "MSIE [1-6]\.";
gzip_disable "Mozilla/4";
gzip_comp_level 2;
gzip_vary on;
gzip_proxied any;
gzip_buffers 4 8k;
server_names_hash_bucket_size 128;
proxy_cache_path /opt/nginx/proxy_cache levels=1:2 keys_zone=cache1:15m inactive=7d max_size=1000m;
proxy_temp_path /opt/nginx/proxy_temp;
〜 以降 serverディレクティブ 〜
serverディレクティブの設定
server {
server_name .49.212.59.18;
server_name .hashizume-nginx.com;
client_max_body_size 5m;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # クライアントの IP アドレス
proxy_set_header X-Forwarded-Host $host; # オリジナルのホスト名。クライアントが Host リクエストヘッダで渡す。
proxy_set_header X-Forwarded-Server $host; # プロキシサーバのホスト名
proxy_set_header X-Real-IP $remote_addr;
location ~ .*\.(htm|html|jpg|JPG|gif|GIF|png|PNG|swf|SWF|css|CSS|js|JS|inc|INC|ico|ICO) {
root /opt/nginx/html;
index index.html;
break;
}
location / {
proxy_pass http://127.0.0.1:8080;
proxy_cache cache1;
proxy_cache_key $scheme$proxy_host$uri$is_args$args;
proxy_cache_valid 200 1d;
}
}
これでproxyキャッシュが有効になり、無駄なapacheへのアクセスもなくなります。
設定は、環境によって調整はもちろん必要です。
sudo yum install java -y
これでインストールが終わるとJavaが使用できるようになります。
sudo yum install ant -y
これでインストールが終わるとAntが使用出来るようになります。
solrをインストールするとjettyもサンプルと一緒についてきますが、
今回は別途jettyをインストールします。
まずは、「Jetty Eclipse Downloads」から最新のjettyをダウンロードします。
wget http://download.eclipse.org/jetty/stable-8/dist/jetty-distribution-8.0.4.v20111024.tar.gz tar zxvf jetty-distribution-8.0.4.v20111024.tar.gz sudo mv jetty-distribution-8.0.4.v20111024 /opt/jetty sudo cp /opt/jetty/bin/jetty.sh /etc/init.d/jetty
jettyの起動スクリプト使用して起動する為に「JETTY_HOME」という環境変数を設定する必要があるので、jettyのインストールディレクトを「JETTY_HOME」として設定します。
JETTY_HOME=/opt/jetty
ここまで設定ができたら
sudo /etc/init.d/jetty start
でjettyを起動が出来るようになります。
まず、アーカイブファイルをダウンロードしてきます。
wget http://ftp.riken.jp/net/apache//lucene/solr/3.5.0/apache-solr-3.5.0.tgz tar zxvf apache-solr-3.5.0.tgz cd apache-solr-3.5.0
とりあえず起動確認をします。
cd apache-solr-3.5.0/example/ java -jar start.jar
これでサーバが起動しているので
「http://IPアドレス:8983/solr/admin/」
これにブラウザでアクセスして以下のようなページが表示されればOKです。
solrを移動させる
sudo cp -r apache-solr-3.5.0 /opt/solr
solrのインストールディレクトリを「$SOLR」として「solr.solr.home」で設定出来るsolrのホームディレクトリを「$SOLR_HOME」として以下、記述します。
まず、senをsvnからexportする
svn export https://svn.java.net/svn/sen~svn/trunk/sen ant cd dic ant
これで、senのライブラリと辞書は作成できました。
senのインストールディレクトリを「$SEN」として以下記述します。
次に「$SOLR_HOME/lib」にsenのライブラリをコピーします
cp $SEN/lib/sen.jar $SOLR_HOME/lib/
solrの起動時のオプションを追加して起動します。
java -Dsen.home=$SEN -jar start.jar
これでsenが使用出来るようになります。
ちなみにjettyの起動スクリプトに「-Dsen.home=$SEN」の内容を反映させる為に、環境変数「JAVA_OPTIONS」に値を設定します。
JAVA_OPTIONS=-Dsen.home=$SEN
これでjettyの起動スクリプト経由でもsenを有効にできます。
次にインストールしたjettyでsolrを動作させます。
「solr.war」をjettyのwebappsに追加します。
cp $SOLR/example/webapps/solr.war $JETTY_HOME/webapps
先ほど設定した環境変数「JAVA_OPTIONS」にsolrの設定も追加します。
JAVA_OPTIONS="-Dsen.home=$SEN -Dsolr.solr.home=$SOLR_HOME"
これでjettyの起動スクリプトで起動したときに「sen」も使用できて「solr Admin」も使用出来る環境ができました。
あとは、solrの設定を各自して運用してください。
ちなみにJETTY_USERと言う環境変数でjettyの起動ユーザーを設定できたり、「.jettyrc」を設定しておくことで起動スクリプトの環境変数を設定する事ができます。
「/etc/yum.repos.d/10gen.repo」を作成する
sudo vim /etc/yum.repos.d/10gen.repo [内容] [10gen] name=10gen Repository baseurl=http://downloads-distro.mongodb.org/repo/redhat/os/x86_64 gpgcheck=0 enabled=0 priority=1
これでyumリポジトリができました。
yum search --enablerepo=10gen mongo 〜中略〜 mongo-10gen.x86_64 : mongo client shell and tools mongo-10gen-server.x86_64 : mongo server, sharding server, and support scripts 〜中略〜
2つ対象が見つかったのでインストールする
sudo yum install --enablerepo=10gen mongo-10gen.x86_64 mongo-10gen-server.x86_64 -y
これでインストールが完了します。
これでまず、サービス起動する
sudo /etc/init.d/mongod start
次にクライアントから接続、
mongo MongoDB shell version: 2.0.2 connecting to: test > quit();
とりあえず接続できたからOKと。
sudo chkconfig mongod on
これでサーバが再起動されても自動的にmongodが起動します。
次は、solrのインストールです。
yumでのインストールもできますが、最新をインストールしたかったので、
ソースファイルをダウンロードしてきてインストールします
wget http://redis.googlecode.com/files/redis-2.4.5.tar.gz tar zxvf redis-2.4.5.tar.gz cd redis-2.4.5 make sudo make install
これでインストールは完了です。
redis-server これでサーバが起動します。 起動させたまま、別のターミナルで redis-cli redis> ping PONG redis> set foo bar OK redis> get foo "bar" redis> quit
このように動作すればとりあえずインストールはOK
起動スクリプトのやり方は2通り書いておきます。
私は方法1.を使用しています。
まず、redisを使用するユーザーとグループを作成する
sudo groupadd redis sudo useradd -s /sbin/nologin -M -g redis redis
GID、UIDをサーバで指定したい場合は、上記コマンドに追加して設定師てください。
こちらのファイルを
「/etc/init.d/redis」の名前で設定する
#!/bin/sh
#
# redis init file for starting up the redis daemon
#
# chkconfig: - 20 80
# description: Starts and stops the redis daemon.
# Source function library.
. /etc/rc.d/init.d/functions
name="redis-server"
exec="/usr/sbin/$name"
pidfile="/var/run/redis/redis.pid"
REDIS_CONFIG="/etc/redis.conf"
[ -e /etc/sysconfig/redis ] && . /etc/sysconfig/redis
lockfile=/var/lock/subsys/redis
start() {
[ -f $REDIS_CONFIG ] || exit 6
[ -x $exec ] || exit 5
echo -n $"Starting $name: "
daemon --user ${REDIS_USER-redis} "$exec $REDIS_CONFIG"
retval=$?
echo
[ $retval -eq 0 ] && touch $lockfile
return $retval
}
stop() {
echo -n $"Stopping $name: "
killproc -p $pidfile $name
retval=$?
echo
[ $retval -eq 0 ] && rm -f $lockfile
return $retval
}
restart() {
stop
start
}
reload() {
false
}
rh_status() {
status -p $pidfile $name
}
rh_status_q() {
rh_status >/dev/null 2>&1
}
case "$1" in
start)
rh_status_q && exit 0
$1
;;
stop)
rh_status_q || exit 0
$1
;;
restart)
$1
;;
reload)
rh_status_q || exit 7
$1
;;
force-reload)
force_reload
;;
status)
rh_status
;;
condrestart|try-restart)
rh_status_q || exit 0
restart
;;
*)
echo $"Usage: $0 {start|stop|status|restart|condrestart|try-restart}"
exit 2
esac
exit $?
これで完了です。
sudo chkconfig redis on
これで、サーバが再起動しても自動起動します。
起動スクリプトの設定ですが、「utils/install_server.sh」を動作させてインストールします。
zshを使って私がやっているとそのままでは上手く動作しなかったので以下の修正をしました。
32行目を追加
# Interactive service installer for redis server # this generates a redis config file and an /etc/init.d script, and installs them # this scripts should be run as root # PATH=$PATH:/usr/local/bin
139行目を修正(-eを追加)
-echo $REDIS_INIT_HEADER > $TMP_FILE && cat $INIT_TPL_FILE >> $TMP_FILE || die "Could not write init script to $TMP_FILE" +echo -e $REDIS_INIT_HEADER > $TMP_FILE && cat $INIT_TPL_FILE >> $TMP_FILE || die "Could not write init script to $TMP_FILE"
これで、install_server.shの修正は終了です。
実行します。
cd utils sudo ./install_server.sh Welcome to the redis service installer This script will help you easily set up a running redis server Please select the redis port for this instance: [6379] Selecting default: 6379 Please select the redis config file name [/etc/redis/6379.conf] Selected default - /etc/redis/6379.conf Please select the redis log file name [/var/log/redis_6379.log] Selected default - /var/log/redis_6379.log Please select the data directory for this instance [/var/lib/redis/6379] Selected default - /var/lib/redis/6379 Please select the redis executable path [/usr/local/bin/redis-server] Copied /tmp/6379.conf => /etc/init.d/redis_6379 Installing service... ./install_server.sh: line 147: update-rc.d: command not found Starting Redis server... Installation successful!
色々聞かれますが、全てデフォルトでインストールしました。
redis起動
sudo /etc/init.d/redis_6379 start
redis停止
sudo /etc/init.d/redis_6379 stop
これでredisが動作していれば大丈夫です。
次は、MongoDBのインストールです。