カテゴリー ‘ さくらのVPS

MySQL, Solr, Redis, Apache, Nginxなどのログ設定


まだ書きかけ

Nginxでリバースプロキシを設定する


今まで、さくらのVPSでサーバの設定をしていて、

nginxでリバースプロキシを立てて処理させた方がメンテナンス性もあがるのではと考えています。

こちらのサイトを参考にサーバの構築をしていきたいとおもいます。

というより、アプリケーションサーバもNginxにしたほうがいいのかなと思ったのですが

アプリケーションサーバはapacheのままの方が情報量が多いのでそのままにしておきます。

以下、設定手順です。

 Nginxのインストール

必要なライブラリをインストールします。

sudo yum install libxslt-devel.x86_64 -y
sudo yum install gd-devel.x86_64 -y
sudo yum install geoip-devel.x86_64 -y

次にnginxをダウンロードしてインストールします。

この後で、nginxのproxy cache機能を使用するのですが、nginxにはキャッシュの削除機能が無く

「時間経過による削除」「キャッシュディレクトリ以下のファイルの全削除」

この2通りしかできません。

なので、個別にキャッシュを削除出来るように「nginx cache purge」というモジュールも追加でインストールします。

「nginx cache purge」の最新ファイルは、こちらから最新版をダウンロードしてnginxに組み込みます。(今回は1.5を使用します)

nginxのconfigureオプションは

  • WEBサーバ用のモジュールを全て使えるようにする
  • –user,–groupをwww-dataで指定するこれは、apacheも同じユーザーで動作するようにする
  • –prefix,–sbin-path,–conf-path,–error-log-path,–pid-path,–lock-path,–http-log-pathの指定先を変更する

色々と自分ようにアレンジしています。

wget http://labs.frickle.com/files/ngx_cache_purge-1.5.tar.gz
tar zxvf ngx_cache_purge-1.5.tar.gz
wget http://nginx.org/download/nginx-1.0.11.tar.gz
tar zxvf nginx-1.0.11.tar.gz
cd nginx-1.0.11
./configure --user=www-data --group=www-data --with-http_ssl_module --with-http_realip_module --with-http_addition_module --with-http_xslt_module --with-http_image_filter_module --with-http_geoip_module --with-http_sub_module --with-http_dav_module --with-http_flv_module --with-http_mp4_module --with-http_gzip_static_module --with-http_random_index_module --with-http_secure_link_module --with-http_degradation_module --with-http_stub_status_module --prefix=/opt/nginx --sbin-path=/usr/sbin/nginx --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --pid-path=/var/run/nginx.pid --lock-path=/var/lock/subsys/nginx --http-log-path=/var/log/nginx/access.log --add-module=../ngx_cache_purge-1.5
make
sudo make install

これでインストール完了です。

起動スクリプトの設定

yumを使用してインストールした場合に、作成される「/etc/init.d/nginx」のファイルの中身が以下の内容なのでそれを

「/etc/init.d/nginx」に作成する

#!/bin/sh
#
# nginx - this script starts and stops the nginx daemon
#
# chkconfig:   - 85 15
# description:  Nginx is an HTTP(S) server, HTTP(S) reverse \
#               proxy and IMAP/POP3 proxy server
# processname: nginx
# config:      /etc/nginx/nginx.conf
# config:      /etc/sysconfig/nginx
# pidfile:     /var/run/nginx.pid

# Source function library.
. /etc/rc.d/init.d/functions

# Source networking configuration.
. /etc/sysconfig/network

# Check that networking is up.
[ "$NETWORKING" = "no" ] && exit 0

nginx="/usr/sbin/nginx"
prog=$(basename $nginx)

NGINX_CONF_FILE="/etc/nginx/nginx.conf"

[ -f /etc/sysconfig/nginx ] && . /etc/sysconfig/nginx

lockfile=/var/lock/subsys/nginx

start() {
    [ -x $nginx ] || exit 5
    [ -f $NGINX_CONF_FILE ] || exit 6
    echo -n $"Starting $prog: "
    daemon $nginx -c $NGINX_CONF_FILE
    retval=$?
    echo
    [ $retval -eq 0 ] && touch $lockfile
    return $retval
}

stop() {
    echo -n $"Stopping $prog: "
    killproc $prog
    retval=$?
    echo
    [ $retval -eq 0 ] && rm -f $lockfile
    return $retval
}

restart() {
    configtest_q || configtest || return 6
    stop
    start
}

reload() {
    configtest_q || configtest || return 6
    echo -n $"Reloading $prog: "
    killproc $nginx -HUP
    echo
}

configtest() {
  $nginx -t -c $NGINX_CONF_FILE
}

configtest_q() {
    configtest >/dev/null 2>&1
}

rh_status() {
    status $prog
}

rh_status_q() {
    rh_status >/dev/null 2>&1
}

# Upgrade the binary with no downtime.
upgrade() {
    local pidfile="/var/run/${prog}.pid"
    local oldbin_pidfile="${pidfile}.oldbin"

    configtest_q || configtest || return 6
    echo -n $"Staring new master $prog: "
    killproc $nginx -USR2
    retval=$?
    echo
    sleep 1
    if [[ -f ${oldbin_pidfile} && -f ${pidfile} ]];  then
        echo -n $"Graceful shutdown of old $prog: "
        killproc -p ${oldbin_pidfile} -QUIT
        retval=$?
        echo
        return 0
    else
        echo $"Something bad happened, manual intervention required, maybe restart?"
        return 1
    fi
}

case "$1" in
    start)
        rh_status_q && exit 0
        $1
        ;;
    stop)
        rh_status_q || exit 0
        $1
        ;;
    restart|configtest)
        $1
        ;;
    force-reload|upgrade)
        rh_status_q || exit 7
        upgrade
        ;;
    reload)
        rh_status_q || exit 7
        $1
        ;;
    status|status_q)
        rh_$1
        ;;
    condrestart|try-restart)
        rh_status_q || exit 7
        restart
	    ;;
    *)
        echo $"Usage: $0 {start|stop|reload|configtest|status|force-reload|upgrade|restart}"
        exit 2
esac

自動起動されるように設定しておきます

sudo chkconfig nginx on

次は、リバースプロキシとして動作させる為に必要な設定です。

Apacheの設定変更

  1. 使用ポートの変更(80番ポートはnginxに使ってもらうために別ポートを使用するように変更する)
  2. ローカルからのアクセスのみを受け付けるように変更(外部から直接アクセスがあっても参照できないようにする)
  3. 正しいIPアドレス転送の設定をする(mod_rpafをインストール設定する)

使用ポートの変更

※IPアドレスを「127.0.0.1」としていますが、各自のサーバのIPアドレスに変更してください。

Apacheのconfファイルを「Listen」の値を変更する

変更前

Listen 80

変更後

Listen 8080
NameVirtualHost の設定のポート変更

変更前

NameVirtualHost 127.0.0.1

変更後

NameVirtualHost 127.0.0.1:8080
VirtualHost設定のポートの変更

変更前

NameVirtualHost 127.0.0.1

<VirtualHost 127.0.0.1>
	ServerName hogehoge.com

変更後

NameVirtualHost 127.0.0.1:8080

<VirtualHost 127.0.0.1:8080>
	ServerName hogehoge.com:8080

これで再起動するとApacheが8080番ポートで動作するようになります。

ローカルからのアクセスのみ受け付けるように変更

外部からの直接Apacheへのアクセスをさせないようにします。

「VirtualHost」にアクセス設定の行を追加します。

変更前

NameVirtualHost 127.0.0.1

<VirtualHost 127.0.0.1>
	ServerName hogehoge.com
	Order deny,allow
	Allow from all

変更後

NameVirtualHost 127.0.0.1:8080

<VirtualHost 127.0.0.1:8080>
	ServerName hogehoge.com:8080

	Order deny,allow
	Allow from 127.0.0.1
	Allow from 192.168.0.1
	Deny from all

「Allow from IPアドレス」の箇所は必要な分だけ設定して下さい。

正しいIPアドレス転送の設定をする

Apacheにmod_rpafのモジュールを追加します。

このモジュール追加をしないと、リバースプロキシ経由のリモートホストのアドレスが全てローカルIPになってしまうので修正します。

問題ないなら設定する必要はありません。

「mod_rpaf」モジュールのインストール

以下のコマンドでインストールできます。

wget http://stderr.net/apache/rpaf/download/mod_rpaf-0.6.tar.gz
tar zxvf mod_rpaf-0.6.tar.gz
cd mod_rpaf-0.6
sudo apxs -i -c -n mod_rpaf-2.0.so mod_rpaf-2.0.c

これでモジュールのインストールは完了です。

次に設定の変更です。

LoadModuleの追加
LoadModule rpaf_module modules/mod_rpaf-2.0.so

この行を追加してmod_rpafモジュールを有効化します。

RPAFenable On
RPAFsethostname Off
RPAFproxy_ips 127.0.0.1

これを追加することで、内部からのアクセスに対して動作するようになります。

指定しているIPアドレスはプロキシサーバのIPアドレスです。

Nginxの設定変更

  1. プロキシの設定
  2. リクエストIPアドレスをログに残す設定
  3. キャッシュの設定
server {
    server_name  .hogehoge.com;

    location / {
        proxy_pass http://127.0.0.1:8080;
    }
}

これで、単純にアクセスはApacheに行くようになりますが、

apacheのアクセスログを見るとアクセス先のIPアドレスが127.0.0.1となっていてプロキシサーバのアドレスが記録されてしまっています。

アクセス元のIPアドレスが登録されるようにnginxの設定を変更します。

server {
        server_name  .hogehoge.com;
        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # クライアントの IP アドレス
        proxy_set_header X-Forwarded-Host $host; # オリジナルのホスト名。クライアントが Host リクエストヘッダで渡す。
        proxy_set_header X-Forwarded-Server $host; # プロキシサーバのホスト名
        proxy_set_header X-Real-IP $remote_addr;

        location / {
                proxy_pass http://127.0.0.1:8080;
        }
}

これで、Apacheのログにアクセス元のクライアントのIPアドレスが残ります。

最後にproxy_cacheの設定します。

httpディレクティブの設定

http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  /var/log/nginx/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  5;
    #keepalive_timeout  0;
    #keepalive_timeout  65;

    gzip  on;
    gzip_http_version 1.0;
    gzip_types text/plain text/xml text/css application/xml application/xhtml+xml application/rss+xml application/atom_xml application/javascript application/x-javascript application/x-httpd-php;
    gzip_disable "MSIE [1-6]\.";
    gzip_disable "Mozilla/4";
    gzip_comp_level 2;
    gzip_vary on;
    gzip_proxied any;
    gzip_buffers 4 8k;

    server_names_hash_bucket_size 128;

    proxy_cache_path /opt/nginx/proxy_cache levels=1:2 keys_zone=cache1:15m inactive=7d max_size=1000m;
    proxy_temp_path /opt/nginx/proxy_temp;

〜 以降 serverディレクティブ 〜

serverディレクティブの設定

server {
  server_name  .49.212.59.18;
  server_name  .hashizume-nginx.com;
  client_max_body_size 5m;
  proxy_set_header Host $host;
  proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # クライアントの IP アドレス
  proxy_set_header X-Forwarded-Host $host; # オリジナルのホスト名。クライアントが Host リクエストヘッダで渡す。
  proxy_set_header X-Forwarded-Server $host; # プロキシサーバのホスト名
  proxy_set_header X-Real-IP $remote_addr;
  location ~ .*\.(htm|html|jpg|JPG|gif|GIF|png|PNG|swf|SWF|css|CSS|js|JS|inc|INC|ico|ICO) {
    root    /opt/nginx/html;
    index   index.html;
    break;
  }

  location / {
    proxy_pass http://127.0.0.1:8080;
    proxy_cache cache1;
    proxy_cache_key $scheme$proxy_host$uri$is_args$args;
    proxy_cache_valid  200 1d;
  }
}

これでproxyキャッシュが有効になり、無駄なapacheへのアクセスもなくなります。

設定は、環境によって調整はもちろん必要です。

さくらのVPSにsolrをインストール


javaのインストール

sudo yum install java -y

これでインストールが終わるとJavaが使用できるようになります。

Andのインストール

sudo yum install ant -y

これでインストールが終わるとAntが使用出来るようになります。

Jettyのインストール

solrをインストールするとjettyもサンプルと一緒についてきますが、

今回は別途jettyをインストールします。

まずは、「Jetty Eclipse Downloads」から最新のjettyをダウンロードします。

wget http://download.eclipse.org/jetty/stable-8/dist/jetty-distribution-8.0.4.v20111024.tar.gz
tar zxvf jetty-distribution-8.0.4.v20111024.tar.gz
sudo mv jetty-distribution-8.0.4.v20111024 /opt/jetty
sudo cp /opt/jetty/bin/jetty.sh /etc/init.d/jetty

jettyの起動スクリプト使用して起動する為に「JETTY_HOME」という環境変数を設定する必要があるので、jettyのインストールディレクトを「JETTY_HOME」として設定します。

JETTY_HOME=/opt/jetty

ここまで設定ができたら

sudo /etc/init.d/jetty start

でjettyを起動が出来るようになります。

solrのインストール

まず、アーカイブファイルをダウンロードしてきます。

wget http://ftp.riken.jp/net/apache//lucene/solr/3.5.0/apache-solr-3.5.0.tgz
tar zxvf apache-solr-3.5.0.tgz
cd apache-solr-3.5.0

とりあえず起動確認をします。

cd apache-solr-3.5.0/example/
java -jar start.jar

これでサーバが起動しているので

「http://IPアドレス:8983/solr/admin/」

これにブラウザでアクセスして以下のようなページが表示されればOKです。

solrを移動させる

sudo cp -r apache-solr-3.5.0 /opt/solr

solrのインストールディレクトリを「$SOLR」として「solr.solr.home」で設定出来るsolrのホームディレクトリを「$SOLR_HOME」として以下、記述します。

solrに形態素解析器senをインストール

まず、senをsvnからexportする

svn export https://svn.java.net/svn/sen~svn/trunk/sen
ant
cd dic
ant

これで、senのライブラリと辞書は作成できました。

senのインストールディレクトリを「$SEN」として以下記述します。

次に「$SOLR_HOME/lib」にsenのライブラリをコピーします

cp $SEN/lib/sen.jar $SOLR_HOME/lib/

solrの起動時のオプションを追加して起動します。

java -Dsen.home=$SEN -jar start.jar

これでsenが使用出来るようになります。

ちなみにjettyの起動スクリプトに「-Dsen.home=$SEN」の内容を反映させる為に、環境変数「JAVA_OPTIONS」に値を設定します。

JAVA_OPTIONS=-Dsen.home=$SEN

これでjettyの起動スクリプト経由でもsenを有効にできます。

solrをjettyで動作させる

次にインストールしたjettyでsolrを動作させます。

「solr.war」をjettyのwebappsに追加します。

cp $SOLR/example/webapps/solr.war $JETTY_HOME/webapps

先ほど設定した環境変数「JAVA_OPTIONS」にsolrの設定も追加します。

JAVA_OPTIONS="-Dsen.home=$SEN -Dsolr.solr.home=$SOLR_HOME"

これでjettyの起動スクリプトで起動したときに「sen」も使用できて「solr Admin」も使用出来る環境ができました。

あとは、solrの設定を各自して運用してください。

ちなみにJETTY_USERと言う環境変数でjettyの起動ユーザーを設定できたり、「.jettyrc」を設定しておくことで起動スクリプトの環境変数を設定する事ができます。

さくらのVPSにMongoDBをインストール


MongoDBの10genリポジトリを設定

「/etc/yum.repos.d/10gen.repo」を作成する

sudo vim /etc/yum.repos.d/10gen.repo
[内容]
[10gen]
name=10gen Repository
baseurl=http://downloads-distro.mongodb.org/repo/redhat/os/x86_64
gpgcheck=0
enabled=0
priority=1

これでyumリポジトリができました。

MongoDBのインストール

yum search --enablerepo=10gen mongo
 〜中略〜
mongo-10gen.x86_64 : mongo client shell and tools
mongo-10gen-server.x86_64 : mongo server, sharding server, and support scripts
 〜中略〜

2つ対象が見つかったのでインストールする

sudo yum install --enablerepo=10gen mongo-10gen.x86_64 mongo-10gen-server.x86_64 -y

これでインストールが完了します。

起動確認

これでまず、サービス起動する

sudo /etc/init.d/mongod start

次にクライアントから接続、

mongo
MongoDB shell version: 2.0.2
connecting to: test
> quit();

とりあえず接続できたからOKと。

自動起動の設定

sudo chkconfig mongod on

これでサーバが再起動されても自動的にmongodが起動します。

 

次は、solrのインストールです。

さくらのVPSにredisをインストール


redisのインストール

yumでのインストールもできますが、最新をインストールしたかったので、

ソースファイルをダウンロードしてきてインストールします

wget http://redis.googlecode.com/files/redis-2.4.5.tar.gz
tar zxvf redis-2.4.5.tar.gz
cd redis-2.4.5
make
sudo make install

これでインストールは完了です。

動作確認

redis-server
これでサーバが起動します。
起動させたまま、別のターミナルで
redis-cli
redis> ping
PONG
redis> set foo bar
OK
redis> get foo
"bar"
redis> quit

このように動作すればとりあえずインストールはOK

起動スクリプトの設定

起動スクリプトのやり方は2通り書いておきます。

私は方法1.を使用しています。

方法1.yumでインストールした場合に作成される起動スクリプトを使用する

まず、redisを使用するユーザーとグループを作成する

sudo groupadd redis
sudo useradd -s /sbin/nologin -M -g redis redis

GID、UIDをサーバで指定したい場合は、上記コマンドに追加して設定師てください。

こちらのファイルを

「/etc/init.d/redis」の名前で設定する

#!/bin/sh
#
# redis        init file for starting up the redis daemon
#
# chkconfig:   - 20 80
# description: Starts and stops the redis daemon.

# Source function library.
. /etc/rc.d/init.d/functions

name="redis-server"
exec="/usr/sbin/$name"
pidfile="/var/run/redis/redis.pid"
REDIS_CONFIG="/etc/redis.conf"

[ -e /etc/sysconfig/redis ] && . /etc/sysconfig/redis

lockfile=/var/lock/subsys/redis

start() {
    [ -f $REDIS_CONFIG ] || exit 6
    [ -x $exec ] || exit 5
    echo -n $"Starting $name: "
    daemon --user ${REDIS_USER-redis} "$exec $REDIS_CONFIG"
    retval=$?
    echo
    [ $retval -eq 0 ] && touch $lockfile
    return $retval
}

stop() {
    echo -n $"Stopping $name: "
    killproc -p $pidfile $name
    retval=$?
    echo
    [ $retval -eq 0 ] && rm -f $lockfile
    return $retval
}

restart() {
    stop
    start
}

reload() {
    false
}

rh_status() {
    status -p $pidfile $name
}

rh_status_q() {
    rh_status >/dev/null 2>&1
}

case "$1" in
    start)
        rh_status_q && exit 0
        $1
        ;;
    stop)
        rh_status_q || exit 0
        $1
        ;;
    restart)
        $1
        ;;
    reload)
        rh_status_q || exit 7
        $1
        ;;
    force-reload)
        force_reload
        ;;
    status)
        rh_status
        ;;
    condrestart|try-restart)
        rh_status_q || exit 0
        restart
        ;;
    *)
        echo $"Usage: $0 {start|stop|status|restart|condrestart|try-restart}"
        exit 2
esac
exit $?

これで完了です。

自動起動設定
sudo chkconfig redis on

これで、サーバが再起動しても自動起動します。

方法2.install_server.shを使用する

起動スクリプトの設定ですが、「utils/install_server.sh」を動作させてインストールします。

zshを使って私がやっているとそのままでは上手く動作しなかったので以下の修正をしました。

32行目を追加

# Interactive service installer for redis server
# this generates a redis config file and an /etc/init.d script, and installs them
# this scripts should be run as root
#
PATH=$PATH:/usr/local/bin

139行目を修正(-eを追加)

-echo $REDIS_INIT_HEADER > $TMP_FILE && cat $INIT_TPL_FILE >> $TMP_FILE || die "Could not write init script to $TMP_FILE"
+echo -e $REDIS_INIT_HEADER > $TMP_FILE && cat $INIT_TPL_FILE >> $TMP_FILE || die "Could not write init script to $TMP_FILE"

これで、install_server.shの修正は終了です。

実行します。

cd utils
sudo ./install_server.sh
Welcome to the redis service installer
This script will help you easily set up a running redis server

Please select the redis port for this instance: [6379]
Selecting default: 6379
Please select the redis config file name [/etc/redis/6379.conf]
Selected default - /etc/redis/6379.conf
Please select the redis log file name [/var/log/redis_6379.log]
Selected default - /var/log/redis_6379.log
Please select the data directory for this instance [/var/lib/redis/6379]
Selected default - /var/lib/redis/6379
Please select the redis executable path [/usr/local/bin/redis-server]
Copied /tmp/6379.conf => /etc/init.d/redis_6379
Installing service...
./install_server.sh: line 147: update-rc.d: command not found
Starting Redis server...
Installation successful!

色々聞かれますが、全てデフォルトでインストールしました。

起動確認

redis起動

sudo /etc/init.d/redis_6379 start

redis停止

sudo /etc/init.d/redis_6379 stop

これでredisが動作していれば大丈夫です。

 

次は、MongoDBのインストールです。

return top