サーバー全体の動作が重くなるのをどうにかする

さくらの VPS を利用するようになってから、サーバー全体の動作が重いのが気になっていました。結論から言うと、 Apache がメモリーを食いつぶし、スワップを引き起こしまくっていたからでした。

Trac のページやこのブログ、会社のトップページでさえ、表示するのにやたらと時間がかかるので、 ssh で接続して状況を見ようとすると、その ssh での応答も非常に時間がかかるという状態。まさかこれが単体の専用サーバーと VPS の差だとは到底思えなかったので、 ps -AF するなり top するなりして軽く状況を見てみると、メモリーどころかスワップ領域もほぼフル回転で httpd が食いつぶしていた。こりゃああかんと言うことで、ネットで調べつつ設定を修正…。

起動するプロセスの数を減らす

とりあえず応急処置と言うことで、一度に起動するプロセスの数を減らすことを考えてみた。以下のサイトが参考になりました。

• ウノウラボ Unoh Labs: Apache MPM の基礎をしっかりと理解しよう！

まず MPM に何を選択しているのかを知る必要があります。 CentOS を採用しているさくらの VPS では prefork MPM が選択されていました。

$ cat /etc/sysconfig/httpd
# Configuration file for the httpd service.

#
# The default processing model (MPM) is the process-based
# 'prefork' model.  A thread-based model, 'worker', is also
# available, but does not work with some modules (such as PHP).
# The service must be stopped before changing this variable.
#
#HTTPD=/usr/sbin/httpd.worker

(以下略)

その場合、 httpd.conf ファイルにて修正すべきは、以下の部分と言うことになります。

<IfModule prefork.c>
StartServers       8
MinSpareServers    5
MaxSpareServers   20
ServerLimit      256
MaxClients       256
MaxRequestsPerChild  4000
<IfModule>

基本的に社員2名の会社で社内サービスがメイン、会社サイトもこのブログもそれほど頻繁にアクセスされているわけでもないのに、プロセス 256個同時起動はまずあり得ないでしょう。プロセス 1つで 70MB ぐらい消費してしまうのに、メモリー 512MB、スワップ領域 2GB でプロセスをそんなに確保できるわけがありません。

また、待機するプロセス数の最大 20も大きすぎます。一度作られた待機プロセスは Apache を再起動でもしない限りは残ったままになってしまうらしく、メモリー使用量を抑えたいのであれば、この数を減らしてやる必要があります。

というわけで、変更後の内容は以下の通りです。

<IfModule prefork.c>
StartServers       8
MinSpareServers    5
MaxSpareServers   10
ServerLimit       15
MaxClients        15
MaxRequestsPerChild  4000
</IfModule>

とりあえずこの設定で数日間動かしてみたところ、それでもまだメモリーは景気よく食いつぶされているものの、重たくて使い物にならないような状況には至らなくなりました。

使わなさそうなモジュールをざっくり外す

1つ1つのプロセスが消費するメモリー容量がそもそも大きいので、シェイプアップも図ってみることにしました。デフォルトでロードするよう設定されているモジュール類でも、必ずしも全て必要なわけではなく、使わないモジュールを外すことでメモリー使用量を抑えることができるという情報を見つけたので、Apache のドキュメントとにらめっこしながら、今は使っていないし近い将来使う予定もなさそうなモジュールを威勢よく外してみました。

LoadModule auth_basic_module modules/mod_auth_basic.so
LoadModule auth_digest_module modules/mod_auth_digest.so
LoadModule authn_file_module modules/mod_authn_file.so
#LoadModule authn_alias_module modules/mod_authn_alias.so
#LoadModule authn_anon_module modules/mod_authn_anon.so
#LoadModule authn_dbm_module modules/mod_authn_dbm.so
LoadModule authn_default_module modules/mod_authn_default.so
LoadModule authz_host_module modules/mod_authz_host.so
LoadModule authz_user_module modules/mod_authz_user.so
LoadModule authz_owner_module modules/mod_authz_owner.so
#LoadModule authz_groupfile_module modules/mod_authz_groupfile.so
#LoadModule authz_dbm_module modules/mod_authz_dbm.so
LoadModule authz_default_module modules/mod_authz_default.so
#LoadModule ldap_module modules/mod_ldap.so
#LoadModule authnz_ldap_module modules/mod_authnz_ldap.so
#LoadModule include_module modules/mod_include.so
LoadModule log_config_module modules/mod_log_config.so
LoadModule logio_module modules/mod_logio.so
LoadModule env_module modules/mod_env.so
#LoadModule ext_filter_module modules/mod_ext_filter.so
LoadModule mime_magic_module modules/mod_mime_magic.so
LoadModule expires_module modules/mod_expires.so
#LoadModule deflate_module modules/mod_deflate.so
LoadModule headers_module modules/mod_headers.so
#LoadModule usertrack_module modules/mod_usertrack.so
LoadModule setenvif_module modules/mod_setenvif.so
LoadModule mime_module modules/mod_mime.so
LoadModule dav_module modules/mod_dav.so
#LoadModule status_module modules/mod_status.so
LoadModule autoindex_module modules/mod_autoindex.so
#LoadModule info_module modules/mod_info.so
LoadModule dav_fs_module modules/mod_dav_fs.so
LoadModule vhost_alias_module modules/mod_vhost_alias.so
LoadModule negotiation_module modules/mod_negotiation.so
LoadModule dir_module modules/mod_dir.so
#LoadModule actions_module modules/mod_actions.so
#LoadModule speling_module modules/mod_speling.so
#LoadModule userdir_module modules/mod_userdir.so
LoadModule alias_module modules/mod_alias.so
LoadModule rewrite_module modules/mod_rewrite.so
#LoadModule proxy_module modules/mod_proxy.so
#LoadModule proxy_balancer_module modules/mod_proxy_balancer.so
#LoadModule proxy_ftp_module modules/mod_proxy_ftp.so
#LoadModule proxy_http_module modules/mod_proxy_http.so
#LoadModule proxy_connect_module modules/mod_proxy_connect.so
#LoadModule cache_module modules/mod_cache.so
#LoadModule suexec_module modules/mod_suexec.so
#LoadModule disk_cache_module modules/mod_disk_cache.so
#LoadModule file_cache_module modules/mod_file_cache.so
#LoadModule mem_cache_module modules/mod_mem_cache.so
LoadModule cgi_module modules/mod_cgi.so
#LoadModule version_module modules/mod_version.so

厳密にはこれに加えて、さらに conf.d/proxy_ajp.conf や conf.d/welcome.conf の中身をコメントアウトしてみたりもしています。結果として、メモリー使用量はプロセス当たり 70MB ぐらいだったのが 50MB ぐらいまでスリムアップしました。

WebDAV 設定

社内で一時的なファイルのやりとりをするのに使用する共有フォルダ的なものが欲しかったので、WebDAV を設定して Web フォルダとして使用することにしました。要件としては以下の通りです。

• クライアントは Windows および Mac OS X (あとたまに Ubuntu)。
• 社外には公開しない。
  • 認証が必要。匿名アクセスは不許可。
  • SSL による通信の保護が必要。

まず、SSL を使用するため、 developer.harapeko.jp サブドメインを使用することにしました。 WebDAV の為のディレクトリは、 developer.harapeko.jp サブドメイン用に用意しているディレクトリ下に作成することにします。

$ mkdir -p /var/www/vhosts/developer/dav/davroot

dav ディレクトリ、dav/davroot ディレクトリの両方に、 apache ユーザーが書き込みを行う権限が必要です。

次に、ダイジェスト認証用の認証ファイルを davディレクトリ下に作成します。 realm を DAV とする場合、

$ htdigest -c /var/www/vhosts/developer/dav/.htdigest DAV murachi

とかやって、パスワードを設定します。 2人目以降は -c オプションは不要です。

そして、conf.d/ssl.conf (SSL が適用されているヴァーチャルホストに対して設定を行うので、conf/httpd.conf ではないという点に注意) の <VirtualHost> セクション内に、以下の設定を書き加えました。

<ifmodule mod_dav.c>
    DavLockDB /var/www/vhosts/developer/dav/DavLock

    Alias /dav /var/www/vhosts/developer/dav/davroot
    <Location /dav>
        Order Allow,Deny
        Allow from all
        Options +Indexes
        Dav On

        AuthType Digest
        AuthName DAV
        AuthUserFile /var/www/vhosts/developer/dav/.htdigest
        <LimitExcept OPTIONS>
            Require valid-user
        </LimitExcept>
    </Location>
    <Location />
        Header add MS-Author-Via "DAV"
    </Location>
</ifmodule>

あとは Apache を再起動すれば ok です。

設定ファイルについて軽く解説すると、まず、最後の

    <Location />
        Header add MS-Author-Via "DAV"
    </Location>

の部分は、Windows から Web フォルダとしてアクセスする場合に必ず必要になります。この記述がないと、Windows クライアントは /_vti_inf.html ファイルが見つからないなどという意味不明なエラーを吐いてこけてしまいます。この設定のロケーションは / でなければなりません。

それから、

        <LimitExcept OPTIONS>
            Require valid-user
        </LimitExcept>

の部分は、本来であれば

        Require valid-user

のみであるべきなのですが、Digest 認証を用いる場合には、上記のように書かないと、やはり Windows の Web フォルダとして利用することができません。これはどうやら Windows の (IE の?) バグのようで、 OPTIONS メソッドでアクセスする際にのみ、 Digest 認証が理解できないからなのだそうです。

この辺の、 Windows の Web フォルダ機能に絡んだ設定方法については、以下のサイトが参考になりました。

• WebDAVサーバの構築 – KamoLand
• Web フォルダで WebDAV – reroの日記

と、いっても、現状何かサービスを展開しているわけでも無し、本ブログもこれまで通りそのまま閲覧できますので、「だから何?」とか言われちゃうと困ってしまうわけですが…。

今回の移転作業に於きましては、すべての作業内容を逐次メモに取り、その内容を公開しております。弊社のように、既に他社の専用サーバや VPS を用いてサーバーを構築しているものの、とっても安価でよさげなさくらの VPS に移行したいなぁなどとお考えの方々に、少しでも参考になれば幸いです。

• さくらの VPS セットアップメモ

とりあえず svn だけ設定しました (←まだ匿名アカウントを用意していないので私以外はアクセスできませんが…)。Subversion/WebDAV は初めて設定するのでちょっと手こずりました。

設定の際に参考にさせて頂いたサイトを以下に記します (敬称略)。多謝!!

• Fedora Core 3 で WebDAV/Subversion を使おう

  基本的な内容は概ねここに書かれていました。SELinux は使っていないのですが…。

• メモ/WebDAVでSubversion – SaikyoLine.jp

  Apache 側での設定がもう少し詳しく触れられています。ユーザー毎の制御についても書かれています。

• AuthzSVNAccessFile – 気の向くままに･･･ – livedoor Wiki（ウィキ）

  ユーザー毎の制御を行う AuthzSVNAccessFile の設定方法について解説されています。

• G-chan Square – subversionとWebDAVと

  Subversion/WebDAV でアクセス時に 403 Forbidden エラーが出て失敗してしまう場合は、こちらをチェックしましょう。私もこれでハマりました (^_^;A 。

自社開発で作ろうとしていた物が実は mod_perl に対応した Web アプリなのですが、そういえば mod_perl ってまともに弄ったこと無かったなぁとか思ったので、風邪も引いて頭も回らないことだし少し脱線するかとばかりに遊んでみました。

世間一般においてはちっともはやらない mod_perl 。かろうじて拾う話題もせいぜい Apache::Registry を用いた既存 CGI の高速化とかその程度の話で、本格的に Perl で Apache モジュールを作ろうみたいな話になると本を買うか英語で情報を探すしかなかったりするのが現状のようです (あるいはおいらの探し方が悪いのかも知れませんが…)。参考にしたのは mod_perl の公式サイトにあるドキュメントでした。

• mod_perl: mod_perl 2.0 Documentation

これ全体をぼえ～っと眺めてみても何から手をつければいいのかよくわからないのですが、この辺を見てみるとサンプルを見つけることができたので、これを参考に作ってみることにします。

動かす場所 (URI) を決める

とりあえず弊社の環境では test という名のサブドメインを設け、 http://test.harapeko.jp/aho にアクセスするとプログラムが実行できるということにしてみました。もちろん、サブドメインを設けるには、named (BIND) の設定追加と、 Apache 側の設定が必要です。

サブドメインとか面倒な人は、この辺は読み飛ばしちゃってください。BIND の設定については、ここでは省きます。

Apache 側の設定ですが、あとでここに mod_perl に関する設定も書き加えるので、 mod_perl.c モジュールが見える場所に記述するようにしてください (mod_perl.c を LoadModule している特別な設定ファイルがあるのであれば、その中に記述します)。

<IfModule mod_perl.c>

<VirtualHost *:80>
  ServerName test.harapeko.jp
  DocumentRoot /var/www/vhosts/test/htdocs
  ErrorLog logs/test-error_log
  CustomLog logs/test-access_log common
</VirtualHost>

</IfModule>

mod_perl モジュールとしてあほプログラムを書く

mod_perl モジュールとしてロードできるのは、@INC のパスが通ったディレクトリに置いてあるモジュールファイルだけです。つまり、通常は Cpan などから正規にインストールしたモジュールだけです。

ただ、 mod_perl の実行中は Apache の設定で ServerRoot に設定されているディレクトリにも @INC のパスが通るようなので、テスト目的でちょっとしたプログラムを書きたいだけならば、この配下にファイルを置いていけばいいでしょう。弊社の環境では /etc/httpd が ServerRoot に設定されているので、例えばモジュールのパッケージ名を MpTest::AhoAho にするのであれば、モジュールファイルは /etc/httpd/MpTest/AhoAho.pm とします。

以下、そのサンプルコードです。

package MpTest::AhoAho;

use strict;
use utf8;

use Encode;
use Apache2::RequestRec ();
use Apache2::RequestIO ();
use Apache2::Const -compile => qw( :common :http );

my $urlEncode;

sub handler {
	my $r = shift;
	$r->content_type( 'text/html; charset=UTF-8' );
	if ( $r->method eq 'GET' )
	{
		$r->print( encode( 'UTF-8', <<ENDLINE ) );
<html><head><title>あほあほ!!</title></head>
<body>
<h1>あほあほ!!</h1>
<form method="POST" action="${ \ $r->uri }">
<p>どう思いますか? &gt;<input type="text" name="hoge" size="50">
<input type="submit" value="送信"></p>
</body>
</html>
ENDLINE
	}
	elsif ( $r->method eq 'POST' )
	{
		my $length = $r->headers_in->{ 'Content-Length' };
		if ( $length > 1024 ){
			$r->status( Apache2::Const::HTTP_BAD_REQUEST );
			$r->print( encode( 'UTF-8', <<ENDLINE ) );
<html><head><title>話が長すぎじゃばっかも～～～ん!!!</title>
<body>
<h1>話が長すぎじゃばっかも～～～ん!!!</h1>
<p>1KB 以内に納めて来い!!</p>
<hr>
<p><a href="${ \ $r->uri }">もう一回?</a></p>
</body>
</html>
ENDLINE
			return Apache2::Const::OK;
		}
		my $buf;
		$r->read( $buf, $length ) == $length	or die '???';
		my $request = $urlEncode->( $buf );
		my $comment = "$request->{ hoge } としか言えない貴様はやっぱりあほだ!!!";
		$r->print( encode( 'UTF-8', <<ENDLINE ) );
<html><head><title>あほあほあほ!!!</title></head>
<body>
<h1>$comment</h1>

<p>
ENDLINE
		for ( 1 .. 1000 )
		{
			$r->print( encode( 'UTF-8', "$comment " ) );
		}
		$r->print( encode( 'UTF-8', <<ENDLINE ) );
</p>

<hr>
<p><a href="${ \ $r->uri }">もう一回?</a></p>

</body>
</html>
ENDLINE
	}
	return Apache2::Const::OK;
}

$urlEncode = sub {
	my $url = shift;
	my %map;
	for my $pair ( split /&/, $url )
	{
		my ( $name, $val ) = split /=/, $pair;
		$name =~ tr/+/ /;
		$name =~ s/%([\da-f][\da-f])/pack 'H2', $1/ieg;
		$name = decode( 'UTF-8', $name );
		$val =~ tr/+/ /;
		$val =~ s/%([\da-f][\da-f])/pack 'H2', $1/ieg;
		$val = decode( 'UTF-8', $val );
		$map{ $name } = $val;
	}
	return \%map;
};

1;
__END__

URI アクセスに応じてモジュールが動くように設定する

プログラムができたら、それを URI に関連づけます。先の手順でサブドメインの追加を行っていれば、その <VertualHost> ディレクティブの中に、以下のように設定を追加します。

<VirtualHost *:80>
  ServerName test.harapeko.jp
  DocumentRoot /var/www/vhosts/test/htdocs
  ErrorLog logs/test-error_log
  CustomLog logs/test-access_log common

  # 追加 --ここから
  PerlModule APR::Table  # 要らないかも。後述
  PerlModule MpTest::AhoAho
  <Location /aho>
    SetHandler modperl
    PerlResponseHandler MpTest::AhoAho
  </Location>
  # 追加 --ここまで
</VirtualHost>

これで設定完了です。 apache2ctl configtest (または /etc/init.d/httpd configtest 等) で設定ファイルの文法を確認したら、 apache2ctl restart (または /etc/init.d/httpd restart 等) で再起動しましょう。

実際に動いている物サンプル

実際に動いているサンプルです。もうなんて言うか激しくごめんなさい。 orz

解説

それでは解説です。まず、 Apache 側の設定ファイル中でキモになる記述は以下の部分です。

  PerlModule MpTest::AhoAho
  <Location /aho>
    SetHandler modperl
    PerlResponseHandler MpTest::AhoAho
  </Location>

PerlModule はモジュールをロードする宣言で、この行は実は無くても動きます。が、書いておくと Apache の起動時にロードしてコンパイルまで済ませておいてくれるので、多分早くなるんだと思います (多分ってなんだよ＞ヲレ)。

PerlResponseHandler は、Apache がクライアントにレスポンスを返す際に呼び出すハンドラモジュールを指定する宣言です。つまり、大雑把に言うと、ここで指定したモジュールの handler メソッドが、 URI アクセス時に呼び出されます。上記のサンプルではこの宣言は <Location /aho> ディレクティブ内に記述されているので、「/aho の URI にアクセスしてきた場合は、応答時に MpTest::AhoAho->handler を実行する」という意味になります。

SetHandler は PerlResponseHandler などのハンドラを指定する宣言を書く場所では必ず書いておく必要のある宣言です。引数は modperl と perl-script の 2種類があって、後者はレガシーなスクリプトとの互換性を重視するためか、プログラム中でそのまま使える print 関数や %ENV などにアクセスできるようになります。今回は敢えてそれができない modperl の方を選んでみました。

次にプログラムですが、内容的には GET アクセス時は質問ページを、 POST アクセス時は罵倒ページを表示するというただそれだけの物です。但し POST したデータが長すぎる (1KB を超える) 場合には自前でエラーを表示するようにしています (ちゃんと 400 Bad Request を返しているので、IE で試すと IE 謹製のエラー画面が表示されるはずです)。

use Apache2::* シリーズはいずれもほぼ必須と考えていいと思います。Apache2::RequestRec と Apache2::RequestIO は、ハンドラ内で最初に受け取るリクエストオブジェクトの各メソッドにアクセスできるようにするためのモジュールで、前者はステータス値や HTTP ヘッダー、環境変数などへのアクセス用、後者はコンテンツの入出力用です。例えば $r->method や $r->uri、 $r->headers_in などを参照したり、$r->content_type で出力用の Content-type: ヘッダーを設定したりするには Apache2::RequestRec が、 $r->print でコンテンツを出力したり、 $r->read で POST を入力したりするには Apache2::RequestIO がそれぞれ必要になります。

Apache2::Const モジュールは各種定数の定義です。引数リストで使用する定数を宣言できますが、その最初に '-compile' と入れておくと、定数名をグローバル名前空間に展開しません (その場合は、 Apache2::Const::HOGE_FUGA としてアクセスします)。

Apache はこのモジュールの handler 関数を呼び出し、最初の引数にリクエストオブジェクトを渡します。そして、自前の処理を実行しつつ、リクエストオブジェクトの各メソッドを適切に呼んであげてから、 Apache2::Const::OK を返してあげればいい、という流れです。あとは、API のリファレンスとにらめっこしつつ読みこなしていただければ、やっていることは大体解ると思います。

$r->headers_in メソッド呼び出しでエラーが発生する場合

ところで、 Apache 側の設定で、以下の行について説明していませんでしたが、

  PerlModule APR::Table  # 要らないかも。後述

この宣言は、 $r->headers_in メソッドにアクセスした際、以下のようなエラーが発生してしまうのを回避するためのものです。自宅で宅内サーバーにしているマシン@debian では発生しなかったのですが、会社サーバー@centos では発生するので、念のため付記しておきます。

[Mon Dec 29 18:47:51 2008] [error] [client 218.219.204.253] Can't locate object
method "FETCH" via package "APR::Table" at /etc/httpd/MpTest/AhoAho.pm line 32.\
n, referer: http://test.harapeko.jp/aho

この解決法については、以下のサイトを参考にしました。

• Re: [mp2] APR::Table FETCH method not found (reported when using $r->headers_in->{Cookie}