スペースモラトリアムノカミサマ

日記+コメント付きブックマーク+他人にも役に立つかもしれない情報など。
(更新情報: RSS(ツッコミ付き) / RSS(ツッコミ抜き) / LIRS)
応援しています → 岡崎市立中央図書館事件 議論と検証のまとめ / あなたは樋渡啓祐を佐賀県知事に選びますか?

最近の TrackBack:
2004|01|02|03|04|05|06|07|08|09|10|11|12|
2005|01|02|03|04|05|06|07|08|09|10|11|12|
2006|01|02|03|04|05|06|07|08|09|10|11|12|
2007|01|02|03|04|05|06|07|08|09|10|11|12|
2008|01|02|03|04|05|06|07|08|09|10|11|12|
2009|01|02|03|04|05|06|07|08|09|10|11|12|
2010|01|02|03|04|06|07|08|09|10|
2011|01|02|03|07|10|11|
2012|02|03|04|07|08|09|
2013|01|06|07|
2014|02|08|09|11|
2015|09|
2016|01|05|

2007/09/07

_ [システム運用][Perl] Apache Combined Log を効率的にパースする正規表現メモ

ググるとよく見つかるのははてな - Apache形式のログを解析する正規表現を教えてください (Geekなぺーじ : アクセスログの読み方(apache combined logの場合)) の

($host, $ident, $user, $time, $request, $status, $bytes, $referer, $agent)
= ($line =~ /^(.*) (.*) (.*) \[(.*)\] "(.*)" (.*) (.*) "(.*)" "(.*)"/);

だが、最長一致の .* が多数登場するためか、マッチ処理がとても遅い。たった10万行パースするのに Core2 使って23.7秒ってあり得なくね?

できるだけ最短一致でマッチさせるように

($host, $ident, $user, $time, $request, $status, $bytes, $referer, $agent)
= ($line =~ /^([^ ]*) ([^ ]*) ([^ ]*) \[([^]]*)\] "(.*?)" ([^ ]*) ([^ ]*) "(.*?)" "(.*?)"/);

という感じにすると、同環境にて約21倍速くなった。(1.12秒)

実際には Request String をさらに分割取得したいことが多いので

($host, $ident, $user, $time, $method, $resource, $proto, $status, $bytes, $referer, $agent)
= ($line =~ /^([^ ]*) ([^ ]*) ([^ ]*) \[([^]]*)\] "([^ ]*)(?: *([^ ]*) *([^ ]*))?" ([^ ]*) ([^ ]*) "(.*?)" "(.*?)"/);

という感じで使うと良さ毛だ。

_ [システム運用][Perl] Apache Combined Log 解析正規表現ベンチマークの補足 (2007/10/05)

(高速に) Apache の log を解析する正規表現として My RSS 管理人ブログで取り上げられたようなので、これに絡んで補足。

"([^"]*)" ではなく "(.*?)" を使うべき

最初にそこで例示された

m!^([^\s]*) [^\s]* [^\s]* \[([^]]*)\] "([^"]*)" ([^\s]*) [^\s]* "([^"]*)" "([^"]*)"!

だが、HTTP Request には稀に " が含まれていることがあるため、その場合 "([^"]*)" の部分でマッチミスを起こす。

このため、最初に自分が取り上げた上記正規表現では敢えて "(.*?)" としていたわけである。

…というコメントを寄せたところ補足を加えていただけたようだが、それでも Referer と User-Agent の部分を (.*) に戻されただけなので、Request に " が含まれていた場合に対応できていない。また、以下に示す通り、(.*)(.*?) に変えるだけでも劇的な効果を得られるので、(.*)(.*?) にした方が良い。

"(.*?)""((\\"|[^"])*)" はどちらが高速なのか

また、最初に送信したコメントでも触れたが、Request 中に " が含まれる場合は \" とエスケープされてログに記録されるので、"(.*?)" の部分は "((\\"|[^"])*)" とすると解析パフォーマンスを向上させられる可能性があると考え、ベンチマークを取ってみた。(以下全てのベンチマーク環境は Pentium III 1GHz マシンの Debian GNU/Linux 3.1 - Perl 5.8.4)

rx_optim_pmakino1 が /^([^ ]*) [^ ]* [^ ]* \[([^]]*)\] "(.*?)" ([^ ]*) [^ ]* "(.*?)" "(.*?)"/ で、rx_optim_pmakino2 が "(.*?)" の部分を "((?:\\"|[^"])*)" で置き換えたものである。

rx_optim_pmakino2 10204/s    --
rx_optim_pmakino1 46691/s  458%

…予想に反してかえって大幅に遅くなってしまった。

ではひょっとして、わざわざ [^ ]*[^"]* 等を使わずに単純に最短一致の .*? にした方が速くなるのか? と試してみたところ、(rx_optim_pmakino3 → /^(.*?) .*? .*? \[(.*?)\] "(.*?)" (.*?) .*? "(.*?)" "(.*?)"/)

rx_optim_pmakino1 46691/s    --
rx_optim_pmakino3 51633/s  111%

はい、速くなりました。[^ ]* なんか使うより .*? 使った方が速いのね。

[^\s]\S[^ ] はどれが速いのか

※[^\s] は \S でも OK です。

[(高速に)Apache の log を解析する正規表現 : a++ My RSS 管理人ブログより引用]

というコメントで、[^\s]\S[^ ] はどれが最速なのか気になったのでそれも比較。(rx_optim_myrss3 が [^\s]、rx_optim_myrss4 が \S、rx_optim_myrss5 が [^ ])

rx_optim_myrss3 44522/s    --
rx_optim_myrss5 47010/s  106%
rx_optim_myrss4 48470/s  109%

\S > [^ ] >> [^\s]、ということらしい。

[.+?][.*?] はどちらが速いのか

上記の最速パターン、最初は必ず何かしらの文字列が入ることが確定している部分については当初 .*? ではなく .+? でマッチさせていた。が、実は .*? の方が微妙に速いっぽいような結果が見え隠れしていたのでそれも比較。(rx_optim_pmakino1 が .*?、rx_optim_pmakino4 が .*?)

rx_optim_pmakino4 45366/s   --
rx_optim_pmakino1 46837/s  103%

僅かだが .*? の方が速いらしい。

結局最速なのは

色々小細工するよりも、実は最初の最も遅い例の .* を片っ端から .*? に置き換えた

/^(.*?) .*? .*? \[(.*?)\] "(.*?)" (.*?) .*? "(.*?)" "(.*?)"/

が最速だったと。

Request String をさらにメソッドとリソースとプロトコルに分割するなら

/^(.*?) .*? .*? \[(.*?)\] "(\S+?)(?: +(.*?) +(\S*?))?" (.*?) .*? "(.*?)" "(.*?)"/

で。

(もっとも、LogFormat をいじれるのであればそもそもログ自体を TSV にしてしまうのが一番効率が良いのだが)

(諸々のテストコード)

(ちなみに正規表現は事前にコンパイルしておくことができるそうなのでそれも試してみたが、速度に全く変化が見られなかった。)

(2009/02/28追記)

スペース区切りのApacheデフォルトログ書式(Combined Log Format)を解析する正規表現の解説 - アルバイト論というエントリが出来ているのに気づいた。

速度的な面での探求ではないけど、どんなおかしなログが来ても正しく解析できるような正規表現とは何なのかを調査されていて一見の価値ありだと思った。

(2014/05/05追記)

たった6個のsedを通せば、Apacheログは驚くほど扱いやすくなる - Qiita にていくつか検証・コメントさせていただいた。

_ [システム運用][Perl] Apache Combied Log を解析する CPAN モジュール

Name Description Rating Last Update
Regexp::Log::Common A regular expression parser for the Common Log Format 5 2007/3/2
Parse::AccessLogEntry Parse one line of an Apache access log 5 2005/4/27
Apache::ParseLog Object-oriented Perl extension for parsing Apache log files 1 1998/10/17
Apache::Yaalr Perl module for Yet Another Apache Log Reader 0 2007/8/7
Apache-LogRegex Parse a line from an Apache logfile into a hash 0 2006/10/21
Logfile::Access Perl extension for common log format web server logs 0 2004/10/25
HTTPD::Log::Filter a module to filter entries out of an httpd log. 0 2004/4/26

これらを使った場合のベンチマークも取ってみたい


関連用語解説

by e-Words