だいこんの日々2

軸足をtwitterとfacebookに移しつつも、技術的な話はここに書いていきます。

タスクログが出力されない

ApacheHadoop® 1.2.1を試していたのだが、とあるタイミングからタスクのログが出力されなくなった。

調べていくと、userlogにログ自体は出力されている。だが、log.indexの項目が0になっている。どうやら画面に出力されていないだけのようだ。

考えられるのは、設定ファイルを整理したタイミング。設定ファイルを古いもの(0.20.2で使っていたもの)に戻すと出力されるので、何らかの新規設定が悪さをしているのは間違いない。

設定ファイルの差分を取りながら、1つ1つ可能性をつぶしていくと、いた!

犯人は「mapred.userlog.limit.kb」だ。

これは「タスクが出力する userlog の最大値」なのだが、0以外の値を設定するとログが出力されなくなるっぽい。なんだこりゃ。

CDHの方にも報告が上がっており、CDH3u6で解決ずみっぽい。本家は…?

とりあえずログが出なくなる方が問題なので、デフォルト設定にして解決。