タスクログが出力されない
Apache™ Hadoop® 1.2.1を試していたのだが、とあるタイミングからタスクのログが出力されなくなった。
調べていくと、userlogにログ自体は出力されている。だが、log.indexの項目が0になっている。どうやら画面に出力されていないだけのようだ。
考えられるのは、設定ファイルを整理したタイミング。設定ファイルを古いもの(0.20.2で使っていたもの)に戻すと出力されるので、何らかの新規設定が悪さをしているのは間違いない。
設定ファイルの差分を取りながら、1つ1つ可能性をつぶしていくと、いた!
犯人は「mapred.userlog.limit.kb」だ。
これは「タスクが出力する userlog の最大値」なのだが、0以外の値を設定するとログが出力されなくなるっぽい。なんだこりゃ。
CDHの方にも報告が上がっており、CDH3u6で解決ずみっぽい。本家は…?
とりあえずログが出なくなる方が問題なので、デフォルト設定にして解決。