2014-04-01から1ヶ月間の記事一覧
Factory クラスが final クラスになっているために,テストが大変書きづらい状況に遭遇した.final じゃなかったら,override して mock オブジェクトを返せるのだけど.
初 Symantec 社訪問.YARN の JIRA が 2000 を超える.一方で,Tez の JIRA は 1000 オーバー.勢いがあるね.
RM HA のドキュメントを書いた.
今日は protobuf のコードと格闘していた.protobuf で宣言された bytes は全て ByteString クラスにマッピングされるのだが,ByteString クラスには 1 つ問題がある.デフォルトでは wrap メソッドを持たないため,copyFrom メソッドを用いる必要があり,ゼ…
Scala 2.11.0 がリリース .2.10.x でコンパイルできるコードは 2.11.x でもコンパイルできるらしい.ミドルウェア書いている人々にとってはかなりうれしい気がする(Spark とか Play とか msgpack とか...).
まるまる寝ていた次の日は元気に活動ができる. 後輩の研究の話を見ていた.システム系の研究は前提条件と課題設定のところで5割くらい決まる印象.実装コストが重いのも特徴か.アルゴリズムは技勝負(アイデア)の比率が高い気がする.
Hadoop でたまにテストがこける問題の再現が面倒なので,failchecker というシンプルな bash スクリプトを作った.テストがこけるまで特定のテストを回し続けて,失敗した時点で停止する.こうすることで,テストがこけたときのログを無事に回収することがで…
睡眠メイン. RDD を,Spark から切り離して汎用パーツとして使えるようになったら,結構便利だと思うのだが,難しいだろうか.つまるところ,耐故障性を担保する一番面倒な部分をプログラミングインターフェースを切り離して再実装するという話になるから,…
@k_oi に NameNode HA の RetryCache の挙動を説明していたら理解に甘いところがあったので,再度設計と意義を確認した. (Active) UUID + CallID を受け取って処理実行. (QJM) UUID + CallID 込みで Journal に保存. (Active) 処理結果を基にレスポンスを…
まあ,なんだ,びっくりした.
Hadoop 2.4.0 のリリース作業. rc0 が出ていたので動作確認.テストがこける件について報告.コミュニティの対応は早くて,もう trunk に修正パッチがマージされた. その後,その修正自体は 2.4.1 に含まれることになった.hmm,って感じ.