2014-04-01から1ヶ月間の記事一覧

final な Factory クラス

Factory クラスが final クラスになっているために,テストが大変書きづらい状況に遭遇した.final じゃなかったら,override して mock オブジェクトを返せるのだけど.

29(火)

初 Symantec 社訪問.YARN の JIRA が 2000 を超える.一方で,Tez の JIRA は 1000 オーバー.勢いがあるね.

28(月)

RM HA のドキュメントを書いた.

HBaseZeroCopyByteString

今日は protobuf のコードと格闘していた.protobuf で宣言された bytes は全て ByteString クラスにマッピングされるのだが,ByteString クラスには 1 つ問題がある.デフォルトでは wrap メソッドを持たないため,copyFrom メソッドを用いる必要があり,ゼ…

22(火)

Scala 2.11.0 がリリース .2.10.x でコンパイルできるコードは 2.11.x でもコンパイルできるらしい.ミドルウェア書いている人々にとってはかなりうれしい気がする(Spark とか Play とか msgpack とか...).

21(月)

まるまる寝ていた次の日は元気に活動ができる. 後輩の研究の話を見ていた.システム系の研究は前提条件と課題設定のところで5割くらい決まる印象.実装コストが重いのも特徴か.アルゴリズムは技勝負(アイデア)の比率が高い気がする.

17(木)

Hadoop でたまにテストがこける問題の再現が面倒なので,failchecker というシンプルな bash スクリプトを作った.テストがこけるまで特定のテストを回し続けて,失敗した時点で停止する.こうすることで,テストがこけたときのログを無事に回収することがで…

12(土)

睡眠メイン. RDD を,Spark から切り離して汎用パーツとして使えるようになったら,結構便利だと思うのだが,難しいだろうか.つまるところ,耐故障性を担保する一番面倒な部分をプログラミングインターフェースを切り離して再実装するという話になるから,…

11(金)

@k_oi に NameNode HA の RetryCache の挙動を説明していたら理解に甘いところがあったので,再度設計と意義を確認した. (Active) UUID + CallID を受け取って処理実行. (QJM) UUID + CallID 込みで Journal に保存. (Active) 処理結果を基にレスポンスを…

10(木)

まあ,なんだ,びっくりした.

7(月)

Hadoop 2.4.0 のリリース作業. rc0 が出ていたので動作確認.テストがこける件について報告.コミュニティの対応は早くて,もう trunk に修正パッチがマージされた. その後,その修正自体は 2.4.1 に含まれることになった.hmm,って感じ.