データ - NICT

download report

Transcript データ - NICT

フェーズドアレイ気象レーダの
クラウド
データ利用のためのクラウドの活用
コンピューティング
佐藤 晋介(NICT)、水谷文彦、和田将一、丸井英樹((株)東芝)、
牛尾知雄(大阪大)、吉川栄一(JAXA)、治達人((株)セック)、
花土弘、川村誠治、村田健史、浦塚清峰、井口俊夫(NICT)
気象学会2012年度秋季大会@北海道大学
2012年10月03日
1
研究目的
● フェーズドアレイ気象レーダは、10~30秒間で
隙間のない完全な3次元降水分布を高分解能
で観測することができるが、従来のパラボラアン
テナによる気象レーダに比べて100倍程度(*)の
データレートの大規模データを生成する。
● この大規模データをリアルタイムで解析処理
したりアーカイブしたりするために、高速ネット
ワーク上に構築されたNICTサイエンスクラウド
を用いたデータ利用システムの開発を行う。
(*) 距離60km(100m間隔)、方位角360°(1.2°間隔)、仰角90°(110仰角)の3次元観測を30秒
間で行う場合、従来のレーダが15仰角のボリュームスキャンを5分間かけて行う観測と比べる
と約7倍の観測データを1/10の時間で生成することになりデータレートは約70倍となる。10秒
観測の場合はその3倍となるが観測距離が約半分となるためデータレートは約100倍となる。
2
観測データ種別と運用モードの例
工学データ (L1)
物理データ (L2)
1
受信電力 (Pr-MTI)
受信電力 (Pr)
2
受信電力 (Pr-NOR)
反射強度 (Ze)
3
ドップラー速度 (Vr-MTI)
ドップラー速度 (Vr)
4
ドップラー速度 (Vr-NOR)
速度幅 (W)
5
速度幅 (W-MTI)
降雨強度 (R)
6
速度幅 (W-NOR)
7
SN判定値 (SN-MTI)
8
SN判定値 (SN-NOR)
直交座標データ(L3)
・反射強度 (Ze)
・ドップラー速度 (Vr)
・降雨強度 (R) など
⇒ netCDF ファイル
(その他)
・ オフライン処理用
IQデータ (L0)
・ Web公開用 クイック
ルックデータ(QL)
AUTO.1
(10 sec.)
300 range×320 sector(AZ)×111 angle(EL)×2 byte= 20.3 MB / file
13 file 合計サイズ(ヘッダー含む): 275 MB / 10sec ⇒ 220 Mbps
AUTO.5
(30sec.)
600 range×300 sector(AZ)×110 angle(EL)×2 byte= 37.8 MB / file
13 file 合計サイズ(ヘッダー含む): 493 MB / 30sec ⇒ 131 Mbps
※ GPGPUを用いたデータ変換部で同時に生成される上記の13種類のデータ(L1, L2)は極座標系で2 byteバイナリーで保存される。
この13ファイルは、10秒運用モードの例では最大データレート220Mbpsで転送され、30秒運用モードでは131Mbpsとなる。もし10秒
モードで24時間連続運用するとデータ容量は2.3TB/日となり、L3データを含めると更に大きくなるが、実際には無降雨時の運用の
一時停止やデータ圧縮により、トータルのデータサイズはその数分の一以下となると見込んでいる。
3
データ“処理”システム (東芝)
DBF処理後
IQデータ
(~1 Gbps)
データ
変換部
レーダ処理
後データ
(220 Mbps)
(220 Mbps)
データ
蓄積部
(GPGPU)
HUB①
(220 Mbps)
空中線装置
監視制御部
DBF処理前
IQデータ
(~6 Gbps)
(GbE)
NAS
(14.5TB)
(リアルタイム表示)
(履歴再生表示)
オフライン
収集部
DAS
(12TB)
オフライン
処理部
RAID
(TBD)
阪大
LAN
データシステム系統図 (太矢印は4~10Gbps、細矢印は1Gbpsケーブル)
4
データ“利用”システム (NICT・阪大)
133.243.XX.XX
(220 Mbps)
阪大AP
サーバ
HUB①
ssh
(GbE)
データ公開
サーバ(小金井)
データ
中継
サーバ
RAID
(63TB)
RAID
(42TB)
ssh
NICT
サイエンス
クラウド
ペタバイト
ストレージ(けいはんな)
阪大
LAN
阪大NW
阪大のJGN-X
アクセスポイント
(L2スイッチ)
L3
スイッチ
Private NW
データ解析
サーバ(小金井)
JGN-X (NICT NW)
データシステム系統図 (太矢印は4~10Gbps、細矢印は1Gbpsケーブル)
5
NICTサイエンスクラウド
-X
NICT宇宙環境計測グループ(現、宇宙環境
インフォマティクス研究室)が開発 ⇒ 現在は、
NICT統合データシステム研究開発室が整備
分散型ストレージ
Gfarm(Grid Data Farm)
6
JGN-X(New Generation Network Testbed)
JGN (H11~) ⇒ JGN2 (H16~) ⇒ JGN2 plus (H20~) ⇒ JGN-X (H23~)
7
リアルタイムデータ処理とデータ公開方針
●
QL画像(降雨強度のみ)を阪大に設置する
データ中継サーバでリアルタイムに作成
レイテンシー(遅延)を少なくするためには、ファイルサイズの
小さな画像をその場で作成して、データ公開サーバへ転送
● 公開QL画像は、とりあえずは降雨の水平分布(従来同様)
●
●
3次元直交座標に変換した Ze、Vr、R 等の
レベル3データ(netCDF)は、NICT小金井に
設置予定のデータ解析サーバで作成
L3データはユーザ要求に応じて、データ公開サーバに転送
● 試行的に3次元可視化コンテンツなどを自動作成する予定
●
●
外部研究ユーザはNICTサイエンスクラウドに
ログインして、観測データを利用してもらう
8
NICTサイエンスクラウドの利用
★ 各研究者が自分の手元に大容量データを
コピーして解析するのは非現実的
● NICT小金井にあるサイエンスクラウドGWからログイン
● (フェーズドアレイ専用)データ解析サーバ@NICT小金井
● 必要なライブラリ、主要なアプリはプリインストール
● IDL, AVS などのライセンスも整備
● サイエンスクラウド内の大容量アーカイブデータへのアクセス
HEIGHT (km)
HEIGHT (km)
HEIGHT (km)
23:36:09
23:34:39
23:33:09
RANGE (km)
RANGE (km)
RANGE (km)
RHI of Reflectivity (AZ=270) 2012/07/06
9
3次元観測データの利活用 (可視化)
10:45JST
10:50JST
10:55JST
11:00JST
10:59:20JST
10:59:00JST
10:59:40JST
11:00:00JST
ILTS
15
Z (km)
10
5
【現状】 1~5分毎の水平分布による降雨
短時間予測 ⇒ 急激な発達は予測困難
【将来】 10~30秒毎の詳細な3次元観測データ
⇒ 雨滴の発生・成長・落下による予測が可能
【ボリュームスキャンによる鉛直断面: 5~10分毎】
COBRA
18:45Z, 29JUL2010
レーダ近傍の
上空は観測空白域
DISTANCE from Radar (km)
グリッドサイズ: 250 m (5分間の14仰角:0.5~24°から合成)
18:46Z, 29JUL2010
HEIGHT (km)
HEIGHT (km)
COBRA
【フェーズドアレイレーダによる鉛直断面(予想図):10~30秒毎】
DISTANCE from Radar (km)
グリッドサイズ: 100 m (30秒間のRHI観測データから作成)
10
フェーズドアレイレーダの応用分野
○○県△△市竜巻注意情報
平成××年4月20日10時29分
△△地方気象台発表
○○県△△市では竜巻発生
のおそれがあります。 発生
予測時刻と場所は以下の
地図のとおりです。
頑丈な建物内に移動するなど、
安全確保に努めてください。
数値予報モデルへのデータ同化、
きめ細かな竜巻注意情報
【気象庁】
洪水予測、土砂災害予測
【河川局】
ダム放流(洪水調整)
【ダム管理事務所】
リアルタイムで
観測データ
を配信
航空管制 【航空局】
ユーザが必要
とする情報
の提供
突発的・局所的現象の解明
【研究機関・大学】
低コスト
レーダーの開発
住民避難勧告 【市町村】
次世代ドップラーレーダー技術の研究開発
【総務省・NICT】
一般市民への情報提供
【民間気象会社】
列車安全運行 【鉄道会社】
下水道ポンプ制御 【市町村】
11
まとめ・今後の課題
● フェーズドアレイ気象レーダの大規模データをリア
ルタイム処理してアーカイブするために、NICTサイ
エンスクラウドを用いた「データ利用システム」の設
計を行った(今年度中に開発完了予定)。
● 将来的に数100TBに達するような大容量データを
確実に保存するともに、ユーザがそれらの大規模
データを自由に使った解析研究を行うための共用
プラットフォームを提供できると考えている。
● 今後は 3次元可視化コンテンツ利用の検討に加え、
他の観測データや数値モデル計算結果を合わせた
所謂「ビッグデータ」による研究成果に期待。
12
次世代ドップラーレーダー技術の研究開発
~2.4 m
~2.4 m
1次元フェーズドアレイ
レーダーの概念図
10~30秒毎に空間的に抜
けのない3次元観測が可能
(降水強度、ドップラー速度)
25 km range
大阪大(吹田キャ
ンパス)に設置
開発スケジュール
2008(H20)
2009(H21)
2010(H22)
2011(H23)
2012(H24)
完成
・ 概念設計(システム
検討)
・ 予備設計(主に空中線部)
・ 基本設計(主に信号処理部)
・ 詳細設計(解析処理部)
・ 送受信モジュール試作
・ 空中線部の製作
・ 信号処理部の製作
・ 素子部分試作
・ 性能評価シミュレーション
・ クラッタ除去技術の開発
・ 観測運用技術の開発
・ 実証実験・評価
・ データ解析処理部の開発
13