本計算数理科学分野では、自然科学や社会科学の様々な現象・事象から、数学的手法を用いて数理モデルを構築し、そこから得られる情報を数理科学的に処理する応用数理学の研究に主眼が置かれる。その中でも、計算機科学やソフトウエア科学と密接に関係した応用数理学の1分野である、「計算数理科学」研究を展開する。

 学際的・独創的な研究を展開するために、物理学、化学、生物学など複数の自然科学分野を融合した研究が必要不可欠である。計算数理科学は、最新のコンピュータ技術を駆使して、自然科学の現象から構築された数理モデルを解析し、その現象を仮想的に再現する研究を対象としている。

 山本・古澤研究室では、静的のみならず動的な複数の物理現象が混在した非線形問題を支配する数理モデル、ならびにコンピュータによる計算効率を最大限に発揮する計算スキームを構築して、その数理モデルをスーパーコンピュータにより大規模計算する研究を行っている。特に、空気や水の流れをコンピュータで数値計算する数値流体力学(Computational Fluid Dynamics, 略してCFD)の研究をさらに発展させて、複雑な物理現象を伴う熱流動を数値計算する「マルチフィジックスCFD」を研究している。現在具体的な研究テーマとして、ガスタービンや蒸気タービンを丸ごとスーパーコンピュータで計算することができる「数値タービン」や化学工学分野との学際的融合による「超臨界流体シミュレータ」などのマルチフィジックスCFD技術を研究開発している。これらシミュレーション技術は、高効率で高信頼な次世代の発電技術やエネルギー機器の開発、また化学工学分野で注目されている超臨界水や超臨界二酸化炭素を利用したナノ金属粒子やナノ高分子材料を創製する流体機器の開発に役立てられる。さらに、数値タービンをIoT技術に応用するため、数値タービンのデジタルツイン化も開始した。

山本・古澤研究室
現在の研究 数値タービンのスーパーコンピューティング
超臨界流体シミュレータ
マルチフィジックスCFD
過去の研究 前処理法に基づく臨界点近傍流体の数理モデルと計算スキーム
前処理法に基づく凝縮流体・固体熱伝導連成問題の数理モデルと計算スキーム
複雑形状物体周り流れのIBソルバー
前処理法に基づく超低速凝縮流れの数理モデルと計算スキーム
前処理法に基づく熱対流問題の数値シミュレーション
タービン静動翼列を通る非定常非平衡凝縮流れの数値シミュレーション
飛行機雲の数値シミュレーション
高性能・高効率蒸気タービン最終段長翼設計(国際産学連携研究)
非定常二次元・三次元遷音速タービン翼列流れの数値シミュレーション
非定常遷音速タービン静動翼列干渉流れの数値シミュレーション
非定常三次元衝撃波/衝撃波干渉流れの数値シミュレーション
非定常熱・化学非平衡流れの数値シミュレーション
非定常極超音速衝撃波干渉流れの数値シミュレーション
電磁プラズマ粘性流れの数値シミュレーション
惑星大気圏突入流れの数値シミュレーション
非定常衝撃波/渦干渉流れの数値シミュレーション
高解像差分スキーム 前処理型流束分離スキーム
前処理型Roeスキームと時間最大2次精度前処理型LU-SGSスキーム
4次精度コンパクトMUSCL TVDスキーム(Compact MUSCL)
1次元衝撃波管問題
2次元問題
時間最大2次精度陰的差分スキーム
2次元衝撃波干渉問題
3次元ガスタービン翼列
2次元蒸気タービン静動翼列(動画)
2次元極超音速高エンタルピー衝撃波干渉問題
旧佐野研究室
CFD専用計算機の概要
FPGAアレイによるスケーラブル計算機 (HPRCTA2008英文発表スライド)
FPGAによる高性能計算 (SACSIS2008チュートリアル資料)
高効率高速数値計算のためのカスタム計算 (HEART2010招待講演資料)
高スループットデータストリーミングのためのリアルタイム数値データ圧縮ハードウェア 
ストリームデータのオンチップ再利用を指向したカスタム計算機アーキテクチャと計算アルゴリズム
数値演算高速化のための超並列カスタムプロセッサアーキテクチャ記述言語
4倍精度浮動少数点演算を用いたカスタム計算のためのFPGAによる高スループットパイプライン
FPGAによるリアルタイム画像要素分類

国際産学共同研究 清華大学・東芝・General Electric
Maxeler Technologies, Inc. 
国際学術共同研究 Technical University of Munich
Custom Computing Research Group, Computer Architecture Group, Department of Computing, Imperial College, London  
University of Nottingham
国内産学官共同研究 三菱日立パワーシステムズ(MHPS) (実施中)
東京電力 (実施中) 
NEC (実施中) 
東芝
(独)宇宙航空研究開発機構(JAXA) (実施中)
兵庫県立大学 (実施中)
三菱重工高砂研究所  
日立製作所 
IHI
岩手大学
出光興産
三菱重工業名古屋航空宇宙システム製作所
JFEエンジニアリング
NEDO 超ハイブリット材料開発プロジェクト
帝京大学 
学内共同研究 東北大学WPI・多元物質科学研究所  (実施中) 
東北大学情報サイバーサイエンスセンター  (実施中) 
東北大学流体科学研究所
共同研究に関するお問い合せは教授 山本悟まで
山本・古澤研究室(主にCFD関連)
旧佐野研究室(主にコンピュータアーキテクチャ関連)