学際大規模情報基盤共同利用・共同研究拠点

採択課題 【詳細】

jh210015-NAH 高性能かつ高信頼な数値計算手法とその応用
課題代表者 荻田武史(東京女子大学現代教養学部数理科学科)
Takeshi Ogita (Tokyo Woman's Christian University)
概要

低精度・混合精度演算等の変動精度演算は,高速性や省電力性の向上のため,メニーコアCPUやGPUの発展と共にAI分野等で活発に利用されているが,同時に,計算結果の信頼性を担保することの重要性が増しつつある.本研究は,科学技術シミュレーションに現れる大規模行列に対して有効な疎行列ソルバーや階層型行列(H行列)演算等の高速計算に関する研究を推進し,それらの計算の信頼性及び電力効率を重視しながら,悪条件な実問題に適用可能な実用的な手法の研究開発を実施するものである.

報告書等 研究紹介ポスター / 最終報告書
関連Webページ
無断転載禁止