DSF特別講演:FPGAによる低精度スーパーコンピューティングとAIチップの類似性

30年ほど前、私はGRAPE-1という銀河のシミュレーションを行うスパコンを開発した。専用計算機として注目を浴びる一方、演算精度が8ビット程度と小さかったため、おもちゃのようだと揶揄されることもあった。
その後、FPGAベースのホログラフィ専用計算機の開発に移行し、同様に低精度を追求している。ごく最近になって、AIチップが8ビット精度で登場して低精度計算が注目され始めた。本講では適材適所の計算精度について議論したい。

オンデマンド配信

オンデマンド配信を視聴するにはログインが必要です。
千葉大学 伊藤 智義氏
千葉大学
教授
伊藤 智義 (いとう ともよし)