一乙

IBM、8ビット学習が可能なテストチップを発表
https://eetimes.jp/ee/articles/2103/03/news085.html
わりとIBMこれに熱心よねん
Hybrid FP8(HFP8)は符号1bit+指数4bit+仮数3bitと符号1bit指数5bit+仮数2bitのハイブリッド
https://proceedings.neurips.cc/paper/2019/file/65fc9fb4897a89789352e211ca2d398f-Paper.pdf
細かい所はこれで

BF16があっという間に受け入れられたの考えるとこれもいけるかも
しかし1-5-2での仮数2bitってのもすごい話だ
ある意味究極の浮動小数点
さすがに7〜5bitや1-2-1でFP4は無いだろう