「Stable Diffusion 3.5」がGeForce RTXシリーズで2倍高速化・VRAM使用量40％削減
ttps://forest.watch.impress.co.jp/docs/news/2022533.html

AMD GPUでもかなり高速化してたけどこれでまた突き放した恰好か。
推論はFP8を中心とした混合精度でやるって方向に明確に進みつつある。
更にFP4/6でもいいじゃんみたいな。
メモリ少なくて済むしな。
流れ速いねえ。