NVIDIAから情報ガンガン漏れてんなあ。
次期GPUのAdaのメモリ周り。

Ada
AD102　SM:144 CUDA:18432 384bit L2:96MB
AD103　SM:*84 CUDA:10752 256bit L2:64MB
AD104　SM:*60 CUDA:*7680 256bit L2:64MB
AD106　SM:*36 CUDA:*4608 192bit L2:48MB
AD107　SM:*24 CUDA:*3072 128bit L2:32MB

Ampere
GA102　SM:*84 CUDA:10752 384bit L2:*6MB
GA103　SM:*60 CUDA:*7680 256bit L2:*4MB
GA104　SM:*48 CUDA:*6144 256bit L2:*4MB
GA106　SM:*30 CUDA:*3840 192bit L2:*3MB
GA107　SM:*20 CUDA:*2560 128bit L2:*2MB

Ampereとかなり似てるがAdaはL2キャッシュが大幅増量されており、AMDのInfinity Cacheと似たアプローチ。
メモリはGDDR6かGDDR6Xぐらいしか使えず、CUDA Core大幅増量したので帯域が足りなくなるからだろう。
AD102のダイサイズは600mm^2以下らしい。
Samsung 8nm(10nm改)からTSMC 5nmという事でまあ押し込めるかなあ。
Ada世代ではチップレットは使わない。（AMDのRDNA3は使うと言われてる）