【統計分析】機械学習・データマイニング34

[20 デフォルトの名無しさん (ﾜｯﾁｮｲ 0b6e-vmo6) 2025/05/04(日) 14:57:47.64 ID:CAP7ZVel0]

pfnetはちゃんと最新の研究を追え
ていうか論文だせ
qloraなんか今頃使って笑われてたぞ

[21 デフォルトの名無しさん (ﾜｯﾁｮｲ f690-vmo6:*]) 2025/05/07(水) 15:48:30.76 ID:FHwmgA+J0]

初めから小型モデルを目指すのって元も限界あるよな？
蒸留したほうが精度良くない？

[22 デフォルトの名無しさん (ﾜｯﾁｮｲ 8297-5RKp:*]) 2025/05/07(水) 16:25:56.62 ID:QRPBQasH0]

ビジネスや研究として最初から小型モデルを目指すのと、その中で学習プロセスにおいて大規模モデルの構築と蒸留を経るのは別問題であり、何ら矛盾しない
最初から蒸留による小規模モデルの構築のみを目的としていて、大規模モデルの方は運用しないことがわかっているなら、
そうでない場合よりも最適なプロセスを構築できたり良好な結果が得られる可能性もあるだろう

[23 デフォルトの名無しさん (ﾜｯﾁｮｲ f690-vmo6:*]) 2025/05/07(水) 16:37:36.13 ID:FHwmgA+J0]

最初から小型よりも
蒸留して小型のほうが精度は高いよ

[24 デフォルトの名無しさん (ﾜｯﾁｮｲ f690-vmo6:*]) 2025/05/07(水) 19:27:23.13 ID:FHwmgA+J0]

端から低精度のモデルを作るつもり？

[25 デフォルトの名無しさん (ﾜｯﾁｮｲ 835b-5RKp:*]) 2025/05/07(水) 20:45:48.16 ID:3Nv7PA1l0]

教師モデルを成果物として使わないのなら、蒸留はパラメータ削減の手法として内部的に使用されるステップに過ぎない

[26 デフォルトの名無しさん (ﾜｯﾁｮｲ 0b6e-vmo6) 2025/05/08(木) 07:46:11.89 ID:gHGuwFTP0]

商用として最初から小型を目指すのは間違い

[27 デフォルトの名無しさん (ﾜｯﾁｮｲ 376e-SITr) 2025/05/26(月) 20:23:42.72 ID:V+9U6QCJ0]

NICT産総研国語研が本気出せばすぐ追いつけると思ったけど全然ダメダメ期待外れだな
オープンソースのモデルを継続学習とかするだけでいいよもう😅
国立国会図書館のデータ使えば海外モデル4oとかr1に日本語ベースの評価なら勝てるだろ

[28 デフォルトの名無しさん (ﾜｯﾁｮｲ ffcf-zWAS) 2025/05/27(火) 08:38:43.88 ID:c5IT7Uc90]

3getロボだったよ
どんなスレでも3getするすごいやつだったよ

🌱

[29 デフォルトの名無しさん (ﾜｯﾁｮｲ ff03-vRLN:*]) 2025/06/19(木) 10:39:08.68 ID:14iscHFL0]

自分の死んだ妻を延々とAIで復活させてる記事載せてる人、そろそろやめてほしい
ていうかやっててもいいけどわざわざトピックとしてあげてこないどほしい

[30 デフォルトの名無しさん (ﾜｯﾁｮｲ 9b89-L4eA) 2025/07/10(木) 16:11:22.12 ID:LLfVMqIy0]

「AI教育は“脳が怠けて抜け出せなくなる”」 世界的権威「MIT」が発表した論文の驚くべき研究結果
新潮