ビジネスや研究として最初から小型モデルを目指すのと、その中で学習プロセスにおいて大規模モデルの構築と蒸留を経るのは別問題であり、何ら矛盾しない
最初から蒸留による小規模モデルの構築のみを目的としていて、大規模モデルの方は運用しないことがわかっているなら、
そうでない場合よりも最適なプロセスを構築できたり良好な結果が得られる可能性もあるだろう
探検
【統計分析】機械学習・データマイニング34
22デフォルトの名無しさん (ワッチョイ 8297-5RKp [240a:61:5027:f3a1:*])
2025/05/07(水) 16:25:56.62ID:QRPBQasH023デフォルトの名無しさん (ワッチョイ f690-vmo6 [2001:268:986f:3799:*])
2025/05/07(水) 16:37:36.13ID:FHwmgA+J0 最初から小型よりも
蒸留して小型のほうが精度は高いよ
蒸留して小型のほうが精度は高いよ
24デフォルトの名無しさん (ワッチョイ f690-vmo6 [2001:268:986f:3799:*])
2025/05/07(水) 19:27:23.13ID:FHwmgA+J0 端から低精度のモデルを作るつもり?
25デフォルトの名無しさん (ワッチョイ 835b-5RKp [240b:c010:4a2:d9e5:*])
2025/05/07(水) 20:45:48.16ID:3Nv7PA1l0 教師モデルを成果物として使わないのなら、蒸留はパラメータ削減の手法として内部的に使用されるステップに過ぎない
26デフォルトの名無しさん (ワッチョイ 0b6e-vmo6 [138.64.65.61])
2025/05/08(木) 07:46:11.89ID:gHGuwFTP0 商用として最初から小型を目指すのは間違い
27デフォルトの名無しさん (ワッチョイ 376e-SITr [138.64.65.61])
2025/05/26(月) 20:23:42.72ID:V+9U6QCJ0 NICT産総研国語研が本気出せばすぐ追いつけると思ったけど全然ダメダメ期待外れだな
オープンソースのモデルを継続学習とかするだけでいいよもう😅
国立国会図書館のデータ使えば海外モデル4oとかr1に日本語ベースの評価なら勝てるだろ
オープンソースのモデルを継続学習とかするだけでいいよもう😅
国立国会図書館のデータ使えば海外モデル4oとかr1に日本語ベースの評価なら勝てるだろ
28デフォルトの名無しさん (ワッチョイ ffcf-zWAS [153.208.55.25])
2025/05/27(火) 08:38:43.88ID:c5IT7Uc90 3getロボだったよ
どんなスレでも3getするすごいやつだったよ
🌱
どんなスレでも3getするすごいやつだったよ
🌱
29デフォルトの名無しさん (ワッチョイ ff03-vRLN [2001:268:9890:c897:*])
2025/06/19(木) 10:39:08.68ID:14iscHFL0 自分の死んだ妻を延々とAIで復活させてる記事載せてる人、そろそろやめてほしい
ていうかやっててもいいけどわざわざトピックとしてあげてこないどほしい
ていうかやっててもいいけどわざわざトピックとしてあげてこないどほしい
30デフォルトの名無しさん (ワッチョイ 9b89-L4eA [39.111.228.181])
2025/07/10(木) 16:11:22.12ID:LLfVMqIy0 「AI教育は“脳が怠けて抜け出せなくなる”」 世界的権威「MIT」が発表した論文の驚くべき研究結果
新潮
新潮
レスを投稿する
ニュース
- ネット殺到「高市総理の責任」「完全に高市リスク」「負けるな」中国が水産物輸入停止→流石に総理批判の声も「どう責任取る?」 ★3 [樽悶★]
- 「“なり得る”って言っただけだから…」高市早苗“存立危機”答弁後に漏らした本音 [Hitzeschleier★]
- 中国外務省局長 「ポケットに手を入れていたのは寒いから」 日本との局長級会談で ★4 [お断り★]
- 中国外務省局長 「ポケットに手を入れていたのは寒いから」 日本との局長級会談で ★3 [お断り★]
- 高市首相「台湾有事」発言引き出した「立憲・岡田克也氏」に聞いた質問の真意「これはマズイ発言だと」少しずらしてみたが焼け石に水 ★2 [ぐれ★]
- 【株価】日経平均、上げ幅一時2000円超 5万円台を回復 [蚤の市★]
- 【安倍悲報】山上徹也の妹「つぼとかを買わないで」 [115996789]
- 🏡PUNCHマッチ💥🥊😅🥊💥超重量級決戦🏡
- 武井壮、ブチギレ。💢(クリティカルヒット) [153490809]
- バービー「高市さんの発言一つでこんな影響が。民間からするとたまったもんじゃない」→反日左翼認定される [237216734]
- 日本産水産物の輸入停止、複数の総理周辺「追加書類を出すだけだから」高市総理の周辺「中国マジで怒ってる。今は話し合える状況じゃない [256556981]
- 吉村知事「あのさぁ、中国人観光客の頼るのやめようよ?他のエリアの人に来てもらうとかもっと考えようよ?中国依存してないでさァ!」 [856698234]
