X
人工知能ディープラーニング機械学習のための数学 [無断転載禁止]©2ch.net
レス数が950を超えています。1000を超えると書き込みができなくなります。
0001デフォルトの名無しさん
垢版 |
2016/12/27(火) 12:09:04.01ID:MgmqZKtO
人工知能ディープラーニング機械学習のための数学
0851デフォルトの名無しさん
垢版 |
2019/01/06(日) 19:18:45.26ID:r6TnJvb+
>>845
利用料金、これからの課題やで

機械学習はこれからビジネスの世界になる
機械学習で精度はあがっても、その精度を出すためのコストが問題されるようになる
大半の用途ではコストがかさんで機械学習をする意味がない
（コストにはデータを集めるためのコストも含含まれる）

もう少ししたら、これが問題視されるようになる
0852デフォルトの名無しさん
垢版 |
2019/01/06(日) 19:56:09.20ID:/LWkk3mV
>>850
1TBのディスクはAmazon EBSの場合、帯域幅にもよるけど月当たり数千円から数万円。どのくらいを大容量というかは学習とのバランスによる。

GPUはEC2 P3でV100を使って一番安いオプションで24時間使い続けたとして月額25万くらい。実際にはこの1/3くらいだから月8万円としよう。

そうするとランニングコストのうち10%前後はストレージの容量に払うことになる。これを計算機コストに置き換えるとクラウドのストレージが如何に高いか分かる。

V100搭載の計算機は200万円くらい、かつ24時間回しっ放しだと電気代が月々数万円かかる。かりに1/3だとしても1〜2万円くらいだろうか。

※このクラスだと納期に最低2週間、必要なら電源工事、さらには固定資産税が掛かるが今は置いておこう。

大雑把な計算だと、GPU計算機の購入費用はクラウド換算では2.5年間くらいに相当する。2.5年もすると計算機の大幅な性能向上も見込まれるので、クラウドの有用性が分かるだろう。

一方1TBのSSDが2万円切る中、同じ容量のストレージをクラウド上で保持しようと思うと、1〜3ヶ月程度しか持たない。もちろんサービス用の高いストレージを使うのもありだが学習用途なのであまり意味がない。
0854デフォルトの名無しさん
垢版 |
2019/01/06(日) 21:06:59.54ID:r6TnJvb+
>>852
コストは掛かるのはわかるが、それによって
なにが得られるかだよな

コストを掛けた以上の利益が得られなければやる意味がない

まあ今はまだ検証段階でそこまで考えられる所まで来てないんだろうけど
いいよな。結果が出なくても良い段階っていうのはｗ
0855デフォルトの名無しさん
垢版 |
2019/01/06(日) 21:07:13.61ID:sqll98Te
>>852
ストレージは利用者に提供した分は必ず確保して使えるようにするから占有だけど
GPUは隙間時間を別の人が使ったりできる点は違うんじゃね
0856デフォルトの名無しさん
垢版 |
2019/01/26(土) 14:56:07.98ID:yVAkGzul
不正統計ω
0858デフォルトの名無しさん
垢版 |
2019/01/27(日) 16:49:33.49ID:jpJeg/KH
仕事で国の統計データ使うこと多いのに
マジで勘弁して欲しいぞ
0860デフォルトの名無しさん
垢版 |
2019/01/27(日) 17:55:29.03ID:jpJeg/KH
計算できるようにデータを
纏めるのが大変なんじゃ！
0861デフォルトの名無しさん
垢版 |
2019/01/27(日) 17:57:03.48ID:DIPYZuxb
この地域にはこういう属性の人が多いからこういう戦略で行こうとビジネスの意思決定に使ってた国のデータが嘘だった場合、
これからのことは正しいデータで計算し直せば済むが過去の莫大な機会損失も補償してくれなければ意味がない
0865デフォルトの名無しさん
垢版 |
2019/01/28(月) 12:43:29.94ID:ji//xT0N
ほんとにまともなAIなら
学習の結果として
不正な統計データが入力されたら
受け付けずに突っ返す動作にするのが理想だな
0866デフォルトの名無しさん
垢版 |
2019/01/28(月) 15:04:36.07ID:P7GqkI/F
>>865
それは不正統計を判定するために学習させた場合であって普通は誰もそんなもの作らないから
0867デフォルトの名無しさん
垢版 |
2019/01/28(月) 15:12:52.73ID:DqvraBYP
危機管理だろ、データが不正の場合当社は責任をもちませんと契約書に入れておくとか
0870デフォルトの名無しさん
垢版 |
2019/02/20(水) 17:51:51.87ID:/eXmn/gb
クラウド企業は大儲け！

クラウド使う意味が分からん？
0872デフォルトの名無しさん
垢版 |
2019/02/22(金) 13:14:44.17ID:PtH+29Wq
だれを相手に書いてるかが問題で

「日経の経済教室」

なら
あっそう
でおわり
0873デフォルトの名無しさん
垢版 |
2019/02/22(金) 13:27:59.38ID:mJNXNf/+
でも出力と教師信号の差を小さくするっていう点では
最小二乗法と同じじゃね？

多層にする事でより精度よく
複雑な問題に対応可能になっているけど
もっとシンプルな構造で
同様の出力をできれば
学習の計算力も少なくて済む
0874デフォルトの名無しさん
垢版 |
2019/02/22(金) 13:46:43.30ID:1tWgvkMd
別に、理解している人からすれば
どうでもいい話しだよね。
0875デフォルトの名無しさん
垢版 |
2019/02/22(金) 15:06:08.21ID:9D6v3kso
別に最小二乗法である必要性はないし教師と予測の差を測る何かしらがあればいいだけなので全く本質的ではない
0876デフォルトの名無しさん
垢版 |
2019/02/22(金) 15:13:01.54ID:mJNXNf/+
>>875
短い言葉で判りやすく伝えるにはどういう表現がいい？
0880デフォルトの名無しさん
垢版 |
2019/02/22(金) 17:46:31.58ID:el9/87PC
>>873
ディープラーニングを一言で説明しろって言われて
A. 最小二乗法みたいなもの
B. ニューラルネットワークを沢山繋げたもの
のどっちの説明が適切かだな

実際はAの最適化の要素とBの深いネットワークの要素のどちらも重要だから、片方だけ説明すると片手落ちになって突っ込まれる
0881デフォルトの名無しさん
垢版 |
2019/02/22(金) 17:54:08.28ID:PtH+29Wq
小学生に説明するときと猿に説明するときで説明の仕方変えるだろ
臨機応変に出来ない方が馬鹿
0882デフォルトの名無しさん
垢版 |
2019/02/22(金) 18:02:57.51ID:9C0ENtC1
猿に教えてるところを録音されて晒し者にされたのが今回の事案。
「猿が相手だったので猿向けに説明してたんです」とは相手もいる以上言えんわなｗ
0884デフォルトの名無しさん
垢版 |
2019/02/22(金) 19:05:45.63ID:mJNXNf/+
>>880
ニューロンを沢山繋げたもの
って言われてそれで何ができるの？って思うけどな

炭素を沢山繋げたもの
って言われても価値があるものなのかわからない
炭なのかダイヤモンドなのか
0885デフォルトの名無しさん
垢版 |
2019/02/22(金) 19:08:13.79ID:mJNXNf/+
>>884
結局は聞く側が何を知りたいのかによる
それによってどんな観点で説明するか変わる
0887デフォルトの名無しさん
垢版 |
2019/02/22(金) 19:58:44.79ID:KXSRl5z4
ディープラーニングが何者か一言で説明しろと言われて一言で説明したらそれじゃ分からんと言われ、厳密に説明しようとしたらそんな難しい話理解できないと言われ
0890デフォルトの名無しさん
垢版 |
2019/02/23(土) 12:37:31.13ID:+DV3f+Dk
単純労働はもう人間がやる時代じゃなくなった
DLが判らない人は職を失います
DLが判る人は信用を失います
0891デフォルトの名無しさん
垢版 |
2019/02/23(土) 12:43:45.09ID:aRr2CtyI
データによって関数近似するだけですと答えりゃ良いんだよ。
deepが今までの機械学習と違うのは関数を表すパラメータが多いだけ。
(まあ多いからそれなりの学習法が必要になるってことではあるのだが。)
0892デフォルトの名無しさん
垢版 |
2019/02/23(土) 12:47:45.21ID:+DV3f+Dk
確かに「関数って何？」ってレベルの相手に「最小二乗法」とか言っても伝わらんよな
0893デフォルトの名無しさん
垢版 |
2019/02/23(土) 13:05:49.57ID:9M6azXgX
そもそも最小二乗法知らないレベルの人がディープラーニングの意味を知ったところでその知識に使い道などない
0894デフォルトの名無しさん
垢版 |
2019/02/23(土) 14:02:48.73ID:YsidP2kG
>>891
パラメーターの多さは本質的じゃない
他のモデルでも増やすだけならいくらでも増やせるし
0895デフォルトの名無しさん
垢版 |
2019/02/23(土) 14:27:17.84ID:aRr2CtyI
>>894
本質か本質でないかはわからんといったところだろ。
例えば混合ガウス分布のパラメータをdeep learning並にしてSGDで学習みたいなことを
実験した結果とかみたことないし、どれくらい差が出るのかは誰にもわからん。
0896デフォルトの名無しさん
垢版 |
2019/02/23(土) 16:02:59.35ID:lNz7SHfN
幅が効いてるのか深さが効いてるのか判らんぬ
0899デフォルトの名無しさん
垢版 |
2019/02/23(土) 16:19:13.67ID:44PmOqBU
>>883
そうやな
ちゃんと片端って言わないとな
0901デフォルトの名無しさん
垢版 |
2019/02/23(土) 16:26:26.19ID:smDG7LGU
>>896
深さが効いている
NNの深さは表現力に対して指数的に効くが、幅は多項式的
だから「ディープ」ラーニングがここまで流行った
0902デフォルトの名無しさん
垢版 |
2019/02/23(土) 16:29:50.37ID:lNz7SHfN
>>901
なるほど
まつおっさんはそこを説明し忘れたと
0903デフォルトの名無しさん
垢版 |
2019/02/23(土) 17:13:34.69ID:qQy3QKMA
わざわざ"ディープ"ラーニングだと言ってるのに今更「深さが重要だよ」程度の説明までしてやらなきゃならないのか
無知というのは本当に面倒だな
0904デフォルトの名無しさん
垢版 |
2019/02/23(土) 17:48:49.92ID:lefeMdOl
>>901
深さはなぜ聞いてるんですか？
何に聞いてるんでしょうか？

まさか、非線形だからなんて答えないですよね？
0905デフォルトの名無しさん
垢版 |
2019/02/23(土) 18:09:54.05ID:2Bb0KoDB
自分で調べて理解する方が早いのをなぜわざわざ他人に聞くんだろう
自力でやるほどのことではないと言うならそんなことを知ったところで君の人生において使い道などないだろうに
0906デフォルトの名無しさん
垢版 |
2019/02/23(土) 18:42:59.52ID:hvNgcyAg
>>904
それはね、ふか〜い意味がある
でいいんじゃないか？
0907デフォルトの名無しさん
垢版 |
2019/02/23(土) 18:53:50.90ID:smDG7LGU
>>904
同じ関数を同じ精度で近似したい時、幅を増やすよりも深くする方がニューロンが少なくて済む
理論的な所は論文がいくつもあるがフォロー出来てない
0908デフォルトの名無しさん
垢版 |
2019/02/23(土) 19:02:21.42ID:+IwGCrFN
>>903
理論上は古典的な三層のMLPで関数の任意精度近似が出来るのになぜ"ディープ"にする必要があるのか？ とか少しNN齧れば誰でも思い至る疑問を感じず、「"ディープ"ラーニングと言う名前だから深さが重要」で思考停止している人間よりマシだな
0909デフォルトの名無しさん
垢版 |
2019/02/23(土) 19:08:30.62ID:C1vMZKUS
ゆうてもこのスレでディープラーニングのコード書いたことあるやつってほとんどいないよね？
0914デフォルトの名無しさん
垢版 |
2019/02/23(土) 20:30:39.92ID:dhwbkJVr
>>913
理由として公理系から出発するレベルで厳密な証明を求めるならこんな所で聞かないで論文を読むべき
単にマウント取りたいだけならその限りではないが
0915デフォルトの名無しさん
垢版 |
2019/02/23(土) 20:57:11.51ID:+IwGCrFN
>>913
公理系の意味理解してるか？
標準的な数学の公理系に基づいているならわざわざそこから出発する意味はないよ
1＋1の証明から始めてたらいつまで経っても目的の議論にたどり着けんやん
0919デフォルトの名無しさん
垢版 |
2019/02/23(土) 23:37:24.82ID:3YtKndGk
鬼束ちひろを理解できるAI。
人間には無理。
0920デフォルトの名無しさん
垢版 |
2019/02/24(日) 00:36:01.42ID:xoljfRCp
始めの仮定の部分を示せばよいと言っている
その仮定が確からしいかどうか怪しいと言っている
0923デフォルトの名無しさん
垢版 |
2019/02/24(日) 03:00:13.95ID:NqeQYE6u
>>920
正しいか正しくないかは実験して確認するしかない
ヒッグス粒子にしろ相対論にしろ実験で確認できるまでは仮設

正しいかどうかに関係なく論理展開は可能
相対論で言えば光の速さが最速で一定というのは
実証されていない段階で論旨展開されて
時空間の相対性が導かれたと思う
0925デフォルトの名無しさん
垢版 |
2019/02/24(日) 05:10:43.25ID:AXtZKrFv
「全」が最強ですか？
0926デフォルトの名無しさん
垢版 |
2019/02/24(日) 09:54:45.28ID:yqjhGBK+
>>908
少しNN齧れば誰でも思い至るようなありふれた疑問なら少し調べればいくらでも答えは見つかるだろうになぜ自ら調べないのか
0927デフォルトの名無しさん
垢版 |
2019/02/24(日) 10:56:47.83ID:qLJosHl4
調べても深さと幅の関係はそんな単純ではないという結論だがな。
深さをあげれば掛け算で表現ノードが増えるという理屈はあるがあれはあれで怪しいし。
とりあえず実験的には深さを増してった方が有効というのは正しそうだが。
0929デフォルトの名無しさん
垢版 |
2019/02/24(日) 16:41:44.01ID:2fcQjxFq
>>906
不快な解答です
0930デフォルトの名無しさん
垢版 |
2019/02/24(日) 16:55:23.56ID:2fcQjxFq
>>923
>光の速さが最速で一定というのは

これどうやって実証されたの？
0932デフォルトの名無しさん
垢版 |
2019/02/24(日) 17:09:07.22ID:jKObQ1kj
>>930
それが実証されたとは書いていない
導かれた予言が実証された
0935デフォルトの名無しさん
垢版 |
2019/02/24(日) 19:38:54.50ID:dH1jxY0q
そっか、光の速度は量れたが
測定手段としては一定という量り方はないんだな
0938デフォルトの名無しさん
垢版 |
2019/02/25(月) 10:57:08.92ID:Opp/wdL5
>>933
当時その実験やってる最中に偶然重力波が観測(というか観測じゃなくて到達と言うべきか)されてたら
歴史は変わっていただろうね
0940デフォルトの名無しさん
垢版 |
2019/02/27(水) 12:36:16.84ID:+TCpifLa
重力波なんて小さ過ぎて検出されないだけで
常に到達し続けていると言っても過言ではない
0948デフォルトの名無しさん
垢版 |
2019/02/28(木) 11:14:13.22ID:01EONdyB
後から誰も何も確認できないなら観測していないのと同じだからね
「宇宙人見ました！写真も映像もないけどね」だと他人からすれば何の価値もない
0949デフォルトの名無しさん
垢版 |
2019/02/28(木) 11:53:17.30ID:yVNPvTLf
まあダークマターとか言われてるものも
パルサーのスピン軸がたまたま地球の方向を
一度も向かないだけのものが
ものすごい量あるんだろうなあ
0950デフォルトの名無しさん
垢版 |
2019/02/28(木) 12:56:20.11ID:+rccLB4x
>>949
何がどれだけあるかはっきり分かっていないので、
何かないと計算が合わないから何かあることにする
ここまでは分かるんだけど、

宇宙はダークマターで満ちている！←おかしくね？
0951デフォルトの名無しさん
垢版 |
2019/02/28(木) 13:03:52.47ID:yyOtWed3
そういう苦情はNHKに言おうぜ
レス数が950を超えています。1000を超えると書き込みができなくなります。
ニューススポーツなんでも実況