人工知能ディープラーニング機械学習のための数学 [無断転載禁止]©2ch.net

**デフォルトの名無しさん** · 2018/06/22(金) 18:32:25.02

>>21
こういう馬鹿には無理な分野

**デフォルトの名無しさん** · 2018/06/23(土) 09:26:50.13

「ＡＩ」にマッチしました．
番組タイトル：「<input type="button" class="btn_to_hp">」
番組内容：マイケル・サンデル教授が、民主主義と哲学発祥の地・ギリシアの遺跡を舞台に、現代社会の難問を世界の若者たちと議論。第２回はロボットやＡＩの進歩をめぐるジレンマ。
放送日：2018年06月30日
開始時刻：22:00
http://www2.nhk.or.jp/hensei/program/wk.cgi?ch=11&;area=001&date=&tz=all&mode=2&next=&f=week

**デフォルトの名無しさん** · 2018/06/25(月) 18:14:44.81

>>582
営業やコンサルがモデルの指定まではする必要ねーだろ
そんなもんエンジニア側にやらせろ
できたら最高の超有能コンサルってだけだろ
大体、モデルの指定までコンサル営業がやってたら
エンジニア側はマジでコード書くだけだろうがアホか

AIコンサルに技術的に必要なのは
・業務内容の抽象的論理的説明及び記述
・業務から得られるデータの詳細な記述

それから見積もりにこだわってる時点でAIコンサルタントとして2流
どこも人材不足なんだから、自社でやらずに人任せでAIやろうってとこには
上限いっぱいまでふっかけりゃ良いんだよ

**デフォルトの名無しさん** · 2018/06/25(月) 18:16:49.24

マ板でやれアホ

**デフォルトの名無しさん** · 2018/06/28(木) 14:17:16.99

高等数学をアプリ化するとプロ電卓しかないのか？

アルゴリズム辞典みたいなのを探しているんだけど

>>680
最近のマ板はコピペ投稿しかないぞ

**デフォルトの名無しさん** · 2018/06/28(木) 14:59:36.94

俺は雑談したいんだよ（笑）

**デフォルトの名無しさん** · 2018/07/04(水) 22:08:13.11

Q8L

**武闘派閥** · 2018/07/05(木) 16:22:05.13

>>1
どういてお前らはこのまま、
【人工知能長者に喰いもんにされる道】
を《《《自らchoice》》》》すんのか教えて？
"""俺様が、
【【世界の最高税率を統一する方法！w】】解明してやった↓↓"""のに
マジ方法↓

マジで【小説掲示板】(下記↓URL)で《《《絶賛》》》された(←※『マジ』だからな？)俺様の↓↓↓↓↓
『『『『戦争をなくして【世界を豊かに】w までwする《《《超現実的》》》』』』な方法wwwww↓↓↓↓↓↓↓

本当に簡単な話し。こういう事。

人類社会のルールは現在、現実的に“弱肉強食”である。

ならば、(人類は、)それを、「分数の計算」の様な要領で(、いわば、「横流し」的に)己が理想とする、
(要は、↓)
"平等・公平・公正”的なルール(仮)に
↓↓↓↓↓
【(ルール)変更】してしまえばいいの。w
(『お前らの為』だぞ？w(←※【【戦争でも起きてさっさと死てえぜ！(w)と思ってるヤツら以外】】なw))

↑↑↑↑↑↑↑↑↑(は、)
道理にかない、強者も弱者も損をしない(←※実際は【超、得】するw↓)から(それらが
(つまり、(それを)【余裕】)で納得する事で)それが(【余裕】で)成立し、世界から「威力」を廃するから《《《《戦争もなくなる》》》》
んだよwwwww

ちなみに【超、得】するのは、(この理論は、それ(ルール変更)から行くと、)「世界の最高税率を統一する事で全世界が豊かに！」なるからだよwwww俺様は【マジ超天才】だからwwwwwwwwwww
↓↓↓↓↓↓↓↓↓↓
http://www.kakiko.info/bbs4/index.cgi?mode=view&;no=10099&p=8
(※↑「小説カキコ掲示板長文戦争をなくす方法希代世界一位」
【検索】でも出るが↑これで開くと順番どおり表示される(※順番どおりに見ないと(俺様の理論は【マジ超一流】だが『『威力』』が半減する)(←※「ストーリーがあるから」))

**デフォルトの名無しさん** · 2018/07/06(金) 16:38:26.70

chainer遅すぎワロチ

**デフォルトの名無しさん** · 2018/07/15(日) 20:07:01.94

numpy配列の様々な変換しまくった
行列の値って中身確認しても意味あるのかな、
計算が進行して意図した.shapeになっていれば
コードは間違えてないって判断でいいのだろうか？
数値の羅列を見ても計算が本当にミスっていないか
判断がつかんわ。

**デフォルトの名無しさん** · 2018/07/16(月) 10:10:06.49

普通見るやろ

**デフォルトの名無しさん** · 2018/07/16(月) 10:56:54.37

関係が深いのはⅠＡⅡＢⅢＣのどれ？
何処？を勉強すれば役に立ちますか？

**デフォルトの名無しさん** · 2018/07/16(月) 11:23:32.35

全部関係が深い
っていうか数学をAとかBとか分けるのがそもそも頭沸いてる証拠

**デフォルトの名無しさん** · 2018/07/16(月) 11:50:10.35

>>689
そうですね、聞き方が間違っていました。

オブジェクト配列と変数配列の空間座標の写像変換アルゴリズムにおいて
ベクトル行列の微分積分がよく分からないので復習のための
参考書籍かページを紹介して頂けませんか？

**デフォルトの名無しさん** · 2018/07/16(月) 12:14:37.34

>>681さんの
>高等数学をアプリ化するとプロ電卓しかないのか？
>アルゴリズム辞典みたいなのを探しているんだけど

に近いものを探しています。

例えば、ハイパボリックタンジェント関数の実装プログラムなど
検索しても以下のような説明書レベルしか分からないのです。
https://support.minitab.com/ja-jp/minitab/18/help-and-how-to/calculations-data-generation-and-matrices/calculator/calculator-functions/trigonometry-calculator-functions/hyperbolic-tangent-function/
用途

ハイパボリック関数は、電気輸送（ケーブルや導線の長さ、重量、応力を計算する）、上部構造（吊橋の弾性曲線とたわみを計算する）、
および航空宇宙（航空機の理想的な表面被膜を判断する）など、
工学技術の分野において多くの応用に役立っています。
統計では、逆ハイパボリックサインがJohnson変換で使用され、
正規分布に従うようにデータを変換します。
工程能力分析によっては、正規性を仮定する必要があります。

**デフォルトの名無しさん** · 2018/07/16(月) 14:26:24.31

えーと何か聞きたいのかマウントしたいのかどっち？

**デフォルトの名無しさん** · 2018/07/16(月) 15:03:32.59

>>691
双曲線関数と呼ばれている
https://ja.wikipedia.org/wiki/%E5%8F%8C%E6%9B%B2%E7%B7%9A%E9%96%A2%E6%95%B0

**デフォルトの名無しさん** · 2018/07/16(月) 15:06:28.19

>>691
意味不明、頭悪すぎ、お前には無理

**デフォルトの名無しさん** · 2018/07/21(土) 13:25:16.60

人工知能なんて数学できなくても問題ないだろ

**デフォルトの名無しさん** · 2018/07/21(土) 13:31:58.05

DLできなくても問題ないだろ

**デフォルトの名無しさん** · 2018/07/21(土) 15:44:58.70

PG出来なくても問題ない

**デフォルトの名無しさん** · 2018/07/21(土) 16:22:45.31

書評まだないね
https://www.amazon.co.jp/dp/4873118360

**デフォルトの名無しさん** · 2018/07/21(土) 23:57:57.78

https://www.amazon.co.jp/dp/B07D57DM21
http://www.saiensu.co.jp/?page=magazine&;magazine_id=1
20日発売なのに新品はもう品切れ

**デフォルトの名無しさん** · 2018/07/28(土) 12:38:17.57

数式の縦ベクトルの解釈にいつも迷う。
縦ベクトルってnumpyで定義するとどうなるの？
np.array([1, 2, 3])なのか、
np.array([ [1], [2], [3] ])なのか
縦ベクトルnp.array([1, 2, 3]).T は元のベクトルと全く
同じになるっぽいね。

**デフォルトの名無しさん** · 2018/07/28(土) 12:46:37.37

縦の物は横にしない

**デフォルトの名無しさん** · 2018/07/28(土) 13:41:32.50

縦か横かは関係ないというか自分がどう見るかで変わる
それより大事なのは右から掛けるか左から掛けるか
shapeで自信がないひとは
適当な正方行列を掛けてみれば良い

**デフォルトの名無しさん** · 2018/07/28(土) 13:43:51.13

>>700
君が期待してるのはこっちだろ

>>> np.array([[1, 2, 3]])
array([[1, 2, 3]])

>>> np.array([[1, 2, 3]]).T
array([[1],
[2],
[3]])

**デフォルトの名無しさん** · 2018/07/28(土) 13:45:26.27

お前らもうディープラーニングの気持ちわかるの？
こういうことしたいなーって思ったらホイホイとネットワーク組んでおし動いたってなるの？

**デフォルトの名無しさん** · 2018/07/28(土) 14:20:12.16

>>703
ああそういうことか、ありがとう。

Conv層の入力画像が3チャンネルの場合、
フィルタ行列は3チャンネル別々のものが生成されるの？
それとも同じフィルタ行列を3チャンネルにブロードキャスト
するの？

**デフォルトの名無しさん** · 2018/07/28(土) 14:40:56.72

ここは2ちゃんねる

**デフォルトの名無しさん** · 2018/07/28(土) 16:51:26.52

NGID:qPhlaL35

**デフォルトの名無しさん** · 2018/07/28(土) 17:00:27.28

2ちゃんねるじゃねえし

**デフォルトの名無しさん** · 2018/07/29(日) 08:00:53.23

>>705
別々に生成される。
フィルタの結果は加算されて1チャンネルの画像になる。

**デフォルトの名無しさん** · 2018/07/29(日) 13:27:59.42

これっきり
これっきり
もぉ

**デフォルトの名無しさん** · 2018/08/03(金) 14:17:02.83

ニューラルネットの質問なんですがバイアスを入力1、重みbとして扱う時に
X=[x1,...,xn,1]
W=[[w11,...,w1k],...[wn1,...,wnk],
[b1,...,bk]]
Y=XW=(1,n+1)
になりますよね
隠れ層がある場合は重みWの最後の列を出力1になるようにしないといけないと思うのですが
W=[[w11,...,w1k,0],...[wn1,...,wnk,0],
[b1,...,bk,1]]
こうしてもいいのでしょうか

**デフォルトの名無しさん** · 2018/08/03(金) 16:15:11.46

いいよ

**デフォルトの名無しさん** · 2018/08/11(土) 03:01:10.43

KerasのEmbeddingレイヤーについて教えてほしいんだけどさ
https://keras.io/ja/layers/embeddings/
＞正の整数（インデックス）を固定次元の密ベクトルに変換します
の説明で、どういう計算をしたら
＞例）[[4], [20]] -> [[0.25, 0.1], [0.6, -0.2]]
になるん？

**デフォルトの名無しさん** · 2018/08/11(土) 05:49:45.90

>>713
ソースに計算方法書いてある。

**デフォルトの名無しさん** · 2018/08/11(土) 18:58:02.34

いやしかし機械学習という神風でPythonがRubyを吹き飛ばしたよね
特にこれから始めようとする人で、Ruby選ぶ人って激減なんじゃないかと

◆QZaw55cn4c · 2018/08/11(土) 20:03:03.16

>>715
https://mevius.5ch.net/test/read.cgi/tech/1523954817/661
私は開始したところです

**デフォルトの名無しさん** · 2018/08/12(日) 09:32:53.85

>>715
pythonは遅いのでJuliaに変わって欲しい。

**デフォルトの名無しさん** · 2018/08/12(日) 12:20:59.75

juliaは美しくない

**デフォルトの名無しさん** · 2018/08/13(月) 15:34:06.09

>>718
pythonは遅いからc++にしてくれ。

**デフォルトの名無しさん** · 2018/08/13(月) 15:53:32.18

フロント言語なんかお気楽さが命なんだから、CとかC++とかはありえねー。

**デフォルトの名無しさん** · 2018/08/13(月) 16:07:01.48

C++は遅いからCにしてくれ。

**デフォルトの名無しさん** · 2018/08/17(金) 19:58:27.13

ディープラーニングで関数の先の予測はできますか?
例えばsin関数を学習する例で言えば
学習データとしてsin0~360の範囲で一度ずつ学習させますつまり、0という入力に対し0を返し,90に対し1を返すように学習させます。学習後入力データとして0~360の範囲外のデータを入力した場合どのような値が帰ってきますか?

**デフォルトの名無しさん** · 2018/08/17(金) 21:02:42.34

RNNでやってみろ

**デフォルトの名無しさん** · 2018/08/17(金) 21:51:00.47

>>723
試してみたけど無理っぽいです

**デフォルトの名無しさん** · 2018/08/18(土) 11:14:12.66

学習してラジアン入力の方が使いやすいとか指示してくれるAIの方がうれしい

**デフォルトの名無しさん** · 2018/08/18(土) 12:03:29.25

θ mod 360 を入力すればいいのでは

**デフォルトの名無しさん** · 2018/08/18(土) 12:58:05.26

教師データの分布から外れた値を推定できないのは当然のこと

**デフォルトの名無しさん** · 2018/08/18(土) 15:11:17.07

これやるときに画像サイズが奇数だったらどうするんですか?
https://www.google.co.jp/amp/s/deepage.net/amp/deep_learning/2016/11/07/convolutional_neural_network

https://i.imgur.com/Av7YjNO.jpg

**デフォルトの名無しさん** · 2018/08/18(土) 15:13:20.87

端っこを捨てるか、端っこと同じデータを追加する

**デフォルトの名無しさん** · 2018/08/18(土) 16:04:57.24

ストライドを1にしたら、微小な位置に対する位置の頑健性が低くなりますよね？

**デフォルトの名無しさん** · 2018/08/18(土) 16:06:50.91

それと、結局>722の答えとしてはどうなりますか？

**デフォルトの名無しさん** · 2018/08/18(土) 17:02:20.81

プログラマーのなかには、解をひとつ見つけると、別の解の模索をしないまま、自分の知ってる1つの解だけが唯一の解だと断定したがる、頭のわるい人がいます。どうも彼らは、高校数学の知識が、まったく思考力に結びついてないらしいです。

そして、このような論理的思考力のひくい頭のわるいプログラマーにかぎって、「プログラマーには数学が重要だ！数学教育は論理性を養う！」とか言ってたりしますので、とことん呆れます。

**デフォルトの名無しさん** · 2018/08/18(土) 17:28:56.93

ただ頭が悪いだけだろ

**デフォルトの名無しさん** · 2018/08/18(土) 19:00:13.65

>>732
ほんそれ＋1

**デフォルトの名無しさん** · 2018/08/18(土) 19:25:31.95

関係ないよ、数学は数学、といってもたいした数学をやっていないんだろうけど（笑）

**デフォルトの名無しさん** · 2018/08/18(土) 19:30:52.21

狭い世界しか知らないのに微積分程度の知識で偉そうな顔をする、理解不能ｗ

**デフォルトの名無しさん** · 2018/08/20(月) 08:45:14.02

>>721
Cは遅いからアセンブラにしてくれ。

**デフォルトの名無しさん** · 2018/08/20(月) 13:12:28.39

アセンブラが速いのは昔の話

**デフォルトの名無しさん** · 2018/08/20(月) 13:28:48.06

今のアセンブラは遅いのか

**デフォルトの名無しさん** · 2018/08/20(月) 13:46:43.73

CPUが速い（笑）

**デフォルトの名無しさん** · 2018/08/20(月) 14:11:56.42

courseraでMLの授業取ってるんだけど、
θ'X のoctave実装が、X ＊ θ になってるんだけど、
どうして逆になってるの？'は転置です。
そのままθ' ＊ X だとサイズエラーになります。

**デフォルトの名無しさん** · 2018/08/20(月) 14:14:14.12

θか疎行列だとか？

**デフォルトの名無しさん** · 2018/08/20(月) 14:22:58.02

サイズエラー当たり前

**デフォルトの名無しさん** · 2018/08/20(月) 14:50:22.84

サイズを調べると、θ は 2 ＊ 1 X は 97 ＊ 2 でした。
Xはテストデータの行列のようです。
ちなみに最急降下法の実装です。

θ' ＊ Xがエラーになるのは、分かるのですが、モデルではθ'Xでと書いてあって、混乱しています

**デフォルトの名無しさん** · 2018/08/20(月) 14:55:15.55

θ * X'

**デフォルトの名無しさん** · 2018/08/20(月) 23:16:53.02

線形代数の勉強しろ

**デフォルトの名無しさん** · 2018/08/21(火) 10:32:47.84

OpenGLとDirectXでは順序が違うアレか

**デフォルトの名無しさん** · 2018/08/22(水) 16:59:30.98

m×n行列とn×p行列の積がm×pになるくらい基礎中の基礎だろ

**デフォルトの名無しさん** · 2018/08/22(水) 17:01:54.86

数学で良く使われる線形代数とMLのそれは違うからな

**デフォルトの名無しさん** · 2018/08/22(水) 19:04:20.85

>>749
違うの？

**デフォルトの名無しさん** · 2018/08/22(水) 20:23:14.92

一緒だよ

**デフォルトの名無しさん** · 2018/08/22(水) 20:43:45.93

>数学で良く使われる線形代数
お察しｗ

**デフォルトの名無しさん** · 2018/08/23(木) 09:11:55.04

NHKω

**デフォルトの名無しさん** · 2018/08/23(木) 15:06:06.83

>>744
それ線形代数になれてないと、本当に最初混乱するけど
冷静にサイズチェックして行列の掛け算が実行可能なやり方にすればできる

一般化して簡単化してる講義ではnx1行列のθとXを想定してるから
スライドでもθ[θ1;θ2;θ3;．．．．θi]、X[x1;x2;x3;....xi]って列ベクトル(orたまに行ベクトル)で表記してる
その場合、θ' has size 1 x n、X has size n x 1になって
θ' * Xで左からかける行列の列数と右の行数が一致してるから計算できる

要はθとXで内積取ればいいって考えれば,X has size m x 1、θ has size 1 x 1に
インターセプト項を加えて、Xがm x n行列、θがn x 1行列になった時
これらの行列の内積を取るには、(θ' * X')　or X * θを計算すれば良いと分かるっていう
講義中の線形代数のチュートリアルでやってる簡単な話になる

**デフォルトの名無しさん** · 2018/08/23(木) 15:14:07.22

てか俺もまだMLやってる途中なんだけど
同じ教授のディープラーニングコースの方をやり終えた人いる？
いたらどの程度日本語字幕付いてるか教えてほしい
1週間の無料期間だとちょっとしか見れないだろうから

日本語字幕ありとなしじゃ倍以上理解に時間かかるわ…

**デフォルトの名無しさん** · 2018/08/23(木) 15:41:42.39

行列の内積や積の意味さっぱりわからずに単に数字の操作としてしかやってないからそんなつまんないところで躓くんだろうな
やっぱ線形代数の入門書ぐらいは読んどいた方がいい

**デフォルトの名無しさん** · 2018/08/23(木) 15:45:33.72

■クソマウンティング警戒情報■

クラス１　大学の授業で線形代数をやっただけのおっさん
クラス２　大学には行かなかったが線形代数を独習したおっさん

このあたりが出没してるので気をつけましょう。

**デフォルトの名無しさん** · 2018/08/23(木) 15:46:40.80

AI関係はヤバいのがいるという噂は本当だった

**デフォルトの名無しさん** · 2018/08/23(木) 15:57:35.51

線形代数知らないと大損だよ！

人工知能
ディープラーニング
機械学習
だけじゃないよ！

プログラミングでかなり重要

**デフォルトの名無しさん** · 2018/08/23(木) 15:58:56.38

そりゃ線形代数は大事だよ！！！

**デフォルトの名無しさん** · 2018/08/23(木) 16:15:33.38

>>757
ここは高卒率高い

**デフォルトの名無しさん** · 2018/08/23(木) 20:57:35.73

行列学ぶにはには画像処理がいいって、
それ一番言われてるから。
データサイエンスから派生してOPenCV
始めたけどかなり楽しいゾ。
数式見るだけより画像がどう変化するかを
確認するとアルゴリズムの意味や目的が
はっきりわかんだね。

**デフォルトの名無しさん** · 2018/08/23(木) 21:42:01.92

結局ライブラリ使ってるから数学関係ないよね

**デフォルトの名無しさん** · 2018/08/23(木) 22:27:21.08

ライブラリを使うには数学知識が必須
なんだよなぁ…
例えばnumpyを使うのに行列知識ゼロじゃ
使いこなせない。
逆にnumpyを使っているうちに行列への
理解が深まるってこともあるし。

**デフォルトの名無しさん** · 2018/08/24(金) 01:04:01.12

まあサラスの公式とかは覚える必要ないよね

**デフォルトの名無しさん** · 2018/08/24(金) 03:41:37.45

回答がつくか自信がないですがいくつか質問です
① 右上の▽E(w)の定義を教えてください
② なんで式の3行目のβにはtがくっついているのですか

https://i.imgur.com/cqdg8pC.jpg

**デフォルトの名無しさん** · 2018/08/24(金) 05:08:08.95

>>569
もちろんある程度大学の数学をやった上で言ってるんだと思うんだけど
ある程度やった上での発言だとしたら頭が悪いわ

**デフォルトの名無しさん** · 2018/08/24(金) 05:59:54.55

>>765
行列式の計算とかnumpyで楽チン。

**デフォルトの名無しさん** · 2018/08/24(金) 06:29:31.37

>>766
＞① 右上の▽E(w)の定義を教えてください
損失関数Eの勾配
=δE/δw

＞② なんで式の3行目のβにはtがくっついているのですか
学習の経過に従って、mとvの寄与度を調整して学習を安定させる

**デフォルトの名無しさん** · 2018/08/24(金) 06:32:34.83

∂E/∂w だった(偏微分記号)

**デフォルトの名無しさん** · 2018/08/24(金) 06:56:46.17

②の補足

学習の初期段階でtが小さい時にmとvを調整して学習を安定させる効果がある。

この式の分母はtが大きくなるとほぼ1になりほとんど変化しなくなる。

**デフォルトの名無しさん** · 2018/08/24(金) 09:07:03.58

>>766
BPから勉強しろ

**デフォルトの名無しさん** · 2018/08/24(金) 12:44:28.77

まさか今更微積や線形代数の復習する羽目になるとは

**デフォルトの名無しさん** · 2018/08/24(金) 12:58:10.52

>>766です
ありがとうございます、解決しました

tが0から始まるとすればbeta^0でそっから1引いたものが分母になるから分母0にならないですか？

**デフォルトの名無しさん** · 2018/08/24(金) 13:09:28.12

1から始めればよい

**デフォルトの名無しさん** · 2018/08/25(土) 18:31:41.77

>>775
ありがとうございました！

下層からの誤差って具体的に何ですか？
https://i.imgur.com/y0O5glz.jpg

https://qiita.com/eijian/items/c947fb6b5e7a49858fb4

**デフォルトの名無しさん** · 2018/08/25(土) 22:43:44.04

>>776
その畳み込みの次にある層からの誤差

**デフォルトの名無しさん** · 2018/08/26(日) 00:28:46.57

誤差逆伝播法では誤差が下層から上層に伝えられていく。誤差が具体的に何かと聞かれても、正解値と推定値の差を順次上層に向かって伝えられていく値としか答えようがない。

**デフォルトの名無しさん** · 2018/08/26(日) 00:35:44.23

>>777
例えば畳み込み層の前がプーリング層だった場合具体的に何が誤差になりますか?

**デフォルトの名無しさん** · 2018/08/26(日) 00:59:20.08

例えばMAXプーリング層では、下層から伝えられた誤差(偏微分値)を、順伝播時のMAXだったノードに伝えられる。MAX以外のノードには0が伝えられる。このようにそのノードの性質によって何が伝えられるかは変わってくる。

**デフォルトの名無しさん** · 2018/08/26(日) 02:15:36.01

>>780
そのプーリング層の前が全結合層だった場合その層での誤差は何になるのでしょう?全結合層での入力層と隠れ層の間の重みとかですか?

**デフォルトの名無しさん** · 2018/08/26(日) 02:36:56.87

東京大学理学部数学科に入って、数論幾何学を勉強したい。
でも脇見恐怖症だしなぁ・・・・・。

**デフォルトの名無しさん** · 2018/08/26(日) 08:52:46.06

>>781
全結合部の出力層で誤差関数で誤差を求めて後は入力側に向かってその誤差を各ニューロン毎に重み掛け算して分配していく。
分配が終わったら誤差、学習率等を使って各重みを更新。間違ってたら指摘お願いします

**デフォルトの名無しさん** · 2018/08/26(日) 09:59:18.87

>>783
「重み掛け算」というのが違う。どのように分配していくかは、順伝播時ノードの処理によって変化する。足し算ノードなら何もかけずに逆伝播させるし、掛け算ノードであれば逆ノードの値を掛けて逆伝播させるし。

**デフォルトの名無しさん** · 2018/08/26(日) 10:05:05.45

上記についてはこのページが詳しいかな
ttps://qiita.com/t-tkd3a/items/031c0a4dbf25fd2866a3

**デフォルトの名無しさん** · 2018/08/26(日) 12:56:14.32

リアルプログラムでは学習した結果ってどうやって永続化してるの？
ファイルに書き出すの？

**デフォルトの名無しさん** · 2018/08/26(日) 13:49:35.32

パラメータをファイルやDBに書き出します。

**デフォルトの名無しさん** · 2018/08/26(日) 13:55:39.86

基本的には各サンプルを通して損失関数を最小化するθ(重み)が学習成果なわけだから
そのθをファイルに保存する
途中からの場合θのファイルをロードする
モデルによって他にドロップアウトやRegularization値など自動で最適化してるハイパーパラメータがあればそれもファイルに保存する

**デフォルトの名無しさん** · 2018/08/26(日) 20:58:22.32

>>785
ありがとうございます！

**デフォルトの名無しさん** · 2018/08/26(日) 23:47:20.20

>>787
>>788
サンクス

**デフォルトの名無しさん** · 2018/08/27(月) 12:03:01.85

起動に15時間
シャットダウンに7時間

**デフォルトの名無しさん** · 2018/09/01(土) 12:14:47.04

CNNの畳み込み層でも活性化関数使うのが普通なんですか？

あと3次元フィルタを使ってますが、私のフィルタは2次元です。一度グレイスケールにしてからフィルタ適用しているので...この3次元フィルタを使うことの方が普通なのかな？
http://iup.2ch-library.com/i/i1931933-1535771487.jpeg
http://iup.2ch-library.com/i/i1931932-1535771487.jpeg

https://www.google.co.jp/amp/s/deepage.net/amp/deep_learning/2016/11/07/convolutional_neural_network

あと1層目でエッジ検出はわかるのですが、次の層でテクスチャ検出できるのが意味がわかりません、テクスチャって水玉模様とかそんなのですよね？
http://iup.2ch-library.com/i/i1931934-1535771654.jpeg
3次元フィルタを使うことに関しては特徴マップが何層もあるから？

**デフォルトの名無しさん** · 2018/09/01(土) 23:34:32.22

全部チューニングの問題。その設定で精度のが上がれば、そのタスクにとっては「正しい」設定となる。

**デフォルトの名無しさん** · 2018/09/01(土) 23:35:20.62

チューニングというより設計の問題かな。

**デフォルトの名無しさん** · 2018/09/02(日) 18:18:25.17

色々深層学習のライブラリ弄ってて、モデルそのものを弄りたくなってきて調べたけど

既存の深層学習のライブラリ全部、iter中に計算速度稼ぐことメインに考えてて
気軽に独自モデル試せるようなもんじゃないんだな
ライブラリ使って新しいモデル作ってる研究者は低レベルで殴り合ってるわけだ
ソース見てもモジュール化されすぎてて全部理解するのには相当時間かかる

独自にモデル作ってる人らには頭が下がるわ
フルスクラッチでやったほうが実装そのものは相当楽だろ
でも今どきフルスクラッチでDNNの新モデル作ったところで研究者には見向きもされないんだろうな

**デフォルトの名無しさん** · 2018/09/03(月) 01:01:43.69

そうでもない
がんがれ

**デフォルトの名無しさん** · 2018/09/07(金) 20:14:05.61

https://mainichi.jp/articles/20180905/k00/00e/040/319000c

**デフォルトの名無しさん** · 2018/09/08(土) 17:42:16.54

似非サイエンス０でやってた

**デフォルトの名無しさん** · 2018/10/06(土) 11:09:34.88

NHK教育を見て56088倍賢く三連休
http://nhk2.5ch.net/test/read.cgi/liveetv/1538780245/

**デフォルトの名無しさん** · 2018/10/08(月) 11:30:39.16

めも
https://www.anaconda.com/blog/developer-blog/tensorflow-in-anaconda/

**デフォルトの名無しさん** · 2018/10/08(月) 13:54:24.56

memorandum

**デフォルトの名無しさん** · 2018/10/24(水) 17:33:34.15

既存の数学的アプローチでは汎用人工知能は無理。
新しい数学を創造する必要がある。

**デフォルトの名無しさん** · 2018/10/24(水) 19:03:25.41

人間の脳の学習能率に対して、ディープラーニングでは人間ではあり得ない量のデータを力技で教え込んでいるという現状を考えれば既存理論では実現不可能なのは明白だな
根本的にやってることが違う

**デフォルトの名無しさん** · 2018/10/24(水) 19:23:11.47

数学は万物を定量化して表すもの

数学に出来ないのはヒルベルトのように、解く方法が解らない問題と
世界の誰も未だに気づいていない問題

**デフォルトの名無しさん** · 2018/10/24(水) 20:38:49.03

NS方程式ｗ

**デフォルトの名無しさん** · 2018/10/25(木) 01:53:03.16

そのうち人工知能の性能や危険性を監査する方法が必要になる
監査もAIにして相互に進化させる
人間のはるか上を行くAIになりそう

◆QZaw55cn4c · 2018/10/25(木) 08:07:04.46

>>806
＞監査もAIにして相互に進化させる
こういう自己学習はすべてのAIにて有効とは限らない、と思いますが

**デフォルトの名無しさん** · 2018/10/25(木) 11:25:06.41

単にラグランジュとか●次スプラインとかで全点通す多項式作るようにしてるんだろうけど
こういうのって機械学習でも同じパラメータが出現するのだろうか
https://pbs.twimg.com/media/Dp8U1ioVYAEsXf3.jpg
https://twitter.com/yori_shirou/status/1053611678292570113
https://twitter.com/yori_shirou/status/1053611678292570113/photo/1
(そういう学習させればそうなるんだろう)
https://twitter.com/5chan_nel (5ch newer account)

**デフォルトの名無しさん** · 2018/11/27(火) 10:18:08.02

NNのパラメータが十分多ければSGDでも多項式時間で最適解に収束する事が証明されたな
https://arxiv.org/abs/1811.03962

**デフォルトの名無しさん** · 2018/11/30(金) 20:30:28.58

十分多ければwww

**デフォルトの名無しさん** · 2018/11/30(金) 22:07:26.54

自然な仮定だろ？

**デフォルトの名無しさん** · 2018/12/01(土) 12:32:12.07

ε-δ論法での「十分小さければ」みたいによくある表現だよね

**デフォルトの名無しさん** · 2018/12/01(土) 14:53:57.91

t分布で自由度が十分大きければ正規分布になるとか、割とあちこちで十分大きければ論法は使われる
「十分大きい」というのが現実的なサイズなら何の問題もないし非現実的なサイズなら机上の空論というだけのこと

**デフォルトの名無しさん** · 2018/12/01(土) 18:36:48.82

誤差曲面には極小値や鞍点が無数にあるにも関わらず、SGDで最適解に辿り着けてしまうのは自明では無い
経験的に知られていたが謎だった事が理論的に解明された事に価値がある
あと(指数ではなく)多項式時間と分かった事も大きいと思う

**デフォルトの名無しさん** · 2018/12/05(水) 18:35:39.05

こっちだったか
http://www.itmedia.co.jp/news/articles/1710/10/news040.html

**デフォルトの名無しさん** · 2018/12/12(水) 22:46:51.99

初歩的なもので申し訳ありませんが
ゼロから作るDeep Learningの中の数式の変形で以下のような変形がありました。
どう変形したらこうなるのはわからないのですがどなたか教えていただけないでしょうか？

c exp(x) = exp(x + log c)

**デフォルトの名無しさん** · 2018/12/12(水) 22:56:13.04

定義から追っていけばわかるだろ？

expてのはeを何回掛けたか
logはその逆

exp(log c) = cはcが特殊な値でない限り常になりたつ。

exp(a)exp(b)はeをa回掛けたものにさらにeをb回掛けることになる
これはexp(a+b)に等しい

**デフォルトの名無しさん** · 2018/12/12(水) 23:11:36.04

>>817
ありがとうございます。
言われてみればなんで気づかなかったんだろってレベルでした。

**デフォルトの名無しさん** · 2018/12/12(水) 23:22:27.88

ln 左辺
　= ln (c * e^x)
　= ln c + ln e^x
　= ln c + x
ln 右辺
　= ln e^(x + ln c)
　= x + ln c

高校の算数で分かる

◆QZaw55cn4c · 2018/12/13(木) 00:31:25.96

>>816
c = exp(log (c))

まずこれを理解して

c・exp(x) = exp(x)・exp(log(c))
= exp(x + log(c))

**デフォルトの名無しさん** · 2018/12/13(木) 09:30:18.60

>>816
exp(x + log c)=exp(x)*exp(logc) 指数法則：exp(x+y)=exp(x)exp(y)
=exp(x)*c expとlogは互いに逆関数なので順番に作用させると元に戻る：x=exp(logx)

**デフォルトの名無しさん** · 2018/12/13(木) 12:19:59.72

c exp(x) = exp(x + log(c))
log(c exp(x)) = log(exp(x + log(c)))
log(c) + log(exp(x)) = log(exp(x + log(c)))
log(c) + x = x + log(c)

**デフォルトの名無しさん** · 2018/12/17(月) 22:36:41.36

ゼロから作るDeep Learningの中のAffineレイヤの部分で
行列の積　
X・W
をXで微分したものが
Wの転置行列
になっており、
X・W
をWで微分したものが
Xの転置になっていますがこの辺の説明がないためなぜそうなるのかわかりませんでした。
この辺は数学のどの部分をやれば理解できますでしょうか？いい参考書があれば教えてほしいです。

後同じAffineレイヤのバッチ対応版で、バイアス部分がすべてのバッチ分の加算になっていますが
これってどう解釈すればいいのでしょうか？
いまいちなぜすべてを加算するのか理解できませんでした。

**デフォルトの名無しさん** · 2018/12/18(火) 00:08:54.26

線形代数

**デフォルトの名無しさん** · 2018/12/18(火) 11:30:12.35

物理

**デフォルトの名無しさん** · 2018/12/18(火) 13:30:30.43

魔法

**デフォルトの名無しさん** · 2018/12/18(火) 13:50:22.43

チート能力

**デフォルトの名無しさん** · 2018/12/18(火) 14:11:41.15

ggr能力

**デフォルトの名無しさん** · 2018/12/18(火) 15:55:00.86

行列の積が分かれば微分するだけなのだがｗ

**デフォルトの名無しさん** · 2018/12/18(火) 15:56:23.56

テンソルやろ

**デフォルトの名無しさん** · 2018/12/18(火) 17:38:07.86

アホやろ

**デフォルトの名無しさん** · 2018/12/18(火) 17:39:32.22

アホは読めないだろ

**デフォルトの名無しさん** · 2018/12/18(火) 20:42:10.22

>>823
行列 (i,j) 成分が
\sum_k( x_{i,k}*w_{k,j} )
になってる事から一つ一つ計算しな。

**デフォルトの名無しさん** · 2018/12/19(水) 19:39:29.81

DeepLearningを試しにやってみたいけど
Chainerあたりが手軽なの?

ちなみに文系の馬鹿です。
回帰分析とSVMを
Pythonで試したことあります。

**デフォルトの名無しさん** · 2018/12/19(水) 22:00:08.49

そんだけやってればこのスレのほとんどの人より先に行ってるぞ

**デフォルトの名無しさん** · 2018/12/20(木) 11:07:48.66

ほんとだもう姿が見えないｗ

**デフォルトの名無しさん** · 2018/12/23(日) 20:43:59.69

ディープラーニングやろうとしたらこのくらいの性能のPCは必須？
http://masagutti.hatenablog.com/entry/new_pc

**デフォルトの名無しさん** · 2018/12/24(月) 11:08:35.14

>>837
マジレスするとクラウドのがコスパいい
睡眠も妨げない

**デフォルトの名無しさん** · 2018/12/24(月) 11:14:29.35

>>838
無料？

**デフォルトの名無しさん** · 2018/12/24(月) 11:18:32.15

>>839
無料がいいならGoogle Colaboratory行っとけ
速度はイマイチだがCPUだけよりはかなりマシ

**デフォルトの名無しさん** · 2018/12/24(月) 11:18:38.69

PCだって無料じゃないんやで

**デフォルトの名無しさん** · 2018/12/30(日) 18:20:09.19

アルファ碁ゼロってどっかで対戦できる？

**デフォルトの名無しさん** · 2018/12/30(日) 20:45:03.59

>>838
どのクラウドがいいの？

**デフォルトの名無しさん** · 2019/01/04(金) 00:56:54.65

>>843
用途による
一般用途はAmazon、サクラ、google、Azure等

あとはサービス連携
ワトソンとか使いたいならIBM Bluemix
TPUで爆速機械学習とかならGoogle Cloud Platform

個人的な意見で申し訳ないが
使いやすいのはamazon aws
価格が安いのはGoogle、IBM
サクラは官公庁とかで従量課金NGとかでも相談に乗ってくれる

**デフォルトの名無しさん** · 2019/01/04(金) 11:37:58.62

>>844
ありがとうございます。
取引先は機械学習するのにAzuzeにしたのですが
利用料金が予想以上に高いと言ってました。
いろいろ検討してみます。

**デフォルトの名無しさん** · 2019/01/04(金) 11:49:22.59

値段はAwsでもそう変わらんちゃう
Googleはちょい安そう

**デフォルトの名無しさん** · 2019/01/04(金) 17:09:49.70

本業の問題解決にディープラーニングを利用するかディープラーニング自体を本業とするかでクラウド使うべきかは変わる
GPUぶん回すのは学習時ぐらいなので前者なら実際は学習以外の仕事が大半を占めるのでクラウドの方が安く、後者なら学習させまくるのだろうからハード買った方が安い

**デフォルトの名無しさん** · 2019/01/04(金) 20:33:58.41

>>847
何気に無視できないのはデータ量
訓練データや最終出力に大量のデータを保存する必要があるときはクラウドが高くつく
GPUのランニングコストはさほどでもない

**デフォルトの名無しさん** · 2019/01/05(土) 20:59:49.07

さくらの高火力コンピューティングとかめちゃ高いよな。
あれ誰が使うんだろ？

**デフォルトの名無しさん** · 2019/01/06(日) 08:27:02.11

>>848
大量のデータって数量的には何TB？

**デフォルトの名無しさん** · 2019/01/06(日) 19:18:45.26

>>845
利用料金、これからの課題やで

機械学習はこれからビジネスの世界になる
機械学習で精度はあがっても、その精度を出すためのコストが問題されるようになる
大半の用途ではコストがかさんで機械学習をする意味がない
（コストにはデータを集めるためのコストも含含まれる）

もう少ししたら、これが問題視されるようになる

**デフォルトの名無しさん** · 2019/01/06(日) 19:56:09.20

>>850
1TBのディスクはAmazon EBSの場合、帯域幅にもよるけど月当たり数千円から数万円。どのくらいを大容量というかは学習とのバランスによる。

GPUはEC2 P3でV100を使って一番安いオプションで24時間使い続けたとして月額25万くらい。実際にはこの1/3くらいだから月8万円としよう。

そうするとランニングコストのうち10%前後はストレージの容量に払うことになる。これを計算機コストに置き換えるとクラウドのストレージが如何に高いか分かる。

V100搭載の計算機は200万円くらい、かつ24時間回しっ放しだと電気代が月々数万円かかる。かりに1/3だとしても1～2万円くらいだろうか。

※このクラスだと納期に最低2週間、必要なら電源工事、さらには固定資産税が掛かるが今は置いておこう。

大雑把な計算だと、GPU計算機の購入費用はクラウド換算では2.5年間くらいに相当する。2.5年もすると計算機の大幅な性能向上も見込まれるので、クラウドの有用性が分かるだろう。

一方1TBのSSDが2万円切る中、同じ容量のストレージをクラウド上で保持しようと思うと、1～3ヶ月程度しか持たない。もちろんサービス用の高いストレージを使うのもありだが学習用途なのであまり意味がない。

**デフォルトの名無しさん** · 2019/01/06(日) 19:56:29.21

だからGANｓが流行ってるんだろ？？

**デフォルトの名無しさん** · 2019/01/06(日) 21:06:59.54

>>852
コストは掛かるのはわかるが、それによって
なにが得られるかだよな

コストを掛けた以上の利益が得られなければやる意味がない

まあ今はまだ検証段階でそこまで考えられる所まで来てないんだろうけど
いいよな。結果が出なくても良い段階っていうのはｗ

**デフォルトの名無しさん** · 2019/01/06(日) 21:07:13.61

>>852
ストレージは利用者に提供した分は必ず確保して使えるようにするから占有だけど
GPUは隙間時間を別の人が使ったりできる点は違うんじゃね

**デフォルトの名無しさん** · 2019/01/26(土) 14:56:07.98

不正統計ω

**デフォルトの名無しさん** · 2019/01/26(土) 15:04:17.59

不正統計δ

**デフォルトの名無しさん** · 2019/01/27(日) 16:49:33.49

仕事で国の統計データ使うこと多いのに
マジで勘弁して欲しいぞ

**デフォルトの名無しさん** · 2019/01/27(日) 17:23:27.82

計算し直せばいいだけだろ。他責なんだから

**デフォルトの名無しさん** · 2019/01/27(日) 17:55:29.03

計算できるようにデータを
纏めるのが大変なんじゃ！

**デフォルトの名無しさん** · 2019/01/27(日) 17:57:03.48

この地域にはこういう属性の人が多いからこういう戦略で行こうとビジネスの意思決定に使ってた国のデータが嘘だった場合、
これからのことは正しいデータで計算し直せば済むが過去の莫大な機会損失も補償してくれなければ意味がない

**デフォルトの名無しさん** · 2019/01/27(日) 18:26:06.36

以後、気をつけるように

**デフォルトの名無しさん** · 2019/01/27(日) 18:48:58.10

国相手に損害賠償訴訟を起こす手もあるぞ

**デフォルトの名無しさん** · 2019/01/28(月) 01:34:18.93

ディープラーニング×暗号通貨
http://masagutti.hatenablog.com/entry/bitcoin_raspberrypi

**デフォルトの名無しさん** · 2019/01/28(月) 12:43:29.94

ほんとにまともなAIなら
学習の結果として
不正な統計データが入力されたら
受け付けずに突っ返す動作にするのが理想だな

**デフォルトの名無しさん** · 2019/01/28(月) 15:04:36.07

>>865
それは不正統計を判定するために学習させた場合であって普通は誰もそんなもの作らないから

**デフォルトの名無しさん** · 2019/01/28(月) 15:12:52.73

危機管理だろ、データが不正の場合当社は責任をもちませんと契約書に入れておくとか

**デフォルトの名無しさん** · 2019/02/02(土) 19:33:24.61

V100搭載の計算マシンが2〜3ドル/hてのがクラウドの相場

**デフォルトの名無しさん** · 2019/02/18(月) 22:53:58.26

安そうに見えて結構高いよね実は？
２４時間回したら俺は生活できないorz

**デフォルトの名無しさん** · 2019/02/20(水) 17:51:51.87

クラウド企業は大儲け！

クラウド使う意味が分からん？

**デフォルトの名無しさん** · 2019/02/21(木) 02:07:39.79

ディープラーニングは最小二乗法」で物議
慶應義塾大学経済学部の小林慶一郎教授がAI技術について解説
https://www.itmedia.co.jp/news/articles/1902/20/news141.html

さすがにこれはあかん、引退推奨レベル

**デフォルトの名無しさん** · 2019/02/22(金) 13:14:44.17

だれを相手に書いてるかが問題で

「日経の経済教室」

なら
あっそう
でおわり

**デフォルトの名無しさん** · 2019/02/22(金) 13:27:59.38

でも出力と教師信号の差を小さくするっていう点では
最小二乗法と同じじゃね？

多層にする事でより精度よく
複雑な問題に対応可能になっているけど
もっとシンプルな構造で
同様の出力をできれば
学習の計算力も少なくて済む

**デフォルトの名無しさん** · 2019/02/22(金) 13:46:43.30

別に、理解している人からすれば
どうでもいい話しだよね。

**デフォルトの名無しさん** · 2019/02/22(金) 15:06:08.21

別に最小二乗法である必要性はないし教師と予測の差を測る何かしらがあればいいだけなので全く本質的ではない

**デフォルトの名無しさん** · 2019/02/22(金) 15:13:01.54

>>875
短い言葉で判りやすく伝えるにはどういう表現がいい？