【統計分析】機械学習・データマイニング15 [無断転載禁止]©2ch.net

**デフォルトの名無しさん** · 2017/04/16(日) 21:03:36.56

機械学習とデータマイニングについて何でもいいので語れ
人工知能考察は未来技術板の技術的特異点スレで語れ

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング13
http://echo.2ch.net/test/read.cgi/tech/1487433222/
【統計分析】機械学習・データマイニング14
http://echo.2ch.net/test/read.cgi/tech/1489636623/

**デフォルトの名無しさん** · 2017/06/12(月) 09:39:25.56

chainer 2.0 って古い資産使えるん？

**デフォルトの名無しさん** · 2017/06/12(月) 10:46:14.31

斎藤の本

p.94

def cross_entropy_error(y, t):
■■■■if y.ndim == 1:
■■■■■■■■t = t.reshape(1, t.size)
■■■■■■■■y = y.reshape(1, y.size)

■■■■batch_size = y.shape[0]
■■■■return -np.sum(np.log(y[np.arange(batch_size), t])) / batch_size

これ間違っていますね。

y.ndim == 1 のときに、

cross_entropy_error(np.array([0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1], 3)

みたいな使い方ができないはずです。

**デフォルトの名無しさん** · 2017/06/12(月) 10:50:06.62

cross_entropy_error(np.array([0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1], np.array([3]))

とすればＯＫですが、不自然です。

(x_train, t_train), (x_test, t_test) = load_mnist(normalize = True, one_hot_label = False)

とすると、

t_train は、 [[3], [1], [4], [1], [5], …] ではなく、 [3, 1, 4, 1, 5, …] みたいなデータになるからです。

**デフォルトの名無しさん** · 2017/06/12(月) 10:52:56.23

それと、p.91では、使っていた delta をp.94では忘れていますね。

**デフォルトの名無しさん** · 2017/06/12(月) 13:56:09.59

だいたいそのインデント代わりの四角なんやねん、クッソ見にくいわそれだけで氏ね

**デフォルトの名無しさん** · 2017/06/12(月) 13:58:32.69

つーかこういう系の書籍に誤植があるのなんて珍しくもなんともないだろ、いちいち騒ぐことじゃない

**デフォルトの名無しさん** · 2017/06/12(月) 14:21:36.69

斎藤康毅のディープラーニングの本に意味が分からないコードがありました。

p.111

def f(W):
■■■■return net.loss(x, t)

net は simpleNet というクラスのインスタンスです。

このコードがさっぱり分かりません。

W がなぜ引数にあるのでしょうか？

**デフォルトの名無しさん** · 2017/06/12(月) 14:34:19.68

インデントの■はそのまま貼り付けると大変なことになるから俺はいいと思う

**デフォルトの名無しさん** · 2017/06/12(月) 14:51:29.93

def softmax(x):
■■■■if x.ndim == 2:
■■■■■■■■x = x.T
■■■■■■■■x = x - np.max(x, axis=0)
■■■■■■■■y = np.exp(x) / np.sum(np.exp(x), axis=0)
■■■■■■■■return y.T

■■■■x = x - np.max(x) # オーバーフロー対策
■■■■return np.exp(x) / np.sum(np.exp(x))

def cross_entropy_error(y, t):
■■■■if y.ndim == 1:
■■■■■■■■t = t.reshape(1, t.size)
■■■■■■■■y = y.reshape(1, y.size)
■■■■■■■■
■■■■# 教師データがone-hot-vectorの場合、正解ラベルのインデックスに変換
■■■■if t.size == y.size:
■■■■■■■■t = t.argmax(axis=1)
■■■■■■■■■■■■
■■■■batch_size = y.shape[0]
■■■■return -np.sum(np.log(y[np.arange(batch_size), t])) / batch_size

**デフォルトの名無しさん** · 2017/06/12(月) 14:52:31.32

def numerical_gradient(f, x):
■■■■h = 1e-4 # 0.0001
■■■■grad = np.zeros_like(x)
■■■■
■■■■it = np.nditer(x, flags=['multi_index'], op_flags=['readwrite'])
■■■■while not it.finished:
■■■■■■■■idx = it.multi_index
■■■■■■■■tmp_val = x[idx]
■■■■■■■■x[idx] = float(tmp_val) + h
■■■■■■■■fxh1 = f(x) # f(x+h)
■■■■■■■■
■■■■■■■■x[idx] = tmp_val - h
■■■■■■■■fxh2 = f(x) # f(x-h)
■■■■■■■■grad[idx] = (fxh1 - fxh2) / (2*h)
■■■■■■■■
■■■■■■■■x[idx] = tmp_val # 値を元に戻す
■■■■■■■■it.iternext()
■■■■■■■■
■■■■return grad

**デフォルトの名無しさん** · 2017/06/12(月) 14:52:48.36

class simpleNet:
■■■■def __init__(self):
■■■■■■■■self.W = np.random.randn(2,3) #標準正規分布による 2x3 の行列

■■■■def predict(self, x):
■■■■■■■■return np.dot(x, self.W)

■■■■def loss(self, x, t):
■■■■■■■■z = self.predict(x)
■■■■■■■■y = softmax(z)
■■■■■■■■loss = cross_entropy_error(y, t)

■■■■■■■■return loss

**デフォルトの名無しさん** · 2017/06/12(月) 14:54:09.40

x = np.array([0.6, 0.9])
t = np.array([0, 0, 1])

net = simpleNet()

f = lambda w: net.loss(x, t)
dW = numerical_gradient(f, net.W)

print(dW)

★★★★★★★★★★★★★
★↑の f が理解できません。★
★★★★★★★★★★★★★

**デフォルトの名無しさん** · 2017/06/12(月) 14:57:27.95

まず、

仮引数の w が使われていません。

仮引数に渡していない、 net, x, t を使っているところもよくわかりません。
グローバル変数ということでしょうか？

その関数 f を numerical_gradient に渡しています。

**デフォルトの名無しさん** · 2017/06/12(月) 15:03:35.02

スコープについて正確に理解していないからよく理解できないのかもしれません。

**デフォルトの名無しさん** · 2017/06/12(月) 15:05:03.31

numerical_gradient 内のこれ↓ですが、 x はダミーの引数ですね。

fxh1 = f(x) # f(x+h)

**デフォルトの名無しさん** · 2017/06/12(月) 15:07:56.32

グローバル変数の net というのは、関数の中で呼び出されている関数の中でも
使えるんですか？

**デフォルトの名無しさん** · 2017/06/12(月) 15:09:49.85

あ、できますね↓

glvar = "abc"

def myfunc1():
■■■■myfunc2()

def myfunc2():
■■■■print(glvar)

myfunc1()

**デフォルトの名無しさん** · 2017/06/12(月) 15:11:05.87

しかし、この斎藤っていう人、こんあひどいコードをよく恥ずかしげもなく公開できますね。

**デフォルトの名無しさん** · 2017/06/12(月) 15:11:58.06

なんでこの斎藤っていう人の本は高評価なんですか？

こんなひどいコード見たことがないです。正直言って。

**デフォルトの名無しさん** · 2017/06/12(月) 15:12:31.37

意図的に人を混乱に陥れようとしているかのようです。

**デフォルトの名無しさん** · 2017/06/12(月) 15:22:22.17

def f(W):
■■■■return cross_entropy_error(softmax(np.dot(x, W)), t)

↑こう書けば、x, t がグローバル変数ですが、理解可能だったと思います。

**デフォルトの名無しさん** · 2017/06/12(月) 15:37:37.83

もっと先でどうなっているのか知りませんけど、

コードの再利用を絶対しなければならないとかいう強迫観念があるかのようですね。

**デフォルトの名無しさん** · 2017/06/12(月) 15:49:25.68

松坂君はアスペなのでスルー

**デフォルトの名無しさん** · 2017/06/12(月) 16:20:19.77

レス飛んで見えない…

**デフォルトの名無しさん** · 2017/06/12(月) 18:38:50.85

def numerical_gradient(f, x):
■■■■h = 1e-4 # 0.0001
■■■■grad = np.zeros_like(x)
■■■■
■■■■it = np.nditer(x, flags=['multi_index'], op_flags=['readwrite'])
■■■■while not it.finished:
■■■■■■■■idx = it.multi_index
■■■■■■■■tmp_val = x[idx]
■■■■■■■■x[idx] = float(tmp_val) + h
■■■■■■■■fxh1 = f(x) # f(x+h)
■■■■■■■■
■■■■■■■■x[idx] = tmp_val - h
■■■■■■■■fxh2 = f(x) # f(x-h)
■■■■■■■■grad[idx] = (fxh1 - fxh2) / (2*h)
■■■■■■■■
■■■■■■■■x[idx] = tmp_val # 値を元に戻す
■■■■■■■■it.iternext()
■■■■■■■■
■■■■return grad

◆QZaw55cn4c · 2017/06/12(月) 18:56:22.69

ideone にでも貼って

**デフォルトの名無しさん** · 2017/06/12(月) 19:03:49.53

日記帳かな？

**デフォルトの名無しさん** · 2017/06/12(月) 20:14:17.83

■の交差点に当たる部分が黒っぽく見えるヤツは脳に障害があるから気をつけろ

**デフォルトの名無しさん** · 2017/06/12(月) 20:20:13.35

錯視が見えない人のほうがやばいのではないでしょうか？

↓新井仁之さん作の錯視です。

夏ワナー夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー夏ワナー

ーナワ夏ーナワ夏ーナワ夏ーナワ夏ーナワ夏
ーナワ夏ーナワ夏ーナワ夏ーナワ夏ーナワ夏

夏ワナー夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー夏ワナー

**デフォルトの名無しさん** · 2017/06/12(月) 20:49:15.33

>>771
黄色に見えるんだが、まずい？

**デフォルトの名無しさん** · 2017/06/12(月) 22:03:20.22

ID:yuw+moiOは今日の一位

**デフォルトの名無しさん** · 2017/06/12(月) 22:10:40.76

ここまでスレを私物化するとは恐れ入った

**デフォルトの名無しさん** · 2017/06/13(火) 00:04:52.44

出版社に聞けば良い

**デフォルトの名無しさん** · 2017/06/13(火) 01:30:08.30

ID:yuw+moiO
は問題点とその解決策を知っているのに
それをネタに以前から機械学習スレに寄生して自己アピールしている輩。
本の誤植をする暇あったら自分で話題を振った人工脳、囲碁ソフトを最後まで貫徹しろ

**デフォルトの名無しさん** · 2017/06/13(火) 01:52:16.95

こいつ定期的に湧いては毎回捨て台詞残して去ってくガイジよな？

**デフォルトの名無しさん** · 2017/06/13(火) 07:08:16.37

そうそう、ここはお前の日記帳ちゃうからな定期

**デフォルトの名無しさん** · 2017/06/13(火) 07:14:38.89

ここはchainerをマンセーするとこみたい

**デフォルトの名無しさん** · 2017/06/13(火) 08:50:19.28

chainerのモデルをc言語に変換する機能を早く作ってくれ

**デフォルトの名無しさん** · 2017/06/13(火) 16:46:55.59

>>781
chainerのモデルを機械語にへんかんする機能を早く作ってくれ。

**デフォルトの名無しさん** · 2017/06/13(火) 17:19:48.06

Cならtiny-dnnとか使ってみてはどうだろうか

**デフォルトの名無しさん** · 2017/06/14(水) 22:18:18.87

ニューラルネットの作図何使って書いてる？
いいのあったら教えてくれ

**デフォルトの名無しさん** · 2017/06/14(水) 23:13:46.17

作図ってなんやねん
ANNなんて作図もクソもないやろ

**デフォルトの名無しさん** · 2017/06/15(木) 00:00:11.41

>>784
ビジオ

**デフォルトの名無しさん** · 2017/06/15(木) 01:36:53.25

『入力⇒機械学習⇒出力』

って書けば十分

**デフォルトの名無しさん** · 2017/06/15(木) 17:45:58.79

正論

**デフォルトの名無しさん** · 2017/06/15(木) 17:51:51.86

異論

**デフォルトの名無しさん** · 2017/06/15(木) 23:28:36.01

定説です

**デフォルトの名無しさん** · 2017/06/15(木) 23:40:54.67

風説

**デフォルトの名無しさん** · 2017/06/16(金) 00:07:33.45

いちいちニューロンと結びつけて話す必要はない

**デフォルトの名無しさん** · 2017/06/16(金) 06:02:19.10

時系列データって深層強化学習で処理できんの？

**デフォルトの名無しさん** · 2017/06/16(金) 13:37:27.48

<<-C%%->>
OZHEZ-[[[\\%5%==GLAMB]]]
E=4.323111111111111111111111111111111121
0.4E5Z<<<OBROB%/++11/$end

**デフォルトの名無しさん** · 2017/06/16(金) 16:26:19.45

ICONIP
いきたいけど旅費がない
萌芽の発表は7月だし

**デフォルトの名無しさん** · 2017/06/16(金) 16:33:36.33

発表もしないのにいけるのか、ゆとり

**デフォルトの名無しさん** · 2017/06/16(金) 16:48:21.80

斎藤康毅のゼロから作るDeep Learningはどの本を元に書いたのでしょうか？

**デフォルトの名無しさん** · 2017/06/16(金) 18:38:29.18

http://www2.nhk.or.jp/hensei/program/p.cgi?area=001&;date=2017-06-16&ch=21&eid=28823&f=758
今朝ポナンザの山本一成さんがNHKに出てた

**デフォルトの名無しさん** · 2017/06/16(金) 18:41:12.93

↑上のリンクから再放送依頼できるけど

アーカイブに今晩バックナンバー載りそう
http://www.nhk.or.jp/kaisetsu-blog/400/

**デフォルトの名無しさん** · 2017/06/16(金) 21:00:01.03

>>771
黒？白(灰色)の間違いじゃないの

**デフォルトの名無しさん** · 2017/06/16(金) 23:30:43.54

>>800
なるほど確かに脳に障害がありそうだ

**デフォルトの名無しさん** · 2017/06/17(土) 07:16:47.10

>>797

これだろ
ttp://nnadl-ja.github.io/nnadl_site_ja/index.html

**デフォルトの名無しさん** · 2017/06/17(土) 09:45:56.10

>>801
そうなの？正常な脳にはどう見えるのかな

**デフォルトの名無しさん** · 2017/06/17(土) 13:16:08.56

しっかし、アホみたいな本が増えたな。
ニューラルネットワーク=バックプロパゲーションで解かないとダメみたいなアホがホントに増えた

**デフォルトの名無しさん** · 2017/06/17(土) 20:03:30.75

バックプロップ以外に実用性があるものってなに？

**デフォルトの名無しさん** · 2017/06/17(土) 20:51:18.42

バックドロップかな。防犯に最適。

**デフォルトの名無しさん** · 2017/06/17(土) 21:21:33.08

まあANN入門するような人には分かりやすくていいんじゃない？

**デフォルトの名無しさん** · 2017/06/17(土) 21:40:55.39

人工勾配とか？

**デフォルトの名無しさん** · 2017/06/17(土) 22:16:18.94

ニューロファジーはオワコン？

**デフォルトの名無しさん** · 2017/06/17(土) 22:18:41.30

ファジーは確率論そのものだからな
完全に吸収されハッテン的に解消された

**デフォルトの名無しさん** · 2017/06/17(土) 22:28:09.02

誰もやってないのならやってみたら

**デフォルトの名無しさん** · 2017/06/18(日) 13:35:07.62

kerasの日本語ドキュメントはバージョン1のまま
WARNING出て気付いた
keras使う人は最初から英語ドキュメント見て書いたほうが良い

**デフォルトの名無しさん** · 2017/06/18(日) 13:49:36.29

ＴＦ1.2になったけど直接upgradeできないのか

**デフォルトの名無しさん** · 2017/06/18(日) 22:05:35.27

誰も問題視してない気がするんだけど、ReLUレイヤーより前側にあるニューロンって一度変なところにハマったら永遠に学習されないこともあるんじゃないの？
これどうやって解決すりゃいいんだろ

**デフォルトの名無しさん** · 2017/06/18(日) 22:53:32.63

初期値変更してやり直し

**デフォルトの名無しさん** · 2017/06/18(日) 22:55:19.18

アクティベーションしない層なんて作るなよアホかｗ

**デフォルトの名無しさん** · 2017/06/18(日) 23:30:21.78

>>815
やっぱりそうするのか・・・・

**デフォルトの名無しさん** · 2017/06/19(月) 00:59:17.47

>>813
結局再インストール

**デフォルトの名無しさん** · 2017/06/19(月) 01:45:23.93

>>813 >>818
直接 upgrade できるに決まってるだろ。他のフレームワークの信者かよw

**デフォルトの名無しさん** · 2017/06/19(月) 05:20:41.61

lreluとか簡単じゃん

**デフォルトの名無しさん** · 2017/06/19(月) 09:45:48.84

>>814
あなた基本の基本ですよ

**デフォルトの名無しさん** · 2017/06/19(月) 09:48:05.40

>>814
Mac信者とかジョブズ信者は変なところにハマったら永遠に学習されないパティーン

**デフォルトの名無しさん** · 2017/06/19(月) 12:00:30.55

斎藤康毅著『ゼロから作るDeep Learning』

ですが、多変数関数の連鎖律の説明が全くないですね。

いいんですかね？

(5.13)の前ところで、多変数関数の連鎖律を説明する必要があるはずです。

**デフォルトの名無しさん** · 2017/06/19(月) 12:21:01.89

だれでも知ってるからな

**デフォルトの名無しさん** · 2017/06/19(月) 12:29:48.52

>>824

では、なぜ、1変数関数の微分の説明などを書いているのでしょうか？

1変数関数の微分など高校生なら誰でも知っています。

**デフォルトの名無しさん** · 2017/06/19(月) 12:34:57.92

>>824

では、なぜ行列の積の定義など書いているのでしょうか？

この本では、「内積」などと書いてあって、線形代数の本を1冊も読んだことがないことが明白になっていますが。

**デフォルトの名無しさん** · 2017/06/19(月) 12:44:50.41

書く人の自由。それだけ。
それでは次の話題どうぞ。

**デフォルトの名無しさん** · 2017/06/19(月) 12:48:40.61

斎藤さんが線形代数の本を読んだことがないことは、
p.149の(5.14)を見ても分かります。

Wの成分の添え字の付け方が標準的じゃないです。

**デフォルトの名無しさん** · 2017/06/19(月) 15:05:28.75

松坂君のアスペ日記

**デフォルトの名無しさん** · 2017/06/19(月) 16:19:54.04

>>ID:0IiK5rsw
正直それは本質的にどうでもいい指摘
もう少しメリットをよく考えて指摘してね

**デフォルトの名無しさん** · 2017/06/19(月) 16:48:54.09

くやしいのう
立ち読みでよく読まずにネットで本買うからだよ

**デフォルトの名無しさん** · 2017/06/19(月) 16:51:26.18

書評わろす
http://www.amazon.co.jp/dp/4873117585

**デフォルトの名無しさん** · 2017/06/19(月) 16:55:12.54

白馬に乗った王子様ω

**デフォルトの名無しさん** · 2017/06/19(月) 16:56:05.76

ハイヨーシルバー

**デフォルトの名無しさん** · 2017/06/19(月) 18:41:55.35

>もうおめーが執筆しろよ

ほんそれ

**デフォルトの名無しさん** · 2017/06/19(月) 19:06:09.83

ID:0IiK5rsw
それでは各論まとめて
結論とうぞ

**デフォルトの名無しさん** · 2017/06/19(月) 22:34:22.00

何その本
外部のライブラリに頼らずpythonでゼロから作るとか
頭悪すぎだろワロタわ

**デフォルトの名無しさん** · 2017/06/19(月) 22:59:49.58

斉藤何某の本の荒さがして、彼をこき下ろせればうれしい松坂君（ID:0IiK5rsw）

**デフォルトの名無しさん** · 2017/06/19(月) 23:33:42.41

質問ですが、機械学習にmathematicaは向いていますか？

**デフォルトの名無しさん** · 2017/06/20(火) 01:17:23.06

何をさせたいのかよく分からない。
新手のアスペルガーかな？

**デフォルトの名無しさん** · 2017/06/20(火) 05:37:17.12

はい私はとても健康です

**デフォルトの名無しさん** · 2017/06/20(火) 11:17:32.00

>>832
屑のようなレビュワーがいるなと思ったら、松坂君だったのね。

**デフォルトの名無しさん** · 2017/06/21(水) 09:03:09.37

機械学習は特別なモノだと思ってたけど、そうでも無かった。
サンプル値→アルゴ→探査→出力　から
サンプル値→学習アルゴ→探査→出力　に変わって程度？

コンピューターである程度予測できると言う事は、人間が数字に頼りすぎてる
だけなんじゃ　ないかと思う。