Deep learning

◆z8RI12j18Y · 2013/12/25(水) 17:39:01.28

http://en.wikipedia.org/wiki/Deep_learning
wikiで意味するそれについて。
wiki以外の定義はお断り。

**デフォルトの名無しさん** · 2013/12/25(水) 17:39:43.47

人工知能ネタ

**デフォルトの名無しさん** · 2013/12/25(水) 17:41:33.62

>It typically uses artificial neural networks.
ってことです、これに反論する人はこないでください。

**デフォルトの名無しさん** · 2013/12/25(水) 21:20:25.43

Deep learning 用語集
http://staff.aist.go.jp/y-ichisugi/rapid-memo/deep-learning.html

自然言語処理のためのDeep Learning
http://www.slideshare.net/yutakikuchi927/deep-learning-26647407

**デフォルトの名無しさん** · 2013/12/25(水) 23:02:27.34

>>4
作者乙

**デフォルトの名無しさん** · 2013/12/26(木) 03:18:06.70

このスレッドは天才チンパンジー「アイちゃん」が
言語訓練のために立てたものです。

アイと研究員とのやり取りに利用するスレッドなので、
関係者以外は書きこまないで下さい。

　　　　　　　　　　　　　　　　　　京都大学霊長類研究所

**デフォルトの名無しさん** · 2013/12/26(木) 20:40:17.06

pre-trainingって、どういうデータでやるの？

学習に使うデータ？
ランダムなデータ？
基本図形のようなデータ？（画像認識なら）

**デフォルトの名無しさん** · 2013/12/27(金) 22:12:32.83

Deep learning
って、噂と論文の評価ばかりで反証した例が１つもない。
作ったと言い張るだけで、そのシステムが再利用できていない。

核心部分を隠蔽することで秘密だからという理屈で技術になっていない。

技術というのは誰でも再現して再利用できるものを言う。
それを除いた部分が噂とデマで広がっているだけな。

**デフォルトの名無しさん** · 2013/12/27(金) 22:13:04.60

おまえらも本物しらずに他の翻訳みたいな解説本を売れば
いまなら高額で売れるぞ。

**デフォルトの名無しさん** · 2013/12/28(土) 12:56:07.09

Hintonの書いたWebSite読めないような人がDeep learningつかう機会あるのか？

**デフォルトの名無しさん** · 2013/12/29(日) 00:50:44.21

>>10
おまえバカだろ。

**デフォルトの名無しさん** · 2013/12/29(日) 02:05:39.76

>>11
相手にするな。勝手な思い込みと決め付けで何もできないからストレスを
発散しているだけだよ。

**デフォルトの名無しさん** · 2013/12/29(日) 14:41:33.32

matlabのコード置いてあるのに反証って、どうやるの？
自分で別のデータ用意すりゃ良いだけじゃないの？

**デフォルトの名無しさん** · 2013/12/29(日) 14:42:58.60

ついでに、この手のアルゴリズムって、
わざわざ自分でフルスクラッチで書かなくても誰かがOSSで実装しちゃう

**デフォルトの名無しさん** · 2013/12/29(日) 14:48:39.15

スパースコーディングみたく基底あつめてんだろ

**デフォルトの名無しさん** · 2013/12/29(日) 20:05:17.35

やる人はやる、無能は口だけで妬みだす、
定義とか具体性とかでいくら主張しても結果だせなければ技術者としてクズ以下なのよ

無能よばわりされたくなければ2chでうだうだいってないで手を動かせ頭を使え。
俺スゲーしたいなら2chで言うなボケアホ、自分のリアルな周りに納得させろ

**デフォルトの名無しさん** · 2013/12/30(月) 05:45:55.30

>>16
むしろ気になるのは、何で貴方みたいなのが、２chを読んだり書いたりするのかなって

**デフォルトの名無しさん** · 2013/12/30(月) 05:54:38.66

例えば、研究室の自分の周りの環境が半日以上YouTubeでアニメを見るだけだったり、
指導教官の腐ったキテレツみたいなのが、瑣末な結果に因縁をつけて進捗しないだけでなく、
バグだと決めつけて次のステップに進めず、おまけにゼミでの指導がGNUPlotの色合いが悪いとか
線が細いみたいに研究と全く関係のない戯言で、学費泥棒みたいな環境に居たら、どうしたらいいわけ？

**デフォルトの名無しさん** · 2013/12/30(月) 06:01:31.87

任意性度演算なにそれって人が教授やってるかと思うと反吐がでるよ
あんな奴、クビになればいいのに

**デフォルトの名無しさん** · 2013/12/30(月) 17:34:49.45

>>17
必要な水準のはるか下か、最前線でｵﾏｴﾗより数段上にいるかの２択。

**デフォルトの名無しさん** · 2014/01/01(水) 01:05:33.87

他人が引いた線路の上だけで線路から脱線しないようにしている有能さは
日勤教育の成果だな、ＪＲは偉いわ。

**デフォルトの名無しさん** · 2014/01/01(水) 09:18:58.55

※ただし、Railsを除く

**デフォルトの名無しさん** · 2014/01/02(木) 05:28:17.50

技術とか真似することで始まるんだよ、だけど真似しかできないって
無力すぎる

**デフォルトの名無しさん** · 2014/01/04(土) 20:14:38.31

未だに連想記憶モデルみたいなアルゴリズムに
ノイズを入れて復元するだけの論文かいてるアホ教授いるだろ
あいつらクビになんねーかな

**デフォルトの名無しさん** · 2014/01/08(水) 20:23:40.12

教授にも成れない奴ってどんだけ無能なの？

**デフォルトの名無しさん** · 2014/01/10(金) 08:59:28.67

>>24
おまえバカだろｗｗｗｗ

**デフォルトの名無しさん** · 2014/01/10(金) 10:09:52.89

>>25
大学に金払うバカバカしさを悟ったところで卒業するんじゃないの？
それとも高卒？

**デフォルトの名無しさん** · 2014/01/10(金) 11:28:19.41

>>27
>大学に金払うバカバカ
ありえんｗ
どんだけ貧乏なの？
寄付ぐらいしろよ。

**デフォルトの名無しさん** · 2014/01/10(金) 12:02:13.14

>>28
Youtubeやスライドシェアに上がってる機械学習の資料を見た瞬間に
大学へ行くバカバカしさを悟ったよ。
大学教授のボンクラどもに募金するなら、そこらのOSSに寄付した方がマシ

**デフォルトの名無しさん** · 2014/01/24(金) 09:10:06.41

資料の表面的な意味しか理解できない奴にはゴミ扱いなんだろうな。
それが超えられない壁を作っているわけで。

**デフォルトの名無しさん** · 2014/01/25(土) 00:20:36.54

ばーか。こんなものは深く理解したところでゴミだ
5～10年後に、DeepLearning以上のアルゴリズムが出来ているのは確実で、
DeepLearning自体のライブラリがOSSで出来上がる

**デフォルトの名無しさん** · 2014/01/25(土) 00:22:17.64

性能が良いって理由で飛びつくヤツは本物のアホ
vc++でゲームプログラマ級のプログラミングスキルが無ければ触らない方が良い

**デフォルトの名無しさん** · 2014/01/28(火) 06:41:16.17

HintonがGoogleに雇われている間に、新しい学習アルゴリズムを開発したら
その知的財産権は誰のものになるんだろう

**デフォルトの名無しさん** · 2014/01/28(火) 16:08:05.57

http://recode.net/2014/01/27/more-on-deepmind-ai-startup-to-work-directly-with-googles-search-team/

**デフォルトの名無しさん** · 2014/01/29(水) 01:03:03.94

学生時代に読んだ論文の著者がFacebookやGoogleで働いてるのを見ると、
もっと論文を読み込んでおけば良かったって、とても損した気分になる
やっぱり、あれをゴミ扱いしていた俺の指導教官がアホなのだ

**デフォルトの名無しさん** · 2014/02/22(土) 20:15:53.40

ttp://grey.colorado.edu/emergent/index.php/Main_Page

**デフォルトの名無しさん** · 2015/05/04(月) 04:14:16.19

なんだよこの糞スレは
OSSならCaffeというスゴいのがもうあるだろ
DLは俺も勉強してるけどこれは難しい
確率論や機械学習ある程度理解してないと読み解けない

**デフォルトの名無しさん** · 2015/05/30(土) 12:29:06.44

Baidu研究所のDeep Speech(DeepLearningを使った音声認識)
http://usa.baidu.com/deep-speech-lessons-from-deep-learning/

DRNN使ってるけどさ、あれって言語モデルで使う場合、
現時点の入力単語に対して、次来る単語を予測するモデルじゃなかったっけ？
文献見ると、1つのニューラルで、音響モデルから言語モデルまで全部任せちゃうって書いてるよ。
どうやってんだ。

しかも、RNNの場合、入力と出力の数をあわせなければいけない。
合わせるにしたって、入力波形のアライメントというかサイズってどうやって特定してるんだろ？
その音素区切りをやってる事前処理の方が気になるよ。

**デフォルトの名無しさん** · 2015/08/24(月) 16:58:12.29

ConvolutionalNeuralNetworlの
畳み込みレイヤーの3Dとか2Dってどういう意味？
多分、俺は2Dしか知らないと思う。
フィルタにかけるテンソルの単位が何枚にも重ねて一度に処理するから速いってだけ？

**デフォルトの名無しさん** · 2015/09/22(火) 02:58:20.35

>>39
cuDNNの話？
それであってるけど、3DはFP16対応やら最適化やら不完全で、
nVIDIAによると現状3Dはパフォーマンスでないから、2Dでやるのが吉。
複数画像を１枚にまとめてミニバッチ処理にするとよいよ。

**デフォルトの名無しさん** · 2015/09/27(日) 12:34:07.96

Tensorにするのと、ミニバッチにするのの違いは？
どちらも複数の画像をまとめる感じだよね。
上に重ねるか、横に並べるかの違いのイメージ。
特性とかに違いとかありますか？

**デフォルトの名無しさん** · 2015/09/29(火) 08:03:32.62

J-wave に松尾豊

**デフォルトの名無しさん** · 2015/09/29(火) 08:39:00.48

松尾「おはようモーニング」www

**デフォルトの名無しさん** · 2015/10/27(火) 04:03:02.98

ここまでほとんど有益な情報無しとか終わってんな
日本の知性の総本山である2chでこれじゃあな
DQNやろうぜ

**デフォルトの名無しさん** · 2015/10/28(水) 12:07:27.81

つい５～６年前までは、ニューラルなんて過去のテクノロジ・・・っていう研究者が殆どだった。
そもそも、原因と結果がはっきりしないアルゴリズムなんだし、精度でなければ研究的にはただのゴミ。
理論を詰めることすら出来ない。
大半の人の中では、何か放り込んだら何かしら結果が出るってものだったしな。

**デフォルトの名無しさん** · 2015/10/28(水) 12:12:10.52

>>44
情報持ってる人は、外に漏らすメリットないからな。
今まともに実装できる人は、自分で開発して売却すれば億単位の利益が入ってくるドル箱なんだし。
友人も、DeepLearning系やってる人は、Googleとかにガンガン青田買いされてとんでもない報酬貰ってる。
そりゃ、情報は独占するだろ普通に。

今のWebは情報持ってないけど興味ある人達が、
ちょこっとCaffeやpylern使って、その設定を公開してるだけの状態。

**デフォルトの名無しさん** · 2015/10/28(水) 12:31:24.62

万能じゃないことにまだ気づいていないバカがいるから

**デフォルトの名無しさん** · 2015/10/29(木) 19:13:21.55

万能である必要は無いのだが
勘違いしてる奴がいるな

**デフォルトの名無しさん** · 2015/11/12(木) 13:02:10.74

deep learningの本スレってここですか？
理系板回ってみたけど見つかんなかった

**デフォルトの名無しさん** · 2015/11/19(木) 23:16:57.66

零和有限確定完全情報ゲームのAIを作るとして、
定石や手筋、上級者の棋譜といったものがない場合、
どのような学習方法が考えられるでしょうか。

**デフォルトの名無しさん** · 2015/11/20(金) 12:46:06.98

教師なし学習

**デフォルトの名無しさん** · 2015/11/20(金) 20:03:57.53

教師無し学習っていっても具体的にどうすんのよ

**デフォルトの名無しさん** · 2015/11/20(金) 22:10:30.92

逆に教師あり学習ならできるんじゃね？ゲームを通じての各局面に対する着手の組を
入力にして勝敗を出力にすれば。
局面がごく小さいゲームじゃないと収束しなさそうだけど。

**デフォルトの名無しさん** · 2015/11/20(金) 22:11:21.41

勝ったら褒める

50 · 2015/11/20(金) 23:25:46.43

ゲームだと勝った局にも悪い手があったり、負けた局にもいい手があったりして、
正しく学習するのがむずかしいとおもってます。

**デフォルトの名無しさん** · 2016/01/12(火) 01:53:34.50

ディープラーニングで必要な教師データ数の指針をまとめてるような資料ない？

**デフォルトの名無しさん** · 2016/01/12(火) 02:02:49.77

>>55
そりゃ簡単だったら囲碁はとっくに人間に勝ってるよ
あ、囲碁は完全情報ではないか

**デフォルトの名無しさん** · 2016/01/12(火) 10:32:07.71

ディープラーニング
https://www.youtube.com/watch?v=JGaHwOubY4Q

**デフォルトの名無しさん** · 2016/01/13(水) 15:36:36.03

http://www.kdnuggets.com/2015/11/google-tensorflow-deep-learning-disappoints.html

**デフォルトの名無しさん** · 2016/04/28(木) 05:15:52.23

deep learningを試行、実行、検証、、、実用への難しさ。

・そもそも適切な能力を計算機が用意できない。
・適切な計算機を、仕様に沿って実装し試行するために必要な資料が無い。
・お金を出せる組織が、人員と、機材、環境津繰りに関心を持たせる動機付けが必要。

**デフォルトの名無しさん** · 2016/05/17(火) 18:54:35.39

tensorflow使ってるやついる？

**デフォルトの名無しさん** · 2016/05/17(火) 19:50:13.15

使おうとして挫折した。

**デフォルトの名無しさん** · 2016/05/17(火) 20:34:26.81

なんで？

**デフォルトの名無しさん** · 2016/05/17(火) 20:39:39.39

ＡＰＩがどんなものあるかとかどう使うのかとか裏で何やってるかとかよくわからんかった。

チュートリアルの最初のほう動かすだけで精いっぱいだった。
手書きの数字認識とかいうやつ？

俺の頭じゃとても応用まで行きそうにない。

俺がやりたいことやろうとするとデータも自前で用意する必要あったし。

**デフォルトの名無しさん** · 2016/05/17(火) 20:44:40.30

まあ僕もディープラーニングの本読み始めたところでちんぷんかんぷんなわけだけどｗ

**デフォルトの名無しさん** · 2016/05/19(木) 09:17:54.13

とりあえず環境作ってＴｅｎｓｏｒＦｌｏｗいれてチュートリアルが動くのは確認した。

**デフォルトの名無しさん** · 2016/05/19(木) 16:01:57.09

おめ