Deep learning

◆z8RI12j18Y · 2013/12/25(水) 17:39:01.28

http://en.wikipedia.org/wiki/Deep_learning
wikiで意味するそれについて。
wiki以外の定義はお断り。

**デフォルトの名無しさん** · 2013/12/27(金) 22:13:04.60

おまえらも本物しらずに他の翻訳みたいな解説本を売れば
いまなら高額で売れるぞ。

**デフォルトの名無しさん** · 2013/12/28(土) 12:56:07.09

Hintonの書いたWebSite読めないような人がDeep learningつかう機会あるのか？

**デフォルトの名無しさん** · 2013/12/29(日) 00:50:44.21

>>10
おまえバカだろ。

**デフォルトの名無しさん** · 2013/12/29(日) 02:05:39.76

>>11
相手にするな。勝手な思い込みと決め付けで何もできないからストレスを
発散しているだけだよ。

**デフォルトの名無しさん** · 2013/12/29(日) 14:41:33.32

matlabのコード置いてあるのに反証って、どうやるの？
自分で別のデータ用意すりゃ良いだけじゃないの？

**デフォルトの名無しさん** · 2013/12/29(日) 14:42:58.60

ついでに、この手のアルゴリズムって、
わざわざ自分でフルスクラッチで書かなくても誰かがOSSで実装しちゃう

**デフォルトの名無しさん** · 2013/12/29(日) 14:48:39.15

スパースコーディングみたく基底あつめてんだろ

**デフォルトの名無しさん** · 2013/12/29(日) 20:05:17.35

やる人はやる、無能は口だけで妬みだす、
定義とか具体性とかでいくら主張しても結果だせなければ技術者としてクズ以下なのよ

無能よばわりされたくなければ2chでうだうだいってないで手を動かせ頭を使え。
俺スゲーしたいなら2chで言うなボケアホ、自分のリアルな周りに納得させろ

**デフォルトの名無しさん** · 2013/12/30(月) 05:45:55.30

>>16
むしろ気になるのは、何で貴方みたいなのが、２chを読んだり書いたりするのかなって

**デフォルトの名無しさん** · 2013/12/30(月) 05:54:38.66

例えば、研究室の自分の周りの環境が半日以上YouTubeでアニメを見るだけだったり、
指導教官の腐ったキテレツみたいなのが、瑣末な結果に因縁をつけて進捗しないだけでなく、
バグだと決めつけて次のステップに進めず、おまけにゼミでの指導がGNUPlotの色合いが悪いとか
線が細いみたいに研究と全く関係のない戯言で、学費泥棒みたいな環境に居たら、どうしたらいいわけ？

**デフォルトの名無しさん** · 2013/12/30(月) 06:01:31.87

任意性度演算なにそれって人が教授やってるかと思うと反吐がでるよ
あんな奴、クビになればいいのに

**デフォルトの名無しさん** · 2013/12/30(月) 17:34:49.45

>>17
必要な水準のはるか下か、最前線でｵﾏｴﾗより数段上にいるかの２択。

**デフォルトの名無しさん** · 2014/01/01(水) 01:05:33.87

他人が引いた線路の上だけで線路から脱線しないようにしている有能さは
日勤教育の成果だな、ＪＲは偉いわ。

**デフォルトの名無しさん** · 2014/01/01(水) 09:18:58.55

※ただし、Railsを除く

**デフォルトの名無しさん** · 2014/01/02(木) 05:28:17.50

技術とか真似することで始まるんだよ、だけど真似しかできないって
無力すぎる

**デフォルトの名無しさん** · 2014/01/04(土) 20:14:38.31

未だに連想記憶モデルみたいなアルゴリズムに
ノイズを入れて復元するだけの論文かいてるアホ教授いるだろ
あいつらクビになんねーかな

**デフォルトの名無しさん** · 2014/01/08(水) 20:23:40.12

教授にも成れない奴ってどんだけ無能なの？

**デフォルトの名無しさん** · 2014/01/10(金) 08:59:28.67

>>24
おまえバカだろｗｗｗｗ

**デフォルトの名無しさん** · 2014/01/10(金) 10:09:52.89

>>25
大学に金払うバカバカしさを悟ったところで卒業するんじゃないの？
それとも高卒？

**デフォルトの名無しさん** · 2014/01/10(金) 11:28:19.41

>>27
>大学に金払うバカバカ
ありえんｗ
どんだけ貧乏なの？
寄付ぐらいしろよ。

**デフォルトの名無しさん** · 2014/01/10(金) 12:02:13.14

>>28
Youtubeやスライドシェアに上がってる機械学習の資料を見た瞬間に
大学へ行くバカバカしさを悟ったよ。
大学教授のボンクラどもに募金するなら、そこらのOSSに寄付した方がマシ

**デフォルトの名無しさん** · 2014/01/24(金) 09:10:06.41

資料の表面的な意味しか理解できない奴にはゴミ扱いなんだろうな。
それが超えられない壁を作っているわけで。

**デフォルトの名無しさん** · 2014/01/25(土) 00:20:36.54

ばーか。こんなものは深く理解したところでゴミだ
5～10年後に、DeepLearning以上のアルゴリズムが出来ているのは確実で、
DeepLearning自体のライブラリがOSSで出来上がる

**デフォルトの名無しさん** · 2014/01/25(土) 00:22:17.64

性能が良いって理由で飛びつくヤツは本物のアホ
vc++でゲームプログラマ級のプログラミングスキルが無ければ触らない方が良い

**デフォルトの名無しさん** · 2014/01/28(火) 06:41:16.17

HintonがGoogleに雇われている間に、新しい学習アルゴリズムを開発したら
その知的財産権は誰のものになるんだろう

**デフォルトの名無しさん** · 2014/01/28(火) 16:08:05.57

http://recode.net/2014/01/27/more-on-deepmind-ai-startup-to-work-directly-with-googles-search-team/

**デフォルトの名無しさん** · 2014/01/29(水) 01:03:03.94

学生時代に読んだ論文の著者がFacebookやGoogleで働いてるのを見ると、
もっと論文を読み込んでおけば良かったって、とても損した気分になる
やっぱり、あれをゴミ扱いしていた俺の指導教官がアホなのだ

**デフォルトの名無しさん** · 2014/02/22(土) 20:15:53.40

ttp://grey.colorado.edu/emergent/index.php/Main_Page

**デフォルトの名無しさん** · 2015/05/04(月) 04:14:16.19

なんだよこの糞スレは
OSSならCaffeというスゴいのがもうあるだろ
DLは俺も勉強してるけどこれは難しい
確率論や機械学習ある程度理解してないと読み解けない

**デフォルトの名無しさん** · 2015/05/30(土) 12:29:06.44

Baidu研究所のDeep Speech(DeepLearningを使った音声認識)
http://usa.baidu.com/deep-speech-lessons-from-deep-learning/

DRNN使ってるけどさ、あれって言語モデルで使う場合、
現時点の入力単語に対して、次来る単語を予測するモデルじゃなかったっけ？
文献見ると、1つのニューラルで、音響モデルから言語モデルまで全部任せちゃうって書いてるよ。
どうやってんだ。

しかも、RNNの場合、入力と出力の数をあわせなければいけない。
合わせるにしたって、入力波形のアライメントというかサイズってどうやって特定してるんだろ？
その音素区切りをやってる事前処理の方が気になるよ。

**デフォルトの名無しさん** · 2015/08/24(月) 16:58:12.29

ConvolutionalNeuralNetworlの
畳み込みレイヤーの3Dとか2Dってどういう意味？
多分、俺は2Dしか知らないと思う。
フィルタにかけるテンソルの単位が何枚にも重ねて一度に処理するから速いってだけ？

**デフォルトの名無しさん** · 2015/09/22(火) 02:58:20.35

>>39
cuDNNの話？
それであってるけど、3DはFP16対応やら最適化やら不完全で、
nVIDIAによると現状3Dはパフォーマンスでないから、2Dでやるのが吉。
複数画像を１枚にまとめてミニバッチ処理にするとよいよ。

**デフォルトの名無しさん** · 2015/09/27(日) 12:34:07.96

Tensorにするのと、ミニバッチにするのの違いは？
どちらも複数の画像をまとめる感じだよね。
上に重ねるか、横に並べるかの違いのイメージ。
特性とかに違いとかありますか？

**デフォルトの名無しさん** · 2015/09/29(火) 08:03:32.62

J-wave に松尾豊

**デフォルトの名無しさん** · 2015/09/29(火) 08:39:00.48

松尾「おはようモーニング」www

**デフォルトの名無しさん** · 2015/10/27(火) 04:03:02.98

ここまでほとんど有益な情報無しとか終わってんな
日本の知性の総本山である2chでこれじゃあな
DQNやろうぜ

**デフォルトの名無しさん** · 2015/10/28(水) 12:07:27.81

つい５～６年前までは、ニューラルなんて過去のテクノロジ・・・っていう研究者が殆どだった。
そもそも、原因と結果がはっきりしないアルゴリズムなんだし、精度でなければ研究的にはただのゴミ。
理論を詰めることすら出来ない。
大半の人の中では、何か放り込んだら何かしら結果が出るってものだったしな。

**デフォルトの名無しさん** · 2015/10/28(水) 12:12:10.52

>>44
情報持ってる人は、外に漏らすメリットないからな。
今まともに実装できる人は、自分で開発して売却すれば億単位の利益が入ってくるドル箱なんだし。
友人も、DeepLearning系やってる人は、Googleとかにガンガン青田買いされてとんでもない報酬貰ってる。
そりゃ、情報は独占するだろ普通に。

今のWebは情報持ってないけど興味ある人達が、
ちょこっとCaffeやpylern使って、その設定を公開してるだけの状態。

**デフォルトの名無しさん** · 2015/10/28(水) 12:31:24.62

万能じゃないことにまだ気づいていないバカがいるから

**デフォルトの名無しさん** · 2015/10/29(木) 19:13:21.55

万能である必要は無いのだが
勘違いしてる奴がいるな

**デフォルトの名無しさん** · 2015/11/12(木) 13:02:10.74

deep learningの本スレってここですか？
理系板回ってみたけど見つかんなかった

**デフォルトの名無しさん** · 2015/11/19(木) 23:16:57.66

零和有限確定完全情報ゲームのAIを作るとして、
定石や手筋、上級者の棋譜といったものがない場合、
どのような学習方法が考えられるでしょうか。

**デフォルトの名無しさん** · 2015/11/20(金) 12:46:06.98

教師なし学習

**デフォルトの名無しさん** · 2015/11/20(金) 20:03:57.53

教師無し学習っていっても具体的にどうすんのよ

**デフォルトの名無しさん** · 2015/11/20(金) 22:10:30.92

逆に教師あり学習ならできるんじゃね？ゲームを通じての各局面に対する着手の組を
入力にして勝敗を出力にすれば。
局面がごく小さいゲームじゃないと収束しなさそうだけど。

**デフォルトの名無しさん** · 2015/11/20(金) 22:11:21.41

勝ったら褒める

50 · 2015/11/20(金) 23:25:46.43

ゲームだと勝った局にも悪い手があったり、負けた局にもいい手があったりして、
正しく学習するのがむずかしいとおもってます。

**デフォルトの名無しさん** · 2016/01/12(火) 01:53:34.50

ディープラーニングで必要な教師データ数の指針をまとめてるような資料ない？

**デフォルトの名無しさん** · 2016/01/12(火) 02:02:49.77

>>55
そりゃ簡単だったら囲碁はとっくに人間に勝ってるよ
あ、囲碁は完全情報ではないか

**デフォルトの名無しさん** · 2016/01/12(火) 10:32:07.71

ディープラーニング
https://www.youtube.com/watch?v=JGaHwOubY4Q

**デフォルトの名無しさん** · 2016/01/13(水) 15:36:36.03

http://www.kdnuggets.com/2015/11/google-tensorflow-deep-learning-disappoints.html

**デフォルトの名無しさん** · 2016/04/28(木) 05:15:52.23

deep learningを試行、実行、検証、、、実用への難しさ。

・そもそも適切な能力を計算機が用意できない。
・適切な計算機を、仕様に沿って実装し試行するために必要な資料が無い。
・お金を出せる組織が、人員と、機材、環境津繰りに関心を持たせる動機付けが必要。

**デフォルトの名無しさん** · 2016/05/17(火) 18:54:35.39

tensorflow使ってるやついる？

**デフォルトの名無しさん** · 2016/05/17(火) 19:50:13.15

使おうとして挫折した。

**デフォルトの名無しさん** · 2016/05/17(火) 20:34:26.81

なんで？

**デフォルトの名無しさん** · 2016/05/17(火) 20:39:39.39

ＡＰＩがどんなものあるかとかどう使うのかとか裏で何やってるかとかよくわからんかった。

チュートリアルの最初のほう動かすだけで精いっぱいだった。
手書きの数字認識とかいうやつ？

俺の頭じゃとても応用まで行きそうにない。

俺がやりたいことやろうとするとデータも自前で用意する必要あったし。

**デフォルトの名無しさん** · 2016/05/17(火) 20:44:40.30

まあ僕もディープラーニングの本読み始めたところでちんぷんかんぷんなわけだけどｗ

**デフォルトの名無しさん** · 2016/05/19(木) 09:17:54.13

とりあえず環境作ってＴｅｎｓｏｒＦｌｏｗいれてチュートリアルが動くのは確認した。

**デフォルトの名無しさん** · 2016/05/19(木) 16:01:57.09

おめ

**デフォルトの名無しさん** · 2016/05/19(木) 17:46:40.77

晩飯は鯖味噌の缶詰と納豆卵ごはんとポップコーン

**デフォルトの名無しさん** · 2016/05/19(木) 17:46:50.94

誤爆

**デフォルトの名無しさん** · 2016/05/21(土) 06:32:32.15

>>67 おめこ
http://i-manko.com/wp-content/uploads/manko_0146.jpg

**デフォルトの名無しさん** · 2016/05/21(土) 23:37:35.99

conv3dって見たことないんだが、三次元の畳み込みって需要ないんだろうか？

**デフォルトの名無しさん** · 2016/05/22(日) 11:59:14.91

>>71
あるよ
動画と、ct mri なんかのボリュームデータで使われてる
動画はリカレントが多いけど

**デフォルトの名無しさん** · 2016/05/22(日) 14:44:57.15

>>72
オススメのconv3dできるライブラリとかあります？

72 · 2016/05/22(日) 16:26:27.88

>>73
theano で使えるって聞いたことあるけど、chainer で、自前で書いた

**デフォルトの名無しさん** · 2016/05/22(日) 21:47:49.58

DQNをマルチエージェントでやってる奴おる？

**デフォルトの名無しさん** · 2016/05/23(月) 22:37:49.09

ＣｈａｉｎｅｒってＧｅｆｏｒｃｅ使ってないと使えないの？

**デフォルトの名無しさん** · 2016/05/24(火) 05:58:39.86

gpuで動かすならnvidiaじゃないとダメ
amdでは動かない

cpuだけでも動くよ

**デフォルトの名無しさん** · 2016/05/24(火) 17:49:21.97

>>77
ｔｈｘ
たしかにCPUだけでも動くけど、CUDAのインストールは必須なんだね

**デフォルトの名無しさん** · 2016/05/24(火) 23:26:30.84

いや確か必要なかったよ

**デフォルトの名無しさん** · 2016/05/27(金) 22:18:57.35

TensorFlowでいいわやっぱ
これからの主流はTensorFlowでしょやっぱ

**デフォルトの名無しさん** · 2016/06/03(金) 00:44:46.30

二種類の画像で教師ありの学習をさせて画像を変換するネットワークを作ってみたいのですが参考にする論文の検索ワードが思いつきません
何か良いものがあれば紹介していただけないでしょうか

**デフォルトの名無しさん** · 2016/06/03(金) 09:27:09.73

ごめんその説明はちょっとわからないよ
変換ってどう変換したいの？
モーフィングがしたいってこと？

**デフォルトの名無しさん** · 2016/06/03(金) 10:58:14.54

>>82
分かりにくい表現で申し訳ないです。
画像を必要な領域と不要な領域に分けて不要な部分を黒塗りにするとか、
点がたくさん打ってある画像からその点を点電荷と見なしてポテンシャルのマップを出すとか、
ポテンシャルのマップからそのポテンシャルのマップ上で自由に運動する粒子の存在確率マップを出すとかの類の変換がしたいです

**デフォルトの名無しさん** · 2016/06/03(金) 17:36:38.32

>>83
深層生成モデル？
http://qiita.com/masasora/items/0da970dd2b07f91d1d08

**デフォルトの名無しさん** · 2016/06/03(金) 20:13:59.03

>>83
そういう処理なら既存の画像処理のアルゴリズムで十分実現できるのでは？
ニューラルネットワーク使うまでもないんじゃないの

**デフォルトの名無しさん** · 2016/06/03(金) 22:27:01.67

>>84
まだこれの全容を掴めておらず、何だか近いような違うような気がします。本腰を入れて調べてみます。
大変参考になりました。ありがとうございます

>>85
実は上であげたような類の変換を教師あり学習で覚えさせたいのです
もしそのようなアルゴリズムがあれば教えていただければありがたいです

**デフォルトの名無しさん** · 2016/06/04(土) 14:58:49.47

>>85
必要か必要でないかは学習でやらないと。

**デフォルトの名無しさん** · 2016/09/04(日) 23:26:01.48

なんでmnistやるときはピクセルの値を0～1にしないとうまく学習できないんでしょうか？

**デフォルトの名無しさん** · 2016/09/05(月) 10:37:12.43

>>88
学習データの圧縮の影響じゃないの？
カラー画像扱うより2値画像の方がデータ量少ない。
しかもその画像を万とか億単位で学習させなきゃなんない。その結果を使って認識してる。

どうしてもカラー扱いたいなら、学習データからrgbの3ファイルに分解して3原色毎の学習させて、上位段を3原色の認識結果を更に学習させたらいいんじゃね？

これで信号機の配置順に関係なく正確に判別出来ると思うけどなぁ。色判別必要な認識からちょっぴりエスパーしてみたw

**デフォルトの名無しさん** · 2016/09/05(月) 11:46:45.72

質問者も回答者もワケわかってなくて失笑
mnistすら回したことない人がこのスレにいるのも不思議
質問者が言ってるのは二値ではなく最小0最大1のこと

別に元データのように256段階でも精度はでるが、
使ってるサンプルプログラムが0から1を受け入れるように書かれてるだけの話
大方chainerあたりなんだろうけど

**デフォルトの名無しさん** · 2016/09/05(月) 11:49:13.13

mnistにはそもそもカラーデータなんて無い
グレースケール256段階の手書き文字
ここが2chでよかったね
mnistのデータセットの仕様知らないのは機械学習を知らないのと同義

**デフォルトの名無しさん** · 2016/09/05(月) 21:55:18.95

0..1の範囲だと扱いやすいから、そうしてるだけっていう

**デフォルトの名無しさん** · 2016/09/05(月) 23:56:52.51

>>90
>>92
kerasの畳み込みニューラルネットをjuliaから呼び出した時の話なんですけど、255で割るのを忘れて実行すると全く学習できなくなってしまったんです。255で割ったらすんなり学習しました。
今指摘されてPythonからの呼び出しで255で割らずに実行したら割った時より学習が遅いものの、たしかに学習しているのを確認しました。
なんだかよくわからなくなってきたのでもう一度コードを確認してみます。ありがとうございました。

**デフォルトの名無しさん** · 2016/10/11(火) 19:19:53.07

「慶應ミスコン中止」の陰に1年生女子「集団強姦」　加害学生を直撃！
週刊文春 10月11日(火)18時1分配信
http://zasshi.news.yahoo.co.jp/article?a=20161011-00006659-sbunshun-soci

「慶應ミスコン中止」の陰に1年生女子「集団強姦」　加害学生を直撃！
事件現場
　10月4日、“女子アナの登竜門”とも称される「ミス慶應コンテスト」の中止と、同コンテストを企画・運営する公認学生団体「広告学研究会」(以下「広研」)の解散が発表された。
　慶應大学側は、「告示文」においてその理由を「未成年飲酒」によるものとだけ説明したが、小誌取材により、大学側が明かさなかった「広研」の男子学生が引き起こした重大な事件が明らかになった。
　事件が起きたのは9月2日、現場となったのは、神奈川県葉山町内にある広研の「合宿所」だった。事件の全貌を知る広研所属の学生が語る。
「この日は、広研が夏の間に運営している海の家の撤収を行う作業のため、6人の男子学生が合宿所に泊まっていました。作業終了後、
酒を飲むことになり、呼び出されたのが6人と顔見知りだった1年生のA子さんです」
　そして深夜、男子学生たちは酒で意識のなくなったA子さんに襲いかかったのである。しかも、あろうことか、その様子を別の学生が撮影し、実況まで行っていたという。
　男子学生の一人は小誌の直撃に対して最初は偽名を名乗ったが、「何も答えられないです」と言いながら、本人であることを認めた。
「謝罪の気持ちは本当に……。時が来たら連絡します」と言い残すのが精一杯だった。
　一方でA子さんの母親は、小誌取材に対して、警察に被害届を提出したことを認めた。
　上記事実の確認を慶應大学に求めたところ、「今回の解散命令の基礎になった事実は告示文に記載されているとおりです。なお、
今回の処分は、関係者に複数回にわたる事情聴取を行う等、大学として可能な限りの調査を行ったもので、適正なものと認識しております」との回答があった。

　詳細は、10月13日発売の「週刊文春」10月20日号で報じている。

＜週刊文春2016年10月20日号『スクープ速報』より＞

http://i1.wp.com/media.sairilab.com/wp-content/uploads/2016/10/keioumi3_4.jpg?w=650

またチョーセンジンか。 👀
Rock54: Caution(BBR-MD5:0be15ced7fbdb9fdb4d0ce1929c1b82f)

**デフォルトの名無しさん** · 2016/10/19(水) 18:32:39.44

画像識別にはCNNだそうですね。

動画識別で、時間による画像の変化量で、識別（Classification）したい場合には、どうするのでしょうか。
CNNでできるのでしょうか。

**デフォルトの名無しさん** · 2016/10/19(水) 19:26:51.62

>>95
何の変化量？

95 · 2016/10/20(木) 08:48:38.11

生体組織を動画でとって、
乾燥の仕方、
乾燥しやすい乾燥しにくい、とか、水分や油分足りてる足りない、
を分類したいです。

**デフォルトの名無しさん** · 2016/10/20(木) 12:52:53.66

>>97
従来から画像処理でやられてきたことなんでしょうか？使われてきた特徴量とかの知見なしにいきなりCNNはかえって遠回りかも？

95 · 2016/10/20(木) 14:52:12.77

従来の画像処理がイマイチだったのでDNN、という流れです。

95 · 2016/10/20(木) 18:16:18.20

オプティカルフローで１枚にしてCNNする
か、
複数画像を3D CNNする
か、
といったところなのでしょうか。

**デフォルトの名無しさん** · 2016/11/09(水) 09:49:10.29

質問です：

画像データを、教師なし学習でクラスタリングしたいと思っています。

機械学習～＞Deep Learningの流れで、
教師なし学習よりも教師あり学習が主流になってきっぽいのですが、
前述のDeep Learningで画像データをクラスタリングするのは、どうやるのでしょうか？

**デフォルトの名無しさん** · 2016/11/15(火) 00:17:52.71

>>101
いろいろあるけど、autoencoder 使って、その後クラスタリングとか

**デフォルトの名無しさん** · 2016/11/15(火) 10:34:44.92

＞autoencoder
って、
教師ありなんですか、教師なしなんですか？

自分あるサイトで教師なしだと思ってたら、別サイトだと教師ありとなってたり、
やはり基礎が無いといろいろと難しいですね。

**デフォルトの名無しさん** · 2016/11/15(火) 10:49:52.93

それ自動生成した文章？
生成器自作したならすごいね

**デフォルトの名無しさん** · 2016/11/15(火) 10:52:38.14

うお、俺のレスもおかしくなってる
すまんこっちの環境の不具合みたいだ

**デフォルトの名無しさん** · 2016/11/15(火) 12:04:25.80

教師ありとも教師なしとも言えるな

**デフォルトの名無しさん** · 2016/11/15(火) 12:10:47.90

kwsk、kwsk。

実はAutoencoderの教師あり学習サンプルで勉強していたのですが、本当は教師なしのクラスタリングが欲しくて。

それも単なる機械学習のクラスタリングじゃなくて、DNN的にデータ側から分類を発見、みたいな感じで。

**デフォルトの名無しさん** · 2016/11/16(水) 06:14:50.84

わかったから本でも買って勉強しなさい