【統計分析】機械学習・データマイニング23

2019/02/28(木) 20:07:20.50

!extend:on:vvvvvv:1000:512
機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング22
https://mevius.5ch.net/test/read.cgi/tech/1547338417/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:----: EXT was configured

2019/03/29(金) 13:46:14.03

おまえはその仕事やってるの？

2019/03/29(金) 13:56:50.31

>>495
404
http://noexit.jp/tn/doc/fukanzen.htm

2019/03/29(金) 14:01:19.38

不完全なURL貼りやがって
.html

2019/03/29(金) 14:11:16.00

あぁそれだけか、ありが㌧

2019/03/29(金) 18:02:02.82

style変換できるGANで文章のstyleを変換することは出来ないか

2019/03/29(金) 19:42:07.34

できる

2019/03/29(金) 21:56:39.97

>>497
俺は芸大卒のCGアーティストだ。機械学習はただの道具、絵筆みたいなものだ(´・ω・｀)

2019/03/29(金) 22:09:22.06

>>503
お前がそう思うならそうだろ

2019/03/30(土) 14:05:36.45

GANが洗練されてきたおかげでCG界隈の人間も興味持ちだしたか
裾野広がってるな

2019/03/30(土) 16:32:21.22

GANはlossの取り方であって画像生成の技術ではないぞ

2019/03/30(土) 17:40:04.91

kwsk

2019/03/31(日) 15:59:11.27

須山がなんで深層学習を嫌いなのか理解できない

2019/03/31(日) 17:02:49.30

嫌いってどこに書いてる？

2019/03/31(日) 17:57:56.48

深層学習だとデータと計算資源のゴリ押しが有効だからじゃね？
ベイズとかにこだわりある人は好かんのはなんとなくわかる気はする。

2019/03/31(日) 18:17:48.56

統計畑の人は数学的な正しさを重視しているが、深層学習の人は結果を重視してるからちょっと毛色が違うみたいなことを聞いた

2019/03/31(日) 18:58:36.25

>>509
本来であれば受賞者本人は手法のさらなる発展を望むものかと思いますが、この発言から現行の深層学習の方向性がすでに限界を迎えていることが読み取れますね。
https://twitter.com/sammy_suyama/status/1111913530674970624

素人の方も専門の先生も深層学習が何であるかうまく説明できないのですが、それもそのはずで、深層学習は単に画像認識とかに特化した統計モデルの一種に過ぎないからです。特別なものがないので、違いを説明しようがない。
https://twitter.com/sammy_suyama/status/1098532946502332423

深層学習は別にすごい性能を発揮しているとかいうわけじゃなくて、猛烈な局所最適化戦略によって既存のデータセットや評価方法の甘い部分を明らかにしただけだと思う。
https://twitter.com/sammy_suyama/status/1093324653467029504

未だにGANの盛り上がりはまったく理解できなくて，「GANでは鮮明な画像が生成できる」みたいな一文を見るたびに「そもそも鮮明な画像出したかったんだっけ？」って疑問に思います．
技術的には尤度関数を評価せずに学習できるという点もありますが，それは特別新しい話じゃないしなぁ．
https://twitter.com/sammy_suyama/status/1081207245424144384

深層学習sage
https://twitter.com/5chan_nel (5ch newer account)

2019/03/31(日) 19:14:48.05

どこにも嫌いだとは書いてないし行間にもそんなこと読み取れないが
単なる事実を淡々と書いているだけだろう
要は基礎を知らずに枝葉だけ理解してもブームが去れば使い物にならないぞ、と当然のことを言ってるだけにしか見えない

2019/03/31(日) 19:53:29.39

>>511
精度が良ければ中身はなんでも良いってどこかの記事で書いてあったけどきちんとしてる人からするとモヤモヤするのかな

2019/03/31(日) 20:05:48.51

>>511
結果が数学的に正しいとわからなければ深層学習などなんの役にも立たない

2019/03/31(日) 21:25:55.51

素人乙

2019/03/31(日) 21:38:00.60

深層学習も手法、ツールも多様化・複層化、データの種類も多種多様でとっくにわけ分からんことになっとる

2019/03/31(日) 21:41:59.70

最新の深層学習アルゴリズムはDCGANなの？

2019/03/31(日) 22:31:54.33

プログラマよりも刺し身にタンポポを載せる仕事の方が給与が良いし、ライフワークバランスが担保されている

2019/03/31(日) 22:38:43.83

その仕事やってて本当に精神壊さないもんなの？

2019/03/31(日) 22:41:48.74

ペゾス曰く、皿洗いが最もセクシーな仕事だと
単調作業ほどセロトニンが出るんだよ

2019/03/31(日) 23:02:11.43

月収いくらだ？

2019/03/31(日) 23:08:21.55

>>518
それもう結構古い

2019/03/31(日) 23:16:58.45

>>522
ニアショアの２次請けで手取り１５万円ぐらいが地方の零細のデフォ
刺し身にタンポポ載せた方が、ずっと給与が良いな

2019/03/31(日) 23:19:30.33

>>524
ほんまかいな

2019/03/31(日) 23:19:40.09

どれだけ頭をかかえてコードを書いても、所詮は会社の所有物

2019/03/31(日) 23:27:24.39

対価、給料を貰ってんだろ。嫌なら自分で会社作れよ、馬鹿なの？

2019/03/31(日) 23:45:13.55

FXの自動売買ツールを無料で配布しています。
http://hbgvf.blog.jp

2019/04/01(月) 00:14:33.34

>>527
僕と契約して派遣プログラマになってよ!

2019/04/01(月) 09:33:21.38

知識も浅く初歩的な質問で申し訳ないのですが
モデルを作成/評価する際に訓練データに対してはaccuracyが90%、テストデータに対しては70%のように評価を算出すると思うのですが
未知のデータ(テストデータ)に対して評価させるというのは分かるのですが、訓練データに対する評価とはどういうことなのでしょうか？

教師あり学習であれば
このデータはこのラベル、というように紐付けて学習していると解釈しているのですが、
正解ラベルを受け取りながら学習してるのであればスコアは常に100%ではないのでしょうか？
訓練データに対するスコアとはそもそも何に対して評価されているものなのでしょうか？

長文申し訳ありません

2019/04/01(月) 09:59:23.43

>>529
お断りいたします

2019/04/01(月) 10:12:54.07

>>524
トレイの上に盛られた刺し身の位置を確認し、
定型ポイントに1mmのずれも無くタンポポを載せるAIロボットアームを開発しても
工員より給料が低いんだろうな

2019/04/01(月) 12:51:02.76

>>530
線形回帰モデルで考えたら分かりやすい
点群を最小二乗法とかでフィッティングしてもすべてのデータを通るわけじゃないだろう
データの数だけモデルの自由度があれば誤差ゼロにできるけど汎用性があるとは言えない

2019/04/01(月) 19:06:46.25

計算ドリルの宿題みたいなもんで、
自分で解いてというかとりあえず回答してみて（順伝播）、○×つけて脳内NN調整（逆伝播）するための正解データだからねー。

丸暗記（過学習）はしちゃダメよ、ってことになってる。

全問正解できるようになったら、そのページ（データセット）は卒業ってことで。

2019/04/01(月) 19:26:01.85

↓発想がアホ過ぎる事例
https://qiita.com/NeXTSTEP2OSX/items/c953b97f6407b72db956

2019/04/01(月) 19:26:40.30

>>524
それは無いな
うちの会社零細だからボーナス無いけど手取り32マン程度ある

2019/04/01(月) 20:45:28.51

>>536
東京の仕事の１次か２次請けなんだろ
地方の仕事だと単価が違う。どこぞの零細はエンジニア派遣させて３０万円だって聞いたぞｗ

2019/04/01(月) 20:56:35.31

今おすすめのフレームワークってなんですか？
個人的には、opencv,tersonflow,openAIを使ってます

2019/04/01(月) 21:11:55.42

>>538
DataRobotじゃない？
自称データサイエンティストの大半にはコード一行も書かずに勝てるよ

2019/04/01(月) 21:17:12.76

Ｔｈｅｙ　ｗｉｌｌ　ｃｏｍｅ

2019/04/01(月) 21:24:03.91

keras

2019/04/01(月) 21:39:05.10

とりあえず、opencv,tersonflow,openAI,kerasを適材適所で使い分けるわ
>>539
一行も書けずにってのはちょっと‥
ここプログラミング板ですし

2019/04/01(月) 22:43:15.25

>>523
そうなの？
じゃあ何なの？
何ができるの？

2019/04/01(月) 23:04:54.84

>>543
DCGANと同じ系統で行けばStyleGANあたりかな
高解像度で生成できる点と生成される画像をある程度(顔なら髪型や性別とか)をコントロールできる

2019/04/02(火) 08:14:20.64

>>534
そうか和田秀樹の「暗記数学」はあかんか？

2019/04/02(火) 08:16:54.73

>>538
Flux

2019/04/02(火) 15:12:27.52

>>546
ありがとう
Juliaちゃん覚えてないけどね！

2019/04/02(火) 19:46:35.97

違うフレームワークが出てきた

2019/04/02(火) 19:51:51.82

面倒だからAIに学習させろyo!

2019/04/02(火) 21:24:34.24

>>545
いやこれは全然丸暗記じゃない、むしろDNNの学習に近いのでは？
https://ja.m.wikipedia.org/wiki/暗記数学

2019/04/03(水) 13:47:49.54

機械学習に適したPCのスペックってどんなもの？
グラボ重要？

2019/04/03(水) 13:54:08.18

>>325 個人で買えるぞ、スイッチサイエンスがWeb販売してる。　もう品切れで次の入荷は解らないとか。　最初の入荷が4月だって。

もう手に入れた人もいるな。

2019/04/03(水) 14:40:14.78

>>551
グラボ無いと無理
あとデータ大量に使うからSSDも必須
メモリは16GBぐらい、CPUは割と何でも良い。

2019/04/03(水) 18:12:47.46

n=200、変数60個ほどで
DeepLeaningしてみたら
計算に1時間ぐらいかかる！
なにこれ？

やはりグラボは必須かなあ？

2019/04/03(水) 18:22:55.48

100%必須
CPUでは無理がある

2019/04/03(水) 18:45:12.42

CPUでやるならMNISTが関の山

2019/04/03(水) 19:07:05.64

>>554
何やってるか分からんけど時間かかりすぎ
コードがおかしいか、cpuが弱すぎる

2019/04/03(水) 19:33:52.58

スポットでクラウド借りたら？

2019/04/03(水) 19:51:43.15

>>554 何やったか知らんが、Jetson nano でどのくらいかかるか興味津々

2019/04/03(水) 20:17:26.61

>>557
CPUは第6世代i7でメモリ16Gですので
弱いってことはないと思いますが、
変なことしてるのかなあ？
と思って考えてみまして、
原因らしきものを思いあたりました！
変数と方法を変えて試してみます。
ご指摘ありがとうございました！

2019/04/03(水) 21:40:47.49

別にdeep learningしない機械学習ならグラボはいらんぞ。

2019/04/03(水) 21:50:12.16

LSTMによる小説創作って成功してないよね？
それっぽい文章は書けるけど、意味不明だし
まともなストーリーは皆無だよね。

なんで、成功しないの？意味あるの？

2019/04/03(水) 22:10:41.25

>>562
成功しないのは小説生成が金にならんから＋LSTMのモデルではできないのだろう
大体文章を学習して小説生成ってのはちと無理がある
背景にある抽象的な場面遷移なりを学習し、そこから文章生成しないと難しいんじゃないかな
多分だけど、台本などを学習した方が良いと思う

2019/04/04(木) 12:41:48.23

LSTMだけじゃ小説は無理っしょ？
短歌や俳句ならできるかも？

2019/04/05(金) 20:32:10.65

そこでBERTですよ

2019/04/05(金) 20:47:37.19

gpt2は？

2019/04/06(土) 03:55:52.91

この世界を極める！
これは重要なことで有意義なこと
優秀な人ならどんどんチャレンジするべき。
これはこれでOK。

でもって、大学でそういった授業が始まっているときは
すでに、別な新しい世界が産業界では起こっているという
ことにも横目で見た方がいい。

ただし、AIと同じように一般的に金になるのは20年先だけど。

2019/04/06(土) 04:34:19.15

学部の授業に出てきたら
既に周知の枯れている技術ということ
だろうからね。

研究するなら日本語で書かれた本が
1冊出たところが最終かな？

2019/04/06(土) 08:35:57.25

GANで骨格から肉付け再現できないかしら？

2019/04/06(土) 11:07:37.36

>>568
そのようだな

YouTuber科を新設
https://asahi.5ch.net/test/read.cgi/newsplus/1554509509/

2019/04/06(土) 16:38:15.84

昔のAI 研究について教えて下さい。
70年代、80年代のニューラルネットワークって
昔のPCでどんな風に設計していたの？

英数字や記号によるプログラミングですか？
Pythonの画面みたいな？
今でもそうだけど。

2019/04/06(土) 16:56:37.61

その年代はわかんないけど90年代なら3層ニューラルネットによる文字認識(まさにMNISTみたいな感じ)をC言語で書いてたよ

2019/04/06(土) 17:24:23.26

>>571
80年代後半はPCじゃなくてSunとかのWorkstationがメインだった
GUIはSunViewとかXViewとかで、言語はC
70年代はよく知らないけど、多分DEC-11とかのミニコンとかか

2019/04/06(土) 17:28:37.36

あと、大学とかだと、センターの大型コンピューターをTSSで使っていたか
言語はFortranで

2019/04/06(土) 17:33:26.84

そうですか。
教えてくれてありがとう。

2019/04/06(土) 18:03:02.36

>>571 昔(戦後すぐあたり)は、アナログコンピュータが多かった。
つまり計算もメモリも人間に近いアナログだった。
微分積分とかは、コンデンサを使ったりね。

その後デジタルコンピュータが発達してきても、人間の脳を再現するには多値メモリが必要なんじゃないかという論文が沢山出されていた。自分が興味を持ってたのは3値メモリ。

今、抵抗型メモリがではじめてるから多値メモリを使った新しいコンピュータ理論が出てくる時代になってきた。

FPGAと多値メモリを組み合わせると全く別世界が生まれる可能性がある。この組み合わせはすでにノイマン型コンピューターではないと言われている。

2019/04/06(土) 18:09:31.44

>>576
へえ。ちなみに汎用AIやシンギュラリティは実現できると思いますか？

2019/04/06(土) 18:16:11.51

>>577 必ず実現する。

2019/04/06(土) 18:56:02.16

そこでFPGAが出てくるところがｗ

2019/04/06(土) 19:01:09.63

多値だろうと2値だろうとノイマンコンピュータにかわりはないって誰も突っ込まないのな。

2019/04/06(土) 19:58:05.61

ノイマンじゃダメなの？

2019/04/06(土) 20:39:45.39

>>571
AIは70年代が中心で80年になると、興味は急速に薄れていった
人から情報を聞き出すExpert Systemという流れだったので無理があった。
にニューラルネットワークについては、その時期に基本は出来上がっている。
言語はフォートランが多くの場合がFortranだったと思う。

80年半ばのQuinlanの発表をきっかけに、機械学習がさけばれはじめ
90年代にり機械学習はAIではなくデータマイニング中心に、本格的に
花開き始めた。
データマイニングでのデータからの知識利用の成功をもとに、AIでも
もっとデータからの知識を利用しようとする流れが徐々に出てきたように
感じるが、AIとしてはディープラーニングが叫ばれるようになるまで
脚光は浴びないでいたのが実際。

あくまで全体的な流れの話なので、部分的、あるいは一企業で力をいれて
等は当然行われていた。ロボットなどね。

2019/04/06(土) 20:43:13.47

嘘乙

2019/04/06(土) 21:05:12.29

キモ改行まん久しぶり

2019/04/06(土) 21:14:44.80

>>583
本当にしらんの？

2019/04/06(土) 22:17:55.41

>>584
もうしわけない
スマホ改行無視設定しとらんのね
仕事になるといろいろな入力媒体があるから
しとくといいよ。

2019/04/06(土) 22:57:41.91

>>586 そんな設定ないわ、人に要求するんじゃなくて自分で気をつけろ。

2019/04/06(土) 23:10:20.73

なんであなたの表示に合わせんとアカンの機能が乏しい機器に合わせろって話か

2019/04/06(土) 23:31:05.01

>>581
ダメというか表現能力は変わらんよねという当たり前のことを言ってるんだけれど。
思った以上にここはやばいな。。

2019/04/07(日) 07:42:27.81

576がなんのことを言っているのかわからんが
表現能力が変わらなくても効率性が違うでしょ

2019/04/07(日) 09:23:38.16

>その後デジタルコンピュータが発達してきても、人間の脳を再現するには多値メモリが必要なんじゃないかという論文が沢山出されていた。自分が興味を持ってたのは3値メモリ。
>
>今、抵抗型メモリがではじめてるから多値メモリを使った新しいコンピュータ理論が出てくる時代になってきた。
>
>FPGAと多値メモリを組み合わせると全く別世界が生まれる可能性がある。この組み合わせはすでにノイマン型コンピューターではないと言われている。

この辺の話の反論をしてるつもりなんだけどね。
あとは君の日本語理解の問題なので勝手に考えてくれ。

2019/04/07(日) 09:27:22.11

>>11東京大学理学部数学科に入りたい

って言ってる時点でだめだ

大学に入る前に
自分の数学論理の概要が構築されてなければ
将来的になんの成果も残せない

自分の数学論理の概要が構築されてれば
どの大学にはいっても別に問題はない

2019/04/07(日) 09:31:10.87

>>577ちなみに汎用AIやシンギュラリティは実現できると思いますか？

汎用ＡＩはＡＩの技術の延長線上にはないんで
今のＡＩの研究者には不可能

2019/04/07(日) 09:37:46.49

>>42論理が破綻してる
＞全であるなら、それ以外が存在しえないのだから、破壊することも、全以外を認知することすら出来ない

数学で言えばメタ数学でなんで
メタ論理って位置づけになる

これは自己言及で
いわゆる不完全が結論だ

ここで問題になるのは汎用ＡＩだ

汎用ＡＩの研究は「一人称の研究」といわれ
自我（自分自身）を自分の研究のテーマにするってことで
メタ研究で結論は不確定だ

2019/04/07(日) 10:03:01.58

>>593 シンギュラリティとは現在の知識では予測不可能な世界だから、現在の延長線で考えても無駄。
しかし必ず訪れる。
回線スピードが早くなり全世界のあらゆる機器が接続された状態になれぽ何が起きるか？

2019/04/07(日) 12:11:15.20

俺はずっと長い間、シンギュラリティは
こないと考えていた。
その根拠は、
1、人の脳は全く解明できていない
(22世紀には解明されるだろうという予測はある。)
2、技術曲線の存在。どのような技術も必ず天井にぶつかる。
3、そもそも刹那も同一でない生体脳を、高々デジタルごときで再現できない。
４．プログラムやデータそのものが膨大過ぎて処理できない。
5、プログラムが巨大複雑になって人が理解できない。

などというもの。

しかし2年前、考えが変わった。
人の脳を超える自我をノイマン型計算機で
作れる可能性があることに気がついたのだ。
来年のAI学会にて動くものを
見せる予定で頑張ってるけど
仕事が忙しくてなかなか時間が取れない。

こうゆうとき、大学の研究所で給料もらいながら
女子大生のナンパしかしてない後輩たちを
見ていると殺意が沸く(笑)