【統計分析】機械学習・データマイニング22

2019/01/13(日) 09:13:37.19

機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング21
https://mevius.5ch.net/test/read.cgi/tech/1541309676/

VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured

2019/02/06(水) 08:14:07.00

>>494
ハーバービジネスっって、扶桑社系列でちょっとオカルト的な色彩と政治色があり
あの菅野完とか持ち上げたりというメディアですよ。
信用して読む雑誌じゃ～ない。ま、宝島みたいなものかな。
名前からハーバードビジネスに勘違いしそうだけど、まるきり関係ない。

2019/02/06(水) 08:17:24.24

>>495
それは左巻き洗脳にだまされてるよ。
統一教会は中東で人質になった人などに関係がある、西早稲田の
教会などとの関係が深い。
日本ではいわゆるリベラルグループに見せかけてる。

2019/02/06(水) 09:44:52.91

>>496
やっぱりそういうサイトだよね、ありがとう

2019/02/06(水) 12:18:03.19

【スパコン】「京」、8月に運用を停止し、その後撤去
https://asahi.5ch.net/test/read.cgi/newsplus/1549414089/

2019/02/06(水) 20:08:00.76

>>497
安倍の親父の岳父は岸信介だから洗脳も何も
ないじゃん。

2019/02/07(木) 06:06:55.76

kaggleは成績ランキング見れないんだな
見れるのは上位三人だけか。
外人じゃ仕事ふるの面倒くさいし、これじゃ仕事がくるわけないな

2019/02/07(木) 09:29:31.79

kaggleのタイタニックが80%行かない
webで80超えたって行ってる人たちとそんなに変わったことしてないはずなんだけどな
100%がチートなのはすぐわかるけど、90%行くのも信じられない

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/07(木) 11:56:40.72

未経験からAI人材になれる
Neural Network Console スターターパック19万8000円は買いですか？
http://www.itmedia.co.jp/news/spv/1902/04/news003.html

2019/02/07(木) 12:11:05.30

それを使いこなせてもAI人材ではなくNeuralNetworkConsoleという内部的にディープラーニングを利用したソフトウェアのオペレーターにしかなれないだろ

2019/02/07(木) 12:16:25.54

>>503
今はまだ時期早々って感じ
「工場の傷の検品」ぐらい超簡単な判別機ぐらいなら作れると思う
ただ、判別した結果を別のシステムにつなげるのはハードル高そう

>>504
日本人が使うと、エクセルがAIに変わるだけのような気がする
AIよりも手作業の方が早い、みたいな

2019/02/07(木) 14:17:07.43

>>505
時期尚早かも知れないが今のDeep Learningは所詮はこんなもんだからいいんじゃない？
コンポーネント組み合わせているだけだしね
途中の出力結果をモニタリングできればTensorboardの代わりになる

2019/02/07(木) 14:25:14.03

>>506
そうだねぇ
今は結果がでなくて良い、将来の投資と考えれば20万は全然アリだろうね
恐らくそういうのは主流になっていくから、良いスタートダッシュが出来ると思う
結果を求めて20万を投資するのは止めたほうが良い

2019/02/07(木) 18:21:38.91

>>503
その金額だとGoogle colabを使った方が良い。

2019/02/07(木) 18:44:00.55

>>508
いやいや本１冊とGPU１つの方が全然いいだろ。
５万円で終わって１から１０まで全て自分でできる。
そのサービスが何をやっているかは動画見ればもう分ったろ？
しかも１９万円「から」って何だよｗ

2019/02/07(木) 18:49:24.57

youtubeで
アメリカ VS 中国　"未来の覇権"
を検索。

2019/02/07(木) 19:03:30.40

>>509
要はこのサービスはpython使えない人用ってことでしょ

python使えればGPUで済むけど、
大企業になるほど企業の担当者がpythonから覚えるってのは時間的にも人件費的にもコストが高く付く

2019/02/07(木) 20:21:51.37

>>511
大企業なら社内で研修とか外部に元々委託している研修とかあると思うけどな

2019/02/07(木) 20:36:00.25

>>512
上場クラス・事務がメインの銀行なんかは絶対にやると思う
効果半端ないからな

小売とかは導入が遅そうだ

2019/02/07(木) 23:51:27.14

これって過学習？
https://raw.githubusercontent.com/sssste/DeepLeraningNotes/master/pic/stage1.jpg

2019/02/08(金) 06:36:02.42

>>514
Stack GANのStage-1だから低解像度なのでは？

2019/02/08(金) 06:56:58.65

>>511
論文読んでSEnet組むような場合にMATLAB/SIMLINKのようにGUIで線を伸ばせば実装されるくらいの出来であればpython使いでも有用かな

もしGUIで組んでpythonコードやC++コードが出力されるなら価値はグンと上がるけどどうかな

価格設定は高いように見えるけど、このレベルのソフトウェアはいくらでもあるし、お試しで導入するところはあるだろう

2019/02/09(土) 00:07:31.20

dcganとかのGANSって誤差がどんな推移すればいいの？
調べてもみんな言うこと違っててわからん

やっぱり生成画像みて判断するしかない？

**数おたさらり** (ｽｯｯﾌﾟ Sd22-xmfE) · 2019/02/09(土) 01:10:09.52

>>517
>>221

2019/02/09(土) 01:24:39.56

>>517
誤差推移っとかもう職人ワザ

極論
＞生成画像みて判断
これで何も問題なければ良い

2019/02/09(土) 01:30:13.00

ロスが突然0になるってどういう状態？
https://i.imgur.com/HUwZbEi.png

2019/02/09(土) 09:29:36.35

GANやってるのかな？
多分、generateする方よりも検出する方が強すぎる状態になってるってこと。
つまり失敗しとるってことだね。

2019/02/09(土) 09:56:17.78

>>521
ありがとう！
「奇跡の設定に成功してしまったのか！？」なんて考えていよ！失敗だよね、うん

2019/02/09(土) 11:04:05.64

>>517
wasserstein ganは誤差が綺麗に収束して学習が上手く行ったか分かりやすいのでおすすめ

2019/02/09(土) 12:08:32.81

>>518,519,523
やっぱり実際に画像みて判断するしかないか

あと気になってるのはたまに誤差が負の値になるんだけどありえないよね？
なんで負が出てくるんだろ

2019/02/09(土) 13:36:37.83

前に書き込んだモザイク消しを試そうとしてた者だけど、ぼかしよりはマシな感じなのができた。もっと学習させれば実用化までいけそう。

2019/02/09(土) 14:00:27.71

>>525
応援してます！w

2019/02/09(土) 14:11:22.61

モザイク消しって公開・販売できるのかな

2019/02/09(土) 14:27:00.81

みんなKaggleとかSignateやってんの？
Signateは賞金安いのに権利全部よこせとか、優秀だけど安く雇える学生だけ探してるわとか、
訓練画像20枚な、とかで絶望しか感じないんだが

2019/02/09(土) 14:34:37.19

ついにこのスレからAI戦士が生まれてしまうのか

2019/02/09(土) 14:48:19.38

AI戦士参上、シャキーン

2019/02/09(土) 15:02:24.59

>>527
「わいせつ物頒布罪」はあるが、このプログラム自体はわいせつでもなんでもない
しかし、モザイク付きの画像・動画とセットで配布した場合、
それは単に特殊な圧縮形式と看做されるかもしれない
どうなるかは其の時にならないと分からない

2019/02/09(土) 15:18:53.88

納得はできないが、重み付きのモデルデータ配布はグレーな気はする。
学習装置のみ配布だったらクリアだろうよね。

2019/02/09(土) 15:30:03.48

よく考えたらモザイクなんてpix2pixで簡単に実装できそうな気がしてきた

2019/02/09(土) 15:30:24.79

モザイクじゃなくて、モザイク解除だった

2019/02/09(土) 17:47:46.95

>>528
たまにやるけど最適化競争より面白いモデルや新しいモデルを試してる感じ
良いスコアが出そうなら頑張るけど工数はそれなりにかかるんでね

それでもSIGNATEを日本の企業はもっと活用すべきだと思うけどね
同じ仕事を外部に発注したら賞金の10倍以上の予算使ってもコンテスト以上の物は絶対に出て来ない
コンテスト終わったらデータ全部消せとかプログラムの版権寄越せというなら上位以外にも賞金出さないとダメだと思うし、いろいろと改善の余地はあるんじゃないかな

2019/02/09(土) 18:42:16.00

>>531
昔モザイクかけるFLMaskの作者が捕まってたよね
あんまりきわどいとこで目立つと何されるかわからん

2019/02/09(土) 19:28:51.64

モザイク除去はcyclegan出て真っ先に試されてたな
やはりエロは技術を進める

2019/02/09(土) 19:39:09.50

エロ系ってコーディングしてるうちにムラムラしてくるのが厄介だよね

2019/02/09(土) 21:44:47.21

好みの画像だけで学習させれば、微妙な画像を良い感じの画像に変換できるんだよな。
マジでAVやIVがモーションデータみたいに使われるのが普通になっていくかもしれん。

2019/02/09(土) 22:54:16.11

やっぱり今のディープラーニングはGANSが流行ってるのかな
やってる人多いね

2019/02/09(土) 23:48:24.43

GANは正直収束させるのが激ムズだけど、出てくる画像とか見てると面白いんだよね。

2019/02/10(日) 00:48:54.78

深層学習ってなんでちゃんといい解求まるのか不思議
自分でコード書いて実行してちゃんと学習してるのみるともっと不思議
たまに盛大に失敗するけど、どういうときにちゃんと学習するのか経験と勘が必要だなって感じる

2019/02/10(日) 01:37:52.39

>>536
そりゃーただの復元可能なマスクだからな
あんまり意味ない・・・

＞わいせつ図画公然陳列幇助

2019/02/10(日) 01:38:42.68

>>542
楽しいっちゃ楽しいんだけど、デカイ事やろうとすると2,3日かかるのが辛い
もっとテンポよくやりたいけど、精度が下がるんだよね

2019/02/10(日) 12:26:32.09

tensorflowの公式サイトがIEやedgeだとレイアウトがうまく表示できないようになってて笑った
chrome以外のブラウザでは観るなってことか

2019/02/10(日) 12:33:17.40

Microsoftは老害と成り果てたか
この前のアプデでレジストリいじってもCortana消せなくなったしよぉ

2019/02/10(日) 16:10:37.32

参考コード探してるんだけどKerasがなかなかなくて辛い

ライブラリシェアはtensorflow以下はどの程度なんだろ

2019/02/10(日) 16:13:45.99

>>511
分析だけならデータ放り込めば良いだけのツールが有るし、
機械学習でモデルだけ作っても実装にはPGが必要なので、
Neural Network Consoleは中途半端

パラメータを自動で最適化してるらしいが、
同一の学習データに対して、他のライブラリの方が明らかに良い結果が出てた

2019/02/10(日) 17:10:47.85

keras使うくらいならpytorth使えよ

2019/02/10(日) 17:18:21.64

>549
知らずに言ってるのが良く分かるぞぉ～
大抵は両立している。kerasで学習中にpytorch、その逆、等

2019/02/10(日) 18:19:58.29

>>548
構造の自動最適化はちょっと羨ましい
自分で書くと面倒なんだよね
交換可能なモジュールのグループ化とかね
みんな自分用の最適化ツール作ってるのかな

2019/02/10(日) 19:22:40.50

>>545
GoogleはChromiumに仕掛けしているようで、たとえばYoutube
なども稼働するOSの上で弄っているらしい。それはChromiumで吸収してい
ようで、たとえば各種のOSじょうに独自のブラウザ提供しYoutubeも支障なく
見られるようにするには、一つ一つ別途に弄るか、Chromiumをレンダリング
エンジンに使うかの選択が必要になるようだ、マイクロソフトは今後の方向と
して主要OSにさまざまなものを提供する方向にあるが、その際に開発負荷を
減らすためにレンダリングエンジンをChromiumに変更した。
とのことらしい。

これと同じようなことだとしたら、Vivaldiで動かしてみたら使えるかも
しれんよ。暇だったら試してみて。

2019/02/10(日) 19:24:05.44

改行きもいけどどこからコピペしてきたん？

2019/02/10(日) 19:29:33.73

＞＞５４２
＞深層学習ってなんでちゃんといい解求まるのか不思議

解が求まっているっというわけでもないんだが
ま、求めているものに近いものが他より効率よく出力される
と言った方がいいのかな？

だから、深層学習も、自分で出した結果を見て
「真相はいかに？」と思ってんだと思うよ

2019/02/10(日) 19:32:49.87

藪の中

2019/02/10(日) 19:36:56.56

飼い主にとってきたものを見せる猫

2019/02/10(日) 19:46:23.77

>>542
誤差曲面には局所解や鞍点が無数にある筈なのにSGDのような単純な方法で良い解に辿り着けるのは長い間謎だったけど最近になってこの辺が理論的に解明され始めてる

2019/02/10(日) 20:05:40.24

バッチサイズを大きくすると学習効果が低いというのもよくわからん話だな。
これって人間でいえばドリルを一気にやってから答え合わせするよりもちょこちょこ
答え見て解答してった方が勉強効率が良いってことだよね？

2019/02/10(日) 20:39:31.71

>>558
バッチサイズの大きさと学習効果については相反する議論が展開されていて、バッチサイズが大きくても学習率を下げれば性能は変わらないとする論文がある

更新分は

(epsilon / batch_size) * (sum of grad)

なのでbatch_sizeを倍にしたら学習率を半分にするといい
勾配分だけがbatch_sizeの影響を受けるので、モデルおよびデータ次第ではどっちにも転ぶことになる

2019/02/10(日) 20:49:45.78

最近勉強し始めた超初心者だけど、なんとか学習モデル生成出来るとこまできた
(ほとんど参考サイトのコピペだけど…)

が、マシンスペックが全然足りなくて学習が進まない…
↓この参考サイトの著者は100epochsで12時間かかったらしいが、俺は7時間かけて2epochsだけ
http://app.m-cocolog.jp/t/typecast/603293/510034/88662045

「ちょっと自分でモデル作って味見してみようかな」っ人には着手しづらいなぁ

2019/02/10(日) 21:00:11.02

>>560
cpuで動かしてない？
tensorflowがgpuで動いてるか試してみて

from tensorflow.python.client import device_lib
device_lib.list_local_devices()

https://qiita.com/yt6t6t/items/5df4a83f3223c6a8c600

2019/02/10(日) 21:03:00.43

>>560
そこそこ良いGPUないと面白さは半減だねぇ
Google Colaboratryでもいいけど長い時間の学習は処理を分割させる必要があるし、画像系はデータが巨大になりがちだし、趣味でやるには少しハードル高いよね

2019/02/10(日) 21:07:42.13

ColaboratryのGPU性能はGTX970ぐらいだったかな
結構微妙な性能な上に、制約が多いから買ったほうが良い

TPU使えるなら凄いんだけど、俺は無理だった

2019/02/10(日) 21:35:28.36

ColaboravoryでTPU使うのにただ切り替えるだけじゃだめなんだよね

あれ使えればかなり楽になると思うし体験してみたいけどそれ用にコード変更しなくちゃいけないんでしょ

2019/02/10(日) 21:41:12.60

>>564
一から書ける技量が無いと対応できない
githubに転がってるやつをちょっと変えれる程度じゃ無理
データも容量的に厳しいので、googleドライブにおいてそこからapiでひっぱってきて・・・とかなり面倒
その内ラッパーとか出来ると思うけどね

2019/02/10(日) 22:44:44.91

>>565
そうか残念

拾ったCycleGANのコード動かそうとしたら重くなって落ちたからTPUでやってみたかったんだけどね

ところでcolaboratoryでコードの出力欄に四角いダメ顔マーク出てくるのはなんの意味なんだろうか
メモリ不足？

2019/02/11(月) 07:49:10.66

>>553
それ使ってる環境しだいだよ。胆くするブラウザ使ってるから。

2019/02/11(月) 13:15:55.18

機械学習とAIの違い
https://pbs.twimg.com/media/DzFdrL4XQAAKsnr.jpg

2019/02/11(月) 13:19:26.96

>>563
嘘乙 Tesla K80 12GBだろ。GTX970の速度じゃない事くらい試せばすぐ分かる。

2019/02/11(月) 13:34:49.25

>>561
cpuでやってました！
gpu版になんとか設定したものの新たなエラーが出て四苦八苦中ですw

2019/02/11(月) 13:38:20.31

>>562
5年くらい前に組んだPCでゲームはやらずマルチディスプレイが出来ればいいので、安物グラボ積んでます…
玄人志向GTX650で当時5000円ぐらいだったような

https://i.imgur.com/CaDWMha.jpg

2019/02/11(月) 13:39:32.95

>>569
こないだ暇だったからmnistで計測してみたから間違いない
スペックも実測値も、ほぼGTX960～GTX970当たりの性能
K80のGPUが1/2になる事を考慮すると、スペック的にも大体合うはず

2019/02/11(月) 13:58:09.69

>>572
それはすまない。GTX1060Tiよりも速かったので、俺の組み方が悪かったのだろうな。メモリが少なかったせいかもしれない。

2019/02/11(月) 16:51:58.13

mnistとかなんのベンチマークにもならんわ。imagenetくらい回してくれ。

2019/02/11(月) 17:06:00.23

GPUに辿り着く以前にラーニングの前処理で異様に時間がかかる
ひょっとしてcolaboratoryのCPU1コア？
データ読み込んで特徴量増やしてるだけなんだが・・・

2019/02/11(月) 17:38:33.08

>>575
zip解凍も結構時間かかってるよ。CPUやファイルアクセスは貧弱っぽい。

2019/02/11(月) 19:02:48.18

>>573
モデルによるかな
小さなモデルでバッチサイズ大きめな学習はK20速いけどモデルが大きくなると遅い

2019/02/11(月) 19:32:19.07

>>568
ネタなのは分かるけど、共感できなくてどこがおもしろいのかわからない

2019/02/11(月) 19:40:25.03

>>568
Correction
If it is written by Kyoto Common Lisp, it maybe AI.

2019/02/12(火) 00:17:48.23

>>552
いや会社でIEとedgeでしかブラウザ使えないからchromeもvivaldiも使えなくて困ってるのよ
もちろん、家では普通にchromeで読めるんだけどな

2019/02/12(火) 03:51:36.70

まず何から始めればいいの？
なんちゃって理系で高校で数ⅢCまではやったけど数学がとても苦手
とりあえず機械学習のための数学って本は買った

2019/02/12(火) 03:57:39.08

大して知らない人だが。
大して数学しらなくてもできるとはおもうが。
数学部分はライブラリに内蔵されてて、ブラックボックスでも操作はできるかと。
環境設定と動かし方では。

2019/02/12(火) 08:02:51.01

何やりたいかによる

2019/02/12(火) 08:59:01.00

英語の勉強

2019/02/12(火) 09:00:26.03

機械学習

2019/02/12(火) 11:12:28.75

大事なのは「読む」力だ！～4万人の読解力テストで判明した問題を新井紀子・国立情報学研究所教授に聞く
https://news.yahoo.co.jp/byline/egawashoko/20180211-00081509/

論理的に考えろと言ってるだけｗ

2019/02/12(火) 11:27:35.35

>>581
まず

・目的
を決める
mnist（チュートリアル）なら後述のグラボは無しでも良い

・予算の設定
mnist以降はグラボ必須
既にあるならそれを使えば良いが、無ければ買う必要がある
無いままやろうとすると人生が終わるゾ

・環境設定
ある意味恐らく一番の難関
windows、mac、linux、それぞれで設定の仕方が違う
とにかく最初は聞きまくり検索しまくりながら気合でやりきる

2019/02/12(火) 12:07:54.70

>>586
2・3日前にテレビの報道特集みたいなやつでそれやってたわ
言葉の定義があいまいなまま中学校で教育してるのが問題らしい

教師のレベルが全国的に可笑しいんだろうな

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/12(火) 12:41:32.35

ディープラーニングには
CNNだのRNNだのLSTMだのオートエンコーダだのGANだの色んなアルゴリズムがありますけど

「よくこんなに色々と考えるよなあ」と感心しますよ！
考えた人、天才かよ！

2019/02/12(火) 12:46:44.05

大勢の人が研究してるからね

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/12(火) 12:46:51.02

あと、深層学習には画像や文章生成といった
一種の創作も出来るみたいですけど、質問。

ディープラーニングは4コマ漫画が描けますか？

例えば『コボちゃん』のデータを大量に学習させて
絵と台詞を自動生成させて、面白い4コマ漫画を自動で生み出せますか？

2019/02/12(火) 12:50:32.70

>>591
もうあるよ
https://konogi.com/bot/bot_spec.html
https://twitter.com/henjo_official
https://twitter.com/5chan_nel (5ch newer account)

2019/02/12(火) 13:32:14.68

>>588
色々な観点があるけど、高校までの国語教育がひどい、読書感想文意味不明ｗ

2019/02/12(火) 13:57:52.97

>>586
次の文を読みなさい。

アミラーゼという酵素はグルコースがつながってできたデンプンを分解するが、
同じグルコースからできていても、形が違うセルロースは分解できない。

この文脈において、以下の文中の空欄にあてはまる最も適当なものを選択肢のうちから１つ選びなさい。

　
　セルロースは（　　　　　）と形が違う。

（1）デンプン　　(2)アミラーゼ　　（3）グルコース　（４）酵素

1-4 どれ選んでも正解やな

2019/02/12(火) 14:02:34.39

>>594
ネタであることを祈る