【統計分析】機械学習・データマイニング22

2019/01/13(日) 09:13:37.19

機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング21
https://mevius.5ch.net/test/read.cgi/tech/1541309676/

VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured

2019/02/09(土) 19:28:51.64

モザイク除去はcyclegan出て真っ先に試されてたな
やはりエロは技術を進める

2019/02/09(土) 19:39:09.50

エロ系ってコーディングしてるうちにムラムラしてくるのが厄介だよね

2019/02/09(土) 21:44:47.21

好みの画像だけで学習させれば、微妙な画像を良い感じの画像に変換できるんだよな。
マジでAVやIVがモーションデータみたいに使われるのが普通になっていくかもしれん。

2019/02/09(土) 22:54:16.11

やっぱり今のディープラーニングはGANSが流行ってるのかな
やってる人多いね

2019/02/09(土) 23:48:24.43

GANは正直収束させるのが激ムズだけど、出てくる画像とか見てると面白いんだよね。

2019/02/10(日) 00:48:54.78

深層学習ってなんでちゃんといい解求まるのか不思議
自分でコード書いて実行してちゃんと学習してるのみるともっと不思議
たまに盛大に失敗するけど、どういうときにちゃんと学習するのか経験と勘が必要だなって感じる

2019/02/10(日) 01:37:52.39

>>536
そりゃーただの復元可能なマスクだからな
あんまり意味ない・・・

＞わいせつ図画公然陳列幇助

2019/02/10(日) 01:38:42.68

>>542
楽しいっちゃ楽しいんだけど、デカイ事やろうとすると2,3日かかるのが辛い
もっとテンポよくやりたいけど、精度が下がるんだよね

2019/02/10(日) 12:26:32.09

tensorflowの公式サイトがIEやedgeだとレイアウトがうまく表示できないようになってて笑った
chrome以外のブラウザでは観るなってことか

2019/02/10(日) 12:33:17.40

Microsoftは老害と成り果てたか
この前のアプデでレジストリいじってもCortana消せなくなったしよぉ

2019/02/10(日) 16:10:37.32

参考コード探してるんだけどKerasがなかなかなくて辛い

ライブラリシェアはtensorflow以下はどの程度なんだろ

2019/02/10(日) 16:13:45.99

>>511
分析だけならデータ放り込めば良いだけのツールが有るし、
機械学習でモデルだけ作っても実装にはPGが必要なので、
Neural Network Consoleは中途半端

パラメータを自動で最適化してるらしいが、
同一の学習データに対して、他のライブラリの方が明らかに良い結果が出てた

2019/02/10(日) 17:10:47.85

keras使うくらいならpytorth使えよ

2019/02/10(日) 17:18:21.64

>549
知らずに言ってるのが良く分かるぞぉ～
大抵は両立している。kerasで学習中にpytorch、その逆、等

2019/02/10(日) 18:19:58.29

>>548
構造の自動最適化はちょっと羨ましい
自分で書くと面倒なんだよね
交換可能なモジュールのグループ化とかね
みんな自分用の最適化ツール作ってるのかな

2019/02/10(日) 19:22:40.50

>>545
GoogleはChromiumに仕掛けしているようで、たとえばYoutube
なども稼働するOSの上で弄っているらしい。それはChromiumで吸収してい
ようで、たとえば各種のOSじょうに独自のブラウザ提供しYoutubeも支障なく
見られるようにするには、一つ一つ別途に弄るか、Chromiumをレンダリング
エンジンに使うかの選択が必要になるようだ、マイクロソフトは今後の方向と
して主要OSにさまざまなものを提供する方向にあるが、その際に開発負荷を
減らすためにレンダリングエンジンをChromiumに変更した。
とのことらしい。

これと同じようなことだとしたら、Vivaldiで動かしてみたら使えるかも
しれんよ。暇だったら試してみて。

2019/02/10(日) 19:24:05.44

改行きもいけどどこからコピペしてきたん？

2019/02/10(日) 19:29:33.73

＞＞５４２
＞深層学習ってなんでちゃんといい解求まるのか不思議

解が求まっているっというわけでもないんだが
ま、求めているものに近いものが他より効率よく出力される
と言った方がいいのかな？

だから、深層学習も、自分で出した結果を見て
「真相はいかに？」と思ってんだと思うよ

2019/02/10(日) 19:32:49.87

藪の中

2019/02/10(日) 19:36:56.56

飼い主にとってきたものを見せる猫

2019/02/10(日) 19:46:23.77

>>542
誤差曲面には局所解や鞍点が無数にある筈なのにSGDのような単純な方法で良い解に辿り着けるのは長い間謎だったけど最近になってこの辺が理論的に解明され始めてる

2019/02/10(日) 20:05:40.24

バッチサイズを大きくすると学習効果が低いというのもよくわからん話だな。
これって人間でいえばドリルを一気にやってから答え合わせするよりもちょこちょこ
答え見て解答してった方が勉強効率が良いってことだよね？

2019/02/10(日) 20:39:31.71

>>558
バッチサイズの大きさと学習効果については相反する議論が展開されていて、バッチサイズが大きくても学習率を下げれば性能は変わらないとする論文がある

更新分は

(epsilon / batch_size) * (sum of grad)

なのでbatch_sizeを倍にしたら学習率を半分にするといい
勾配分だけがbatch_sizeの影響を受けるので、モデルおよびデータ次第ではどっちにも転ぶことになる

2019/02/10(日) 20:49:45.78

最近勉強し始めた超初心者だけど、なんとか学習モデル生成出来るとこまできた
(ほとんど参考サイトのコピペだけど…)

が、マシンスペックが全然足りなくて学習が進まない…
↓この参考サイトの著者は100epochsで12時間かかったらしいが、俺は7時間かけて2epochsだけ
http://app.m-cocolog.jp/t/typecast/603293/510034/88662045

「ちょっと自分でモデル作って味見してみようかな」っ人には着手しづらいなぁ

2019/02/10(日) 21:00:11.02

>>560
cpuで動かしてない？
tensorflowがgpuで動いてるか試してみて

from tensorflow.python.client import device_lib
device_lib.list_local_devices()

https://qiita.com/yt6t6t/items/5df4a83f3223c6a8c600

2019/02/10(日) 21:03:00.43

>>560
そこそこ良いGPUないと面白さは半減だねぇ
Google Colaboratryでもいいけど長い時間の学習は処理を分割させる必要があるし、画像系はデータが巨大になりがちだし、趣味でやるには少しハードル高いよね

2019/02/10(日) 21:07:42.13

ColaboratryのGPU性能はGTX970ぐらいだったかな
結構微妙な性能な上に、制約が多いから買ったほうが良い

TPU使えるなら凄いんだけど、俺は無理だった

2019/02/10(日) 21:35:28.36

ColaboravoryでTPU使うのにただ切り替えるだけじゃだめなんだよね

あれ使えればかなり楽になると思うし体験してみたいけどそれ用にコード変更しなくちゃいけないんでしょ

2019/02/10(日) 21:41:12.60

>>564
一から書ける技量が無いと対応できない
githubに転がってるやつをちょっと変えれる程度じゃ無理
データも容量的に厳しいので、googleドライブにおいてそこからapiでひっぱってきて・・・とかなり面倒
その内ラッパーとか出来ると思うけどね

2019/02/10(日) 22:44:44.91

>>565
そうか残念

拾ったCycleGANのコード動かそうとしたら重くなって落ちたからTPUでやってみたかったんだけどね

ところでcolaboratoryでコードの出力欄に四角いダメ顔マーク出てくるのはなんの意味なんだろうか
メモリ不足？

2019/02/11(月) 07:49:10.66

>>553
それ使ってる環境しだいだよ。胆くするブラウザ使ってるから。

2019/02/11(月) 13:15:55.18

機械学習とAIの違い
https://pbs.twimg.com/media/DzFdrL4XQAAKsnr.jpg

2019/02/11(月) 13:19:26.96

>>563
嘘乙 Tesla K80 12GBだろ。GTX970の速度じゃない事くらい試せばすぐ分かる。

2019/02/11(月) 13:34:49.25

>>561
cpuでやってました！
gpu版になんとか設定したものの新たなエラーが出て四苦八苦中ですw

2019/02/11(月) 13:38:20.31

>>562
5年くらい前に組んだPCでゲームはやらずマルチディスプレイが出来ればいいので、安物グラボ積んでます…
玄人志向GTX650で当時5000円ぐらいだったような

https://i.imgur.com/CaDWMha.jpg

2019/02/11(月) 13:39:32.95

>>569
こないだ暇だったからmnistで計測してみたから間違いない
スペックも実測値も、ほぼGTX960～GTX970当たりの性能
K80のGPUが1/2になる事を考慮すると、スペック的にも大体合うはず

2019/02/11(月) 13:58:09.69

>>572
それはすまない。GTX1060Tiよりも速かったので、俺の組み方が悪かったのだろうな。メモリが少なかったせいかもしれない。

2019/02/11(月) 16:51:58.13

mnistとかなんのベンチマークにもならんわ。imagenetくらい回してくれ。

2019/02/11(月) 17:06:00.23

GPUに辿り着く以前にラーニングの前処理で異様に時間がかかる
ひょっとしてcolaboratoryのCPU1コア？
データ読み込んで特徴量増やしてるだけなんだが・・・

2019/02/11(月) 17:38:33.08

>>575
zip解凍も結構時間かかってるよ。CPUやファイルアクセスは貧弱っぽい。

2019/02/11(月) 19:02:48.18

>>573
モデルによるかな
小さなモデルでバッチサイズ大きめな学習はK20速いけどモデルが大きくなると遅い

2019/02/11(月) 19:32:19.07

>>568
ネタなのは分かるけど、共感できなくてどこがおもしろいのかわからない

2019/02/11(月) 19:40:25.03

>>568
Correction
If it is written by Kyoto Common Lisp, it maybe AI.

2019/02/12(火) 00:17:48.23

>>552
いや会社でIEとedgeでしかブラウザ使えないからchromeもvivaldiも使えなくて困ってるのよ
もちろん、家では普通にchromeで読めるんだけどな

2019/02/12(火) 03:51:36.70

まず何から始めればいいの？
なんちゃって理系で高校で数ⅢCまではやったけど数学がとても苦手
とりあえず機械学習のための数学って本は買った

2019/02/12(火) 03:57:39.08

大して知らない人だが。
大して数学しらなくてもできるとはおもうが。
数学部分はライブラリに内蔵されてて、ブラックボックスでも操作はできるかと。
環境設定と動かし方では。

2019/02/12(火) 08:02:51.01

何やりたいかによる

2019/02/12(火) 08:59:01.00

英語の勉強

2019/02/12(火) 09:00:26.03

機械学習

2019/02/12(火) 11:12:28.75

大事なのは「読む」力だ！～4万人の読解力テストで判明した問題を新井紀子・国立情報学研究所教授に聞く
https://news.yahoo.co.jp/byline/egawashoko/20180211-00081509/

論理的に考えろと言ってるだけｗ

2019/02/12(火) 11:27:35.35

>>581
まず

・目的
を決める
mnist（チュートリアル）なら後述のグラボは無しでも良い

・予算の設定
mnist以降はグラボ必須
既にあるならそれを使えば良いが、無ければ買う必要がある
無いままやろうとすると人生が終わるゾ

・環境設定
ある意味恐らく一番の難関
windows、mac、linux、それぞれで設定の仕方が違う
とにかく最初は聞きまくり検索しまくりながら気合でやりきる

2019/02/12(火) 12:07:54.70

>>586
2・3日前にテレビの報道特集みたいなやつでそれやってたわ
言葉の定義があいまいなまま中学校で教育してるのが問題らしい

教師のレベルが全国的に可笑しいんだろうな

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/12(火) 12:41:32.35

ディープラーニングには
CNNだのRNNだのLSTMだのオートエンコーダだのGANだの色んなアルゴリズムがありますけど

「よくこんなに色々と考えるよなあ」と感心しますよ！
考えた人、天才かよ！

2019/02/12(火) 12:46:44.05

大勢の人が研究してるからね

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/12(火) 12:46:51.02

あと、深層学習には画像や文章生成といった
一種の創作も出来るみたいですけど、質問。

ディープラーニングは4コマ漫画が描けますか？

例えば『コボちゃん』のデータを大量に学習させて
絵と台詞を自動生成させて、面白い4コマ漫画を自動で生み出せますか？

2019/02/12(火) 12:50:32.70

>>591
もうあるよ
https://konogi.com/bot/bot_spec.html
https://twitter.com/henjo_official
https://twitter.com/5chan_nel (5ch newer account)

2019/02/12(火) 13:32:14.68

>>588
色々な観点があるけど、高校までの国語教育がひどい、読書感想文意味不明ｗ

2019/02/12(火) 13:57:52.97

>>586
次の文を読みなさい。

アミラーゼという酵素はグルコースがつながってできたデンプンを分解するが、
同じグルコースからできていても、形が違うセルロースは分解できない。

この文脈において、以下の文中の空欄にあてはまる最も適当なものを選択肢のうちから１つ選びなさい。

　
　セルロースは（　　　　　）と形が違う。

（1）デンプン　　(2)アミラーゼ　　（3）グルコース　（４）酵素

1-4 どれ選んでも正解やな

2019/02/12(火) 14:02:34.39

>>594
ネタであることを祈る

2019/02/12(火) 14:03:26.51

ああ江川紹子の記事なんか

2019/02/12(火) 14:41:03.61

>>594
読んだ

**デフォルトの名無しさん** (ｽﾌｯ Sd22-JzIx) · 2019/02/12(火) 15:09:35.75

>>594
答えは(1)デンプン

2019/02/12(火) 15:13:40.35

>>594
次の文を読んで問いに答えなさい

2019/02/12(火) 16:08:14.72

前提知識がなくても正しく答えられるだろうか

次の文を読みなさい。

?アルパド・イロというバルギルはプレブルがつながってできたニヤ鎮をアラーモンするが、
同じプレブルからできていても、Ap4Aが違う?ダヤナラ・トレスはアラーモンできない。

この文脈において、以下の文中の空欄にあてはまる最も適当なものを選択肢のうちから１つ選びなさい。

　
　?ダヤナラ・トレスは（　　　　　）とAp4Aが違う。

（1）ニヤ鎮　　(2)??ダヤナラ・トレス　　（3）プレブル　（４）バルギル

2019/02/12(火) 16:12:10.07

>>600
解なし

2019/02/12(火) 16:23:30.25

>>600
1
名詞に「?」等の記号が入ると読むのが辛い

2019/02/12(火) 17:00:50.66

田中というコックさんは思いやりがつながってできたシチューを調理するが、
同じ思いやりからできていても、色が違うタンポポは調理できない。

この文脈において、以下の文中の空欄にあてはまる最も適当なものを選択肢のうちから１つ選びなさい。

タンポポは（　　　　　）と色が違う。

（1）シチュー　(2)田中　　（3）思いやり　（４）コックさん

作ってみた

2019/02/12(火) 17:16:15.75

AIの立場だと簡単に解けるが
人間だと解けない問題もいっぱいあるな

2019/02/12(火) 18:04:27.41

「買い物にいって牛乳を1つ買ってきてちょうだい。卵があったら6つお願い！」

2019/02/12(火) 18:11:37.53

読解力とか論理的把握力を問うとか言ってるけど現実でこんな文章書いたり会話してたらちょっと頭おかしい？ってなるだろうな

2019/02/12(火) 18:41:50.19

どっちも1だな
解けないほうがおかしいわ

2019/02/12(火) 19:35:30.07

>>607
603の問題で言うとどれを選択しても色が違うは真になるんじゃないかな？

2019/02/12(火) 19:36:47.44

>>605
卵があったらの条件付きで
買う対象の分布を学習すれば解決するんじゃね？
卵なのか牛乳なのか

2019/02/12(火) 19:54:17.42

>>608
「同じ思いやりからできていても」がそれ以降の文の対象を思いやりから出来てるものに制限する用法だから、
「（〇〇とは）色が違うタンポポ」の〇〇に田中や思いやりが来ることは無いんじゃないかな

2019/02/12(火) 20:46:29.82

>>610
思いやりは思いやり1つから出来ているし
田中が思いやりから出来ているか出来ていないかはこの文章からだけでは特定できないんじゃね？

2019/02/12(火) 20:53:01.17

>>611
ひねくれ過ぎててワロタ

2019/02/12(火) 21:02:46.53

>>612
無意識の先入観で可能性を限定しすぎている

2019/02/12(火) 21:06:44.61

>>613
選択肢から一つ選ぶんだからよりソフトマックスかけるなりしてより蓋然性の高いものを選べよ
この場合文中で100％思いやりから出来てるって確定してるシチューがあるのに他の選択肢選ぶのは人間としておかしいわ

2019/02/12(火) 21:38:29.65

>>614
蓋然性が高いってどうやって数値化できるの？

2019/02/12(火) 21:47:00.80

ベイズ推定

2019/02/12(火) 22:15:46.91

AIにどうやって学習させるのか？ってこと

2019/02/13(水) 00:09:06.00

上位概念形成はアプリオリ情報がないときついぞ

2019/02/13(水) 06:59:27.41

シチューを黄色くしたらタンポポになるみたいに学習しそう

2019/02/13(水) 10:41:56.81

>>618
その通りだと思うし、そもそも現在AIを使うときは
大きな枠組みがまず必要と思う。
そこではアプリオリな情報が必要となる。
制約があるからこそ最適化が成り立つところに似ている。

いかに周辺（仕事なら業務知識）が重要かってなところかな。

2019/02/13(水) 13:17:36.03

>>528
>Signateは賞金安いのに権利全部よこせとか、優秀だけど安く雇える学生だけ探してるわとか、
>訓練画像20枚な、とかで絶望しか感じないんだが
画像データ20枚ってのはファインチューニング用のコンペってこと？

2019/02/13(水) 15:15:56.51

NHKの方から来ましたって言われて
集金詐欺に引っかかりそう

2019/02/13(水) 16:27:53.63

AIカーが来てる！自動運転でラジコンカーを走らせよう！
https://weekly.ascii.jp/elem/000/000/422/422742/
おもちゃの自動車がAI で動く時代。
これもRaspberry Pi とpython で学習して自動運転してる。

2019/02/13(水) 19:12:35.32

関係ない質問なんだけどみんなはDBとかネットワークとかフロントエンドとかの技術も持ってるの？
色々出来る人はすげーよ…

2019/02/13(水) 19:14:16.01

必要になった時に勉強する程度

2019/02/13(水) 19:33:02.13

>>624
DBなんてどうとでもなるぞ
joinが鬼門って程度だし、そもそも機械学習はDBほとんど使わない
セキュリティと速度求めだすと底なし沼だけどな

フロントとか更にどうでもいい
bootstrap辺りいれときゃそれっぽく見えるし、まぁ見えなくてもいい

2019/02/13(水) 19:34:24.58

モザイク消しを試している者だけど、なかなか良い物ができた。
機械学習にあんまり詳しくない俺でもここまでの画像ができるんだから、実はみんな隠れてやってるだろ。
俺はこの重み付きのモデルを公開する事は決してないが、ググれば初学者でもすぐに作れるようになる物なので、時間の問題だと思っている。
マジで悪用厳禁だ。これは気軽に使えるようにしちゃいけない。

2019/02/13(水) 20:11:22.61

>>624
出来るやつはここにはこないよ

2019/02/13(水) 20:43:16.24

>>627
モザイク消すのはあんまり魅力感じないけど、強化学習みたいな感じで学習して気持ちよくマッサージしてくれるオナホを作りたいとかは考えてる

2019/02/13(水) 20:52:01.97

なかなか身体張った研究すな
研究の副作用でそう

2019/02/13(水) 20:55:21.41

顔分類面白そうと思ってスポーツ選手の画像集めてみたところまでは良いけどopenCVの正面顔のカスケード分類器？使ってみたら400枚で4枚しか顔の識別してくれなくて驚いた
一枚一枚トリミングするわけにも行かないしどういうやり方が良いんだろう

2019/02/13(水) 21:07:48.83

>>629
HMDと合わせて神名器作ったら天下取れそう

2019/02/13(水) 21:08:43.48

>>631
一枚一枚トリミングする
「python 顔抜き出し」
辺りで検索すれば、それなりなものが出てくると思うけど、アカンか

2019/02/13(水) 21:08:52.21

>>631
そんなもんかもね
訓練データを自動収集したいなら動画がいいね
秒間30枚あるので1分でも頑張れる

2019/02/13(水) 21:24:40.21

動画いいよね
スクレイピングでネット画像収集するより手っ取り早い
ただ小数の動画だと偏りが生じるから、いい感じの塩梅が必要

2019/02/13(水) 21:44:53.16

>>624
組み込み、DB、ネットワーク、サーバ周りは出来るけどフロントエンドは無理だなぁ
最近のJavaScript事情に全然ついて行けてない
機械学習はそれなりにやれる方だと思うけど、確かにDBやサーバの知識はほとんど使ってない
スキルセットが違いすぎるから別物と考えた方が良いね