【統計分析】機械学習・データマイニング22

2019/01/13(日) 09:13:37.19

機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング21
https://mevius.5ch.net/test/read.cgi/tech/1541309676/

VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured

2019/01/29(火) 15:07:54.30

>>361
名前が変わったよ

2019/01/29(火) 20:20:53.46

>>359
＞　次のAIブームに期待しましょう

次のAIブームは100年後ですよ？
つまり脳の構造が全てわかったときです。

2019/01/29(火) 20:30:50.97

初心者で素朴な疑問なのですがsvmでrbfカーネルより線形カーネルの方が性能いいっていうパターンはありますか？

2019/01/29(火) 20:45:51.93

>>365
性能がいい=事象を正しく説明する
という意味なら線形な事象は線形カーネルのがいい

性能がいい=誤差が小さい
という意味なら残念ながらない

2019/01/29(火) 21:10:12.31

別の言い方で書くかな

性能がいい=予測誤差が小さい
なら、線形な現象は線形カーネルのがいい場合もある

性能がいい=フィッティング誤差が小さい
なら、残念ながらない

RBFカーネルは柔らかいのでカーブフィッティングしやすい

2019/01/29(火) 21:33:30.39

>>356
BBSpinkの「正面全裸写真」スレ

2019/01/29(火) 22:26:02.72

>>368
神！グロ画像いっぱいと思ったら>>48が至高だったわありがとう！

2019/01/29(火) 22:35:22.97

戦後最長の経済回復ωωω

2019/01/29(火) 23:13:49.13

>>365
線形カーネルだと線形判別しか出来ないのでは

2019/01/30(水) 00:16:44.87

タスクマネージャーのcompure_1ってなんでしょうか？
https://i.imgur.com/QNnDZS4.png

2019/01/30(水) 17:57:23.54

>>367
例えば回帰問題であれば訓練データに一致させるようなフィッティングはrbfカーネルが絶対に勝つ。けど
分類問題で線形な問題ならaccuracyが線形カーネルの場合の方がいいということもあるということですか？

2019/01/30(水) 20:43:28.89

>>373
回帰問題であっても分類問題であっても、訓練はRBFカーネルがaccuracyは高い
けれどもそれをテストデータに適用しても、RBFが勝つとは限らない

2019/01/31(木) 08:45:36.99

単に、背景にある関数が線形に近いなら線形カーネルの方が成績が良くなるってことだよな
無駄にカーネルの表現力が高いとノイズに影響されやすくなる

関係ないが、多項式カーネルは次元を高くするほどフィッティングの成績は良くなると思ってたんだが
高くしすぎると悪化することもあるのを見て驚いた
サポートベクトルや素性の数に比べて次元を高くしすぎると逆に制約になるってことかね

2019/01/31(木) 10:56:31.70

制約というよりオーバーフィッティングでは

2019/01/31(木) 11:01:19.54

フィッティングの成績だから学習時の話だと思うが

2019/01/31(木) 12:26:27.71

フィッティングの成績が各点の二乗誤差の和とかなら多項式だと次数上げれば上げるほど誤差は減って、
データ点数以上の次数なら全ての点を通る曲線が作れるから誤差はゼロになるんじゃないか？

2019/01/31(木) 14:12:11.17

SVMはサポートベクターとの内積(=カーネル)をとってその一次合成でスコア出してるのは知ってる？
多項式で項数が増えてもそれぞれに自由に係数を指定できるわけではないから、
サポートベクターが都合の悪い配置だと次数の多さが制約になることはあるかも

2019/01/31(木) 14:12:40.10

話変わるんだけど
例えば5次元のデータでsvm学習しました。accuracy、A%でした。
そのデータのうちの3変数使って3次元のデータを作ってsvm学習しました。accuracy、B%でした。
AよりBの方が高くなっちゃうってケースが起きてるのですが、たぶんAとBは同じくらいになるのがsvmの性質上普通になると思うのですがなぜなのですかね。

2019/01/31(木) 14:23:54.00

ソフトマージンSVMは境界面近くのうまく分類できないサンプルを無視する
その数がそのまま学習データでaccuracy測ったときの残差となる
たぶん3次元で見たときの方が境界面近くのノイズが多かったんだろう

2019/01/31(木) 14:57:55.14

>>381
すあません、もう少しわかりやすくお願いします
不勉強で申し訳ないのですが

2019/01/31(木) 15:09:15.35

>>381 は想像なんであってるかわからんがw

SVMはなるべく二つのクラスの距離(マージン)を広く取れるような境界を選ぶ性質がある
ソフトSVMは多少誤差があってもマージンを広く取る方を優先する
5次元の場合、SVMは誤差が大きい代わりにマージンが広い境界を見つけることができたのではないかということ
5次元モデルの方が汎化性能は高いかもよ
誤差とマージンのバランスはパラメータCで調整できる

2019/01/31(木) 17:39:00.02

>>383
訓練精度も汎化性能もどっちも3次元の方が良かったんですよね…

2019/01/31(木) 17:50:37.95

まあマージンが広くても上手く行くとは限らないしね
Cを大きくしてみ、100倍とか
5次元の方が3次元より学習時の誤差は小さくなるはず

なんにせよ結果を信じるなら残りの2次元が余計だったって話になると思う

2019/01/31(木) 17:54:19.80

実はデータ数が多過ぎて学習回数が全然違うとか

**数おたさらり** (ﾜｯﾁｮｲ ffda-bL3o) · 2019/02/01(金) 00:31:59.27

2019/02/01(金) 01:01:45.93

>>375-379
曖昧ですまん。そう、SVMで学習に使ったデータをそのまま分類したときの精度の話だ。

多項式カーネルでdimension=2 → 5までは順調に精度が上がったんだ
でもそれ以上次元を上げても精度は98%のまま上がらなくなった
ぐっと上げたら100%になるかなと思ってdimension=100にしてみたら50%に下がったんで意外だったって話
オーバーフィッティングさせようと思ったのに逆の結果になってしまった

**sage** (ｻｻｸｯﾃﾛﾙ Spb3-9Pyw) · 2019/02/01(金) 06:38:29.24

>>388
データの量がパラメータの個数と比べて少ないからじゃね
連立方程式で方程式の個数が未知数の個数より少ない感じ

2019/02/01(金) 08:32:41.57

>>375 で「サポートベクトルや素性の数に比べて次元を高くしすぎると逆に制約になる」と
書いてるからそれはわかってるんだろう

なんつーか、機械学習って仕組みをよくわかってないと陥る罠が多いよな

2019/02/02(土) 12:22:14.52

脱衣をcycleganで学習させようとしたが、着衣ができるようになったが脱衣は崩壊した
道は長い・・・

着せた
https://i.imgur.com/FrioFmb.png
https://i.imgur.com/DqnT0NT.png
https://i.imgur.com/8VLUQU9.png
https://i.imgur.com/rxHFpgZ.png

脱がせた（グロ）
https://i.imgur.com/5uGCIHh.png
https://i.imgur.com/yOovTQs.png

2019/02/02(土) 12:25:07.36

>>391
すごいじゃん！
脱衣はDeep Dream状態だなww

2019/02/02(土) 12:36:34.43

ほんまDeep Dreamやで・・・
特に顔がぐちゃぐちゃになるからオカズとして使うのは難易度高すぎる
4日も回したのにorz

2019/02/02(土) 13:21:50.35

>>391
もしかして
https://asahi.5ch.net/test/read.cgi/newsplus/1548736729/344
これもDLなん？
違和感あったんだけどDLだったら納得

2019/02/02(土) 13:24:55.62

過疎スレだからって無茶な遊びしてると官憲に捕まっても知らんぞ

2019/02/02(土) 13:27:00.00

>>394
これ人形じゃないの？

2019/02/02(土) 13:30:17.89

>>394
画像検索したらすぐに出てきた
【画像あり】アマゾンで10万円するラブドールを御覧ください・・・・
で検索して上から二番目。欲しい。

2019/02/02(土) 13:37:43.18

なんか違う
https://i.imgur.com/LiCHLPv.png
https://i.imgur.com/Z87M6Wz.png
疲れた
https://i.imgur.com/SE0Hlo1.png
https://i.imgur.com/DMArxVu.png

やっぱり自分でコード掛けるようにならないとダメかなぁ

2019/02/02(土) 13:48:23.86

>>391
教師なしの分データを大量に用意するか姿勢やアングルを統一するかしないと難しいかも知れんな

2019/02/02(土) 15:58:44.14

>>398
教師データとモデルとチューニングだね
どれがかけてもイマイチな結果になる

2019/02/02(土) 16:40:42.94

難しいなw

2019/02/02(土) 16:54:12.75

>>399
裸と着衣を6000枚ずつ、正面のみ抜き出したんだ
解像度や色合いなども合わせないとダメなのかもしれないね
正直、あの作業を二階やる気力がない

2019/02/02(土) 19:59:00.46

ふーん、進化するとモザイクを消すことも可能になりそうだな。
それ以前の標準的な画像に興味があるけど。

2019/02/02(土) 20:15:32.27

>>391
4枚めの顔のオカルト臭がはんぱないｗ

2019/02/02(土) 20:41:10.93

肌色のナゾ生物が沢山

2019/02/02(土) 21:04:35.36

>https://i.imgur.com/DMArxVu.png
微小領域の構造が見えてるな
プーリングの悪影響？

2019/02/03(日) 05:59:58.23

お前らせっかく現代の最新技術を碌な事に使わんなｗ

2019/02/03(日) 12:31:54.55

エロは軍事と並ぶ人間の原動力だからな

2019/02/03(日) 12:56:06.72

>>403
ビデオだったら、ほぼ１００％に近く除去可能じゃないかな。
学習に十分でしょう。

消したところで、学習したかったのは何かという問題はある。

2019/02/03(日) 12:59:00.30

>>407-408
ほんそれ

2019/02/03(日) 13:23:54.48

昔々
VHSやBetaのビデオデッキが広まったのが
エロビデオのおかげだった

2019/02/03(日) 13:32:43.84

ハニワや子消しが普及したのもエロの力

2019/02/03(日) 13:34:31.35

おっと電マの悪口はそこまでよ

2019/02/03(日) 13:42:42.28

神保町がAIのメッカになる日も近いな
芳賀書店中心にして

2019/02/03(日) 14:03:44.84

>>411
洗濯屋ケンちゃんも見た事無いやつが偉そうに…。

2019/02/03(日) 14:19:31.41

タミヤのモーターはミニ四駆の為に発達したと信じてるぜ～

2019/02/03(日) 14:35:08.80

洗濯屋ケンちゃんは今見ると酷いレベルだゾ
現代人があれで抜くのはもう無理だろう

2019/02/03(日) 19:34:31.79

思いつきでいいから誰かネタくれー
機械学習のためにグラボ買ったけど、回してないともったいなく感じる

2019/02/03(日) 19:38:04.18

最近はフォント生成がモテてるぞ

2019/02/03(日) 20:01:48.16

>>419
おー！確かに学習素材を集めやすそうだ、ありがとう
ちょっとやってみるか

2019/02/03(日) 20:44:40.88

ここみてたら機械学習とか超めんどそう

2019/02/03(日) 21:15:46.36

実際めんどい。
これだけやればこれだけ精度出るってのは基本わからんし、かなりやってみての世界だから。

2019/02/03(日) 22:38:44.61

>>421
本気でめんどくさいぞ
技術も知識も必要な上に、素人がやってもGAFAの後追いにしかならない
ゲームみたいに素人でも時間かければそれなりに評価されるとかって分野でもない

他に特技ややりたいことがあれば、絶対にそっちやったほうが良い

2019/02/03(日) 22:59:14.75

片手間に使ってるだけだけど、正直、技術追うのも面倒くさいわ
重要論文だけ日本語解説したのを半年に一回くらい誰か送ってくれ

2019/02/04(月) 00:10:31.49

>>424
それにいくら出せる？

2019/02/04(月) 00:19:49.06

>>424 やはり身につまされて使う場面を作らないとやる気にならないな。

株の予想には使うなよ。

2019/02/04(月) 00:41:34.21

機械学習やりたいです！っていうのと、プログラミングやりたいです！ていうのちょっと似てる
どの分野のプログラミングやるかでだいぶ違うのと同じように、機械学習で何やるかでだいぶ違う

2019/02/04(月) 00:48:03.93

>>425
論文一つ500円
半年で10本かな。

2019/02/04(月) 00:51:04.42

>>417
ほんそれ
田所裕美子がギリギリセーフ
今はほんと恵まれてる
初撮るるちゃん最高

2019/02/04(月) 01:01:34.10

>>421
データ集めるのが一番面倒

2019/02/04(月) 08:00:35.80

>>426
なんで？

2019/02/04(月) 08:33:30.59

株価は後付
株価の変動だけで予測しても意味が無い

2019/02/04(月) 09:04:31.51

なら競馬で

2019/02/04(月) 09:09:14.97

競馬はニコニコがやってるね
結構勝っているようだ

2019/02/04(月) 09:18:56.98

トレーディングの場合はむしろテキストマイニング重視してる。
まだ実験段階だけどｗ
もちろん変動自体も大切だけどこっちは未来予測より現状分析的なものがメインで
機械学習は不要な気がする。
両者連動させたいなと思っていろいろやってるよｗ

2019/02/04(月) 11:08:38.76

>>391
何かに似てる気がしたがピカソの絵か

2019/02/04(月) 11:09:46.29

昨日のサイエンスZEROの
鬱病の薬探すのにML使うのって面白いな

2019/02/04(月) 12:19:40.14

GAFAの後追いでいいから、エロ系作ればユニークにはなれそう。

**デフォルトの名無しさん** (ｽﾌｯ Sd9f-iyvX) · 2019/02/04(月) 12:42:30.49

ディープラーニングの今後について教えて下さい。
これには、2つの意見があって

あくまでも機械学習の一種に過ぎず
一時的なブームにすぎない。という立場。

もう一方は
特徴表現学習が出来るのだから
言語理解まで出来て、人間のように言語理解が出来るAIが誕生する可能性。

どちらの方が可能性高いのでしょうか？

2019/02/04(月) 12:58:50.61

前者

2019/02/04(月) 13:58:39.07

>>439
今の技術じゃ前者だね
あくまでも一度に大量のデータを使って分類してるだけなので

人間のように応用までするには
全く違う設計の学習システムが必要になる
この辺はgoogleも課題にしてたはず

**sage** (ｻｻｸｯﾃﾛﾚ Spb3-9Pyw) · 2019/02/04(月) 14:51:20.28

>>439
東大受験で国語とかが比較的成績悪かったって結果が出ていたはす

**デフォルトの名無しさん** (ｽﾌｯ Sd9f-iyvX) · 2019/02/04(月) 15:11:16.24

>>442
『AI vs 教科書が読めない子どもたち』ですね。
国語は言語理解が必要なので、現状のAIでは無理だと。

でも、今のAIは言語理解ができないことは最初から分かりきっていたことだと批判がある。
なんで、東ロボくんやったのかな。

2019/02/04(月) 16:08:31.67

分かりきっていたことでもベンチマークは必要でしょう

2019/02/04(月) 16:13:11.59

人間の知能は2階建てで、いまのディープラーニングブームは1階部分に相当する。
昔、第1次AIブームの時は1階部分をすっ飛ばして2階部分(記号論理学的なところ)ばかりやっていた。
だからブームが一段落したら、二つを結合させようという研究へ進むと思う。

2019/02/04(月) 16:19:18.64

ベンチマークとして
とりあえずしゃぶれよ

2019/02/04(月) 16:21:25.66

>>422
>>423
>>430
誰かが作った学習モデルとか汎用的な学習モデルじゃ結局実運用には使えないんだよね？

これから機械学習やりたい！って奴多いけど挫折しそう

2019/02/04(月) 16:36:12.33

・金出して専門家に外注する
・専門家を直接雇う
・自分が専門家になる
このどれかでなければ実務では成功しない
一番ダメなのは専門知識無い人がお手軽AIツールとやらをポチポチやってモデル作れたぜ！というパターン

2019/02/04(月) 18:06:13.05

心配するなブームは終わっている

2019/02/04(月) 18:21:06.83

>>439
あくまで一時的なブームだからその時できなかった奴は、そのまま忘れて
出来る奴はひたすら深度を深めて、ある日突然実用度に達して特定業種の
仕事を奪い取る。
翻訳者とか会議の文字起しとか、あるいは医師の診断とか。

＞言語理解まで出来て、人間のように言語理解が出来るAIが誕生する可能性。

こんな物のの可能性はない。

◆QZaw55cn4c (ﾜｯﾁｮｲ 7f47-UFcY) · 2019/02/04(月) 19:09:08.20

>>450
＞翻訳者とか
google 翻訳の結果をみるかぎり現状は悲惨だと思います、google 翻訳による wikipedia の記事の日本語は、母語話者として全く「共感」できませんね…

2019/02/04(月) 19:11:45.84

日本語は特殊なので・・・
アメリカ・ロシア間の翻訳は凄いらしいけどね

2019/02/04(月) 19:16:46.39

>>450 あのさ、日本語を聞いて漢字の文章までかなり現実的に使える状態になってるのを知らないの？

そこまでできてるから、Siri でもAlexa でも日本人の言葉を理解してくれるんだよ。
もっとも複雑な文章を理解するにはもう少し時間がかかるだろうけど。

2019/02/04(月) 19:21:11.99

>>453
翻訳と言語理解は、かなり別の世界だと思うけど

2019/02/04(月) 19:28:03.77

言語理解AIとかまじSFの世界ですやん
AIを嫁にするやつ爆増しそう

2019/02/04(月) 19:40:51.19

別にプロの翻訳家に並ぶ必要はない
プロの仕事からの乖離が許容範囲内かどうか、コストとの兼ね合いでプロの仕事を奪うかどうかが決まる
プロの7割ぐらいのクオリティーしか提供できなくてもネットで広告収入で稼ぐ基本無料サービスなら一般には受け入れられるだろう

2019/02/04(月) 19:44:21.57

ディープラーニングの大御所が書いた

『人工知能は人間を超えるか』という本では後者の立場を取っています。

今まで人工知能が出来なかったのは、記号と概念の結びつけが出来なかったから。と説明されています。

コンピュータがデータから特徴量を取り出し、それを使った概念を獲得した後に、そこに名前を与えれば、シンボルグラウンディング問題はそもそも発生しない。とある。

2019/02/04(月) 19:45:58.56

>>449
好意的に捉えるなら、世間がディープラーニングで出来る事出来ない事を理解してきたとも取れる
エンジニアにとっては仕事しやすくなるかも

2019/02/04(月) 19:51:27.63

自然言語処理の研究者は, Deep Learning をそれほど万能にとらえていない気がする

2019/02/04(月) 19:54:07.88

>>458
世間がお前に仕事を発注し、金を払ってくれるのかアホ

◆QZaw55cn4c (ﾜｯﾁｮｲ 7f47-UFcY) · 2019/02/04(月) 20:32:03.07

>>456
＞プロの仕事からの乖離が許容範囲内かどうか
>>451
機械翻訳の出力は、現時点では私には「悲惨」な日本語としか写りません、英文和訳の授業で「日本語として共感できない訳はするな」と言われたものですが…

2019/02/04(月) 20:35:36.91

共感できなくても理解さえ出来れば十分というケースなど山ほどあるが

2019/02/04(月) 20:37:58.51

共感ごときのために数十倍・数百倍の金と時間をかけることが許されるケースと許されないケースのどちらが多いか