【統計分析】機械学習・データマイニング24

2019/05/01(水) 10:39:45.57

機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
Machine Learningを用いた論文一覧2018
https://shiropen.com/seamless/machine-learning/2018
2017年のディープラーニング論文100選
https://qiita.com/sakaiakira/items/f225b670bea6d851c7ea
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング23
https://mevius.5ch.net/test/read.cgi/tech/1551352040/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:----: EXT was configured

2019/05/25(土) 12:55:03.49

>>483
学習途中の話？予測に使うというのはモデルに入力するという意味
運用時にラベルは与えられないだろ？
教師なしは学習時と運用時で使える情報は同じだが教師ありは違う

自動車と金槌の本質的な違いは？って聞かれても答えに困るわ
逆に理論のどこを見て本質的に同じだと思うのか
用語の意味を都合よく解釈しているようにしか思えない

2019/05/25(土) 13:04:20.15

>>484
誤差の大小と損失の大小は同じなのでここではどちらでも良い

2019/05/25(土) 13:07:36.46

>>483
前から教師ありとなしの本質的な差がないと主張する人がいて、その真意を聞きたかった

例えばMNISTで教師なしで分類したとする
全部で10種類とクラスの数を固定すれば、教師なしでもおそらく正しく分類してもらえ、本質的な差がないという主張は理解できる

ではクラスの数が不明としたらどうだろう？教師なしではどんなにデータを増やしてもクラスの数が不明な限り同じ結果は得られないだろう

この辺りの説明をしないで本質的に同じと説明すると、機械学習は本質的には最小二乗法と同じと言ってしまい炎上したのと同じ危うさがある

2019/05/25(土) 13:53:46.85

元々数学的な手法がいろいろあって、機械学習の分野のやつが勝手に2つに分類しただけ。
教師有りと無しで基礎原理は大きく異なる。

2019/05/25(土) 14:05:38.03

まあ何らかのモデルの式のパラメーターを最大/最小にする問題と考えると大差はないかもしれん
正解ラベルとの誤差で式を立てるかそれ以外の式で立てるかどうかの違いでしかない
数学的に考えれば

2019/05/25(土) 14:07:27.49

？？？

2019/05/25(土) 14:07:51.79

>>489
原理わかってないの？

2019/05/25(土) 14:09:45.78

489の条件は絶対的でないよ

2019/05/25(土) 14:23:18.41

ディープラーニング使ったらCGとかも今よりずっと低コストで作れるんだろうな
個人でスターウォーズなみの映画とか作れたりとか
特に流体の表現でかなり効果を発揮しそう

2019/05/25(土) 15:42:51.81

3水準以上の多重比較検定は偶然の確率が上がるから棄却域を下げるっていうのが納得いかないんだけど
ABCの3水準があってAとBに差があるかだけが知りたい場合Cとの検定は関係ないのでは？(極論を言えばCとの検定を行わない)
どこかに差があるかを調べたい場合のみ有意水準を操作すればいいの？

2019/05/25(土) 15:49:22.03

>>489
そうだな、犬も猫も人間も哺乳類と考えると大差はないかもしれん

2019/05/25(土) 16:19:05.08

データサイエンティスト育成講座
https://www.hanmoto.com/bd/isbn/9784839965259

2019/05/25(土) 16:40:11.40

・手取り足取りデータの前処理から予測モデルの作成、チューニングまで一通り網羅
・質の良い参考書がたくさん紹介されており、これから先もある程度示してくれる
・学術書でないので、安い

欠点: いずれも入門書である以上当たり前ですが
・アルゴリズムの数学的なところはすっとばし
・実務の前処理地獄はこんなもんじゃない
・この本の内容ができる程度で「AI人材」を名乗るな

2019/05/25(土) 16:42:30.74

まず松尾豊の研究室から
論文とデータサイエンティストが生まれてから
本を出せや

2019/05/25(土) 16:45:51.62

執筆者ではない
監修ですらない

2019/05/25(土) 17:10:51.99

現在、AI事業が流行ってるわけではなく、AI事業を育成するための事業が流行中。
実績？わらわら。

2019/05/25(土) 17:21:31.34

>>494
若干スレ違いとも思うけど検定の多重性問題だね
ロジカルに考えると分かると思うよ

例えば3学級A, B, Cの算数の試験で、学級Cは他学級よりも優秀か調べたい
つまり (C > A) AND (C > B) を調べたい
検定としては(A = C) OR (B = C)を帰無仮説としてこれを棄却したい
棄却域をそれぞれ5%とすると、5%の可能性で(A = C)がFalse, (B = C)がFalseとなる
(A = C)と(B = C)の両方がFalseにならない限り、(A = C) OR (B = C)はFalseにならない
この場合はA = Cを帰無仮説とした検定とB = Cを帰無仮説とした検定の2つを行って良い

別のケースで、学級Aあるいは学級Bが学級Cよりも優秀か調べたい場合を考える
つまり (A > C) OR (B > C) を調べたい
検定としては(A = C) AND (B = C)を棄却したい
上記同様に棄却域をそれぞれ5%とすると、5%の可能性で(A = C)がFalse, (B = C)がFalseとなる
(A = C)と(B = C)のどちらかがFalseになると(A = C) AND (B = C)はFalseになってしまう
つまり棄却されやすくなってしまっているので有意水準を調整する必要がある

2019/05/25(土) 17:36:49.30

>>493
どゆふうに流体と関係あんの？

2019/05/25(土) 18:13:45.67

>>496
この本見たけど初心者には訳わからんし上級者には役に立たなさそうで何とも惜しい感じがした

2019/05/25(土) 18:20:19.51

>>502
流体の境界条件・初期条件に対する流体の解析処理結果を学習データとして使用すれば、それをもとに自動的に流体のアニメーションを生成してくれるものができるはずって意味です
今までの流体解析はスーパーコンピュータ使ったりしてすごくコスト高かったけどAI使えば低スペックＰＣでもよりリアルな流体表現ができるよねって話

2019/05/25(土) 19:52:31.11

>>501
出したい結論次第ということか

あと質問なんだけど、
前者の帰無仮説の(A=C)と(B=C)をそれぞれ棄却域5%で検定したら
全体では棄却域1-(1-0.05)*(1-0.05)=9.75%で検定したことになりませんか？

2019/05/25(土) 21:18:20.43

>>505
前者は(A=C)の検定と(B=C)の検定を合わせて全体でという考え方はしない

帰無仮説の説明からしたほうが良さそう

「Aの平均とBの平均は異なる」を検証するのに、わざわざ帰無仮説として
「Aの平均とBの平均は同じである(A = B)」という仮説をするのか？
それは「同じである」ことはケースとして1ケースしかないが
同じでないことはケースが無限に存在し検証ができない
「平均が同じ」という仮説を立てることで、現在発生している状況が
どのくらい起こりにくいことなのかを計算することができる

後者の(A = B) AND (B = C)は書き直せばA = B = Cで
これはケースとしては1ケースしかないので帰無仮説として利用可能である

しかし前者の(A = B) OR (B = C)は、片方を満たせばもう片方は無限のケースを許してしまい
これは帰無仮説として設定しても計算できない

大元の質問に戻って、ABCの3水準がある場合にCの検定をする必要がないのでは?
という質問については、帰無仮説として「A=B=C」が設定できないのであれば
当然多重比較検定の前提条件を満たしていない

2019/05/25(土) 21:54:09.32

>今までの流体解析はスーパーコンピュータ使ったりしてすごくコスト高かったけどAI使えば低スペックＰＣでもよりリアルな流体表現ができるよねって話
ありえねーわ。
微分方程式の数値解求めるアルゴリズムと
補間曲線フィッティングするアルゴリズムは目的も用途も別。

ちなみにＣＡＥとＡＩは相性自体は良い。
ＣＡＥはデータを無限に生成できるからな。
昔からアンテナシミュレーションソフトに最適化っていう機能あって
古い機械学習アルゴリズムがついていたりした。

2019/05/25(土) 22:17:07.06

>>506
同時にfalse positiveが発生しない限り間違って棄却されないから問題ないってことか

2019/05/26(日) 02:54:23.04

>>507
AIを使った流体のCG表現が不可能である理由はなに？
人間には手書きで流体のアニメーションを書けたりするけどAIには無理ってこと？

2019/05/26(日) 15:06:35.97

>>509
今ゲーム業界はレイトレーシングだなんだと騒いでるけどこの技術が確立されたらより現実と見分けがつかないグラフィックのゲームとかできそうだね

2019/05/26(日) 15:41:51.01

sim2realとか使って荒いシミュレーションで大雑把なグラフィックを作ってAIでリアルに仕上げたりできそうだね

2019/05/26(日) 15:43:31.27

今の機械学習では仮説形成と演繹ができないと言われているが
仮説と演繹と帰納を識別できる判別器を作れないものなの？

2019/05/26(日) 15:49:47.77

演繹しまくりじゃね

2019/05/26(日) 16:06:05.73

>>512
×機械学習
〇深層学習

2019/05/26(日) 16:07:30.86

分類としては3つしかないけど難しそうだね
--(帰納)-->(仮説)--(演繹)-->

ループとかも問題になりそう

ニワトリ → 判別機 → 卵の演繹です！
卵 → 判別機 → ニワトリの演繹です！

2019/05/26(日) 18:28:41.21

必要か？

2019/05/26(日) 19:59:54.33

>>514
ニューラルネット自体が関数近似器でしか無いから根本的に厳しいような気もする

2019/05/26(日) 20:03:16.17

その手のことは組合せ爆発を伴うから
機械学習で連続的な取り扱いで楽することが流行っとるわけよ。

2019/05/26(日) 20:05:37.77

というか演繹って機械学習と真逆の考えだからなあ
出発点の事実から論理をどう組み上げるかだから学習の余地は無くて、組合せ最適化あたりだろうか

2019/05/27(月) 01:28:00.88

学習した識別器をつかって答えを予測することは演繹とは少し違うのかな
そこら辺の概念的なことをよく理解できていない

2019/05/27(月) 05:32:58.30

バックプロパゲーションについて勉強してます
https://qiita.com/43x2/items/50b55623c890564f1893
このページの式13.14.15に突然yって出てくるんですがこれはどういういみですか？
何故ここでyが出てくるのかわかりません
どなたかわかりやすく教えていただけないでしょうか？

2019/05/27(月) 07:48:28.29

>>521
(9)式の y のことだよ。(10)式の微分を考えると出てくる。

2019/05/27(月) 07:54:02.92

>>522
なるほど！ありがとうございます

2019/05/27(月) 11:50:06.57

初歩的な質問で申し訳ないのですが
2値分類の評価指標に関して教えて下さい
accuracyはデータが偏ってる場合には適さないという理由は理解できました
データの割合が均等な場合（正常50%　異常50%）の場合でもaccuracyは評価に適していないのでしょうか？

2019/05/27(月) 13:29:27.61

>>524
例えば犬と猫の写真があって
犬の写真を犬と判断 TP
犬の写真を猫と判断 TN
猫の写真を猫と判断 FP
猫の写真を犬と判断 FN
Acc = (TP+TN)/(TP+TN+FP+FN)
だから、TPとTNは式の形から全く等価
犬を猫と判断しまくってもOKなの？
あなたのやりたいことがOKなら使ってもいいし
NGなら別の指標

2019/05/27(月) 14:54:42.55

思いっきりミスってた
こういうのは犬とか猫より正常、異常のが間違いがないな

正常な写真をX枚、正常を正常と判断する確率をα
異常な写真をY枚、異常を異常と判断する確率をβ
とすると、それぞれの枚数は
TP = αX
TN = βY
FN = (1-α)X
FP = (1-β)Y
Acc = (αX + βY) / (X + Y)
仮にXとYが同じ枚数ならX=Yとして(α+β)/2
偏りがなければ使っても良いかといえば、αとβを等価に扱って良ければOKだし、等価に扱えないなら別の指標

2019/05/27(月) 17:23:55.48

>>526
とても分かりやすい説明ありがとうございます
正答率は説明頂いた特徴があり、それでも参考書や記事などで正答率を算出する事が多いのは単純に説明がしやすいからでしょうか？

2019/05/27(月) 17:28:43.12

タスクとエラーのリスクに応じて個々で検討すべき事柄だから
大体は省略されてる

2019/05/27(月) 18:05:50.75

機械学習にしろディープラーニングにしろデータを元に「学習」するわけじゃないですか
でその「学習した結果」に新しいデータを通すとそのデータに対応する答えを「結果」が弾き出しますよね
このときの「結果」って一体なんなんでしょうか。小人さんがマシンの中にいるわけでもなし
パラメータがx1x2...xnってあったときに結果としてf(x1, x2,....xn)な関数が生成されるみたいな理解でいいんでしょうか？
もしそうならその関数が実際どんな数式？なのか見る術はありますか？kerasで勉強しています

2019/05/27(月) 18:22:40.43

補間

2019/05/27(月) 18:24:14.91

一回単純なモデルでいいからライブラリ使わずに実装してみるといいよ

2019/05/27(月) 18:57:20.00

補間だが演繹

2019/05/27(月) 19:00:05.40

あー、今日も仕事終わった
だりィ、
データ分析やらせろボケ上司！
書類仕事はイャダ－！

2019/05/27(月) 19:02:36.82

データ見せる為のWebUI作ってる。書類よりはマシだな

2019/05/27(月) 19:12:00.16

>>529
簡単な最小二乗法を試してみるといい
エクセルでできるから

2019/05/27(月) 19:20:32.76

AI人材って普通に理系なだけだな
騒ぐほどのモンではないと思うけど、文系を引きずり下ろせるチャンスなわけだ

2019/05/27(月) 19:59:53.30

データサイエンスで経営戦略方面から射撃
AIエンジニアリングで花形現場からの射撃で十字放火や

2019/05/27(月) 20:01:57.78

それを安く使い捨てたいから文系様がAI人材量産計画を叫んでいるのが現状

2019/05/27(月) 20:01:58.26

いや、sum関数やvba位の位置づけになるかと

2019/05/27(月) 20:10:01.28

計算資源ドカ食いするExcelやでぇ

2019/05/27(月) 20:12:55.37

エクセルの最小二乗法は怪しくなかったか？

2019/05/27(月) 20:23:42.82

>>529
イメージとしては間違ってないと思う

kerasならmodel.layer[i].get_weights()で重み取れるから見ることはできるけど意味はないかな

AND OR XORくらいなら重み見て頑張れないこともないが

2019/05/29(水) 21:10:53.74

パーセプトロンの勉強してる
分類問題なら出力層は当然その分類する項目の数になるだろうとは思うのね。0から4を判別するのに学習データのラベルが[0 0 1 0 0]みたいな
んで回帰問題の出力層のノードが複数になるケースってある？住宅価格予想みたいに答が一つに定まるのが回帰問題だから当然出力層はノード一つだよなとか思ってたんだけど
なんかそうじゃないっぽい？

2019/05/29(水) 21:13:20.60

>>543
勉強にお勧めの書籍やサイトはありますか？

2019/05/29(水) 22:11:55.58

「15分後の株価」と「30分後の株価」とか

2019/05/29(水) 22:17:48.69

>>545
株価予想って機械学習で一般人でできるのかね
どれだけ質のいい情報が入手できるかのほうが重要そう

トランプのツイッターが原因で中国の株が乱高下してても中国の個人投資家はなんで相場が動いてるのか分からんかったとかいう話聞いたし

2019/05/29(水) 22:32:21.01

株価って突発的な出来事の影響が大きそうだし予想できるもんなんかね

2019/05/29(水) 22:32:43.30

>>543
銀行1の株価、銀行2の株価、とか？
同じ業種の株価は連動するから、入力も出力もグループ化するよ

>>545
個人でも儲かる方法はあるよ
詳細は言わないけど、どうしても大手とは違うやり方になる

2019/05/29(水) 22:36:38.33

>>546
中国株触るのにトランプの動向チェックしないなんてありえないから
たぶん中華投資家は情報統制食らってるんじゃないかな。

2019/05/29(水) 22:37:08.35

>>547
予想というより結果を大事にする
ボラティリティ(分散)はGARCHでかなり上手くモデルに当てはまる

ボラティリティが予想できるなら、オプションで儲けられるはずだけど、そもそものオプション価格がそれを見越した価格設定がされていて手数料負けする

なので違うやり方になる

株価自身の予想は統計的には予想できないことになっている

でも、儲ける方法はある
こんな感じ？

2019/05/29(水) 22:38:46.58

株価は短期なら意外と当たるんだが、
たまに来る、予想と違う方向へどかんと動いて固定
これが怖い。大体これにやられて退場する人が多い
最近だとリーマンショックとか。

2019/05/29(水) 22:42:11.57

あまり儲からないけど、ほぼ確実なのは鞘どりだね
連動する株価を反対売買する
これは機械学習するまでもなく従来の時系列データ解析で十分できるけど、今なら機械学習で簡単にできるよ
この方法は手数料がとにかく安くなるようにするのがポイント

2019/05/29(水) 22:53:33.08

>>549
中国国内からは通常の方法ではtwitterとかgoogleとかyoutubeとかは見られないらしいよ

2019/05/29(水) 23:20:45.39

VPNで何とでもなりそうだけど、どうなのかね

2019/05/30(木) 06:16:41.72

vpnでどうにかなった

2019/05/30(木) 09:08:02.19

機械学習で株価って、ずいぶん前からやられていることだから
結果については、その人の力量次第

2019/05/30(木) 10:22:31.99

>>551
それでも儲けるハゲタカ

2019/05/30(木) 10:44:39.22

株価の予想に頼らない売買法さや抜き。

2019/05/30(木) 14:38:28.57

>>558
株であれば会員業者
為替は取引業者じゃないと
手数料の関係で儲けるのは大変難しい

2019/05/30(木) 19:09:07.15

transformerてcnnなの？

2019/05/30(木) 19:20:01.02

>>543
出力5通りしかないなら3bit出力でもいけるはず

2019/05/30(木) 19:52:55.23

2進数表現は分散表現だから個々のbitに意味がない限りone-hotの方がいい

2019/05/30(木) 20:41:03.18

人間の脳だとどっちなんだろ

2019/05/30(木) 20:45:39.63

理論上はデルタヘッジしときゃ儲かるんでないの？

2019/05/30(木) 22:19:08.77

>>564
鞘どりと同じで枚数を多く買って微調整が必要だから手数料負けする
デルタヘッジは相場が動けば儲かるように書かれてるけど、実際にやると始値終値で仕掛けない限り理想の価格で買えない
あとデルタ調整を毎日できるマメな性格と、急激に動いた時に即座に対応できる暇人の能力が必要になる

2019/05/30(木) 22:57:28.17

>>565
なるほど。
>実際にやると始値終値で仕掛けない限り理想の価格で買えない
この視点は完全に抜けてたわ。

2019/05/31(金) 08:33:35.49

TJOの本名ってなに？
著書を読みたい

2019/05/31(金) 08:56:09.46

>>566
俺は違う考え方。
予測と売買手法はペアで考えるべきと思います。

というか関係深いので、
予測手法と売買手法の
適切な組み合わせを
模索すべきでしょう。

使ってるデータも予測手法も明らかにしてないのに
始値と終値が理想と言われても
ピンときません。

2019/05/31(金) 09:50:20.29

板情報も予測に含めるのは、出来たらいいけどデータ集めが無理そう

2019/05/31(金) 12:06:44.13

ステップ関数で閾値を超えたら1超えなかったら0
閾値を移行して+b=-thresholdでバイアスに置き換えると計算楽でなるほどー
とか思ってたんだけどさ
シグモイドなんかだと断絶してないじゃん。どの値入力されても連続的に出力されて閾値無いじゃんと思うの
んで閾値が無いなら上の定義からバイアスも無いんじゃね？って思うんだ
バイアスってなんなんだろう閾値じゃないんか

2019/05/31(金) 12:25:46.27

シグモイドが0.5を超えるかどうかが境目じゃね

2019/05/31(金) 13:41:13.67

>>568
予測と売買手法はデルタヘッジという言葉に含まれていて分離されているわけではないよ
デルタヘッジは売買手法のことで、ボラが大きくなることを予想した場合にとる手法のこと

理想価格というのは、検証に使った価格と同じ価格で売買できるかという事

2019/05/31(金) 20:08:15.95

【機械学習】株価予測
https://mevius.5ch.net/test/read.cgi/tech/1540525018/

過疎ってるこっちを使ってやってくれや

2019/05/31(金) 21:03:34.70

少なくとも今はボラティリティーはかなりでかい相場と見ていいだろう。
これでボラティリティー低いとか言ったら安定とはとか思い出すわ。

2019/06/01(土) 00:21:56.03

>>573
めっちゃ過疎ってたw

2019/06/01(土) 09:12:18.05

正直株価予想興味ない

2019/06/01(土) 11:05:39.49

こんな素人レベルの考えで株価予想できるなら当然世界中の投資家が既にやっていて多額の金が動いている
そうすれば上がりそうなら買い、下がりそうなら売りが即座に入るので結果的に株価の変動がほぼなくなる
現状そうはなっていないので誰にもできていないということ

2019/06/01(土) 11:41:45.97

今は予測どうこうより
他人より早く変動をとらえて
差額をかすめ取る方が勝つ
だからFPGAが流行る

2019/06/01(土) 14:42:54.57

AIも結構負けてるらしいけどね

2019/06/01(土) 16:20:19.02

>正直株価予想興味ない
そこだよな
技術者って株やってるやつがそもそも少ないんだわ

2019/06/01(土) 16:30:05.62

取引用のAPIとか流行ってないのもあると思うけど

2019/06/01(土) 17:34:56.30

>>581
GMO証券が昔やってたけど、プログラマーが業者間アービトラージやりすぎて禁止にしたんだわ

同じUSDJPYでも業者間で開きがあってね、でも基本は同じ価格だから監視して反対売買するだけでノーリスクだったんだ

そしたらシステムの不備をついての取引はなかった事にするって決められて取引ノーカン、待て待てお前らもシステムの不備で個人に損失押し付けてるだろってなって、GMOがめんどくせ、でAPIごと無くなったw

2019/06/01(土) 17:38:45.74

GMO API懐かしい。
なるほど、そんな裏話があったとはｗ

2019/06/01(土) 18:51:47.90

「手を動かしながら学ぶビジネスに活かすデータマイニング」尾崎隆

禿げてるくせにアイコンではドフサなのなw