【統計分析】機械学習・データマイニング22

2019/01/13(日) 09:13:37.19

機械学習とデータマイニングについて語れ若人

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング21
https://mevius.5ch.net/test/read.cgi/tech/1541309676/

VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured

2019/02/20(水) 18:44:18.06

>>786 それはニーズ、仕様、マーケットがわかっていないからだろ。
何を作るか解らないで闇雲に使える物を使ってもとんでもないものが出てくるだけ。

ソフトで一番難しいのは、ユーザー／マーケットが欲してるニーズを理解すること。
マーケット、ソフト、ハード全ての世の中の融合が理解できないと難しいと思うよ。出来るだけ広い目で見ること。

2019/02/20(水) 18:50:48.29

EXCEL,VBAをpythonやRで駆逐してくれるだけでも有り難い

2019/02/20(水) 18:52:24.10

CAE系の数値積分をVBAでやる人がたまに居て涙目

2019/02/20(水) 19:12:10.39

だってvbaでできるから・・・
この、vnaでやろうと思えばできるけど、Rだと数秒だよ
みたいな指針ってなんとかならんかな

2019/02/20(水) 19:16:11.03

みんなはRもpythonも両方使えるの？
統計の勉強も兼ねてRやってみようかな

◆QZaw55cn4c (ﾜｯﾁｮｲ 5f47-acBj) · 2019/02/20(水) 19:41:40.97

>>769
高校の数Ⅲ＝微分積分、の教科書は役に立ちます
ちまたの微分積分＝解析学、の教科書は、どうでもいい実数論やεδ論法にページ数を割いていますが、これは我々には不要
となると、高校の数Ⅲ＝微積分の教科書は、微分方程式まで含んでいて実にバランスがいい

そういう視点で数学の教科書を選んでみてください
私としても、無駄に基礎論に勢力を使わない微積分の教科書を探しています、今読んでいるのは https://www.amazon.co.jp/dp/B000JA1WKI

2019/02/20(水) 20:11:03.36

RやるくらいならMATLAB買った方がいいよ
特に学生なら格安で買える

2019/02/20(水) 20:17:05.30

新★銀行の充実担保人生のCMがキモすぎる

2019/02/20(水) 20:34:19.82

>>791
今勉強中でそこまで使いこなせてはいない
ただ、vbaがアホらしくなる処理が色々あるな、というのは分かる

2019/02/20(水) 20:48:37.10

そう言えばoctaveはこのブームに乗ってないのね

2019/02/20(水) 21:23:39.58

>>792
εδや実数論は、機械学習の基礎理論を理解するためには必須だけどね
そして、いまの高校数学には微分方程式は入っていない

◆QZaw55cn4c (ﾜｯﾁｮｲ 5f47-acBj) · 2019/02/20(水) 21:40:45.51

>>797
＞高校数学には微分方程式は入っていない
！？！これは驚いた！
微積分の一番おいしいところが入ってないなんて、文部省はいったいどうしちゃったんでしょうか？

2019/02/20(水) 21:43:29.90

機械学習の基礎でεδも実数もいらない気がするが
微分方程式を解く必要があるとしても自力で解く必要もないだろ
たとえばどこで決定的にεδがいるんだ?

2019/02/20(水) 21:45:38.77

>>798
おまえさんJRのこと国鉄って呼ぶだろ

2019/02/20(水) 21:51:59.81

>>799
>>797 では「基礎理論」と言っており、これは「入門」を指していない
Pythonのライブラリを使って機械学習させるだけなら、もちろんそこまでは必要ないよ

しかし、機械学習の手法を新たに開発しようと思ったら
数理統計学や多様体の知識が必要になるのだが、
そうなるとεδや実数論がわからない人にはまず無理
数理統計学だとルベーグ積分が必要になるしね

2019/02/20(水) 22:24:02.54

https://headlines.yahoo.co.jp/hl?a=20190220-00000102-zdn_n-sci

2019/02/20(水) 22:26:40.48

微分積分と線形代数は大事だねぇ

大学一年生のときにはそこまで大事だと思ってませんでしたすみません

2019/02/20(水) 22:27:30.98

『浅い』『深い』
何い言ってんだこいつら？

2019/02/20(水) 22:29:22.22

くっだらないラベリングに何工数かけてんだか

2019/02/20(水) 23:22:15.35

>>793
Matlabはとてもいい商品ではあるが個人の趣味には高すぎるよ
自動車産業とか行くなら損はないけど、機械学習と統計やるのならPython極めた方が有益
あとRとMatlabは得意分野が異なるので、統計の勉強するならRだけれども、じゃあ産業で使うかと言ったら研究者レベルでしか使わなくて、SPSSとかSASになる

2019/02/20(水) 23:32:32.66

>>804
検索してみたけど誰もそんなこと言ってないぞ

2019/02/20(水) 23:36:54.87

Matlabプライベートで買う人とかおるの？
いたとしても既に専門家な人だろう
Rは参考書はよく出てるよな

2019/02/20(水) 23:38:45.42

賑わってるなー

2019/02/20(水) 23:45:07.50

>>807
>>802 の記事のことかと

2019/02/20(水) 23:53:38.68

numpyとかpandasはみんな自信ある？
あれやりたいなって思っても覚えれないし調べないと全然使えない
改めてちゃんと勉強した方が良いのかな

2019/02/21(木) 00:09:21.72

>>810
ありがとう
DLの根幹は最小二乗法だけど、パラメータの最適化、モデルの構築を考えればもうそれだけじゃないね
深い関数ってのは要するにモデルの事だと思うけど、
deeplearningのdeepに引っ張られすぎな命名と思う
LSTM、RNN、GANとそれぞれ計算方法や特徴が違う、とそのまま言えばいいんじゃないかな
ただ、これらを総称するわかりやすい言葉はないね。モデルが違うとしか・・・

>>811
一通りAPIを読んで億ぐらいで良いと思う
いずれ本気で使うか、読む時が来る

2019/02/21(木) 00:36:23.61

例のディープラーニング協会の人だし一般人が分かった気になる説明（合っているとは言っていない）をしたいのだろうよ

2019/02/21(木) 00:38:45.49

一般人にDLを正確に伝えるのは無理

2019/02/21(木) 00:41:13.02

matlabは色々やりたいことが増えるとtoolboxどんどん買わないといけなくなって大変
コスト度外視すれば使い勝手は申し分ない

2019/02/21(木) 02:43:35.30

matlab学生ならツールボックスいろいろセットで1万円で買える
データの前処理とかはこっちでやった方が楽なこと多い
モデルに前処理も組み込むなら別だけど

2019/02/21(木) 08:24:37.70

>>791
R、Pythonなど使ってきたけど、自分はRをメインにしてる。
有料ソフトは家で試したりできないし、環境が変われば使えなくなる可能性があるから避けてる。せっかく勉強した内容や作ったツールが無駄になるのがこわい。

2019/02/21(木) 09:58:31.62

造語はなるべく非難推奨

2019/02/21(木) 09:58:40.83

ＱＺは爺であることがわかったｗ

2019/02/21(木) 10:53:27.68

須山はなんでknnやsvmを毛嫌いするの？

2019/02/21(木) 12:58:02.52

>>820
単に、その方が知りたいことと（彼の目的）と異なるだけでしょう。
どういうことやってる人なの？

2019/02/21(木) 14:13:52.21

急に名前をだしてdisるやつ、おさっしレベル

2019/02/21(木) 20:38:01.40

今日はpandasの勉強します
業務上JSやらVue.jsやらDBとかその他諸々勉強しなきゃいけないこと山積みだけど僕はpandasを勉強します
そんなこと無駄だぞって言わないでね

2019/02/21(木) 20:44:01.11

pandasはUenoが本場

2019/02/21(木) 20:44:14.25

無駄だ

2019/02/21(木) 20:49:18.53

人工衛星が撮影の画像誰でも無料で利用可能に
https://www3.nhk.or.jp/news/html/20190221/k10011822701000.html

色々面白い遊びに使えそうだけど良いのが思いつかない

2019/02/21(木) 21:28:39.53

安倍政権の一つの政策として、どんどん、国が持っているデータを公開して、
利用してもらおうという流れになってるんで、その一貫でしょうね。
ちなみに、今回の統計データ問題も、その一環でデータを精査していた中で
どうも結果と整合性がとれていないという指摘がでて初めて表に出てきたもの。

その面では、安倍政権じゃなかったら、ずっとそのまま闇の中だった
可能性が高いんだよね。

2019/02/21(木) 21:42:45.12

ここの人は統計の基本的な知識は持ってるんだね
モデルを作るのには必要ないのかもしれないけどデータ分析するならやっぱり必要なんだろうな

2019/02/21(木) 21:48:03.40

必須です。
モデルを作る場合でも、必要なデータがすべて量があるとは限らない
その場合は、分布を仮定したモデルを組み込まないと満足な結果が
得られない。

本格的に取り組んでいる人は必ずやっているが、ここのほとんどの人は
やってないんだろなと思ってる。

2019/02/21(木) 21:56:22.20

持ってるわけがない

2019/02/21(木) 21:58:30.07

統計って言ってもいろいろあるけど

2019/02/21(木) 22:02:56.72

>>827
前から出しとるわ。
本当に安倍関係はさらっと普通に嘘つくからな。本人と同じで。

2019/02/21(木) 22:12:31.92

＞前から出しとるわ。

具体的に行ってみて。
うそでしょうけど。

2019/02/21(木) 22:20:32.60

>>826

だっっっっっっっっっっっっっっっさ！！！！

https://www.tellusxdp.com/ja/

もう一回言う
だっっっっっっっっっっっっっっっっっっっっっっっっっさ！！！

2019/02/21(木) 22:22:07.49

統計的な知識っていうのは特に推定するところと分散の最適なクラスを抽象化するのに必要な知識ってことで合ってるかもしれないよな

2019/02/21(木) 22:27:33.54

>>833
具体的に安倍政権以前に出てなかったソースと
安倍政権下で出てきたソースを出してみて。
そんなものはないのでこっちとしては指摘できることがない。

2019/02/21(木) 22:28:36.49

>>836
？？？

2019/02/21(木) 22:32:29.01

自分でしらないこと、分らないことを批判するのはだめだよ

2019/02/21(木) 22:33:26.54

>>836
落合公園中心の写真だ
別に意味ない話だが

2019/02/21(木) 23:29:43.30

オントロジー定義したりしてるんか。安倍ちゃん

2019/02/21(木) 23:53:14.24

ディープラーニングなんて単なる最小二乗法だろ

2019/02/22(金) 01:10:51.83

コスト関数を変えたらディープラーニングじゃなくなるのか
知らなかった

◆QZaw55cn4c (ﾜｯﾁｮｲ 4a47-nB9s) · 2019/02/22(金) 01:19:40.52

>>820
ジジイ、ジジイか？
それじゃお前は何だ？このガキが
俺は、お前さんがこの世に落っこって来る前から、バグつくってんだ

2019/02/22(金) 07:44:29.94

>>829
素人過ぎて申し訳ないんですが統計解析したものをモデルに組み込むっていうのがよく分からないです
>>その場合は、分布を仮定したモデルを組み込まないと満足な結果が
この辺の話は元データを統計手法を用いて改良したものを入力っていうか訓練データにするってことですか？
初歩的な質問ですいません

2019/02/22(金) 09:57:40.24

使う手法により異なるけれど、訓練データにするのではなく（もともとないから）
主としては別途アンサンブル的な形になるでしょう。ディープラーニングなどでは
この形は難しいので、適用する対象にによって手法そのものを分ける必要があると
思う。ただし、そんなことやりたくないから、一発手法を求めているのはわかんだ
けど、実場面では一発手法は現時点では難しい。ただし、何もやっていなかった
ところでは、何やっても過去より楽になった、良くなったという見方をしてしまう
ことが多いみたいね。

2019/02/22(金) 12:19:25.40

囲碁AIブームに乗って、若手棋士の間で「AWS」が大流行　その理由とは？
https://www.itmedia.co.jp/enterprise/articles/1902/22/news006.html

2019/02/22(金) 15:19:05.65

>>826
＞人工衛星が撮影の画像誰でも無料で利用可能に
＞https://www3.nhk.or.jp/news/html/20190221/k10011822701000.html
＞
＞色々面白い遊びに使えそうだけど良いのが思いつかない

これ画像データダウンロードはできないっぽいけど
Jupyter Notebookから画像ファイルとして
普通に扱えるのかな？

2019/02/22(金) 15:28:33.67

>847
全然扱えない
※1：1ヶ月稼働が無ければ、利用を停止させていただくことがあります。
※2：申込の混雑状況によりすぐにご提供できない場合があります。
※3：上記メニュー以外のご利用の仕方についてはご相談ください。
※4：商用利用については別途サービスアグリーメントが必要になります。お問い合わせください。

2019/02/22(金) 18:20:06.17

サイトを見たところ、さくらクラウド上に専用のアプリケーション環境が構築されてあって
ユーザーは、専用アプリを使って画像解析を行う。デベロッパーはさくらクラウドの
環境上で動作するJupyter Notebookを使って画像解析アプリを構築できるみたいな。
あと、これ以外にさくらクラウド上のサーバーにアクセスできるルート権限を付与する
使い方というのがあり、この場合には直接画像ファイルを触れるかも。ただし、ルート
権限サーバーについては要相談と書かれており、多分、初年度からさくらクラウドの
サーバーの実費費用は徴収されると思う。多分、ルート権限は経済産業省で具体的な
商用化の可能性があるかも審査される気がするから遊びではだめかと。
https://www.tellusxdp.com/ja/dev

2019/02/22(金) 18:33:04.83

>>849
うーん・・・なんかこう、日本って一歩古いんだよなぁ
全部自由にさせて、そのノウハウを吸い上げるというやり方が全くない
ノウハウを吸い上げる能力が無いんだろうけど、あまりに残念すぎる

2019/02/22(金) 18:38:44.69

>>850
自分がタダで使いたかっただけでしょ・・・

2019/02/22(金) 18:50:53.32

地球観測衛星のデータは大別すると光学画像と合成開口レーダーデータに分けられる。
光学カメラ画像はJPEG2000形式が使われていて、データサイズが異常なほど巨大。
レーダーのデータは数値データファイルで、形式変換しないと見れない。多分、かなり
制約がありすぎて普通に提供しても商業利用的には普及しない可能性があるので、環境
を整えて提供することにしたのかと。普通、機械学習で画像データの自動分類を行うに
は256x256に縮小して、学習にかけるようなことを行うが、素のJPEG2000のデータを
縮小させると、細かいデータが欠落して意味をなさなくなる。かといって、縮小をかけない
で256x256の区画に分割するとデータ総量が多くなりすぎて本格的なGPUスパコン並み
の処理能力が必要となる。結果的、普及にはどれも問題があって、最終的にたどり着いた
のが、上の方法なのではないかと推測。あと、余談だけど、Googleがやってた国防総省
の衛星画像解析AIシステムの場合、教師データの作成を時給1ドルで外注に出してた。

2019/02/22(金) 18:54:24.56

>>851
タダというか、手軽に使いたかった
今出回ってるデータセットって基本無料だから、今更こんなめんどくさい事されても困るんだわ

2019/02/22(金) 19:54:41.00

お手軽ならば
今後の地価変動をやってみたかった
道路とか鉄道とかの写真データから地価予測
でも使い物にならないならクソだな

2019/02/22(金) 20:21:11.35

須山さんはtwitterで見たんだけど
ベイズの人で

svmが許せないのかなと

2019/02/22(金) 20:45:16.77

単純に考えるとそうなんでしょうが、なぜそれではだめかという
本人のたる理由を知りたいですね。
というのは、その下で学ぼうとする学生にとって、その理由がはっきり
していないと、選択対象にすべきかどうかが判断が付かないので。

2019/02/22(金) 20:52:01.01

ならば本人に聞きに行けばいい

2019/02/22(金) 20:59:29.91

知りたいだけで、聞く気はない
自分で必要ないから

2019/02/22(金) 23:45:00.86

その下で学ぼうとしている学生ではなかったのかよ

2019/02/23(土) 01:51:44.83

>>844
ここで言いたいことは、機械学習学習のモデリングのことではないかな

明らかに正規分布に従わない分布に、正規分布を仮定したモデリングをしても得られる結果は間違っている
同様にベイズ推定系の学習では、共役となる事前分布やハイパーパラメータを適切にえらばないと変な答えを出す

他にもコスト関数に尤度に加えてL1,L2の制約条件を加えたり、さらに追加でスパースネス項を追加したりする場合には、収束条件を満たすかどうかなどが重要で高度な数学の知識がいる

深層学習でKeras等で畳み込みやニューラルネットワークをレイヤとして並べ換えるだけなら統計も数学も要らないが、どういうときにどんな活性化関数を使うとか、どんな損失関数を使うかなどは統計の知識ががあった方が理解は早い

2019/02/23(土) 02:27:57.03

>>854
衛星画像データは実際のところはエリアは広いが解像度は低い。Google Mapで
衛星画像と表示されてる高解像度画像は、実際は航空写真を使ってる。地球観測
衛星は極軌道を回っているため、同じ場所を撮影する頻度も月単位で、実際には
かなり制約が多い。このため、最近はベンチャー企業が数十機のマイクロ衛星を
打ち上げて、1時間間隔で同一スポットを撮影するといったサービスを開始してる。
この場合、リアルタイムに近い定点観測が可能になるため、交通量の測定とかも
可能になる。ただ、マイクロ衛星の光学機器の解像度は５メートル位とかなり荒い。
一方、Digital Globeの衛星画像とかは、解像度が30センチ前後もあり、軍事偵察
衛星並みの解像度をもってるが、撮影頻度に制約がありリアルタイムの定点観測
とかは無理。また、衛星画像の最大の難点は、曇りの日は地上の撮影ができないこと。
開口レーダーを使えば撮影可能だが、解像度は悪すぎて、地上の物体の精密観測
には使えない。最近の流行は、自動車にLidar乗っけて、地上から3Dデータの取得
を行い、その3Dデータに航空写真のデータをテクスチャーマッピングして、超高
精度地図を作るというやり方。この場合、自動車には光学カメラとWiFIアンテナも
搭載して、同時に住所表記とIPシグナルも記録して、ありとあらゆるデータを地図連動化
してる。

2019/02/23(土) 07:24:07.29

地図作りや、位置などの把握等につては、どなたでも考え着くことで
ず～っと、地図以外の利用についてのヒントを追い求めてきていると思う。

地下資源や農産物生育状況などへの利用などはあるが、もっともっと新たな
利用方法の発見を期待しているところがあるんじゃないだろうか。

少し、地図から離れて、新たな利用を考えてみようよ

2019/02/23(土) 07:31:16.91

計算機科学は医学より難しいですか？

2019/02/23(土) 08:17:46.39

質問が難しいかも
言われている医学を医者が行うと位置付けると、まず医者にならないと
いけないから、そりゃ大きな壁があるよね。
そう考えなかったとしたら、医者以外も医学の道はあるのでそうも言えない。
この場合、計算機科学も医学もどちらも学ぶことは自由。

医学は、分らないことが山ほどあるし、研究・調査するのに事欠かない。
その中には計算機科学の活躍の場もある。

ってことは、どうやって比べたらいいか、比べようがなさそう。

2019/02/23(土) 08:44:25.25

PCで書いたりスマホで書いたり、ずっとこのスレ見てるのか？

2019/02/23(土) 09:52:02.32

LSTMによって、RNNは廃れたのでしょうか？

2019/02/23(土) 10:04:15.64

>>864
それ、どこのスレにも出没して似たような質問を繰り返すだけの構ってちゃんだから、まともに答えてもあなたの大切な時間を無駄にするだけだよ

2019/02/23(土) 12:50:40.51

雰囲気で keras を使っているが、
loss が nan になる理由が全くわからないぜ…
ちゃんと勉強しないとダメだな。

2019/02/23(土) 13:47:22.69

https://twitter.com/napman1/status/1099097584113614850

Kotaro Nakayama / 中山浩太郎 @napman1
東大松尾研・iLect・東大先端人工知能寄付講座が共同で実施していたDeep Learning講座「DL4US」のコンテンツを無償公開しました。
のべ3,800名以上の方から応募を頂いておりました。
9:04 - 2019年2月23日
https://twitter.com/5chan_nel (5ch newer account)

2019/02/23(土) 13:49:07.74

強化学習の state-value の式について質問です。
スレチでしたらご指摘ください。

「Reinforcement Learning: An Introduction」のPDFを読んでいます。
http://incompleteideas.net/sutton/book/the-book-2nd.html

59ページ目にstate-valueが自己再帰の形で表せる事を示した式がありますが、
この式の2行目から3行目に式変形できる理由が分かりません。

角括弧の中の Rt+1 が r になるのは分かるのですが、
なぜ Gt+1 が Eπ[G+1 | St+1 = s'] になるのでしょうか。

この辺りのことを説明したwebページや書籍の紹介だけでも構いません。

2019/02/23(土) 16:12:58.09

P.48
P.55
P.73-75

2019/02/23(土) 16:17:04.74

>>866
Clockwork RNNとかなら

2019/02/24(日) 07:39:09.59

lstmもrnnでしょ？

2019/02/24(日) 09:50:14.35

RNNというのは過去の出力をその後の入力に使うという程度の意味しか持たないのでLSTMもその一種

2019/02/24(日) 19:07:02.66

>>874
IIRフィルタと何が異なるんですか？

2019/02/24(日) 19:44:24.06

AIに星新一のショートショートを書かせるプロジェクトがあります。
https://www.fun.ac.jp/~kimagure_ai/

仕組みは、人間が事前にストーリーを作って
AIが特定の部分の単語を穴埋めしていく感じだそうです。
全てAIが作ったわけではないし、こんなのは創作ではないと思うのですが。

疑問なんですが、なぜLSTMを使わないのでしょうか？

2019/02/24(日) 19:46:18.85

星新一好きだけどこんな形で出生するとは思わなんだ

2019/02/24(日) 19:49:54.53

>>876
創作がどこからどこまでなんて誰にも決められないよ
AIがサイコロだとどうか、虫に効けばどうか、ファンの小学生なら、成人なら、じゃあ編集者なら
何がどうって、面白ければいいんだよ
実は今はちょっとずるい世代で、「AIが作ったものを読んでみたい」という欲求がたくさんある
だからAIがどんな物語を紡いでも、多数の人は面白いと感じるのだ

2019/02/24(日) 19:51:01.57

AIの芸術に関しては、ヒューリスティクスという概念を覚えると良いと思う
恐らくこれから必要になる

2019/02/24(日) 22:07:34.94

芸術はマルチレイヤーコンテキストが重要なのだからそんなもん必要ない

2019/02/24(日) 23:00:00.26

ぼっきちゃん

2019/02/24(日) 23:02:40.70

>>875
呼び方が違うだけで同じものだよ
RNNばかり有名になってるけど、FFN(Feed-Forward Network)というのもあって、RNNはIIRに対応し、FFNはFIRフィルタに対応する

2019/02/24(日) 23:07:53.63

ようやくまともな意見が返ってきた

2019/02/24(日) 23:11:03.11

呼び名に引っ張られない人が増えてほしいですね
とりあえず手法にラベリングして深く考えない人が多いですからこの業界

2019/02/24(日) 23:12:43.00

い～んじゃね
モデルばっかり見ててもキリないしな

2019/02/25(月) 09:02:25.40

>>879
だね
というより、かかる時間は別として
ヒューリスティクスそのものだから