【統計分析】機械学習・データマイニング29

2020/08/20(木) 09:16:43.41

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１行ずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング28
https://mevius.5ch.net/test/read.cgi/tech/1588293154/
-EOF-

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

2020/11/26(木) 03:26:38.93

>>680
ありがと😆💕✨

2020/11/26(木) 07:31:47.70

>>681
＞キャンピングカーかなんかに住んで都心に出勤
お外国には、トレーラーハウス民なるものが既におってな

2020/11/26(木) 10:04:51.72

それならキャンピングカー内でテレワークしてるわ
その頃には会議システムもかなり洗練されてそうだし

2020/11/26(木) 23:01:45.25

周回させてたらエネルギーが無駄になる
使わない時間は他の移動する人に貸すとかした方が良いような気がする

2020/11/27(金) 04:27:50.89

>>657
それも障害かもね
ただ、技術に遅れながらもいずれ法律はできると思うよ

自動車があまりなかった頃は、間違えて人を死なせたら、即、過失致死罪だった（旧過失論）。今はやるべきことをやっていたら（道交法を守ってたら）無罪。

2020/11/27(金) 21:13:49.40

レベル5の自動運転は中国あたりが最初に始めそうとか言ってみるテスト

2020/11/28(土) 04:18:51.23

為替を機械学習のパターン認識で読み解くって現実的になんだろうか？

2020/11/28(土) 07:40:39.91

勾配ブースティングで500個くらいの特徴量でやってみたけど、回帰予測は相当難しい。

2020/11/28(土) 07:41:21.44

分類は罠があって、レンジが多いから正答率5割超えたりして勘違いする。

2020/11/28(土) 09:39:37.24

要するにちゃんと仮説検定しましょうってことだろ？
·回帰係数が0ではないかを検定する
·クロスバリデーション等で測った回収率の信頼区間をブートストラップ法で出す
前者はよく知られているが線形モデルなど限られたモデルでしか出来ないと思う
後者は俺以外でやっている人見たことないから合ってるはか知らん
いずれにしても検定や信頼区間を出すとき、普通はサンプルに独立同分布を仮定するから為替でこの手法が使えるか微妙だな
で、為替が予測出来るかどうかだが、株価予測は難しそうな事が数年前の雑誌のインタビュー記事に書いていたような気がするな
雑誌はニュートンだったような気がするが、新しい別冊ニュートンにもそこら辺の事が書いてそうだから読んでみたらどうだ？
株が無理なら為替も難しいだろ
個人的には株価の指標や為替なんかは難しいと思っているが、個別銘柄ならワンチャンあると思ってる
ただし、衛星画像とか使って駐車場監視したりすることになりそうだが
他レスにもある通り、金を稼ぎたいなら為替予測とかよりも周りの人が応援したくなるような人物になる方が簡単だと思う

それより未来のロボットの話がしたい

2020/11/28(土) 11:11:35.26

AIとか衰退するよ。
人間の手や目や感覚には敵わない！
さっさとプログラムやめなw

2020/11/28(土) 11:13:51.89

実質プログラムより
機械、電気専門の知識ある人が職にあふれてない。
それと同じ。

2020/11/28(土) 11:17:53.08

もっと言って

2020/11/28(土) 11:28:01.40

AIとプログラミングは似てるようで違うぞな。PGがみんなAIやってる訳じゃなくて、上のレイヤーみたいな感じ。
職を失うならまずAIの足元のIT系からだね

2020/11/28(土) 11:33:53.32

>>692
人類vs AIの世界観なのか…
如何にも「AIに仕事が奪われる！」を信じる単純作業者って感じ
AIより先にただの機械に奪われる心配した方が良い

2020/11/28(土) 12:40:18.23

コードも言語モデルで生成されるようになってきてるけどどこまで実用化されんだろ

2020/11/28(土) 13:01:08.28

AIは手段だからより良い代替手段に変わるだけ

2020/11/28(土) 13:20:45.49

他に専門領域があって、それを活かすのに機械学習を使うって感じがいいよ
新しいアルゴリズム作って、一からスクラッチで組む人以外はね。

2020/11/28(土) 13:59:21.22

>>695
AIマンはいなくてもただちには困らないから、不況になったら先に切られると思うよ。
足元のIT系はシステム維持のために必要。

2020/11/28(土) 14:10:58.16

将来の人類の仕事が
AIのためにデータにアノテーション
するだけになってる可能性もある

2020/11/28(土) 14:31:58.20

AIマンの首切り過ぎて、学習の調整が出来なくなるってあるあるになりそうだな

2020/11/28(土) 14:35:00.75

>>691
為替の予測は無理だ
ランダムウォークだからな

2020/11/28(土) 21:04:53.26

>>700
AIがもっと普及したらAIもシステムの一部になるだろうけど、まだ少し先だろうね

2020/11/28(土) 21:30:03.46

言語界隈の機械学習は詐欺師しかおらんだろ。
翻訳以外まともな成果はない。

2020/11/29(日) 13:44:02.47

>>705
スパムメールの判別とかは成果だろう
言語関係っていうのがどの範囲かで変わるけど

2020/11/29(日) 15:01:11.54

検索や推薦でも機械学習の成果は上がってるだろう？

2020/11/29(日) 15:12:04.25

詐欺ってどういうの？

https://self.software/
https://robomind.co.jp/

2020/11/29(日) 15:37:07.56

>>706
あれ、言語分析というよりかは宛先だったり添付物のパターン分析だろ。
言語生成とかほんま詐欺レベルだわ。
あれでサービスレベルでチャットボット作れるとかに釣られたバカがどれだけ失敗してるかを
統計的に発表する方がよっぽど価値あるんじゃないか？

2020/11/29(日) 17:54:44.34

AutoMLのZEROの方って開発者が人口少ないんだな

2020/11/29(日) 18:18:29.34

>>710
ｵｲﾖｲﾖｰｗｗｗ
機械翻訳でもしたのかｗ

2020/11/29(日) 20:30:59.92

>>709
単語とかを分析している
もう少しするとNTTが詐欺電話かどうか判別するサービスを始める
音声認識と機械学習の組み合わせ

2020/11/29(日) 21:10:17.90

んなもん金の話し始めたらとりあえずアラート出すとかその程度にしかならんよw
まともに使えるまであと20年くらいかかるだろうし、それくらい不貞腐れず研究続ける気概がなきゃ無理だわ。

2020/11/29(日) 21:17:39.35

「金の話になったらアラート」でも目的は十分達成できると思うけど

2020/11/29(日) 21:59:17.16

スパムメールって定型化しているから
学習以前の問題な気がする

2020/11/29(日) 22:58:05.90

スパムフィルタは20年以上前からあるぞ。

2020/11/30(月) 17:12:30.50

CoNLLって何て読むの？

こんる？

2020/11/30(月) 20:20:59.30

>>717
こぬる

2020/11/30(月) 20:22:20.33

>>713
20年もかからんじゃろJK

2020/11/30(月) 21:22:59.84

>>718
ありがと

2020/12/01(火) 12:11:16.12

The SIGNLL Conference on Computational Natural Language Learning

2020/12/02(水) 14:53:29.44

最近、日本人研究者が実装を公開してくれるようになったので
楽になった

2020/12/02(水) 16:33:14.57

ｋｗｓｋ

2020/12/04(金) 11:39:21.56

Python3.5終了か

来年には3.6も終わりなのかなあ
安定してて良かったけど、ここらで終わりか

3.7以降で色んなものを作り直さないとなあ

2020/12/04(金) 11:45:05.25

宝くじ仮説ってなあに？
知識蒸留が可能という主張の根拠ってだけ？

2020/12/04(金) 12:35:02.30

蒸留していいのはウィスキーだけだろ

2020/12/04(金) 12:37:18.46

>>725

https://twitter.com/hillbig/status/1224863139235168256?s=21
https://twitter.com/5chan_nel (5ch newer account)

2020/12/04(金) 12:48:37.81

機械学習マンって格好いい名前つけるの好きだよね

2020/12/04(金) 14:02:23.76

夢あるサイエンティストはみんなそうじゃない？(笑)

2020/12/04(金) 14:41:28.36

†次元の呪い†

2020/12/04(金) 15:06:54.45

英語の頭文字を格好良くするためによく分からない正式名称が出来上がっちゃうことはよくある

2020/12/04(金) 15:10:07.97

次はELが来る

2020/12/04(金) 17:02:50.45

>>724
環境作り直すだけやん
副業で手伝うよ

2020/12/04(金) 21:47:56.72

>>21
ど定番だけど、ゼロから作るdeeplearning読むと良いよ

2020/12/04(金) 22:12:12.33

ディープラーニング以外の機械学習の手法って勉強する意味ありますか？

2020/12/04(金) 22:16:19.43

あるよ

2020/12/04(金) 22:28:47.47

>>735
あるよ
タスクによって機械学習の方が得意なものもあるからね

2020/12/05(土) 00:18:21.09

あるけど現代技術では根拠を示すことはできない

2020/12/05(土) 01:42:16.66

>>735
仕事だと
「なんでneural networkを使ったんですか？他のモデルと比較しなかったんですか？」
っていう質問が飛んでくるよ

2020/12/05(土) 12:32:24.72

｢慶應卒の学歴なんていらない｣10代起業で成功する子の共通点
https://news.infoseek.co.jp/article/president_35457/
学生起業家が開発、「人を軸に本を探すアプリ」とは？読書通じて「考える力」養って
https://newswitch.jp/p/20168
島田商高生がアプリ考案、発表　ＩＣＴ起業家育成プログラム
https://www.at-s.com/news/article/local/central/730010.html
医師コンビが「治療用アプリ」で起業、禁煙に続き高血圧治療アプリを開発
https://diamond.jp/articles/-/229375
好きが高じて“カレー起業”、キャッシュレス決済アプリ「TOKYO MIX CURRY」の挑戦
https://diamond.jp/articles/-/215868
【アプリ開発で起業】必要な心得とマネタイズ方法のすべて
https://www.dreamgate.gr.jp/contents/column/application-development
起業で成功するキャリア形成の仕方とは？元プロサッカー選手で起業家の鈴木啓祐氏に聞いた
https://sogyotecho.jp/career-development/
年収3,000万超え!?個人開発で儲かっている海外コミュニティサイト5選！
https://note.com/taishikato/n/n7809a8ed3ffc

2020/12/05(土) 12:32:48.78

大学生起業家が設立１年で20億円調達！単発バイトアプリに外食企業など出資【タイミー】
https://foodfun.jp/archives/3490
誰でもカンタンにオンラインサロン・情報配信ができる便利アプリ【TOUKU（トーク）】が登場
https://prtimes.jp/main/html/rd/p/000000001.000061569.html
ミャンマー発 AIダイニングアプリ「Yathar」をしかける日本人起業家
https://roboteer-tokyo.com/archives/14840
自分の視野は「世の中の0.001%」と自覚せよ。ビジネスチャンスを掴む4つの習慣
https://headlines.yahoo.co.jp/hl?a=20200511-00010001-srnijugo-life
アプリの視聴率がわかる　高専卒起業家の独創力
https://www.nikkei.com/article/DGXMZO46695580Y9A620C1000000/
１万人の若者を支援！インターンが日本を変えるかも！？　glowshipの若き創業者・足立卓也氏インタビュー
https://sogyotecho.jp/glowship-adachi-interview/
まだ22歳の学生社長が得た､23億円の｢使い道｣あの橋本環奈をCMに使うバイトアプリの雄
https://toyokeizai.net/articles/-/319511

2020/12/05(土) 12:33:20.10

「ブラック企業社員」のお助けアプリが誕生開発したのは22歳金髪大学生、開発のきっかけとは？
https://news.yahoo.co.jp/articles/b9d5e3b84e4aa78fab64d3eb8e0c02f72911287e
レシート買い取りアプリONEの17歳起業家、サービス一時停止から｢怒涛の3カ月｣で気づいたこと
https://www.businessinsider.jp/post-175983
ビジネス版マッチングアプリ「yenta(イェンタ)」全国展開開始！
https://prtimes.jp/main/html/rd/p/000000023.000021544.html
ギフティング「TANP」運営がGCPほかから5億円調達
1日1200件の「リアルギフト」送付も可能に、U25起業家の新たな挑戦
https://thebridge.jp/2019/08/gift-ec-tanp-raised-500m-yen-from-gcp
人はこうすれば“ハマる”、源流はゲーマー視点の「幸せ」
https://project.nikkeibp.co.jp/behealth/atcl/feature/00005/012100006/
アプリ開発での起業は難しくない！成功するために覚えておくべきこと
https://www.biz.ne.jp/subject/blog/2004433/
【稼ぎ方が知りたい！】アプリの開発の収入って実際どれくらい？
https://itpropartners.com/blog/1657/
ネット関連事業で起業した成功例8選！ネットで成功するには○○が重要！？
https://www.official.or.jp/internet-entrepreneurship-success/

2020/12/05(土) 17:08:44.89

起業しても失敗する確率の方が高いんじゃないかな

2020/12/05(土) 17:09:35.69

マルチコピペに反応しちゃだめだお

2020/12/05(土) 22:18:33.26

>>743
日本はジジババ社会で新しいものに移行する気がないからな
これからは、、こうしなければならない、変更していかなければならないってことで
どんどん移行して行くのは海外の話しで
日本は多数派の高齢者が良ければそれでいいので
流行りものに手を出してもブームが過ぎれば価値が無いものになる可能性が高い
ITの仕事と言ってもクラウドワークスみたいな会社が仕事をバラバラに砕いて
駄菓子屋でお菓子を売るような値段で末端に売り場いて終わりそう
1/10の単価でやりますとか言って
そんなIT土方になるぐらいならジジババに受け入れられているリアル土方になった方がいい
日本の場合は
若い子に勉強させ無駄に新しいことをさせようとするが
多数派はそれを受け入れないで現状維持に徹する

2020/12/06(日) 04:16:10.73

y=α+βx+εの線形回帰で、最小二乗法で推定量αハットとβハットを求めて、それぞれの期待値を計算すると思いますが、どの確率分布で期待値をとるのでしょうか？

2020/12/06(日) 05:45:04.89

>>735
割り当ての実験が出来ない場合の因果推論ではパラメトリックモデルが主流

2020/12/06(日) 08:50:03.43

>>746
正規分布

2020/12/06(日) 08:51:54.49

ベルヌーイ分布

2020/12/06(日) 11:37:15.62

>>746
ベイズ推定でα・βに何か確率分布を仮定するならともかく、普通の線形回帰で最小二乗法でα・βを決めるという話なら
α・βは何か決まった値がありそれを探すだけなので確率変数ですらないのでそもそもα・βの期待値を計算することなどない
ベイズ的でない最小二乗法ではεだけが確率変数でそれを正規分布と仮定している

2020/12/06(日) 12:57:43.40

最小二乗法と最尤推定法

https://support.minitab.com/ja-jp/minitab/18/help-and-how-to/modeling-statistics/reliability/supporting-topics/estimation-methods/least-squares-and-maximum-likelihood-estimation-methods/

2020/12/06(日) 15:10:59.18

>>750
理解してないんだったら書き込まない方がいい

2020/12/06(日) 15:20:36.42

バックプロパゲーションについて質問です．

これは結局のところ，与えられた多変数関数のある点での偏導関数の値を求めるのに，素朴な方法よりも計算量が少なくて済む方法ということで間違っていないでしょうか？

日本語のディープラーニングの入門書を見ても，偏導関数の値のバックプロパゲーションによる計算方法だけ載っていて，計算量についての考察がないものばかりのような気がします．

2020/12/06(日) 15:24:12.01

750の表現も間違いではないように思うけどな
正規分布で最尤推定した時と結果が等しくなることもあると思う

確率変数ではないから信頼区間とか検定とかはできないんだろうし

2020/12/06(日) 15:27:36.98

>>753
誤差を逆伝搬する事で学習するというアルゴリズムだから偏微分はその過程で必要なだけで計算量を減らす目的ではないと思う
計算量は素子数とかデータ数とかによるのかな？

2020/12/06(日) 15:34:16.59

>>754
理解してないんだったら書き込まない方がいいよ

2020/12/06(日) 16:24:23.25

滑らかな関数なら数値計算した方がいいに決まってるだろう、度勘違い

2020/12/06(日) 16:39:20.46

>>752
どこが間違っているのか分からんので教えて

2020/12/06(日) 19:00:06.21

微分するのは評価関数を最小化する、最適化するため
評価関数の値が小さくなる方向にに重みを更新する

2020/12/06(日) 20:28:21.98

>>753
素朴な方法って総当たり法のことかな？

バックプロパゲーションで学習ができることは理論的裏付けがなくて単なる経験則らしい
条件によって収束までのステップ数はえらく変わるし、そもそも収束する保証もないので
見積りもできないのだろう

2020/12/06(日) 20:35:30.68

746です。
とりあえずα=0とした場合、
平均が(βx_1, ... , βx_n)、共分散行列が(σ^2)I_nとなる適当な確率分布でやれば全てうまくいきそうです。
ありがとうございました。

2020/12/06(日) 21:13:36.24

そんなもんでうまくいくわけないだろ

2020/12/06(日) 21:33:14.20

>>762
仮説検定とかをするなら流石に正規分布まで仮定しないとうまくいかないですが、
βハットが最良線形不偏推定量であることやσ^2の推定までは全てうまくいってしまってます。
間違ってるんですかね？

2020/12/06(日) 21:37:03.88

推定量の次元がα、βの2次元なのに
＞平均が(βx_1, ... , βx_n)、共分散行列が(σ^2)I_nとなる適当な確率分布でやれば全てうまくいきそうです。

とか言っている時点で間違っていると気づくべき

2020/12/06(日) 21:37:16.47

えー(笑)

2020/12/06(日) 21:41:38.03

回帰式はn個って事なのか？
α、βってスカラーじゃないのか
データ数はいくつあるのかな？

2020/12/06(日) 21:47:49.35

>>764
推定量がyに関して2次以下ならこの仮定だけで計算できませんか？

>>766
nがサンプル数でβ∈Rを想定していますが、特に変更なくm変数でも議論できる気がしています。

2020/12/06(日) 21:53:18.02

平均が(βx_1,,,)って何？

2020/12/06(日) 21:55:08.75

＞推定量がyに関して2次以下ならこの仮定だけで計算できませんか？

意味不明

＞nがサンプル数でβ∈Rを想定していますが、特に変更なくm変数でも議論できる気がしています。

これも意味不明だが、回帰分析において推定したいパラメータの次元は
２でも一般のmでも（サンプルサイズを下回っている限りは）特に議論は変わらない

というか、こんなの学部生レベルのお話なんだからこんなところで聞かなくても
ググれば計算過程込みでいくらでも出てくるだろ…
答えだけ書けば（仮定にもよるが標準的な仮定の下では）
\hat{α}, \hat{β}は不偏推定量になる

2020/12/06(日) 21:58:03.70

>>768
R^n上の確率分布pで、
平均μ=E_p[x]=(βかけるx_1,...,βかけるx_n)で、
分散共分散行列がn×n行列で対角線上にσ^2が並んだものを想定しています。
例えば正規分布などはこれに当てはまると思います。

2020/12/06(日) 22:01:55.24

岡谷貴之の本のバックプロパゲーションの説明が一番わかり易いようです．

2020/12/06(日) 22:04:28.76

n次元ベクトルでデータ数はn？
データ足りないような
最小二乗法ならn次元ベクトルは確率変数じゃなくても良いんじゃないの？
回帰式がn個あるのと実質同じじゃないのかな？

2020/12/06(日) 22:10:30.75

>>772
推定しようとしている傾きβはスカラーですよ？

2020/12/06(日) 22:18:21.61

>>770
何の平均が？
主語が足りない

2020/12/06(日) 22:23:26.26

俺俺

2020/12/06(日) 22:28:19.17

>>774
確率分布pの平均です。
μ=E_p[x]でちゃんと明示したつもりでした。

2020/12/06(日) 22:31:39.99

その確率分布pに従うのはなに？それを聞いてるんだが

2020/12/06(日) 22:32:43.51

例えば、株価予測にCNNを使う場合、畳み込みのカーネルはどんなの用意すればええんや？

2020/12/06(日) 22:32:59.63

ん？μ=E_p[x]ってことは説明変数の期待値がμだって言いたいの？

2020/12/06(日) 22:34:23.05

>>777
(Y_1, ... , Y_n) ~ pです。

2020/12/06(日) 22:36:01.56

>>779
あ、ごめんなさい。
E_p[y]ですね。ここでy=(y_1,...,y_n)∈R^nです。