【統計分析】機械学習・データマイニング20

2018/08/07(火) 18:56:37.59

機械学習とデータマイニングについて何でもいいので語れ若人

※ワッチョイだよん

次スレ立ての際は、一行目冒頭に
!extend:on:vvvvv:1000:512つけてね

■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76

■前スレ
【統計分析】機械学習・データマイニング19
http://mevius.2ch.net/test/read.cgi/tech/1520586585/

VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured

2018/10/23(火) 10:19:26.64

緩い機械制御（LOL）

2018/10/23(火) 10:59:29.01

メリットが分かりやすい分野で教科書書いたら、参入者が増えるから先行者は嫌がるもの

2018/10/23(火) 12:17:00.88

先行者が新規参入嫌うって、オープンソース化で新規参入増やすことで急速に技術の新陳代謝促すことで発展しているIT業界を逆行しているようだ

2018/10/23(火) 14:24:49.91

今んとこわかってるAIのメリットってなによ

2018/10/23(火) 14:36:44.37

マスゴミが商品の宣伝してくれる

2018/10/23(火) 14:47:39.15

>>876
人の作った定石を覆す一手が生まれる可能性がある

2018/10/23(火) 14:51:30.72

>>876
人にしか出来ないと思われていた高度な処理が可能になった

2018/10/23(火) 14:53:00.00

ゲームで定石以外の手を打つAIはいるけど
脳外科手術とかで定石以外の手をAIに指示されて
実際その通りに手術出来る医者っているのかな

2018/10/23(火) 15:04:50.59

手術の機械学習って学習データどうするんだ？
医療では当面は診断用途だろう
怪しい所を自動ピックアップしてくれるから楽になる

2018/10/23(火) 19:11:15.08

全く同じ条件の学習が上手くいかなくなったんだけど原因は何が考えられますか
1回目やったときは70epochでvalのaccが.95くらいだったのに
2回目やったら1epochからずっとvalのaccが.65前後のままtrainのaccだけが上がり続けるから過学習してると思うんですけど
実行毎に過学習起きたり起きなかったりとかあり得ますか？

2018/10/23(火) 21:06:52.05

重みの初期化はどうしてるの？

2018/10/23(火) 21:48:04.91

みんなすげぇなぁ
機械学習の本まずは1冊やり終えたけどここで話されてる内容ほとんど分からん

2018/10/23(火) 22:19:45.80

>>883
inceptionv3のimagenetです

2018/10/23(火) 23:35:10.13

データ分析の基礎的な部分をちゃんと身につけないとと思って統計の勉強始めた
学のある人なら当たり前に知ってる事なんだろうけど自分には知らない事ばかりで結構面白いって感じた
多分最初だからこう思うだけかもしれないけど

2018/10/23(火) 23:44:40.12

>>884
特にディープラーニング関連は本になる頃には陳腐化してるからなぁ
ある程度基礎を勉強したらネットで解説記事とかトップカンファレンスの速報まとめとか有名な論文(の解説)とかを読むと良いかも

2018/10/24(水) 05:47:43.50

脳から就活生の傾向を調べるって怪しすぎてワロタ。

2018/10/24(水) 08:56:06.97

>>884
ここで話されてる内容はもうかなり古くて、だからレスする人も減ってる

2018/10/24(水) 14:10:20.50

統計は高校で習ったから高卒「でも」充分理解できるもんだと思ってたが
最近の高卒は統計習ってないのもいるんだね

2018/10/24(水) 14:28:42.96

>>890
統計っても機械学習だとロジスティック回帰とか主成分分析とかカーネル法あたりだろう
高校じゃまずやらない

2018/10/24(水) 16:06:02.78

kerasでGPUを使う時に
最初のプロパティみたいなので
totalが4GBあるのにfreeが3.2GBしかありません
4GB全部をkerasで使うためにはどうすればいいですか

2018/10/24(水) 20:34:04.80

>>892
＞最初のプロパティみたいなの

これって何？

2018/10/24(水) 21:13:03.43

三宅陽一郎は日本のゲームAIの権威と言われてるそうですが本当なのでしょうか？

2018/10/25(木) 09:15:39.86

AIと相性の良い技術ってなに？

2018/10/25(木) 09:55:47.79

プログラム

2018/10/25(木) 10:44:00.40

うんこ

2018/10/25(木) 15:07:49.79

>>895
画像診断。下手な医者より優秀だろう

◆QZaw55cn4c (ﾜｯﾁｮｲ 9360-278X) · 2018/10/25(木) 20:36:36.38

>>895
超解像

2018/10/26(金) 00:03:05.76

クラスタリングって教師ラベルがあるデータに対しても行うことってあるの？
職場の人が教師ラベルあるデータに対してクラスタリングするって言ってたんだけどそれは分類とは違うのかな？と思って聞いてたんだけど自分は知識がないから知らないだけで主成分分析みたいに探索的に何か見つけるために使う事も出来るのかな？

2018/10/26(金) 00:03:51.15

ｱﾎたちは
いまのいんちきNNﾓﾃﾞﾙをAIと呼称してんのか

2018/10/26(金) 05:54:37.59

>>900
その場合クラスタリングとは呼ばないような

2018/10/26(金) 05:58:52.27

ラベルが既知なのにクラスタリングっていうのは、聞いたことないしやる意味もないのでは。だってデータの距離空間が定義されてるのにわざわざ別の部分集合に割り当てる意味が分からんな。
次元削減なら分かるけど、クラスタリングなんでしょ？

2018/10/26(金) 06:57:09.46

>>901
それな

2018/10/26(金) 08:07:55.75

クラスタリングではなく分類の手法として教師あり学習ではk近傍法ならあるけど

2018/10/26(金) 10:06:27.81

NNの一番の問題点って計算量？理論的な保証？

2018/10/26(金) 10:38:04.98

>>906
学習の時は計算量かかるけど使うときは大した事ない
理論保証とブラックボックスさだと思う

2018/10/26(金) 15:22:53.19

>>905
すべてのラベルが既知ならそれはしなくない？
上の質問者の意図が全くわからん

2018/10/26(金) 15:26:11.38

>>900
上の人が言うように、基本的にその場合クラスタリングとは呼ばない。クラスタリングは教師なしだから。

それで質問に答えるとしたらあるデータX（Xはベクトル）にラベルがあるとして、X以外のデータが入力されたときに例えばaとする。そのaとXとのユークリッド距離を測り（k近傍法）、どのx_iと近いのかを判定したりはする。

2018/10/26(金) 16:56:27.75

https://teratail.com/questions/152987

今CNNの学習をしていて、
このページの1つめの結果画像のような状態なのですが、
原因は何だと思いますか？

2018/10/26(金) 17:22:17.83

>>907
個性っぽくて面白いよな。

2018/10/27(土) 15:09:34.95

これって何か斬新なのか？
http://www.itmedia.co.jp/news/articles/1810/26/news077.html

GANとしては出来が悪いし、レンブラントのAI画のようなテーマも無いし

2018/10/27(土) 15:36:19.64

Jupyterってジュパイターと発音するんだな
pythonのpyなのは分かってたけどなぜかジュピターって読んでた

2018/10/27(土) 18:17:25.38

こういうのに最初に大金を出した人が美術史を作っていくのや

2018/10/27(土) 18:22:26.40

>>912
著作権とかどうなるんだろうな

2018/10/27(土) 20:53:05.83

まあ、AIはお金になるという実績を作ってしまったな

2018/10/27(土) 21:33:01.74

>>910
わかる人おねがいします

2018/10/27(土) 21:41:30.48

>>917
一目瞭然じゃん、教えて欲しいのか、試してるつもりなのか。

2018/10/28(日) 10:52:14.40

どうみても過学習だろ

2018/10/28(日) 11:39:15.80

>>913
わかる

2018/10/28(日) 11:41:19.59

>>910
そのページ内で結論出てるやん

2018/10/28(日) 21:57:26.97

train か少ないとか、val と train の性質が違うとかもあり得るが

2018/10/28(日) 23:48:27.52

>>919
これも過学習なのですか？
ページの人が答えてるように下にあるresnet34の結果が明らかに過学習なのは分かるのですが
こんなに振動する過学習もあるのですか？

2018/10/28(日) 23:50:29.50

あと、accがほぼ100%近いのにlossが10もあるのが理解出来ないのですが
こんな状態あり得るのですか？

◆QZaw55cn4c (ﾜｯﾁｮｲ 9360-278X) · 2018/10/29(月) 00:14:41.57

https://bit.ly/2ELs5Zp

2018/10/29(月) 06:28:46.79

>>795
＞>>792
＞そこまで高いの買わなくても、
＞サブ機に1050Ti積んでますけど
＞inceptionv3の199層～のファインチューニングでも
＞32000枚を100エポック回して大体5時間で終わりますよ
＞低価格でいろいろ試すには悪くない性能だと思うので検討してみてはいかがでしょうか。

ありがとうごさいます
そこそこのグラボ買ってみます

2018/10/29(月) 08:06:16.95

↓これって日本版Kaggleみたいなもの？

https://signate.jp/competitions

2018/10/29(月) 10:26:37.08

>>924

https://stackoverflow.com/questions/46561531/why-does-the-validation-performance-have-large-fluctuations-during-deep-cnn-trai

上記以外にも似たような話がいくつかあったけど明確な回答はないみたい
データセットの側の問題ということのようだけど

単純にデータ数が少ないだけのような気もする

2018/10/29(月) 10:55:56.04

NNは最小限の構成から始めて
学習曲線を確認しながらレイヤー数を増やして複雑にしていくのが常道だから
まず3層ぐらいの単純な構成だとどうなるのか見るべきじゃないのかな
teratailの例を見れば少ないレイヤー数なら普通に過学習で見られる学習曲線なわけだし

いずれにせよどんなデータを使って何を分析しようとしているかもわからない
ネットワークの構成もわからないで学習曲線だけ出して的確な回答を期待する
というのも無理があるかと

2018/10/29(月) 11:31:50.05

あらかじめ結論を決めておくのは意味が無くね

2018/10/29(月) 11:38:09.69

でかいネットワークで学習するとむしろ汎化性能が上がるって説もあるよね

2018/10/29(月) 21:39:26.10

むしろ期待通りの結論に到達するように
学習させてるのがいまのｳﾝｺAIだからな

2018/10/29(月) 21:58:32.07

むしろ期待通りになるように学習させないでどうするんだよw
間違った教科書で勉強したら間違った答えを出すだけ

2018/10/29(月) 22:12:20.15

つまりｵﾏｴが作ったAIは
ｵﾏｴより賢くなることはない
ｱﾎのまま

2018/10/29(月) 22:18:10.77

教師あり学習なんだからそんなの当たり前やん何言ってんのこの人

2018/10/30(火) 00:39:20.03

作り手の想像を超えた知性が得られたとしてそのことを数値で評価することなど不可能なんだから、そもそも作成に成功したかどうかすら誰にも分からないわけで

2018/10/30(火) 02:23:18.40

>>936
強化学習なんかだと、例えばゲームで人間の思いもよらない戦略を学習する事もあるし、スコアとかの客観的な評価軸もあるぞ

2018/10/30(火) 08:59:49.24

強化学習は報酬を与えるルールさえ決めれば後は膨大な計算コストがかかるだけで結果は決まっているわけだから作り手を超える賢さを得たと言って良いかどうかは微妙なところ

2018/10/30(火) 11:21:40.67

賢さとは

2018/10/30(火) 12:07:17.38

賢さの定義などないけど>>934が賢さについて言ってたから使ってみただけ

2018/10/30(火) 13:55:45.69

この分野、売り逃げがしにくい。
それが良さでもあり悪さでもある

2018/10/30(火) 16:34:11.40

本当に初心者ですけど質問です。
他クラス分類してて線形モデルを考えてるんだけどグリッドサーチしてCを出すプログラムを書いた。
そのプログラムを数回走らせると毎回違うCが出てくるんですがそう言うものですか？
ちなみにaccuracyはおんなじ値が何回も出てたまに低かったり高かったりします。

2018/10/30(火) 17:24:22.04

Cとはw

2018/10/30(火) 17:27:41.62

>>943
正則化パラメータです

2018/10/30(火) 17:48:49.55

>>942
プログラムがどうなってるか分からないけど（毎回乱数で変わる値をしようしてるとかあったら）、普通は何度実行しても同じ結果正則化パラメータCを出力しなければいけないと思うよ。
プログラムを見て乱数で設定してるところがないかを確認してみては

2018/10/30(火) 18:06:39.94

>>945
乱数シードは固定してないです
固定してなくても同じ値が出るってことですか？

2018/10/30(火) 18:18:52.14

>>946
固定してなければ違う値が出ると思う。固定してればもちろん同じ値が出ないとおかしな話だとは思うけど。。。

（そういう乱数の次元の話じゃないかなと思ったので）

2018/10/30(火) 18:30:56.53

>>947
研究で、もらったデータセットでやってるのでなんかおかしいのかなと思ってました。
irisのデータでも同じような挙動だったので関係なかったです。毎回違う値(振れ幅もバラバラ)なのは普通ということなのですね。

2018/10/30(火) 19:26:16.58

random_state=42で解決やな

2018/10/30(火) 22:43:15.66

みんな普段勉強してる？
仕事外は一切やらない？

2018/10/31(水) 01:39:51.29

機械学習知らん人に説明する度にAIって便利な言葉だと実感する
最適化じゃなくて学習とかクッソ曖昧な言葉で納得してくれて本当助かる

2018/10/31(水) 01:41:22.42

学習って用語廃止したほうがいいわ
kerasみたいにfitって言えよ

2018/10/31(水) 04:49:39.73

>>951
「餌を与えると勝手に学習してくれる」っていうと素人にも分かりやすい

2018/10/31(水) 06:41:10.96

>>951
本当に「最」適かどうかは判らないんじゃね？

2018/10/31(水) 10:06:16.97

「AIが考える」って、使っていて違和感を感じる表現だけど
そう形容するのが適切なんだな

2018/10/31(水) 11:33:47.84

適当な説明すると勝手に妄想を暴走させてしてしまう人もいる

2018/10/31(水) 11:35:46.20

椅子を学習したら切り株に座れる機能がある事も分かるAIはよはよ

2018/10/31(水) 15:05:10.91

パブロフの犬ｗ

2018/10/31(水) 16:12:18.23

そんなの椅子の認識のさせ方次第でどうにでもなるだろ
背もたれのある普通の椅子しか学習させなければ切り株を椅子と認識できるわけないが座れそうなものを片っ端から学習させれば何とかなる

2018/10/31(水) 17:37:08.95

ラベリングは誤魔化すために重要。
トヨタのTNGAとか便利便利

2018/10/31(水) 18:27:00.41

>>959
これはただの例で汎用的にやりたいんです。
シンギュラリティ!

2018/10/31(水) 18:38:23.95

切り株画像に「イス」ってラベル付けなくても
切り株に人が座ってるラベルなし画像から推測できるぐらいにはなって欲しいね

2018/10/31(水) 21:01:56.61

生まれて初めて切り株を見た人間でも、切り株に椅子としての機能を見出せるだろうけど、これは「座れそう」→「座れた！」という環境とのインタラクションがあるからなんだろうか
前にNHKの番組で東大の松尾先生が「体を持たない知能は存在するか？」的な事を言っていたな

2018/10/31(水) 21:15:33.30

兎が転げるかどうかを判定して下さい

2018/10/31(水) 22:09:58.39

>>961
だからほんなら汎用的なデータ食わせろって話ですわ
まさか学習データが画像しかないとか思ってるわけでもあるまい

2018/10/31(水) 22:18:31.69

>>965
データがない未知の場面に出くわしても人間みたく持てる経験と知識を応用出来るかって話だろ
データさえあればって身も蓋もない話

2018/10/31(水) 22:21:11.84

>>965
そうなのね。
昨日辺りの日経新聞に書いてあったのよ。

2018/10/31(水) 22:41:28.97

>>966
切り株に座れるか判定の可否を議論してる時にドラえもん作りたい話されても知らんがな

2018/10/31(水) 23:07:24.47

>>968
切り株はあくまでも一例だって>>961が言ってるやん

2018/11/01(木) 05:25:09.80

>>961
そしたら身体持たせて学習(実体験)積んで
痛い目に合わせないとダメやろ

2018/11/01(木) 08:43:51.58

なるほど

2018/11/01(木) 10:47:02.18

産まれてすぐからちんちんあったけど生殖に使うものだって気付いたのは十年以上経ってからだしな