【統計分析】機械学習・データマイニング29

■ このスレッドは過去ログ倉庫に格納されています
2020/08/20(木) 09:16:43.41ID:Av1Lrhjm0
!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１行ずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング28
https://mevius.5ch.net/test/read.cgi/tech/1588293154/
-EOF-
VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured
2020/08/20(木) 09:23:35.64ID:aXrQS81CM
乙
2020/08/20(木) 14:00:34.88ID:aXrQS81CM
文献調査してると
最近ほとんど日本人の名前を見かけないことに気づく
2020/08/20(木) 18:49:51.17ID:JxXPz/aq0
mnistで各画像のピクセルを特徴量にして学習するってのは理解しました
同様にして犬だの猫だのの画像を大量に突っ込めば判定できるってのもイメージできる
でも画像内部の物体検出して四角で囲ってラベルつけるってのはあれは一体どういう仕組みになるんです？
対象領域の検出方法とか、大きさがバラバラの範囲をどう判別するのかとか、さっぱりわからない
そもそもどういうモデルを作ってるのか、何を特徴量にして判定してるのか、haarlikeだのrcnnだのの解説読んでもイメージ全くつかめないんですが
分かりやすく解説してるところとかないですかね
2020/08/20(木) 19:18:22.18ID:aXrQS81CM
さあね
2020/08/20(木) 20:23:50.52ID:dfzAqWIK0
地道に矩形をずらしながら判定してるだけだったような
2020/08/20(木) 22:39:23.92ID:7716vlC5M
>>4
Googleの自動運転車かなんかのでは
人や車や自転車やバイクを本社の倉庫で８方向から撮影した画像でそれぞれ学習するんだってさ。
それを、エヌビディアのCUDAで並列化してパターン認識させるとよ。
8デフォルトの名無しさん (ﾜｯﾁｮｲ c554-YieA [180.235.6.52])
垢版 |
2020/08/21(金) 08:19:06.99ID:oNtEjRzD0
https://youtu.be/qqHfbTCxRMI

まったく伝わってこなくて草
2020/08/21(金) 09:14:56.27ID:uo/qvn+o0
>>4
領域検出とかセグメンテーションっていう分野だね
いろいろやり方がある
ディープラーニングと組み合わせて検索すればいろいろ引っかかるよ
10デフォルトの名無しさん (ﾜｯﾁｮｲ 0ba7-NwtD [153.223.111.196])
垢版 |
2020/08/21(金) 10:22:29.78ID:c6T0sATv0
勉強し始めたけど最小二乗法がよくわかりません。
式を見ると残差二乗和が用いられててそれを最小にしてるのはわかります。
一方で平均二乗誤差を使って最小化もできると思うのですが、それは最小二乗法とは言わないのでしょうか。
11デフォルトの名無しさん (ｱｳｳｨﾌ FFd9-fHWV [106.171.86.66])
垢版 |
2020/08/21(金) 10:54:42.43ID:6zccVHNzF
https://blog.shikoan.com/deeplearning-is-not-ols/
2020/08/21(金) 11:06:27.67ID:Lsl/pHTIa
正規分布を仮定したら分散が最小になるから二乗誤差が用いられる
2020/08/21(金) 15:10:02.58ID:qGc+dYEsa
>>10
学習後の出力=予測と実際の値との差をどう測定するかによるんじゃないかな
目的によってその距離をどうしたら都合が良いか
文字列間の距離とかも考えることはできるだろう
ユークリッド距離とかマンハッタン距離とか
2020/08/21(金) 15:31:15.30ID:Pnrs7ewB0
>>10
統計の基本を勉強しなさい
2020/08/21(金) 21:41:48.22ID:yq0UM+ADa
>>14
Wikipediaにもそれなりにちゃんと書いてあるじゃないの
2020/08/21(金) 22:25:54.46ID:1H0RHJzX0
>>3
文献だけじゃなく新興企業
ユニコーン企業もほとんど無いからな
古巣の企業がこれから落ちて行くのはわかっているが
有力な新興企業も出て来そうにない
政府が焦って日本にシリコンバレーのようなものを構築させようと試みていたけどおそらく盛り上がらない
スマホのシェアもダメでスマートウォッチもダメでAIの分野は周回遅れ
新しい分野は何も無いからな
昔ながらのモノ作りの部分で頑張っている日本企業は多いけども
全体的に政治家や経営者勢が、自分だけ良ければそれでいい
ってことで保身に走った感は否めない
2020/08/21(金) 23:25:44.23ID:Pnrs7ewB0
>>15
笑いが欲しいのか？
2020/08/22(土) 22:40:51.66ID:PoL1d00p0
>>16
PFNもファナックと協力して頑張ってるみたいだけど、
成果がパッとしないのは人材に恵まれないせいか？
2020/08/23(日) 20:01:15.60ID:BryS07nN0
ファナックは営業車の色がちょっとあれだよな
わざわざロボットに合わせなくていいのに
営業車から出てきた営業マンのジャケットが
ロボットと同じ色合だった時のガッカリ感は今でも記憶に残っている
同じ黄色でも違う感じの黄色でも良かったんじゃないかと

シンプルで美しく、使いやすくて直感的にわかりやすいっていう
見た目に拘った会社が米国で初めて時価総額２兆ドルを突破してるんで
結構そういうのは大事かもしれない
2020/08/23(日) 20:04:05.24ID:BryS07nN0
カリスマ指導者も昔
莫大な金を使って製品を開発しておいて
売れたら売れただけ赤になるという価格設定で
「行き届かないと意味が無いんだ！」と経営陣とやり合っていたけども
まさかここまで大きくなるとは思わなかっただろうな
戻って来た時に自分を追い込んだ旧経営陣、役員陣を片っ端から切って行ったらしいけど
でも倒産寸前の状態から会社を立て直したのはあれだからな
2020/08/24(月) 22:07:09.43ID:XAcVX7LiM
ニューラルネットワーク勉強してて画像処理でCNNとかの話題になった途端断絶があると思わん？
さっきまでのノードどこ行った？重みは？バックプロパゲーションは？って
うんうん唸って重みに当たるものがフィルターの行列の数値で、ノードが画素の数値のまとまりで、っていうのが本とかstackoverflowとかと格闘してようやく見えてきた
みんなここ簡単に乗り越えられたもんなの？この辺の解説をやってる本が全く無くてどうなってんのと思った
2020/08/25(火) 00:23:41.79ID:dLndR2ug0
畳み込め
2020/08/25(火) 00:28:26.10ID:hyQYP1tW0
>>20 自分の給与が一ドルなんだから怖いもの無しだろ。
誰にも遠慮する事ないんだからな。

当時会社の時価総額以上の資産を持ってたんじゃないのかな、ディズニーの筆頭株主だったから。
24デフォルトの名無しさん (ｱｳｱｳｳｰ Sad9-bRzh [106.154.134.154])
垢版 |
2020/08/25(火) 01:49:15.15ID:aRqm4uiCa
>>21
CNNのサワリで重み共有って聞かなかった？
ニューラルネットワークの重みを制約すると畳込になるよ
25デフォルトの名無しさん (ｱｳｳｨﾌ FFd9-fHWV [106.171.83.39])
垢版 |
2020/08/25(火) 10:15:18.86ID:XIHuG0bJF
>>21
そんなあなたに超おすすめ
https://www.youtube.com/watch?v=vU-JfZNBdYU
わりとまじで必見
2020/08/25(火) 10:23:40.49ID:8u+D4XfyM
>>25
声・・
2020/08/25(火) 10:50:06.93ID:Rbv5shkjM
気持ち悪いから低評価押してきた
2020/08/25(火) 11:33:17.94ID:zwnCjvrH0
めっちゃわかりやすいやん
2020/08/25(火) 13:22:18.28ID:Rbv5shkjM
ホップフィールドネットワークって一つの行列に複数の画像を埋め込む技術なの？
2020/08/25(火) 13:23:52.90ID:hGM+N7Uu0
巡回サラリーマン問題を解くためのもの
2020/08/26(水) 21:40:51.73ID:liF72IQD0
カメラの顔検出して年齢予測するのを見たんだけど、あれは顔画像を検出するためのモデルと顔画像から年齢を推定するモデルの2つが必要になるの？
顔画像に対して年齢をラベル付けしたデータ食わせてもそれだけじゃ検出部分ができねぇよなと思ったんだけど合ってる？
2020/08/26(水) 22:09:49.75ID:7e5gjmNp0
そだね
33デフォルトの名無しさん (ﾜｯﾁｮｲ f5da-ifKp [114.182.59.118])
垢版 |
2020/08/29(土) 10:13:54.41ID:iAvqS7a70
初心者の初歩的な質問で申し訳ないんだけど
seq2seqで使うコーパスの、出現数の少ない単語をUNKに変えたものもどう扱えばいいのかわからない
UNKが含まれている文は学習しないほうがいいのか
それともUNKの部分だけone-hot表現するときにすべての次元を0にすればいいのか
それともUNKの部分を抜かして、次の単語をone-hot表現すればいいのか
誰か教えてください
2020/08/29(土) 10:30:49.38ID:ThpsBngKM
unkの扱いも訓練させる必要がある
idを割り当てた上で訓練すればよい
35デフォルトの名無しさん (ﾜｯﾁｮｲ 9d01-Xbxe [60.86.178.93])
垢版 |
2020/08/29(土) 17:32:36.48ID:SVE449ru0
UNK を　う●こ　と　脳内よみあげしてしまった・・・
　λ...　＜　ちょっとスイカ食ってくる
36デフォルトの名無しさん (ﾜｲｰﾜ2 FF93-yRqa [103.5.140.145])
垢版 |
2020/08/29(土) 18:19:55.59ID:WLN6D8UQF
バグ
は
ハゲ
に観える
37デフォルトの名無しさん (ﾜｯﾁｮｲ 9d01-Xbxe [60.86.178.93])
垢版 |
2020/08/29(土) 18:24:28.66ID:SVE449ru0
>>36
(ヾﾉ･x･`)
38デフォルトの名無しさん (ﾜｯﾁｮｲ e3ad-rTX0 [125.12.149.140])
垢版 |
2020/08/29(土) 21:06:37.41ID:apIwx4wu0
＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ

Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw

日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw
2020/08/30(日) 00:21:49.17ID:HNjVBgM5M
>>35
もうソレでしか読めなくなってしもたor?
40デフォルトの名無しさん (ﾜｯﾁｮｲ 9d01-Xbxe [60.86.178.93])
垢版 |
2020/08/30(日) 03:14:50.04ID:tm04WkOo0
>>39
そこまで重症ではないようだ。
2020/08/30(日) 10:06:31.17ID:qa4YyGTj0
ニューラルネットワークって統計なの？
2020/08/30(日) 10:13:19.05ID:d7Xz7Gw0a
中身を理解すれば統計学の一部になるが、理解せずただ使うだけなら統計とか関係ない単純作業
2020/08/30(日) 14:40:07.23ID:EHjqqdq40
釣れないネタ
2020/08/30(日) 17:36:55.84ID:fqOHDpO5d
ニューラルネットワークの分類は関数解析では？
2020/08/30(日) 21:24:42.51ID:Ro8JlQIU0
アホ参上
2020/08/30(日) 22:17:31.07ID:fUPXO8OJ0
機械学習の公平性ってどういう問題設定なの…
予測と決定（予測結果をどう使うか）は別問題だと思うんだけど。
2020/08/30(日) 22:20:31.00ID:Ro8JlQIU0
AIが4chで学習して暴走する問題設定
2020/08/30(日) 23:04:23.27ID:qa4YyGTj0
このスレもaiが生成してる
2020/08/31(月) 00:31:26.76ID:kLZFTZC40
機械学習によって、女性をある仕事に採用しない方がいいとか、黒人はゴリラににてるとかの結果がでるとまずいそうな
50デフォルトの名無しさん (ｱｳｱｳｳｰ Saa1-5Jwh [106.154.136.116])
垢版 |
2020/08/31(月) 00:40:23.30ID:TLukFCLYa
>>46
この辺読んどけ
http://www.cs.toronto.edu/~madras/presentations/fairness-ml-uaig.pdf
2020/08/31(月) 01:01:45.29ID:qTifi9+k0
>>49
ゴリラの方は学習データと予測対象の母集団が一致していないという、単なるサンプリングの失敗じゃない？
2020/08/31(月) 02:57:09.77ID:ZjNZbeyO0
ポリコレだろ
2020/08/31(月) 08:51:09.63ID:rh09MRWzM
MS のtayなるchatbot逝ってたな
2020/08/31(月) 11:51:45.74ID:fcm3kmNm0
polymer clay collectionか
2020/08/31(月) 14:33:01.05ID:qTifi9+k0
>>50
ありがとう。
発展途上でまだしっかりとした問題設定はできてないと理解しました。
2020/08/31(月) 23:58:59.03ID:/Li06f9z0
名大会話コーパス読み込んでseq2seqやってんだけどめっちゃ重い
メモリ16ギガ　gtx1060ってスペック不足?
それともコードが悪い?
2020/09/01(火) 01:21:04.58ID:0wb8S5nmM
>>56
ディープラーニングで画像処理するならメモリとグラボの性能
ようするに右脳系処理だけど
自然言語文字列処理はストレージの読み書きとCPUの性能による
いわゆる左脳系処理だから
M.2やSSDとXeon phiね
2020/09/01(火) 02:03:10.61ID:XQoGkxZd0
>>57
m.2 ssdではあるけどcpuは第８世代のi5-8500を使ってる
初めて作ったaiだから普通どれだけリソース食うのかわからないけど、エポックが後半になってくるとメモリもcpuも99%に張り付く
xeonに買い替えたほうがいい?
2020/09/01(火) 20:19:08.65ID:zh+D+/I/0
>>56
seq2seqでなにやるの？
60デフォルトの名無しさん (ﾜｯﾁｮｲ 6501-JFwp [60.86.178.93])
垢版 |
2020/09/02(水) 08:27:13.44ID:65NJoCJF0
>>58
自然言語をAIでごにょごにょーってやろうとすると
最終段階一歩前くらいが
メモリ爆食いでCPU負荷もモリモリかかるのが普通っぽいぞ。
おれさまの経験によれば。
61デフォルトの名無しさん (ﾌﾞｰｲﾓ MM6b-svb1 [163.49.204.127])
垢版 |
2020/09/02(水) 08:57:32.90ID:cf3sTGi+M
朝鮮人に統計分析は無理ゲーw
2020/09/02(水) 18:06:31.19ID:xBgCxpNPM
pytorchを少しいじってみた
こんなに簡単にニューラルネットワークを定義できることに驚き
みんな自分でnn.Moduleを継承したクラスをごりごり書いてるの？
自分に出来る気がしない。。。
2020/09/02(水) 20:23:13.12ID:r7qllEy10
そこまでやってる人は少ないんじゃないかな
上位のAPI使うだけでも結構いろいろできちゃうし
俺も必要に迫られるまでは手を出す気がしない
勉強してもすぐ陳腐化しちゃうしね

しかしAttentionはもっと簡単に使えるようにならんものか
64デフォルトの名無しさん (ｱｳｱｳｳｰ Sa69-7b63 [106.154.139.237])
垢版 |
2020/09/02(水) 22:32:11.11ID:YLujANXVa
>>62
nn.Sequentialでじゅうぶん
2020/09/02(水) 22:52:02.42ID:vLXI24iz0
モデルをゴリゴリに作り込むのは趣味でやってほしい。
実務だと引継ぎ不能に…。
66デフォルトの名無しさん (ﾗｸｯﾍﾟﾍﾟ MM4b-I/wA [133.106.93.227])
垢版 |
2020/09/02(水) 22:55:19.06ID:Amkv9tJOM
pytorchに鞍替えすっか〜
2020/09/02(水) 23:43:57.93ID:yEUnVEXO0
仕事だろ（）
2020/09/03(木) 00:33:16.06ID:nz5qMTye0
モデルをゴリゴリに作り込むことでそれに見合うリターンが得られるならいいんだけど、

・そもそも目的関数の選択が適切でない
・予測対象の母集団が定義できていない
・偏ったデータを考えもなく使っている
・簡単な特徴量を1つ追加した方が精度が改善する

だったりして、粗大ゴミが作られるのが怖くて…。
2020/09/03(木) 02:10:35.74ID:nez+JOaA0
そしてライブラリのバージョンアップで動かなくなるという罠
70デフォルトの名無しさん (ﾜｯﾁｮｲ 9dda-yOpk [114.182.59.118])
垢版 |
2020/09/03(木) 07:58:01.68ID:qNk1tjNB0
kerasの英仏翻訳のサンプルプログラムにattentionぶちこむにはどうすればいいんだ？
2020/09/03(木) 08:32:39.06ID:2cBStg5R0
>>68
うまく作れば
複雑怪奇にならなくない？
2020/09/03(木) 10:15:35.69ID:JShKaXVVa
うまく作るってのが一番難しいんだけどな
2020/09/03(木) 10:34:00.34ID:nez+JOaA0
>>70
Attentionを使うための便利なものはKerasには用意されてないっぽい
実装してる人のコード見ると、ベクトル演算とか組み合わせてグラフ繋げて自力で作ってたりする
あまりに大変すぎるので、そのうち何かサポートが追加されるんじゃないかと期待してるが

誰か簡単な方法知ってたら教えてくれ
74デフォルトの名無しさん (ﾜｯﾁｮｲ 9dda-yOpk [114.182.59.118])
垢版 |
2020/09/03(木) 21:01:30.17ID:qNk1tjNB0
kerasではなくpytorchのほうがいいのかな
face book嫌いだから使いたくないけど
2020/09/03(木) 21:05:35.93ID:2cBStg5R0
kerasのサンプルあるよね？
2020/09/03(木) 21:08:09.53ID:oPPXaQOW0
attentionて普通に組んだら計算コスト洒落にならなそう。
2020/09/03(木) 21:31:54.12ID:nez+JOaA0
うお、KerasにAttentionレイヤー用意されてたのか
tf.keras.layers.Attention
いつの間に
78デフォルトの名無しさん (ｱｳｱｳｳｰ Sa69-7b63 [106.154.139.120])
垢版 |
2020/09/03(木) 21:34:25.70ID:H4JjWibDa
>>74
坊主憎けりゃ、だな
お前が使ってもfacebookは1ミクロンも得しないから安心して使え
2020/09/04(金) 02:46:34.87ID:JFyn8ysD0
エロ動画のモザイク取り除くai作りたい、てかなんで誰も発売しないんだ
2020/09/04(金) 03:47:31.78ID:mDofFZHor
それはAI界最大級の難しいテーマだからな。
コンピューターには性欲がないからw
81デフォルトの名無しさん (ﾜｯﾁｮｲ 6501-JFwp [60.86.178.93])
垢版 |
2020/09/04(金) 07:19:00.27ID:jvrr6lZ70
>>79-80の流れに朝からﾜﾛﾗｻﾚﾀｰﾖ（・∀・）
2020/09/04(金) 07:50:08.83ID:4FjIUW730
発想が童貞みたい
2020/09/04(金) 08:02:56.49ID:WvWinIJxM
>>79
つ
https://i.imgur.com/Lysnw37.jpg
2020/09/04(金) 09:56:18.30ID:VQ6sIcSE0
>>79
あるよ
85デフォルトの名無しさん (JP 0H29-yOpk [202.216.106.142])
垢版 |
2020/09/04(金) 10:27:07.17ID:3vk4X+ZOH
あるにはあるけど、エロ画像だけ学習させて商品として提供してる会社がなくないか
昔の全然とれないモザイクリムーバーみたいに売れば大ヒットだとおもうんだけどなあ
2020/09/04(金) 11:29:39.09ID:lHqiid/jM
活性化関数は出力を得るためにかけるんだよね？
dropoutはどの層で有効にすればいいの？ 中間層すべて？
2020/09/04(金) 12:30:33.71ID:zd548qQ8M
顔消しモザ消そうとしてちんこが生えたらどうするんだ
2020/09/04(金) 14:01:51.90ID:jvrr6lZ70
>>86
上：せやな
下：やりすぎても、やらなさすぎてもうまくいかず、さじ加減が職人芸だときいている
2020/09/04(金) 14:47:29.83ID:GIOuj/3d0
>>68
数学や統計を極めても、上2つは難しくね？
2020/09/04(金) 14:59:55.37ID:lHqiid/jM
>>88
ありがと
そっかー、うーむ🤔
91デフォルトの名無しさん (ｱｳｳｨﾌ FF69-th+2 [106.171.75.10])
垢版 |
2020/09/04(金) 15:03:17.37ID:l2EHvy2iF
りんごちゃんとはるな愛の区別が出来ないんだけど過学習かな
2020/09/04(金) 16:54:52.03ID:QJTIc14X0
>>89
上2つが適切に設定されていないと、結論の妥当性が示せない。
2020/09/04(金) 17:16:08.49ID:Nh0NQvHOH
>>68
モデルゴリゴリ以前の問題なのでは
2020/09/04(金) 18:22:35.09ID:5pEEdWxD0
>>86
中間層すべてにかけるのが普通かな
出力層にもかける流派もあるらしいが
ドロップアウト率は入力層に近い方を高く、遠い方を低くするもんらしい
2020/09/04(金) 19:15:53.20ID:HIGqzVjC0
非線形関数を通さないと線型結合を繰り返すだけになるんじゃないか？
あと微分しても一定の値だからバックプロパゲーションも出来ないのでは？
2020/09/04(金) 19:35:31.74ID:lHqiid/jM
>>94
ヒントンの論文だと
全中間層でdropoutかけてる図がでてたんだよね

悩む🤔
2020/09/05(土) 10:16:29.80ID:Az39CCC60
GeForce RTX 3090はFP32性能が36TFLOPSか、すげーな
しかしせっかくTensorCoreが載ってるのに、これって学習には使えないのね
FP16しか対応してないからかな？　確かにFP16じゃBPがうまく進まなそうだが
性能半分でいいから、FP32対応してくれればいいのに
せっかくの汎用マトリクス演算ユニットなのにもったいない
2020/09/05(土) 11:20:16.92ID:DwFJQw5i0
個人で買えるかわからないけどこんなのもあるな
https://jpn.nec.com/hpc/sxauroratsubasa/features/index.html
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況