【統計分析】機械学習・データマイニング31

2021/09/26(日) 01:32:46.82

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

2021/12/03(金) 18:48:18.08

変な書き込みやめて

2021/12/03(金) 18:53:15.73

Deep Learningも色々あるから、その色々を理解するのは面倒
いわゆる機械学習も原理だけなら理解するのは簡単

2021/12/03(金) 19:27:46.04

原理について3行で説明してください

2021/12/03(金) 19:35:54.87

>>219
時々こんな感じの変な書き込みあるよね

2021/12/03(金) 19:38:49.60

59.147.205.222　で検索するなよ、絶対にな

2021/12/03(金) 20:13:54.46

自然とは

2021/12/03(金) 20:21:20.00

〇〇県民は理解しやすいけど地球人には色々あって理解するのが難しいみたいな

2021/12/03(金) 20:23:40.02

自然とか難しいとか主観的に語るのは科学的でない

2021/12/03(金) 20:29:42.74

主観観測仮説を知らないのだろうか。

2021/12/03(金) 21:27:51.88

無関係
別の板でやれ
それが観測者効果

2021/12/03(金) 22:40:50.91

>>222
バックプロパゲーション
多層
パターン認識

2021/12/03(金) 23:10:02.90

>>222
超多次元ベクトル

2021/12/07(火) 12:51:14.51

関数近似のフィッティング問題に多層ネットワーク使いました。
方法としては少しづつのサンプルに対して微係数計算して、少しづつ係数を更新します。
これだけ。
なぜうまくいくか、どういうデータが良いか、具体的なパラメータはどうするかってのは難しいが
原理だけならこれだけだわな。

2021/12/07(火) 13:16:34.86

曲線あてはめ ← はぁ…
機械学習 ← なんか凄そう

2021/12/07(火) 14:47:00.37

>>232
解釈性の問題なら賢い人が散々やって無理だから無理なんだと思うよ
一昔前はベイズで説明できるとか言ってる人がいたが
ベイズ完全にオワコンだし

2021/12/07(火) 18:26:50.54

解釈性からgradcam派生とかあるじゃん
それにベイズがオワコンとかkaggleしかやってない人かな？

2021/12/07(火) 19:03:42.76

>>232
それは原理ではなく単なる手順だ

2021/12/07(火) 19:29:25.93

動作の原理、という意味なら手順と一緒の意味もありうるか

2021/12/07(火) 19:56:52.69

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
朝鮮人はゲリ便をじゅるじゅると
うまそうに食うw

2021/12/07(火) 20:11:19.00

原理って話なら誤差関数の期待値を最小にする関数を求めるというのが原理原則だぞ
これはビショップ本にもカステラ本にも書いてある
その手段として>>232のような関数近似のフィッティングを考えるわけ
こう考えると頭が整理できると思う

2021/12/07(火) 20:22:41.27

原理に基づいてそれをやるときに必要になるのが誤差関数や逆転伝播求める話。それはどちらかと言えば定理か？
この辺は国語の問題だなｗ

2021/12/07(火) 20:35:07.27

確率解釈は後付けだろ。
どうしても連続値で取り扱わなきゃで無理くり理由付けしただけだわ。
それも理解してない奴が無理矢理ベイズ解釈取り入れて行き詰まるわけだ。
そんな理屈つけても性能とほぼ関連がないからね。

2021/12/07(火) 20:51:43.76

そこら辺がスッキリわかる良書が、高橋麻奈著やさしい機械学習。
乞うご期待。

2021/12/08(水) 07:06:54.46

ニューラルネットワークの仕組みは
層構造に素子を並べたものでインパルス関数を線型結合し任意の関数を作れるから
任意の入出力関係を重みの変更で作れる

重みはデータから誤差を勾配降下で小さくすることで得られる

2021/12/10(金) 01:51:35.74

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
朝鮮人はゲリ便をじゅるじゅると
うまそうに食うw

2021/12/10(金) 17:27:11.79

テキストの識別問題だとbowとembeddingでそんなに差は出ないよね？

2021/12/10(金) 17:30:11.15

変な言い方になった
単語を素で扱うのと埋め込みして扱うのとではそんなに差は出ないよね？

2021/12/10(金) 19:56:33.27

特定単語の有無で識別出来る程度の問題なら変わらんと思う

2021/12/13(月) 17:58:38.68

>>247
ありがとう

2021/12/14(火) 22:13:04.45

>>246
常にやった方が良いと思う
埋め込みって何をやってるかって
要は次元削減なのよ
高次元から低次元への写像を作るのが重要なタスクの場合はやるべき
例えば推薦システムや自然言語処理などね

2021/12/17(金) 19:20:20.09

自然言語処理のフレームワークってTensorflowとPytorchとDezeroならどれが良い？

2021/12/17(金) 19:31:22.57

tensorflow
でも素のtensorflowを使うってならpytorch

2021/12/17(金) 20:04:44.82

どれでも良い

2021/12/17(金) 22:10:55.81

とりあえずtensorflowとDezeroを試そうかな？

2021/12/18(土) 12:43:09.46

pandasの本を読んでいる。
早くkaggleをやれるようになりたい。

2021/12/18(土) 17:32:55.78

まず参加しろよ

2021/12/18(土) 18:31:07.02

>>250
使いやすさではpytorchだけど同じパラメータでも
収束の速度や精度に違いが出るから両方試すしかないんだよね
めんどくせぇわ

2021/12/19(日) 00:06:13.67

結局論文のコードそのまま取ってくるとかだからtensorflowでもpytorchでもどっちでもええわ。
今時は可読性もそんな変わらんし。

2021/12/19(日) 08:16:24.75

paper with codeだとpytorchのほうが多いな。

2021/12/19(日) 20:39:08.97

bertとdoc2vec等の埋め込みの違いってなあに？の

2021/12/20(月) 11:22:34.02

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
朝鮮人はゲリ便をじゅるじゅると
うまそうに食うw

2021/12/20(月) 19:40:53.92

>>259
埋め込みってのはワンホットベクトルの後ろに全結合層を入れることだよ
それらのモデルは全部そうなってるでしょ

2021/12/21(火) 16:16:11.47

>>261
後続のタスクがうまくいくように調整したfc層の出力？

2021/12/21(火) 18:15:28.31

>>262
まあそんなイメージ
ワンホットベクトルを一旦全結合層を個別に通すことで
特徴量として学習がうまくいくようにしている
word2vecなどはそのおかげで単語の意味を学習することに成功した
これは他の分野にも応用できてどういうものを学習させるか？で特徴量を自動的に学習できることを示している
とんでもない発明だよ
計算量的にもワンホットベクトルとの積は対象の重みをインデックスとして取り出すってだけで良いのも味噌
テンソルの演算がいらないから高速

2021/12/28(火) 23:33:18.19

AIって名前だけで受注取れる時代は既に終ってる。
https://xtech.nikkei.com/atcl/nxt/column/18/00001/05585/
機械学習なんてタダのツールです。本職にはしないようにしましょう。

2021/12/28(火) 23:43:01.89

そこってOCRだけの会社だろ。そりゃ仕方ない

2021/12/28(火) 23:47:24.59

>>264
精度が出ないシステムだった？

2021/12/28(火) 23:58:56.89

あの会社の事例でAI全体を語られても困るわ

2021/12/29(水) 02:45:19.55

sklearn動かしてるだけの技術者は既に淘汰され始めてるよ
それよりも基礎集計しっかりやって知見を得ることの方がただモデル作るだけよりも何倍も意義がある

2021/12/29(水) 07:48:20.39

kerasやpytorchで何か検出しましただけの人も淘汰か

2021/12/29(水) 08:20:09.99

言うほど業務でkeras使うか？

2021/12/29(水) 10:59:29.75

ぶっちゃけそれを単に動かしてるだけの技術者っているの？
基本的に他の専門があって、データ解析のために必要に応じて機械学習を使ってる人が多いのでは？

2021/12/29(水) 15:24:18.72

技術者はただ単に動かしてるだけ（指示待ちプログラマ）
ほかに専門があって必要に応じて使うのは研究者かな（自分で動くプログラマ）
ま、言葉の定義なんてどうでもいいけど、どっちが多いかと言えば圧倒的に前者じゃないかな
AI系のいわゆるIT奴隷がほぼ全て含まれる

2021/12/29(水) 17:41:28.61

仕事なら客がいるわけで
その客の問題解決になるように作ってるはず
研究者は成果がなんの役に立たなくてもいいのなら自分の興味だけで研究したらいいけど
そんな研究に金を出してくれる人はいるかわからない

2021/12/29(水) 19:11:11.48

その客がツール使えば機械学習できるようになってきてるってことだね
社外に頼まなくても社内でできるようになりつつあるし

2021/12/29(水) 19:26:32.35

大企業なら統計学に詳しい人がいるだろうからね。
プログラマと協力すればある程度は何とかなりそう。

2021/12/29(水) 19:33:16.06

もう専門家はいらない

2021/12/29(水) 20:45:29.33

統計学ってカウントベースの統計学の方？これ利用価値あるの？

2021/12/29(水) 21:54:00.37

今の統計学は深層学習もやるぞ。AIしない統計学は10年以上に終わってる

2021/12/29(水) 22:39:30.12

>>275
大企業ならグループ内に研究所があったりする

2021/12/30(木) 02:07:07.02

企業にとって大事なのは確実な課題解決の手法であって機械学習は課題解決手段の一つに過ぎない。

お金にならなかったら縁を切るだけ。
4～5年前あたりからAIは全ての課題を解決出来ると錯覚してる輩がいてホント困る。

2021/12/30(木) 07:18:27.49

趣味とか小さな会社だったらそうなんだけどな
ある程度大きくなってくとAIでやれと言われたらAIでやらないといけない
それで解決できるかや客が満足するかは問題じゃないし「これはAIには向かないです」なんてひっかきまわすのは嫌われるし、そもそも仕様書作ってるとこに意見する経路がない

2021/12/30(木) 10:16:02.10

うちは大手メーカーだけど、AIでできることできないことの取捨選択が進んできたわ
数年前は何でもAIって雰囲気もあったけどね

2021/12/30(木) 18:57:57.40

AIは人間に出来ることはすべて出来るってだけで、人間に出来ないことはAIにもできないことが多いからね。

2021/12/30(木) 19:04:02.88

>>283
人間にできることをAIで全てできる
なんてことはないだろう

2021/12/30(木) 19:05:58.97

そうなの？

2021/12/30(木) 19:07:43.18

構造的なものだけでしょ
うなじを直接見るとか

2021/12/30(木) 19:14:06.27

以前は創造することは出来ないと言われてたけど、今では絵を描いたり作曲したりクリエイティブな作業もできるようだけど。

2021/12/30(木) 19:38:32.71

創造的、てなんだろうね

2021/12/30(木) 19:39:35.20

クリエイティブってことでは。

2021/12/30(木) 19:49:18.46

創造性をください

2021/12/30(木) 19:50:01.12

中東三大宗教において創造主とは神を意味するらしいので、創造するとその世界の神になるのでは？

2021/12/30(木) 22:50:11.24

人間も絵を描く技能は過去の作品の模倣から始まりますし、その意味では現在のAIは十分創造性を持っているのかもしれませんね。

2021/12/30(木) 23:13:16.48

人間の感性にマッチするような独創的な絵をAIに生成させるのはムリだな
でもそれは今はムリってだけで来年、再来年にはどうなってるか分からない。限界はAIを作る人間側にあるんだよ

2021/12/31(金) 00:42:05.82

AIの進歩によって人がドンドンいらなくなって行くのだけは確かだな
そして日本はこの分野において完全な負け組だということ
つまりこの分野が絡んで人を減らしたり、製品に付加価値を付けられたりすると
勝てないということだね

2021/12/31(金) 01:03:18.71

少子高齢化で働き手が減ってるから人手がかからなくなるのは良いことでもあるような

2021/12/31(金) 01:58:39.97

弱った人間が死ななくなると感染症が広がりやすくなるのでは？
人類はそうやって自滅すると思います。

2021/12/31(金) 09:37:41.44

神なんておのれを助けるものをたすくだろ、役に立たねー

2021/12/31(金) 10:46:28.66

どんどん違う仕事ができるだけだろ

2021/12/31(金) 12:16:18.20

そのとおり。
違う仕事をしましょう。

2022/01/01(土) 00:25:22.86

ドンドン違う仕事ができると言っても
日本は新しいことにチャレンジしない国だからね
世界で創業から100年以上経過した企業の41％が日本企業とか
200年以上経過した企業の65％が日本企業とか
会社の96.3％が同族企業とか
新興企業のほとんどが数年で消滅して大きくならないとか、、、
日本の体質を物語っている
失われた30年と言われているが
IT云々から始ってAI、仮想通貨と国と企業が自らの手で
新しい分野を殺してきたようなところがあるんで

2022/01/01(土) 01:16:42.43

労働力を安く買い叩くことでAIに対抗しようとしてるという地獄が日本の現状

2022/01/01(土) 06:43:40.56

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
朝鮮人はゲリ便をじゅるじゅると
うまそうに食うw

2022/01/03(月) 05:27:11.01

少なくとも今の学生は機械学習をメインにせず専門の知識習得に務めるべし。

例えばロボット関係やりたいのに制御工学飛ばして機械学習の上っ面だけ身につけてる輩は不要人材。

2022/01/03(月) 10:21:23.45

新たなアルゴリズムを考えたりできる研究者でもない限り、機械学習専門家と言いながら実態は既存のライブラリのうまい組み合わせ方を知っているちょっと頭のいい作業員でしかないからな
そんなものはライブラリや周辺のツールが便利になれば不要になる仕事

2022/01/03(月) 11:11:04.57

自分の専門領域プラス機械学習は今後も大きな武器になるが機械学習だけはマジでやめとけ
そんな人材が求められていたのは数年前まで
最先端の深層学習研究者は別だけど、そんなことできるの極々一部の天才だけだ

2022/01/03(月) 14:36:57.71

あと機械学習の専門研究なんて、現在ただのラベリング合戦の研究だからな。

名前を付けた手法をいかに精度良く見せかけていかに周囲に素早く拡めるかの世界

2022/01/03(月) 14:42:30.59

プログラミングやったことない&できない奴が始めるには最適な分野
hello worldレベルの知識ですらやってけるし、論文読むのに忌避感なけりゃ一か月でおまえらより上になれる

2022/01/03(月) 14:48:37.53

その通り
だから機械学習だけしかやってない人は危機感を持とうね

2022/01/03(月) 15:20:09.07

英語やプログラミングも専門分野と合わさって初めて価値を発揮しますからね。

専門分野なしにとにかく流行りのツールを学びたいという人はいつの時代も見られるものです。

2022/01/03(月) 15:35:09.15

寝る間を惜しんで機械学習コンペに精を出す人もいるけどむしろコンペを開催する側の能力がなければ近い内に淘汰される側となる。
専門外の人に解かせて使い物になるモデルが出来上がるということは問題設定や事前に収集したデータが適切だったということであって、
そこまで準備する能力があればモデル生成作業はコンペ・外注・自動ツール等々、その時点で一番コスパがいい方法を選ぶだけ。

2022/01/03(月) 20:47:57.48

プログラミング自体そのうち淘汰されるからな。やる意味ないぞｗ
でも今は意味なるんだよ。今がよけりゃそれでいい

2022/01/03(月) 22:27:45.53

そりゃどんな仕事もそのうち淘汰されるわ。
だから働かないとかただの馬鹿だろ。

2022/01/04(火) 00:02:04.61

「そのうち」でひと括りにする方がよっぽど馬鹿かと
淘汰されるのに数十年かかるならほとんどの現役世代は気にしなくていいけど数年で淘汰される可能性がある技能をせっせと身につける必要はない

2022/01/05(水) 04:15:21.19

なんつーか、、
AIって言葉が先行し過ぎ。
数学的にただの最適化問題で解ける問題をわざわざ機械学習(例えばNN)で解いて何をやってるんだろうと思ってしまうこと多々あり。

一応念のため言っておくが元々数学的な手法を機械学習やってるやつが種々の数学的な手法を勝手に『教師あり学習』『教師なし学習』『強化学習』に分類したのが始まり。

DLが出て加速的にこの分野人気が出たが元々の数学の背景は知っとけ。

2022/01/05(水) 07:14:44.64

訂正

機械学習やってるやつが種々の数学的な手法を勝手に『教師あり学習』『教師なし学習』『強化学習』に分類したのが始まり。

2022/01/05(水) 07:37:22.29

じゃあどの本を読めばいいの？

2022/01/05(水) 09:56:41.43

そのうちAIで一発充てて億万長者

2022/01/05(水) 10:10:11.14

>>315
勝手に分類したというソースとかあります？
最適化や統計学を参考に発展したのかなと言ったら激怒されたことがありまして。
でも、例えば最尤法なんてのはロナルドフィッシャーの前からあるわけで。

2022/01/05(水) 21:30:42.32

>>313
プログラミングがあと数年で淘汰されるとか本気で言ってるとしたら本当のバカだよ。