【統計分析】機械学習・データマイニング31

2021/09/26(日) 01:32:46.82

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

2022/03/01(火) 07:31:45.97

小室哲哉が理研に入ってて草

2022/03/01(火) 17:37:55.12

>>404
1クラスほぼ1枚、運が良くて2、3枚て感じ
転移学習でやるか、siftを使うしかないかと思ってた

2022/03/01(火) 18:02:29.10

普通の十数クラスでも数枚じゃろくな結果にならないのに
100万クラスで数枚だと絶望だよ

2022/03/01(火) 18:51:28.00

百万クラスが互いに余程かけ離れた特徴量を持ってる対象とかですかね。

クラスタリングとかならわかりますけども、分類だと分岐の調整がほぼ働きませんし訓練データに対してさえ精度でなさそうですね。

2022/03/04(金) 17:53:22.48

metric learningが良くね？

2022/03/07(月) 20:19:41.23

統計検定4級って社会人が受けてたら浮く？

2022/03/07(月) 20:19:49.19

28歳です

2022/03/07(月) 21:07:31.50

今は1級を除いてCBT試験（オンライン試験）しかないから浮くとか浮かないとかないぞ。

2022/03/08(火) 03:35:43.59

中学数学からやり直さなきゃいけないレベルだったorz
とりま統計学が最強の学問である(数学編)を参考に最短ルートを行く

2022/03/08(火) 20:00:59.24

混乱してるんだけど
↓の理解で良いの？

表現学習
└距離学習
　└対照学習

2022/03/08(火) 20:29:30.66

>>414
距離と対照は包含関係ではない

2022/03/08(火) 20:39:17.51

日本語に訳してるのが混乱の元のような気がしてならない

2022/03/08(火) 20:54:13.09

contrastive lossによるmetric learningと
contrastive learningて微妙に違うの？コンテキストが違う感じ？

2022/03/10(木) 02:36:40.93

メトリックで探索する用途じゃなくてpre-trainのためのcontrastive learningというのはある。

2022/03/12(土) 15:52:28.60

サポートベクター回帰とカーネル回帰って同じですか？

2022/03/12(土) 18:10:34.04

別

2022/03/12(土) 20:01:47.52

企画職で、プログラミングできないなりに勉強してて、何かしら予測するところまではできるようになった。
ただ精度を検証したり精度上げたりってとこがうまく出来ないから、仕事で使うには難しいね。

2022/03/12(土) 20:43:47.27

>>421
精度上げるならドメイン知識豊富な企画職の方が有利かもしれない。
予測に寄与しそうな特徴量を考えるのが大切だから。

2022/03/12(土) 21:45:40.55

ランダムにサンプルを分けるんじゃなくて、あらかじめ決められた膨大なサンプルでバギングってできますか？

2022/03/13(日) 00:12:08.08

>>422
確かに。よそのチームに掛け合ってデータとってくるとか、そういうのは得意かな！

ただ、それで精度上がったとかよくわかんなくて悩む。予測の出し方とか解説してる記事とかはよく見るけど、どうやってそれを継続的に運用発展させるのかわかる本が欲しいよね

2022/03/13(日) 00:27:37.40

ランダムフォレストが特徴量を選択する性質がありますね。

ただそれを頼ってなんでも放り込んでしまうと学習コストが跳ね上がるので、結局は設計者が選別したものを使うのですが。

他にアルゴリズム自体が特徴量を選択する手法ってありますかね？

2022/03/13(日) 02:18:47.32

>>424
表形式データならXGBoostに入れてハイパラ調整するだけじゃないの？

2022/03/13(日) 06:36:10.83

>>421
仕事で使う場合、MLは目的ではなくて手段だと考えないと。誰の目にも見える形で成果を出さないと評価はされない。
詳しいことは河本：データ分析・AIを実務に活かすデータドリブン思考などを参照。

2022/03/13(日) 10:01:59.98

>>424
MLOpsっていう分野だけど正解は無いから、どこも悩んでいる

2022/03/13(日) 10:41:45.71

専門家じゃなくても現場レベルで機械学習適用が容易になってきてるからね
画像分類やらテーブル形式データからの予測とか、もう誰でもできるレベルだし
これからは何か他に専門を持って、その課題解決に機械学習適用するのがいいよ

2022/03/13(日) 11:05:33.21

>>427
ありがとう、読んでみるよ！
>>429
そうだね、思ったより簡単だった。今はいろんな実務の人に実演して驚いてもらって、一緒に課題を見つける協力関係つくるのをがんばってる

2022/03/13(日) 17:11:48.11

「マスターアルゴリズム」って本面白いな
まだ序盤までしか読んでないけどワクワクしてくる
「われわれは仮想世界を生きている」も最高に知的好奇心くすぐられたり今年は当たり本によく当たるわ

2022/03/13(日) 17:12:46.30

>>421
君たいな人にこそ「マスターアルゴリズム」はオススメっぽい

2022/03/13(日) 22:04:56.57

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
クソチョンはゲリ便をじゅるじゅると
うまそうに食うw

2022/03/14(月) 09:43:51.31

でもさ、ぶっちゃけ機械学習の研究者やエンジニアよりデザイナーとかアーティストとかクリエイティブ系とかの方が文化的にも世界を豊かに彩って楽しくしてれるよね
人工知能は発展していけばインフラみたいになるものだし、そこからはより人間らしく創造的な活動が重要になる

結局、人にしか出来ないようなスキルの方が本質なんだと思うわ

2022/03/14(月) 09:45:43.27

芸術家の方がカッコいいしモテるんだよなあ
数学やプログラミング出来たって「わあすごーい」と言われるだけで、、、辛えわ

2022/03/14(月) 10:10:47.18

どうでもよくてわろた

2022/03/14(月) 10:42:35.45

どうせなら大きな経済的成功を成さないと機械学習やってる意味ねえから仮想通貨botterにでも転生しようかと思ってる

2022/03/14(月) 11:19:15.97

どうぞどうぞ

2022/03/14(月) 11:26:19.84

伸びてると思ったら書き込み一人だけ。しかもポエム系ｗ

2022/03/14(月) 20:22:26.24

アートで食ってくのと、数理的スキルで食ってくの、楽なのは圧倒的に後者
数理的スキルそれなりにあったらそこそこ割の良い仕事取れると思うけどなあ
そう思えないんだとしたら多分案件を探している市場がミスマッチなんだと思うけどな

2022/03/15(火) 00:56:33.52

リーマン的な思考から来る小銭稼ぎならそうだろうね
そもそも今どの市場でも数理的スキル持ってたらアンマッチなんてまず起きない
ただ>>434>>435みたいなのはエンジニアでは無理だし、億単位の圧倒的な成功も余程卓越したものを持ってないと無理

俺はリーマン的成功には何の興味も無いんだよ

2022/03/15(火) 07:56:41.40

自分もマスターアルゴリズム買った
たしかにいい本だね
本屋で表紙見かけた時ラノベか何かかと思ってたw

2022/03/15(火) 10:50:00.24

>>442
わいも本屋で何気に手に取ってパラパラっと見たら良本の匂いがしたから即買ったクチ
仮想通貨botで市場から資金調達しつつ、マスターアルゴリズムや真理の探究するわ

2022/03/15(火) 12:33:22.68

マスターアルゴリズム、って学部1, 2年生には魅力的な内容かも
エッセイだし

2022/03/15(火) 23:51:36.94

>>441
分野がアートだろうとクリエイターだろうとエンジニアだろうと億単位の圧倒的な成功なんて一握りだろ
戦略コンサルとかにでも転職したらいいんじゃね、そんなに成功にこだわるなら
アートもクリエイターもエンジニアも成功を目指して選ぶ業態というよりは、金銭より大事なものがあってどうしても金に心を売れない人種がする仕事だと思うがなあ
夢見すぎだよ

2022/03/16(水) 18:55:26.68

エンジニアは金銭目当てだよ
特に昨今の機械学習ブーム見れば一目瞭然
少なくともアーティストやクリエイターと同列扱いなど勘違いも甚だしい、次元が違う

2022/03/16(水) 19:09:10.14

ヒントンやルカンやベンジオがアーティストか？違うだろ

2022/03/16(水) 19:10:19.19

smtやってた連中は金融に行って大儲けした

2022/03/19(土) 21:48:51.08

こういうのはどういう仕組みなんですか？
11万件のデータを学習させているそうです
なんとなく胡散臭いような…
https://twitter.com/Angama_Market/status/1504823635953188865
https://twitter.com/5chan_nel (5ch newer account)

2022/03/19(土) 22:09:24.89

>>449
ウソです

2022/03/20(日) 11:21:04.95

anacondaってゆうほど便利じゃなくない？
モジュールのインストールが超遅かったりコンフリクト解決してくれなかったり

2022/03/20(日) 11:44:01.28

conda install使うとはまるな
総合的に普通よりもちょい上ぐらいのイメージ

2022/03/20(日) 18:44:56.60

>>451
ソースコードからPython実行環境を構築してみると分かる。パッケージ管理ツールの有り難さが。
文句を言う前に自分が努力してみよう。

2022/03/20(日) 18:46:40.29

opencvのインストール、6時間経っても終わんない😭

2022/03/20(日) 20:22:45.30

>>453
普段はpip使ってるけど使いたいライブラリがanacondaおすすめしてたから使ってみたらこうだよ(o´･ω･`o)

2022/03/20(日) 23:28:12.61

condaは仮想環境構築には便利

2022/03/21(月) 00:56:53.16

anaconda は、モジュールの依存を解決してくれないの？
嘘でしょ？そんなパッケージマネージャーってある？

Ubuntu のapt, Ruby のBundler, Node.js のnpm/yarn は、依存を解決するけど

2022/03/21(月) 01:12:35.94

anaconda今年から商用利用有料になったからminicondaに変えて取得リポジトリ変えないといけない
だったらvenvで環境切ってpipで自分で解決したほうがいい

2022/03/21(月) 06:35:51.00

wordcloudって面白いけど
単語の重みの数値とか単語間の繋がりの数値とか順位とかを出力してくれる機能はあるのかなあ？

2022/03/21(月) 18:06:01.26

>>459
特定ライブラリの機能じゃないから実装によるだろ

2022/03/22(火) 10:26:04.56

谷中瞳とか女はイージーで良いなあ
広告塔にもなるし

2022/03/23(水) 10:09:00.76

pydotplusとgraphvizいいなあ

2022/03/29(火) 01:28:15.27

optunaって、同じパラメータを重複して試行することあるよね？
仕様なの？

2022/04/02(土) 06:29:57.41

当方超絶初心者なのですが質問をお許しください。

やりたいことは、5小節分のベートーヴェンの楽譜をデータセットとして、
学習後諸パラメータからベートーヴェンの曲のある瞬間の音を推論するというもの

その際、まずは手作業で一小節づつ手作業でデータセットを作り、
また目標値を単純にある音の次の音、ということにしました。
つまり一つの音に音高・音価・音量等があるのですが、それが四声同時に鳴るので、
3×4×（記録する音との数）という3次元配列なのですが、目標値もまた3次元配列です。

このとき、from chainer import Sequentialして
入力変数を12、出力変数と12として、
目的関数を適切に選べばやりたいことができるでしょうか（最終的にはライブで、自分の演奏を一定期間学習させてリアルタイムに学習済みモデルを作り、こちらの入力に対し推論値をOSCで演奏システムの方に送ってパラメータを設定させる、ということを考えています）

またその際の目的関数として何が適切なのかも教えて頂けると幸いです。

2022/04/04(月) 18:40:17.74

そういう単純な方法だとだいたいにおいて目的にかなわない推測になるなｗ

適当にぐぐってそこから論文みつけてreferenceおっかけて方法ぱくるのがいいと思う
https://towardsdatascience.com/generating-music-with-artificial-intelligence-9ce3c9eef806
https://arxiv.org/pdf/1609.03499.pdf

2022/04/04(月) 21:41:20.09

題材が面白い

2022/04/08(金) 11:39:54.46

家庭用PCで学習できるオススメのレコメンドシステム教えて下さい

2022/04/08(金) 12:41:14.77

協調フィルタリング

2022/04/09(土) 07:31:19.07

>>465

ご紹介ありがとうございます、リンク先凄いですね・・・
ただ今回は、オーディオを扱うのでなく、あくまで自作ソフトウェアシンセの
各パラメータを学習させて、それを自動演奏させるのが目的なので、
MIDI信号つまり小数の配列で十分なのです。

そこで方策として、
まず教師用データとして、一定時間自分の演奏を記録（各パラメータをPythonに送りそれぞれ一次元配列に格納しておく）
入力用データとして、そのあと同じ時間（つまり同じ長さ分の配列）自分の演奏を記録して、それを入力用データとする
アウトプットをソフトウェアシンセに送り返して、パラメータとして設定

という大まかなものが出来ました。

ところで本当によくわかってないので初歩的な質問を失礼しますが、目標値やラベルが必要だと思うのですが、ここでそれに当たるものは何なのでしょうか・・？

自分のシンセのパラメータは２０個くらいを考えています。それらを２０個の配列に記録したとして、これを教師用データとしたとして、ある入力（２０個のパラメータ）に対してその予測として20個のパラメータを推論してくれれば嬉しいのですが・・・
普通だったら複数のパラメータから、一つの別のパラメータを予測するものですよね。

考え方が混乱しているので、ご指南いただけますと幸いです。

2022/04/09(土) 11:08:34.82

時系列かなと思ったけど
あんまり履歴情報は使わないの？

2022/04/09(土) 11:52:07.89

時系列、ということは例えば、データセットとして演奏データを送ったとして、
データ送信終了するときの一番最新のものを、目標値として使う、などということでしょうか。

2022/04/09(土) 22:36:41.08

クロスエントロピー誤差の偏微分って出力変数の合計が1になるって制約は考えなくていいのはナゼ(・・?
出力変数がz1とz2の2つならz1について偏微分するときはz2=1-z1としなくていい?

2022/04/10(日) 01:24:56.83

偏微分する変数はソフトマックスの前だから合計1の制約はない

2022/04/11(月) 09:22:54.65

新しく出たCLRS著『Introduction to Algorithms 4th Edition』

ですが、機械学習についての章が追加されましたね。

2022/04/11(月) 16:05:56.30

>>474
いらねーと思ったけどよく考えたらあらゆるジャンルのアルゴリズム扱ってたし
入れてもいいか

2022/04/11(月) 16:12:26.88

機械学習アルゴリズムは四則演算並みに常識化するのかも

2022/04/11(月) 17:10:35.01

>>476
アルゴリズムは知らなくても使えますし常識化はしないんじゃないですかね。

仕組みは分からないがツール経由で使い方を知っていると言うところに落ち着くのではないかと。

2022/04/17(日) 17:45:40.20

セマンティックセグメンテーションを試そうとcolaboratoryでやろうとして

yolactは本家のデータセットが入ってないから止めた

そもそもyolactではPyTorchは1.4以上お薦めなのにPyTorch本家の指示に従うと1.1になってしまう

それでsemamtic segmentationという名前ので試そうとしたら今度はopenCVのバージョンを4.5でなく4.4に
する必要があった
しかも今度は教師データにアノテーションデータフォルダなしでこれも動かない

ちゃんとデータセット揃ってるのでやり直そう

2022/04/17(日) 19:37:04.77

ここは日記帳じゃな…

2022/04/17(日) 19:39:58.71

だってまともな書き込み少ないし

2022/04/17(日) 23:46:59.59

データセットが揃ってる資料を使ってやってみたら
何とか最後まで行き着いた

しかし

1. PyTorch公式でpipすべきバージョンを調べた後で
わざわざそれと違う1.4をインストールするとか
opencvも4.4にするとか色々変える

2. 一見丁寧に書いてある資料と思わせて
公式のipynbの資料とやっぱり違ってて
そのまま丸写しすると
validdataのフォルダが作られてなかったり穴だらけになる

等などで、
「ここは最初の資料ではこう書いてあるがこうやらないと動かないぞ！！！！！」
と#コメント文が山のようにくっ付いたcolabの資料が完成した次第

しかし、別の時間帯に試したらGPUがK80とかT4とかだったりで
GPUガチャは避けられないからなあ

2022/04/18(月) 00:02:15.50

>>29
さてそれはどうでしょうか
実は1月～3月ほど強度のストレス下にあり、一睡もできない日々が2ヶ月続きました（体力維持のためしっかり食べてビタミン剤で補強しても体重は15kgも減りました）が、じゃあ記憶が全然できなかったかというとそうでもなかったです…
今ではサイコパス呼ばわりされちゃっています、私は結構タフですねえ…

2022/04/18(月) 01:44:31.01

本当に2ヶ月(24x60=1440時間)覚醒し続けたならもう死んでる。
つまり、2ヶ月一睡もしなかったというのは妄想。そりゃ精神障害扱いされるわ。

2022/04/18(月) 10:27:14.26

今yandexクラウドって日本から契約できるかな？

2022/04/23(土) 00:30:31.12

機械学習メインでやってる人からすると、例えばGLMみたいな統計モデリングはどういう扱い？機械学習の一部？

2022/04/23(土) 00:48:26.73

学習データを元にモデルのパラメータを推定するんだから機械学習

2022/04/23(土) 20:31:19.17

最小二乗法も機械学習?

2022/04/23(土) 23:00:18.32

うん

2022/04/23(土) 23:24:04.66

というより機械学習が統計崩れ

2022/04/24(日) 00:02:27.67

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
クソチョンはウンコを食べる糞食人種w
クソチョンはゲリ便をじゅるじゅると
うまそうに食うw

2022/04/24(日) 02:26:30.49

最小二乗法は機械学習ではないな
計算過程に学習が必要でないから

2022/04/24(日) 03:32:27.95

「学習」という言葉をどう定義しているの？

2022/04/24(日) 09:31:15.29

学習用データに応じて結果が変わるんだから最小二乗法も学習してるでしょ

2022/04/24(日) 16:32:36.67

クラスタリングも機械学習定期

2022/04/24(日) 17:33:03.56

最近傍法も機械学習

2022/04/24(日) 17:57:41.63

〇〇はAIですかも同系統の質問だけど何でそんなことが気になるのか不思議

2022/04/24(日) 21:10:28.13

いや最小二乗法は解析的に解くから学習してないだろう
学習の定義とかしらんが、機械学習ではない

2022/04/24(日) 21:13:53.85

評価関数をMSEにして回帰してるなら機械学習

2022/04/24(日) 22:11:05.81

>>497
解析的に解けるかどうかってそんなに重要か?
最小二乗法をあえて確率的勾配法で解いたら機械学習と呼べる?
データが大量でメモリに乗らない時に使う手段だが

2022/04/24(日) 23:04:26.15

MLの定義なんて決まってないからな
入れる奴もいれば入れない奴もいるってだけ
俺は最小二乗法も入ると考えてるけど、内心では古典的なクラスタリング含めてそんなもんML扱いすんなよと思ってる

2022/04/25(月) 08:28:54.71

こんなこと言っても線形回帰に精度で負けちゃうんだよね

2022/04/25(月) 17:57:03.33

成田悠輔ってどうよ？

2022/04/26(火) 01:25:38.26

回帰の勾配ブースティング木の勾配がMSEの微分で残差となるのは理解できたのですが、
分類問題の場合の各決定木の勾配って何になるのでしょうか？

2022/04/26(火) 06:10:44.32

mse