【統計分析】機械学習・データマイニング32

2022/08/01(月) 01:56:45.77

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/
【統計分析】機械学習・データマイニング31
https://mevius.5ch.net/test/read.cgi/tech/1632587566/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

2023/01/27(金) 11:26:19.18

>>867-868
いや優秀じゃないです。実際に役立つものを実装できません。

**デフォルトの名無しさん** · 2023/01/27(金) 11:58:01.51

>>869
おすすめはなんですか

2023/01/27(金) 13:44:15.64

>>863
言ってることが違うよねって話だけどね

いくつかのデータをまとめて入力し、それぞれの勾配を計算したあと、その勾配の平均値を用いてパラメータの更新を行う方法がよく行われます。
これをミニバッチ学習と呼びます。

ミニバッチ学習では、以下の手順で訓練を行います。
1.訓練データセットから一様ランダムに Nb (>0)個のデータを抽出する
2.その Nb個のデータをまとめてニューラルネットワークに入力し、それぞれのデータに対する目的関数の値を計算する
3.Nb個の目的関数の値の平均をとる
4.この平均の値に対する各パラメータの勾配を求める
5.求めた勾配を使ってパラメータを更新する

これ、そこのホームページが元なのか知らないがパラメータの更新方法について下の手順で書かれている本やサイトを何回か見たことあるけど
手計算で目的関数の値から勾配を算出しているのを見たことがない

2023/01/29(日) 11:45:59.52

30代Pythonクソチョン男は強姦魔の犯罪者！
あなたの近くにいます！
父母と祖父母の戸籍謄本を提出させましょう！

2023/01/30(月) 21:09:58.71

>>864
実際に箸にも棒にも引っかからない本ばかりで出版社がかわいそうになった
エンジニアは書籍を出すと泊が付くから本を出したがるけど
著者のレベルはピンキリ
特にAI関連なんて、いまさら情報がありふれてるから
質を問わなければ誰でも入門書の執筆ぐらいできるんだよ
これを真面目に売らなければいけない人、まじできつそう

2023/01/30(月) 21:57:56.76

>>873
お前をターゲットに出版社がしてるわけでもないだろ

2023/01/31(火) 08:38:48.44

>>874
？
論点そこじゃないよ
「基礎的な内容を謳うAIの入門書が粗製乱造されてる」ことを書いてるのであって「>>873の好みに合わない本が出版されてる」とはいってないよ

2023/01/31(火) 11:06:04.77

>>875
書店はある程度売れる見通しがあるから出版してるんだろう。論点がずれてるのはお前。

2023/01/31(火) 11:07:25.51

>>875
言い換えるとお前が素晴らしい本を上げればいい話

2023/01/31(火) 11:17:33.11

微分積分は杉浦で十分。

2023/01/31(火) 13:29:13.83

入門書じゃないと売上少ないから仕方ないのさ
はっきり言って日本語の本はろくなの無いし、書籍になるのはだいぶ遅いから
ある程度学んだら最新の論文で情報追うのが賢い

2023/01/31(火) 16:33:32.66

杉浦とか普通にわかりにくいから無駄
今ならいくらでもわかりやすい本がある

2023/01/31(火) 21:31:40.80

なんか機械学習を知ろうと思ったのに
タイタニック号で生死を分けた要因は何かとかアヤメの分類のキモとか
無駄に雑学ばかりが身について困っとる

2023/01/31(火) 21:37:38.47

等級が高い人の子供はほぼ生き残ってるのが凄い
心まで貴族だよ

2023/01/31(火) 22:20:04.74

なんとか症候群だよ

2023/02/01(水) 00:33:58.40

子供属性も貴族属性も優先救助の対象なんだから生存率高いのは当然かと

2023/02/01(水) 01:40:17.37

いや貴族の男は死んでるんよ
貴族は女子供を優先するという教育が徹底しているため
自分が死ぬの確定してるのにそれを貫き通したらしい
サンプルを動かしながら俺は涙が止まらなかった
最後の救命ボートを見送って最後に船内でピアノとか演奏してたとか言う逸話がある
知らんけど

2023/02/01(水) 02:30:26.96

サイトを教えてもらったはいいが
なんでどのサイトも出力層が1つの状態で解説するんだよ…
出力層が2つ以上あるときのそれぞれの誤差を
入力層-隠れ層間の重みの修正にどう使うのかが知りたいんだよ…

2023/02/01(水) 02:41:12.99

あとバッチ処理も書かれてはあっても中々に意味が分からん
複数の入力時の誤差を蓄積しておいて
学習のときにはそれらの平均を使うのは分かるとして
重みの更新用で傾き出すときに入力や隠れ層の出力×今の重みをしてると思うんだが
その入力はどこから来たものなのか
誤差蓄積に使った特定の1つなんて使ったらがっつり学習が偏るだろうし
全部1として入力によらず重みだけで更新されるようにしてるのか

2023/02/01(水) 03:12:57.12

だから数式で書けって
テンソルで書けばバッチの時と区別する必要がない

2023/02/01(水) 07:42:48.01

>>888
だからどんな式を使うのかは読めてもどんな値を持ち出すのかのとこで詰まるしそこで欲しい情報が微妙に足りなくなるから書けないんだって

2023/02/01(水) 09:25:59.17

それ単に数式が理解できていないだけでは

2023/02/01(水) 09:45:10.43

高校中退で数学が分かんないことを自覚してるくせに勉強しないとは

2023/02/01(水) 09:58:51.52

更新のための傾きを求めるときにさ
更新元の重み×誤差みたいなのするじゃん

で、隠れ層-出力層間の重みの更新が終わって
入力層-隠れ層の重みの更新をしますと

ここで出力層の誤差じゃなくそれに隠れ層-出力層間の重みをかけたもの(他のかけるものはなんとなく分かるから飛ばし)を
入力層-隠れ層間の誤差としますみたいに書いてあんのよ

隠れ層の重みって言ったら隠れ層のノード数×出力層のノード数分あるじゃん
それら全部にかけ算したら隠れ層×出力層の数分傾きが出てくるじゃん
でも入力層の更新元の重みにかけたいのは隠れ層のノードごとに1個の誤差なわけだから
出力層の数分は数が合わなくなるじゃん

そこを足すのか平均とるのかどう処理すればいいかみたいのに
出力層ノードを1個で解説してるとこばっかなわけよ
隠れ層ノードごとに重み1個しかないんだから複数重みがあるときの処理なんか書いてるわけ無いじゃん

2023/02/01(水) 16:36:20.44

Q おいチャットGPT、
Neuro Evolution of Augmenting Topologies(NEAT)ってなんやねん

A
「GA(遺伝的アルゴリズム)」は世代ごとに遺伝子を交叉、変異させ、適合率が高い個体を残していくことで徐々に良い個体へ近づけていくいく手法です。
この人工知能は、ニューラルネットに対してこのGAを使い、ニューラルネットを遺伝子配列で表現する手法を採っています。
＞Neuro Evolution of Augmenting Topologies(NEAT)＜
と呼ばれ、2002年の論文で初めて発表された強化学習の手法の一つです。

全体の設計としては、ニューラルネットワークの接続形態を交叉の原理に基づき、種の形成をして構造をより良いものとし、結果的に最小限の構造からノードの数やノード間を結ぶ接合部の数を増やしつつ成長させるというものになっています。
つまり「遺伝的アルゴリズムでニューラルネットワークの結合重みやトポロジ（各層間の接続関係）の自動最適化を行う手法」と言えます。

対象となる問題に合わせてネットワークの構造が変化するので、通常のニューラルネットワークより速く解の探索を行うことができるとされています。
ニューラルネットワークの結合重みはバックプロパゲーション（誤差逆伝播法）という手法で更新されますが、それを遺伝的アルゴリズムで行います。

初期集団には隠れ層がない単純なニューラルネットを採用します。

この手法は、状態や行動の価値を設定してその価値が最大になるようにTD誤差に基づいて価値関数を最適化していく「Q学習」や、方策をあるパラメータで表される関数とし、そのパラメータを期待収益J(θ)を確率的勾配法などで最大化する「方策勾配法」とは違います。
「モンテカルロ法」は実際に試行を繰り返して得られた報酬から”価値を推定”するので、遺伝的アルゴリズムとは区別する必要があります。

TD学習は、報酬から方策関数や価値関数を改善しながらBellman最適方程式を解いていきます。
NEATは、環境目標に従ってネットワークを最適化するためニューロンと内部接続を追加することにより、ニューラルネットを動的に進化させます。

どちらも「環境から状態を受け取り、そこからより最適な行動を選択できる」よう変化していくことは共通しています。

2023/02/01(水) 16:37:52.95

ものすごい長文で返してきたからビックリした

2023/02/01(水) 16:38:02.66

まず個別のニューロンで考えてる時点で分かりにくいからやめとけと思うけど
それがやりたいなら
多変数関数の偏微分とチェーンルールを勉強しろと言ってるだろ

2023/02/01(水) 17:22:18.84

振られていないのに長文びっくり

2023/02/02(木) 13:19:35.07

東ロボのやつのあの女はなんであんなに上り詰められた？大した業績なかったよな？？

2023/02/02(木) 15:03:37.06

小保方さんを思い出せ

2023/02/02(木) 19:56:32.96

ノートなんて取ったことが無いから
O氏はかわそうだなと思いました。

2023/02/02(木) 20:14:23.93

つまりたら仕込んだのか😡

2023/02/02(木) 22:10:47.23

859 名前：デフォルトの名無しさん (ﾜｯﾁｮｲ cd09-8jYs [150.91.3.238])[sage] 投稿日：2022/07/20(水) 20:31:37.56 ID:1J9/RHKW0
新井紀子て何様よ

2023/02/03(金) 10:21:58.34

ティムニットゲボて無能臭いな

2023/02/07(火) 17:26:20.00

ChatGPTでGoogleがコードレッド発動したり
ChatGPTはGoogleのコーディング職の試験を受けた場合、
レベル3エンジニアレベル(年収2420万円)とか
ChatGPT利用した言語学習プラットフォーム「Speak」が出たり
展開が早すぎる、、、

何かを教える立場の人もオワンコになっていく感じだろうな
知識を身に付けなくてもスマホで聞けばいい時代になるんだろうけども

2023/02/07(火) 17:34:14.08

田舎に居る若い奴等は畑で野菜作りでもしながら
やれる仕事を探すってのも大きく間違っていない気がしてきた

「ある日、森の中、熊さんに出会った」ぐらいの衝撃で
ある日、突然、その分野の未来が閉ざされる時代になりそう

2023/02/07(火) 20:07:07.98

>>898
ＳＴＡＰ細胞「確かに存在」米ハーバード大教授、京都で講演

2023/02/07(火) 20:49:45.36

>>903
本当にこの傾向になると
学習するための材料も極端に減っていって
AI同士がコピーし合うだけにならんかな
知性のストップ

2023/02/07(火) 22:45:21.36

30代Pythonクソチョン男は強姦魔の犯罪者！
あなたの近くにいます！
父母と祖父母の戸籍謄本を提出させましょう！

2023/02/08(水) 07:10:36.45

>>905
まだ信じてんの？

2023/02/08(水) 14:13:32.63

予想以上にはやく言語の壁がなくなりそう

2023/02/08(水) 16:53:08.18

馬鹿の壁はありまーす

2023/02/08(水) 19:50:18.78

msもgoogleも動き早すぎだろ😅

2023/02/11(土) 17:18:38.02

transfomerのpositional encodingについて調べてるけど、書いてる人も絶対雰囲気しか理解してないだろう的な説明しかない・・・・

2023/02/11(土) 21:37:57.14

以前ここで「微分分からないから計算をプログラムに起こす方法も分からない」みたいなこと書いた者です！
あの時は順伝播の部分しか作ってなかったのですが
あの後逆伝播での学習部分も実装できて
今では学習からテストの結果をLINE自動送信サイトにぶん投げてスマホから確認までの
やりたいこと全部作れました！
ありがとうございます！

2023/02/12(日) 17:32:26.45

位置エンコーディングの説明ならvision transformer本の説明が分かりやすかった

2023/02/12(日) 20:20:23.01

>>903
まだAIは実際にモノを作って改善できるところまでは行っていない(デバッグできない、実験できない)ので、
人間は実験役になるのではないのかな。
ビジネスチックな言い方でちょっと嫌だけど、PDCAのサイクルは回せないわけで。
回せるようになったら徐々にシンギュラリティに近づくだろうね。
既に、人間の知性の底上げには既に間違いなくなってるだろうし。

2023/02/13(月) 05:26:52.58

30代Pythonクソチョン男は強姦魔の犯罪者！
あなたの近くにいます！
父母と祖父母の戸籍謄本を提出させましょう！

2023/02/13(月) 16:40:36.20

in context learningてなんのこと？
few shot learningのこと？🤔

2023/02/14(火) 19:02:03.09

初歩的な質問ですみません

「時系列データ+一つの数字」を機械学習の入力変数とすることはできますでしょうか？

例えば「加速度の時系列データ+センサの周波数の値」を想定しているのですが…

2023/02/14(火) 19:37:30.16

>>918
できる。何やりたいかはわからないし、機械学習とは言わないかもしれないけど、
非同期の複数のセンサー用のカルマンフィルターなんかの設計でその手のは研究されまくってると思うよ。

2023/02/14(火) 19:54:20.29

>>919
ありがとうございます
大変参考になりました

2023/02/14(火) 22:20:05.12

取り合えずデータセット作って
CatboostなりXGboostなりにブチ込んどけばいいんじゃないの
当たらずとも遠からず的な予想が返ってきそうだけど
音声だろうが画像だろうが無理矢理ブチ込めば
それなりのが答えが返って来る
一番じゃないだけで

2023/02/17(金) 09:03:29.60

bingからりんなが用済みにされてて草😅

2023/02/17(金) 09:24:34.39

分類問題で出力層y1〜ynの内
正解層と同じ添字の出力層yxの誤差をyx-1
出力層の中で一番でかい層yzの誤差をyz
として
一番間違いが大きいところを削って正解にすべきところを伸ばす
その結果を1〜0の範囲に収めていく
みたいなことをやりたかったんだが
yzの値がどんどん削られて0に近づきはするのに
yxのほうは伸びるどころかyz以上に削られて-300とかになってしまう
何故なんだ…

2023/02/18(土) 10:04:09.78

2乗しろ

2023/02/18(土) 10:07:06.53

ワロタ

2023/02/19(日) 18:01:44.18

データ加工っぽい案件があるのでSQLの練習してるけど、初級レベルでも自分自身とjoinしたり不自然な技がおおくて、絶対Rのtidyverseのほうが優秀。普通にfor文書かせてほしいわ。。。

2023/02/22(水) 07:53:05.76

>>921
うちじゃ、とりあえず10種類ぐらい試すかな。
Pythonのライブラリですぐできるから。

2023/02/23(木) 22:33:15.14

考え方の違いだな
モデルに持って行く前段階で何かやらかしている可能性も考慮して
いきなりたくさん回さない

2023/03/03(金) 10:47:24.68

インデックスが datetime な pandas の dataframe を plot() すると plt.xlim() の値がおかしい

plt.show() すると描画されるグラフの横軸は 2021-1-1 から 2023-1-1 までで、これは意図した通りなんだが、print(plt.xlim()) すると (-620.9, 13838.9) という謎の範囲が表示される
num2date してみるとこれは 198何年から200何年で、どういう変換がされてるのかわからない
どなたかヒントください

2023/03/06(月) 16:05:03.62

gptでそんないいアーキテクチャかなあ？🤔

2023/03/06(月) 18:45:47.08

SAS、SPSSの下げ記事書いてるライター結構いるけど
そもそもデータ分析だけを必要とする層がビジネスや研究の分野でゴマンといるわけでしょ？
一時もそれ以外の事に時間を割きたくない層からしたらpython、Rの学習なんかやってられないよね
機能面でいくらマウント取れても素人が気軽に活用出来ないなら意味が無い
大企業が金かけてもいいから信頼性と操作性を重視してSASを導入するのは当然の事

2023/03/06(月) 19:15:43.59

データ前処理をPythonやRで自由自在にできないと使い物にならんかと
はじめから綺麗なテーブルデータが得られるなんて皆無なのに

2023/03/06(月) 21:42:27.11

そういうバカだけど地位とカネがあったりお薬みたいに公金チューペットできる層からボッタクる商売がSASとかSPSS

2023/03/07(火) 10:12:43.99

すみません、autogluonを使った古いスクリプトをもらったのですが、自分の環境で実行すると
module 'autogluon' has no attribute 'args' というエラーが出ます。
argsという属性は古く、現在サポートしてないということのようですが、新しいautogluon用に
これをどう書き換えたらいいかみたいなガイドってありますかね?
古いのだとこのargsで各種パラメータを指定するようですが

2023/03/07(火) 15:42:38.46

>>932
プログラミングが分からない素人ビジネスマンはExcelを使うのでは

2023/03/08(水) 16:34:09.98

Excel1本で前処理は苦行すぎる

しかし、SASの対象はユーザー企業だからDBからエクスポートしたような綺麗な構造化データしか触らないだろう

2023/03/08(水) 20:24:06.68

SASに関しては多少プログラミング齧った人材が必要だと思うけど
SPSSはExcel扱えるならプログラマー要らないですよね
どちらにせよPythonとRを統計実用レベルまでマスターできるなら、それもうプログラマーとして食っていった方がいいですよｗ

2023/03/09(木) 06:42:11.93

たし蟹

2023/03/09(木) 08:20:53.59

プログラマーってそんなに簡単なもんかいな？
まあ、分析できれば目的は達せられるので、プログラマーになろうとは思わんが。

2023/03/09(木) 12:41:08.33

ひく海老

2023/03/09(木) 21:20:03.02

営業とか研究開発の本業をこなしながらプログラムもなんて大半の人間は無理じゃないですかね…
たとえできる人がいても他大多数は使いこなせないから、浸透しないし。

2023/03/09(木) 21:23:20.71

理系脳ならプログラミングも統計学の初歩もすぐわかるだろうし、
そうでない文系ビジネスウェイみたいなのは時代的に用済みかと。

2023/03/09(木) 21:35:30.94

研究開発やってるような人だとプログラミングできない人を探す方が難しいのでは？

2023/03/09(木) 22:01:41.00

今どきはexcelでたいていの統計処理はできるからなあ
必ずプログラミングが必要かというとちょっと

2023/03/09(木) 22:38:35.94

自分は実験系の研究開発してるけどPythonでデータ処理するのが当たり前になってるね
自分の周りも深層学習とかPytorchなんかで色々やってるし数年前と比べても楽になったなあと実感するわ

2023/03/09(木) 23:39:35.10

>>944
いつもデータがexcelで綺麗に整理されていると思うな

2023/03/10(金) 00:26:27.46

というか、今時excell,GSなどは情弱低知能のためのツールじゃろ。
情強は手動でデータ入力する必要があるときに嫌々使うだけで。

2023/03/10(金) 00:28:18.11

Excelで分析するのは一画面に全データが収まる程度の量しか扱わないなら悪い選択肢ではないけどそれ以上の量になるなら流石に面倒すぎてやってられない

2023/03/10(金) 02:08:51.37

Excelは、データの入力や、出力結果の確認(フィルタとかセルに色付けとか)は便利だよね。
途中の処理は全部Pandasでやってるけど。めんどくさいことが多すぎる。
VBA書けたら違うんだろうけど、VBAよりJupyterのほうが便利な感じだし…

2023/03/10(金) 03:39:49.93

Excelはpandas.DataFrameとして読めるようになってから逆に復権した

2023/03/10(金) 11:13:04.56

なにそれ🤔

2023/03/10(金) 11:39:27.20

そういえばExcelで日本語表示するのってエンコーディングは何が正解?
pandasで処理したUTF-8のCSVを渡したら「Excelで文字化けして見えん」と怒られた
自分は普段Excelをできるだけ使わないようにしているので

2023/03/10(金) 11:46:48.37

BOMを付ければ読める

2023/03/10(金) 22:21:01.35

>>952
PandasからのExcel向けの出力は、CSVにするより、
to_excelでxlsx書き出した方がいいよ。
マジで。

2023/03/10(金) 22:44:23.05

ExcelはExcelでよいところもないわけではないこともないことがあるわけではない

2023/03/11(土) 00:32:28.16

Excelは表計算ソフトじゃなくて申請様式メーカー

2023/03/11(土) 01:15:29.41

それもおかしい。罫線まみれのexcellは狂気。そもそもexcellは無いほうが生産性が高いし、それしか使えないのは退場すべき。やたら使われてるのは世が情弱なのと雇用慣性があるから。

2023/03/11(土) 01:44:59.84

配線図の資料がExcelで罫線使って作られてるの見たときは怯んだ

2023/03/11(土) 08:49:38.48

まあそんなわけでキントーンなんかの宣伝文句もなりたつわけよね

2023/03/11(土) 09:11:34.17

excell ってなんか高貴な感じ

2023/03/11(土) 20:10:59.15

今の文系大学生ってプログラミングとか普通に出来るんじゃないのか？
動画作成とか、データ分析とか、、、
自分等の時代の文系は、遊び専門で
コミュニケーション能力とか人脈とか話術とか多数派云々だったり
そんなテクニックだけでやり過ごしている奴ばっかりだったけど

2023/03/11(土) 20:18:55.17

できるね
高いエクセルなんて持ってないしみんな無料のPython使ってるよ

2023/03/11(土) 21:10:54.33

自分等の時代がExcellだったからな
プロダクトキーだけでオンラインで云々とか無かった
でもLinuxで標準的に入ってるLibreOfficeとか
googleのソフトとか
その辺使ってレポートとか書いてるんじゃないの？
昔はWord、一太郎、Texと3つあってソフトとか指定されて
それで書いてたけど

2023/03/11(土) 21:23:51.14

>>962
大体どこの大学もMS365に包括で入ってるんじゃない？
学生の PCでWord、Excelが使えないとなると教員が困るから。

2023/03/12(日) 12:25:29.61

プログラム開発者にはExcell使ったことない人がそこそこ存在。

2023/03/12(日) 22:31:15.88

仕様書書くのにExcel使う

2023/03/13(月) 00:07:00.10

Excelが嫌われるのは長期的に使い続けてデータベース構築するような用途に無理矢理使おうとするからであって、その場限りでとりあえず表形式の見た目のものが欲しいだけの用途に使うのなら何ら問題ない

2023/03/13(月) 00:27:38.13

DBやcsvなどのtidyデータ形が念頭にある上で小さい規模で使うのが本来