人工知能ディープラーニング機械学習の数学 ★2

**デフォルトの名無しさん** · 2019/03/05(火) 09:36:28.29

※前スレ
人工知能ディープラーニング機械学習のための数学
https://mevius.5ch.net/test/read.cgi/tech/1482808144/

**デフォルトの名無しさん** · 2020/07/25(土) 01:52:09.86

何と戦ってるんだ

**デフォルトの名無しさん** · 2020/07/25(土) 02:58:57.99

自分との戦いかもしらん

**デフォルトの名無しさん** · 2020/07/25(土) 10:36:28.12

サイヤ人だろ

**デフォルトの名無しさん** · 2020/07/25(土) 11:35:35.47

下手にnvidiaのtesla買うより、中古売りで7割方戻ってくるゲーミンググラボの方がマシ

**デフォルトの名無しさん** · 2020/07/25(土) 13:33:19.21

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ

Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw

日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw

**デフォルトの名無しさん** · 2020/07/25(土) 14:20:42.85

>>891
もっと安いグラボかCPUのみで高速に動く方が価値は高い。

**デフォルトの名無しさん** · 2020/07/25(土) 16:02:40.89

>>897
つまりどーゆうことだってばよ
簡単に計算できるモデルが優秀という意味？

**デフォルトの名無しさん** · 2020/07/25(土) 17:18:58.74

同じ成果を出すモデルなら当然計算コストが低い方が優秀

**デフォルトの名無しさん** · 2020/07/25(土) 18:35:10.73

特徴量が数万になるようなDL学習させようとしたらCPUじゃ無理でしょ

**デフォルトの名無しさん** · 2020/07/25(土) 19:56:44.93

実はそのモデルの精度は線形モデルと有意差つかなかったりして...
ブートストラップ法とかでクロスバリエーションの精度の信頼区間を計るようになると現実を知って機械学習辞めたくなるｗ

**デフォルトの名無しさん** · 2020/07/25(土) 21:30:08.89

>>901
特徴量エンジニアリングでかなりいい線いければ。

**デフォルトの名無しさん** · 2020/07/25(土) 23:19:20.25

>>902
それもうDL必要ないやんｗ
画像動画音声なら分かるけど

**デフォルトの名無しさん** · 2020/07/26(日) 10:42:38.50

>>901
データ数によっては、DLより単なる重回帰のほうが結果良かったりするのはしょっちゅうありますよ。

DLが役に立つのって非線形の
関係のときだけですね。

経済データいろいろやりましたけど
圧倒的に単なる重回帰が役立つと思います。

**デフォルトの名無しさん** · 2020/07/26(日) 11:43:06.82

世の中の問題って圧倒的に非線形なんじゃないの？素人ですが

**デフォルトの名無しさん** · 2020/07/26(日) 12:25:45.72

線形と非線形の違いって？具体例ありゅ？

**デフォルトの名無しさん** · 2020/07/26(日) 13:12:15.24

例えば適当にググったこのサイトの真ん中編の「応力とひずみ」の例で言うと
https://math-fun.net/20190619/1715/

力をかけてゆっくり歪んでる間は線形で
ビキッとヒビ行ったりズルっと滑ったりする瞬間の動きが非線形

**デフォルトの名無しさん** · 2020/07/26(日) 13:14:41.09

>>906
ググッたほうが早いと思います。

**デフォルトの名無しさん** · 2020/07/26(日) 13:35:51.81

非線形=線形でない
いわれて考えてみれば線形なんて理想論みたいなものでそれで済むのが稀な気
ある部分で線形だったり、線形で近似できたりはするんだろうが

**デフォルトの名無しさん** · 2020/07/26(日) 13:47:56.19

>>905
線形か非線形かが問題ではない
パラメトリックかノンパラメトリックかが問題
そしてノンパラメトリックは過学習が起きやすい
サンプルがめちゃくちゃ多いとき以外はクロスバリエーションでなんとかなるレベルじゃないのはバイアス-バリアンストレードオフの話を色々を調べればなんとなくそんな感じがする
画像映像音声のよくある問題はDLが今のところ圧倒的高精度だからその分野では有意差ついてそうとは思うけどもっと一般のデータマイニングでは有意差について慎重になるべきだな
一度でもいいから精度の信頼区間計ったらいいよ予想以上の結果で色々考えるのバカらしくなってくるから

**デフォルトの名無しさん** · 2020/07/26(日) 13:49:07.04

>>905
勿論そうだが実用上線形とみなして問題無いことも多い

**デフォルトの名無しさん** · 2020/07/26(日) 13:50:07.83

>>910
>>901

訂正
クロスバリデーションだったｗ

**デフォルトの名無しさん** · 2020/07/26(日) 14:30:01.23

>>905
本質は非線形でも線形近似で精度必要十分

**デフォルトの名無しさん** · 2020/07/26(日) 14:30:56.49

>>910
すまんな、何言ってるか分からんw
出直してきます

**デフォルトの名無しさん** · 2020/07/26(日) 14:50:28.33

>>914
ここは数学スレだからDLユーザーの風潮に少し否定的というか懐疑的な見方をしてる人が多いだけ
あまり考え過ぎない方がいいかも

**デフォルトの名無しさん** · 2020/07/26(日) 16:00:16.16

ノンパラなデータをそのままライブラリにぶち込んでも
テストスコアだけが高い再現性のないモデルしか作れないのでは？

**デフォルトの名無しさん** · 2020/07/26(日) 21:23:25.10

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ

Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw

日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw

**デフォルトの名無しさん** · 2020/07/27(月) 18:43:02.98

javascriptだけで簡単にAIは作れますぜ
http://re-file.com/18k/1677/

**デフォルトの名無しさん** · 2020/07/27(月) 18:53:53.57

グロ中尉

**デフォルトの名無しさん** · 2020/08/07(金) 18:54:09.73

仕事でPython書いてるんでプログラミングは問題無し。
さいきっとらーんは使える。

ただ数学がにがてで、
高校の数学が怪しいところからスタートして、
偏微分、行列計算くらいはわかるようになったんですが、
ここからあとなんの本やれば、パターン認識と機械学習に太刀打ちできるようになりますか？
何冊か教えてもらえると助かります！

**デフォルトの名無しさん** · 2020/08/07(金) 19:02:59.47

>>920
最初におもに勉強すること、教科書を決めてそれから必要な数学を探るほうがいい

**デフォルトの名無しさん** · 2020/08/07(金) 19:05:55.77

数学科卒で大学院も数学で、プログラムはやらないけど基本情報、応用情報はもってるが
機械学習等が動かせばいいであれば中身の動作がどうなってるかを詳しく勉強することもないとおもうんだが
チュートリアルのみでも動かせるでしょ

◆QZaw55cn4c · 2020/08/07(金) 19:44:13.28

>>922
パンピーが老後の楽しみに数学書をじっくり楽しむとすれば、どんな分野がいいでしょうか？
数Ⅲはなんとかわかります…

**デフォルトの名無しさん** · 2020/08/07(金) 20:49:03.17

>>923
シナのスパイ

**デフォルトの名無しさん** · 2020/08/07(金) 21:23:43.61

解析概論
現代数学概論
位相幾何学概論

数学の古典的名著だな
ググると今でも手に入るらしい

**デフォルトの名無しさん** · 2020/08/07(金) 22:38:51.48

現代数学概説だろ

**デフォルトの名無しさん** · 2020/08/08(土) 11:00:25.15

IUT

**デフォルトの名無しさん** · 2020/08/08(土) 13:47:25.85

学術の巨大掲示板群 - アルファ・ラボ ttp://x0000.net
数学物理学化学生物学天文学地理地学
IT 電子工学言語学国語方言など

VM + ASM を書いた (C#, DX) * x86 ではない!
simulationライブラリで純粋な関数式プログラミングをする
UIライブラリ (C#, 2D) を作ったよ
連続と離散を統一した！
4Dエンジン
matrixのライブラリ
ある強力なFor関数
SQLライブラリ

VM + ASM のダウンロード
ttp://up.x0000.net/files/TSimulang.zip

**デフォルトの名無しさん** · 2020/08/08(土) 14:54:28.93

>>928
シナ竹

**デフォルトの名無しさん** · 2020/08/08(土) 16:03:23.24

ディープラーニングの為の数学とあるが、DLに数学はいらんのでは？

数学や統計学が必要になるのは、DLが適切かも含めたモデリングの段階

**デフォルトの名無しさん** · 2020/08/08(土) 21:11:03.71

勾配降下法しらんのか？

**デフォルトの名無しさん** · 2020/08/09(日) 05:35:03.18

>>930
いわゆる数学科で習うような数学ではないわな
数値計算アルゴリズムと言った方がいいと思う

**デフォルトの名無しさん** · 2020/08/09(日) 10:18:02.08

>>930
自分で計算できる必要はないけど
活性化関数見て、ああこんな感じの効果のある関数ねって理解したり
微分可能とは何かわかってoptimizerの説明みてこんなことやってるのねってわからなければ

ディープラーニングのライブラリの説明文読んでもわけわからんだろう

**デフォルトの名無しさん** · 2020/08/09(日) 10:28:15.81

>>932
数値計算ではない

**デフォルトの名無しさん** · 2020/08/09(日) 15:54:17.83

統計とか手順に従って計算するだけだから面白く無い

**デフォルトの名無しさん** · 2020/08/09(日) 16:07:57.94

手順のない計算が面白い

**デフォルトの名無しさん** · 2020/08/09(日) 16:57:14.22

ディープラーニング含めありとあらゆる計算は何らかの手順に従ってやってるだけだぞ

**デフォルトの名無しさん** · 2020/08/09(日) 17:08:37.28

知ってるよ
手順を開発するのが楽しい
手順を(特に人力で)実行するのは楽しくない

**デフォルトの名無しさん** · 2020/08/09(日) 17:15:00.93

日本語の勉強が必要

**デフォルトの名無しさん** · 2020/08/09(日) 17:29:20.15

>>938
普通は○○の認識・検出などの精度を上げたい・新しく作りたいっていうのがあって
改善のためにいじるところが山ほど（ネットワークや損失関数、学習データなど）あって途方に暮れる場面の方が多いと思うけど

手順を実行するだけの状況ってどんなんだろう
授業で言われた通りに課題の学習組む感じ？そりゃつまんないわな

**デフォルトの名無しさん** · 2020/08/09(日) 19:11:16.12

>>938
気持ちはわかる
俺は同じ画像セットで延々とやってる

だが実際は人工知能の本質はむしろデータに内包された情報の構造にあるんじゃないかと思ってる
その辺研究やってる人いないっしょ・・・

**デフォルトの名無しさん** · 2020/08/09(日) 19:17:41.91

>>941
構造方程式モデリングのこと？

**デフォルトの名無しさん** · 2020/08/10(月) 12:06:39.32

ネットワークの組み方を少し探っていくと、
結局、人間はこう判断してる、だからこういうネットワークが有効なはずだ。
と人間観察がほとんどな気がしてる・・・

が、この解釈あってる？

**デフォルトの名無しさん** · 2020/08/10(月) 12:37:33.03

近頃はcpuパワーを生かして
いろいろなパラメーターを乱数で振って
ものすごい試行回数を試して
一番いいのを選ぶんじゃないの?
数学の出る場面は?

**デフォルトの名無しさん** · 2020/08/10(月) 12:56:36.98

>>944
評価基準は決めなきゃいけないでしょ
二乗誤差を極小化するのか？
尤度を最大化するのか？
どれを利用すれば、データにどのような性質を、暗に仮定する事になるのか、数学的な理解を持たなければ、意味ある分析にならない

**デフォルトの名無しさん** · 2020/08/10(月) 13:26:45.99

>>944
こんなんでも東大卒
https://www.youtube.com/watch?v=SLVKbZCvEFo

**デフォルトの名無しさん** · 2020/08/10(月) 14:37:31.18

>>943
だいたいあってる。そういう仮説をダラダラ語れた方が論文にしやすい
でも実際そういう仮説が当たってんのかどうかは不明
適当なネットワークでもそれなりに働くから

**デフォルトの名無しさん** · 2020/08/10(月) 14:40:49.24

>>944
ハイパーパラメータは乱数ってより総当たり全探索系
ネットワークの重みの最適化は勾配法の類

数学の出る場面は？って全てにおいて数学の計算やん
人間が計算するわけじゃなくてソフトがやるけど

**デフォルトの名無しさん** · 2020/08/10(月) 14:53:58.65

人がチューニングしなければいけない工程はライブラリの発展で減ってってるから
中途半端な数学や統計の知識は不要になってるのは事実

しかし、現実の課題は、画像認識等の定型的なものばかりじゃないので、
機械学習できる段階まで落とし込む為に深い知識が必要

**デフォルトの名無しさん** · 2020/08/10(月) 16:22:06.33

それは数学の知識というか
エンコーディングの知識だよね
抽象化するという意味では
ある意味数学でもあるけど

**デフォルトの名無しさん** · 2020/08/10(月) 16:27:37.77

どこを見ても学習に何日何時間かかったという肝心な情報が欠落している
どんな構成でも1月も回せば収束するがそれはその方法の正当性を示しているわけではない

**デフォルトの名無しさん** · 2020/08/10(月) 16:37:40.18

アホ参上

**デフォルトの名無しさん** · 2020/08/10(月) 17:03:48.47

その方法の正当性とやらをなぜ全く無関係な学習時間で測れると思うのか
学習時間なんてマシン構成やライブラリ・フレームワークの向き不向きなどで何倍も変わり得る
客観的に正当性を測るには統計学に基づく方法でしかありえない

**デフォルトの名無しさん** · 2020/08/10(月) 17:16:05.28

二日過ぎても九割にも達せず遅いと思い、こうすれば早いと改善を入れても変わらん
調べて見れば同じ構成ひと月が3週間になる改善か俺のやり方の方が早かったとあきれ果てる
早い遅いの基準があまりに主観的に書かれていると言いたいのである

**デフォルトの名無しさん** · 2020/08/10(月) 18:22:47.44

>>941
情報の構造を直交表現しようぜみたいな話はある
https://arxiv.org/abs/1905.05929

**デフォルトの名無しさん** · 2020/08/10(月) 21:50:50.25

>>944
その勾配法勝手にユークリッド空間を仮定して単純化してない？
赤信号皆んなで渡れば怖くない、みたいな感じで。
勾配法をまともに使うにはリーマン幾何学とかフィッシャー情報なんかの大変な数学の知識がいるはずだけど

**デフォルトの名無しさん** · 2020/08/11(火) 09:42:31.44

＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ

Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw

日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw

**デフォルトの名無しさん** · 2020/08/11(火) 10:12:52.97

脳味噌の計量が間違ってるとそう思うのか

**デフォルトの名無しさん** · 2020/08/11(火) 10:23:03.45

ん体積から密度へ

**デフォルトの名無しさん** · 2020/08/11(火) 12:32:41.51

>>956
これのことか
https://www.youtube.com/watch?v=jijwyFB6MPI
学歴詐称疑惑ω

**デフォルトの名無しさん** · 2020/08/11(火) 16:08:40.85

通常の勾配法は確かに損失関数を減少させる
だがそれが最も下げる方向かというと、それはパラメーター空間がユークリッド空間で正規直交座標の時だけ。
だがパラメーター空間は一般の場合、ユークリッド空間ではない
では一般のパラメーター空間ではどうなるのか、その答えは自然勾配法によって得られ、これこそが真の最急降下法となる
下の論文には自然勾配を使うとディープラーニングの収束が１０００倍早くなった例が記載されている
ではパラメーター空間とは何か？
まず、パラメーターを座標系とするリーマン空間の接空間に内積を導入する。この時"上手に"公理を満たす内積を定義すればリーマン計量はフィッシャー情報行列に一致し、
"非常に近い"２点間の距離がリーマン計量によって求められるようになる
これがパラメーター空間の幾何学の始まり
もっと言えば確率分布空間の幾何学とも言え、そこには双対平坦な微分幾何学という数学の大海原が広がる
統計的推論とは何か、これを知るためにははじめに多様体をよく知る必要がある
他にもフィッシャー情報行列を知るためには期待値計算が必要となり、その際、よく知られた分布での期待値計算の導出を参考にしたければ奇関数や偶関数の性質を知っておいた方が良い場合もある
大変な数学の知識が試される場面。
この分野に足を踏み入れれば自分の人生を破壊するかもしれない、従って利他性が試される
必要なのは頭の良さではない。難しい分野だから間違って解釈することもあるだろうが、十分な利他性があれば一定のレベルにまでは成し遂げられるはずだ
[参考]
https://www.jstage.jst.go.jp/article/sicejl1962/40/10/40_10_735/_pdf
https://repository.kulib.kyoto-u.ac.jp/dspace/bitstream/2433/110689/1/KJ00004454665.pdf

**デフォルトの名無しさん** · 2020/08/11(火) 16:31:19.79

それがどうした

**デフォルトの名無しさん** · 2020/08/11(火) 16:48:56.59

詳しく言うと、具体的な問題に対して計量を考えて問題を解くアルゴリズムはあるの？

**デフォルトの名無しさん** · 2020/08/11(火) 19:19:45.76

今までだって何らかの根拠があってユークリッド空間で考えようと決めたはずなのだから
その根拠が揺らぐなら別のパラメータ空間を検討するのは自然だろう

**デフォルトの名無しさん** · 2020/08/11(火) 21:43:03.52

アルゴリズムを知らないのか

**デフォルトの名無しさん** · 2020/08/12(水) 18:03:34.15

ところで「チンポがシコシコする」という日本語表現は、文法的に正しいのか？

チンポ「を」シコシコするのではなくて、チンポ「が」シコシコする。この場合、「チンポ」は主語となる。

オブジェクト指向で言う「集約」は２種類あって、全体（俺）と部分（チンポ）が繋がっている場合と、
全体（俺）と部分（チンポ）が別々になっている場合とが考えられる。けれども「チンポ」はそれ自体
が独立した生き物であり、所有者の意思とは無関係に、勃起して「シコシコする」。
例えば寝てる時にエロい夢みて朝起きてみたらチンコが勃起して射精してたとか。

違うか？

「胸がドキドキする」は良いが、「チンポがシコシコする」はダメな理由を、５０字以内で述べろ！

**デフォルトの名無しさん** · 2020/08/13(木) 10:07:38.51

ドロップアウトの理論的解説くっそムズいな

**デフォルトの名無しさん** · 2020/08/13(木) 10:41:13.87

ところでなぜ話をそらしたいか40文字以内で答えよ

**デフォルトの名無しさん** · 2020/08/13(木) 14:19:50.62

>>967
詳細キボンヌ

**デフォルトの名無しさん** · 2020/08/13(木) 18:13:27.54

>>966
シコシコするってのはこするって意味なんだからチンポ単体では不可能
お前がどこかでたまたま見た間違った記述に拘っているだけ

**デフォルトの名無しさん** · 2020/08/14(金) 09:20:32.60

>>967
ｋｗｓｋ

**デフォルトの名無しさん** · 2020/08/15(土) 04:46:22.25

チンポはベクトル化するべきではない。

**デフォルトの名無しさん** · 2020/08/16(日) 03:17:00.51

>>967
ドロップアウトの理論気になるな(゜ロ゜)

**デフォルトの名無しさん** · 2020/08/24(月) 16:56:27.04

私立文系、数学の知識は中学レベルなんだけど、AIとかディープラーニングを操るにはどの数学の範囲やればいい？

**デフォルトの名無しさん** · 2020/08/24(月) 17:01:06.61

自分で調べろ

**デフォルトの名無しさん** · 2020/08/24(月) 17:02:43.53

微分積分

**デフォルトの名無しさん** · 2020/08/24(月) 17:14:42.44

無理無駄

**デフォルトの名無しさん** · 2020/08/24(月) 18:01:49.96

>>974
統計だけで良い

**デフォルトの名無しさん** · 2020/08/24(月) 18:07:09.15

ネタ

**デフォルトの名無しさん** · 2020/08/24(月) 18:44:08.88

実践で都度勉強すればいい。
中学レベル、三平方の定理や2次元方程式の解の公式を自分で導けるぐらいなら何とかなるよ。

**デフォルトの名無しさん** · 2020/08/24(月) 18:55:07.36

最小二乗が前世代の目的関数で
ディープラーニングは目的関数を
自由に設定出来るのがウリと習った

**デフォルトの名無しさん** · 2020/08/24(月) 20:49:43.65

非線形関数に変えただけじゃん。
人の脳を馬鹿にしてんのか？

**デフォルトの名無しさん** · 2020/08/24(月) 21:25:17.12

馬鹿登場

**デフォルトの名無しさん** · 2020/08/25(火) 01:48:06.09

>>974
高校数学IIIと数学Cに大学の線形代数と統計

**デフォルトの名無しさん** · 2020/08/25(火) 01:50:43.99

>>981
非ディープでも目的関数は自由に設定出来る

**デフォルトの名無しさん** · 2020/08/25(火) 20:29:05.88

>>985
そうなのか、詳しいな。
是非、こしあん氏を超える薄い本を
記述してBOOTHに委託してくれ。
絶対に買うから

OpenVinoも資料が少なくて困っとります
そちらでもOK

よろぴく

**デフォルトの名無しさん** · 2020/08/25(火) 20:59:52.83

目的関数は単に正解への近さをどう測るかを決めるだけのものなのでいつでも好きに設定すればいい

**デフォルトの名無しさん** · 2020/08/26(水) 19:26:18.65

相変わらずにバカしかいないなｗｗｗ
らだの関数も理解できないとは…。
小学校からやり直したら？

**デフォルトの名無しさん** · 2020/08/26(水) 19:34:22.11

訳「構って！構って！ぼくを構って！

**デフォルトの名無しさん** · 2020/08/29(土) 02:02:01.57

お前ら深層学習で何ができるか、考えたことある？
教師アリ、教師、その他の手法。

**デフォルトの名無しさん** · 2020/08/29(土) 02:45:14.92

GAN
いやん　良い　特別研究員

**デフォルトの名無しさん** · 2020/08/29(土) 10:11:51.61

お前ら論理的に考えることある？