【統計分析】機械学習・データマイニング17 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
機械学習とデータマイニングについて何でもいいので語れ
人工知能考察は未来技術板の技術的特異点スレで語れ
■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76
■前スレ
【統計分析】機械学習・データマイニング16
http://mevius.2ch.net/test/read.cgi/tech/1498493352/ GANが〜とか、
SGDが〜とか、
非線形性が〜とか、
活性化関数が〜とか、
ばっくぷろぱげーしょんが〜とか 、
ホントにどうでもよいわ。
よく皆そんな用語覚える気になるね。 専門用語っていうのは余計な説明省いて手っ取り早くやり取りするためのものだから専門用語使わない方がよっぽど面倒 専門用語っていうのは少しだけ違う概念を入れて自分の起源を主張するための手段 そういうお前らのようなやつが何だかんだ一番多用しそうに思える >>793
活性化関数という用語使わずに活性化関数の話するの大変じゃない?
活性化関数知ってる人同士なら「活性化関数」と言うだけで伝わるんだぞ >>803
完備な関数使用すれば非線形性なんてどうにでもなる なんでこんな動かしたこともないような低レベルの奴がここにたどり着いてるのか疑問だわ >>700で上げた方法はディープラーニングが流行る前にSVMなどにも使用されていたカーネル法にも相当する。
これに>>787みたいにCNNのアイデアをプラスすると‥‥。
まあこんなとこだね。 >>700程度の内容をどや顔で説いてる所とかじゃない?(笑) そもそも700は俺の本流じゃない。
本流じゃないけどその辺のものよりよい結果が出た。 700程度の内容をどや顔したのは確かに失礼しました。
ただ、あまりに最近レベルが低いままなので‥‥ レベルの高い人はもっと別の所でやり取りしてると思う 前はもう少しましなスレだったような気もしないでもない 確かにこんなとこでやっててもしょうがないが‥‥、
まあここで言いたいのは>>706 確かにやってることは一緒
対象としてる関数がどんなものか判らんときに威力を発揮するんだよ 数学:非線形
電子工学:非直線性 (non-linearity) 関数空間を勉強しとき
あるいはカーネル法だけでもよい 一般相対性理論をつかうやつだけ別格の難度とおもうんだが・・
具体的にどんなメリットがあるのか? 難度なんてどうでもよいわ。
むしろ適度に簡易なものでないと拡まらない
ただ、普通に疑問に思ったが
一般相対性理論を使う?なにそれ?
何か物理現象でも起こすの? リーマン幾何学の数学の言葉だけで語るなら理解できるけど、
一般相対性理論を使う??
物理的に何か発生させるってこと? 一般相対性理論てクリストッフェルの測地線方程式解いてるだけじゃないの? アインシュタインの総和規約解ってればそんなに難しくないよ。 一般相対性理論そのものではないけど、微分幾何、多様体をつかう部分でかなり被ってる理論のこと。 数学ろくに知らないやつらが数学語るな
機械学習に数学必要なし >>832
機械学習、深層学習って新しすぎて数学が追いついていないだけの気がする
これから開拓されて新しい数学分野ができ新しい重要定理がわんさかでてくると予想 高卒様は将棋でもやってたほうがまだ良いんじゃないの? 機械学習の話に何で一般相対性理論が出てくるのですか? >>836みたいにちゃんと考えれるやつがいるのはちょっと嬉しい 所詮はAIで生成されたもの
いくら技巧的でも、そこには人生がない。
人間の認識や感情の根本は差別だ。
アレとコレは違うという認識が基本なんだ。
だから、人工知能がいかに人間のように振る舞っても、人工知能と人間の知能は違うという事実を認識する。
つまり差別するんだ。
奴隷全盛期の時代において、奴隷にして高い芸術的評価を受けている人間はいるか?
芸術というのは作者がどのような人生を送ってどのようなことを考えているかということが重要であり、
その上で、作品が他人に好まれなければならないんだよ。
そりゃ、過去のデータから大衆が好みそうな音楽を自動生成する人工知能なんかはそのうち作れるだろうさ。
ロボットが頭をポリポリ書きながら楽譜を書いて作曲したりもできるかもしれないさ。
でも、それって「人工知能」だろ?
人間とはちがう、ただそれだけの理由で好まれないんだよ。
作者がどんな経験をしてどんなことを思って描いたのかということが大切なんだ。 数学的には統計の方が難しいわー
データ少ない分だけ数学が活躍せざるを得ない 機械学習で使う程度の線形代数はもう全て狩りつくされているといわれている
しかし数学者の誰一人として説明責任を果たしていないからそのことは巷間には一切知られていない 人生は神ゲーだ。
本気でがんばるとぎりぎり倒せるように絶妙のバランス調節がされた敵。
単純作業じゃ効率が悪いけど、工夫次第でどんどん効率を上げられる経験値システム。
リセット不可の緊張感。でもシレンとかよりずっと死ににくいからあんま気にする必要なし。つーか普通のゲームでもリセットなんて邪道じゃん。
全てのキャラが深い人間性と歴史を持って登場する、圧倒的リアリティ。
グラフィックが綺麗すぎ。多分、無限×無限ピクセルで、毎秒無限フレームで動いてる。色も多分無限色使える。夕焼けとかマジありえねー美しさ。
BGMの種類がほぼ無限。選曲も自由。自分で作った曲を流すこともできる。人間が作ったとは思えない、とんでもなく複雑で洗練されたシナリオ。
リアル出産システム採用。自分と、自分よりも大切に思える相手の遺伝子を半分ずつ受け継いだ、奇跡のようなキャラを生み出して、そいつに自由に色々教えて育てることができる。
すごく嬉しいし、ちょー楽しい。ネコっつー生き物が登場するんだけど、これがちょーかわいい。
食いきれねーほどの種類の料理があって、超うまいものが時々食える。
説明書が無く、仕様が明かされてないから、自分でデータとって仕様を推測するしかない。これがまたとんでもなく高度に洗練された仕様になってるっぽくて、なかなか正確には分からん。
だから、とりあえず大雑把に推定し、それに基づいて行動して、データを取りつつ徐々に予測値を修正していく必要がある。
これがまた楽しい。徐々に明らかになっていく世界観。
未だに明らかになってない謎が山盛り。友達と一緒に協力して遊べる。無料。
本気で自分を愛してくれるキャラがいたりする。ゲーム内で別なゲームやったりアニメ見たり出来る。
エロゲと違って、主人公の勝手な行動でフラグが立つことがない。
登場キャラと本当に心を 通わせることが出来る。信じがたいほど深い感動を味わえるイベントが結構ある。もちろん本気でやらないとフラグを無駄にするだけだが。
こんなとてつもない神ゲーを糞ゲーとか言ってる奴は、本気でこのゲームをやったことがない奴だけ。
まあ、一切がんばらずにクリアできるようなヌルゲーばかりやってる奴には、このゲームはちょいとハードかもしれんがな。でも一端ハマった奴はみんな、このゲームを辞めたくないって言ってるぜ 一見、物理・一般相対性理論のようにみえるのはこれだ。難度高くないか?
自分の認識だと、理系の大学院生でも理解できない、落ちこぼれが出るとおもうんだが。
これだったらまだ教科書やネタが出揃ってる一般相対性理論を理解するほうが難度低いだろ?
情報幾何と機械学習
https://staff.aist.go.jp/s.akaho/papers/infogeo-sice.pdf
熱核,Poisson 核の情報幾何学と Damek-Ricci 空間
http://www.math.tsukuba.ac.jp/~hiroyasu/doc/satoh-geo_symp08-abst.pdf
情報幾何の展開:アダブーストからポアンカレ予想まで
http://www.s.chiba-u.ac.jp/old/Wat%27sNew/event/2013H25/20131115math_lecture.pdf
情報幾何で見る機械学習
http://www.airc.aist.go.jp/seminar_detail/docs/seminar02-akaho.pdf
情報幾何と統計的パタン認識
https://www.jstage.jst.go.jp/article/sugaku1947/56/4/56_4_380/_pdf
非加法的エントロピーを加法的エントロピーにする方法
ーAdS/CFT対応の情報幾何バージョンー
http://www2.itc.kansai-u.ac.jp/~afujioka/talk/tanaka.pdf 条件が10000のニューロンシステム層と条件が5000の層を組み合わせると
条件は15000以下である 加法定理。
みたい定理はできない? 今年も高卒の季節が来たか・・・・
電王戦で賞金をとった人は、せめてこいつらをブログかツイッターで引き受けてくんないか? >>849
正規分布のグラフが手抜きすぎるな
本気で数学使ってるって言い張るなら
こういうところもしっかり描画するべき 情報幾何も相対論も微分幾何使ってるんだから似たようなところが出てくるのは当たり前だろう… >>849
リーマン計量、測度論理解してるものにとっては基礎レベル 日本の学位も国際化を、文部科学省が中教審に方向性提示
http://univ-journal.jp/16070/
| 日本の大学独自の学位制度が国際社会で通用しないケースが相次ぎ、
| 国際化時代に見合う方向で改善する必要があることが、
| 中央教育審議会の制度・教育改革ワーキンググループに提示された
| 文部科学省の資料で明らかになった。 >>854
機械学習に代数幾何が関連しているという主張に
このスレの連中は全会一致で否定したようなレベルなんだぞ
そんなことわかるわけないw こういうことらしいな
情報幾何の生い立ち 甘利俊一
ttp://repository.kulib.kyoto-u.ac.jp/dspace/bitstream/2433/110689/1/KJ00004454665.pdf
情報幾何の発展
情報幾何は,統計的推論の高次の漸近理論として出発した.
微分幾何は曲がった空間の各点での接空間とその間の接続を論じる.1次の漸近理論は接空間の理論であり,リーマン計量だけで十分である.
しかし,より高次の理論を求めるとなると,次は接続そしてここから出る曲率が必要になる.これが通常のリーマン幾何を越える双対接続の空聞である.
システムや時系列は,確率変数である入力信号系列の変換機とみなせるから,ここに情報幾何が使える.これを非線形にすれば,ニューラルネットワークになる.
また,統計的推論では,これを逐次推論にすると,共形幾何になるので,ここから双対接続空間の共形幾何を導いた.
一方,ロバストな推論を論ずるとセミパラメトリックモデルになる.これは難問で,Neyman-Pearson問題とも関係している.
この幾何学を作るには,確率分布の関数空間を扱わなければならないが,それを厳密に論ずることが私の実力ではできない.
しかし,無限次元空間の厳密性に目をつぶれば役に立つ正しい答えなら出せる.こうして作ったのが,セミパラメトリック推論のファイバーバンドル理論である.
ルジャンドル変換を用いる理論体系は物理にも工学にも多いが,その幾何学表現が双対平坦接続空問なのであり,それを一般化すると双対接続空間になる,
ルジャンドル変換を使う理論を幾何で書き直しても同じことであるが,双対幾何ではここに不変なダイバージェンスとそれを用いた拡張ピタゴラスの定理が成立する.
神経回路網の多様体は,代数幾何を巻き込み,特異点を持つ統計モデルとも関連して発展しつつあることは述べた.
ベイズ理論の枠組みで情報幾何を作る方向も考えられる.これは,脳の推論の機構のモデルとして使える.これから追求してみたいものの一つである.
興味があるのは,長岡浩司氏を中心にして精力的に進められている,非可換量子確率情報幾何であろう.
ここでは,古典確率にもとつく情報幾何にもっと本質的な何かを付け加えなければならないらしい.
残念なことに私には理解が困難で,直観が働かない,興味を持って見守るのみである. 古典情報幾何から量子情報幾何へ 長岡浩司
ttp://www.sci.osaka-cu.ac.jp/~ohnita/2007/mini2007/nagaoka.pdf
量子情報幾何は完成した体系ではなく、色々な人が色々な方向に色々な研究を行っているところである。
しかしそれなりに蓄積があり全貌を明らかにするのは限られた時間では無理なので、今回の話の内容が量子情報幾何の全てではない事を最初に断っておく。
古典情報幾何については昨年に講義したが、ここでは確率分布の空間上にFisher計量と云われるRiemann計量とα-接続と呼ばれるアフィン接続が自然に導入され、
ある意味でこれら以外は現れない事を保障するCencovの定理により、色々な異なる設定での問題で同じ幾何構造が現れる。
見方を変えるとこれは相対エントロピーの幾何とも思える。相対エントロピーは確率論や統計学において重要であり、これともよく符合する。
古典情報幾何は非常に統一感を持って眺める事が出来、相対エントロピーを押さえておけば良いとの安心感もある。
量子情報幾何はそのような世界を量子状態の空間に拡張したときにどうなるかを問う事が主要なモチベーションである。
そこで現れる世界の特徴は先ず多様性である。 Cencovの定理に相当する一意性定理がなくなり、自然な条件のもとでさまざまな構造が導入される。
もうひとつの特徴としてはこれら多様なものを列挙した場合に閉じている感じがしない事である。
特に量子相対エントロピーを眺めていると、幾何的に見ても情報理論・統計学的な問題設定から見ても、これだけが重要という気がしない。
もっと何か大きな枠組みがあってその中の断片を見ている感じがする。
別の云い方をすれば断片を見ると相対エントロピーや幾何構造が現れているような感じである。
これらを包むものがどういう空間の幾何かも判らなければ、幾何学に収まる保障もない。 統計学や機械学習とつながりのある物理学の分野って
相対論よりも統計力学の方がつながりがあるんだけどな 物理で出てくる幾何は微分幾何中心で、この進展は一般相対性理論と一緒だったという認識。
中身・内容よりも微分幾何がでてくれば一般相対性理論に近いという認識。
リーマン多様体 - Wikipedia
リーマン多様体の考え方は1828年にカール・フリードリヒ・ガウスが証明した『驚異の定理 (Theorema Egregium)』までさかのぼる。
この定理は曲面の曲率が、曲面が三次元空間にどのように埋め込まれるかに依存せず、単に角度や長さを定める計量テンソルにのみ依存するというものである。
ガウスの弟子であったリーマンはガウスの定理を多様体と呼ばれる高次元空間に拡張した。
この応用として、アルベルト・アインシュタインが相対性理論においてリーマン多様体の考え方を利用している。
リーマン距離とは多様体上の各点に与えられた計量テンソルにより、点と点を結ぶ距離を多様化したものである。
リーマン距離を用いると、角度や曲線の長さなどの幾何的性質が多様体上で定義可能である。 >>866
説明長い。
地図変えたら長さの尺度(ds^2)が変わるだけの話。 >>869
それはお馬鹿の発言
一般相対性理論は微分幾何より来ている >>864
情報幾何の分野を発展させるのはいいけどさ〜
結局のところ、数学モデル化のところで仮定がいろいろ入っちゃうんだよ。
その仮定があってるかどうかって感覚になってない? パラメータの最尤度推定が出来れば十分なのに。。
めんどくさいことやってんな。
『マルコフ写像』ってやつが物凄く胡散臭い どこがだ? よくはしらないが、この不変性は強力でこの2つの計量の価値は納得はできるとおもってしまうが。
不変性を出すための条件のほうが無理やりなのか?
Chentsov の定理とその周辺 (I)
Chentsov の定理(informal version)
Sn?1 上の計量 g,アファイン接続 ∇ で,“ある種の不変性” を満たすものは
g → Fisher 計量(の定数倍)
∇ → α-接続(∀α ∈ R)
に限られる.
http://www.math.sci.hokudai.ac.jp/~furuhata/workshop/stat/16/Fujiwara160912.pdf 貼り付けた自分でもなんか開けない。「Chentsov の定理とその周辺 (I)」でググったりしてみつけて。
リファラーとかみてるやつかも? うぃ
(馬鹿にしといてあれだがちょっと面白い話題だと気づいた) なんでこのスレはこう極端な話題しか出ないんだろう
プログラム板のスレだよ? ここ 何のコミュニティーでも、高卒様がやってきたら終わりだよ >>884
同意。普通に機械学習のプログラミングの話しができないものか… (^^; だってプログラミングて誰でもかけるじゃん
つまらんわ >>887
意図的なら荒らしてるわけか。別板でやれ。 >>887
"プログラミング技術" 板で何を言ってるんだ? ■ このスレッドは過去ログ倉庫に格納されています