【統計分析】機械学習・データマイニング31

■ このスレッドは過去ログ倉庫に格納されています
2021/09/26(日) 01:32:46.82ID:fnXwjiVa0
!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/
VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured
2021/09/26(日) 09:20:28.39ID:V7NdMKNzM
>>1
ここ？

どっち？
2021/09/26(日) 10:01:30.08ID:pTpX2MLZ0
>>2
こっちはワッチョイあり
向こうは無しでしかもずっと前に建った重複スレ
2021/09/26(日) 11:00:49.36ID:B0LqO8a/M
>>3
じゃこっちが正統だね
5デフォルトの名無しさん (ｴﾑｿﾞﾈ FF42-kEnG [49.106.186.46])
垢版 |
2021/09/29(水) 12:31:10.47ID:SXvzkJ7tF
おまけ
https://tokyochallenge.odpt.org/
2021/09/29(水) 18:53:32.10ID:tt6NZIK/M
optiverのコンペ、全然歯が立たなかった...
7デフォルトの名無しさん (ﾜｯﾁｮｲ a255-7j45 [59.147.205.222])
垢版 |
2021/09/29(水) 18:55:13.15ID:LXQaHKgJ0
コンペって気軽にゲーム感覚で参加できるようなものですか？

プログラミングコンテストの問題を解くような気軽な感覚で参加できますか？
2021/09/30(木) 12:56:57.06ID:J+m5saJs0
>>7
その気があれば
2021/09/30(木) 20:11:55.48ID:raBTh0xcd
脳のように振る舞う”汎用人工知能”を実装するための開発方法論を東大が標準化へ WBAI
https://news.mynavi.jp/article/20210929-1985666/

資料
http://www.m.u-tokyo.ac.jp/news/admin/release_20210928.pdf

ついにAGI開発に繋がる設計方法論が
2021/09/30(木) 21:20:34.36ID:LzQNN1mS0
AGI開発 明らかになった3つの課題

①脳神経科学とソフトウェア開発の両方に精通した人材が少なく、その育成が困難

②脳全体をカバーする神経科学知見は膨大であり、個人の認知能力に頼って脳全体の機能を統合したソフトウェアを設計することには無理がある

③脳の認知機能をソフトウェアに適切に反映させるためには、参照する脳の記述粒度を適切に選択する必要がある
2021/09/30(木) 21:21:01.10ID:LzQNN1mS0
今回山川と高橋らは、脳型AGI開発を
"脳参照アーキテクチャ(BRA)を共同で描く設計作業"と、
"BRAに基づいてソフトウェアの実装と統合を行う開発作業"
に分けることによる「BRA駆動開発方法論」を提案

「BRA」は、脳型ソフトウェアの仕様情報として標準化されたデータ形式で、
主に解剖学的構造を記述した「脳情報フロー(BIF)」形式のデータと、それに付随する「仮説的コンポーネント図(HCD)」で構成されている

まず神経科学の論文やデータを収集、整理してBIFを作成。
BIFは、脳内におけるさまざまな粒度の「サーキット」をノードとし、それらの間の軸索投射にあたる「コネクション」をリンクとする有向グラフだ。

─必ずしも脳を深く理解していない開発者であっても、HCDを仕様として参照することで、脳型ソフトウェアの実装に携われるようになる。
─作成されたソフトウェアの生物学的妥当性は、その構造と動作がBRAと一致しているかどうかによって評価され、
BRA自体の信憑性は、神経科学的知見の裏付けによって評価される
2021/09/30(木) 21:32:53.29ID:J+m5saJs0
>>9
うわあ、使えなそう
2021/10/01(金) 07:15:56.12ID:GMCPKAppa
別に欲しいのは脳を再現したものではなく脳かそれ以上の思考力を持つプログラムなんだけどな
2021/10/01(金) 10:18:06.07ID:7Wb6ygxUa
脳自体の仕組み解明にも役立てようとしてるんじゃね？
仮説に沿って人工的に作ったものと脳の比較
2021/10/01(金) 11:45:32.50ID:aksIkISHd
個人の仮説思考をまだ検討段階で表に出してるあたり、結論ありきで発表するんだろうな。お話しにならんね
2021/10/01(金) 11:48:36.62ID:aksIkISHd
そもそも脳構造が機械学習と同値にあるとは物理的に証明されたんだっけ？
そもそも仮定を見誤ってる典型例かな。
2021/10/01(金) 14:24:46.22ID:QwS5H3vX0
脳のやり方を真似してシステムを作ってみるが
性能を上げるためにどんどん脳とは違う仕組みになってしまう
というのを繰り返しているような気がする
18デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-c8Z6 [153.243.53.4])
垢版 |
2021/10/01(金) 19:34:49.19ID:lQL5Va8g0
>>16
脳でもbackpropが行われているのではないかと言った論文が出ていたと思う
2021/10/01(金) 19:36:57.15ID:h6xqeRaI0
おれのかんがえたさいきょうの脳モデルって感じ
2021/10/01(金) 22:34:55.52ID:JvnZl78s0
論文の存在＝真実ではない
2021/10/02(土) 10:59:47.97ID:GcYqz73Xa
こういう論文があるから正しいんだ、みたいなこと言ってくる人がたまにいるけど
論文を元に再現実験をあちこちで実施して検証するのが科学的プロセスだからね
22デフォルトの名無しさん (ｵｯﾍﾟｹ Sr77-c8Z6 [126.161.99.23])
垢版 |
2021/10/02(土) 11:08:59.79ID:uacjIgMDr
>>18 は「こういう論文がある」と言っただけで正しさには言及してないが
2021/10/02(土) 11:56:06.35ID:iTHBuWkj0
NNは人工ニューラルネット、工学モデル
24デフォルトの名無しさん (ﾌﾞｰｲﾓ MM7f-PTyk [163.49.202.110])
垢版 |
2021/10/02(土) 13:21:22.44ID:y2EY2XxLM
在日朝鮮人
25デフォルトの名無しさん (ｴﾑｿﾞﾈ FF5f-jOtc [49.106.187.122])
垢版 |
2021/10/02(土) 14:16:19.44ID:yFRwYWliF
>>13
それな

脳をコピー(劣化コピー)しても脳以上の性能は期待出来ないよな
せいぜい疲れずに死ぬまでこきつかえるかも知れないが
どうせ脳のコピーだからやっぱり寝ないといかんだろうし
2021/10/02(土) 17:25:35.47ID:wvwHlHyL0
完全に妄想だけど睡眠はパラメータの蒸留に相当してるのでは？
2021/10/02(土) 20:05:16.72ID:UdlqgpCg0
>>25
それでも、これまでに解決できなかった事ができるようになれば投資する価値はある
2021/10/02(土) 20:07:30.07ID:gCkVb6Wm0
脳のシステムをコピーして、ソフトウェアに出来たらそれだけでも結構すごいけどな
今はそれすらできない
2021/10/02(土) 20:07:43.97ID:UdlqgpCg0
睡眠中に短期記憶の領域から長期記憶の領域に移されるとか
アルツハイマーの原因タンパク質を排出するとか
言われている

睡眠中は無防備になるのにそれでも必要なんだから何らかの機能や役割があるんだろうな
30デフォルトの名無しさん (ﾌﾞｰｲﾓ MM7f-PTyk [163.49.202.189])
垢版 |
2021/10/02(土) 23:19:18.80ID:zWqv5K6jM
クソチョンw
2021/10/03(日) 12:38:37.08ID:apv2HwoX0
人間の視聴覚に介入することすら未だままならないもんな
2021/10/03(日) 12:56:18.91ID:5gxQKpTk0
Googleがやっとショウジョウバエの半脳規模のコネクトーム解析に成功したところ

最高解像度のショウジョウバエの脳接続マップ、Googleが公開
https://www.gizmodo.jp/2020/01/fruit-fly-brain-map.html
ハエの脳神経回路の高解像度マップ、グーグル、HHMI研究者らが発表
https://www.technologyreview.jp/nl/this-map-of-a-flys-brain-connectivity-is-the-best-weve-ever-seen/
2021/10/03(日) 12:57:43.81ID:5gxQKpTk0
＞ショウジョウバエの脳のニューロン数は約10万であるのに対し、ヒトの脳には約860億個のニューロンがある

ショウジョウバエでも未だにこの程度なのに、ヒト脳の完全解析なんて無理よ
富岳も、全脳シミュレーションにはまだ計算能力が足りない
2021/10/03(日) 13:47:46.78ID:A/xg16NE0
よくわからが神経の接続は繋がったり消えたり強化されたりすｒんだろ静的解析だけではわからないじゃね
2021/10/03(日) 14:51:30.08ID:BwHL/qdj0
>>34
すまないが確認してみるから
検体になってはくれまいか？
2021/10/03(日) 14:57:09.26ID:5gxQKpTk0
神経の成長は、19歳を超えるとほぼ固定される
2021/10/03(日) 15:50:11.96ID:A/xg16NE0
>>35
すまｎ、もうスカスカ
2021/10/03(日) 15:59:54.62ID:fd2z9Q2P0
アインシュタインの脳は世界中に散らばってたな
2021/10/04(月) 11:18:18.37ID:4SMJvp7PM
転移学習とファインチューニングって何が違うの？
40デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-eQG6 [153.243.53.4])
垢版 |
2021/10/04(月) 12:00:10.56ID:uwgJa6dm0
ファインチューニング⊂転移学習
2021/10/04(月) 12:24:33.93ID:NQkhcE1O0
>>39
俺もそこはイマイチだったけど、目的が違うんだと理解してる

ファインチューニングは、その名の通り微調整
公開された学習済みモデルの、出力層付近の重みを自分の（または新たな）データセットで学習させて適応させるとかで、ファインチューニングの前後でモデル全体の目的は変わらない

転移学習は、モデルをそのまま別の目的へ使用すること
例えばよくある例だと画像認識モデルを特徴抽出器としてSVMに流し込んで、分類させるのに使うとか
転移学習の前後では全体の目的は変わる（例では画像認識→画像分類）
2021/10/04(月) 13:05:31.91ID:IrVwgMEy0
特定の層だけ学習済みの層を使うのも転移学習なんじゃね？
オートエンコーダ層だけ他のをそのまま使うとか
2021/10/04(月) 14:59:44.37ID:pDc4fD3+r
ファインチューニングだと層の数や各テンソルの成分数までいじる、って見たような

転移学習だと既にあるモデルに別の画像モデルを載せて学習させてた
2021/10/05(火) 14:43:18.00ID:qxXQzr/v0
>>41
プリトレインのパラメータはフリーズしてffを新たに訓練すること？
2021/10/09(土) 16:11:35.50ID:R9jtZdzp0
機械学習において概念の獲得というのは可能なのでしょうか？

例えば犬種を見分けるモデルを作成する中で大きさという概念を獲得させ、その結果を転用して大きさから車種を判別するといったことは可能でしょうか？
2021/10/09(土) 16:38:50.81ID:imDr+lCx0
できない
2021/10/09(土) 17:12:37.82ID:AqE3enYfa
どこかのパラメータが大きさを認識するかもしれないけどそれを全く別の種類のものに適用したければ
どのパラメータが大きさを認識するか調べて抽出して新たなモデルを人間が作成するしかない
大きさという概念をプログラムが知らない前提なんだから人間が調べて取り出す必要がある
2021/10/09(土) 17:55:12.92ID:R9jtZdzp0
>>47
やはり現状では人間の手が必要ですよね。

特定の概念に特化したモデルを予め作成し転用することは可能でしょうか？

例えば画像情報から大きさを判別するモデルを作成し、この大きさ判別モデルをモジュールとして別のモデルに組み込んで使うという形です。
2021/10/11(月) 02:41:21.29ID:W1oEq6hAd
概念って何？
2021/10/11(月) 02:42:37.37ID:W1oEq6hAd
定義を述べてください
2021/10/11(月) 11:48:03.15ID:5HHAjiD3M
人間の定義なんてものは主観的で
規則ベースの方式は所詮おれがかんがえたさいきょうのモデル、でしかなく
汎用性は無く例外に弱く使い物にならないのは散々見せられてきた
2021/10/11(月) 12:29:27.13ID:DIodBuTLr
その辺は言語モデルと画像認識と分類クラス名がリンクされたモデルというのを
作らないと難しいか
2021/10/11(月) 17:21:06.15ID:5HHAjiD3M
そのあたりをグチャッとやってるのがdall-e
2021/10/11(月) 23:03:29.37ID:iNvGL8qd0
>>53
記事を見つけて読んでみましたが面白いですね。
ttps://ainow.ai/2021/04/26/253364/

時間や場所の概念を獲得した(テキストに正しく反応できた)だとか、当初の目的以外の用途に使えたというのは実に興味深いです。

120億パラメータというのがこれまた凄まじいですが、特定の概念に関する部分だけ抽出出来たら宝探しみたいで楽しいでしょうね。
2021/10/12(火) 21:36:26.65ID:llg6th+00
入門書読んでる途中で練習がてらUCIからEnergy efficiencyってデータセットひっぱてきたんだけど
すごく素直なデータセットだな。欠損値ないし、ただ単に重回帰分析しただけで決定係数が0.9越えてた
ここまで素直だとなにか罠があるんじゃないかと不安になる。諸先輩方はどう思います？
2021/10/12(火) 21:55:01.31ID:G8QNgj6p0
>>55
過学習してるだけ
2021/10/13(水) 00:10:46.35ID:JsCrEKeM0
>>56
その可能性を考えて、訓練データとテストデータ両方の
決定係数を見てるんですけどそんな差がないんですよね。
データ分ける時にシード固定せずに40回ほど試したんですけど
決定係数の差は、大きくても0.043、もとのデータも768件あるんで
過学習なんでしょうか？
58デフォルトの名無しさん (ｱｳｱｳｳｰ Sab7-Awko [106.161.246.212])
垢版 |
2021/10/13(水) 05:53:18.70ID:5xUxuv4Ba
>>57
ちゃんとクロスバリデーションすべきだなとか思ったけど
59デフォルトの名無しさん (ｱｳｱｳｳｰ Sab7-Awko [106.161.246.212])
垢版 |
2021/10/13(水) 06:07:06.10ID:5xUxuv4Ba
ごめん途中で書き込んじゃった

自明な予測との比較はどうなんだろとか思ったけどよく読むと予測精度じゃなくて決定係数の話ですね。
決定係数って学習データへの当てはまりの指標じゃなかったかな。学習データの分散のどの程度を説明できてるかですね確か。
訓練とテストに分割する意味がよく分からないなと思いました。
2021/10/13(水) 21:21:29.85ID:NE9hYB7Y0
>>57
とりあえずテスト誤差と訓練誤差調べてみたら？
2021/10/13(水) 21:58:48.95ID:JsCrEKeM0
先輩方ありがとうございます。次にやることが見えてきました。

追伸、IP出るスレは苦手なのでこれにて失礼します。スレ汚し失礼しました。
2021/10/14(木) 01:06:13.63ID:YnY723dO0
>>61
IP出たらまずいことでもあるんか？
63デフォルトの名無しさん (ｱｳｱｳｳｰ Sab7-Awko [106.161.248.235])
垢版 |
2021/10/14(木) 01:34:54.45ID:oiazgOwIa
>>61
勉強が足りてないですが自覚したなら努力を継続できるでしょう。
頑張って
64デフォルトの名無しさん (ﾜｯﾁｮｲ 9f55-twAR [59.147.205.222])
垢版 |
2021/10/15(金) 11:35:14.97ID:n9WPu0Ca0
新しい資本主義会議メンバーに松尾豊さんが選ばれましたね。
65デフォルトの名無しさん (ﾜｯﾁｮｲ 9f55-twAR [59.147.205.222])
垢版 |
2021/10/15(金) 11:41:30.88ID:n9WPu0Ca0
松尾豊さんのことをAIの第1人者と紹介していましたが、本当ですか？
2021/10/15(金) 12:41:50.92ID:RXO4bJUV0
最も〇〇なものの一つの表現と同程度に捉えておくと良いかと思います。

現在のAIブームの初期から積極的に活動されてたことは確かですし、語れる研究者は貴重な存在ですよね。
2021/10/15(金) 13:11:36.46ID:6tKAdTHp0
>>65
判断基準は論文を書いてるかどうか
68デフォルトの名無しさん (ﾜｯﾁｮｲ 9f55-twAR [59.147.205.222])
垢版 |
2021/10/15(金) 14:44:03.12ID:n9WPu0Ca0
松尾豊さんは、論文を書いていますか？
2021/10/15(金) 15:26:26.65ID:3/epFyTw0
研究者として第一線で発表してるかといわれたら違う
ai研究の顔、広報としての役割が強い
2021/10/15(金) 16:16:51.08ID:/Buyr3BY0
書いてます
71デフォルトの名無しさん (ﾜｯﾁｮｲ ff10-T3Zk [153.243.53.4])
垢版 |
2021/10/15(金) 21:08:40.11ID:WRM45+d50
大学教授は学生に書かせて添削するのが仕事でしょ
2021/10/15(金) 21:11:12.81ID:3JPgOKCi0
どのくらいの頻度で書いているかとかその内容とかも考慮した方が良いような
2021/10/15(金) 21:12:21.67ID:3JPgOKCi0
物理学とか医学でノーベル賞取ってる人はいるけど
この分野でノーベル賞的なものを取れる人はいるのか？
2021/10/15(金) 21:20:11.26ID:cEFPPhAj0
は？
75デフォルトの名無しさん (ﾜｯﾁｮｲ 775f-Kp2r [106.73.78.34])
垢版 |
2021/10/15(金) 21:28:31.52ID:NWwEDSp30
>>73
日本語で書いてくれ
2021/10/15(金) 21:57:46.92ID:3JPgOKCi0
>>75
具体的にどこの意味が理解できない？
2021/10/15(金) 22:00:03.52ID:3JPgOKCi0
ノーベル賞を知らないとか？
2021/10/15(金) 22:01:26.83ID:6tKAdTHp0
最初に多層ニューラルネットワークを考えた人は正直ノーベル賞レベルだと思う
ようやく花ひらいたけど基本は当初と何も変わってないし
2021/10/15(金) 22:08:34.90ID:cEFPPhAj0
ノーベル何賞になるんだよ

新設しないと該当する賞がねーだろ
2021/10/15(金) 22:10:54.30ID:3JPgOKCi0
>>79
だからノーベル賞的なものと書いた
数学だとそれはフィールズ賞らしいけどな
2021/10/15(金) 22:13:46.30ID:LGAK96770
チューリング賞
2021/10/15(金) 22:17:19.03ID:6tKAdTHp0
ニューラルネットワークって物理の文脈で捉えることも可能だからゴリ押せば問題ない
2021/10/15(金) 22:20:07.48ID:3JPgOKCi0
シャノン賞ってのもあるらしい

https://www.tus.ac.jp/quiz/q21_30/a26.html
2021/10/15(金) 22:25:50.03ID:3/epFyTw0
>>73
甘利センセあたり？
2021/10/15(金) 22:25:58.98ID:RXO4bJUV0
ノーベル賞の認知度の高さが一般人の科学への認識を歪めてる感はありますね。
2021/10/16(土) 10:54:08.18ID:eoOYY+/F0
>>85
科学とは何？
2021/10/16(土) 21:09:36.43ID:vis5a6TM0
数学以外の何か。
2021/10/16(土) 21:10:57.83ID:eoOYY+/F0
なんじゃい、そりゃｗ
2021/10/17(日) 02:04:54.29ID:dwWNcKeu0
Alpfafold2を話題にしないのはなぜ
2021/10/17(日) 13:38:23.60ID:MVxO4NJf0
良くわかんない
2021/10/17(日) 16:01:57.87ID:6H8VCRJG0
知らないから
92デフォルトの名無しさん (ﾌﾞｰｲﾓ MMfb-GVjw [210.138.179.7])
垢版 |
2021/10/17(日) 17:37:38.26ID:kbVq19blM
＞　お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾

あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！

クソチョンｗ
93デフォルトの名無しさん (ﾜｯﾁｮｲ 775f-Kp2r [106.73.78.34])
垢版 |
2021/10/18(月) 15:52:55.77ID:EmDGqAJL0
情報系じゃなくて実験系の出身だから論文読むのも大変だわ
機械学習が必要になってPytorchやTensorFlow使ってるんだけど、
自分がやってることと言えば論文軽く読んでGitHubからコード落として、ネットワークを目的に応じて修正し自分のデータに適用してるだけ
詳細なアルゴリズムはよく理解できてないことも多い
全く新しいモデルを提案する人達はすごいなと感じます
2021/10/18(月) 16:00:54.53ID:nRAR4WNG0
>>93
同分野でも原理か応用かでやってることは全く違いますからね。

原理を知っておいて損はありませんが、応用で一番大事なのは対象となる事象の理解なんて言われるくらいですし。

パソコンを使って何かを創る人とパソコンの仕組みを研究してる人って感じですね。

特定分野の一技術がこれだけ広く利用されている現状はなにげにすごいことです。
2021/10/18(月) 16:34:14.02ID:iaabsSMNM
K-meansするとき、標準化や正規化って必須なの？
特徴によってスケールが違うんだけど。。。
96デフォルトの名無しさん (ｴﾑｿﾞﾈ FFbf-mxW8 [49.106.193.217])
垢版 |
2021/10/18(月) 17:04:01.15ID:r9t2S6+pF
特徴によってスケールが違うから正規化するんだろ
2021/10/18(月) 17:08:36.65ID:gFAoZccR0
偏差5σにあうようにデータを修正するのかｗ
2021/10/18(月) 18:01:46.73ID:iaabsSMNM
データを歪めてるわけで良くないのかなって
2021/10/18(月) 18:32:58.29ID:nRAR4WNG0
>>98
データを歪めてるというよりも、異る値を公平に比較するために揃えてる感じですね。

正規化は単体のデータではなくデータの集合に対して行いますので、単体の値が変化しても集合内のデータ間の関係(例えば距離の比)は保たれます。

手法が見ているのがこの生の値なのか関係なのかが問題で、生の値をそのまま使う場面はかなり稀だと思います。
2021/10/18(月) 19:13:34.77ID:6OwI1/lnM
>>99
なるほど
サンクス
101デフォルトの名無しさん (ﾜｯﾁｮｲ ff10-T3Zk [153.243.53.4])
垢版 |
2021/10/18(月) 20:49:50.55ID:+g2qbZCh0
>>95
例えば身体測定のデータが身長km体重gで入ってたらどうなると思う？
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況