【統計分析】機械学習・データマイニング31

[1 デフォルトの名無しさん (ﾜｯﾁｮｲ 7b10-4VFp) 2021/09/26(日) 01:32:46.82 ID:fnXwjiVa0]

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/

---

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

[2 デフォルトの名無しさん (ﾜﾝﾐﾝｸﾞｸ MMd2-axhh) 2021/09/26(日) 09:20:28.39 ID:V7NdMKNzM]

>>1
ここ？

どっち？

[3 デフォルトの名無しさん (ﾜｯﾁｮｲ 2b02-czp9) 2021/09/26(日) 10:01:30.08 ID:pTpX2MLZ0]

>>2
こっちはワッチョイあり
向こうは無しでしかもずっと前に建った重複スレ

[4 デフォルトの名無しさん (ﾃﾃﾝﾃﾝﾃﾝ MM4e-axhh) 2021/09/26(日) 11:00:49.36 ID:B0LqO8a/M]

>>3
じゃこっちが正統だね

[5 デフォルトの名無しさん (ｴﾑｿﾞﾈ FF42-kEnG) 2021/09/29(水) 12:31:10.47 ID:SXvzkJ7tF]

おまけ
https://tokyochallenge.odpt.org/

[6 デフォルトの名無しさん (ﾜﾝﾄﾝｷﾝ MMd2-axhh) 2021/09/29(水) 18:53:32.10 ID:tt6NZIK/M]

optiverのコンペ、全然歯が立たなかった...

[7 デフォルトの名無しさん (ﾜｯﾁｮｲ a255-7j45) 2021/09/29(水) 18:55:13.15 ID:LXQaHKgJ0]

コンペって気軽にゲーム感覚で参加できるようなものですか？

プログラミングコンテストの問題を解くような気軽な感覚で参加できますか？

[8 デフォルトの名無しさん (ﾜｯﾁｮｲ 8b6e-axhh) 2021/09/30(木) 12:56:57.06 ID:J+m5saJs0]

>>7
その気があれば

[9 デフォルトの名無しさん (ｽｯｯﾌﾟ Sd42-MTek) 2021/09/30(木) 20:11:55.48 ID:raBTh0xcd]

脳のように振る舞う”汎用人工知能”を実装するための開発方法論を東大が標準化へ WBAI
https://news.mynavi.jp/article/20210929-1985666/

資料
http://www.m.u-tokyo.ac.jp/news/admin/release_20210928.pdf

ついにAGI開発に繋がる設計方法論が

[10 デフォルトの名無しさん (ﾜｯﾁｮｲ 4710-zD50) 2021/09/30(木) 21:20:34.36 ID:LzQNN1mS0]

AGI開発 明らかになった3つの課題

�@脳神経科学とソフトウェア開発の両方に精通した人材が少なく、その育成が困難

�A脳全体をカバーする神経科学知見は膨大であり、個人の認知能力に頼って脳全体の機能を統合したソフトウェアを設計することには無理がある

�B脳の認知機能をソフトウェアに適切に反映させるためには、参照する脳の記述粒度を適切に選択する必要がある

[11 デフォルトの名無しさん (ﾜｯﾁｮｲ 4710-zD50) 2021/09/30(木) 21:21:01.10 ID:LzQNN1mS0]

今回山川と高橋らは、脳型AGI開発を
"脳参照アーキテクチャ(BRA)を共同で描く設計作業"と、
"BRAに基づいてソフトウェアの実装と統合を行う開発作業"
に分けることによる「BRA駆動開発方法論」を提案

「BRA」は、脳型ソフトウェアの仕様情報として標準化されたデータ形式で、
主に解剖学的構造を記述した「脳情報フロー(BIF)」形式のデータと、それに付随する「仮説的コンポーネント図(HCD)」で構成されている

まず神経科学の論文やデータを収集、整理してBIFを作成。
BIFは、脳内におけるさまざまな粒度の「サーキット」をノードとし、それらの間の軸索投射にあたる「コネクション」をリンクとする有向グラフだ。

─必ずしも脳を深く理解していない開発者であっても、HCDを仕様として参照することで、脳型ソフトウェアの実装に携われるようになる。
─作成されたソフトウェアの生物学的妥当性は、その構造と動作がBRAと一致しているかどうかによって評価され、
BRA自体の信憑性は、神経科学的知見の裏付けによって評価される

[12 デフォルトの名無しさん (ﾜｯﾁｮｲ 8b6e-axhh) 2021/09/30(木) 21:32:53.29 ID:J+m5saJs0]

>>9
うわあ、使えなそう

[13 デフォルトの名無しさん (ｱｳｱｳｳｰ Sa97-+JJI) 2021/10/01(金) 07:15:56.12 ID:GMCPKAppa]

別に欲しいのは脳を再現したものではなく脳かそれ以上の思考力を持つプログラムなんだけどな

[14 デフォルトの名無しさん (ｱｳｱｳｳｰ Sa97-J7Q7) 2021/10/01(金) 10:18:06.07 ID:7Wb6ygxUa]

脳自体の仕組み解明にも役立てようとしてるんじゃね？
仮説に沿って人工的に作ったものと脳の比較

[15 デフォルトの名無しさん (ｽｯｯﾌﾟ Sd5f-gzmB) 2021/10/01(金) 11:45:32.50 ID:aksIkISHd]

個人の仮説思考をまだ検討段階で表に出してるあたり、結論ありきで発表するんだろうな。お話しにならんね

[16 デフォルトの名無しさん (ｽｯｯﾌﾟ Sd5f-gzmB) 2021/10/01(金) 11:48:36.62 ID:aksIkISHd]

そもそも脳構造が機械学習と同値にあるとは物理的に証明されたんだっけ？
そもそも仮定を見誤ってる典型例かな。

[17 デフォルトの名無しさん (ﾜｯﾁｮｲ 3f02-M2B7) 2021/10/01(金) 14:24:46.22 ID:QwS5H3vX0]

脳のやり方を真似してシステムを作ってみるが
性能を上げるためにどんどん脳とは違う仕組みになってしまう
というのを繰り返しているような気がする

[18 デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-c8Z6) 2021/10/01(金) 19:34:49.19 ID:lQL5Va8g0]

>>16
脳でもbackpropが行われているのではないかと言った論文が出ていたと思う

[19 デフォルトの名無しさん (ﾜｯﾁｮｲ a36e-ye6e) 2021/10/01(金) 19:36:57.15 ID:h6xqeRaI0]

おれのかんがえたさいきょうの脳モデルって感じ

[20 デフォルトの名無しさん (ﾜｯﾁｮｲ 8310-gzmB) 2021/10/01(金) 22:34:55.52 ID:JvnZl78s0]

論文の存在＝真実ではない

[21 デフォルトの名無しさん (ｱｳｱｳｳｰ Sa97-+JJI) 2021/10/02(土) 10:59:47.97 ID:GcYqz73Xa]

こういう論文があるから正しいんだ、みたいなこと言ってくる人がたまにいるけど
論文を元に再現実験をあちこちで実施して検証するのが科学的プロセスだからね

[22 デフォルトの名無しさん (ｵｯﾍﾟｹ Sr77-c8Z6) 2021/10/02(土) 11:08:59.79 ID:uacjIgMDr]

>>18 は「こういう論文がある」と言っただけで正しさには言及してないが

[23 デフォルトの名無しさん (ﾜｯﾁｮｲ ef89-2jfQ) 2021/10/02(土) 11:56:06.35 ID:iTHBuWkj0]

NNは人工ニューラルネット、工学モデル

[24 デフォルトの名無しさん (ﾌﾞｰｲﾓ MM7f-PTyk) 2021/10/02(土) 13:21:22.44 ID:y2EY2XxLM]

在日朝鮮人

[25 デフォルトの名無しさん (ｴﾑｿﾞﾈ FF5f-jOtc) 2021/10/02(土) 14:16:19.44 ID:yFRwYWliF]

>>13
それな

脳をコピー(劣化コピー)しても脳以上の性能は期待出来ないよな
せいぜい疲れずに死ぬまでこきつかえるかも知れないが
どうせ脳のコピーだからやっぱり寝ないといかんだろうし

[26 デフォルトの名無しさん (ﾜｯﾁｮｲ a36e-ye6e) 2021/10/02(土) 17:25:35.47 ID:wvwHlHyL0]

完全に妄想だけど睡眠はパラメータの蒸留に相当してるのでは？

[27 デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-J7Q7) 2021/10/02(土) 20:05:16.72 ID:UdlqgpCg0]

>>25
それでも、これまでに解決できなかった事ができるようになれば投資する価値はある

[28 デフォルトの名無しさん (ﾜｯﾁｮｲ 9310-2jfQ) 2021/10/02(土) 20:07:30.07 ID:gCkVb6Wm0]

脳のシステムをコピーして、ソフトウェアに出来たらそれだけでも結構すごいけどな
今はそれすらできない

[29 デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-J7Q7) 2021/10/02(土) 20:07:43.97 ID:UdlqgpCg0]

睡眠中に短期記憶の領域から長期記憶の領域に移されるとか
アルツハイマーの原因タンパク質を排出するとか
言われている

睡眠中は無防備になるのにそれでも必要なんだから何らかの機能や役割があるんだろうな

[30 デフォルトの名無しさん (ﾌﾞｰｲﾓ MM7f-PTyk) 2021/10/02(土) 23:19:18.80 ID:zWqv5K6jM]

クソチョンw

[31 デフォルトの名無しさん (ﾜｯﾁｮｲ a36e-ye6e) 2021/10/03(日) 12:38:37.08 ID:apv2HwoX0]

人間の視聴覚に介入することすら未だままならないもんな

[32 デフォルトの名無しさん (ﾜｯﾁｮｲ 9310-2jfQ) 2021/10/03(日) 12:56:18.91 ID:5gxQKpTk0]

Googleがやっとショウジョウバエの半脳規模のコネクトーム解析に成功したところ

最高解像度のショウジョウバエの脳接続マップ、Googleが公開
https://www.gizmodo.jp/2020/01/fruit-fly-brain-map.html
ハエの脳神経回路の高解像度マップ、グーグル、HHMI研究者らが発表
https://www.technologyreview.jp/nl/this-map-of-a-flys-brain-connectivity-is-the-best-weve-ever-seen/

[33 デフォルトの名無しさん (ﾜｯﾁｮｲ 9310-2jfQ) 2021/10/03(日) 12:57:43.81 ID:5gxQKpTk0]

＞ショウジョウバエの脳のニューロン数は約10万であるのに対し、ヒトの脳には約860億個のニューロンがある

ショウジョウバエでも未だにこの程度なのに、ヒト脳の完全解析なんて無理よ
富岳も、全脳シミュレーションにはまだ計算能力が足りない

[34 デフォルトの名無しさん (ﾜｯﾁｮｲ ef89-2jfQ) 2021/10/03(日) 13:47:46.78 ID:A/xg16NE0]

よくわからが神経の接続は繋がったり消えたり強化されたりすｒんだろ静的解析だけではわからないじゃね

[35 デフォルトの名無しさん (ﾜｯﾁｮｲ cfda-7MHR) 2021/10/03(日) 14:51:30.08 ID:BwHL/qdj0]

>>34
すまないが確認してみるから
検体になってはくれまいか？

[36 デフォルトの名無しさん (ﾜｯﾁｮｲ 9310-Ig7M) 2021/10/03(日) 14:57:09.26 ID:5gxQKpTk0]

神経の成長は、19歳を超えるとほぼ固定される

[37 デフォルトの名無しさん (ﾜｯﾁｮｲ ef89-2jfQ) 2021/10/03(日) 15:50:11.96 ID:A/xg16NE0]

>>35
すまｎ、もうスカスカ

[38 デフォルトの名無しさん (ﾜｯﾁｮｲ d390-2jfQ) 2021/10/03(日) 15:59:54.62 ID:fd2z9Q2P0]

アインシュタインの脳は世界中に散らばってたな

[39 デフォルトの名無しさん (ﾃﾃﾝﾃﾝﾃﾝ MMff-ye6e) 2021/10/04(月) 11:18:18.37 ID:4SMJvp7PM]

転移学習とファインチューニングって何が違うの？

[40 デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-eQG6) 2021/10/04(月) 12:00:10.56 ID:uwgJa6dm0]

ファインチューニング⊂転移学習

[41 デフォルトの名無しさん (ﾜｯﾁｮｲ 3fe4-puhv) 2021/10/04(月) 12:24:33.93 ID:NQkhcE1O0]

>>39
俺もそこはイマイチだったけど、目的が違うんだと理解してる

ファインチューニングは、その名の通り微調整
公開された学習済みモデルの、出力層付近の重みを自分の（または新たな）データセットで学習させて適応させるとかで、ファインチューニングの前後でモデル全体の目的は変わらない

転移学習は、モデルをそのまま別の目的へ使用すること
例えばよくある例だと画像認識モデルを特徴抽出器としてSVMに流し込んで、分類させるのに使うとか
転移学習の前後では全体の目的は変わる（例では画像認識→画像分類）

[42 デフォルトの名無しさん (ﾜｯﾁｮｲ cf10-J7Q7) 2021/10/04(月) 13:05:31.91 ID:IrVwgMEy0]

特定の層だけ学習済みの層を使うのも転移学習なんじゃね？
オートエンコーダ層だけ他のをそのまま使うとか

[43 デフォルトの名無しさん (ｵｯﾍﾟｹ Sr77-dkea) 2021/10/04(月) 14:59:44.37 ID:pDc4fD3+r]

ファインチューニングだと層の数や各テンソルの成分数までいじる、って見たような

転移学習だと既にあるモデルに別の画像モデルを載せて学習させてた

[44 デフォルトの名無しさん (ﾜｯﾁｮｲ a36e-ye6e) 2021/10/05(火) 14:43:18.00 ID:qxXQzr/v0]

>>41
プリトレインのパラメータはフリーズしてffを新たに訓練すること？

[45 デフォルトの名無しさん (ﾜｯﾁｮｲ 73fb-uTfP) 2021/10/09(土) 16:11:35.50 ID:R9jtZdzp0]

機械学習において概念の獲得というのは可能なのでしょうか？

例えば犬種を見分けるモデルを作成する中で大きさという概念を獲得させ、その結果を転用して大きさから車種を判別するといったことは可能でしょうか？

[46 デフォルトの名無しさん (ﾜｯﾁｮｲ 376e-Vwtj) 2021/10/09(土) 16:38:50.81 ID:imDr+lCx0]

できない

[47 デフォルトの名無しさん (ｱｳｱｳｳｰ Sab7-8nkb) 2021/10/09(土) 17:12:37.82 ID:AqE3enYfa]

どこかのパラメータが大きさを認識するかもしれないけどそれを全く別の種類のものに適用したければ
どのパラメータが大きさを認識するか調べて抽出して新たなモデルを人間が作成するしかない
大きさという概念をプログラムが知らない前提なんだから人間が調べて取り出す必要がある

[48 デフォルトの名無しさん (ﾜｯﾁｮｲ 73fb-uTfP) 2021/10/09(土) 17:55:12.92 ID:R9jtZdzp0]

>>47
やはり現状では人間の手が必要ですよね。

特定の概念に特化したモデルを予め作成し転用することは可能でしょうか？

例えば画像情報から大きさを判別するモデルを作成し、この大きさ判別モデルをモジュールとして別のモデルに組み込んで使うという形です。

[49 デフォルトの名無しさん (ｽｯﾌﾟ Sd5a-NFwx) 2021/10/11(月) 02:41:21.29 ID:W1oEq6hAd]

概念って何？

[50 デフォルトの名無しさん (ｽｯﾌﾟ Sd5a-NFwx) 2021/10/11(月) 02:42:37.37 ID:W1oEq6hAd]

定義を述べてください

[51 デフォルトの名無しさん (ﾜﾝﾐﾝｸﾞｸ MM26-Vwtj) 2021/10/11(月) 11:48:03.15 ID:5HHAjiD3M]

人間の定義なんてものは主観的で
規則ベースの方式は所詮おれがかんがえたさいきょうのモデル、でしかなく
汎用性は無く例外に弱く使い物にならないのは散々見せられてきた

[52 デフォルトの名無しさん (ｵｯﾍﾟｹ Sreb-kg6J) 2021/10/11(月) 12:29:27.13 ID:DIodBuTLr]

その辺は言語モデルと画像認識と分類クラス名がリンクされたモデルというのを
作らないと難しいか

[53 デフォルトの名無しさん (ﾜﾝﾐﾝｸﾞｸ MM26-Vwtj) 2021/10/11(月) 17:21:06.15 ID:5HHAjiD3M]

そのあたりをグチャッとやってるのがdall-e

[54 デフォルトの名無しさん (ﾜｯﾁｮｲ 73fb-uTfP) 2021/10/11(月) 23:03:29.37 ID:iNvGL8qd0]

>>53
記事を見つけて読んでみましたが面白いですね。
ttps://ainow.ai/2021/04/26/253364/

時間や場所の概念を獲得した(テキストに正しく反応できた)だとか、当初の目的以外の用途に使えたというのは実に興味深いです。

120億パラメータというのがこれまた凄まじいですが、特定の概念に関する部分だけ抽出出来たら宝探しみたいで楽しいでしょうね。

[55 デフォルトの名無しさん (ﾜｯﾁｮｲ 2ffd-36a8) 2021/10/12(火) 21:36:26.65 ID:llg6th+00]

入門書読んでる途中で練習がてらUCIからEnergy efficiencyってデータセットひっぱてきたんだけど
すごく素直なデータセットだな。欠損値ないし、ただ単に重回帰分析しただけで決定係数が0.9越えてた
ここまで素直だとなにか罠があるんじゃないかと不安になる。諸先輩方はどう思います？

[56 デフォルトの名無しさん (ﾜｯﾁｮｲ c7dd-xjoE) 2021/10/12(火) 21:55:01.31 ID:G8QNgj6p0]

>>55
過学習してるだけ