【統計分析】機械学習・データマイニング33

2023/03/17(金) 01:30:49.78

!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/
【統計分析】機械学習・データマイニング31
https://mevius.5ch.net/test/read.cgi/tech/1632587566/
【統計分析】機械学習・データマイニング32
https://mevius.5ch.net/test/read.cgi/tech/1659286605/

VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured

2024/06/11(火) 11:54:37.15

Let's reproduce GPT-2 (124M) - YouTube
https://www.youtube.com/watch?v=l8pRSuU81PU

Andrej Karpathy

2024/06/10
We reproduce the GPT-2 (124M) from scratch. This video covers the whole process: First we build the GPT-2 network, then we optimize its training to be really fast, then we set up the training run following the GPT-2 and GPT-3 paper and their hyperparameters, then we hit run, and come back the next morning to see our results, and enjoy some amusing model generations. Keep in mind that in some places this video builds on the knowledge from earlier videos in the Zero to Hero Playlist (see my channel). You could also see this video as building my nanoGPT repo, which by the end is about 90% similar.

2024/06/11(火) 17:21:27.04

>>702
このAndrejさんの動画、ぜんぶ見たわ

海外はすごいわ…

2024/06/11(火) 17:35:55.89

いや、この人が化け物なんでしょう😅

2024/06/24(月) 13:56:53.38

加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 ? WirelessWire News
https://wirelesswire.jp/2024/06/86709/

2024/06/24(月) 14:41:42.87

超関数（英: hyperfunction）は、日本の数学者武田暁によって導入された関数の一般化で、微分積分学におけるフーリエ解析やラプラス変換を一般化したものです。超関数は、実数または複素数のような一般の体上で定義されることはなく、主に実数直線（あるいは複素平面）上の関数として扱われます。
超関数は、関数の概念を拡張するもので、微分方程式の解や発散的な関数を扱うために導入されました。武田は、超関数を「局所可積分関数のクラスと、それらの間の射（関数）からなる加群」と定義しています。これは、超関数を通常の関数と同じように加法とスカラー倍ができるものとして扱い、さらに微分や積分も定義されています。
超関数の主な特徴の一つは、「超関数は、ある特定の点でのみ発散的であることが許される」という点です。これは、超関数が特定の点で無限大になることがあっても、その周りの領域では有限であるという意味です。この性質は、超関数が一部の微分方程式の解として理解される理由の一部です。
超関数は、主に微分方程式の理論や発散関数の理論において重要な役割を果たしています。また、超関数は、シンギュラリティ（特異点）を持つ関数を扱うための強力なツールとなっています。

武田暁ｗｗｗ

2024/06/24(月) 21:05:45.38

なんじゃコリャ

2024/06/26(水) 18:40:30.71

ゼロから作るDeep Learning 5 ―生成モデル編
って、役に立つ？

広く浅くって感じ？

2024/07/18(木) 12:04:45.60

GoogleやMicrosoftの日本語変換ソフトの性能が未だに悪いのはなぜですか？
AIを使えば無茶苦茶良くなりそうですが。

2024/07/18(木) 12:32:26.46

ヒント
中国人の日本語を学習すれば怪しい日本語になる

2024/07/18(木) 14:49:15.96

imeは生成ai使ってないからね

2024/07/18(木) 15:05:56.98

日本語入力はSKKが現状では一番効率的だと思う

2024/07/18(木) 17:38:55.85

ATOK一択

2024/08/29(木) 06:40:46.41

プリファードがサムスンと提携
法則発動
技術流出するだろうな

2024/08/29(木) 12:52:51.00

プリファードは実力的にそんな凄いわけではないw

2024/08/29(木) 13:09:27.32

こんなところにまでネトウヨが出張ってきてるのかよ…
いい加減、科学技術も日本は中韓に追い抜かれたという現実を受け入れろよ

2024/08/29(木) 14:03:57.89

トヨタからも出資を受けてたし、PFNは自律式ロボットの開発でもしたいのだろうが、その為の人材は国内では取れなさそう

2024/08/29(木) 14:16:14.59

従来からある数理最適化技術をAIと称して紹介していた時点でご察し

2024/08/30(金) 11:28:26.37

plamo、全然ダメ
指示に従わなすぎ

2024/08/31(土) 14:57:29.75

この際だから念押し。

古くから存在する単なる数理最適化の手法を積極的にAIと進んで呼称し共同開発を持ちかける企業にはご注意を。

数年前までAIと呼ばれてなかったのに、AIと呼称することで、あたかも最新の手法であるかのような説明をされる企業が存在する。

またAIの開発には高額な費用を請求されるが、そのAIってほんとに最近話題のAIなのか疑うべきと思っている。

そもそも今どき他企業に頼らなくても自社開発でなんとでもなる

2024/08/31(土) 15:07:24.60

pytorchやtensorflowでなく
scikit-learnやただの重回帰分析だったらアウトか

2024/08/31(土) 15:08:56.17

そんなものchatgptに投げて処理すればよい

2024/08/31(土) 15:29:24.66

chatGPTに投げたら
scikit-learnによるソリューションを提示されて
低精度でしか動かなかった事がある

2024/08/31(土) 15:40:47.56

って書いたところで
統計分析は分析結果を見るのに顧客の頭を使わせる、的な記事が流れてきた

2024/08/31(土) 20:48:56.05

でも勾配降下法のほうがニューラルネットワークより性能いいことがバレちゃったしな

警備員[Lv.11] (ﾜｯﾁｮｲ 2302-+gtz [27.84.121.14]) · 2024/09/01(日) 05:58:05.55

解析的に解けるならそっちのほうがいい

2024/09/02(月) 11:37:04.49

同意

そもそもデータドリブン型の解析なんて不要だったりするんよ

2024/09/02(月) 14:49:04.02

宮田某てナニモン？

2024/09/02(月) 18:09:08.33

素人のど自慢の司会者

2024/09/03(火) 10:16:31.45

>>728-729
例えば、天気予報
AIに天気予報させたらどうなりますか？

精度は?

2024/09/03(火) 10:21:50.15

天気予報のように
データドリブン型で未来を見通せますか？

2024/09/03(火) 17:05:08.72

さあ

2024/09/04(水) 11:28:12.63

エヌビディア株急落、2789億ドル吹き飛ぶ－米１銘柄として過去最大

2024/09/04(水) 13:28:56.53

天気予報てaiいわゆる深層学習でやってんの？それともなに？

2024/09/04(水) 14:58:09.47

ｇｇｒｋｓ

2024/09/04(水) 16:36:44.08

うっせ死ね

2024/09/04(水) 17:02:30.25

天気予報による未来予測とAIによるデータ分析

何が違うのでしょうねw

2024/09/04(水) 17:08:38.75

ちなみに顧客側、、ユーザは
天気予報とAIどちらを利用したい？

2024/09/04(水) 17:25:41.80

精度が高いやつ

2024/09/04(水) 20:10:50.79

馬鹿には同じ

2024/09/04(水) 21:05:47.54

↑説明できないバカ

2024/09/04(水) 22:14:11.91

煽ったって教えてやらないよ、ばーか

2024/09/05(木) 16:55:21.50

strawberryタスクてそんなに大事？
本質はそこじゃない気がする

2024/09/05(木) 17:38:57.94

本質とは？

2024/09/05(木) 17:45:21.42

OpenAIがアメリカ当局者に対し「Strawberry」と呼ばれる画期的な成果をデモ、コード名「Orion」という主力LLMのトレーニングデータを作成することでGPT-4越えの性能を目指す
https://gigazine.net/news/20240828-openai-strawberry-orion-chatbot/

2024/09/05(木) 22:41:00.08

解析用のボロノイ多面体を勝手に切ってくれるのかな？

2024/09/06(金) 20:20:50.87

イリヤサツケバーの髪型が気になる
なんかいつも

2024/09/07(土) 17:08:07.62

俺達が機械学習用の仮想空間のオブジェクトなんだよ
歩き方も江戸時代とは変わってる
空間の見方も昔とは変わってる

2024/09/07(土) 18:10:57.89

>>748
？？、、
精度がほぼ補償されている原子シミュレーションにはずっと勝てないよ

それはずっと変わらない
ちなみにプリファードはそれもよく理解していてそこに投資してるね。

2024/09/07(土) 18:15:21.47

江戸時代ってラベリングされちゃったけど、、
例えば天気予報って江戸時代の技術であっても、この先ずっと廃れることもなく使用を続けれることは変わらないですw

2024/09/07(土) 18:18:36.24

未来を見ている天気予報と、、
過去のデータを見ているAIさんと、、
どっちがかっこよさそうですかね

2024/09/07(土) 18:25:36.44

＞空間の見方が変わってる
？？？
多次元なだけでしょ。
それは従来の手法で解するだけ

2024/09/09(月) 16:38:54.76

gigazineは素人なの？
reflectionの話を鵜呑みにして記事にしちゃったけど

2024/09/09(月) 17:48:16.30

解する
解すれば
解した

2024/09/10(火) 14:32:20.67

deepgraphnets面白す

2024/09/26(木) 12:58:28.27

米オープンAI、技術トップも退社　幹部流出止まらず
https://news.yahoo.co.jp/articles/05548b13beea3cd33ef6198edc6d7ad61f3c833a

2024/10/08(火) 19:07:46.71

物理と何の関係が？

2024/10/08(火) 19:27:01.97

今年のノーベル物理学賞はヒントンとホップフィールド

2024/10/08(火) 19:52:21.81

ボルツマンマシンの開発のようだ

2024/10/08(火) 22:05:39.41

ヒントンか

サツケバーは？

2024/10/09(水) 05:56:56.98

ＡＩの基盤技術にノーベル物理学賞、受賞のヒントン氏「様々な悪影響が制御不能に陥る脅威も」
https://www.yomiuri.co.jp/science/20241008-OYT1T50195/

2024/10/09(水) 13:17:25.12

レスがない件

2024/10/09(水) 13:51:16.41

ヒントンはわかるがホップフィールドマジ？

2024/10/09(水) 14:19:47.05

ヒントンって何やった人？

ヤン・ルカンより前？

2024/10/09(水) 17:33:31.55

工ｴｴｪｪ(´д｀)ｪｪｴｴ工

2024/10/09(水) 21:16:15.52

ノーベル化学賞もAI関連　タンパク質研究の予測に活用の英米3氏、社会情勢を反映
https://www.sankei.com/article/20241009-ENKFB77N4VMMXOIIH6PDRXNJ54/

2024/10/10(木) 00:54:50.77

ノーベル賞も堕ちたもんだな
物理学も化学も話題作りのための賞って感じ

2024/10/10(木) 05:21:41.58

頭硬いな

2024/10/10(木) 05:39:07.99

ハサビスかよ

2024/10/11(金) 11:01:30.51

Parallel Distributed Processing: Explorations in the Microstructure of Cognition : Foundations (Computational Models of Cognition and Perception) ハードカバー – 1986/7/17
英語版 David E. Rumelhart

NN時代の聖書、ボルツマンマシン、ホップフィールドネットワークもこれを読めばわかる

2024/10/13(日) 01:14:32.76

マカロックとピッツは殺されてんだろ

2024/10/14(月) 16:57:59.24

今回のノーベル賞で感じたのはA氏って世界的な評価はされてないんだなと思ったw
https://jbpress.ismedia.jp/articles/-/83733?page=4

2024/10/14(月) 17:27:39.23

>>772
まあ、
実装化してないからな

2024/10/14(月) 18:36:43.86

>>772
その国で持ち上げられている人間は選考からはずすのがノーベル賞

2024/10/14(月) 21:15:46.36

というかノーベル賞って、欲しいですって立候補しないと選考対象にはならない
んじゃなかったっけ？

2024/10/14(月) 21:17:04.34

誰が殺したクックロビン

2024/10/15(火) 00:03:47.42

>>770
正直今の時代にこれを評価して受賞ってのはいかがなものかと思う
あまりにも古過ぎる時代の産物
物理学の基礎分野とは違って初期の発明に価値なんてない世界なのに

2024/10/15(火) 06:05:32.78

>>771
陰謀論？

2024/10/15(火) 07:28:45.53

A氏って結局なにをやってたんだっけ、、
曲面を接続しただけ？

2024/10/15(火) 09:26:58.47

それは俺が10年前に証明した

2024/10/15(火) 09:30:37.38

R研で任期制職員の雇止めを行った

2024/10/15(火) 13:46:21.88

あの人は褒章もらったからええやん
めんどくさそうな人だし

2024/10/15(火) 20:48:06.32

昔の研究が受賞されがちなのは、その研究が発表されてから世の中への影響が
どの程度だったかを評価するためと聞いた

2024/10/16(水) 14:40:29.70

強化学習って多少は異質な要素もあるな

2024/10/16(水) 15:01:17.17

大抵はエネルギーぽいものを最小化あるいはエントロピーと呼ばれているものを増大するように更新してるだけ

2024/10/16(水) 15:33:28.01

そんなことよりお前らA氏の最近出た本読んだのか？
絶版になってた昔出した本の焼き直しだけど

2024/10/16(水) 20:03:17.58

甘利氏のこと？
なんでイニシャルにしてんの？

2024/10/17(木) 03:50:09.56

読むことはないな～
また間違いがあっても困るしw

2024/10/17(木) 03:56:36.65

エントロピーの前提として
状態量の加法性f(x＋y)＝f(x)＊f(y)の仮定が存在している説明だけは感謝している

2024/10/17(木) 06:27:10.84

安孫子さんだろ

2024/10/17(木) 13:40:46.43

失敬、>>789を訂正
エントロピーの前提として
状態量の加法性f(x＊y)＝f(x)＋f(y)の仮定が存在

2024/10/18(金) 05:27:34.33

理由もないのにイニシャルで書くからややこしいんよな

2024/10/18(金) 07:07:51.08

実名を書くのがはばかられる人物

2024/10/18(金) 13:28:57.19

掲示板のIPスレで特定の人物を名指しで書くほうがおかしいと感じるのだけど、、私の感覚がおかしいのかな？

2024/10/18(金) 13:32:42.28

A氏ってそもそも一般人でしょ

2024/10/18(金) 13:34:04.41

ネームドだし誹謗中傷でなければ引用していいかと

2024/10/18(金) 17:55:01.48

講演するみたいじゃんノーベル賞のことで

2024/10/19(土) 22:37:41.49

>>794
大げさなんだよ

2024/10/28(月) 18:02:01.63

初めてのコンテスト参加で入賞できて良かったです、みたいなコメントにイライラするw

2024/10/29(火) 21:02:25.52

どんまい

2024/10/31(木) 15:01:32.73

ai関係の論文の著者、中国系多すぎだろ

2024/10/31(木) 17:10:40.74

数学の秀才かつプログラミング能力も一定以上なんて人は限られるからなあ
日本は大学受験で燃え尽きるの多いから
この分野ではどうしても伸びが良くない

ところで韓国もこの分野は良くないな

中国系は台湾やシンガポールなども含めとにかく強い
教育のバランスがコンピュータを前提にした数理科学向きか