【統計分析】機械学習・データマイニング33

■ このスレッドは過去ログ倉庫に格納されています
2023/03/17(金) 01:30:49.78ID:RQNAfc890
!extend:on:vvvvvv:1000:512
!extend:on:vvvvvv:1000:512
↑すれたてる毎に１つずつ減るので、減ってたら３回に増やしてたてること。

機械学習とデータマイニングについて語れ若人

＊機械学習に意識・知能は存在しません。
　人の意識に触れたい方はスレ違いです。

■前スレ
【統計分析】機械学習・データマイニング29
https://mevius.5ch.net/test/read.cgi/tech/1597882603/
-EOF-
【統計分析】機械学習・データマイニング30
https://mevius.5ch.net/test/read.cgi/tech/1609459855/
【統計分析】機械学習・データマイニング31
https://mevius.5ch.net/test/read.cgi/tech/1632587566/
【統計分析】機械学習・データマイニング32
https://mevius.5ch.net/test/read.cgi/tech/1659286605/
VIPQ2_EXTDAT: default:vvvvvv:1000:512:: EXT was configured
2023/06/17(土) 14:37:08.65ID:4A1wnTFc0
日本の職人が海外で大人気みたいだな
寿司職人とか引く手あまたらしい
海外だと年収1000万以上当たり前
当然、生活費は日本よりかかることになるが、、、
時代は変わったよな
こっちで流行りのプロンプトエンジニアより息が長そう
データサイエンティストってのも前に居たけど
2023/06/17(土) 17:58:52.88ID:LTOKm94dr
何ヶ月前の話題を今頃拾ってんだよ
2023/06/17(土) 18:47:24.66ID:4A1wnTFc0
誤字脱字指摘による知識アピールや
情報強者アピールも、、、
まだそんなところに拘っているのかって思うぐらいに
時代は変わって行ってるよね
2023/06/17(土) 21:14:18.17ID:1DrS7Ptw0
変化が永遠に続くわけがない、ということはいづれ・・・
2023/06/18(日) 00:33:43.45ID:w1N4Ao7W0
頭悪い人だけど、ゼロつくの4章がようやくわかって、確率的勾配降下法実行してみてるんだけど、
学習ってこんな処理おっそいの？iters_num=10000じゃなくてiters_num=1000でやってんだけど、
これでも一晩かかるじゃん。
GPU使ったらもっと早くなるのかもしれんが、これほどまで計算量使うとは思ってなかった。
2023/06/18(日) 00:35:19.77ID:w1N4Ao7W0
確率的勾配降下法と逆誤差伝搬法だとどれぐらい速度に差があるもんですか？
2023/06/18(日) 00:35:59.77ID:w1N4Ao7W0
誤差逆伝搬法だった。
2023/06/18(日) 00:44:22.04ID:w1N4Ao7W0
こんなクッソ遅いのか。iters_num=300にしたわ。
accuracy_rate低くなってもいいやとりあえず学習できることだけ確認できりゃいいや。
2023/06/18(日) 05:56:50.05ID:w1N4Ao7W0
300で十分だった。学習していることを確認するだけなら10000とかいらない。
Accurary_rateも８２％ぐらい出たし。
2023/06/18(日) 10:14:48.40ID:3Rzd3FiC0
dog year, rat year
2023/06/18(日) 11:02:39.25ID:DYOcuNC50
実務と勉強では学習させる時間は違ってもいいな
2023/06/18(日) 11:36:58.13ID:feIkt70k0
GPT ってデコーダ層だけでできてるけど
前段のデコーダ層はtransformerのエンコード的に、後段のデコーダ層はデコード的に動いてんの？🤔
2023/06/18(日) 15:53:07.82ID:fpcC6KWOa
>>211
それミスリード
エンコーダ的な動きもしてる
transformerの一種という理解でモデルを見つめるべき
2023/06/18(日) 16:53:16.45ID:feIkt70k0
デコーダ層だけという見方が違うってこと？🤔
2023/06/18(日) 17:41:39.73ID:fpcC6KWOa
違うね
俺もそこに引っかかったのよ
実際モデル見たら全然違うじゃねーかと
推論時に1トークンづつ出力するからそこがデコーダっぽいってことなんだろうけどね
エンコーダデコーダで考えるものではない
2023/06/18(日) 21:51:25.24ID:w1N4Ao7W0
Transformerのことなんて一生わからん頭悪い人だけど、
ゼロつく５章までなんとか理解できた。
誤差逆伝搬法ってSGDと比較にならんほど早いのね。こんなに差があるとは知らなかった。
そら誤差逆伝搬法でやることになるわ。
2023/06/19(月) 09:15:32.45ID:ZdHK5ta+M
>>214
なるほど
ちゃんと論文読んでみる😤
2023/06/19(月) 16:30:37.62ID:wsVmiElF0
エンコーダデコーダという捉え方からは離れた方がいいかと
ユーザの質問文を入力してるとき、ChatGPTちゃんは必死に質問文の次の単語が何か考えながら聴いてるんだよな
かわいい
2023/06/19(月) 16:43:36.53ID:BTX61M/sa
>>216
論文見てもわからんよ
詳しい説明書いてないから
実際のコードを読むしかない
これが本家のモデル
他のゼロから作る系は間違ってる可能性あるからこれを読むべし
tf1で実装されているのが非常読みにくいが仕方ない
https://github.com/openai/gpt-2
219デフォルトの名無しさん (ﾌﾞｰｲﾓ MM83-yCDE [210.148.125.92])
垢版 |
2023/06/20(火) 16:29:27.96ID:jBZwR/ilM
lightgbmって欠損値NaNのままでいいの？
ゼロフィルすべきかなんか値入れるべきかわからん
220デフォルトの名無しさん (ﾜｯﾁｮｲ ff68-5prw [119.231.42.181])
垢版 |
2023/06/22(木) 13:49:45.51ID:TJ58tWlh0
Bingって使えないな
不快だからとか言ってすぐ話を拒否しやがる
2023/06/29(木) 10:59:44.31ID:nlvFIcH90
>>1
機械学習

ディープラーニングとは別物？
2023/06/29(木) 13:29:40.73ID:V3BU2z1JM
chapgptで品詞も構文解析もできる
2023/06/30(金) 17:28:08.81ID:z0f4+EQt0
おすすめの本はなんですか？

「ゼロから作るDeep Learning」がいいのかな？
2023/06/30(金) 17:35:56.26ID:/MJzKjJka
その本は今となってはあんまりおすすめではない
実装メインならゼロから作るディープラーニングフレームワーク編がおすすめ
これは今は亡きChainerクローンをゼロから作る工程を詳しく解説してる
実際PFNでChainerのメインプログラマーだった人からはアドバイスを受けて作ったらしい
逆伝播をグラフを使って実装する方法を見たときは衝撃を受けたね
2023/06/30(金) 17:53:07.32ID:z0f4+EQt0
>>224
返信ありがとうございます。

私は、数年間、上場企業でプログラマー（C++、Lua等）でしたが、
AIは未経験なので基礎理論からやりたいですが、
「最短コースでわかる　ディープラーニングの数学」とかもいいのかな？

「ゼロから作る～」の斎藤康毅さんの本はおもしろそうですね。
2023/06/30(金) 18:21:03.25ID:IAA0Cn+I0
辞める必要ないじゃん
>上場企業でプログラマー（C++、Lua等）でした
2023/06/30(金) 18:54:50.83ID:/MJzKjJka
>>225
本当に基礎からやりたいなら深層学習2版(岡谷)がおすすめ
ただしこの本の後半の内容は著者の研究内容っぽく
あまりお勧めできない
中盤までのtransformerを解説する部分まで読めば良い
基礎理論の説明としてこの本が1番詳しいと思う
2023/06/30(金) 19:16:27.24ID:z0f4+EQt0
>>227
ありがとうございます！
Amazonで確認してみます

著者は東北大学の教授のようですね
日本ディープラーニング協会の推薦図書のようですね

私も、松尾豊研究室みたいなところに行けばよかったなぁと後悔してます…
（当時はほとんど無名だったような…）
2023/07/01(土) 05:04:22.17ID:bw1A5+tw0
東大卒でコーダーて
しかもLua笑
まあそれがほんとか嘘かは置いといて、今日日機械学習も知らないプログラマなんておんのな

ちな松尾研はずっと有名です
機械学習のブームは今が初めてではないからね
2023/07/01(土) 08:01:01.65ID:bE5ENvr7d
汎用機の時代じゃあるまいに、コーダーなんて30年前に絶滅してるぞ。
機械学習も今は幻滅期だろ。
2023/07/01(土) 15:05:02.15ID:YUYJVAN40
AIブームは終了しました
2023/07/01(土) 15:51:05.72ID:4M91eAiA0
シャープの電卓かよ
2023/07/01(土) 20:04:12.30ID:FNC6ajRz0
ネットで
ディープラーニングの教材とかないのかな？
有料でも無料でもいいけど…
2023/07/01(土) 20:08:19.57ID:INxaLGj50
探せ
2023/07/01(土) 20:13:42.92ID:FNC6ajRz0
ネットで
ディープラーニングの教材とかないのかな？
有料でも無料でもいいけど…
2023/07/01(土) 20:16:05.22ID:816J4y7R0
有料でいいならe資格一択
2023/07/01(土) 21:09:52.87ID:YUYJVAN40
coursera
2023/07/02(日) 12:55:13.09ID:KFFnas+r0
>>230
機械学習も知らん自称プログラマって所詮コーダーだなあと思ってしまいます
2023/07/02(日) 13:18:46.27ID:0tm0b7n20
>>236
E資格を取得したら、はAIプログラマーとして就職できる？
松尾カラーに染まってないかが心配だが…
2023/07/02(日) 13:22:03.56ID:0tm0b7n20
>>237
Courseraの機械学習あるな
2023/07/02(日) 14:02:00.63ID:GKSkk7to0
資格なんて後からでいい
これまで何を作ってきたか、どんなプロジェクトを回してきたかの方が圧倒的に重要
2023/07/02(日) 16:05:28.23ID:0tm0b7n20
>>241
AI業界の人ですか？
他のIT業界からAI業界に転職可能ですか？
2023/07/02(日) 16:48:25.48ID:qth4iBDj0
Coursera
2023/07/03(月) 10:07:15.42ID:QQJFPhjiM
udemy
245デフォルトの名無しさん (ﾜｯﾁｮｲ ff7d-KCYR [210.165.236.61])
垢版 |
2023/07/03(月) 10:44:52.59ID:1jfVO5aP0
Udemyは二重価格表示みたいで嫌い
講座の質は知らんけど
2023/07/03(月) 10:50:12.62ID:+OAkYXZi0
>>244
Udemy、AI講座とかあるな
職業エンジニアになれるのかな？
2023/07/04(火) 09:55:20.22ID:a4LMvZeXM
今後、ai開発者て認証制度になんの？免許みたいな🤔
2023/07/04(火) 11:35:44.80ID:Ju/5UTU+0
>>247
やるらしいな

就職に有利になるとか？
2023/07/04(火) 11:39:06.81ID:7zQlFwwIp
どうせ情報処理技術者資格みたいにあるだけの資格になるんだろw
2023/07/04(火) 11:44:19.96ID:a4LMvZeXM
日本のai開発がますます後退しそう😅

松尾健のグループがまた検定試験作るんだろ？で試験のための団体ができて試験のための本が売れて。。。
2023/07/04(火) 12:01:16.81ID:Ju/5UTU+0
松尾氏の利権目的なの…？

ちゃんとしたやつになるの…？
2023/07/04(火) 12:48:27.27ID:a4LMvZeXM
彼をダシにして色々やりたい連中がいる
2023/07/04(火) 12:59:09.52ID:zNGSpGTp0
経産省の利権かな
日本ディープラーニング協会
2023/07/04(火) 13:03:16.29ID:Ju/5UTU+0
就職に有利になるとか、
ちゃんとしたやつならいいけど…
255デフォルトの名無しさん (ﾜｯﾁｮｲ 4e10-f01y [153.242.169.140])
垢版 |
2023/07/05(水) 12:13:43.38ID:CsO3NY0y0
>>218
今更だが、これいい情報やね
今度コード読んでみよう。
2023/07/05(水) 12:21:58.48ID:PyQq/mwi0
で、
独学でAIでIT企業に就職できるの？
2023/07/05(水) 12:59:38.12ID:OVdAJYh+0
できません
2023/07/05(水) 13:45:26.93ID:PyQq/mwi0
>>224
PyTorchを使えばいいの？
2023/07/05(水) 14:47:27.93ID:YwCEqU6H0
変なのがいついちゃった
2023/07/05(水) 14:50:43.55ID:PyQq/mwi0
またゴミ書き込みバカ

消えろ
2023/07/05(水) 15:35:59.63ID:YwCEqU6H0
ニートの東大工卒（自称）の教えて君がイキルｗｗｗ
2023/07/05(水) 16:49:18.56ID:PyQq/mwi0
↑
またゴミ文バカ
消えろ

バカが…
2023/07/05(水) 17:05:10.41ID:YwCEqU6H0
工房草
2023/07/05(水) 17:08:25.23ID:PyQq/mwi0
↑
またゴミ文バカ
消えろ

バカが…
265デフォルトの名無しさん (ﾜｯﾁｮｲ 4e10-f01y [153.242.169.140])
垢版 |
2023/07/05(水) 18:00:49.42ID:CsO3NY0y0
他の業界からAI業界への転職は、もともとスキルがある人じゃないと厳しいでしょ
スキルなしの転職は買い叩かれて終わる。

AIやりたいだけなら今いる業界の中でDXとかの担当に行くのが早い
2023/07/05(水) 18:25:37.95ID:ZkaWWEhAa
>>258
PyTorchでいいよ
openaiも社内でPyTorchを共通で使っていく宣言した
2023/07/05(水) 23:30:34.53ID:5hl1ZSWW0
独学でAIか・・・
どっかの査読付き論文に日本語でもいいから通するのが最低条件かな
2023/07/06(木) 00:55:46.00ID:U+0TVSFF0
和文の論文持ってる奴が応募してきたら笑いものにして終わり
2023/07/06(木) 06:08:00.33ID:24F0wnkda
日本人でもまともな論文なんて書いてるやつほぼいないぞ
アカデミックは論文詐欺だらけだから
学会とか行くとそれが良くわかる
2023/07/06(木) 08:46:42.32ID:/1pwHxhgM
先月の人工知能学会もちょっと酷かったな😅
271デフォルトの名無しさん (ｽｯﾌﾟ Sd5a-DSYG [1.75.0.60])
垢版 |
2023/07/06(木) 09:15:49.28ID:llhZZdrGd
言語系とか色々あったけど全部GPTになるのかな
社内でGoldfireとかやってるとこあるけど、chatgptでも社内のデータを入力できる流用になるみたいだし
2023/07/06(木) 13:13:00.65ID:hTbuUhzz0
>>265
スキルって何のスキル？
業界の現役の人に聞きたいけど、このスレにはいないか…ｗ
2023/07/06(木) 13:21:08.88ID:hTbuUhzz0
>>266
ありがとうございます！

PyTorch見てみましたが、ディープラーニングを書くのに便利そうですね
Juliaも高速で良さそうですが、そんなに普及してないのかな…
2023/07/06(木) 13:48:35.36ID:QgE27dPC0
>>269-270
情報系の人たちはちょっとアレで、良い研究は軒並み物理の人たちがやってる感じあるよね
275デフォルトの名無しさん (ﾜｯﾁｮｲ 36ca-Sjvf [39.111.143.180])
垢版 |
2023/07/06(木) 14:10:25.44ID:pzUVnBqD0
渡辺の統計本を読むと、統計力学とか相対論、多様体など物理も強い人が有利なんだろうなという気がする。MLの理論面は情報系のコースだと数学力が貧弱な気がする。
2023/07/06(木) 16:08:31.68ID:edD6U75Pd
情報幾何(多様体論)、関数解析、統計の基礎
の3つは最低限やっててほしいな
2023/07/06(木) 16:24:13.17ID:24F0wnkda
>>274
情報系は終わってるね
活気もないし
2023/07/06(木) 20:30:43.16ID:5l2O2uAx0
>>271
何この胡散臭いアプリ🤔

大沢某がかつてやってたチャンス発見みたいなやつか？
2023/07/07(金) 01:02:09.77ID:/9UQDUKa0
渡辺は物理を異様に強調しすぎている
統計や機械学習に基本的には物理の知識はいらない
2023/07/07(金) 01:45:11.10ID:qxdXbIy8a
統計力学は機械学習とかなり密接につながってるからね
最適化もいわゆる差分法とか物理の手法がルーツだからね
そっち系の人が絡みたがるのはわかる
2023/07/07(金) 09:21:53.34ID:VBK2HAL0M
渡邉センセは元々そっち方面の人だからでしょ趣味というか😅
2023/07/07(金) 12:31:59.30ID:++QnN4Ova
物理の人が数学の道に堕ちるのはあるある
2023/07/10(月) 13:23:43.18ID:CwkVIHvy0
東ロボくんの新井紀子
「　｢ChatGPT｣に浮かれる人が知らない恐ろしい未来　」

って日本のアカデミックを代表する数学教授の最新のAIに関する見解がこれで良いのか
2023/07/10(月) 14:04:54.14ID:SOtVEQwh0
ダダン　ダンダダン　ダダン　ダンダダン　テレレー　テレレー
I am back
2023/07/10(月) 14:09:59.09ID:srxX/9Ry0
>>283
東ロボは
ChatGPTより優秀なのかな…？
286デフォルトの名無しさん (ﾜｯﾁｮｲ 9bca-LrtW [39.111.143.180])
垢版 |
2023/07/10(月) 14:15:10.01ID:AnG8YACv0
数学が得意じゃない数学者だったようなｗｗ
chatGPTの論理推論を数学基礎論で検討する事はあっても、作るのには絶対使われてないじゃろｗｗｗｗ

https://toyokeizai.net/articles/-/656682
2023/07/10(月) 14:34:55.82ID:jOTRnxmuM
>>283
こんなんを代表にしないでください😡
出たがりbbaです
2023/07/10(月) 15:10:34.73ID:9o+nSTPC0
まぁ新井さんはお前らより数段マシじゃね？ってのがおれの感想
2023/07/10(月) 15:21:54.47ID:mH819Dopa
新井紀子ってあれだろ？
論理構造を把握しにくいようにわざわざ難読化した文章を子供に読ませて
「今時の子供はAIよりも文章が理解できない」という結論ありきの本を書いてる人だろ？
2023/07/10(月) 19:16:07.31ID:X+lc5z3x0
東ロボくんが行き詰ったから適当な警鐘ならさねば的なことをもってきて、開発するのやめたんだろ。
2023/07/14(金) 15:35:15.93ID:5MA3mf/UM
ngセンセ来てるのね
2023/07/14(金) 15:36:20.94ID:5MA3mf/UM
>>288
あんなのは学部生レベル😡
2023/07/14(金) 19:42:37.40ID:9h33JNqma
東ロボとChatGPTの、この圧倒的な差ｗ
エセ研究者のインチキと本物のＮＬＰ・大規模言語モデル開発
あまりにも桁違い
あんなんが教授なんだよな
2023/07/18(火) 09:59:37.50ID:P6D+AaBRM
なんで企画のほうがエンジニアより高給なんだろうね🤔
295デフォルトの名無しさん (ﾜｯﾁｮｲ 6fca-cnuG [39.111.143.180])
垢版 |
2023/07/18(火) 10:20:11.91ID:VLoo0XBj0
文系ジャパンだから
2023/07/18(火) 11:16:03.39ID:fAmxuO6T0
人事に聞いてみたら
2023/07/18(火) 11:21:36.31ID:fAmxuO6T0
理系もいくだろ
298デフォルトの名無しさん (ﾜｯﾁｮｲ 1302-NTB2 [59.138.226.58])
垢版 |
2023/07/23(日) 19:36:21.85ID:/hm6qsTH0
BingAI登録せずに使えてたのに、急に人間であることを確認しますとかいうのが出てきた
しかもクリックすると失敗しましたとか出て認証できないし
2023/07/24(月) 09:06:53.03ID:sNx93GUp0
text-generation-webuiってのにcyberagent_open-calm-7bを入れてみたけど
全然会話にならない、顔文字で意味不明な返答をする

GPT-Jを試してみたいけど、PCの電力不足でフリーズしてしまうので、電源交換待ち

まともに日本語で会話できるモデルはありませんか
2023/07/24(月) 12:44:29.73ID:czuV9FcKM
gpt-3.5-turbo
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況