【GPGPU】くだすれCUDAスレ part8【NVIDIA】 [無断転載禁止]©2ch.net

**デフォルトの名無しさん** · 2018/10/22(月) 20:29:13.91

RTXのtensorコアってどうなの？

**デフォルトの名無しさん** · 2019/01/03(木) 14:15:50.59

1080Ti買ってきてドライバインストールしたんだけど、GPU-Zで見たときOpen-CLだけチェック入ってなくて
困ってるんだけど、コレって別にドライバー持ってくる必要があるの？

**デフォルトの名無しさん** · 2019/01/03(木) 14:29:58.49

https://www.techpowerup.com/forums/threads/open-cl-disappeared.233623/
https://forums.guru3d.com/threads/not-showing-open-cl-support-in-gpu-z.319926/

**デフォルトの名無しさん** · 2019/07/23(火) 17:02:22.82

quadro p600のWSにcuda入れようとしてるのだけど
10.1がパスカル世代の面倒見るのはteslaだけって認識でいいの？
390系のドライバしか入らなくて困ってる。
cuda9.1だとこんどはgcc 6以上はあかんとサンプルプログラムのヘッダがコンパイル時にハネてくる。
なんか詰んでる

**デフォルトの名無しさん** · 2019/07/23(火) 17:03:06.53

>>179
倍精度ゲロ遅なんでしょ

**デフォルトの名無しさん** · 2019/08/04(日) 08:51:33.67

でかいjpegファイルを手頃なサイズに縮小することがよくあって、
数が多いので結構な時間(数時間)がかかる

これを何とかGPUのパワーで短縮できないものか

**デフォルトの名無しさん** · 2019/08/04(日) 10:17:38.13

スレチ

**デフォルトの名無しさん** · 2019/11/27(水) 13:29:04.23

GTX1080のあるPCでcudaとcuDNNとAnacondaとTensorflowをインストール

GTX1080には9.0が合うのかと調べて、VS2015をインストールしてからcudaもバージョン合わせて入れる

Anaconda入れて早速仮想環境作ったが何故かその時はPython3.7しか選べなかった
そしたらconda install tensorflow-gpuで勝手に2.0を選び、型が合わないとエラー

conda install tensorflow-gpu==1.15でもcuda runtimeと合わない
cudaが10じゃないとダメという

1.12にしたら、今度はPythonが3.6でないとダメという
つまりこの仮想環境丸ごとダメ

捨てたあとで、もう一回作ろうとしたらPython3.6選べた
だからconda install tensorflow-gpu==1.12で、やっと動いた

ちょっとでも古い機器だともう合わないとか、敏感だよなあ

**デフォルトの名無しさん** · 2019/12/04(水) 13:02:39.14

ところがRTX2000番台は事前にVSもCUDAもcuDNNも入れずにAnacondaだけで
tensorflowがインストールできてしまった

この数日で色々変わったらしい

**デフォルトの名無しさん** · 2019/12/04(水) 13:24:12.88

おめおめ

**デフォルトの名無しさん** · 2020/02/14(金) 11:55:27.53

RTX2000番台はAnacondaからPyTorchでGPUを使う設定に出来たがChainerでcupyからGPU呼ぶのは失敗

GTX1000番台はAnacondaからChainerでGPU使えるように苦労して設定したら、PyTorchは
「これ古すぎてGPU使えない」と表示された

一長一短
ところで16xx系列ではどうなるんだろう

**デフォルトの名無しさん** · 2020/04/08(水) 11:14:16.32

PyTorch使いたかったら2000番台がいいか

2070以上、せめて2060superがいいか
でも中古でもそれなりの値段

そしてGPU上のメモりが8gb以上ないと動かないモジュールも多くて2060無印があかん事に

**デフォルトの名無しさん** · 2020/06/25(木) 09:14:06.05

wddm2.7対応ドライバで
bandwidthTestにおいてpagedメモリの転送速度向上を確認した

pinedだとhtod、dtohともに13GB/sec
pageableだとwddm2.6は8GB/sec、2.7だと12GB/secくらい

**デフォルトの名無しさん** · 2020/09/29(火) 22:45:56.87

GTX 1660 SUPERはCUDAに対応してますか？

**デフォルトの名無しさん** · 2020/09/30(水) 01:11:13.65

>>192
https://www.nvidia.com/ja-jp/geforce/graphics-cards/gtx-1660-super/

GPU エンジンの仕様:
1408 NVIDIA CUDA® コア
6GB GDDR6標準メモリ構成
192-ビット

**デフォルトの名無しさん** · 2020/10/04(日) 03:16:42.67

CUDAのバージョンを不問とするならGeforce 200シリーズ(Tesla世代)から対応はしてる

って書こうとしたら8シリーズ(2007年)からあったんかよCUDA

**デフォルトの名無しさん** · 2020/10/13(火) 20:53:42.89

CPUでの画像処理で速度が上がらずCudaを使いたいです。（windows）
①画像をGPUメモリに読み込み
②領域分割、パラレルで画像処理
　（分割部エッジにオフセット？をつけたい）
③GPUメモリの処理結果をCPUメモリに返してファイルにおとす。
こういったサンプルプログラムでいいのないでしょうか？
画像処理部だけしたい処理に書き換えればいいような。
よろしくお願いします。

**デフォルトの名無しさん** · 2020/10/14(水) 13:17:48.94

numpyをcupyに替えて
ただしcupyはGPUを使うと宣言して

みたいな奴かなあ

**195** · 2020/10/14(水) 15:54:49.86

すみません。言語を書いていませんでした。使いたいのはPythonじゃないです。
WindowsでC++で実現したいです。

**デフォルトの名無しさん** · 2020/10/14(水) 16:32:24.96

ttps://qiita.com/Keech/items/381495ed90e012d69f1a
ttps://www.kkaneko.jp/tools/win/cuda10.html

**デフォルトの名無しさん** · 2020/10/14(水) 16:34:20.05

ttps://ameblo.jp/naginosen/entry-12443269443.html

**デフォルトの名無しさん** · 2020/11/19(木) 09:55:49.41

RTX3080などで、cuda11が使えるようになってる
だがtensorflowは現時点でまだ使えない

だがPyTorchが動くとのこと！

**デフォルトの名無しさん** · 2020/12/01(火) 20:58:05.41

cudaええな。
2万3千円の GF 1660 SUPER で tensorflow が
2x Xeon E5 2697A v4 の10倍速くなった

**デフォルトの名無しさん** · 2020/12/07(月) 14:54:49.93

1660sでも天下のXEON様の10倍も速いのか

cudaコア数に速度が比例するからなあ
3090だと更に7倍?

**デフォルトの名無しさん** · 2020/12/07(月) 21:54:00.27

intelのコンパイラ買えばCPUももうちょっとマシなんだろうけどケチってやってない。

GPUのメモリの量で、やれることとやれないことが変わってくるので
コア数クロック低くてもメモリ多いみたいなのがあればいいのにね

**デフォルトの名無しさん** · 2020/12/08(火) 15:17:27.13

パソコン工房のブログ記事に
RTX2060superを2枚使って、しかしSLIとかVLLinkとか使わずに性能1.8倍って例が出ている
34308番の記事か

**デフォルトの名無しさん** · 2020/12/10(木) 23:34:49.63

3080tiでpytorch回してえ

**デフォルトの名無しさん** · 2021/01/12(火) 01:54:13.37

1050で戦ってるが、ぐぐるこらぼの半分の速度しか出ねえ
今買い換えるならおすすめどれ？
3万くらいなら払えそう

**デフォルトの名無しさん** · 2021/01/13(水) 07:56:47.02

1660SUPERぐらいなら買えそう

**デフォルトの名無しさん** · 2021/01/14(木) 10:18:01.38

RTX3060デスクトップ版のコスパが
これまでのNVIDIAの一般ユーザー向けGPUでは深層学習に最適かな

3584cudaコアとVRAM12GBでアメリカ価格329ドルは有難い
教師データが巨大でも助かる
なおノート向けはcudaコアはちょっと多いがVRAM6GBなので注意

またRTX30xx番台はcuda11を使えばTensorflowを動かせるとのこと

**195** · 2021/01/14(木) 13:43:39.46

caffeが異様にメモリ食うんだが。
困った。

**デフォルトの名無しさん** · 2021/01/14(木) 21:42:12.40

RTX3060良さそうだよな。
Google colab は無料なのは助かるけど、毎回環境構築しなきゃいけないし、やっぱりローカルで動かせると捗る。

**デフォルトの名無しさん** · 2021/01/18(月) 09:07:06.27

3000番台はまだSLI出来るんだっけ
2060superでただ2枚挿しただけでとりあえず深層学習用途なら性能上がったというのが気になる

ノートPC用のRTX3080って16GBなんだなあ
是非欲しいけど当面は総額40万円くらいだろうな

**デフォルトの名無しさん** · 2021/01/18(月) 12:33:28.51

ゲームやらんし
3060でいいかな

**デフォルトの名無しさん** · 2021/02/25(木) 09:17:50.75

3060発売日か

**デフォルトの名無しさん** · 2021/03/01(月) 12:17:15.83

機械学習しようとrtx3090を2枚買ったんだが中古でも25万円で売れるから売ってrtx A6000に買い替えるメリットある？
gpgpu的な観点から

**デフォルトの名無しさん** · 2021/03/01(月) 15:53:37.93

電力は少なくて済むな

**デフォルトの名無しさん** · 2021/06/02(水) 02:14:34.84

3080tiと3070tiが販売されるか
しかし3080tiでもVRAM12GB

**デフォルトの名無しさん** · 2022/03/11(金) 11:03:09.15

ようやく
CPUマルチスレッドをCUDAプログラミングに乗り換えようと来てみたけど
ほんと人少ないな。
ompオフロードじゃなくCUDAでやろうとしてる

ちょっと思ったのはデバイス側のスレッドから、複数のデバイス側のスレッドを起動できれば
ホストデバイス間のメモリ転送をぐっと少なく出切るんだけど
こういうことって出来ないのかな?

__device__
void
SubThread()
{
...
}

__gloval__
void
SubThread()
{

}

**デフォルトの名無しさん** · 2022/03/11(金) 15:20:37.94

途中で送信してしもた

__device__
void
SubThread(){
...
}

__gloval__
void
Thread(){
SubThread<<<1,1024>>>();
}

int
main(){
Thread<<<1,1>>>Thread();
}

みたいな。
これができないとCPUマルチコアプログラムからGPUプログラムに簡単に移行できんわ。
CPUもC#やインテルコンパイラから入ったんで、大体様子がわかって、
ompでは用意されてなかったPartitionerを先ず作ってめちゃ楽にコーディングできるようになった。
GPUはまだ手探り状態

**デフォルトの名無しさん** · 2022/03/11(金) 18:41:56.87

細かく見てないけどSubThread をグローバルにしたら呼べる

**デフォルトの名無しさん** · 2022/03/12(土) 01:12:58.32

>>218
CUDA Dynamic Parallelism

**デフォルトの名無しさん** · 2022/03/12(土) 10:13:53.90

__device__を__global__に置換してみたけど
__global__内でスレッドを立ち上げるコードを書くと
THread内のSubThread<<<1,1024>>>(); 行と
main関数のThread<<<1,1>>>Thread(); 行の2箇所で"式が必要です"とコンパイルがエラーがでる
もちろん
Thread内のSubThread<<<1,1024>>>();をコメントアウトするとコンパイルもとおるし、正しく実行できる

**デフォルトの名無しさん** · 2022/03/12(土) 10:16:20.60

>>220
ありがと
調べてみます

**デフォルトの名無しさん** · 2022/03/12(土) 18:11:29.89

ようやくわかりました
Relocatable Deice Code をenableでコンパイルが通りました
あちがとうございました

**デフォルトの名無しさん** · 2022/03/23(水) 16:55:21.73

今のGeForceは倍精度遅すぎてなんとかならんか?とおもてたら
Kelper世代のTeslaが8万円ぐらいで売ってるのな 1.8TFlps
c.f.
R3090 FP64 0.556TFPS ww なんそれッ

**デフォルトの名無しさん** · 2022/03/23(水) 19:49:40.61

k80とか外付けGPUBOXで正常動作すんのかな?
動作報告探してみたけど見つからないんでよくわからん
消費電力大きいし、使いたいときだけつないぎたい

**デフォルトの名無しさん** · 2022/03/23(水) 21:39:42.99

8万円分AWSのGPUインスタンス借りたほうがよくね？

**デフォルトの名無しさん** · 2022/03/24(木) 04:46:34.26

課金がアクセス時間なのか正味のGPU駆動時間かわからんけど
8万だとほぼほぼ1ケ月やね。k80本体は6.7万ってのを見つけたわ
機材レンタルじゃないのでもっと上衣スペックのGPUサービスとか期待してチェックしたけど
目ん玉飛び出るぐらい高いね。もっと安くしてくれ

**デフォルトの名無しさん** · 2022/03/24(木) 05:17:57.72

A100ならAWSよりGPUSOROBANが半額以下やね
22万/月なんて個人じゃ出せないけど

**デフォルトの名無しさん** · 2022/03/25(金) 15:16:22.97

仮面ライダー GPGPU
https://pc.watch.impress.co.jp/docs/news/1396728.html
700Wて
10年たってジャンクで入手しても個人で稼動して遊べるシロモノじゃなくなったな

**デフォルトの名無しさん** · 2022/03/25(金) 15:57:54.09

電力はまだしも排熱が難しいな。

**デフォルトの名無しさん** · 2022/04/15(金) 16:37:56.16

CUDAてなんで3次元でスレッド管理するの?
DRAMが実装構造としては2次元でもアドレスでコーダがrow. columnは吸収して1次元で管理するように
スレッドもそうしちゃ駄目な理由を知りたい。
そもそも、3次元ってのとgrid, blockがなんの関係もないんじゃないの?
2次元を block として管理して
3次元の奥行が必要になった時点でgridが登場するならまだ理解できるんだけど。
しかも
threads/block = 1024 と少ない。こんなんじゃ32x32行列越えたら一挙にメンドクサイ

**デフォルトの名無しさん** · 2022/04/15(金) 22:42:02.88

3DCG処理やる場合、最初から3次元のID貰った方が楽じゃん？

**デフォルトの名無しさん** · 2022/04/15(金) 23:30:24.49

>>232
3DCGの次元とは全然別物だが

**デフォルトの名無しさん** · 2022/04/16(土) 07:46:19.05

block,grid へのスレッドの割当て方とかでパフォーマンス変わりますか?
1000個のスレッドを起動したいとき、
block内だけで起動する方が速いのかいのか?
それとも
10個/grid, 100個/blockと分ける方が速いのか?
OpenCLでNVidiaがAMDほどパフォーマンスが上がらないのはスレッドの立ち上げかたで
癖のようなものがあるからってのはないですか?
block,gridってパーティションは単にソフトの問題なのかハード上の制約でこうしてるのかが知りたい

**デフォルトの名無しさん** · 2022/04/16(土) 09:18:24.96

変わるけど、今のGPUそんなん意識しなくても速いからいいだろ
Keplerまでは色々考えないと速くならんかったけど、Maxwell以降はそんな考えなくてもよくなったからおけ

**デフォルトの名無しさん** · 2022/04/16(土) 10:42:24.69

なるほど
じゃblockとかgridとかのパーティションはその時々作成するアプリ側の都合で
作りやすいように自由に設定していいってことですね?
OpwnCL使うとCUDAより大分速度低下する理由は何ですかね?
AMDはOpenCLしかないけどNVidiaでCUDAで書いたのと遜色ないぐらいのベンチマーク出してるサイトがあったんですが。
単にNvidiaがOpenCLやる気ないだけ?

**デフォルトの名無しさん** · 2022/04/16(土) 10:53:55.11

昔ウチで試したときは同じGPUでCUDAとOpenCLはそんなに差は無かったがなぁ。
ものによってはOpenCLの方が速い場合もあったり。

そんなに差が出るのはバリバリにチューニングしたCUDAカーネルをOpenCLにベタ移植したとかかねぇ？

**デフォルトの名無しさん** · 2022/04/16(土) 11:06:17.75

厳密には、ハードウェアを意識するならちゃんと考えたほうがいい
あと適当に言ったけどさすがに今の世代でも1スレッドブロックしか立ち上げないとかだとめっちゃ遅いと思う
GPUの並列性を埋めるなら、1SMに対して複数のスレッドブロックを当てられるぐらいであり、全SMに対してそれができるぐらい、つまり数万スレッドを立ち上げた方がいい
とはいえレジスタ数との兼ね合いもあるからそこはバランスを見て

**デフォルトの名無しさん** · 2022/04/16(土) 11:11:10.82

OpenCLとCUDAに本質的な速度の差はないよ。最適化がどれぐらいかかるかの違いじゃない？
一般的な使い方をするならOpenCLはオンラインコンパイルだからあんま最適化かからんけど、CUDAなら最適化がかかるとかそういう感じ

**デフォルトの名無しさん** · 2022/04/16(土) 11:42:04.90

nVIDIAがCLやる気ないのはわかりきってることだろうに

**デフォルトの名無しさん** · 2022/04/16(土) 11:52:05.37

一般にはオンラインコンパイラの方がその環境に合わせた最適化ができると思うがな。
NVIDIAがどこまでやってくれているかは知らないがIntel OpenCLは頑張っていた印象。

**デフォルトの名無しさん** · 2022/04/16(土) 13:08:09.18

nVIDIAはclCreateProgramWithIL無いんだったなｗ

**デフォルトの名無しさん** · 2022/04/28(木) 01:34:13.82

今度のゲフォ fp64で
ラデなみの速度でるとか情報ないの?

**デフォルトの名無しさん** · 2022/05/14(土) 21:22:02.62

11.7 にしたらoptix のdirect callがこわれた

**デフォルトの名無しさん** · 2022/06/29(水) 06:55:54.64

今月のIF誌GPUプログラム特集ですなー
AMDも含むけど
最近のIF誌Pythonとラスパイばっかでうんざりしてた

**デフォルトの名無しさん** · 2022/07/03(日) 16:32:19.91

IF誌読んだけど、
中級以上のCUSAプログラマ諸氏にはなんの価値もないです
意識してコーディングするとたちまち複雑化するシェアードメモリになんらかの言及があると思ったのですが、
サンプルプログラムはシェアードメモリで速度かせいでます。
だけでした
そんな解説なら俺でも出来るわ

**246** · 2022/07/03(日) 16:32:51.51

CUSA
じゃなく
CUDAです

**デフォルトの名無しさん** · 2022/07/03(日) 20:29:17.30

>>246
初級の私には役立ちそうですね‥‥ぽち‥‥

**デフォルトの名無しさん** · 2022/07/04(月) 13:18:06.68

と思うなら読んでみればいいよ
Nvidiaのプログラミングガイド以上の情報あったら教えて

**デフォルトの名無しさん** · 2022/07/04(月) 14:20:47.70

>>246
読んでねえしCUDA知らんけど、書くにしても
チャネルコンフリクトを避けるように書きましょう！
たとえばこうやってずれるように・・・
って程度じゃねえかなあ

**デフォルトの名無しさん** · 2022/07/04(月) 14:25:19.24

bank conflictだった

**デフォルトの名無しさん** · 2022/07/05(火) 12:33:18.52

cudaはグラボ2枚差し使えますか？
コンシューマ向きのグラボだとvramが24Gですが
48Gになれば購入したいです。
そもそもvram24Gもってる人でどんな処理をしてるのか
知りたいです。例えば深層学習で〇時間を▽というグラボで
こんだけ時間がかかるとか。
そういうデータがほしいです！
よろしく！

**デフォルトの名無しさん** · 2022/07/05(火) 15:28:47.86

とりあえず立ち読みしてくるわ

**デフォルトの名無しさん** · 2022/07/05(火) 23:08:08.38

>>252
A6000 (48GB) 使ってるけど pix2pix とかやったら画像1000枚でも数日かかるよ。
vgg16 とか mobilenet で数時間の学習が多いけど、画像集めるのに一週間かかる。

**デフォルトの名無しさん** · 2022/08/08(月) 11:00:53.55

積分する関数をCUDAで書こうと思っています
リストのIntegrateのように関数テンプレートにすることで,
通常のC++であれば
呼び出し時に
被積分関数(ここではSinc)として
関数へのポインタでも,
ラムダ式でも
直接関数名を書いてもうまく動作させることができるのですが,
CUDAではうまくいかないようです.
もちろんIntegrateの中で被積分関数を直接記述すれば問題なく動作するのですが,
これだと毎回エディタでIntegrateの修正が必要になってきます.
呼び出し時の引数として被積分関数を与えるにはどーすればいいんでしょうか?

**255** · 2022/08/08(月) 11:01:35.81

プログラムリストです
__global__
void
//__device__
//float
Sinc() {
printf("Ahyahya\n");
//return start;
}

template< typename Functor>
__global__
void
Integrate(Functor func){
func <<<1, 1024>>> ();
//Sinc << <1, 1024 >> > ();
__syncthreads();
}

int
main() {
Integrate <<<1, 1>>> (0, 10, Sinc);
//Sinc << <1, 1024 >> > ();
}

**255** · 2022/08/08(月) 11:59:44.42

main 中
誤 Integrate <<<1, 1>>> (0, 10, Sinc);
正 Integrate <<<1, 1>>> ( Sinc );

プログラムリストのコピペ時 0,10, を消すの忘れてました

**デフォルトの名無しさん** · 2022/08/08(月) 14:22:43.82

すまんが、MacやdGPUのないWindowsノートでコード書けたらいいなと思うんだけどさ
CUDAを扱えるオンラインIDEとかエミュレーターとかなんかないもんなのかな？

**デフォルトの名無しさん** · 2022/08/08(月) 16:23:48.54

>>256
最近CUDA使ってないから間違ってるかもしれんが、__global__がついた関数からは__device__しか呼べなかったきがする。__global__関数から__global__が呼べるかちゃんとマニュアルで確認しよう。

**デフォルトの名無しさん** · 2022/08/08(月) 16:31:00.99

>>258
google colaboratoryのGPUインスタンスで昔ちょっとしたCudaのコードを動かしたことはある。
基本はpythonで動かすことが前提なのでちょっと面倒なことしないとCのコードは動かせなかった。
後有料アカウントしないとGPUインスタンスに制限時間がつくかも。

**デフォルトの名無しさん** · 2022/08/09(火) 09:01:04.67

>>259
いや__global__から__global__を呼ぶことは何も問題ない
>>256のリストにある関数Integrateの中でコメントアウトしてる部分がそれ,
直接呼ぶのは何も問題ないのに, ファンクタとして間接的に呼べないんで困ってる

**デフォルトの名無しさん** · 2022/08/09(火) 09:20:50.28

>>256
AWS

**デフォルトの名無しさん** · 2022/08/09(火) 09:23:37.72

アンカー間違い
>>258
AWS

**デフォルトの名無しさん** · 2022/08/09(火) 13:15:46.68

せんきゅー！
Colaboratoryは怪しいことをしてると警告が出てビビっちゃうし、AWSは高いし、コードを書く時点で契約するには勇気がいるな・・・・

**デフォルトの名無しさん** · 2022/08/09(火) 16:43:54.58

>>264
Linux使うのでもよかったら一万円ぐらいのjetson nano買えばCuda使えるよ

**デフォルトの名無しさん** · 2022/08/12(金) 22:53:57.30

んなもん使うぐらいならふつーにx64でコード書いたほうがよっぽどいい
エンベ用途でもないのに何を好んでわざわざワンボードマイコンで計算せにゃならんのだ

**デフォルトの名無しさん** · 2022/08/13(土) 00:14:35.60

>>266
小さいものを愛でる気持ちがないのかな?
お金が掛からないしGPIO使えるし。
GPUの性能が今売ってるGPUよりかだいぶ低いけど。
普通のPCからクロスコンパイルもできるらしいよ。

**デフォルトの名無しさん** · 2022/08/13(土) 22:01:46.34

文脈から想像するに>>264はCPUよりGPU計算が速いことを期待して
ノートからGPUを使ってみたいんだろうよ
それを単にCUDAが乗ってるだけでx64のマルチコアに遠く及ばないワンボードマイコンごときのGPUを何のためにわざわざ使う必要があるんだ?

組込用途とかでこれまでFPGA起こしたりASIC起こしたりしてた部分で
ワンボードマイコンのGPUが代わることもあるだろう．
実際、産業機械にRasPiをまんま組込む用途も増えてる
しかし、どーかんがえてもそっち系じゃない>>264にワンボードマイコンすすめてどーすんだって話

**デフォルトの名無しさん** · 2022/08/14(日) 11:31:10.95

M5StickV 薦めてる香具師がいた

**264** · 2022/08/14(日) 13:40:06.95

コードを手元で書いて、実際に計算する際は実機を用意するかAWSを借りるつもりでいます
ただコードを書くだけの段階でAWSを借りると負担なので、何かいい方法があればいいなと思った次第です

**デフォルトの名無しさん** · 2022/08/16(火) 22:23:45.49

>>270
https://www.%61mazon.co.jp/dp/B085TH77RT

カードに安いやつかっても10万円コース
AWSなくてもいけるが電気代要るわな
それとThunderboltがボトルネックになることはほぼ確定

**デフォルトの名無しさん** · 2022/08/16(火) 22:44:07.06

sharedメモリは
https://zukaaax.com/archives/530
ここの最後に書いてる

>シェアードメモリを使用しなくても高速にできるようにする方針

これホント?

**デフォルトの名無しさん** · 2022/08/17(水) 01:02:58.66

Dynamic Parallelism で親スレッドと子スレッドの属するブロックを
同一ブロックに属するような指定はできますか?
同一ブロックにして親スレッドが確保したShared Memory を子スレッドからアクセスしたいんだですが．

**デフォルトの名無しさん** · 2022/08/17(水) 01:38:27.72

訂正です
○同一ブロックにして親スレッドが確保したShared Memory を親スレッドからアクセスしたいんですが．

myKernel<<<gridSize, blockSize, nI*sizeof(int))>>>(...);

親スレッドで確保して子スレッドに引き渡すnI*sizeof(int)サイズのshared memoryですが
この領域を親スレッドからアクセスできないんでしょーか?

**273,274** · 2022/08/17(水) 08:15:14.36

事故レスです
そもそも親子スレッド間でグローバルメモリのローカル変数の参照渡しが無理らしい
ローカル変数なんかやめにして、大域変数にして__device__つけろとorz
当然のごとくshared memoryもだめっぽい

C++でUser I/Fを使いやすく仕上げたいと思ってたけど
そーゆーおしゃれなことは
いろんな制限が頭に入っるまでは素直にゴリゴリCで書いてたほうがよさそう

**デフォルトの名無しさん** · 2022/08/27(土) 12:49:33.14

__global__のなかでnew,delete使えるので
もしやと思ってmake_unique使おうとしたらだめだった

**デフォルトの名無しさん** · 2022/08/27(土) 13:08:06.52

make_unique以前にstd::unique_ptrの時点でだめだったわ
cudaMalloc使ったunique_ptrバージョンはネットで公開してる人いるのめっけた
https://proc-cpuinfo.fixstars.com/2019/02/cuda_smart_pointer/

host側からgpuメモリ確保したいならコレでいいけど
__global__の中で使うmalloc,freeはGPUメモリを使うバージョンが正しくリンクされるので
malloc, free使って各関数は__device__指定すれば,
cuda::unique_ptrで正しく使えるのかな?

**デフォルトの名無しさん** · 2022/08/30(火) 17:35:41.58

cudaMallocやcudaFreeってのはホスト側からGPUとのインターフェース用として
プログラムの中で1度呼ぶだけなんだよね
GPUへの初期設定メモリ inmem
GPUの計算結果 outmem
として
ホスト側で
kernel<<<1,1>>>(inmem, outmem);
を立ち上げる際この前後でcudaMalloc, cudaMemcpy, cudaFreeを使うだけ
kernel関数で一旦制御をGP側に移したあと
おもむろにDynamic Parallelism を使ってkernel関数の中からマルチスレッドを起動する方がよっぽど書きやすい
new/deleteは__global__関数のなかで自由に使えるので
cudaMalloc/cudaFreeにuniqu_ptr使えてもあんま有り難みは少ないな

**デフォルトの名無しさん** · 2022/09/01(木) 19:39:29.54

質問です。
cpuは６４コア、gpuは年末のvram48ギガ２つ、メモリはddr5 256g
これ以上は経済的事情により無理ですｗ
vram48ギガ二つで深層学習したいんですけど
どの規模でどのくらいのデータ処理ができますか？
マルチcudaで処理速度はどれくらい高速化できますか？
CUDA Python (Numba) を使用して気象分析の分野で 200,000 倍高速化する
こういう記事がありました。
このようなデータがありましたが２０万倍以上の高速化ってできますか？
きになります。もしグラボがvram48一つと二つで差がなければ
vram一つにしたいと思います。

**デフォルトの名無しさん** · 2022/09/01(木) 20:36:24.07

NVIDIA HGX H100 はどうでしょう？

**デフォルトの名無しさん** · 2022/09/01(木) 20:37:55.19

予算オーバーですｗ

**デフォルトの名無しさん** · 2022/09/01(木) 23:54:48.88

>>279
VRAM48Gもあれば、相当の大きさのモデルでも、バッチサイズある程度取れると思う。
2枚にするなら、NVLINKやったかのボード間通信できるやつやらないと、
同時に使ってバッチサイズ倍にするぜってやつが遅い。
一枚でもいいんでない？って気はする。
何と比較して速くしたいのか分からんけど、3090ti(24GBメモリ)1枚でも普通のモデルなら
ちゃんと学習できる。長いと数日学習に時間がかかるけど。
爆速学習したいなら、クラウドで大富豪するしかないぞ。
具体的に動かしたいモデルとかあるの？

**デフォルトの名無しさん** · 2022/09/02(金) 05:25:23.36

>>282
返信サンキュー！情報ありがとさん！！
気象予測がしたくて（とある記事に２０万倍の高速化と書いてあった）
クラウドいいですね～！
どうしてもpythonのnumbaがやりたくて！
ちなみにpycharmかgoogle coalb pro plusはどちらが良いのでしょうか？

**デフォルトの名無しさん** · 2022/09/04(日) 06:32:34.26

>>254
cudaつかっても１週間もかかるんですか？

**デフォルトの名無しさん** · 2022/09/04(日) 22:01:18.62

気象予測て流体力学だろ
学習とかの前に基礎方程式がわかってるものは
粒子フィルタで検討したほうがいいんじゃないの?
もっぱら線形微分方程式に使われるカルマンフィルタを拡張した
アンサンブルカルマンフィルタで見たことあるけど
今だと線形非線形にかかわらず利用可能な粒子フィルタに頼るほうが簡単だと思うけど

**デフォルトの名無しさん** · 2022/09/05(月) 05:17:33.36

>>285
おすすめのサイトとかありますか？

**デフォルトの名無しさん** · 2022/09/06(火) 12:58:14.35

https://www.sice.jp/
https://www.nagare.or.jp/
https://www.saiensu.co.jp/magazine/

**デフォルトの名無しさん** · 2022/09/06(火) 18:55:48.97

https://www.cradle.co.jp/media/column/a188

**デフォルトの名無しさん** · 2022/09/16(金) 13:59:03.50

RTX 4090 Ti
48GB
GDDR6X
これ買う人いますか？

**デフォルトの名無しさん** · 2022/09/16(金) 20:06:35.06

消費電力によります。

**デフォルトの名無しさん** · 2022/09/22(木) 11:24:00.63

>>289
その辺のが一般化してきたら
albertを使った実装例とかがもっと増えるか
ま、もっと高性能なのがクラウドに多数デプロイされそうだけど

**デフォルトの名無しさん** · 2022/09/23(金) 21:15:50.98

RTX 4090 Tiを複数差せばおもしろそうやん？

**デフォルトの名無しさん** · 2022/09/23(金) 21:24:28.27

600WのTBPで動作すると予想されます。
だそう。つまり3枚差せば1800ｗですね。
つまり電源ユニットを２枚で４０００ワット以上必要ですね。
電源ユニットが３０００ｗとか４０００ｗとかでないのかな？
困るよね。

**デフォルトの名無しさん** · 2022/10/08(土) 13:36:18.12

.cuファイルで何とか普通のメモリと
GPUのVRAMを同居させて使えるなら
容量の大き過ぎる計算でもスピードは落ちるが
普通のCPUだけの時より速く計算できる、

とか出来たらいいんだけど、まず無理なんだろうなあ
(沖電気はそういうのを上手くやったらしいが詳細が分からない)

**デフォルトの名無しさん** · 2022/10/08(土) 13:53:17.87

何を問題視してるのかよくわからんけど
例えばmkl入れるとかじゃ駄目なのか？

**デフォルトの名無しさん** · 2022/10/08(土) 14:37:57.21

>>294
LinuxならUnifiedMemoryでできるな。

**デフォルトの名無しさん** · 2022/10/08(土) 16:09:18.26

>>296
それは凄い！！！

**デフォルトの名無しさん** · 2022/10/09(日) 00:49:49.72

ホスト側のメモリをピンして使うことはできるけど多分そういう用途ではないよなあ

**デフォルトの名無しさん** · 2022/10/09(日) 08:33:30.58

>>294が言ってるのはOversubscriptionだろ。

**デフォルトの名無しさん** · 2022/10/26(水) 02:06:11.16

C#でCUDAを使おうとして悪戦苦闘してようやくこのスレにたどり着いたのだが・・・
GPUで計算した結果をCPUに取り出すには結局どうやったらいいんだ？
検索してもサンプルプログラムはほとんど出てこないし、GPU動かして終わりでその結果を使うやり方が示されてない。
教えろくださいお願いしますだ

**デフォルトの名無しさん** · 2022/10/26(水) 05:14:53.09

CUDAでdll作成してC#に読み込ませる
こんだけ

**デフォルトの名無しさん** · 2022/10/26(水) 10:08:16.86

>>268
C言語で普通にCuda使うときだったら、GPU側にメモリ確保してGPUで計算した結果をそこに書き込む。
GPUでの計算が終わったらGPU側のメモリをCPU側のメモリにコピーするみたいな感じだ。
後unified memoryとかいうのでGPUから直接CPU側のメモリに書き込めるらしい。
C言語だったらCUDA sdkにサンプルコードがたくさん入ってるだけどね。
どういう関数使えばいいかはCUDAのドキュメントをちゃんと読めば見つけられるでしょう。

**デフォルトの名無しさん** · 2022/10/26(水) 10:09:44.08

↑のは>>300への返信です。

**デフォルトの名無しさん** · 2022/10/26(水) 10:49:12.85

ありがとうございます。
昨日はとりあえず↓を参考にして以下のように書き換えてみたんですが、これじゃダメってことですよね？
（textBox1の結果は0のままです）

double temp = 0;
var gpu = Gpu.Default; // GPUインスタンス取得
gpu.For(0, 10, i =>
{
temp = 10;
});
gpu.Synchronize(); // ここで同期する
textBox1.Text = temp.ToString();

Alea GPUライブラリを使ってC#で簡単GPU並列プログラミング ? Crow's eye
https://kzmmtmt.pgw.jp/?p=1170

Alea GPUで簡単C# GPUプログラミング - Qiita
https://qiita.com/y_miyoshi/items/921903e3499abf18abdd

**デフォルトの名無しさん** · 2022/10/26(水) 11:05:33.68

Alea GPUなんて知らなかったな
で、もう使われてなくね？
それでやる必要ある？

**デフォルトの名無しさん** · 2022/10/26(水) 11:15:01.82

GPU使って並列計算できるってのを昨日知った初心者なんで、すいません。
「gpu 並列計算　C#」で検索してもこれしか出てこないんです。

**デフォルトの名無しさん** · 2022/10/26(水) 11:21:28.43

で、あればGPUの使い方、CUDAの使い方を、まず勉強した方が良いのでは？
まだGPUとホストのメモリ間のデータ転送とか、さっぱりわからないよね

**デフォルトの名無しさん** · 2022/10/26(水) 11:45:49.61

cudaは別にコンパイルしてC#から呼べば？このほうが調べやすそう

**デフォルトの名無しさん** · 2022/10/26(水) 12:52:17.28

趣味でやっているだけなので調べてすぐにできればいいと思ったんですよ。
>>304でGPU側で計算した結果を渡すだけなのにそれを乗せてるウェブサイトが見つからないなんて、そんな手間な作業なの？

**デフォルトの名無しさん** · 2022/10/26(水) 13:29:27.83

>>309
cpuとgpuで別々のメモリを見てるんで >>302 のようなことが必要です

**デフォルトの名無しさん** · 2022/10/26(水) 16:16:55.85

CUDA本体はC言語かC++言語で使う前提なのでそれらの言語ならサンプルコードや情報がたくさん見つかるんだけど。
C#からCUDA使うとなるとマイナーなライブラリを使うことになって情報を見つけづらいかもしれない。英語の情報までくまなく調べればそうじゃないのかもしれないが。

**デフォルトの名無しさん** · 2022/10/26(水) 16:57:54.98

C#から使う場合は上にも書いた通り、cuda でdllを作成して
C#からはDllImportで読み込む

**デフォルトの名無しさん** · 2022/10/26(水) 17:35:34.36

そうなんですね。ありがとうございます。
ライブラリが用意されているのでそれでできないのなら何のためのライブラリなのかと素人的には感じてしまいました。

**デフォルトの名無しさん** · 2022/10/26(水) 21:01:13.64

出来ないかどうかはちゃんと調べないとわからないだろう
簡単に出来るかどうかはライブラリは保証しないよ、特にC#とCUDAみたいな組み合わせだったら。
めちゃくちゃ沢山のグルーコードをC++/CLIで書かなきゃいけないのを省略してくれる、ぐらいなもんでCUDAに対する理解なしに使える代物じゃないと思うけどな。

**デフォルトの名無しさん** · 2022/10/26(水) 23:22:43.17

すいません、↓にテストコードが載っていたのでそれを動かしたところ、GPUの計算結果を取り出せました。
お騒がせしました。

Alea GPUで簡単C# GPUプログラミング - Qiita
https://qiita.com/y_miyoshi/items/921903e3499abf18abdd

**デフォルトの名無しさん** · 2022/11/26(土) 11:57:28.57

CUDA初心者です。RTX2060 superでCUDA環境構築したいのですが、どうしてもcuda.is_availableの結果がFalseとなってしまいます。(Nvidiaのドライバ、Python・CUDA・Pytorchのバージョンを新しくしたり古くして見たり、CUDNN入れてもダメでした。)
python -m torch.utils.collect_envで読み込みした現在の環境は下記の通りとなります。Trueとさせる方法がわからず、もう自分では完全に手詰まりとなっておりますので、ご教授頂けますと大変有難いです。

C:\Users\●●●>python -m torch.utils.collect_env
Collecting environment information...
PyTorch version: 1.13.0+cu116
Is debug build: False
CUDA used to build PyTorch: 11.6
ROCM used to build PyTorch: N/A
OS: Microsoft Windows 10 Pro
GCC version: Could not collect
Clang version: Could not collect
CMake version: Could not collect
Libc version: N/A
Python version: 3.9.13 (tags/v3.9.13:6de2ca5, May 17 2022, 16:36:42) [MSC v.1929 64 bit (AMD64)] (64-bit runtime)
Python platform: Windows-10-10.0.19045-SP0
Is CUDA available: False
CUDA runtime version: 11.6.124
CUDA_MODULE_LOADING set to: N/A
GPU models and configuration: GPU 0: NVIDIA GeForce RTX 2060 SUPER
Nvidia driver version: 511.65
cuDNN version: Could not collect
HIP runtime version: N/A
MIOpen runtime version: N/A
Is XNNPACK available: True

Versions of relevant libraries:
[pip3] numpy==1.23.5
[pip3] torch==1.13.0+cu116
[pip3] torchaudio==0.13.0+cu116
[pip3] torchvision==0.14.0+cu116
[conda] Could not collect

**デフォルトの名無しさん** · 2022/11/26(土) 12:10:47.07

pytorchはよく知らんけど
toolkit入れた？
cuda.is_availableてtorchのメッセージだよね？

てな感じで全然情報不足だわな

**デフォルトの名無しさん** · 2022/11/26(土) 12:51:08.87

そうです。Torchのメッセージです。
CUDA　Toolkitなら入れてますね。
現在は11.6.2をインストールしています。

以下コマンドプロンプトの出力結果。

■Nvcc -V で表示される内容
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Tue_Mar__8_18:36:24_Pacific_Standard_Time_2022
Cuda compilation tools, release 11.6, V11.6.124
Build cuda_11.6.r11.6/compiler.31057947_0

■print(torch.__version__)で表示される内容
1.13.0+cu116

■torch.cuda.is_available()で表示される内容
False

過去にcuda_11.3.1とか10.2をツールキットからインストールした事もありますが、それでもダメでした。

**デフォルトの名無しさん** · 2022/11/26(土) 12:53:48.55

まずcudaは動いてるの？
devicequeryとかsampleのプログラムが動くかどうか確認して問題なければ
torch周りの問題かと

**デフォルトの名無しさん** · 2022/11/26(土) 22:03:13.46

ありがとうございます！
サンプル試したことなかったのでやってみました。

https://github.com/NVIDIA/cuda-samples/releases
上記サイトからCUDA Samples v11.6をダウンロードして、VisualStudio2017.slnをビルド
ビルド結果：ビルド: 175 正常終了、11 失敗、0 更新不要、0 スキップ（ただしビルド文書の中にいくつか失敗という文字あり）

deviceQueryをコマンドプロンプトから実行したところ・・・。

cudaGetDeviceCount returned 100
-> no CUDA-capable device is detected
Result = FAIL

という結果だったので、CUDA対応デバイスが検出されていないようです・・・。

**デフォルトの名無しさん** · 2022/11/26(土) 22:06:59.94

あっ、ビルド結果、11個失敗しているって意味なんですね・・・。

**デフォルトの名無しさん** · 2022/11/26(土) 23:52:01.01

GPUがちゃんと刺さって無いとか、電源不足とかドライバがちゃんとインストールされてないとか。

**デフォルトの名無しさん** · 2022/11/28(月) 08:14:28.58

ん～、GPU自体は認識されてるみたいなんですよね。
GPU-Zで調べてみたらCUDAのところチェック外れてたので、やはりCUDAは認識されていないみたいです。
https://gpuz.techpowerup.com/22/11/27/e6p.png

現在の電源は550Wなのですが、もうちょっと大きい容量のに変えてみて、それでダメならやはりドライバが合っていないという事でしょうか・・・。

**デフォルトの名無しさん** · 2022/11/28(月) 08:33:47.92

gpu-zはハードウェア情報なのでcudaのチェックが外れてるって
何かがかなりおかしい

20年前のgeforceなら分からんでもないがRTXなら
偽物をつかまされたか、ハードウェア故障を疑った方が良い気がする

**デフォルトの名無しさん** · 2022/11/28(月) 08:52:47.95

まずはsystem32にnvcuda.dll があるかどうか確認するかな

**デフォルトの名無しさん** · 2022/11/28(月) 12:53:30.32

316です。
Sytem32にnvcuda.dll入ってました。

やはりハードウェアの故障でしょうか？　（今のGPUは約2年前にドスパラで買いました）
とりあえず電源ユニット注文しちゃったんで、電源交換＆GPUも付け直してみて、それでダメだったら新しいGPU購入ですかね(T_T)

**デフォルトの名無しさん** · 2022/12/02(金) 20:33:45.27

グラボを3060TIに変えてみましたが、それでもGPU-ZでCUDAにチェックが入っていませんでした・・・。

**デフォルトの名無しさん** · 2022/12/02(金) 20:51:14.24

あとはマザボかね～？？？

**デフォルトの名無しさん** · 2022/12/02(金) 20:53:44.01

差す穴変えてみた？

**デフォルトの名無しさん** · 2022/12/02(金) 21:26:41.40

12V繋いでないってことはないよな

**デフォルトの名無しさん** · 2022/12/02(金) 22:03:05.09

>>326
Linuxでも入れて確認してみたら？

**デフォルトの名無しさん** · 2022/12/02(金) 22:11:35.41

接続するPCIEスロットも変えてみましたが・・・ダメでした。
グラボ上部にある補助電源？用のケーブルはちゃんと繋いでるはずなのですが、他に必要な接続とかあるんでしょうか？

現状のGPU-Zでの結果
https://gpuz.techpowerup.com/22/12/02/pn6.png

**デフォルトの名無しさん** · 2022/12/03(土) 06:08:21.14

OpenGL, DirectX, vulkanとかのグラフィッ関係のAPIを使ったプログラムやゲームも動かないの?
本当にハードウェア関係に問題があるんならそういうプログラムも動かないだろうけど。

**デフォルトの名無しさん** · 2022/12/03(土) 12:15:17.56

他のGPU全部殺してドライバアンインストール
3060Tiのドライバ入れなおせ

**デフォルトの名無しさん** · 2022/12/03(土) 12:19:52.15

別のドライブにOSクリーンインストールしてみれば

**デフォルトの名無しさん** · 2022/12/04(日) 11:39:28.03

>>329

**デフォルトの名無しさん** · 2022/12/06(火) 21:28:34.09

316です。
思い切ってCドライブ初期化してみたらCUDA認識されました。
皆さんありがとうございました。

**デフォルトの名無しさん** · 2022/12/06(火) 22:09:54.37

経験上、一番難しいと感じたのはpython
listとかタプルとかデータ型が沢山あってこの変換がやたら発生
pandaとnumpyでも型が違うとか

torchは経験ないけどtensorflowは理屈が分かればそれほど難しくないと思う

**デフォルトの名無しさん** · 2022/12/07(水) 02:07:47.36

>>338
普通にC++の方が難しいと思うけど、どんな言語を試した経験上なの？

**デフォルトの名無しさん** · 2022/12/07(水) 06:20:47.46

もしかしてCUDAでC++を覚えようとしてるの？
CUDAはCの知識でもできるけどCは？

**デフォルトの名無しさん** · 2022/12/07(水) 13:28:40.27

C++は変態過ぎて
経験豊富ならべつにC++かまわんが
経験無いならCからやった方が良い

**デフォルトの名無しさん** · 2022/12/07(水) 17:47:48.05

>>341
Cは便利じゃないけど、確実だよね。マイコンとかでC++を使うのは、開発時間が十分に取れるなら(慣れてるなら)いいけど、処理系の変な制限にハマりそうで怖くて使えないわ。

**デフォルトの名無しさん** · 2022/12/23(金) 20:34:26.37

処理系の変な制限て何？

**デフォルトの名無しさん** · 2022/12/23(金) 20:38:43.13

小規模マイコンでもC++は便利だぞ

**デフォルトの名無しさん** · 2022/12/27(火) 00:37:40.45

>>343
お気持ちC++実装でフル規格満たしてないとか普通にある。調べるのが手間すぎる。

**デフォルトの名無しさん** · 2022/12/27(火) 04:54:17.83

フル規格を満たしてない事が普通にあるのはCも同じ
恐くて使えないのは経験が少ないからだな

**デフォルトの名無しさん** · 2022/12/27(火) 13:10:12.33

MSVCで作っておけば大体オッケー
g++依存は死ぬ

**デフォルトの名無しさん** · 2022/12/28(水) 21:30:57.66

今時C++で開発してる会社あるのかな？

**デフォルトの名無しさん** · 2022/12/28(水) 21:33:16.19

当然
高速処理が要求されるようなところはC/C++だよ

**デフォルトの名無しさん** · 2023/01/14(土) 11:12:05.67

質問です。
cudaの9.0バージョンで
nvcc -V
このようなことをうっても、一切反応しないです。
誰か教えてえらいひとーー！

**デフォルトの名無しさん** · 2023/01/14(土) 11:36:54.44

＞＞一切反応しないです

もう少し具体的に

**デフォルトの名無しさん** · 2023/01/14(土) 13:28:49.96

無修正を観ても、一切反応しないです。
誰か教えてえろいひとーー！

**デフォルトの名無しさん** · 2023/01/23(月) 20:21:43.20

NVIDIA HPC SDK使ってる人いる？
windows版がないんだけどそのうちサポートされるんかね？

**デフォルトの名無しさん** · 2023/01/23(月) 20:47:20.55

HPC SDKになった2020年にはWindows版は翌年公開予定と言っていたけど，
その記載もなくなったし永遠に出ない可能性が高いと思われる

当時とは違ってCUDA on WSL2でHPC SDKも使えるようになったから
Windows需要もそこで解消されるし

**デフォルトの名無しさん** · 2023/01/25(水) 11:08:54.16

>>354
詳しい人降臨ｷﾀｰ
旧PGIのユーザはほぼLinuxばっかだったようだしWindowsは見捨てられたのかと思ったけど必ずしもそうじゃないのかな
WSLで本当に性能出るの？ってのは気にはなるけど
ありがとうございました

**デフォルトの名無しさん** · 2023/03/05(日) 20:30:51.25

てst

**デフォルトの名無しさん** · 2023/03/05(日) 21:06:34.13

亀レス
>>348
あるっしょ
いくらでも,
このまえいびられて死んだ三菱電機の社員は電気系でも物性系の修士出てるのに
会社に入ってC++まともに書けなくて死んだ
物性選んだ時点でプログラム苦手なのにいきなりC売り物用のC++コード書け,
しかも,意地の悪い上司が適当なサンプルコードも見せてくれなきゃ死にたくなるかもな

**デフォルトの名無しさん** · 2023/05/14(日) 05:25:29.03

test

**デフォルトの名無しさん** · 2023/05/14(日) 06:02:02.90

おまえら教えろください
cudaDeviceSynchronizeが将来サポート打ち切りになることが決定し,
CUDA 12では既にオプションを指定しないとコンパイルできなくなっています.
これの代替APIは何でしょうか?
__global__関数内での待ち合わせ処理はどうすればいいのでしょう?

例
グローバルメモリに1M(1kx1k)の数値データがあります.そこから最大値を検索したい.

プログラムとしては
1Mデータを1kごとにグループ分割します.合計1k個のグループができます.
1つのグループを1つのスレッドに割り当て最大値を検索します. 当然スレッド数も1k個立ち上げます.
各スレッドは割り当てられたグループの1k個の中から最大値を検索し,見つけた値をシェアードメモリに書き込みます.
シェアードメモリもスレッド数と同じ1k個の配列から成リ, 各スレッドIDに紐づけされたアドレスに書き込みます.
例えばシェアードメモリを配列submaxとしたとき,
submax[threadIDx.x] = each_group_max;
みたいな感じです.

このとき各スレッドの書き込み完了を待ち合わせるのにcudaDeviceSynchronizeを使います.
書き込み完了後, 特定スレッドIDをもつスレッド(例えばthreadIDx.x==0)だけが1k個のsubmax中の最大値を検索することで
1M個データの最大値が決まります
これですとatomic関数を一切使わず高速処理が可能となります

**デフォルトの名無しさん** · 2023/05/14(日) 06:21:14.34

Dynamic parallelismでも使える実行時間測定関数でも
キャプチャ直前にcudaDeviceSynchronize();をコールしています

__device__
long long int
CaptureTimer() noexcept {
auto timer = (long long int)0; //コンパイラが文句いうので初期化しました
cudaDeviceSynchronize();
asm volatile("mov.u64 %0, %globaltimer;" : "=l"(timer));

return timer;
}

cudaStreamSynchronize()じゃ__global__でコールできないので駄目なんですよ

**デフォルトの名無しさん** · 2023/05/28(日) 07:37:34.81

何もレスないけど
cudaDeviceSynchronize なくても困らないコード書いてるの?
shared memory使うときどーしても使うと思うんだがこのAPI

**デフォルトの名無しさん** · 2023/05/30(火) 17:45:24.83

ふつうは __syncthreads() 使うなあ。
というかカーネル内から全スレッド同期出来たとは知らなかった。
やっぱりいろいろ無理があったから廃止になったんじゃね？

**デフォルトの名無しさん** · 2023/06/01(木) 19:34:35.47

カーネルの実行完了を待つ関数をカーネル内から呼び出せるのはおかしいだろ

**デフォルトの名無しさん** · 2023/06/02(金) 21:14:34.84

>>362
>>363
お前らマジでレベル低いわ
シェアードメモリとかまったく使いこなせてないだろ
シェアードメモリってのはブロック内スレッドでのみ共通のメモリ
カーネル関数内で待ち合わせ処理できずにどうやって使うんだこんなもん

**デフォルトの名無しさん** · 2023/06/02(金) 21:16:18.40

>>363にいたってはCUDA Dynamic Parallelizmすら理解してない

**デフォルトの名無しさん** · 2023/06/02(金) 21:29:40.49

>>362
ふつうは?
__syncthreads()自体とっくに廃止されてそのかわりのcudaDeviceSynchronize()だろ

**デフォルトの名無しさん** · 2023/06/02(金) 21:32:58.33

>>362
CUDA Runtime API rev.1 をみても __syncthreadsなんて載ってないんだが,
どこに載ってるか教えてくれ

**デフォルトの名無しさん** · 2023/06/02(金) 22:14:21.99

>>362
https://docs.nvidia.com/cuda/pdf/CUDA_Runtime_API.pdf
↑から最新のAPIマニュアルをダウソして検索したが __syncthreadsなんてものは存在しない
お前の書いたコードが最新のcuda 12.1.1コンパイラで使えるかどうか確認してみろ
とっくにサポートが打ち切られたAPIを使うと嘯吹いてただけじゃねーのか?
お前はとんでもなく長い間cudaコードを書いてなかったんじゃないのか?

**デフォルトの名無しさん** · 2023/06/02(金) 23:26:41.73

カーネルからRuntime API使うのがそもそも違和感あるんだがイマドキのCUDAはそういうものなんか？

**デフォルトの名無しさん** · 2023/06/02(金) 23:38:04.08

>>366
同期する範囲がぜんぜん違ぇだろうが

**デフォルトの名無しさん** · 2023/06/03(土) 01:32:33.61

submit済みカーネルが2並列同じキューで動いていて、両方が完了待ちしたらデッドロック起こすなｗｗｗ

**デフォルトの名無しさん** · 2023/06/03(土) 10:34:44.84

プログラムわかってないやつがいきなりの攻撃性を発揮するのガイジっぽくていいね

**デフォルトの名無しさん** · 2023/06/03(土) 16:01:42.94

>>368
ランタイムAPIｗｗｗｗ
こっち見とけ
https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html

**デフォルトの名無しさん** · 2023/06/10(土) 08:16:47.35

cudaDeviceSynchronizeはこんなときに使う. Ki=1024, Mi = Ki*Ki, Gi = Ki*Miとでもして
__global__ void
cuda_main(){
　double *idata = new [Mi]; 　double *odata1 = new [Mi]; 　double *odata2 = new [Mi];

　body1<<< Ki, Ki >>> ( idata, odata1 ); //マルチスレッド実体
　cudaDeviceSynchronize();
　body2<<< Ki, Ki >>> ( odata1, odara2 ); //マルチスレッド実体
　cudaDeviceSynchronize();　
　for( int i = 0; i < Mi; i++ ){
　　cudaDeviceSynchronize(); // *** こいつは毎回要ったと思う
　　printf(" %d %e\n", i, odata2[i]); //計算結果表示
　}
　cudaDeviceSynchronize(); // 上の***だけでこいつはなくても構わなかったと思う

　delete[] odata2; 　delete[] odata1; 　delete[] idata;
}

main(){
　//cuda 内newで確保するメモリが8MBを超える場合は設定要
　cudaDeviceSetLimit(cudaLimitMallocHeapSize, size_t(Gi + Gi));
　//printf fifoを16Miにしてみた
　cudaDeviceSetLimit(cudaLimitPrintfFifoSize, 16 * Mi);　
　
　cuda_main<<<1、1>>>();
}

**デフォルトの名無しさん** · 2023/06/10(土) 08:17:55.93

つづき
ホスト側からcuda用のエントリポイント cuda_main()を一つ起動して
そこで計算に必要なgpuメモリをnew/mallocで確保
delete/freeもしくはデストラクタでメモリ解放してほとんどふつーのC++プログラム作成
エントリポイントとなるcuda_mainスレッドを一つ起動するだけでほぼgpu側だけで閉じたふつーのc++コードになる

gpuが計算した結果をどー出力するか?ってのはあるんだが、
__global__関数内のprintfが標準出力にちゃーんと出力してくれる
つまり、リダイレクトでファイルに落とせる
コマンドラインから
> cuda_program.exe >> file.dat
て感じ

**デフォルトの名無しさん** · 2023/06/10(土) 08:20:34.56

つづき
こういうコードスタイルにすることでcudamallocで確保するgpuメモリはホスト<->gpuのインターフェースに使う最低限のメモリに限定することができて
コーディングが格段に楽になるほぼふつーのC++プログラムと変わらん

この書き方で問題なのは__global__内でunique_ptrが使えないことなんだが、
数値計算でunique_ptr使えなくて困る場合ってどんな場合か逆に聞きたいわ.
それより
ホスト側でgpu内部処理にしか使わないメモリまで確保して、そいつをcuda::unique_ptrなんか作って管理するよりよほど楽だと思うが?
こういうのはディレクトリの外からディレクトリ操作するのに似た感覚でとても耐えられんし、
cuda Dynamic Parallelismと__global__関数内でnew/deleteを書けるようになってるお陰でふつーのC++コードが書けるようになってるんだわ.

んで肝心の cudaDeviceSynchronize() だが
マルチスレッド実態は body1、 body2だがbody2の実行と計算結果odata2の表示はbody1とbody2の計算完了が前提としてる
それらの待ち合わせ処理としてを使うんだが、
ここで cudaDeviceSynchronize() がないと dynamic Parallelismがあっても上のようなコードは書けない

**デフォルトの名無しさん** · 2023/06/10(土) 10:12:15.01

>>374
同じstream使ってんのにいちいちそんなところで同期してたら効率悪くね？

**デフォルトの名無しさん** · 2023/06/10(土) 11:53:19.12

まだやってたのかよw>>359