【NVENC/VCE】ハードウェアエンコーダーを語るスレ【QSV】

**名無しさん＠編集中** (ﾜｯﾁｮｲ 4381-Xflc) · 2018/08/08(水) 04:44:09.82

ソフトウェアエンコーダーに画質は劣るものの、エンコード完了までの処理速度が爆速なハードウェアエンコーダーを語りましょう

●Intel
・https://software.intel.com/en-us/media-sdk
・https://en.wikipedia.org/wiki/Intel_Quick_Sync_Video

●NVIDIA
・https://developer.nvidia.com/nvidia-video-codec-sdk
・エンコード： https://en.wikipedia.org/wiki/Nvidia_NVENC
・デコード： https://en.wikipedia.org/wiki/Nvidia_PureVideo

●AMD
・https://github.com/GPUOpen-LibrariesAndSDKs/AMF
・エンコード： https://en.wikipedia.org/wiki/Video_Coding_Engine
・デコード： https://en.wikipedia.org/wiki/Unified_Video_Decoder

VIPQ2_EXTDAT: checked:vvvvv:1000:512:----: EXT was configured

**名無しさん＠編集中** (ﾜｯﾁｮｲ 4381-Xflc) · 2018/08/08(水) 04:53:50.54

**名無しさん＠編集中** (ｽﾌﾟｯｯ Sd1f-48Sy) · 2018/08/08(水) 05:04:32.81

QSVスレとかに筋通してるのか？

2018/08/08(水) 08:58:16.68

>>21
((((；ﾟДﾟ)))))))

2018/08/08(水) 12:45:44.53

>>21
どこの組の方ですかage？

2018/08/08(水) 12:57:33.55

婬手瑠組です

2018/08/08(水) 13:02:01.81

nvencはyuv420エンコ出来るようにして欲しい

2018/08/08(水) 13:21:07.59

多分に既存スレと重複するスレ立てするなら、統合持ちかけるなり勧誘するなりして既存スレの次スレのタイミングで立てるなりしないと、ニッチな内容のスレほど書き込み分散して過疎化で共倒れしたりもする
内容の重複するスレは、後から立てる方がそういう手間をするのが2ch時代からの流儀
関連スレのリンクも無いから、そういうスレが有るかのチェックもせずに立てた様にしか見えないから指摘したまで

2018/08/08(水) 13:21:55.85

>>25
出来るだろ

2018/08/08(水) 13:43:59.77

え、QSVスレってあるの？

2018/08/08(水) 13:59:25.41

何年も前から有るってのｗ
そして論議も無くQSVスレにコッチのアドレスいきなり放り込んで向こうでも怒られてる始末

当たり前だわな

2018/08/08(水) 14:49:04.74

yuv420p10の事

2018/08/08(水) 14:56:48.91

>>30
ワロタ
そんな省略されても誰も分からんわw

2018/08/08(水) 14:59:23.11

経験者なら分かると思ったから

2018/08/08(水) 16:38:58.83

君の経験が浅いのはよくわかった

2018/08/08(水) 16:42:03.50

p010にしかならないでしょ？

2018/08/08(水) 18:45:29.51

　
次世代ビデオコーデックスレのために作ったテンプレが丸パクリされたでござる・・・。

まぁそれはいいんだけど、QSVスレは既にあるんだからQSVを除くか、
せめて関連スレにQSVスレ入れるくらいはすればいいのに。

　　【Intel】 Quick Sync Video Part.7 【QSV】
　　https://mevius.5ch.net/test/read.cgi/avi/1486130737/

2018/08/08(水) 18:52:06.58

>>34
マジレスする前に聞いておきたいんだけど、何を見てどう考えて「p010にしかならない」と判断したの？

2018/08/08(水) 19:05:59.05

どこかにそう解説してたページがあったから
単純にHDRのメタデータ埋め込んでも再生出来なかったから調べたんだけど
マジレスに期待してる
ご教示頂きたい

2018/08/08(水) 19:06:56.32

使ってるのはgtx1060

2018/08/08(水) 19:23:36.65

10bitエンコはNVEncで普通にできるでしょ
-c hevc --profile main10
これでエンコしまくってるよ

2018/08/08(水) 19:33:32.54

いやそういう事じゃなくて

2018/08/08(水) 19:36:29.65

どういうこと？ｗ

2018/08/08(水) 19:46:15.91

>>34
あ、これ見落としてた
>>37
俺も君がどう勘違いしたのかには興味があるから、是非その解説ページを教えてくれ

2018/08/08(水) 19:50:39.96

勘違いなの？
>>39でエンコした結果p010にしかなってないんじゃないのかな

2018/08/08(水) 19:53:04.54

あ、ブックマークつけてないからもうどこだったか分からない
申し訳ない

2018/08/08(水) 19:54:38.06

>>43
p010は無圧縮10bitYUV420データのメモリレイアウトの名前
圧縮されたデータとは関係ない

2018/08/08(水) 19:58:52.99

>>37
URLが無いとわからんが、多分解説ページの意味をお前さんが理解できなかったかだけだろう・・・。

　yuv420p10 ：（一般的には）10bit深度のYUV4:2:0形式のこと。

　p010　　　　： 10bit深度のYUV4:2:0形式のデータフォーマット（Y/U/Vの並べ方も含めた規定）の１つ。P010でググれ。

「形式」と「データフォーマット」を混同してる時点で根本的に勘違いしていることがわかる。

>>39が書いてるとおり、NVEncのH.265で10bit4:2:0のエンコードはできる。
H.265の圧縮データをデコードしてYUVに戻す時にP010というデータフォーマットにするのか、
別のデータフォーマットにするのかはデコーダとかの設定次第。

ついでに言うと、10bit深度であっても、HDRであるとは限らないので、
なんでHDRのメタデータを埋め込むなんて話が出てきたのかもよくわからない。

思い込みでソフトのバグや問題だと決めつけるのは初心者にありがちなことだけど、
何をどうやってエンコしてどういうもので再生しようとして再生できなかったのかなど、
ちゃんと詳細を書いて質問したほうがいいと思うよ。

2018/08/08(水) 20:04:25.57

というかスレ立てた人とワッチョイが酷似してることに気づいたけど、同じ人なんだろうか。
もしかしてこの質問をしたいだけでスレ立てたのか・・・？

2018/08/08(水) 20:59:42.02

要は昨今多い内輪以外にもいきなり主語省略で話し出す手合いか
そりゃ思慮に欠けてる書き込みしか出来ないわな

そもそもnvencは低レイテンシの映像配信用のエンコードエンジンだから、根本的に圧縮コーデックで出力する事しか考えられていない
あくまでそういう用途のハードウェアエンコーダを転用して利用しているだけなんだし
既に3.5世代目になってもその路線崩さないから、今後も望み薄
単なる色空間的な変換とかそういう用途に使いたいなら、他を当たるかソフトウェアでやれと

2018/08/08(水) 21:20:31.26

結局のところ何がしたかったのかわからない

**名無しさん＠編集中** (ﾜｯﾁｮｲ de81-2km2) · 2018/08/09(木) 18:26:38.09

普通にQSVは向こうでNVENCとAMD VCEはこのスレでやればええんちゃうん

**名無しさん＠編集中** (ﾜｯﾁｮｲ 9e24-6lKl) · 2018/08/09(木) 18:45:06.69

スパーズはどこでやればいいですか

2018/08/09(木) 18:50:13.92

QSVについては専用スレがあるので、込み入った話はこちらへ　とかでテンプレにURL張って、むこうにもその旨書き込んでおけば良かっただけんだけど
関連スレの有無も確認せず、この手のスレの立ち上げに必要な諸情報も簡便なのすら無いからな

**名無しさん＠編集中** (ｽｯｯﾌﾟ Sdea-wXaL) · 2018/08/10(金) 16:02:36.68

どこかのスレにテンプレ丸々コピーされたとか書いてあったなw
元はどこなんだろ

**名無しさん＠編集中** (ﾜｯﾁｮｲ cbec-2km2) · 2018/08/10(金) 17:20:17.03

>>53
>>35
次世代ビデオコーデック総合スレPart2 【HEVC/VP9/AV1/VVC等】
https://mevius.5ch.net/test/read.cgi/avi/1532001049/

**名無しさん＠編集中** (ﾜｯﾁｮｲ 6fc3-2km2) · 2018/08/15(水) 22:41:07.00

俺今までNVEncはCRFモードをサポートしていないと思っていたけど、
--vbr-qualityを設定すれば良かったんだな
知らなくてずっとビットレート設定してた・・・

**名無しさん＠編集中** (ﾜｯﾁｮｲ 0f81-ipLS) · 2018/08/17(金) 13:45:54.50

GUIに毒されすぎやな

**名無しさん＠編集中** (ｱｳｰｲﾓ MM4f-3Idw) · 2018/08/17(金) 15:24:09.61

CUIに飼いならされた犬よりはマシ

**名無しさん＠編集中** (ﾜｯﾁｮｲ ef76-ipLS) · 2018/08/18(土) 23:28:41.45

>>55
> --vbrhq 0 --vbr-quality 32
この使い方は知らなかった

**名無しさん＠編集中** (ﾜｯﾁｮｲ fbe3-im8x) · 2018/08/21(火) 07:15:14.35

Deploy an 8K HEVC pipeline using Amazon EC2 P3 instances with AWS Batch
https://aws.amazon.com/jp/blogs/compute/deploy-an-8k-hevc-pipeline-using-amazon-ec2-p3-instances-with-aws-batch/

2018/08/22(水) 02:33:39.49

一体いくらかかるんだろうw

MSのAzureにも似たサービスあるけど、あっちはMS独自のエンコーダーだったかな

**名無しさん＠編集中** (ﾜｯﾁｮｲ 9f41-ipLS) · 2018/08/22(水) 07:55:19.18

https://www.anandtech.com/show/13249/nvidia-announces-geforce-rtx-20-series-rtx-2080-ti-2080-2070

**名無しさん＠編集中** (ﾜｯﾁｮｲ 9f41-ipLS) · 2018/08/22(水) 07:56:33.50

ビデオエンコーダブロックNVENCはTuring用に更新されています。
NVENCの最新の反復では、特に8K HEVCエンコーディングのサポートが追加されています。
一方、NVIDIAはエンコーダの品質をさらに向上させることができ、これまでと同様の品質を25％低いビデオビットレートで達成することができます。

NEVCでB-FRAME使えるのかな??

2018/08/22(水) 12:30:51.90

いつも思うけどハードエンコの開発元はPSNRなりのデータ出して欲しいね
ソフトウェアならデータ出してるとこ多いのに

2018/08/22(水) 14:06:24.68

狙い目はRTX2080か

2018/08/23(木) 07:31:13.62

Pascal世代でもマクロブロックの捜査処理部の性能向上だけでHEVCの画質上げてたからな
Maxwellで同じプロセスルールのまま動作クロックとワットパフォーマンスをKeplerから馬鹿みたいに向上させてみたり
地味にnvidiaの回路設計技術は変態の域

2018/08/23(木) 11:45:58.09

NVIDIAはBフレを軽視しすぎている
というか規格に対する準拠意識が低い
今回発表のチューリングで、そのあたりがどこまで改善されるのか

**名無しさん＠編集中** (ｽｯﾌﾟ Sdea-k1/v) · 2018/08/23(木) 12:12:20.69

HWエンコでBフレ有りだと明らかに劣化する上、速度が遅いから要らんな
永久保存したいならSWエンコしなさいよ

2018/08/23(木) 12:55:31.52

そんなもん、エンコーダーの出来が糞なだけだ
「Bフレを有効にする=画質劣化」ではない

2018/08/23(木) 16:35:20.50

Bフレ有りHWエンコが糞な事に変わりなし

2018/08/23(木) 17:23:49.57

>>68
規格的にBフレ使用義務なんて無いが？
規格準拠とか言いつつ糞も理解してないだろ

2018/08/23(木) 17:24:53.98

追加して汚くなるって何なんだよ……ｗ

**名無しさん＠編集中** (JP 0Hfe-wF79) · 2018/08/23(木) 18:25:40.40

>>69
現状の実装だけみてハードウェアエンコーダは汚いと言い切るのは、さすがにどうかしている
実装次第だからな
ソフトウェアであっても実装がクソなエンコーダならば汚いことに変わりはない
ハードウェアかソフトウェアかだけで語るのは無意味

**名無しさん＠編集中** (ｽｯﾌﾟ Sd0a-k1/v) · 2018/08/23(木) 18:56:03.23

>>72
現状の実装以外に何を語るの？未来人なの？
1人だけ勝手にSWエンコ時もBフレが汚い話に捉えてるけど、おまえ以外はHWエンコ時の話しかしてないよ

2018/08/23(木) 19:30:18.06

敵は常に一人タイプか…

**名無しさん＠編集中** (ﾜｯﾁｮｲ fdec-PcWx) · 2018/08/23(木) 19:55:59.68

少なくともQSVのH.264(LA-ICQ)でエンコしてSSIMやVMAFで評価した場合は、
BフレームとBピラミッド無し(--bframes 0)にすると、かなり酷いレベルで圧縮効率が低下するんだけどな。
（ちなみにデフォルトだと--brframes 3 --b-pyramid）

　QSV-H.264-LAICQ_Bフレーム有無の差
　http://2sen.dip.jp/cgi-bin/upgun/up2/source/up3501.jpg

>>67や>>69のように「BフレありのHWエンコは劣化が酷い」みたいに言ってる人は、
どのHWエンコーダのどのコーデックで、どのように評価してそう言ってるんだろ？

他にBフレームが使えるHWエンコというと、
　・QSVのH.265
　・NVEncのH.264
　・VCEのH.264 （Polarisより古いハードのみ？)
のいずれかだが・・・。

2018/08/25(土) 08:51:46.65

どーせアニメだろｗ

**名無しさん＠編集中** (ｽﾌﾟｯｯ Sdea-k1/v) · 2018/08/25(土) 10:37:27.22

圧縮効率が何で画質の悪さと関係あるんだよ
映像見て語れよ

**名無しさん＠編集中** (ﾜｯﾁｮｲ b9ec-PcWx) · 2018/08/25(土) 11:10:16.68

>>76
面倒くさい奴だな・・・。
一応crowd_runでも調べてやったけど、Bフレ無しだと圧縮効率が下がることに変わりはないぞ。

　QSV-H.264-LAICQ_Bフレーム有無の差_crowd_run
　http://2sen.dip.jp/cgi-bin/upgun/up2/source/up3502.jpg
　ソース： https://media.xiph.org/video/derf/

>>77
もしかして圧縮効率を考えずに「画質が悪い」とか言ってるのか・・・？
「Bフレありの1Mbps」と「Bフレ無しの5Mbps」みたいに
ビットレートが異なるファイルを比べて「Bフレ無しの方が綺麗」とか言ってるんじゃないだろうな・・・。
それとも「Bフレーム有効にするといくらビットレートを上げても糞汚いHWエンコーダがある」とでも言いたいのか？

>>75での疑問にも何も答えてないし、何が言いたいのかよくわからん。

**名無しさん＠編集中** (ｽﾌﾟｯｯ Sdea-k1/v) · 2018/08/25(土) 12:19:30.24

何で同じビットレートで比べないの？アホなの？

**名無しさん＠編集中** (ﾜｯﾁｮｲ b9ec-PcWx) · 2018/08/25(土) 12:54:51.04

>>79
最低限の情報も出さず、まともな説明もしないお前の方がアホだと思うが・・・。

もしかしてグラフの意味を理解できてないのか？
同じビットレートで比較したいなら、同一ビットレートでのSSIMの値を見て比較すればいいだけなんだが。

SSIMでの客観評価じゃなく、同一ビットレートでの主観評価をしろってことなら、俺はそこまでやる気はないんで
「Bフレ有効だと画質が悪い」と主張するお前がテストして、その結果を示せばいいと思うけど。

それ以前に

　　・どのようなソースを
　　・どのHWエンコーダの
　　・どのコーデックで
　　・どのような条件でどのように評価した結果、Bフレありだと画質が悪いと主張しているのか

をちゃんと書いたほうがいいと思うけどね。そういった情報も無しにただ喚かれても、話にならんだろ。

**名無しさん＠編集中** (ｽﾌﾟｯｯ Sdea-k1/v) · 2018/08/25(土) 13:04:32.35

やる気ないってwww
エンコしてるならその映像見てグラフと一緒に示せば完全論破でドヤ顔出来るのに、しないのが証拠だろ？

**名無しさん＠編集中** (ｱｳｰｲﾓ MMa1-0Goq) · 2018/08/25(土) 13:40:40.56

頭悪…

**名無しさん＠編集中** (ﾜｯﾁｮｲ b9ec-PcWx) · 2018/08/25(土) 13:54:05.89

最低限の情報すら頑なに出さないアホの探偵ごっこか・・・。
目の前にある事実を無視して、わざわざ遠くにある迷宮に入りにいって帰ってこないタイプなんだろうな・・・。

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 14:10:51.00

いや、単純にSSIMやグラフの見方が分からないだけだと思う・・・

**名無しさん＠編集中** (ｽﾌﾟｯｯ Sdea-k1/v) · 2018/08/25(土) 14:35:44.36

>>83=84
とうとう自演しやがったwww
全角の使い方でバレバレ

**名無しさん＠編集中** (ﾜｯﾁｮｲ ddeb-MHz5) · 2018/08/25(土) 15:36:05.17

>>83-84
ﾜｯﾁｮｲ b9ec-PcWx
ﾜｯﾁｮｲ 29c3-PcWx

くっさｗｗ

**名無しさん＠編集中** (ﾜｯﾁｮｲ 6ad2-MHz5) · 2018/08/25(土) 16:35:38.35

ワッチョイの下4桁はUserAgentで決まるから被ってもおかしくないはず
PcWxはMonazilla/1.00 JaneStyle/4.00 Windows/10.0.17134らしいから利用者も多いだろうし

**名無しさん＠編集中** (ﾜｯﾁｮｲ ddeb-MHz5) · 2018/08/25(土) 16:43:08.51

たまたまこんな過疎スレで全角もワッチョイも被って
たまたまレスが並ぶなんて珍しい事が起きたんだね
なるほど～

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 17:00:29.06

JaneStyle使ってるだけで同じ人扱いされるとは・・・俺はずっと↓このIDだから
http://hissi.org/read.php/avi/20180825/RG92RG4vWWEw.html
>>88
君はもう少し勉強してからレスしような

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 17:35:59.42

NVEncの固定品質(>>58)試してるんだけど、どうもコレ内部では
ビットレート指定VBRと全く同じモードで動いてるっぽい
（少なくともGTX1060では）

ビットレート指定VBRと画質が全然変わらなかった

実写、アニメ、前半実写で後半アニメの3つくらいでエンコしてSSIM測って
SSIM-ビットレートをプロットしたら全部同じ線上に並んでしまった

という訳で今の所使う意味なさそう
次のTuringでは良くなるのかなぁ

2018/08/25(土) 17:36:37.74

んなもんソースによる、一概な答えしか容認出来ない馬鹿は頬っておけ

2018/08/25(土) 17:43:46.29

Turingの方はTensorコア使ったポストエフェクトとか超解像の方がトピックかもしれん
SDKから機能的にどう触れるかはまだ解らんけども、描画フレームにms単位の処理時間で適用出来る変態仕様みたいなんで
デコードされたフレームデータにも使えたらフィルタ処理系で色々面白い事出来るかも

**名無しさん＠編集中** (ﾜｯﾁｮｲ dd11-PcWx) · 2018/08/25(土) 18:04:54.22

>>90
mpc-hcでビットレート観測するのが簡単
なんか、どっかでも書いたけど3Mbpsとか比較的十分にビットレートを使ってたら画質差は出にくい

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 19:10:57.61

あれ、でもやっぱりビットレート分布は全然違った
ビットレート指定VBRと同じではなかった
ビットレート分布が変わっても平均するとプラマイゼロでSSIMは変わらないのか・・・

**名無しさん＠編集中** (ﾜｯﾁｮｲ ddeb-MHz5) · 2018/08/25(土) 19:11:18.75

>>83
分かったからID:Fz8j+osy0 連れて来いよｗｗ

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 19:23:10.26

NVEncの固定品質はちゃんと固定品質になってた
↓最初4分の1が実写で以降アニメの動画をエンコードしてCheckBitrateでビットレート分布出した
https://i.imgur.com/BfPIXjI.png

SSIMはほぼ同じだったけどSSIMはそういうものなのかな
まぁでも固定品質がちゃんと使えることは分かったわ

これからは固定品質一択だね
ビットレート指定VBRなんて必要ないわ

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 19:56:16.56

>>92
Tensorコアでリアルタイムwaifu2xに期待

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/25(土) 20:19:17.91

>>90 >>96

>>55と>>58にあるNVEncの

　> --vbrhq 0 --vbr-quality 32

については、rigaya氏のブログのNVEnc 4.12の記事のコメント欄でやりとりされていて、
そこでのrigaya氏のコメントは以下のようになってる。

---
固定品質モードですが、ご指摘の方法でよろしいかと思います。

NVEncCのドキュメントにないのは、一応NVENCのSDK上では、
これがビットレート指定モードの一部だからです。
(「Rate control」としてはずばり固定品質モードというのはなく、
vbrhqでビットレートを指定しない(つまり0)、という形が必要です)
---

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 20:42:10.78

ビットレート指定モードの一部が固定品質モードってのはなんか分かりにくいなｗ

2018/08/25(土) 20:49:29.76

>>97
何勘違いしているのか、知ってるフィルタの名前使いたいのか知らんけど
Tensorコアでwaifuの処理内容が高速に処理出来る訳じゃ無い

nvidiaが用意した機械学習成果を元にTensorコアで判断処理して補正・補完を適用するnvidiaの超解像技術になる
学習データが更新されると精度も上がるだろうし、レイトレなんかよりコンシューマPC環境にTensorコアを使用した処理環境が降りてくる方がデカい

2018/08/25(土) 21:01:03.56

nvencの固定品質モードってのは便宜上やりとりとしてがそう呼称してるだけで

ビットレートの指定を明示的に無くす事で、指定ビットレートに近づけるために量子化係数の増減調整がされなくなるから、実質上固定品質と同意の処理になるってだけ

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 21:04:45.93

>>100
別に勘違いしてないよ
nvidiaが用意するモデルにも興味はあるけど、既に高画質だって分かってるwaifu2xが
Tensorコアを使えるようになってリアルタイムくらいの速さになればいいなって期待してる

Tensorコアはfp16(半精度)で4x4の行列積を演算するコアだよ
convolutionを高速に計算するためにあるんだから、
convolutionがボトルネックになってるwaifu2xも高速化できるはず

今はfp32で演算してるからfp16でも精度がなるべく落ちないようにチューニングする必要はあるだろうけど
Tensorコア使ってconvolutionを計算するところはcuDNNがやってくれるから
書き換えはそんなに大変じゃないと思う

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/25(土) 21:09:21.97

>>101
揚げ足取るようで申し訳ないけど、固定量子化量(Constant QP)じゃないんだから
量子化係数は調整してるでしょ
もしかして今の実装的には固定品質＝固定量子化量だったりする？

2018/08/25(土) 21:59:30.04

>>103
「指定ビットレートに近づけるために量子化係数の増減調整」と書いているんだが
画質評価基準に擦り寄せる為の量子化係数の調整と勝手に思い込みで混同されても困る

waifu2xの件も行列積の浮動小数点演算精度が半精度化しているなら、行列積としての精度どれほど落ちると思ってる？
もうそれはwaifu2xのロジックをベースとした精度が大幅低下した派生物でwifu2xでは無いんだよ、同じ処理が出来ている訳じゃ無いんだしな

都合良く読み替えたり、後出しで精度不足とか都合の良い部分容認してみたりとか、ほんとに狡い奴だなお前は

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/26(日) 02:11:05.20

>>104
えっと、つまり>>101の

ビットレートの指定を明示的に無くす事で、指定ビットレートに近づけるために量子化係数の増減調整が
されなくなるから、実質上固定品質と同意の処理になるってだけ

↑これの解釈は

ビットレートの指定を明示的に無くす事で、（「指定ビットレートに近づけるために量子化係数の増減調整」と
「画質評価基準に擦り寄せる為の量子化係数の調整」の両方をやっていたところの）
指定ビットレートに近づけるために量子化係数の増減調整がされなくなるから、
（「画質評価基準に擦り寄せる為の量子化係数の調整」だけになって）実質上固定品質と同意の処理になるってだけ

ってことか？それとも

ビットレートの指定を明示的に無くす事で、指定ビットレートに近づけるために量子化係数の増減調整が
されなくなるから、（代わりに「画質評価基準に擦り寄せる為の量子化係数の調整」がされるようになって）
実質上固定品質と同意の処理になるってだけ

ってことか？うーむ・・・

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/26(日) 02:30:07.42

>>104
waifu2xは「Tensorコアで」って書いてるんだから半精度化することも含めて
できたらいいなっていう期待で書いてるんだけど・・・

> waifu2xの件も行列積の浮動小数点演算精度が半精度化しているなら、行列積としての精度どれほど落ちると思ってる？

ディープラーニングの推論をfp16やint8でやっても精度低下は僅かって話はたくさんあるし、
nvidiaがfp16の演算コアを導入したのは、「ディープラーニングでは精度低下は僅かで十分実用的」だからでしょ
それを否定されてもなぁ・・・

2018/08/26(日) 09:46:57.21

>>106
ホントに手前の都合良く緩さを容認した事は「当たり前」と話して、そうじゃない事は違いを許さないとか利己的だな

行列積は単純な浮動小数点の計算と違って、複数回計算で精度取り戻せない
32bit精度で行列演算するコードを16bit精度のTensorコアで高速化とか、半精度を容認する前置きも無く書き込んでおいて
後出しで半精度容認している旨書き込んで悪びれもしないし

waifu2xと同様の処理が出来ても同じ精度維持出来ないから同じ処理は出来ないと言っているのに
機械学習でTensorコアの効果を否定しているかの様に勝手に話置き換え始めたり
ホントに最低に狡い奴だな

2018/08/26(日) 09:50:58.32

>>105
前者

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/26(日) 11:21:56.08

要するに

　45c3-iM7h ：
　　精度を落としたものをwaifu2xと呼ぶことは絶対に認めない

　29c3-PcWx ：
　　今の waifu2x は高品質だけど遅すぎるから、半精度化によってある程度品質が落ちる代わりに
　　Tensorコアによる高速化メリットが得られる waifu2x' みたいなもんができるといいな。
　　(半精度化による品質低下やTensorコアによる高速化がどれくらいかにもよるけど)

ってことじゃないの。

技術的なこだわりが強いのか何なのか知らんが、受け取り方がねじ曲がりすぎじゃね？
カリカリして人格攻撃するほどの話じゃないだろ。

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/26(日) 14:06:55.17

>>107
> 32bit精度で行列演算するコードを16bit精度のTensorコアで高速化とか、半精度を容認する前置きも無く書き込んでおいて

>>92
> Tensorコア使ったポストエフェクトとか超解像

これはディープラーニングを使ったもので、「Tensorコアでディープラーニングを計算する」
って時点で、fp16に精度を落として行列積を計算するってことだよ

つまり、ディープラーニング（正確には行列積部分）をfp16で計算するっていうのは君が最初に言ってること

同じようにディープラーニングで超解像するwaifu2xもTensorコアで高速化できるよね
って話をしてるんだから、fp16で計算するっていうのは何の脈絡もなく出てきたわけではない

> waifu2xと同様の処理が出来ても同じ精度維持出来ないから同じ処理は出来ないと言っているのに
> 機械学習でTensorコアの効果を否定しているかの様に勝手に話置き換え始めたり

ディープラーニングを使った代表例みたいなwaifu2xにTensorコアを使うことを否定するのは
「機械学習でTensorコアの効果を否定」するのと同義だと思うのだが

**名無しさん＠編集中** (ｱｳｰｲﾓ MMa1-0Goq) · 2018/08/26(日) 14:26:50.50

0か1しか価値判断基準のない人は疲れるな

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/26(日) 15:11:35.59

>>108
NVEncの実際の実装が後者の可能性もあると思うけど、なんで前者だって分かるの？

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/26(日) 15:22:59.23

>>110のように「お前が最初に言った」みたいな書き方をすると、また不毛な返答が返ってくる気がするので

　　"こっちは元々「fp16化+Tensorコアで高速化したリアルタイムwaifu2x(もどき)」を想定して書き込んでて、
　　　>>100でお前が勘違いとか言ってきたからそれに答えて詳細を説明しただけなのに、
　　　精度落としたらwaifu2xじゃないとか、後出しとか狡いとか利己的とか言われて迷惑してる。”

って書いてやった方がよい気がする。

2018/08/26(日) 17:18:48.39

>>113
指摘の弁解も理由も全部後出し
取り繕いばっかりじゃねーかよ

そんで、waifu2xの演算に精度不足というなのがTensorコアが機械学習用途に不適というこじつけなるか理由聞かせてくれよ

2018/08/26(日) 17:29:49.46

>>112
「可能性」とか言い出せばどっち前者だろうが後者だろうがイチャモン付けられるってか？

品質基準のVBRロジックなんだから、ビットレート指定時に品質基準での調整ロジックが動いて無く、ビットレート指定を無くした時にだけ稼働すなら、ビットレート指定時は品質基準のVBRじゃなくなるわな
nvidiaが品質基準VBRとして実装しているものすら疑いだしたら、何を基準で正否とするよの？

後者と判断するなら、その根拠を提示してくれよ

**名無しさん＠編集中** (ﾌﾞｰｲﾓ MM01-AWmg) · 2018/08/26(日) 18:05:10.01

ffmpegでのエンコードパラメータを極めるスレはどこ？

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/26(日) 18:28:06.93

>>114
> waifu2xの演算に精度不足というなのがTensorコアが機械学習用途に不適というこじつけなるか理由聞かせてくれよ

そもそもその前の時点でお前が話を読み違えてるんだよ。>>107でお前が

　　> 機械学習でTensorコアの効果を否定しているかの様に勝手に話置き換え始めたり

と書いてるが、106はTensorコアの効果の否定なんてしてないだろ。
下3行の解釈を、お前が間違えてるだけのように見えるが。

29c3-PcWx が言いたいのは、

　・Tensorコアがfp16なのは、NVIDIAがfp16でもディープラーニングでは十分実用的だと判断したからではないか

　・ならばwaifu2xのfp32処理の部分を、Tensorコアのfp16処理に変えてみるのももしかしたらアリではないか？

ってことでしょ。まあディープラーニングっつっても目的によって必要な精度は変わってくるんだろうから
そんな単純な話が成り立つかどうかは知らんけどね。

とりあえず落ち着いて、やりとりを最初から見直してみたほうがいいんじゃねえの。

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/26(日) 18:36:13.01

まあwaifu2xについて、「処理をfp16にしたらまともな品質にならない」みたいな検証が既にされてるのであれば
淡々とその結果を示してあげればいいと思うけど、これ以上続けたいなら
そろそろ画像拡大スレに移ったほうがいいんじゃないかとは思う。

　【超解像】画像拡大ソフト総合スレ２【waifu2x】
　https://egg.5ch.net/test/read.cgi/software/1462848853/

**名無しさん＠編集中** (ﾜｯﾁｮｲ 29c3-PcWx) · 2018/08/26(日) 20:25:54.45

>>115
ビットレート指定時は品質基準VBRじゃないでしょ
ビットレート指定のVBRなんだから
ビットレートを指定しなかったときに品質基準VBRになる

> nvidiaが品質基準VBRとして実装しているものすら疑いだしたら、何を基準で正否とするよの？

固定QPモードがあるんだから、ビットレート指定VBRは、
平均ビットレートが目標より大きくズレたら、適当にQP操作してるだけかもしれないじゃん
そこから、ビットレートを目標にあわせる処理を抜いたら、固定QPになっちゃう
NVEncCのデフォは固定QPだし

> 後者と判断するなら、その根拠を提示してくれよ

後者か前者かなんて分からないよ
中の実装がどうなってるかなんて知らないから
エンコード結果、どういう出力がされたかくらいでしか観測できない

ビットレート指定VBR時はビットレート指定VBRのレートコントロールが働いて
品質基準VBR時は品質基準VBRのレートコントロールが働くって考えるのが
最もシンプルな理解だと思うから、そうじゃないときはちゃんと書いてくれないと分からないよ

**名無しさん＠編集中** (ﾜｯﾁｮｲ d9ec-PcWx) · 2018/08/26(日) 20:51:24.96

細かいことはよくわかんねーけど、とりあえずNVIDIA Video Codec SDK 8.2.15 の
NVENC_VideoEncoder_API_ProgGuide.pdf の「3.8.3 Rate control」の内容を貼っとくわ。

　https://pastebin.com/LuGCNXbY