10ギガビットイーサ(10GBASE-*)について語るスレ
価格がこなれてきた10GBASE-T(UTP)は勿論、CX4、光ファイバー等も対象です。
過去スレ
【10GbE】10Gigabit Ethernet 6【10GBASE-T等】
https://mevius.5ch.net/test/read.cgi/hard/1533077761/
【10GbE】10Gigabit Ethernet 5【10GBASE-T等】
https://mevius.2ch.net/test/read.cgi/hard/1515779986/
【10GbE】10Gigabit Ethernet 4【10GBASE-T等】
http://mevius.5ch.net/test/read.cgi/hard/1493036840/
【10GbE】10Gigabit Ethernet 3【10GBASE-T等】
http://echo.5ch.net/test/read.cgi/hard/1476100955/
【10GbE】10Gigabit Ethernet 2【10GBASE-*】
http://echo.5ch.net/test/read.cgi/hard/1422464742/
【10GbE】10Gigabit Ethernet【10GBASE-*】
http://peace.5ch.net/test/read.cgi/hard/1208537897/
※前スレ
https://mevius.5ch.net/test/read.cgi/hard/1553105861/
【10GbE】10Gigabit Ethernet 8【10GBASE-T等】
■ このスレッドは過去ログ倉庫に格納されています
1不明なデバイスさん
2019/08/21(水) 19:48:42.15ID:STNrLJEl157不明なデバイスさん
2019/09/21(土) 00:35:50.90ID:3YCpYi45 >>156
そうですか。以下のスイッチで3本同時に計測したらどうなりますか?
> -P, --parallel n n個のコネクションを同時に接続する。デフォルトは1つ。
それでも1100を超えないなら、どこがボトルネックなのか一つ一つ見ていく必要がありますね。マザーのPCIeが怪しそうですが。
そうですか。以下のスイッチで3本同時に計測したらどうなりますか?
> -P, --parallel n n個のコネクションを同時に接続する。デフォルトは1つ。
それでも1100を超えないなら、どこがボトルネックなのか一つ一つ見ていく必要がありますね。マザーのPCIeが怪しそうですが。
158不明なデバイスさん
2019/09/21(土) 00:38:02.02ID:/mFJESTx >>156
送信側受信側それぞれのnicのパラメータを弄ればなんとかなるんじゃないかな。
jumbo frameは当然最大値。
割込み加減を最大にしたり無効にしたりでかなり変わる。
因みにウチの環境でiperfなら40G NICで大体20Gくらい。
core i3 4coreなら同じくらいでるかと。
因みにQSFPなNIC、って40GのFDRならNICとして使うなら10Gになるんじゃない?
40GでNICとして接続したいなら56Gを買わないとダメじゃないかな、と。
送信側受信側それぞれのnicのパラメータを弄ればなんとかなるんじゃないかな。
jumbo frameは当然最大値。
割込み加減を最大にしたり無効にしたりでかなり変わる。
因みにウチの環境でiperfなら40G NICで大体20Gくらい。
core i3 4coreなら同じくらいでるかと。
因みにQSFPなNIC、って40GのFDRならNICとして使うなら10Gになるんじゃない?
40GでNICとして接続したいなら56Gを買わないとダメじゃないかな、と。
159不明なデバイスさん
2019/09/21(土) 05:09:35.71ID:5Sdz6sPr それはFDRではなくQDRでしょ。
オクのはFDRだから問題ない
オクのはFDRだから問題ない
160不明なデバイスさん
2019/09/21(土) 08:13:56.99ID:/mFJESTx そか。IBはイマイチわからんのに変なこと書いてみてすまんな。
因みに>>158はユーザーマニュアルのMCX353A-TCBT あたりが40 Gb/s FDR10 IB, 10GigE sin-gle-port QSFP+を見て書いた。
http://www.mellanox.com/related-docs/user_manuals/ConnectX-3_VPI_Single_and_Dual_QSFP_Port_Adapter_Card_User_Manual.pdf
因みに>>158はユーザーマニュアルのMCX353A-TCBT あたりが40 Gb/s FDR10 IB, 10GigE sin-gle-port QSFP+を見て書いた。
http://www.mellanox.com/related-docs/user_manuals/ConnectX-3_VPI_Single_and_Dual_QSFP_Port_Adapter_Card_User_Manual.pdf
161不明なデバイスさん
2019/09/21(土) 09:42:05.41ID:3YCpYi45 FDR10とFDRは別物ですよ。
https://www.hpc-sol.co.jp/support/20110805_infiniband_bandwidth.html
https://www.hpc-sol.co.jp/support/20110805_infiniband_bandwidth.html
162不明なデバイスさん
2019/09/21(土) 09:58:17.09ID:/mFJESTx なるほど了解です。
163不明なデバイスさん
2019/09/21(土) 10:10:49.67ID:1E1Z2D+E165不明なデバイスさん
2019/09/21(土) 11:21:23.57ID:3YCpYi45 >>163
まあ、それぐらいなら問題ないと思います。
何がボトルネックか調べる方が大変だと思います。最大値が一定でなく揺れてるのは原因の特定が難しそうです。
ほっとくのがいいと思います。
色々調べたり、設定を変えてもストレージが一番大きなボトルネックなので。
ストレージを変えたときにまた考えたらいいと思います。800MB/sは十分高速なストレージなので、数年後でしょうが。
まあ、それぐらいなら問題ないと思います。
何がボトルネックか調べる方が大変だと思います。最大値が一定でなく揺れてるのは原因の特定が難しそうです。
ほっとくのがいいと思います。
色々調べたり、設定を変えてもストレージが一番大きなボトルネックなので。
ストレージを変えたときにまた考えたらいいと思います。800MB/sは十分高速なストレージなので、数年後でしょうが。
166不明なデバイスさん
2019/09/21(土) 11:33:37.55ID:3YCpYi45 どうしてもボトルネックを調べたい場合は計測時間を3分とか長めに設定して
最大値を安定させると数字から分かることもあります。
短い時間だと分かりにくいですよ。
ただ、NIC等の発熱には気を付けてください。
最大値を安定させると数字から分かることもあります。
短い時間だと分かりにくいですよ。
ただ、NIC等の発熱には気を付けてください。
167不明なデバイスさん
2019/09/21(土) 22:14:16.50ID:2p66nXin connectex2だと、QSFP+の2枚組が1500円だな。安すぎ。
Windowsならデフォルトでドライバも入って普通に使えそう。
富士通になってるが、OEM品ね。
こうなってくると、QSFP+のハブが欲しくなってくるw
安いのないかな。
Windowsならデフォルトでドライバも入って普通に使えそう。
富士通になってるが、OEM品ね。
こうなってくると、QSFP+のハブが欲しくなってくるw
安いのないかな。
168不明なデバイスさん
2019/09/22(日) 10:14:30.90ID:locMDHKD >>166
3分で試したところ1本では800MB/sあたりで変わらず
3本の方は1150MBに収束していきました
とりあえずこのままで、交換は速いSSDに変えたときにまた考えてみます
ありがとうございました
3分で試したところ1本では800MB/sあたりで変わらず
3本の方は1150MBに収束していきました
とりあえずこのままで、交換は速いSSDに変えたときにまた考えてみます
ありがとうございました
169不明なデバイスさん
2019/09/22(日) 17:48:16.64ID:C76VPl3M >>168
1150MB/sですか。それだったら問題ないですね。
ストレージ以外のボトルネックは無いと言っていいと思います。
SMBのアクセスはiperfで3本ぐらいのアクセスと同じぐらいの速度出ますから。
かなりいいPCだと思いますよ。
1150MB/sですか。それだったら問題ないですね。
ストレージ以外のボトルネックは無いと言っていいと思います。
SMBのアクセスはiperfで3本ぐらいのアクセスと同じぐらいの速度出ますから。
かなりいいPCだと思いますよ。
171不明なデバイスさん
2019/09/22(日) 22:37:25.46ID:nSkUUjGs172不明なデバイスさん
2019/09/22(日) 22:41:37.22ID:nSkUUjGs トランシーバー+光ケーブルより、ダイレクトアタッチケーブルの方が消費電力少ないんだな。逆かと思ってた
173171
2019/09/23(月) 00:35:01.23ID:qp/NU8Rp 裏の型番がA3C40124124 Fujitsuになってるカードね。中身はconnectx2 vpi single qsfp
174171
2019/09/23(月) 00:35:18.73ID:qp/NU8Rp 124123の間違い
175不明なデバイスさん
2019/09/24(火) 03:58:01.51ID:cEwV2isA QSFP+とSFP+を繋ぎたい時ってどうすればいいの
176不明なデバイスさん
2019/09/24(火) 04:12:04.14ID:kMc7Wlpj >>175
分岐ケーブル買ってきて3本余らす
分岐ケーブル買ってきて3本余らす
179不明なデバイスさん
2019/09/24(火) 17:53:12.19ID:8OhwaEYb PCIeは発表→約2年→制定→約2年→製品化のペースだね。
帯域消費は10GbitEtherが固定消費するだろう。
5Gで10Gbpsから最終20Gbpsになるから、それをカバーできる帯域が必要になるよ。
帯域消費は10GbitEtherが固定消費するだろう。
5Gで10Gbpsから最終20Gbpsになるから、それをカバーできる帯域が必要になるよ。
180不明なデバイスさん
2019/09/24(火) 19:52:38.60ID:Pxjbd4N4 PCIe x4スロットで40Gbps NICが出来るのはいつ?
181不明なデバイスさん
2019/09/24(火) 22:53:31.42ID:LZlpFKsK スロットに切り欠きがあれば今も実現できる。
100GbpsNICになるけどpcie4.0 x4なら50Gbpsまで可能。
100GbpsNICになるけどpcie4.0 x4なら50Gbpsまで可能。
182不明なデバイスさん
2019/09/24(火) 23:45:00.41ID:liOT1ILb その前にThunderbolt 3(USB4)転用しそう
183不明なデバイスさん
2019/09/25(水) 00:10:27.07ID:SyzFJCJO184不明なデバイスさん
2019/09/25(水) 03:14:16.20ID:2Rg0o6cf USB4が出たらPCIeカード外付け機とか出るのだろうか?
185不明なデバイスさん
2019/09/25(水) 08:48:07.52ID:/EXAHQn+ もうちょっと簡便なUSB感覚で使える光ケーブル作れんものか、、、、
186不明なデバイスさん
2019/09/25(水) 08:52:54.89ID:hXHF8I0f 現状のPCI 3.0用に出るとは考えづらいな
出ても帯域x4とかx8(2ポート)とか要るし
USB4が普及する頃にはマザー買い替えじゃない?
出ても帯域x4とかx8(2ポート)とか要るし
USB4が普及する頃にはマザー買い替えじゃない?
187不明なデバイスさん
2019/09/25(水) 09:02:23.66ID:/EXAHQn+ USB4.0って光ケーブル規格あるんだな。
https://ja.wikipedia.org/wiki/Thunderbolt
しかし、60mというのもまた微妙だのう、、、
100mにしてErherと共用とかにしてほしかった。
https://ja.wikipedia.org/wiki/Thunderbolt
しかし、60mというのもまた微妙だのう、、、
100mにしてErherと共用とかにしてほしかった。
188不明なデバイスさん
2019/09/25(水) 11:10:13.90ID:+Tihr7L/ USB3.1gen2のケーブル長制限が1mまでだからもう限界に来ている
189不明なデバイスさん
2019/09/25(水) 17:52:17.16ID:6xozlMUg ケーブル・コネクタ・ケーブルボックス・パッチパネル等の性能に応じて自動的に減速するような規格が必要
190不明なデバイスさん
2019/09/25(水) 19:42:49.96ID:ibLvJD+c RDMA対応はWin10 Pro無印に降りて来ないかな
10Gが普及しそうな時にこの足かせはないわ
10Gが普及しそうな時にこの足かせはないわ
191不明なデバイスさん
2019/09/25(水) 19:54:20.23ID:kuavhknB >>190
とりあえず待つだけ無駄だから。
待ってるお前には10proに降りてきたところで使えない。
と、言ってみる。
実際、10pro ws/entもクライアントとしてしかrdmaは使えない。
つまり10だけじゃどうにもならない。
使うやつはwindows serverも評価版利用して既に体験している。
とりあえず待つだけ無駄だから。
待ってるお前には10proに降りてきたところで使えない。
と、言ってみる。
実際、10pro ws/entもクライアントとしてしかrdmaは使えない。
つまり10だけじゃどうにもならない。
使うやつはwindows serverも評価版利用して既に体験している。
192不明なデバイスさん
2019/09/25(水) 20:13:52.20ID:uYqmURJB >>185
光USBケーブルあるよ
ttps://www.corning.com/optical-cables-by-corning/apac/jp/jp/products/usb-optical-cables.html
光Thunderboltケーブルも
ttps://www.corning.com/optical-cables-by-corning/apac/jp/jp/products/thunderbolt-optical-cables.html
直輸入扱いだけど日本からも買える
ttps://www.soundhouse.co.jp/search/index?s_maker_cd=2658&s_category_cd=206&i_type=cm
光USBケーブルあるよ
ttps://www.corning.com/optical-cables-by-corning/apac/jp/jp/products/usb-optical-cables.html
光Thunderboltケーブルも
ttps://www.corning.com/optical-cables-by-corning/apac/jp/jp/products/thunderbolt-optical-cables.html
直輸入扱いだけど日本からも買える
ttps://www.soundhouse.co.jp/search/index?s_maker_cd=2658&s_category_cd=206&i_type=cm
193不明なデバイスさん
2019/09/26(木) 18:49:40.09ID:qeZOEfRw LANもUSBもHDMIもDPもeSATAも、全部光MPOコネクタに統一すればいいよ
194不明なデバイスさん
2019/09/26(木) 21:38:13.36ID:bWebu2sP 光と共に給電できるようなケーブルにして欲しいもんだ。
195171
2019/09/27(金) 00:17:40.33ID:9Msd49u6 QSFPとケーブル届いて、問題なく動いた。サンクス。
といいつつ、Ubuntuで設定をethernetにできず苦戦中。
windows↔windowsは問題ないのだが……。
といいつつ、Ubuntuで設定をethernetにできず苦戦中。
windows↔windowsは問題ないのだが……。
196171
2019/09/27(金) 00:18:07.73ID:9Msd49u6 windowsからwindowsね。
198不明なデバイスさん
2019/09/27(金) 01:49:26.64ID:+zHAMqsz SPF28ってSPFにpそのまま刺さって通信できるんだな知らんかった
200不明なデバイスさん
2019/09/27(金) 02:56:05.50ID:80Q6zE9y 10GbE導入したいです。
ずばり、最も省電力なNICはどれでしょうか?
ずばり、最も省電力なNICはどれでしょうか?
201不明なデバイスさん
2019/09/27(金) 03:26:54.48ID:LxNGEWW6 >>200
消費電力気にするなら10GBASE-T(RJ-45)は問題外で、10GBASE-SR(SFP+)か長さが足りるならDAC(SFP+)で接続だな
Intel X710-DA2かMellanox MCX311A-XCAT
Intelの方が若干省電力か
消費電力気にするなら10GBASE-T(RJ-45)は問題外で、10GBASE-SR(SFP+)か長さが足りるならDAC(SFP+)で接続だな
Intel X710-DA2かMellanox MCX311A-XCAT
Intelの方が若干省電力か
202不明なデバイスさん
2019/09/27(金) 04:12:32.13ID:2v5J7r/r ビットレート当たりの消費電力が低くなれば、
消費電力自体が上がってもむしろ省電力でしょ?
消費電力自体が上がってもむしろ省電力でしょ?
203不明なデバイスさん
2019/09/27(金) 04:37:31.78ID:+zHAMqsz >>199
thx最近紫外線気にしてん、、、
thx最近紫外線気にしてん、、、
204171
2019/09/27(金) 06:25:40.30ID:wy/8erwD205不明なデバイスさん
2019/09/27(金) 08:04:59.35ID:rAaPV4I3 >>204
biosを一旦csm有効にして挿しているpciスロットからのメニュー表示を有効にすればわかる。
biosを一旦csm有効にして挿しているpciスロットからのメニュー表示を有効にすればわかる。
206不明なデバイスさん
2019/09/27(金) 13:06:04.67ID:HmJaBGaY csmが廃止されたら至る所で問題が起こるんだろうなぁ。
207171
2019/09/28(土) 02:35:59.15ID:JW7mgL7n >>205
CSMを有効にしましたが、その先が分からず悩ましいです。ethernetはダメですが、IBでは動いてるので、それで使えという啓示でしょうかw
mellanoxのubuntuサポートがイマイチなのが一つの原因で、公式文書中のyumなど、red hatの内容を転載しただけの文書が多いので調べても怪しい。フォーラムも機能してないし。
一番詳しいのがarch linuxのサイト。いつも感心するレベルだが、誰が書いてるのだろう。
CSMを有効にしましたが、その先が分からず悩ましいです。ethernetはダメですが、IBでは動いてるので、それで使えという啓示でしょうかw
mellanoxのubuntuサポートがイマイチなのが一つの原因で、公式文書中のyumなど、red hatの内容を転載しただけの文書が多いので調べても怪しい。フォーラムも機能してないし。
一番詳しいのがarch linuxのサイト。いつも感心するレベルだが、誰が書いてるのだろう。
208171
2019/09/28(土) 04:41:14.93ID:JW7mgL7n ubuntuでまともに動かないのはカーネルが新しくてドライバが対応してないのが原因っぽい。debian系も頑張って欲しい
209不明なデバイスさん
2019/09/28(土) 04:57:01.38ID:9Ht/7Xpf linuxで、メーカーがバイナリ配布してるドライバを使うのと、
カーネルにマージされてるソースコードのドライバの両方あるときに、
どっちつかうのがいいの?
カーネルにマージされてるソースコードのドライバの両方あるときに、
どっちつかうのがいいの?
210不明なデバイスさん
2019/09/28(土) 06:50:26.40ID:8wHwZUK7211不明なデバイスさん
2019/09/28(土) 08:29:20.26ID:s8RE3HTY biosでlegacy有効にしてみ。
212171
2019/09/28(土) 22:21:31.93ID:JW7mgL7n213不明なデバイスさん
2019/09/29(日) 08:59:26.31ID:f2fTYAOL214171
2019/09/30(月) 02:35:44.03ID:lzzvTS9O >>213
レスサンクス。ロゴ表示前ですね。
何度か試してみましたが、変化なしです。
昔のBIOSのように認識してるハードが出る画面になればわかりやすいのですが、UEFIに設定項目が無いのが厳しい処です。
レスサンクス。ロゴ表示前ですね。
何度か試してみましたが、変化なしです。
昔のBIOSのように認識してるハードが出る画面になればわかりやすいのですが、UEFIに設定項目が無いのが厳しい処です。
215不明なデバイスさん
2019/09/30(月) 08:04:17.92ID:PWFTp4Jd216不明なデバイスさん
2019/09/30(月) 08:18:04.62ID:vcdFD1BT >>214
2 Port Type Management
http://www.mellanox.com/pdf/prod_software/Ubuntu_18_04_Inbox_Driver_User_Manual.pdf
2 Port Type Management
http://www.mellanox.com/pdf/prod_software/Ubuntu_18_04_Inbox_Driver_User_Manual.pdf
217不明なデバイスさん
2019/09/30(月) 11:57:47.11ID:9YkJTPcp まずロゴ表示はオフにしようよ
218171
2019/09/30(月) 23:23:53.15ID:lzzvTS9O219不明なデバイスさん
2019/10/01(火) 10:49:35.99ID:mwBHwaZx >>218
> configurationの項目が少なく、ethernetの項目が無いのです。カーネルが新しいのでドライバを入れられないのが原因のようです。
そりゃ1ポートモデルだったら少ないのは当然です。
ethの項目が無いのもethにしないと出てこないのは当たり前です。
2の1のmstflintはインストールできましたか?
2の2の自分のデバイスの値は何ですか?
2の3の
mstconfig ?d 自分のデバイスの値 s LINK_TYPE_P1=ETH
(例 mstconfig -d 00:06.0 s LINK_TYPE_P1=ETH
)
これの結果は?
> configurationの項目が少なく、ethernetの項目が無いのです。カーネルが新しいのでドライバを入れられないのが原因のようです。
そりゃ1ポートモデルだったら少ないのは当然です。
ethの項目が無いのもethにしないと出てこないのは当たり前です。
2の1のmstflintはインストールできましたか?
2の2の自分のデバイスの値は何ですか?
2の3の
mstconfig ?d 自分のデバイスの値 s LINK_TYPE_P1=ETH
(例 mstconfig -d 00:06.0 s LINK_TYPE_P1=ETH
)
これの結果は?
220不明なデバイスさん
2019/10/01(火) 10:51:40.53ID:mwBHwaZx 文字化けした
2の3の
mstconfig -d 自分のデバイスの値 s LINK_TYPE_P1=ETH
(例 mstconfig -d 00:06.0 s LINK_TYPE_P1=ETH )
これの結果は?
2の3の
mstconfig -d 自分のデバイスの値 s LINK_TYPE_P1=ETH
(例 mstconfig -d 00:06.0 s LINK_TYPE_P1=ETH )
これの結果は?
221171
2019/10/01(火) 23:04:24.40ID:zs1NwOJJ >>220
レスサンクス。
インストールはできました。
00.01.0です。etheの設定はオプションがないと怒られます。
詳細はここに書きましたが、
案の定放置されてます……。
https://community.mellanox.com/s/question/0D51T00006vP6pHSAS/unable-to-use-connectx3-on-ubuntu-18-with-ethernet-because-there-is-no-linktypep1-option
レスサンクス。
インストールはできました。
00.01.0です。etheの設定はオプションがないと怒られます。
詳細はここに書きましたが、
案の定放置されてます……。
https://community.mellanox.com/s/question/0D51T00006vP6pHSAS/unable-to-use-connectx3-on-ubuntu-18-with-ethernet-because-there-is-no-linktypep1-option
222171
2019/10/01(火) 23:06:13.39ID:zs1NwOJJ mstconfig -d 01:00.0 s LINK_TYPE_P1=ETH
Device #1:
----------
Device type: ConnectX3
PCI device: 01:00.0
Configurations: Next Boot New
-E- Device doesn't support LINK_TYPE_P1 configuration
(´・ω・`)
Device #1:
----------
Device type: ConnectX3
PCI device: 01:00.0
Configurations: Next Boot New
-E- Device doesn't support LINK_TYPE_P1 configuration
(´・ω・`)
223不明なデバイスさん
2019/10/01(火) 23:21:18.55ID:mwBHwaZx224不明なデバイスさん
2019/10/01(火) 23:25:13.08ID:mwBHwaZx あ、向こうにあるのね
225不明なデバイスさん
2019/10/01(火) 23:27:10.18ID:mwBHwaZx ファームウェアが古いのが理由じゃないかな?
ファームウェアとmstのツールのバージョン違いが原因かも
ファームウェアとmstのツールのバージョン違いが原因かも
226171
2019/10/01(火) 23:39:23.38ID:zs1NwOJJ >>225
ありがとうございます。
ファームはqiitaに書いてあった方法で2.40まで上げています。
最新は2.42ですが、OEM品なので細工なしだと2.4から上げられないのです。
また、windowsでは問題なく、ubuntu固有の問題である事から、
Ubuntuのethernetドライバが2018年4月から更新されておらず、カーネル4.6か4.8までしか対応していないためインストールで落ちるのが原因と考えています(現在カーネル5.0、windowsではドライバインストールの問題なし)。
ありがとうございます。
ファームはqiitaに書いてあった方法で2.40まで上げています。
最新は2.42ですが、OEM品なので細工なしだと2.4から上げられないのです。
また、windowsでは問題なく、ubuntu固有の問題である事から、
Ubuntuのethernetドライバが2018年4月から更新されておらず、カーネル4.6か4.8までしか対応していないためインストールで落ちるのが原因と考えています(現在カーネル5.0、windowsではドライバインストールの問題なし)。
227171
2019/10/01(火) 23:40:56.22ID:zs1NwOJJ カーネルのバージョンを下げればドライバが入る気がしますが、他のアプリに影響ありそうで躊躇しています……。
228不明なデバイスさん
2019/10/02(水) 01:43:43.91ID:jBoep4MK229不明なデバイスさん
2019/10/02(水) 10:16:21.15ID:YO7MTASL >>227
このページではUbuntu の最新バージョン19.04にも対応してるらしいが。こいつのカーネルは5でしょ?
https://www.mellanox.com/page/products_dyn?product_family=26&mtag=linux_sw_drivers
MLNX_OFED Documentation Rev 4.7-1.0.0.1
https://docs.mellanox.com/display/MLNXOFEDv471001/Installing+Mellanox+OFED
このページをUbuntuで検索したらいろいろ出てくるけど。
このページではUbuntu の最新バージョン19.04にも対応してるらしいが。こいつのカーネルは5でしょ?
https://www.mellanox.com/page/products_dyn?product_family=26&mtag=linux_sw_drivers
MLNX_OFED Documentation Rev 4.7-1.0.0.1
https://docs.mellanox.com/display/MLNXOFEDv471001/Installing+Mellanox+OFED
このページをUbuntuで検索したらいろいろ出てくるけど。
230不明なデバイスさん
2019/10/02(水) 11:06:32.42ID:dE/MEfOu >> 226
おそらく同じところから買った同じカードをいじってるところ
まず、II/Ether ドライバに関しては(229 が紹介してくれているOFEDドライバにしかない機能をどうしても使いたい
という状況じゃなければ) すでに mainline kernel に取り込まれているので 外から持ってこなくても標準の mlx4
ドライバーで動くので余計なことしなくていい(そこの問題じゃない)
で、mstconfig -d 01:00.0 s LINK_TYPE_P1=ETH ができない問題だが、それは IBMのOEM firmware なままなせい
(IBM OEM 品ではそこの設定を塞いである) or version が古いせい。
手元にあるカードは PSID いじって generic firmware (OEM 版ではなく mellanox の) 2.42 にあげてしまったが
少なくともそいつでは ちゃんと LINK_TYPE_P1 設定できるし、ETH にするとドライバーがちゃんと mlx4_core が
mlx4_en sub driver をロードして (Infiniband ではなく) ether として認識するのは確認済。
どうしても IBM OEM firmware のままにしたいというのであれば、mlx4_core には port_type_array という
パラメータがあって、firmware 側での指定を無視してドライバーで強制的に Infiniband/Ethernet を指定できる
ようになってるのでそれを指定してみれば? (これは確認してない)
0がdefault (firmwareの設定に従う)、1がIB 2がEthernet らしい。
/etc/modprobe.d/mlx4.conf とかファイルを用意して 中に
options mlx4_core port_type_array=2,4
と書いて保存して reboot かな
http://www.mellanox.com/related-docs/prod_software/Mellanox_EN_for_Linux_User_Manual_v4_0.pdf
にまぬあるある
おそらく同じところから買った同じカードをいじってるところ
まず、II/Ether ドライバに関しては(229 が紹介してくれているOFEDドライバにしかない機能をどうしても使いたい
という状況じゃなければ) すでに mainline kernel に取り込まれているので 外から持ってこなくても標準の mlx4
ドライバーで動くので余計なことしなくていい(そこの問題じゃない)
で、mstconfig -d 01:00.0 s LINK_TYPE_P1=ETH ができない問題だが、それは IBMのOEM firmware なままなせい
(IBM OEM 品ではそこの設定を塞いである) or version が古いせい。
手元にあるカードは PSID いじって generic firmware (OEM 版ではなく mellanox の) 2.42 にあげてしまったが
少なくともそいつでは ちゃんと LINK_TYPE_P1 設定できるし、ETH にするとドライバーがちゃんと mlx4_core が
mlx4_en sub driver をロードして (Infiniband ではなく) ether として認識するのは確認済。
どうしても IBM OEM firmware のままにしたいというのであれば、mlx4_core には port_type_array という
パラメータがあって、firmware 側での指定を無視してドライバーで強制的に Infiniband/Ethernet を指定できる
ようになってるのでそれを指定してみれば? (これは確認してない)
0がdefault (firmwareの設定に従う)、1がIB 2がEthernet らしい。
/etc/modprobe.d/mlx4.conf とかファイルを用意して 中に
options mlx4_core port_type_array=2,4
と書いて保存して reboot かな
http://www.mellanox.com/related-docs/prod_software/Mellanox_EN_for_Linux_User_Manual_v4_0.pdf
にまぬあるある
231不明なデバイスさん
2019/10/02(水) 11:08:58.13ID:dE/MEfOu II/Ether ドライバ てなんやねん IB/Ether ドライバーね 要は通信用のドライバーは
ひとまず 標準で kernel にあるやつ使え 余計なことすんな てこと
ひとまず 標準で kernel にあるやつ使え 余計なことすんな てこと
232不明なデバイスさん
2019/10/02(水) 14:34:56.79ID:dE/MEfOu mlx4.conf 書いたあとに reboot する前に initrd の更新必要かも
update-initramfs -u
な
update-initramfs -u
な
233不明なデバイスさん
2019/10/02(水) 21:27:38.29ID:YO7MTASL まあ、そういうことするより flintでfirm書き込むときに--allow_rom_change つけるだけでMellanox版が書き込めるから
後々そっちの方が楽だけどね
後々そっちの方が楽だけどね
234不明なデバイスさん
2019/10/02(水) 21:35:54.93ID:dE/MEfOu235不明なデバイスさん
2019/10/02(水) 21:43:30.72ID:h1rFm0/c Cascade Lake-X”こと第10世代Core Xシリーズプロセッサでようやく
Intel製2.5Gigabit Ethernetコントローラ(i225)が採用
まだまだ一般向けPCで10GbEが標準で採用されるのは先になりそうね
https://pc.watch.impress.co.jp/docs/news/1210470.html
Intel製2.5Gigabit Ethernetコントローラ(i225)が採用
まだまだ一般向けPCで10GbEが標準で採用されるのは先になりそうね
https://pc.watch.impress.co.jp/docs/news/1210470.html
236不明なデバイスさん
2019/10/02(水) 21:47:58.83ID:YO7MTASL >>234
どっちでもいけるのかな?
さっき--allow_rom_changeで富士通をMellanoxに書き換えやったよWindows版でヘルプにも--allow_rom_change出る
flint -v
flint, mft 4.12.0-105, built on Apr 29 2019, 15:27:47. Git SHA Hash: a197f325c62a04fbaa3dc8f8447ef0a17d649743
どっちでもいけるのかな?
さっき--allow_rom_changeで富士通をMellanoxに書き換えやったよWindows版でヘルプにも--allow_rom_change出る
flint -v
flint, mft 4.12.0-105, built on Apr 29 2019, 15:27:47. Git SHA Hash: a197f325c62a04fbaa3dc8f8447ef0a17d649743
237不明なデバイスさん
2019/10/02(水) 22:34:01.03ID:dE/MEfOu >>236
allow_psid_changeの方が古いオプションみたいだ 機能的には同じで 互換性のためにundocumented
のまま オプション自体は残してある模様
どっちでもいけるけど今は allow_rom_changeを使うのが正しそう
allow_psid_changeの方が古いオプションみたいだ 機能的には同じで 互換性のためにundocumented
のまま オプション自体は残してある模様
どっちでもいけるけど今は allow_rom_changeを使うのが正しそう
238不明なデバイスさん
2019/10/02(水) 23:40:02.69ID:bKfYiHTD >>235
ますはXeonからじゃね
次が次世代Core-Xで5G、その次ぐらいには載せてくるんじゃないかな
余裕なかったら次世代で載せてくるかもね
AMDも似たようなことしそうだし
インテルも差別化要素ないとね
ますはXeonからじゃね
次が次世代Core-Xで5G、その次ぐらいには載せてくるんじゃないかな
余裕なかったら次世代で載せてくるかもね
AMDも似たようなことしそうだし
インテルも差別化要素ないとね
239不明なデバイスさん
2019/10/03(木) 00:00:23.39ID:gkwTBTpk まずは土台がしっかりしないと10Gが生かせないからね
PCIe 4.0でやっと10Gがx1の帯域で使えるようになる
まずはそっちの方を急いでほしい
あとチップセットCPU間の帯域をx8ぐらいに増やしてほしいな
PCIe 4.0でやっと10Gがx1の帯域で使えるようになる
まずはそっちの方を急いでほしい
あとチップセットCPU間の帯域をx8ぐらいに増やしてほしいな
240171
2019/10/03(木) 00:31:12.06ID:qL6s9KNc >>218-237
レスサンクス。
ご指摘の通り、Ubuntuのドライバが原因ではなく、ファームが原因でした。
Windows10はソフト側からEthernet設定していたので動いたようです。
IBMは2.2台だとLINK_TYPE_P1オプションが無いため、2.40へ汎用ファームで上げると
設定を引き継ぐためLINK_TYPE_P1が消えていました。
Qiitaに書いてあった方法でPSIDを書き換えて、Mellanoxとして2.42にアップデートした所、
以前話のあったBIOSでのPCIEによるCtrl+Bの選択肢も出るようになりました。
IBM版は機能を潰してあるようですね……。
ただ、1ポートなのに
LINK_TYPE_P1 ETH(2)
LINK_TYPE_P2 VPI(3)
LOG_BAR_SIZE 3
BOOT_PKEY_P1 0
などとポートが二つあるようなコンフィグが気持ち悪いです、これは仕様でしょうか?
MCX353A-FCBTのファームを入れたので、1ポートの設定になると思ったのですが……。
レスサンクス。
ご指摘の通り、Ubuntuのドライバが原因ではなく、ファームが原因でした。
Windows10はソフト側からEthernet設定していたので動いたようです。
IBMは2.2台だとLINK_TYPE_P1オプションが無いため、2.40へ汎用ファームで上げると
設定を引き継ぐためLINK_TYPE_P1が消えていました。
Qiitaに書いてあった方法でPSIDを書き換えて、Mellanoxとして2.42にアップデートした所、
以前話のあったBIOSでのPCIEによるCtrl+Bの選択肢も出るようになりました。
IBM版は機能を潰してあるようですね……。
ただ、1ポートなのに
LINK_TYPE_P1 ETH(2)
LINK_TYPE_P2 VPI(3)
LOG_BAR_SIZE 3
BOOT_PKEY_P1 0
などとポートが二つあるようなコンフィグが気持ち悪いです、これは仕様でしょうか?
MCX353A-FCBTのファームを入れたので、1ポートの設定になると思ったのですが……。
241不明なデバイスさん
2019/10/03(木) 10:26:55.14ID:FiQKnSog242不明なデバイスさん
2019/10/03(木) 11:40:24.52ID:E4+C7O9T 税抜2.5万円の10ギガビットLAN対応スイッチングハブ、ASUS「XG-U2008」 - エルミタージュ秋葉原
http://www.gdm.or.jp/pressrelease/2019/1003/322380
http://www.gdm.or.jp/pressrelease/2019/1003/322380
243不明なデバイスさん
2019/10/03(木) 11:54:59.27ID:z1WL6ujf >>240
おめでとう!
MCX353A-FCBTは実測どのくらいでんのかね?
お互いMCX456A-ECAT( 2 x 100Gbe )の直結でiperf3すると、平均30Gb/sくらいだった。(2ポートをbroadcastのlinux bondしてる。)
ちなみにCPU(メモリ)は2台ともRyzen3900X(DDR4-2400)。
Ryzen3900X(DDR4-2400) <-> Ryzen1700(DDR4-1866)だと22Gb/sまで落ち込む。CPUよりメモリかlinux bridge(mtuが1500まで)かなぁ。。。
mtuを9000にしたいけど、ovs(mtu 9000出来る)はovs bondでbroadcastするやり方わかんねぇから使えない。。。
おめでとう!
MCX353A-FCBTは実測どのくらいでんのかね?
お互いMCX456A-ECAT( 2 x 100Gbe )の直結でiperf3すると、平均30Gb/sくらいだった。(2ポートをbroadcastのlinux bondしてる。)
ちなみにCPU(メモリ)は2台ともRyzen3900X(DDR4-2400)。
Ryzen3900X(DDR4-2400) <-> Ryzen1700(DDR4-1866)だと22Gb/sまで落ち込む。CPUよりメモリかlinux bridge(mtuが1500まで)かなぁ。。。
mtuを9000にしたいけど、ovs(mtu 9000出来る)はovs bondでbroadcastするやり方わかんねぇから使えない。。。
245不明なデバイスさん
2019/10/03(木) 13:21:39.68ID:lBohyh5W 約3年前だな。当時は10G2ポートとは言え安いので出た話題になったけど、
3年もたてば流石に今更感が強い。今なら10G4ポート以上でこの値段じゃないとインパクト無いよな
3年もたてば流石に今更感が強い。今なら10G4ポート以上でこの値段じゃないとインパクト無いよな
246不明なデバイスさん
2019/10/03(木) 13:56:16.17ID:CW92WCw+ まあでも他メーカー含め最安値ではあるだろう
247不明なデバイスさん
2019/10/03(木) 14:36:25.30ID:lBohyh5W XG-U2008の実売がいくらになるのかわからんが2.5万なら、
ほぼ同じ値段のネットギアの方がいい。こっちはマルチギガ対応だし
https://kakaku.com/item/K0001046296/
でもまぁ2ポートってのがそもそも使い道薄いよね
SFP+だけど8ポートのCRS309-1G-8S+INがさほど値段変わらず買えちゃうからな
ほぼ同じ値段のネットギアの方がいい。こっちはマルチギガ対応だし
https://kakaku.com/item/K0001046296/
でもまぁ2ポートってのがそもそも使い道薄いよね
SFP+だけど8ポートのCRS309-1G-8S+INがさほど値段変わらず買えちゃうからな
248不明なデバイスさん
2019/10/03(木) 21:42:12.73ID:gkwTBTpk >>243
超ハイスペックのマシンですね。
MCX456A-ECATはCPU側のPCIe 3.0 x16 (最大実効帯域 約126Gbps)で使われているんですか?
それでその速度しか出ないのなら、 x4のスロット (最大実効帯域 約31.5Gbps)で動かしても帯域足りそうですね。
超ハイスペックのマシンですね。
MCX456A-ECATはCPU側のPCIe 3.0 x16 (最大実効帯域 約126Gbps)で使われているんですか?
それでその速度しか出ないのなら、 x4のスロット (最大実効帯域 約31.5Gbps)で動かしても帯域足りそうですね。
249不明なデバイスさん
2019/10/03(木) 21:45:52.04ID:2ZQjWLOP250不明なデバイスさん
2019/10/03(木) 23:19:23.96ID:wGCEo4mW >>248
豪華だけどスイッチ買う金無いから3台直結よ。
PCIe3.0 x16で使ってます。BIOSでもx16に設定済み。
あとethtoolで見る限り、100Gbで接続出来てる。
指摘の通り、ホント帯域的にはPCIe3.0 x4で充分だわ。RDMAに期待。。。
ConnectX-4はovs offload(たぶんCPU負荷軽減)ついてるし、なんとかovs使ったうえでmtu9000にしたい。。ovs bond にbroadcastさえあればっ!
豪華だけどスイッチ買う金無いから3台直結よ。
PCIe3.0 x16で使ってます。BIOSでもx16に設定済み。
あとethtoolで見る限り、100Gbで接続出来てる。
指摘の通り、ホント帯域的にはPCIe3.0 x4で充分だわ。RDMAに期待。。。
ConnectX-4はovs offload(たぶんCPU負荷軽減)ついてるし、なんとかovs使ったうえでmtu9000にしたい。。ovs bond にbroadcastさえあればっ!
251不明なデバイスさん
2019/10/04(金) 02:09:00.67ID:AwzMhgSL PCIe3.0 x16で繋いでもチップとCPUはPCIe3.0 x4で繋がっているんだからそこがネックになって速度出ないのでは?
zen2ならPCIe4か
zen2ならPCIe4か
255不明なデバイスさん
2019/10/04(金) 07:54:15.88ID:KMR+YnyT QSFP+の4ポートhub出ないかな。
出るわけないか。中古が安いだけだし
idleが低いPCに2ポート×2で組むのが一番安上がりなのだろうか。
それだとidle30W、5万位か。市販NAS買うよりは高性能だが
出るわけないか。中古が安いだけだし
idleが低いPCに2ポート×2で組むのが一番安上がりなのだろうか。
それだとidle30W、5万位か。市販NAS買うよりは高性能だが
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- ネット殺到「高市総理の責任」「完全に高市リスク」「高市さん負けるな」中国が水産物輸入停止→流石に総理批判の声も「どう責任取る?」 [樽悶★]
- 高市首相答弁を“引き出した”立民・岡田克也氏が改めて説明「なぜ慎重な答弁をされなかったのか。非常に残念に思っている」 ★10 [ぐれ★]
- 【為替】対ドルで157円台、対ユーロ181円台に下落 財政悪化を警戒 [蚤の市★]
- トランプ氏「台湾侵攻すれば北京爆撃」“過激予告発言”報道がXで再燃「高市氏の1億倍やばい」 [七波羅探題★]
- フィフィ、中国の“日本産水産物輸入停止”措置に私見「中国依存しないとやっていけない企業は考えを改めて」 [Anonymous★]
- 「母の部屋に安倍氏が表紙の機関誌が」「(安倍氏が被害者なのは)不思議に思いませんでした」山上被告の妹が証言 ★2 [おっさん友の会★]
- 【悲報】倉田真由美「なんで高市は子供がいる家庭に2万円給付するの?子供がいる家庭ばかり優遇するのおかしくね?」 [802034645]
- 中国報道、高市首相を「毒苗」と中傷😡 [399259198]
- 【悲報】高市早苗「“なり得る”って言っただけでなんでそんなに叩くの?私女なんですけど!」 [616817505]
- 【高市悲報】🇨🇳中国「日本への報復措置? 他にいくらでも方法はある。 まだまだやめないよ」 😨😱 [485983549]
- 【高市点字】 ローカル鉄道会社「ホームに点字ブロックかぁ…。 150m施工すると1500万円!?😱 そんな金ないよぉ……」 [485983549]
- 【高市外交】日本の局長が有能だったとの事。わざと困り顔で頭を下げる写真を撮らせ、中国内で好印象も、世界は中国の態度を非難という構図 [219241683]
