CSVファイルは検索が速いって聞きました
ではなぜソートが遅いのでしょうか?
探検
10GBのCSVファイルのソートが遅いのはなぜですか?
2023/06/12(月) 21:20:45.91ID:F1HJC183
2デフォルトの名無しさん
2023/06/13(火) 08:52:56.97ID:JBnp9ago べ、べつに遅くないし!
2023/06/13(火) 09:49:32.67ID:Xu7LyXF8
4デフォルトの名無しさん
2023/06/13(火) 09:53:59.11ID:meEyuUg2 マジレスしとくと
スレタイの "10GB" と >>1 の質問が無関係だな
スレタイの "10GB" と >>1 の質問が無関係だな
2023/06/13(火) 13:36:34.95ID:4HUnX0Fj
さっき霊魂を見たんですが、どうしたらいいですか
2023/06/13(火) 16:18:52.30ID:u7AmJNUj
「…見なかったことにしといてやる!」と宣言すればおけ
2023/06/13(火) 19:37:20.82ID:ixSRP7mF
よかろう、ならばビットマップファイルだ
2023/06/22(木) 06:41:18.88ID:k/qBouFf
9デフォルトの名無しさん
2023/06/29(木) 13:51:47.41ID:IO1TL2jD 10GBだから
10デフォルトの名無しさん
2023/06/30(金) 03:16:09.95ID:KO9roK1Y 昭∞!!!!
大∞!!!!!
昇∞!!!!!!
漠∞!!!!!!!
大∞!!!!!
昇∞!!!!!!
漠∞!!!!!!!
11デフォルトの名無しさん
2023/08/09(水) 07:21:27.86ID:Bb1AJAu+12デフォルトの名無しさん
2023/08/09(水) 07:46:15.85ID:Aj0Whal0 >>11
じゃあ君は速いとでも?w
じゃあ君は速いとでも?w
13デフォルトの名無しさん
2023/08/09(水) 07:47:25.44ID:Aj0Whal0 CSVのソートが遅いのは社会的共同体の中で自然に共有されうる普遍的事実である
2023/08/09(水) 10:35:23.16ID:ZMTba8c6
まぁRDBMS使った方がいいわな
15デフォルトの名無しさん
2023/08/09(水) 11:06:02.05ID:qEKEd4/l 何をつかっても遅いものは遅いw
2023/08/09(水) 15:27:00.04ID:a25ApkGr
実装次第で遅くなりそうなケースだな
フレームワークとコピペだけで戦ってきたやつには荷が重いだろう
フレームワークとコピペだけで戦ってきたやつには荷が重いだろう
2023/08/09(水) 16:22:02.52ID:coMLMuQp
jsonやmessagepackよりは速いかも知れないな
18デフォルトの名無しさん
2023/08/10(木) 00:02:20.56ID:gjwqjVE1 10GBはファイルの大きさであって、データの件数ではないんだよな
2023/08/10(木) 01:18:52.99ID:qMn8aig+
10GB のデータをソートするには、
並べ替えた途中経過のデータも持っておく必要があるから、
100GBぐらいのメモリが必要なのでは?
メモリが少ないと、途中経過のデータをハードディスクに保存して、
メモリを空けないといけない。スワップ
並べ替えた途中経過のデータも持っておく必要があるから、
100GBぐらいのメモリが必要なのでは?
メモリが少ないと、途中経過のデータをハードディスクに保存して、
メモリを空けないといけない。スワップ
20デフォルトの名無しさん
2023/08/10(木) 01:20:23.88ID:lIBN6+0k >>18
レコード数を3とする、ソートせよ
レコード数を3とする、ソートせよ
21デフォルトの名無しさん
2023/08/10(木) 02:07:49.13ID:ljCEt4I+ ソートのキーだけでいい
2023/08/10(木) 10:55:32.60ID:AypbHuiV
メモリーに乗りそうな大きさに分割してソートして
それをマージソートするのが一番早いんじゃね?
それをマージソートするのが一番早いんじゃね?
23デフォルトの名無しさん
2023/08/10(木) 11:29:41.03ID:YYBOmFjO >>20
レコード数が1でソートの必要がないかも知れない。
レコード数が1でソートの必要がないかも知れない。
24デフォルトの名無しさん
2023/08/10(木) 11:33:16.87ID:YYBOmFjO >>1
検索早くないのでは?要するにただのテキストの塊なので grep コマンドとか使って検索できるってだけのことで、その状態ではインデックスなしの全検索だから遅くなると思う。
検索早くないのでは?要するにただのテキストの塊なので grep コマンドとか使って検索できるってだけのことで、その状態ではインデックスなしの全検索だから遅くなると思う。
レスを投稿する
ニュース
- TBS系「クレイジージャーニー」来年3月終了へ ゴールデン昇格当初は高視聴率も最近は低迷 [jinjin★]
- 【野球】メジャー挑戦・村上宗隆 22日に期限迫るも市場沈黙… 三振率や変化球対応を懸念 「日本Uターン」悪夢が現実味 米報道 [冬月記者★]
- 高市首相、円安・物価高で利上げ容認 昨年「あほ」と批判も…就任後は財政拡張批判も意識 ★2 [蚤の市★]
- マクドナルド、チキンマックナゲット30ピース(ソース6個付き)通常1480円が、950円に [お断り★]
- 松村沙友理「いい女っていっぱいおるけどいい男あんまおらんくない?30オーバーでいい男性ってみんな結婚してる」★2 [muffin★]
- 人気YouTuberヒカル、進撃のノアとの離婚を発表! 「0日婚」からわずか6か月、スピード離婚の真相を激白 [冬月記者★]
- 36歳ママ、自宅で16歳の長男と11歳の二男と9歳の三男を斧などで殺した後に子殺し自殺 夕方帰宅したパパが家に入れず110番して発覚 東京 [597533159]
- 【悲報】高市早苗「ウクライナに4700億円支援するぞー!」 [616817505]
- 【速報】日英GDP逆転、世界6位の経済規模に転落 [237216734]
- 【実況】博衣こよりのえちえちスーパーダンガンロンパ8🧪
- 【高市】処方箋1100品目を自費負担にすることを自民と維新が合意、来年実施へ「解熱剤、湿布、アレルギー、アトピー薬など」 [817260143]
- 【動画】モスクワ小学校に侵入した無差別殺人事件の犯人(15歳少年)目線のカメラ、怖すぎる [632966346]
