文字コード総合スレ Part11

**デフォルトの名無しさん** · 2018/01/22(月) 22:58:23.45

プログラマーなら一度は煩わされたことのある文字コードについてのスレ。
UTF-8、Shift_JIS、JIS、EUC、Unicode、UCS、サロゲートペア、コードポイント、文字コード判定、
合成文字、ソート、TRON、外字コード、その他について語り合いましょう。
各言語での文字列の扱いについての質問もOKです。
基本マッターリ、ささ、茶でもどうぞ。

■過去スレ
文字コード総合スレ part1 http://pc11.2ch.net/test/read.cgi/tech/1031028205/
文字コード総合スレ part2 http://pc11.2ch.net/test/read.cgi/tech/1143375639/
文字コード総合スレ part3 http://pc11.2ch.net/test/read.cgi/tech/1180250376/
文字コード総合スレ part4 http://pc11.2ch.net/test/read.cgi/tech/1228052369/
　（スレ再利用）UnicodeとUTF-8の違いは？ http://pc12.2ch.net/test/read.cgi/tech/1177930957/
　（隔離スレ）UnicodeとUTF-8の違いは？　その2 http://pc12.2ch.net/test/read.cgi/tech/1274937437/
文字コード総合スレ part5 http://pc12.2ch.net/test/read.cgi/tech/1236529563/
文字コード総合スレ part6 http://hibari.2ch.net/test/read.cgi/tech/1278923059/
文字コード総合スレ part7 http://toro.2ch.net/test/read.cgi/tech/1306595564/
文字コード総合スレ part8 http://peace.2ch.net/test/read.cgi/tech/1354248962/
文字コード総合スレ part9 http://peace.2ch.net/test/read.cgi/tech/1401301779/
文字コード総合スレ Part10 http://mevius.2ch.net/test/read.cgi/tech/1444822140/

**デフォルトの名無しさん** · 2018/07/31(火) 17:52:18.88

将軍様専用ハングル以外にUnicode未収録文字は縞模様の三角とか謎の記号がいくつかあったな。
北朝鮮で使われてるRed Star OSではUnicodeが使われてるけどこれらはPUAに割り当てられてる。
因みにWindowsの北朝鮮版は無い。

>>570
2012年頃の改訂で追加されたらしい。

**デフォルトの名無しさん** · 2018/07/31(火) 23:58:28.90

新元号組み文字はJIS X0213には入れるのかな。
入れるとしたら㍻の1つ前の1面13区62点、シフトでJIS0x877D辺りか。

**デフォルトの名無しさん** · 2018/08/02(木) 01:17:44.00

専用ハングルはなんで「金」とか「日」とか重複する文字を代ごとに別々に入れてるのか謎

**デフォルトの名無しさん** · 2018/08/02(木) 01:31:21.78

>>573
謎か？

**デフォルトの名無しさん** · 2018/08/02(木) 04:36:12.48

最近の文字コードやばない？

**デフォルトの名無しさん** · 2018/08/02(木) 08:45:58.28

文字コードとしては謎だろ
担当は何をしているのか
指摘どころか質問した時点で解雇されるルールでもあるのかよってくらいに謎だわ

**デフォルトの名無しさん** · 2018/08/03(金) 00:21:52.08

やっぱおじいちゃんの金とおとうさんの正をを孫に使ったりしたら怒られるのかな。
グリフを見ただけで誰用の金なのかを見比べるスキルが必要になるんだろうな。

**デフォルトの名無しさん** · 2018/08/03(金) 20:44:28.67

nkfコマンドってなにもオプション指定しないでも文字化け直してくれるんだなw
どうやってるのか知らなくて怖いが（普段はiconv(1)を使ってる）

**デフォルトの名無しさん** · 2018/08/04(土) 01:43:06.83

美乳

**デフォルトの名無しさん** · 2018/08/04(土) 02:59:33.13

>>579
今時EUC-jpが生きてるシステムってあるの？

**デフォルトの名無しさん** · 2018/08/04(土) 04:56:17.77

文字コードの自動判別は、100% 正確じゃない

間違うこともある

**デフォルトの名無しさん** · 2018/08/04(土) 09:23:39.15

bit 順に意味があるんだろうけど
"\xC8\xFE\xC6\xFD"
なんでこれで自動検出できるかの説明が欲しい

**デフォルトの名無しさん** · 2018/08/04(土) 09:42:12.43

〠
http://www.shtml.jp/mojibake/binew.html

**デフォルトの名無しさん** · 2018/08/04(土) 16:00:30.01

UnicodeはUCS-4を基本形にして
UTF-8はUCS-4の圧縮版のような扱いでいいんじゃないか
UCS-4ならCode Chartsに書かれている値をそのまま使うから分かりやすいし
UTF-16は廃止してもいいと思う

**デフォルトの名無しさん** · 2018/08/04(土) 22:01:13.64

わざわざ廃止とかデメリットしかない

**デフォルトの名無しさん** · 2018/08/04(土) 22:35:16.02

WindowsのAPIがUTF-16ベースなのに廃止とか無理でしょ

**デフォルトの名無しさん** · 2018/08/04(土) 23:38:59.79

pcre はutf8対応が不完全。無理もない話だけど。
文字コードのライブラリを作る人からすればutf8よりも、utf16やutf32の方が便利。

**デフォルトの名無しさん** · 2018/08/04(土) 23:53:51.88

そのutf-8の問題は utf-16でもutf-32でも同じなのでは

**デフォルトの名無しさん** · 2018/08/05(日) 03:05:25.66

seekがめんどくさいのがUTF-8の問題だと思うんだけど違うの？

**デフォルトの名無しさん** · 2018/08/05(日) 03:36:24.64

UTF-16はUTF-8とUTF-32のデメリットを兼ね備えていて、
メリットが無いような気がする。

**デフォルトの名無しさん** · 2018/08/05(日) 04:33:54.11

このスレに来るような人が、どうしてutf8とutf16/32が同じと思うのか不思議。
自力で文字判定処理をやったことがないスクリプト言語プログラミング一辺倒の人？

**デフォルトの名無しさん** · 2018/08/05(日) 08:22:11.27

>>591
文字コードに習熟したプログラマしかここに来ちゃいけないのかい？
俺みたいにユニコードとUTFの違いすらよくわからない者が情報を求めて
ここに通うこともあるんだぜ

**デフォルトの名無しさん** · 2018/08/05(日) 08:42:30.75

pythonなんて内部の文字コードutf16だよ。
使う側が意識せずに済んでるってのがむしろ凄いわけで。
utf16要らないとか言ってる人は、事業仕分けでドヤ顔する民主党議員だわ。

**デフォルトの名無しさん** · 2018/08/05(日) 10:13:37.02

仕分けしたからモリカケだけで済んでるんじゃないの？

**デフォルトの名無しさん** · 2018/08/05(日) 12:03:49.97

本当だよ
無駄な予算にかけようとするこういうバカは消えてほしい

**デフォルトの名無しさん** · 2018/08/05(日) 14:46:05.09

UTF-16はいきなり廃止するのは無理でも
新規設計非推奨くらいにはしてほしいよ

**デフォルトの名無しさん** · 2018/08/05(日) 14:49:57.92

WinAPIでUTF-16使ってるから廃止は無理でしょ

**デフォルトの名無しさん** · 2018/08/05(日) 15:00:37.79

UTF-16は世界中の文字を固定長で表せるようにすることが目標だったから
16bitではそれができないと分かった以上32bitに変えるべき

**デフォルトの名無しさん** · 2018/08/05(日) 20:42:38.42

linux64bit版gccは、wchar_tやstd::wstringが既定でutf32だし、徐々に変わっていくでしょう。

**デフォルトの名無しさん** · 2018/08/06(月) 11:54:02.02

win32->win64のタイミングで変えとけばよかったのに

**デフォルトの名無しさん** · 2018/08/06(月) 12:31:26.13

もう一生UTF-16なのかな(´；ω；｀)

**デフォルトの名無しさん** · 2018/08/06(月) 15:04:26.69

>>600
ほんそれ
ついでにシステムロケールもUTF8はよ

**デフォルトの名無しさん** · 2018/08/06(月) 19:56:04.82

必要な時にUTF32を使えればいいだけなのでそんなに深刻がらなくても大丈夫でしょ。

**デフォルトの名無しさん** · 2018/08/06(月) 20:28:33.56

基本は8で臨時は32で答えが出ているよなあ
日本独自のJIS関係とかもう要らないし

**デフォルトの名無しさん** · 2018/08/06(月) 21:09:19.10

そういえば新元号合字ってJIS X 0213とかCP932とかの系統にも入るのかな？
元号合字使ってるとこはUnicodeじゃない古いとこが多そうだからここに入れないと意味半減な気がするけど

**デフォルトの名無しさん** · 2018/08/06(月) 21:18:55.92

印刷に使うワープロソフトはすべてunicode対応しているから大丈夫。

**デフォルトの名無しさん** · 2018/08/07(火) 04:59:39.09

JIS改訂汁

**デフォルトの名無しさん** · 2018/08/07(火) 17:57:38.63

日本語とか東アジア言語はバイト数の面では
UTF8よりUTF16の方が有利になるのだが。

**デフォルトの名無しさん** · 2018/08/07(火) 18:02:30.52

そうでもない

**デフォルトの名無しさん** · 2018/08/07(火) 19:58:16.46

うむ
日本語などの2バイト圏でも8やで

**デフォルトの名無しさん** · 2018/08/07(火) 21:15:40.62

お経とかならそうかも
でも普通の日本語の文書はUTF-8で１バイトになる字がわりと使われてるよね
改行もバカにならない

**デフォルトの名無しさん** · 2018/08/07(火) 21:38:24.37

中国語ならUTF-16のほうが有利？

**デフォルトの名無しさん** · 2018/08/07(火) 23:58:44.52

エディタとかUTF-32に対応してないのが多いよな。
まあ、無駄が多いからな。最上位の1バイトは必ず0x00になるから。

**デフォルトの名無しさん** · 2018/08/08(水) 00:28:20.77

UTF-16は廃止してUTF-20を策定すべき

**デフォルトの名無しさん** · 2018/08/08(水) 00:34:22.04

UTF-24じゃないの

**デフォルトの名無しさん** · 2018/08/08(水) 01:56:39.24

ランダムアクセスが一番早い文字コードはどれよ

**デフォルトの名無しさん** · 2018/08/08(水) 02:09:19.94

余ってる場所を余計なことに使う奴が絶対出てきて、
それを根絶するのに凄い辛い思いをするからヤメレ。

**デフォルトの名無しさん** · 2018/08/08(水) 04:24:19.86

もうこれ人類的に根絶できないんだろうね
一生これなんだろうね

**デフォルトの名無しさん** · 2018/08/08(水) 04:37:42.38

>>615
utf8でいいよ

**デフォルトの名無しさん** · 2018/08/08(水) 08:35:31.20

そういえば、utf9というのもあったな。３６ビットコンピュータに最適だとか。

**デフォルトの名無しさん** · 2018/08/08(水) 14:09:08.17

UTF-7と言う変態も

**デフォルトの名無しさん** · 2018/08/08(水) 16:40:51.17

Base64

**デフォルトの名無しさん** · 2018/08/08(水) 18:02:57.82

UTF-24を策定するべきだな。
全ての文字を24ビット(3バイト)で表す。
UTF-32の0x00で固定な最上位バイトを省くというので。
BMP外の文字だらけの文章には有利になるだろう。

**デフォルトの名無しさん** · 2018/08/08(水) 22:53:07.77

>>623
だな、固定長はUTF-24、可変長はUTF-8でいいだろう

**デフォルトの名無しさん** · 2018/08/08(水) 23:15:02.85

UTF16はいらないとかUTF24がよいとか、変な書き込みする人、同一人物？
CPUのレジスタは32bitまたは64bitなので、1バイトをコピーするのも4バイトをコピーするのも時間コストは同じだよ。

**デフォルトの名無しさん** · 2018/08/08(水) 23:48:28.49

1バイトと4バイトとかミクロの性能比較なんか殆ど意味無い

**デフォルトの名無しさん** · 2018/08/08(水) 23:49:21.32

固定長だなんて幻想をまだ見てるの？

**デフォルトの名無しさん** · 2018/08/08(水) 23:50:49.11

固定長の方が高速で便利ですやん

**デフォルトの名無しさん** · 2018/08/08(水) 23:57:42.55

>>626
大ありですよ。

>>627
固定長の方が条件分岐が減るので処理速度が高く、プログラミングもしやすい。

**デフォルトの名無しさん** · 2018/08/09(木) 01:13:33.46

>>626
ファイルサイズがでかくなればそれだけ処理をする回数が増えるからダイレクトに効いてくる。

**デフォルトの名無しさん** · 2018/08/09(木) 01:20:56.02

CPUひとつあたりの処理速度は10年前とあまり変わってないけど、搭載できるメモリの量は劇的に増えた。
内部実装がUTF32になって文字列リソースが2～4倍になったとしても利用できるメモリはそれ以上に激増しているのでまったく問題なし。
むしろUTF16やUTF32のほうが頭打ちのCPUにも優しい、ということがわかるはず。

**デフォルトの名無しさん** · 2018/08/09(木) 09:34:00.04

16は全然優しくない
24もアライメントを考えると優しくない

**デフォルトの名無しさん** · 2018/08/09(木) 10:29:52.60

よし128だ。

**デフォルトの名無しさん** · 2018/08/09(木) 10:44:02.84

>>625
放っとけば居なくなるのに

**デフォルトの名無しさん** · 2018/08/09(木) 11:03:48.44

>>633
合成やセレクタを撤廃できるのなら128でいいよ

**デフォルトの名無しさん** · 2018/08/09(木) 11:05:58.21

UNCODEv6

**デフォルトの名無しさん** · 2018/08/10(金) 22:27:21.22

UTF24とかメモリアクセス効率悪すぎるだろ。アライン考えろ。
情報交換用文字コードはエンディアンに依存しないUTF8。
内部用の文字コードはアクセス効率が良いUTF32。
貧乏人専用のUTF16。
それぞれ存在理由があるんだよ。

**デフォルトの名無しさん** · 2018/08/10(金) 23:01:06.31

Windowsの場合、プログラムを何も改修することなくUTF16でサロゲートペアの絵文字を使えているでしょ。
もちろん、文字フォントを描画するAPI、つまりマイクロソフトの中の人が頑張っているからだが。

**デフォルトの名無しさん** · 2018/08/10(金) 23:24:23.95

まぁ、Windowsプログラムで、動的に絵文字の肌色・髪色・性別などを変えようと思ったら、
UTF16のサロゲート処理を自分で行う必要があるけどね。

**デフォルトの名無しさん** · 2018/08/11(土) 00:03:26.88

>>637
24が駄目なら8はもっと駄目なんでないの？

**デフォルトの名無しさん** · 2018/08/11(土) 10:22:26.41

だからUTF8は内部利用じゃなくて情報交換用なんだろ。

**デフォルトの名無しさん** · 2018/08/11(土) 10:45:32.80

SJISと取り決めてあるテキストデータにUTF8をぶっこんできた取引先があって
翌朝からの日本社会に大混乱を引き起こしかねない危機に晒された経験がある
UTF8滅ぶべしと俺は本気で思っている

**デフォルトの名無しさん** · 2018/08/11(土) 10:58:00.76

エンコーディングは関係ないだろ。
決めごとを守れないその取引先と異常データを突っ込まれただけで混乱しちゃうプログラムの問題。

**デフォルトの名無しさん** · 2018/08/11(土) 11:30:16.03

何年か前に、地域の緊急速報のテストメールか何かに
エンコーディングを混在させて文字化けを地域住民に送って混乱させたのあったな
メールテンプレートのエンコーディングと、流し込む本文で混在させちゃったみたいな

**デフォルトの名無しさん** · 2018/08/11(土) 11:51:55.94

ないしほてし活復を語本日く書に左らか右どけい良もでき書横

**デフォルトの名無しさん** · 2018/08/11(土) 13:16:33.61

>>644
去年だぞ

**デフォルトの名無しさん** · 2018/08/11(土) 15:11:54.76

546<<
ケォヴわいくにみ読

**デフォルトの名無しさん** · 2018/08/11(土) 15:47:35.74

中東の言語は確か右からだったよな
やろうと思えば簡単そう

**デフォルトの名無しさん** · 2018/08/11(土) 15:56:48.16

TeXって右から書くのにも対応してるっけ

**デフォルトの名無しさん** · 2018/08/11(土) 18:33:53.99

sjisの～とcp932の～の違いって何？
～を入力して検索すると、sjisのほうはヒットしないんよね

**デフォルトの名無しさん** · 2018/08/11(土) 19:10:44.45

>>650
「入力して検索する」
どうやって入力して何を検索するのか他人に分かるように書いたらどうか
入力側がUNICODEで変換不能とかじゃない

**デフォルトの名無しさん** · 2018/08/12(日) 00:02:17.72

＞649

ArabTeX　を使えば出来ます

**デフォルトの名無しさん** · 2018/08/12(日) 14:13:27.50

Draft Emoji Candidates
http://unicode.org/emoji/future/emoji-candidates.html

**デフォルトの名無しさん** · 2018/08/12(日) 14:20:12.48

絵文字がんがん増えてるけど、ぱっと見で見分けが付かない微妙なの多いよなぁ

**デフォルトの名無しさん** · 2018/08/12(日) 14:26:24.04

馬鹿は同じ過ちを繰り返す

**デフォルトの名無しさん** · 2018/08/12(日) 14:35:29.88

そのうち洗練されて象形文字になって、やがて漢字に…あれ?

**デフォルトの名無しさん** · 2018/08/13(月) 14:33:07.24

この際1byteを32bitか64bitにしたらどうよ
1byteが8bitになったのはアルファベットや数字が固定長で表せて
2^nbitで処理しやすかったからなんだろうけど
1byteが32bitか64bitになればエンディアンの問題もなくなって分かりやすくなる

**デフォルトの名無しさん** · 2018/08/13(月) 14:58:06.25

そうなんか？
16新数で2桁でちょうどいいからだと思ってた

**デフォルトの名無しさん** · 2018/08/13(月) 14:59:26.97

あと 8bit を 1byte というけど
4bit のことをなんていうの？

**デフォルトの名無しさん** · 2018/08/13(月) 15:02:02.90

>>657
8bitや16bitのCPUはどうすんの？

**デフォルトの名無しさん** · 2018/08/13(月) 15:15:08.87

>>657

32bitでも、64bitでも、好きな長さを「word」と呼べばいい。
これで、エンディアンの問題もなくなって分かりやすくなるんだよな。

**デフォルトの名無しさん** · 2018/08/13(月) 15:19:57.39

>>659
ニブル - Wikipedia
https://ja.wikipedia.org/wiki/%E3%83%8B%E3%83%96%E3%83%AB

> ニブルは4ビットのことである。

**デフォルトの名無しさん** · 2018/08/13(月) 16:04:07.52

Thx!
DNCL

**デフォルトの名無しさん** · 2018/08/14(火) 02:11:13.81

無理。各コンピュータ内部なら好きなビッド数にすれば良いけど、インターネットのほぼ全ての規格はオクテットが基準になってる。
インターネット全部作り直すくらいやらないと今更変更できない。

**デフォルトの名無しさん** · 2018/08/14(火) 09:43:35.42

byteとoctetを区別すればいいだろ

**デフォルトの名無しさん** · 2018/08/14(火) 12:58:54.95

>>584
昔の ISO/IEC 10646 がそんな感じじゃなかったっけ？
UCS-4 が Four-Octet Canonical Form (4オクテット正規形) と呼ばれてて
UTF-8 や UTF-16 はあくまで Transformation Format だと。

**デフォルトの名無しさん** · 2018/08/14(火) 13:43:48.36

UTF-32に統一できないなら、UTF-8を残そうがUTF-16を残そうが
どちらも大して変わんないんだよね。
UTF-8 も UTF-16 も既存OSの互換性を保つためにあるのだから

UTF-8はANSI互換性というメリットがあるというけれど
なんてことはない、Unix/Linuxの改修が大変だったから、
文字コードのエンコーディング方式自体を作ったってだけの話
互換性のために作ったものだよ

16bitにすべての文字を収めるのは不可能だが、仮に収まったとしたら
UTF-16はサロゲートペアなどなく1文字16bitというシンプルなものになっていた。

もし最初から32bit必要だと認識していれば、UTF-32という1文字32bitに
統一された素晴らしい文字コードになっていただろう
そしてWindowsはそれを標準文字コードとして採用しただろう。
（WindowsがUTF-16なのは、その頃はUnicode = UTF-16の前身のUCS-2 だったから）

結局固定長でないなら、どちらも面倒なことに大差ないし
互換性を保つために面倒な方式を残すのであれば、
それがUTF-8でもUTF-16でも同じこと

**デフォルトの名無しさん** · 2018/08/14(火) 14:30:35.75

UTF-8はエンディアンの問題が無いのが良い

**デフォルトの名無しさん** · 2018/08/14(火) 15:00:48.27

8も16も大して変わらないと言えばそうだけど、種類が少ないに越したことはないし
どっちかひとつ残すならやっぱり8なので、16には退場願いたいね

**デフォルトの名無しさん** · 2018/08/14(火) 15:32:16.19

>>669
Windowsという重要な役目があるので無理だってわかってるだろ？