`cat -v` para caracteres UTF não-ascii não imprimíveis

`cat -v` para caracteres UTF não-ascii não imprimíveis

cattem uma -vopção que converte caracteres não imprimíveis em sua notação circunflexa (o que é útil se não quisermos que o terminal interprete os caracteres de controle literalmente na catsaída).

Mas, pelo que entendi, a notação de acento circunflexo se aplica apenas a caracteres não imprimíveis no alfabeto ASCII. E quanto aos caracteres não imprimíveis em UTF que não se enquadram em ASCII (por exemplo,https://www.compart.com/en/unicode/category/Cc)? Que notação será cat -vusada para exibi-los?

Responder1

Podemos gerar um arquivo contendo os primeiros 256 caracteres Unicode em UTF-8 com:

python3 -c 'for x in range(0,255): print(chr(x), end="")' > unicode-file

Isso inclui os controles não-ASCII (C1) no Suplemento Latin-1 e também muitos caracteres de impressão.

Agora podemos cat -v:

^@^A^B^C^D^E^F^G^H
^K^L^M^N^O^P^Q^R^S^T^U^V^W^X^Y^Z^[^\^]^^^_ !"#$%&'()*+,-./0123456789:;
<=>?@ABCDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijklmnopqrstuvwxyz{|}~^?
M-BM-^@M-BM-^AM-BM-^BM-BM-^CM-BM-^DM-BM-^EM-BM-^FM-BM-^GM-BM-^HM-BM-^I
M-BM-^JM-BM-^KM-BM-^LM-BM-^MM-BM-^NM-BM-^OM-BM-^PM-BM-^QM-BM-^RM-BM-^S
M-BM-^TM-BM-^UM-BM-^VM-BM-^WM-BM-^XM-BM-^YM-BM-^ZM-BM-^[M-BM-^\M-BM-^]
M-BM-^^M-BM-^_M-BM- M-BM-!M-BM-"M-BM-#M-BM-$M-BM-%M-BM-&M-BM-'M-BM-(M-B
M-)M-BM-*M-BM-+M-BM-,M-BM--M-BM-.M-BM-/M-BM-0M-BM-1M-BM-2M-BM-3M-BM-4M-B
M-5M-BM-6M-BM-7M-BM-8M-BM-9M-BM-:M-BM-;M-BM-<M-BM-=M-BM->M-BM-?M-CM-^@
M-CM-^AM-CM-^BM-CM-^CM-CM-^DM-CM-^EM-CM-^FM-CM-^GM-CM-^HM-CM-^IM-CM-^J
M-CM-^KM-CM-^LM-CM-^MM-CM-^NM-CM-^OM-CM-^PM-CM-^QM-CM-^RM-CM-^SM-CM-^T
M-CM-^UM-CM-^VM-CM-^WM-CM-^XM-CM-^YM-CM-^ZM-CM-^[M-CM-^\M-CM-^]M-CM-^^
M-CM-^_M-CM- M-CM-!M-CM-"M-CM-#M-CM-$M-CM-%M-CM-&M-CM-'M-CM-(M-CM-)M-C
M-*M-CM-+M-CM-,M-CM--M-CM-.M-CM-/M-CM-0M-CM-1M-CM-2M-CM-3M-CM-4M-CM-5M-C
M-6M-CM-7M-CM-8M-CM-9M-CM-:M-CM-;M-CM-<M-CM-=M-CM->

(Eu embrulhei isso manualmente para que fique legível)

Você pode ver que representa U+0080 no início da quarta linha, que é UTF-8 C2 80, como M-BM-^@. M-Brepresenta o byte C2: B é 0x42, portanto M-representa a configuração do bit alto (ou seja, adicionar 0x80). M-^@está fazendo o mesmo para um byte nulo (meta-ctrl-@) - a M-xnotação ^xe é combinada.

O mesmo acontecerá com todos os pontos de código não-ASCII, que consistirão inteiramente em bytes altos em UTF-8 ou em todos os bytes 128-255 em qualquer outra codificação. Diferentes catimplementações podem ter seu próprio comportamento como-v não éuma catopção padrão, mas tanto o GNU cat quanto as versões comuns do BSD se comportam dessa maneira.

informação relacionada