NOME
UTF-8 − uma codificação Unicode multibyte compatível com ASCII
DESCRIÇÃO
O conjunto de caracteres Unicode ocupa um espaço de código de 16 bits. A codificação Unicode mais óbvia (conhecida como UCS-2) consiste de uma seqüência de palavras de 16 bits. Tais strings podem conter, em sua maior parte, bytes de caracteres de 16 bits, como ’\0’ ou ’/’, que têm um significado especial em nomes de arquivos e outros parâmetros de funções em bibliotecas C. Além disso, a maioria das ferramentas UNIX esperam arquivos ASCII e não podem ler palavras de 16 bits como caracteres sem modificações maiores. Por essas razões, UCS-2 não é uma codificação externa disponível de Unicode em nomes de arquivos, arquivos-texto, variáveis de ambiente, etc. O ISO 10646 Universal Character Set (UCS), um superconjunto de Unicode, ocupa ainda um espaço de código de 31 bits e a óbvia codificação UCS-4 para ele (uma seqüência de palavras de 32 bits) tem o mesmo problema.
A codificação UTF-8 de Unicode e UCS não tem esses problemas e é a maneira de usar o conjunto de caracteres Unicode sob sistemas operacionais do estilo Unix.
PROPIEDADES
A codificação UTF-8 tem as seguintes belas propriedades:
|
* |
caracteres UCS de 0x00000000 a 0x0000007f (os clássicos caracteres US-ASCII) são codificadas simplesmente como bytes de 0x00 a 0x7f (compatibilidade com ASCII). Isto significa que os arquivos e strings que contêm somente caracteres ASCII de 7 bits têm a mesma codificação tanto sob ASCII quanto sob UTF-8. | ||
|
* |
Todos os caracteres UCS > 0x7f são codificados como uma seqüência multibyte, consistindo somente de bytes na faixa de 0x80 a 0xfd, de forma que nenhum byte ASCII apareça como parte de outro caractere e não haja problemas com, por exemplo, ’\0’ ou ’/’. | ||
|
* |
A ordenação lexicográfica das strings UCS-4 é preservada. | ||
|
* |
Todos os 2^31 códigos UCS possíveis podem ser codificados usando-se UTF-8. | ||
|
* |
Os bytes 0xfe e 0xff nunca são usados na codificação UTF-8 | ||
|
* |
O primeiro byte de uma seqüência multibyte que representa um único caractere UCS não-ASCII está sempre na faixa 0xc0 a 0xfd, e indica o tamanho desta seqüência multibyte. Todos os bytes seguintes na seqüência multibyte estão na faixa de 0x80 a 0xbf. Isto permite um ressincronismo fácil e torna a codificação independente de estado, e robusta contra perda de bytes. |
* Caracteres
UTF-8 codificados em UCS podem ter até seis bytes de comprimento, porém os caracteres Unicode só podem ter até três bytes de comprimento. Como o Linux usa somente o subconjunto Unicode de 16 bits do UCS, sob Linux, as seqüências multibytes UTF-8 só podem ter um, dois ou três bytes de comprimento.
CODIFICAÇÃO
As seguintes
seqüências de bytes são usadas para
representar um caractere. A seqüência a ser usada
depende do número de código UCS do caractere:
0x00000000 - 0x0000007F:
0xxxxxxx
0x00000080 - 0x000007FF:
110xxxxx 10xxxxxx
0x00000800 - 0x0000FFFF:
1110xxxx 10xxxxxx 10xxxxxx
0x00010000 - 0x001FFFFF:
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
0x00200000 - 0x03FFFFFF:
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
0x04000000 - 0x7FFFFFFF:
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
As posições de bit xxx são preenchidas com os bits do número do código de caractere na representação binária. Somente a seqüência de multibyte mais curta possível que pode representar o número do código do caractere pode ser usada.
EXEMPLOS
O caractere Unicode 0xa9 = 1010 1001 (o sinal de copyright) é codificado em UTF-8 como
11000010 10101001 = 0xc2 0xa9
e o caractere 0x2260 = 0010 0010 0110 0000 (o símbolo de "diferente") é codificado como:
11100010 10001001 10100000 = 0xe2 0x89 0xa0
PADRÕES
ISO 10646, Unicode 1.1, XPG4, Plan 9.
AUTOR
Markus Kuhn <mskuhn [AT] cip.de>
VEJA TAMBÉM
TRADUZIDO POR LDP-BR em 21/08/2000.
Rubens de Jesus Nogueira <darkseid99 [AT] usa.net> (tradução) André L. Fassone Canova <lonelywolf [AT] blv.br> (revisão)