2009-08-19 27 views
68

Estoy probando cómo algunos de mi código maneja los datos de malos, y necesito unas pocas series de bytes que son UTF-8 válido.Ejemplo de cadena utf8 no válida?

Se puede publicar algunos, e idealmente, una explicación de por qué son malas/donde los obtuvo?

+3

Posible duplicado de [UTF-8 datos realmente bueno, malo ejemplo de prueba] (http://stackoverflow.com/questions/1319022/really-good-bad-utf-8-example- prueba de datos) – Claudiu

Respuesta

-2

Pruebas de pelusa - generar una secuencia aleatoria de octetos. Lo más probable es que obtenga algunas secuencias ilegales más temprano que tarde.

+1

No hay nada peor que tener heisenbug o eisentests. Las pruebas pasan 10 veces, libera el producto, la prueba falla. –

+0

@EricDuminil alguna vez oyó hablar de srand()? – shoosh

+0

Bastante justo. ¿Podría mencionarlo en la respuesta para poder revertir mi voto? –

40

En PHP:

$examples = array(
    'Valid ASCII' => "a", 
    'Valid 2 Octet Sequence' => "\xc3\xb1", 
    'Invalid 2 Octet Sequence' => "\xc3\x28", 
    'Invalid Sequence Identifier' => "\xa0\xa1", 
    'Valid 3 Octet Sequence' => "\xe2\x82\xa1", 
    'Invalid 3 Octet Sequence (in 2nd Octet)' => "\xe2\x28\xa1", 
    'Invalid 3 Octet Sequence (in 3rd Octet)' => "\xe2\x82\x28", 
    'Valid 4 Octet Sequence' => "\xf0\x90\x8c\xbc", 
    'Invalid 4 Octet Sequence (in 2nd Octet)' => "\xf0\x28\x8c\xbc", 
    'Invalid 4 Octet Sequence (in 3rd Octet)' => "\xf0\x90\x28\xbc", 
    'Invalid 4 Octet Sequence (in 4th Octet)' => "\xf0\x28\x8c\x28", 
    'Valid 5 Octet Sequence (but not Unicode!)' => "\xf8\xa1\xa1\xa1\xa1", 
    'Valid 6 Octet Sequence (but not Unicode!)' => "\xfc\xa1\xa1\xa1\xa1\xa1", 
); 

De http://www.php.net/manual/en/reference.pcre.pattern.modifiers.php#54805

1

La idea de los patrones de byte-secuencias mal formada puede ser llegar de la tabla de secuencias de bytes bien formados. Consulte "Table 3-7. Well-Formed UTF-8 Byte Sequences" en el estándar Unicode 6.2.

Code Points First Byte Second Byte Third Byte Fourth Byte 
    U+0000 - U+007F 00 - 7F 
    U+0080 - U+07FF C2 - DF 80 - BF 
    U+0800 - U+0FFF E0   A0 - BF  80 - BF 
    U+1000 - U+CFFF E1 - EC 80 - BF  80 - BF 
    U+D000 - U+D7FF ED   80 - 9F  80 - BF 
    U+E000 - U+FFFF EE - EF 80 - BF  80 - BF 
U+10000 - U+3FFFF F0   90 - BF  80 - BF 80 - BF 
U+40000 - U+FFFFF F1 - F3 80 - BF  80 - BF 80 - BF 
U+100000 - U+10FFFF F4   80 - 8F  80 - BF 80 - BF 

Estos son los ejemplos generados a partir de U + 24B62. He usado para un informe de error: Bug #65045 mb_convert_encoding breaks well-formed character

// U+24B62: "\xF0\xA4\xAD\xA2" 
"\xF0\xA4\xAD" ."\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD\xA2" 
"\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD" 

La simplificación excesiva de gama de bytes finales ([0x80, 0xBF]) se puede ver en las diferentes bibliotecas.

// U+0800 - U+0FFF 
\xE0\x80\x80 

// U+D000 - U+D7FF 
\xED\xBF\xBF 

// U+10000 - U+3FFFF 
\xF0\x80\x80\x80 

// U+100000 - U+10FFFF 
\xF4\xBF\xBF\xBF 
1

, ̆ era particularmente malo. Lo veo combinado en ubuntu.

comas breve

Cuestiones relacionadas