分享

【Java 基础专题】编码与乱码(03)----String的toCharArray()方...

 昵称465563 2010-11-15
【Java 基础专题】编码与乱码(03)----String的toCharArray()方法测试
cobra - 2010-2-22 23:54:00
上一篇:【Java 基础专题】编码与乱码(02)---String的getBytes([encoding])方法测试
  1. package example.encoding;

  2. import java.io.UnsupportedEncodingException;

  3. /** *//**
  4. * The Class GetCharTest.
  5. */
  6. public class GetCharTest {

  7.     /** *//**
  8.     * The main method.
  9.     *
  10.     * @param args the arguments
  11.     */
  12.     public static void main(String args[]) {
  13.         String content = "中文";
  14.         String defaultEncoding = System.getProperty("file.encoding");
  15.         String defaultLnaguage = System.getProperty("user.language");
  16.         System.out.println("System default encoding --- " + defaultEncoding);
  17.         System.out.println("System default language --- " + defaultLnaguage);

  18.         GetCharTest tester = new GetCharTest();
  19.         tester.getCharWithDefaultEncoding(content);
  20.         tester.getCharWithGivenEncoding(content, "ISO-8859-1");
  21.         tester.getCharWithGivenEncoding(content, "GBK");
  22.         tester.getCharWithGivenEncoding(content, "UTF-8");
  23.     }

  24.     /** *//**
  25.     * Gets the char with default encoding.
  26.     *
  27.     * @param content the content
  28.     *
  29.     * @return the char with default encoding
  30.     */
  31.     public void getCharWithDefaultEncoding(String content) {
  32.         System.out.println("\nGet characters with default encoding\n");
  33.         printCharArray(content);
  34.     }

  35.     /** *//**
  36.     * Gets the char with given encoding.
  37.     *
  38.     * @param content the content
  39.     * @param encoding the encoding
  40.     *
  41.     * @return the char with given encoding
  42.     */
  43.     public void getCharWithGivenEncoding(String content, String encoding) {
  44.         System.out.println("\nGet characters with given encoding : " + encoding
  45.                 + "\n");
  46.         try {
  47.             String encodedString = new String(content.getBytes(), encoding);
  48.             printCharArray(encodedString);
  49.         } catch (UnsupportedEncodingException e) {
  50.             e.printStackTrace();
  51.         }
  52.     }

  53.     /** *//**
  54.     * Prints the char array.
  55.     *
  56.     * @param inStr the in str
  57.     */
  58.     public void printCharArray(String inStr) {
  59.         char[] charArray = inStr.toCharArray();

  60.         for (int i = 0; i < inStr.length(); i++) {
  61.             byte b = (byte) charArray;
  62.             short s = (short) charArray;
  63.             String hexB = Integer.toHexString(b).toUpperCase();
  64.             String hexS = Integer.toHexString(s).toUpperCase();
  65.             StringBuffer sb = new StringBuffer();

  66.             // print char
  67.             sb.append("char[");
  68.             sb.append(i);
  69.             sb.append("]='");
  70.             sb.append(charArray);
  71.             sb.append("'\t");

  72.             // byte value
  73.             sb.append("byte=");
  74.             sb.append(b);
  75.             sb.append(" \\u");
  76.             sb.append(hexB);
  77.             sb.append('\t');

  78.             // short value
  79.             sb.append("short=");
  80.             sb.append(s);
  81.             sb.append(" \\u");
  82.             sb.append(hexS);
  83.             sb.append('\t');

  84.             // Unicode Block
  85.             sb.append(Character.UnicodeBlock.of(charArray));

  86.             System.out.println(sb.toString());
  87.         }
  88.         System.out.println("\nCharacters length: " + charArray.length);
  89.     }

  90. }
复制代码
【1】在中文平台下,测试的结果如下:
System default encoding --- GBK
System default language --- zh

Get characters with default encoding

char[0]='中' byte=45 \u2D short=20013 \u4E2D CJK_UNIFIED_IDEOGRAPHS
char[1]='文' byte=-121 \uFFFFFF87 short=25991 \u6587 CJK_UNIFIED_IDEOGRAPHS

Characters length: 2

Get characters with given encoding : ISO-8859-1

char[0]='?' byte=-42 \uFFFFFFD6 short=214 \uD6 LATIN_1_SUPPLEMENT
char[1]='?' byte=-48 \uFFFFFFD0 short=208 \uD0 LATIN_1_SUPPLEMENT
char[2]='?' byte=-50 \uFFFFFFCE short=206 \uCE LATIN_1_SUPPLEMENT
char[3]='?' byte=-60 \uFFFFFFC4 short=196 \uC4 LATIN_1_SUPPLEMENT

Characters length: 4

Get characters with given encoding : GBK

char[0]='中' byte=45 \u2D short=20013 \u4E2D CJK_UNIFIED_IDEOGRAPHS
char[1]='文' byte=-121 \uFFFFFF87 short=25991 \u6587 CJK_UNIFIED_IDEOGRAPHS

Characters length: 2

Get characters with given encoding : UTF-8

char[0]='?' byte=-3 \uFFFFFFFD short=-3 \uFFFFFFFD SPECIALS
char[1]='?' byte=-3 \uFFFFFFFD short=-3 \uFFFFFFFD SPECIALS
char[2]='?' byte=-3 \uFFFFFFFD short=-3 \uFFFFFFFD SPECIALS
char[3]='?' byte=-3 \uFFFFFFFD short=-3 \uFFFFFFFD SPECIALS

Characters length: 4

【2】在英文平台下,测试的结果如下:
System default encoding --- Cp1252
System default language --- en

Get characters with default encoding

char[0]='?' byte=45 \u2D short=20013 \u4E2D CJK_UNIFIED_IDEOGRAPHS
char[1]='?' byte=-121 \uFFFFFF87 short=25991 \u6587 CJK_UNIFIED_IDEOGRAPHS

Characters length: 2

Get characters with given encoding : ISO-8859-1

char[0]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN
char[1]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN

Characters length: 2

Get characters with given encoding : GBK

char[0]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN
char[1]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN

Characters length: 2

Get characters with given encoding : UTF-8

char[0]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN
char[1]='?' byte=63 \u3F short=63 \u3F BASIC_LATIN

Characters length: 2


【结论】

和getBytes(ncoding)不同,toCharArray()返回的是"自然字符"。但是这个"自然字符"的数目和内容却是由原始的编码方式决定的。来看看里面是如何进行字符串的操作的:
  1. String encodedString = new String(content.getBytes(), encoding);
  2. char[] charArray = inStr.toCharArray();
复制代码
可以看到系统首先对原始字符串按照默认的编码方式进行编码,得到一个字节数组,然后按照指定的新的编码方式进行解码,得到新的编码后的字符串。再转换成对应的字符数组。

由于在中文平台下,默认的字符集编码是GBK,于是content.getBytes()得到的是什么呢?就是下面这4个字节:
  1. byte[0] = -42 hex string = ffffffd6
  2. byte[1] = -48 hex string = ffffffd0
  3. byte[2] = -50 hex string = ffffffce
  4. byte[3] = -60 hex string = ffffffc4
复制代码
如果新的encoding是GBK,那么经过解码后,由于一个字符用2个字节表示。于是最终的结果就是:
  1. char[0]='中' --- byte[0] + byte[1]
  2. char[1]='文' --- byte[2] + byte[3]
复制代码
如果新的encoding是ISO-8859-1,那么经过解码后,由于一个字符用1个字节表示,于是原来本应该2个字节一起解析的变成单个字节解析,每个字节都代表了一个汉字字符的一半。这一半的字节在ISO-8859-1中找不到对应的字符,就变成了"?"了,最终的结果:
  1. char[0]='?' ---- byte[0]
  2. char[1]='?' ---- byte[1]
  3. char[2]='?' ---- byte[2]
  4. char[3]='?' ---- byte[3]
复制代码
如果新的encoding是UTF-8,那么经过解码后,由于一个字符用3个字节表示,于是原来4个字节的数据无法正常的解析成UTF-8的数据,最终的结果也是每一个都变成"?"。
  1. char[0]='?' ---- byte[0]
  2. char[1]='?' ---- byte[1]
  3. char[2]='?' ---- byte[2]
  4. char[3]='?' ---- byte[3]
复制代码
如果是在英文平台下,由于默认的编码方式是Cp1252,于是content.getBytes()得到的字节都是被截去一半的残留字符,所以我们看到在英文平台下,不论指定的encoding是GBK、UTF-8,其结果和ISO-8859-1都是一样的。

记住:

这个方法再次证明了String的getBytes()方法的危险性,如果我们使用new String(str.getBytes(), encoding)对字符串进行重新编码解码时,我们一定要清楚str.getBytes()方法返回的字节数组的长度、内容到底是什么,因为在接下来使用新的encoding进行编码解码时,Java并不会自动地对字节数组进行扩展以适应新的encoding。而是按照新的编码方法直接对该字节数组进行解析。

于是结果就像上面的例子一样,同样是4个原始字节,有些每2个一组进行解析,有些每个一组进行解析,有些每3个一组进行解析。其结果就只能看那种编码方式合适了。(文/Paul Lin

下一篇:【Java 基础专题】编码与乱码(04)---输出时的编码与乱码

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多