|
在程序中，文本文件
经常用来存储标准的ASCII码文本，比如英文、加减乘除等号这些运算符号。文本文件也可能用于存储一些其他非ASCII字符，如基于
GBK的简体中文，基于BIG5的繁体中文等等。在存储这些字符时需要正确指定文件的编码格式;而在读取这些文本文件时，有时候就需要自动判定文件的编码
格式。
按照给定的字符集存储文本文件时，在文件的最开头的三个字节中就有可能存储着编码信息，所以，基本的原
理就是只要读出文件前三个字节，判定这些字节的值，就可以得知其编码的格式。其实，如果项目运行的平台就是中文操作系统，如果这些文本文件在项目内产生，
即开发人员可以控制文本的编码格式，只要判定两种常见的编码就可以了：GBK和UTF-8。由于中文Windows默认的编码是
GBK，所以一般只要判定UTF-8编码格式。
对于UTF-8编码格式的文本文件，其前3个字节的值就是-17、-69、-65，所以，判定是否是
UTF-8编码格式的代码片段如下：
测试文件编码是否为UTF-8
File file = new File(path);
InputStream ios = new
java.io.FileInputStream(file);
byte[] b = new byte[3];
ios.read(b);
ios.close();
if (b[0] == -17 && b[1] == -69
&& b[2] == -65)
System.out.println(file.getName() +
“：编码为UTF-8″);
else
System.out.println(file.getName() +
“：可能是GBK，也可能是其他编码。”);
上述代码只是简单判定了是否是UTF-8格式编码的文本文件，如果项目对要判定的文本文件编码不可控
(比如用户上传的一些HTML、XML等文本)，可以采用一个现成的开源项目：cpdetector，它所在的网址
是：http://www.oschina.net/p/cpdetector。它的类库很小，只有500K左右，利用该类库判定文本文件的代码如下：
FileEncodeDetector
package cn.edu.cqu.tiger;
import
info.monitorenter.cpdetector.io.ASCIIDetector;
import
info.monitorenter.cpdetector.io.CodepageDetectorProxy;
import
info.monitorenter.cpdetector.io.JChardetFacade;
import
info.monitorenter.cpdetector.io.ParsingDetector;
import
info.monitorenter.cpdetector.io.UnicodeDetector;
import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
public class FileEncodeDetector {
public static String getFileEncode(String path) {
/*------------------------------------------------------------------------
detector是探测器，它把探测任务交给具体的探测实现类的实例完成。
cpDetector内置了一些常用的探测实现类，这些探测实现类的实例可以通过add方法
加进来，如ParsingDetector、
JChardetFacade、ASCIIDetector、UnicodeDetector。
detector按照“谁最先返回非空的探测结果，就以该结果为准”的原则返回探测到的
字符集编码。
使用需要用到三个第三方JAR包：antlr.jar、chardet.jar和
cpdetector.jar
cpDetector是基于统计学原理的，不保证完全正确。
--------------------------------------------------------------------------*/
CodepageDetectorProxy detector =
CodepageDetectorProxy.getInstance();
/*-------------------------------------------------------------------------
ParsingDetector可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用
于
指示是否显示探测过程的详细信息，为false不显示。
---------------------------------------------------------------------------*/
detector.add(new ParsingDetector(false));
/*--------------------------------------------------------------------------
JChardetFacade封装了由Mozilla组织提供的JChardet，它可以完成大多数文
件的编码
测定。所以，一般有了这个探测器就可满足大多数项目的要求，如果你还不放心，可以
再多加几个探测器，比如下面的ASCIIDetector、UnicodeDetector等。
---------------------------------------------------------------------------*/
detector.add(JChardetFacade.getInstance());//用到
antlr.jar、chardet.jar
// ASCIIDetector用于ASCII编码测定
detector.add(ASCIIDetector.getInstance());
// UnicodeDetector用于Unicode家族编码的测定
detector.add(UnicodeDetector.getInstance());
java.nio.charset.Charset charset = null;
File f = new File(path);
try {
charset =
detector.detectCodepage(f.toURI().toURL());
} catch (Exception ex) {
ex.printStackTrace();
}
if (charset != null)
return charset.name();
else
return null;
}
public static void main(String[] args) throws
IOException,
FileNotFoundException {
String path = "J:\\Unicode\\ub.txt";
//Windows下 Unicode探测后得到Windows-1252
String encode = getFileEncode(path);
if("Windows-1252".equalsIgnoreCase(encode))
encode = "Unicode";
File file = new File(path);
InputStream ios = new
java.io.FileInputStream(file);
byte[] b = new byte[3];
ios.read(b);
ios.close();
if (b[0] == -17 && b[1] == -69
&& b[2] == -65)//文件头
System.out.println(file.getName() +
"：编码为UTF-8");
else
System.out.println(file.getName() +
"：可能是GBK，也可能是其他编码。");
BufferedReader bufferedReader = new
BufferedReader(
new InputStreamReader(new FileInputStream(file),
encode));
System.out.println(encode);
System.out.println(bufferedReader.readLine().substring(1));//
去掉第一行中的文件头
}
}
上面代码中的detector不仅可以用于探测文件的编码，也可以探测任意输入的文本流的编码，方法是
调用其重载形式：
charset=detector.detectCodepage(InputStream in,
int length);
上面的字节数由程序员指定，字节数越多，判定越准确，当然时间也花得越长。要注意，字节数的指定不能超
过文本流的最大长度。
判定文件编码的具体应用举例：
属性文件(.properties)是Java程序中的常用文本存储方式，象STRUTS框架就是利用
属性文件存储程序中的字符串资源。它的内容如下所示：
#注释语句
属性名=属性值
读入属性文件的一般方法是：
FileInputStream ios=new
FileInputStream(“属性文件名”);
Properties prop=new Properties();
prop.load(ios);
ios.close();
利用java.io.Properties的load方法读入属性文件虽然方便，但如果属性文件中有中
文，在读入之后就会发现出现乱码现象。发生这个原因是load方法使用字节流读入文本，在读入后需要将字节流编码成为字符串，而它使用的编码是“iso-
8859-1”,这个字符集是ASCII码字符集，不支持中文编码，所以这时需要使用显式的转码：
String value=prop.getProperty(“属性名”);
String encValue=new
String(value.getBytes(“iso-8859-1″),”属性文件的实际编码”);
在上面的代码中，属性文件的实际编码就可以利用上面的方法获得。当然，象这种属性文件是项目内部的，我
们可以控制属性文件的编码格式，比如约定采用
Windows内定的GBK，就直接利用”gbk”来转码，如果约定采用UTF-8，也可以是使用”UTF-8″直接转码。如果想灵活一些，做到自动探测
编码，就可利用上面介绍的方法测定属性文件的编码，从而方便开发人员的工作。
可以用下面代码获得Java支持编码集合：
Charset.availableCharsets().keySet();
可以用下面的代码获得系统默认编码：
Charset.defaultCharset();
|
