使用HttpClient和Jsoup快捷抓取和分析页面

仪山湖 发布于 2013/09/03 18:11
阅读 13K+
收藏 18

最近在写一个小爬虫,准备爬一部分网页数据,来做模型训练,在考虑如何抓取网页及分析网页时,参考了OSC站中一些项目,特别是@黄亿华写的《webmagic的设计机制及原理-如何开发一个Java爬虫》这篇文章给了不少启发,webmagic是一个垂直的爬虫,而我要写的是一个比较通用的爬虫,主要爬起中文的网站的内容,对于HTTP协议及报文的处理,没有比HttpClient组件更好的选择了,对于HTML代码的解析,在比较HTMLParser和Jsoup后,后者在API的使用上优势明显,简洁易懂。所使用的开源组件定下来后,接着开始思考如何抓取和解析这两个基本功能。

对于我的爬虫抓取这部分功能来说,只要根据网页的URL抓取HTML代码,再从HTML代码中的解析出链接和<p>标签的文本即可以,因此解析的结果可以用一个Page类来表示,这个类纯粹是一个POJO,那么如何使用HttpClient和Jsoup直接解析成Page对象?

在HttpClient 4.2中,提供了ResponseHandler<T>这个接口来负责处理HttpResponse,因此,借助实现这个接口,可以所返回的HTML代码解析成所需要的Page对象,主要的思路是先把HttpResponse中的数据读出来,变换成HTML代码,然后再用jsoup解析<p>标签和<a>标签。代码如下,

public class PageResponseHandler implements ResponseHandler<Page> {

    private Page page;

    public PageResponseHandler(Page page) {
	this.page = page;
    }

    public void setPage(Page page) {
	this.page = page;
    }

    public Page getPage() {
	return page;
    }

    @Override
    public Page handleResponse(HttpResponse response) throws ClientProtocolException, IOException {

	StatusLine statusLine = response.getStatusLine();
	HttpEntity entity = response.getEntity();

	if (statusLine.getStatusCode() >= 300) {
	    EntityUtils.consume(entity);
	    throw new HttpResponseException(statusLine.getStatusCode(), statusLine.getReasonPhrase());
	}

	if (entity == null)
	    return null;

	// 利用HTTPClient自带的EntityUtils把当前HttpResponse中的HttpEntity转化成HTML代码
	String html = EntityUtils.toString(entity);


	Document document = Jsoup.parse(html);
	Elements links = document.getElementsByTag("a");

	for (int i = 0; i < links.size(); i++) {
	    Element link = links.get(i);
	    page.addAnchor(link.attr("href"), link.text());
	}

	// parse context of plain text from HTML code,
	Elements paragraphs = document.getElementsByTag("p");
	StringBuffer plainText = new StringBuffer(html.length() / 2);
	for (int i = 0; i < paragraphs.size(); i++) {
	    Element paragraph = paragraphs.get(i);
	    plainText.append(paragraph.text()).append("\n");
	}
	page.setPlainText(plainText.toString());

	return page;
    }

}
代码不超过40行,非常简单,现在可以直接返回Page对象了,写一个测试类,来测试这个PageResponseHandler.测试这个类的功能也不需要复杂的代码。

public class PageResponseHandlerTest {

    HttpClient httpclient;

    PageResponseHandler pageResponseHandler;

    final String url = "http://news.163.com/13/0903/11/97RHS2NS0001121M.html";

    Page page = new Page(url);

    @Before
    public void setUp() throws Exception {
	httpclient = new DefaultHttpClient();
	HttpGet httpget = new HttpGet(url);
	pageResponseHandler = new PageResponseHandler(page);
	httpclient.execute(httpget, pageResponseHandler);
    }

    @After
    public void tearDown() throws Exception {
	httpclient.getConnectionManager().shutdown();
    }

    @Test
    public void test() {
	System.out.println(page.getPlainText());
	assertTrue(page.getPlainText().length() > 0);
	assertTrue(page.getAnchors().size() > 0);
    }
}
到目前为止,这个爬虫中的抓取和分析功能部分都工作的很好,对于中文,也能很好的解析,比较细心的读者会看到,这些代码中并没有设置字符集,也没有进行字符集进行转换,稍后会讲到HttpClient 4.2组件中字符集的处理。

先回顾一下关于HTTP协议的RFC规范中Content-Type作用,它指明发送给接收者Http Entity内容的媒介类型,对于文本类型的HttpEntity而言,它通常是下面的形式,指定HttpEntity的媒介类型,使用了何种字符集进行编码的,此外RFC规范还规定了,在Content-Type没有指定字符集的情况,默认使用ISO-8859-1字符集对Http Entity进行编码

Content-Type: text/html; charset=UTF-8
说到这里,大家应该能猜到HttpClient 4.2是如何能正确的进行编码的----就是利用Content-Type头中所包含的字符集作为编码的输入源。具体的代码可以看EntityUtils这个类的第212行开始的代码。EntityUtils首先从HttpEntity对象中获取Content-Type, 如果Content-Type的字符集不为空,则使用Content-Type对象中指定的字符集进行编码,否则使用开发者指定的字符集进行编码,如果开发者也没有指定字符集,使用默认的字符集iso-8859-1进行编码,当然编码实现,还是调用JDK的Reader类。

ContentType contentType = ContentType.getOrDefault(entity);
            Charset charset = contentType.getCharset();
            if (charset == null) {
                charset = defaultCharset;
            }
            if (charset == null) {
                charset = HTTP.DEF_CONTENT_CHARSET;
            }
            Reader reader = new InputStreamReader(instream, charset);
            CharArrayBuffer buffer = new CharArrayBuffer(i);
            char[] tmp = new char[1024];
            int l;
            while((l = reader.read(tmp)) != -1) {
                buffer.append(tmp, 0, l);
            }
            return buffer.toString();

开放的互联网造就繁荣的网站的同时,也给非遵循HTML规范的网站一些机会,有一些中文网站,没有正确的设置HTTP请求相应头中的Content-Type属性,导致HttpClient用默认的iso-8859-1字符集对Http Entity内进行编码,因此为了防止HttpClient在爬取中文网站出现乱码的问题,可以指定一个默认的GBK字符集,对原有的PageResponseHandler中的那行转换字符串的代码修改成

String html = EntityUtils.toString(entity, Charset.forName("gbk"));
至此,爬虫的爬取和解析功能都完成了,再也不怕没有正确设置Content-Type头的中文网站。希望这个篇文章能对读者有用。

@仪山湖

加载中
0
把妹达人老张
把妹达人老张
呵呵 utf8 网站肯定乱码
仪山湖
仪山湖
如果网页有明确的Content-Type,不会出现乱码,如果没有,默认GBK,如果没有明确Content-Type, 默认的编码又不是gbk,则会出现乱码
返回顶部
顶部