HTML 正文提取工具 HtmlSucker

WTFPL
Java
跨平台
2018-01-29
红薯

HtmlSucker 是一个用来从一个网页中提取文章信息的小工具包,例如从网页中提取文章标题、作者、发布时间、 封面图以及文章正文内容。基于 jsoup 库进行 HTML 解析。

HtmlSucker 提取文章正文的原理:分析整个 HTML 文档的所有节点,提取其中包含最多文字的的连续节点。

本项目部分代码参考 Crux 项目,例如 HeuristicString 类。

示例代码:

public static void main(String[] args) throws IOException {
    String url = "https://www.oschina.net/news/92798/micro-match-1-0-1-released";
    System.out.println(HtmlSucker.parse(url, 20000));
}

输出结果:

title:撮合平台 1.0.1 发布 暴露远程调用接口 - 开源中国社区
keywords:开源中国,micro-match,撮合平台 1.0.1 发布 暴露远程调用接口
description:撮合平台 1.0.1 发布 暴露远程调用接口并优化撮合条数算法 1,挂买单接口 2,挂卖单接口 3,撮合接口 4,撮合结果查询接口 详见:https://my.oschina.net/jeffreyning/blog/1612810...
author:
date:null
image:https://www.oschina.net/img/logo_s2.png
content:
<p style="margin:0 0 10px 0;"><a data-traceid="news_detail_above_text_link_1" data-tracepid="news_detail_above_text_link" style="color:#A00;font-weight:bold;" href="http://click.aliyun.com/m/18500/" target="_blank">阿里云高性能云服务器,2折起! &gt;&gt;&gt; &gt;&gt;&gt;</a>&nbsp;&nbsp;<img src="https://my.oschina.net/img/hot3.png" align="" style="max-height: 32px; max-width: 32px;"></p>
<p>撮合平台 1.0.1 发布 暴露远程调用接口并优化撮合条数算法</p>
<p>1,挂买单接口</p>
<p>2,挂卖单接口</p>
<p>3,撮合接口</p>
<p>4,撮合结果查询接口</p>
<p>详见:<a data-cke-saved-href="https://my.oschina.net/jeffreyning/blog/1612810" href="https://my.oschina.net/jeffreyning/blog/1612810" target="_blank">https://my.oschina.net/jeffreyning/blog/1612810</a></p>
的码云指数为
超过 的项目
加载中

评论(9)

lan神
lan神
支持分页吗?
開源中國周杰倫
開源中國周杰倫
我就是刷个分
开源中国首席大弟子
开源中国首席大弟子
一闪一闪亮晶晶
yoblue
yoblue
狗托虽然可能会迟到,但永远不缺席
红薯
红薯 软件作者
请给我的项目 #HtmlSucker# star 一下,最好是满天星
码码码码蛋
这个解析工具有没有用机器学习算法
红薯
红薯 软件作者
#Spring Boot# 一天发两个版本你们怎么不吐槽,干嘛非吐槽我的 #J2Cache##HtmlSucker#
lanybass
lanybass
人太丑,差评
泥人张
泥人张
爱妻体爱闷爱俄吸允者 ..

HtmlSucker 0.0.2 发布,震精 —— 红薯又让我发新闻了

大家好,我不是昨天领盒饭那个编辑。感谢大家对开源中国悲惨的编辑工作现状的同情和支持,我们也想给大家奉献更好更高质量的开源资讯,可偏偏。。。。。。你懂的。。。。。。为了过好年,我还...

2018/01/31 08:18

HtmlSucker 0.0.1 发布,惊恐 —— 红薯又写代码了!!

全体 OSChina 官方程序员都吓屎了,因为红薯又写代码了。这次他撸了个 HtmlSucker ,这个名字一听就很猥琐有没有。而且其实也没什么卵用,无非就是在不知道 HTML 页面规则的情况下,从一个 ...

2018/01/30 08:39

没有更多内容

加载失败,请刷新页面

没有更多内容

暂无问答

暂无博客

返回顶部
顶部