finndycloud 正在参加 2021 年度 OSC 中国开源项目评选,请投票支持!
finndycloud 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾
finndycloud 获得 2021 年度 OSC 中国开源项目评选「最佳人气项目」 !
授权协议 Apache-2.0
开发语言 PHP 查看源码 »
操作系统 跨平台
软件类型 开源软件
所属分类 大数据其他
开源组织
地区 国产
投 递 者 midy
适用人群 未知
收录时间 2018-05-17

软件简介

发源地开源云采集引擎

发源地云采集引擎是由发源地研发团队开发的一套开源分布式云采集工具化引擎,致力于让用户快捷挖掘大数据矿山背后的价值! 发源地云采集引擎完全基于云端,集数据采集、清洗、去重、加工于一体的互联网WEB/APP数据采集引擎,支持本地化私有部署,可以快速搭建属于自己的大数据云采集爬虫系统。用户可以低成本、高效率完成网页中文本,图片等资源信息的采集,并进行过滤加工,挖掘出精准所需的数据,让数据以结构化的文件包、采集规则算法或API接口方式输出,同时可以选择发布到发源地大数据交易平台进行交易,或导出为Excel、CSV、SQL等格式的文件保存在本地。

特色功能

  • 国内首款开源云采集引擎:无需安装任何软件程序、浏览器插件

  • 海量免费规则:机器学习并覆盖90%网站及APP内数据采集规则

  • 数据/规则交易:支持源规则及数据的交易,让数据更有价值

  • 开放API接口:云端标准化服务API输出,助您大数据轻松落地

  • 工具化平台:数据采集、数据存储及数据应用的完整闭环

  • 脚本化引擎:支持自定义PHP脚本配置,实现更智能的机器人

  • 多扩展字段:支持50个信息字段采集,多维度获取数据

  • 数据安全:内置多重数据过滤模块,同时支持SQL/XSS过滤方案

  • 分布式采集:开源分布式采集系统,有效提升云采集效率

  • 秒级同步:即时高效的自动化分布式平台,数据即刻获取

  • 私有化部署:支持多服务器私有/本地部署,数据本地化存储

  • 全球高匿名节点:5000+高匿名节点IP,采集不再受到IP访问限制

安装说明

nginx下配置www主机域名主目录设置为[根目录]或[public目录](推荐配置后者)。

以下目录须设置为可写操作权限

  • runtime/

  • data/

  • app/

开发文档

开发手册链接 帮助文档链接

版权信息

本系统遵循Apache2开源协议发布,并提供免费使用。

本项目包含的第三方源码或二进制文件遵循原版权标注。

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

评论 (0)

加载中
更多评论
暂无内容
暂无内容
暂无内容
0 评论
29 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部