安卓源码Asp源码Php源码.Net源码Jsp源码其它源码JS特效程序插件程序模板书籍教程
高级搜索
关键字:Discuz!  Axure  团购系统
最新更新发布资源提建议收藏本站
网站源码下载
当前位置:A5下载 > 源码下载 > 其它源码 > 其他网站源码 > wind-bell风铃虫轻量级爬虫工具 v2.2.1

wind-bell风铃虫轻量级爬虫工具 v2.2.1

详细介绍 - [ wind-bell风铃虫轻量级爬虫工具 v2.2.1 ]

wind-bell风铃虫是一款轻量级的爬虫工具,似风铃一样灵敏,如蜘蛛一般敏捷,能感知任何细小的风吹草动,轻松抓取互联网上的内容。它是一款对目标服务器相对友好的蜘蛛程序,内置了二十余种常见或不常见的浏览器标识,能够自动处理cookie和网页来源信息,轻松绕过服务器限制,智能调整请求间隔时间,动态调整请求频率,防止对目标服务器造成干扰。此外,风铃虫还是一款对普通用户十分友好的工具,它提供的大量链接提取器和内容提取器让用户可以随心所欲地快速配置,甚至于只要提供一个开始请求地址就能配置出自己爬虫程序。同时,风铃虫也开放了许多自定义接口,让高级用户能够根据需要自定义爬虫功能。最后,风铃虫还天然支持分布式和集群功能,让你突破单机环境的束缚,释放出你的爬虫能力。可以说,风铃虫几乎能抓取目前所有的网站里的绝大部分内容。

【声明】 请勿将风铃虫应用到任何可能会违反法律规定和道德约束的工作中,请友善使用风铃虫,遵守蜘蛛协议,不要将风铃虫用于任何非法用途。如您选择使用风铃虫即代表您遵守此协议,作者不承担任何由于您违反此协议带来任何的法律风险和损失,一切后果由您承担。

wind-bell风铃虫功能

风铃虫的原理极为简单,主要由 资源调度器、网页下载器、链接解析器、内容解析器、信息输出器 这极大部分组成。
他们的作用与功能如下所示:
资源调度器:负责风铃虫资源的调度过程,例如进行任务的储存、任务的调度和任务的管理
网页下载器:负责根据调度器调度的任务下载网页资源
链接解析器:负责解析网页下载器下载的网页内容,从网页内容中提取出所有符合要求的链接
内容解析器:负责对网页下载器下载的网页内容进行内容解析
信息输出器:输出内容解析器解析出来的数据
其中的链接解析器是由一系列的链接提取器组合而成,目前链接提取器主要是支持正则提取。
内容解析器由一系列的内容提取器组合而成,不同的内容提取器功能不同,适用于不同的解析场景,支持多个提取器的重复、循环等多种组合形式。
上述个组件均提供了自定义配置接口,使用户可以根据实际需要进行自定义配置,满足各种复杂乃至异常场景的要求。

风铃虫内置的内容提取器

原文提取器
中文提取器
常量提取器
CSS内容提取器
CSS文本提取器
邮箱提取器
数字提取器
正则提取器
字符删除提取器
字符替换提取器
字符串截取提取器
XPATH提取器
数组截取

wind-bell风铃虫截图
wind-bell风铃虫
相关阅读

同类推荐:站长常用源码

下载地址 - [ wind-bell风铃虫轻量级爬虫工具 v2.2.1 ]
评论暂时关闭
您喜欢这个源码么?
(0)
0%
(0)
0%
[ 下载地址 ][ 评论吐槽 ]
本类热门源码
  • 源码推荐
  • 软件推荐
关于我们联系我们发布资源广告服务合作伙伴网站地图版权声明与我们对话