wordpress自动采集插件crawling 附教程

一、关于插件

Crawling是一款WordPress下的自动采集爬虫插件，能够自动采集爬取目标网站内容并自动发布。

插件开源免费。爬虫漫步版权所有。

二、下载和安装

首先，下载最新版，得到crawling_v*.tar.gz。

然后，解压压缩包，上传到wordpress插件目录。激活插件。

使用教程

使用教程

三、任务管理

一个任务可以理解为一个爬虫，在这里你可以配置多个任务，每个任务可以单独设置参数。

每个任务单独设置的参数

以采集互联网那些事 http://www.yixieshi.com 该网站为例，这里只需要右键查看网页源代码，即可知道相应的链接 Xpath 规则是如何的，在我们目标网站中，文章的链接在网站 h2 标签下的 a 标签，所以规则就写//h2/a，即可。如下图所示。

同理，文章标题匹配方式为文章页源代码中<div class=”post-main clearfix”>标签下的 h1 标签，那么我们匹配的时候按照 Xpath 规则，写为//div[@class=”post-main clearfix”]/h1 即可，@的作用是选中 class=”post-main clearfix”的 div 标签，按照这样的规则，再将文章内容匹配的标签规则写上，即可开始采集。

还有更多高级功能，如翻页，内容过滤等，完全可以实现自定义采集目标网站内的任意内容。

不足之处，在实际运行这个插件中，发现，如果目标网站的文章链接为相对链接，则无法采集成功（此处也可能是小编对 Xpath 的规则掌握尚浅），所以选定目标网站时候，需要先查看一下，确认该网站的文章链接为绝对链接才行。