wordpress自动采集插件crawling 附教程

一、关于插件

Crawling是一款WordPress下的自动采集爬虫插件,能够自动采集爬取目标网站内容并自动发布。

插件开源免费。爬虫漫步版权所有。

二、下载和安装

首先,下载最新版,得到crawling_v*.tar.gz。

然后,解压压缩包,上传到wordpress插件目录。激活插件。

使用教程

使用教程

三、任务管理

一个任务可以理解为一个爬虫,在这里你可以配置多个任务,每个任务可以单独设置参数。

每个任务单独设置的参数


以采集互联网那些事 http://www.yixieshi.com 该网站为例,这里只需要右键查看网页源代码,即可知道相应的链接 Xpath 规则是如何的,在我们目标网站中,文章的链接在网站 h2 标签下的 a 标签,所以规则就写//h2/a,即可。如下图所示。

同理,文章标题匹配方式为文章页源代码中<div class=”post-main clearfix”>标签下的 h1 标签,那么我们匹配的时候按照 Xpath 规则,写为//div[@class=”post-main clearfix”]/h1 即可,@的作用是选中 class=”post-main clearfix”的 div 标签,按照这样的规则,再将文章内容匹配的标签规则写上,即可开始采集。

还有更多高级功能,如翻页,内容过滤等,完全可以实现自定义采集目标网站内的任意内容。

不足之处,在实际运行这个插件中,发现,如果目标网站的文章链接为相对链接,则无法采集成功(此处也可能是小编对 Xpath 的规则掌握尚浅),所以选定目标网站时候,需要先查看一下,确认该网站的文章链接为绝对链接才行。

版权声明:
作者:知道君
链接:https://blog.ccswust.org/2195.html
来源:夏末浅笑
文章版权归作者所有,未经允许请勿转载。

THE END
分享
二维码
海报
wordpress自动采集插件crawling 附教程
一、关于插件 Crawling是一款WordPress下的自动采集爬虫插件,能够自动采集爬取目标网站内容并自动发布。 插件开源免费。爬虫漫步版权所有。 二、下……
<<上一篇
下一篇>>