crawlab: golang 实现的分布式爬虫管理平台

Crawlab

中文 | English

基于Golang的分布式爬虫管理平台，支持Python、NodeJS、Go、Java、PHP等多种编程语言以及多种爬虫框架。

安装

三种方式:

要求（Docker）

Docker 18.03+
MongoDB 3.6+
Docker Compose 1.24+ (可选，但推荐)

要求（直接部署）

Go 1.15+
Node 12.20+
MongoDB 3.6+

快速开始

docker-compose

docker-compose.yml

运行

Docker

docker-composedocker-compose.yml

http://localhost:8080

Docker部署的详情，请见相关文档。

直接部署

请参考相关文档。

截图

登陆页

主页

节点列表

爬虫列表

爬虫概览

爬虫文件

任务日志

任务结果

定时任务

架构

Crawlab的架构包括了一个主节点（Master Node）和多个工作节点（Worker Node），以及 SeaweeFS (分布式文件系统) 和 MongoDB 数据库。

前端应用与主节点 (Master Node) 进行交互，主节点与其他模块（例如 MongoDB、SeaweedFS、工作节点）进行通信。主节点和工作节点 (Worker Nodes) 通过 gRPC (一种 RPC 框架) 进行通信。任务通过主节点上的任务调度器 (Task Scheduler) 进行调度分发，并被工作节点上的任务处理模块 (Task Handler) 接收，然后分配到任务执行器 (Task Runners) 中。任务执行器实际上是执行爬虫程序的进程，它可以通过 gRPC (内置于 SDK) 发送数据到其他数据源中，例如 MongoDB。

主节点

主节点是整个Crawlab架构的核心，属于Crawlab的中控系统。

主节点主要负责以下功能:

爬虫任务调度
工作节点管理和通信
爬虫部署
前端以及API服务
执行任务（可以将主节点当成工作节点）

主节点负责与前端应用进行通信，并将爬虫任务派发给工作节点。同时，主节点会同步（部署）爬虫到分布式文件系统 SeaweedFS，用于工作节点的文件同步。

工作节点

PubSub

MongoDB

MongoDB是Crawlab的运行数据库，储存有节点、爬虫、任务、定时任务等数据。任务队列也储存在 MongoDB 里。

SeaweedFS

SeaweedFS 是开源分布式文件系统，由 Chris Lu 开发和维护。它能在分布式系统中有效稳定的储存和共享文件。在 Crawlab 中，SeaweedFS 主要用作文件同步和日志存储。

前端

Frontend app is built upon Element-Plus, a popular Vue 3-based UI framework. It interacts with API hosted on the Master Node, and indirectly controls Worker Nodes.

前端应用是基于 Element-Plus 构建的，它是基于 Vue 3 的 UI 框架。前端应用与主节点上的 API 进行交互，并间接控制工作节点。

与其他框架的集成

helper

集成 Scrapy

settings.pyITEM_PIPELINESdict

然后，启动 Scrapy 爬虫，运行完成之后，您就应该能看到抓取结果出现在 任务详情 -> 数据 里。

通用 Python 爬虫

将下列代码加入到您爬虫中的结果保存部分。

然后，启动爬虫，运行完成之后，您就应该能看到抓取结果出现在 任务详情 -> 数据 里。

其他框架和语言

CRAWLAB_TASK_ID

与其他框架比较

现在已经有一些爬虫管理框架了，因此为啥还要用Crawlab？

因为很多现有当平台都依赖于Scrapyd，限制了爬虫的编程语言以及框架，爬虫工程师只能用scrapy和python。当然，scrapy是非常优秀的爬虫框架，但是它不能做一切事情。

Crawlab使用起来很方便，也很通用，可以适用于几乎任何主流语言和框架。它还有一个精美的前端界面，让用户可以方便的管理和运行爬虫。

框架	技术	优点
Golang + Vue	不局限于 scrapy，可以运行任何语言和框架的爬虫，精美的 UI 界面，天然支持分布式爬虫，支持节点管理、爬虫管理、任务管理、定时任务、结果导出、数据统计、消息通知、可配置爬虫、在线编辑代码等功能	暂时不支持爬虫版本管理
Python Flask + Vue	精美的 UI 界面，内置了 scrapy 日志解析器，有较多任务运行统计图表，支持节点管理、定时任务、邮件提醒、移动界面，算是 scrapy-based 中功能完善的爬虫管理平台	不支持 scrapy 以外的爬虫，Python Flask 为后端，性能上有一定局限性
Python Django + Vue	Gerapy 是崔庆才大神开发的爬虫管理平台，安装部署非常简单，同样基于 scrapyd，有精美的 UI 界面，支持节点管理、代码编辑、可配置规则等功能	同样不支持 scrapy 以外的爬虫，而且据使用者反馈，1.0 版本有很多 bug，期待 2.0 版本会有一定程度的改进
Python Flask	基于 scrapyd，开源版 Scrapyhub，非常简洁的 UI 界面，支持定时任务	可能有些过于简洁了，不支持分页，不支持节点管理，不支持 scrapy 以外的爬虫