私有云采集节点管理以及优化.docxVIP

  • 10
  • 0
  • 约2.35千字
  • 约 10页
  • 2018-10-09 发布于天津
  • 举报
私有云采集节点管理以及优化.docx

八爪鱼·云采集网络爬虫软件 八爪鱼·云采集网络爬虫软件 私有云采集节点管理以及优化 本教程主要针对私有云用户,通过讲解如何管理账号下的云采集节点,优化分配策略,提高采集效率。 私有云用户可以在官网的用户中心,查看到当前账号下云节点负载,当多任务并发的时候,可以给紧急的任务多分配一些节点数,提高任务优先级,更合理有效地利用云节点。 登录用户中心后,在左侧可以看见【任务和云节点管理】 任务管理?: 此界面将会显示在客户端配置好的任务,默认选中的是运行中的任务,任务类型中可以更换状态查询该状态下的任务情况。 任务名称:任务的名称,可在客户端进行编辑。 子任务数:当前任务可拆分为多少个子任务。 子任务为1时,表示该任务未进行拆分(任务本身不支持拆分或勾选了云采集不拆分)。子任务大于1时表示已进行拆分。云采集之所以可以实现加速,就是将一个任务拆分成多个子任务,然后多个云节点并发执行子任务(一个云节点同一时间只能运行一个子任务)。任务能拆分的子任务数越大,能同时执行云采集的云节点就越多,采集速度相对而言越快。 运行子任务数:当前正在采集数据的子任务数。所有任务在运行的子任务数之和小于等于账号节点数。 等待子任务数:还未运行的子任务 完成子任务数:已完成采集的子任务数 采集文件数:当前已采集到的数据量 优先级:数字越小优先级越高,优先级高的越先运行 云节点占有量:默认为2,可自

文档评论(0)

1亿VIP精品文档

相关文档