爬虫篇(2.2)使用scrapy-jsonrpc简单教程

2023-11-13

首先安装scrapy-jsonrpc:

pip install scrapy-jsonrpc

打开你的爬虫项目中setting.py文件,加入如下代码进行配置:

EXTENSIONS = {
    'scrapy_jsonrpc.webservice.WebService': 500,
}
JSONRPC_PORT = [6025]
JSONRPC_ENABLED = True

运行爬虫,报错:No module named 'scrapy.spider'

参考文章https://segmentfault.com/q/1010000019376356https://github.com/kadimon/scrapy-jsonrpc后,知道至官方scrapy-jsonrpc未更新,需下载一个非官方插件,下载scrapy_jsonrpc,如下图

将scrapy_jsonrpc文件覆盖原来python安装目录下的python\Lib\site-packages\scrapy_jsonrpc,再次运行,爬虫可以正常启动,浏览器中打开http://localhost:6025/crawler,看到如下界面:

也不知道是否这样就算成功否,虽然有检测,感觉还是不太直观。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

爬虫篇(2.2)使用scrapy-jsonrpc简单教程 的相关文章

  • 图书数据清洗——实验报告

    目录 图书数据清洗 1 图书数据清洗的概念 2 图书数据清洗及可视化的理论基础 3 图书数据清洗的现状及问题 4 图书数据清洗实验报告 1 读数据表 2 提取价格数值 3 提取评论数 4 提取星级数值 5 星级数值除以20 6 出版信息字符
  • “RFID与光伏板的完美融合:探索能源科技的新时代!“

    随着科技的不断发展 人类创造出了许多令人惊叹的发明 其中 RFID Radio Frequency Identification 技术的应用在各个领域日益广泛 最近的研究表明 将RFID技术应用于光伏板领域 不仅可以提高光伏板的效率 还可以
  • acwing 第63场周赛【2022.08.06】

    acwing第63场周赛 2022 08 06 一 4503 数对数量 1 题目描述 2 思路分析 3 代码实现 二 4504 字符串消除 1 题目描述 2 思路分析 3 代码实现 三 4505 最大子集 1 题目描述 2 思路分析 3 代

随机推荐

  • 天猫精灵,还缺点啥?

    我也是99买的天猫精灵 马大侠在下一盘大棋 也用了京东的叮咚 感觉应该是合作开发而已 纯是为了应景 你有我有全都有而已 体验感不行 而且居然这个青春版还不能语音控制了 只能手机APP控制 垃圾 强东比起马大来 格局还是差 话说BATJ里 马
  • pandoc提取word中的图片

    pandoc提取word中的图片 pandoc i xxx docx o xxx tex extract media pathName 会将word中的图片提取到 pathName下的media中 如图所示 更多参数可以参考pandoc的用
  • vi编辑器的使用(2)

    接上篇vi编辑器的使用 1 1 4 光标移动 vi编辑器中的很多命令都是基于光标当前位置的 因此 如何移动光标定位到所需要的位置是一项十分重要的工作 下面进行详细介绍 如无特别说明 下面所讲的命令都是在普通模式下执行 1 向前移动字符 将光
  • [4G/5G/6G专题基础-150]: 6G总体愿景与潜在关键技术白皮书解读-5-缩略语释义

    目录 前言 附录 AI 人工智能 AR 增强现实 Augmented Reality 简称AR DT 数字孪生 MR 混合现实技术 MTP 头动响应 DOICT 数字 运营 信息 通信 FDD 频分双工 FTN 超奈奎斯特准则 IHR 智能
  • 2022跨年-跨年倒计时(烟花)

    前言 2022 HAPPY NEW YEAR 马上都是新的一年了 岁末已至 是结束也是开始 不管这一年好和坏 都将结束 愿来年有趣有盼 无灾无难 你我都要平安才好 善良勇敢 跨年倒计时制作步骤 步骤一 首先在电脑桌面新建txt文本文档 如下
  • 【案例】某物流集团:用数据驱动企业数字化转型

    数据猿导读 数据驱动的数字化转型是一个体系化工作 需要从理论体系 平台工具 数据 组织 机制五个方面 着手 建一个企业级的数据资产平台 梳理清晰整个集团的数据资产 并借助数据和智能的算法 在数据资产中发现新的业务价值点 创新产品和服务 从而
  • 什么是用户体验五要素

    这里是修真院pm小课堂 每篇分享文从 背景介绍 知识剖析 常见问题 解决方案 编码实战 扩展思考 更多讨论 参考文献 八个方面深度解析pm知识 技能 本篇分享的是 什么是用户体验五要素 背景介绍 用户体验五要素是以用户为中心的产品设计 本次
  • Git提交代码到新建的工程

    Git 全局设置 git config global user name luge git config global user email epi 163 com 创建 git 仓库 mkdir flink cd flink git in
  • ModelAndView 传值到 jsp页面 $ 不能取值的原因

    web xml 约束头配置有误 原来不可以的
  • 打开新窗口不用window.open的替代方法

    实现脚本如下
  • ubutnu vins_fisheye编译错误 hidden symbol“ “ in“ “ is referenced by DSO

    usr bin ld home mwy vins fisheye devel lib vins vins node hidden symbol ZN5ceres12CostFunctionD2Ev in usr local lib libc
  • docker centos6 ssh 自启动

    docker centos6 自启动ssh服务 前期准备 下载centos6 6版本镜像 启动容器完善容器环境 修改登录密码 更换yum源地址 推荐使用阿里源http mirrors aliyun com repo Centos 6 rep
  • Linux 磁盘管理,分区,文件系统

    目录 磁盘基本概念 磁盘在Linux中的表示 分区的概念 分区是软件概念 MBR GPT 使用fdisk进行磁盘管理 文件系统 mke2fs mkfs mke2fs mkfs dumpe2fs 日志 e2label fsck file sy
  • 开源学习组织:Datawhale

    这篇文章其实最早成立Datawhale的时候写的 那时候我们还是在读的学生 以下文字一直没有更新 一是希望提醒我们不要忘记初心 二是希望让大家知道 当Datawhale陪伴了学习者成长 做成了一些事 它的起源只是因为播下了一颗理想的种子 申
  • Android12 ---- Material You 应用

    背景 Google android S 新特性 当你更换壁纸 整个手机主题的颜色会根据壁纸的配色方案而改变 也就说 每当你更新壁纸 你的手机界面也会焕然一新 当用户在 Android 12 设备上更改壁纸时 系统会分析图像以选择一种颜色 并
  • Xcode 4 常用快捷键(和 Xcode 3 有些不一样了)

    Xcode 4 常用快捷键 和 Xcode 3 有些不一样了 2011 06 16 Unmi 把 Xcode 由 3 2 5 升级到 Xcode 4 0 2 之后 满以为快捷键总该不会变化太大吧 没想又要经历一个快捷键的适应过程 发现有些在
  • 思维能力的学习

    前言 在工作中 随着工作时间的增长 我们与他人的差异不是知识本身的差异 主要是思维方面的差异 所以我们需要培养自己的思维能力 思维能力的学习 思维是一个具备内在框架和逻辑的系统工程 思维覆盖了学习 认知 问题解决和复盘以及知识库多维度的内容
  • 华为出品Python入门教程:从零基础入门到精通,这一篇就够了

    前言 本文罗列了了python零基础入门到精通的详细教程 内容均以知识目录的形式展开 01 python由来与发展介绍 02 项目开发流程 第一章 markdown编辑器 01 markdown基本语法 02 Typora简介与安装 03
  • 在QT中使用日志系统

    当写好的软件发布出去后 用户遇到死机或一些其他的bug 我们该怎么追踪这些问题呢 这时候日志系统很好的帮助了我们 最近也是参照网络大牛的博客代码实现了log 下面看看代码吧 void outputMessage QtMsgType type
  • 爬虫篇(2.2)使用scrapy-jsonrpc简单教程

    首先安装scrapy jsonrpc pip install scrapy jsonrpc 打开你的爬虫项目中setting py文件 加入如下代码进行配置 EXTENSIONS scrapy jsonrpc webservice WebS