python 关于Max retries exceeded with url 的错误

2023-10-30

在爬取boss直聘时出现这种错误,于是搜索了网上很多文章,总结如下:
1.http连接太多没有关闭导致的,解决方法:

import requests
requests.adapters.DEFAULT_RETRIES = 5 # 增加重连次数
s = requests.session()
s.keep_alive = False # 关闭多余连接
s.get(url) # 你需要的网址

2.访问次数频繁,被禁止访问,解决方法:使用代理

import requests
s = requests.session()
url = "https://mail.163.com/"
s.proxies = {"https": "47.100.104.247:8080", "http": "36.248.10.47:8080", }
s.headers = header
s.get(url)

查找代理的网址:http://ip.zdaye.com/shanghai_ip.html#Free
使用代理时需注意:
1.代理分为http和https两种,不能用混,如果把http的代理用作https也是会报上面的错误;
2.上面的代理以字典格式传入,例如上面的例子,可以是“47.100.104.247:8080”这种格式,也可以是“https://47.100.104.247:8080”这种格式;
3.如果代理不可用一样会报上面的错误。
以下方法判断代理是否可用:

import requests
s = requests.session()
url = "https://mail.163.com/"
s.keep_alive = False
s.proxies = {"https": "47.100.104.247:8080", "http": "36.248.10.47:8080", }
s.headers = header
r = s.get(url)
print r.status_code  # 如果代理可用则正常访问,不可用报以上错误
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

python 关于Max retries exceeded with url 的错误 的相关文章

随机推荐

  • MSF令牌窃取

    令牌简介及原理 令牌就是系统的临时密钥 相当于账户名和密码 原来决定是否允许这次请求和判断是属于哪一个用户的 他允许你不提供密码或其他凭证的前提下访问网络和系统资源 令牌最大的特点就是随机性 不可预测 一般黑客或软件无法猜测出来 令牌有很多
  • Docker 镜像和容器的导入导出及常用命令

    作者 微枫Micromaple 来源 CSDN博客 Docker 镜像和容器的导入导出 1 1 镜像的导入导出 1 1 1 镜像的保存 通过镜像ID保存 方式一 docker save image id gt image save tar
  • Redis数据迁移:方法二AOF

    启动2个实例 开启AOF备份 源实例 127 0 0 1 7000 目标实例 127 0 0 1 8000 127 0 0 1 7000 中有k1 k100 一共100个key 文件目录如下 7000 conf配置如下 standalone
  • 计算机用户帐户域怎么查找,win7计算机域怎么查?小编教你查看计算机域、工作机组的方法...

    win7计算机域怎么查 当我们在同一个工作机组的情况下我们可以互相访问传输文件 非常方便 但是有的用户的工作机组或者域不同导致无法正常使用局域网的现象 这个时候我们就可以通过查看这些计算机使用的域工作机组是否一致 在 域 模式下 至少有一台
  • 突破50亿美元的想象:RPA市场持续被看好

    RPA 机器人流程自动化 指用软件机器人实现业务处理的自动化 是当下科技领域最热门的一个领域之一 RPA机器人使用用户界面 UI 捕获数据并模拟人类操作应用程序 它们能够模仿大多数人类用户的行为 识别 触发 响应并和其他系统进行通信 以此来
  • 控制台运行XX.jar时出现 “jar中没有主清单属性“解决方法

    1 首先我是用Maven导出到包 得到的jar文件保存在 2 在这个文件目录下cmd运行 执行java jar 01helloworld jar这句命令提示出现 XX jar中没有主清单属性 3 解决方法 有两种解决办法 springboo
  • 上传本地Vue项目到github和gh-pages预览

    利用git命令将项目上传到github 1 登陆自己的github账号 点击new repository进行创建一个新的仓库 如下图所示 2 用命令将项目上传 1 先进入项目文件夹 通过命令 git init 把这个目录变成git可以管理的
  • webpack5学习笔记—基础篇

    目录 1 webpack 1 1 Webpack是什么 有什么用 1 2 webpack的几个概念 2 webpack的基础使用 3 2 1 安装 3 2 2 webpack配置文件 3 2 3 打包命令 3 资源模块 resource i
  • 小米9008授权账号_小米手表体验:中肯点评,这是一款优点和缺点同样突出的智能手表...

    前不久 小米推出了两款智能手表 一款是方形表盘设计的小米手表 一款是圆形表盘的小米手表Color 除了价格上的区别 小米手表要比小米手表Color功能更丰富些 价格也要比小米手表Color贵一点 虽然小米手表Color的圆形圆盘更好看些 但
  • Android PDF开发:android-pdfview

    Android PDF开发 android pdfview Android平台自身没有直接可以阅读和处理pdf的方案 在github上面有一个第三方开源的pdf开发SDK 其主页地址是 https github com JoanZapata
  • 【Android性能优化】Android图片加载方案--Bitmap的内存管理和优化方案

    转载请注明原文地址 http blog csdn net mxm691292118 article details 51028953 我把Android重难点和读书笔记都整理在github上 https github com miomin
  • 期货交易一个品种好(期货买几个品种好)

    期货新手该做哪个品种 期货新手品种选择 看风险承受能力 风险承受能力较低 建议只交易豆 豆粕 玉米 强麦 籼稻等品种 风险承受能力中等 建议在以上基础上增加白糖 塑料 PTA 豆油 棕榈油 菜籽油 玻璃 螺纹钢 鸡蛋等 风险承受能力较高 那
  • 35岁IT前辈,测试11年,第一次分享面试感悟

    最近几年我一直担任着软件测试面试官的角色 正好过年回来 也差不多金三银四求职季了 所以想写点面试的经验分享给大家 希望能对大家有些帮助 碍于才疏学浅 又是理工出身 字里行间未免词不达意 可能会让大家见笑了 软件测试面试环节 一般求职无非几个
  • java new数组_Java如何使用new创建数组

    java语言使用new操作符来创建数组 语法如下 arrayRefVar new dataType arraySize 上面的语法语句做了两件事 一 使用dataType arraySize 创建了一个数组 二 把新创建的数组的引用赋值给变
  • 零基础入门STM32编程(七)——定时器篇(HAL)

    前情回顾 上一篇讲解了HAL库函数点灯 初步学习了如何使用CUBE MX创建工程文件 以及文末送出了获取HAL库函数API手册方法的小福利 本篇将继续学习HAL库函数中的定时器API使用方法 一 初识定时器 上一篇讲解了使用HAL库函数点灯
  • 浮点数为什么不精确?

    浮点数为什么不精确 其实这句话本身就不精确 相对精确一点的说法是 我们码农在程序里写的10进制小数 计算机内部无法用二进制的小数来精确的表达 什么是二进制的小数 就是形如 101 11 数字 注意 这是二进制的 数字只能是0和1 101 1
  • Excel技巧-动态引用其他Sheet中的内容

    本文讲述了如何根据单元格内容为参数动态引用Excel其他单元格中的内容 这些单元格可能是同一个sheet 也可以是不同的sheet 主要使用了两个函数 Address 用来动态生成单元格地址 Syntax ADDRESS row num c
  • matlab绘制正弦波频谱图,matlab对正弦信号作FFT得到频谱图

    转自 https www cnblogs com alexanderkun p 4723577 html https blog csdn net qq 36024066 article details 89491650 一 FFT物理意义如
  • vue2-vant组件库-van-search获取焦点方法

    vue2 vant组件库 van search获取焦点方法 场景 1 进入搜索页时 搜索输入框自动获取焦点 2 点击历史记录 搜索输入框自动获取焦点 思路 1 通过在van search组件标签通过ref获取输入框的dom元素 2 在进入页
  • python 关于Max retries exceeded with url 的错误

    在爬取boss直聘时出现这种错误 于是搜索了网上很多文章 总结如下 1 http连接太多没有关闭导致的 解决方法 import requests requests adapters DEFAULT RETRIES 5 增加重连次数 s re