学习目标:
通过安装python的fake_useragent第三方库,使用它生成随机User-Agent请求网站,以此突破反爬。
目录
User-agent
安装fake_useragent库
导入模块
生成useragent字符串
request模块使用示例:
User-agent
user-agent:检验请求者的用户代理,包含请求者的浏览器、操作系统版本和cpu等信息,以此来判断是否为机器人。
安装fake_useragent库
cmd命令行中输入以下命令进行安装:
pip install fake_useragent
导入模块
from fake_useragent import UserAgent
生成useragent字符串
生成随机useragent
us = UserAgent().random
生成chrome浏览器useragent
us = UserAgent().chrome
使用示例:
us = UserAgent().chrome
print(type(us))
print(us)
输出结果:
<class 'str'>
Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2227.1 Safari/537.36
request模块使用示例:
from fake_useragent import UserAgent
url = 'https://www.baidu.com'
headers = {'User-Agent' : UserAgent().random}
res = requests.get(url, headers = headers)
print(res.status_code)
输出:
200