Selenium被禁止的解决方法

selenium被禁止的解决方法

遇到问题：

selenium做爬虫能解决很多反爬问题，但是selenium也有很多特征可以被识别，比如用selenium驱动浏览器后window.navigator.webdriver值是true，而正常运行浏览器该值是未定义的(undefined)

3步解决方案，实测有效

测试网址：https://antispider1.scrape.cuiqingcai.com/

第一步，使用chrome开发者模式

options = webdriver.ChromeOptions()
options.add_experimental_option('excludeSwitches', ['enable-automation'])

第二步，禁用启用Blink运行时的功能

options.add_argument("--disable-blink-features=AutomationControlled")

第三步，Selenium执行cdp命令

再次覆盖window.navigator.webdriver的值

driver = webdriver.Chrome(options=options)
    driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
        "source": """
                    Object.defineProperty(navigator, 'webdriver', {
                      get: () => undefined
                    })
                  """
    })