Puppeteer：Chromium 实例在 browser.disconnect 后在后台保持活动状态

我的环境

• 傀儡师版本：3.1.0
• 平台/操作系统版本：Windows 10
• Node.js 版本：12.16.1

我的问题是：

我有一个for...of使用 puppeteer 循环访问 3000 多个网址。我用puppeteer.connect to wsEndpoint这样我就可以重用一个浏览器实例。每次访问后我都会断开连接并关闭选项卡。

• 前 100 个网址page.goto立即打开网址，
• 100以上page.goto每个 url 使用 2-3 次重试，
• 300以上page.goto每个 url 使用 5-8 次重试，
• 超过 500 我得到TimeoutError: Navigation timeout of 30000 ms exceeded每时每刻。

我检查了 Windows 任务管理器，发现有数百个 Chromium 实例在后台运行，每个实例使用 80-90MB 的内存和 1-2% 的 CPU。

Question

如何杀死已经断开连接的 Chromium 实例browser.disconnect真正的？

示例脚本

const puppeteer = require('puppeteer')
const urlArray = require('./urls.json') // contains 3000+ urls in an array


async function fn() {
  const browser = await puppeteer.launch({ headless: true })
  const browserWSEndpoint = await browser.wsEndpoint()

  for (const url of urlArray) {
    try {
      const browser2 = await puppeteer.connect({ browserWSEndpoint })
      const page = await browser2.newPage()
      await page.goto(url) // in my original code it's also wrapped in a retry function

      // doing cool things with the DOM

      await page.goto('about:blank') // because of you: https://github.com/puppeteer/puppeteer/issues/1490
      await page.close()
      await browser2.disconnect()
    } catch (e) {
      console.error(e)
    }
  }
  await browser.close()
}
fn()

错误

常见的 puppeteer 超时错误。

TimeoutError: Navigation timeout of 30000 ms exceeded
    at C:\[...]\node_modules\puppeteer\lib\LifecycleWatcher.js:100:111
  -- ASYNC --
    at Frame.<anonymous> (C:\[...]\node_modules\puppeteer\lib\helper.js:94:19)
    at Page.goto (C:\[...]\node_modules\puppeteer\lib\Page.js:476:53)
    at Page.<anonymous> (C:\[...]\node_modules\puppeteer\lib\helper.js:95:27)
    at example (C:\[...]\example.js:13:18)
    at processTicksAndRejections (internal/process/task_queues.js:97:5) {
  name: 'TimeoutError'
}

最后我通过添加达到了预期的结果--single-process and --no-zygote启动时的参数 (+--no-sandbox他们需要）。

正在运行的 Chromium 进程的数量不再呈指数级增长，但只有两个实例保持活动状态：其中一个是第一个位置中常见的空选项卡，第二个由puppeteer.connect({ browserWSEndpoint }).

[...]
  const browser = await puppeteer.launch({
    headless: true,
    args: ['--single-process', '--no-zygote', '--no-sandbox']
  })
  const browserWSEndpoint = await browser.wsEndpoint()
[...]

• --single-process：在与浏览器相同的进程中运行渲染器和插件[source] https://peter.sh/experiments/chromium-command-line-switches/#single-process

• --no-zygote：禁止使用 zygote 进程来派生子进程。相反，子进程将被分叉并直接执行。请注意，--no-sandbox 也应与此标志一起使用，因为沙箱需要 zygote 才能工作。[source] https://peter.sh/experiments/chromium-command-line-switches/#no-zygote