同时多个 wget -r 一个站点?

2023-11-21

任何带有选项的命令/wget?

对于多线程递归地同时下载站点?


我找到了一个不错的解决方案。

阅读原文位于http://www.linuxquestions.org/questions/linux-networking-3/wget-multi-threaded-downloading-457375/

wget -r -np -N [url] &
wget -r -np -N [url] &
wget -r -np -N [url] &
wget -r -np -N [url] &

您认为合适的复制次数可以有尽可能多的进程 下载。这不像一个适当的多线程应用程序那么优雅, 但只需少量的开销就可以完成工作。 这里的关键是“-N”开关。这意味着仅传输文件 如果它比磁盘上的内容新。这将(主要)防止 每个进程都从不同的进程下载相同的文件 已经下载了,但跳过该文件并下载其他文件 进程尚未下载。它使用时间戳作为执行操作的手段 这就是轻微的开销。

它对我来说非常有用,并且节省了很多时间。不要有太多 进程,因为这可能会使网站的连接饱和并勾选 主人。最多保持在 4 个左右。然而,数字是 仅受两端CPU和网络带宽的限制。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

同时多个 wget -r 一个站点? 的相关文章

  • 使用 WF 的多线程应用程序的错误处理模式?

    我正在写一个又长又详细的问题 但只是放弃了它 转而选择一个更简单的问题 但我在这里找不到答案 应用程序简要说明 我有一个 WPF 应用程序 它生成多个线程 每个线程执行自己的 WF 处理线程和 WF 中的错误 允许用户从 GUI 端进行交互
  • C++11 动态线程池

    最近 我一直在尝试寻找一个用于线程并发任务的库 理想情况下 是一个在线程上调用函数的简单接口 任何时候都有 n 个线程 有些线程比其他线程完成得更快 并且到达的时间不同 首先我尝试了 Rx 它在 C 中非常棒 我还研究了 Blocks 和
  • 理解 JavaScript 的单线程本质

    我一直在阅读 John Resig 的 JavaScript Ninja 的秘密 它解释了 JavaScript 是单线程的 但是 我尝试对此进行测试 但我不确定要从这里删除什么 executing this in browser func
  • 如何限制Erlang VM(BEAM)使用的核心数量?

    我正在具有 2 个四核 Xeon E5520 2 2GHz 24 0GB RAM 和 Erlang R15B02 启用 SMP 的节点上运行实验 我想知道是否可以限制Erlang VM使用的核心数量 以便我可以暂时禁用一些核心并逐步增加数量
  • 如何使用 runOnUiThread 而不出现“无法对非静态方法进行静态引用”编译器错误

    我有一个主课 ClientPlayer extends Activity 和一项服务 LotteryServer extends Service implements Runnable 当尝试在此服务的 run 方法中使用 RunOnUiT
  • 信号处理程序有单独的堆栈吗?

    信号处理程序是否有单独的堆栈 就像每个线程都有单独的堆栈一样 这是在 Linux C 环境中 来自 Linux 手册页signal 7 http kernel org doc man pages online pages man7 sign
  • 终结器线程的范围是什么 - 每个应用程序域或每个进程?

    根据我的所有阅读 应该有一个 GC 线程来调用所有终结器 现在的问题是这个 一个 线程的范围是什么 每个进程或每个应用程序域 因为域的整体目的是在一个进程空间中分离并创建 独立 的不同应用程序 I read here http dn cod
  • 使我的 COM 程序集调用异步

    我刚刚 赢得 了在当前工作中维护用 C 编码的遗留库的特权 这个dll 公开使用 Uniface 构建的大型遗留系统的方法 除了调用 COM 对象之外别无选择 充当此遗留系统与另一个系统的 API 之间的链接 在某些情况下 使用 WinFo
  • 这个等待通知线程语义的真正目的是什么?

    我刚刚遇到一些代码 它使用等待通知构造通过其其他成员方法与类中定义的线程进行通信 有趣的是 获取锁后 同步范围内的所有线程都会在同一锁上进行定时等待 请参见下面的代码片段 随后 在非同步作用域中 线程执行其关键函数 即 做一些有用的事情1
  • 异步回调在哪个线程上运行?

    我正在做几个HttpWebRequest BeginGetResponse调用 并在回调方法中BeginGetResponse 我正在调用一个事件处理程序 在EventHandler中 有测试下载是否成功的逻辑 如果没有 它会尝试重新下载
  • 在不支持线程的程序加载的共享库中使用 C++11 多线程

    我目前正在尝试在共享库中使用 C 11 多线程 该库加载到 Linux 上的主程序 用 C 编写 中 这是一个大型模拟程序的一部分 我无法更改有关库加载的任何内容或更改一般的主程序 主程序是用 gcc 4 1 2 编译的 我没有它的源代码
  • 为什么 Web Worker 性能在 30 秒后急剧下降?

    我正在尝试提高在网络工作人员中执行时脚本的性能 它旨在解析浏览器中的大型文本文件而不会崩溃 一切都运行得很好 但我注意到使用网络工作者时大文件的性能存在严重差异 于是我做了一个简单的实验 我在同一输入上运行脚本两次 第一次运行在页面的主线程
  • .NET UI 元素线程限制的原因

    我们知道 除了实例化元素的线程之外 不可能从任何线程执行操作任何 UI 元素属性的代码 我的问题是 为什么 我记得当我们使用 COM 用户界面元素时 在 COM Visual Basic 6 0 时代 所有 UI 元素都是使用 COM 类和
  • 赋值运算符“=”是原子的吗?

    我正在使用全局变量实现线程间通信 global var volatile bool is true true thread 1 void thread 1 while 1 int rint rand 10 if is true cout l
  • 导致崩溃转储的 Java 错误的解决方法

    我开发的一个程序偶尔会由于这个错误而导致 JVM 崩溃 http bugs java com bugdatabase view bug do bug id 8029516 http bugs java com bugdatabase vie
  • 模拟pytest中的异常终止

    我的多线程应用程序遇到了一个错误 主线程的任何异常终止 例如 未捕获的异常或某些信号 都会导致其他线程之一死锁 并阻止进程干净退出 我解决了这个问题 但我想添加一个测试来防止回归 但是 我不知道如何在 pytest 中模拟异常终止 如果我只
  • 为什么 gcc 链接时没有 lpthread 标志?

    我当时正在做一个业余爱好项目 其中互斥体的行为很神秘 我将其归结为这个显然应该陷入僵局的测试用例 include
  • MFC 中位图背景绘制的线程类型

    我有一个 MFC 文档 视图 C 图形应用程序 它将所有绘图都绘制到离屏位图 然后将其复制到 OnDraw 方法中提供的 CDC 指针 在过去的几天里 我一直在寻找将绘图组件放置在单独的工作线程中 这样它就不会停止 GUI 当我执行此操作时
  • Condition 接口中的 signalAll 与对象中的 notificationAll

    1 昨天我才问过这个问题条件与等待通知机制 https stackoverflow com questions 10395571 condition vs wait notify mechanism 2 我想编辑相同的内容并在我的问题中添加
  • 主线程如何在该线程之前运行?

    我有以下代码 public class Derived implements Runnable private int num public synchronized void setA int num try Thread sleep 1

随机推荐

  • 模式匹配是多余的

    Haskell 堆栈构建工具 我有代码 quote Char quote doubleQuote Char doubleQuote isBorder Char gt Bool isBorder quote True isBorder dou
  • body 标签内的 document.ready

    我有一个包含通用 HTML 标头的 Web 应用程序 因此我想在每个页面中放置特定于页面的脚本 而不是加载所有内容 我尝试把document ready 接近尾声时一个页面 它似乎工作正常 将其放在那里而不是放在里面是否有任何潜在危险 雅虎
  • 使 DHTMLEd 控件用弯引号替换直引号的代码

    我有一个旧的 VB6 应用程序 它使用 DHTML 编辑控件作为 HTML 编辑器 Microsoft DHTML 编辑控件 又名 DHTMLEd 可能只不过是一个在内部使用 IE 自己的本机编辑功能的 IE 控件 I d like to
  • git 2.20.1.windows.1 不支持 http.sslverify=false

    在 Windows 版 git 的最新更新 事实上 我进行了新安装 之后 我无法再通过 https 连接到特定的远程存储库 它位于一个内部服务器上 该服务器使用自签名证书也已过期一段时间 不要问 它曾经与 Windows 2 16 x ii
  • 如何抑制这个输出?

    我在 R Markdown 文件中有一个代码块 r library UsingR 使用 knitHTML 进行编译会产生以下输出 在我更新到最新版本的 R 和 RStudio 之前从未发生过这种情况 Loading required pac
  • AppEngine 实例的许多自定义域

    对于我们在 AppEngine 上运行的电子商务服务 我们希望为客户提供在其自定义域上运行商店的选项 例如 www mystore com 而不是 www enstore com mystore 从用户的角度来看 我希望他们在首选项屏幕中输
  • 如何在 Electron 中设置 chromium 命令行标志?

    我正在开发一个 Electron 应用程序 需要启用以下 Chromium 标志GuestViewCrossProcessFrames使缩放与 webview 一起工作 我尝试在 main js 中调用以下行 但它似乎不起作用 还尝试为 B
  • Facebook Graph API 限制 [重复]

    这个问题在这里已经有答案了 我进行了研究 得出的结论是 Facebook Graph API 限制是每个访问令牌每 600 秒 600 个请求 由于我仅使用新的 Graph API 因此我从未遇到过手动传递访问令牌的需要 我相信人们需要继续
  • javascript html select动态添加optgroup和选项

    假设我有一个
  • 如何使用 SQL Server (Server Management Studio) 存储和检索图像

    我在尝试将文件插入 SQL Server 数据库时遇到困难 我会尽力将其分解 我应该使用什么数据类型来存储图像文件 jpeg png gif 等 现在我的桌子正在使用image数据类型 但我很好奇是否varbinary将是一个更好的选择 我
  • 使用python提取文本文件中两个字符串之间的值

    假设我有一个包含以下内容的文本文件 fdsjhgjhg fdshkjhk Start Good Morning Hello World End dashjkhjk dsfjkhk 现在我需要编写一个 Python 代码 它将读取文本文件并将
  • MySQL查询共同好友[重复]

    这个问题在这里已经有答案了 可能的重复 MYSQL选择共同好友 我有一张友谊表 友谊仅存储在一行中 所以不存在重复的条目 id Person1 Person2 status 1 1 2 friend 2 1 3 friend 3 2 3 f
  • 在python中读取外部sql脚本

    我正在学习如何在 python 中执行 SQL 我知道 SQL 而不是 Python 我有一个外部 sql 文件 它创建数据并将其插入到三个表 Zookeeper Handles Animal 中 然后我有一系列查询来运行表 以下查询位于我
  • R Shiny REST API 通信

    我有一个闪亮的应用程序 它接受 JSON 输入文件 通过分类器运行它并返回分类的 JSON 对象 我希望应用程序能够与 API 进行通信 我希望 API 将文件发布到 Shiny 应用程序 该应用程序将完成其工作并返回分类对象 基本上 我希
  • 如何编写同时适用于 Python 2 和 Python 3 的代码?

    我维护的 Django 网站当前使用 Python 2 7 但我知道几个月后我必须将其升级到 Python 3 如果我现在正在编写必须在 Python 2 中运行的代码 是否有一个Pythonic如果我知道 Python 3 中的语法是什么
  • Laravel 4 + Zurb Foundation 5 的最佳实践?

    TL DR 将 Laravel 4 Zurb Foundation 5 组合 带 Compass 的文件 包管理器和构建工具安排为具有干净公共 静态 部分的一致存储库的最佳方式是什么 我想开始一个新项目 后端基于最新的 Laravel 前端
  • OpenID 端点

    我希望允许用户使用 OpenID 登录我的网站 到目前为止我已经整合了谷歌和雅虎 还有哪些其他流行服务提供 OpenID 登录端点 我对 Windows Live 特别感兴趣 但据我所知 他们最近关闭了端点 我找不到任何有关新端点的信息 F
  • Haskell 中“Except”的复杂性有何用途?

    I 理解 我认为 两者之间有密切的关系Either and Except在 Haskell 中 并且很容易从一种转换为另一种 但我对 Haskell 中处理错误的最佳实践以及在什么情况和场景下我会选择其中之一感到有点困惑 例如 在examp
  • “原子”和非原子有什么区别? [复制]

    这个问题在这里已经有答案了 可能的重复 原子属性与非原子属性 我只是想知道这两行代码有什么区别 property nonatomic retain NSString str and property atomic retain NSStri
  • 同时多个 wget -r 一个站点?

    任何带有选项的命令 wget 对于多线程递归地同时下载站点 我找到了一个不错的解决方案 阅读原文位于http www linuxquestions org questions linux networking 3 wget multi th