多处理池示例不起作用并冻结内核

2024-02-28

我正在尝试并行化脚本,但由于未知原因,内核只是冻结而没有抛出任何错误。

最小工作示例:

from multiprocessing import Pool

def f(x):
  return x*x

p = Pool(6)
print(p.map(f, range(10)))   

有趣的是,如果我在另一个文件中定义函数然后导入它,一切都会正常工作。我怎样才能让它工作而不需要另一个文件?

我使用spyder(anaconda),如果我从Windows命令行运行我的代码,我会得到相同的结果。


发生这种情况是因为当您的子进程导入时,您没有保护代码的“过程”部分不被重新执行f.

他们需要进口f, 因为Windows不支持分叉作为新进程的启动方法(仅spawn)。一个新的Python进程必须从头开始,f导入并且此导入还将触发在所有子进程中创建另一个池...及其子进程和子进程...

为了防止这种递归,你必须插入一个if __name__ == '__main__':- 上部部分(应在导入时运行)和下部部分(应仅在脚本作为主脚本执行时运行)之间的行(仅适用于父脚本)。

from multiprocessing import Pool

def f(x):
  return x*x

if __name__ == '__main__': # protect your program's entry point

    p = Pool(6)
    print(p.map(f, range(10))) 

当与“spawn”或“forkserver”启动方法而不是默认的“fork”一起使用时,在 Windows 和 Unix-y 系统上进行多处理时,必须如此分离代码。一般来说,启动方法可以修改为multiprocessing.set_start_method(method) https://docs.python.org/3/library/multiprocessing.html#multiprocessing.set_start_method.

Since Python 3.8 https://docs.python.org/3/whatsnew/3.8.html#multiprocessing, macOS还使用“spawn”而不是“fork”作为默认值。

分开通常是一个好习惯any脚本位于上方的“定义”和下方的“作为主执行”,以使代码可导入,而无需执行仅在作为顶级脚本运行时相关的部分。最后但并非最不重要的一点是,当您不混合定义和执行时,它有助于理解程序的控制流。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

多处理池示例不起作用并冻结内核 的相关文章

随机推荐

  • 为什么 MultiMap 中不保留插入顺序?

    public class MultiMap Test public static void main String args Multimap
  • Spring MVC 预填充复选框

    首先是一些背景信息 获得了相当标准的用户角色关系 其中用户可以拥有多个角色 我将角色定义为用户类中的一组 现在我知道 html 表单将所有值都作为字符串 并且尝试获取值 因为我的自定义 Role 对象不起作用 我实现了一个 initbind
  • C2440 static_cast 无法从基类转换为派生类

    我试图理解为什么使用指针从基类到派生类的转换编译得很好 但使用非指针对象进行转换会产生错误 C2440 下面我有一个基类ThreadedMessage这是由类继承的GPSMessage struct ThreadedMessage Thre
  • 如何阻止 [Required] 注释在被覆盖的字段上被继承?

    我有一个电话号码通知模型 用户通过与帐户关联的电话号码收到紧急情况通知 并且可以设置呼叫的顺序 大多数时候 模型的电话号码部分是必需的 但在创建新用户时有一种特殊情况 我们不想强制它 我创建了一个非常简单的子对象 UserCreationP
  • 使用 e.stopPropagation() 防止事件冒泡的优点和缺点

    很多人都解释过e stopPropagation 防止事件冒泡 然而 我很难找到why人们首先想要或想要阻止事件冒泡 在我的网站上 我有许多元素 其名称如下 document body on click clickable function
  • 在 pandas 中加载带有二进制数据的 CSV 文件

    我正在尝试解析 CSV 文件 来自外部数据源 其中其中一列使用不一致的字符编码 我不想尝试让数据提供者使用一致的编码 而是只想将该列读取为二进制数据 然而 pandas read csv似乎在解析之前将整个文件解码为字符串 所以这给了我错误
  • 正则表达式包含某些单词但排除另一个单词

    我正在尝试编写一个正则表达式 它将检查 URL 是否包含某些单词并排除另一个单词 原因是我正在尝试跟踪通过我的网站的流量 并且我不想计算点击 谢谢 页面的任何人 例如 http www mywebsite com register now
  • 将字符串编码为字符代码

    我想将电子邮件地址编码为其相应的字符代码 因此在打印时 浏览器会解释字符代码 但机器人会获取编码的字符串而不是解释的字符串 例如 1 email protected cdn cgi l email protection 应按 2 发送到浏览
  • 鼠标悬停在 safari、selenium web 驱动程序中不起作用

    我在 FF 和 chrome 中使用鼠标悬停操作 它工作正常 但同样的代码在 safari 中不起作用 我正在使用 mac OS 和 selenium webdriver 和 java 我尝试了下面的代码 new Actions drive
  • 我可以向通过 MQTT WebSocket 连接的一组 Azure IoT 中心设备发送消息吗?

    Goal 将消息发送到一组通过 MQTT WebSocket 连接的 Azure IoT 中心设备 初步想法 让一组 IoT 中心设备 组 X 订阅主题 X 的消息 Problem On the 使用 MQTT 协议与 IoT 中心通信 h
  • 如何使用 watir-scroll 在表格内滚动

    我有一个应用程序 其中有一个动态表 仅当您向上或向下滚动时才会加载行 Watir scroll 正在滚动整个页面 我可以在该表中执行滚动吗 使元素可滚动通常是通过设置overflow风格 它很可能在一个div其中包含table 例如 div
  • C++ 仅标头包含模式

    我想在 hpp 中编写代码 而不将 h 和 cpp 分开 我做到了 我仅将 cpp 用于静态类字段定义 我不想手动编写 include 如果可能的话 我使用前向声明 我的每个 hpp 文件都包含 pragma 一次 但是 当我的项目增长到
  • Java:转换原始类[重复]

    这个问题在这里已经有答案了 Java中有没有一种简单的方法可以将原始类对象转换为对象类对象 给定一个类 Class cl 我想将其转换为没有基元的类 例如 Class
  • 在属性中实现逻辑是一个好习惯吗

    我们将 ASP NET 与 C 结合使用 根据我浏览过的开源项目 文章 我发现许多属性都包括logic但是当我这样做时 团队负责人告诉我 将逻辑放在属性中根本不好 而是通过方法调用逻辑 那真的很糟糕吗 为什么不在属性中使用逻辑 thanks
  • 关于Python的函数教程中的斐波那契数列示例

    这是什么they http docs python org 2 tutorial controlflow html have def fib n a b 0 1 while a lt n print a a b b a b 这就是我所拥有的
  • 如何将斯皮尔曼相关性 p 值以及相关系数添加到 ggpairs 中?

    使用以下代码在 R 中构建 ggpairs 图形 df 是一个数据帧 包含 6 个连续变量和 1 个Group多变的 ggpairs df 1 columns 1 ncol df 1 mapping ggplot2 aes colour d
  • 补偿 SOA 中继承不足的模式

    我发现继承和基类的概念是 OOP 的最强点 但 SOA 并不鼓励这样做 那么 克服 SOA 中这一限制的流行模式是什么 您能否提供解释这些模式的教程 在 WCF 中提供代码演示 注意 这不是关于 SOA 中可用模式的一般问题 但它更具体地针
  • OpenGL中glActiveTexture和GL_TEXTURE0的作用是什么?

    我正在寻找一种方法来理解原因glActiveTexture是需要的 我有下面的代码 glGenTextures 1 textureId glBindTexture GL TEXTURE 2D textureId 如果我想象的是GL TEXT
  • 如何从函数返回数组?

    如何从方法返回数组 以及必须如何声明它 int test void int test 但使用向量会 更C std vector lt int gt test EDIT我会澄清一些问题 既然你提到了C 我就选择new and delete 运
  • 多处理池示例不起作用并冻结内核

    我正在尝试并行化脚本 但由于未知原因 内核只是冻结而没有抛出任何错误 最小工作示例 from multiprocessing import Pool def f x return x x p Pool 6 print p map f ran