C++ system() 引发 ENOMEM

这个问题是一个M(not)WE这个的question。我写了一段代码来重现该错误：

#include <cstdlib>
#include <iostream>
#include <vector>

int *watch_errno = __errno_location();

int main(){
    std::vector<double> a(7e8,1);  // allocate a big chunk of memory
    std::cout<<std::system(NULL)<<std::endl;
}

它必须编译g++ -ggdb -std=c++11（Debian 上的 g++ 4.9）。笔记 那int *watch_errno仅当允许 gdb 监视时有用errno.

当它运行在gdb，我明白了：

(gdb) watch *watch_errno 
Hardware watchpoint 1: *watch_errno
(gdb) r
Starting program: /tmp/bug 
Hardware watchpoint 1: *watch_errno

Old value = <unreadable>
New value = 0
__static_initialization_and_destruction_0 (__initialize_p=1, __priority=65535) at bug.cpp:10
10      }
(gdb) c
Continuing.
Hardware watchpoint 1: *watch_errno

Old value = 0
New value = 12
0x00007ffff7252421 in do_system (line=line@entry=0x7ffff7372168 "exit 0") at ../sysdeps/posix/system.c:116
116     ../sysdeps/posix/system.c: No such file or directory.
(gdb) bt
#0  0x00007ffff7252421 in do_system (line=line@entry=0x7ffff7372168 "exit 0") at ../sysdeps/posix/system.c:116
#1  0x00007ffff7252510 in __libc_system (line=<optimized out>) at ../sysdeps/posix/system.c:182
#2  0x0000000000400ad8 in main () at bug.cpp:9
(gdb) l
111     in ../sysdeps/posix/system.c
(gdb) c
Continuing.
0
[Inferior 1 (process 5210) exited normally]

因为某些原因errno被设定为ENOMEM在第 9 行，对应于system()称呼。请注意，如果向量的尺寸较小（我猜它 取决于您将运行代码的计算机），代码工作正常并且system(NULL)当 shell 可用时返回 1。

为什么是旗帜ENOMEM上调？为什么代码不使用交换内存？这是一个错误吗？有解决方法吗？会popen or exec*照着做？ （我知道，每个帖子我应该只问一个问题，但所有这些问题都可以总结为“发生了什么事？”）

根据要求，这是结果ulimit -a:

-t: cpu time (seconds)              unlimited
-f: file size (blocks)              unlimited
-d: data seg size (kbytes)          unlimited
-s: stack size (kbytes)             8192
-c: core file size (blocks)         0
-m: resident set size (kbytes)      unlimited
-u: processes                       30852
-n: file descriptors                65536
-l: locked-in-memory size (kbytes)  64
-v: address space (kbytes)          unlimited
-x: file locks                      unlimited
-i: pending signals                 30852
-q: bytes in POSIX msg queues       819200
-e: max nice                        0
-r: max rt priority                 0
-N 15:                              unlimited

这里的相关部分strace -f myprog

mmap(NULL, 5600002048, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7faa98562000
rt_sigaction(SIGINT, {SIG_IGN, [], SA_RESTORER, 0x7fabe622b180}, {SIG_DFL, [], 0}, 8) = 0
rt_sigaction(SIGQUIT, {SIG_IGN, [], SA_RESTORER, 0x7fabe622b180}, {SIG_DFL, [], 0}, 8) = 0
rt_sigprocmask(SIG_BLOCK, [CHLD], [], 8) = 0
clone(child_stack=0, flags=CLONE_PARENT_SETTID|SIGCHLD, parent_tidptr=0x7fff8797635c) = -1 ENOMEM (Cannot allocate memory)
rt_sigaction(SIGINT, {SIG_DFL, [], SA_RESTORER, 0x7fabe622b180}, NULL, 8) = 0
rt_sigaction(SIGQUIT, {SIG_DFL, [], SA_RESTORER, 0x7fabe622b180}, NULL, 8) = 0
rt_sigprocmask(SIG_SETMASK, [], NULL, 8) = 0
fstat(1, {st_mode=S_IFCHR|0620, st_rdev=makedev(136, 1), ...}) = 0
mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7fabe6fde000
write(1, "0\n", 20
)                      = 2
write(1, "8\n", 28
)                      = 2
munmap(0x7faa98562000, 5600002048)      = 0

这是 free 的输出：

           total       used       free     shared    buffers     cached
Mem:       7915060    1668928    6246132      49576      34668    1135612
-/+ buffers/cache:     498648    7416412
Swap:      2928636          0    2928636

The system()函数的工作原理是首先创建进程的新副本fork()或类似的（在 Linux 中，这最终出现在clone()系统调用，如您所示），然后在子进程中调用exec创建一个运行所需命令的 shell。

The fork()如果新进程没有足够的虚拟内存，调用可能会失败（即使您打算立即用更小的占用空间替换它，内核也无法知道这一点）。某些系统允许您用分叉大型进程的能力来换取减少页面错误可能失败的保证，并使用写时复制（vfork()）或内存过量使用（/proc/sys/vm/overcommit_memory and /proc/sys/vm/overcommit_ratio).

请注意，上述内容同样适用于可能创建新进程的任何库函数 - 例如popen()。虽然不是exec()，这样replaces该过程并且不会克隆它。

如果提供的机制不足以满足您的用例，那么您可能需要实现自己的system()替代品。我建议尽早启动一个子进程（在分配大量内存之前），其唯一的工作是接受NUL- 分隔命令行stdin并报告退出状态stdout.

后一种解决方案的伪代码概述如下：

int request_fd[2];
int reply_fd[2];

pipe(request_fd);
pipe(reply_fd);

if (fork()) {
    /* in parent */
    close(request_fd[0]);
    close(reply_fd[1]);
} else {
    /* in child */
    close(request_fd[1]);
    close(reply_fd[0]);
    while (read(request_fd[0], command)) {
        int result = system(command);
        write(reply_fd[1], result);
    }
    exit();
}

// Important: don't allocate until after the fork()
std::vector<double> a(7e8,1);  // allocate a big chunk of memory

int my_system_replacement(const char* command) {
    write(request_fd[1], command);
    read(reply_fd[0], result);
    return result;
}

您需要参考手册页在整个过程中添加适当的错误检查。您可能希望使其更加面向对象，并且可能使用 iostream 进行读写操作等。