python语言和c语言-python和C语言互相调用的几种方式

2023-05-16

Python这些年风头一直很盛,占据了很多领域的位置,Web、大数据、人工智能、运维均有它的身影,甚至图形界面做的也很顺,乃至full-stack这个词语刚出来的时候,似乎就是为了描述它。

Python虽有GIL的问题导致多线程无法充分利用多核,但后来的multiprocess可以从多进程的角度来利用多核,甚至affinity可以绑定具体的CPU核,这个问题也算得到解决。虽基本为全栈语言,但有的时候为了效率,可能还是会去考虑和C语言混编。

混编是计算机里一个不可回避的话题,涉及的东西很多,技术、架构、团队情况、管理、客户等各个环节可能对其都有影响,混编这个问题我想到时候再开一贴专门讨论。本文只讲python和C混编的方式,大致有如下几种方式(本文背景是linux,其他平台可以类比):

共享库

使用C语言编译产生共享库,然后python使用ctype库里的cdll来打开共享库。

举例如下,C语言代码为

/* func.c */

int func(int a)

{

return a*a;

}

python代码为

#!/usr/bin/env python

#test_so.py

from ctypes import cdll

import os

p = os.getcwd() + '/libfunc.so'

f = cdll.LoadLibrary(p)

print f.func(99)

测试如下

$ gcc -fPIC -shared func.c -o libfunc.so

$ ./test_so.py

9801

subprocess

C语言设计一个完整的可执行文件,然后python通过subprocess来执行该可执行文件,本质上是fork+execve。

举例如下,C语言代码为

/* test.c */

#include

int func(int a)

{

return a*a;

}

int main(int argc, char **argv)

{

int x;

sscanf(argv[1], "%d", &x);

printf("%d ", func(x));

return 0;

}

Python代码为

#!/usr/bin/env python

# test_subprocess.py

import os

import subprocess

subprocess.call([os.getcwd()+'/a.out', '99'])

测试如下

$ gcc test.c -o a.out

$ ./test_subprocess.py

9801

C语言中运行python程序

C语言使用popen/system或者直接以系统调用级fork+exec来运行python程序也是一种混编的手段了。

举例如下,Python代码如下

#!/usr/bin/env python

# test.py

import sys

x = int(sys.argv[1])

print x*x

C语言代码如下

/* test.c */

#include

#include

int main()

{

FILE *f;

char s[1024];

int ret;

f = popen("./test.py 99", "r");

while((ret=fread(s,1,1024,f))>0) {

fwrite(s,1,ret,stdout);

}

fclose(f);

return 0;

}

测试如下

$ gcc test.c

$ ./a.out

9801

python对C语言扩展的支持

很多编程语言都为C语言扩展添加了支持,这有两种原因:(1)语言设计之初,可以充分的利用C语言已有的库来做很多扩展;(2)C语言的运行效率高。

python也不例外,从诞生那天起,很多库都是C语言写的。python的C语言扩展中涉及到python的数据结构与C语言的对应,扩展方法其实是用C语言编写一个共享库,只是这个共享库中的接口是一个规范的,可以被python识别的。

为了说明如何扩展,我这里先假设一个在python下的函数功能,代码如下

def func(*a):

res=1

for i in range(len(a)):

res *= sum(a[i])

return res

如上,希望的函数功能是,参数是任意多个数字组成的列表(姑且排除其他数据结构),返回每个列表的元素之和的乘积。

姑且先把python代码写了,如下所示

#!/usr/bin/env python

# test.py

import colin

def func(*a):

res=1

for i in range(len(a)):

res *= sum(a[i])

return res

a = [1,2,3]

b = [4,5,6]

c = [7,8]

d = [9]

e = [10,11,12,13,14]

f = colin.func2(99)

g = colin.func3(a,b,c,d,e)

h = func3(a,b,c,d,e)

print "f = ",f

print "g = ",g

print "h = ",h

带上之前一直测试的平方func,这个实现相对简单,希望python写出来的func可以和C语言扩展出来的结果一致。

先用C语言写上这些函数的实现,其中func3用上了一个表示任意多个任意长的数组的数据结构y_t,而x_t用来表示单个数组。

/* colin.h */

#ifndef Colin_h

#define Colin_h

typedef struct {

int *a;

int len;

} x_t;

typedef struct {

x_t *ax;

int len;

} y_t;

int func2(int a);

int func3(y_t *p);

void free_y_t(y_t *p);

#endif

/* colin.c */

#include "colin.h"

#include

int func2(int a)

{

return a*a;

}

int func3(y_t *p)

{

int result;

int sum;

int i, j;

result = 1;

for(i=0;ilen;i++) {

sum = 0;

for(j=0;jax[i].len;j++)

sum += p->ax[i].a[j];

result *= sum;

}

return result;

}

void free_y_t(y_t *p)

{

int i;

for(i=0;ilen;i++) {

free(p->ax[i].a);

}

free(p->ax);

}

上面定义了三个函数,func2代表平方,func3代表之前所说的功能,又因y_t这个结构可能都是动态分配出来的,所以给个归还内存的方法。

刚才说过python扩展的话,需要把这个共享库的接口"标准化”一下。于是我们就包装一下,并给个python加载的入口。

/* wrap.c */

#include

#include

#include "colin.h"

PyObject* wrap_func2(PyObject* self, PyObject* args)

{

int n, result;

/* 从参数列表中导出一个整形,用"i" */

if (!PyArg_ParseTuple(args, "i", &n))

return NULL;

/* 用C语言的库实现来计算 */

result = func2(n);

/* 计算结果必须要导成python识别的类型 */

return Py_BuildValue("i", result);

}

PyObject* wrap_func3(PyObject* self, PyObject* args)

{

int n, result;

int i, j;

int size, size2;

PyObject *p,*q;

y_t *y;

y = malloc(sizeof(y_t));

/* 先数数有多少个参数,也就是列表的个数 */

size = PyTuple_Size(args);

/* 把数组的个数先分配了 */

y->len = size;

y->ax = malloc(sizeof(x_t)*size);

/* 遍历python里各个列表(参数) */

for(i=0;i

/* 先获得第i个参数,是一个列表 */

p = PyTuple_GetItem(args, i);

/* 获得列表的长度 */

size2 = PyList_Size(p);

/* 为数组分配好空间 */

y->ax[i].len = size2;

y->ax[i].a = malloc(sizeof(int)*size2);

/* 遍历列表,依次把列表里的数转到数组里 */

for(j=0;j

q = PyList_GetItem(p, j);

PyArg_Parse(q,"i",&y->ax[i].a[j]);

}

}

/* 用C语言的库实现来计算 */

result = func3(y);

free_y_t(y);

free(y);

/* 结果转成python识别格式 */

return Py_BuildValue("i", result);

}

/* 这是接口列表,加载时是只加载此列表的地址,所以这个数据结构不能放栈(局部变量)内,会被清掉 */

static PyMethodDef colinMethods[] =

{

{"func2", wrap_func2, METH_VARARGS, "Just a test"},

{"func3", wrap_func3, METH_VARARGS, "Just a test"},

{NULL, NULL, METH_NOARGS, NULL}

};

/* python加载的时候的接口 */

/* 注意,既然库名叫colin,此函数必须交initcolin */

void initcolin()

{

PyObject *m;

m = Py_InitModule("colin", colinMethods);

}

过程中,我猜测PyArg_VaParse应该功能更为强大,可是反复测没有成功,也没细看文档。

测试一下

$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so

$ ./test.py

f = 9801

g = 729000

h = 729000

可以看到,C语言写的函数和python写的函数结果一致。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

python语言和c语言-python和C语言互相调用的几种方式 的相关文章

  • 列出类的所有实例

    我编写了一个 Python 模块 其中有几个类继承自一个名为MasterBlock 我想在脚本中导入此模块 创建这些类的多个实例 然后获取该类的所有子级的所有现有实例的列表MasterBlock班级 我找到了一些解决方案vars Block
  • 使用 Flask-restful RequestParser 进行嵌套验证

    使用烧瓶宁静 http flask restful readthedocs org 微框架 我在构建一个RequestParser这将验证嵌套资源 假设预期的 JSON 资源格式为 a list obj1 1 obj2 2 obj3 3 o
  • Python lambda 函数没有在 for 循环中正确调用[重复]

    这个问题在这里已经有答案了 我正在尝试使用 Python 中的 Tkinter 制作一个计算器 我使用 for 循环来绘制按钮 并且尝试使用 lambda 函数 以便仅在按下按钮时调用按钮的操作 而不是在程序启动时立即调用 然而 当我尝试这
  • Enthought Python 中的线程 FFT

    Numpy SciPy 中的快速傅立叶变换 FFT 不是线程化的 Enthought Python 附带 Intel MKL 数值库 该库能够进行线程 FFT 如何获得这些例程 以下代码适用于 Windows 7 Ultimate 64 位
  • 隐藏控制台并执行 python 脚本

    我正在尝试使用 pyinstaller 在 Windows 10 上使用 pyqt5 模块编译在 python 3 中构建的 python 脚本 该脚本在运行时隐藏窗口 为了编译我的脚本 我执行了以下命令 pyinstaller onefi
  • 日期/时间值的 Django URL 转换器

    我正在尝试使用 Django 内置的 URL 转换器将 URL 中的日期时间字符串转换为视图中的日期对象 如果我手动输入 URL 它们会按预期工作 但尝试为其生成 URL 时找不到匹配项 我的转换器很简单 from django utils
  • Django/gevent socket.IO 与 redis pubsub。我把东西放在哪里?

    我有一个独立的 python 脚本 它只是从 Twitter 的流 API 捕获数据 然后在收到每条消息时 使用 redis pubsub 将其发布到频道 tweets 这是该脚本 def main username username pa
  • 将带有非字符串关键字的 dict 传递给 kwargs 中的函数

    我使用具有签名功能的库f args kwargs 我需要在 kwargs 参数中传递 python dict 但 dict 不包含关键字中的字符串 f 1 2 3 4 Traceback most recent call last File
  • python中remove方法的安全使用

    我从列表继承了一个 UserList 类并实现了以下方法来删除标记为已删除的条目 def purge deleted self for element in list iter self if ele mark deleted lt 1 s
  • 遍历 globals() 字典

    我 尝试 使用globals 在我的程序中迭代所有全局变量 我就是这样做的 for k v in globals iteritems function k v 当然 这样做时 我只是创建了另外 2 个全局变量 k and v 所以我得到这个
  • 如何将 Jinja 与 Twisted 一起使用?

    我正在计划使用 Python 与 Twisted Storm 和 Jinja 一起开发一个讨论软件 问题是 Jinja 不是为 Twisted 或异步套接字库而设计的 并且使用 Twisted 提供的性能是我不打算使用 Flask 的原因
  • Python 对象属性 - 访问方法

    假设我有一个具有某些属性的类 在 Pythonic OOP 中 如何访问这些属性是最好的 就像obj attr 或者也许编写 get 访问器 此类事物可接受的命名风格是什么 Edit 您能否详细说明使用单下划线或双前导下划线命名属性的最佳实
  • 使用 Beautifulsoup 解析时保持 XML 文件的缩进

    我正在使用 BS4 解析 XML 文件并尝试将其写回新的 XML 文件 输入文件
  • 将 Matlab MEX 文件中的函数直接嵌入到 Python 中

    我正在使用专有的 Matlab MEX 文件在 Matlab 中导入一些仿真结果 当然没有可用的源代码 Matlab 的接口实际上非常简单 因为只有一个函数 返回一个 Matlab 结构体 我想知道是否有任何方法可以直接从Python调用M
  • 按多索引的一级对 pandas DataFrame 进行排序

    我有一个多索引 pandas DataFrame 需要按索引器之一进行排序 这是数据片段 gene VIM treatment dose time TGFb 0 1 2 0 158406 1 2 0 039158 10 2 0 052608
  • pip:证书失败,但curl 有效

    我们在客户端安装了根证书 https 连接适用于curl 但如果我们尝试使用pip 它失败 Could not fetch URL https installserver 40443 pypi simple pep8 There was a
  • 使用 JSON 可序列化枚举自动生成棉花糖模式

    创建与我的模型相同的棉花糖模式的日子已经一去不复返了 我发现这个优秀的答案 https stackoverflow com a 42892443 4097322这解释了我如何使用简单的装饰器从 SQA 模型自动生成模式 因此我实现了它并替换
  • Windows 10 上的 Tensorflow 安装问题

    我正在尝试在 Win 10 计算机上安装 Tensorflow 我成功安装了Python 3 7 然后尝试按照tensorflow org上的安装说明进行操作 执行时 pip install tensorflow 我收到以下错误消息 错误
  • 使用 boto3 将 csv 文件保存到 s3

    我正在尝试写入 CSV 文件并将其保存到 s3 中的特定文件夹 存在 这是我的代码 from io import BytesIO import pandas as pd import boto3 s3 boto3 resource s3 d
  • 用于获取有关 SVN 存储库信息的 Python 库?

    我正在寻找一个可以从 SVN 存储库中提取 至少 以下信息的库 not工作副本 修订号及其作者和提交消息 每个修订版中的更改 添加 删除 修改文件 有Python库可以做到这一点吗 对于作者和提交消息 我可以解析 db revprops 0

随机推荐