android ffmpeg opengl es 渲染电影

我正在尝试通过 NDK 渲染视频，以添加一些 sdk 中不支持的功能。我正在使用 FFmpeg 来解码视频，并可以通过 ndk 进行编译，并使用this作为起点。我修改了该示例，而不是使用 glDrawTexiOES 来绘制纹理，而是设置了一些顶点并在其之上渲染纹理（opengl es 渲染四边形的方式）。

下面是我正在做的渲染，但是创建 glTexImage2D 很慢。我想知道是否有任何方法可以加快速度，或者给出加快速度的外观，例如尝试在背景中设置一些纹理并渲染预先设置的纹理。或者是否有其他方法可以更快地将视频帧绘制到 Android 屏幕上？目前我只能得到大约12fps。

glClear(GL_COLOR_BUFFER_BIT);
glEnableClientState(GL_VERTEX_ARRAY);
glEnableClientState(GL_TEXTURE_COORD_ARRAY);
glBindTexture(GL_TEXTURE_2D, textureConverted);

//this is slow
glTexImage2D(GL_TEXTURE_2D, /* target */
0, /* level */
GL_RGBA, /* internal format */
textureWidth, /* width */
textureHeight, /* height */
0, /* border */
GL_RGBA, /* format */
GL_UNSIGNED_BYTE,/* type */
pFrameConverted->data[0]);

glEnableClientState(GL_TEXTURE_COORD_ARRAY);
glTexCoordPointer(2, GL_FLOAT, 0, texCoords);
glVertexPointer(3, GL_FLOAT, 0, vertices);
glDrawElements(GL_TRIANGLES, 6, GL_UNSIGNED_BYTE, indices);
glDisableClientState(GL_VERTEX_ARRAY);
glDisableClientState(GL_TEXTURE_COORD_ARRAY);

EDIT我更改了代码以仅初始化一次gltextImage2D，并使用glSubTexImage2D对其进行修改，它并没有对帧速率产生太大的改进。

然后我修改了代码以修改 NDK 上的本机 Bitmap 对象。通过这种方法，我有一个后台线程运行来处理下一帧并填充本机端的位图对象。我认为这有潜力，但我需要提高将 AVFrame 对象从 FFmpeg 转换为本机位图的速度。下面是我目前正在使用的转换方法，一种暴​​力方法。有什么方法可以提高速度或优化此转换吗？

static void fill_bitmap(AndroidBitmapInfo*  info, void *pixels, AVFrame *pFrame)
{
uint8_t *frameLine;

int  yy;
for (yy = 0; yy < info->height; yy++) {
    uint8_t*  line = (uint8_t*)pixels;
    frameLine = (uint8_t *)pFrame->data[0] + (yy * pFrame->linesize[0]);

    int xx;
    for (xx = 0; xx < info->width; xx++) {
        int out_offset = xx * 4;
        int in_offset = xx * 3;

        line[out_offset] = frameLine[in_offset];
        line[out_offset+1] = frameLine[in_offset+1];
        line[out_offset+2] = frameLine[in_offset+2];
        line[out_offset+3] = 0;
    }
    pixels = (char*)pixels + info->stride;
}
}

是的，纹理（以及缓冲区、着色器和帧缓冲区）创建速度很慢。

这就是为什么你应该只创建一次纹理。创建完成后，可以通过调用修改其数据glSubTexImage2D.

为了使上传纹理数据更快 - 创建两个纹理。当您使用其中一个进行显示时，将纹理数据从 ffmpeg 上传到第二个。当您显示第二个时，将数据上传到第一个。并从头开始重复。

我认为它仍然不会很快。您可以尝试使用 jnigraphics 库，它允许从 NDK 访问位图对象像素。之后 - 您只需在 java 端的屏幕上显示此位图即可。