git.sesse.net Git - ffmpeg/blob - libavfilter/vf_deinterlace_vaapi.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include <string.h>
  20
  21 #include "libavutil/avassert.h"
  22 #include "libavutil/common.h"
  23 #include "libavutil/mem.h"
  24 #include "libavutil/opt.h"
  25 #include "libavutil/pixdesc.h"
  26
  27 #include "avfilter.h"
  28 #include "formats.h"
  29 #include "internal.h"
  30 #include "video.h"
  31 #include "vaapi_vpp.h"
  32
  33 #define MAX_REFERENCES 8
  34
  35 typedef struct DeintVAAPIContext {
  36     VAAPIVPPContext vpp_ctx; // must be the first field
  37
  38     int                mode;
  39     int                field_rate;
  40     int                auto_enable;
  41
  42     VAProcFilterCapDeinterlacing
  43                        deint_caps[VAProcDeinterlacingCount];
  44     int             nb_deint_caps;
  45     VAProcPipelineCaps pipeline_caps;
  46
  47     int                queue_depth;
  48     int                queue_count;
  49     AVFrame           *frame_queue[MAX_REFERENCES];
  50     int                extra_delay_for_timestamps;
  51 } DeintVAAPIContext;
  52
  53 static const char *deint_vaapi_mode_name(int mode)
  54 {
  55     switch (mode) {
  56 #define D(name) case VAProcDeinterlacing ## name: return #name
  57         D(Bob);
  58         D(Weave);
  59         D(MotionAdaptive);
  60         D(MotionCompensated);
  61 #undef D
  62     default:
  63         return "Invalid";
  64     }
  65 }
  66
  67 static void deint_vaapi_pipeline_uninit(AVFilterContext *avctx)
  68 {
  69     DeintVAAPIContext *ctx   = avctx->priv;
  70     int i;
  71
  72     for (i = 0; i < ctx->queue_count; i++)
  73         av_frame_free(&ctx->frame_queue[i]);
  74     ctx->queue_count = 0;
  75
  76     ff_vaapi_vpp_pipeline_uninit(avctx);
  77 }
  78
  79 static int deint_vaapi_build_filter_params(AVFilterContext *avctx)
  80 {
  81     VAAPIVPPContext *vpp_ctx = avctx->priv;
  82     DeintVAAPIContext *ctx   = avctx->priv;
  83     VAStatus vas;
  84     VAProcFilterParameterBufferDeinterlacing params;
  85     int i;
  86
  87     ctx->nb_deint_caps = VAProcDeinterlacingCount;
  88     vas = vaQueryVideoProcFilterCaps(vpp_ctx->hwctx->display,
  89                                      vpp_ctx->va_context,
  90                                      VAProcFilterDeinterlacing,
  91                                      &ctx->deint_caps,
  92                                      &ctx->nb_deint_caps);
  93     if (vas != VA_STATUS_SUCCESS) {
  94         av_log(avctx, AV_LOG_ERROR, "Failed to query deinterlacing "
  95                "caps: %d (%s).\n", vas, vaErrorStr(vas));
  96         return AVERROR(EIO);
  97     }
  98
  99     if (ctx->mode == VAProcDeinterlacingNone) {
 100         for (i = 0; i < ctx->nb_deint_caps; i++) {
 101             if (ctx->deint_caps[i].type > ctx->mode)
 102                 ctx->mode = ctx->deint_caps[i].type;
 103         }
 104         av_log(avctx, AV_LOG_VERBOSE, "Picking %d (%s) as default "
 105                "deinterlacing mode.\n", ctx->mode,
 106                deint_vaapi_mode_name(ctx->mode));
 107     } else {
 108         for (i = 0; i < ctx->nb_deint_caps; i++) {
 109             if (ctx->deint_caps[i].type == ctx->mode)
 110                 break;
 111         }
 112         if (i >= ctx->nb_deint_caps) {
 113             av_log(avctx, AV_LOG_ERROR, "Deinterlacing mode %d (%s) is "
 114                    "not supported.\n", ctx->mode,
 115                    deint_vaapi_mode_name(ctx->mode));
 116         }
 117     }
 118
 119     params.type      = VAProcFilterDeinterlacing;
 120     params.algorithm = ctx->mode;
 121     params.flags     = 0;
 122
 123     vas = ff_vaapi_vpp_make_param_buffers(avctx,
 124                                           VAProcFilterParameterBufferType,
 125                                           &params,
 126                                           sizeof(params),
 127                                           1);
 128     if (vas)
 129         return vas;
 130
 131     vas = vaQueryVideoProcPipelineCaps(vpp_ctx->hwctx->display,
 132                                        vpp_ctx->va_context,
 133                                        &vpp_ctx->filter_buffers[0], 1,
 134                                        &ctx->pipeline_caps);
 135     if (vas != VA_STATUS_SUCCESS) {
 136         av_log(avctx, AV_LOG_ERROR, "Failed to query pipeline "
 137                "caps: %d (%s).\n", vas, vaErrorStr(vas));
 138         return AVERROR(EIO);
 139     }
 140
 141     ctx->extra_delay_for_timestamps = ctx->field_rate == 2 &&
 142         ctx->pipeline_caps.num_backward_references == 0;
 143
 144     ctx->queue_depth = ctx->pipeline_caps.num_backward_references +
 145                        ctx->pipeline_caps.num_forward_references +
 146                        ctx->extra_delay_for_timestamps + 1;
 147     if (ctx->queue_depth > MAX_REFERENCES) {
 148         av_log(avctx, AV_LOG_ERROR, "Pipeline requires too many "
 149                "references (%u forward, %u back).\n",
 150                ctx->pipeline_caps.num_forward_references,
 151                ctx->pipeline_caps.num_backward_references);
 152         return AVERROR(ENOSYS);
 153     }
 154
 155     return 0;
 156 }
 157
 158 static int deint_vaapi_config_output(AVFilterLink *outlink)
 159 {
 160     AVFilterLink *inlink = outlink->src->inputs[0];
 161     AVFilterContext *avctx = outlink->src;
 162     DeintVAAPIContext *ctx = avctx->priv;
 163     int err;
 164
 165     err = ff_vaapi_vpp_config_output(outlink);
 166     if (err < 0)
 167         return err;
 168     outlink->time_base  = av_mul_q(inlink->time_base,
 169                                    (AVRational) { 1, ctx->field_rate });
 170     outlink->frame_rate = av_mul_q(inlink->frame_rate,
 171                                    (AVRational) { ctx->field_rate, 1 });
 172
 173     return 0;
 174 }
 175
 176 static int deint_vaapi_filter_frame(AVFilterLink *inlink, AVFrame *input_frame)
 177 {
 178     AVFilterContext   *avctx = inlink->dst;
 179     AVFilterLink    *outlink = avctx->outputs[0];
 180     VAAPIVPPContext *vpp_ctx = avctx->priv;
 181     DeintVAAPIContext *ctx   = avctx->priv;
 182     AVFrame *output_frame    = NULL;
 183     VASurfaceID input_surface, output_surface;
 184     VASurfaceID backward_references[MAX_REFERENCES];
 185     VASurfaceID forward_references[MAX_REFERENCES];
 186     VAProcPipelineParameterBuffer params;
 187     VAProcFilterParameterBufferDeinterlacing *filter_params;
 188     VARectangle input_region;
 189     VAStatus vas;
 190     void *filter_params_addr = NULL;
 191     int err, i, field, current_frame_index;
 192
 193     av_log(avctx, AV_LOG_DEBUG, "Filter input: %s, %ux%u (%"PRId64").\n",
 194            av_get_pix_fmt_name(input_frame->format),
 195            input_frame->width, input_frame->height, input_frame->pts);
 196
 197     if (ctx->queue_count < ctx->queue_depth) {
 198         ctx->frame_queue[ctx->queue_count++] = input_frame;
 199         if (ctx->queue_count < ctx->queue_depth) {
 200             // Need more reference surfaces before we can continue.
 201             return 0;
 202         }
 203     } else {
 204         av_frame_free(&ctx->frame_queue[0]);
 205         for (i = 0; i + 1 < ctx->queue_count; i++)
 206             ctx->frame_queue[i] = ctx->frame_queue[i + 1];
 207         ctx->frame_queue[i] = input_frame;
 208     }
 209
 210     current_frame_index = ctx->pipeline_caps.num_forward_references;
 211
 212     input_frame = ctx->frame_queue[current_frame_index];
 213     input_surface = (VASurfaceID)(uintptr_t)input_frame->data[3];
 214     for (i = 0; i < ctx->pipeline_caps.num_forward_references; i++)
 215         forward_references[i] = (VASurfaceID)(uintptr_t)
 216             ctx->frame_queue[current_frame_index - i - 1]->data[3];
 217     for (i = 0; i < ctx->pipeline_caps.num_backward_references; i++)
 218         backward_references[i] = (VASurfaceID)(uintptr_t)
 219             ctx->frame_queue[current_frame_index + i + 1]->data[3];
 220
 221     av_log(avctx, AV_LOG_DEBUG, "Using surface %#x for "
 222            "deinterlace input.\n", input_surface);
 223     av_log(avctx, AV_LOG_DEBUG, "Backward references:");
 224     for (i = 0; i < ctx->pipeline_caps.num_backward_references; i++)
 225         av_log(avctx, AV_LOG_DEBUG, " %#x", backward_references[i]);
 226     av_log(avctx, AV_LOG_DEBUG, "\n");
 227     av_log(avctx, AV_LOG_DEBUG, "Forward  references:");
 228     for (i = 0; i < ctx->pipeline_caps.num_forward_references; i++)
 229         av_log(avctx, AV_LOG_DEBUG, " %#x", forward_references[i]);
 230     av_log(avctx, AV_LOG_DEBUG, "\n");
 231
 232     for (field = 0; field < ctx->field_rate; field++) {
 233         output_frame = ff_get_video_buffer(outlink, vpp_ctx->output_width,
 234                                            vpp_ctx->output_height);
 235         if (!output_frame) {
 236             err = AVERROR(ENOMEM);
 237             goto fail;
 238         }
 239
 240         output_surface = (VASurfaceID)(uintptr_t)output_frame->data[3];
 241         av_log(avctx, AV_LOG_DEBUG, "Using surface %#x for "
 242                "deinterlace output.\n", output_surface);
 243
 244         memset(&params, 0, sizeof(params));
 245
 246         input_region = (VARectangle) {
 247             .x      = 0,
 248             .y      = 0,
 249             .width  = input_frame->width,
 250             .height = input_frame->height,
 251         };
 252
 253         params.surface = input_surface;
 254         params.surface_region = &input_region;
 255         params.surface_color_standard =
 256             ff_vaapi_vpp_colour_standard(input_frame->colorspace);
 257
 258         params.output_region = NULL;
 259         params.output_background_color = 0xff000000;
 260         params.output_color_standard = params.surface_color_standard;
 261
 262         params.pipeline_flags = 0;
 263         params.filter_flags   = VA_FRAME_PICTURE;
 264
 265         if (!ctx->auto_enable || input_frame->interlaced_frame) {
 266             vas = vaMapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0],
 267                               &filter_params_addr);
 268             if (vas != VA_STATUS_SUCCESS) {
 269                 av_log(avctx, AV_LOG_ERROR, "Failed to map filter parameter "
 270                        "buffer: %d (%s).\n", vas, vaErrorStr(vas));
 271                 err = AVERROR(EIO);
 272                 goto fail;
 273             }
 274             filter_params = filter_params_addr;
 275             filter_params->flags = 0;
 276             if (input_frame->top_field_first) {
 277                 filter_params->flags |= field ? VA_DEINTERLACING_BOTTOM_FIELD : 0;
 278             } else {
 279                 filter_params->flags |= VA_DEINTERLACING_BOTTOM_FIELD_FIRST;
 280                 filter_params->flags |= field ? 0 : VA_DEINTERLACING_BOTTOM_FIELD;
 281             }
 282             filter_params_addr = NULL;
 283             vas = vaUnmapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0]);
 284             if (vas != VA_STATUS_SUCCESS)
 285                 av_log(avctx, AV_LOG_ERROR, "Failed to unmap filter parameter "
 286                        "buffer: %d (%s).\n", vas, vaErrorStr(vas));
 287
 288             params.filters     = &vpp_ctx->filter_buffers[0];
 289             params.num_filters = 1;
 290
 291             params.forward_references = forward_references;
 292             params.num_forward_references =
 293                 ctx->pipeline_caps.num_forward_references;
 294             params.backward_references = backward_references;
 295             params.num_backward_references =
 296                 ctx->pipeline_caps.num_backward_references;
 297
 298         } else {
 299             params.filters     = NULL;
 300             params.num_filters = 0;
 301         }
 302
 303         err = ff_vaapi_vpp_render_picture(avctx, &params, output_surface);
 304         if (err < 0)
 305             goto fail;
 306
 307         err = av_frame_copy_props(output_frame, input_frame);
 308         if (err < 0)
 309             goto fail;
 310
 311         if (ctx->field_rate == 2) {
 312             if (field == 0)
 313                 output_frame->pts = 2 * input_frame->pts;
 314             else
 315                 output_frame->pts = input_frame->pts +
 316                     ctx->frame_queue[current_frame_index + 1]->pts;
 317         }
 318         output_frame->interlaced_frame = 0;
 319
 320         av_log(avctx, AV_LOG_DEBUG, "Filter output: %s, %ux%u (%"PRId64").\n",
 321                av_get_pix_fmt_name(output_frame->format),
 322                output_frame->width, output_frame->height, output_frame->pts);
 323
 324         err = ff_filter_frame(outlink, output_frame);
 325         if (err < 0)
 326             break;
 327     }
 328
 329     return err;
 330
 331 fail:
 332     if (filter_params_addr)
 333         vaUnmapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0]);
 334     av_frame_free(&output_frame);
 335     return err;
 336 }
 337
 338 static av_cold int deint_vaapi_init(AVFilterContext *avctx)
 339 {
 340     VAAPIVPPContext *vpp_ctx = avctx->priv;
 341
 342     ff_vaapi_vpp_ctx_init(avctx);
 343     vpp_ctx->pipeline_uninit     = deint_vaapi_pipeline_uninit;
 344     vpp_ctx->build_filter_params = deint_vaapi_build_filter_params;
 345     vpp_ctx->output_format       = AV_PIX_FMT_NONE;
 346
 347     return 0;
 348 }
 349
 350 #define OFFSET(x) offsetof(DeintVAAPIContext, x)
 351 #define FLAGS (AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM)
 352 static const AVOption deint_vaapi_options[] = {
 353     { "mode", "Deinterlacing mode",
 354       OFFSET(mode), AV_OPT_TYPE_INT, { .i64 = VAProcDeinterlacingNone },
 355       VAProcDeinterlacingNone, VAProcDeinterlacingCount - 1, FLAGS, "mode" },
 356     { "default", "Use the highest-numbered (and therefore possibly most advanced) deinterlacing algorithm",
 357       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingNone }, 0, 0, FLAGS, "mode" },
 358     { "bob", "Use the bob deinterlacing algorithm",
 359       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingBob }, 0, 0, FLAGS, "mode" },
 360     { "weave", "Use the weave deinterlacing algorithm",
 361       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingWeave }, 0, 0, FLAGS,  "mode" },
 362     { "motion_adaptive", "Use the motion adaptive deinterlacing algorithm",
 363       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingMotionAdaptive }, 0, 0, FLAGS, "mode" },
 364     { "motion_compensated", "Use the motion compensated deinterlacing algorithm",
 365       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingMotionCompensated }, 0, 0, FLAGS, "mode" },
 366
 367     { "rate", "Generate output at frame rate or field rate",
 368       OFFSET(field_rate), AV_OPT_TYPE_INT, { .i64 = 1 }, 1, 2, FLAGS, "rate" },
 369     { "frame", "Output at frame rate (one frame of output for each field-pair)",
 370       0, AV_OPT_TYPE_CONST, { .i64 = 1 }, 0, 0, FLAGS, "rate" },
 371     { "field", "Output at field rate (one frame of output for each field)",
 372       0, AV_OPT_TYPE_CONST, { .i64 = 2 }, 0, 0, FLAGS, "rate" },
 373
 374     { "auto", "Only deinterlace fields, passing frames through unchanged",
 375       OFFSET(auto_enable), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, FLAGS },
 376
 377     { NULL },
 378 };
 379
 380 static const AVClass deint_vaapi_class = {
 381     .class_name = "deinterlace_vaapi",
 382     .item_name  = av_default_item_name,
 383     .option     = deint_vaapi_options,
 384     .version    = LIBAVUTIL_VERSION_INT,
 385 };
 386
 387 static const AVFilterPad deint_vaapi_inputs[] = {
 388     {
 389         .name         = "default",
 390         .type         = AVMEDIA_TYPE_VIDEO,
 391         .filter_frame = &deint_vaapi_filter_frame,
 392         .config_props = &ff_vaapi_vpp_config_input,
 393     },
 394     { NULL }
 395 };
 396
 397 static const AVFilterPad deint_vaapi_outputs[] = {
 398     {
 399         .name = "default",
 400         .type = AVMEDIA_TYPE_VIDEO,
 401         .config_props = &deint_vaapi_config_output,
 402     },
 403     { NULL }
 404 };
 405
 406 AVFilter ff_vf_deinterlace_vaapi = {
 407     .name           = "deinterlace_vaapi",
 408     .description    = NULL_IF_CONFIG_SMALL("Deinterlacing of VAAPI surfaces"),
 409     .priv_size      = sizeof(DeintVAAPIContext),
 410     .init           = &deint_vaapi_init,
 411     .uninit         = &ff_vaapi_vpp_ctx_uninit,
 412     .query_formats  = &ff_vaapi_vpp_query_formats,
 413     .inputs         = deint_vaapi_inputs,
 414     .outputs        = deint_vaapi_outputs,
 415     .priv_class     = &deint_vaapi_class,
 416     .flags_internal = FF_FILTER_FLAG_HWFRAME_AWARE,
 417 };