git.sesse.net Git - ffmpeg/blob - libavfilter/vf_deinterlace_vaapi.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include <string.h>
  20
  21 #include "libavutil/avassert.h"
  22 #include "libavutil/common.h"
  23 #include "libavutil/mem.h"
  24 #include "libavutil/opt.h"
  25 #include "libavutil/pixdesc.h"
  26
  27 #include "avfilter.h"
  28 #include "formats.h"
  29 #include "internal.h"
  30 #include "video.h"
  31 #include "vaapi_vpp.h"
  32
  33 #define MAX_REFERENCES 8
  34
  35 typedef struct DeintVAAPIContext {
  36     VAAPIVPPContext vpp_ctx; // must be the first field
  37
  38     int                mode;
  39     int                field_rate;
  40     int                auto_enable;
  41
  42     VAProcFilterCapDeinterlacing
  43                        deint_caps[VAProcDeinterlacingCount];
  44     int             nb_deint_caps;
  45     VAProcPipelineCaps pipeline_caps;
  46
  47     int                queue_depth;
  48     int                queue_count;
  49     AVFrame           *frame_queue[MAX_REFERENCES];
  50     int                extra_delay_for_timestamps;
  51 } DeintVAAPIContext;
  52
  53 static const char *deint_vaapi_mode_name(int mode)
  54 {
  55     switch (mode) {
  56 #define D(name) case VAProcDeinterlacing ## name: return #name
  57         D(Bob);
  58         D(Weave);
  59         D(MotionAdaptive);
  60         D(MotionCompensated);
  61 #undef D
  62     default:
  63         return "Invalid";
  64     }
  65 }
  66
  67 static void deint_vaapi_pipeline_uninit(AVFilterContext *avctx)
  68 {
  69     DeintVAAPIContext *ctx   = avctx->priv;
  70     int i;
  71
  72     for (i = 0; i < ctx->queue_count; i++)
  73         av_frame_free(&ctx->frame_queue[i]);
  74     ctx->queue_count = 0;
  75
  76     ff_vaapi_vpp_pipeline_uninit(avctx);
  77 }
  78
  79 static int deint_vaapi_build_filter_params(AVFilterContext *avctx)
  80 {
  81     VAAPIVPPContext *vpp_ctx = avctx->priv;
  82     DeintVAAPIContext *ctx   = avctx->priv;
  83     VAStatus vas;
  84     VAProcFilterParameterBufferDeinterlacing params;
  85     int i;
  86
  87     ctx->nb_deint_caps = VAProcDeinterlacingCount;
  88     vas = vaQueryVideoProcFilterCaps(vpp_ctx->hwctx->display,
  89                                      vpp_ctx->va_context,
  90                                      VAProcFilterDeinterlacing,
  91                                      &ctx->deint_caps,
  92                                      &ctx->nb_deint_caps);
  93     if (vas != VA_STATUS_SUCCESS) {
  94         av_log(avctx, AV_LOG_ERROR, "Failed to query deinterlacing "
  95                "caps: %d (%s).\n", vas, vaErrorStr(vas));
  96         return AVERROR(EIO);
  97     }
  98
  99     if (ctx->mode == VAProcDeinterlacingNone) {
 100         for (i = 0; i < ctx->nb_deint_caps; i++) {
 101             if (ctx->deint_caps[i].type > ctx->mode)
 102                 ctx->mode = ctx->deint_caps[i].type;
 103         }
 104         av_log(avctx, AV_LOG_VERBOSE, "Picking %d (%s) as default "
 105                "deinterlacing mode.\n", ctx->mode,
 106                deint_vaapi_mode_name(ctx->mode));
 107     } else {
 108         for (i = 0; i < ctx->nb_deint_caps; i++) {
 109             if (ctx->deint_caps[i].type == ctx->mode)
 110                 break;
 111         }
 112         if (i >= ctx->nb_deint_caps) {
 113             av_log(avctx, AV_LOG_ERROR, "Deinterlacing mode %d (%s) is "
 114                    "not supported.\n", ctx->mode,
 115                    deint_vaapi_mode_name(ctx->mode));
 116             return AVERROR(EINVAL);
 117         }
 118     }
 119
 120     params.type      = VAProcFilterDeinterlacing;
 121     params.algorithm = ctx->mode;
 122     params.flags     = 0;
 123
 124     vas = ff_vaapi_vpp_make_param_buffers(avctx,
 125                                           VAProcFilterParameterBufferType,
 126                                           &params,
 127                                           sizeof(params),
 128                                           1);
 129     if (vas)
 130         return vas;
 131
 132     vas = vaQueryVideoProcPipelineCaps(vpp_ctx->hwctx->display,
 133                                        vpp_ctx->va_context,
 134                                        &vpp_ctx->filter_buffers[0], 1,
 135                                        &ctx->pipeline_caps);
 136     if (vas != VA_STATUS_SUCCESS) {
 137         av_log(avctx, AV_LOG_ERROR, "Failed to query pipeline "
 138                "caps: %d (%s).\n", vas, vaErrorStr(vas));
 139         return AVERROR(EIO);
 140     }
 141
 142     ctx->extra_delay_for_timestamps = ctx->field_rate == 2 &&
 143         ctx->pipeline_caps.num_backward_references == 0;
 144
 145     ctx->queue_depth = ctx->pipeline_caps.num_backward_references +
 146                        ctx->pipeline_caps.num_forward_references +
 147                        ctx->extra_delay_for_timestamps + 1;
 148     if (ctx->queue_depth > MAX_REFERENCES) {
 149         av_log(avctx, AV_LOG_ERROR, "Pipeline requires too many "
 150                "references (%u forward, %u back).\n",
 151                ctx->pipeline_caps.num_forward_references,
 152                ctx->pipeline_caps.num_backward_references);
 153         return AVERROR(ENOSYS);
 154     }
 155
 156     return 0;
 157 }
 158
 159 static int deint_vaapi_config_output(AVFilterLink *outlink)
 160 {
 161     AVFilterLink *inlink = outlink->src->inputs[0];
 162     AVFilterContext *avctx = outlink->src;
 163     DeintVAAPIContext *ctx = avctx->priv;
 164     int err;
 165
 166     err = ff_vaapi_vpp_config_output(outlink);
 167     if (err < 0)
 168         return err;
 169     outlink->time_base  = av_mul_q(inlink->time_base,
 170                                    (AVRational) { 1, ctx->field_rate });
 171     outlink->frame_rate = av_mul_q(inlink->frame_rate,
 172                                    (AVRational) { ctx->field_rate, 1 });
 173
 174     return 0;
 175 }
 176
 177 static int deint_vaapi_filter_frame(AVFilterLink *inlink, AVFrame *input_frame)
 178 {
 179     AVFilterContext   *avctx = inlink->dst;
 180     AVFilterLink    *outlink = avctx->outputs[0];
 181     VAAPIVPPContext *vpp_ctx = avctx->priv;
 182     DeintVAAPIContext *ctx   = avctx->priv;
 183     AVFrame *output_frame    = NULL;
 184     VASurfaceID input_surface, output_surface;
 185     VASurfaceID backward_references[MAX_REFERENCES];
 186     VASurfaceID forward_references[MAX_REFERENCES];
 187     VAProcPipelineParameterBuffer params;
 188     VAProcFilterParameterBufferDeinterlacing *filter_params;
 189     VARectangle input_region;
 190     VAStatus vas;
 191     void *filter_params_addr = NULL;
 192     int err, i, field, current_frame_index;
 193
 194     av_log(avctx, AV_LOG_DEBUG, "Filter input: %s, %ux%u (%"PRId64").\n",
 195            av_get_pix_fmt_name(input_frame->format),
 196            input_frame->width, input_frame->height, input_frame->pts);
 197
 198     if (ctx->queue_count < ctx->queue_depth) {
 199         ctx->frame_queue[ctx->queue_count++] = input_frame;
 200         if (ctx->queue_count < ctx->queue_depth) {
 201             // Need more reference surfaces before we can continue.
 202             return 0;
 203         }
 204     } else {
 205         av_frame_free(&ctx->frame_queue[0]);
 206         for (i = 0; i + 1 < ctx->queue_count; i++)
 207             ctx->frame_queue[i] = ctx->frame_queue[i + 1];
 208         ctx->frame_queue[i] = input_frame;
 209     }
 210
 211     current_frame_index = ctx->pipeline_caps.num_forward_references;
 212
 213     input_frame = ctx->frame_queue[current_frame_index];
 214     input_surface = (VASurfaceID)(uintptr_t)input_frame->data[3];
 215     for (i = 0; i < ctx->pipeline_caps.num_forward_references; i++)
 216         forward_references[i] = (VASurfaceID)(uintptr_t)
 217             ctx->frame_queue[current_frame_index - i - 1]->data[3];
 218     for (i = 0; i < ctx->pipeline_caps.num_backward_references; i++)
 219         backward_references[i] = (VASurfaceID)(uintptr_t)
 220             ctx->frame_queue[current_frame_index + i + 1]->data[3];
 221
 222     av_log(avctx, AV_LOG_DEBUG, "Using surface %#x for "
 223            "deinterlace input.\n", input_surface);
 224     av_log(avctx, AV_LOG_DEBUG, "Backward references:");
 225     for (i = 0; i < ctx->pipeline_caps.num_backward_references; i++)
 226         av_log(avctx, AV_LOG_DEBUG, " %#x", backward_references[i]);
 227     av_log(avctx, AV_LOG_DEBUG, "\n");
 228     av_log(avctx, AV_LOG_DEBUG, "Forward  references:");
 229     for (i = 0; i < ctx->pipeline_caps.num_forward_references; i++)
 230         av_log(avctx, AV_LOG_DEBUG, " %#x", forward_references[i]);
 231     av_log(avctx, AV_LOG_DEBUG, "\n");
 232
 233     for (field = 0; field < ctx->field_rate; field++) {
 234         output_frame = ff_get_video_buffer(outlink, vpp_ctx->output_width,
 235                                            vpp_ctx->output_height);
 236         if (!output_frame) {
 237             err = AVERROR(ENOMEM);
 238             goto fail;
 239         }
 240
 241         output_surface = (VASurfaceID)(uintptr_t)output_frame->data[3];
 242         av_log(avctx, AV_LOG_DEBUG, "Using surface %#x for "
 243                "deinterlace output.\n", output_surface);
 244
 245         memset(&params, 0, sizeof(params));
 246
 247         input_region = (VARectangle) {
 248             .x      = 0,
 249             .y      = 0,
 250             .width  = input_frame->width,
 251             .height = input_frame->height,
 252         };
 253
 254         params.surface = input_surface;
 255         params.surface_region = &input_region;
 256         params.surface_color_standard =
 257             ff_vaapi_vpp_colour_standard(input_frame->colorspace);
 258
 259         params.output_region = NULL;
 260         params.output_background_color = VAAPI_VPP_BACKGROUND_BLACK;
 261         params.output_color_standard = params.surface_color_standard;
 262
 263         params.pipeline_flags = 0;
 264         params.filter_flags   = VA_FRAME_PICTURE;
 265
 266         if (!ctx->auto_enable || input_frame->interlaced_frame) {
 267             vas = vaMapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0],
 268                               &filter_params_addr);
 269             if (vas != VA_STATUS_SUCCESS) {
 270                 av_log(avctx, AV_LOG_ERROR, "Failed to map filter parameter "
 271                        "buffer: %d (%s).\n", vas, vaErrorStr(vas));
 272                 err = AVERROR(EIO);
 273                 goto fail;
 274             }
 275             filter_params = filter_params_addr;
 276             filter_params->flags = 0;
 277             if (input_frame->top_field_first) {
 278                 filter_params->flags |= field ? VA_DEINTERLACING_BOTTOM_FIELD : 0;
 279             } else {
 280                 filter_params->flags |= VA_DEINTERLACING_BOTTOM_FIELD_FIRST;
 281                 filter_params->flags |= field ? 0 : VA_DEINTERLACING_BOTTOM_FIELD;
 282             }
 283             filter_params_addr = NULL;
 284             vas = vaUnmapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0]);
 285             if (vas != VA_STATUS_SUCCESS)
 286                 av_log(avctx, AV_LOG_ERROR, "Failed to unmap filter parameter "
 287                        "buffer: %d (%s).\n", vas, vaErrorStr(vas));
 288
 289             params.filters     = &vpp_ctx->filter_buffers[0];
 290             params.num_filters = 1;
 291
 292             params.forward_references = forward_references;
 293             params.num_forward_references =
 294                 ctx->pipeline_caps.num_forward_references;
 295             params.backward_references = backward_references;
 296             params.num_backward_references =
 297                 ctx->pipeline_caps.num_backward_references;
 298
 299         } else {
 300             params.filters     = NULL;
 301             params.num_filters = 0;
 302         }
 303
 304         err = ff_vaapi_vpp_render_picture(avctx, &params, output_surface);
 305         if (err < 0)
 306             goto fail;
 307
 308         err = av_frame_copy_props(output_frame, input_frame);
 309         if (err < 0)
 310             goto fail;
 311
 312         if (ctx->field_rate == 2) {
 313             if (field == 0)
 314                 output_frame->pts = 2 * input_frame->pts;
 315             else
 316                 output_frame->pts = input_frame->pts +
 317                     ctx->frame_queue[current_frame_index + 1]->pts;
 318         }
 319         output_frame->interlaced_frame = 0;
 320
 321         av_log(avctx, AV_LOG_DEBUG, "Filter output: %s, %ux%u (%"PRId64").\n",
 322                av_get_pix_fmt_name(output_frame->format),
 323                output_frame->width, output_frame->height, output_frame->pts);
 324
 325         err = ff_filter_frame(outlink, output_frame);
 326         if (err < 0)
 327             break;
 328     }
 329
 330     return err;
 331
 332 fail:
 333     if (filter_params_addr)
 334         vaUnmapBuffer(vpp_ctx->hwctx->display, vpp_ctx->filter_buffers[0]);
 335     av_frame_free(&output_frame);
 336     return err;
 337 }
 338
 339 static av_cold int deint_vaapi_init(AVFilterContext *avctx)
 340 {
 341     VAAPIVPPContext *vpp_ctx = avctx->priv;
 342
 343     ff_vaapi_vpp_ctx_init(avctx);
 344     vpp_ctx->pipeline_uninit     = deint_vaapi_pipeline_uninit;
 345     vpp_ctx->build_filter_params = deint_vaapi_build_filter_params;
 346     vpp_ctx->output_format       = AV_PIX_FMT_NONE;
 347
 348     return 0;
 349 }
 350
 351 #define OFFSET(x) offsetof(DeintVAAPIContext, x)
 352 #define FLAGS (AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM)
 353 static const AVOption deint_vaapi_options[] = {
 354     { "mode", "Deinterlacing mode",
 355       OFFSET(mode), AV_OPT_TYPE_INT, { .i64 = VAProcDeinterlacingNone },
 356       VAProcDeinterlacingNone, VAProcDeinterlacingCount - 1, FLAGS, "mode" },
 357     { "default", "Use the highest-numbered (and therefore possibly most advanced) deinterlacing algorithm",
 358       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingNone }, 0, 0, FLAGS, "mode" },
 359     { "bob", "Use the bob deinterlacing algorithm",
 360       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingBob }, 0, 0, FLAGS, "mode" },
 361     { "weave", "Use the weave deinterlacing algorithm",
 362       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingWeave }, 0, 0, FLAGS,  "mode" },
 363     { "motion_adaptive", "Use the motion adaptive deinterlacing algorithm",
 364       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingMotionAdaptive }, 0, 0, FLAGS, "mode" },
 365     { "motion_compensated", "Use the motion compensated deinterlacing algorithm",
 366       0, AV_OPT_TYPE_CONST, { .i64 = VAProcDeinterlacingMotionCompensated }, 0, 0, FLAGS, "mode" },
 367
 368     { "rate", "Generate output at frame rate or field rate",
 369       OFFSET(field_rate), AV_OPT_TYPE_INT, { .i64 = 1 }, 1, 2, FLAGS, "rate" },
 370     { "frame", "Output at frame rate (one frame of output for each field-pair)",
 371       0, AV_OPT_TYPE_CONST, { .i64 = 1 }, 0, 0, FLAGS, "rate" },
 372     { "field", "Output at field rate (one frame of output for each field)",
 373       0, AV_OPT_TYPE_CONST, { .i64 = 2 }, 0, 0, FLAGS, "rate" },
 374
 375     { "auto", "Only deinterlace fields, passing frames through unchanged",
 376       OFFSET(auto_enable), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, FLAGS },
 377
 378     { NULL },
 379 };
 380
 381 static const AVClass deint_vaapi_class = {
 382     .class_name = "deinterlace_vaapi",
 383     .item_name  = av_default_item_name,
 384     .option     = deint_vaapi_options,
 385     .version    = LIBAVUTIL_VERSION_INT,
 386 };
 387
 388 static const AVFilterPad deint_vaapi_inputs[] = {
 389     {
 390         .name         = "default",
 391         .type         = AVMEDIA_TYPE_VIDEO,
 392         .filter_frame = &deint_vaapi_filter_frame,
 393         .config_props = &ff_vaapi_vpp_config_input,
 394     },
 395     { NULL }
 396 };
 397
 398 static const AVFilterPad deint_vaapi_outputs[] = {
 399     {
 400         .name = "default",
 401         .type = AVMEDIA_TYPE_VIDEO,
 402         .config_props = &deint_vaapi_config_output,
 403     },
 404     { NULL }
 405 };
 406
 407 AVFilter ff_vf_deinterlace_vaapi = {
 408     .name           = "deinterlace_vaapi",
 409     .description    = NULL_IF_CONFIG_SMALL("Deinterlacing of VAAPI surfaces"),
 410     .priv_size      = sizeof(DeintVAAPIContext),
 411     .init           = &deint_vaapi_init,
 412     .uninit         = &ff_vaapi_vpp_ctx_uninit,
 413     .query_formats  = &ff_vaapi_vpp_query_formats,
 414     .inputs         = deint_vaapi_inputs,
 415     .outputs        = deint_vaapi_outputs,
 416     .priv_class     = &deint_vaapi_class,
 417     .flags_internal = FF_FILTER_FLAG_HWFRAME_AWARE,
 418 };