git.sesse.net Git - ffmpeg/blob - libavfilter/vf_delogo.c

   1 /*
   2  * Copyright (c) 2002 Jindrich Makovicka <makovick@gmail.com>
   3  * Copyright (c) 2011 Stefano Sabatini
   4  * Copyright (c) 2013, 2015 Jean Delvare <jdelvare@suse.com>
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version 2 of the License, or
  11  * (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16  * GNU General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU General Public License along
  19  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
  20  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
  21  */
  22
  23 /**
  24  * @file
  25  * A very simple tv station logo remover
  26  * Originally imported from MPlayer libmpcodecs/vf_delogo.c,
  27  * the algorithm was later improved.
  28  */
  29
  30 #include "libavutil/common.h"
  31 #include "libavutil/imgutils.h"
  32 #include "libavutil/opt.h"
  33 #include "libavutil/pixdesc.h"
  34 #include "libavutil/eval.h"
  35 #include "avfilter.h"
  36 #include "formats.h"
  37 #include "internal.h"
  38 #include "video.h"
  39 static const char * const var_names[] = {
  40     "x",
  41     "y",
  42     "w",
  43     "h",
  44     "n",            ///< number of frame
  45     "t",            ///< timestamp expressed in seconds
  46     NULL
  47 };
  48
  49 enum var_name {
  50     VAR_X,
  51     VAR_Y,
  52     VAR_W,
  53     VAR_H,
  54     VAR_N,
  55     VAR_T,
  56     VAR_VARS_NB
  57 };
  58 #define TS2T(ts, tb) ((ts) == AV_NOPTS_VALUE ? NAN : (double)(ts) * av_q2d(tb))
  59
  60 static int set_expr(AVExpr **pexpr, const char *expr, const char *option, void *log_ctx)
  61 {
  62     int ret;
  63     AVExpr *old = NULL;
  64
  65     if (*pexpr)
  66         old = *pexpr;
  67     ret = av_expr_parse(pexpr, expr, var_names, NULL, NULL, NULL, NULL, 0, log_ctx);
  68     if (ret < 0) {
  69         av_log(log_ctx, AV_LOG_ERROR,
  70                "Error when parsing the expression '%s' for %s\n",
  71                expr, option);
  72         *pexpr = old;
  73         return ret;
  74     }
  75
  76     av_expr_free(old);
  77     return 0;
  78 }
  79
  80
  81 /**
  82  * Apply a simple delogo algorithm to the image in src and put the
  83  * result in dst.
  84  *
  85  * The algorithm is only applied to the region specified by the logo
  86  * parameters.
  87  *
  88  * @param w      width of the input image
  89  * @param h      height of the input image
  90  * @param logo_x x coordinate of the top left corner of the logo region
  91  * @param logo_y y coordinate of the top left corner of the logo region
  92  * @param logo_w width of the logo
  93  * @param logo_h height of the logo
  94  * @param band   the size of the band around the processed area
  95  * @param show   show a rectangle around the processed area, useful for
  96  *               parameters tweaking
  97  * @param direct if non-zero perform in-place processing
  98  */
  99 static void apply_delogo(uint8_t *dst, int dst_linesize,
 100                          uint8_t *src, int src_linesize,
 101                          int w, int h, AVRational sar,
 102                          int logo_x, int logo_y, int logo_w, int logo_h,
 103                          unsigned int band, int show, int direct)
 104 {
 105     int x, y;
 106     uint64_t interp, weightl, weightr, weightt, weightb, weight;
 107     uint8_t *xdst, *xsrc;
 108
 109     uint8_t *topleft, *botleft, *topright;
 110     unsigned int left_sample, right_sample;
 111     int xclipl, xclipr, yclipt, yclipb;
 112     int logo_x1, logo_x2, logo_y1, logo_y2;
 113
 114     xclipl = FFMAX(-logo_x, 0);
 115     xclipr = FFMAX(logo_x+logo_w-w, 0);
 116     yclipt = FFMAX(-logo_y, 0);
 117     yclipb = FFMAX(logo_y+logo_h-h, 0);
 118
 119     logo_x1 = logo_x + xclipl;
 120     logo_x2 = logo_x + logo_w - xclipr - 1;
 121     logo_y1 = logo_y + yclipt;
 122     logo_y2 = logo_y + logo_h - yclipb - 1;
 123
 124     topleft  = src+logo_y1 * src_linesize+logo_x1;
 125     topright = src+logo_y1 * src_linesize+logo_x2;
 126     botleft  = src+logo_y2 * src_linesize+logo_x1;
 127
 128     if (!direct)
 129         av_image_copy_plane(dst, dst_linesize, src, src_linesize, w, h);
 130
 131     dst += (logo_y1 + 1) * dst_linesize;
 132     src += (logo_y1 + 1) * src_linesize;
 133
 134     for (y = logo_y1+1; y < logo_y2; y++) {
 135         left_sample = topleft[src_linesize*(y-logo_y1)]   +
 136                       topleft[src_linesize*(y-logo_y1-1)] +
 137                       topleft[src_linesize*(y-logo_y1+1)];
 138         right_sample = topright[src_linesize*(y-logo_y1)]   +
 139                        topright[src_linesize*(y-logo_y1-1)] +
 140                        topright[src_linesize*(y-logo_y1+1)];
 141
 142         for (x = logo_x1+1,
 143              xdst = dst+logo_x1+1,
 144              xsrc = src+logo_x1+1; x < logo_x2; x++, xdst++, xsrc++) {
 145
 146             if (show && (y == logo_y1+1 || y == logo_y2-1 ||
 147                          x == logo_x1+1 || x == logo_x2-1)) {
 148                 *xdst = 0;
 149                 continue;
 150             }
 151
 152             /* Weighted interpolation based on relative distances, taking SAR into account */
 153             weightl = (uint64_t)              (logo_x2-x) * (y-logo_y1) * (logo_y2-y) * sar.den;
 154             weightr = (uint64_t)(x-logo_x1)               * (y-logo_y1) * (logo_y2-y) * sar.den;
 155             weightt = (uint64_t)(x-logo_x1) * (logo_x2-x)               * (logo_y2-y) * sar.num;
 156             weightb = (uint64_t)(x-logo_x1) * (logo_x2-x) * (y-logo_y1)               * sar.num;
 157
 158             interp =
 159                 left_sample * weightl
 160                 +
 161                 right_sample * weightr
 162                 +
 163                 (topleft[x-logo_x1]    +
 164                  topleft[x-logo_x1-1]  +
 165                  topleft[x-logo_x1+1]) * weightt
 166                 +
 167                 (botleft[x-logo_x1]    +
 168                  botleft[x-logo_x1-1]  +
 169                  botleft[x-logo_x1+1]) * weightb;
 170             weight = (weightl + weightr + weightt + weightb) * 3U;
 171             interp = (interp + (weight >> 1)) / weight;
 172
 173             if (y >= logo_y+band && y < logo_y+logo_h-band &&
 174                 x >= logo_x+band && x < logo_x+logo_w-band) {
 175                 *xdst = interp;
 176             } else {
 177                 unsigned dist = 0;
 178
 179                 if      (x < logo_x+band)
 180                     dist = FFMAX(dist, logo_x-x+band);
 181                 else if (x >= logo_x+logo_w-band)
 182                     dist = FFMAX(dist, x-(logo_x+logo_w-1-band));
 183
 184                 if      (y < logo_y+band)
 185                     dist = FFMAX(dist, logo_y-y+band);
 186                 else if (y >= logo_y+logo_h-band)
 187                     dist = FFMAX(dist, y-(logo_y+logo_h-1-band));
 188
 189                 *xdst = (*xsrc*dist + interp*(band-dist))/band;
 190             }
 191         }
 192
 193         dst += dst_linesize;
 194         src += src_linesize;
 195     }
 196 }
 197
 198 typedef struct DelogoContext {
 199     const AVClass *class;
 200     int x, y, w, h, band, show;
 201     char *x_expr, *y_expr, *w_expr, *h_expr;
 202     AVExpr *x_pexpr, *y_pexpr, *w_pexpr, *h_pexpr;
 203     double var_values[VAR_VARS_NB];
 204 }  DelogoContext;
 205
 206 #define OFFSET(x) offsetof(DelogoContext, x)
 207 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
 208
 209 static const AVOption delogo_options[]= {
 210     { "x",    "set logo x position",       OFFSET(x_expr),    AV_OPT_TYPE_STRING, { .str = "-1" }, 0, 0, FLAGS },
 211     { "y",    "set logo y position",       OFFSET(y_expr),    AV_OPT_TYPE_STRING, { .str = "-1" }, 0, 0, FLAGS },
 212     { "w",    "set logo width",            OFFSET(w_expr),    AV_OPT_TYPE_STRING, { .str = "-1" }, 0, 0, FLAGS },
 213     { "h",    "set logo height",           OFFSET(h_expr),    AV_OPT_TYPE_STRING, { .str = "-1" }, 0, 0, FLAGS },
 214     { "show", "show delogo area",          OFFSET(show),      AV_OPT_TYPE_BOOL,   { .i64 =  0 },   0, 1, FLAGS },
 215     { NULL }
 216 };
 217
 218 AVFILTER_DEFINE_CLASS(delogo);
 219 static av_cold void uninit(AVFilterContext *ctx)
 220 {
 221     DelogoContext *s = ctx->priv;
 222
 223     av_expr_free(s->x_pexpr);    s->x_pexpr = NULL;
 224     av_expr_free(s->y_pexpr);    s->y_pexpr = NULL;
 225     av_expr_free(s->w_pexpr);    s->w_pexpr = NULL;
 226     av_expr_free(s->h_pexpr);    s->h_pexpr = NULL;
 227 }
 228
 229
 230 static int query_formats(AVFilterContext *ctx)
 231 {
 232     static const enum AVPixelFormat pix_fmts[] = {
 233         AV_PIX_FMT_YUV444P,  AV_PIX_FMT_YUV422P,  AV_PIX_FMT_YUV420P,
 234         AV_PIX_FMT_YUV411P,  AV_PIX_FMT_YUV410P,  AV_PIX_FMT_YUV440P,
 235         AV_PIX_FMT_YUVA420P, AV_PIX_FMT_GRAY8,
 236         AV_PIX_FMT_NONE
 237     };
 238     AVFilterFormats *fmts_list = ff_make_format_list(pix_fmts);
 239     if (!fmts_list)
 240         return AVERROR(ENOMEM);
 241     return ff_set_common_formats(ctx, fmts_list);
 242 }
 243
 244 static av_cold int init(AVFilterContext *ctx)
 245 {
 246     DelogoContext *s = ctx->priv;
 247     int ret = 0;
 248
 249     if ((ret = set_expr(&s->x_pexpr, s->x_expr, "x", ctx)) < 0 ||
 250         (ret = set_expr(&s->y_pexpr, s->y_expr, "y", ctx)) < 0 ||
 251         (ret = set_expr(&s->w_pexpr, s->w_expr, "w", ctx)) < 0 ||
 252         (ret = set_expr(&s->h_pexpr, s->h_expr, "h", ctx)) < 0 )
 253         return ret;
 254
 255     s->x = av_expr_eval(s->x_pexpr, s->var_values, s);
 256     s->y = av_expr_eval(s->y_pexpr, s->var_values, s);
 257     s->w = av_expr_eval(s->w_pexpr, s->var_values, s);
 258     s->h = av_expr_eval(s->h_pexpr, s->var_values, s);
 259
 260 #define CHECK_UNSET_OPT(opt)                                            \
 261     if (s->opt == -1) {                                            \
 262         av_log(s, AV_LOG_ERROR, "Option %s was not set.\n", #opt); \
 263         return AVERROR(EINVAL);                                         \
 264     }
 265     CHECK_UNSET_OPT(x);
 266     CHECK_UNSET_OPT(y);
 267     CHECK_UNSET_OPT(w);
 268     CHECK_UNSET_OPT(h);
 269
 270     s->band = 1;
 271
 272     av_log(ctx, AV_LOG_VERBOSE, "x:%d y:%d, w:%d h:%d band:%d show:%d\n",
 273            s->x, s->y, s->w, s->h, s->band, s->show);
 274
 275     s->w += s->band*2;
 276     s->h += s->band*2;
 277     s->x -= s->band;
 278     s->y -= s->band;
 279
 280     return 0;
 281 }
 282
 283 static int config_input(AVFilterLink *inlink)
 284 {
 285     DelogoContext *s = inlink->dst->priv;
 286
 287     /* Check whether the logo area fits in the frame */
 288     if (s->x + (s->band - 1) < 0 || s->x + s->w - (s->band*2 - 2) > inlink->w ||
 289         s->y + (s->band - 1) < 0 || s->y + s->h - (s->band*2 - 2) > inlink->h) {
 290         av_log(s, AV_LOG_ERROR, "Logo area is outside of the frame.\n");
 291         return AVERROR(EINVAL);
 292     }
 293
 294     return 0;
 295 }
 296
 297 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
 298 {
 299     DelogoContext *s = inlink->dst->priv;
 300     AVFilterLink *outlink = inlink->dst->outputs[0];
 301     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
 302     AVFrame *out;
 303     int hsub0 = desc->log2_chroma_w;
 304     int vsub0 = desc->log2_chroma_h;
 305     int direct = 0;
 306     int plane;
 307     AVRational sar;
 308     int ret;
 309
 310     s->var_values[VAR_N] = inlink->frame_count_out;
 311     s->var_values[VAR_T] = TS2T(in->pts, inlink->time_base);
 312     s->x = av_expr_eval(s->x_pexpr, s->var_values, s);
 313     s->y = av_expr_eval(s->y_pexpr, s->var_values, s);
 314     s->w = av_expr_eval(s->w_pexpr, s->var_values, s);
 315     s->h = av_expr_eval(s->h_pexpr, s->var_values, s);
 316
 317     if (s->x + (s->band - 1) <= 0 || s->x + s->w - (s->band*2 - 2) > inlink->w ||
 318         s->y + (s->band - 1) <= 0 || s->y + s->h - (s->band*2 - 2) > inlink->h) {
 319         av_log(s, AV_LOG_WARNING, "Logo area is outside of the frame,"
 320                " auto set the area inside of the frame\n");
 321     }
 322
 323     if (s->x + (s->band - 1) <= 0)
 324         s->x = 1 + s->band;
 325     if (s->y + (s->band - 1) <= 0)
 326         s->y = 1 + s->band;
 327     if (s->x + s->w - (s->band*2 - 2) > inlink->w)
 328         s->w = inlink->w - s->x - (s->band*2 - 2);
 329     if (s->y + s->h - (s->band*2 - 2) > inlink->h)
 330         s->h = inlink->h - s->y - (s->band*2 - 2);
 331
 332     ret = config_input(inlink);
 333     if (ret < 0) {
 334         av_frame_free(&in);
 335         return ret;
 336     }
 337
 338     s->w += s->band*2;
 339     s->h += s->band*2;
 340     s->x -= s->band;
 341     s->y -= s->band;
 342
 343     if (av_frame_is_writable(in)) {
 344         direct = 1;
 345         out = in;
 346     } else {
 347         out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 348         if (!out) {
 349             av_frame_free(&in);
 350             return AVERROR(ENOMEM);
 351         }
 352
 353         av_frame_copy_props(out, in);
 354     }
 355
 356     sar = in->sample_aspect_ratio;
 357     /* Assume square pixels if SAR is unknown */
 358     if (!sar.num)
 359         sar.num = sar.den = 1;
 360
 361     for (plane = 0; plane < desc->nb_components; plane++) {
 362         int hsub = plane == 1 || plane == 2 ? hsub0 : 0;
 363         int vsub = plane == 1 || plane == 2 ? vsub0 : 0;
 364
 365         apply_delogo(out->data[plane], out->linesize[plane],
 366                      in ->data[plane], in ->linesize[plane],
 367                      AV_CEIL_RSHIFT(inlink->w, hsub),
 368                      AV_CEIL_RSHIFT(inlink->h, vsub),
 369                      sar, s->x>>hsub, s->y>>vsub,
 370                      /* Up and left borders were rounded down, inject lost bits
 371                       * into width and height to avoid error accumulation */
 372                      AV_CEIL_RSHIFT(s->w + (s->x & ((1<<hsub)-1)), hsub),
 373                      AV_CEIL_RSHIFT(s->h + (s->y & ((1<<vsub)-1)), vsub),
 374                      s->band>>FFMIN(hsub, vsub),
 375                      s->show, direct);
 376     }
 377
 378     if (!direct)
 379         av_frame_free(&in);
 380
 381     return ff_filter_frame(outlink, out);
 382 }
 383
 384 static const AVFilterPad avfilter_vf_delogo_inputs[] = {
 385     {
 386         .name         = "default",
 387         .type         = AVMEDIA_TYPE_VIDEO,
 388         .filter_frame = filter_frame,
 389         .config_props = config_input,
 390     },
 391     { NULL }
 392 };
 393
 394 static const AVFilterPad avfilter_vf_delogo_outputs[] = {
 395     {
 396         .name = "default",
 397         .type = AVMEDIA_TYPE_VIDEO,
 398     },
 399     { NULL }
 400 };
 401
 402 AVFilter ff_vf_delogo = {
 403     .name          = "delogo",
 404     .description   = NULL_IF_CONFIG_SMALL("Remove logo from input video."),
 405     .priv_size     = sizeof(DelogoContext),
 406     .priv_class    = &delogo_class,
 407     .init          = init,
 408     .uninit        = uninit,
 409     .query_formats = query_formats,
 410     .inputs        = avfilter_vf_delogo_inputs,
 411     .outputs       = avfilter_vf_delogo_outputs,
 412     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
 413 };