git.sesse.net Git - ffmpeg/blob - libavfilter/vf_blend.c

   1 /*
   2  * Copyright (c) 2013 Paul B Mahol
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/imgutils.h"
  22 #include "libavutil/eval.h"
  23 #include "libavutil/opt.h"
  24 #include "libavutil/pixfmt.h"
  25 #include "avfilter.h"
  26 #include "bufferqueue.h"
  27 #include "formats.h"
  28 #include "internal.h"
  29 #include "dualinput.h"
  30 #include "video.h"
  31
  32 #define TOP    0
  33 #define BOTTOM 1
  34
  35 enum BlendMode {
  36     BLEND_UNSET = -1,
  37     BLEND_NORMAL,
  38     BLEND_ADDITION,
  39     BLEND_AND,
  40     BLEND_AVERAGE,
  41     BLEND_BURN,
  42     BLEND_DARKEN,
  43     BLEND_DIFFERENCE,
  44     BLEND_DIFFERENCE128,
  45     BLEND_DIVIDE,
  46     BLEND_DODGE,
  47     BLEND_EXCLUSION,
  48     BLEND_HARDLIGHT,
  49     BLEND_LIGHTEN,
  50     BLEND_MULTIPLY,
  51     BLEND_NEGATION,
  52     BLEND_OR,
  53     BLEND_OVERLAY,
  54     BLEND_PHOENIX,
  55     BLEND_PINLIGHT,
  56     BLEND_REFLECT,
  57     BLEND_SCREEN,
  58     BLEND_SOFTLIGHT,
  59     BLEND_SUBTRACT,
  60     BLEND_VIVIDLIGHT,
  61     BLEND_XOR,
  62     BLEND_HARDMIX,
  63     BLEND_LINEARLIGHT,
  64     BLEND_GLOW,
  65     BLEND_ADDITION128,
  66     BLEND_NB
  67 };
  68
  69 static const char *const var_names[] = {   "X",   "Y",   "W",   "H",   "SW",   "SH",   "T",   "N",   "A",   "B",   "TOP",   "BOTTOM",        NULL };
  70 enum                                   { VAR_X, VAR_Y, VAR_W, VAR_H, VAR_SW, VAR_SH, VAR_T, VAR_N, VAR_A, VAR_B, VAR_TOP, VAR_BOTTOM, VAR_VARS_NB };
  71
  72 typedef struct FilterParams {
  73     enum BlendMode mode;
  74     double opacity;
  75     AVExpr *e;
  76     char *expr_str;
  77     void (*blend)(const uint8_t *top, int top_linesize,
  78                   const uint8_t *bottom, int bottom_linesize,
  79                   uint8_t *dst, int dst_linesize,
  80                   int width, int start, int end,
  81                   struct FilterParams *param, double *values);
  82 } FilterParams;
  83
  84 typedef struct ThreadData {
  85     const AVFrame *top, *bottom;
  86     AVFrame *dst;
  87     AVFilterLink *inlink;
  88     int plane;
  89     int w, h;
  90     FilterParams *param;
  91 } ThreadData;
  92
  93 typedef struct {
  94     const AVClass *class;
  95     FFDualInputContext dinput;
  96     int hsub, vsub;             ///< chroma subsampling values
  97     int nb_planes;
  98     char *all_expr;
  99     enum BlendMode all_mode;
 100     double all_opacity;
 101
 102     FilterParams params[4];
 103     int tblend;
 104     AVFrame *prev_frame;        /* only used with tblend */
 105 } BlendContext;
 106
 107 #define COMMON_OPTIONS \
 108     { "c0_mode", "set component #0 blend mode", OFFSET(params[0].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
 109     { "c1_mode", "set component #1 blend mode", OFFSET(params[1].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
 110     { "c2_mode", "set component #2 blend mode", OFFSET(params[2].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
 111     { "c3_mode", "set component #3 blend mode", OFFSET(params[3].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
 112     { "all_mode", "set blend mode for all components", OFFSET(all_mode), AV_OPT_TYPE_INT, {.i64=-1},-1, BLEND_NB-1, FLAGS, "mode"},\
 113     { "addition",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_ADDITION},   0, 0, FLAGS, "mode" },\
 114     { "addition128", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_ADDITION128}, 0, 0, FLAGS, "mode" },\
 115     { "and",        "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_AND},        0, 0, FLAGS, "mode" },\
 116     { "average",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_AVERAGE},    0, 0, FLAGS, "mode" },\
 117     { "burn",       "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_BURN},       0, 0, FLAGS, "mode" },\
 118     { "darken",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DARKEN},     0, 0, FLAGS, "mode" },\
 119     { "difference", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DIFFERENCE}, 0, 0, FLAGS, "mode" },\
 120     { "difference128", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DIFFERENCE128}, 0, 0, FLAGS, "mode" },\
 121     { "divide",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DIVIDE},     0, 0, FLAGS, "mode" },\
 122     { "dodge",      "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DODGE},      0, 0, FLAGS, "mode" },\
 123     { "exclusion",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_EXCLUSION},  0, 0, FLAGS, "mode" },\
 124     { "glow",       "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GLOW},       0, 0, FLAGS, "mode" },\
 125     { "hardlight",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_HARDLIGHT},  0, 0, FLAGS, "mode" },\
 126     { "hardmix",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_HARDMIX},    0, 0, FLAGS, "mode" },\
 127     { "lighten",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_LIGHTEN},    0, 0, FLAGS, "mode" },\
 128     { "linearlight","", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_LINEARLIGHT},0, 0, FLAGS, "mode" },\
 129     { "multiply",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_MULTIPLY},   0, 0, FLAGS, "mode" },\
 130     { "negation",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_NEGATION},   0, 0, FLAGS, "mode" },\
 131     { "normal",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_NORMAL},     0, 0, FLAGS, "mode" },\
 132     { "or",         "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_OR},         0, 0, FLAGS, "mode" },\
 133     { "overlay",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_OVERLAY},    0, 0, FLAGS, "mode" },\
 134     { "phoenix",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_PHOENIX},    0, 0, FLAGS, "mode" },\
 135     { "pinlight",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_PINLIGHT},   0, 0, FLAGS, "mode" },\
 136     { "reflect",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_REFLECT},    0, 0, FLAGS, "mode" },\
 137     { "screen",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SCREEN},     0, 0, FLAGS, "mode" },\
 138     { "softlight",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SOFTLIGHT},  0, 0, FLAGS, "mode" },\
 139     { "subtract",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SUBTRACT},   0, 0, FLAGS, "mode" },\
 140     { "vividlight", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_VIVIDLIGHT}, 0, 0, FLAGS, "mode" },\
 141     { "xor",        "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_XOR},        0, 0, FLAGS, "mode" },\
 142     { "c0_expr",  "set color component #0 expression", OFFSET(params[0].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 143     { "c1_expr",  "set color component #1 expression", OFFSET(params[1].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 144     { "c2_expr",  "set color component #2 expression", OFFSET(params[2].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 145     { "c3_expr",  "set color component #3 expression", OFFSET(params[3].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 146     { "all_expr", "set expression for all color components", OFFSET(all_expr), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 147     { "c0_opacity",  "set color component #0 opacity", OFFSET(params[0].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 148     { "c1_opacity",  "set color component #1 opacity", OFFSET(params[1].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 149     { "c2_opacity",  "set color component #2 opacity", OFFSET(params[2].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 150     { "c3_opacity",  "set color component #3 opacity", OFFSET(params[3].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 151     { "all_opacity", "set opacity for all color components", OFFSET(all_opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS}
 152
 153 #define OFFSET(x) offsetof(BlendContext, x)
 154 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
 155
 156 static const AVOption blend_options[] = {
 157     COMMON_OPTIONS,
 158     { "shortest",    "force termination when the shortest input terminates", OFFSET(dinput.shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, FLAGS },
 159     { "repeatlast",  "repeat last bottom frame", OFFSET(dinput.repeatlast), AV_OPT_TYPE_BOOL, {.i64=1}, 0, 1, FLAGS },
 160     { NULL }
 161 };
 162
 163 AVFILTER_DEFINE_CLASS(blend);
 164
 165 static void blend_normal(const uint8_t *top, int top_linesize,
 166                          const uint8_t *bottom, int bottom_linesize,
 167                          uint8_t *dst, int dst_linesize,
 168                          int width, int start, int end,
 169                          FilterParams *param, double *values)
 170 {
 171     av_image_copy_plane(dst, dst_linesize, top, top_linesize, width, end - start);
 172 }
 173
 174 #define DEFINE_BLEND8(name, expr)                                              \
 175 static void blend_## name##_8bit(const uint8_t *top, int top_linesize,         \
 176                                  const uint8_t *bottom, int bottom_linesize,   \
 177                                  uint8_t *dst, int dst_linesize,               \
 178                                  int width, int start, int end,                \
 179                                  FilterParams *param, double *values)          \
 180 {                                                                              \
 181     double opacity = param->opacity;                                           \
 182     int i, j;                                                                  \
 183                                                                                \
 184     for (i = start; i < end; i++) {                                            \
 185         for (j = 0; j < width; j++) {                                          \
 186             dst[j] = top[j] + ((expr) - top[j]) * opacity;                     \
 187         }                                                                      \
 188         dst    += dst_linesize;                                                \
 189         top    += top_linesize;                                                \
 190         bottom += bottom_linesize;                                             \
 191     }                                                                          \
 192 }
 193
 194 #define DEFINE_BLEND16(name, expr)                                             \
 195 static void blend_## name##_16bit(const uint8_t *_top, int top_linesize,       \
 196                                   const uint8_t *_bottom, int bottom_linesize, \
 197                                   uint8_t *_dst, int dst_linesize,             \
 198                                   int width, int start, int end,               \
 199                                   FilterParams *param, double *values)         \
 200 {                                                                              \
 201     const uint16_t *top = (uint16_t*)_top;                                     \
 202     const uint16_t *bottom = (uint16_t*)_bottom;                               \
 203     uint16_t *dst = (uint16_t*)_dst;                                           \
 204     double opacity = param->opacity;                                           \
 205     int i, j;                                                                  \
 206     dst_linesize /= 2;                                                         \
 207     top_linesize /= 2;                                                         \
 208     bottom_linesize /= 2;                                                      \
 209                                                                                \
 210     for (i = start; i < end; i++) {                                            \
 211         for (j = 0; j < width; j++) {                                          \
 212             dst[j] = top[j] + ((expr) - top[j]) * opacity;                     \
 213         }                                                                      \
 214         dst    += dst_linesize;                                                \
 215         top    += top_linesize;                                                \
 216         bottom += bottom_linesize;                                             \
 217     }                                                                          \
 218 }
 219
 220 #define A top[j]
 221 #define B bottom[j]
 222
 223 #define MULTIPLY(x, a, b) ((x) * (((a) * (b)) / 255))
 224 #define SCREEN(x, a, b)   (255 - (x) * ((255 - (a)) * (255 - (b)) / 255))
 225 #define BURN(a, b)        (((a) == 0) ? (a) : FFMAX(0, 255 - ((255 - (b)) << 8) / (a)))
 226 #define DODGE(a, b)       (((a) == 255) ? (a) : FFMIN(255, (((b) << 8) / (255 - (a)))))
 227
 228 DEFINE_BLEND8(addition,   FFMIN(255, A + B))
 229 DEFINE_BLEND8(addition128, av_clip_uint8(A + B - 128))
 230 DEFINE_BLEND8(average,    (A + B) / 2)
 231 DEFINE_BLEND8(subtract,   FFMAX(0, A - B))
 232 DEFINE_BLEND8(multiply,   MULTIPLY(1, A, B))
 233 DEFINE_BLEND8(negation,   255 - FFABS(255 - A - B))
 234 DEFINE_BLEND8(difference, FFABS(A - B))
 235 DEFINE_BLEND8(difference128, av_clip_uint8(128 + A - B))
 236 DEFINE_BLEND8(screen,     SCREEN(1, A, B))
 237 DEFINE_BLEND8(overlay,    (A < 128) ? MULTIPLY(2, A, B) : SCREEN(2, A, B))
 238 DEFINE_BLEND8(hardlight,  (B < 128) ? MULTIPLY(2, B, A) : SCREEN(2, B, A))
 239 DEFINE_BLEND8(hardmix,    (A < (255 - B)) ? 0: 255)
 240 DEFINE_BLEND8(darken,     FFMIN(A, B))
 241 DEFINE_BLEND8(lighten,    FFMAX(A, B))
 242 DEFINE_BLEND8(divide,     av_clip_uint8(((float)A / ((float)B) * 255)))
 243 DEFINE_BLEND8(dodge,      DODGE(A, B))
 244 DEFINE_BLEND8(burn,       BURN(A, B))
 245 DEFINE_BLEND8(softlight,  (A > 127) ? B + (255 - B) * (A - 127.5) / 127.5 * (0.5 - FFABS(B - 127.5) / 255): B - B * ((127.5 - A) / 127.5) * (0.5 - FFABS(B - 127.5)/255))
 246 DEFINE_BLEND8(exclusion,  A + B - 2 * A * B / 255)
 247 DEFINE_BLEND8(pinlight,   (B < 128) ? FFMIN(A, 2 * B) : FFMAX(A, 2 * (B - 128)))
 248 DEFINE_BLEND8(phoenix,    FFMIN(A, B) - FFMAX(A, B) + 255)
 249 DEFINE_BLEND8(reflect,    (B == 255) ? B : FFMIN(255, (A * A / (255 - B))))
 250 DEFINE_BLEND8(glow,       (A == 255) ? A : FFMIN(255, (B * B / (255 - A))))
 251 DEFINE_BLEND8(and,        A & B)
 252 DEFINE_BLEND8(or,         A | B)
 253 DEFINE_BLEND8(xor,        A ^ B)
 254 DEFINE_BLEND8(vividlight, (A < 128) ? BURN(2 * A, B) : DODGE(2 * (A - 128), B))
 255 DEFINE_BLEND8(linearlight,av_clip_uint8((B < 128) ? B + 2 * A - 255 : B + 2 * (A - 128)))
 256
 257 #undef MULTIPLY
 258 #undef SCREEN
 259 #undef BURN
 260 #undef DODGE
 261
 262 #define MULTIPLY(x, a, b) ((x) * (((a) * (b)) / 65535))
 263 #define SCREEN(x, a, b)   (65535 - (x) * ((65535 - (a)) * (65535 - (b)) / 65535))
 264 #define BURN(a, b)        (((a) == 0) ? (a) : FFMAX(0, 65535 - ((65535 - (b)) << 16) / (a)))
 265 #define DODGE(a, b)       (((a) == 65535) ? (a) : FFMIN(65535, (((b) << 16) / (65535 - (a)))))
 266
 267 DEFINE_BLEND16(addition,   FFMIN(65535, A + B))
 268 DEFINE_BLEND16(addition128, av_clip_uint16(A + B - 32768))
 269 DEFINE_BLEND16(average,    (A + B) / 2)
 270 DEFINE_BLEND16(subtract,   FFMAX(0, A - B))
 271 DEFINE_BLEND16(multiply,   MULTIPLY(1, A, B))
 272 DEFINE_BLEND16(negation,   65535 - FFABS(65535 - A - B))
 273 DEFINE_BLEND16(difference, FFABS(A - B))
 274 DEFINE_BLEND16(difference128, av_clip_uint16(32768 + A - B))
 275 DEFINE_BLEND16(screen,     SCREEN(1, A, B))
 276 DEFINE_BLEND16(overlay,    (A < 32768) ? MULTIPLY(2, A, B) : SCREEN(2, A, B))
 277 DEFINE_BLEND16(hardlight,  (B < 32768) ? MULTIPLY(2, B, A) : SCREEN(2, B, A))
 278 DEFINE_BLEND16(hardmix,    (A < (65535 - B)) ? 0: 65535)
 279 DEFINE_BLEND16(darken,     FFMIN(A, B))
 280 DEFINE_BLEND16(lighten,    FFMAX(A, B))
 281 DEFINE_BLEND16(divide,     av_clip_uint16(((float)A / ((float)B) * 65535)))
 282 DEFINE_BLEND16(dodge,      DODGE(A, B))
 283 DEFINE_BLEND16(burn,       BURN(A, B))
 284 DEFINE_BLEND16(softlight,  (A > 32767) ? B + (65535 - B) * (A - 32767.5) / 32767.5 * (0.5 - FFABS(B - 32767.5) / 65535): B - B * ((32767.5 - A) / 32767.5) * (0.5 - FFABS(B - 32767.5)/65535))
 285 DEFINE_BLEND16(exclusion,  A + B - 2 * A * B / 65535)
 286 DEFINE_BLEND16(pinlight,   (B < 32768) ? FFMIN(A, 2 * B) : FFMAX(A, 2 * (B - 32768)))
 287 DEFINE_BLEND16(phoenix,    FFMIN(A, B) - FFMAX(A, B) + 65535)
 288 DEFINE_BLEND16(reflect,    (B == 65535) ? B : FFMIN(65535, (A * A / (65535 - B))))
 289 DEFINE_BLEND16(glow,       (A == 65535) ? A : FFMIN(65535, (B * B / (65535 - A))))
 290 DEFINE_BLEND16(and,        A & B)
 291 DEFINE_BLEND16(or,         A | B)
 292 DEFINE_BLEND16(xor,        A ^ B)
 293 DEFINE_BLEND16(vividlight, (A < 32768) ? BURN(2 * A, B) : DODGE(2 * (A - 32768), B))
 294 DEFINE_BLEND16(linearlight,av_clip_uint16((B < 32768) ? B + 2 * A - 65535 : B + 2 * (A - 32768)))
 295
 296 #define DEFINE_BLEND_EXPR(type, name, div)                                     \
 297 static void blend_expr_## name(const uint8_t *_top, int top_linesize,          \
 298                                const uint8_t *_bottom, int bottom_linesize,    \
 299                                uint8_t *_dst, int dst_linesize,                \
 300                                int width, int start, int end,                  \
 301                                FilterParams *param, double *values)            \
 302 {                                                                              \
 303     const type *top = (type*)_top;                                             \
 304     const type *bottom = (type*)_bottom;                                       \
 305     type *dst = (type*)_dst;                                                   \
 306     AVExpr *e = param->e;                                                      \
 307     int y, x;                                                                  \
 308     dst_linesize /= div;                                                       \
 309     top_linesize /= div;                                                       \
 310     bottom_linesize /= div;                                                    \
 311                                                                                \
 312     for (y = start; y < end; y++) {                                            \
 313         values[VAR_Y] = y;                                                     \
 314         for (x = 0; x < width; x++) {                                          \
 315             values[VAR_X]      = x;                                            \
 316             values[VAR_TOP]    = values[VAR_A] = top[x];                       \
 317             values[VAR_BOTTOM] = values[VAR_B] = bottom[x];                    \
 318             dst[x] = av_expr_eval(e, values, NULL);                            \
 319         }                                                                      \
 320         dst    += dst_linesize;                                                \
 321         top    += top_linesize;                                                \
 322         bottom += bottom_linesize;                                             \
 323     }                                                                          \
 324 }
 325
 326 DEFINE_BLEND_EXPR(uint8_t, 8bit, 1)
 327 DEFINE_BLEND_EXPR(uint16_t, 16bit, 2)
 328
 329 static int filter_slice(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs)
 330 {
 331     ThreadData *td = arg;
 332     int slice_start = (td->h *  jobnr   ) / nb_jobs;
 333     int slice_end   = (td->h * (jobnr+1)) / nb_jobs;
 334     const uint8_t *top    = td->top->data[td->plane];
 335     const uint8_t *bottom = td->bottom->data[td->plane];
 336     uint8_t *dst    = td->dst->data[td->plane];
 337     double values[VAR_VARS_NB];
 338
 339     values[VAR_N]  = td->inlink->frame_count;
 340     values[VAR_T]  = td->dst->pts == AV_NOPTS_VALUE ? NAN : td->dst->pts * av_q2d(td->inlink->time_base);
 341     values[VAR_W]  = td->w;
 342     values[VAR_H]  = td->h;
 343     values[VAR_SW] = td->w / (double)td->dst->width;
 344     values[VAR_SH] = td->h / (double)td->dst->height;
 345
 346     td->param->blend(top + slice_start * td->top->linesize[td->plane],
 347                      td->top->linesize[td->plane],
 348                      bottom + slice_start * td->bottom->linesize[td->plane],
 349                      td->bottom->linesize[td->plane],
 350                      dst + slice_start * td->dst->linesize[td->plane],
 351                      td->dst->linesize[td->plane],
 352                      td->w, slice_start, slice_end, td->param, &values[0]);
 353     return 0;
 354 }
 355
 356 static AVFrame *blend_frame(AVFilterContext *ctx, AVFrame *top_buf,
 357                             const AVFrame *bottom_buf)
 358 {
 359     BlendContext *s = ctx->priv;
 360     AVFilterLink *inlink = ctx->inputs[0];
 361     AVFilterLink *outlink = ctx->outputs[0];
 362     AVFrame *dst_buf;
 363     int plane;
 364
 365     dst_buf = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 366     if (!dst_buf)
 367         return top_buf;
 368     av_frame_copy_props(dst_buf, top_buf);
 369
 370     for (plane = 0; plane < s->nb_planes; plane++) {
 371         int hsub = plane == 1 || plane == 2 ? s->hsub : 0;
 372         int vsub = plane == 1 || plane == 2 ? s->vsub : 0;
 373         int outw = FF_CEIL_RSHIFT(dst_buf->width,  hsub);
 374         int outh = FF_CEIL_RSHIFT(dst_buf->height, vsub);
 375         FilterParams *param = &s->params[plane];
 376         ThreadData td = { .top = top_buf, .bottom = bottom_buf, .dst = dst_buf,
 377                           .w = outw, .h = outh, .param = param, .plane = plane,
 378                           .inlink = inlink };
 379
 380         ctx->internal->execute(ctx, filter_slice, &td, NULL, FFMIN(outh, ctx->graph->nb_threads));
 381     }
 382
 383     if (!s->tblend)
 384         av_frame_free(&top_buf);
 385
 386     return dst_buf;
 387 }
 388
 389 static av_cold int init(AVFilterContext *ctx)
 390 {
 391     BlendContext *s = ctx->priv;
 392
 393     s->tblend = !strcmp(ctx->filter->name, "tblend");
 394
 395     s->dinput.process = blend_frame;
 396     return 0;
 397 }
 398
 399 static int query_formats(AVFilterContext *ctx)
 400 {
 401     static const enum AVPixelFormat pix_fmts[] = {
 402         AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUVA422P, AV_PIX_FMT_YUVA420P,
 403         AV_PIX_FMT_YUVJ444P, AV_PIX_FMT_YUVJ440P, AV_PIX_FMT_YUVJ422P,AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ411P,
 404         AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUV440P, AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUV411P, AV_PIX_FMT_YUV410P,
 405         AV_PIX_FMT_GBRP, AV_PIX_FMT_GBRAP, AV_PIX_FMT_GRAY8,
 406         AV_PIX_FMT_YUV420P16, AV_PIX_FMT_YUV422P16, AV_PIX_FMT_YUV444P16,
 407         AV_PIX_FMT_YUVA420P16, AV_PIX_FMT_YUVA422P16, AV_PIX_FMT_YUVA444P16,
 408         AV_PIX_FMT_GBRP16, AV_PIX_FMT_GRAY16,
 409         AV_PIX_FMT_NONE
 410     };
 411
 412     AVFilterFormats *fmts_list = ff_make_format_list(pix_fmts);
 413     if (!fmts_list)
 414         return AVERROR(ENOMEM);
 415     return ff_set_common_formats(ctx, fmts_list);
 416 }
 417
 418 static av_cold void uninit(AVFilterContext *ctx)
 419 {
 420     BlendContext *s = ctx->priv;
 421     int i;
 422
 423     ff_dualinput_uninit(&s->dinput);
 424     av_frame_free(&s->prev_frame);
 425
 426     for (i = 0; i < FF_ARRAY_ELEMS(s->params); i++)
 427         av_expr_free(s->params[i].e);
 428 }
 429
 430 static int config_output(AVFilterLink *outlink)
 431 {
 432     AVFilterContext *ctx = outlink->src;
 433     AVFilterLink *toplink = ctx->inputs[TOP];
 434     BlendContext *s = ctx->priv;
 435     const AVPixFmtDescriptor *pix_desc = av_pix_fmt_desc_get(toplink->format);
 436     int ret, plane, is_16bit;
 437
 438     if (!s->tblend) {
 439         AVFilterLink *bottomlink = ctx->inputs[BOTTOM];
 440
 441         if (toplink->format != bottomlink->format) {
 442             av_log(ctx, AV_LOG_ERROR, "inputs must be of same pixel format\n");
 443             return AVERROR(EINVAL);
 444         }
 445         if (toplink->w                       != bottomlink->w ||
 446             toplink->h                       != bottomlink->h ||
 447             toplink->sample_aspect_ratio.num != bottomlink->sample_aspect_ratio.num ||
 448             toplink->sample_aspect_ratio.den != bottomlink->sample_aspect_ratio.den) {
 449             av_log(ctx, AV_LOG_ERROR, "First input link %s parameters "
 450                    "(size %dx%d, SAR %d:%d) do not match the corresponding "
 451                    "second input link %s parameters (%dx%d, SAR %d:%d)\n",
 452                    ctx->input_pads[TOP].name, toplink->w, toplink->h,
 453                    toplink->sample_aspect_ratio.num,
 454                    toplink->sample_aspect_ratio.den,
 455                    ctx->input_pads[BOTTOM].name, bottomlink->w, bottomlink->h,
 456                    bottomlink->sample_aspect_ratio.num,
 457                    bottomlink->sample_aspect_ratio.den);
 458             return AVERROR(EINVAL);
 459         }
 460     }
 461
 462     outlink->w = toplink->w;
 463     outlink->h = toplink->h;
 464     outlink->time_base = toplink->time_base;
 465     outlink->sample_aspect_ratio = toplink->sample_aspect_ratio;
 466     outlink->frame_rate = toplink->frame_rate;
 467
 468     s->hsub = pix_desc->log2_chroma_w;
 469     s->vsub = pix_desc->log2_chroma_h;
 470
 471     is_16bit = pix_desc->comp[0].depth == 16;
 472     s->nb_planes = av_pix_fmt_count_planes(toplink->format);
 473
 474     if (!s->tblend)
 475         if ((ret = ff_dualinput_init(ctx, &s->dinput)) < 0)
 476             return ret;
 477
 478     for (plane = 0; plane < FF_ARRAY_ELEMS(s->params); plane++) {
 479         FilterParams *param = &s->params[plane];
 480
 481         if (s->all_mode >= 0)
 482             param->mode = s->all_mode;
 483         if (s->all_opacity < 1)
 484             param->opacity = s->all_opacity;
 485
 486         switch (param->mode) {
 487         case BLEND_ADDITION:   param->blend = is_16bit ? blend_addition_16bit   : blend_addition_8bit;   break;
 488         case BLEND_ADDITION128: param->blend = is_16bit ? blend_addition128_16bit : blend_addition128_8bit; break;
 489         case BLEND_AND:        param->blend = is_16bit ? blend_and_16bit        : blend_and_8bit;        break;
 490         case BLEND_AVERAGE:    param->blend = is_16bit ? blend_average_16bit    : blend_average_8bit;    break;
 491         case BLEND_BURN:       param->blend = is_16bit ? blend_burn_16bit       : blend_burn_8bit;       break;
 492         case BLEND_DARKEN:     param->blend = is_16bit ? blend_darken_16bit     : blend_darken_8bit;     break;
 493         case BLEND_DIFFERENCE: param->blend = is_16bit ? blend_difference_16bit : blend_difference_8bit; break;
 494         case BLEND_DIFFERENCE128: param->blend = is_16bit ? blend_difference128_16bit: blend_difference128_8bit; break;
 495         case BLEND_DIVIDE:     param->blend = is_16bit ? blend_divide_16bit     : blend_divide_8bit;     break;
 496         case BLEND_DODGE:      param->blend = is_16bit ? blend_dodge_16bit      : blend_dodge_8bit;      break;
 497         case BLEND_EXCLUSION:  param->blend = is_16bit ? blend_exclusion_16bit  : blend_exclusion_8bit;  break;
 498         case BLEND_GLOW:       param->blend = is_16bit ? blend_glow_16bit       : blend_glow_8bit;       break;
 499         case BLEND_HARDLIGHT:  param->blend = is_16bit ? blend_hardlight_16bit  : blend_hardlight_8bit;  break;
 500         case BLEND_HARDMIX:    param->blend = is_16bit ? blend_hardmix_16bit    : blend_hardmix_8bit;    break;
 501         case BLEND_LIGHTEN:    param->blend = is_16bit ? blend_lighten_16bit    : blend_lighten_8bit;    break;
 502         case BLEND_LINEARLIGHT:param->blend = is_16bit ? blend_linearlight_16bit: blend_linearlight_8bit;break;
 503         case BLEND_MULTIPLY:   param->blend = is_16bit ? blend_multiply_16bit   : blend_multiply_8bit;   break;
 504         case BLEND_NEGATION:   param->blend = is_16bit ? blend_negation_16bit   : blend_negation_8bit;   break;
 505         case BLEND_NORMAL:     param->blend = blend_normal;                                              break;
 506         case BLEND_OR:         param->blend = is_16bit ? blend_or_16bit         : blend_or_8bit;         break;
 507         case BLEND_OVERLAY:    param->blend = is_16bit ? blend_overlay_16bit    : blend_overlay_8bit;    break;
 508         case BLEND_PHOENIX:    param->blend = is_16bit ? blend_phoenix_16bit    : blend_phoenix_8bit;    break;
 509         case BLEND_PINLIGHT:   param->blend = is_16bit ? blend_pinlight_16bit   : blend_pinlight_8bit;   break;
 510         case BLEND_REFLECT:    param->blend = is_16bit ? blend_reflect_16bit    : blend_reflect_8bit;    break;
 511         case BLEND_SCREEN:     param->blend = is_16bit ? blend_screen_16bit     : blend_screen_8bit;     break;
 512         case BLEND_SOFTLIGHT:  param->blend = is_16bit ? blend_softlight_16bit  : blend_softlight_8bit;  break;
 513         case BLEND_SUBTRACT:   param->blend = is_16bit ? blend_subtract_16bit   : blend_subtract_8bit;   break;
 514         case BLEND_VIVIDLIGHT: param->blend = is_16bit ? blend_vividlight_16bit : blend_vividlight_8bit; break;
 515         case BLEND_XOR:        param->blend = is_16bit ? blend_xor_16bit        : blend_xor_8bit;        break;
 516         }
 517
 518         if (s->all_expr && !param->expr_str) {
 519             param->expr_str = av_strdup(s->all_expr);
 520             if (!param->expr_str)
 521                 return AVERROR(ENOMEM);
 522         }
 523         if (param->expr_str) {
 524             ret = av_expr_parse(&param->e, param->expr_str, var_names,
 525                                 NULL, NULL, NULL, NULL, 0, ctx);
 526             if (ret < 0)
 527                 return ret;
 528             param->blend = is_16bit? blend_expr_16bit : blend_expr_8bit;
 529         }
 530     }
 531
 532     return 0;
 533 }
 534
 535 #if CONFIG_BLEND_FILTER
 536
 537 static int request_frame(AVFilterLink *outlink)
 538 {
 539     BlendContext *s = outlink->src->priv;
 540     return ff_dualinput_request_frame(&s->dinput, outlink);
 541 }
 542
 543 static int filter_frame(AVFilterLink *inlink, AVFrame *buf)
 544 {
 545     BlendContext *s = inlink->dst->priv;
 546     return ff_dualinput_filter_frame(&s->dinput, inlink, buf);
 547 }
 548
 549 static const AVFilterPad blend_inputs[] = {
 550     {
 551         .name          = "top",
 552         .type          = AVMEDIA_TYPE_VIDEO,
 553         .filter_frame  = filter_frame,
 554     },{
 555         .name          = "bottom",
 556         .type          = AVMEDIA_TYPE_VIDEO,
 557         .filter_frame  = filter_frame,
 558     },
 559     { NULL }
 560 };
 561
 562 static const AVFilterPad blend_outputs[] = {
 563     {
 564         .name          = "default",
 565         .type          = AVMEDIA_TYPE_VIDEO,
 566         .config_props  = config_output,
 567         .request_frame = request_frame,
 568     },
 569     { NULL }
 570 };
 571
 572 AVFilter ff_vf_blend = {
 573     .name          = "blend",
 574     .description   = NULL_IF_CONFIG_SMALL("Blend two video frames into each other."),
 575     .init          = init,
 576     .uninit        = uninit,
 577     .priv_size     = sizeof(BlendContext),
 578     .query_formats = query_formats,
 579     .inputs        = blend_inputs,
 580     .outputs       = blend_outputs,
 581     .priv_class    = &blend_class,
 582     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_INTERNAL | AVFILTER_FLAG_SLICE_THREADS,
 583 };
 584
 585 #endif
 586
 587 #if CONFIG_TBLEND_FILTER
 588
 589 static int tblend_filter_frame(AVFilterLink *inlink, AVFrame *frame)
 590 {
 591     BlendContext *s = inlink->dst->priv;
 592     AVFilterLink *outlink = inlink->dst->outputs[0];
 593
 594     if (s->prev_frame) {
 595         AVFrame *out = blend_frame(inlink->dst, frame, s->prev_frame);
 596         av_frame_free(&s->prev_frame);
 597         s->prev_frame = frame;
 598         return ff_filter_frame(outlink, out);
 599     }
 600     s->prev_frame = frame;
 601     return 0;
 602 }
 603
 604 static const AVOption tblend_options[] = {
 605     COMMON_OPTIONS,
 606     { NULL }
 607 };
 608
 609 AVFILTER_DEFINE_CLASS(tblend);
 610
 611 static const AVFilterPad tblend_inputs[] = {
 612     {
 613         .name          = "default",
 614         .type          = AVMEDIA_TYPE_VIDEO,
 615         .filter_frame  = tblend_filter_frame,
 616     },
 617     { NULL }
 618 };
 619
 620 static const AVFilterPad tblend_outputs[] = {
 621     {
 622         .name          = "default",
 623         .type          = AVMEDIA_TYPE_VIDEO,
 624         .config_props  = config_output,
 625     },
 626     { NULL }
 627 };
 628
 629 AVFilter ff_vf_tblend = {
 630     .name          = "tblend",
 631     .description   = NULL_IF_CONFIG_SMALL("Blend successive frames."),
 632     .priv_size     = sizeof(BlendContext),
 633     .priv_class    = &tblend_class,
 634     .query_formats = query_formats,
 635     .init          = init,
 636     .uninit        = uninit,
 637     .inputs        = tblend_inputs,
 638     .outputs       = tblend_outputs,
 639     .flags         = AVFILTER_FLAG_SLICE_THREADS,
 640 };
 641
 642 #endif