git.sesse.net Git - ffmpeg/blob - libavfilter/vf_blend.c

   1 /*
   2  * Copyright (c) 2013 Paul B Mahol
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/imgutils.h"
  22 #include "libavutil/eval.h"
  23 #include "libavutil/opt.h"
  24 #include "libavutil/pixfmt.h"
  25 #include "avfilter.h"
  26 #include "bufferqueue.h"
  27 #include "formats.h"
  28 #include "framesync.h"
  29 #include "internal.h"
  30 #include "video.h"
  31 #include "blend.h"
  32
  33 #define TOP    0
  34 #define BOTTOM 1
  35
  36 typedef struct BlendContext {
  37     const AVClass *class;
  38     FFFrameSync fs;
  39     int hsub, vsub;             ///< chroma subsampling values
  40     int nb_planes;
  41     char *all_expr;
  42     enum BlendMode all_mode;
  43     double all_opacity;
  44
  45     FilterParams params[4];
  46     int tblend;
  47     AVFrame *prev_frame;        /* only used with tblend */
  48 } BlendContext;
  49
  50 static const char *const var_names[] = {   "X",   "Y",   "W",   "H",   "SW",   "SH",   "T",   "N",   "A",   "B",   "TOP",   "BOTTOM",        NULL };
  51 enum                                   { VAR_X, VAR_Y, VAR_W, VAR_H, VAR_SW, VAR_SH, VAR_T, VAR_N, VAR_A, VAR_B, VAR_TOP, VAR_BOTTOM, VAR_VARS_NB };
  52
  53 typedef struct ThreadData {
  54     const AVFrame *top, *bottom;
  55     AVFrame *dst;
  56     AVFilterLink *inlink;
  57     int plane;
  58     int w, h;
  59     FilterParams *param;
  60 } ThreadData;
  61
  62 #define COMMON_OPTIONS \
  63     { "c0_mode", "set component #0 blend mode", OFFSET(params[0].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
  64     { "c1_mode", "set component #1 blend mode", OFFSET(params[1].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
  65     { "c2_mode", "set component #2 blend mode", OFFSET(params[2].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
  66     { "c3_mode", "set component #3 blend mode", OFFSET(params[3].mode), AV_OPT_TYPE_INT, {.i64=0}, 0, BLEND_NB-1, FLAGS, "mode"},\
  67     { "all_mode", "set blend mode for all components", OFFSET(all_mode), AV_OPT_TYPE_INT, {.i64=-1},-1, BLEND_NB-1, FLAGS, "mode"},\
  68     { "addition",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_ADDITION},   0, 0, FLAGS, "mode" },\
  69     { "addition128","", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GRAINMERGE}, 0, 0, FLAGS, "mode" },\
  70     { "grainmerge", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GRAINMERGE}, 0, 0, FLAGS, "mode" },\
  71     { "and",        "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_AND},        0, 0, FLAGS, "mode" },\
  72     { "average",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_AVERAGE},    0, 0, FLAGS, "mode" },\
  73     { "burn",       "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_BURN},       0, 0, FLAGS, "mode" },\
  74     { "darken",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DARKEN},     0, 0, FLAGS, "mode" },\
  75     { "difference", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DIFFERENCE}, 0, 0, FLAGS, "mode" },\
  76     { "difference128", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GRAINEXTRACT}, 0, 0, FLAGS, "mode" },\
  77     { "grainextract", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GRAINEXTRACT}, 0, 0, FLAGS, "mode" },\
  78     { "divide",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DIVIDE},     0, 0, FLAGS, "mode" },\
  79     { "dodge",      "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_DODGE},      0, 0, FLAGS, "mode" },\
  80     { "exclusion",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_EXCLUSION},  0, 0, FLAGS, "mode" },\
  81     { "extremity",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_EXTREMITY},  0, 0, FLAGS, "mode" },\
  82     { "freeze",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_FREEZE},     0, 0, FLAGS, "mode" },\
  83     { "glow",       "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_GLOW},       0, 0, FLAGS, "mode" },\
  84     { "hardlight",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_HARDLIGHT},  0, 0, FLAGS, "mode" },\
  85     { "hardmix",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_HARDMIX},    0, 0, FLAGS, "mode" },\
  86     { "heat",       "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_HEAT},       0, 0, FLAGS, "mode" },\
  87     { "lighten",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_LIGHTEN},    0, 0, FLAGS, "mode" },\
  88     { "linearlight","", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_LINEARLIGHT},0, 0, FLAGS, "mode" },\
  89     { "multiply",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_MULTIPLY},   0, 0, FLAGS, "mode" },\
  90     { "multiply128","", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_MULTIPLY128},0, 0, FLAGS, "mode" },\
  91     { "negation",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_NEGATION},   0, 0, FLAGS, "mode" },\
  92     { "normal",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_NORMAL},     0, 0, FLAGS, "mode" },\
  93     { "or",         "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_OR},         0, 0, FLAGS, "mode" },\
  94     { "overlay",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_OVERLAY},    0, 0, FLAGS, "mode" },\
  95     { "phoenix",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_PHOENIX},    0, 0, FLAGS, "mode" },\
  96     { "pinlight",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_PINLIGHT},   0, 0, FLAGS, "mode" },\
  97     { "reflect",    "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_REFLECT},    0, 0, FLAGS, "mode" },\
  98     { "screen",     "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SCREEN},     0, 0, FLAGS, "mode" },\
  99     { "softlight",  "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SOFTLIGHT},  0, 0, FLAGS, "mode" },\
 100     { "subtract",   "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_SUBTRACT},   0, 0, FLAGS, "mode" },\
 101     { "vividlight", "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_VIVIDLIGHT}, 0, 0, FLAGS, "mode" },\
 102     { "xor",        "", 0, AV_OPT_TYPE_CONST, {.i64=BLEND_XOR},        0, 0, FLAGS, "mode" },\
 103     { "c0_expr",  "set color component #0 expression", OFFSET(params[0].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 104     { "c1_expr",  "set color component #1 expression", OFFSET(params[1].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 105     { "c2_expr",  "set color component #2 expression", OFFSET(params[2].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 106     { "c3_expr",  "set color component #3 expression", OFFSET(params[3].expr_str), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 107     { "all_expr", "set expression for all color components", OFFSET(all_expr), AV_OPT_TYPE_STRING, {.str=NULL}, CHAR_MIN, CHAR_MAX, FLAGS },\
 108     { "c0_opacity",  "set color component #0 opacity", OFFSET(params[0].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 109     { "c1_opacity",  "set color component #1 opacity", OFFSET(params[1].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 110     { "c2_opacity",  "set color component #2 opacity", OFFSET(params[2].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 111     { "c3_opacity",  "set color component #3 opacity", OFFSET(params[3].opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS },\
 112     { "all_opacity", "set opacity for all color components", OFFSET(all_opacity), AV_OPT_TYPE_DOUBLE, {.dbl=1}, 0, 1, FLAGS}
 113
 114 #define OFFSET(x) offsetof(BlendContext, x)
 115 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
 116
 117 static const AVOption blend_options[] = {
 118     COMMON_OPTIONS,
 119     { NULL }
 120 };
 121
 122 FRAMESYNC_DEFINE_CLASS(blend, BlendContext, fs);
 123
 124 #define COPY(src)                                                            \
 125 static void blend_copy ## src(const uint8_t *top, ptrdiff_t top_linesize,    \
 126                             const uint8_t *bottom, ptrdiff_t bottom_linesize,\
 127                             uint8_t *dst, ptrdiff_t dst_linesize,            \
 128                             ptrdiff_t width, ptrdiff_t height,               \
 129                             FilterParams *param, double *values, int starty) \
 130 {                                                                            \
 131     av_image_copy_plane(dst, dst_linesize, src, src ## _linesize,            \
 132                         width, height);                                 \
 133 }
 134
 135 COPY(top)
 136 COPY(bottom)
 137
 138 #undef COPY
 139
 140 static void blend_normal_8bit(const uint8_t *top, ptrdiff_t top_linesize,
 141                               const uint8_t *bottom, ptrdiff_t bottom_linesize,
 142                               uint8_t *dst, ptrdiff_t dst_linesize,
 143                               ptrdiff_t width, ptrdiff_t height,
 144                               FilterParams *param, double *values, int starty)
 145 {
 146     const double opacity = param->opacity;
 147     int i, j;
 148
 149     for (i = 0; i < height; i++) {
 150         for (j = 0; j < width; j++) {
 151             dst[j] = top[j] * opacity + bottom[j] * (1. - opacity);
 152         }
 153         dst    += dst_linesize;
 154         top    += top_linesize;
 155         bottom += bottom_linesize;
 156     }
 157 }
 158
 159 static void blend_normal_16bit(const uint8_t *_top, ptrdiff_t top_linesize,
 160                                   const uint8_t *_bottom, ptrdiff_t bottom_linesize,
 161                                   uint8_t *_dst, ptrdiff_t dst_linesize,
 162                                   ptrdiff_t width, ptrdiff_t height,
 163                                   FilterParams *param, double *values, int starty)
 164 {
 165     const uint16_t *top = (uint16_t*)_top;
 166     const uint16_t *bottom = (uint16_t*)_bottom;
 167     uint16_t *dst = (uint16_t*)_dst;
 168     const double opacity = param->opacity;
 169     int i, j;
 170     dst_linesize /= 2;
 171     top_linesize /= 2;
 172     bottom_linesize /= 2;
 173
 174     for (i = 0; i < height; i++) {
 175         for (j = 0; j < width; j++) {
 176             dst[j] = top[j] * opacity + bottom[j] * (1. - opacity);
 177         }
 178         dst    += dst_linesize;
 179         top    += top_linesize;
 180         bottom += bottom_linesize;
 181     }
 182 }
 183
 184 #define DEFINE_BLEND8(name, expr)                                              \
 185 static void blend_## name##_8bit(const uint8_t *top, ptrdiff_t top_linesize,         \
 186                                  const uint8_t *bottom, ptrdiff_t bottom_linesize,   \
 187                                  uint8_t *dst, ptrdiff_t dst_linesize,               \
 188                                  ptrdiff_t width, ptrdiff_t height,                \
 189                                  FilterParams *param, double *values, int starty) \
 190 {                                                                              \
 191     double opacity = param->opacity;                                           \
 192     int i, j;                                                                  \
 193                                                                                \
 194     for (i = 0; i < height; i++) {                                             \
 195         for (j = 0; j < width; j++) {                                          \
 196             dst[j] = top[j] + ((expr) - top[j]) * opacity;                     \
 197         }                                                                      \
 198         dst    += dst_linesize;                                                \
 199         top    += top_linesize;                                                \
 200         bottom += bottom_linesize;                                             \
 201     }                                                                          \
 202 }
 203
 204 #define DEFINE_BLEND16(name, expr)                                             \
 205 static void blend_## name##_16bit(const uint8_t *_top, ptrdiff_t top_linesize,       \
 206                                   const uint8_t *_bottom, ptrdiff_t bottom_linesize, \
 207                                   uint8_t *_dst, ptrdiff_t dst_linesize,             \
 208                                   ptrdiff_t width, ptrdiff_t height,           \
 209                                   FilterParams *param, double *values, int starty)         \
 210 {                                                                              \
 211     const uint16_t *top = (uint16_t*)_top;                                     \
 212     const uint16_t *bottom = (uint16_t*)_bottom;                               \
 213     uint16_t *dst = (uint16_t*)_dst;                                           \
 214     double opacity = param->opacity;                                           \
 215     int i, j;                                                                  \
 216     dst_linesize /= 2;                                                         \
 217     top_linesize /= 2;                                                         \
 218     bottom_linesize /= 2;                                                      \
 219                                                                                \
 220     for (i = 0; i < height; i++) {                                             \
 221         for (j = 0; j < width; j++) {                                          \
 222             dst[j] = top[j] + ((expr) - top[j]) * opacity;                     \
 223         }                                                                      \
 224         dst    += dst_linesize;                                                \
 225         top    += top_linesize;                                                \
 226         bottom += bottom_linesize;                                             \
 227     }                                                                          \
 228 }
 229
 230 #define A top[j]
 231 #define B bottom[j]
 232
 233 #define MULTIPLY(x, a, b) ((x) * (((a) * (b)) / 255))
 234 #define SCREEN(x, a, b)   (255 - (x) * ((255 - (a)) * (255 - (b)) / 255))
 235 #define BURN(a, b)        (((a) == 0) ? (a) : FFMAX(0, 255 - ((255 - (b)) << 8) / (a)))
 236 #define DODGE(a, b)       (((a) == 255) ? (a) : FFMIN(255, (((b) << 8) / (255 - (a)))))
 237
 238 DEFINE_BLEND8(addition,   FFMIN(255, A + B))
 239 DEFINE_BLEND8(grainmerge, av_clip_uint8(A + B - 128))
 240 DEFINE_BLEND8(average,    (A + B) / 2)
 241 DEFINE_BLEND8(subtract,   FFMAX(0, A - B))
 242 DEFINE_BLEND8(multiply,   MULTIPLY(1, A, B))
 243 DEFINE_BLEND8(multiply128,av_clip_uint8((A - 128) * B / 32. + 128))
 244 DEFINE_BLEND8(negation,   255 - FFABS(255 - A - B))
 245 DEFINE_BLEND8(extremity,  FFABS(255 - A - B))
 246 DEFINE_BLEND8(difference, FFABS(A - B))
 247 DEFINE_BLEND8(grainextract, av_clip_uint8(128 + A - B))
 248 DEFINE_BLEND8(screen,     SCREEN(1, A, B))
 249 DEFINE_BLEND8(overlay,    (A < 128) ? MULTIPLY(2, A, B) : SCREEN(2, A, B))
 250 DEFINE_BLEND8(hardlight,  (B < 128) ? MULTIPLY(2, B, A) : SCREEN(2, B, A))
 251 DEFINE_BLEND8(hardmix,    (A < (255 - B)) ? 0: 255)
 252 DEFINE_BLEND8(heat,       (A == 0) ? 0 : 255 - FFMIN(((255 - B) * (255 - B)) / A, 255))
 253 DEFINE_BLEND8(freeze,     (B == 0) ? 0 : 255 - FFMIN(((255 - A) * (255 - A)) / B, 255))
 254 DEFINE_BLEND8(darken,     FFMIN(A, B))
 255 DEFINE_BLEND8(lighten,    FFMAX(A, B))
 256 DEFINE_BLEND8(divide,     av_clip_uint8(B == 0 ? 255 : 255 * A / B))
 257 DEFINE_BLEND8(dodge,      DODGE(A, B))
 258 DEFINE_BLEND8(burn,       BURN(A, B))
 259 DEFINE_BLEND8(softlight,  (A > 127) ? B + (255 - B) * (A - 127.5) / 127.5 * (0.5 - fabs(B - 127.5) / 255): B - B * ((127.5 - A) / 127.5) * (0.5 - fabs(B - 127.5)/255))
 260 DEFINE_BLEND8(exclusion,  A + B - 2 * A * B / 255)
 261 DEFINE_BLEND8(pinlight,   (B < 128) ? FFMIN(A, 2 * B) : FFMAX(A, 2 * (B - 128)))
 262 DEFINE_BLEND8(phoenix,    FFMIN(A, B) - FFMAX(A, B) + 255)
 263 DEFINE_BLEND8(reflect,    (B == 255) ? B : FFMIN(255, (A * A / (255 - B))))
 264 DEFINE_BLEND8(glow,       (A == 255) ? A : FFMIN(255, (B * B / (255 - A))))
 265 DEFINE_BLEND8(and,        A & B)
 266 DEFINE_BLEND8(or,         A | B)
 267 DEFINE_BLEND8(xor,        A ^ B)
 268 DEFINE_BLEND8(vividlight, (A < 128) ? BURN(2 * A, B) : DODGE(2 * (A - 128), B))
 269 DEFINE_BLEND8(linearlight,av_clip_uint8((B < 128) ? B + 2 * A - 255 : B + 2 * (A - 128)))
 270
 271 #undef MULTIPLY
 272 #undef SCREEN
 273 #undef BURN
 274 #undef DODGE
 275
 276 #define MULTIPLY(x, a, b) ((x) * (((a) * (b)) / 65535))
 277 #define SCREEN(x, a, b)   (65535 - (x) * ((65535 - (a)) * (65535 - (b)) / 65535))
 278 #define BURN(a, b)        (((a) == 0) ? (a) : FFMAX(0, 65535 - ((65535 - (b)) << 16) / (a)))
 279 #define DODGE(a, b)       (((a) == 65535) ? (a) : FFMIN(65535, (((b) << 16) / (65535 - (a)))))
 280
 281 DEFINE_BLEND16(addition,   FFMIN(65535, A + B))
 282 DEFINE_BLEND16(grainmerge, av_clip_uint16(A + B - 32768))
 283 DEFINE_BLEND16(average,    (A + B) / 2)
 284 DEFINE_BLEND16(subtract,   FFMAX(0, A - B))
 285 DEFINE_BLEND16(multiply,   MULTIPLY(1, A, B))
 286 DEFINE_BLEND16(multiply128, av_clip_uint16((A - 32768) * B / 8192. + 32768))
 287 DEFINE_BLEND16(negation,   65535 - FFABS(65535 - A - B))
 288 DEFINE_BLEND16(extremity,  FFABS(65535 - A - B))
 289 DEFINE_BLEND16(difference, FFABS(A - B))
 290 DEFINE_BLEND16(grainextract, av_clip_uint16(32768 + A - B))
 291 DEFINE_BLEND16(screen,     SCREEN(1, A, B))
 292 DEFINE_BLEND16(overlay,    (A < 32768) ? MULTIPLY(2, A, B) : SCREEN(2, A, B))
 293 DEFINE_BLEND16(hardlight,  (B < 32768) ? MULTIPLY(2, B, A) : SCREEN(2, B, A))
 294 DEFINE_BLEND16(hardmix,    (A < (65535 - B)) ? 0: 65535)
 295 DEFINE_BLEND16(heat,       (A == 0) ? 0 : 65535 - FFMIN(((65535 - B) * (65535 - B)) / A, 65535))
 296 DEFINE_BLEND16(freeze,     (B == 0) ? 0 : 65535 - FFMIN(((65535 - A) * (65535 - A)) / B, 65535))
 297 DEFINE_BLEND16(darken,     FFMIN(A, B))
 298 DEFINE_BLEND16(lighten,    FFMAX(A, B))
 299 DEFINE_BLEND16(divide,     av_clip_uint16(B == 0 ? 65535 : 65535 * A / B))
 300 DEFINE_BLEND16(dodge,      DODGE(A, B))
 301 DEFINE_BLEND16(burn,       BURN(A, B))
 302 DEFINE_BLEND16(softlight,  (A > 32767) ? B + (65535 - B) * (A - 32767.5) / 32767.5 * (0.5 - fabs(B - 32767.5) / 65535): B - B * ((32767.5 - A) / 32767.5) * (0.5 - fabs(B - 32767.5)/65535))
 303 DEFINE_BLEND16(exclusion,  A + B - 2 * A * B / 65535)
 304 DEFINE_BLEND16(pinlight,   (B < 32768) ? FFMIN(A, 2 * B) : FFMAX(A, 2 * (B - 32768)))
 305 DEFINE_BLEND16(phoenix,    FFMIN(A, B) - FFMAX(A, B) + 65535)
 306 DEFINE_BLEND16(reflect,    (B == 65535) ? B : FFMIN(65535, (A * A / (65535 - B))))
 307 DEFINE_BLEND16(glow,       (A == 65535) ? A : FFMIN(65535, (B * B / (65535 - A))))
 308 DEFINE_BLEND16(and,        A & B)
 309 DEFINE_BLEND16(or,         A | B)
 310 DEFINE_BLEND16(xor,        A ^ B)
 311 DEFINE_BLEND16(vividlight, (A < 32768) ? BURN(2 * A, B) : DODGE(2 * (A - 32768), B))
 312 DEFINE_BLEND16(linearlight,av_clip_uint16((B < 32768) ? B + 2 * A - 65535 : B + 2 * (A - 32768)))
 313
 314 #define DEFINE_BLEND_EXPR(type, name, div)                                     \
 315 static void blend_expr_## name(const uint8_t *_top, ptrdiff_t top_linesize,          \
 316                                const uint8_t *_bottom, ptrdiff_t bottom_linesize,    \
 317                                uint8_t *_dst, ptrdiff_t dst_linesize,                \
 318                                ptrdiff_t width, ptrdiff_t height,              \
 319                                FilterParams *param, double *values, int starty) \
 320 {                                                                              \
 321     const type *top = (type*)_top;                                             \
 322     const type *bottom = (type*)_bottom;                                       \
 323     type *dst = (type*)_dst;                                                   \
 324     AVExpr *e = param->e;                                                      \
 325     int y, x;                                                                  \
 326     dst_linesize /= div;                                                       \
 327     top_linesize /= div;                                                       \
 328     bottom_linesize /= div;                                                    \
 329                                                                                \
 330     for (y = 0; y < height; y++) {                                             \
 331         values[VAR_Y] = y + starty;                                            \
 332         for (x = 0; x < width; x++) {                                          \
 333             values[VAR_X]      = x;                                            \
 334             values[VAR_TOP]    = values[VAR_A] = top[x];                       \
 335             values[VAR_BOTTOM] = values[VAR_B] = bottom[x];                    \
 336             dst[x] = av_expr_eval(e, values, NULL);                            \
 337         }                                                                      \
 338         dst    += dst_linesize;                                                \
 339         top    += top_linesize;                                                \
 340         bottom += bottom_linesize;                                             \
 341     }                                                                          \
 342 }
 343
 344 DEFINE_BLEND_EXPR(uint8_t, 8bit, 1)
 345 DEFINE_BLEND_EXPR(uint16_t, 16bit, 2)
 346
 347 static int filter_slice(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs)
 348 {
 349     ThreadData *td = arg;
 350     int slice_start = (td->h *  jobnr   ) / nb_jobs;
 351     int slice_end   = (td->h * (jobnr+1)) / nb_jobs;
 352     int height      = slice_end - slice_start;
 353     const uint8_t *top    = td->top->data[td->plane];
 354     const uint8_t *bottom = td->bottom->data[td->plane];
 355     uint8_t *dst    = td->dst->data[td->plane];
 356     double values[VAR_VARS_NB];
 357
 358     values[VAR_N]  = td->inlink->frame_count_out;
 359     values[VAR_T]  = td->dst->pts == AV_NOPTS_VALUE ? NAN : td->dst->pts * av_q2d(td->inlink->time_base);
 360     values[VAR_W]  = td->w;
 361     values[VAR_H]  = td->h;
 362     values[VAR_SW] = td->w / (double)td->dst->width;
 363     values[VAR_SH] = td->h / (double)td->dst->height;
 364
 365     td->param->blend(top + slice_start * td->top->linesize[td->plane],
 366                      td->top->linesize[td->plane],
 367                      bottom + slice_start * td->bottom->linesize[td->plane],
 368                      td->bottom->linesize[td->plane],
 369                      dst + slice_start * td->dst->linesize[td->plane],
 370                      td->dst->linesize[td->plane],
 371                      td->w, height, td->param, &values[0], slice_start);
 372     return 0;
 373 }
 374
 375 static AVFrame *blend_frame(AVFilterContext *ctx, AVFrame *top_buf,
 376                             const AVFrame *bottom_buf)
 377 {
 378     BlendContext *s = ctx->priv;
 379     AVFilterLink *inlink = ctx->inputs[0];
 380     AVFilterLink *outlink = ctx->outputs[0];
 381     AVFrame *dst_buf;
 382     int plane;
 383
 384     dst_buf = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 385     if (!dst_buf)
 386         return top_buf;
 387     av_frame_copy_props(dst_buf, top_buf);
 388
 389     for (plane = 0; plane < s->nb_planes; plane++) {
 390         int hsub = plane == 1 || plane == 2 ? s->hsub : 0;
 391         int vsub = plane == 1 || plane == 2 ? s->vsub : 0;
 392         int outw = AV_CEIL_RSHIFT(dst_buf->width,  hsub);
 393         int outh = AV_CEIL_RSHIFT(dst_buf->height, vsub);
 394         FilterParams *param = &s->params[plane];
 395         ThreadData td = { .top = top_buf, .bottom = bottom_buf, .dst = dst_buf,
 396                           .w = outw, .h = outh, .param = param, .plane = plane,
 397                           .inlink = inlink };
 398
 399         ctx->internal->execute(ctx, filter_slice, &td, NULL, FFMIN(outh, ff_filter_get_nb_threads(ctx)));
 400     }
 401
 402     if (!s->tblend)
 403         av_frame_free(&top_buf);
 404
 405     return dst_buf;
 406 }
 407
 408 static int blend_frame_for_dualinput(FFFrameSync *fs)
 409 {
 410     AVFilterContext *ctx = fs->parent;
 411     AVFrame *top_buf, *bottom_buf, *dst_buf;
 412     int ret;
 413
 414     ret = ff_framesync_dualinput_get(fs, &top_buf, &bottom_buf);
 415     if (ret < 0)
 416         return ret;
 417     if (!bottom_buf)
 418         return ff_filter_frame(ctx->outputs[0], top_buf);
 419     dst_buf = blend_frame(ctx, top_buf, bottom_buf);
 420     return ff_filter_frame(ctx->outputs[0], dst_buf);
 421 }
 422
 423 static av_cold int init(AVFilterContext *ctx)
 424 {
 425     BlendContext *s = ctx->priv;
 426
 427     s->tblend = !strcmp(ctx->filter->name, "tblend");
 428
 429     s->fs.on_event = blend_frame_for_dualinput;
 430     return 0;
 431 }
 432
 433 static int query_formats(AVFilterContext *ctx)
 434 {
 435     static const enum AVPixelFormat pix_fmts[] = {
 436         AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUVA422P, AV_PIX_FMT_YUVA420P,
 437         AV_PIX_FMT_YUVJ444P, AV_PIX_FMT_YUVJ440P, AV_PIX_FMT_YUVJ422P,AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ411P,
 438         AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUV440P, AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUV411P, AV_PIX_FMT_YUV410P,
 439         AV_PIX_FMT_GBRP, AV_PIX_FMT_GBRAP, AV_PIX_FMT_GRAY8,
 440         AV_PIX_FMT_YUV420P16, AV_PIX_FMT_YUV422P16, AV_PIX_FMT_YUV444P16,
 441         AV_PIX_FMT_YUVA420P16, AV_PIX_FMT_YUVA422P16, AV_PIX_FMT_YUVA444P16,
 442         AV_PIX_FMT_GBRP16, AV_PIX_FMT_GBRAP16, AV_PIX_FMT_GRAY16,
 443         AV_PIX_FMT_NONE
 444     };
 445
 446     AVFilterFormats *fmts_list = ff_make_format_list(pix_fmts);
 447     if (!fmts_list)
 448         return AVERROR(ENOMEM);
 449     return ff_set_common_formats(ctx, fmts_list);
 450 }
 451
 452 static av_cold void uninit(AVFilterContext *ctx)
 453 {
 454     BlendContext *s = ctx->priv;
 455     int i;
 456
 457     ff_framesync_uninit(&s->fs);
 458     av_frame_free(&s->prev_frame);
 459
 460     for (i = 0; i < FF_ARRAY_ELEMS(s->params); i++)
 461         av_expr_free(s->params[i].e);
 462 }
 463
 464 void ff_blend_init(FilterParams *param, int is_16bit)
 465 {
 466     switch (param->mode) {
 467     case BLEND_ADDITION:   param->blend = is_16bit ? blend_addition_16bit   : blend_addition_8bit;   break;
 468     case BLEND_GRAINMERGE: param->blend = is_16bit ? blend_grainmerge_16bit : blend_grainmerge_8bit; break;
 469     case BLEND_AND:        param->blend = is_16bit ? blend_and_16bit        : blend_and_8bit;        break;
 470     case BLEND_AVERAGE:    param->blend = is_16bit ? blend_average_16bit    : blend_average_8bit;    break;
 471     case BLEND_BURN:       param->blend = is_16bit ? blend_burn_16bit       : blend_burn_8bit;       break;
 472     case BLEND_DARKEN:     param->blend = is_16bit ? blend_darken_16bit     : blend_darken_8bit;     break;
 473     case BLEND_DIFFERENCE: param->blend = is_16bit ? blend_difference_16bit : blend_difference_8bit; break;
 474     case BLEND_GRAINEXTRACT: param->blend = is_16bit ? blend_grainextract_16bit: blend_grainextract_8bit; break;
 475     case BLEND_DIVIDE:     param->blend = is_16bit ? blend_divide_16bit     : blend_divide_8bit;     break;
 476     case BLEND_DODGE:      param->blend = is_16bit ? blend_dodge_16bit      : blend_dodge_8bit;      break;
 477     case BLEND_EXCLUSION:  param->blend = is_16bit ? blend_exclusion_16bit  : blend_exclusion_8bit;  break;
 478     case BLEND_EXTREMITY:  param->blend = is_16bit ? blend_extremity_16bit  : blend_extremity_8bit;  break;
 479     case BLEND_FREEZE:     param->blend = is_16bit ? blend_freeze_16bit     : blend_freeze_8bit;     break;
 480     case BLEND_GLOW:       param->blend = is_16bit ? blend_glow_16bit       : blend_glow_8bit;       break;
 481     case BLEND_HARDLIGHT:  param->blend = is_16bit ? blend_hardlight_16bit  : blend_hardlight_8bit;  break;
 482     case BLEND_HARDMIX:    param->blend = is_16bit ? blend_hardmix_16bit    : blend_hardmix_8bit;    break;
 483     case BLEND_HEAT:       param->blend = is_16bit ? blend_heat_16bit       : blend_heat_8bit;       break;
 484     case BLEND_LIGHTEN:    param->blend = is_16bit ? blend_lighten_16bit    : blend_lighten_8bit;    break;
 485     case BLEND_LINEARLIGHT:param->blend = is_16bit ? blend_linearlight_16bit: blend_linearlight_8bit;break;
 486     case BLEND_MULTIPLY:   param->blend = is_16bit ? blend_multiply_16bit   : blend_multiply_8bit;   break;
 487     case BLEND_MULTIPLY128:param->blend = is_16bit ? blend_multiply128_16bit: blend_multiply128_8bit;break;
 488     case BLEND_NEGATION:   param->blend = is_16bit ? blend_negation_16bit   : blend_negation_8bit;   break;
 489     case BLEND_NORMAL:     param->blend = param->opacity == 1 ? blend_copytop :
 490                                           param->opacity == 0 ? blend_copybottom :
 491                                           is_16bit ? blend_normal_16bit     : blend_normal_8bit;     break;
 492     case BLEND_OR:         param->blend = is_16bit ? blend_or_16bit         : blend_or_8bit;         break;
 493     case BLEND_OVERLAY:    param->blend = is_16bit ? blend_overlay_16bit    : blend_overlay_8bit;    break;
 494     case BLEND_PHOENIX:    param->blend = is_16bit ? blend_phoenix_16bit    : blend_phoenix_8bit;    break;
 495     case BLEND_PINLIGHT:   param->blend = is_16bit ? blend_pinlight_16bit   : blend_pinlight_8bit;   break;
 496     case BLEND_REFLECT:    param->blend = is_16bit ? blend_reflect_16bit    : blend_reflect_8bit;    break;
 497     case BLEND_SCREEN:     param->blend = is_16bit ? blend_screen_16bit     : blend_screen_8bit;     break;
 498     case BLEND_SOFTLIGHT:  param->blend = is_16bit ? blend_softlight_16bit  : blend_softlight_8bit;  break;
 499     case BLEND_SUBTRACT:   param->blend = is_16bit ? blend_subtract_16bit   : blend_subtract_8bit;   break;
 500     case BLEND_VIVIDLIGHT: param->blend = is_16bit ? blend_vividlight_16bit : blend_vividlight_8bit; break;
 501     case BLEND_XOR:        param->blend = is_16bit ? blend_xor_16bit        : blend_xor_8bit;        break;
 502     }
 503
 504     if (param->opacity == 0 && param->mode != BLEND_NORMAL) {
 505         param->blend = blend_copytop;
 506     }
 507
 508     if (ARCH_X86)
 509         ff_blend_init_x86(param, is_16bit);
 510 }
 511
 512 static int config_output(AVFilterLink *outlink)
 513 {
 514     AVFilterContext *ctx = outlink->src;
 515     AVFilterLink *toplink = ctx->inputs[TOP];
 516     BlendContext *s = ctx->priv;
 517     const AVPixFmtDescriptor *pix_desc = av_pix_fmt_desc_get(toplink->format);
 518     int ret, plane, is_16bit;
 519
 520     if (!s->tblend) {
 521         AVFilterLink *bottomlink = ctx->inputs[BOTTOM];
 522
 523         if (toplink->format != bottomlink->format) {
 524             av_log(ctx, AV_LOG_ERROR, "inputs must be of same pixel format\n");
 525             return AVERROR(EINVAL);
 526         }
 527         if (toplink->w != bottomlink->w || toplink->h != bottomlink->h) {
 528             av_log(ctx, AV_LOG_ERROR, "First input link %s parameters "
 529                    "(size %dx%d) do not match the corresponding "
 530                    "second input link %s parameters (size %dx%d)\n",
 531                    ctx->input_pads[TOP].name, toplink->w, toplink->h,
 532                    ctx->input_pads[BOTTOM].name, bottomlink->w, bottomlink->h);
 533             return AVERROR(EINVAL);
 534         }
 535     }
 536
 537     outlink->w = toplink->w;
 538     outlink->h = toplink->h;
 539     outlink->time_base = toplink->time_base;
 540     outlink->sample_aspect_ratio = toplink->sample_aspect_ratio;
 541     outlink->frame_rate = toplink->frame_rate;
 542
 543     s->hsub = pix_desc->log2_chroma_w;
 544     s->vsub = pix_desc->log2_chroma_h;
 545
 546     is_16bit = pix_desc->comp[0].depth == 16;
 547     s->nb_planes = av_pix_fmt_count_planes(toplink->format);
 548
 549     if (!s->tblend)
 550         if ((ret = ff_framesync_init_dualinput(&s->fs, ctx)) < 0)
 551             return ret;
 552
 553     for (plane = 0; plane < FF_ARRAY_ELEMS(s->params); plane++) {
 554         FilterParams *param = &s->params[plane];
 555
 556         if (s->all_mode >= 0)
 557             param->mode = s->all_mode;
 558         if (s->all_opacity < 1)
 559             param->opacity = s->all_opacity;
 560
 561         ff_blend_init(param, is_16bit);
 562
 563         if (s->all_expr && !param->expr_str) {
 564             param->expr_str = av_strdup(s->all_expr);
 565             if (!param->expr_str)
 566                 return AVERROR(ENOMEM);
 567         }
 568         if (param->expr_str) {
 569             ret = av_expr_parse(&param->e, param->expr_str, var_names,
 570                                 NULL, NULL, NULL, NULL, 0, ctx);
 571             if (ret < 0)
 572                 return ret;
 573             param->blend = is_16bit? blend_expr_16bit : blend_expr_8bit;
 574         }
 575     }
 576
 577     return s->tblend ? 0 : ff_framesync_configure(&s->fs);
 578 }
 579
 580 #if CONFIG_BLEND_FILTER
 581
 582 static int activate(AVFilterContext *ctx)
 583 {
 584     BlendContext *s = ctx->priv;
 585     return ff_framesync_activate(&s->fs);
 586 }
 587
 588 static const AVFilterPad blend_inputs[] = {
 589     {
 590         .name          = "top",
 591         .type          = AVMEDIA_TYPE_VIDEO,
 592     },{
 593         .name          = "bottom",
 594         .type          = AVMEDIA_TYPE_VIDEO,
 595     },
 596     { NULL }
 597 };
 598
 599 static const AVFilterPad blend_outputs[] = {
 600     {
 601         .name          = "default",
 602         .type          = AVMEDIA_TYPE_VIDEO,
 603         .config_props  = config_output,
 604     },
 605     { NULL }
 606 };
 607
 608 AVFilter ff_vf_blend = {
 609     .name          = "blend",
 610     .description   = NULL_IF_CONFIG_SMALL("Blend two video frames into each other."),
 611     .preinit       = blend_framesync_preinit,
 612     .init          = init,
 613     .uninit        = uninit,
 614     .priv_size     = sizeof(BlendContext),
 615     .query_formats = query_formats,
 616     .activate      = activate,
 617     .inputs        = blend_inputs,
 618     .outputs       = blend_outputs,
 619     .priv_class    = &blend_class,
 620     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_INTERNAL | AVFILTER_FLAG_SLICE_THREADS,
 621 };
 622
 623 #endif
 624
 625 #if CONFIG_TBLEND_FILTER
 626
 627 static int tblend_filter_frame(AVFilterLink *inlink, AVFrame *frame)
 628 {
 629     AVFilterContext *ctx = inlink->dst;
 630     BlendContext *s = ctx->priv;
 631     AVFilterLink *outlink = ctx->outputs[0];
 632
 633     if (s->prev_frame) {
 634         AVFrame *out;
 635
 636         if (ctx->is_disabled)
 637             out = av_frame_clone(frame);
 638         else
 639             out = blend_frame(ctx, frame, s->prev_frame);
 640         av_frame_free(&s->prev_frame);
 641         s->prev_frame = frame;
 642         return ff_filter_frame(outlink, out);
 643     }
 644     s->prev_frame = frame;
 645     return 0;
 646 }
 647
 648 static const AVOption tblend_options[] = {
 649     COMMON_OPTIONS,
 650     { NULL }
 651 };
 652
 653 AVFILTER_DEFINE_CLASS(tblend);
 654
 655 static const AVFilterPad tblend_inputs[] = {
 656     {
 657         .name          = "default",
 658         .type          = AVMEDIA_TYPE_VIDEO,
 659         .filter_frame  = tblend_filter_frame,
 660     },
 661     { NULL }
 662 };
 663
 664 static const AVFilterPad tblend_outputs[] = {
 665     {
 666         .name          = "default",
 667         .type          = AVMEDIA_TYPE_VIDEO,
 668         .config_props  = config_output,
 669     },
 670     { NULL }
 671 };
 672
 673 AVFilter ff_vf_tblend = {
 674     .name          = "tblend",
 675     .description   = NULL_IF_CONFIG_SMALL("Blend successive frames."),
 676     .priv_size     = sizeof(BlendContext),
 677     .priv_class    = &tblend_class,
 678     .query_formats = query_formats,
 679     .init          = init,
 680     .uninit        = uninit,
 681     .inputs        = tblend_inputs,
 682     .outputs       = tblend_outputs,
 683     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_INTERNAL | AVFILTER_FLAG_SLICE_THREADS,
 684 };
 685
 686 #endif