git.sesse.net Git - ffmpeg/blob - libavfilter/vf_stack.c

   1 /*
   2  * Copyright (c) 2015 Paul B. Mahol
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/avstring.h"
  22 #include "libavutil/imgutils.h"
  23 #include "libavutil/opt.h"
  24 #include "libavutil/parseutils.h"
  25 #include "libavutil/pixdesc.h"
  26
  27 #include "avfilter.h"
  28 #include "drawutils.h"
  29 #include "formats.h"
  30 #include "internal.h"
  31 #include "framesync.h"
  32 #include "video.h"
  33
  34 typedef struct StackItem {
  35     int x[4], y[4];
  36     int linesize[4];
  37     int height[4];
  38 } StackItem;
  39
  40 typedef struct StackContext {
  41     const AVClass *class;
  42     const AVPixFmtDescriptor *desc;
  43     int nb_inputs;
  44     char *layout;
  45     int shortest;
  46     int is_vertical;
  47     int is_horizontal;
  48     int nb_planes;
  49     uint8_t fillcolor[4];
  50     char *fillcolor_str;
  51     int fillcolor_enable;
  52
  53     FFDrawContext draw;
  54     FFDrawColor color;
  55
  56     StackItem *items;
  57     AVFrame **frames;
  58     FFFrameSync fs;
  59 } StackContext;
  60
  61 static int query_formats(AVFilterContext *ctx)
  62 {
  63     AVFilterFormats *pix_fmts = NULL;
  64     StackContext *s = ctx->priv;
  65     int fmt, ret;
  66
  67     if (s->fillcolor_enable) {
  68         return ff_set_common_formats(ctx, ff_draw_supported_pixel_formats(0));
  69     }
  70
  71     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
  72         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
  73         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL ||
  74               desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
  75               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM) &&
  76             (ret = ff_add_format(&pix_fmts, fmt)) < 0)
  77             return ret;
  78     }
  79
  80     return ff_set_common_formats(ctx, pix_fmts);
  81 }
  82
  83 static av_cold int init(AVFilterContext *ctx)
  84 {
  85     StackContext *s = ctx->priv;
  86     int i, ret;
  87
  88     if (!strcmp(ctx->filter->name, "vstack"))
  89         s->is_vertical = 1;
  90
  91     if (!strcmp(ctx->filter->name, "hstack"))
  92         s->is_horizontal = 1;
  93
  94     s->frames = av_calloc(s->nb_inputs, sizeof(*s->frames));
  95     if (!s->frames)
  96         return AVERROR(ENOMEM);
  97
  98     s->items = av_calloc(s->nb_inputs, sizeof(*s->items));
  99     if (!s->items)
 100         return AVERROR(ENOMEM);
 101
 102     if (!strcmp(ctx->filter->name, "xstack")) {
 103         if (strcmp(s->fillcolor_str, "none") &&
 104             av_parse_color(s->fillcolor, s->fillcolor_str, -1, ctx) >= 0) {
 105             s->fillcolor_enable = 1;
 106         } else {
 107             s->fillcolor_enable = 0;
 108         }
 109         if (!s->layout) {
 110             if (s->nb_inputs == 2) {
 111                 s->layout = av_strdup("0_0|w0_0");
 112                 if (!s->layout)
 113                     return AVERROR(ENOMEM);
 114             } else {
 115                 av_log(ctx, AV_LOG_ERROR, "No layout specified.\n");
 116                 return AVERROR(EINVAL);
 117             }
 118         }
 119     }
 120
 121     for (i = 0; i < s->nb_inputs; i++) {
 122         AVFilterPad pad = { 0 };
 123
 124         pad.type = AVMEDIA_TYPE_VIDEO;
 125         pad.name = av_asprintf("input%d", i);
 126         if (!pad.name)
 127             return AVERROR(ENOMEM);
 128
 129         if ((ret = ff_insert_inpad(ctx, i, &pad)) < 0) {
 130             av_freep(&pad.name);
 131             return ret;
 132         }
 133     }
 134
 135     return 0;
 136 }
 137
 138 static int process_slice(AVFilterContext *ctx, void *arg, int job, int nb_jobs)
 139 {
 140     StackContext *s = ctx->priv;
 141     AVFrame *out = arg;
 142     AVFrame **in = s->frames;
 143     const int start = (s->nb_inputs *  job   ) / nb_jobs;
 144     const int end   = (s->nb_inputs * (job+1)) / nb_jobs;
 145
 146     for (int i = start; i < end; i++) {
 147         StackItem *item = &s->items[i];
 148
 149         for (int p = 0; p < s->nb_planes; p++) {
 150             av_image_copy_plane(out->data[p] + out->linesize[p] * item->y[p] + item->x[p],
 151                                 out->linesize[p],
 152                                 in[i]->data[p],
 153                                 in[i]->linesize[p],
 154                                 item->linesize[p], item->height[p]);
 155         }
 156     }
 157
 158     return 0;
 159 }
 160
 161 static int process_frame(FFFrameSync *fs)
 162 {
 163     AVFilterContext *ctx = fs->parent;
 164     AVFilterLink *outlink = ctx->outputs[0];
 165     StackContext *s = fs->opaque;
 166     AVFrame **in = s->frames;
 167     AVFrame *out;
 168     int i, ret;
 169
 170     for (i = 0; i < s->nb_inputs; i++) {
 171         if ((ret = ff_framesync_get_frame(&s->fs, i, &in[i], 0)) < 0)
 172             return ret;
 173     }
 174
 175     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 176     if (!out)
 177         return AVERROR(ENOMEM);
 178     out->pts = av_rescale_q(s->fs.pts, s->fs.time_base, outlink->time_base);
 179     out->sample_aspect_ratio = outlink->sample_aspect_ratio;
 180
 181     if (s->fillcolor_enable)
 182         ff_fill_rectangle(&s->draw, &s->color, out->data, out->linesize,
 183                           0, 0, outlink->w, outlink->h);
 184
 185     ctx->internal->execute(ctx, process_slice, out, NULL, FFMIN(s->nb_inputs, ff_filter_get_nb_threads(ctx)));
 186
 187     return ff_filter_frame(outlink, out);
 188 }
 189
 190 static int config_output(AVFilterLink *outlink)
 191 {
 192     AVFilterContext *ctx = outlink->src;
 193     StackContext *s = ctx->priv;
 194     AVRational frame_rate = ctx->inputs[0]->frame_rate;
 195     AVRational sar = ctx->inputs[0]->sample_aspect_ratio;
 196     int height = ctx->inputs[0]->h;
 197     int width = ctx->inputs[0]->w;
 198     FFFrameSyncIn *in;
 199     int i, ret;
 200
 201     s->desc = av_pix_fmt_desc_get(outlink->format);
 202     if (!s->desc)
 203         return AVERROR_BUG;
 204
 205     if (s->is_vertical) {
 206         for (i = 0; i < s->nb_inputs; i++) {
 207             AVFilterLink *inlink = ctx->inputs[i];
 208             StackItem *item = &s->items[i];
 209
 210             if (ctx->inputs[i]->w != width) {
 211                 av_log(ctx, AV_LOG_ERROR, "Input %d width %d does not match input %d width %d.\n", i, ctx->inputs[i]->w, 0, width);
 212                 return AVERROR(EINVAL);
 213             }
 214
 215             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 216                 return ret;
 217             }
 218
 219             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 220             item->height[0] = item->height[3] = inlink->h;
 221
 222             if (i) {
 223                 item->y[1] = item->y[2] = AV_CEIL_RSHIFT(height, s->desc->log2_chroma_h);
 224                 item->y[0] = item->y[3] = height;
 225
 226                 height += ctx->inputs[i]->h;
 227             }
 228         }
 229     } else if (s->is_horizontal) {
 230         for (i = 0; i < s->nb_inputs; i++) {
 231             AVFilterLink *inlink = ctx->inputs[i];
 232             StackItem *item = &s->items[i];
 233
 234             if (ctx->inputs[i]->h != height) {
 235                 av_log(ctx, AV_LOG_ERROR, "Input %d height %d does not match input %d height %d.\n", i, ctx->inputs[i]->h, 0, height);
 236                 return AVERROR(EINVAL);
 237             }
 238
 239             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 240                 return ret;
 241             }
 242
 243             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 244             item->height[0] = item->height[3] = inlink->h;
 245
 246             if (i) {
 247                 if ((ret = av_image_fill_linesizes(item->x, inlink->format, width)) < 0) {
 248                     return ret;
 249                 }
 250
 251                 width += ctx->inputs[i]->w;
 252             }
 253         }
 254     } else {
 255         char *arg, *p = s->layout, *saveptr = NULL;
 256         char *arg2, *p2, *saveptr2 = NULL;
 257         char *arg3, *p3, *saveptr3 = NULL;
 258         int inw, inh, size;
 259
 260         if (s->fillcolor_enable) {
 261             ff_draw_init(&s->draw, ctx->inputs[0]->format, 0);
 262             ff_draw_color(&s->draw, &s->color, s->fillcolor);
 263         }
 264
 265         for (i = 0; i < s->nb_inputs; i++) {
 266             AVFilterLink *inlink = ctx->inputs[i];
 267             StackItem *item = &s->items[i];
 268
 269             if (!(arg = av_strtok(p, "|", &saveptr)))
 270                 return AVERROR(EINVAL);
 271
 272             p = NULL;
 273
 274             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 275                 return ret;
 276             }
 277
 278             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 279             item->height[0] = item->height[3] = inlink->h;
 280
 281             p2 = arg;
 282             inw = inh = 0;
 283
 284             for (int j = 0; j < 2; j++) {
 285                 if (!(arg2 = av_strtok(p2, "_", &saveptr2)))
 286                     return AVERROR(EINVAL);
 287
 288                 p2 = NULL;
 289                 p3 = arg2;
 290                 while ((arg3 = av_strtok(p3, "+", &saveptr3))) {
 291                     p3 = NULL;
 292                     if (sscanf(arg3, "w%d", &size) == 1) {
 293                         if (size == i || size < 0 || size >= s->nb_inputs)
 294                             return AVERROR(EINVAL);
 295
 296                         if (!j)
 297                             inw += ctx->inputs[size]->w;
 298                         else
 299                             inh += ctx->inputs[size]->w;
 300                     } else if (sscanf(arg3, "h%d", &size) == 1) {
 301                         if (size == i || size < 0 || size >= s->nb_inputs)
 302                             return AVERROR(EINVAL);
 303
 304                         if (!j)
 305                             inw += ctx->inputs[size]->h;
 306                         else
 307                             inh += ctx->inputs[size]->h;
 308                     } else if (sscanf(arg3, "%d", &size) == 1) {
 309                         if (size < 0)
 310                             return AVERROR(EINVAL);
 311
 312                         if (!j)
 313                             inw += size;
 314                         else
 315                             inh += size;
 316                     } else {
 317                         return AVERROR(EINVAL);
 318                     }
 319                 }
 320             }
 321
 322             if ((ret = av_image_fill_linesizes(item->x, inlink->format, inw)) < 0) {
 323                 return ret;
 324             }
 325
 326             item->y[1] = item->y[2] = AV_CEIL_RSHIFT(inh, s->desc->log2_chroma_h);
 327             item->y[0] = item->y[3] = inh;
 328
 329             width  = FFMAX(width,  inlink->w + inw);
 330             height = FFMAX(height, inlink->h + inh);
 331         }
 332     }
 333
 334     s->nb_planes = av_pix_fmt_count_planes(outlink->format);
 335
 336     outlink->w          = width;
 337     outlink->h          = height;
 338     outlink->frame_rate = frame_rate;
 339     outlink->sample_aspect_ratio = sar;
 340
 341     for (i = 1; i < s->nb_inputs; i++) {
 342         AVFilterLink *inlink = ctx->inputs[i];
 343         if (outlink->frame_rate.num != inlink->frame_rate.num ||
 344             outlink->frame_rate.den != inlink->frame_rate.den) {
 345             av_log(ctx, AV_LOG_VERBOSE,
 346                     "Video inputs have different frame rates, output will be VFR\n");
 347             outlink->frame_rate = av_make_q(1, 0);
 348             break;
 349         }
 350     }
 351
 352     if ((ret = ff_framesync_init(&s->fs, ctx, s->nb_inputs)) < 0)
 353         return ret;
 354
 355     in = s->fs.in;
 356     s->fs.opaque = s;
 357     s->fs.on_event = process_frame;
 358
 359     for (i = 0; i < s->nb_inputs; i++) {
 360         AVFilterLink *inlink = ctx->inputs[i];
 361
 362         in[i].time_base = inlink->time_base;
 363         in[i].sync   = 1;
 364         in[i].before = EXT_STOP;
 365         in[i].after  = s->shortest ? EXT_STOP : EXT_INFINITY;
 366     }
 367
 368     ret = ff_framesync_configure(&s->fs);
 369     outlink->time_base = s->fs.time_base;
 370
 371     return ret;
 372 }
 373
 374 static av_cold void uninit(AVFilterContext *ctx)
 375 {
 376     StackContext *s = ctx->priv;
 377     int i;
 378
 379     ff_framesync_uninit(&s->fs);
 380     av_freep(&s->frames);
 381     av_freep(&s->items);
 382
 383     for (i = 0; i < ctx->nb_inputs; i++)
 384         av_freep(&ctx->input_pads[i].name);
 385 }
 386
 387 static int activate(AVFilterContext *ctx)
 388 {
 389     StackContext *s = ctx->priv;
 390     return ff_framesync_activate(&s->fs);
 391 }
 392
 393 #define OFFSET(x) offsetof(StackContext, x)
 394 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_FILTERING_PARAM
 395 static const AVOption stack_options[] = {
 396     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
 397     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
 398     { NULL },
 399 };
 400
 401 static const AVFilterPad outputs[] = {
 402     {
 403         .name          = "default",
 404         .type          = AVMEDIA_TYPE_VIDEO,
 405         .config_props  = config_output,
 406     },
 407     { NULL }
 408 };
 409
 410 #if CONFIG_HSTACK_FILTER
 411
 412 #define hstack_options stack_options
 413 AVFILTER_DEFINE_CLASS(hstack);
 414
 415 AVFilter ff_vf_hstack = {
 416     .name          = "hstack",
 417     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs horizontally."),
 418     .priv_size     = sizeof(StackContext),
 419     .priv_class    = &hstack_class,
 420     .query_formats = query_formats,
 421     .outputs       = outputs,
 422     .init          = init,
 423     .uninit        = uninit,
 424     .activate      = activate,
 425     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 426 };
 427
 428 #endif /* CONFIG_HSTACK_FILTER */
 429
 430 #if CONFIG_VSTACK_FILTER
 431
 432 #define vstack_options stack_options
 433 AVFILTER_DEFINE_CLASS(vstack);
 434
 435 AVFilter ff_vf_vstack = {
 436     .name          = "vstack",
 437     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs vertically."),
 438     .priv_size     = sizeof(StackContext),
 439     .priv_class    = &vstack_class,
 440     .query_formats = query_formats,
 441     .outputs       = outputs,
 442     .init          = init,
 443     .uninit        = uninit,
 444     .activate      = activate,
 445     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 446 };
 447
 448 #endif /* CONFIG_VSTACK_FILTER */
 449
 450 #if CONFIG_XSTACK_FILTER
 451
 452 static const AVOption xstack_options[] = {
 453     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
 454     { "layout", "set custom layout", OFFSET(layout), AV_OPT_TYPE_STRING, {.str=NULL}, 0, 0, .flags = FLAGS },
 455     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
 456     { "fill",  "set the color for unused pixels", OFFSET(fillcolor_str), AV_OPT_TYPE_STRING, {.str = "none"}, .flags = FLAGS },
 457     { NULL },
 458 };
 459
 460 AVFILTER_DEFINE_CLASS(xstack);
 461
 462 AVFilter ff_vf_xstack = {
 463     .name          = "xstack",
 464     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs into custom layout."),
 465     .priv_size     = sizeof(StackContext),
 466     .priv_class    = &xstack_class,
 467     .query_formats = query_formats,
 468     .outputs       = outputs,
 469     .init          = init,
 470     .uninit        = uninit,
 471     .activate      = activate,
 472     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 473 };
 474
 475 #endif /* CONFIG_XSTACK_FILTER */