git.sesse.net Git - ffmpeg/blob - libavfilter/vf_stack.c

   1 /*
   2  * Copyright (c) 2015 Paul B. Mahol
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/avstring.h"
  22 #include "libavutil/imgutils.h"
  23 #include "libavutil/opt.h"
  24 #include "libavutil/pixdesc.h"
  25
  26 #include "avfilter.h"
  27 #include "formats.h"
  28 #include "internal.h"
  29 #include "framesync.h"
  30 #include "video.h"
  31
  32 typedef struct StackItem {
  33     int x[4], y[4];
  34     int linesize[4];
  35     int height[4];
  36 } StackItem;
  37
  38 typedef struct StackContext {
  39     const AVClass *class;
  40     const AVPixFmtDescriptor *desc;
  41     int nb_inputs;
  42     char *layout;
  43     int shortest;
  44     int is_vertical;
  45     int is_horizontal;
  46     int nb_planes;
  47
  48     StackItem *items;
  49     AVFrame **frames;
  50     FFFrameSync fs;
  51 } StackContext;
  52
  53 static int query_formats(AVFilterContext *ctx)
  54 {
  55     AVFilterFormats *pix_fmts = NULL;
  56     int fmt, ret;
  57
  58     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
  59         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
  60         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL ||
  61               desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
  62               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM) &&
  63             (ret = ff_add_format(&pix_fmts, fmt)) < 0)
  64             return ret;
  65     }
  66
  67     return ff_set_common_formats(ctx, pix_fmts);
  68 }
  69
  70 static av_cold int init(AVFilterContext *ctx)
  71 {
  72     StackContext *s = ctx->priv;
  73     int i, ret;
  74
  75     if (!strcmp(ctx->filter->name, "vstack"))
  76         s->is_vertical = 1;
  77
  78     if (!strcmp(ctx->filter->name, "hstack"))
  79         s->is_horizontal = 1;
  80
  81     s->frames = av_calloc(s->nb_inputs, sizeof(*s->frames));
  82     if (!s->frames)
  83         return AVERROR(ENOMEM);
  84
  85     s->items = av_calloc(s->nb_inputs, sizeof(*s->items));
  86     if (!s->items)
  87         return AVERROR(ENOMEM);
  88
  89     if (!strcmp(ctx->filter->name, "xstack")) {
  90         if (!s->layout) {
  91             if (s->nb_inputs == 2) {
  92                 s->layout = av_strdup("0_0|w0_0");
  93                 if (!s->layout)
  94                     return AVERROR(ENOMEM);
  95             } else {
  96                 av_log(ctx, AV_LOG_ERROR, "No layout specified.\n");
  97                 return AVERROR(EINVAL);
  98             }
  99         }
 100     }
 101
 102     for (i = 0; i < s->nb_inputs; i++) {
 103         AVFilterPad pad = { 0 };
 104
 105         pad.type = AVMEDIA_TYPE_VIDEO;
 106         pad.name = av_asprintf("input%d", i);
 107         if (!pad.name)
 108             return AVERROR(ENOMEM);
 109
 110         if ((ret = ff_insert_inpad(ctx, i, &pad)) < 0) {
 111             av_freep(&pad.name);
 112             return ret;
 113         }
 114     }
 115
 116     return 0;
 117 }
 118
 119 static int process_slice(AVFilterContext *ctx, void *arg, int job, int nb_jobs)
 120 {
 121     StackContext *s = ctx->priv;
 122     AVFrame *out = arg;
 123     AVFrame **in = s->frames;
 124     const int start = (s->nb_inputs *  job   ) / nb_jobs;
 125     const int end   = (s->nb_inputs * (job+1)) / nb_jobs;
 126
 127     for (int i = start; i < end; i++) {
 128         StackItem *item = &s->items[i];
 129
 130         for (int p = 0; p < s->nb_planes; p++) {
 131             av_image_copy_plane(out->data[p] + out->linesize[p] * item->y[p] + item->x[p],
 132                                 out->linesize[p],
 133                                 in[i]->data[p],
 134                                 in[i]->linesize[p],
 135                                 item->linesize[p], item->height[p]);
 136         }
 137     }
 138
 139     return 0;
 140 }
 141
 142 static int process_frame(FFFrameSync *fs)
 143 {
 144     AVFilterContext *ctx = fs->parent;
 145     AVFilterLink *outlink = ctx->outputs[0];
 146     StackContext *s = fs->opaque;
 147     AVFrame **in = s->frames;
 148     AVFrame *out;
 149     int i, ret;
 150
 151     for (i = 0; i < s->nb_inputs; i++) {
 152         if ((ret = ff_framesync_get_frame(&s->fs, i, &in[i], 0)) < 0)
 153             return ret;
 154     }
 155
 156     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 157     if (!out)
 158         return AVERROR(ENOMEM);
 159     out->pts = av_rescale_q(s->fs.pts, s->fs.time_base, outlink->time_base);
 160     out->sample_aspect_ratio = outlink->sample_aspect_ratio;
 161
 162     ctx->internal->execute(ctx, process_slice, out, NULL, FFMIN(s->nb_inputs, ff_filter_get_nb_threads(ctx)));
 163
 164     return ff_filter_frame(outlink, out);
 165 }
 166
 167 static int config_output(AVFilterLink *outlink)
 168 {
 169     AVFilterContext *ctx = outlink->src;
 170     StackContext *s = ctx->priv;
 171     AVRational frame_rate = ctx->inputs[0]->frame_rate;
 172     AVRational sar = ctx->inputs[0]->sample_aspect_ratio;
 173     int height = ctx->inputs[0]->h;
 174     int width = ctx->inputs[0]->w;
 175     FFFrameSyncIn *in;
 176     int i, ret;
 177
 178     s->desc = av_pix_fmt_desc_get(outlink->format);
 179     if (!s->desc)
 180         return AVERROR_BUG;
 181
 182     if (s->is_vertical) {
 183         for (i = 0; i < s->nb_inputs; i++) {
 184             AVFilterLink *inlink = ctx->inputs[i];
 185             StackItem *item = &s->items[i];
 186
 187             if (ctx->inputs[i]->w != width) {
 188                 av_log(ctx, AV_LOG_ERROR, "Input %d width %d does not match input %d width %d.\n", i, ctx->inputs[i]->w, 0, width);
 189                 return AVERROR(EINVAL);
 190             }
 191
 192             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 193                 return ret;
 194             }
 195
 196             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 197             item->height[0] = item->height[3] = inlink->h;
 198
 199             if (i) {
 200                 item->y[1] = item->y[2] = AV_CEIL_RSHIFT(height, s->desc->log2_chroma_h);
 201                 item->y[0] = item->y[3] = height;
 202
 203                 height += ctx->inputs[i]->h;
 204             }
 205         }
 206     } else if (s->is_horizontal) {
 207         for (i = 0; i < s->nb_inputs; i++) {
 208             AVFilterLink *inlink = ctx->inputs[i];
 209             StackItem *item = &s->items[i];
 210
 211             if (ctx->inputs[i]->h != height) {
 212                 av_log(ctx, AV_LOG_ERROR, "Input %d height %d does not match input %d height %d.\n", i, ctx->inputs[i]->h, 0, height);
 213                 return AVERROR(EINVAL);
 214             }
 215
 216             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 217                 return ret;
 218             }
 219
 220             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 221             item->height[0] = item->height[3] = inlink->h;
 222
 223             if (i) {
 224                 if ((ret = av_image_fill_linesizes(item->x, inlink->format, width)) < 0) {
 225                     return ret;
 226                 }
 227
 228                 width += ctx->inputs[i]->w;
 229             }
 230         }
 231     } else {
 232         char *arg, *p = s->layout, *saveptr = NULL;
 233         char *arg2, *p2, *saveptr2 = NULL;
 234         char *arg3, *p3, *saveptr3 = NULL;
 235         int inw, inh, size;
 236
 237         for (i = 0; i < s->nb_inputs; i++) {
 238             AVFilterLink *inlink = ctx->inputs[i];
 239             StackItem *item = &s->items[i];
 240
 241             if (!(arg = av_strtok(p, "|", &saveptr)))
 242                 return AVERROR(EINVAL);
 243
 244             p = NULL;
 245
 246             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
 247                 return ret;
 248             }
 249
 250             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
 251             item->height[0] = item->height[3] = inlink->h;
 252
 253             p2 = arg;
 254             inw = inh = 0;
 255
 256             for (int j = 0; j < 2; j++) {
 257                 if (!(arg2 = av_strtok(p2, "_", &saveptr2)))
 258                     return AVERROR(EINVAL);
 259
 260                 p2 = NULL;
 261                 p3 = arg2;
 262                 while ((arg3 = av_strtok(p3, "+", &saveptr3))) {
 263                     p3 = NULL;
 264                     if (sscanf(arg3, "w%d", &size) == 1) {
 265                         if (size == i || size < 0 || size >= s->nb_inputs)
 266                             return AVERROR(EINVAL);
 267
 268                         if (!j)
 269                             inw += ctx->inputs[size]->w;
 270                         else
 271                             inh += ctx->inputs[size]->w;
 272                     } else if (sscanf(arg3, "h%d", &size) == 1) {
 273                         if (size == i || size < 0 || size >= s->nb_inputs)
 274                             return AVERROR(EINVAL);
 275
 276                         if (!j)
 277                             inw += ctx->inputs[size]->h;
 278                         else
 279                             inh += ctx->inputs[size]->h;
 280                     } else if (sscanf(arg3, "%d", &size) == 1) {
 281                         if (size < 0)
 282                             return AVERROR(EINVAL);
 283
 284                         if (!j)
 285                             inw += size;
 286                         else
 287                             inh += size;
 288                     } else {
 289                         return AVERROR(EINVAL);
 290                     }
 291                 }
 292             }
 293
 294             if ((ret = av_image_fill_linesizes(item->x, inlink->format, inw)) < 0) {
 295                 return ret;
 296             }
 297
 298             item->y[1] = item->y[2] = AV_CEIL_RSHIFT(inh, s->desc->log2_chroma_h);
 299             item->y[0] = item->y[3] = inh;
 300
 301             width  = FFMAX(width,  inlink->w + inw);
 302             height = FFMAX(height, inlink->h + inh);
 303         }
 304     }
 305
 306     s->nb_planes = av_pix_fmt_count_planes(outlink->format);
 307
 308     outlink->w          = width;
 309     outlink->h          = height;
 310     outlink->frame_rate = frame_rate;
 311     outlink->sample_aspect_ratio = sar;
 312
 313     if ((ret = ff_framesync_init(&s->fs, ctx, s->nb_inputs)) < 0)
 314         return ret;
 315
 316     in = s->fs.in;
 317     s->fs.opaque = s;
 318     s->fs.on_event = process_frame;
 319
 320     for (i = 0; i < s->nb_inputs; i++) {
 321         AVFilterLink *inlink = ctx->inputs[i];
 322
 323         in[i].time_base = inlink->time_base;
 324         in[i].sync   = 1;
 325         in[i].before = EXT_STOP;
 326         in[i].after  = s->shortest ? EXT_STOP : EXT_INFINITY;
 327     }
 328
 329     ret = ff_framesync_configure(&s->fs);
 330     outlink->time_base = s->fs.time_base;
 331
 332     return ret;
 333 }
 334
 335 static av_cold void uninit(AVFilterContext *ctx)
 336 {
 337     StackContext *s = ctx->priv;
 338     int i;
 339
 340     ff_framesync_uninit(&s->fs);
 341     av_freep(&s->frames);
 342     av_freep(&s->items);
 343
 344     for (i = 0; i < ctx->nb_inputs; i++)
 345         av_freep(&ctx->input_pads[i].name);
 346 }
 347
 348 static int activate(AVFilterContext *ctx)
 349 {
 350     StackContext *s = ctx->priv;
 351     return ff_framesync_activate(&s->fs);
 352 }
 353
 354 #define OFFSET(x) offsetof(StackContext, x)
 355 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_FILTERING_PARAM
 356 static const AVOption stack_options[] = {
 357     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
 358     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
 359     { NULL },
 360 };
 361
 362 static const AVFilterPad outputs[] = {
 363     {
 364         .name          = "default",
 365         .type          = AVMEDIA_TYPE_VIDEO,
 366         .config_props  = config_output,
 367     },
 368     { NULL }
 369 };
 370
 371 #if CONFIG_HSTACK_FILTER
 372
 373 #define hstack_options stack_options
 374 AVFILTER_DEFINE_CLASS(hstack);
 375
 376 AVFilter ff_vf_hstack = {
 377     .name          = "hstack",
 378     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs horizontally."),
 379     .priv_size     = sizeof(StackContext),
 380     .priv_class    = &hstack_class,
 381     .query_formats = query_formats,
 382     .outputs       = outputs,
 383     .init          = init,
 384     .uninit        = uninit,
 385     .activate      = activate,
 386     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 387 };
 388
 389 #endif /* CONFIG_HSTACK_FILTER */
 390
 391 #if CONFIG_VSTACK_FILTER
 392
 393 #define vstack_options stack_options
 394 AVFILTER_DEFINE_CLASS(vstack);
 395
 396 AVFilter ff_vf_vstack = {
 397     .name          = "vstack",
 398     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs vertically."),
 399     .priv_size     = sizeof(StackContext),
 400     .priv_class    = &vstack_class,
 401     .query_formats = query_formats,
 402     .outputs       = outputs,
 403     .init          = init,
 404     .uninit        = uninit,
 405     .activate      = activate,
 406     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 407 };
 408
 409 #endif /* CONFIG_VSTACK_FILTER */
 410
 411 #if CONFIG_XSTACK_FILTER
 412
 413 static const AVOption xstack_options[] = {
 414     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
 415     { "layout", "set custom layout", OFFSET(layout), AV_OPT_TYPE_STRING, {.str=NULL}, 0, 0, .flags = FLAGS },
 416     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
 417     { NULL },
 418 };
 419
 420 AVFILTER_DEFINE_CLASS(xstack);
 421
 422 AVFilter ff_vf_xstack = {
 423     .name          = "xstack",
 424     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs into custom layout."),
 425     .priv_size     = sizeof(StackContext),
 426     .priv_class    = &xstack_class,
 427     .query_formats = query_formats,
 428     .outputs       = outputs,
 429     .init          = init,
 430     .uninit        = uninit,
 431     .activate      = activate,
 432     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS | AVFILTER_FLAG_SLICE_THREADS,
 433 };
 434
 435 #endif /* CONFIG_XSTACK_FILTER */