git.sesse.net Git - ffmpeg/blob - libavfilter/avfilter.c

   1 /*
   2  * filter layer
   3  * Copyright (c) 2007 Bobby Bingham
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/atomic.h"
  23 #include "libavutil/avassert.h"
  24 #include "libavutil/avstring.h"
  25 #include "libavutil/channel_layout.h"
  26 #include "libavutil/common.h"
  27 #include "libavutil/eval.h"
  28 #include "libavutil/imgutils.h"
  29 #include "libavutil/internal.h"
  30 #include "libavutil/opt.h"
  31 #include "libavutil/pixdesc.h"
  32 #include "libavutil/rational.h"
  33 #include "libavutil/samplefmt.h"
  34
  35 #include "audio.h"
  36 #include "avfilter.h"
  37 #include "formats.h"
  38 #include "internal.h"
  39
  40 #include "libavutil/ffversion.h"
  41 const char av_filter_ffversion[] = "FFmpeg version " FFMPEG_VERSION;
  42
  43 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame);
  44
  45 void ff_tlog_ref(void *ctx, AVFrame *ref, int end)
  46 {
  47     av_unused char buf[16];
  48     ff_tlog(ctx,
  49             "ref[%p buf:%p data:%p linesize[%d, %d, %d, %d] pts:%"PRId64" pos:%"PRId64,
  50             ref, ref->buf, ref->data[0],
  51             ref->linesize[0], ref->linesize[1], ref->linesize[2], ref->linesize[3],
  52             ref->pts, av_frame_get_pkt_pos(ref));
  53
  54     if (ref->width) {
  55         ff_tlog(ctx, " a:%d/%d s:%dx%d i:%c iskey:%d type:%c",
  56                 ref->sample_aspect_ratio.num, ref->sample_aspect_ratio.den,
  57                 ref->width, ref->height,
  58                 !ref->interlaced_frame     ? 'P' :         /* Progressive  */
  59                 ref->top_field_first ? 'T' : 'B',    /* Top / Bottom */
  60                 ref->key_frame,
  61                 av_get_picture_type_char(ref->pict_type));
  62     }
  63     if (ref->nb_samples) {
  64         ff_tlog(ctx, " cl:%"PRId64"d n:%d r:%d",
  65                 ref->channel_layout,
  66                 ref->nb_samples,
  67                 ref->sample_rate);
  68     }
  69
  70     ff_tlog(ctx, "]%s", end ? "\n" : "");
  71 }
  72
  73 unsigned avfilter_version(void)
  74 {
  75     av_assert0(LIBAVFILTER_VERSION_MICRO >= 100);
  76     return LIBAVFILTER_VERSION_INT;
  77 }
  78
  79 const char *avfilter_configuration(void)
  80 {
  81     return FFMPEG_CONFIGURATION;
  82 }
  83
  84 const char *avfilter_license(void)
  85 {
  86 #define LICENSE_PREFIX "libavfilter license: "
  87     return LICENSE_PREFIX FFMPEG_LICENSE + sizeof(LICENSE_PREFIX) - 1;
  88 }
  89
  90 void ff_command_queue_pop(AVFilterContext *filter)
  91 {
  92     AVFilterCommand *c= filter->command_queue;
  93     av_freep(&c->arg);
  94     av_freep(&c->command);
  95     filter->command_queue= c->next;
  96     av_free(c);
  97 }
  98
  99 int ff_insert_pad(unsigned idx, unsigned *count, size_t padidx_off,
 100                    AVFilterPad **pads, AVFilterLink ***links,
 101                    AVFilterPad *newpad)
 102 {
 103     AVFilterLink **newlinks;
 104     AVFilterPad *newpads;
 105     unsigned i;
 106
 107     idx = FFMIN(idx, *count);
 108
 109     newpads  = av_realloc_array(*pads,  *count + 1, sizeof(AVFilterPad));
 110     newlinks = av_realloc_array(*links, *count + 1, sizeof(AVFilterLink*));
 111     if (newpads)
 112         *pads  = newpads;
 113     if (newlinks)
 114         *links = newlinks;
 115     if (!newpads || !newlinks)
 116         return AVERROR(ENOMEM);
 117
 118     memmove(*pads  + idx + 1, *pads  + idx, sizeof(AVFilterPad)   * (*count - idx));
 119     memmove(*links + idx + 1, *links + idx, sizeof(AVFilterLink*) * (*count - idx));
 120     memcpy(*pads + idx, newpad, sizeof(AVFilterPad));
 121     (*links)[idx] = NULL;
 122
 123     (*count)++;
 124     for (i = idx + 1; i < *count; i++)
 125         if ((*links)[i])
 126             (*(unsigned *)((uint8_t *) (*links)[i] + padidx_off))++;
 127
 128     return 0;
 129 }
 130
 131 int avfilter_link(AVFilterContext *src, unsigned srcpad,
 132                   AVFilterContext *dst, unsigned dstpad)
 133 {
 134     AVFilterLink *link;
 135
 136     if (src->nb_outputs <= srcpad || dst->nb_inputs <= dstpad ||
 137         src->outputs[srcpad]      || dst->inputs[dstpad])
 138         return AVERROR(EINVAL);
 139
 140     if (src->output_pads[srcpad].type != dst->input_pads[dstpad].type) {
 141         av_log(src, AV_LOG_ERROR,
 142                "Media type mismatch between the '%s' filter output pad %d (%s) and the '%s' filter input pad %d (%s)\n",
 143                src->name, srcpad, (char *)av_x_if_null(av_get_media_type_string(src->output_pads[srcpad].type), "?"),
 144                dst->name, dstpad, (char *)av_x_if_null(av_get_media_type_string(dst-> input_pads[dstpad].type), "?"));
 145         return AVERROR(EINVAL);
 146     }
 147
 148     link = av_mallocz(sizeof(*link));
 149     if (!link)
 150         return AVERROR(ENOMEM);
 151
 152     src->outputs[srcpad] = dst->inputs[dstpad] = link;
 153
 154     link->src     = src;
 155     link->dst     = dst;
 156     link->srcpad  = &src->output_pads[srcpad];
 157     link->dstpad  = &dst->input_pads[dstpad];
 158     link->type    = src->output_pads[srcpad].type;
 159     av_assert0(AV_PIX_FMT_NONE == -1 && AV_SAMPLE_FMT_NONE == -1);
 160     link->format  = -1;
 161
 162     return 0;
 163 }
 164
 165 void avfilter_link_free(AVFilterLink **link)
 166 {
 167     if (!*link)
 168         return;
 169
 170     av_frame_free(&(*link)->partial_buf);
 171     ff_video_frame_pool_uninit((FFVideoFramePool**)&(*link)->video_frame_pool);
 172
 173     av_freep(link);
 174 }
 175
 176 int avfilter_link_get_channels(AVFilterLink *link)
 177 {
 178     return link->channels;
 179 }
 180
 181 void avfilter_link_set_closed(AVFilterLink *link, int closed)
 182 {
 183     link->closed = closed;
 184 }
 185
 186 int avfilter_insert_filter(AVFilterLink *link, AVFilterContext *filt,
 187                            unsigned filt_srcpad_idx, unsigned filt_dstpad_idx)
 188 {
 189     int ret;
 190     unsigned dstpad_idx = link->dstpad - link->dst->input_pads;
 191
 192     av_log(link->dst, AV_LOG_VERBOSE, "auto-inserting filter '%s' "
 193            "between the filter '%s' and the filter '%s'\n",
 194            filt->name, link->src->name, link->dst->name);
 195
 196     link->dst->inputs[dstpad_idx] = NULL;
 197     if ((ret = avfilter_link(filt, filt_dstpad_idx, link->dst, dstpad_idx)) < 0) {
 198         /* failed to link output filter to new filter */
 199         link->dst->inputs[dstpad_idx] = link;
 200         return ret;
 201     }
 202
 203     /* re-hookup the link to the new destination filter we inserted */
 204     link->dst                     = filt;
 205     link->dstpad                  = &filt->input_pads[filt_srcpad_idx];
 206     filt->inputs[filt_srcpad_idx] = link;
 207
 208     /* if any information on supported media formats already exists on the
 209      * link, we need to preserve that */
 210     if (link->out_formats)
 211         ff_formats_changeref(&link->out_formats,
 212                              &filt->outputs[filt_dstpad_idx]->out_formats);
 213     if (link->out_samplerates)
 214         ff_formats_changeref(&link->out_samplerates,
 215                              &filt->outputs[filt_dstpad_idx]->out_samplerates);
 216     if (link->out_channel_layouts)
 217         ff_channel_layouts_changeref(&link->out_channel_layouts,
 218                                      &filt->outputs[filt_dstpad_idx]->out_channel_layouts);
 219
 220     return 0;
 221 }
 222
 223 int avfilter_config_links(AVFilterContext *filter)
 224 {
 225     int (*config_link)(AVFilterLink *);
 226     unsigned i;
 227     int ret;
 228
 229     for (i = 0; i < filter->nb_inputs; i ++) {
 230         AVFilterLink *link = filter->inputs[i];
 231         AVFilterLink *inlink;
 232
 233         if (!link) continue;
 234         if (!link->src || !link->dst) {
 235             av_log(filter, AV_LOG_ERROR,
 236                    "Not all input and output are properly linked (%d).\n", i);
 237             return AVERROR(EINVAL);
 238         }
 239
 240         inlink = link->src->nb_inputs ? link->src->inputs[0] : NULL;
 241         link->current_pts =
 242         link->current_pts_us = AV_NOPTS_VALUE;
 243
 244         switch (link->init_state) {
 245         case AVLINK_INIT:
 246             continue;
 247         case AVLINK_STARTINIT:
 248             av_log(filter, AV_LOG_INFO, "circular filter chain detected\n");
 249             return 0;
 250         case AVLINK_UNINIT:
 251             link->init_state = AVLINK_STARTINIT;
 252
 253             if ((ret = avfilter_config_links(link->src)) < 0)
 254                 return ret;
 255
 256             if (!(config_link = link->srcpad->config_props)) {
 257                 if (link->src->nb_inputs != 1) {
 258                     av_log(link->src, AV_LOG_ERROR, "Source filters and filters "
 259                                                     "with more than one input "
 260                                                     "must set config_props() "
 261                                                     "callbacks on all outputs\n");
 262                     return AVERROR(EINVAL);
 263                 }
 264             } else if ((ret = config_link(link)) < 0) {
 265                 av_log(link->src, AV_LOG_ERROR,
 266                        "Failed to configure output pad on %s\n",
 267                        link->src->name);
 268                 return ret;
 269             }
 270
 271             switch (link->type) {
 272             case AVMEDIA_TYPE_VIDEO:
 273                 if (!link->time_base.num && !link->time_base.den)
 274                     link->time_base = inlink ? inlink->time_base : AV_TIME_BASE_Q;
 275
 276                 if (!link->sample_aspect_ratio.num && !link->sample_aspect_ratio.den)
 277                     link->sample_aspect_ratio = inlink ?
 278                         inlink->sample_aspect_ratio : (AVRational){1,1};
 279
 280                 if (inlink) {
 281                     if (!link->frame_rate.num && !link->frame_rate.den)
 282                         link->frame_rate = inlink->frame_rate;
 283                     if (!link->w)
 284                         link->w = inlink->w;
 285                     if (!link->h)
 286                         link->h = inlink->h;
 287                 } else if (!link->w || !link->h) {
 288                     av_log(link->src, AV_LOG_ERROR,
 289                            "Video source filters must set their output link's "
 290                            "width and height\n");
 291                     return AVERROR(EINVAL);
 292                 }
 293                 break;
 294
 295             case AVMEDIA_TYPE_AUDIO:
 296                 if (inlink) {
 297                     if (!link->time_base.num && !link->time_base.den)
 298                         link->time_base = inlink->time_base;
 299                 }
 300
 301                 if (!link->time_base.num && !link->time_base.den)
 302                     link->time_base = (AVRational) {1, link->sample_rate};
 303             }
 304
 305             if ((config_link = link->dstpad->config_props))
 306                 if ((ret = config_link(link)) < 0) {
 307                     av_log(link->dst, AV_LOG_ERROR,
 308                            "Failed to configure input pad on %s\n",
 309                            link->dst->name);
 310                     return ret;
 311                 }
 312
 313             link->init_state = AVLINK_INIT;
 314         }
 315     }
 316
 317     return 0;
 318 }
 319
 320 void ff_tlog_link(void *ctx, AVFilterLink *link, int end)
 321 {
 322     if (link->type == AVMEDIA_TYPE_VIDEO) {
 323         ff_tlog(ctx,
 324                 "link[%p s:%dx%d fmt:%s %s->%s]%s",
 325                 link, link->w, link->h,
 326                 av_get_pix_fmt_name(link->format),
 327                 link->src ? link->src->filter->name : "",
 328                 link->dst ? link->dst->filter->name : "",
 329                 end ? "\n" : "");
 330     } else {
 331         char buf[128];
 332         av_get_channel_layout_string(buf, sizeof(buf), -1, link->channel_layout);
 333
 334         ff_tlog(ctx,
 335                 "link[%p r:%d cl:%s fmt:%s %s->%s]%s",
 336                 link, (int)link->sample_rate, buf,
 337                 av_get_sample_fmt_name(link->format),
 338                 link->src ? link->src->filter->name : "",
 339                 link->dst ? link->dst->filter->name : "",
 340                 end ? "\n" : "");
 341     }
 342 }
 343
 344 int ff_request_frame(AVFilterLink *link)
 345 {
 346     int ret = -1;
 347     FF_TPRINTF_START(NULL, request_frame); ff_tlog_link(NULL, link, 1);
 348
 349     if (link->closed)
 350         return AVERROR_EOF;
 351     if (link->srcpad->request_frame)
 352         ret = link->srcpad->request_frame(link);
 353     else if (link->src->inputs[0])
 354         ret = ff_request_frame(link->src->inputs[0]);
 355     if (ret == AVERROR_EOF && link->partial_buf) {
 356         AVFrame *pbuf = link->partial_buf;
 357         link->partial_buf = NULL;
 358         ret = ff_filter_frame_framed(link, pbuf);
 359     }
 360     if (ret < 0) {
 361         if (ret == AVERROR_EOF)
 362             link->closed = 1;
 363     }
 364     return ret;
 365 }
 366
 367 int ff_poll_frame(AVFilterLink *link)
 368 {
 369     int i, min = INT_MAX;
 370
 371     if (link->srcpad->poll_frame)
 372         return link->srcpad->poll_frame(link);
 373
 374     for (i = 0; i < link->src->nb_inputs; i++) {
 375         int val;
 376         if (!link->src->inputs[i])
 377             return AVERROR(EINVAL);
 378         val = ff_poll_frame(link->src->inputs[i]);
 379         min = FFMIN(min, val);
 380     }
 381
 382     return min;
 383 }
 384
 385 static const char *const var_names[] = {
 386     "t",
 387     "n",
 388     "pos",
 389     "w",
 390     "h",
 391     NULL
 392 };
 393
 394 enum {
 395     VAR_T,
 396     VAR_N,
 397     VAR_POS,
 398     VAR_W,
 399     VAR_H,
 400     VAR_VARS_NB
 401 };
 402
 403 static int set_enable_expr(AVFilterContext *ctx, const char *expr)
 404 {
 405     int ret;
 406     char *expr_dup;
 407     AVExpr *old = ctx->enable;
 408
 409     if (!(ctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE)) {
 410         av_log(ctx, AV_LOG_ERROR, "Timeline ('enable' option) not supported "
 411                "with filter '%s'\n", ctx->filter->name);
 412         return AVERROR_PATCHWELCOME;
 413     }
 414
 415     expr_dup = av_strdup(expr);
 416     if (!expr_dup)
 417         return AVERROR(ENOMEM);
 418
 419     if (!ctx->var_values) {
 420         ctx->var_values = av_calloc(VAR_VARS_NB, sizeof(*ctx->var_values));
 421         if (!ctx->var_values) {
 422             av_free(expr_dup);
 423             return AVERROR(ENOMEM);
 424         }
 425     }
 426
 427     ret = av_expr_parse((AVExpr**)&ctx->enable, expr_dup, var_names,
 428                         NULL, NULL, NULL, NULL, 0, ctx->priv);
 429     if (ret < 0) {
 430         av_log(ctx->priv, AV_LOG_ERROR,
 431                "Error when evaluating the expression '%s' for enable\n",
 432                expr_dup);
 433         av_free(expr_dup);
 434         return ret;
 435     }
 436
 437     av_expr_free(old);
 438     av_free(ctx->enable_str);
 439     ctx->enable_str = expr_dup;
 440     return 0;
 441 }
 442
 443 void ff_update_link_current_pts(AVFilterLink *link, int64_t pts)
 444 {
 445     if (pts == AV_NOPTS_VALUE)
 446         return;
 447     link->current_pts = pts;
 448     link->current_pts_us = av_rescale_q(pts, link->time_base, AV_TIME_BASE_Q);
 449     /* TODO use duration */
 450     if (link->graph && link->age_index >= 0)
 451         ff_avfilter_graph_update_heap(link->graph, link);
 452 }
 453
 454 int avfilter_process_command(AVFilterContext *filter, const char *cmd, const char *arg, char *res, int res_len, int flags)
 455 {
 456     if(!strcmp(cmd, "ping")){
 457         char local_res[256] = {0};
 458
 459         if (!res) {
 460             res = local_res;
 461             res_len = sizeof(local_res);
 462         }
 463         av_strlcatf(res, res_len, "pong from:%s %s\n", filter->filter->name, filter->name);
 464         if (res == local_res)
 465             av_log(filter, AV_LOG_INFO, "%s", res);
 466         return 0;
 467     }else if(!strcmp(cmd, "enable")) {
 468         return set_enable_expr(filter, arg);
 469     }else if(filter->filter->process_command) {
 470         return filter->filter->process_command(filter, cmd, arg, res, res_len, flags);
 471     }
 472     return AVERROR(ENOSYS);
 473 }
 474
 475 static AVFilter *first_filter;
 476 static AVFilter **last_filter = &first_filter;
 477
 478 #if !FF_API_NOCONST_GET_NAME
 479 const
 480 #endif
 481 AVFilter *avfilter_get_by_name(const char *name)
 482 {
 483     const AVFilter *f = NULL;
 484
 485     if (!name)
 486         return NULL;
 487
 488     while ((f = avfilter_next(f)))
 489         if (!strcmp(f->name, name))
 490             return (AVFilter *)f;
 491
 492     return NULL;
 493 }
 494
 495 int avfilter_register(AVFilter *filter)
 496 {
 497     AVFilter **f = last_filter;
 498
 499     /* the filter must select generic or internal exclusively */
 500     av_assert0((filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE) != AVFILTER_FLAG_SUPPORT_TIMELINE);
 501
 502     filter->next = NULL;
 503
 504     while(*f || avpriv_atomic_ptr_cas((void * volatile *)f, NULL, filter))
 505         f = &(*f)->next;
 506     last_filter = &filter->next;
 507
 508     return 0;
 509 }
 510
 511 const AVFilter *avfilter_next(const AVFilter *prev)
 512 {
 513     return prev ? prev->next : first_filter;
 514 }
 515
 516 #if FF_API_OLD_FILTER_REGISTER
 517 AVFilter **av_filter_next(AVFilter **filter)
 518 {
 519     return filter ? &(*filter)->next : &first_filter;
 520 }
 521
 522 void avfilter_uninit(void)
 523 {
 524 }
 525 #endif
 526
 527 int avfilter_pad_count(const AVFilterPad *pads)
 528 {
 529     int count;
 530
 531     if (!pads)
 532         return 0;
 533
 534     for (count = 0; pads->name; count++)
 535         pads++;
 536     return count;
 537 }
 538
 539 static const char *default_filter_name(void *filter_ctx)
 540 {
 541     AVFilterContext *ctx = filter_ctx;
 542     return ctx->name ? ctx->name : ctx->filter->name;
 543 }
 544
 545 static void *filter_child_next(void *obj, void *prev)
 546 {
 547     AVFilterContext *ctx = obj;
 548     if (!prev && ctx->filter && ctx->filter->priv_class && ctx->priv)
 549         return ctx->priv;
 550     return NULL;
 551 }
 552
 553 static const AVClass *filter_child_class_next(const AVClass *prev)
 554 {
 555     const AVFilter *f = NULL;
 556
 557     /* find the filter that corresponds to prev */
 558     while (prev && (f = avfilter_next(f)))
 559         if (f->priv_class == prev)
 560             break;
 561
 562     /* could not find filter corresponding to prev */
 563     if (prev && !f)
 564         return NULL;
 565
 566     /* find next filter with specific options */
 567     while ((f = avfilter_next(f)))
 568         if (f->priv_class)
 569             return f->priv_class;
 570
 571     return NULL;
 572 }
 573
 574 #define OFFSET(x) offsetof(AVFilterContext, x)
 575 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM
 576 static const AVOption avfilter_options[] = {
 577     { "thread_type", "Allowed thread types", OFFSET(thread_type), AV_OPT_TYPE_FLAGS,
 578         { .i64 = AVFILTER_THREAD_SLICE }, 0, INT_MAX, FLAGS, "thread_type" },
 579         { "slice", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AVFILTER_THREAD_SLICE }, .unit = "thread_type" },
 580     { "enable", "set enable expression", OFFSET(enable_str), AV_OPT_TYPE_STRING, {.str=NULL}, .flags = FLAGS },
 581     { NULL },
 582 };
 583
 584 static const AVClass avfilter_class = {
 585     .class_name = "AVFilter",
 586     .item_name  = default_filter_name,
 587     .version    = LIBAVUTIL_VERSION_INT,
 588     .category   = AV_CLASS_CATEGORY_FILTER,
 589     .child_next = filter_child_next,
 590     .child_class_next = filter_child_class_next,
 591     .option           = avfilter_options,
 592 };
 593
 594 static int default_execute(AVFilterContext *ctx, avfilter_action_func *func, void *arg,
 595                            int *ret, int nb_jobs)
 596 {
 597     int i;
 598
 599     for (i = 0; i < nb_jobs; i++) {
 600         int r = func(ctx, arg, i, nb_jobs);
 601         if (ret)
 602             ret[i] = r;
 603     }
 604     return 0;
 605 }
 606
 607 AVFilterContext *ff_filter_alloc(const AVFilter *filter, const char *inst_name)
 608 {
 609     AVFilterContext *ret;
 610
 611     if (!filter)
 612         return NULL;
 613
 614     ret = av_mallocz(sizeof(AVFilterContext));
 615     if (!ret)
 616         return NULL;
 617
 618     ret->av_class = &avfilter_class;
 619     ret->filter   = filter;
 620     ret->name     = inst_name ? av_strdup(inst_name) : NULL;
 621     if (filter->priv_size) {
 622         ret->priv     = av_mallocz(filter->priv_size);
 623         if (!ret->priv)
 624             goto err;
 625     }
 626
 627     av_opt_set_defaults(ret);
 628     if (filter->priv_class) {
 629         *(const AVClass**)ret->priv = filter->priv_class;
 630         av_opt_set_defaults(ret->priv);
 631     }
 632
 633     ret->internal = av_mallocz(sizeof(*ret->internal));
 634     if (!ret->internal)
 635         goto err;
 636     ret->internal->execute = default_execute;
 637
 638     ret->nb_inputs = avfilter_pad_count(filter->inputs);
 639     if (ret->nb_inputs ) {
 640         ret->input_pads   = av_malloc_array(ret->nb_inputs, sizeof(AVFilterPad));
 641         if (!ret->input_pads)
 642             goto err;
 643         memcpy(ret->input_pads, filter->inputs, sizeof(AVFilterPad) * ret->nb_inputs);
 644         ret->inputs       = av_mallocz_array(ret->nb_inputs, sizeof(AVFilterLink*));
 645         if (!ret->inputs)
 646             goto err;
 647     }
 648
 649     ret->nb_outputs = avfilter_pad_count(filter->outputs);
 650     if (ret->nb_outputs) {
 651         ret->output_pads  = av_malloc_array(ret->nb_outputs, sizeof(AVFilterPad));
 652         if (!ret->output_pads)
 653             goto err;
 654         memcpy(ret->output_pads, filter->outputs, sizeof(AVFilterPad) * ret->nb_outputs);
 655         ret->outputs      = av_mallocz_array(ret->nb_outputs, sizeof(AVFilterLink*));
 656         if (!ret->outputs)
 657             goto err;
 658     }
 659
 660     return ret;
 661
 662 err:
 663     av_freep(&ret->inputs);
 664     av_freep(&ret->input_pads);
 665     ret->nb_inputs = 0;
 666     av_freep(&ret->outputs);
 667     av_freep(&ret->output_pads);
 668     ret->nb_outputs = 0;
 669     av_freep(&ret->priv);
 670     av_freep(&ret->internal);
 671     av_free(ret);
 672     return NULL;
 673 }
 674
 675 #if FF_API_AVFILTER_OPEN
 676 int avfilter_open(AVFilterContext **filter_ctx, AVFilter *filter, const char *inst_name)
 677 {
 678     *filter_ctx = ff_filter_alloc(filter, inst_name);
 679     return *filter_ctx ? 0 : AVERROR(ENOMEM);
 680 }
 681 #endif
 682
 683 static void free_link(AVFilterLink *link)
 684 {
 685     if (!link)
 686         return;
 687
 688     if (link->src)
 689         link->src->outputs[link->srcpad - link->src->output_pads] = NULL;
 690     if (link->dst)
 691         link->dst->inputs[link->dstpad - link->dst->input_pads] = NULL;
 692
 693     ff_formats_unref(&link->in_formats);
 694     ff_formats_unref(&link->out_formats);
 695     ff_formats_unref(&link->in_samplerates);
 696     ff_formats_unref(&link->out_samplerates);
 697     ff_channel_layouts_unref(&link->in_channel_layouts);
 698     ff_channel_layouts_unref(&link->out_channel_layouts);
 699     avfilter_link_free(&link);
 700 }
 701
 702 void avfilter_free(AVFilterContext *filter)
 703 {
 704     int i;
 705
 706     if (!filter)
 707         return;
 708
 709     if (filter->graph)
 710         ff_filter_graph_remove_filter(filter->graph, filter);
 711
 712     if (filter->filter->uninit)
 713         filter->filter->uninit(filter);
 714
 715     for (i = 0; i < filter->nb_inputs; i++) {
 716         free_link(filter->inputs[i]);
 717     }
 718     for (i = 0; i < filter->nb_outputs; i++) {
 719         free_link(filter->outputs[i]);
 720     }
 721
 722     if (filter->filter->priv_class)
 723         av_opt_free(filter->priv);
 724
 725     av_freep(&filter->name);
 726     av_freep(&filter->input_pads);
 727     av_freep(&filter->output_pads);
 728     av_freep(&filter->inputs);
 729     av_freep(&filter->outputs);
 730     av_freep(&filter->priv);
 731     while(filter->command_queue){
 732         ff_command_queue_pop(filter);
 733     }
 734     av_opt_free(filter);
 735     av_expr_free(filter->enable);
 736     filter->enable = NULL;
 737     av_freep(&filter->var_values);
 738     av_freep(&filter->internal);
 739     av_free(filter);
 740 }
 741
 742 static int process_options(AVFilterContext *ctx, AVDictionary **options,
 743                            const char *args)
 744 {
 745     const AVOption *o = NULL;
 746     int ret, count = 0;
 747     char *av_uninit(parsed_key), *av_uninit(value);
 748     const char *key;
 749     int offset= -1;
 750
 751     if (!args)
 752         return 0;
 753
 754     while (*args) {
 755         const char *shorthand = NULL;
 756
 757         o = av_opt_next(ctx->priv, o);
 758         if (o) {
 759             if (o->type == AV_OPT_TYPE_CONST || o->offset == offset)
 760                 continue;
 761             offset = o->offset;
 762             shorthand = o->name;
 763         }
 764
 765         ret = av_opt_get_key_value(&args, "=", ":",
 766                                    shorthand ? AV_OPT_FLAG_IMPLICIT_KEY : 0,
 767                                    &parsed_key, &value);
 768         if (ret < 0) {
 769             if (ret == AVERROR(EINVAL))
 770                 av_log(ctx, AV_LOG_ERROR, "No option name near '%s'\n", args);
 771             else
 772                 av_log(ctx, AV_LOG_ERROR, "Unable to parse '%s': %s\n", args,
 773                        av_err2str(ret));
 774             return ret;
 775         }
 776         if (*args)
 777             args++;
 778         if (parsed_key) {
 779             key = parsed_key;
 780             while ((o = av_opt_next(ctx->priv, o))); /* discard all remaining shorthand */
 781         } else {
 782             key = shorthand;
 783         }
 784
 785         av_log(ctx, AV_LOG_DEBUG, "Setting '%s' to value '%s'\n", key, value);
 786
 787         if (av_opt_find(ctx, key, NULL, 0, 0)) {
 788             ret = av_opt_set(ctx, key, value, 0);
 789             if (ret < 0) {
 790                 av_free(value);
 791                 av_free(parsed_key);
 792                 return ret;
 793             }
 794         } else {
 795         av_dict_set(options, key, value, 0);
 796         if ((ret = av_opt_set(ctx->priv, key, value, 0)) < 0) {
 797             if (!av_opt_find(ctx->priv, key, NULL, 0, AV_OPT_SEARCH_CHILDREN | AV_OPT_SEARCH_FAKE_OBJ)) {
 798             if (ret == AVERROR_OPTION_NOT_FOUND)
 799                 av_log(ctx, AV_LOG_ERROR, "Option '%s' not found\n", key);
 800             av_free(value);
 801             av_free(parsed_key);
 802             return ret;
 803             }
 804         }
 805         }
 806
 807         av_free(value);
 808         av_free(parsed_key);
 809         count++;
 810     }
 811
 812     if (ctx->enable_str) {
 813         ret = set_enable_expr(ctx, ctx->enable_str);
 814         if (ret < 0)
 815             return ret;
 816     }
 817     return count;
 818 }
 819
 820 #if FF_API_AVFILTER_INIT_FILTER
 821 int avfilter_init_filter(AVFilterContext *filter, const char *args, void *opaque)
 822 {
 823     return avfilter_init_str(filter, args);
 824 }
 825 #endif
 826
 827 int avfilter_init_dict(AVFilterContext *ctx, AVDictionary **options)
 828 {
 829     int ret = 0;
 830
 831     ret = av_opt_set_dict(ctx, options);
 832     if (ret < 0) {
 833         av_log(ctx, AV_LOG_ERROR, "Error applying generic filter options.\n");
 834         return ret;
 835     }
 836
 837     if (ctx->filter->flags & AVFILTER_FLAG_SLICE_THREADS &&
 838         ctx->thread_type & ctx->graph->thread_type & AVFILTER_THREAD_SLICE &&
 839         ctx->graph->internal->thread_execute) {
 840         ctx->thread_type       = AVFILTER_THREAD_SLICE;
 841         ctx->internal->execute = ctx->graph->internal->thread_execute;
 842     } else {
 843         ctx->thread_type = 0;
 844     }
 845
 846     if (ctx->filter->priv_class) {
 847         ret = av_opt_set_dict(ctx->priv, options);
 848         if (ret < 0) {
 849             av_log(ctx, AV_LOG_ERROR, "Error applying options to the filter.\n");
 850             return ret;
 851         }
 852     }
 853
 854     if (ctx->filter->init_opaque)
 855         ret = ctx->filter->init_opaque(ctx, NULL);
 856     else if (ctx->filter->init)
 857         ret = ctx->filter->init(ctx);
 858     else if (ctx->filter->init_dict)
 859         ret = ctx->filter->init_dict(ctx, options);
 860
 861     return ret;
 862 }
 863
 864 int avfilter_init_str(AVFilterContext *filter, const char *args)
 865 {
 866     AVDictionary *options = NULL;
 867     AVDictionaryEntry *e;
 868     int ret = 0;
 869
 870     if (args && *args) {
 871         if (!filter->filter->priv_class) {
 872             av_log(filter, AV_LOG_ERROR, "This filter does not take any "
 873                    "options, but options were provided: %s.\n", args);
 874             return AVERROR(EINVAL);
 875         }
 876
 877 #if FF_API_OLD_FILTER_OPTS || FF_API_OLD_FILTER_OPTS_ERROR
 878             if (   !strcmp(filter->filter->name, "format")     ||
 879                    !strcmp(filter->filter->name, "noformat")   ||
 880                    !strcmp(filter->filter->name, "frei0r")     ||
 881                    !strcmp(filter->filter->name, "frei0r_src") ||
 882                    !strcmp(filter->filter->name, "ocv")        ||
 883                    !strcmp(filter->filter->name, "pan")        ||
 884                    !strcmp(filter->filter->name, "pp")         ||
 885                    !strcmp(filter->filter->name, "aevalsrc")) {
 886             /* a hack for compatibility with the old syntax
 887              * replace colons with |s */
 888             char *copy = av_strdup(args);
 889             char *p    = copy;
 890             int nb_leading = 0; // number of leading colons to skip
 891             int deprecated = 0;
 892
 893             if (!copy) {
 894                 ret = AVERROR(ENOMEM);
 895                 goto fail;
 896             }
 897
 898             if (!strcmp(filter->filter->name, "frei0r") ||
 899                 !strcmp(filter->filter->name, "ocv"))
 900                 nb_leading = 1;
 901             else if (!strcmp(filter->filter->name, "frei0r_src"))
 902                 nb_leading = 3;
 903
 904             while (nb_leading--) {
 905                 p = strchr(p, ':');
 906                 if (!p) {
 907                     p = copy + strlen(copy);
 908                     break;
 909                 }
 910                 p++;
 911             }
 912
 913             deprecated = strchr(p, ':') != NULL;
 914
 915             if (!strcmp(filter->filter->name, "aevalsrc")) {
 916                 deprecated = 0;
 917                 while ((p = strchr(p, ':')) && p[1] != ':') {
 918                     const char *epos = strchr(p + 1, '=');
 919                     const char *spos = strchr(p + 1, ':');
 920                     const int next_token_is_opt = epos && (!spos || epos < spos);
 921                     if (next_token_is_opt) {
 922                         p++;
 923                         break;
 924                     }
 925                     /* next token does not contain a '=', assume a channel expression */
 926                     deprecated = 1;
 927                     *p++ = '|';
 928                 }
 929                 if (p && *p == ':') { // double sep '::' found
 930                     deprecated = 1;
 931                     memmove(p, p + 1, strlen(p));
 932                 }
 933             } else
 934             while ((p = strchr(p, ':')))
 935                 *p++ = '|';
 936
 937 #if FF_API_OLD_FILTER_OPTS
 938             if (deprecated)
 939                 av_log(filter, AV_LOG_WARNING, "This syntax is deprecated. Use "
 940                        "'|' to separate the list items.\n");
 941
 942             av_log(filter, AV_LOG_DEBUG, "compat: called with args=[%s]\n", copy);
 943             ret = process_options(filter, &options, copy);
 944 #else
 945             if (deprecated) {
 946                 av_log(filter, AV_LOG_ERROR, "This syntax is deprecated. Use "
 947                        "'|' to separate the list items ('%s' instead of '%s')\n",
 948                        copy, args);
 949                 ret = AVERROR(EINVAL);
 950             } else {
 951                 ret = process_options(filter, &options, copy);
 952             }
 953 #endif
 954             av_freep(&copy);
 955
 956             if (ret < 0)
 957                 goto fail;
 958         } else
 959 #endif
 960         {
 961             ret = process_options(filter, &options, args);
 962             if (ret < 0)
 963                 goto fail;
 964         }
 965     }
 966
 967     ret = avfilter_init_dict(filter, &options);
 968     if (ret < 0)
 969         goto fail;
 970
 971     if ((e = av_dict_get(options, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
 972         av_log(filter, AV_LOG_ERROR, "No such option: %s.\n", e->key);
 973         ret = AVERROR_OPTION_NOT_FOUND;
 974         goto fail;
 975     }
 976
 977 fail:
 978     av_dict_free(&options);
 979
 980     return ret;
 981 }
 982
 983 const char *avfilter_pad_get_name(const AVFilterPad *pads, int pad_idx)
 984 {
 985     return pads[pad_idx].name;
 986 }
 987
 988 enum AVMediaType avfilter_pad_get_type(const AVFilterPad *pads, int pad_idx)
 989 {
 990     return pads[pad_idx].type;
 991 }
 992
 993 static int default_filter_frame(AVFilterLink *link, AVFrame *frame)
 994 {
 995     return ff_filter_frame(link->dst->outputs[0], frame);
 996 }
 997
 998 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame)
 999 {
1000     int (*filter_frame)(AVFilterLink *, AVFrame *);
1001     AVFilterContext *dstctx = link->dst;
1002     AVFilterPad *dst = link->dstpad;
1003     AVFrame *out = NULL;
1004     int ret;
1005     AVFilterCommand *cmd= link->dst->command_queue;
1006     int64_t pts;
1007
1008     if (link->closed) {
1009         av_frame_free(&frame);
1010         return AVERROR_EOF;
1011     }
1012
1013     if (!(filter_frame = dst->filter_frame))
1014         filter_frame = default_filter_frame;
1015
1016     /* copy the frame if needed */
1017     if (dst->needs_writable && !av_frame_is_writable(frame)) {
1018         av_log(link->dst, AV_LOG_DEBUG, "Copying data in avfilter.\n");
1019
1020         switch (link->type) {
1021         case AVMEDIA_TYPE_VIDEO:
1022             out = ff_get_video_buffer(link, link->w, link->h);
1023             break;
1024         case AVMEDIA_TYPE_AUDIO:
1025             out = ff_get_audio_buffer(link, frame->nb_samples);
1026             break;
1027         default:
1028             ret = AVERROR(EINVAL);
1029             goto fail;
1030         }
1031         if (!out) {
1032             ret = AVERROR(ENOMEM);
1033             goto fail;
1034         }
1035
1036         ret = av_frame_copy_props(out, frame);
1037         if (ret < 0)
1038             goto fail;
1039
1040         switch (link->type) {
1041         case AVMEDIA_TYPE_VIDEO:
1042             av_image_copy(out->data, out->linesize, (const uint8_t **)frame->data, frame->linesize,
1043                           frame->format, frame->width, frame->height);
1044             break;
1045         case AVMEDIA_TYPE_AUDIO:
1046             av_samples_copy(out->extended_data, frame->extended_data,
1047                             0, 0, frame->nb_samples,
1048                             av_get_channel_layout_nb_channels(frame->channel_layout),
1049                             frame->format);
1050             break;
1051         default:
1052             ret = AVERROR(EINVAL);
1053             goto fail;
1054         }
1055
1056         av_frame_free(&frame);
1057     } else
1058         out = frame;
1059
1060     while(cmd && cmd->time <= out->pts * av_q2d(link->time_base)){
1061         av_log(link->dst, AV_LOG_DEBUG,
1062                "Processing command time:%f command:%s arg:%s\n",
1063                cmd->time, cmd->command, cmd->arg);
1064         avfilter_process_command(link->dst, cmd->command, cmd->arg, 0, 0, cmd->flags);
1065         ff_command_queue_pop(link->dst);
1066         cmd= link->dst->command_queue;
1067     }
1068
1069     pts = out->pts;
1070     if (dstctx->enable_str) {
1071         int64_t pos = av_frame_get_pkt_pos(out);
1072         dstctx->var_values[VAR_N] = link->frame_count;
1073         dstctx->var_values[VAR_T] = pts == AV_NOPTS_VALUE ? NAN : pts * av_q2d(link->time_base);
1074         dstctx->var_values[VAR_W] = link->w;
1075         dstctx->var_values[VAR_H] = link->h;
1076         dstctx->var_values[VAR_POS] = pos == -1 ? NAN : pos;
1077
1078         dstctx->is_disabled = fabs(av_expr_eval(dstctx->enable, dstctx->var_values, NULL)) < 0.5;
1079         if (dstctx->is_disabled &&
1080             (dstctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC))
1081             filter_frame = default_filter_frame;
1082     }
1083     ret = filter_frame(link, out);
1084     link->frame_count++;
1085     ff_update_link_current_pts(link, pts);
1086     return ret;
1087
1088 fail:
1089     av_frame_free(&out);
1090     av_frame_free(&frame);
1091     return ret;
1092 }
1093
1094 static int ff_filter_frame_needs_framing(AVFilterLink *link, AVFrame *frame)
1095 {
1096     int insamples = frame->nb_samples, inpos = 0, nb_samples;
1097     AVFrame *pbuf = link->partial_buf;
1098     int nb_channels = av_frame_get_channels(frame);
1099     int ret = 0;
1100
1101     /* Handle framing (min_samples, max_samples) */
1102     while (insamples) {
1103         if (!pbuf) {
1104             AVRational samples_tb = { 1, link->sample_rate };
1105             pbuf = ff_get_audio_buffer(link, link->partial_buf_size);
1106             if (!pbuf) {
1107                 av_log(link->dst, AV_LOG_WARNING,
1108                        "Samples dropped due to memory allocation failure.\n");
1109                 return 0;
1110             }
1111             av_frame_copy_props(pbuf, frame);
1112             pbuf->pts = frame->pts;
1113             if (pbuf->pts != AV_NOPTS_VALUE)
1114                 pbuf->pts += av_rescale_q(inpos, samples_tb, link->time_base);
1115             pbuf->nb_samples = 0;
1116         }
1117         nb_samples = FFMIN(insamples,
1118                            link->partial_buf_size - pbuf->nb_samples);
1119         av_samples_copy(pbuf->extended_data, frame->extended_data,
1120                         pbuf->nb_samples, inpos,
1121                         nb_samples, nb_channels, link->format);
1122         inpos                   += nb_samples;
1123         insamples               -= nb_samples;
1124         pbuf->nb_samples += nb_samples;
1125         if (pbuf->nb_samples >= link->min_samples) {
1126             ret = ff_filter_frame_framed(link, pbuf);
1127             pbuf = NULL;
1128         }
1129     }
1130     av_frame_free(&frame);
1131     link->partial_buf = pbuf;
1132     return ret;
1133 }
1134
1135 int ff_filter_frame(AVFilterLink *link, AVFrame *frame)
1136 {
1137     FF_TPRINTF_START(NULL, filter_frame); ff_tlog_link(NULL, link, 1); ff_tlog(NULL, " "); ff_tlog_ref(NULL, frame, 1);
1138
1139     /* Consistency checks */
1140     if (link->type == AVMEDIA_TYPE_VIDEO) {
1141         if (strcmp(link->dst->filter->name, "buffersink") &&
1142             strcmp(link->dst->filter->name, "format") &&
1143             strcmp(link->dst->filter->name, "idet") &&
1144             strcmp(link->dst->filter->name, "null") &&
1145             strcmp(link->dst->filter->name, "scale")) {
1146             av_assert1(frame->format                 == link->format);
1147             av_assert1(frame->width               == link->w);
1148             av_assert1(frame->height               == link->h);
1149         }
1150     } else {
1151         if (frame->format != link->format) {
1152             av_log(link->dst, AV_LOG_ERROR, "Format change is not supported\n");
1153             goto error;
1154         }
1155         if (av_frame_get_channels(frame) != link->channels) {
1156             av_log(link->dst, AV_LOG_ERROR, "Channel count change is not supported\n");
1157             goto error;
1158         }
1159         if (frame->channel_layout != link->channel_layout) {
1160             av_log(link->dst, AV_LOG_ERROR, "Channel layout change is not supported\n");
1161             goto error;
1162         }
1163         if (frame->sample_rate != link->sample_rate) {
1164             av_log(link->dst, AV_LOG_ERROR, "Sample rate change is not supported\n");
1165             goto error;
1166         }
1167     }
1168
1169     /* Go directly to actual filtering if possible */
1170     if (link->type == AVMEDIA_TYPE_AUDIO &&
1171         link->min_samples &&
1172         (link->partial_buf ||
1173          frame->nb_samples < link->min_samples ||
1174          frame->nb_samples > link->max_samples)) {
1175         return ff_filter_frame_needs_framing(link, frame);
1176     } else {
1177         return ff_filter_frame_framed(link, frame);
1178     }
1179 error:
1180     av_frame_free(&frame);
1181     return AVERROR_PATCHWELCOME;
1182 }
1183
1184 const AVClass *avfilter_get_class(void)
1185 {
1186     return &avfilter_class;
1187 }