git.sesse.net Git - ffmpeg/blob - libavfilter/avfilter.c

   1 /*
   2  * filter layer
   3  * Copyright (c) 2007 Bobby Bingham
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/atomic.h"
  23 #include "libavutil/avassert.h"
  24 #include "libavutil/avstring.h"
  25 #include "libavutil/channel_layout.h"
  26 #include "libavutil/common.h"
  27 #include "libavutil/eval.h"
  28 #include "libavutil/imgutils.h"
  29 #include "libavutil/internal.h"
  30 #include "libavutil/opt.h"
  31 #include "libavutil/pixdesc.h"
  32 #include "libavutil/rational.h"
  33 #include "libavutil/samplefmt.h"
  34
  35 #include "audio.h"
  36 #include "avfilter.h"
  37 #include "formats.h"
  38 #include "internal.h"
  39
  40 #include "libavutil/ffversion.h"
  41 const char av_filter_ffversion[] = "FFmpeg version " FFMPEG_VERSION;
  42
  43 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame);
  44
  45 void ff_tlog_ref(void *ctx, AVFrame *ref, int end)
  46 {
  47     av_unused char buf[16];
  48     ff_tlog(ctx,
  49             "ref[%p buf:%p data:%p linesize[%d, %d, %d, %d] pts:%"PRId64" pos:%"PRId64,
  50             ref, ref->buf, ref->data[0],
  51             ref->linesize[0], ref->linesize[1], ref->linesize[2], ref->linesize[3],
  52             ref->pts, av_frame_get_pkt_pos(ref));
  53
  54     if (ref->width) {
  55         ff_tlog(ctx, " a:%d/%d s:%dx%d i:%c iskey:%d type:%c",
  56                 ref->sample_aspect_ratio.num, ref->sample_aspect_ratio.den,
  57                 ref->width, ref->height,
  58                 !ref->interlaced_frame     ? 'P' :         /* Progressive  */
  59                 ref->top_field_first ? 'T' : 'B',    /* Top / Bottom */
  60                 ref->key_frame,
  61                 av_get_picture_type_char(ref->pict_type));
  62     }
  63     if (ref->nb_samples) {
  64         ff_tlog(ctx, " cl:%"PRId64"d n:%d r:%d",
  65                 ref->channel_layout,
  66                 ref->nb_samples,
  67                 ref->sample_rate);
  68     }
  69
  70     ff_tlog(ctx, "]%s", end ? "\n" : "");
  71 }
  72
  73 unsigned avfilter_version(void)
  74 {
  75     av_assert0(LIBAVFILTER_VERSION_MICRO >= 100);
  76     return LIBAVFILTER_VERSION_INT;
  77 }
  78
  79 const char *avfilter_configuration(void)
  80 {
  81     return FFMPEG_CONFIGURATION;
  82 }
  83
  84 const char *avfilter_license(void)
  85 {
  86 #define LICENSE_PREFIX "libavfilter license: "
  87     return LICENSE_PREFIX FFMPEG_LICENSE + sizeof(LICENSE_PREFIX) - 1;
  88 }
  89
  90 void ff_command_queue_pop(AVFilterContext *filter)
  91 {
  92     AVFilterCommand *c= filter->command_queue;
  93     av_freep(&c->arg);
  94     av_freep(&c->command);
  95     filter->command_queue= c->next;
  96     av_free(c);
  97 }
  98
  99 int ff_insert_pad(unsigned idx, unsigned *count, size_t padidx_off,
 100                    AVFilterPad **pads, AVFilterLink ***links,
 101                    AVFilterPad *newpad)
 102 {
 103     AVFilterLink **newlinks;
 104     AVFilterPad *newpads;
 105     unsigned i;
 106
 107     idx = FFMIN(idx, *count);
 108
 109     newpads  = av_realloc_array(*pads,  *count + 1, sizeof(AVFilterPad));
 110     newlinks = av_realloc_array(*links, *count + 1, sizeof(AVFilterLink*));
 111     if (newpads)
 112         *pads  = newpads;
 113     if (newlinks)
 114         *links = newlinks;
 115     if (!newpads || !newlinks)
 116         return AVERROR(ENOMEM);
 117
 118     memmove(*pads  + idx + 1, *pads  + idx, sizeof(AVFilterPad)   * (*count - idx));
 119     memmove(*links + idx + 1, *links + idx, sizeof(AVFilterLink*) * (*count - idx));
 120     memcpy(*pads + idx, newpad, sizeof(AVFilterPad));
 121     (*links)[idx] = NULL;
 122
 123     (*count)++;
 124     for (i = idx + 1; i < *count; i++)
 125         if ((*links)[i])
 126             (*(unsigned *)((uint8_t *) (*links)[i] + padidx_off))++;
 127
 128     return 0;
 129 }
 130
 131 int avfilter_link(AVFilterContext *src, unsigned srcpad,
 132                   AVFilterContext *dst, unsigned dstpad)
 133 {
 134     AVFilterLink *link;
 135
 136     if (src->nb_outputs <= srcpad || dst->nb_inputs <= dstpad ||
 137         src->outputs[srcpad]      || dst->inputs[dstpad])
 138         return AVERROR(EINVAL);
 139
 140     if (src->output_pads[srcpad].type != dst->input_pads[dstpad].type) {
 141         av_log(src, AV_LOG_ERROR,
 142                "Media type mismatch between the '%s' filter output pad %d (%s) and the '%s' filter input pad %d (%s)\n",
 143                src->name, srcpad, (char *)av_x_if_null(av_get_media_type_string(src->output_pads[srcpad].type), "?"),
 144                dst->name, dstpad, (char *)av_x_if_null(av_get_media_type_string(dst-> input_pads[dstpad].type), "?"));
 145         return AVERROR(EINVAL);
 146     }
 147
 148     link = av_mallocz(sizeof(*link));
 149     if (!link)
 150         return AVERROR(ENOMEM);
 151
 152     src->outputs[srcpad] = dst->inputs[dstpad] = link;
 153
 154     link->src     = src;
 155     link->dst     = dst;
 156     link->srcpad  = &src->output_pads[srcpad];
 157     link->dstpad  = &dst->input_pads[dstpad];
 158     link->type    = src->output_pads[srcpad].type;
 159     av_assert0(AV_PIX_FMT_NONE == -1 && AV_SAMPLE_FMT_NONE == -1);
 160     link->format  = -1;
 161
 162     return 0;
 163 }
 164
 165 void avfilter_link_free(AVFilterLink **link)
 166 {
 167     if (!*link)
 168         return;
 169
 170     av_frame_free(&(*link)->partial_buf);
 171
 172     av_freep(link);
 173 }
 174
 175 int avfilter_link_get_channels(AVFilterLink *link)
 176 {
 177     return link->channels;
 178 }
 179
 180 void avfilter_link_set_closed(AVFilterLink *link, int closed)
 181 {
 182     link->closed = closed;
 183 }
 184
 185 int avfilter_insert_filter(AVFilterLink *link, AVFilterContext *filt,
 186                            unsigned filt_srcpad_idx, unsigned filt_dstpad_idx)
 187 {
 188     int ret;
 189     unsigned dstpad_idx = link->dstpad - link->dst->input_pads;
 190
 191     av_log(link->dst, AV_LOG_VERBOSE, "auto-inserting filter '%s' "
 192            "between the filter '%s' and the filter '%s'\n",
 193            filt->name, link->src->name, link->dst->name);
 194
 195     link->dst->inputs[dstpad_idx] = NULL;
 196     if ((ret = avfilter_link(filt, filt_dstpad_idx, link->dst, dstpad_idx)) < 0) {
 197         /* failed to link output filter to new filter */
 198         link->dst->inputs[dstpad_idx] = link;
 199         return ret;
 200     }
 201
 202     /* re-hookup the link to the new destination filter we inserted */
 203     link->dst                     = filt;
 204     link->dstpad                  = &filt->input_pads[filt_srcpad_idx];
 205     filt->inputs[filt_srcpad_idx] = link;
 206
 207     /* if any information on supported media formats already exists on the
 208      * link, we need to preserve that */
 209     if (link->out_formats)
 210         ff_formats_changeref(&link->out_formats,
 211                              &filt->outputs[filt_dstpad_idx]->out_formats);
 212     if (link->out_samplerates)
 213         ff_formats_changeref(&link->out_samplerates,
 214                              &filt->outputs[filt_dstpad_idx]->out_samplerates);
 215     if (link->out_channel_layouts)
 216         ff_channel_layouts_changeref(&link->out_channel_layouts,
 217                                      &filt->outputs[filt_dstpad_idx]->out_channel_layouts);
 218
 219     return 0;
 220 }
 221
 222 int avfilter_config_links(AVFilterContext *filter)
 223 {
 224     int (*config_link)(AVFilterLink *);
 225     unsigned i;
 226     int ret;
 227
 228     for (i = 0; i < filter->nb_inputs; i ++) {
 229         AVFilterLink *link = filter->inputs[i];
 230         AVFilterLink *inlink;
 231
 232         if (!link) continue;
 233         if (!link->src || !link->dst) {
 234             av_log(filter, AV_LOG_ERROR,
 235                    "Not all input and output are properly linked (%d).\n", i);
 236             return AVERROR(EINVAL);
 237         }
 238
 239         inlink = link->src->nb_inputs ? link->src->inputs[0] : NULL;
 240         link->current_pts = AV_NOPTS_VALUE;
 241
 242         switch (link->init_state) {
 243         case AVLINK_INIT:
 244             continue;
 245         case AVLINK_STARTINIT:
 246             av_log(filter, AV_LOG_INFO, "circular filter chain detected\n");
 247             return 0;
 248         case AVLINK_UNINIT:
 249             link->init_state = AVLINK_STARTINIT;
 250
 251             if ((ret = avfilter_config_links(link->src)) < 0)
 252                 return ret;
 253
 254             if (!(config_link = link->srcpad->config_props)) {
 255                 if (link->src->nb_inputs != 1) {
 256                     av_log(link->src, AV_LOG_ERROR, "Source filters and filters "
 257                                                     "with more than one input "
 258                                                     "must set config_props() "
 259                                                     "callbacks on all outputs\n");
 260                     return AVERROR(EINVAL);
 261                 }
 262             } else if ((ret = config_link(link)) < 0) {
 263                 av_log(link->src, AV_LOG_ERROR,
 264                        "Failed to configure output pad on %s\n",
 265                        link->src->name);
 266                 return ret;
 267             }
 268
 269             switch (link->type) {
 270             case AVMEDIA_TYPE_VIDEO:
 271                 if (!link->time_base.num && !link->time_base.den)
 272                     link->time_base = inlink ? inlink->time_base : AV_TIME_BASE_Q;
 273
 274                 if (!link->sample_aspect_ratio.num && !link->sample_aspect_ratio.den)
 275                     link->sample_aspect_ratio = inlink ?
 276                         inlink->sample_aspect_ratio : (AVRational){1,1};
 277
 278                 if (inlink && !link->frame_rate.num && !link->frame_rate.den)
 279                     link->frame_rate = inlink->frame_rate;
 280
 281                 if (inlink) {
 282                     if (!link->w)
 283                         link->w = inlink->w;
 284                     if (!link->h)
 285                         link->h = inlink->h;
 286                 } else if (!link->w || !link->h) {
 287                     av_log(link->src, AV_LOG_ERROR,
 288                            "Video source filters must set their output link's "
 289                            "width and height\n");
 290                     return AVERROR(EINVAL);
 291                 }
 292                 break;
 293
 294             case AVMEDIA_TYPE_AUDIO:
 295                 if (inlink) {
 296                     if (!link->time_base.num && !link->time_base.den)
 297                         link->time_base = inlink->time_base;
 298                 }
 299
 300                 if (!link->time_base.num && !link->time_base.den)
 301                     link->time_base = (AVRational) {1, link->sample_rate};
 302             }
 303
 304             if ((config_link = link->dstpad->config_props))
 305                 if ((ret = config_link(link)) < 0) {
 306                     av_log(link->dst, AV_LOG_ERROR,
 307                            "Failed to configure input pad on %s\n",
 308                            link->dst->name);
 309                     return ret;
 310                 }
 311
 312             link->init_state = AVLINK_INIT;
 313         }
 314     }
 315
 316     return 0;
 317 }
 318
 319 void ff_tlog_link(void *ctx, AVFilterLink *link, int end)
 320 {
 321     if (link->type == AVMEDIA_TYPE_VIDEO) {
 322         ff_tlog(ctx,
 323                 "link[%p s:%dx%d fmt:%s %s->%s]%s",
 324                 link, link->w, link->h,
 325                 av_get_pix_fmt_name(link->format),
 326                 link->src ? link->src->filter->name : "",
 327                 link->dst ? link->dst->filter->name : "",
 328                 end ? "\n" : "");
 329     } else {
 330         char buf[128];
 331         av_get_channel_layout_string(buf, sizeof(buf), -1, link->channel_layout);
 332
 333         ff_tlog(ctx,
 334                 "link[%p r:%d cl:%s fmt:%s %s->%s]%s",
 335                 link, (int)link->sample_rate, buf,
 336                 av_get_sample_fmt_name(link->format),
 337                 link->src ? link->src->filter->name : "",
 338                 link->dst ? link->dst->filter->name : "",
 339                 end ? "\n" : "");
 340     }
 341 }
 342
 343 int ff_request_frame(AVFilterLink *link)
 344 {
 345     int ret = -1;
 346     FF_TPRINTF_START(NULL, request_frame); ff_tlog_link(NULL, link, 1);
 347
 348     if (link->closed)
 349         return AVERROR_EOF;
 350     av_assert0(!link->frame_requested);
 351     link->frame_requested = 1;
 352     while (link->frame_requested) {
 353         if (link->srcpad->request_frame)
 354             ret = link->srcpad->request_frame(link);
 355         else if (link->src->inputs[0])
 356             ret = ff_request_frame(link->src->inputs[0]);
 357         if (ret == AVERROR_EOF && link->partial_buf) {
 358             AVFrame *pbuf = link->partial_buf;
 359             link->partial_buf = NULL;
 360             ret = ff_filter_frame_framed(link, pbuf);
 361         }
 362         if (ret < 0) {
 363             link->frame_requested = 0;
 364             if (ret == AVERROR_EOF)
 365                 link->closed = 1;
 366         } else {
 367             av_assert0(!link->frame_requested ||
 368                        link->flags & FF_LINK_FLAG_REQUEST_LOOP);
 369         }
 370     }
 371     return ret;
 372 }
 373
 374 int ff_poll_frame(AVFilterLink *link)
 375 {
 376     int i, min = INT_MAX;
 377
 378     if (link->srcpad->poll_frame)
 379         return link->srcpad->poll_frame(link);
 380
 381     for (i = 0; i < link->src->nb_inputs; i++) {
 382         int val;
 383         if (!link->src->inputs[i])
 384             return AVERROR(EINVAL);
 385         val = ff_poll_frame(link->src->inputs[i]);
 386         min = FFMIN(min, val);
 387     }
 388
 389     return min;
 390 }
 391
 392 static const char *const var_names[] = {
 393     "t",
 394     "n",
 395     "pos",
 396     "w",
 397     "h",
 398     NULL
 399 };
 400
 401 enum {
 402     VAR_T,
 403     VAR_N,
 404     VAR_POS,
 405     VAR_W,
 406     VAR_H,
 407     VAR_VARS_NB
 408 };
 409
 410 static int set_enable_expr(AVFilterContext *ctx, const char *expr)
 411 {
 412     int ret;
 413     char *expr_dup;
 414     AVExpr *old = ctx->enable;
 415
 416     if (!(ctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE)) {
 417         av_log(ctx, AV_LOG_ERROR, "Timeline ('enable' option) not supported "
 418                "with filter '%s'\n", ctx->filter->name);
 419         return AVERROR_PATCHWELCOME;
 420     }
 421
 422     expr_dup = av_strdup(expr);
 423     if (!expr_dup)
 424         return AVERROR(ENOMEM);
 425
 426     if (!ctx->var_values) {
 427         ctx->var_values = av_calloc(VAR_VARS_NB, sizeof(*ctx->var_values));
 428         if (!ctx->var_values) {
 429             av_free(expr_dup);
 430             return AVERROR(ENOMEM);
 431         }
 432     }
 433
 434     ret = av_expr_parse((AVExpr**)&ctx->enable, expr_dup, var_names,
 435                         NULL, NULL, NULL, NULL, 0, ctx->priv);
 436     if (ret < 0) {
 437         av_log(ctx->priv, AV_LOG_ERROR,
 438                "Error when evaluating the expression '%s' for enable\n",
 439                expr_dup);
 440         av_free(expr_dup);
 441         return ret;
 442     }
 443
 444     av_expr_free(old);
 445     av_free(ctx->enable_str);
 446     ctx->enable_str = expr_dup;
 447     return 0;
 448 }
 449
 450 void ff_update_link_current_pts(AVFilterLink *link, int64_t pts)
 451 {
 452     if (pts == AV_NOPTS_VALUE)
 453         return;
 454     link->current_pts = av_rescale_q(pts, link->time_base, AV_TIME_BASE_Q);
 455     /* TODO use duration */
 456     if (link->graph && link->age_index >= 0)
 457         ff_avfilter_graph_update_heap(link->graph, link);
 458 }
 459
 460 int avfilter_process_command(AVFilterContext *filter, const char *cmd, const char *arg, char *res, int res_len, int flags)
 461 {
 462     if(!strcmp(cmd, "ping")){
 463         char local_res[256] = {0};
 464
 465         if (!res) {
 466             res = local_res;
 467             res_len = sizeof(local_res);
 468         }
 469         av_strlcatf(res, res_len, "pong from:%s %s\n", filter->filter->name, filter->name);
 470         if (res == local_res)
 471             av_log(filter, AV_LOG_INFO, "%s", res);
 472         return 0;
 473     }else if(!strcmp(cmd, "enable")) {
 474         return set_enable_expr(filter, arg);
 475     }else if(filter->filter->process_command) {
 476         return filter->filter->process_command(filter, cmd, arg, res, res_len, flags);
 477     }
 478     return AVERROR(ENOSYS);
 479 }
 480
 481 static AVFilter *first_filter;
 482 static AVFilter **last_filter = &first_filter;
 483
 484 #if !FF_API_NOCONST_GET_NAME
 485 const
 486 #endif
 487 AVFilter *avfilter_get_by_name(const char *name)
 488 {
 489     const AVFilter *f = NULL;
 490
 491     if (!name)
 492         return NULL;
 493
 494     while ((f = avfilter_next(f)))
 495         if (!strcmp(f->name, name))
 496             return (AVFilter *)f;
 497
 498     return NULL;
 499 }
 500
 501 int avfilter_register(AVFilter *filter)
 502 {
 503     AVFilter **f = last_filter;
 504     int i;
 505
 506     /* the filter must select generic or internal exclusively */
 507     av_assert0((filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE) != AVFILTER_FLAG_SUPPORT_TIMELINE);
 508
 509     for(i=0; filter->inputs && filter->inputs[i].name; i++) {
 510         const AVFilterPad *input = &filter->inputs[i];
 511         av_assert0(     !input->filter_frame
 512                     || (!input->start_frame && !input->end_frame));
 513     }
 514
 515     filter->next = NULL;
 516
 517     while(*f || avpriv_atomic_ptr_cas((void * volatile *)f, NULL, filter))
 518         f = &(*f)->next;
 519     last_filter = &filter->next;
 520
 521     return 0;
 522 }
 523
 524 const AVFilter *avfilter_next(const AVFilter *prev)
 525 {
 526     return prev ? prev->next : first_filter;
 527 }
 528
 529 #if FF_API_OLD_FILTER_REGISTER
 530 AVFilter **av_filter_next(AVFilter **filter)
 531 {
 532     return filter ? &(*filter)->next : &first_filter;
 533 }
 534
 535 void avfilter_uninit(void)
 536 {
 537 }
 538 #endif
 539
 540 int avfilter_pad_count(const AVFilterPad *pads)
 541 {
 542     int count;
 543
 544     if (!pads)
 545         return 0;
 546
 547     for (count = 0; pads->name; count++)
 548         pads++;
 549     return count;
 550 }
 551
 552 static const char *default_filter_name(void *filter_ctx)
 553 {
 554     AVFilterContext *ctx = filter_ctx;
 555     return ctx->name ? ctx->name : ctx->filter->name;
 556 }
 557
 558 static void *filter_child_next(void *obj, void *prev)
 559 {
 560     AVFilterContext *ctx = obj;
 561     if (!prev && ctx->filter && ctx->filter->priv_class && ctx->priv)
 562         return ctx->priv;
 563     return NULL;
 564 }
 565
 566 static const AVClass *filter_child_class_next(const AVClass *prev)
 567 {
 568     const AVFilter *f = NULL;
 569
 570     /* find the filter that corresponds to prev */
 571     while (prev && (f = avfilter_next(f)))
 572         if (f->priv_class == prev)
 573             break;
 574
 575     /* could not find filter corresponding to prev */
 576     if (prev && !f)
 577         return NULL;
 578
 579     /* find next filter with specific options */
 580     while ((f = avfilter_next(f)))
 581         if (f->priv_class)
 582             return f->priv_class;
 583
 584     return NULL;
 585 }
 586
 587 #define OFFSET(x) offsetof(AVFilterContext, x)
 588 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM
 589 static const AVOption avfilter_options[] = {
 590     { "thread_type", "Allowed thread types", OFFSET(thread_type), AV_OPT_TYPE_FLAGS,
 591         { .i64 = AVFILTER_THREAD_SLICE }, 0, INT_MAX, FLAGS, "thread_type" },
 592         { "slice", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AVFILTER_THREAD_SLICE }, .unit = "thread_type" },
 593     { "enable", "set enable expression", OFFSET(enable_str), AV_OPT_TYPE_STRING, {.str=NULL}, .flags = FLAGS },
 594     { NULL },
 595 };
 596
 597 static const AVClass avfilter_class = {
 598     .class_name = "AVFilter",
 599     .item_name  = default_filter_name,
 600     .version    = LIBAVUTIL_VERSION_INT,
 601     .category   = AV_CLASS_CATEGORY_FILTER,
 602     .child_next = filter_child_next,
 603     .child_class_next = filter_child_class_next,
 604     .option           = avfilter_options,
 605 };
 606
 607 static int default_execute(AVFilterContext *ctx, avfilter_action_func *func, void *arg,
 608                            int *ret, int nb_jobs)
 609 {
 610     int i;
 611
 612     for (i = 0; i < nb_jobs; i++) {
 613         int r = func(ctx, arg, i, nb_jobs);
 614         if (ret)
 615             ret[i] = r;
 616     }
 617     return 0;
 618 }
 619
 620 AVFilterContext *ff_filter_alloc(const AVFilter *filter, const char *inst_name)
 621 {
 622     AVFilterContext *ret;
 623
 624     if (!filter)
 625         return NULL;
 626
 627     ret = av_mallocz(sizeof(AVFilterContext));
 628     if (!ret)
 629         return NULL;
 630
 631     ret->av_class = &avfilter_class;
 632     ret->filter   = filter;
 633     ret->name     = inst_name ? av_strdup(inst_name) : NULL;
 634     if (filter->priv_size) {
 635         ret->priv     = av_mallocz(filter->priv_size);
 636         if (!ret->priv)
 637             goto err;
 638     }
 639
 640     av_opt_set_defaults(ret);
 641     if (filter->priv_class) {
 642         *(const AVClass**)ret->priv = filter->priv_class;
 643         av_opt_set_defaults(ret->priv);
 644     }
 645
 646     ret->internal = av_mallocz(sizeof(*ret->internal));
 647     if (!ret->internal)
 648         goto err;
 649     ret->internal->execute = default_execute;
 650
 651     ret->nb_inputs = avfilter_pad_count(filter->inputs);
 652     if (ret->nb_inputs ) {
 653         ret->input_pads   = av_malloc_array(ret->nb_inputs, sizeof(AVFilterPad));
 654         if (!ret->input_pads)
 655             goto err;
 656         memcpy(ret->input_pads, filter->inputs, sizeof(AVFilterPad) * ret->nb_inputs);
 657         ret->inputs       = av_mallocz_array(ret->nb_inputs, sizeof(AVFilterLink*));
 658         if (!ret->inputs)
 659             goto err;
 660     }
 661
 662     ret->nb_outputs = avfilter_pad_count(filter->outputs);
 663     if (ret->nb_outputs) {
 664         ret->output_pads  = av_malloc_array(ret->nb_outputs, sizeof(AVFilterPad));
 665         if (!ret->output_pads)
 666             goto err;
 667         memcpy(ret->output_pads, filter->outputs, sizeof(AVFilterPad) * ret->nb_outputs);
 668         ret->outputs      = av_mallocz_array(ret->nb_outputs, sizeof(AVFilterLink*));
 669         if (!ret->outputs)
 670             goto err;
 671     }
 672 #if FF_API_FOO_COUNT
 673 FF_DISABLE_DEPRECATION_WARNINGS
 674     ret->output_count = ret->nb_outputs;
 675     ret->input_count  = ret->nb_inputs;
 676 FF_ENABLE_DEPRECATION_WARNINGS
 677 #endif
 678
 679     return ret;
 680
 681 err:
 682     av_freep(&ret->inputs);
 683     av_freep(&ret->input_pads);
 684     ret->nb_inputs = 0;
 685     av_freep(&ret->outputs);
 686     av_freep(&ret->output_pads);
 687     ret->nb_outputs = 0;
 688     av_freep(&ret->priv);
 689     av_freep(&ret->internal);
 690     av_free(ret);
 691     return NULL;
 692 }
 693
 694 #if FF_API_AVFILTER_OPEN
 695 int avfilter_open(AVFilterContext **filter_ctx, AVFilter *filter, const char *inst_name)
 696 {
 697     *filter_ctx = ff_filter_alloc(filter, inst_name);
 698     return *filter_ctx ? 0 : AVERROR(ENOMEM);
 699 }
 700 #endif
 701
 702 static void free_link(AVFilterLink *link)
 703 {
 704     if (!link)
 705         return;
 706
 707     if (link->src)
 708         link->src->outputs[link->srcpad - link->src->output_pads] = NULL;
 709     if (link->dst)
 710         link->dst->inputs[link->dstpad - link->dst->input_pads] = NULL;
 711
 712     ff_formats_unref(&link->in_formats);
 713     ff_formats_unref(&link->out_formats);
 714     ff_formats_unref(&link->in_samplerates);
 715     ff_formats_unref(&link->out_samplerates);
 716     ff_channel_layouts_unref(&link->in_channel_layouts);
 717     ff_channel_layouts_unref(&link->out_channel_layouts);
 718     avfilter_link_free(&link);
 719 }
 720
 721 void avfilter_free(AVFilterContext *filter)
 722 {
 723     int i;
 724
 725     if (!filter)
 726         return;
 727
 728     if (filter->graph)
 729         ff_filter_graph_remove_filter(filter->graph, filter);
 730
 731     if (filter->filter->uninit)
 732         filter->filter->uninit(filter);
 733
 734     for (i = 0; i < filter->nb_inputs; i++) {
 735         free_link(filter->inputs[i]);
 736     }
 737     for (i = 0; i < filter->nb_outputs; i++) {
 738         free_link(filter->outputs[i]);
 739     }
 740
 741     if (filter->filter->priv_class)
 742         av_opt_free(filter->priv);
 743
 744     av_freep(&filter->name);
 745     av_freep(&filter->input_pads);
 746     av_freep(&filter->output_pads);
 747     av_freep(&filter->inputs);
 748     av_freep(&filter->outputs);
 749     av_freep(&filter->priv);
 750     while(filter->command_queue){
 751         ff_command_queue_pop(filter);
 752     }
 753     av_opt_free(filter);
 754     av_expr_free(filter->enable);
 755     filter->enable = NULL;
 756     av_freep(&filter->var_values);
 757     av_freep(&filter->internal);
 758     av_free(filter);
 759 }
 760
 761 static int process_options(AVFilterContext *ctx, AVDictionary **options,
 762                            const char *args)
 763 {
 764     const AVOption *o = NULL;
 765     int ret, count = 0;
 766     char *av_uninit(parsed_key), *av_uninit(value);
 767     const char *key;
 768     int offset= -1;
 769
 770     if (!args)
 771         return 0;
 772
 773     while (*args) {
 774         const char *shorthand = NULL;
 775
 776         o = av_opt_next(ctx->priv, o);
 777         if (o) {
 778             if (o->type == AV_OPT_TYPE_CONST || o->offset == offset)
 779                 continue;
 780             offset = o->offset;
 781             shorthand = o->name;
 782         }
 783
 784         ret = av_opt_get_key_value(&args, "=", ":",
 785                                    shorthand ? AV_OPT_FLAG_IMPLICIT_KEY : 0,
 786                                    &parsed_key, &value);
 787         if (ret < 0) {
 788             if (ret == AVERROR(EINVAL))
 789                 av_log(ctx, AV_LOG_ERROR, "No option name near '%s'\n", args);
 790             else
 791                 av_log(ctx, AV_LOG_ERROR, "Unable to parse '%s': %s\n", args,
 792                        av_err2str(ret));
 793             return ret;
 794         }
 795         if (*args)
 796             args++;
 797         if (parsed_key) {
 798             key = parsed_key;
 799             while ((o = av_opt_next(ctx->priv, o))); /* discard all remaining shorthand */
 800         } else {
 801             key = shorthand;
 802         }
 803
 804         av_log(ctx, AV_LOG_DEBUG, "Setting '%s' to value '%s'\n", key, value);
 805
 806         if (av_opt_find(ctx, key, NULL, 0, 0)) {
 807             ret = av_opt_set(ctx, key, value, 0);
 808             if (ret < 0) {
 809                 av_free(value);
 810                 av_free(parsed_key);
 811                 return ret;
 812             }
 813         } else {
 814         av_dict_set(options, key, value, 0);
 815         if ((ret = av_opt_set(ctx->priv, key, value, 0)) < 0) {
 816             if (!av_opt_find(ctx->priv, key, NULL, 0, AV_OPT_SEARCH_CHILDREN | AV_OPT_SEARCH_FAKE_OBJ)) {
 817             if (ret == AVERROR_OPTION_NOT_FOUND)
 818                 av_log(ctx, AV_LOG_ERROR, "Option '%s' not found\n", key);
 819             av_free(value);
 820             av_free(parsed_key);
 821             return ret;
 822             }
 823         }
 824         }
 825
 826         av_free(value);
 827         av_free(parsed_key);
 828         count++;
 829     }
 830
 831     if (ctx->enable_str) {
 832         ret = set_enable_expr(ctx, ctx->enable_str);
 833         if (ret < 0)
 834             return ret;
 835     }
 836     return count;
 837 }
 838
 839 #if FF_API_AVFILTER_INIT_FILTER
 840 int avfilter_init_filter(AVFilterContext *filter, const char *args, void *opaque)
 841 {
 842     return avfilter_init_str(filter, args);
 843 }
 844 #endif
 845
 846 int avfilter_init_dict(AVFilterContext *ctx, AVDictionary **options)
 847 {
 848     int ret = 0;
 849
 850     ret = av_opt_set_dict(ctx, options);
 851     if (ret < 0) {
 852         av_log(ctx, AV_LOG_ERROR, "Error applying generic filter options.\n");
 853         return ret;
 854     }
 855
 856     if (ctx->filter->flags & AVFILTER_FLAG_SLICE_THREADS &&
 857         ctx->thread_type & ctx->graph->thread_type & AVFILTER_THREAD_SLICE &&
 858         ctx->graph->internal->thread_execute) {
 859         ctx->thread_type       = AVFILTER_THREAD_SLICE;
 860         ctx->internal->execute = ctx->graph->internal->thread_execute;
 861     } else {
 862         ctx->thread_type = 0;
 863     }
 864
 865     if (ctx->filter->priv_class) {
 866         ret = av_opt_set_dict(ctx->priv, options);
 867         if (ret < 0) {
 868             av_log(ctx, AV_LOG_ERROR, "Error applying options to the filter.\n");
 869             return ret;
 870         }
 871     }
 872
 873     if (ctx->filter->init_opaque)
 874         ret = ctx->filter->init_opaque(ctx, NULL);
 875     else if (ctx->filter->init)
 876         ret = ctx->filter->init(ctx);
 877     else if (ctx->filter->init_dict)
 878         ret = ctx->filter->init_dict(ctx, options);
 879
 880     return ret;
 881 }
 882
 883 int avfilter_init_str(AVFilterContext *filter, const char *args)
 884 {
 885     AVDictionary *options = NULL;
 886     AVDictionaryEntry *e;
 887     int ret = 0;
 888
 889     if (args && *args) {
 890         if (!filter->filter->priv_class) {
 891             av_log(filter, AV_LOG_ERROR, "This filter does not take any "
 892                    "options, but options were provided: %s.\n", args);
 893             return AVERROR(EINVAL);
 894         }
 895
 896 #if FF_API_OLD_FILTER_OPTS
 897             if (   !strcmp(filter->filter->name, "format")     ||
 898                    !strcmp(filter->filter->name, "noformat")   ||
 899                    !strcmp(filter->filter->name, "frei0r")     ||
 900                    !strcmp(filter->filter->name, "frei0r_src") ||
 901                    !strcmp(filter->filter->name, "ocv")        ||
 902                    !strcmp(filter->filter->name, "pan")        ||
 903                    !strcmp(filter->filter->name, "pp")         ||
 904                    !strcmp(filter->filter->name, "aevalsrc")) {
 905             /* a hack for compatibility with the old syntax
 906              * replace colons with |s */
 907             char *copy = av_strdup(args);
 908             char *p    = copy;
 909             int nb_leading = 0; // number of leading colons to skip
 910             int deprecated = 0;
 911
 912             if (!copy) {
 913                 ret = AVERROR(ENOMEM);
 914                 goto fail;
 915             }
 916
 917             if (!strcmp(filter->filter->name, "frei0r") ||
 918                 !strcmp(filter->filter->name, "ocv"))
 919                 nb_leading = 1;
 920             else if (!strcmp(filter->filter->name, "frei0r_src"))
 921                 nb_leading = 3;
 922
 923             while (nb_leading--) {
 924                 p = strchr(p, ':');
 925                 if (!p) {
 926                     p = copy + strlen(copy);
 927                     break;
 928                 }
 929                 p++;
 930             }
 931
 932             deprecated = strchr(p, ':') != NULL;
 933
 934             if (!strcmp(filter->filter->name, "aevalsrc")) {
 935                 deprecated = 0;
 936                 while ((p = strchr(p, ':')) && p[1] != ':') {
 937                     const char *epos = strchr(p + 1, '=');
 938                     const char *spos = strchr(p + 1, ':');
 939                     const int next_token_is_opt = epos && (!spos || epos < spos);
 940                     if (next_token_is_opt) {
 941                         p++;
 942                         break;
 943                     }
 944                     /* next token does not contain a '=', assume a channel expression */
 945                     deprecated = 1;
 946                     *p++ = '|';
 947                 }
 948                 if (p && *p == ':') { // double sep '::' found
 949                     deprecated = 1;
 950                     memmove(p, p + 1, strlen(p));
 951                 }
 952             } else
 953             while ((p = strchr(p, ':')))
 954                 *p++ = '|';
 955
 956             if (deprecated)
 957                 av_log(filter, AV_LOG_WARNING, "This syntax is deprecated. Use "
 958                        "'|' to separate the list items.\n");
 959
 960             av_log(filter, AV_LOG_DEBUG, "compat: called with args=[%s]\n", copy);
 961             ret = process_options(filter, &options, copy);
 962             av_freep(&copy);
 963
 964             if (ret < 0)
 965                 goto fail;
 966 #endif
 967         } else {
 968             ret = process_options(filter, &options, args);
 969             if (ret < 0)
 970                 goto fail;
 971         }
 972     }
 973
 974     ret = avfilter_init_dict(filter, &options);
 975     if (ret < 0)
 976         goto fail;
 977
 978     if ((e = av_dict_get(options, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
 979         av_log(filter, AV_LOG_ERROR, "No such option: %s.\n", e->key);
 980         ret = AVERROR_OPTION_NOT_FOUND;
 981         goto fail;
 982     }
 983
 984 fail:
 985     av_dict_free(&options);
 986
 987     return ret;
 988 }
 989
 990 const char *avfilter_pad_get_name(const AVFilterPad *pads, int pad_idx)
 991 {
 992     return pads[pad_idx].name;
 993 }
 994
 995 enum AVMediaType avfilter_pad_get_type(const AVFilterPad *pads, int pad_idx)
 996 {
 997     return pads[pad_idx].type;
 998 }
 999
1000 static int default_filter_frame(AVFilterLink *link, AVFrame *frame)
1001 {
1002     return ff_filter_frame(link->dst->outputs[0], frame);
1003 }
1004
1005 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame)
1006 {
1007     int (*filter_frame)(AVFilterLink *, AVFrame *);
1008     AVFilterContext *dstctx = link->dst;
1009     AVFilterPad *dst = link->dstpad;
1010     AVFrame *out = NULL;
1011     int ret;
1012     AVFilterCommand *cmd= link->dst->command_queue;
1013     int64_t pts;
1014
1015     if (link->closed) {
1016         av_frame_free(&frame);
1017         return AVERROR_EOF;
1018     }
1019
1020     if (!(filter_frame = dst->filter_frame))
1021         filter_frame = default_filter_frame;
1022
1023     /* copy the frame if needed */
1024     if (dst->needs_writable && !av_frame_is_writable(frame)) {
1025         av_log(link->dst, AV_LOG_DEBUG, "Copying data in avfilter.\n");
1026
1027         /* Maybe use ff_copy_buffer_ref instead? */
1028         switch (link->type) {
1029         case AVMEDIA_TYPE_VIDEO:
1030             out = ff_get_video_buffer(link, link->w, link->h);
1031             break;
1032         case AVMEDIA_TYPE_AUDIO:
1033             out = ff_get_audio_buffer(link, frame->nb_samples);
1034             break;
1035         default:
1036             ret = AVERROR(EINVAL);
1037             goto fail;
1038         }
1039         if (!out) {
1040             ret = AVERROR(ENOMEM);
1041             goto fail;
1042         }
1043
1044         ret = av_frame_copy_props(out, frame);
1045         if (ret < 0)
1046             goto fail;
1047
1048         switch (link->type) {
1049         case AVMEDIA_TYPE_VIDEO:
1050             av_image_copy(out->data, out->linesize, (const uint8_t **)frame->data, frame->linesize,
1051                           frame->format, frame->width, frame->height);
1052             break;
1053         case AVMEDIA_TYPE_AUDIO:
1054             av_samples_copy(out->extended_data, frame->extended_data,
1055                             0, 0, frame->nb_samples,
1056                             av_get_channel_layout_nb_channels(frame->channel_layout),
1057                             frame->format);
1058             break;
1059         default:
1060             ret = AVERROR(EINVAL);
1061             goto fail;
1062         }
1063
1064         av_frame_free(&frame);
1065     } else
1066         out = frame;
1067
1068     while(cmd && cmd->time <= out->pts * av_q2d(link->time_base)){
1069         av_log(link->dst, AV_LOG_DEBUG,
1070                "Processing command time:%f command:%s arg:%s\n",
1071                cmd->time, cmd->command, cmd->arg);
1072         avfilter_process_command(link->dst, cmd->command, cmd->arg, 0, 0, cmd->flags);
1073         ff_command_queue_pop(link->dst);
1074         cmd= link->dst->command_queue;
1075     }
1076
1077     pts = out->pts;
1078     if (dstctx->enable_str) {
1079         int64_t pos = av_frame_get_pkt_pos(out);
1080         dstctx->var_values[VAR_N] = link->frame_count;
1081         dstctx->var_values[VAR_T] = pts == AV_NOPTS_VALUE ? NAN : pts * av_q2d(link->time_base);
1082         dstctx->var_values[VAR_W] = link->w;
1083         dstctx->var_values[VAR_H] = link->h;
1084         dstctx->var_values[VAR_POS] = pos == -1 ? NAN : pos;
1085
1086         dstctx->is_disabled = fabs(av_expr_eval(dstctx->enable, dstctx->var_values, NULL)) < 0.5;
1087         if (dstctx->is_disabled &&
1088             (dstctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC))
1089             filter_frame = default_filter_frame;
1090     }
1091     ret = filter_frame(link, out);
1092     link->frame_count++;
1093     link->frame_requested = 0;
1094     ff_update_link_current_pts(link, pts);
1095     return ret;
1096
1097 fail:
1098     av_frame_free(&out);
1099     av_frame_free(&frame);
1100     return ret;
1101 }
1102
1103 static int ff_filter_frame_needs_framing(AVFilterLink *link, AVFrame *frame)
1104 {
1105     int insamples = frame->nb_samples, inpos = 0, nb_samples;
1106     AVFrame *pbuf = link->partial_buf;
1107     int nb_channels = av_frame_get_channels(frame);
1108     int ret = 0;
1109
1110     link->flags |= FF_LINK_FLAG_REQUEST_LOOP;
1111     /* Handle framing (min_samples, max_samples) */
1112     while (insamples) {
1113         if (!pbuf) {
1114             AVRational samples_tb = { 1, link->sample_rate };
1115             pbuf = ff_get_audio_buffer(link, link->partial_buf_size);
1116             if (!pbuf) {
1117                 av_log(link->dst, AV_LOG_WARNING,
1118                        "Samples dropped due to memory allocation failure.\n");
1119                 return 0;
1120             }
1121             av_frame_copy_props(pbuf, frame);
1122             pbuf->pts = frame->pts;
1123             if (pbuf->pts != AV_NOPTS_VALUE)
1124                 pbuf->pts += av_rescale_q(inpos, samples_tb, link->time_base);
1125             pbuf->nb_samples = 0;
1126         }
1127         nb_samples = FFMIN(insamples,
1128                            link->partial_buf_size - pbuf->nb_samples);
1129         av_samples_copy(pbuf->extended_data, frame->extended_data,
1130                         pbuf->nb_samples, inpos,
1131                         nb_samples, nb_channels, link->format);
1132         inpos                   += nb_samples;
1133         insamples               -= nb_samples;
1134         pbuf->nb_samples += nb_samples;
1135         if (pbuf->nb_samples >= link->min_samples) {
1136             ret = ff_filter_frame_framed(link, pbuf);
1137             pbuf = NULL;
1138         }
1139     }
1140     av_frame_free(&frame);
1141     link->partial_buf = pbuf;
1142     return ret;
1143 }
1144
1145 int ff_filter_frame(AVFilterLink *link, AVFrame *frame)
1146 {
1147     FF_TPRINTF_START(NULL, filter_frame); ff_tlog_link(NULL, link, 1); ff_tlog(NULL, " "); ff_tlog_ref(NULL, frame, 1);
1148
1149     /* Consistency checks */
1150     if (link->type == AVMEDIA_TYPE_VIDEO) {
1151         if (strcmp(link->dst->filter->name, "scale") &&
1152             strcmp(link->dst->filter->name, "idet")) {
1153             av_assert1(frame->format                 == link->format);
1154             av_assert1(frame->width               == link->w);
1155             av_assert1(frame->height               == link->h);
1156         }
1157     } else {
1158         av_assert1(frame->format                == link->format);
1159         av_assert1(av_frame_get_channels(frame) == link->channels);
1160         av_assert1(frame->channel_layout        == link->channel_layout);
1161         av_assert1(frame->sample_rate           == link->sample_rate);
1162     }
1163
1164     /* Go directly to actual filtering if possible */
1165     if (link->type == AVMEDIA_TYPE_AUDIO &&
1166         link->min_samples &&
1167         (link->partial_buf ||
1168          frame->nb_samples < link->min_samples ||
1169          frame->nb_samples > link->max_samples)) {
1170         return ff_filter_frame_needs_framing(link, frame);
1171     } else {
1172         return ff_filter_frame_framed(link, frame);
1173     }
1174 }
1175
1176 const AVClass *avfilter_get_class(void)
1177 {
1178     return &avfilter_class;
1179 }