git.sesse.net Git - ffmpeg/blob - libavfilter/avfilter.c

   1 /*
   2  * filter layer
   3  * Copyright (c) 2007 Bobby Bingham
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/atomic.h"
  23 #include "libavutil/avassert.h"
  24 #include "libavutil/avstring.h"
  25 #include "libavutil/buffer.h"
  26 #include "libavutil/channel_layout.h"
  27 #include "libavutil/common.h"
  28 #include "libavutil/eval.h"
  29 #include "libavutil/hwcontext.h"
  30 #include "libavutil/imgutils.h"
  31 #include "libavutil/internal.h"
  32 #include "libavutil/opt.h"
  33 #include "libavutil/pixdesc.h"
  34 #include "libavutil/rational.h"
  35 #include "libavutil/samplefmt.h"
  36
  37 #include "audio.h"
  38 #include "avfilter.h"
  39 #include "formats.h"
  40 #include "internal.h"
  41
  42 #include "libavutil/ffversion.h"
  43 const char av_filter_ffversion[] = "FFmpeg version " FFMPEG_VERSION;
  44
  45 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame);
  46
  47 void ff_tlog_ref(void *ctx, AVFrame *ref, int end)
  48 {
  49     av_unused char buf[16];
  50     ff_tlog(ctx,
  51             "ref[%p buf:%p data:%p linesize[%d, %d, %d, %d] pts:%"PRId64" pos:%"PRId64,
  52             ref, ref->buf, ref->data[0],
  53             ref->linesize[0], ref->linesize[1], ref->linesize[2], ref->linesize[3],
  54             ref->pts, av_frame_get_pkt_pos(ref));
  55
  56     if (ref->width) {
  57         ff_tlog(ctx, " a:%d/%d s:%dx%d i:%c iskey:%d type:%c",
  58                 ref->sample_aspect_ratio.num, ref->sample_aspect_ratio.den,
  59                 ref->width, ref->height,
  60                 !ref->interlaced_frame     ? 'P' :         /* Progressive  */
  61                 ref->top_field_first ? 'T' : 'B',    /* Top / Bottom */
  62                 ref->key_frame,
  63                 av_get_picture_type_char(ref->pict_type));
  64     }
  65     if (ref->nb_samples) {
  66         ff_tlog(ctx, " cl:%"PRId64"d n:%d r:%d",
  67                 ref->channel_layout,
  68                 ref->nb_samples,
  69                 ref->sample_rate);
  70     }
  71
  72     ff_tlog(ctx, "]%s", end ? "\n" : "");
  73 }
  74
  75 unsigned avfilter_version(void)
  76 {
  77     av_assert0(LIBAVFILTER_VERSION_MICRO >= 100);
  78     return LIBAVFILTER_VERSION_INT;
  79 }
  80
  81 const char *avfilter_configuration(void)
  82 {
  83     return FFMPEG_CONFIGURATION;
  84 }
  85
  86 const char *avfilter_license(void)
  87 {
  88 #define LICENSE_PREFIX "libavfilter license: "
  89     return LICENSE_PREFIX FFMPEG_LICENSE + sizeof(LICENSE_PREFIX) - 1;
  90 }
  91
  92 void ff_command_queue_pop(AVFilterContext *filter)
  93 {
  94     AVFilterCommand *c= filter->command_queue;
  95     av_freep(&c->arg);
  96     av_freep(&c->command);
  97     filter->command_queue= c->next;
  98     av_free(c);
  99 }
 100
 101 int ff_insert_pad(unsigned idx, unsigned *count, size_t padidx_off,
 102                    AVFilterPad **pads, AVFilterLink ***links,
 103                    AVFilterPad *newpad)
 104 {
 105     AVFilterLink **newlinks;
 106     AVFilterPad *newpads;
 107     unsigned i;
 108
 109     idx = FFMIN(idx, *count);
 110
 111     newpads  = av_realloc_array(*pads,  *count + 1, sizeof(AVFilterPad));
 112     newlinks = av_realloc_array(*links, *count + 1, sizeof(AVFilterLink*));
 113     if (newpads)
 114         *pads  = newpads;
 115     if (newlinks)
 116         *links = newlinks;
 117     if (!newpads || !newlinks)
 118         return AVERROR(ENOMEM);
 119
 120     memmove(*pads  + idx + 1, *pads  + idx, sizeof(AVFilterPad)   * (*count - idx));
 121     memmove(*links + idx + 1, *links + idx, sizeof(AVFilterLink*) * (*count - idx));
 122     memcpy(*pads + idx, newpad, sizeof(AVFilterPad));
 123     (*links)[idx] = NULL;
 124
 125     (*count)++;
 126     for (i = idx + 1; i < *count; i++)
 127         if ((*links)[i])
 128             (*(unsigned *)((uint8_t *) (*links)[i] + padidx_off))++;
 129
 130     return 0;
 131 }
 132
 133 int avfilter_link(AVFilterContext *src, unsigned srcpad,
 134                   AVFilterContext *dst, unsigned dstpad)
 135 {
 136     AVFilterLink *link;
 137
 138     if (src->nb_outputs <= srcpad || dst->nb_inputs <= dstpad ||
 139         src->outputs[srcpad]      || dst->inputs[dstpad])
 140         return AVERROR(EINVAL);
 141
 142     if (src->output_pads[srcpad].type != dst->input_pads[dstpad].type) {
 143         av_log(src, AV_LOG_ERROR,
 144                "Media type mismatch between the '%s' filter output pad %d (%s) and the '%s' filter input pad %d (%s)\n",
 145                src->name, srcpad, (char *)av_x_if_null(av_get_media_type_string(src->output_pads[srcpad].type), "?"),
 146                dst->name, dstpad, (char *)av_x_if_null(av_get_media_type_string(dst-> input_pads[dstpad].type), "?"));
 147         return AVERROR(EINVAL);
 148     }
 149
 150     link = av_mallocz(sizeof(*link));
 151     if (!link)
 152         return AVERROR(ENOMEM);
 153
 154     src->outputs[srcpad] = dst->inputs[dstpad] = link;
 155
 156     link->src     = src;
 157     link->dst     = dst;
 158     link->srcpad  = &src->output_pads[srcpad];
 159     link->dstpad  = &dst->input_pads[dstpad];
 160     link->type    = src->output_pads[srcpad].type;
 161     av_assert0(AV_PIX_FMT_NONE == -1 && AV_SAMPLE_FMT_NONE == -1);
 162     link->format  = -1;
 163
 164     return 0;
 165 }
 166
 167 void avfilter_link_free(AVFilterLink **link)
 168 {
 169     if (!*link)
 170         return;
 171
 172     av_frame_free(&(*link)->partial_buf);
 173     ff_video_frame_pool_uninit((FFVideoFramePool**)&(*link)->video_frame_pool);
 174
 175     av_freep(link);
 176 }
 177
 178 int avfilter_link_get_channels(AVFilterLink *link)
 179 {
 180     return link->channels;
 181 }
 182
 183 void ff_avfilter_link_set_in_status(AVFilterLink *link, int status, int64_t pts)
 184 {
 185     ff_avfilter_link_set_out_status(link, status, pts);
 186 }
 187
 188 void ff_avfilter_link_set_out_status(AVFilterLink *link, int status, int64_t pts)
 189 {
 190     link->status = status;
 191     link->frame_wanted_in = link->frame_wanted_out = 0;
 192     ff_update_link_current_pts(link, pts);
 193 }
 194
 195 void avfilter_link_set_closed(AVFilterLink *link, int closed)
 196 {
 197     ff_avfilter_link_set_out_status(link, closed ? AVERROR_EOF : 0, AV_NOPTS_VALUE);
 198 }
 199
 200 int avfilter_insert_filter(AVFilterLink *link, AVFilterContext *filt,
 201                            unsigned filt_srcpad_idx, unsigned filt_dstpad_idx)
 202 {
 203     int ret;
 204     unsigned dstpad_idx = link->dstpad - link->dst->input_pads;
 205
 206     av_log(link->dst, AV_LOG_VERBOSE, "auto-inserting filter '%s' "
 207            "between the filter '%s' and the filter '%s'\n",
 208            filt->name, link->src->name, link->dst->name);
 209
 210     link->dst->inputs[dstpad_idx] = NULL;
 211     if ((ret = avfilter_link(filt, filt_dstpad_idx, link->dst, dstpad_idx)) < 0) {
 212         /* failed to link output filter to new filter */
 213         link->dst->inputs[dstpad_idx] = link;
 214         return ret;
 215     }
 216
 217     /* re-hookup the link to the new destination filter we inserted */
 218     link->dst                     = filt;
 219     link->dstpad                  = &filt->input_pads[filt_srcpad_idx];
 220     filt->inputs[filt_srcpad_idx] = link;
 221
 222     /* if any information on supported media formats already exists on the
 223      * link, we need to preserve that */
 224     if (link->out_formats)
 225         ff_formats_changeref(&link->out_formats,
 226                              &filt->outputs[filt_dstpad_idx]->out_formats);
 227     if (link->out_samplerates)
 228         ff_formats_changeref(&link->out_samplerates,
 229                              &filt->outputs[filt_dstpad_idx]->out_samplerates);
 230     if (link->out_channel_layouts)
 231         ff_channel_layouts_changeref(&link->out_channel_layouts,
 232                                      &filt->outputs[filt_dstpad_idx]->out_channel_layouts);
 233
 234     return 0;
 235 }
 236
 237 int avfilter_config_links(AVFilterContext *filter)
 238 {
 239     int (*config_link)(AVFilterLink *);
 240     unsigned i;
 241     int ret;
 242
 243     for (i = 0; i < filter->nb_inputs; i ++) {
 244         AVFilterLink *link = filter->inputs[i];
 245         AVFilterLink *inlink;
 246
 247         if (!link) continue;
 248         if (!link->src || !link->dst) {
 249             av_log(filter, AV_LOG_ERROR,
 250                    "Not all input and output are properly linked (%d).\n", i);
 251             return AVERROR(EINVAL);
 252         }
 253
 254         inlink = link->src->nb_inputs ? link->src->inputs[0] : NULL;
 255         link->current_pts =
 256         link->current_pts_us = AV_NOPTS_VALUE;
 257
 258         switch (link->init_state) {
 259         case AVLINK_INIT:
 260             continue;
 261         case AVLINK_STARTINIT:
 262             av_log(filter, AV_LOG_INFO, "circular filter chain detected\n");
 263             return 0;
 264         case AVLINK_UNINIT:
 265             link->init_state = AVLINK_STARTINIT;
 266
 267             if ((ret = avfilter_config_links(link->src)) < 0)
 268                 return ret;
 269
 270             if (!(config_link = link->srcpad->config_props)) {
 271                 if (link->src->nb_inputs != 1) {
 272                     av_log(link->src, AV_LOG_ERROR, "Source filters and filters "
 273                                                     "with more than one input "
 274                                                     "must set config_props() "
 275                                                     "callbacks on all outputs\n");
 276                     return AVERROR(EINVAL);
 277                 }
 278             } else if ((ret = config_link(link)) < 0) {
 279                 av_log(link->src, AV_LOG_ERROR,
 280                        "Failed to configure output pad on %s\n",
 281                        link->src->name);
 282                 return ret;
 283             }
 284
 285             switch (link->type) {
 286             case AVMEDIA_TYPE_VIDEO:
 287                 if (!link->time_base.num && !link->time_base.den)
 288                     link->time_base = inlink ? inlink->time_base : AV_TIME_BASE_Q;
 289
 290                 if (!link->sample_aspect_ratio.num && !link->sample_aspect_ratio.den)
 291                     link->sample_aspect_ratio = inlink ?
 292                         inlink->sample_aspect_ratio : (AVRational){1,1};
 293
 294                 if (inlink) {
 295                     if (!link->frame_rate.num && !link->frame_rate.den)
 296                         link->frame_rate = inlink->frame_rate;
 297                     if (!link->w)
 298                         link->w = inlink->w;
 299                     if (!link->h)
 300                         link->h = inlink->h;
 301                 } else if (!link->w || !link->h) {
 302                     av_log(link->src, AV_LOG_ERROR,
 303                            "Video source filters must set their output link's "
 304                            "width and height\n");
 305                     return AVERROR(EINVAL);
 306                 }
 307                 break;
 308
 309             case AVMEDIA_TYPE_AUDIO:
 310                 if (inlink) {
 311                     if (!link->time_base.num && !link->time_base.den)
 312                         link->time_base = inlink->time_base;
 313                 }
 314
 315                 if (!link->time_base.num && !link->time_base.den)
 316                     link->time_base = (AVRational) {1, link->sample_rate};
 317             }
 318
 319             if ((config_link = link->dstpad->config_props))
 320                 if ((ret = config_link(link)) < 0) {
 321                     av_log(link->dst, AV_LOG_ERROR,
 322                            "Failed to configure input pad on %s\n",
 323                            link->dst->name);
 324                     return ret;
 325                 }
 326
 327             if (link->src->nb_inputs && link->src->inputs[0]->hw_frames_ctx &&
 328                 !link->hw_frames_ctx) {
 329                 AVHWFramesContext *input_ctx = (AVHWFramesContext*)link->src->inputs[0]->hw_frames_ctx->data;
 330
 331                 if (input_ctx->format == link->format) {
 332                     link->hw_frames_ctx = av_buffer_ref(link->src->inputs[0]->hw_frames_ctx);
 333                     if (!link->hw_frames_ctx)
 334                         return AVERROR(ENOMEM);
 335                 }
 336             }
 337
 338             link->init_state = AVLINK_INIT;
 339         }
 340     }
 341
 342     return 0;
 343 }
 344
 345 void ff_tlog_link(void *ctx, AVFilterLink *link, int end)
 346 {
 347     if (link->type == AVMEDIA_TYPE_VIDEO) {
 348         ff_tlog(ctx,
 349                 "link[%p s:%dx%d fmt:%s %s->%s]%s",
 350                 link, link->w, link->h,
 351                 av_get_pix_fmt_name(link->format),
 352                 link->src ? link->src->filter->name : "",
 353                 link->dst ? link->dst->filter->name : "",
 354                 end ? "\n" : "");
 355     } else {
 356         char buf[128];
 357         av_get_channel_layout_string(buf, sizeof(buf), -1, link->channel_layout);
 358
 359         ff_tlog(ctx,
 360                 "link[%p r:%d cl:%s fmt:%s %s->%s]%s",
 361                 link, (int)link->sample_rate, buf,
 362                 av_get_sample_fmt_name(link->format),
 363                 link->src ? link->src->filter->name : "",
 364                 link->dst ? link->dst->filter->name : "",
 365                 end ? "\n" : "");
 366     }
 367 }
 368
 369 int ff_request_frame(AVFilterLink *link)
 370 {
 371     FF_TPRINTF_START(NULL, request_frame); ff_tlog_link(NULL, link, 1);
 372
 373     if (link->status)
 374         return link->status;
 375     link->frame_wanted_in = 1;
 376     link->frame_wanted_out = 1;
 377     return 0;
 378 }
 379
 380 int ff_request_frame_to_filter(AVFilterLink *link)
 381 {
 382     int ret = -1;
 383
 384     FF_TPRINTF_START(NULL, request_frame_to_filter); ff_tlog_link(NULL, link, 1);
 385     link->frame_wanted_in = 0;
 386     if (link->srcpad->request_frame)
 387         ret = link->srcpad->request_frame(link);
 388     else if (link->src->inputs[0])
 389         ret = ff_request_frame(link->src->inputs[0]);
 390     if (ret == AVERROR_EOF && link->partial_buf) {
 391         AVFrame *pbuf = link->partial_buf;
 392         link->partial_buf = NULL;
 393         ret = ff_filter_frame_framed(link, pbuf);
 394         ff_avfilter_link_set_in_status(link, AVERROR_EOF, AV_NOPTS_VALUE);
 395         link->frame_wanted_out = 0;
 396         return ret;
 397     }
 398     if (ret < 0) {
 399         if (ret != AVERROR(EAGAIN) && ret != link->status)
 400             ff_avfilter_link_set_in_status(link, ret, AV_NOPTS_VALUE);
 401     }
 402     return ret;
 403 }
 404
 405 int ff_poll_frame(AVFilterLink *link)
 406 {
 407     int i, min = INT_MAX;
 408
 409     if (link->srcpad->poll_frame)
 410         return link->srcpad->poll_frame(link);
 411
 412     for (i = 0; i < link->src->nb_inputs; i++) {
 413         int val;
 414         if (!link->src->inputs[i])
 415             return AVERROR(EINVAL);
 416         val = ff_poll_frame(link->src->inputs[i]);
 417         min = FFMIN(min, val);
 418     }
 419
 420     return min;
 421 }
 422
 423 static const char *const var_names[] = {
 424     "t",
 425     "n",
 426     "pos",
 427     "w",
 428     "h",
 429     NULL
 430 };
 431
 432 enum {
 433     VAR_T,
 434     VAR_N,
 435     VAR_POS,
 436     VAR_W,
 437     VAR_H,
 438     VAR_VARS_NB
 439 };
 440
 441 static int set_enable_expr(AVFilterContext *ctx, const char *expr)
 442 {
 443     int ret;
 444     char *expr_dup;
 445     AVExpr *old = ctx->enable;
 446
 447     if (!(ctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE)) {
 448         av_log(ctx, AV_LOG_ERROR, "Timeline ('enable' option) not supported "
 449                "with filter '%s'\n", ctx->filter->name);
 450         return AVERROR_PATCHWELCOME;
 451     }
 452
 453     expr_dup = av_strdup(expr);
 454     if (!expr_dup)
 455         return AVERROR(ENOMEM);
 456
 457     if (!ctx->var_values) {
 458         ctx->var_values = av_calloc(VAR_VARS_NB, sizeof(*ctx->var_values));
 459         if (!ctx->var_values) {
 460             av_free(expr_dup);
 461             return AVERROR(ENOMEM);
 462         }
 463     }
 464
 465     ret = av_expr_parse((AVExpr**)&ctx->enable, expr_dup, var_names,
 466                         NULL, NULL, NULL, NULL, 0, ctx->priv);
 467     if (ret < 0) {
 468         av_log(ctx->priv, AV_LOG_ERROR,
 469                "Error when evaluating the expression '%s' for enable\n",
 470                expr_dup);
 471         av_free(expr_dup);
 472         return ret;
 473     }
 474
 475     av_expr_free(old);
 476     av_free(ctx->enable_str);
 477     ctx->enable_str = expr_dup;
 478     return 0;
 479 }
 480
 481 void ff_update_link_current_pts(AVFilterLink *link, int64_t pts)
 482 {
 483     if (pts == AV_NOPTS_VALUE)
 484         return;
 485     link->current_pts = pts;
 486     link->current_pts_us = av_rescale_q(pts, link->time_base, AV_TIME_BASE_Q);
 487     /* TODO use duration */
 488     if (link->graph && link->age_index >= 0)
 489         ff_avfilter_graph_update_heap(link->graph, link);
 490 }
 491
 492 int avfilter_process_command(AVFilterContext *filter, const char *cmd, const char *arg, char *res, int res_len, int flags)
 493 {
 494     if(!strcmp(cmd, "ping")){
 495         char local_res[256] = {0};
 496
 497         if (!res) {
 498             res = local_res;
 499             res_len = sizeof(local_res);
 500         }
 501         av_strlcatf(res, res_len, "pong from:%s %s\n", filter->filter->name, filter->name);
 502         if (res == local_res)
 503             av_log(filter, AV_LOG_INFO, "%s", res);
 504         return 0;
 505     }else if(!strcmp(cmd, "enable")) {
 506         return set_enable_expr(filter, arg);
 507     }else if(filter->filter->process_command) {
 508         return filter->filter->process_command(filter, cmd, arg, res, res_len, flags);
 509     }
 510     return AVERROR(ENOSYS);
 511 }
 512
 513 static AVFilter *first_filter;
 514 static AVFilter **last_filter = &first_filter;
 515
 516 #if !FF_API_NOCONST_GET_NAME
 517 const
 518 #endif
 519 AVFilter *avfilter_get_by_name(const char *name)
 520 {
 521     const AVFilter *f = NULL;
 522
 523     if (!name)
 524         return NULL;
 525
 526     while ((f = avfilter_next(f)))
 527         if (!strcmp(f->name, name))
 528             return (AVFilter *)f;
 529
 530     return NULL;
 531 }
 532
 533 int avfilter_register(AVFilter *filter)
 534 {
 535     AVFilter **f = last_filter;
 536
 537     /* the filter must select generic or internal exclusively */
 538     av_assert0((filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE) != AVFILTER_FLAG_SUPPORT_TIMELINE);
 539
 540     filter->next = NULL;
 541
 542     while(*f || avpriv_atomic_ptr_cas((void * volatile *)f, NULL, filter))
 543         f = &(*f)->next;
 544     last_filter = &filter->next;
 545
 546     return 0;
 547 }
 548
 549 const AVFilter *avfilter_next(const AVFilter *prev)
 550 {
 551     return prev ? prev->next : first_filter;
 552 }
 553
 554 #if FF_API_OLD_FILTER_REGISTER
 555 AVFilter **av_filter_next(AVFilter **filter)
 556 {
 557     return filter ? &(*filter)->next : &first_filter;
 558 }
 559
 560 void avfilter_uninit(void)
 561 {
 562 }
 563 #endif
 564
 565 int avfilter_pad_count(const AVFilterPad *pads)
 566 {
 567     int count;
 568
 569     if (!pads)
 570         return 0;
 571
 572     for (count = 0; pads->name; count++)
 573         pads++;
 574     return count;
 575 }
 576
 577 static const char *default_filter_name(void *filter_ctx)
 578 {
 579     AVFilterContext *ctx = filter_ctx;
 580     return ctx->name ? ctx->name : ctx->filter->name;
 581 }
 582
 583 static void *filter_child_next(void *obj, void *prev)
 584 {
 585     AVFilterContext *ctx = obj;
 586     if (!prev && ctx->filter && ctx->filter->priv_class && ctx->priv)
 587         return ctx->priv;
 588     return NULL;
 589 }
 590
 591 static const AVClass *filter_child_class_next(const AVClass *prev)
 592 {
 593     const AVFilter *f = NULL;
 594
 595     /* find the filter that corresponds to prev */
 596     while (prev && (f = avfilter_next(f)))
 597         if (f->priv_class == prev)
 598             break;
 599
 600     /* could not find filter corresponding to prev */
 601     if (prev && !f)
 602         return NULL;
 603
 604     /* find next filter with specific options */
 605     while ((f = avfilter_next(f)))
 606         if (f->priv_class)
 607             return f->priv_class;
 608
 609     return NULL;
 610 }
 611
 612 #define OFFSET(x) offsetof(AVFilterContext, x)
 613 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM
 614 static const AVOption avfilter_options[] = {
 615     { "thread_type", "Allowed thread types", OFFSET(thread_type), AV_OPT_TYPE_FLAGS,
 616         { .i64 = AVFILTER_THREAD_SLICE }, 0, INT_MAX, FLAGS, "thread_type" },
 617         { "slice", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AVFILTER_THREAD_SLICE }, .unit = "thread_type" },
 618     { "enable", "set enable expression", OFFSET(enable_str), AV_OPT_TYPE_STRING, {.str=NULL}, .flags = FLAGS },
 619     { NULL },
 620 };
 621
 622 static const AVClass avfilter_class = {
 623     .class_name = "AVFilter",
 624     .item_name  = default_filter_name,
 625     .version    = LIBAVUTIL_VERSION_INT,
 626     .category   = AV_CLASS_CATEGORY_FILTER,
 627     .child_next = filter_child_next,
 628     .child_class_next = filter_child_class_next,
 629     .option           = avfilter_options,
 630 };
 631
 632 static int default_execute(AVFilterContext *ctx, avfilter_action_func *func, void *arg,
 633                            int *ret, int nb_jobs)
 634 {
 635     int i;
 636
 637     for (i = 0; i < nb_jobs; i++) {
 638         int r = func(ctx, arg, i, nb_jobs);
 639         if (ret)
 640             ret[i] = r;
 641     }
 642     return 0;
 643 }
 644
 645 AVFilterContext *ff_filter_alloc(const AVFilter *filter, const char *inst_name)
 646 {
 647     AVFilterContext *ret;
 648
 649     if (!filter)
 650         return NULL;
 651
 652     ret = av_mallocz(sizeof(AVFilterContext));
 653     if (!ret)
 654         return NULL;
 655
 656     ret->av_class = &avfilter_class;
 657     ret->filter   = filter;
 658     ret->name     = inst_name ? av_strdup(inst_name) : NULL;
 659     if (filter->priv_size) {
 660         ret->priv     = av_mallocz(filter->priv_size);
 661         if (!ret->priv)
 662             goto err;
 663     }
 664
 665     av_opt_set_defaults(ret);
 666     if (filter->priv_class) {
 667         *(const AVClass**)ret->priv = filter->priv_class;
 668         av_opt_set_defaults(ret->priv);
 669     }
 670
 671     ret->internal = av_mallocz(sizeof(*ret->internal));
 672     if (!ret->internal)
 673         goto err;
 674     ret->internal->execute = default_execute;
 675
 676     ret->nb_inputs = avfilter_pad_count(filter->inputs);
 677     if (ret->nb_inputs ) {
 678         ret->input_pads   = av_malloc_array(ret->nb_inputs, sizeof(AVFilterPad));
 679         if (!ret->input_pads)
 680             goto err;
 681         memcpy(ret->input_pads, filter->inputs, sizeof(AVFilterPad) * ret->nb_inputs);
 682         ret->inputs       = av_mallocz_array(ret->nb_inputs, sizeof(AVFilterLink*));
 683         if (!ret->inputs)
 684             goto err;
 685     }
 686
 687     ret->nb_outputs = avfilter_pad_count(filter->outputs);
 688     if (ret->nb_outputs) {
 689         ret->output_pads  = av_malloc_array(ret->nb_outputs, sizeof(AVFilterPad));
 690         if (!ret->output_pads)
 691             goto err;
 692         memcpy(ret->output_pads, filter->outputs, sizeof(AVFilterPad) * ret->nb_outputs);
 693         ret->outputs      = av_mallocz_array(ret->nb_outputs, sizeof(AVFilterLink*));
 694         if (!ret->outputs)
 695             goto err;
 696     }
 697
 698     return ret;
 699
 700 err:
 701     av_freep(&ret->inputs);
 702     av_freep(&ret->input_pads);
 703     ret->nb_inputs = 0;
 704     av_freep(&ret->outputs);
 705     av_freep(&ret->output_pads);
 706     ret->nb_outputs = 0;
 707     av_freep(&ret->priv);
 708     av_freep(&ret->internal);
 709     av_free(ret);
 710     return NULL;
 711 }
 712
 713 #if FF_API_AVFILTER_OPEN
 714 int avfilter_open(AVFilterContext **filter_ctx, AVFilter *filter, const char *inst_name)
 715 {
 716     *filter_ctx = ff_filter_alloc(filter, inst_name);
 717     return *filter_ctx ? 0 : AVERROR(ENOMEM);
 718 }
 719 #endif
 720
 721 static void free_link(AVFilterLink *link)
 722 {
 723     if (!link)
 724         return;
 725
 726     if (link->src)
 727         link->src->outputs[link->srcpad - link->src->output_pads] = NULL;
 728     if (link->dst)
 729         link->dst->inputs[link->dstpad - link->dst->input_pads] = NULL;
 730
 731     av_buffer_unref(&link->hw_frames_ctx);
 732
 733     ff_formats_unref(&link->in_formats);
 734     ff_formats_unref(&link->out_formats);
 735     ff_formats_unref(&link->in_samplerates);
 736     ff_formats_unref(&link->out_samplerates);
 737     ff_channel_layouts_unref(&link->in_channel_layouts);
 738     ff_channel_layouts_unref(&link->out_channel_layouts);
 739     avfilter_link_free(&link);
 740 }
 741
 742 void avfilter_free(AVFilterContext *filter)
 743 {
 744     int i;
 745
 746     if (!filter)
 747         return;
 748
 749     if (filter->graph)
 750         ff_filter_graph_remove_filter(filter->graph, filter);
 751
 752     if (filter->filter->uninit)
 753         filter->filter->uninit(filter);
 754
 755     for (i = 0; i < filter->nb_inputs; i++) {
 756         free_link(filter->inputs[i]);
 757     }
 758     for (i = 0; i < filter->nb_outputs; i++) {
 759         free_link(filter->outputs[i]);
 760     }
 761
 762     if (filter->filter->priv_class)
 763         av_opt_free(filter->priv);
 764
 765     av_buffer_unref(&filter->hw_device_ctx);
 766
 767     av_freep(&filter->name);
 768     av_freep(&filter->input_pads);
 769     av_freep(&filter->output_pads);
 770     av_freep(&filter->inputs);
 771     av_freep(&filter->outputs);
 772     av_freep(&filter->priv);
 773     while(filter->command_queue){
 774         ff_command_queue_pop(filter);
 775     }
 776     av_opt_free(filter);
 777     av_expr_free(filter->enable);
 778     filter->enable = NULL;
 779     av_freep(&filter->var_values);
 780     av_freep(&filter->internal);
 781     av_free(filter);
 782 }
 783
 784 static int process_options(AVFilterContext *ctx, AVDictionary **options,
 785                            const char *args)
 786 {
 787     const AVOption *o = NULL;
 788     int ret, count = 0;
 789     char *av_uninit(parsed_key), *av_uninit(value);
 790     const char *key;
 791     int offset= -1;
 792
 793     if (!args)
 794         return 0;
 795
 796     while (*args) {
 797         const char *shorthand = NULL;
 798
 799         o = av_opt_next(ctx->priv, o);
 800         if (o) {
 801             if (o->type == AV_OPT_TYPE_CONST || o->offset == offset)
 802                 continue;
 803             offset = o->offset;
 804             shorthand = o->name;
 805         }
 806
 807         ret = av_opt_get_key_value(&args, "=", ":",
 808                                    shorthand ? AV_OPT_FLAG_IMPLICIT_KEY : 0,
 809                                    &parsed_key, &value);
 810         if (ret < 0) {
 811             if (ret == AVERROR(EINVAL))
 812                 av_log(ctx, AV_LOG_ERROR, "No option name near '%s'\n", args);
 813             else
 814                 av_log(ctx, AV_LOG_ERROR, "Unable to parse '%s': %s\n", args,
 815                        av_err2str(ret));
 816             return ret;
 817         }
 818         if (*args)
 819             args++;
 820         if (parsed_key) {
 821             key = parsed_key;
 822             while ((o = av_opt_next(ctx->priv, o))); /* discard all remaining shorthand */
 823         } else {
 824             key = shorthand;
 825         }
 826
 827         av_log(ctx, AV_LOG_DEBUG, "Setting '%s' to value '%s'\n", key, value);
 828
 829         if (av_opt_find(ctx, key, NULL, 0, 0)) {
 830             ret = av_opt_set(ctx, key, value, 0);
 831             if (ret < 0) {
 832                 av_free(value);
 833                 av_free(parsed_key);
 834                 return ret;
 835             }
 836         } else {
 837         av_dict_set(options, key, value, 0);
 838         if ((ret = av_opt_set(ctx->priv, key, value, 0)) < 0) {
 839             if (!av_opt_find(ctx->priv, key, NULL, 0, AV_OPT_SEARCH_CHILDREN | AV_OPT_SEARCH_FAKE_OBJ)) {
 840             if (ret == AVERROR_OPTION_NOT_FOUND)
 841                 av_log(ctx, AV_LOG_ERROR, "Option '%s' not found\n", key);
 842             av_free(value);
 843             av_free(parsed_key);
 844             return ret;
 845             }
 846         }
 847         }
 848
 849         av_free(value);
 850         av_free(parsed_key);
 851         count++;
 852     }
 853
 854     if (ctx->enable_str) {
 855         ret = set_enable_expr(ctx, ctx->enable_str);
 856         if (ret < 0)
 857             return ret;
 858     }
 859     return count;
 860 }
 861
 862 #if FF_API_AVFILTER_INIT_FILTER
 863 int avfilter_init_filter(AVFilterContext *filter, const char *args, void *opaque)
 864 {
 865     return avfilter_init_str(filter, args);
 866 }
 867 #endif
 868
 869 int avfilter_init_dict(AVFilterContext *ctx, AVDictionary **options)
 870 {
 871     int ret = 0;
 872
 873     ret = av_opt_set_dict(ctx, options);
 874     if (ret < 0) {
 875         av_log(ctx, AV_LOG_ERROR, "Error applying generic filter options.\n");
 876         return ret;
 877     }
 878
 879     if (ctx->filter->flags & AVFILTER_FLAG_SLICE_THREADS &&
 880         ctx->thread_type & ctx->graph->thread_type & AVFILTER_THREAD_SLICE &&
 881         ctx->graph->internal->thread_execute) {
 882         ctx->thread_type       = AVFILTER_THREAD_SLICE;
 883         ctx->internal->execute = ctx->graph->internal->thread_execute;
 884     } else {
 885         ctx->thread_type = 0;
 886     }
 887
 888     if (ctx->filter->priv_class) {
 889         ret = av_opt_set_dict(ctx->priv, options);
 890         if (ret < 0) {
 891             av_log(ctx, AV_LOG_ERROR, "Error applying options to the filter.\n");
 892             return ret;
 893         }
 894     }
 895
 896     if (ctx->filter->init_opaque)
 897         ret = ctx->filter->init_opaque(ctx, NULL);
 898     else if (ctx->filter->init)
 899         ret = ctx->filter->init(ctx);
 900     else if (ctx->filter->init_dict)
 901         ret = ctx->filter->init_dict(ctx, options);
 902
 903     return ret;
 904 }
 905
 906 int avfilter_init_str(AVFilterContext *filter, const char *args)
 907 {
 908     AVDictionary *options = NULL;
 909     AVDictionaryEntry *e;
 910     int ret = 0;
 911
 912     if (args && *args) {
 913         if (!filter->filter->priv_class) {
 914             av_log(filter, AV_LOG_ERROR, "This filter does not take any "
 915                    "options, but options were provided: %s.\n", args);
 916             return AVERROR(EINVAL);
 917         }
 918
 919 #if FF_API_OLD_FILTER_OPTS || FF_API_OLD_FILTER_OPTS_ERROR
 920             if (   !strcmp(filter->filter->name, "format")     ||
 921                    !strcmp(filter->filter->name, "noformat")   ||
 922                    !strcmp(filter->filter->name, "frei0r")     ||
 923                    !strcmp(filter->filter->name, "frei0r_src") ||
 924                    !strcmp(filter->filter->name, "ocv")        ||
 925                    !strcmp(filter->filter->name, "pan")        ||
 926                    !strcmp(filter->filter->name, "pp")         ||
 927                    !strcmp(filter->filter->name, "aevalsrc")) {
 928             /* a hack for compatibility with the old syntax
 929              * replace colons with |s */
 930             char *copy = av_strdup(args);
 931             char *p    = copy;
 932             int nb_leading = 0; // number of leading colons to skip
 933             int deprecated = 0;
 934
 935             if (!copy) {
 936                 ret = AVERROR(ENOMEM);
 937                 goto fail;
 938             }
 939
 940             if (!strcmp(filter->filter->name, "frei0r") ||
 941                 !strcmp(filter->filter->name, "ocv"))
 942                 nb_leading = 1;
 943             else if (!strcmp(filter->filter->name, "frei0r_src"))
 944                 nb_leading = 3;
 945
 946             while (nb_leading--) {
 947                 p = strchr(p, ':');
 948                 if (!p) {
 949                     p = copy + strlen(copy);
 950                     break;
 951                 }
 952                 p++;
 953             }
 954
 955             deprecated = strchr(p, ':') != NULL;
 956
 957             if (!strcmp(filter->filter->name, "aevalsrc")) {
 958                 deprecated = 0;
 959                 while ((p = strchr(p, ':')) && p[1] != ':') {
 960                     const char *epos = strchr(p + 1, '=');
 961                     const char *spos = strchr(p + 1, ':');
 962                     const int next_token_is_opt = epos && (!spos || epos < spos);
 963                     if (next_token_is_opt) {
 964                         p++;
 965                         break;
 966                     }
 967                     /* next token does not contain a '=', assume a channel expression */
 968                     deprecated = 1;
 969                     *p++ = '|';
 970                 }
 971                 if (p && *p == ':') { // double sep '::' found
 972                     deprecated = 1;
 973                     memmove(p, p + 1, strlen(p));
 974                 }
 975             } else
 976             while ((p = strchr(p, ':')))
 977                 *p++ = '|';
 978
 979 #if FF_API_OLD_FILTER_OPTS
 980             if (deprecated)
 981                 av_log(filter, AV_LOG_WARNING, "This syntax is deprecated. Use "
 982                        "'|' to separate the list items.\n");
 983
 984             av_log(filter, AV_LOG_DEBUG, "compat: called with args=[%s]\n", copy);
 985             ret = process_options(filter, &options, copy);
 986 #else
 987             if (deprecated) {
 988                 av_log(filter, AV_LOG_ERROR, "This syntax is deprecated. Use "
 989                        "'|' to separate the list items ('%s' instead of '%s')\n",
 990                        copy, args);
 991                 ret = AVERROR(EINVAL);
 992             } else {
 993                 ret = process_options(filter, &options, copy);
 994             }
 995 #endif
 996             av_freep(&copy);
 997
 998             if (ret < 0)
 999                 goto fail;
1000         } else
1001 #endif
1002         {
1003             ret = process_options(filter, &options, args);
1004             if (ret < 0)
1005                 goto fail;
1006         }
1007     }
1008
1009     ret = avfilter_init_dict(filter, &options);
1010     if (ret < 0)
1011         goto fail;
1012
1013     if ((e = av_dict_get(options, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
1014         av_log(filter, AV_LOG_ERROR, "No such option: %s.\n", e->key);
1015         ret = AVERROR_OPTION_NOT_FOUND;
1016         goto fail;
1017     }
1018
1019 fail:
1020     av_dict_free(&options);
1021
1022     return ret;
1023 }
1024
1025 const char *avfilter_pad_get_name(const AVFilterPad *pads, int pad_idx)
1026 {
1027     return pads[pad_idx].name;
1028 }
1029
1030 enum AVMediaType avfilter_pad_get_type(const AVFilterPad *pads, int pad_idx)
1031 {
1032     return pads[pad_idx].type;
1033 }
1034
1035 static int default_filter_frame(AVFilterLink *link, AVFrame *frame)
1036 {
1037     return ff_filter_frame(link->dst->outputs[0], frame);
1038 }
1039
1040 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame)
1041 {
1042     int (*filter_frame)(AVFilterLink *, AVFrame *);
1043     AVFilterContext *dstctx = link->dst;
1044     AVFilterPad *dst = link->dstpad;
1045     AVFrame *out = NULL;
1046     int ret;
1047     AVFilterCommand *cmd= link->dst->command_queue;
1048     int64_t pts;
1049
1050     if (link->status) {
1051         av_frame_free(&frame);
1052         return link->status;
1053     }
1054
1055     if (!(filter_frame = dst->filter_frame))
1056         filter_frame = default_filter_frame;
1057
1058     /* copy the frame if needed */
1059     if (dst->needs_writable && !av_frame_is_writable(frame)) {
1060         av_log(link->dst, AV_LOG_DEBUG, "Copying data in avfilter.\n");
1061
1062         switch (link->type) {
1063         case AVMEDIA_TYPE_VIDEO:
1064             out = ff_get_video_buffer(link, link->w, link->h);
1065             break;
1066         case AVMEDIA_TYPE_AUDIO:
1067             out = ff_get_audio_buffer(link, frame->nb_samples);
1068             break;
1069         default:
1070             ret = AVERROR(EINVAL);
1071             goto fail;
1072         }
1073         if (!out) {
1074             ret = AVERROR(ENOMEM);
1075             goto fail;
1076         }
1077
1078         ret = av_frame_copy_props(out, frame);
1079         if (ret < 0)
1080             goto fail;
1081
1082         switch (link->type) {
1083         case AVMEDIA_TYPE_VIDEO:
1084             av_image_copy(out->data, out->linesize, (const uint8_t **)frame->data, frame->linesize,
1085                           frame->format, frame->width, frame->height);
1086             break;
1087         case AVMEDIA_TYPE_AUDIO:
1088             av_samples_copy(out->extended_data, frame->extended_data,
1089                             0, 0, frame->nb_samples,
1090                             av_get_channel_layout_nb_channels(frame->channel_layout),
1091                             frame->format);
1092             break;
1093         default:
1094             ret = AVERROR(EINVAL);
1095             goto fail;
1096         }
1097
1098         av_frame_free(&frame);
1099     } else
1100         out = frame;
1101
1102     while(cmd && cmd->time <= out->pts * av_q2d(link->time_base)){
1103         av_log(link->dst, AV_LOG_DEBUG,
1104                "Processing command time:%f command:%s arg:%s\n",
1105                cmd->time, cmd->command, cmd->arg);
1106         avfilter_process_command(link->dst, cmd->command, cmd->arg, 0, 0, cmd->flags);
1107         ff_command_queue_pop(link->dst);
1108         cmd= link->dst->command_queue;
1109     }
1110
1111     pts = out->pts;
1112     if (dstctx->enable_str) {
1113         int64_t pos = av_frame_get_pkt_pos(out);
1114         dstctx->var_values[VAR_N] = link->frame_count;
1115         dstctx->var_values[VAR_T] = pts == AV_NOPTS_VALUE ? NAN : pts * av_q2d(link->time_base);
1116         dstctx->var_values[VAR_W] = link->w;
1117         dstctx->var_values[VAR_H] = link->h;
1118         dstctx->var_values[VAR_POS] = pos == -1 ? NAN : pos;
1119
1120         dstctx->is_disabled = fabs(av_expr_eval(dstctx->enable, dstctx->var_values, NULL)) < 0.5;
1121         if (dstctx->is_disabled &&
1122             (dstctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC))
1123             filter_frame = default_filter_frame;
1124     }
1125     ret = filter_frame(link, out);
1126     link->frame_count++;
1127     ff_update_link_current_pts(link, pts);
1128     return ret;
1129
1130 fail:
1131     av_frame_free(&out);
1132     av_frame_free(&frame);
1133     return ret;
1134 }
1135
1136 static int ff_filter_frame_needs_framing(AVFilterLink *link, AVFrame *frame)
1137 {
1138     int insamples = frame->nb_samples, inpos = 0, nb_samples;
1139     AVFrame *pbuf = link->partial_buf;
1140     int nb_channels = av_frame_get_channels(frame);
1141     int ret = 0;
1142
1143     /* Handle framing (min_samples, max_samples) */
1144     while (insamples) {
1145         if (!pbuf) {
1146             AVRational samples_tb = { 1, link->sample_rate };
1147             pbuf = ff_get_audio_buffer(link, link->partial_buf_size);
1148             if (!pbuf) {
1149                 av_log(link->dst, AV_LOG_WARNING,
1150                        "Samples dropped due to memory allocation failure.\n");
1151                 return 0;
1152             }
1153             av_frame_copy_props(pbuf, frame);
1154             pbuf->pts = frame->pts;
1155             if (pbuf->pts != AV_NOPTS_VALUE)
1156                 pbuf->pts += av_rescale_q(inpos, samples_tb, link->time_base);
1157             pbuf->nb_samples = 0;
1158         }
1159         nb_samples = FFMIN(insamples,
1160                            link->partial_buf_size - pbuf->nb_samples);
1161         av_samples_copy(pbuf->extended_data, frame->extended_data,
1162                         pbuf->nb_samples, inpos,
1163                         nb_samples, nb_channels, link->format);
1164         inpos                   += nb_samples;
1165         insamples               -= nb_samples;
1166         pbuf->nb_samples += nb_samples;
1167         if (pbuf->nb_samples >= link->min_samples) {
1168             ret = ff_filter_frame_framed(link, pbuf);
1169             pbuf = NULL;
1170         } else {
1171             if (link->frame_wanted_out)
1172                 link->frame_wanted_in = 1;
1173         }
1174     }
1175     av_frame_free(&frame);
1176     link->partial_buf = pbuf;
1177     return ret;
1178 }
1179
1180 int ff_filter_frame(AVFilterLink *link, AVFrame *frame)
1181 {
1182     FF_TPRINTF_START(NULL, filter_frame); ff_tlog_link(NULL, link, 1); ff_tlog(NULL, " "); ff_tlog_ref(NULL, frame, 1);
1183
1184     /* Consistency checks */
1185     if (link->type == AVMEDIA_TYPE_VIDEO) {
1186         if (strcmp(link->dst->filter->name, "buffersink") &&
1187             strcmp(link->dst->filter->name, "format") &&
1188             strcmp(link->dst->filter->name, "idet") &&
1189             strcmp(link->dst->filter->name, "null") &&
1190             strcmp(link->dst->filter->name, "scale")) {
1191             av_assert1(frame->format                 == link->format);
1192             av_assert1(frame->width               == link->w);
1193             av_assert1(frame->height               == link->h);
1194         }
1195     } else {
1196         if (frame->format != link->format) {
1197             av_log(link->dst, AV_LOG_ERROR, "Format change is not supported\n");
1198             goto error;
1199         }
1200         if (av_frame_get_channels(frame) != link->channels) {
1201             av_log(link->dst, AV_LOG_ERROR, "Channel count change is not supported\n");
1202             goto error;
1203         }
1204         if (frame->channel_layout != link->channel_layout) {
1205             av_log(link->dst, AV_LOG_ERROR, "Channel layout change is not supported\n");
1206             goto error;
1207         }
1208         if (frame->sample_rate != link->sample_rate) {
1209             av_log(link->dst, AV_LOG_ERROR, "Sample rate change is not supported\n");
1210             goto error;
1211         }
1212     }
1213
1214     link->frame_wanted_out = 0;
1215     /* Go directly to actual filtering if possible */
1216     if (link->type == AVMEDIA_TYPE_AUDIO &&
1217         link->min_samples &&
1218         (link->partial_buf ||
1219          frame->nb_samples < link->min_samples ||
1220          frame->nb_samples > link->max_samples)) {
1221         return ff_filter_frame_needs_framing(link, frame);
1222     } else {
1223         return ff_filter_frame_framed(link, frame);
1224     }
1225 error:
1226     av_frame_free(&frame);
1227     return AVERROR_PATCHWELCOME;
1228 }
1229
1230 const AVClass *avfilter_get_class(void)
1231 {
1232     return &avfilter_class;
1233 }