]> git.sesse.net Git - ffmpeg/blob - libavcodec/bsf.c
avfilter/vf_edgedetect: add canny mode
[ffmpeg] / libavcodec / bsf.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <string.h>
20
21 #include "libavutil/log.h"
22 #include "libavutil/mem.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/avstring.h"
25 #include "libavutil/bprint.h"
26
27 #include "avcodec.h"
28 #include "bsf.h"
29
30 struct AVBSFInternal {
31     AVPacket *buffer_pkt;
32     int eof;
33 };
34
35 void av_bsf_free(AVBSFContext **pctx)
36 {
37     AVBSFContext *ctx;
38
39     if (!pctx || !*pctx)
40         return;
41     ctx = *pctx;
42
43     if (ctx->filter->close)
44         ctx->filter->close(ctx);
45     if (ctx->filter->priv_class && ctx->priv_data)
46         av_opt_free(ctx->priv_data);
47
48     av_opt_free(ctx);
49
50     av_packet_free(&ctx->internal->buffer_pkt);
51     av_freep(&ctx->internal);
52     av_freep(&ctx->priv_data);
53
54     avcodec_parameters_free(&ctx->par_in);
55     avcodec_parameters_free(&ctx->par_out);
56
57     av_freep(pctx);
58 }
59
60 static void *bsf_child_next(void *obj, void *prev)
61 {
62     AVBSFContext *ctx = obj;
63     if (!prev && ctx->filter->priv_class)
64         return ctx->priv_data;
65     return NULL;
66 }
67
68 static const AVClass bsf_class = {
69     .class_name       = "AVBSFContext",
70     .item_name        = av_default_item_name,
71     .version          = LIBAVUTIL_VERSION_INT,
72     .child_next       = bsf_child_next,
73     .child_class_next = ff_bsf_child_class_next,
74 };
75
76 const AVClass *av_bsf_get_class(void)
77 {
78     return &bsf_class;
79 }
80
81 int av_bsf_alloc(const AVBitStreamFilter *filter, AVBSFContext **pctx)
82 {
83     AVBSFContext *ctx;
84     int ret;
85
86     ctx = av_mallocz(sizeof(*ctx));
87     if (!ctx)
88         return AVERROR(ENOMEM);
89
90     ctx->av_class = &bsf_class;
91     ctx->filter   = filter;
92
93     ctx->par_in  = avcodec_parameters_alloc();
94     ctx->par_out = avcodec_parameters_alloc();
95     if (!ctx->par_in || !ctx->par_out) {
96         ret = AVERROR(ENOMEM);
97         goto fail;
98     }
99
100     ctx->internal = av_mallocz(sizeof(*ctx->internal));
101     if (!ctx->internal) {
102         ret = AVERROR(ENOMEM);
103         goto fail;
104     }
105
106     ctx->internal->buffer_pkt = av_packet_alloc();
107     if (!ctx->internal->buffer_pkt) {
108         ret = AVERROR(ENOMEM);
109         goto fail;
110     }
111
112     av_opt_set_defaults(ctx);
113
114     /* allocate priv data and init private options */
115     if (filter->priv_data_size) {
116         ctx->priv_data = av_mallocz(filter->priv_data_size);
117         if (!ctx->priv_data) {
118             ret = AVERROR(ENOMEM);
119             goto fail;
120         }
121         if (filter->priv_class) {
122             *(const AVClass **)ctx->priv_data = filter->priv_class;
123             av_opt_set_defaults(ctx->priv_data);
124         }
125     }
126
127     *pctx = ctx;
128     return 0;
129 fail:
130     av_bsf_free(&ctx);
131     return ret;
132 }
133
134 int av_bsf_init(AVBSFContext *ctx)
135 {
136     int ret, i;
137
138     /* check that the codec is supported */
139     if (ctx->filter->codec_ids) {
140         for (i = 0; ctx->filter->codec_ids[i] != AV_CODEC_ID_NONE; i++)
141             if (ctx->par_in->codec_id == ctx->filter->codec_ids[i])
142                 break;
143         if (ctx->filter->codec_ids[i] == AV_CODEC_ID_NONE) {
144             const AVCodecDescriptor *desc = avcodec_descriptor_get(ctx->par_in->codec_id);
145             av_log(ctx, AV_LOG_ERROR, "Codec '%s' (%d) is not supported by the "
146                    "bitstream filter '%s'. Supported codecs are: ",
147                    desc ? desc->name : "unknown", ctx->par_in->codec_id, ctx->filter->name);
148             for (i = 0; ctx->filter->codec_ids[i] != AV_CODEC_ID_NONE; i++) {
149                 desc = avcodec_descriptor_get(ctx->filter->codec_ids[i]);
150                 av_log(ctx, AV_LOG_ERROR, "%s (%d) ",
151                        desc ? desc->name : "unknown", ctx->filter->codec_ids[i]);
152             }
153             av_log(ctx, AV_LOG_ERROR, "\n");
154             return AVERROR(EINVAL);
155         }
156     }
157
158     /* initialize output parameters to be the same as input
159      * init below might overwrite that */
160     ret = avcodec_parameters_copy(ctx->par_out, ctx->par_in);
161     if (ret < 0)
162         return ret;
163
164     ctx->time_base_out = ctx->time_base_in;
165
166     if (ctx->filter->init) {
167         ret = ctx->filter->init(ctx);
168         if (ret < 0)
169             return ret;
170     }
171
172     return 0;
173 }
174
175 int av_bsf_send_packet(AVBSFContext *ctx, AVPacket *pkt)
176 {
177     int ret;
178
179     if (!pkt || (!pkt->data && !pkt->side_data_elems)) {
180         ctx->internal->eof = 1;
181         return 0;
182     }
183
184     if (ctx->internal->eof) {
185         av_log(ctx, AV_LOG_ERROR, "A non-NULL packet sent after an EOF.\n");
186         return AVERROR(EINVAL);
187     }
188
189     if (ctx->internal->buffer_pkt->data ||
190         ctx->internal->buffer_pkt->side_data_elems)
191         return AVERROR(EAGAIN);
192
193     ret = av_packet_make_refcounted(pkt);
194     if (ret < 0)
195         return ret;
196     av_packet_move_ref(ctx->internal->buffer_pkt, pkt);
197
198     return 0;
199 }
200
201 int av_bsf_receive_packet(AVBSFContext *ctx, AVPacket *pkt)
202 {
203     return ctx->filter->filter(ctx, pkt);
204 }
205
206 int ff_bsf_get_packet(AVBSFContext *ctx, AVPacket **pkt)
207 {
208     AVBSFInternal *in = ctx->internal;
209     AVPacket *tmp_pkt;
210
211     if (in->eof)
212         return AVERROR_EOF;
213
214     if (!ctx->internal->buffer_pkt->data &&
215         !ctx->internal->buffer_pkt->side_data_elems)
216         return AVERROR(EAGAIN);
217
218     tmp_pkt = av_packet_alloc();
219     if (!tmp_pkt)
220         return AVERROR(ENOMEM);
221
222     *pkt = ctx->internal->buffer_pkt;
223     ctx->internal->buffer_pkt = tmp_pkt;
224
225     return 0;
226 }
227
228 int ff_bsf_get_packet_ref(AVBSFContext *ctx, AVPacket *pkt)
229 {
230     AVBSFInternal *in = ctx->internal;
231
232     if (in->eof)
233         return AVERROR_EOF;
234
235     if (!ctx->internal->buffer_pkt->data &&
236         !ctx->internal->buffer_pkt->side_data_elems)
237         return AVERROR(EAGAIN);
238
239     av_packet_move_ref(pkt, ctx->internal->buffer_pkt);
240
241     return 0;
242 }
243
244 typedef struct BSFListContext {
245     const AVClass *class;
246
247     AVBSFContext **bsfs;
248     int nb_bsfs;
249
250     unsigned idx;           // index of currently processed BSF
251     unsigned flushed_idx;   // index of BSF being flushed
252
253     char * item_name;
254 } BSFListContext;
255
256
257 static int bsf_list_init(AVBSFContext *bsf)
258 {
259     BSFListContext *lst = bsf->priv_data;
260     int ret, i;
261     const AVCodecParameters *cod_par = bsf->par_in;
262     AVRational tb = bsf->time_base_in;
263
264     for (i = 0; i < lst->nb_bsfs; ++i) {
265         ret = avcodec_parameters_copy(lst->bsfs[i]->par_in, cod_par);
266         if (ret < 0)
267             goto fail;
268
269         lst->bsfs[i]->time_base_in = tb;
270
271         ret = av_bsf_init(lst->bsfs[i]);
272         if (ret < 0)
273             goto fail;
274
275         cod_par = lst->bsfs[i]->par_out;
276         tb = lst->bsfs[i]->time_base_out;
277     }
278
279     bsf->time_base_out = tb;
280     ret = avcodec_parameters_copy(bsf->par_out, cod_par);
281
282 fail:
283     return ret;
284 }
285
286 static int bsf_list_filter(AVBSFContext *bsf, AVPacket *out)
287 {
288     BSFListContext *lst = bsf->priv_data;
289     int ret;
290
291     if (!lst->nb_bsfs)
292         return ff_bsf_get_packet_ref(bsf, out);
293
294     while (1) {
295         if (lst->idx > lst->flushed_idx) {
296             ret = av_bsf_receive_packet(lst->bsfs[lst->idx-1], out);
297             if (ret == AVERROR(EAGAIN)) {
298                 /* no more packets from idx-1, try with previous */
299                 ret = 0;
300                 lst->idx--;
301                 continue;
302             } else if (ret == AVERROR_EOF) {
303                 /* filter idx-1 is done, continue with idx...nb_bsfs */
304                 lst->flushed_idx = lst->idx;
305                 continue;
306             }else if (ret < 0) {
307                 /* filtering error */
308                 break;
309             }
310         } else {
311             ret = ff_bsf_get_packet_ref(bsf, out);
312             if (ret == AVERROR_EOF) {
313                 lst->idx = lst->flushed_idx;
314             } else if (ret < 0)
315                 break;
316         }
317
318         if (lst->idx < lst->nb_bsfs) {
319             AVPacket *pkt;
320             if (ret == AVERROR_EOF && lst->idx == lst->flushed_idx) {
321                 /* ff_bsf_get_packet_ref returned EOF and idx is first
322                  * filter of yet not flushed filter chain */
323                 pkt = NULL;
324             } else {
325                 pkt = out;
326             }
327             ret = av_bsf_send_packet(lst->bsfs[lst->idx], pkt);
328             if (ret < 0)
329                 break;
330             lst->idx++;
331         } else {
332             /* The end of filter chain, break to return result */
333             break;
334         }
335     }
336
337     if (ret < 0)
338         av_packet_unref(out);
339
340     return ret;
341 }
342
343 static void bsf_list_close(AVBSFContext *bsf)
344 {
345     BSFListContext *lst = bsf->priv_data;
346     int i;
347
348     for (i = 0; i < lst->nb_bsfs; ++i)
349         av_bsf_free(&lst->bsfs[i]);
350     av_freep(&lst->bsfs);
351     av_freep(&lst->item_name);
352 }
353
354 static const char *bsf_list_item_name(void *ctx)
355 {
356     static const char *null_filter_name = "null";
357     AVBSFContext *bsf_ctx = ctx;
358     BSFListContext *lst = bsf_ctx->priv_data;
359
360     if (!lst->nb_bsfs)
361         return null_filter_name;
362
363     if (!lst->item_name) {
364         int i;
365         AVBPrint bp;
366         av_bprint_init(&bp, 16, 128);
367
368         av_bprintf(&bp, "bsf_list(");
369         for (i = 0; i < lst->nb_bsfs; i++)
370             av_bprintf(&bp, i ? ",%s" : "%s", lst->bsfs[i]->filter->name);
371         av_bprintf(&bp, ")");
372
373         av_bprint_finalize(&bp, &lst->item_name);
374     }
375
376     return lst->item_name;
377 }
378
379 static const AVClass bsf_list_class = {
380         .class_name = "bsf_list",
381         .item_name  = bsf_list_item_name,
382         .version    = LIBAVUTIL_VERSION_INT,
383 };
384
385 const AVBitStreamFilter ff_list_bsf = {
386         .name           = "bsf_list",
387         .priv_data_size = sizeof(BSFListContext),
388         .priv_class     = &bsf_list_class,
389         .init           = bsf_list_init,
390         .filter         = bsf_list_filter,
391         .close          = bsf_list_close,
392 };
393
394 struct AVBSFList {
395     AVBSFContext **bsfs;
396     int nb_bsfs;
397 };
398
399 AVBSFList *av_bsf_list_alloc(void)
400 {
401     return av_mallocz(sizeof(AVBSFList));
402 }
403
404 void av_bsf_list_free(AVBSFList **lst)
405 {
406     int i;
407
408     if (!*lst)
409         return;
410
411     for (i = 0; i < (*lst)->nb_bsfs; ++i)
412         av_bsf_free(&(*lst)->bsfs[i]);
413     av_free((*lst)->bsfs);
414     av_freep(lst);
415 }
416
417 int av_bsf_list_append(AVBSFList *lst, AVBSFContext *bsf)
418 {
419     return av_dynarray_add_nofree(&lst->bsfs, &lst->nb_bsfs, bsf);
420 }
421
422 int av_bsf_list_append2(AVBSFList *lst, const char *bsf_name, AVDictionary ** options)
423 {
424     int ret;
425     const AVBitStreamFilter *filter;
426     AVBSFContext *bsf;
427
428     filter = av_bsf_get_by_name(bsf_name);
429     if (!filter)
430         return AVERROR_BSF_NOT_FOUND;
431
432     ret = av_bsf_alloc(filter, &bsf);
433     if (ret < 0)
434         return ret;
435
436     if (options) {
437         ret = av_opt_set_dict2(bsf, options, AV_OPT_SEARCH_CHILDREN);
438         if (ret < 0)
439             goto end;
440     }
441
442     ret = av_bsf_list_append(lst, bsf);
443
444 end:
445     if (ret < 0)
446         av_bsf_free(&bsf);
447
448     return ret;
449 }
450
451 int av_bsf_list_finalize(AVBSFList **lst, AVBSFContext **bsf)
452 {
453     int ret = 0;
454     BSFListContext *ctx;
455
456     if ((*lst)->nb_bsfs == 1) {
457         *bsf = (*lst)->bsfs[0];
458         av_freep(&(*lst)->bsfs);
459         (*lst)->nb_bsfs = 0;
460         goto end;
461     }
462
463     ret = av_bsf_alloc(&ff_list_bsf, bsf);
464     if (ret < 0)
465         return ret;
466
467     ctx = (*bsf)->priv_data;
468
469     ctx->bsfs = (*lst)->bsfs;
470     ctx->nb_bsfs = (*lst)->nb_bsfs;
471
472 end:
473     av_freep(lst);
474     return ret;
475 }
476
477 static int bsf_parse_single(const char *str, AVBSFList *bsf_lst)
478 {
479     char *bsf_name, *bsf_options_str, *buf;
480     AVDictionary *bsf_options = NULL;
481     int ret = 0;
482
483     if (!(buf = av_strdup(str)))
484         return AVERROR(ENOMEM);
485
486     bsf_name = av_strtok(buf, "=", &bsf_options_str);
487     if (!bsf_name) {
488         ret = AVERROR(EINVAL);
489         goto end;
490     }
491
492     if (bsf_options_str) {
493         ret = av_dict_parse_string(&bsf_options, bsf_options_str, "=", ":", 0);
494         if (ret < 0)
495             goto end;
496     }
497
498     ret = av_bsf_list_append2(bsf_lst, bsf_name, &bsf_options);
499
500     av_dict_free(&bsf_options);
501 end:
502     av_free(buf);
503     return ret;
504 }
505
506 int av_bsf_list_parse_str(const char *str, AVBSFContext **bsf_lst)
507 {
508     AVBSFList *lst;
509     char *bsf_str, *buf, *dup, *saveptr;
510     int ret;
511
512     if (!str)
513         return av_bsf_get_null_filter(bsf_lst);
514
515     lst = av_bsf_list_alloc();
516     if (!lst)
517         return AVERROR(ENOMEM);
518
519     if (!(dup = buf = av_strdup(str))) {
520         ret = AVERROR(ENOMEM);
521         goto end;
522     }
523
524     while (1) {
525         bsf_str = av_strtok(buf, ",", &saveptr);
526         if (!bsf_str)
527             break;
528
529         ret = bsf_parse_single(bsf_str, lst);
530         if (ret < 0)
531             goto end;
532
533         buf = NULL;
534     }
535
536     ret = av_bsf_list_finalize(&lst, bsf_lst);
537 end:
538     if (ret < 0)
539         av_bsf_list_free(&lst);
540     av_free(dup);
541     return ret;
542 }
543
544 int av_bsf_get_null_filter(AVBSFContext **bsf)
545 {
546     return av_bsf_alloc(&ff_list_bsf, bsf);
547 }