]> git.sesse.net Git - ffmpeg/blob - libavformat/mux.c
ffmpeg: fix the used maximum dts in the monotone dts workaround
[ffmpeg] / libavformat / mux.c
1 /*
2  * muxing functions for use within FFmpeg
3  * Copyright (c) 2000, 2001, 2002 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /* #define DEBUG */
23
24 #include "avformat.h"
25 #include "avio_internal.h"
26 #include "internal.h"
27 #include "libavcodec/internal.h"
28 #include "libavcodec/bytestream.h"
29 #include "libavutil/opt.h"
30 #include "libavutil/dict.h"
31 #include "libavutil/pixdesc.h"
32 #include "libavutil/timestamp.h"
33 #include "metadata.h"
34 #include "id3v2.h"
35 #include "libavutil/avassert.h"
36 #include "libavutil/avstring.h"
37 #include "libavutil/mathematics.h"
38 #include "libavutil/parseutils.h"
39 #include "libavutil/time.h"
40 #include "riff.h"
41 #include "audiointerleave.h"
42 #include "url.h"
43 #include <stdarg.h>
44 #if CONFIG_NETWORK
45 #include "network.h"
46 #endif
47
48 #undef NDEBUG
49 #include <assert.h>
50
51 /**
52  * @file
53  * muxing functions for use within libavformat
54  */
55
56 /* fraction handling */
57
58 /**
59  * f = val + (num / den) + 0.5.
60  *
61  * 'num' is normalized so that it is such as 0 <= num < den.
62  *
63  * @param f fractional number
64  * @param val integer value
65  * @param num must be >= 0
66  * @param den must be >= 1
67  */
68 static void frac_init(AVFrac *f, int64_t val, int64_t num, int64_t den)
69 {
70     num += (den >> 1);
71     if (num >= den) {
72         val += num / den;
73         num  = num % den;
74     }
75     f->val = val;
76     f->num = num;
77     f->den = den;
78 }
79
80 /**
81  * Fractional addition to f: f = f + (incr / f->den).
82  *
83  * @param f fractional number
84  * @param incr increment, can be positive or negative
85  */
86 static void frac_add(AVFrac *f, int64_t incr)
87 {
88     int64_t num, den;
89
90     num = f->num + incr;
91     den = f->den;
92     if (num < 0) {
93         f->val += num / den;
94         num     = num % den;
95         if (num < 0) {
96             num += den;
97             f->val--;
98         }
99     } else if (num >= den) {
100         f->val += num / den;
101         num     = num % den;
102     }
103     f->num = num;
104 }
105
106 AVRational ff_choose_timebase(AVFormatContext *s, AVStream *st, int min_precission)
107 {
108     AVRational q;
109     int j;
110
111     if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
112         q = (AVRational){1, st->codec->sample_rate};
113     } else {
114         q = st->codec->time_base;
115     }
116     for (j=2; j<14; j+= 1+(j>2))
117         while (q.den / q.num < min_precission && q.num % j == 0)
118             q.num /= j;
119     while (q.den / q.num < min_precission && q.den < (1<<24))
120         q.den <<= 1;
121
122     return q;
123 }
124
125 int avformat_alloc_output_context2(AVFormatContext **avctx, AVOutputFormat *oformat,
126                                    const char *format, const char *filename)
127 {
128     AVFormatContext *s = avformat_alloc_context();
129     int ret = 0;
130
131     *avctx = NULL;
132     if (!s)
133         goto nomem;
134
135     if (!oformat) {
136         if (format) {
137             oformat = av_guess_format(format, NULL, NULL);
138             if (!oformat) {
139                 av_log(s, AV_LOG_ERROR, "Requested output format '%s' is not a suitable output format\n", format);
140                 ret = AVERROR(EINVAL);
141                 goto error;
142             }
143         } else {
144             oformat = av_guess_format(NULL, filename, NULL);
145             if (!oformat) {
146                 ret = AVERROR(EINVAL);
147                 av_log(s, AV_LOG_ERROR, "Unable to find a suitable output format for '%s'\n",
148                        filename);
149                 goto error;
150             }
151         }
152     }
153
154     s->oformat = oformat;
155     if (s->oformat->priv_data_size > 0) {
156         s->priv_data = av_mallocz(s->oformat->priv_data_size);
157         if (!s->priv_data)
158             goto nomem;
159         if (s->oformat->priv_class) {
160             *(const AVClass**)s->priv_data= s->oformat->priv_class;
161             av_opt_set_defaults(s->priv_data);
162         }
163     } else
164         s->priv_data = NULL;
165
166     if (filename)
167         av_strlcpy(s->filename, filename, sizeof(s->filename));
168     *avctx = s;
169     return 0;
170 nomem:
171     av_log(s, AV_LOG_ERROR, "Out of memory\n");
172     ret = AVERROR(ENOMEM);
173 error:
174     avformat_free_context(s);
175     return ret;
176 }
177
178 #if FF_API_ALLOC_OUTPUT_CONTEXT
179 AVFormatContext *avformat_alloc_output_context(const char *format,
180                                                AVOutputFormat *oformat, const char *filename)
181 {
182     AVFormatContext *avctx;
183     int ret = avformat_alloc_output_context2(&avctx, oformat, format, filename);
184     return ret < 0 ? NULL : avctx;
185 }
186 #endif
187
188 static int validate_codec_tag(AVFormatContext *s, AVStream *st)
189 {
190     const AVCodecTag *avctag;
191     int n;
192     enum AVCodecID id = AV_CODEC_ID_NONE;
193     unsigned int tag  = 0;
194
195     /**
196      * Check that tag + id is in the table
197      * If neither is in the table -> OK
198      * If tag is in the table with another id -> FAIL
199      * If id is in the table with another tag -> FAIL unless strict < normal
200      */
201     for (n = 0; s->oformat->codec_tag[n]; n++) {
202         avctag = s->oformat->codec_tag[n];
203         while (avctag->id != AV_CODEC_ID_NONE) {
204             if (avpriv_toupper4(avctag->tag) == avpriv_toupper4(st->codec->codec_tag)) {
205                 id = avctag->id;
206                 if (id == st->codec->codec_id)
207                     return 1;
208             }
209             if (avctag->id == st->codec->codec_id)
210                 tag = avctag->tag;
211             avctag++;
212         }
213     }
214     if (id != AV_CODEC_ID_NONE)
215         return 0;
216     if (tag && (st->codec->strict_std_compliance >= FF_COMPLIANCE_NORMAL))
217         return 0;
218     return 1;
219 }
220
221
222 static int init_muxer(AVFormatContext *s, AVDictionary **options)
223 {
224     int ret = 0, i;
225     AVStream *st;
226     AVDictionary *tmp = NULL;
227     AVCodecContext *codec = NULL;
228     AVOutputFormat *of = s->oformat;
229
230     if (options)
231         av_dict_copy(&tmp, *options, 0);
232
233     if ((ret = av_opt_set_dict(s, &tmp)) < 0)
234         goto fail;
235     if (s->priv_data && s->oformat->priv_class && *(const AVClass**)s->priv_data==s->oformat->priv_class &&
236         (ret = av_opt_set_dict(s->priv_data, &tmp)) < 0)
237         goto fail;
238
239     // some sanity checks
240     if (s->nb_streams == 0 && !(of->flags & AVFMT_NOSTREAMS)) {
241         av_log(s, AV_LOG_ERROR, "no streams\n");
242         ret = AVERROR(EINVAL);
243         goto fail;
244     }
245
246     for (i = 0; i < s->nb_streams; i++) {
247         st    = s->streams[i];
248         codec = st->codec;
249
250         switch (codec->codec_type) {
251         case AVMEDIA_TYPE_AUDIO:
252             if (codec->sample_rate <= 0) {
253                 av_log(s, AV_LOG_ERROR, "sample rate not set\n");
254                 ret = AVERROR(EINVAL);
255                 goto fail;
256             }
257             if (!codec->block_align)
258                 codec->block_align = codec->channels *
259                                      av_get_bits_per_sample(codec->codec_id) >> 3;
260             break;
261         case AVMEDIA_TYPE_VIDEO:
262             if (codec->time_base.num <= 0 ||
263                 codec->time_base.den <= 0) { //FIXME audio too?
264                 av_log(s, AV_LOG_ERROR, "time base not set\n");
265                 ret = AVERROR(EINVAL);
266                 goto fail;
267             }
268
269             if ((codec->width <= 0 || codec->height <= 0) &&
270                 !(of->flags & AVFMT_NODIMENSIONS)) {
271                 av_log(s, AV_LOG_ERROR, "dimensions not set\n");
272                 ret = AVERROR(EINVAL);
273                 goto fail;
274             }
275             if (av_cmp_q(st->sample_aspect_ratio, codec->sample_aspect_ratio)
276                 && FFABS(av_q2d(st->sample_aspect_ratio) - av_q2d(codec->sample_aspect_ratio)) > 0.004*av_q2d(st->sample_aspect_ratio)
277             ) {
278                 av_log(s, AV_LOG_ERROR, "Aspect ratio mismatch between muxer "
279                                         "(%d/%d) and encoder layer (%d/%d)\n",
280                        st->sample_aspect_ratio.num, st->sample_aspect_ratio.den,
281                        codec->sample_aspect_ratio.num,
282                        codec->sample_aspect_ratio.den);
283                 ret = AVERROR(EINVAL);
284                 goto fail;
285             }
286             break;
287         }
288
289         if (of->codec_tag) {
290             if (   codec->codec_tag
291                 && codec->codec_id == AV_CODEC_ID_RAWVIDEO
292                 && (   av_codec_get_tag(of->codec_tag, codec->codec_id) == 0
293                     || av_codec_get_tag(of->codec_tag, codec->codec_id) == MKTAG('r', 'a', 'w', ' '))
294                 && !validate_codec_tag(s, st)) {
295                 // the current rawvideo encoding system ends up setting
296                 // the wrong codec_tag for avi/mov, we override it here
297                 codec->codec_tag = 0;
298             }
299             if (codec->codec_tag) {
300                 if (!validate_codec_tag(s, st)) {
301                     char tagbuf[32], cortag[32];
302                     av_get_codec_tag_string(tagbuf, sizeof(tagbuf), codec->codec_tag);
303                     av_get_codec_tag_string(cortag, sizeof(cortag), av_codec_get_tag(s->oformat->codec_tag, codec->codec_id));
304                     av_log(s, AV_LOG_ERROR,
305                            "Tag %s/0x%08x incompatible with output codec id '%d' (%s)\n",
306                            tagbuf, codec->codec_tag, codec->codec_id, cortag);
307                     ret = AVERROR_INVALIDDATA;
308                     goto fail;
309                 }
310             } else
311                 codec->codec_tag = av_codec_get_tag(of->codec_tag, codec->codec_id);
312         }
313
314         if (of->flags & AVFMT_GLOBALHEADER &&
315             !(codec->flags & CODEC_FLAG_GLOBAL_HEADER))
316             av_log(s, AV_LOG_WARNING,
317                    "Codec for stream %d does not use global headers "
318                    "but container format requires global headers\n", i);
319     }
320
321     if (!s->priv_data && of->priv_data_size > 0) {
322         s->priv_data = av_mallocz(of->priv_data_size);
323         if (!s->priv_data) {
324             ret = AVERROR(ENOMEM);
325             goto fail;
326         }
327         if (of->priv_class) {
328             *(const AVClass **)s->priv_data = of->priv_class;
329             av_opt_set_defaults(s->priv_data);
330             if ((ret = av_opt_set_dict(s->priv_data, &tmp)) < 0)
331                 goto fail;
332         }
333     }
334
335     /* set muxer identification string */
336     if (s->nb_streams && !(s->streams[0]->codec->flags & CODEC_FLAG_BITEXACT)) {
337         av_dict_set(&s->metadata, "encoder", LIBAVFORMAT_IDENT, 0);
338     }
339
340     if (options) {
341          av_dict_free(options);
342          *options = tmp;
343     }
344
345     return 0;
346
347 fail:
348     av_dict_free(&tmp);
349     return ret;
350 }
351
352 static int init_pts(AVFormatContext *s)
353 {
354     int i;
355     AVStream *st;
356
357     /* init PTS generation */
358     for (i = 0; i < s->nb_streams; i++) {
359         int64_t den = AV_NOPTS_VALUE;
360         st = s->streams[i];
361
362         switch (st->codec->codec_type) {
363         case AVMEDIA_TYPE_AUDIO:
364             den = (int64_t)st->time_base.num * st->codec->sample_rate;
365             break;
366         case AVMEDIA_TYPE_VIDEO:
367             den = (int64_t)st->time_base.num * st->codec->time_base.den;
368             break;
369         default:
370             break;
371         }
372         if (den != AV_NOPTS_VALUE) {
373             if (den <= 0)
374                 return AVERROR_INVALIDDATA;
375
376             frac_init(&st->pts, 0, 0, den);
377         }
378     }
379
380     return 0;
381 }
382
383 int avformat_write_header(AVFormatContext *s, AVDictionary **options)
384 {
385     int ret = 0;
386
387     if (ret = init_muxer(s, options))
388         return ret;
389
390     if (s->oformat->write_header) {
391         ret = s->oformat->write_header(s);
392         if (ret >= 0 && s->pb && s->pb->error < 0)
393             ret = s->pb->error;
394         if (ret < 0)
395             return ret;
396     }
397
398     if ((ret = init_pts(s)) < 0)
399         return ret;
400
401     if (s->avoid_negative_ts < 0) {
402         if (s->oformat->flags & (AVFMT_TS_NEGATIVE | AVFMT_NOTIMESTAMPS)) {
403             s->avoid_negative_ts = 0;
404         } else
405             s->avoid_negative_ts = 1;
406     }
407
408     return 0;
409 }
410
411 //FIXME merge with compute_pkt_fields
412 static int compute_pkt_fields2(AVFormatContext *s, AVStream *st, AVPacket *pkt)
413 {
414     int delay = FFMAX(st->codec->has_b_frames, st->codec->max_b_frames > 0);
415     int num, den, frame_size, i;
416
417     av_dlog(s, "compute_pkt_fields2: pts:%s dts:%s cur_dts:%s b:%d size:%d st:%d\n",
418             av_ts2str(pkt->pts), av_ts2str(pkt->dts), av_ts2str(st->cur_dts), delay, pkt->size, pkt->stream_index);
419
420     /* duration field */
421     if (pkt->duration == 0) {
422         ff_compute_frame_duration(&num, &den, st, NULL, pkt);
423         if (den && num) {
424             pkt->duration = av_rescale(1, num * (int64_t)st->time_base.den * st->codec->ticks_per_frame, den * (int64_t)st->time_base.num);
425         }
426     }
427
428     if (pkt->pts == AV_NOPTS_VALUE && pkt->dts != AV_NOPTS_VALUE && delay == 0)
429         pkt->pts = pkt->dts;
430
431     //XXX/FIXME this is a temporary hack until all encoders output pts
432     if ((pkt->pts == 0 || pkt->pts == AV_NOPTS_VALUE) && pkt->dts == AV_NOPTS_VALUE && !delay) {
433         static int warned;
434         if (!warned) {
435             av_log(s, AV_LOG_WARNING, "Encoder did not produce proper pts, making some up.\n");
436             warned = 1;
437         }
438         pkt->dts =
439 //        pkt->pts= st->cur_dts;
440             pkt->pts = st->pts.val;
441     }
442
443     //calculate dts from pts
444     if (pkt->pts != AV_NOPTS_VALUE && pkt->dts == AV_NOPTS_VALUE && delay <= MAX_REORDER_DELAY) {
445         st->pts_buffer[0] = pkt->pts;
446         for (i = 1; i < delay + 1 && st->pts_buffer[i] == AV_NOPTS_VALUE; i++)
447             st->pts_buffer[i] = pkt->pts + (i - delay - 1) * pkt->duration;
448         for (i = 0; i<delay && st->pts_buffer[i] > st->pts_buffer[i + 1]; i++)
449             FFSWAP(int64_t, st->pts_buffer[i], st->pts_buffer[i + 1]);
450
451         pkt->dts = st->pts_buffer[0];
452     }
453
454     if (st->cur_dts && st->cur_dts != AV_NOPTS_VALUE &&
455         ((!(s->oformat->flags & AVFMT_TS_NONSTRICT) &&
456           st->cur_dts >= pkt->dts) || st->cur_dts > pkt->dts)) {
457         av_log(s, AV_LOG_ERROR,
458                "Application provided invalid, non monotonically increasing dts to muxer in stream %d: %s >= %s\n",
459                st->index, av_ts2str(st->cur_dts), av_ts2str(pkt->dts));
460         return AVERROR(EINVAL);
461     }
462     if (pkt->dts != AV_NOPTS_VALUE && pkt->pts != AV_NOPTS_VALUE && pkt->pts < pkt->dts) {
463         av_log(s, AV_LOG_ERROR, "pts (%s) < dts (%s) in stream %d\n",
464                av_ts2str(pkt->pts), av_ts2str(pkt->dts), st->index);
465         return AVERROR(EINVAL);
466     }
467
468     av_dlog(s, "av_write_frame: pts2:%s dts2:%s\n",
469             av_ts2str(pkt->pts), av_ts2str(pkt->dts));
470     st->cur_dts = pkt->dts;
471     st->pts.val = pkt->dts;
472
473     /* update pts */
474     switch (st->codec->codec_type) {
475     case AVMEDIA_TYPE_AUDIO:
476         frame_size = ff_get_audio_frame_size(st->codec, pkt->size, 1);
477
478         /* HACK/FIXME, we skip the initial 0 size packets as they are most
479          * likely equal to the encoder delay, but it would be better if we
480          * had the real timestamps from the encoder */
481         if (frame_size >= 0 && (pkt->size || st->pts.num != st->pts.den >> 1 || st->pts.val)) {
482             frac_add(&st->pts, (int64_t)st->time_base.den * frame_size);
483         }
484         break;
485     case AVMEDIA_TYPE_VIDEO:
486         frac_add(&st->pts, (int64_t)st->time_base.den * st->codec->time_base.num);
487         break;
488     default:
489         break;
490     }
491     return 0;
492 }
493
494 /**
495  * Make timestamps non negative, move side data from payload to internal struct, call muxer, and restore
496  * sidedata.
497  *
498  * FIXME: this function should NEVER get undefined pts/dts beside when the
499  * AVFMT_NOTIMESTAMPS is set.
500  * Those additional safety checks should be dropped once the correct checks
501  * are set in the callers.
502  */
503 static int write_packet(AVFormatContext *s, AVPacket *pkt)
504 {
505     int ret, did_split;
506
507     if (s->avoid_negative_ts > 0) {
508         AVStream *st = s->streams[pkt->stream_index];
509         int64_t offset = st->mux_ts_offset;
510
511         if (pkt->dts < 0 && pkt->dts != AV_NOPTS_VALUE && !s->offset) {
512             s->offset = -pkt->dts;
513             s->offset_timebase = st->time_base;
514         }
515
516         if (s->offset && !offset) {
517             offset = st->mux_ts_offset =
518                 av_rescale_q_rnd(s->offset,
519                                  s->offset_timebase,
520                                  st->time_base,
521                                  AV_ROUND_UP);
522         }
523
524         if (pkt->dts != AV_NOPTS_VALUE)
525             pkt->dts += offset;
526         if (pkt->pts != AV_NOPTS_VALUE)
527             pkt->pts += offset;
528
529         av_assert2(pkt->dts == AV_NOPTS_VALUE || pkt->dts >= 0);
530     }
531
532     did_split = av_packet_split_side_data(pkt);
533     ret = s->oformat->write_packet(s, pkt);
534     if (s->flush_packets && s->pb && s->pb->error >= 0)
535         avio_flush(s->pb);
536     if (did_split)
537         av_packet_merge_side_data(pkt);
538     return ret;
539 }
540
541 int av_write_frame(AVFormatContext *s, AVPacket *pkt)
542 {
543     int ret;
544
545     if (!pkt) {
546         if (s->oformat->flags & AVFMT_ALLOW_FLUSH) {
547             ret = s->oformat->write_packet(s, NULL);
548             if (s->flush_packets && s->pb && s->pb->error >= 0)
549                 avio_flush(s->pb);
550             if (ret >= 0 && s->pb && s->pb->error < 0)
551                 ret = s->pb->error;
552             return ret;
553         }
554         return 1;
555     }
556
557     ret = compute_pkt_fields2(s, s->streams[pkt->stream_index], pkt);
558
559     if (ret < 0 && !(s->oformat->flags & AVFMT_NOTIMESTAMPS))
560         return ret;
561
562     ret = write_packet(s, pkt);
563     if (ret >= 0 && s->pb && s->pb->error < 0)
564         ret = s->pb->error;
565
566     if (ret >= 0)
567         s->streams[pkt->stream_index]->nb_frames++;
568     return ret;
569 }
570
571 #define CHUNK_START 0x1000
572
573 int ff_interleave_add_packet(AVFormatContext *s, AVPacket *pkt,
574                               int (*compare)(AVFormatContext *, AVPacket *, AVPacket *))
575 {
576     AVPacketList **next_point, *this_pktl;
577     AVStream *st   = s->streams[pkt->stream_index];
578     int chunked    = s->max_chunk_size || s->max_chunk_duration;
579
580     this_pktl      = av_mallocz(sizeof(AVPacketList));
581     if (!this_pktl)
582         return AVERROR(ENOMEM);
583     this_pktl->pkt = *pkt;
584 #if FF_API_DESTRUCT_PACKET
585     pkt->destruct  = NULL;           // do not free original but only the copy
586 #endif
587     pkt->buf       = NULL;
588     av_dup_packet(&this_pktl->pkt);  // duplicate the packet if it uses non-allocated memory
589
590     if (s->streams[pkt->stream_index]->last_in_packet_buffer) {
591         next_point = &(st->last_in_packet_buffer->next);
592     } else {
593         next_point = &s->packet_buffer;
594     }
595
596     if (chunked) {
597         uint64_t max= av_rescale_q_rnd(s->max_chunk_duration, AV_TIME_BASE_Q, st->time_base, AV_ROUND_UP);
598         st->interleaver_chunk_size     += pkt->size;
599         st->interleaver_chunk_duration += pkt->duration;
600         if (   (s->max_chunk_size && st->interleaver_chunk_size > s->max_chunk_size)
601             || (max && st->interleaver_chunk_duration           > max)) {
602             st->interleaver_chunk_size      = 0;
603             this_pktl->pkt.flags |= CHUNK_START;
604             if (max && st->interleaver_chunk_duration > max) {
605                 int64_t syncoffset = (st->codec->codec_type == AVMEDIA_TYPE_VIDEO)*max/2;
606                 int64_t syncto = av_rescale(pkt->dts + syncoffset, 1, max)*max - syncoffset;
607
608                 st->interleaver_chunk_duration += (pkt->dts - syncto)/8 - max;
609             } else
610                 st->interleaver_chunk_duration = 0;
611         }
612     }
613     if (*next_point) {
614         if (chunked && !(this_pktl->pkt.flags & CHUNK_START))
615             goto next_non_null;
616
617         if (compare(s, &s->packet_buffer_end->pkt, pkt)) {
618             while (   *next_point
619                    && ((chunked && !((*next_point)->pkt.flags&CHUNK_START))
620                        || !compare(s, &(*next_point)->pkt, pkt)))
621                 next_point = &(*next_point)->next;
622             if (*next_point)
623                 goto next_non_null;
624         } else {
625             next_point = &(s->packet_buffer_end->next);
626         }
627     }
628     av_assert1(!*next_point);
629
630     s->packet_buffer_end = this_pktl;
631 next_non_null:
632
633     this_pktl->next = *next_point;
634
635     s->streams[pkt->stream_index]->last_in_packet_buffer =
636         *next_point                                      = this_pktl;
637     return 0;
638 }
639
640 static int interleave_compare_dts(AVFormatContext *s, AVPacket *next,
641                                   AVPacket *pkt)
642 {
643     AVStream *st  = s->streams[pkt->stream_index];
644     AVStream *st2 = s->streams[next->stream_index];
645     int comp      = av_compare_ts(next->dts, st2->time_base, pkt->dts,
646                                   st->time_base);
647     if (s->audio_preload && ((st->codec->codec_type == AVMEDIA_TYPE_AUDIO) != (st2->codec->codec_type == AVMEDIA_TYPE_AUDIO))) {
648         int64_t ts = av_rescale_q(pkt ->dts, st ->time_base, AV_TIME_BASE_Q) - s->audio_preload*(st ->codec->codec_type == AVMEDIA_TYPE_AUDIO);
649         int64_t ts2= av_rescale_q(next->dts, st2->time_base, AV_TIME_BASE_Q) - s->audio_preload*(st2->codec->codec_type == AVMEDIA_TYPE_AUDIO);
650         if (ts == ts2) {
651             ts= ( pkt ->dts* st->time_base.num*AV_TIME_BASE - s->audio_preload*(int64_t)(st ->codec->codec_type == AVMEDIA_TYPE_AUDIO)* st->time_base.den)*st2->time_base.den
652                -( next->dts*st2->time_base.num*AV_TIME_BASE - s->audio_preload*(int64_t)(st2->codec->codec_type == AVMEDIA_TYPE_AUDIO)*st2->time_base.den)* st->time_base.den;
653             ts2=0;
654         }
655         comp= (ts>ts2) - (ts<ts2);
656     }
657
658     if (comp == 0)
659         return pkt->stream_index < next->stream_index;
660     return comp > 0;
661 }
662
663 int ff_interleave_packet_per_dts(AVFormatContext *s, AVPacket *out,
664                                  AVPacket *pkt, int flush)
665 {
666     AVPacketList *pktl;
667     int stream_count = 0, noninterleaved_count = 0;
668     int64_t delta_dts_max = 0;
669     int i, ret;
670
671     if (pkt) {
672         ret = ff_interleave_add_packet(s, pkt, interleave_compare_dts);
673         if (ret < 0)
674             return ret;
675     }
676
677     for (i = 0; i < s->nb_streams; i++) {
678         if (s->streams[i]->last_in_packet_buffer) {
679             ++stream_count;
680         } else if (s->streams[i]->codec->codec_type == AVMEDIA_TYPE_SUBTITLE) {
681             ++noninterleaved_count;
682         }
683     }
684
685     if (s->nb_streams == stream_count) {
686         flush = 1;
687     } else if (!flush) {
688         for (i=0; i < s->nb_streams; i++) {
689             if (s->streams[i]->last_in_packet_buffer) {
690                 int64_t delta_dts =
691                     av_rescale_q(s->streams[i]->last_in_packet_buffer->pkt.dts,
692                                 s->streams[i]->time_base,
693                                 AV_TIME_BASE_Q) -
694                     av_rescale_q(s->packet_buffer->pkt.dts,
695                                 s->streams[s->packet_buffer->pkt.stream_index]->time_base,
696                                 AV_TIME_BASE_Q);
697                 delta_dts_max= FFMAX(delta_dts_max, delta_dts);
698             }
699         }
700         if (s->nb_streams == stream_count+noninterleaved_count &&
701            delta_dts_max > 20*AV_TIME_BASE) {
702             av_log(s, AV_LOG_DEBUG, "flushing with %d noninterleaved\n", noninterleaved_count);
703             flush = 1;
704         }
705     }
706     if (stream_count && flush) {
707         AVStream *st;
708         pktl = s->packet_buffer;
709         *out = pktl->pkt;
710         st   = s->streams[out->stream_index];
711
712         s->packet_buffer = pktl->next;
713         if (!s->packet_buffer)
714             s->packet_buffer_end = NULL;
715
716         if (st->last_in_packet_buffer == pktl)
717             st->last_in_packet_buffer = NULL;
718         av_freep(&pktl);
719
720         return 1;
721     } else {
722         av_init_packet(out);
723         return 0;
724     }
725 }
726
727 /**
728  * Interleave an AVPacket correctly so it can be muxed.
729  * @param out the interleaved packet will be output here
730  * @param in the input packet
731  * @param flush 1 if no further packets are available as input and all
732  *              remaining packets should be output
733  * @return 1 if a packet was output, 0 if no packet could be output,
734  *         < 0 if an error occurred
735  */
736 static int interleave_packet(AVFormatContext *s, AVPacket *out, AVPacket *in, int flush)
737 {
738     if (s->oformat->interleave_packet) {
739         int ret = s->oformat->interleave_packet(s, out, in, flush);
740         if (in)
741             av_free_packet(in);
742         return ret;
743     } else
744         return ff_interleave_packet_per_dts(s, out, in, flush);
745 }
746
747 int av_interleaved_write_frame(AVFormatContext *s, AVPacket *pkt)
748 {
749     int ret, flush = 0;
750
751     if (pkt) {
752         AVStream *st = s->streams[pkt->stream_index];
753
754         //FIXME/XXX/HACK drop zero sized packets
755         if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && pkt->size == 0)
756             return 0;
757
758         av_dlog(s, "av_interleaved_write_frame size:%d dts:%s pts:%s\n",
759                 pkt->size, av_ts2str(pkt->dts), av_ts2str(pkt->pts));
760         if ((ret = compute_pkt_fields2(s, st, pkt)) < 0 && !(s->oformat->flags & AVFMT_NOTIMESTAMPS))
761             return ret;
762
763         if (pkt->dts == AV_NOPTS_VALUE && !(s->oformat->flags & AVFMT_NOTIMESTAMPS))
764             return AVERROR(EINVAL);
765     } else {
766         av_dlog(s, "av_interleaved_write_frame FLUSH\n");
767         flush = 1;
768     }
769
770     for (;; ) {
771         AVPacket opkt;
772         int ret = interleave_packet(s, &opkt, pkt, flush);
773         if (ret <= 0) //FIXME cleanup needed for ret<0 ?
774             return ret;
775
776         ret = write_packet(s, &opkt);
777         if (ret >= 0)
778             s->streams[opkt.stream_index]->nb_frames++;
779
780         av_free_packet(&opkt);
781         pkt = NULL;
782
783         if (ret < 0)
784             return ret;
785         if(s->pb && s->pb->error)
786             return s->pb->error;
787     }
788 }
789
790 int av_write_trailer(AVFormatContext *s)
791 {
792     int ret, i;
793
794     for (;; ) {
795         AVPacket pkt;
796         ret = interleave_packet(s, &pkt, NULL, 1);
797         if (ret < 0) //FIXME cleanup needed for ret<0 ?
798             goto fail;
799         if (!ret)
800             break;
801
802         ret = write_packet(s, &pkt);
803         if (ret >= 0)
804             s->streams[pkt.stream_index]->nb_frames++;
805
806         av_free_packet(&pkt);
807
808         if (ret < 0)
809             goto fail;
810         if(s->pb && s->pb->error)
811             goto fail;
812     }
813
814     if (s->oformat->write_trailer)
815         ret = s->oformat->write_trailer(s);
816
817 fail:
818     if (s->pb)
819        avio_flush(s->pb);
820     if (ret == 0)
821        ret = s->pb ? s->pb->error : 0;
822     for (i = 0; i < s->nb_streams; i++) {
823         av_freep(&s->streams[i]->priv_data);
824         av_freep(&s->streams[i]->index_entries);
825     }
826     if (s->oformat->priv_class)
827         av_opt_free(s->priv_data);
828     av_freep(&s->priv_data);
829     return ret;
830 }
831
832 int av_get_output_timestamp(struct AVFormatContext *s, int stream,
833                             int64_t *dts, int64_t *wall)
834 {
835     if (!s->oformat || !s->oformat->get_output_timestamp)
836         return AVERROR(ENOSYS);
837     s->oformat->get_output_timestamp(s, stream, dts, wall);
838     return 0;
839 }