]> git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c
avformat/mpegts: also print PMT version in av_dlog()
[ffmpeg] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/log.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/opt.h"
29 #include "libavutil/avassert.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "libavcodec/opus.h"
33 #include "avformat.h"
34 #include "mpegts.h"
35 #include "internal.h"
36 #include "avio_internal.h"
37 #include "seek.h"
38 #include "mpeg.h"
39 #include "isom.h"
40
41 /* maximum size in which we look for synchronisation if
42  * synchronisation is lost */
43 #define MAX_RESYNC_SIZE 65536
44
45 #define MAX_PES_PAYLOAD 200 * 1024
46
47 #define MAX_MP4_DESCR_COUNT 16
48
49 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
50     do {                                                                       \
51         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
52             (modulus) = (dividend) % (divisor);                                \
53         (prev_dividend) = (dividend);                                          \
54     } while (0)
55
56 enum MpegTSFilterType {
57     MPEGTS_PES,
58     MPEGTS_SECTION,
59     MPEGTS_PCR,
60 };
61
62 typedef struct MpegTSFilter MpegTSFilter;
63
64 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
65                          int is_start, int64_t pos);
66
67 typedef struct MpegTSPESFilter {
68     PESCallback *pes_cb;
69     void *opaque;
70 } MpegTSPESFilter;
71
72 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
73
74 typedef void SetServiceCallback (void *opaque, int ret);
75
76 typedef struct MpegTSSectionFilter {
77     int section_index;
78     int section_h_size;
79     uint8_t *section_buf;
80     unsigned int check_crc : 1;
81     unsigned int end_of_section_reached : 1;
82     SectionCallback *section_cb;
83     void *opaque;
84 } MpegTSSectionFilter;
85
86 struct MpegTSFilter {
87     int pid;
88     int es_id;
89     int last_cc; /* last cc code (-1 if first packet) */
90     int64_t last_pcr;
91     enum MpegTSFilterType type;
92     union {
93         MpegTSPESFilter pes_filter;
94         MpegTSSectionFilter section_filter;
95     } u;
96 };
97
98 #define MAX_PIDS_PER_PROGRAM 64
99 struct Program {
100     unsigned int id; // program id/service id
101     unsigned int nb_pids;
102     unsigned int pids[MAX_PIDS_PER_PROGRAM];
103
104     /** have we found pmt for this program */
105     int pmt_found;
106 };
107
108 struct MpegTSContext {
109     const AVClass *class;
110     /* user data */
111     AVFormatContext *stream;
112     /** raw packet size, including FEC if present */
113     int raw_packet_size;
114
115     int size_stat[3];
116     int size_stat_count;
117 #define SIZE_STAT_THRESHOLD 10
118
119     int64_t pos47_full;
120
121     /** if true, all pids are analyzed to find streams */
122     int auto_guess;
123
124     /** compute exact PCR for each transport stream packet */
125     int mpeg2ts_compute_pcr;
126
127     /** fix dvb teletext pts                                 */
128     int fix_teletext_pts;
129
130     int64_t cur_pcr;    /**< used to estimate the exact PCR */
131     int pcr_incr;       /**< used to estimate the exact PCR */
132
133     /* data needed to handle file based ts */
134     /** stop parsing loop */
135     int stop_parse;
136     /** packet containing Audio/Video data */
137     AVPacket *pkt;
138     /** to detect seek */
139     int64_t last_pos;
140
141     int skip_changes;
142     int skip_clear;
143
144     int resync_size;
145
146     /******************************************/
147     /* private mpegts data */
148     /* scan context */
149     /** structure to keep track of Program->pids mapping */
150     unsigned int nb_prg;
151     struct Program *prg;
152
153     int8_t crc_validity[NB_PID_MAX];
154     /** filters for various streams specified by PMT + for the PAT and PMT */
155     MpegTSFilter *pids[NB_PID_MAX];
156     int current_pid;
157 };
158
159 #define MPEGTS_OPTIONS \
160     { "resync_size",   "Size limit for looking up a new synchronization.", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
161
162 static const AVOption options[] = {
163     MPEGTS_OPTIONS,
164     {"fix_teletext_pts", "Try to fix pts values of dvb teletext streams.", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_INT,
165      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
166     {"ts_packetsize", "Output option carrying the raw packet size.", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
167      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
168     {"skip_changes", "Skip changing / adding streams / programs.", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_INT,
169      {.i64 = 0}, 0, 1, 0 },
170     {"skip_clear", "Skip clearing programs.", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_INT,
171      {.i64 = 0}, 0, 1, 0 },
172     { NULL },
173 };
174
175 static const AVClass mpegts_class = {
176     .class_name = "mpegts demuxer",
177     .item_name  = av_default_item_name,
178     .option     = options,
179     .version    = LIBAVUTIL_VERSION_INT,
180 };
181
182 static const AVOption raw_options[] = {
183     MPEGTS_OPTIONS,
184     { "compute_pcr",   "Compute exact PCR for each transport stream packet.",
185           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
186           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
187     { "ts_packetsize", "Output option carrying the raw packet size.",
188       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
189       { .i64 = 0 }, 0, 0,
190       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
191     { NULL },
192 };
193
194 static const AVClass mpegtsraw_class = {
195     .class_name = "mpegtsraw demuxer",
196     .item_name  = av_default_item_name,
197     .option     = raw_options,
198     .version    = LIBAVUTIL_VERSION_INT,
199 };
200
201 /* TS stream handling */
202
203 enum MpegTSState {
204     MPEGTS_HEADER = 0,
205     MPEGTS_PESHEADER,
206     MPEGTS_PESHEADER_FILL,
207     MPEGTS_PAYLOAD,
208     MPEGTS_SKIP,
209 };
210
211 /* enough for PES header + length */
212 #define PES_START_SIZE  6
213 #define PES_HEADER_SIZE 9
214 #define MAX_PES_HEADER_SIZE (9 + 255)
215
216 typedef struct PESContext {
217     int pid;
218     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
219     int stream_type;
220     MpegTSContext *ts;
221     AVFormatContext *stream;
222     AVStream *st;
223     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
224     enum MpegTSState state;
225     /* used to get the format */
226     int data_index;
227     int flags; /**< copied to the AVPacket flags */
228     int total_size;
229     int pes_header_size;
230     int extended_stream_id;
231     int64_t pts, dts;
232     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
233     uint8_t header[MAX_PES_HEADER_SIZE];
234     AVBufferRef *buffer;
235     SLConfigDescr sl;
236 } PESContext;
237
238 extern AVInputFormat ff_mpegts_demuxer;
239
240 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
241 {
242     int i;
243     for (i = 0; i < ts->nb_prg; i++) {
244         if (ts->prg[i].id == programid) {
245             return &ts->prg[i];
246         }
247     }
248     return NULL;
249 }
250
251 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
252 {
253     AVProgram *prg = NULL;
254     int i;
255
256     for (i = 0; i < ts->stream->nb_programs; i++)
257         if (ts->stream->programs[i]->id == programid) {
258             prg = ts->stream->programs[i];
259             break;
260         }
261     if (!prg)
262         return;
263     prg->nb_stream_indexes = 0;
264 }
265
266 static void clear_program(MpegTSContext *ts, unsigned int programid)
267 {
268     int i;
269
270     clear_avprogram(ts, programid);
271     for (i = 0; i < ts->nb_prg; i++)
272         if (ts->prg[i].id == programid) {
273             ts->prg[i].nb_pids = 0;
274             ts->prg[i].pmt_found = 0;
275         }
276 }
277
278 static void clear_programs(MpegTSContext *ts)
279 {
280     av_freep(&ts->prg);
281     ts->nb_prg = 0;
282 }
283
284 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
285 {
286     struct Program *p;
287     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
288         ts->nb_prg = 0;
289         return;
290     }
291     p = &ts->prg[ts->nb_prg];
292     p->id = programid;
293     p->nb_pids = 0;
294     p->pmt_found = 0;
295     ts->nb_prg++;
296 }
297
298 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
299                            unsigned int pid)
300 {
301     struct Program *p = get_program(ts, programid);
302     int i;
303     if (!p)
304         return;
305
306     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
307         return;
308
309     for (i = 0; i < MAX_PIDS_PER_PROGRAM; i++)
310         if (p->pids[i] == pid)
311             return;
312
313     p->pids[p->nb_pids++] = pid;
314 }
315
316 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
317 {
318     struct Program *p = get_program(ts, programid);
319     if (!p)
320         return;
321
322     p->pmt_found = 1;
323 }
324
325 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
326 {
327     int i;
328     for (i = 0; i < s->nb_programs; i++) {
329         if (s->programs[i]->id == programid) {
330             s->programs[i]->pcr_pid = pid;
331             break;
332         }
333     }
334 }
335
336 /**
337  * @brief discard_pid() decides if the pid is to be discarded according
338  *                      to caller's programs selection
339  * @param ts    : - TS context
340  * @param pid   : - pid
341  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
342  *         0 otherwise
343  */
344 static int discard_pid(MpegTSContext *ts, unsigned int pid)
345 {
346     int i, j, k;
347     int used = 0, discarded = 0;
348     struct Program *p;
349
350     /* If none of the programs have .discard=AVDISCARD_ALL then there's
351      * no way we have to discard this packet */
352     for (k = 0; k < ts->stream->nb_programs; k++)
353         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
354             break;
355     if (k == ts->stream->nb_programs)
356         return 0;
357
358     for (i = 0; i < ts->nb_prg; i++) {
359         p = &ts->prg[i];
360         for (j = 0; j < p->nb_pids; j++) {
361             if (p->pids[j] != pid)
362                 continue;
363             // is program with id p->id set to be discarded?
364             for (k = 0; k < ts->stream->nb_programs; k++) {
365                 if (ts->stream->programs[k]->id == p->id) {
366                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
367                         discarded++;
368                     else
369                         used++;
370                 }
371             }
372         }
373     }
374
375     return !used && discarded;
376 }
377
378 /**
379  *  Assemble PES packets out of TS packets, and then call the "section_cb"
380  *  function when they are complete.
381  */
382 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
383                                const uint8_t *buf, int buf_size, int is_start)
384 {
385     MpegTSSectionFilter *tss = &tss1->u.section_filter;
386     int len;
387
388     if (is_start) {
389         memcpy(tss->section_buf, buf, buf_size);
390         tss->section_index = buf_size;
391         tss->section_h_size = -1;
392         tss->end_of_section_reached = 0;
393     } else {
394         if (tss->end_of_section_reached)
395             return;
396         len = 4096 - tss->section_index;
397         if (buf_size < len)
398             len = buf_size;
399         memcpy(tss->section_buf + tss->section_index, buf, len);
400         tss->section_index += len;
401     }
402
403     /* compute section length if possible */
404     if (tss->section_h_size == -1 && tss->section_index >= 3) {
405         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
406         if (len > 4096)
407             return;
408         tss->section_h_size = len;
409     }
410
411     if (tss->section_h_size != -1 &&
412         tss->section_index >= tss->section_h_size) {
413         int crc_valid = 1;
414         tss->end_of_section_reached = 1;
415
416         if (tss->check_crc) {
417             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
418             if (crc_valid) {
419                 ts->crc_validity[ tss1->pid ] = 100;
420             }else if (ts->crc_validity[ tss1->pid ] > -10) {
421                 ts->crc_validity[ tss1->pid ]--;
422             }else
423                 crc_valid = 2;
424         }
425         if (crc_valid)
426             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
427     }
428 }
429
430 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
431                                         enum MpegTSFilterType type)
432 {
433     MpegTSFilter *filter;
434
435     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
436
437     if (pid >= NB_PID_MAX || ts->pids[pid])
438         return NULL;
439     filter = av_mallocz(sizeof(MpegTSFilter));
440     if (!filter)
441         return NULL;
442     ts->pids[pid] = filter;
443
444     filter->type    = type;
445     filter->pid     = pid;
446     filter->es_id   = -1;
447     filter->last_cc = -1;
448     filter->last_pcr= -1;
449
450     return filter;
451 }
452
453 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
454                                                 unsigned int pid,
455                                                 SectionCallback *section_cb,
456                                                 void *opaque,
457                                                 int check_crc)
458 {
459     MpegTSFilter *filter;
460     MpegTSSectionFilter *sec;
461
462     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
463         return NULL;
464     sec = &filter->u.section_filter;
465     sec->section_cb  = section_cb;
466     sec->opaque      = opaque;
467     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
468     sec->check_crc   = check_crc;
469     if (!sec->section_buf) {
470         av_free(filter);
471         return NULL;
472     }
473     return filter;
474 }
475
476 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
477                                             PESCallback *pes_cb,
478                                             void *opaque)
479 {
480     MpegTSFilter *filter;
481     MpegTSPESFilter *pes;
482
483     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
484         return NULL;
485
486     pes = &filter->u.pes_filter;
487     pes->pes_cb = pes_cb;
488     pes->opaque = opaque;
489     return filter;
490 }
491
492 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
493 {
494     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
495 }
496
497 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
498 {
499     int pid;
500
501     pid = filter->pid;
502     if (filter->type == MPEGTS_SECTION)
503         av_freep(&filter->u.section_filter.section_buf);
504     else if (filter->type == MPEGTS_PES) {
505         PESContext *pes = filter->u.pes_filter.opaque;
506         av_buffer_unref(&pes->buffer);
507         /* referenced private data will be freed later in
508          * avformat_close_input */
509         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
510             av_freep(&filter->u.pes_filter.opaque);
511         }
512     }
513
514     av_free(filter);
515     ts->pids[pid] = NULL;
516 }
517
518 static int analyze(const uint8_t *buf, int size, int packet_size, int *index)
519 {
520     int stat[TS_MAX_PACKET_SIZE];
521     int stat_all = 0;
522     int i;
523     int best_score = 0;
524
525     memset(stat, 0, packet_size * sizeof(*stat));
526
527     for (i = 0; i < size - 3; i++) {
528         if (buf[i] == 0x47 && !(buf[i + 1] & 0x80) && buf[i + 3] != 0x47) {
529             int x = i % packet_size;
530             stat[x]++;
531             stat_all++;
532             if (stat[x] > best_score) {
533                 best_score = stat[x];
534                 if (index)
535                     *index = x;
536             }
537         }
538     }
539
540     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
541 }
542
543 /* autodetect fec presence. Must have at least 1024 bytes  */
544 static int get_packet_size(const uint8_t *buf, int size)
545 {
546     int score, fec_score, dvhs_score;
547
548     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
549         return AVERROR_INVALIDDATA;
550
551     score      = analyze(buf, size, TS_PACKET_SIZE, NULL);
552     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
553     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
554     av_dlog(NULL, "score: %d, dvhs_score: %d, fec_score: %d \n",
555             score, dvhs_score, fec_score);
556
557     if (score > fec_score && score > dvhs_score)
558         return TS_PACKET_SIZE;
559     else if (dvhs_score > score && dvhs_score > fec_score)
560         return TS_DVHS_PACKET_SIZE;
561     else if (score < fec_score && dvhs_score < fec_score)
562         return TS_FEC_PACKET_SIZE;
563     else
564         return AVERROR_INVALIDDATA;
565 }
566
567 typedef struct SectionHeader {
568     uint8_t tid;
569     uint16_t id;
570     uint8_t version;
571     uint8_t sec_num;
572     uint8_t last_sec_num;
573 } SectionHeader;
574
575 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
576 {
577     const uint8_t *p;
578     int c;
579
580     p = *pp;
581     if (p >= p_end)
582         return AVERROR_INVALIDDATA;
583     c   = *p++;
584     *pp = p;
585     return c;
586 }
587
588 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
589 {
590     const uint8_t *p;
591     int c;
592
593     p = *pp;
594     if ((p + 1) >= p_end)
595         return AVERROR_INVALIDDATA;
596     c   = AV_RB16(p);
597     p  += 2;
598     *pp = p;
599     return c;
600 }
601
602 /* read and allocate a DVB string preceded by its length */
603 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
604 {
605     int len;
606     const uint8_t *p;
607     char *str;
608
609     p   = *pp;
610     len = get8(&p, p_end);
611     if (len < 0)
612         return NULL;
613     if ((p + len) > p_end)
614         return NULL;
615     str = av_malloc(len + 1);
616     if (!str)
617         return NULL;
618     memcpy(str, p, len);
619     str[len] = '\0';
620     p  += len;
621     *pp = p;
622     return str;
623 }
624
625 static int parse_section_header(SectionHeader *h,
626                                 const uint8_t **pp, const uint8_t *p_end)
627 {
628     int val;
629
630     val = get8(pp, p_end);
631     if (val < 0)
632         return val;
633     h->tid = val;
634     *pp += 2;
635     val  = get16(pp, p_end);
636     if (val < 0)
637         return val;
638     h->id = val;
639     val = get8(pp, p_end);
640     if (val < 0)
641         return val;
642     h->version = (val >> 1) & 0x1f;
643     val = get8(pp, p_end);
644     if (val < 0)
645         return val;
646     h->sec_num = val;
647     val = get8(pp, p_end);
648     if (val < 0)
649         return val;
650     h->last_sec_num = val;
651     return 0;
652 }
653
654 typedef struct {
655     uint32_t stream_type;
656     enum AVMediaType codec_type;
657     enum AVCodecID codec_id;
658 } StreamType;
659
660 static const StreamType ISO_types[] = {
661     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
662     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
663     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
664     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
665     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
666     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
667     /* Makito encoder sets stream type 0x11 for AAC,
668      * so auto-detect LOAS/LATM instead of hardcoding it. */
669 #if !CONFIG_LOAS_DEMUXER
670     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
671 #endif
672     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
673     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
674     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
675     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
676     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
677     { 0 },
678 };
679
680 static const StreamType HDMV_types[] = {
681     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
682     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
683     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
684     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
685     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
686     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
687     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
688     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
689     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
690     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
691     { 0 },
692 };
693
694 /* ATSC ? */
695 static const StreamType MISC_types[] = {
696     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
697     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
698     { 0 },
699 };
700
701 static const StreamType REGD_types[] = {
702     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
703     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
704     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
705     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
706     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
707     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
708     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
709     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
710     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
711     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
712     { 0 },
713 };
714
715 static const StreamType METADATA_types[] = {
716     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
717     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
718     { 0 },
719 };
720
721 /* descriptor present */
722 static const StreamType DESC_types[] = {
723     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
724     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
725     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
726     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
727     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
728     { 0 },
729 };
730
731 static void mpegts_find_stream_type(AVStream *st,
732                                     uint32_t stream_type,
733                                     const StreamType *types)
734 {
735     if (avcodec_is_open(st->codec)) {
736         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
737         return;
738     }
739
740     for (; types->stream_type; types++)
741         if (stream_type == types->stream_type) {
742             st->codec->codec_type = types->codec_type;
743             st->codec->codec_id   = types->codec_id;
744             st->request_probe     = 0;
745             return;
746         }
747 }
748
749 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
750                                   uint32_t stream_type, uint32_t prog_reg_desc)
751 {
752     int old_codec_type = st->codec->codec_type;
753     int old_codec_id  = st->codec->codec_id;
754
755     if (avcodec_is_open(st->codec)) {
756         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
757         return 0;
758     }
759
760     avpriv_set_pts_info(st, 33, 1, 90000);
761     st->priv_data         = pes;
762     st->codec->codec_type = AVMEDIA_TYPE_DATA;
763     st->codec->codec_id   = AV_CODEC_ID_NONE;
764     st->need_parsing      = AVSTREAM_PARSE_FULL;
765     pes->st          = st;
766     pes->stream_type = stream_type;
767
768     av_log(pes->stream, AV_LOG_DEBUG,
769            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
770            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
771
772     st->codec->codec_tag = pes->stream_type;
773
774     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
775     if ((prog_reg_desc == AV_RL32("HDMV") ||
776          prog_reg_desc == AV_RL32("HDPR")) &&
777         st->codec->codec_id == AV_CODEC_ID_NONE) {
778         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
779         if (pes->stream_type == 0x83) {
780             // HDMV TrueHD streams also contain an AC3 coded version of the
781             // audio track - add a second stream for this
782             AVStream *sub_st;
783             // priv_data cannot be shared between streams
784             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
785             if (!sub_pes)
786                 return AVERROR(ENOMEM);
787             memcpy(sub_pes, pes, sizeof(*sub_pes));
788
789             sub_st = avformat_new_stream(pes->stream, NULL);
790             if (!sub_st) {
791                 av_free(sub_pes);
792                 return AVERROR(ENOMEM);
793             }
794
795             sub_st->id = pes->pid;
796             avpriv_set_pts_info(sub_st, 33, 1, 90000);
797             sub_st->priv_data         = sub_pes;
798             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
799             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
800             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
801             sub_pes->sub_st           = pes->sub_st = sub_st;
802         }
803     }
804     if (st->codec->codec_id == AV_CODEC_ID_NONE)
805         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
806     if (st->codec->codec_id == AV_CODEC_ID_NONE) {
807         st->codec->codec_id  = old_codec_id;
808         st->codec->codec_type = old_codec_type;
809     }
810
811     return 0;
812 }
813
814 static void reset_pes_packet_state(PESContext *pes)
815 {
816     pes->pts        = AV_NOPTS_VALUE;
817     pes->dts        = AV_NOPTS_VALUE;
818     pes->data_index = 0;
819     pes->flags      = 0;
820     av_buffer_unref(&pes->buffer);
821 }
822
823 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
824 {
825     av_init_packet(pkt);
826
827     pkt->buf  = pes->buffer;
828     pkt->data = pes->buffer->data;
829     pkt->size = pes->data_index;
830
831     if (pes->total_size != MAX_PES_PAYLOAD &&
832         pes->pes_header_size + pes->data_index != pes->total_size +
833         PES_START_SIZE) {
834         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
835         pes->flags |= AV_PKT_FLAG_CORRUPT;
836     }
837     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
838
839     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
840     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
841         pkt->stream_index = pes->sub_st->index;
842     else
843         pkt->stream_index = pes->st->index;
844     pkt->pts = pes->pts;
845     pkt->dts = pes->dts;
846     /* store position of first TS packet of this PES packet */
847     pkt->pos   = pes->ts_packet_pos;
848     pkt->flags = pes->flags;
849
850     pes->buffer = NULL;
851     reset_pes_packet_state(pes);
852 }
853
854 static uint64_t get_ts64(GetBitContext *gb, int bits)
855 {
856     if (get_bits_left(gb) < bits)
857         return AV_NOPTS_VALUE;
858     return get_bits64(gb, bits);
859 }
860
861 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
862                           const uint8_t *buf, int buf_size)
863 {
864     GetBitContext gb;
865     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
866     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
867     int dts_flag = -1, cts_flag = -1;
868     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
869     uint8_t buf_padded[128 + FF_INPUT_BUFFER_PADDING_SIZE];
870     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - FF_INPUT_BUFFER_PADDING_SIZE);
871
872     memcpy(buf_padded, buf, buf_padded_size);
873
874     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
875
876     if (sl->use_au_start)
877         au_start_flag = get_bits1(&gb);
878     if (sl->use_au_end)
879         au_end_flag = get_bits1(&gb);
880     if (!sl->use_au_start && !sl->use_au_end)
881         au_start_flag = au_end_flag = 1;
882     if (sl->ocr_len > 0)
883         ocr_flag = get_bits1(&gb);
884     if (sl->use_idle)
885         idle_flag = get_bits1(&gb);
886     if (sl->use_padding)
887         padding_flag = get_bits1(&gb);
888     if (padding_flag)
889         padding_bits = get_bits(&gb, 3);
890
891     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
892         if (sl->packet_seq_num_len)
893             skip_bits_long(&gb, sl->packet_seq_num_len);
894         if (sl->degr_prior_len)
895             if (get_bits1(&gb))
896                 skip_bits(&gb, sl->degr_prior_len);
897         if (ocr_flag)
898             skip_bits_long(&gb, sl->ocr_len);
899         if (au_start_flag) {
900             if (sl->use_rand_acc_pt)
901                 get_bits1(&gb);
902             if (sl->au_seq_num_len > 0)
903                 skip_bits_long(&gb, sl->au_seq_num_len);
904             if (sl->use_timestamps) {
905                 dts_flag = get_bits1(&gb);
906                 cts_flag = get_bits1(&gb);
907             }
908         }
909         if (sl->inst_bitrate_len)
910             inst_bitrate_flag = get_bits1(&gb);
911         if (dts_flag == 1)
912             dts = get_ts64(&gb, sl->timestamp_len);
913         if (cts_flag == 1)
914             cts = get_ts64(&gb, sl->timestamp_len);
915         if (sl->au_len > 0)
916             skip_bits_long(&gb, sl->au_len);
917         if (inst_bitrate_flag)
918             skip_bits_long(&gb, sl->inst_bitrate_len);
919     }
920
921     if (dts != AV_NOPTS_VALUE)
922         pes->dts = dts;
923     if (cts != AV_NOPTS_VALUE)
924         pes->pts = cts;
925
926     if (sl->timestamp_len && sl->timestamp_res)
927         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
928
929     return (get_bits_count(&gb) + 7) >> 3;
930 }
931
932 /* return non zero if a packet could be constructed */
933 static int mpegts_push_data(MpegTSFilter *filter,
934                             const uint8_t *buf, int buf_size, int is_start,
935                             int64_t pos)
936 {
937     PESContext *pes   = filter->u.pes_filter.opaque;
938     MpegTSContext *ts = pes->ts;
939     const uint8_t *p;
940     int len, code;
941
942     if (!ts->pkt)
943         return 0;
944
945     if (is_start) {
946         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
947             new_pes_packet(pes, ts->pkt);
948             ts->stop_parse = 1;
949         } else {
950             reset_pes_packet_state(pes);
951         }
952         pes->state         = MPEGTS_HEADER;
953         pes->ts_packet_pos = pos;
954     }
955     p = buf;
956     while (buf_size > 0) {
957         switch (pes->state) {
958         case MPEGTS_HEADER:
959             len = PES_START_SIZE - pes->data_index;
960             if (len > buf_size)
961                 len = buf_size;
962             memcpy(pes->header + pes->data_index, p, len);
963             pes->data_index += len;
964             p += len;
965             buf_size -= len;
966             if (pes->data_index == PES_START_SIZE) {
967                 /* we got all the PES or section header. We can now
968                  * decide */
969                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
970                     pes->header[2] == 0x01) {
971                     /* it must be an mpeg2 PES stream */
972                     code = pes->header[3] | 0x100;
973                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid,
974                             code);
975
976                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
977                          (!pes->sub_st ||
978                           pes->sub_st->discard == AVDISCARD_ALL)) ||
979                         code == 0x1be) /* padding_stream */
980                         goto skip;
981
982                     /* stream not present in PMT */
983                     if (!pes->st) {
984                         if (ts->skip_changes)
985                             goto skip;
986
987                         pes->st = avformat_new_stream(ts->stream, NULL);
988                         if (!pes->st)
989                             return AVERROR(ENOMEM);
990                         pes->st->id = pes->pid;
991                         mpegts_set_stream_info(pes->st, pes, 0, 0);
992                     }
993
994                     pes->total_size = AV_RB16(pes->header + 4);
995                     /* NOTE: a zero total size means the PES size is
996                      * unbounded */
997                     if (!pes->total_size)
998                         pes->total_size = MAX_PES_PAYLOAD;
999
1000                     /* allocate pes buffer */
1001                     pes->buffer = av_buffer_alloc(pes->total_size +
1002                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1003                     if (!pes->buffer)
1004                         return AVERROR(ENOMEM);
1005
1006                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1007                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1008                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1009                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1010                         pes->state = MPEGTS_PESHEADER;
1011                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1012                             av_dlog(pes->stream,
1013                                     "pid=%x stream_type=%x probing\n",
1014                                     pes->pid,
1015                                     pes->stream_type);
1016                             pes->st->request_probe = 1;
1017                         }
1018                     } else {
1019                         pes->state      = MPEGTS_PAYLOAD;
1020                         pes->data_index = 0;
1021                     }
1022                 } else {
1023                     /* otherwise, it should be a table */
1024                     /* skip packet */
1025 skip:
1026                     pes->state = MPEGTS_SKIP;
1027                     continue;
1028                 }
1029             }
1030             break;
1031         /**********************************************/
1032         /* PES packing parsing */
1033         case MPEGTS_PESHEADER:
1034             len = PES_HEADER_SIZE - pes->data_index;
1035             if (len < 0)
1036                 return AVERROR_INVALIDDATA;
1037             if (len > buf_size)
1038                 len = buf_size;
1039             memcpy(pes->header + pes->data_index, p, len);
1040             pes->data_index += len;
1041             p += len;
1042             buf_size -= len;
1043             if (pes->data_index == PES_HEADER_SIZE) {
1044                 pes->pes_header_size = pes->header[8] + 9;
1045                 pes->state           = MPEGTS_PESHEADER_FILL;
1046             }
1047             break;
1048         case MPEGTS_PESHEADER_FILL:
1049             len = pes->pes_header_size - pes->data_index;
1050             if (len < 0)
1051                 return AVERROR_INVALIDDATA;
1052             if (len > buf_size)
1053                 len = buf_size;
1054             memcpy(pes->header + pes->data_index, p, len);
1055             pes->data_index += len;
1056             p += len;
1057             buf_size -= len;
1058             if (pes->data_index == pes->pes_header_size) {
1059                 const uint8_t *r;
1060                 unsigned int flags, pes_ext, skip;
1061
1062                 flags = pes->header[7];
1063                 r = pes->header + 9;
1064                 pes->pts = AV_NOPTS_VALUE;
1065                 pes->dts = AV_NOPTS_VALUE;
1066                 if ((flags & 0xc0) == 0x80) {
1067                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1068                     r += 5;
1069                 } else if ((flags & 0xc0) == 0xc0) {
1070                     pes->pts = ff_parse_pes_pts(r);
1071                     r += 5;
1072                     pes->dts = ff_parse_pes_pts(r);
1073                     r += 5;
1074                 }
1075                 pes->extended_stream_id = -1;
1076                 if (flags & 0x01) { /* PES extension */
1077                     pes_ext = *r++;
1078                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1079                     skip  = (pes_ext >> 4) & 0xb;
1080                     skip += skip & 0x9;
1081                     r    += skip;
1082                     if ((pes_ext & 0x41) == 0x01 &&
1083                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1084                         /* PES extension 2 */
1085                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1086                             pes->extended_stream_id = r[1];
1087                     }
1088                 }
1089
1090                 /* we got the full header. We parse it and get the payload */
1091                 pes->state = MPEGTS_PAYLOAD;
1092                 pes->data_index = 0;
1093                 if (pes->stream_type == 0x12 && buf_size > 0) {
1094                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1095                                                          buf_size);
1096                     pes->pes_header_size += sl_header_bytes;
1097                     p += sl_header_bytes;
1098                     buf_size -= sl_header_bytes;
1099                 }
1100                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1101                     /* skip metadata access unit header */
1102                     pes->pes_header_size += 5;
1103                     p += 5;
1104                     buf_size -= 5;
1105                 }
1106                 if (pes->ts->fix_teletext_pts && pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT) {
1107                     AVProgram *p = NULL;
1108                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1109                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1110                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1111                             if (f) {
1112                                 AVStream *st = NULL;
1113                                 if (f->type == MPEGTS_PES) {
1114                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1115                                     if (pcrpes)
1116                                         st = pcrpes->st;
1117                                 } else if (f->type == MPEGTS_PCR) {
1118                                     int i;
1119                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1120                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1121                                         if (pst->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1122                                             st = pst;
1123                                     }
1124                                 }
1125                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1126                                     // teletext packets do not always have correct timestamps,
1127                                     // the standard says they should be handled after 40.6 ms at most,
1128                                     // and the pcr error to this packet should be no more than 100 ms.
1129                                     // TODO: we should interpolate the PCR, not just use the last one
1130                                     int64_t pcr = f->last_pcr / 300;
1131                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1132                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1133                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1134                                         pes->pts = pes->dts = pcr;
1135                                     } else if (pes->dts > pcr + 3654 + 9000) {
1136                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1137                                     }
1138                                     break;
1139                                 }
1140                             }
1141                         }
1142                     }
1143                 }
1144             }
1145             break;
1146         case MPEGTS_PAYLOAD:
1147             if (pes->buffer) {
1148                 if (pes->data_index > 0 &&
1149                     pes->data_index + buf_size > pes->total_size) {
1150                     new_pes_packet(pes, ts->pkt);
1151                     pes->total_size = MAX_PES_PAYLOAD;
1152                     pes->buffer = av_buffer_alloc(pes->total_size +
1153                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1154                     if (!pes->buffer)
1155                         return AVERROR(ENOMEM);
1156                     ts->stop_parse = 1;
1157                 } else if (pes->data_index == 0 &&
1158                            buf_size > pes->total_size) {
1159                     // pes packet size is < ts size packet and pes data is padded with 0xff
1160                     // not sure if this is legal in ts but see issue #2392
1161                     buf_size = pes->total_size;
1162                 }
1163                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1164                 pes->data_index += buf_size;
1165                 /* emit complete packets with known packet size
1166                  * decreases demuxer delay for infrequent packets like subtitles from
1167                  * a couple of seconds to milliseconds for properly muxed files.
1168                  * total_size is the number of bytes following pes_packet_length
1169                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1170                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1171                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1172                     ts->stop_parse = 1;
1173                     new_pes_packet(pes, ts->pkt);
1174                 }
1175             }
1176             buf_size = 0;
1177             break;
1178         case MPEGTS_SKIP:
1179             buf_size = 0;
1180             break;
1181         }
1182     }
1183
1184     return 0;
1185 }
1186
1187 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1188 {
1189     MpegTSFilter *tss;
1190     PESContext *pes;
1191
1192     /* if no pid found, then add a pid context */
1193     pes = av_mallocz(sizeof(PESContext));
1194     if (!pes)
1195         return 0;
1196     pes->ts      = ts;
1197     pes->stream  = ts->stream;
1198     pes->pid     = pid;
1199     pes->pcr_pid = pcr_pid;
1200     pes->state   = MPEGTS_SKIP;
1201     pes->pts     = AV_NOPTS_VALUE;
1202     pes->dts     = AV_NOPTS_VALUE;
1203     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1204     if (!tss) {
1205         av_free(pes);
1206         return 0;
1207     }
1208     return pes;
1209 }
1210
1211 #define MAX_LEVEL 4
1212 typedef struct {
1213     AVFormatContext *s;
1214     AVIOContext pb;
1215     Mp4Descr *descr;
1216     Mp4Descr *active_descr;
1217     int descr_count;
1218     int max_descr_count;
1219     int level;
1220     int predefined_SLConfigDescriptor_seen;
1221 } MP4DescrParseContext;
1222
1223 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1224                                      const uint8_t *buf, unsigned size,
1225                                      Mp4Descr *descr, int max_descr_count)
1226 {
1227     int ret;
1228     if (size > (1 << 30))
1229         return AVERROR_INVALIDDATA;
1230
1231     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1232                                  NULL, NULL, NULL, NULL)) < 0)
1233         return ret;
1234
1235     d->s               = s;
1236     d->level           = 0;
1237     d->descr_count     = 0;
1238     d->descr           = descr;
1239     d->active_descr    = NULL;
1240     d->max_descr_count = max_descr_count;
1241
1242     return 0;
1243 }
1244
1245 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1246 {
1247     int64_t new_off = avio_tell(pb);
1248     (*len) -= new_off - *off;
1249     *off    = new_off;
1250 }
1251
1252 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1253                            int target_tag);
1254
1255 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1256 {
1257     while (len > 0) {
1258         int ret = parse_mp4_descr(d, off, len, 0);
1259         if (ret < 0)
1260             return ret;
1261         update_offsets(&d->pb, &off, &len);
1262     }
1263     return 0;
1264 }
1265
1266 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1267 {
1268     avio_rb16(&d->pb); // ID
1269     avio_r8(&d->pb);
1270     avio_r8(&d->pb);
1271     avio_r8(&d->pb);
1272     avio_r8(&d->pb);
1273     avio_r8(&d->pb);
1274     update_offsets(&d->pb, &off, &len);
1275     return parse_mp4_descr_arr(d, off, len);
1276 }
1277
1278 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1279 {
1280     int id_flags;
1281     if (len < 2)
1282         return 0;
1283     id_flags = avio_rb16(&d->pb);
1284     if (!(id_flags & 0x0020)) { // URL_Flag
1285         update_offsets(&d->pb, &off, &len);
1286         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1287     } else {
1288         return 0;
1289     }
1290 }
1291
1292 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1293 {
1294     int es_id = 0;
1295     if (d->descr_count >= d->max_descr_count)
1296         return AVERROR_INVALIDDATA;
1297     ff_mp4_parse_es_descr(&d->pb, &es_id);
1298     d->active_descr = d->descr + (d->descr_count++);
1299
1300     d->active_descr->es_id = es_id;
1301     update_offsets(&d->pb, &off, &len);
1302     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1303     update_offsets(&d->pb, &off, &len);
1304     if (len > 0)
1305         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1306     d->active_descr = NULL;
1307     return 0;
1308 }
1309
1310 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1311                                       int len)
1312 {
1313     Mp4Descr *descr = d->active_descr;
1314     if (!descr)
1315         return AVERROR_INVALIDDATA;
1316     d->active_descr->dec_config_descr = av_malloc(len);
1317     if (!descr->dec_config_descr)
1318         return AVERROR(ENOMEM);
1319     descr->dec_config_descr_len = len;
1320     avio_read(&d->pb, descr->dec_config_descr, len);
1321     return 0;
1322 }
1323
1324 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1325 {
1326     Mp4Descr *descr = d->active_descr;
1327     int predefined;
1328     if (!descr)
1329         return AVERROR_INVALIDDATA;
1330
1331     predefined = avio_r8(&d->pb);
1332     if (!predefined) {
1333         int lengths;
1334         int flags = avio_r8(&d->pb);
1335         descr->sl.use_au_start    = !!(flags & 0x80);
1336         descr->sl.use_au_end      = !!(flags & 0x40);
1337         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1338         descr->sl.use_padding     = !!(flags & 0x08);
1339         descr->sl.use_timestamps  = !!(flags & 0x04);
1340         descr->sl.use_idle        = !!(flags & 0x02);
1341         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1342         avio_rb32(&d->pb);
1343         descr->sl.timestamp_len      = avio_r8(&d->pb);
1344         if (descr->sl.timestamp_len > 64) {
1345             avpriv_request_sample(NULL, "timestamp_len > 64");
1346             descr->sl.timestamp_len = 64;
1347             return AVERROR_PATCHWELCOME;
1348         }
1349         descr->sl.ocr_len            = avio_r8(&d->pb);
1350         descr->sl.au_len             = avio_r8(&d->pb);
1351         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1352         lengths                      = avio_rb16(&d->pb);
1353         descr->sl.degr_prior_len     = lengths >> 12;
1354         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1355         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1356     } else if (!d->predefined_SLConfigDescriptor_seen){
1357         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1358         d->predefined_SLConfigDescriptor_seen = 1;
1359     }
1360     return 0;
1361 }
1362
1363 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1364                            int target_tag)
1365 {
1366     int tag;
1367     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1368     update_offsets(&d->pb, &off, &len);
1369     if (len < 0 || len1 > len || len1 <= 0) {
1370         av_log(d->s, AV_LOG_ERROR,
1371                "Tag %x length violation new length %d bytes remaining %d\n",
1372                tag, len1, len);
1373         return AVERROR_INVALIDDATA;
1374     }
1375
1376     if (d->level++ >= MAX_LEVEL) {
1377         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1378         goto done;
1379     }
1380
1381     if (target_tag && tag != target_tag) {
1382         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1383                target_tag);
1384         goto done;
1385     }
1386
1387     switch (tag) {
1388     case MP4IODescrTag:
1389         parse_MP4IODescrTag(d, off, len1);
1390         break;
1391     case MP4ODescrTag:
1392         parse_MP4ODescrTag(d, off, len1);
1393         break;
1394     case MP4ESDescrTag:
1395         parse_MP4ESDescrTag(d, off, len1);
1396         break;
1397     case MP4DecConfigDescrTag:
1398         parse_MP4DecConfigDescrTag(d, off, len1);
1399         break;
1400     case MP4SLDescrTag:
1401         parse_MP4SLDescrTag(d, off, len1);
1402         break;
1403     }
1404
1405
1406 done:
1407     d->level--;
1408     avio_seek(&d->pb, off + len1, SEEK_SET);
1409     return 0;
1410 }
1411
1412 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1413                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1414 {
1415     MP4DescrParseContext d;
1416     int ret;
1417
1418     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1419     if (ret < 0)
1420         return ret;
1421
1422     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1423
1424     *descr_count = d.descr_count;
1425     return ret;
1426 }
1427
1428 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1429                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1430 {
1431     MP4DescrParseContext d;
1432     int ret;
1433
1434     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1435     if (ret < 0)
1436         return ret;
1437
1438     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1439
1440     *descr_count = d.descr_count;
1441     return ret;
1442 }
1443
1444 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1445                     int section_len)
1446 {
1447     MpegTSContext *ts = filter->u.section_filter.opaque;
1448     SectionHeader h;
1449     const uint8_t *p, *p_end;
1450     AVIOContext pb;
1451     int mp4_descr_count = 0;
1452     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1453     int i, pid;
1454     AVFormatContext *s = ts->stream;
1455
1456     p_end = section + section_len - 4;
1457     p = section;
1458     if (parse_section_header(&h, &p, p_end) < 0)
1459         return;
1460     if (h.tid != M4OD_TID)
1461         return;
1462
1463     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1464                 MAX_MP4_DESCR_COUNT);
1465
1466     for (pid = 0; pid < NB_PID_MAX; pid++) {
1467         if (!ts->pids[pid])
1468             continue;
1469         for (i = 0; i < mp4_descr_count; i++) {
1470             PESContext *pes;
1471             AVStream *st;
1472             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1473                 continue;
1474             if (ts->pids[pid]->type != MPEGTS_PES) {
1475                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1476                 continue;
1477             }
1478             pes = ts->pids[pid]->u.pes_filter.opaque;
1479             st  = pes->st;
1480             if (!st)
1481                 continue;
1482
1483             pes->sl = mp4_descr[i].sl;
1484
1485             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1486                               mp4_descr[i].dec_config_descr_len, 0,
1487                               NULL, NULL, NULL, NULL);
1488             ff_mp4_read_dec_config_descr(s, st, &pb);
1489             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1490                 st->codec->extradata_size > 0)
1491                 st->need_parsing = 0;
1492             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1493                 st->codec->extradata_size > 0)
1494                 st->need_parsing = 0;
1495
1496             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1497                 // do nothing
1498             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO)
1499                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1500             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE)
1501                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1502             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN)
1503                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1504         }
1505     }
1506     for (i = 0; i < mp4_descr_count; i++)
1507         av_free(mp4_descr[i].dec_config_descr);
1508 }
1509
1510 static const uint8_t opus_coupled_stream_cnt[9] = {
1511     1, 0, 1, 1, 2, 2, 2, 3, 3
1512 };
1513
1514 static const uint8_t opus_channel_map[8][8] = {
1515     { 0 },
1516     { 0,1 },
1517     { 0,2,1 },
1518     { 0,1,2,3 },
1519     { 0,4,1,2,3 },
1520     { 0,4,1,2,3,5 },
1521     { 0,4,1,2,3,5,6 },
1522     { 0,6,1,2,3,4,5,7 },
1523 };
1524
1525 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1526                               const uint8_t **pp, const uint8_t *desc_list_end,
1527                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1528                               MpegTSContext *ts)
1529 {
1530     const uint8_t *desc_end;
1531     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1532     char language[252];
1533     int i;
1534
1535     desc_tag = get8(pp, desc_list_end);
1536     if (desc_tag < 0)
1537         return AVERROR_INVALIDDATA;
1538     desc_len = get8(pp, desc_list_end);
1539     if (desc_len < 0)
1540         return AVERROR_INVALIDDATA;
1541     desc_end = *pp + desc_len;
1542     if (desc_end > desc_list_end)
1543         return AVERROR_INVALIDDATA;
1544
1545     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1546
1547     if ((st->codec->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1548         stream_type == STREAM_TYPE_PRIVATE_DATA)
1549         mpegts_find_stream_type(st, desc_tag, DESC_types);
1550
1551     switch (desc_tag) {
1552     case 0x1E: /* SL descriptor */
1553         desc_es_id = get16(pp, desc_end);
1554         if (ts && ts->pids[pid])
1555             ts->pids[pid]->es_id = desc_es_id;
1556         for (i = 0; i < mp4_descr_count; i++)
1557             if (mp4_descr[i].dec_config_descr_len &&
1558                 mp4_descr[i].es_id == desc_es_id) {
1559                 AVIOContext pb;
1560                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1561                                   mp4_descr[i].dec_config_descr_len, 0,
1562                                   NULL, NULL, NULL, NULL);
1563                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1564                 if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1565                     st->codec->extradata_size > 0)
1566                     st->need_parsing = 0;
1567                 if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1568                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1569             }
1570         break;
1571     case 0x1F: /* FMC descriptor */
1572         get16(pp, desc_end);
1573         if (mp4_descr_count > 0 &&
1574             (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe > 0) &&
1575             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1576             AVIOContext pb;
1577             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1578                               mp4_descr->dec_config_descr_len, 0,
1579                               NULL, NULL, NULL, NULL);
1580             ff_mp4_read_dec_config_descr(fc, st, &pb);
1581             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1582                 st->codec->extradata_size > 0) {
1583                 st->request_probe = st->need_parsing = 0;
1584                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1585             }
1586         }
1587         break;
1588     case 0x56: /* DVB teletext descriptor */
1589         {
1590             uint8_t *extradata = NULL;
1591             int language_count = desc_len / 5;
1592
1593             if (desc_len > 0 && desc_len % 5 != 0)
1594                 return AVERROR_INVALIDDATA;
1595
1596             if (language_count > 0) {
1597                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1598                 if (language_count > sizeof(language) / 4) {
1599                     language_count = sizeof(language) / 4;
1600                 }
1601
1602                 if (st->codec->extradata == NULL) {
1603                     if (ff_alloc_extradata(st->codec, language_count * 2)) {
1604                         return AVERROR(ENOMEM);
1605                     }
1606                 }
1607
1608                if (st->codec->extradata_size < language_count * 2)
1609                    return AVERROR_INVALIDDATA;
1610
1611                extradata = st->codec->extradata;
1612
1613                 for (i = 0; i < language_count; i++) {
1614                     language[i * 4 + 0] = get8(pp, desc_end);
1615                     language[i * 4 + 1] = get8(pp, desc_end);
1616                     language[i * 4 + 2] = get8(pp, desc_end);
1617                     language[i * 4 + 3] = ',';
1618
1619                     memcpy(extradata, *pp, 2);
1620                     extradata += 2;
1621
1622                     *pp += 2;
1623                 }
1624
1625                 language[i * 4 - 1] = 0;
1626                 av_dict_set(&st->metadata, "language", language, 0);
1627             }
1628         }
1629         break;
1630     case 0x59: /* subtitling descriptor */
1631         {
1632             /* 8 bytes per DVB subtitle substream data:
1633              * ISO_639_language_code (3 bytes),
1634              * subtitling_type (1 byte),
1635              * composition_page_id (2 bytes),
1636              * ancillary_page_id (2 bytes) */
1637             int language_count = desc_len / 8;
1638
1639             if (desc_len > 0 && desc_len % 8 != 0)
1640                 return AVERROR_INVALIDDATA;
1641
1642             if (language_count > 1) {
1643                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1644             }
1645
1646             if (language_count > 0) {
1647                 uint8_t *extradata;
1648
1649                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1650                 if (language_count > sizeof(language) / 4) {
1651                     language_count = sizeof(language) / 4;
1652                 }
1653
1654                 if (st->codec->extradata == NULL) {
1655                     if (ff_alloc_extradata(st->codec, language_count * 5)) {
1656                         return AVERROR(ENOMEM);
1657                     }
1658                 }
1659
1660                 if (st->codec->extradata_size < language_count * 5)
1661                     return AVERROR_INVALIDDATA;
1662
1663                 extradata = st->codec->extradata;
1664
1665                 for (i = 0; i < language_count; i++) {
1666                     language[i * 4 + 0] = get8(pp, desc_end);
1667                     language[i * 4 + 1] = get8(pp, desc_end);
1668                     language[i * 4 + 2] = get8(pp, desc_end);
1669                     language[i * 4 + 3] = ',';
1670
1671                     /* hearing impaired subtitles detection using subtitling_type */
1672                     switch (*pp[0]) {
1673                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1674                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1675                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1676                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1677                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1678                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1679                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1680                         break;
1681                     }
1682
1683                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1684                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1685                     extradata += 5;
1686
1687                     *pp += 4;
1688                 }
1689
1690                 language[i * 4 - 1] = 0;
1691                 av_dict_set(&st->metadata, "language", language, 0);
1692             }
1693         }
1694         break;
1695     case 0x0a: /* ISO 639 language descriptor */
1696         for (i = 0; i + 4 <= desc_len; i += 4) {
1697             language[i + 0] = get8(pp, desc_end);
1698             language[i + 1] = get8(pp, desc_end);
1699             language[i + 2] = get8(pp, desc_end);
1700             language[i + 3] = ',';
1701             switch (get8(pp, desc_end)) {
1702             case 0x01:
1703                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1704                 break;
1705             case 0x02:
1706                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1707                 break;
1708             case 0x03:
1709                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1710                 break;
1711             }
1712         }
1713         if (i && language[0]) {
1714             language[i - 1] = 0;
1715             av_dict_set(&st->metadata, "language", language, 0);
1716         }
1717         break;
1718     case 0x05: /* registration descriptor */
1719         st->codec->codec_tag = bytestream_get_le32(pp);
1720         av_dlog(fc, "reg_desc=%.4s\n", (char *)&st->codec->codec_tag);
1721         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1722             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1723         break;
1724     case 0x52: /* stream identifier descriptor */
1725         st->stream_identifier = 1 + get8(pp, desc_end);
1726         break;
1727     case 0x26: /* metadata descriptor */
1728         if (get16(pp, desc_end) == 0xFFFF)
1729             *pp += 4;
1730         if (get8(pp, desc_end) == 0xFF) {
1731             st->codec->codec_tag = bytestream_get_le32(pp);
1732             if (st->codec->codec_id == AV_CODEC_ID_NONE)
1733                 mpegts_find_stream_type(st, st->codec->codec_tag, METADATA_types);
1734         }
1735         break;
1736     case 0x7f: /* DVB extension descriptor */
1737         ext_desc_tag = get8(pp, desc_end);
1738         if (ext_desc_tag < 0)
1739             return AVERROR_INVALIDDATA;
1740         if (st->codec->codec_id == AV_CODEC_ID_OPUS &&
1741             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1742             if (!st->codec->extradata) {
1743                 st->codec->extradata = av_mallocz(sizeof(opus_default_extradata) +
1744                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1745                 if (!st->codec->extradata)
1746                     return AVERROR(ENOMEM);
1747
1748                 st->codec->extradata_size = sizeof(opus_default_extradata);
1749                 memcpy(st->codec->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1750
1751                 channel_config_code = get8(pp, desc_end);
1752                 if (channel_config_code < 0)
1753                     return AVERROR_INVALIDDATA;
1754                 if (channel_config_code <= 0x8) {
1755                     st->codec->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1756                     st->codec->extradata[18] = channels > 2;
1757                     st->codec->extradata[19] = channel_config_code;
1758                     if (channel_config_code == 0) { /* Dual Mono */
1759                         st->codec->extradata[18] = 255; /* Mapping */
1760                         st->codec->extradata[19] = 2;   /* Stream Count */
1761                     }
1762                     st->codec->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1763                     memcpy(&st->codec->extradata[21], opus_channel_map[channels - 1], channels);
1764                 } else {
1765                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1766                 }
1767                 st->need_parsing = AVSTREAM_PARSE_FULL;
1768             }
1769         }
1770         break;
1771     default:
1772         break;
1773     }
1774     *pp = desc_end;
1775     return 0;
1776 }
1777
1778 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1779 {
1780     MpegTSContext *ts = filter->u.section_filter.opaque;
1781     SectionHeader h1, *h = &h1;
1782     PESContext *pes;
1783     AVStream *st;
1784     const uint8_t *p, *p_end, *desc_list_end;
1785     int program_info_length, pcr_pid, pid, stream_type;
1786     int desc_list_len;
1787     uint32_t prog_reg_desc = 0; /* registration descriptor */
1788
1789     int mp4_descr_count = 0;
1790     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1791     int i;
1792
1793     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1794     hex_dump_debug(ts->stream, section, section_len);
1795
1796     p_end = section + section_len - 4;
1797     p = section;
1798     if (parse_section_header(h, &p, p_end) < 0)
1799         return;
1800
1801     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d version=%d\n",
1802             h->id, h->sec_num, h->last_sec_num, h->version);
1803
1804     if (h->tid != PMT_TID)
1805         return;
1806
1807     if (!ts->skip_clear)
1808         clear_program(ts, h->id);
1809
1810     pcr_pid = get16(&p, p_end);
1811     if (pcr_pid < 0)
1812         return;
1813     pcr_pid &= 0x1fff;
1814     add_pid_to_pmt(ts, h->id, pcr_pid);
1815     set_pcr_pid(ts->stream, h->id, pcr_pid);
1816
1817     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1818
1819     program_info_length = get16(&p, p_end);
1820     if (program_info_length < 0)
1821         return;
1822     program_info_length &= 0xfff;
1823     while (program_info_length >= 2) {
1824         uint8_t tag, len;
1825         tag = get8(&p, p_end);
1826         len = get8(&p, p_end);
1827
1828         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1829
1830         if (len > program_info_length - 2)
1831             // something else is broken, exit the program_descriptors_loop
1832             break;
1833         program_info_length -= len + 2;
1834         if (tag == 0x1d) { // IOD descriptor
1835             get8(&p, p_end); // scope
1836             get8(&p, p_end); // label
1837             len -= 2;
1838             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1839                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1840         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1841             prog_reg_desc = bytestream_get_le32(&p);
1842             len -= 4;
1843         }
1844         p += len;
1845     }
1846     p += program_info_length;
1847     if (p >= p_end)
1848         goto out;
1849
1850     // stop parsing after pmt, we found header
1851     if (!ts->stream->nb_streams)
1852         ts->stop_parse = 2;
1853
1854     set_pmt_found(ts, h->id);
1855
1856
1857     for (;;) {
1858         st = 0;
1859         pes = NULL;
1860         stream_type = get8(&p, p_end);
1861         if (stream_type < 0)
1862             break;
1863         pid = get16(&p, p_end);
1864         if (pid < 0)
1865             goto out;
1866         pid &= 0x1fff;
1867         if (pid == ts->current_pid)
1868             goto out;
1869
1870         /* now create stream */
1871         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1872             pes = ts->pids[pid]->u.pes_filter.opaque;
1873             if (!pes->st) {
1874                 pes->st     = avformat_new_stream(pes->stream, NULL);
1875                 if (!pes->st)
1876                     goto out;
1877                 pes->st->id = pes->pid;
1878             }
1879             st = pes->st;
1880         } else if (stream_type != 0x13) {
1881             if (ts->pids[pid])
1882                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1883             pes = add_pes_stream(ts, pid, pcr_pid);
1884             if (pes) {
1885                 st = avformat_new_stream(pes->stream, NULL);
1886                 if (!st)
1887                     goto out;
1888                 st->id = pes->pid;
1889             }
1890         } else {
1891             int idx = ff_find_stream_index(ts->stream, pid);
1892             if (idx >= 0) {
1893                 st = ts->stream->streams[idx];
1894             } else {
1895                 st = avformat_new_stream(ts->stream, NULL);
1896                 if (!st)
1897                     goto out;
1898                 st->id = pid;
1899                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1900             }
1901         }
1902
1903         if (!st)
1904             goto out;
1905
1906         if (pes && !pes->stream_type)
1907             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1908
1909         add_pid_to_pmt(ts, h->id, pid);
1910
1911         ff_program_add_stream_index(ts->stream, h->id, st->index);
1912
1913         desc_list_len = get16(&p, p_end);
1914         if (desc_list_len < 0)
1915             goto out;
1916         desc_list_len &= 0xfff;
1917         desc_list_end  = p + desc_list_len;
1918         if (desc_list_end > p_end)
1919             goto out;
1920         for (;;) {
1921             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
1922                                           desc_list_end, mp4_descr,
1923                                           mp4_descr_count, pid, ts) < 0)
1924                 break;
1925
1926             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
1927                 stream_type == 0x83 && pes->sub_st) {
1928                 ff_program_add_stream_index(ts->stream, h->id,
1929                                             pes->sub_st->index);
1930                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1931             }
1932         }
1933         p = desc_list_end;
1934     }
1935
1936     if (!ts->pids[pcr_pid])
1937         mpegts_open_pcr_filter(ts, pcr_pid);
1938
1939 out:
1940     for (i = 0; i < mp4_descr_count; i++)
1941         av_free(mp4_descr[i].dec_config_descr);
1942 }
1943
1944 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1945 {
1946     MpegTSContext *ts = filter->u.section_filter.opaque;
1947     SectionHeader h1, *h = &h1;
1948     const uint8_t *p, *p_end;
1949     int sid, pmt_pid;
1950     AVProgram *program;
1951
1952     av_dlog(ts->stream, "PAT:\n");
1953     hex_dump_debug(ts->stream, section, section_len);
1954
1955     p_end = section + section_len - 4;
1956     p     = section;
1957     if (parse_section_header(h, &p, p_end) < 0)
1958         return;
1959     if (h->tid != PAT_TID)
1960         return;
1961     if (ts->skip_changes)
1962         return;
1963
1964     ts->stream->ts_id = h->id;
1965
1966     clear_programs(ts);
1967     for (;;) {
1968         sid = get16(&p, p_end);
1969         if (sid < 0)
1970             break;
1971         pmt_pid = get16(&p, p_end);
1972         if (pmt_pid < 0)
1973             break;
1974         pmt_pid &= 0x1fff;
1975
1976         if (pmt_pid == ts->current_pid)
1977             break;
1978
1979         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1980
1981         if (sid == 0x0000) {
1982             /* NIT info */
1983         } else {
1984             MpegTSFilter *fil = ts->pids[pmt_pid];
1985             program = av_new_program(ts->stream, sid);
1986             if (program) {
1987                 program->program_num = sid;
1988                 program->pmt_pid = pmt_pid;
1989             }
1990             if (fil)
1991                 if (   fil->type != MPEGTS_SECTION
1992                     || fil->pid != pmt_pid
1993                     || fil->u.section_filter.section_cb != pmt_cb)
1994                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
1995
1996             if (!ts->pids[pmt_pid])
1997                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1998             add_pat_entry(ts, sid);
1999             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2000             add_pid_to_pmt(ts, sid, pmt_pid);
2001         }
2002     }
2003
2004     if (sid < 0) {
2005         int i,j;
2006         for (j=0; j<ts->stream->nb_programs; j++) {
2007             for (i = 0; i < ts->nb_prg; i++)
2008                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2009                     break;
2010             if (i==ts->nb_prg && !ts->skip_clear)
2011                 clear_avprogram(ts, ts->stream->programs[j]->id);
2012         }
2013     }
2014 }
2015
2016 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2017 {
2018     MpegTSContext *ts = filter->u.section_filter.opaque;
2019     SectionHeader h1, *h = &h1;
2020     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2021     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2022     char *name, *provider_name;
2023
2024     av_dlog(ts->stream, "SDT:\n");
2025     hex_dump_debug(ts->stream, section, section_len);
2026
2027     p_end = section + section_len - 4;
2028     p     = section;
2029     if (parse_section_header(h, &p, p_end) < 0)
2030         return;
2031     if (h->tid != SDT_TID)
2032         return;
2033     if (ts->skip_changes)
2034         return;
2035     onid = get16(&p, p_end);
2036     if (onid < 0)
2037         return;
2038     val = get8(&p, p_end);
2039     if (val < 0)
2040         return;
2041     for (;;) {
2042         sid = get16(&p, p_end);
2043         if (sid < 0)
2044             break;
2045         val = get8(&p, p_end);
2046         if (val < 0)
2047             break;
2048         desc_list_len = get16(&p, p_end);
2049         if (desc_list_len < 0)
2050             break;
2051         desc_list_len &= 0xfff;
2052         desc_list_end  = p + desc_list_len;
2053         if (desc_list_end > p_end)
2054             break;
2055         for (;;) {
2056             desc_tag = get8(&p, desc_list_end);
2057             if (desc_tag < 0)
2058                 break;
2059             desc_len = get8(&p, desc_list_end);
2060             desc_end = p + desc_len;
2061             if (desc_len < 0 || desc_end > desc_list_end)
2062                 break;
2063
2064             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
2065                     desc_tag, desc_len);
2066
2067             switch (desc_tag) {
2068             case 0x48:
2069                 service_type = get8(&p, p_end);
2070                 if (service_type < 0)
2071                     break;
2072                 provider_name = getstr8(&p, p_end);
2073                 if (!provider_name)
2074                     break;
2075                 name = getstr8(&p, p_end);
2076                 if (name) {
2077                     AVProgram *program = av_new_program(ts->stream, sid);
2078                     if (program) {
2079                         av_dict_set(&program->metadata, "service_name", name, 0);
2080                         av_dict_set(&program->metadata, "service_provider",
2081                                     provider_name, 0);
2082                     }
2083                 }
2084                 av_free(name);
2085                 av_free(provider_name);
2086                 break;
2087             default:
2088                 break;
2089             }
2090             p = desc_end;
2091         }
2092         p = desc_list_end;
2093     }
2094 }
2095
2096 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2097                      const uint8_t *packet);
2098
2099 /* handle one TS packet */
2100 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2101 {
2102     MpegTSFilter *tss;
2103     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2104         has_adaptation, has_payload;
2105     const uint8_t *p, *p_end;
2106     int64_t pos;
2107
2108     pid = AV_RB16(packet + 1) & 0x1fff;
2109     if (pid && discard_pid(ts, pid))
2110         return 0;
2111     is_start = packet[1] & 0x40;
2112     tss = ts->pids[pid];
2113     if (ts->auto_guess && !tss && is_start) {
2114         add_pes_stream(ts, pid, -1);
2115         tss = ts->pids[pid];
2116     }
2117     if (!tss)
2118         return 0;
2119     ts->current_pid = pid;
2120
2121     afc = (packet[3] >> 4) & 3;
2122     if (afc == 0) /* reserved value */
2123         return 0;
2124     has_adaptation   = afc & 2;
2125     has_payload      = afc & 1;
2126     is_discontinuity = has_adaptation &&
2127                        packet[4] != 0 && /* with length > 0 */
2128                        (packet[5] & 0x80); /* and discontinuity indicated */
2129
2130     /* continuity check (currently not used) */
2131     cc = (packet[3] & 0xf);
2132     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2133     cc_ok = pid == 0x1FFF || // null packet PID
2134             is_discontinuity ||
2135             tss->last_cc < 0 ||
2136             expected_cc == cc;
2137
2138     tss->last_cc = cc;
2139     if (!cc_ok) {
2140         av_log(ts->stream, AV_LOG_DEBUG,
2141                "Continuity check failed for pid %d expected %d got %d\n",
2142                pid, expected_cc, cc);
2143         if (tss->type == MPEGTS_PES) {
2144             PESContext *pc = tss->u.pes_filter.opaque;
2145             pc->flags |= AV_PKT_FLAG_CORRUPT;
2146         }
2147     }
2148
2149     p = packet + 4;
2150     if (has_adaptation) {
2151         int64_t pcr_h;
2152         int pcr_l;
2153         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2154             tss->last_pcr = pcr_h * 300 + pcr_l;
2155         /* skip adaptation field */
2156         p += p[0] + 1;
2157     }
2158     /* if past the end of packet, ignore */
2159     p_end = packet + TS_PACKET_SIZE;
2160     if (p >= p_end || !has_payload)
2161         return 0;
2162
2163     pos = avio_tell(ts->stream->pb);
2164     if (pos >= 0) {
2165         av_assert0(pos >= TS_PACKET_SIZE);
2166         ts->pos47_full = pos - TS_PACKET_SIZE;
2167     }
2168
2169     if (tss->type == MPEGTS_SECTION) {
2170         if (is_start) {
2171             /* pointer field present */
2172             len = *p++;
2173             if (p + len > p_end)
2174                 return 0;
2175             if (len && cc_ok) {
2176                 /* write remaining section bytes */
2177                 write_section_data(ts, tss,
2178                                    p, len, 0);
2179                 /* check whether filter has been closed */
2180                 if (!ts->pids[pid])
2181                     return 0;
2182             }
2183             p += len;
2184             if (p < p_end) {
2185                 write_section_data(ts, tss,
2186                                    p, p_end - p, 1);
2187             }
2188         } else {
2189             if (cc_ok) {
2190                 write_section_data(ts, tss,
2191                                    p, p_end - p, 0);
2192             }
2193         }
2194
2195         // stop find_stream_info from waiting for more streams
2196         // when all programs have received a PMT
2197         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER) {
2198             int i;
2199             for (i = 0; i < ts->nb_prg; i++) {
2200                 if (!ts->prg[i].pmt_found)
2201                     break;
2202             }
2203             if (i == ts->nb_prg && ts->nb_prg > 0) {
2204                 if (ts->stream->nb_streams > 1 || pos > 100000) {
2205                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2206                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2207                 }
2208             }
2209         }
2210
2211     } else {
2212         int ret;
2213         // Note: The position here points actually behind the current packet.
2214         if (tss->type == MPEGTS_PES) {
2215             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2216                                                 pos - ts->raw_packet_size)) < 0)
2217                 return ret;
2218         }
2219     }
2220
2221     return 0;
2222 }
2223
2224 static void reanalyze(MpegTSContext *ts) {
2225     AVIOContext *pb = ts->stream->pb;
2226     int64_t pos = avio_tell(pb);
2227     if (pos < 0)
2228         return;
2229     pos -= ts->pos47_full;
2230     if (pos == TS_PACKET_SIZE) {
2231         ts->size_stat[0] ++;
2232     } else if (pos == TS_DVHS_PACKET_SIZE) {
2233         ts->size_stat[1] ++;
2234     } else if (pos == TS_FEC_PACKET_SIZE) {
2235         ts->size_stat[2] ++;
2236     }
2237
2238     ts->size_stat_count ++;
2239     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2240         int newsize = 0;
2241         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2242             newsize = TS_PACKET_SIZE;
2243         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2244             newsize = TS_DVHS_PACKET_SIZE;
2245         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2246             newsize = TS_FEC_PACKET_SIZE;
2247         }
2248         if (newsize && newsize != ts->raw_packet_size) {
2249             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2250             ts->raw_packet_size = newsize;
2251         }
2252         ts->size_stat_count = 0;
2253         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2254     }
2255 }
2256
2257 /* XXX: try to find a better synchro over several packets (use
2258  * get_packet_size() ?) */
2259 static int mpegts_resync(AVFormatContext *s)
2260 {
2261     MpegTSContext *ts = s->priv_data;
2262     AVIOContext *pb = s->pb;
2263     int c, i;
2264
2265     for (i = 0; i < ts->resync_size; i++) {
2266         c = avio_r8(pb);
2267         if (avio_feof(pb))
2268             return AVERROR_EOF;
2269         if (c == 0x47) {
2270             avio_seek(pb, -1, SEEK_CUR);
2271             reanalyze(s->priv_data);
2272             return 0;
2273         }
2274     }
2275     av_log(s, AV_LOG_ERROR,
2276            "max resync size reached, could not find sync byte\n");
2277     /* no sync found */
2278     return AVERROR_INVALIDDATA;
2279 }
2280
2281 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2282 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2283                        const uint8_t **data)
2284 {
2285     AVIOContext *pb = s->pb;
2286     int len;
2287
2288     for (;;) {
2289         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2290         if (len != TS_PACKET_SIZE)
2291             return len < 0 ? len : AVERROR_EOF;
2292         /* check packet sync byte */
2293         if ((*data)[0] != 0x47) {
2294             /* find a new packet start */
2295             uint64_t pos = avio_tell(pb);
2296             avio_seek(pb, -FFMIN(raw_packet_size, pos), SEEK_CUR);
2297
2298             if (mpegts_resync(s) < 0)
2299                 return AVERROR(EAGAIN);
2300             else
2301                 continue;
2302         } else {
2303             break;
2304         }
2305     }
2306     return 0;
2307 }
2308
2309 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2310 {
2311     AVIOContext *pb = s->pb;
2312     int skip = raw_packet_size - TS_PACKET_SIZE;
2313     if (skip > 0)
2314         avio_skip(pb, skip);
2315 }
2316
2317 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2318 {
2319     AVFormatContext *s = ts->stream;
2320     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
2321     const uint8_t *data;
2322     int64_t packet_num;
2323     int ret = 0;
2324
2325     if (avio_tell(s->pb) != ts->last_pos) {
2326         int i;
2327         av_dlog(ts->stream, "Skipping after seek\n");
2328         /* seek detected, flush pes buffer */
2329         for (i = 0; i < NB_PID_MAX; i++) {
2330             if (ts->pids[i]) {
2331                 if (ts->pids[i]->type == MPEGTS_PES) {
2332                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2333                     av_buffer_unref(&pes->buffer);
2334                     pes->data_index = 0;
2335                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2336                 }
2337                 ts->pids[i]->last_cc = -1;
2338                 ts->pids[i]->last_pcr = -1;
2339             }
2340         }
2341     }
2342
2343     ts->stop_parse = 0;
2344     packet_num = 0;
2345     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
2346     for (;;) {
2347         packet_num++;
2348         if (nb_packets != 0 && packet_num >= nb_packets ||
2349             ts->stop_parse > 1) {
2350             ret = AVERROR(EAGAIN);
2351             break;
2352         }
2353         if (ts->stop_parse > 0)
2354             break;
2355
2356         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2357         if (ret != 0)
2358             break;
2359         ret = handle_packet(ts, data);
2360         finished_reading_packet(s, ts->raw_packet_size);
2361         if (ret != 0)
2362             break;
2363     }
2364     ts->last_pos = avio_tell(s->pb);
2365     return ret;
2366 }
2367
2368 static int mpegts_probe(AVProbeData *p)
2369 {
2370     const int size = p->buf_size;
2371     int maxscore = 0;
2372     int sumscore = 0;
2373     int i;
2374     int check_count = size / TS_FEC_PACKET_SIZE;
2375 #define CHECK_COUNT 10
2376 #define CHECK_BLOCK 100
2377
2378     if (check_count < CHECK_COUNT)
2379         return AVERROR_INVALIDDATA;
2380
2381     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2382         int left = FFMIN(check_count - i, CHECK_BLOCK);
2383         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL);
2384         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL);
2385         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL);
2386         score = FFMAX3(score, dvhs_score, fec_score);
2387         sumscore += score;
2388         maxscore = FFMAX(maxscore, score);
2389     }
2390
2391     sumscore = sumscore * CHECK_COUNT / check_count;
2392     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2393
2394     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2395
2396     if      (sumscore > 6) return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2397     else if (maxscore > 6) return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2398     else
2399         return AVERROR_INVALIDDATA;
2400 }
2401
2402 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2403  * (-1) if not available */
2404 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2405 {
2406     int afc, len, flags;
2407     const uint8_t *p;
2408     unsigned int v;
2409
2410     afc = (packet[3] >> 4) & 3;
2411     if (afc <= 1)
2412         return AVERROR_INVALIDDATA;
2413     p   = packet + 4;
2414     len = p[0];
2415     p++;
2416     if (len == 0)
2417         return AVERROR_INVALIDDATA;
2418     flags = *p++;
2419     len--;
2420     if (!(flags & 0x10))
2421         return AVERROR_INVALIDDATA;
2422     if (len < 6)
2423         return AVERROR_INVALIDDATA;
2424     v          = AV_RB32(p);
2425     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2426     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2427     return 0;
2428 }
2429
2430 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2431
2432     /* NOTE: We attempt to seek on non-seekable files as well, as the
2433      * probe buffer usually is big enough. Only warn if the seek failed
2434      * on files where the seek should work. */
2435     if (avio_seek(pb, pos, SEEK_SET) < 0)
2436         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2437 }
2438
2439 static int mpegts_read_header(AVFormatContext *s)
2440 {
2441     MpegTSContext *ts = s->priv_data;
2442     AVIOContext *pb   = s->pb;
2443     uint8_t buf[8 * 1024] = {0};
2444     int len;
2445     int64_t pos, probesize = s->probesize ? s->probesize : s->probesize2;
2446
2447     ffio_ensure_seekback(pb, probesize);
2448
2449     /* read the first 8192 bytes to get packet size */
2450     pos = avio_tell(pb);
2451     len = avio_read(pb, buf, sizeof(buf));
2452     ts->raw_packet_size = get_packet_size(buf, len);
2453     if (ts->raw_packet_size <= 0) {
2454         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2455         ts->raw_packet_size = TS_PACKET_SIZE;
2456     }
2457     ts->stream     = s;
2458     ts->auto_guess = 0;
2459
2460     if (s->iformat == &ff_mpegts_demuxer) {
2461         /* normal demux */
2462
2463         /* first do a scan to get all the services */
2464         seek_back(s, pb, pos);
2465
2466         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2467
2468         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2469
2470         handle_packets(ts, probesize / ts->raw_packet_size);
2471         /* if could not find service, enable auto_guess */
2472
2473         ts->auto_guess = 1;
2474
2475         av_dlog(ts->stream, "tuning done\n");
2476
2477         s->ctx_flags |= AVFMTCTX_NOHEADER;
2478     } else {
2479         AVStream *st;
2480         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2481         int64_t pcrs[2], pcr_h;
2482         int packet_count[2];
2483         uint8_t packet[TS_PACKET_SIZE];
2484         const uint8_t *data;
2485
2486         /* only read packets */
2487
2488         st = avformat_new_stream(s, NULL);
2489         if (!st)
2490             return AVERROR(ENOMEM);
2491         avpriv_set_pts_info(st, 60, 1, 27000000);
2492         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2493         st->codec->codec_id   = AV_CODEC_ID_MPEG2TS;
2494
2495         /* we iterate until we find two PCRs to estimate the bitrate */
2496         pcr_pid    = -1;
2497         nb_pcrs    = 0;
2498         nb_packets = 0;
2499         for (;;) {
2500             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2501             if (ret < 0)
2502                 return ret;
2503             pid = AV_RB16(data + 1) & 0x1fff;
2504             if ((pcr_pid == -1 || pcr_pid == pid) &&
2505                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2506                 finished_reading_packet(s, ts->raw_packet_size);
2507                 pcr_pid = pid;
2508                 packet_count[nb_pcrs] = nb_packets;
2509                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2510                 nb_pcrs++;
2511                 if (nb_pcrs >= 2)
2512                     break;
2513             } else {
2514                 finished_reading_packet(s, ts->raw_packet_size);
2515             }
2516             nb_packets++;
2517         }
2518
2519         /* NOTE1: the bitrate is computed without the FEC */
2520         /* NOTE2: it is only the bitrate of the start of the stream */
2521         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2522         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2523         s->bit_rate  = TS_PACKET_SIZE * 8 * 27e6 / ts->pcr_incr;
2524         st->codec->bit_rate = s->bit_rate;
2525         st->start_time      = ts->cur_pcr;
2526         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2527                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2528     }
2529
2530     seek_back(s, pb, pos);
2531     return 0;
2532 }
2533
2534 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2535
2536 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2537 {
2538     MpegTSContext *ts = s->priv_data;
2539     int ret, i;
2540     int64_t pcr_h, next_pcr_h, pos;
2541     int pcr_l, next_pcr_l;
2542     uint8_t pcr_buf[12];
2543     const uint8_t *data;
2544
2545     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2546         return AVERROR(ENOMEM);
2547     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2548     pkt->pos = avio_tell(s->pb);
2549     if (ret < 0) {
2550         av_free_packet(pkt);
2551         return ret;
2552     }
2553     if (data != pkt->data)
2554         memcpy(pkt->data, data, ts->raw_packet_size);
2555     finished_reading_packet(s, ts->raw_packet_size);
2556     if (ts->mpeg2ts_compute_pcr) {
2557         /* compute exact PCR for each packet */
2558         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2559             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2560             pos = avio_tell(s->pb);
2561             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2562                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2563                 avio_read(s->pb, pcr_buf, 12);
2564                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2565                     /* XXX: not precise enough */
2566                     ts->pcr_incr =
2567                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2568                         (i + 1);
2569                     break;
2570                 }
2571             }
2572             avio_seek(s->pb, pos, SEEK_SET);
2573             /* no next PCR found: we use previous increment */
2574             ts->cur_pcr = pcr_h * 300 + pcr_l;
2575         }
2576         pkt->pts      = ts->cur_pcr;
2577         pkt->duration = ts->pcr_incr;
2578         ts->cur_pcr  += ts->pcr_incr;
2579     }
2580     pkt->stream_index = 0;
2581     return 0;
2582 }
2583
2584 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2585 {
2586     MpegTSContext *ts = s->priv_data;
2587     int ret, i;
2588
2589     pkt->size = -1;
2590     ts->pkt = pkt;
2591     ret = handle_packets(ts, 0);
2592     if (ret < 0) {
2593         av_free_packet(ts->pkt);
2594         /* flush pes data left */
2595         for (i = 0; i < NB_PID_MAX; i++)
2596             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2597                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2598                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2599                     new_pes_packet(pes, pkt);
2600                     pes->state = MPEGTS_SKIP;
2601                     ret = 0;
2602                     break;
2603                 }
2604             }
2605     }
2606
2607     if (!ret && pkt->size < 0)
2608         ret = AVERROR(EINTR);
2609     return ret;
2610 }
2611
2612 static void mpegts_free(MpegTSContext *ts)
2613 {
2614     int i;
2615
2616     clear_programs(ts);
2617
2618     for (i = 0; i < NB_PID_MAX; i++)
2619         if (ts->pids[i])
2620             mpegts_close_filter(ts, ts->pids[i]);
2621 }
2622
2623 static int mpegts_read_close(AVFormatContext *s)
2624 {
2625     MpegTSContext *ts = s->priv_data;
2626     mpegts_free(ts);
2627     return 0;
2628 }
2629
2630 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2631                               int64_t *ppos, int64_t pos_limit)
2632 {
2633     MpegTSContext *ts = s->priv_data;
2634     int64_t pos, timestamp;
2635     uint8_t buf[TS_PACKET_SIZE];
2636     int pcr_l, pcr_pid =
2637         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2638     int pos47 = ts->pos47_full % ts->raw_packet_size;
2639     pos =
2640         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2641         ts->raw_packet_size + pos47;
2642     while(pos < pos_limit) {
2643         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2644             return AV_NOPTS_VALUE;
2645         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2646             return AV_NOPTS_VALUE;
2647         if (buf[0] != 0x47) {
2648             avio_seek(s->pb, -TS_PACKET_SIZE, SEEK_CUR);
2649             if (mpegts_resync(s) < 0)
2650                 return AV_NOPTS_VALUE;
2651             pos = avio_tell(s->pb);
2652             continue;
2653         }
2654         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2655             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2656             *ppos = pos;
2657             return timestamp;
2658         }
2659         pos += ts->raw_packet_size;
2660     }
2661
2662     return AV_NOPTS_VALUE;
2663 }
2664
2665 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2666                               int64_t *ppos, int64_t pos_limit)
2667 {
2668     MpegTSContext *ts = s->priv_data;
2669     int64_t pos;
2670     int pos47 = ts->pos47_full % ts->raw_packet_size;
2671     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2672     ff_read_frame_flush(s);
2673     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2674         return AV_NOPTS_VALUE;
2675     while(pos < pos_limit) {
2676         int ret;
2677         AVPacket pkt;
2678         av_init_packet(&pkt);
2679         ret = av_read_frame(s, &pkt);
2680         if (ret < 0)
2681             return AV_NOPTS_VALUE;
2682         av_free_packet(&pkt);
2683         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2684             ff_reduce_index(s, pkt.stream_index);
2685             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2686             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2687                 *ppos = pkt.pos;
2688                 return pkt.dts;
2689             }
2690         }
2691         pos = pkt.pos;
2692     }
2693
2694     return AV_NOPTS_VALUE;
2695 }
2696
2697 /**************************************************************/
2698 /* parsing functions - called from other demuxers such as RTP */
2699
2700 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2701 {
2702     MpegTSContext *ts;
2703
2704     ts = av_mallocz(sizeof(MpegTSContext));
2705     if (!ts)
2706         return NULL;
2707     /* no stream case, currently used by RTP */
2708     ts->raw_packet_size = TS_PACKET_SIZE;
2709     ts->stream = s;
2710     ts->auto_guess = 1;
2711     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2712     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2713
2714     return ts;
2715 }
2716
2717 /* return the consumed length if a packet was output, or -1 if no
2718  * packet is output */
2719 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2720                                const uint8_t *buf, int len)
2721 {
2722     int len1;
2723
2724     len1 = len;
2725     ts->pkt = pkt;
2726     for (;;) {
2727         ts->stop_parse = 0;
2728         if (len < TS_PACKET_SIZE)
2729             return AVERROR_INVALIDDATA;
2730         if (buf[0] != 0x47) {
2731             buf++;
2732             len--;
2733         } else {
2734             handle_packet(ts, buf);
2735             buf += TS_PACKET_SIZE;
2736             len -= TS_PACKET_SIZE;
2737             if (ts->stop_parse == 1)
2738                 break;
2739         }
2740     }
2741     return len1 - len;
2742 }
2743
2744 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2745 {
2746     mpegts_free(ts);
2747     av_free(ts);
2748 }
2749
2750 AVInputFormat ff_mpegts_demuxer = {
2751     .name           = "mpegts",
2752     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2753     .priv_data_size = sizeof(MpegTSContext),
2754     .read_probe     = mpegts_probe,
2755     .read_header    = mpegts_read_header,
2756     .read_packet    = mpegts_read_packet,
2757     .read_close     = mpegts_read_close,
2758     .read_timestamp = mpegts_get_dts,
2759     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2760     .priv_class     = &mpegts_class,
2761 };
2762
2763 AVInputFormat ff_mpegtsraw_demuxer = {
2764     .name           = "mpegtsraw",
2765     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2766     .priv_data_size = sizeof(MpegTSContext),
2767     .read_header    = mpegts_read_header,
2768     .read_packet    = mpegts_raw_read_packet,
2769     .read_close     = mpegts_read_close,
2770     .read_timestamp = mpegts_get_dts,
2771     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2772     .priv_class     = &mpegtsraw_class,
2773 };