]> git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c
Merge commit '50ff0c05b691524d1fd044a2f2eefb706932fc98'
[ffmpeg] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/log.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/opt.h"
29 #include "libavutil/avassert.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "libavcodec/opus.h"
33 #include "avformat.h"
34 #include "mpegts.h"
35 #include "internal.h"
36 #include "avio_internal.h"
37 #include "mpeg.h"
38 #include "isom.h"
39
40 /* maximum size in which we look for synchronisation if
41  * synchronisation is lost */
42 #define MAX_RESYNC_SIZE 65536
43
44 #define MAX_PES_PAYLOAD 200 * 1024
45
46 #define MAX_MP4_DESCR_COUNT 16
47
48 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
49     do {                                                                       \
50         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
51             (modulus) = (dividend) % (divisor);                                \
52         (prev_dividend) = (dividend);                                          \
53     } while (0)
54
55 enum MpegTSFilterType {
56     MPEGTS_PES,
57     MPEGTS_SECTION,
58     MPEGTS_PCR,
59 };
60
61 typedef struct MpegTSFilter MpegTSFilter;
62
63 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
64                          int is_start, int64_t pos);
65
66 typedef struct MpegTSPESFilter {
67     PESCallback *pes_cb;
68     void *opaque;
69 } MpegTSPESFilter;
70
71 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
72
73 typedef void SetServiceCallback (void *opaque, int ret);
74
75 typedef struct MpegTSSectionFilter {
76     int section_index;
77     int section_h_size;
78     uint8_t *section_buf;
79     unsigned int check_crc : 1;
80     unsigned int end_of_section_reached : 1;
81     SectionCallback *section_cb;
82     void *opaque;
83 } MpegTSSectionFilter;
84
85 struct MpegTSFilter {
86     int pid;
87     int es_id;
88     int last_cc; /* last cc code (-1 if first packet) */
89     int64_t last_pcr;
90     enum MpegTSFilterType type;
91     union {
92         MpegTSPESFilter pes_filter;
93         MpegTSSectionFilter section_filter;
94     } u;
95 };
96
97 #define MAX_PIDS_PER_PROGRAM 64
98 struct Program {
99     unsigned int id; // program id/service id
100     unsigned int nb_pids;
101     unsigned int pids[MAX_PIDS_PER_PROGRAM];
102
103     /** have we found pmt for this program */
104     int pmt_found;
105 };
106
107 struct MpegTSContext {
108     const AVClass *class;
109     /* user data */
110     AVFormatContext *stream;
111     /** raw packet size, including FEC if present */
112     int raw_packet_size;
113
114     int size_stat[3];
115     int size_stat_count;
116 #define SIZE_STAT_THRESHOLD 10
117
118     int64_t pos47_full;
119
120     /** if true, all pids are analyzed to find streams */
121     int auto_guess;
122
123     /** compute exact PCR for each transport stream packet */
124     int mpeg2ts_compute_pcr;
125
126     /** fix dvb teletext pts                                 */
127     int fix_teletext_pts;
128
129     int64_t cur_pcr;    /**< used to estimate the exact PCR */
130     int pcr_incr;       /**< used to estimate the exact PCR */
131
132     /* data needed to handle file based ts */
133     /** stop parsing loop */
134     int stop_parse;
135     /** packet containing Audio/Video data */
136     AVPacket *pkt;
137     /** to detect seek */
138     int64_t last_pos;
139
140     int skip_changes;
141     int skip_clear;
142
143     int scan_all_pmts;
144
145     int resync_size;
146
147     /******************************************/
148     /* private mpegts data */
149     /* scan context */
150     /** structure to keep track of Program->pids mapping */
151     unsigned int nb_prg;
152     struct Program *prg;
153
154     int8_t crc_validity[NB_PID_MAX];
155     /** filters for various streams specified by PMT + for the PAT and PMT */
156     MpegTSFilter *pids[NB_PID_MAX];
157     int current_pid;
158 };
159
160 #define MPEGTS_OPTIONS \
161     { "resync_size",   "Size limit for looking up a new synchronization.", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
162
163 static const AVOption options[] = {
164     MPEGTS_OPTIONS,
165     {"fix_teletext_pts", "Try to fix pts values of dvb teletext streams.", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_INT,
166      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
167     {"ts_packetsize", "Output option carrying the raw packet size.", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
168      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
169     {"scan_all_pmts",   "Scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_INT,
170      { .i64 =  -1}, -1, 1,  AV_OPT_FLAG_DECODING_PARAM },
171     {"skip_changes", "Skip changing / adding streams / programs.", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_INT,
172      {.i64 = 0}, 0, 1, 0 },
173     {"skip_clear", "Skip clearing programs.", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_INT,
174      {.i64 = 0}, 0, 1, 0 },
175     { NULL },
176 };
177
178 static const AVClass mpegts_class = {
179     .class_name = "mpegts demuxer",
180     .item_name  = av_default_item_name,
181     .option     = options,
182     .version    = LIBAVUTIL_VERSION_INT,
183 };
184
185 static const AVOption raw_options[] = {
186     MPEGTS_OPTIONS,
187     { "compute_pcr",   "Compute exact PCR for each transport stream packet.",
188           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
189           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
190     { "ts_packetsize", "Output option carrying the raw packet size.",
191       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
192       { .i64 = 0 }, 0, 0,
193       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
194     { NULL },
195 };
196
197 static const AVClass mpegtsraw_class = {
198     .class_name = "mpegtsraw demuxer",
199     .item_name  = av_default_item_name,
200     .option     = raw_options,
201     .version    = LIBAVUTIL_VERSION_INT,
202 };
203
204 /* TS stream handling */
205
206 enum MpegTSState {
207     MPEGTS_HEADER = 0,
208     MPEGTS_PESHEADER,
209     MPEGTS_PESHEADER_FILL,
210     MPEGTS_PAYLOAD,
211     MPEGTS_SKIP,
212 };
213
214 /* enough for PES header + length */
215 #define PES_START_SIZE  6
216 #define PES_HEADER_SIZE 9
217 #define MAX_PES_HEADER_SIZE (9 + 255)
218
219 typedef struct PESContext {
220     int pid;
221     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
222     int stream_type;
223     MpegTSContext *ts;
224     AVFormatContext *stream;
225     AVStream *st;
226     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
227     enum MpegTSState state;
228     /* used to get the format */
229     int data_index;
230     int flags; /**< copied to the AVPacket flags */
231     int total_size;
232     int pes_header_size;
233     int extended_stream_id;
234     int64_t pts, dts;
235     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
236     uint8_t header[MAX_PES_HEADER_SIZE];
237     AVBufferRef *buffer;
238     SLConfigDescr sl;
239 } PESContext;
240
241 extern AVInputFormat ff_mpegts_demuxer;
242
243 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
244 {
245     int i;
246     for (i = 0; i < ts->nb_prg; i++) {
247         if (ts->prg[i].id == programid) {
248             return &ts->prg[i];
249         }
250     }
251     return NULL;
252 }
253
254 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
255 {
256     AVProgram *prg = NULL;
257     int i;
258
259     for (i = 0; i < ts->stream->nb_programs; i++)
260         if (ts->stream->programs[i]->id == programid) {
261             prg = ts->stream->programs[i];
262             break;
263         }
264     if (!prg)
265         return;
266     prg->nb_stream_indexes = 0;
267 }
268
269 static void clear_program(MpegTSContext *ts, unsigned int programid)
270 {
271     int i;
272
273     clear_avprogram(ts, programid);
274     for (i = 0; i < ts->nb_prg; i++)
275         if (ts->prg[i].id == programid) {
276             ts->prg[i].nb_pids = 0;
277             ts->prg[i].pmt_found = 0;
278         }
279 }
280
281 static void clear_programs(MpegTSContext *ts)
282 {
283     av_freep(&ts->prg);
284     ts->nb_prg = 0;
285 }
286
287 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
288 {
289     struct Program *p;
290     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
291         ts->nb_prg = 0;
292         return;
293     }
294     p = &ts->prg[ts->nb_prg];
295     p->id = programid;
296     p->nb_pids = 0;
297     p->pmt_found = 0;
298     ts->nb_prg++;
299 }
300
301 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
302                            unsigned int pid)
303 {
304     struct Program *p = get_program(ts, programid);
305     int i;
306     if (!p)
307         return;
308
309     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
310         return;
311
312     for (i = 0; i < p->nb_pids; i++)
313         if (p->pids[i] == pid)
314             return;
315
316     p->pids[p->nb_pids++] = pid;
317 }
318
319 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
320 {
321     struct Program *p = get_program(ts, programid);
322     if (!p)
323         return;
324
325     p->pmt_found = 1;
326 }
327
328 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
329 {
330     int i;
331     for (i = 0; i < s->nb_programs; i++) {
332         if (s->programs[i]->id == programid) {
333             s->programs[i]->pcr_pid = pid;
334             break;
335         }
336     }
337 }
338
339 /**
340  * @brief discard_pid() decides if the pid is to be discarded according
341  *                      to caller's programs selection
342  * @param ts    : - TS context
343  * @param pid   : - pid
344  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
345  *         0 otherwise
346  */
347 static int discard_pid(MpegTSContext *ts, unsigned int pid)
348 {
349     int i, j, k;
350     int used = 0, discarded = 0;
351     struct Program *p;
352
353     /* If none of the programs have .discard=AVDISCARD_ALL then there's
354      * no way we have to discard this packet */
355     for (k = 0; k < ts->stream->nb_programs; k++)
356         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
357             break;
358     if (k == ts->stream->nb_programs)
359         return 0;
360
361     for (i = 0; i < ts->nb_prg; i++) {
362         p = &ts->prg[i];
363         for (j = 0; j < p->nb_pids; j++) {
364             if (p->pids[j] != pid)
365                 continue;
366             // is program with id p->id set to be discarded?
367             for (k = 0; k < ts->stream->nb_programs; k++) {
368                 if (ts->stream->programs[k]->id == p->id) {
369                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
370                         discarded++;
371                     else
372                         used++;
373                 }
374             }
375         }
376     }
377
378     return !used && discarded;
379 }
380
381 /**
382  *  Assemble PES packets out of TS packets, and then call the "section_cb"
383  *  function when they are complete.
384  */
385 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
386                                const uint8_t *buf, int buf_size, int is_start)
387 {
388     MpegTSSectionFilter *tss = &tss1->u.section_filter;
389     int len;
390
391     if (is_start) {
392         memcpy(tss->section_buf, buf, buf_size);
393         tss->section_index = buf_size;
394         tss->section_h_size = -1;
395         tss->end_of_section_reached = 0;
396     } else {
397         if (tss->end_of_section_reached)
398             return;
399         len = 4096 - tss->section_index;
400         if (buf_size < len)
401             len = buf_size;
402         memcpy(tss->section_buf + tss->section_index, buf, len);
403         tss->section_index += len;
404     }
405
406     /* compute section length if possible */
407     if (tss->section_h_size == -1 && tss->section_index >= 3) {
408         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
409         if (len > 4096)
410             return;
411         tss->section_h_size = len;
412     }
413
414     if (tss->section_h_size != -1 &&
415         tss->section_index >= tss->section_h_size) {
416         int crc_valid = 1;
417         tss->end_of_section_reached = 1;
418
419         if (tss->check_crc) {
420             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
421             if (crc_valid) {
422                 ts->crc_validity[ tss1->pid ] = 100;
423             }else if (ts->crc_validity[ tss1->pid ] > -10) {
424                 ts->crc_validity[ tss1->pid ]--;
425             }else
426                 crc_valid = 2;
427         }
428         if (crc_valid)
429             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
430     }
431 }
432
433 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
434                                         enum MpegTSFilterType type)
435 {
436     MpegTSFilter *filter;
437
438     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
439
440     if (pid >= NB_PID_MAX || ts->pids[pid])
441         return NULL;
442     filter = av_mallocz(sizeof(MpegTSFilter));
443     if (!filter)
444         return NULL;
445     ts->pids[pid] = filter;
446
447     filter->type    = type;
448     filter->pid     = pid;
449     filter->es_id   = -1;
450     filter->last_cc = -1;
451     filter->last_pcr= -1;
452
453     return filter;
454 }
455
456 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
457                                                 unsigned int pid,
458                                                 SectionCallback *section_cb,
459                                                 void *opaque,
460                                                 int check_crc)
461 {
462     MpegTSFilter *filter;
463     MpegTSSectionFilter *sec;
464
465     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
466         return NULL;
467     sec = &filter->u.section_filter;
468     sec->section_cb  = section_cb;
469     sec->opaque      = opaque;
470     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
471     sec->check_crc   = check_crc;
472     if (!sec->section_buf) {
473         av_free(filter);
474         return NULL;
475     }
476     return filter;
477 }
478
479 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
480                                             PESCallback *pes_cb,
481                                             void *opaque)
482 {
483     MpegTSFilter *filter;
484     MpegTSPESFilter *pes;
485
486     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
487         return NULL;
488
489     pes = &filter->u.pes_filter;
490     pes->pes_cb = pes_cb;
491     pes->opaque = opaque;
492     return filter;
493 }
494
495 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
496 {
497     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
498 }
499
500 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
501 {
502     int pid;
503
504     pid = filter->pid;
505     if (filter->type == MPEGTS_SECTION)
506         av_freep(&filter->u.section_filter.section_buf);
507     else if (filter->type == MPEGTS_PES) {
508         PESContext *pes = filter->u.pes_filter.opaque;
509         av_buffer_unref(&pes->buffer);
510         /* referenced private data will be freed later in
511          * avformat_close_input */
512         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
513             av_freep(&filter->u.pes_filter.opaque);
514         }
515     }
516
517     av_free(filter);
518     ts->pids[pid] = NULL;
519 }
520
521 static int analyze(const uint8_t *buf, int size, int packet_size, int *index,
522                    int probe)
523 {
524     int stat[TS_MAX_PACKET_SIZE];
525     int stat_all = 0;
526     int i;
527     int best_score = 0;
528
529     memset(stat, 0, packet_size * sizeof(*stat));
530
531     for (i = 0; i < size - 3; i++) {
532         if (buf[i] == 0x47 &&
533             (!probe || (!(buf[i + 1] & 0x80) && buf[i + 3] != 0x47))) {
534             int x = i % packet_size;
535             stat[x]++;
536             stat_all++;
537             if (stat[x] > best_score) {
538                 best_score = stat[x];
539                 if (index)
540                     *index = x;
541             }
542         }
543     }
544
545     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
546 }
547
548 /* autodetect fec presence. Must have at least 1024 bytes  */
549 static int get_packet_size(const uint8_t *buf, int size)
550 {
551     int score, fec_score, dvhs_score;
552
553     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
554         return AVERROR_INVALIDDATA;
555
556     score      = analyze(buf, size, TS_PACKET_SIZE,      NULL, 0);
557     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL, 0);
558     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE,  NULL, 0);
559     av_dlog(NULL, "score: %d, dvhs_score: %d, fec_score: %d \n",
560             score, dvhs_score, fec_score);
561
562     if (score > fec_score && score > dvhs_score)
563         return TS_PACKET_SIZE;
564     else if (dvhs_score > score && dvhs_score > fec_score)
565         return TS_DVHS_PACKET_SIZE;
566     else if (score < fec_score && dvhs_score < fec_score)
567         return TS_FEC_PACKET_SIZE;
568     else
569         return AVERROR_INVALIDDATA;
570 }
571
572 typedef struct SectionHeader {
573     uint8_t tid;
574     uint16_t id;
575     uint8_t version;
576     uint8_t sec_num;
577     uint8_t last_sec_num;
578 } SectionHeader;
579
580 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
581 {
582     const uint8_t *p;
583     int c;
584
585     p = *pp;
586     if (p >= p_end)
587         return AVERROR_INVALIDDATA;
588     c   = *p++;
589     *pp = p;
590     return c;
591 }
592
593 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
594 {
595     const uint8_t *p;
596     int c;
597
598     p = *pp;
599     if ((p + 1) >= p_end)
600         return AVERROR_INVALIDDATA;
601     c   = AV_RB16(p);
602     p  += 2;
603     *pp = p;
604     return c;
605 }
606
607 /* read and allocate a DVB string preceded by its length */
608 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
609 {
610     int len;
611     const uint8_t *p;
612     char *str;
613
614     p   = *pp;
615     len = get8(&p, p_end);
616     if (len < 0)
617         return NULL;
618     if ((p + len) > p_end)
619         return NULL;
620     str = av_malloc(len + 1);
621     if (!str)
622         return NULL;
623     memcpy(str, p, len);
624     str[len] = '\0';
625     p  += len;
626     *pp = p;
627     return str;
628 }
629
630 static int parse_section_header(SectionHeader *h,
631                                 const uint8_t **pp, const uint8_t *p_end)
632 {
633     int val;
634
635     val = get8(pp, p_end);
636     if (val < 0)
637         return val;
638     h->tid = val;
639     *pp += 2;
640     val  = get16(pp, p_end);
641     if (val < 0)
642         return val;
643     h->id = val;
644     val = get8(pp, p_end);
645     if (val < 0)
646         return val;
647     h->version = (val >> 1) & 0x1f;
648     val = get8(pp, p_end);
649     if (val < 0)
650         return val;
651     h->sec_num = val;
652     val = get8(pp, p_end);
653     if (val < 0)
654         return val;
655     h->last_sec_num = val;
656     return 0;
657 }
658
659 typedef struct StreamType {
660     uint32_t stream_type;
661     enum AVMediaType codec_type;
662     enum AVCodecID codec_id;
663 } StreamType;
664
665 static const StreamType ISO_types[] = {
666     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
667     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
668     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
669     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
670     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
671     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
672     /* Makito encoder sets stream type 0x11 for AAC,
673      * so auto-detect LOAS/LATM instead of hardcoding it. */
674 #if !CONFIG_LOAS_DEMUXER
675     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
676 #endif
677     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
678     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
679     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
680     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
681     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
682     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
683     { 0 },
684 };
685
686 static const StreamType HDMV_types[] = {
687     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
688     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
689     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
690     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
691     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
692     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
693     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
694     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
695     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
696     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
697     { 0 },
698 };
699
700 /* ATSC ? */
701 static const StreamType MISC_types[] = {
702     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
703     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
704     { 0 },
705 };
706
707 static const StreamType REGD_types[] = {
708     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
709     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
710     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
711     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
712     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
713     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
714     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
715     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
716     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
717     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
718     { 0 },
719 };
720
721 static const StreamType METADATA_types[] = {
722     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
723     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
724     { 0 },
725 };
726
727 /* descriptor present */
728 static const StreamType DESC_types[] = {
729     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
730     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
731     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
732     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
733     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
734     { 0 },
735 };
736
737 static void mpegts_find_stream_type(AVStream *st,
738                                     uint32_t stream_type,
739                                     const StreamType *types)
740 {
741     if (avcodec_is_open(st->codec)) {
742         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
743         return;
744     }
745
746     for (; types->stream_type; types++)
747         if (stream_type == types->stream_type) {
748             st->codec->codec_type = types->codec_type;
749             st->codec->codec_id   = types->codec_id;
750             st->request_probe     = 0;
751             return;
752         }
753 }
754
755 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
756                                   uint32_t stream_type, uint32_t prog_reg_desc)
757 {
758     int old_codec_type = st->codec->codec_type;
759     int old_codec_id  = st->codec->codec_id;
760
761     if (avcodec_is_open(st->codec)) {
762         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
763         return 0;
764     }
765
766     avpriv_set_pts_info(st, 33, 1, 90000);
767     st->priv_data         = pes;
768     st->codec->codec_type = AVMEDIA_TYPE_DATA;
769     st->codec->codec_id   = AV_CODEC_ID_NONE;
770     st->need_parsing      = AVSTREAM_PARSE_FULL;
771     pes->st          = st;
772     pes->stream_type = stream_type;
773
774     av_log(pes->stream, AV_LOG_DEBUG,
775            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
776            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
777
778     st->codec->codec_tag = pes->stream_type;
779
780     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
781     if ((prog_reg_desc == AV_RL32("HDMV") ||
782          prog_reg_desc == AV_RL32("HDPR")) &&
783         st->codec->codec_id == AV_CODEC_ID_NONE) {
784         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
785         if (pes->stream_type == 0x83) {
786             // HDMV TrueHD streams also contain an AC3 coded version of the
787             // audio track - add a second stream for this
788             AVStream *sub_st;
789             // priv_data cannot be shared between streams
790             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
791             if (!sub_pes)
792                 return AVERROR(ENOMEM);
793             memcpy(sub_pes, pes, sizeof(*sub_pes));
794
795             sub_st = avformat_new_stream(pes->stream, NULL);
796             if (!sub_st) {
797                 av_free(sub_pes);
798                 return AVERROR(ENOMEM);
799             }
800
801             sub_st->id = pes->pid;
802             avpriv_set_pts_info(sub_st, 33, 1, 90000);
803             sub_st->priv_data         = sub_pes;
804             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
805             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
806             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
807             sub_pes->sub_st           = pes->sub_st = sub_st;
808         }
809     }
810     if (st->codec->codec_id == AV_CODEC_ID_NONE)
811         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
812     if (st->codec->codec_id == AV_CODEC_ID_NONE) {
813         st->codec->codec_id  = old_codec_id;
814         st->codec->codec_type = old_codec_type;
815     }
816
817     return 0;
818 }
819
820 static void reset_pes_packet_state(PESContext *pes)
821 {
822     pes->pts        = AV_NOPTS_VALUE;
823     pes->dts        = AV_NOPTS_VALUE;
824     pes->data_index = 0;
825     pes->flags      = 0;
826     av_buffer_unref(&pes->buffer);
827 }
828
829 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
830 {
831     av_init_packet(pkt);
832
833     pkt->buf  = pes->buffer;
834     pkt->data = pes->buffer->data;
835     pkt->size = pes->data_index;
836
837     if (pes->total_size != MAX_PES_PAYLOAD &&
838         pes->pes_header_size + pes->data_index != pes->total_size +
839         PES_START_SIZE) {
840         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
841         pes->flags |= AV_PKT_FLAG_CORRUPT;
842     }
843     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
844
845     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
846     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
847         pkt->stream_index = pes->sub_st->index;
848     else
849         pkt->stream_index = pes->st->index;
850     pkt->pts = pes->pts;
851     pkt->dts = pes->dts;
852     /* store position of first TS packet of this PES packet */
853     pkt->pos   = pes->ts_packet_pos;
854     pkt->flags = pes->flags;
855
856     pes->buffer = NULL;
857     reset_pes_packet_state(pes);
858 }
859
860 static uint64_t get_ts64(GetBitContext *gb, int bits)
861 {
862     if (get_bits_left(gb) < bits)
863         return AV_NOPTS_VALUE;
864     return get_bits64(gb, bits);
865 }
866
867 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
868                           const uint8_t *buf, int buf_size)
869 {
870     GetBitContext gb;
871     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
872     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
873     int dts_flag = -1, cts_flag = -1;
874     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
875     uint8_t buf_padded[128 + FF_INPUT_BUFFER_PADDING_SIZE];
876     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - FF_INPUT_BUFFER_PADDING_SIZE);
877
878     memcpy(buf_padded, buf, buf_padded_size);
879
880     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
881
882     if (sl->use_au_start)
883         au_start_flag = get_bits1(&gb);
884     if (sl->use_au_end)
885         au_end_flag = get_bits1(&gb);
886     if (!sl->use_au_start && !sl->use_au_end)
887         au_start_flag = au_end_flag = 1;
888     if (sl->ocr_len > 0)
889         ocr_flag = get_bits1(&gb);
890     if (sl->use_idle)
891         idle_flag = get_bits1(&gb);
892     if (sl->use_padding)
893         padding_flag = get_bits1(&gb);
894     if (padding_flag)
895         padding_bits = get_bits(&gb, 3);
896
897     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
898         if (sl->packet_seq_num_len)
899             skip_bits_long(&gb, sl->packet_seq_num_len);
900         if (sl->degr_prior_len)
901             if (get_bits1(&gb))
902                 skip_bits(&gb, sl->degr_prior_len);
903         if (ocr_flag)
904             skip_bits_long(&gb, sl->ocr_len);
905         if (au_start_flag) {
906             if (sl->use_rand_acc_pt)
907                 get_bits1(&gb);
908             if (sl->au_seq_num_len > 0)
909                 skip_bits_long(&gb, sl->au_seq_num_len);
910             if (sl->use_timestamps) {
911                 dts_flag = get_bits1(&gb);
912                 cts_flag = get_bits1(&gb);
913             }
914         }
915         if (sl->inst_bitrate_len)
916             inst_bitrate_flag = get_bits1(&gb);
917         if (dts_flag == 1)
918             dts = get_ts64(&gb, sl->timestamp_len);
919         if (cts_flag == 1)
920             cts = get_ts64(&gb, sl->timestamp_len);
921         if (sl->au_len > 0)
922             skip_bits_long(&gb, sl->au_len);
923         if (inst_bitrate_flag)
924             skip_bits_long(&gb, sl->inst_bitrate_len);
925     }
926
927     if (dts != AV_NOPTS_VALUE)
928         pes->dts = dts;
929     if (cts != AV_NOPTS_VALUE)
930         pes->pts = cts;
931
932     if (sl->timestamp_len && sl->timestamp_res)
933         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
934
935     return (get_bits_count(&gb) + 7) >> 3;
936 }
937
938 /* return non zero if a packet could be constructed */
939 static int mpegts_push_data(MpegTSFilter *filter,
940                             const uint8_t *buf, int buf_size, int is_start,
941                             int64_t pos)
942 {
943     PESContext *pes   = filter->u.pes_filter.opaque;
944     MpegTSContext *ts = pes->ts;
945     const uint8_t *p;
946     int len, code;
947
948     if (!ts->pkt)
949         return 0;
950
951     if (is_start) {
952         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
953             new_pes_packet(pes, ts->pkt);
954             ts->stop_parse = 1;
955         } else {
956             reset_pes_packet_state(pes);
957         }
958         pes->state         = MPEGTS_HEADER;
959         pes->ts_packet_pos = pos;
960     }
961     p = buf;
962     while (buf_size > 0) {
963         switch (pes->state) {
964         case MPEGTS_HEADER:
965             len = PES_START_SIZE - pes->data_index;
966             if (len > buf_size)
967                 len = buf_size;
968             memcpy(pes->header + pes->data_index, p, len);
969             pes->data_index += len;
970             p += len;
971             buf_size -= len;
972             if (pes->data_index == PES_START_SIZE) {
973                 /* we got all the PES or section header. We can now
974                  * decide */
975                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
976                     pes->header[2] == 0x01) {
977                     /* it must be an mpeg2 PES stream */
978                     code = pes->header[3] | 0x100;
979                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid,
980                             code);
981
982                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
983                          (!pes->sub_st ||
984                           pes->sub_st->discard == AVDISCARD_ALL)) ||
985                         code == 0x1be) /* padding_stream */
986                         goto skip;
987
988                     /* stream not present in PMT */
989                     if (!pes->st) {
990                         if (ts->skip_changes)
991                             goto skip;
992
993                         pes->st = avformat_new_stream(ts->stream, NULL);
994                         if (!pes->st)
995                             return AVERROR(ENOMEM);
996                         pes->st->id = pes->pid;
997                         mpegts_set_stream_info(pes->st, pes, 0, 0);
998                     }
999
1000                     pes->total_size = AV_RB16(pes->header + 4);
1001                     /* NOTE: a zero total size means the PES size is
1002                      * unbounded */
1003                     if (!pes->total_size)
1004                         pes->total_size = MAX_PES_PAYLOAD;
1005
1006                     /* allocate pes buffer */
1007                     pes->buffer = av_buffer_alloc(pes->total_size +
1008                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1009                     if (!pes->buffer)
1010                         return AVERROR(ENOMEM);
1011
1012                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1013                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1014                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1015                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1016                         pes->state = MPEGTS_PESHEADER;
1017                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1018                             av_dlog(pes->stream,
1019                                     "pid=%x stream_type=%x probing\n",
1020                                     pes->pid,
1021                                     pes->stream_type);
1022                             pes->st->request_probe = 1;
1023                         }
1024                     } else {
1025                         pes->state      = MPEGTS_PAYLOAD;
1026                         pes->data_index = 0;
1027                     }
1028                 } else {
1029                     /* otherwise, it should be a table */
1030                     /* skip packet */
1031 skip:
1032                     pes->state = MPEGTS_SKIP;
1033                     continue;
1034                 }
1035             }
1036             break;
1037         /**********************************************/
1038         /* PES packing parsing */
1039         case MPEGTS_PESHEADER:
1040             len = PES_HEADER_SIZE - pes->data_index;
1041             if (len < 0)
1042                 return AVERROR_INVALIDDATA;
1043             if (len > buf_size)
1044                 len = buf_size;
1045             memcpy(pes->header + pes->data_index, p, len);
1046             pes->data_index += len;
1047             p += len;
1048             buf_size -= len;
1049             if (pes->data_index == PES_HEADER_SIZE) {
1050                 pes->pes_header_size = pes->header[8] + 9;
1051                 pes->state           = MPEGTS_PESHEADER_FILL;
1052             }
1053             break;
1054         case MPEGTS_PESHEADER_FILL:
1055             len = pes->pes_header_size - pes->data_index;
1056             if (len < 0)
1057                 return AVERROR_INVALIDDATA;
1058             if (len > buf_size)
1059                 len = buf_size;
1060             memcpy(pes->header + pes->data_index, p, len);
1061             pes->data_index += len;
1062             p += len;
1063             buf_size -= len;
1064             if (pes->data_index == pes->pes_header_size) {
1065                 const uint8_t *r;
1066                 unsigned int flags, pes_ext, skip;
1067
1068                 flags = pes->header[7];
1069                 r = pes->header + 9;
1070                 pes->pts = AV_NOPTS_VALUE;
1071                 pes->dts = AV_NOPTS_VALUE;
1072                 if ((flags & 0xc0) == 0x80) {
1073                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1074                     r += 5;
1075                 } else if ((flags & 0xc0) == 0xc0) {
1076                     pes->pts = ff_parse_pes_pts(r);
1077                     r += 5;
1078                     pes->dts = ff_parse_pes_pts(r);
1079                     r += 5;
1080                 }
1081                 pes->extended_stream_id = -1;
1082                 if (flags & 0x01) { /* PES extension */
1083                     pes_ext = *r++;
1084                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1085                     skip  = (pes_ext >> 4) & 0xb;
1086                     skip += skip & 0x9;
1087                     r    += skip;
1088                     if ((pes_ext & 0x41) == 0x01 &&
1089                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1090                         /* PES extension 2 */
1091                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1092                             pes->extended_stream_id = r[1];
1093                     }
1094                 }
1095
1096                 /* we got the full header. We parse it and get the payload */
1097                 pes->state = MPEGTS_PAYLOAD;
1098                 pes->data_index = 0;
1099                 if (pes->stream_type == 0x12 && buf_size > 0) {
1100                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1101                                                          buf_size);
1102                     pes->pes_header_size += sl_header_bytes;
1103                     p += sl_header_bytes;
1104                     buf_size -= sl_header_bytes;
1105                 }
1106                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1107                     /* skip metadata access unit header */
1108                     pes->pes_header_size += 5;
1109                     p += 5;
1110                     buf_size -= 5;
1111                 }
1112                 if (pes->ts->fix_teletext_pts && pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT) {
1113                     AVProgram *p = NULL;
1114                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1115                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1116                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1117                             if (f) {
1118                                 AVStream *st = NULL;
1119                                 if (f->type == MPEGTS_PES) {
1120                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1121                                     if (pcrpes)
1122                                         st = pcrpes->st;
1123                                 } else if (f->type == MPEGTS_PCR) {
1124                                     int i;
1125                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1126                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1127                                         if (pst->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1128                                             st = pst;
1129                                     }
1130                                 }
1131                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1132                                     // teletext packets do not always have correct timestamps,
1133                                     // the standard says they should be handled after 40.6 ms at most,
1134                                     // and the pcr error to this packet should be no more than 100 ms.
1135                                     // TODO: we should interpolate the PCR, not just use the last one
1136                                     int64_t pcr = f->last_pcr / 300;
1137                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1138                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1139                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1140                                         pes->pts = pes->dts = pcr;
1141                                     } else if (pes->dts > pcr + 3654 + 9000) {
1142                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1143                                     }
1144                                     break;
1145                                 }
1146                             }
1147                         }
1148                     }
1149                 }
1150             }
1151             break;
1152         case MPEGTS_PAYLOAD:
1153             if (pes->buffer) {
1154                 if (pes->data_index > 0 &&
1155                     pes->data_index + buf_size > pes->total_size) {
1156                     new_pes_packet(pes, ts->pkt);
1157                     pes->total_size = MAX_PES_PAYLOAD;
1158                     pes->buffer = av_buffer_alloc(pes->total_size +
1159                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1160                     if (!pes->buffer)
1161                         return AVERROR(ENOMEM);
1162                     ts->stop_parse = 1;
1163                 } else if (pes->data_index == 0 &&
1164                            buf_size > pes->total_size) {
1165                     // pes packet size is < ts size packet and pes data is padded with 0xff
1166                     // not sure if this is legal in ts but see issue #2392
1167                     buf_size = pes->total_size;
1168                 }
1169                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1170                 pes->data_index += buf_size;
1171                 /* emit complete packets with known packet size
1172                  * decreases demuxer delay for infrequent packets like subtitles from
1173                  * a couple of seconds to milliseconds for properly muxed files.
1174                  * total_size is the number of bytes following pes_packet_length
1175                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1176                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1177                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1178                     ts->stop_parse = 1;
1179                     new_pes_packet(pes, ts->pkt);
1180                 }
1181             }
1182             buf_size = 0;
1183             break;
1184         case MPEGTS_SKIP:
1185             buf_size = 0;
1186             break;
1187         }
1188     }
1189
1190     return 0;
1191 }
1192
1193 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1194 {
1195     MpegTSFilter *tss;
1196     PESContext *pes;
1197
1198     /* if no pid found, then add a pid context */
1199     pes = av_mallocz(sizeof(PESContext));
1200     if (!pes)
1201         return 0;
1202     pes->ts      = ts;
1203     pes->stream  = ts->stream;
1204     pes->pid     = pid;
1205     pes->pcr_pid = pcr_pid;
1206     pes->state   = MPEGTS_SKIP;
1207     pes->pts     = AV_NOPTS_VALUE;
1208     pes->dts     = AV_NOPTS_VALUE;
1209     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1210     if (!tss) {
1211         av_free(pes);
1212         return 0;
1213     }
1214     return pes;
1215 }
1216
1217 #define MAX_LEVEL 4
1218 typedef struct MP4DescrParseContext {
1219     AVFormatContext *s;
1220     AVIOContext pb;
1221     Mp4Descr *descr;
1222     Mp4Descr *active_descr;
1223     int descr_count;
1224     int max_descr_count;
1225     int level;
1226     int predefined_SLConfigDescriptor_seen;
1227 } MP4DescrParseContext;
1228
1229 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1230                                      const uint8_t *buf, unsigned size,
1231                                      Mp4Descr *descr, int max_descr_count)
1232 {
1233     int ret;
1234     if (size > (1 << 30))
1235         return AVERROR_INVALIDDATA;
1236
1237     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1238                                  NULL, NULL, NULL, NULL)) < 0)
1239         return ret;
1240
1241     d->s               = s;
1242     d->level           = 0;
1243     d->descr_count     = 0;
1244     d->descr           = descr;
1245     d->active_descr    = NULL;
1246     d->max_descr_count = max_descr_count;
1247
1248     return 0;
1249 }
1250
1251 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1252 {
1253     int64_t new_off = avio_tell(pb);
1254     (*len) -= new_off - *off;
1255     *off    = new_off;
1256 }
1257
1258 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1259                            int target_tag);
1260
1261 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1262 {
1263     while (len > 0) {
1264         int ret = parse_mp4_descr(d, off, len, 0);
1265         if (ret < 0)
1266             return ret;
1267         update_offsets(&d->pb, &off, &len);
1268     }
1269     return 0;
1270 }
1271
1272 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1273 {
1274     avio_rb16(&d->pb); // ID
1275     avio_r8(&d->pb);
1276     avio_r8(&d->pb);
1277     avio_r8(&d->pb);
1278     avio_r8(&d->pb);
1279     avio_r8(&d->pb);
1280     update_offsets(&d->pb, &off, &len);
1281     return parse_mp4_descr_arr(d, off, len);
1282 }
1283
1284 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1285 {
1286     int id_flags;
1287     if (len < 2)
1288         return 0;
1289     id_flags = avio_rb16(&d->pb);
1290     if (!(id_flags & 0x0020)) { // URL_Flag
1291         update_offsets(&d->pb, &off, &len);
1292         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1293     } else {
1294         return 0;
1295     }
1296 }
1297
1298 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1299 {
1300     int es_id = 0;
1301     if (d->descr_count >= d->max_descr_count)
1302         return AVERROR_INVALIDDATA;
1303     ff_mp4_parse_es_descr(&d->pb, &es_id);
1304     d->active_descr = d->descr + (d->descr_count++);
1305
1306     d->active_descr->es_id = es_id;
1307     update_offsets(&d->pb, &off, &len);
1308     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1309     update_offsets(&d->pb, &off, &len);
1310     if (len > 0)
1311         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1312     d->active_descr = NULL;
1313     return 0;
1314 }
1315
1316 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1317                                       int len)
1318 {
1319     Mp4Descr *descr = d->active_descr;
1320     if (!descr)
1321         return AVERROR_INVALIDDATA;
1322     d->active_descr->dec_config_descr = av_malloc(len);
1323     if (!descr->dec_config_descr)
1324         return AVERROR(ENOMEM);
1325     descr->dec_config_descr_len = len;
1326     avio_read(&d->pb, descr->dec_config_descr, len);
1327     return 0;
1328 }
1329
1330 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1331 {
1332     Mp4Descr *descr = d->active_descr;
1333     int predefined;
1334     if (!descr)
1335         return AVERROR_INVALIDDATA;
1336
1337     predefined = avio_r8(&d->pb);
1338     if (!predefined) {
1339         int lengths;
1340         int flags = avio_r8(&d->pb);
1341         descr->sl.use_au_start    = !!(flags & 0x80);
1342         descr->sl.use_au_end      = !!(flags & 0x40);
1343         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1344         descr->sl.use_padding     = !!(flags & 0x08);
1345         descr->sl.use_timestamps  = !!(flags & 0x04);
1346         descr->sl.use_idle        = !!(flags & 0x02);
1347         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1348         avio_rb32(&d->pb);
1349         descr->sl.timestamp_len      = avio_r8(&d->pb);
1350         if (descr->sl.timestamp_len > 64) {
1351             avpriv_request_sample(NULL, "timestamp_len > 64");
1352             descr->sl.timestamp_len = 64;
1353             return AVERROR_PATCHWELCOME;
1354         }
1355         descr->sl.ocr_len            = avio_r8(&d->pb);
1356         descr->sl.au_len             = avio_r8(&d->pb);
1357         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1358         lengths                      = avio_rb16(&d->pb);
1359         descr->sl.degr_prior_len     = lengths >> 12;
1360         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1361         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1362     } else if (!d->predefined_SLConfigDescriptor_seen){
1363         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1364         d->predefined_SLConfigDescriptor_seen = 1;
1365     }
1366     return 0;
1367 }
1368
1369 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1370                            int target_tag)
1371 {
1372     int tag;
1373     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1374     update_offsets(&d->pb, &off, &len);
1375     if (len < 0 || len1 > len || len1 <= 0) {
1376         av_log(d->s, AV_LOG_ERROR,
1377                "Tag %x length violation new length %d bytes remaining %d\n",
1378                tag, len1, len);
1379         return AVERROR_INVALIDDATA;
1380     }
1381
1382     if (d->level++ >= MAX_LEVEL) {
1383         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1384         goto done;
1385     }
1386
1387     if (target_tag && tag != target_tag) {
1388         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1389                target_tag);
1390         goto done;
1391     }
1392
1393     switch (tag) {
1394     case MP4IODescrTag:
1395         parse_MP4IODescrTag(d, off, len1);
1396         break;
1397     case MP4ODescrTag:
1398         parse_MP4ODescrTag(d, off, len1);
1399         break;
1400     case MP4ESDescrTag:
1401         parse_MP4ESDescrTag(d, off, len1);
1402         break;
1403     case MP4DecConfigDescrTag:
1404         parse_MP4DecConfigDescrTag(d, off, len1);
1405         break;
1406     case MP4SLDescrTag:
1407         parse_MP4SLDescrTag(d, off, len1);
1408         break;
1409     }
1410
1411
1412 done:
1413     d->level--;
1414     avio_seek(&d->pb, off + len1, SEEK_SET);
1415     return 0;
1416 }
1417
1418 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1419                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1420 {
1421     MP4DescrParseContext d;
1422     int ret;
1423
1424     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1425     if (ret < 0)
1426         return ret;
1427
1428     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1429
1430     *descr_count = d.descr_count;
1431     return ret;
1432 }
1433
1434 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1435                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1436 {
1437     MP4DescrParseContext d;
1438     int ret;
1439
1440     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1441     if (ret < 0)
1442         return ret;
1443
1444     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1445
1446     *descr_count = d.descr_count;
1447     return ret;
1448 }
1449
1450 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1451                     int section_len)
1452 {
1453     MpegTSContext *ts = filter->u.section_filter.opaque;
1454     SectionHeader h;
1455     const uint8_t *p, *p_end;
1456     AVIOContext pb;
1457     int mp4_descr_count = 0;
1458     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1459     int i, pid;
1460     AVFormatContext *s = ts->stream;
1461
1462     p_end = section + section_len - 4;
1463     p = section;
1464     if (parse_section_header(&h, &p, p_end) < 0)
1465         return;
1466     if (h.tid != M4OD_TID)
1467         return;
1468
1469     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1470                 MAX_MP4_DESCR_COUNT);
1471
1472     for (pid = 0; pid < NB_PID_MAX; pid++) {
1473         if (!ts->pids[pid])
1474             continue;
1475         for (i = 0; i < mp4_descr_count; i++) {
1476             PESContext *pes;
1477             AVStream *st;
1478             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1479                 continue;
1480             if (ts->pids[pid]->type != MPEGTS_PES) {
1481                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1482                 continue;
1483             }
1484             pes = ts->pids[pid]->u.pes_filter.opaque;
1485             st  = pes->st;
1486             if (!st)
1487                 continue;
1488
1489             pes->sl = mp4_descr[i].sl;
1490
1491             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1492                               mp4_descr[i].dec_config_descr_len, 0,
1493                               NULL, NULL, NULL, NULL);
1494             ff_mp4_read_dec_config_descr(s, st, &pb);
1495             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1496                 st->codec->extradata_size > 0)
1497                 st->need_parsing = 0;
1498             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1499                 st->codec->extradata_size > 0)
1500                 st->need_parsing = 0;
1501
1502             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1503                 // do nothing
1504             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO)
1505                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1506             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE)
1507                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1508             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN)
1509                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1510         }
1511     }
1512     for (i = 0; i < mp4_descr_count; i++)
1513         av_free(mp4_descr[i].dec_config_descr);
1514 }
1515
1516 static const uint8_t opus_coupled_stream_cnt[9] = {
1517     1, 0, 1, 1, 2, 2, 2, 3, 3
1518 };
1519
1520 static const uint8_t opus_stream_cnt[9] = {
1521     1, 1, 1, 2, 2, 3, 4, 4, 5,
1522 };
1523
1524 static const uint8_t opus_channel_map[8][8] = {
1525     { 0 },
1526     { 0,1 },
1527     { 0,2,1 },
1528     { 0,1,2,3 },
1529     { 0,4,1,2,3 },
1530     { 0,4,1,2,3,5 },
1531     { 0,4,1,2,3,5,6 },
1532     { 0,6,1,2,3,4,5,7 },
1533 };
1534
1535 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1536                               const uint8_t **pp, const uint8_t *desc_list_end,
1537                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1538                               MpegTSContext *ts)
1539 {
1540     const uint8_t *desc_end;
1541     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1542     char language[252];
1543     int i;
1544
1545     desc_tag = get8(pp, desc_list_end);
1546     if (desc_tag < 0)
1547         return AVERROR_INVALIDDATA;
1548     desc_len = get8(pp, desc_list_end);
1549     if (desc_len < 0)
1550         return AVERROR_INVALIDDATA;
1551     desc_end = *pp + desc_len;
1552     if (desc_end > desc_list_end)
1553         return AVERROR_INVALIDDATA;
1554
1555     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1556
1557     if ((st->codec->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1558         stream_type == STREAM_TYPE_PRIVATE_DATA)
1559         mpegts_find_stream_type(st, desc_tag, DESC_types);
1560
1561     switch (desc_tag) {
1562     case 0x1E: /* SL descriptor */
1563         desc_es_id = get16(pp, desc_end);
1564         if (desc_es_id < 0)
1565             break;
1566         if (ts && ts->pids[pid])
1567             ts->pids[pid]->es_id = desc_es_id;
1568         for (i = 0; i < mp4_descr_count; i++)
1569             if (mp4_descr[i].dec_config_descr_len &&
1570                 mp4_descr[i].es_id == desc_es_id) {
1571                 AVIOContext pb;
1572                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1573                                   mp4_descr[i].dec_config_descr_len, 0,
1574                                   NULL, NULL, NULL, NULL);
1575                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1576                 if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1577                     st->codec->extradata_size > 0)
1578                     st->need_parsing = 0;
1579                 if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1580                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1581             }
1582         break;
1583     case 0x1F: /* FMC descriptor */
1584         if (get16(pp, desc_end) < 0)
1585             break;
1586         if (mp4_descr_count > 0 &&
1587             (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe > 0) &&
1588             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1589             AVIOContext pb;
1590             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1591                               mp4_descr->dec_config_descr_len, 0,
1592                               NULL, NULL, NULL, NULL);
1593             ff_mp4_read_dec_config_descr(fc, st, &pb);
1594             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1595                 st->codec->extradata_size > 0) {
1596                 st->request_probe = st->need_parsing = 0;
1597                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1598             }
1599         }
1600         break;
1601     case 0x56: /* DVB teletext descriptor */
1602         {
1603             uint8_t *extradata = NULL;
1604             int language_count = desc_len / 5;
1605
1606             if (desc_len > 0 && desc_len % 5 != 0)
1607                 return AVERROR_INVALIDDATA;
1608
1609             if (language_count > 0) {
1610                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1611                 if (language_count > sizeof(language) / 4) {
1612                     language_count = sizeof(language) / 4;
1613                 }
1614
1615                 if (st->codec->extradata == NULL) {
1616                     if (ff_alloc_extradata(st->codec, language_count * 2)) {
1617                         return AVERROR(ENOMEM);
1618                     }
1619                 }
1620
1621                if (st->codec->extradata_size < language_count * 2)
1622                    return AVERROR_INVALIDDATA;
1623
1624                extradata = st->codec->extradata;
1625
1626                 for (i = 0; i < language_count; i++) {
1627                     language[i * 4 + 0] = get8(pp, desc_end);
1628                     language[i * 4 + 1] = get8(pp, desc_end);
1629                     language[i * 4 + 2] = get8(pp, desc_end);
1630                     language[i * 4 + 3] = ',';
1631
1632                     memcpy(extradata, *pp, 2);
1633                     extradata += 2;
1634
1635                     *pp += 2;
1636                 }
1637
1638                 language[i * 4 - 1] = 0;
1639                 av_dict_set(&st->metadata, "language", language, 0);
1640             }
1641         }
1642         break;
1643     case 0x59: /* subtitling descriptor */
1644         {
1645             /* 8 bytes per DVB subtitle substream data:
1646              * ISO_639_language_code (3 bytes),
1647              * subtitling_type (1 byte),
1648              * composition_page_id (2 bytes),
1649              * ancillary_page_id (2 bytes) */
1650             int language_count = desc_len / 8;
1651
1652             if (desc_len > 0 && desc_len % 8 != 0)
1653                 return AVERROR_INVALIDDATA;
1654
1655             if (language_count > 1) {
1656                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1657             }
1658
1659             if (language_count > 0) {
1660                 uint8_t *extradata;
1661
1662                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1663                 if (language_count > sizeof(language) / 4) {
1664                     language_count = sizeof(language) / 4;
1665                 }
1666
1667                 if (st->codec->extradata == NULL) {
1668                     if (ff_alloc_extradata(st->codec, language_count * 5)) {
1669                         return AVERROR(ENOMEM);
1670                     }
1671                 }
1672
1673                 if (st->codec->extradata_size < language_count * 5)
1674                     return AVERROR_INVALIDDATA;
1675
1676                 extradata = st->codec->extradata;
1677
1678                 for (i = 0; i < language_count; i++) {
1679                     language[i * 4 + 0] = get8(pp, desc_end);
1680                     language[i * 4 + 1] = get8(pp, desc_end);
1681                     language[i * 4 + 2] = get8(pp, desc_end);
1682                     language[i * 4 + 3] = ',';
1683
1684                     /* hearing impaired subtitles detection using subtitling_type */
1685                     switch (*pp[0]) {
1686                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1687                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1688                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1689                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1690                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1691                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1692                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1693                         break;
1694                     }
1695
1696                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1697                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1698                     extradata += 5;
1699
1700                     *pp += 4;
1701                 }
1702
1703                 language[i * 4 - 1] = 0;
1704                 av_dict_set(&st->metadata, "language", language, 0);
1705             }
1706         }
1707         break;
1708     case 0x0a: /* ISO 639 language descriptor */
1709         for (i = 0; i + 4 <= desc_len; i += 4) {
1710             language[i + 0] = get8(pp, desc_end);
1711             language[i + 1] = get8(pp, desc_end);
1712             language[i + 2] = get8(pp, desc_end);
1713             language[i + 3] = ',';
1714             switch (get8(pp, desc_end)) {
1715             case 0x01:
1716                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1717                 break;
1718             case 0x02:
1719                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1720                 break;
1721             case 0x03:
1722                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1723                 break;
1724             }
1725         }
1726         if (i && language[0]) {
1727             language[i - 1] = 0;
1728             av_dict_set(&st->metadata, "language", language, 0);
1729         }
1730         break;
1731     case 0x05: /* registration descriptor */
1732         st->codec->codec_tag = bytestream_get_le32(pp);
1733         av_dlog(fc, "reg_desc=%.4s\n", (char *)&st->codec->codec_tag);
1734         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1735             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1736         break;
1737     case 0x52: /* stream identifier descriptor */
1738         st->stream_identifier = 1 + get8(pp, desc_end);
1739         break;
1740     case 0x26: /* metadata descriptor */
1741         if (get16(pp, desc_end) == 0xFFFF)
1742             *pp += 4;
1743         if (get8(pp, desc_end) == 0xFF) {
1744             st->codec->codec_tag = bytestream_get_le32(pp);
1745             if (st->codec->codec_id == AV_CODEC_ID_NONE)
1746                 mpegts_find_stream_type(st, st->codec->codec_tag, METADATA_types);
1747         }
1748         break;
1749     case 0x7f: /* DVB extension descriptor */
1750         ext_desc_tag = get8(pp, desc_end);
1751         if (ext_desc_tag < 0)
1752             return AVERROR_INVALIDDATA;
1753         if (st->codec->codec_id == AV_CODEC_ID_OPUS &&
1754             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1755             if (!st->codec->extradata) {
1756                 st->codec->extradata = av_mallocz(sizeof(opus_default_extradata) +
1757                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1758                 if (!st->codec->extradata)
1759                     return AVERROR(ENOMEM);
1760
1761                 st->codec->extradata_size = sizeof(opus_default_extradata);
1762                 memcpy(st->codec->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1763
1764                 channel_config_code = get8(pp, desc_end);
1765                 if (channel_config_code < 0)
1766                     return AVERROR_INVALIDDATA;
1767                 if (channel_config_code <= 0x8) {
1768                     st->codec->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1769                     st->codec->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
1770                     st->codec->extradata[19] = opus_stream_cnt[channel_config_code];
1771                     st->codec->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1772                     memcpy(&st->codec->extradata[21], opus_channel_map[channels - 1], channels);
1773                 } else {
1774                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1775                 }
1776                 st->need_parsing = AVSTREAM_PARSE_FULL;
1777             }
1778         }
1779         break;
1780     default:
1781         break;
1782     }
1783     *pp = desc_end;
1784     return 0;
1785 }
1786
1787 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1788 {
1789     MpegTSContext *ts = filter->u.section_filter.opaque;
1790     SectionHeader h1, *h = &h1;
1791     PESContext *pes;
1792     AVStream *st;
1793     const uint8_t *p, *p_end, *desc_list_end;
1794     int program_info_length, pcr_pid, pid, stream_type;
1795     int desc_list_len;
1796     uint32_t prog_reg_desc = 0; /* registration descriptor */
1797
1798     int mp4_descr_count = 0;
1799     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1800     int i;
1801
1802     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1803     hex_dump_debug(ts->stream, section, section_len);
1804
1805     p_end = section + section_len - 4;
1806     p = section;
1807     if (parse_section_header(h, &p, p_end) < 0)
1808         return;
1809
1810     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d version=%d\n",
1811             h->id, h->sec_num, h->last_sec_num, h->version);
1812
1813     if (h->tid != PMT_TID)
1814         return;
1815     if (!ts->scan_all_pmts && ts->skip_changes)
1816         return;
1817
1818     if (!ts->skip_clear)
1819         clear_program(ts, h->id);
1820
1821     pcr_pid = get16(&p, p_end);
1822     if (pcr_pid < 0)
1823         return;
1824     pcr_pid &= 0x1fff;
1825     add_pid_to_pmt(ts, h->id, pcr_pid);
1826     set_pcr_pid(ts->stream, h->id, pcr_pid);
1827
1828     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1829
1830     program_info_length = get16(&p, p_end);
1831     if (program_info_length < 0)
1832         return;
1833     program_info_length &= 0xfff;
1834     while (program_info_length >= 2) {
1835         uint8_t tag, len;
1836         tag = get8(&p, p_end);
1837         len = get8(&p, p_end);
1838
1839         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1840
1841         if (len > program_info_length - 2)
1842             // something else is broken, exit the program_descriptors_loop
1843             break;
1844         program_info_length -= len + 2;
1845         if (tag == 0x1d) { // IOD descriptor
1846             get8(&p, p_end); // scope
1847             get8(&p, p_end); // label
1848             len -= 2;
1849             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1850                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1851         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1852             prog_reg_desc = bytestream_get_le32(&p);
1853             len -= 4;
1854         }
1855         p += len;
1856     }
1857     p += program_info_length;
1858     if (p >= p_end)
1859         goto out;
1860
1861     // stop parsing after pmt, we found header
1862     if (!ts->stream->nb_streams)
1863         ts->stop_parse = 2;
1864
1865     set_pmt_found(ts, h->id);
1866
1867
1868     for (;;) {
1869         st = 0;
1870         pes = NULL;
1871         stream_type = get8(&p, p_end);
1872         if (stream_type < 0)
1873             break;
1874         pid = get16(&p, p_end);
1875         if (pid < 0)
1876             goto out;
1877         pid &= 0x1fff;
1878         if (pid == ts->current_pid)
1879             goto out;
1880
1881         /* now create stream */
1882         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1883             pes = ts->pids[pid]->u.pes_filter.opaque;
1884             if (!pes->st) {
1885                 pes->st     = avformat_new_stream(pes->stream, NULL);
1886                 if (!pes->st)
1887                     goto out;
1888                 pes->st->id = pes->pid;
1889             }
1890             st = pes->st;
1891         } else if (stream_type != 0x13) {
1892             if (ts->pids[pid])
1893                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1894             pes = add_pes_stream(ts, pid, pcr_pid);
1895             if (pes) {
1896                 st = avformat_new_stream(pes->stream, NULL);
1897                 if (!st)
1898                     goto out;
1899                 st->id = pes->pid;
1900             }
1901         } else {
1902             int idx = ff_find_stream_index(ts->stream, pid);
1903             if (idx >= 0) {
1904                 st = ts->stream->streams[idx];
1905             } else {
1906                 st = avformat_new_stream(ts->stream, NULL);
1907                 if (!st)
1908                     goto out;
1909                 st->id = pid;
1910                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1911             }
1912         }
1913
1914         if (!st)
1915             goto out;
1916
1917         if (pes && !pes->stream_type)
1918             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1919
1920         add_pid_to_pmt(ts, h->id, pid);
1921
1922         ff_program_add_stream_index(ts->stream, h->id, st->index);
1923
1924         desc_list_len = get16(&p, p_end);
1925         if (desc_list_len < 0)
1926             goto out;
1927         desc_list_len &= 0xfff;
1928         desc_list_end  = p + desc_list_len;
1929         if (desc_list_end > p_end)
1930             goto out;
1931         for (;;) {
1932             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
1933                                           desc_list_end, mp4_descr,
1934                                           mp4_descr_count, pid, ts) < 0)
1935                 break;
1936
1937             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
1938                 stream_type == 0x83 && pes->sub_st) {
1939                 ff_program_add_stream_index(ts->stream, h->id,
1940                                             pes->sub_st->index);
1941                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1942             }
1943         }
1944         p = desc_list_end;
1945     }
1946
1947     if (!ts->pids[pcr_pid])
1948         mpegts_open_pcr_filter(ts, pcr_pid);
1949
1950 out:
1951     for (i = 0; i < mp4_descr_count; i++)
1952         av_free(mp4_descr[i].dec_config_descr);
1953 }
1954
1955 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1956 {
1957     MpegTSContext *ts = filter->u.section_filter.opaque;
1958     SectionHeader h1, *h = &h1;
1959     const uint8_t *p, *p_end;
1960     int sid, pmt_pid;
1961     AVProgram *program;
1962
1963     av_dlog(ts->stream, "PAT:\n");
1964     hex_dump_debug(ts->stream, section, section_len);
1965
1966     p_end = section + section_len - 4;
1967     p     = section;
1968     if (parse_section_header(h, &p, p_end) < 0)
1969         return;
1970     if (h->tid != PAT_TID)
1971         return;
1972     if (ts->skip_changes)
1973         return;
1974
1975     ts->stream->ts_id = h->id;
1976
1977     clear_programs(ts);
1978     for (;;) {
1979         sid = get16(&p, p_end);
1980         if (sid < 0)
1981             break;
1982         pmt_pid = get16(&p, p_end);
1983         if (pmt_pid < 0)
1984             break;
1985         pmt_pid &= 0x1fff;
1986
1987         if (pmt_pid == ts->current_pid)
1988             break;
1989
1990         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1991
1992         if (sid == 0x0000) {
1993             /* NIT info */
1994         } else {
1995             MpegTSFilter *fil = ts->pids[pmt_pid];
1996             program = av_new_program(ts->stream, sid);
1997             if (program) {
1998                 program->program_num = sid;
1999                 program->pmt_pid = pmt_pid;
2000             }
2001             if (fil)
2002                 if (   fil->type != MPEGTS_SECTION
2003                     || fil->pid != pmt_pid
2004                     || fil->u.section_filter.section_cb != pmt_cb)
2005                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2006
2007             if (!ts->pids[pmt_pid])
2008                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2009             add_pat_entry(ts, sid);
2010             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2011             add_pid_to_pmt(ts, sid, pmt_pid);
2012         }
2013     }
2014
2015     if (sid < 0) {
2016         int i,j;
2017         for (j=0; j<ts->stream->nb_programs; j++) {
2018             for (i = 0; i < ts->nb_prg; i++)
2019                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2020                     break;
2021             if (i==ts->nb_prg && !ts->skip_clear)
2022                 clear_avprogram(ts, ts->stream->programs[j]->id);
2023         }
2024     }
2025 }
2026
2027 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2028 {
2029     MpegTSContext *ts = filter->u.section_filter.opaque;
2030     SectionHeader h1, *h = &h1;
2031     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2032     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2033     char *name, *provider_name;
2034
2035     av_dlog(ts->stream, "SDT:\n");
2036     hex_dump_debug(ts->stream, section, section_len);
2037
2038     p_end = section + section_len - 4;
2039     p     = section;
2040     if (parse_section_header(h, &p, p_end) < 0)
2041         return;
2042     if (h->tid != SDT_TID)
2043         return;
2044     if (ts->skip_changes)
2045         return;
2046     onid = get16(&p, p_end);
2047     if (onid < 0)
2048         return;
2049     val = get8(&p, p_end);
2050     if (val < 0)
2051         return;
2052     for (;;) {
2053         sid = get16(&p, p_end);
2054         if (sid < 0)
2055             break;
2056         val = get8(&p, p_end);
2057         if (val < 0)
2058             break;
2059         desc_list_len = get16(&p, p_end);
2060         if (desc_list_len < 0)
2061             break;
2062         desc_list_len &= 0xfff;
2063         desc_list_end  = p + desc_list_len;
2064         if (desc_list_end > p_end)
2065             break;
2066         for (;;) {
2067             desc_tag = get8(&p, desc_list_end);
2068             if (desc_tag < 0)
2069                 break;
2070             desc_len = get8(&p, desc_list_end);
2071             desc_end = p + desc_len;
2072             if (desc_len < 0 || desc_end > desc_list_end)
2073                 break;
2074
2075             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
2076                     desc_tag, desc_len);
2077
2078             switch (desc_tag) {
2079             case 0x48:
2080                 service_type = get8(&p, p_end);
2081                 if (service_type < 0)
2082                     break;
2083                 provider_name = getstr8(&p, p_end);
2084                 if (!provider_name)
2085                     break;
2086                 name = getstr8(&p, p_end);
2087                 if (name) {
2088                     AVProgram *program = av_new_program(ts->stream, sid);
2089                     if (program) {
2090                         av_dict_set(&program->metadata, "service_name", name, 0);
2091                         av_dict_set(&program->metadata, "service_provider",
2092                                     provider_name, 0);
2093                     }
2094                 }
2095                 av_free(name);
2096                 av_free(provider_name);
2097                 break;
2098             default:
2099                 break;
2100             }
2101             p = desc_end;
2102         }
2103         p = desc_list_end;
2104     }
2105 }
2106
2107 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2108                      const uint8_t *packet);
2109
2110 /* handle one TS packet */
2111 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2112 {
2113     MpegTSFilter *tss;
2114     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2115         has_adaptation, has_payload;
2116     const uint8_t *p, *p_end;
2117     int64_t pos;
2118
2119     pid = AV_RB16(packet + 1) & 0x1fff;
2120     if (pid && discard_pid(ts, pid))
2121         return 0;
2122     is_start = packet[1] & 0x40;
2123     tss = ts->pids[pid];
2124     if (ts->auto_guess && !tss && is_start) {
2125         add_pes_stream(ts, pid, -1);
2126         tss = ts->pids[pid];
2127     }
2128     if (!tss)
2129         return 0;
2130     ts->current_pid = pid;
2131
2132     afc = (packet[3] >> 4) & 3;
2133     if (afc == 0) /* reserved value */
2134         return 0;
2135     has_adaptation   = afc & 2;
2136     has_payload      = afc & 1;
2137     is_discontinuity = has_adaptation &&
2138                        packet[4] != 0 && /* with length > 0 */
2139                        (packet[5] & 0x80); /* and discontinuity indicated */
2140
2141     /* continuity check (currently not used) */
2142     cc = (packet[3] & 0xf);
2143     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2144     cc_ok = pid == 0x1FFF || // null packet PID
2145             is_discontinuity ||
2146             tss->last_cc < 0 ||
2147             expected_cc == cc;
2148
2149     tss->last_cc = cc;
2150     if (!cc_ok) {
2151         av_log(ts->stream, AV_LOG_DEBUG,
2152                "Continuity check failed for pid %d expected %d got %d\n",
2153                pid, expected_cc, cc);
2154         if (tss->type == MPEGTS_PES) {
2155             PESContext *pc = tss->u.pes_filter.opaque;
2156             pc->flags |= AV_PKT_FLAG_CORRUPT;
2157         }
2158     }
2159
2160     p = packet + 4;
2161     if (has_adaptation) {
2162         int64_t pcr_h;
2163         int pcr_l;
2164         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2165             tss->last_pcr = pcr_h * 300 + pcr_l;
2166         /* skip adaptation field */
2167         p += p[0] + 1;
2168     }
2169     /* if past the end of packet, ignore */
2170     p_end = packet + TS_PACKET_SIZE;
2171     if (p >= p_end || !has_payload)
2172         return 0;
2173
2174     pos = avio_tell(ts->stream->pb);
2175     if (pos >= 0) {
2176         av_assert0(pos >= TS_PACKET_SIZE);
2177         ts->pos47_full = pos - TS_PACKET_SIZE;
2178     }
2179
2180     if (tss->type == MPEGTS_SECTION) {
2181         if (is_start) {
2182             /* pointer field present */
2183             len = *p++;
2184             if (p + len > p_end)
2185                 return 0;
2186             if (len && cc_ok) {
2187                 /* write remaining section bytes */
2188                 write_section_data(ts, tss,
2189                                    p, len, 0);
2190                 /* check whether filter has been closed */
2191                 if (!ts->pids[pid])
2192                     return 0;
2193             }
2194             p += len;
2195             if (p < p_end) {
2196                 write_section_data(ts, tss,
2197                                    p, p_end - p, 1);
2198             }
2199         } else {
2200             if (cc_ok) {
2201                 write_section_data(ts, tss,
2202                                    p, p_end - p, 0);
2203             }
2204         }
2205
2206         // stop find_stream_info from waiting for more streams
2207         // when all programs have received a PMT
2208         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2209             int i;
2210             for (i = 0; i < ts->nb_prg; i++) {
2211                 if (!ts->prg[i].pmt_found)
2212                     break;
2213             }
2214             if (i == ts->nb_prg && ts->nb_prg > 0) {
2215                 int types = 0;
2216                 for (i = 0; i < ts->stream->nb_streams; i++) {
2217                     AVStream *st = ts->stream->streams[i];
2218                     types |= 1<<st->codec->codec_type;
2219                 }
2220                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2221                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2222                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2223                 }
2224             }
2225         }
2226
2227     } else {
2228         int ret;
2229         // Note: The position here points actually behind the current packet.
2230         if (tss->type == MPEGTS_PES) {
2231             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2232                                                 pos - ts->raw_packet_size)) < 0)
2233                 return ret;
2234         }
2235     }
2236
2237     return 0;
2238 }
2239
2240 static void reanalyze(MpegTSContext *ts) {
2241     AVIOContext *pb = ts->stream->pb;
2242     int64_t pos = avio_tell(pb);
2243     if (pos < 0)
2244         return;
2245     pos -= ts->pos47_full;
2246     if (pos == TS_PACKET_SIZE) {
2247         ts->size_stat[0] ++;
2248     } else if (pos == TS_DVHS_PACKET_SIZE) {
2249         ts->size_stat[1] ++;
2250     } else if (pos == TS_FEC_PACKET_SIZE) {
2251         ts->size_stat[2] ++;
2252     }
2253
2254     ts->size_stat_count ++;
2255     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2256         int newsize = 0;
2257         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2258             newsize = TS_PACKET_SIZE;
2259         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2260             newsize = TS_DVHS_PACKET_SIZE;
2261         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2262             newsize = TS_FEC_PACKET_SIZE;
2263         }
2264         if (newsize && newsize != ts->raw_packet_size) {
2265             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2266             ts->raw_packet_size = newsize;
2267         }
2268         ts->size_stat_count = 0;
2269         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2270     }
2271 }
2272
2273 /* XXX: try to find a better synchro over several packets (use
2274  * get_packet_size() ?) */
2275 static int mpegts_resync(AVFormatContext *s)
2276 {
2277     MpegTSContext *ts = s->priv_data;
2278     AVIOContext *pb = s->pb;
2279     int c, i;
2280
2281     for (i = 0; i < ts->resync_size; i++) {
2282         c = avio_r8(pb);
2283         if (avio_feof(pb))
2284             return AVERROR_EOF;
2285         if (c == 0x47) {
2286             avio_seek(pb, -1, SEEK_CUR);
2287             reanalyze(s->priv_data);
2288             return 0;
2289         }
2290     }
2291     av_log(s, AV_LOG_ERROR,
2292            "max resync size reached, could not find sync byte\n");
2293     /* no sync found */
2294     return AVERROR_INVALIDDATA;
2295 }
2296
2297 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2298 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2299                        const uint8_t **data)
2300 {
2301     AVIOContext *pb = s->pb;
2302     int len;
2303
2304     for (;;) {
2305         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2306         if (len != TS_PACKET_SIZE)
2307             return len < 0 ? len : AVERROR_EOF;
2308         /* check packet sync byte */
2309         if ((*data)[0] != 0x47) {
2310             /* find a new packet start */
2311             uint64_t pos = avio_tell(pb);
2312             avio_seek(pb, -FFMIN(raw_packet_size, pos), SEEK_CUR);
2313
2314             if (mpegts_resync(s) < 0)
2315                 return AVERROR(EAGAIN);
2316             else
2317                 continue;
2318         } else {
2319             break;
2320         }
2321     }
2322     return 0;
2323 }
2324
2325 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2326 {
2327     AVIOContext *pb = s->pb;
2328     int skip = raw_packet_size - TS_PACKET_SIZE;
2329     if (skip > 0)
2330         avio_skip(pb, skip);
2331 }
2332
2333 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2334 {
2335     AVFormatContext *s = ts->stream;
2336     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
2337     const uint8_t *data;
2338     int64_t packet_num;
2339     int ret = 0;
2340
2341     if (avio_tell(s->pb) != ts->last_pos) {
2342         int i;
2343         av_dlog(ts->stream, "Skipping after seek\n");
2344         /* seek detected, flush pes buffer */
2345         for (i = 0; i < NB_PID_MAX; i++) {
2346             if (ts->pids[i]) {
2347                 if (ts->pids[i]->type == MPEGTS_PES) {
2348                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2349                     av_buffer_unref(&pes->buffer);
2350                     pes->data_index = 0;
2351                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2352                 }
2353                 ts->pids[i]->last_cc = -1;
2354                 ts->pids[i]->last_pcr = -1;
2355             }
2356         }
2357     }
2358
2359     ts->stop_parse = 0;
2360     packet_num = 0;
2361     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
2362     for (;;) {
2363         packet_num++;
2364         if (nb_packets != 0 && packet_num >= nb_packets ||
2365             ts->stop_parse > 1) {
2366             ret = AVERROR(EAGAIN);
2367             break;
2368         }
2369         if (ts->stop_parse > 0)
2370             break;
2371
2372         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2373         if (ret != 0)
2374             break;
2375         ret = handle_packet(ts, data);
2376         finished_reading_packet(s, ts->raw_packet_size);
2377         if (ret != 0)
2378             break;
2379     }
2380     ts->last_pos = avio_tell(s->pb);
2381     return ret;
2382 }
2383
2384 static int mpegts_probe(AVProbeData *p)
2385 {
2386     const int size = p->buf_size;
2387     int maxscore = 0;
2388     int sumscore = 0;
2389     int i;
2390     int check_count = size / TS_FEC_PACKET_SIZE;
2391 #define CHECK_COUNT 10
2392 #define CHECK_BLOCK 100
2393
2394     if (check_count < CHECK_COUNT)
2395         return AVERROR_INVALIDDATA;
2396
2397     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2398         int left = FFMIN(check_count - i, CHECK_BLOCK);
2399         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL, 1);
2400         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL, 1);
2401         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL, 1);
2402         score = FFMAX3(score, dvhs_score, fec_score);
2403         sumscore += score;
2404         maxscore = FFMAX(maxscore, score);
2405     }
2406
2407     sumscore = sumscore * CHECK_COUNT / check_count;
2408     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2409
2410     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2411
2412     if      (sumscore > 6) return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2413     else if (maxscore > 6) return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2414     else
2415         return AVERROR_INVALIDDATA;
2416 }
2417
2418 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2419  * (-1) if not available */
2420 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2421 {
2422     int afc, len, flags;
2423     const uint8_t *p;
2424     unsigned int v;
2425
2426     afc = (packet[3] >> 4) & 3;
2427     if (afc <= 1)
2428         return AVERROR_INVALIDDATA;
2429     p   = packet + 4;
2430     len = p[0];
2431     p++;
2432     if (len == 0)
2433         return AVERROR_INVALIDDATA;
2434     flags = *p++;
2435     len--;
2436     if (!(flags & 0x10))
2437         return AVERROR_INVALIDDATA;
2438     if (len < 6)
2439         return AVERROR_INVALIDDATA;
2440     v          = AV_RB32(p);
2441     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2442     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2443     return 0;
2444 }
2445
2446 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2447
2448     /* NOTE: We attempt to seek on non-seekable files as well, as the
2449      * probe buffer usually is big enough. Only warn if the seek failed
2450      * on files where the seek should work. */
2451     if (avio_seek(pb, pos, SEEK_SET) < 0)
2452         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2453 }
2454
2455 static int mpegts_read_header(AVFormatContext *s)
2456 {
2457     MpegTSContext *ts = s->priv_data;
2458     AVIOContext *pb   = s->pb;
2459     uint8_t buf[8 * 1024] = {0};
2460     int len;
2461     int64_t pos, probesize = s->probesize ? s->probesize : s->probesize2;
2462
2463     if (ffio_ensure_seekback(pb, probesize) < 0)
2464         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2465
2466     /* read the first 8192 bytes to get packet size */
2467     pos = avio_tell(pb);
2468     len = avio_read(pb, buf, sizeof(buf));
2469     ts->raw_packet_size = get_packet_size(buf, len);
2470     if (ts->raw_packet_size <= 0) {
2471         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2472         ts->raw_packet_size = TS_PACKET_SIZE;
2473     }
2474     ts->stream     = s;
2475     ts->auto_guess = 0;
2476
2477     if (s->iformat == &ff_mpegts_demuxer) {
2478         /* normal demux */
2479
2480         /* first do a scan to get all the services */
2481         seek_back(s, pb, pos);
2482
2483         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2484
2485         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2486
2487         handle_packets(ts, probesize / ts->raw_packet_size);
2488         /* if could not find service, enable auto_guess */
2489
2490         ts->auto_guess = 1;
2491
2492         av_dlog(ts->stream, "tuning done\n");
2493
2494         s->ctx_flags |= AVFMTCTX_NOHEADER;
2495     } else {
2496         AVStream *st;
2497         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2498         int64_t pcrs[2], pcr_h;
2499         int packet_count[2];
2500         uint8_t packet[TS_PACKET_SIZE];
2501         const uint8_t *data;
2502
2503         /* only read packets */
2504
2505         st = avformat_new_stream(s, NULL);
2506         if (!st)
2507             return AVERROR(ENOMEM);
2508         avpriv_set_pts_info(st, 60, 1, 27000000);
2509         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2510         st->codec->codec_id   = AV_CODEC_ID_MPEG2TS;
2511
2512         /* we iterate until we find two PCRs to estimate the bitrate */
2513         pcr_pid    = -1;
2514         nb_pcrs    = 0;
2515         nb_packets = 0;
2516         for (;;) {
2517             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2518             if (ret < 0)
2519                 return ret;
2520             pid = AV_RB16(data + 1) & 0x1fff;
2521             if ((pcr_pid == -1 || pcr_pid == pid) &&
2522                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2523                 finished_reading_packet(s, ts->raw_packet_size);
2524                 pcr_pid = pid;
2525                 packet_count[nb_pcrs] = nb_packets;
2526                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2527                 nb_pcrs++;
2528                 if (nb_pcrs >= 2)
2529                     break;
2530             } else {
2531                 finished_reading_packet(s, ts->raw_packet_size);
2532             }
2533             nb_packets++;
2534         }
2535
2536         /* NOTE1: the bitrate is computed without the FEC */
2537         /* NOTE2: it is only the bitrate of the start of the stream */
2538         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2539         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2540         s->bit_rate  = TS_PACKET_SIZE * 8 * 27e6 / ts->pcr_incr;
2541         st->codec->bit_rate = s->bit_rate;
2542         st->start_time      = ts->cur_pcr;
2543         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2544                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2545     }
2546
2547     seek_back(s, pb, pos);
2548     return 0;
2549 }
2550
2551 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2552
2553 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2554 {
2555     MpegTSContext *ts = s->priv_data;
2556     int ret, i;
2557     int64_t pcr_h, next_pcr_h, pos;
2558     int pcr_l, next_pcr_l;
2559     uint8_t pcr_buf[12];
2560     const uint8_t *data;
2561
2562     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2563         return AVERROR(ENOMEM);
2564     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2565     pkt->pos = avio_tell(s->pb);
2566     if (ret < 0) {
2567         av_free_packet(pkt);
2568         return ret;
2569     }
2570     if (data != pkt->data)
2571         memcpy(pkt->data, data, ts->raw_packet_size);
2572     finished_reading_packet(s, ts->raw_packet_size);
2573     if (ts->mpeg2ts_compute_pcr) {
2574         /* compute exact PCR for each packet */
2575         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2576             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2577             pos = avio_tell(s->pb);
2578             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2579                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2580                 avio_read(s->pb, pcr_buf, 12);
2581                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2582                     /* XXX: not precise enough */
2583                     ts->pcr_incr =
2584                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2585                         (i + 1);
2586                     break;
2587                 }
2588             }
2589             avio_seek(s->pb, pos, SEEK_SET);
2590             /* no next PCR found: we use previous increment */
2591             ts->cur_pcr = pcr_h * 300 + pcr_l;
2592         }
2593         pkt->pts      = ts->cur_pcr;
2594         pkt->duration = ts->pcr_incr;
2595         ts->cur_pcr  += ts->pcr_incr;
2596     }
2597     pkt->stream_index = 0;
2598     return 0;
2599 }
2600
2601 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2602 {
2603     MpegTSContext *ts = s->priv_data;
2604     int ret, i;
2605
2606     pkt->size = -1;
2607     ts->pkt = pkt;
2608     ret = handle_packets(ts, 0);
2609     if (ret < 0) {
2610         av_free_packet(ts->pkt);
2611         /* flush pes data left */
2612         for (i = 0; i < NB_PID_MAX; i++)
2613             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2614                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2615                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2616                     new_pes_packet(pes, pkt);
2617                     pes->state = MPEGTS_SKIP;
2618                     ret = 0;
2619                     break;
2620                 }
2621             }
2622     }
2623
2624     if (!ret && pkt->size < 0)
2625         ret = AVERROR(EINTR);
2626     return ret;
2627 }
2628
2629 static void mpegts_free(MpegTSContext *ts)
2630 {
2631     int i;
2632
2633     clear_programs(ts);
2634
2635     for (i = 0; i < NB_PID_MAX; i++)
2636         if (ts->pids[i])
2637             mpegts_close_filter(ts, ts->pids[i]);
2638 }
2639
2640 static int mpegts_read_close(AVFormatContext *s)
2641 {
2642     MpegTSContext *ts = s->priv_data;
2643     mpegts_free(ts);
2644     return 0;
2645 }
2646
2647 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2648                               int64_t *ppos, int64_t pos_limit)
2649 {
2650     MpegTSContext *ts = s->priv_data;
2651     int64_t pos, timestamp;
2652     uint8_t buf[TS_PACKET_SIZE];
2653     int pcr_l, pcr_pid =
2654         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2655     int pos47 = ts->pos47_full % ts->raw_packet_size;
2656     pos =
2657         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2658         ts->raw_packet_size + pos47;
2659     while(pos < pos_limit) {
2660         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2661             return AV_NOPTS_VALUE;
2662         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2663             return AV_NOPTS_VALUE;
2664         if (buf[0] != 0x47) {
2665             avio_seek(s->pb, -TS_PACKET_SIZE, SEEK_CUR);
2666             if (mpegts_resync(s) < 0)
2667                 return AV_NOPTS_VALUE;
2668             pos = avio_tell(s->pb);
2669             continue;
2670         }
2671         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2672             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2673             *ppos = pos;
2674             return timestamp;
2675         }
2676         pos += ts->raw_packet_size;
2677     }
2678
2679     return AV_NOPTS_VALUE;
2680 }
2681
2682 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2683                               int64_t *ppos, int64_t pos_limit)
2684 {
2685     MpegTSContext *ts = s->priv_data;
2686     int64_t pos;
2687     int pos47 = ts->pos47_full % ts->raw_packet_size;
2688     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2689     ff_read_frame_flush(s);
2690     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2691         return AV_NOPTS_VALUE;
2692     while(pos < pos_limit) {
2693         int ret;
2694         AVPacket pkt;
2695         av_init_packet(&pkt);
2696         ret = av_read_frame(s, &pkt);
2697         if (ret < 0)
2698             return AV_NOPTS_VALUE;
2699         av_free_packet(&pkt);
2700         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2701             ff_reduce_index(s, pkt.stream_index);
2702             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2703             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2704                 *ppos = pkt.pos;
2705                 return pkt.dts;
2706             }
2707         }
2708         pos = pkt.pos;
2709     }
2710
2711     return AV_NOPTS_VALUE;
2712 }
2713
2714 /**************************************************************/
2715 /* parsing functions - called from other demuxers such as RTP */
2716
2717 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2718 {
2719     MpegTSContext *ts;
2720
2721     ts = av_mallocz(sizeof(MpegTSContext));
2722     if (!ts)
2723         return NULL;
2724     /* no stream case, currently used by RTP */
2725     ts->raw_packet_size = TS_PACKET_SIZE;
2726     ts->stream = s;
2727     ts->auto_guess = 1;
2728     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2729     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2730
2731     return ts;
2732 }
2733
2734 /* return the consumed length if a packet was output, or -1 if no
2735  * packet is output */
2736 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2737                                const uint8_t *buf, int len)
2738 {
2739     int len1;
2740
2741     len1 = len;
2742     ts->pkt = pkt;
2743     for (;;) {
2744         ts->stop_parse = 0;
2745         if (len < TS_PACKET_SIZE)
2746             return AVERROR_INVALIDDATA;
2747         if (buf[0] != 0x47) {
2748             buf++;
2749             len--;
2750         } else {
2751             handle_packet(ts, buf);
2752             buf += TS_PACKET_SIZE;
2753             len -= TS_PACKET_SIZE;
2754             if (ts->stop_parse == 1)
2755                 break;
2756         }
2757     }
2758     return len1 - len;
2759 }
2760
2761 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2762 {
2763     mpegts_free(ts);
2764     av_free(ts);
2765 }
2766
2767 AVInputFormat ff_mpegts_demuxer = {
2768     .name           = "mpegts",
2769     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2770     .priv_data_size = sizeof(MpegTSContext),
2771     .read_probe     = mpegts_probe,
2772     .read_header    = mpegts_read_header,
2773     .read_packet    = mpegts_read_packet,
2774     .read_close     = mpegts_read_close,
2775     .read_timestamp = mpegts_get_dts,
2776     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2777     .priv_class     = &mpegts_class,
2778 };
2779
2780 AVInputFormat ff_mpegtsraw_demuxer = {
2781     .name           = "mpegtsraw",
2782     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2783     .priv_data_size = sizeof(MpegTSContext),
2784     .read_header    = mpegts_read_header,
2785     .read_packet    = mpegts_raw_read_packet,
2786     .read_close     = mpegts_read_close,
2787     .read_timestamp = mpegts_get_dts,
2788     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2789     .priv_class     = &mpegtsraw_class,
2790 };