]> git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c
Merge remote branch 'qatar/master'
[ffmpeg] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 //#define DEBUG
23 //#define DEBUG_SEEK
24 //#define USE_SYNCPOINT_SEARCH
25
26 #include "libavutil/crc.h"
27 #include "libavutil/intreadwrite.h"
28 #include "libavcodec/bytestream.h"
29 #include "avformat.h"
30 #include "mpegts.h"
31 #include "internal.h"
32 #include "avio_internal.h"
33 #include "seek.h"
34 #include "mpeg.h"
35 #include "isom.h"
36
37 /* maximum size in which we look for synchronisation if
38    synchronisation is lost */
39 #define MAX_RESYNC_SIZE 65536
40
41 #define MAX_PES_PAYLOAD 200*1024
42
43 enum MpegTSFilterType {
44     MPEGTS_PES,
45     MPEGTS_SECTION,
46 };
47
48 typedef struct MpegTSFilter MpegTSFilter;
49
50 typedef int PESCallback(MpegTSFilter *f, const uint8_t *buf, int len, int is_start, int64_t pos);
51
52 typedef struct MpegTSPESFilter {
53     PESCallback *pes_cb;
54     void *opaque;
55 } MpegTSPESFilter;
56
57 typedef void SectionCallback(MpegTSFilter *f, const uint8_t *buf, int len);
58
59 typedef void SetServiceCallback(void *opaque, int ret);
60
61 typedef struct MpegTSSectionFilter {
62     int section_index;
63     int section_h_size;
64     uint8_t *section_buf;
65     unsigned int check_crc:1;
66     unsigned int end_of_section_reached:1;
67     SectionCallback *section_cb;
68     void *opaque;
69 } MpegTSSectionFilter;
70
71 struct MpegTSFilter {
72     int pid;
73     int last_cc; /* last cc code (-1 if first packet) */
74     enum MpegTSFilterType type;
75     union {
76         MpegTSPESFilter pes_filter;
77         MpegTSSectionFilter section_filter;
78     } u;
79 };
80
81 #define MAX_PIDS_PER_PROGRAM 64
82 struct Program {
83     unsigned int id; //program id/service id
84     unsigned int nb_pids;
85     unsigned int pids[MAX_PIDS_PER_PROGRAM];
86 };
87
88 struct MpegTSContext {
89     /* user data */
90     AVFormatContext *stream;
91     /** raw packet size, including FEC if present            */
92     int raw_packet_size;
93
94     int pos47;
95
96     /** if true, all pids are analyzed to find streams       */
97     int auto_guess;
98
99     /** compute exact PCR for each transport stream packet   */
100     int mpeg2ts_compute_pcr;
101
102     int64_t cur_pcr;    /**< used to estimate the exact PCR  */
103     int pcr_incr;       /**< used to estimate the exact PCR  */
104
105     /* data needed to handle file based ts */
106     /** stop parsing loop                                    */
107     int stop_parse;
108     /** packet containing Audio/Video data                   */
109     AVPacket *pkt;
110     /** to detect seek                                       */
111     int64_t last_pos;
112
113     /******************************************/
114     /* private mpegts data */
115     /* scan context */
116     /** structure to keep track of Program->pids mapping     */
117     unsigned int nb_prg;
118     struct Program *prg;
119
120
121     /** filters for various streams specified by PMT + for the PAT and PMT */
122     MpegTSFilter *pids[NB_PID_MAX];
123 };
124
125 /* TS stream handling */
126
127 enum MpegTSState {
128     MPEGTS_HEADER = 0,
129     MPEGTS_PESHEADER,
130     MPEGTS_PESHEADER_FILL,
131     MPEGTS_PAYLOAD,
132     MPEGTS_SKIP,
133 };
134
135 /* enough for PES header + length */
136 #define PES_START_SIZE  6
137 #define PES_HEADER_SIZE 9
138 #define MAX_PES_HEADER_SIZE (9 + 255)
139
140 typedef struct PESContext {
141     int pid;
142     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
143     int stream_type;
144     MpegTSContext *ts;
145     AVFormatContext *stream;
146     AVStream *st;
147     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
148     enum MpegTSState state;
149     /* used to get the format */
150     int data_index;
151     int total_size;
152     int pes_header_size;
153     int extended_stream_id;
154     int64_t pts, dts;
155     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
156     uint8_t header[MAX_PES_HEADER_SIZE];
157     uint8_t *buffer;
158 } PESContext;
159
160 extern AVInputFormat ff_mpegts_demuxer;
161
162 static void clear_program(MpegTSContext *ts, unsigned int programid)
163 {
164     int i;
165
166     for(i=0; i<ts->nb_prg; i++)
167         if(ts->prg[i].id == programid)
168             ts->prg[i].nb_pids = 0;
169 }
170
171 static void clear_programs(MpegTSContext *ts)
172 {
173     av_freep(&ts->prg);
174     ts->nb_prg=0;
175 }
176
177 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
178 {
179     struct Program *p;
180     void *tmp = av_realloc(ts->prg, (ts->nb_prg+1)*sizeof(struct Program));
181     if(!tmp)
182         return;
183     ts->prg = tmp;
184     p = &ts->prg[ts->nb_prg];
185     p->id = programid;
186     p->nb_pids = 0;
187     ts->nb_prg++;
188 }
189
190 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid, unsigned int pid)
191 {
192     int i;
193     struct Program *p = NULL;
194     for(i=0; i<ts->nb_prg; i++) {
195         if(ts->prg[i].id == programid) {
196             p = &ts->prg[i];
197             break;
198         }
199     }
200     if(!p)
201         return;
202
203     if(p->nb_pids >= MAX_PIDS_PER_PROGRAM)
204         return;
205     p->pids[p->nb_pids++] = pid;
206 }
207
208 /**
209  * \brief discard_pid() decides if the pid is to be discarded according
210  *                      to caller's programs selection
211  * \param ts    : - TS context
212  * \param pid   : - pid
213  * \return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
214  *         0 otherwise
215  */
216 static int discard_pid(MpegTSContext *ts, unsigned int pid)
217 {
218     int i, j, k;
219     int used = 0, discarded = 0;
220     struct Program *p;
221     for(i=0; i<ts->nb_prg; i++) {
222         p = &ts->prg[i];
223         for(j=0; j<p->nb_pids; j++) {
224             if(p->pids[j] != pid)
225                 continue;
226             //is program with id p->id set to be discarded?
227             for(k=0; k<ts->stream->nb_programs; k++) {
228                 if(ts->stream->programs[k]->id == p->id) {
229                     if(ts->stream->programs[k]->discard == AVDISCARD_ALL)
230                         discarded++;
231                     else
232                         used++;
233                 }
234             }
235         }
236     }
237
238     return !used && discarded;
239 }
240
241 /**
242  *  Assemble PES packets out of TS packets, and then call the "section_cb"
243  *  function when they are complete.
244  */
245 static void write_section_data(AVFormatContext *s, MpegTSFilter *tss1,
246                                const uint8_t *buf, int buf_size, int is_start)
247 {
248     MpegTSSectionFilter *tss = &tss1->u.section_filter;
249     int len;
250
251     if (is_start) {
252         memcpy(tss->section_buf, buf, buf_size);
253         tss->section_index = buf_size;
254         tss->section_h_size = -1;
255         tss->end_of_section_reached = 0;
256     } else {
257         if (tss->end_of_section_reached)
258             return;
259         len = 4096 - tss->section_index;
260         if (buf_size < len)
261             len = buf_size;
262         memcpy(tss->section_buf + tss->section_index, buf, len);
263         tss->section_index += len;
264     }
265
266     /* compute section length if possible */
267     if (tss->section_h_size == -1 && tss->section_index >= 3) {
268         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
269         if (len > 4096)
270             return;
271         tss->section_h_size = len;
272     }
273
274     if (tss->section_h_size != -1 && tss->section_index >= tss->section_h_size) {
275         tss->end_of_section_reached = 1;
276         if (!tss->check_crc ||
277             av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1,
278                    tss->section_buf, tss->section_h_size) == 0)
279             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
280     }
281 }
282
283 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts, unsigned int pid,
284                                          SectionCallback *section_cb, void *opaque,
285                                          int check_crc)
286
287 {
288     MpegTSFilter *filter;
289     MpegTSSectionFilter *sec;
290
291     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
292
293     if (pid >= NB_PID_MAX || ts->pids[pid])
294         return NULL;
295     filter = av_mallocz(sizeof(MpegTSFilter));
296     if (!filter)
297         return NULL;
298     ts->pids[pid] = filter;
299     filter->type = MPEGTS_SECTION;
300     filter->pid = pid;
301     filter->last_cc = -1;
302     sec = &filter->u.section_filter;
303     sec->section_cb = section_cb;
304     sec->opaque = opaque;
305     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
306     sec->check_crc = check_crc;
307     if (!sec->section_buf) {
308         av_free(filter);
309         return NULL;
310     }
311     return filter;
312 }
313
314 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
315                                      PESCallback *pes_cb,
316                                      void *opaque)
317 {
318     MpegTSFilter *filter;
319     MpegTSPESFilter *pes;
320
321     if (pid >= NB_PID_MAX || ts->pids[pid])
322         return NULL;
323     filter = av_mallocz(sizeof(MpegTSFilter));
324     if (!filter)
325         return NULL;
326     ts->pids[pid] = filter;
327     filter->type = MPEGTS_PES;
328     filter->pid = pid;
329     filter->last_cc = -1;
330     pes = &filter->u.pes_filter;
331     pes->pes_cb = pes_cb;
332     pes->opaque = opaque;
333     return filter;
334 }
335
336 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
337 {
338     int pid;
339
340     pid = filter->pid;
341     if (filter->type == MPEGTS_SECTION)
342         av_freep(&filter->u.section_filter.section_buf);
343     else if (filter->type == MPEGTS_PES) {
344         PESContext *pes = filter->u.pes_filter.opaque;
345         av_freep(&pes->buffer);
346         /* referenced private data will be freed later in
347          * av_close_input_stream */
348         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
349             av_freep(&filter->u.pes_filter.opaque);
350         }
351     }
352
353     av_free(filter);
354     ts->pids[pid] = NULL;
355 }
356
357 static int analyze(const uint8_t *buf, int size, int packet_size, int *index){
358     int stat[TS_MAX_PACKET_SIZE];
359     int i;
360     int x=0;
361     int best_score=0;
362
363     memset(stat, 0, packet_size*sizeof(int));
364
365     for(x=i=0; i<size-3; i++){
366         if(buf[i] == 0x47 && !(buf[i+1] & 0x80) && (buf[i+3] & 0x30)){
367             stat[x]++;
368             if(stat[x] > best_score){
369                 best_score= stat[x];
370                 if(index) *index= x;
371             }
372         }
373
374         x++;
375         if(x == packet_size) x= 0;
376     }
377
378     return best_score;
379 }
380
381 /* autodetect fec presence. Must have at least 1024 bytes  */
382 static int get_packet_size(const uint8_t *buf, int size)
383 {
384     int score, fec_score, dvhs_score;
385
386     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
387         return -1;
388
389     score    = analyze(buf, size, TS_PACKET_SIZE, NULL);
390     dvhs_score    = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
391     fec_score= analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
392 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
393
394     if     (score > fec_score && score > dvhs_score) return TS_PACKET_SIZE;
395     else if(dvhs_score > score && dvhs_score > fec_score) return TS_DVHS_PACKET_SIZE;
396     else if(score < fec_score && dvhs_score < fec_score) return TS_FEC_PACKET_SIZE;
397     else                       return -1;
398 }
399
400 typedef struct SectionHeader {
401     uint8_t tid;
402     uint16_t id;
403     uint8_t version;
404     uint8_t sec_num;
405     uint8_t last_sec_num;
406 } SectionHeader;
407
408 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
409 {
410     const uint8_t *p;
411     int c;
412
413     p = *pp;
414     if (p >= p_end)
415         return -1;
416     c = *p++;
417     *pp = p;
418     return c;
419 }
420
421 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
422 {
423     const uint8_t *p;
424     int c;
425
426     p = *pp;
427     if ((p + 1) >= p_end)
428         return -1;
429     c = AV_RB16(p);
430     p += 2;
431     *pp = p;
432     return c;
433 }
434
435 /* read and allocate a DVB string preceeded by its length */
436 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
437 {
438     int len;
439     const uint8_t *p;
440     char *str;
441
442     p = *pp;
443     len = get8(&p, p_end);
444     if (len < 0)
445         return NULL;
446     if ((p + len) > p_end)
447         return NULL;
448     str = av_malloc(len + 1);
449     if (!str)
450         return NULL;
451     memcpy(str, p, len);
452     str[len] = '\0';
453     p += len;
454     *pp = p;
455     return str;
456 }
457
458 static int parse_section_header(SectionHeader *h,
459                                 const uint8_t **pp, const uint8_t *p_end)
460 {
461     int val;
462
463     val = get8(pp, p_end);
464     if (val < 0)
465         return -1;
466     h->tid = val;
467     *pp += 2;
468     val = get16(pp, p_end);
469     if (val < 0)
470         return -1;
471     h->id = val;
472     val = get8(pp, p_end);
473     if (val < 0)
474         return -1;
475     h->version = (val >> 1) & 0x1f;
476     val = get8(pp, p_end);
477     if (val < 0)
478         return -1;
479     h->sec_num = val;
480     val = get8(pp, p_end);
481     if (val < 0)
482         return -1;
483     h->last_sec_num = val;
484     return 0;
485 }
486
487 typedef struct {
488     uint32_t stream_type;
489     enum AVMediaType codec_type;
490     enum CodecID codec_id;
491 } StreamType;
492
493 static const StreamType ISO_types[] = {
494     { 0x01, AVMEDIA_TYPE_VIDEO, CODEC_ID_MPEG2VIDEO },
495     { 0x02, AVMEDIA_TYPE_VIDEO, CODEC_ID_MPEG2VIDEO },
496     { 0x03, AVMEDIA_TYPE_AUDIO,        CODEC_ID_MP3 },
497     { 0x04, AVMEDIA_TYPE_AUDIO,        CODEC_ID_MP3 },
498     { 0x0f, AVMEDIA_TYPE_AUDIO,        CODEC_ID_AAC },
499     { 0x10, AVMEDIA_TYPE_VIDEO,      CODEC_ID_MPEG4 },
500     { 0x11, AVMEDIA_TYPE_AUDIO,   CODEC_ID_AAC_LATM }, /* LATM syntax */
501     { 0x1b, AVMEDIA_TYPE_VIDEO,       CODEC_ID_H264 },
502     { 0xd1, AVMEDIA_TYPE_VIDEO,      CODEC_ID_DIRAC },
503     { 0xea, AVMEDIA_TYPE_VIDEO,        CODEC_ID_VC1 },
504     { 0 },
505 };
506
507 static const StreamType HDMV_types[] = {
508     { 0x80, AVMEDIA_TYPE_AUDIO, CODEC_ID_PCM_BLURAY },
509     { 0x81, AVMEDIA_TYPE_AUDIO, CODEC_ID_AC3 },
510     { 0x82, AVMEDIA_TYPE_AUDIO, CODEC_ID_DTS },
511     { 0x83, AVMEDIA_TYPE_AUDIO, CODEC_ID_TRUEHD },
512     { 0x84, AVMEDIA_TYPE_AUDIO, CODEC_ID_EAC3 },
513     { 0x90, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_HDMV_PGS_SUBTITLE },
514     { 0 },
515 };
516
517 /* ATSC ? */
518 static const StreamType MISC_types[] = {
519     { 0x81, AVMEDIA_TYPE_AUDIO,   CODEC_ID_AC3 },
520     { 0x8a, AVMEDIA_TYPE_AUDIO,   CODEC_ID_DTS },
521     { 0 },
522 };
523
524 static const StreamType REGD_types[] = {
525     { MKTAG('d','r','a','c'), AVMEDIA_TYPE_VIDEO, CODEC_ID_DIRAC },
526     { MKTAG('A','C','-','3'), AVMEDIA_TYPE_AUDIO,   CODEC_ID_AC3 },
527     { MKTAG('B','S','S','D'), AVMEDIA_TYPE_AUDIO, CODEC_ID_S302M },
528     { 0 },
529 };
530
531 /* descriptor present */
532 static const StreamType DESC_types[] = {
533     { 0x6a, AVMEDIA_TYPE_AUDIO,             CODEC_ID_AC3 }, /* AC-3 descriptor */
534     { 0x7a, AVMEDIA_TYPE_AUDIO,            CODEC_ID_EAC3 }, /* E-AC-3 descriptor */
535     { 0x7b, AVMEDIA_TYPE_AUDIO,             CODEC_ID_DTS },
536     { 0x56, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_DVB_TELETEXT },
537     { 0x59, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
538     { 0 },
539 };
540
541 static void mpegts_find_stream_type(AVStream *st,
542                                     uint32_t stream_type, const StreamType *types)
543 {
544     for (; types->stream_type; types++) {
545         if (stream_type == types->stream_type) {
546             st->codec->codec_type = types->codec_type;
547             st->codec->codec_id   = types->codec_id;
548             st->request_probe     = 0;
549             return;
550         }
551     }
552 }
553
554 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
555                                   uint32_t stream_type, uint32_t prog_reg_desc)
556 {
557     av_set_pts_info(st, 33, 1, 90000);
558     st->priv_data = pes;
559     st->codec->codec_type = AVMEDIA_TYPE_DATA;
560     st->codec->codec_id   = CODEC_ID_NONE;
561     st->need_parsing = AVSTREAM_PARSE_FULL;
562     pes->st = st;
563     pes->stream_type = stream_type;
564
565     av_log(pes->stream, AV_LOG_DEBUG,
566            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
567            st->index, pes->stream_type, pes->pid, (char*)&prog_reg_desc);
568
569     st->codec->codec_tag = pes->stream_type;
570
571     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
572     if (prog_reg_desc == AV_RL32("HDMV") &&
573         st->codec->codec_id == CODEC_ID_NONE) {
574         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
575         if (pes->stream_type == 0x83) {
576             // HDMV TrueHD streams also contain an AC3 coded version of the
577             // audio track - add a second stream for this
578             AVStream *sub_st;
579             // priv_data cannot be shared between streams
580             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
581             if (!sub_pes)
582                 return AVERROR(ENOMEM);
583             memcpy(sub_pes, pes, sizeof(*sub_pes));
584
585             sub_st = av_new_stream(pes->stream, pes->pid);
586             if (!sub_st) {
587                 av_free(sub_pes);
588                 return AVERROR(ENOMEM);
589             }
590
591             av_set_pts_info(sub_st, 33, 1, 90000);
592             sub_st->priv_data = sub_pes;
593             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
594             sub_st->codec->codec_id   = CODEC_ID_AC3;
595             sub_st->need_parsing = AVSTREAM_PARSE_FULL;
596             sub_pes->sub_st = pes->sub_st = sub_st;
597         }
598     }
599     if (st->codec->codec_id == CODEC_ID_NONE)
600         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
601
602     return 0;
603 }
604
605 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
606 {
607     av_init_packet(pkt);
608
609     pkt->destruct = av_destruct_packet;
610     pkt->data = pes->buffer;
611     pkt->size = pes->data_index;
612     memset(pkt->data+pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
613
614     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
615     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
616         pkt->stream_index = pes->sub_st->index;
617     else
618         pkt->stream_index = pes->st->index;
619     pkt->pts = pes->pts;
620     pkt->dts = pes->dts;
621     /* store position of first TS packet of this PES packet */
622     pkt->pos = pes->ts_packet_pos;
623
624     /* reset pts values */
625     pes->pts = AV_NOPTS_VALUE;
626     pes->dts = AV_NOPTS_VALUE;
627     pes->buffer = NULL;
628     pes->data_index = 0;
629 }
630
631 /* return non zero if a packet could be constructed */
632 static int mpegts_push_data(MpegTSFilter *filter,
633                             const uint8_t *buf, int buf_size, int is_start,
634                             int64_t pos)
635 {
636     PESContext *pes = filter->u.pes_filter.opaque;
637     MpegTSContext *ts = pes->ts;
638     const uint8_t *p;
639     int len, code;
640
641     if(!ts->pkt)
642         return 0;
643
644     if (is_start) {
645         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
646             new_pes_packet(pes, ts->pkt);
647             ts->stop_parse = 1;
648         }
649         pes->state = MPEGTS_HEADER;
650         pes->data_index = 0;
651         pes->ts_packet_pos = pos;
652     }
653     p = buf;
654     while (buf_size > 0) {
655         switch(pes->state) {
656         case MPEGTS_HEADER:
657             len = PES_START_SIZE - pes->data_index;
658             if (len > buf_size)
659                 len = buf_size;
660             memcpy(pes->header + pes->data_index, p, len);
661             pes->data_index += len;
662             p += len;
663             buf_size -= len;
664             if (pes->data_index == PES_START_SIZE) {
665                 /* we got all the PES or section header. We can now
666                    decide */
667                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
668                     pes->header[2] == 0x01) {
669                     /* it must be an mpeg2 PES stream */
670                     code = pes->header[3] | 0x100;
671                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid, code);
672
673                     if ((pes->st && pes->st->discard == AVDISCARD_ALL) ||
674                         code == 0x1be) /* padding_stream */
675                         goto skip;
676
677                     /* stream not present in PMT */
678                     if (!pes->st) {
679                         pes->st = av_new_stream(ts->stream, pes->pid);
680                         if (!pes->st)
681                             return AVERROR(ENOMEM);
682                         mpegts_set_stream_info(pes->st, pes, 0, 0);
683                     }
684
685                     pes->total_size = AV_RB16(pes->header + 4);
686                     /* NOTE: a zero total size means the PES size is
687                        unbounded */
688                     if (!pes->total_size)
689                         pes->total_size = MAX_PES_PAYLOAD;
690
691                     /* allocate pes buffer */
692                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
693                     if (!pes->buffer)
694                         return AVERROR(ENOMEM);
695
696                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
697                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
698                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
699                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
700                         pes->state = MPEGTS_PESHEADER;
701                         if (pes->st->codec->codec_id == CODEC_ID_NONE && !pes->st->request_probe) {
702                             av_dlog(pes->stream, "pid=%x stream_type=%x probing\n",
703                                     pes->pid, pes->stream_type);
704                             pes->st->request_probe= 1;
705                         }
706                     } else {
707                         pes->state = MPEGTS_PAYLOAD;
708                         pes->data_index = 0;
709                     }
710                 } else {
711                     /* otherwise, it should be a table */
712                     /* skip packet */
713                 skip:
714                     pes->state = MPEGTS_SKIP;
715                     continue;
716                 }
717             }
718             break;
719             /**********************************************/
720             /* PES packing parsing */
721         case MPEGTS_PESHEADER:
722             len = PES_HEADER_SIZE - pes->data_index;
723             if (len < 0)
724                 return -1;
725             if (len > buf_size)
726                 len = buf_size;
727             memcpy(pes->header + pes->data_index, p, len);
728             pes->data_index += len;
729             p += len;
730             buf_size -= len;
731             if (pes->data_index == PES_HEADER_SIZE) {
732                 pes->pes_header_size = pes->header[8] + 9;
733                 pes->state = MPEGTS_PESHEADER_FILL;
734             }
735             break;
736         case MPEGTS_PESHEADER_FILL:
737             len = pes->pes_header_size - pes->data_index;
738             if (len < 0)
739                 return -1;
740             if (len > buf_size)
741                 len = buf_size;
742             memcpy(pes->header + pes->data_index, p, len);
743             pes->data_index += len;
744             p += len;
745             buf_size -= len;
746             if (pes->data_index == pes->pes_header_size) {
747                 const uint8_t *r;
748                 unsigned int flags, pes_ext, skip;
749
750                 flags = pes->header[7];
751                 r = pes->header + 9;
752                 pes->pts = AV_NOPTS_VALUE;
753                 pes->dts = AV_NOPTS_VALUE;
754                 if ((flags & 0xc0) == 0x80) {
755                     pes->dts = pes->pts = ff_parse_pes_pts(r);
756                     r += 5;
757                 } else if ((flags & 0xc0) == 0xc0) {
758                     pes->pts = ff_parse_pes_pts(r);
759                     r += 5;
760                     pes->dts = ff_parse_pes_pts(r);
761                     r += 5;
762                 }
763                 pes->extended_stream_id = -1;
764                 if (flags & 0x01) { /* PES extension */
765                     pes_ext = *r++;
766                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
767                     skip = (pes_ext >> 4) & 0xb;
768                     skip += skip & 0x9;
769                     r += skip;
770                     if ((pes_ext & 0x41) == 0x01 &&
771                         (r + 2) <= (pes->header + pes->pes_header_size)) {
772                         /* PES extension 2 */
773                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
774                             pes->extended_stream_id = r[1];
775                     }
776                 }
777
778                 /* we got the full header. We parse it and get the payload */
779                 pes->state = MPEGTS_PAYLOAD;
780                 pes->data_index = 0;
781             }
782             break;
783         case MPEGTS_PAYLOAD:
784             if (buf_size > 0 && pes->buffer) {
785                 if (pes->data_index > 0 && pes->data_index+buf_size > pes->total_size) {
786                     new_pes_packet(pes, ts->pkt);
787                     pes->total_size = MAX_PES_PAYLOAD;
788                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
789                     if (!pes->buffer)
790                         return AVERROR(ENOMEM);
791                     ts->stop_parse = 1;
792                 } else if (pes->data_index == 0 && buf_size > pes->total_size) {
793                     // pes packet size is < ts size packet and pes data is padded with 0xff
794                     // not sure if this is legal in ts but see issue #2392
795                     buf_size = pes->total_size;
796                 }
797                 memcpy(pes->buffer+pes->data_index, p, buf_size);
798                 pes->data_index += buf_size;
799             }
800             buf_size = 0;
801             /* emit complete packets with known packet size
802              * decreases demuxer delay for infrequent packets like subtitles from
803              * a couple of seconds to milliseconds for properly muxed files.
804              * total_size is the number of bytes following pes_packet_length
805              * in the pes header, i.e. not counting the first 6 bytes */
806             if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
807                 pes->pes_header_size + pes->data_index == pes->total_size + 6) {
808                 ts->stop_parse = 1;
809                 new_pes_packet(pes, ts->pkt);
810             }
811             break;
812         case MPEGTS_SKIP:
813             buf_size = 0;
814             break;
815         }
816     }
817
818     return 0;
819 }
820
821 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
822 {
823     MpegTSFilter *tss;
824     PESContext *pes;
825
826     /* if no pid found, then add a pid context */
827     pes = av_mallocz(sizeof(PESContext));
828     if (!pes)
829         return 0;
830     pes->ts = ts;
831     pes->stream = ts->stream;
832     pes->pid = pid;
833     pes->pcr_pid = pcr_pid;
834     pes->state = MPEGTS_SKIP;
835     pes->pts = AV_NOPTS_VALUE;
836     pes->dts = AV_NOPTS_VALUE;
837     tss = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
838     if (!tss) {
839         av_free(pes);
840         return 0;
841     }
842     return pes;
843 }
844
845 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
846                          int *es_id, uint8_t **dec_config_descr,
847                          int *dec_config_descr_size)
848 {
849     AVIOContext pb;
850     int tag;
851     unsigned len;
852
853     ffio_init_context(&pb, buf, size, 0, NULL, NULL, NULL, NULL);
854
855     len = ff_mp4_read_descr(s, &pb, &tag);
856     if (tag == MP4IODescrTag) {
857         avio_rb16(&pb); // ID
858         avio_r8(&pb);
859         avio_r8(&pb);
860         avio_r8(&pb);
861         avio_r8(&pb);
862         avio_r8(&pb);
863         len = ff_mp4_read_descr(s, &pb, &tag);
864         if (tag == MP4ESDescrTag) {
865             *es_id = avio_rb16(&pb); /* ES_ID */
866             av_dlog(s, "ES_ID %#x\n", *es_id);
867             avio_r8(&pb); /* priority */
868             len = ff_mp4_read_descr(s, &pb, &tag);
869             if (tag == MP4DecConfigDescrTag) {
870                 *dec_config_descr = av_malloc(len);
871                 if (!*dec_config_descr)
872                     return AVERROR(ENOMEM);
873                 *dec_config_descr_size = len;
874                 avio_read(&pb, *dec_config_descr, len);
875             }
876         }
877     }
878     return 0;
879 }
880
881 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
882                               const uint8_t **pp, const uint8_t *desc_list_end,
883                               int mp4_dec_config_descr_len, int mp4_es_id, int pid,
884                               uint8_t *mp4_dec_config_descr)
885 {
886     const uint8_t *desc_end;
887     int desc_len, desc_tag;
888     char language[252];
889     int i;
890
891     desc_tag = get8(pp, desc_list_end);
892     if (desc_tag < 0)
893         return -1;
894     desc_len = get8(pp, desc_list_end);
895     if (desc_len < 0)
896         return -1;
897     desc_end = *pp + desc_len;
898     if (desc_end > desc_list_end)
899         return -1;
900
901     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
902
903     if (st->codec->codec_id == CODEC_ID_NONE &&
904         stream_type == STREAM_TYPE_PRIVATE_DATA)
905         mpegts_find_stream_type(st, desc_tag, DESC_types);
906
907     switch(desc_tag) {
908     case 0x1F: /* FMC descriptor */
909         get16(pp, desc_end);
910         if (st->codec->codec_id == CODEC_ID_AAC_LATM &&
911             mp4_dec_config_descr_len && mp4_es_id == pid) {
912             AVIOContext pb;
913             ffio_init_context(&pb, mp4_dec_config_descr,
914                           mp4_dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
915             ff_mp4_read_dec_config_descr(fc, st, &pb);
916             if (st->codec->codec_id == CODEC_ID_AAC &&
917                 st->codec->extradata_size > 0)
918                 st->need_parsing = 0;
919         }
920         break;
921     case 0x56: /* DVB teletext descriptor */
922         language[0] = get8(pp, desc_end);
923         language[1] = get8(pp, desc_end);
924         language[2] = get8(pp, desc_end);
925         language[3] = 0;
926         av_metadata_set2(&st->metadata, "language", language, 0);
927         break;
928     case 0x59: /* subtitling descriptor */
929         language[0] = get8(pp, desc_end);
930         language[1] = get8(pp, desc_end);
931         language[2] = get8(pp, desc_end);
932         language[3] = 0;
933         /* hearing impaired subtitles detection */
934         switch(get8(pp, desc_end)) {
935         case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
936         case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
937         case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
938         case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
939         case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
940         case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
941             st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
942             break;
943         }
944         if (st->codec->extradata) {
945             if (st->codec->extradata_size == 4 && memcmp(st->codec->extradata, *pp, 4))
946                 av_log_ask_for_sample(fc, "DVB sub with multiple IDs\n");
947         } else {
948             st->codec->extradata = av_malloc(4 + FF_INPUT_BUFFER_PADDING_SIZE);
949             if (st->codec->extradata) {
950                 st->codec->extradata_size = 4;
951                 memcpy(st->codec->extradata, *pp, 4);
952             }
953         }
954         *pp += 4;
955         av_metadata_set2(&st->metadata, "language", language, 0);
956         break;
957     case 0x0a: /* ISO 639 language descriptor */
958         for (i = 0; i + 4 <= desc_len; i += 4) {
959             language[i + 0] = get8(pp, desc_end);
960             language[i + 1] = get8(pp, desc_end);
961             language[i + 2] = get8(pp, desc_end);
962             language[i + 3] = ',';
963         switch (get8(pp, desc_end)) {
964             case 0x01: st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS; break;
965             case 0x02: st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED; break;
966             case 0x03: st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED; break;
967         }
968         }
969         if (i) {
970             language[i - 1] = 0;
971             av_metadata_set2(&st->metadata, "language", language, 0);
972         }
973         break;
974     case 0x05: /* registration descriptor */
975         st->codec->codec_tag = bytestream_get_le32(pp);
976         av_dlog(fc, "reg_desc=%.4s\n", (char*)&st->codec->codec_tag);
977         if (st->codec->codec_id == CODEC_ID_NONE &&
978             stream_type == STREAM_TYPE_PRIVATE_DATA)
979             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
980         break;
981     default:
982         break;
983     }
984     *pp = desc_end;
985     return 0;
986 }
987
988 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
989 {
990     MpegTSContext *ts = filter->u.section_filter.opaque;
991     SectionHeader h1, *h = &h1;
992     PESContext *pes;
993     AVStream *st;
994     const uint8_t *p, *p_end, *desc_list_end;
995     int program_info_length, pcr_pid, pid, stream_type;
996     int desc_list_len;
997     uint32_t prog_reg_desc = 0; /* registration descriptor */
998     uint8_t *mp4_dec_config_descr = NULL;
999     int mp4_dec_config_descr_len = 0;
1000     int mp4_es_id = 0;
1001
1002 #ifdef DEBUG
1003     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1004     av_hex_dump_log(ts->stream, AV_LOG_DEBUG, (uint8_t *)section, section_len);
1005 #endif
1006
1007     p_end = section + section_len - 4;
1008     p = section;
1009     if (parse_section_header(h, &p, p_end) < 0)
1010         return;
1011
1012     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d\n",
1013            h->id, h->sec_num, h->last_sec_num);
1014
1015     if (h->tid != PMT_TID)
1016         return;
1017
1018     clear_program(ts, h->id);
1019     pcr_pid = get16(&p, p_end) & 0x1fff;
1020     if (pcr_pid < 0)
1021         return;
1022     add_pid_to_pmt(ts, h->id, pcr_pid);
1023
1024     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1025
1026     program_info_length = get16(&p, p_end) & 0xfff;
1027     if (program_info_length < 0)
1028         return;
1029     while(program_info_length >= 2) {
1030         uint8_t tag, len;
1031         tag = get8(&p, p_end);
1032         len = get8(&p, p_end);
1033
1034         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1035
1036         if(len > program_info_length - 2)
1037             //something else is broken, exit the program_descriptors_loop
1038             break;
1039         program_info_length -= len + 2;
1040         if (tag == 0x1d) { // IOD descriptor
1041             get8(&p, p_end); // scope
1042             get8(&p, p_end); // label
1043             len -= 2;
1044             mp4_read_iods(ts->stream, p, len, &mp4_es_id,
1045                           &mp4_dec_config_descr, &mp4_dec_config_descr_len);
1046         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1047             prog_reg_desc = bytestream_get_le32(&p);
1048             len -= 4;
1049         }
1050         p += len;
1051     }
1052     p += program_info_length;
1053     if (p >= p_end)
1054         goto out;
1055
1056     // stop parsing after pmt, we found header
1057     if (!ts->stream->nb_streams)
1058         ts->stop_parse = 1;
1059
1060     for(;;) {
1061         st = 0;
1062         stream_type = get8(&p, p_end);
1063         if (stream_type < 0)
1064             break;
1065         pid = get16(&p, p_end) & 0x1fff;
1066         if (pid < 0)
1067             break;
1068
1069         /* now create ffmpeg stream */
1070         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1071             pes = ts->pids[pid]->u.pes_filter.opaque;
1072             if (!pes->st)
1073                 pes->st = av_new_stream(pes->stream, pes->pid);
1074             st = pes->st;
1075         } else {
1076             if (ts->pids[pid]) mpegts_close_filter(ts, ts->pids[pid]); //wrongly added sdt filter probably
1077             pes = add_pes_stream(ts, pid, pcr_pid);
1078             if (pes)
1079                 st = av_new_stream(pes->stream, pes->pid);
1080         }
1081
1082         if (!st)
1083             goto out;
1084
1085         if (!pes->stream_type)
1086             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1087
1088         add_pid_to_pmt(ts, h->id, pid);
1089
1090         ff_program_add_stream_index(ts->stream, h->id, st->index);
1091
1092         desc_list_len = get16(&p, p_end) & 0xfff;
1093         if (desc_list_len < 0)
1094             break;
1095         desc_list_end = p + desc_list_len;
1096         if (desc_list_end > p_end)
1097             break;
1098         for(;;) {
1099             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p, desc_list_end,
1100                 mp4_dec_config_descr_len, mp4_es_id, pid, mp4_dec_config_descr) < 0)
1101                 break;
1102
1103             if (prog_reg_desc == AV_RL32("HDMV") && stream_type == 0x83 && pes->sub_st) {
1104                 ff_program_add_stream_index(ts->stream, h->id, pes->sub_st->index);
1105                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1106             }
1107         }
1108         p = desc_list_end;
1109     }
1110
1111  out:
1112     av_free(mp4_dec_config_descr);
1113 }
1114
1115 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1116 {
1117     MpegTSContext *ts = filter->u.section_filter.opaque;
1118     SectionHeader h1, *h = &h1;
1119     const uint8_t *p, *p_end;
1120     int sid, pmt_pid;
1121
1122 #ifdef DEBUG
1123     av_dlog(ts->stream, "PAT:\n");
1124     av_hex_dump_log(ts->stream, AV_LOG_DEBUG, (uint8_t *)section, section_len);
1125 #endif
1126     p_end = section + section_len - 4;
1127     p = section;
1128     if (parse_section_header(h, &p, p_end) < 0)
1129         return;
1130     if (h->tid != PAT_TID)
1131         return;
1132
1133     clear_programs(ts);
1134     for(;;) {
1135         sid = get16(&p, p_end);
1136         if (sid < 0)
1137             break;
1138         pmt_pid = get16(&p, p_end) & 0x1fff;
1139         if (pmt_pid < 0)
1140             break;
1141
1142         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1143
1144         if (sid == 0x0000) {
1145             /* NIT info */
1146         } else {
1147             av_new_program(ts->stream, sid);
1148             if (ts->pids[pmt_pid])
1149                 mpegts_close_filter(ts, ts->pids[pmt_pid]);
1150             mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1151             add_pat_entry(ts, sid);
1152             add_pid_to_pmt(ts, sid, 0); //add pat pid to program
1153             add_pid_to_pmt(ts, sid, pmt_pid);
1154         }
1155     }
1156 }
1157
1158 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1159 {
1160     MpegTSContext *ts = filter->u.section_filter.opaque;
1161     SectionHeader h1, *h = &h1;
1162     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
1163     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
1164     char *name, *provider_name;
1165
1166 #ifdef DEBUG
1167     av_dlog(ts->stream, "SDT:\n");
1168     av_hex_dump_log(ts->stream, AV_LOG_DEBUG, (uint8_t *)section, section_len);
1169 #endif
1170
1171     p_end = section + section_len - 4;
1172     p = section;
1173     if (parse_section_header(h, &p, p_end) < 0)
1174         return;
1175     if (h->tid != SDT_TID)
1176         return;
1177     onid = get16(&p, p_end);
1178     if (onid < 0)
1179         return;
1180     val = get8(&p, p_end);
1181     if (val < 0)
1182         return;
1183     for(;;) {
1184         sid = get16(&p, p_end);
1185         if (sid < 0)
1186             break;
1187         val = get8(&p, p_end);
1188         if (val < 0)
1189             break;
1190         desc_list_len = get16(&p, p_end) & 0xfff;
1191         if (desc_list_len < 0)
1192             break;
1193         desc_list_end = p + desc_list_len;
1194         if (desc_list_end > p_end)
1195             break;
1196         for(;;) {
1197             desc_tag = get8(&p, desc_list_end);
1198             if (desc_tag < 0)
1199                 break;
1200             desc_len = get8(&p, desc_list_end);
1201             desc_end = p + desc_len;
1202             if (desc_end > desc_list_end)
1203                 break;
1204
1205             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
1206                    desc_tag, desc_len);
1207
1208             switch(desc_tag) {
1209             case 0x48:
1210                 service_type = get8(&p, p_end);
1211                 if (service_type < 0)
1212                     break;
1213                 provider_name = getstr8(&p, p_end);
1214                 if (!provider_name)
1215                     break;
1216                 name = getstr8(&p, p_end);
1217                 if (name) {
1218                     AVProgram *program = av_new_program(ts->stream, sid);
1219                     if(program) {
1220                         av_metadata_set2(&program->metadata, "service_name", name, 0);
1221                         av_metadata_set2(&program->metadata, "service_provider", provider_name, 0);
1222                     }
1223                 }
1224                 av_free(name);
1225                 av_free(provider_name);
1226                 break;
1227             default:
1228                 break;
1229             }
1230             p = desc_end;
1231         }
1232         p = desc_list_end;
1233     }
1234 }
1235
1236 /* handle one TS packet */
1237 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
1238 {
1239     AVFormatContext *s = ts->stream;
1240     MpegTSFilter *tss;
1241     int len, pid, cc, cc_ok, afc, is_start;
1242     const uint8_t *p, *p_end;
1243     int64_t pos;
1244
1245     pid = AV_RB16(packet + 1) & 0x1fff;
1246     if(pid && discard_pid(ts, pid))
1247         return 0;
1248     is_start = packet[1] & 0x40;
1249     tss = ts->pids[pid];
1250     if (ts->auto_guess && tss == NULL && is_start) {
1251         add_pes_stream(ts, pid, -1);
1252         tss = ts->pids[pid];
1253     }
1254     if (!tss)
1255         return 0;
1256
1257     /* continuity check (currently not used) */
1258     cc = (packet[3] & 0xf);
1259     cc_ok = (tss->last_cc < 0) || ((((tss->last_cc + 1) & 0x0f) == cc));
1260     tss->last_cc = cc;
1261
1262     /* skip adaptation field */
1263     afc = (packet[3] >> 4) & 3;
1264     p = packet + 4;
1265     if (afc == 0) /* reserved value */
1266         return 0;
1267     if (afc == 2) /* adaptation field only */
1268         return 0;
1269     if (afc == 3) {
1270         /* skip adapation field */
1271         p += p[0] + 1;
1272     }
1273     /* if past the end of packet, ignore */
1274     p_end = packet + TS_PACKET_SIZE;
1275     if (p >= p_end)
1276         return 0;
1277
1278     pos = avio_tell(ts->stream->pb);
1279     ts->pos47= pos % ts->raw_packet_size;
1280
1281     if (tss->type == MPEGTS_SECTION) {
1282         if (is_start) {
1283             /* pointer field present */
1284             len = *p++;
1285             if (p + len > p_end)
1286                 return 0;
1287             if (len && cc_ok) {
1288                 /* write remaining section bytes */
1289                 write_section_data(s, tss,
1290                                    p, len, 0);
1291                 /* check whether filter has been closed */
1292                 if (!ts->pids[pid])
1293                     return 0;
1294             }
1295             p += len;
1296             if (p < p_end) {
1297                 write_section_data(s, tss,
1298                                    p, p_end - p, 1);
1299             }
1300         } else {
1301             if (cc_ok) {
1302                 write_section_data(s, tss,
1303                                    p, p_end - p, 0);
1304             }
1305         }
1306     } else {
1307         int ret;
1308         // Note: The position here points actually behind the current packet.
1309         if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
1310                                             pos - ts->raw_packet_size)) < 0)
1311             return ret;
1312     }
1313
1314     return 0;
1315 }
1316
1317 /* XXX: try to find a better synchro over several packets (use
1318    get_packet_size() ?) */
1319 static int mpegts_resync(AVFormatContext *s)
1320 {
1321     AVIOContext *pb = s->pb;
1322     int c, i;
1323
1324     for(i = 0;i < MAX_RESYNC_SIZE; i++) {
1325         c = avio_r8(pb);
1326         if (url_feof(pb))
1327             return -1;
1328         if (c == 0x47) {
1329             avio_seek(pb, -1, SEEK_CUR);
1330             return 0;
1331         }
1332     }
1333     av_log(s, AV_LOG_ERROR, "max resync size reached, could not find sync byte\n");
1334     /* no sync found */
1335     return -1;
1336 }
1337
1338 /* return -1 if error or EOF. Return 0 if OK. */
1339 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size)
1340 {
1341     AVIOContext *pb = s->pb;
1342     int skip, len;
1343
1344     for(;;) {
1345         len = avio_read(pb, buf, TS_PACKET_SIZE);
1346         if (len != TS_PACKET_SIZE)
1347             return len < 0 ? len : AVERROR_EOF;
1348         /* check paquet sync byte */
1349         if (buf[0] != 0x47) {
1350             /* find a new packet start */
1351             avio_seek(pb, -TS_PACKET_SIZE, SEEK_CUR);
1352             if (mpegts_resync(s) < 0)
1353                 return AVERROR(EAGAIN);
1354             else
1355                 continue;
1356         } else {
1357             skip = raw_packet_size - TS_PACKET_SIZE;
1358             if (skip > 0)
1359                 avio_skip(pb, skip);
1360             break;
1361         }
1362     }
1363     return 0;
1364 }
1365
1366 static int handle_packets(MpegTSContext *ts, int nb_packets)
1367 {
1368     AVFormatContext *s = ts->stream;
1369     uint8_t packet[TS_PACKET_SIZE];
1370     int packet_num, ret;
1371
1372     ts->stop_parse = 0;
1373     packet_num = 0;
1374     for(;;) {
1375         if (ts->stop_parse>0)
1376             break;
1377         packet_num++;
1378         if (nb_packets != 0 && packet_num >= nb_packets)
1379             break;
1380         ret = read_packet(s, packet, ts->raw_packet_size);
1381         if (ret != 0)
1382             return ret;
1383         ret = handle_packet(ts, packet);
1384         if (ret != 0)
1385             return ret;
1386     }
1387     return 0;
1388 }
1389
1390 static int mpegts_probe(AVProbeData *p)
1391 {
1392 #if 1
1393     const int size= p->buf_size;
1394     int score, fec_score, dvhs_score;
1395     int check_count= size / TS_FEC_PACKET_SIZE;
1396 #define CHECK_COUNT 10
1397
1398     if (check_count < CHECK_COUNT)
1399         return -1;
1400
1401     score     = analyze(p->buf, TS_PACKET_SIZE     *check_count, TS_PACKET_SIZE     , NULL)*CHECK_COUNT/check_count;
1402     dvhs_score= analyze(p->buf, TS_DVHS_PACKET_SIZE*check_count, TS_DVHS_PACKET_SIZE, NULL)*CHECK_COUNT/check_count;
1403     fec_score = analyze(p->buf, TS_FEC_PACKET_SIZE *check_count, TS_FEC_PACKET_SIZE , NULL)*CHECK_COUNT/check_count;
1404 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
1405
1406 // we need a clear definition for the returned score otherwise things will become messy sooner or later
1407     if     (score > fec_score && score > dvhs_score && score > 6) return AVPROBE_SCORE_MAX + score     - CHECK_COUNT;
1408     else if(dvhs_score > score && dvhs_score > fec_score && dvhs_score > 6) return AVPROBE_SCORE_MAX + dvhs_score  - CHECK_COUNT;
1409     else if(                 fec_score > 6) return AVPROBE_SCORE_MAX + fec_score - CHECK_COUNT;
1410     else                                    return -1;
1411 #else
1412     /* only use the extension for safer guess */
1413     if (av_match_ext(p->filename, "ts"))
1414         return AVPROBE_SCORE_MAX;
1415     else
1416         return 0;
1417 #endif
1418 }
1419
1420 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
1421    (-1) if not available */
1422 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
1423                      const uint8_t *packet)
1424 {
1425     int afc, len, flags;
1426     const uint8_t *p;
1427     unsigned int v;
1428
1429     afc = (packet[3] >> 4) & 3;
1430     if (afc <= 1)
1431         return -1;
1432     p = packet + 4;
1433     len = p[0];
1434     p++;
1435     if (len == 0)
1436         return -1;
1437     flags = *p++;
1438     len--;
1439     if (!(flags & 0x10))
1440         return -1;
1441     if (len < 6)
1442         return -1;
1443     v = AV_RB32(p);
1444     *ppcr_high = ((int64_t)v << 1) | (p[4] >> 7);
1445     *ppcr_low = ((p[4] & 1) << 8) | p[5];
1446     return 0;
1447 }
1448
1449 static int mpegts_read_header(AVFormatContext *s,
1450                               AVFormatParameters *ap)
1451 {
1452     MpegTSContext *ts = s->priv_data;
1453     AVIOContext *pb = s->pb;
1454     uint8_t buf[8*1024];
1455     int len;
1456     int64_t pos;
1457
1458     if (ap) {
1459         ts->mpeg2ts_compute_pcr = ap->mpeg2ts_compute_pcr;
1460         if(ap->mpeg2ts_raw){
1461             av_log(s, AV_LOG_ERROR, "use mpegtsraw_demuxer!\n");
1462             return -1;
1463         }
1464     }
1465
1466     /* read the first 1024 bytes to get packet size */
1467     pos = avio_tell(pb);
1468     len = avio_read(pb, buf, sizeof(buf));
1469     if (len != sizeof(buf))
1470         goto fail;
1471     ts->raw_packet_size = get_packet_size(buf, sizeof(buf));
1472     if (ts->raw_packet_size <= 0) {
1473         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
1474         ts->raw_packet_size = TS_PACKET_SIZE;
1475     }
1476     ts->stream = s;
1477     ts->auto_guess = 0;
1478
1479     if (s->iformat == &ff_mpegts_demuxer) {
1480         /* normal demux */
1481
1482         /* first do a scaning to get all the services */
1483         if (avio_seek(pb, pos, SEEK_SET) < 0)
1484             av_log(s, AV_LOG_ERROR, "Unable to seek back to the start\n");
1485
1486         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
1487
1488         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
1489
1490         handle_packets(ts, s->probesize / ts->raw_packet_size);
1491         /* if could not find service, enable auto_guess */
1492
1493         ts->auto_guess = 1;
1494
1495         av_dlog(ts->stream, "tuning done\n");
1496
1497         s->ctx_flags |= AVFMTCTX_NOHEADER;
1498     } else {
1499         AVStream *st;
1500         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
1501         int64_t pcrs[2], pcr_h;
1502         int packet_count[2];
1503         uint8_t packet[TS_PACKET_SIZE];
1504
1505         /* only read packets */
1506
1507         st = av_new_stream(s, 0);
1508         if (!st)
1509             goto fail;
1510         av_set_pts_info(st, 60, 1, 27000000);
1511         st->codec->codec_type = AVMEDIA_TYPE_DATA;
1512         st->codec->codec_id = CODEC_ID_MPEG2TS;
1513
1514         /* we iterate until we find two PCRs to estimate the bitrate */
1515         pcr_pid = -1;
1516         nb_pcrs = 0;
1517         nb_packets = 0;
1518         for(;;) {
1519             ret = read_packet(s, packet, ts->raw_packet_size);
1520             if (ret < 0)
1521                 return -1;
1522             pid = AV_RB16(packet + 1) & 0x1fff;
1523             if ((pcr_pid == -1 || pcr_pid == pid) &&
1524                 parse_pcr(&pcr_h, &pcr_l, packet) == 0) {
1525                 pcr_pid = pid;
1526                 packet_count[nb_pcrs] = nb_packets;
1527                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
1528                 nb_pcrs++;
1529                 if (nb_pcrs >= 2)
1530                     break;
1531             }
1532             nb_packets++;
1533         }
1534
1535         /* NOTE1: the bitrate is computed without the FEC */
1536         /* NOTE2: it is only the bitrate of the start of the stream */
1537         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
1538         ts->cur_pcr = pcrs[0] - ts->pcr_incr * packet_count[0];
1539         s->bit_rate = (TS_PACKET_SIZE * 8) * 27e6 / ts->pcr_incr;
1540         st->codec->bit_rate = s->bit_rate;
1541         st->start_time = ts->cur_pcr;
1542 #if 0
1543         av_log(ts->stream, AV_LOG_DEBUG, "start=%0.3f pcr=%0.3f incr=%d\n",
1544                st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
1545 #endif
1546     }
1547
1548     avio_seek(pb, pos, SEEK_SET);
1549     return 0;
1550  fail:
1551     return -1;
1552 }
1553
1554 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
1555
1556 static int mpegts_raw_read_packet(AVFormatContext *s,
1557                                   AVPacket *pkt)
1558 {
1559     MpegTSContext *ts = s->priv_data;
1560     int ret, i;
1561     int64_t pcr_h, next_pcr_h, pos;
1562     int pcr_l, next_pcr_l;
1563     uint8_t pcr_buf[12];
1564
1565     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
1566         return AVERROR(ENOMEM);
1567     pkt->pos= avio_tell(s->pb);
1568     ret = read_packet(s, pkt->data, ts->raw_packet_size);
1569     if (ret < 0) {
1570         av_free_packet(pkt);
1571         return ret;
1572     }
1573     if (ts->mpeg2ts_compute_pcr) {
1574         /* compute exact PCR for each packet */
1575         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
1576             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
1577             pos = avio_tell(s->pb);
1578             for(i = 0; i < MAX_PACKET_READAHEAD; i++) {
1579                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
1580                 avio_read(s->pb, pcr_buf, 12);
1581                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
1582                     /* XXX: not precise enough */
1583                     ts->pcr_incr = ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
1584                         (i + 1);
1585                     break;
1586                 }
1587             }
1588             avio_seek(s->pb, pos, SEEK_SET);
1589             /* no next PCR found: we use previous increment */
1590             ts->cur_pcr = pcr_h * 300 + pcr_l;
1591         }
1592         pkt->pts = ts->cur_pcr;
1593         pkt->duration = ts->pcr_incr;
1594         ts->cur_pcr += ts->pcr_incr;
1595     }
1596     pkt->stream_index = 0;
1597     return 0;
1598 }
1599
1600 static int mpegts_read_packet(AVFormatContext *s,
1601                               AVPacket *pkt)
1602 {
1603     MpegTSContext *ts = s->priv_data;
1604     int ret, i;
1605
1606     if (avio_tell(s->pb) != ts->last_pos) {
1607         /* seek detected, flush pes buffer */
1608         for (i = 0; i < NB_PID_MAX; i++) {
1609             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
1610                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
1611                 av_freep(&pes->buffer);
1612                 pes->data_index = 0;
1613                 pes->state = MPEGTS_SKIP; /* skip until pes header */
1614             }
1615         }
1616     }
1617
1618     ts->pkt = pkt;
1619     ret = handle_packets(ts, 0);
1620     if (ret < 0) {
1621         /* flush pes data left */
1622         for (i = 0; i < NB_PID_MAX; i++) {
1623             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
1624                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
1625                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1626                     new_pes_packet(pes, pkt);
1627                     pes->state = MPEGTS_SKIP;
1628                     ret = 0;
1629                     break;
1630                 }
1631             }
1632         }
1633     }
1634
1635     ts->last_pos = avio_tell(s->pb);
1636
1637     return ret;
1638 }
1639
1640 static int mpegts_read_close(AVFormatContext *s)
1641 {
1642     MpegTSContext *ts = s->priv_data;
1643     int i;
1644
1645     clear_programs(ts);
1646
1647     for(i=0;i<NB_PID_MAX;i++)
1648         if (ts->pids[i]) mpegts_close_filter(ts, ts->pids[i]);
1649
1650     return 0;
1651 }
1652
1653 static int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
1654                               int64_t *ppos, int64_t pos_limit)
1655 {
1656     MpegTSContext *ts = s->priv_data;
1657     int64_t pos, timestamp;
1658     uint8_t buf[TS_PACKET_SIZE];
1659     int pcr_l, pcr_pid = ((PESContext*)s->streams[stream_index]->priv_data)->pcr_pid;
1660     const int find_next= 1;
1661     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
1662     if (find_next) {
1663         for(;;) {
1664             avio_seek(s->pb, pos, SEEK_SET);
1665             if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
1666                 return AV_NOPTS_VALUE;
1667             if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
1668                 parse_pcr(&timestamp, &pcr_l, buf) == 0) {
1669                 break;
1670             }
1671             pos += ts->raw_packet_size;
1672         }
1673     } else {
1674         for(;;) {
1675             pos -= ts->raw_packet_size;
1676             if (pos < 0)
1677                 return AV_NOPTS_VALUE;
1678             avio_seek(s->pb, pos, SEEK_SET);
1679             if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
1680                 return AV_NOPTS_VALUE;
1681             if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
1682                 parse_pcr(&timestamp, &pcr_l, buf) == 0) {
1683                 break;
1684             }
1685         }
1686     }
1687     *ppos = pos;
1688
1689     return timestamp;
1690 }
1691
1692 #ifdef USE_SYNCPOINT_SEARCH
1693
1694 static int read_seek2(AVFormatContext *s,
1695                       int stream_index,
1696                       int64_t min_ts,
1697                       int64_t target_ts,
1698                       int64_t max_ts,
1699                       int flags)
1700 {
1701     int64_t pos;
1702
1703     int64_t ts_ret, ts_adj;
1704     int stream_index_gen_search;
1705     AVStream *st;
1706     AVParserState *backup;
1707
1708     backup = ff_store_parser_state(s);
1709
1710     // detect direction of seeking for search purposes
1711     flags |= (target_ts - min_ts > (uint64_t)(max_ts - target_ts)) ?
1712              AVSEEK_FLAG_BACKWARD : 0;
1713
1714     if (flags & AVSEEK_FLAG_BYTE) {
1715         // use position directly, we will search starting from it
1716         pos = target_ts;
1717     } else {
1718         // search for some position with good timestamp match
1719         if (stream_index < 0) {
1720             stream_index_gen_search = av_find_default_stream_index(s);
1721             if (stream_index_gen_search < 0) {
1722                 ff_restore_parser_state(s, backup);
1723                 return -1;
1724             }
1725
1726             st = s->streams[stream_index_gen_search];
1727             // timestamp for default must be expressed in AV_TIME_BASE units
1728             ts_adj = av_rescale(target_ts,
1729                                 st->time_base.den,
1730                                 AV_TIME_BASE * (int64_t)st->time_base.num);
1731         } else {
1732             ts_adj = target_ts;
1733             stream_index_gen_search = stream_index;
1734         }
1735         pos = av_gen_search(s, stream_index_gen_search, ts_adj,
1736                             0, INT64_MAX, -1,
1737                             AV_NOPTS_VALUE,
1738                             AV_NOPTS_VALUE,
1739                             flags, &ts_ret, mpegts_get_pcr);
1740         if (pos < 0) {
1741             ff_restore_parser_state(s, backup);
1742             return -1;
1743         }
1744     }
1745
1746     // search for actual matching keyframe/starting position for all streams
1747     if (ff_gen_syncpoint_search(s, stream_index, pos,
1748                                 min_ts, target_ts, max_ts,
1749                                 flags) < 0) {
1750         ff_restore_parser_state(s, backup);
1751         return -1;
1752     }
1753
1754     ff_free_parser_state(s, backup);
1755     return 0;
1756 }
1757
1758 static int read_seek(AVFormatContext *s, int stream_index, int64_t target_ts, int flags)
1759 {
1760     int ret;
1761     if (flags & AVSEEK_FLAG_BACKWARD) {
1762         flags &= ~AVSEEK_FLAG_BACKWARD;
1763         ret = read_seek2(s, stream_index, INT64_MIN, target_ts, target_ts, flags);
1764         if (ret < 0)
1765             // for compatibility reasons, seek to the best-fitting timestamp
1766             ret = read_seek2(s, stream_index, INT64_MIN, target_ts, INT64_MAX, flags);
1767     } else {
1768         ret = read_seek2(s, stream_index, target_ts, target_ts, INT64_MAX, flags);
1769         if (ret < 0)
1770             // for compatibility reasons, seek to the best-fitting timestamp
1771             ret = read_seek2(s, stream_index, INT64_MIN, target_ts, INT64_MAX, flags);
1772     }
1773     return ret;
1774 }
1775
1776 #else
1777
1778 static int read_seek(AVFormatContext *s, int stream_index, int64_t target_ts, int flags){
1779     MpegTSContext *ts = s->priv_data;
1780     uint8_t buf[TS_PACKET_SIZE];
1781     int64_t pos;
1782
1783     if(av_seek_frame_binary(s, stream_index, target_ts, flags) < 0)
1784         return -1;
1785
1786     pos= avio_tell(s->pb);
1787
1788     for(;;) {
1789         avio_seek(s->pb, pos, SEEK_SET);
1790         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
1791             return -1;
1792 //        pid = AV_RB16(buf + 1) & 0x1fff;
1793         if(buf[1] & 0x40) break;
1794         pos += ts->raw_packet_size;
1795     }
1796     avio_seek(s->pb, pos, SEEK_SET);
1797
1798     return 0;
1799 }
1800
1801 #endif
1802
1803 /**************************************************************/
1804 /* parsing functions - called from other demuxers such as RTP */
1805
1806 MpegTSContext *ff_mpegts_parse_open(AVFormatContext *s)
1807 {
1808     MpegTSContext *ts;
1809
1810     ts = av_mallocz(sizeof(MpegTSContext));
1811     if (!ts)
1812         return NULL;
1813     /* no stream case, currently used by RTP */
1814     ts->raw_packet_size = TS_PACKET_SIZE;
1815     ts->stream = s;
1816     ts->auto_guess = 1;
1817     return ts;
1818 }
1819
1820 /* return the consumed length if a packet was output, or -1 if no
1821    packet is output */
1822 int ff_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
1823                         const uint8_t *buf, int len)
1824 {
1825     int len1;
1826
1827     len1 = len;
1828     ts->pkt = pkt;
1829     ts->stop_parse = 0;
1830     for(;;) {
1831         if (ts->stop_parse>0)
1832             break;
1833         if (len < TS_PACKET_SIZE)
1834             return -1;
1835         if (buf[0] != 0x47) {
1836             buf++;
1837             len--;
1838         } else {
1839             handle_packet(ts, buf);
1840             buf += TS_PACKET_SIZE;
1841             len -= TS_PACKET_SIZE;
1842         }
1843     }
1844     return len1 - len;
1845 }
1846
1847 void ff_mpegts_parse_close(MpegTSContext *ts)
1848 {
1849     int i;
1850
1851     for(i=0;i<NB_PID_MAX;i++)
1852         av_free(ts->pids[i]);
1853     av_free(ts);
1854 }
1855
1856 AVInputFormat ff_mpegts_demuxer = {
1857     "mpegts",
1858     NULL_IF_CONFIG_SMALL("MPEG-2 transport stream format"),
1859     sizeof(MpegTSContext),
1860     mpegts_probe,
1861     mpegts_read_header,
1862     mpegts_read_packet,
1863     mpegts_read_close,
1864     read_seek,
1865     mpegts_get_pcr,
1866     .flags = AVFMT_SHOW_IDS|AVFMT_TS_DISCONT,
1867 #ifdef USE_SYNCPOINT_SEARCH
1868     .read_seek2 = read_seek2,
1869 #endif
1870 };
1871
1872 AVInputFormat ff_mpegtsraw_demuxer = {
1873     "mpegtsraw",
1874     NULL_IF_CONFIG_SMALL("MPEG-2 raw transport stream format"),
1875     sizeof(MpegTSContext),
1876     NULL,
1877     mpegts_read_header,
1878     mpegts_raw_read_packet,
1879     mpegts_read_close,
1880     read_seek,
1881     mpegts_get_pcr,
1882     .flags = AVFMT_SHOW_IDS|AVFMT_TS_DISCONT,
1883 #ifdef USE_SYNCPOINT_SEARCH
1884     .read_seek2 = read_seek2,
1885 #endif
1886 };