git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG-2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/internal.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/dict.h"
  28 #include "libavutil/mathematics.h"
  29 #include "libavutil/opt.h"
  30 #include "libavutil/avassert.h"
  31 #include "libavcodec/bytestream.h"
  32 #include "libavcodec/get_bits.h"
  33 #include "libavcodec/opus.h"
  34 #include "avformat.h"
  35 #include "mpegts.h"
  36 #include "internal.h"
  37 #include "avio_internal.h"
  38 #include "mpeg.h"
  39 #include "isom.h"
  40 #if CONFIG_ICONV
  41 #include <iconv.h>
  42 #endif
  43
  44 /* maximum size in which we look for synchronization if
  45  * synchronization is lost */
  46 #define MAX_RESYNC_SIZE 65536
  47
  48 #define MAX_PES_PAYLOAD 200 * 1024
  49
  50 #define MAX_MP4_DESCR_COUNT 16
  51
  52 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  53     do {                                                                       \
  54         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  55             (modulus) = (dividend) % (divisor);                                \
  56         (prev_dividend) = (dividend);                                          \
  57     } while (0)
  58
  59 #define PROBE_PACKET_MAX_BUF 8192
  60 #define PROBE_PACKET_MARGIN 5
  61
  62 enum MpegTSFilterType {
  63     MPEGTS_PES,
  64     MPEGTS_SECTION,
  65     MPEGTS_PCR,
  66 };
  67
  68 typedef struct MpegTSFilter MpegTSFilter;
  69
  70 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  71                          int is_start, int64_t pos);
  72
  73 typedef struct MpegTSPESFilter {
  74     PESCallback *pes_cb;
  75     void *opaque;
  76 } MpegTSPESFilter;
  77
  78 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  79
  80 typedef void SetServiceCallback (void *opaque, int ret);
  81
  82 typedef struct MpegTSSectionFilter {
  83     int section_index;
  84     int section_h_size;
  85     int last_ver;
  86     unsigned crc;
  87     unsigned last_crc;
  88     uint8_t *section_buf;
  89     unsigned int check_crc : 1;
  90     unsigned int end_of_section_reached : 1;
  91     SectionCallback *section_cb;
  92     void *opaque;
  93 } MpegTSSectionFilter;
  94
  95 struct MpegTSFilter {
  96     int pid;
  97     int es_id;
  98     int last_cc; /* last cc code (-1 if first packet) */
  99     int64_t last_pcr;
 100     int discard;
 101     enum MpegTSFilterType type;
 102     union {
 103         MpegTSPESFilter pes_filter;
 104         MpegTSSectionFilter section_filter;
 105     } u;
 106 };
 107
 108 #define MAX_PIDS_PER_PROGRAM 64
 109 struct Program {
 110     unsigned int id; // program id/service id
 111     unsigned int nb_pids;
 112     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 113
 114     /** have we found pmt for this program */
 115     int pmt_found;
 116 };
 117
 118 struct MpegTSContext {
 119     const AVClass *class;
 120     /* user data */
 121     AVFormatContext *stream;
 122     /** raw packet size, including FEC if present */
 123     int raw_packet_size;
 124
 125     int size_stat[3];
 126     int size_stat_count;
 127 #define SIZE_STAT_THRESHOLD 10
 128
 129     int64_t pos47_full;
 130
 131     /** if true, all pids are analyzed to find streams */
 132     int auto_guess;
 133
 134     /** compute exact PCR for each transport stream packet */
 135     int mpeg2ts_compute_pcr;
 136
 137     /** fix dvb teletext pts                                 */
 138     int fix_teletext_pts;
 139
 140     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 141     int pcr_incr;       /**< used to estimate the exact PCR */
 142
 143     /* data needed to handle file based ts */
 144     /** stop parsing loop */
 145     int stop_parse;
 146     /** packet containing Audio/Video data */
 147     AVPacket *pkt;
 148     /** to detect seek */
 149     int64_t last_pos;
 150
 151     int skip_changes;
 152     int skip_clear;
 153     int skip_unknown_pmt;
 154
 155     int scan_all_pmts;
 156
 157     int resync_size;
 158     int merge_pmt_versions;
 159
 160     /******************************************/
 161     /* private mpegts data */
 162     /* scan context */
 163     /** structure to keep track of Program->pids mapping */
 164     unsigned int nb_prg;
 165     struct Program *prg;
 166
 167     int8_t crc_validity[NB_PID_MAX];
 168     /** filters for various streams specified by PMT + for the PAT and PMT */
 169     MpegTSFilter *pids[NB_PID_MAX];
 170     int current_pid;
 171 };
 172
 173 #define MPEGTS_OPTIONS \
 174     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 175
 176 static const AVOption options[] = {
 177     MPEGTS_OPTIONS,
 178     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 179      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 180     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 181      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 182     {"scan_all_pmts", "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 183      {.i64 = -1}, -1, 1, AV_OPT_FLAG_DECODING_PARAM },
 184     {"skip_unknown_pmt", "skip PMTs for programs not advertised in the PAT", offsetof(MpegTSContext, skip_unknown_pmt), AV_OPT_TYPE_BOOL,
 185      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 186     {"merge_pmt_versions", "re-use streams when PMT's version/pids change", offsetof(MpegTSContext, merge_pmt_versions), AV_OPT_TYPE_BOOL,
 187      {.i64 = 0}, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 188     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 189      {.i64 = 0}, 0, 1, 0 },
 190     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 191      {.i64 = 0}, 0, 1, 0 },
 192     { NULL },
 193 };
 194
 195 static const AVClass mpegts_class = {
 196     .class_name = "mpegts demuxer",
 197     .item_name  = av_default_item_name,
 198     .option     = options,
 199     .version    = LIBAVUTIL_VERSION_INT,
 200 };
 201
 202 static const AVOption raw_options[] = {
 203     MPEGTS_OPTIONS,
 204     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 205           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 206           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 207     { "ts_packetsize", "output option carrying the raw packet size",
 208       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 209       { .i64 = 0 }, 0, 0,
 210       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 211     { NULL },
 212 };
 213
 214 static const AVClass mpegtsraw_class = {
 215     .class_name = "mpegtsraw demuxer",
 216     .item_name  = av_default_item_name,
 217     .option     = raw_options,
 218     .version    = LIBAVUTIL_VERSION_INT,
 219 };
 220
 221 /* TS stream handling */
 222
 223 enum MpegTSState {
 224     MPEGTS_HEADER = 0,
 225     MPEGTS_PESHEADER,
 226     MPEGTS_PESHEADER_FILL,
 227     MPEGTS_PAYLOAD,
 228     MPEGTS_SKIP,
 229 };
 230
 231 /* enough for PES header + length */
 232 #define PES_START_SIZE  6
 233 #define PES_HEADER_SIZE 9
 234 #define MAX_PES_HEADER_SIZE (9 + 255)
 235
 236 typedef struct PESContext {
 237     int pid;
 238     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 239     int stream_type;
 240     MpegTSContext *ts;
 241     AVFormatContext *stream;
 242     AVStream *st;
 243     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 244     enum MpegTSState state;
 245     /* used to get the format */
 246     int data_index;
 247     int flags; /**< copied to the AVPacket flags */
 248     int total_size;
 249     int pes_header_size;
 250     int extended_stream_id;
 251     uint8_t stream_id;
 252     int64_t pts, dts;
 253     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 254     uint8_t header[MAX_PES_HEADER_SIZE];
 255     AVBufferRef *buffer;
 256     SLConfigDescr sl;
 257     int merged_st;
 258 } PESContext;
 259
 260 extern AVInputFormat ff_mpegts_demuxer;
 261
 262 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 263 {
 264     int i;
 265     for (i = 0; i < ts->nb_prg; i++) {
 266         if (ts->prg[i].id == programid) {
 267             return &ts->prg[i];
 268         }
 269     }
 270     return NULL;
 271 }
 272
 273 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 274 {
 275     AVProgram *prg = NULL;
 276     int i;
 277
 278     for (i = 0; i < ts->stream->nb_programs; i++)
 279         if (ts->stream->programs[i]->id == programid) {
 280             prg = ts->stream->programs[i];
 281             break;
 282         }
 283     if (!prg)
 284         return;
 285     prg->nb_stream_indexes = 0;
 286 }
 287
 288 static void clear_program(MpegTSContext *ts, unsigned int programid)
 289 {
 290     int i;
 291
 292     clear_avprogram(ts, programid);
 293     for (i = 0; i < ts->nb_prg; i++)
 294         if (ts->prg[i].id == programid) {
 295             ts->prg[i].nb_pids = 0;
 296             ts->prg[i].pmt_found = 0;
 297         }
 298 }
 299
 300 static void clear_programs(MpegTSContext *ts)
 301 {
 302     av_freep(&ts->prg);
 303     ts->nb_prg = 0;
 304 }
 305
 306 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
 307 {
 308     struct Program *p;
 309     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 310         ts->nb_prg = 0;
 311         return;
 312     }
 313     p = &ts->prg[ts->nb_prg];
 314     p->id = programid;
 315     p->nb_pids = 0;
 316     p->pmt_found = 0;
 317     ts->nb_prg++;
 318 }
 319
 320 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
 321                            unsigned int pid)
 322 {
 323     struct Program *p = get_program(ts, programid);
 324     int i;
 325     if (!p)
 326         return;
 327
 328     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 329         return;
 330
 331     for (i = 0; i < p->nb_pids; i++)
 332         if (p->pids[i] == pid)
 333             return;
 334
 335     p->pids[p->nb_pids++] = pid;
 336 }
 337
 338 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
 339 {
 340     struct Program *p = get_program(ts, programid);
 341     if (!p)
 342         return;
 343
 344     p->pmt_found = 1;
 345 }
 346
 347 static void update_av_program_info(AVFormatContext *s, unsigned int programid,
 348                                    unsigned int pid, int version)
 349 {
 350     int i;
 351     for (i = 0; i < s->nb_programs; i++) {
 352         AVProgram *program = s->programs[i];
 353         if (program->id == programid) {
 354             int old_pcr_pid = program->pcr_pid,
 355                 old_version = program->pmt_version;
 356             program->pcr_pid = pid;
 357             program->pmt_version = version;
 358
 359             if (old_version != -1 && old_version != version) {
 360                 av_log(s, AV_LOG_VERBOSE,
 361                        "detected PMT change (program=%d, version=%d/%d, pcr_pid=0x%x/0x%x)\n",
 362                        programid, old_version, version, old_pcr_pid, pid);
 363             }
 364             break;
 365         }
 366     }
 367 }
 368
 369 /**
 370  * @brief discard_pid() decides if the pid is to be discarded according
 371  *                      to caller's programs selection
 372  * @param ts    : - TS context
 373  * @param pid   : - pid
 374  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 375  *         0 otherwise
 376  */
 377 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 378 {
 379     int i, j, k;
 380     int used = 0, discarded = 0;
 381     struct Program *p;
 382
 383     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 384      * no way we have to discard this packet */
 385     for (k = 0; k < ts->stream->nb_programs; k++)
 386         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 387             break;
 388     if (k == ts->stream->nb_programs)
 389         return 0;
 390
 391     for (i = 0; i < ts->nb_prg; i++) {
 392         p = &ts->prg[i];
 393         for (j = 0; j < p->nb_pids; j++) {
 394             if (p->pids[j] != pid)
 395                 continue;
 396             // is program with id p->id set to be discarded?
 397             for (k = 0; k < ts->stream->nb_programs; k++) {
 398                 if (ts->stream->programs[k]->id == p->id) {
 399                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 400                         discarded++;
 401                     else
 402                         used++;
 403                 }
 404             }
 405         }
 406     }
 407
 408     return !used && discarded;
 409 }
 410
 411 /**
 412  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 413  *  function when they are complete.
 414  */
 415 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 416                                const uint8_t *buf, int buf_size, int is_start)
 417 {
 418     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 419     uint8_t *cur_section_buf = NULL;
 420     int len, offset;
 421
 422     if (is_start) {
 423         memcpy(tss->section_buf, buf, buf_size);
 424         tss->section_index = buf_size;
 425         tss->section_h_size = -1;
 426         tss->end_of_section_reached = 0;
 427     } else {
 428         if (tss->end_of_section_reached)
 429             return;
 430         len = MAX_SECTION_SIZE - tss->section_index;
 431         if (buf_size < len)
 432             len = buf_size;
 433         memcpy(tss->section_buf + tss->section_index, buf, len);
 434         tss->section_index += len;
 435     }
 436
 437     offset = 0;
 438     cur_section_buf = tss->section_buf;
 439     while (cur_section_buf - tss->section_buf < MAX_SECTION_SIZE && cur_section_buf[0] != 0xff) {
 440         /* compute section length if possible */
 441         if (tss->section_h_size == -1 && tss->section_index - offset >= 3) {
 442             len = (AV_RB16(cur_section_buf + 1) & 0xfff) + 3;
 443             if (len > MAX_SECTION_SIZE)
 444                 return;
 445             tss->section_h_size = len;
 446         }
 447
 448         if (tss->section_h_size != -1 &&
 449             tss->section_index >= offset + tss->section_h_size) {
 450             int crc_valid = 1;
 451             tss->end_of_section_reached = 1;
 452
 453             if (tss->check_crc) {
 454                 crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, cur_section_buf, tss->section_h_size);
 455                 if (tss->section_h_size >= 4)
 456                     tss->crc = AV_RB32(cur_section_buf + tss->section_h_size - 4);
 457
 458                 if (crc_valid) {
 459                     ts->crc_validity[ tss1->pid ] = 100;
 460                 }else if (ts->crc_validity[ tss1->pid ] > -10) {
 461                     ts->crc_validity[ tss1->pid ]--;
 462                 }else
 463                     crc_valid = 2;
 464             }
 465             if (crc_valid) {
 466                 tss->section_cb(tss1, cur_section_buf, tss->section_h_size);
 467                 if (crc_valid != 1)
 468                     tss->last_ver = -1;
 469             }
 470
 471             cur_section_buf += tss->section_h_size;
 472             offset += tss->section_h_size;
 473             tss->section_h_size = -1;
 474         } else {
 475             tss->section_h_size = -1;
 476             tss->end_of_section_reached = 0;
 477             break;
 478         }
 479     }
 480 }
 481
 482 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 483                                         enum MpegTSFilterType type)
 484 {
 485     MpegTSFilter *filter;
 486
 487     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
 488
 489     if (pid >= NB_PID_MAX || ts->pids[pid])
 490         return NULL;
 491     filter = av_mallocz(sizeof(MpegTSFilter));
 492     if (!filter)
 493         return NULL;
 494     ts->pids[pid] = filter;
 495
 496     filter->type    = type;
 497     filter->pid     = pid;
 498     filter->es_id   = -1;
 499     filter->last_cc = -1;
 500     filter->last_pcr= -1;
 501
 502     return filter;
 503 }
 504
 505 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 506                                                 unsigned int pid,
 507                                                 SectionCallback *section_cb,
 508                                                 void *opaque,
 509                                                 int check_crc)
 510 {
 511     MpegTSFilter *filter;
 512     MpegTSSectionFilter *sec;
 513
 514     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
 515         return NULL;
 516     sec = &filter->u.section_filter;
 517     sec->section_cb  = section_cb;
 518     sec->opaque      = opaque;
 519     sec->section_buf = av_mallocz(MAX_SECTION_SIZE);
 520     sec->check_crc   = check_crc;
 521     sec->last_ver    = -1;
 522
 523     if (!sec->section_buf) {
 524         av_free(filter);
 525         return NULL;
 526     }
 527     return filter;
 528 }
 529
 530 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 531                                             PESCallback *pes_cb,
 532                                             void *opaque)
 533 {
 534     MpegTSFilter *filter;
 535     MpegTSPESFilter *pes;
 536
 537     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 538         return NULL;
 539
 540     pes = &filter->u.pes_filter;
 541     pes->pes_cb = pes_cb;
 542     pes->opaque = opaque;
 543     return filter;
 544 }
 545
 546 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 547 {
 548     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 549 }
 550
 551 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 552 {
 553     int pid;
 554
 555     pid = filter->pid;
 556     if (filter->type == MPEGTS_SECTION)
 557         av_freep(&filter->u.section_filter.section_buf);
 558     else if (filter->type == MPEGTS_PES) {
 559         PESContext *pes = filter->u.pes_filter.opaque;
 560         av_buffer_unref(&pes->buffer);
 561         /* referenced private data will be freed later in
 562          * avformat_close_input (pes->st->priv_data == pes) */
 563         if (!pes->st || pes->merged_st) {
 564             av_freep(&filter->u.pes_filter.opaque);
 565         }
 566     }
 567
 568     av_free(filter);
 569     ts->pids[pid] = NULL;
 570 }
 571
 572 static int analyze(const uint8_t *buf, int size, int packet_size,
 573                    int probe)
 574 {
 575     int stat[TS_MAX_PACKET_SIZE];
 576     int stat_all = 0;
 577     int i;
 578     int best_score = 0;
 579
 580     memset(stat, 0, packet_size * sizeof(*stat));
 581
 582     for (i = 0; i < size - 3; i++) {
 583         if (buf[i] == 0x47) {
 584             int pid = AV_RB16(buf+1) & 0x1FFF;
 585             int asc = buf[i + 3] & 0x30;
 586             if (!probe || pid == 0x1FFF || asc) {
 587                 int x = i % packet_size;
 588                 stat[x]++;
 589                 stat_all++;
 590                 if (stat[x] > best_score) {
 591                     best_score = stat[x];
 592                 }
 593             }
 594         }
 595     }
 596
 597     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 598 }
 599
 600 /* autodetect fec presence */
 601 static int get_packet_size(AVFormatContext* s)
 602 {
 603     int score, fec_score, dvhs_score;
 604     int margin;
 605     int ret;
 606
 607     /*init buffer to store stream for probing */
 608     uint8_t buf[PROBE_PACKET_MAX_BUF] = {0};
 609     int buf_size = 0;
 610
 611     while (buf_size < PROBE_PACKET_MAX_BUF) {
 612         ret = avio_read_partial(s->pb, buf + buf_size, PROBE_PACKET_MAX_BUF - buf_size);
 613         if (ret < 0)
 614             return AVERROR_INVALIDDATA;
 615         buf_size += ret;
 616
 617         score      = analyze(buf, buf_size, TS_PACKET_SIZE,      0);
 618         dvhs_score = analyze(buf, buf_size, TS_DVHS_PACKET_SIZE, 0);
 619         fec_score  = analyze(buf, buf_size, TS_FEC_PACKET_SIZE,  0);
 620         av_log(s, AV_LOG_TRACE, "Probe: %d, score: %d, dvhs_score: %d, fec_score: %d \n",
 621             buf_size, score, dvhs_score, fec_score);
 622
 623         margin = mid_pred(score, fec_score, dvhs_score);
 624
 625         if (buf_size < PROBE_PACKET_MAX_BUF)
 626             margin += PROBE_PACKET_MARGIN; /*if buffer not filled */
 627
 628         if (score > margin)
 629             return TS_PACKET_SIZE;
 630         else if (dvhs_score > margin)
 631             return TS_DVHS_PACKET_SIZE;
 632         else if (fec_score > margin)
 633             return TS_FEC_PACKET_SIZE;
 634     }
 635     return AVERROR_INVALIDDATA;
 636 }
 637
 638 typedef struct SectionHeader {
 639     uint8_t tid;
 640     uint16_t id;
 641     uint8_t version;
 642     uint8_t sec_num;
 643     uint8_t last_sec_num;
 644 } SectionHeader;
 645
 646 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 647 {
 648     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 649         return 1;
 650
 651     tssf->last_ver = h->version;
 652     tssf->last_crc = tssf->crc;
 653
 654     return 0;
 655 }
 656
 657 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 658 {
 659     const uint8_t *p;
 660     int c;
 661
 662     p = *pp;
 663     if (p >= p_end)
 664         return AVERROR_INVALIDDATA;
 665     c   = *p++;
 666     *pp = p;
 667     return c;
 668 }
 669
 670 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 671 {
 672     const uint8_t *p;
 673     int c;
 674
 675     p = *pp;
 676     if (1 >= p_end - p)
 677         return AVERROR_INVALIDDATA;
 678     c   = AV_RB16(p);
 679     p  += 2;
 680     *pp = p;
 681     return c;
 682 }
 683
 684 /* read and allocate a DVB string preceded by its length */
 685 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 686 {
 687     int len;
 688     const uint8_t *p;
 689     char *str;
 690
 691     p   = *pp;
 692     len = get8(&p, p_end);
 693     if (len < 0)
 694         return NULL;
 695     if (len > p_end - p)
 696         return NULL;
 697 #if CONFIG_ICONV
 698     if (len) {
 699         const char *encodings[] = {
 700             "ISO6937", "ISO-8859-5", "ISO-8859-6", "ISO-8859-7",
 701             "ISO-8859-8", "ISO-8859-9", "ISO-8859-10", "ISO-8859-11",
 702             "", "ISO-8859-13", "ISO-8859-14", "ISO-8859-15", "", "", "", "",
 703             "", "UCS-2BE", "KSC_5601", "GB2312", "UCS-2BE", "UTF-8", "", "",
 704             "", "", "", "", "", "", "", ""
 705         };
 706         iconv_t cd;
 707         char *in, *out;
 708         size_t inlen = len, outlen = inlen * 6 + 1;
 709         if (len >= 3 && p[0] == 0x10 && !p[1] && p[2] && p[2] <= 0xf && p[2] != 0xc) {
 710             char iso8859[12];
 711             snprintf(iso8859, sizeof(iso8859), "ISO-8859-%d", p[2]);
 712             inlen -= 3;
 713             in = (char *)p + 3;
 714             cd = iconv_open("UTF-8", iso8859);
 715         } else if (p[0] < 0x20) {
 716             inlen -= 1;
 717             in = (char *)p + 1;
 718             cd = iconv_open("UTF-8", encodings[*p]);
 719         } else {
 720             in = (char *)p;
 721             cd = iconv_open("UTF-8", encodings[0]);
 722         }
 723         if (cd == (iconv_t)-1)
 724             goto no_iconv;
 725         str = out = av_malloc(outlen);
 726         if (!str) {
 727             iconv_close(cd);
 728             return NULL;
 729         }
 730         if (iconv(cd, &in, &inlen, &out, &outlen) == -1) {
 731             iconv_close(cd);
 732             av_freep(&str);
 733             goto no_iconv;
 734         }
 735         iconv_close(cd);
 736         *out = 0;
 737         *pp = p + len;
 738         return str;
 739     }
 740 no_iconv:
 741 #endif
 742     str = av_malloc(len + 1);
 743     if (!str)
 744         return NULL;
 745     memcpy(str, p, len);
 746     str[len] = '\0';
 747     p  += len;
 748     *pp = p;
 749     return str;
 750 }
 751
 752 static int parse_section_header(SectionHeader *h,
 753                                 const uint8_t **pp, const uint8_t *p_end)
 754 {
 755     int val;
 756
 757     val = get8(pp, p_end);
 758     if (val < 0)
 759         return val;
 760     h->tid = val;
 761     *pp += 2;
 762     val  = get16(pp, p_end);
 763     if (val < 0)
 764         return val;
 765     h->id = val;
 766     val = get8(pp, p_end);
 767     if (val < 0)
 768         return val;
 769     h->version = (val >> 1) & 0x1f;
 770     val = get8(pp, p_end);
 771     if (val < 0)
 772         return val;
 773     h->sec_num = val;
 774     val = get8(pp, p_end);
 775     if (val < 0)
 776         return val;
 777     h->last_sec_num = val;
 778     return 0;
 779 }
 780
 781 typedef struct StreamType {
 782     uint32_t stream_type;
 783     enum AVMediaType codec_type;
 784     enum AVCodecID codec_id;
 785 } StreamType;
 786
 787 static const StreamType ISO_types[] = {
 788     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 789     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 790     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 791     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 792     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 793     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 794     /* Makito encoder sets stream type 0x11 for AAC,
 795      * so auto-detect LOAS/LATM instead of hardcoding it. */
 796 #if !CONFIG_LOAS_DEMUXER
 797     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 798 #endif
 799     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 800     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 801     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 802     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 803     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 804     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 805     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 806     { 0xd2, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_AVS2       },
 807     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 808     { 0 },
 809 };
 810
 811 static const StreamType HDMV_types[] = {
 812     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 813     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 814     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 815     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 816     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 817     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 818     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 819     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 820     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 821     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 822     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 823     { 0 },
 824 };
 825
 826 /* SCTE types */
 827 static const StreamType SCTE_types[] = {
 828     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
 829     { 0 },
 830 };
 831
 832 /* ATSC ? */
 833 static const StreamType MISC_types[] = {
 834     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 835     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 836     { 0 },
 837 };
 838
 839 static const StreamType REGD_types[] = {
 840     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 841     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 842     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 843     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 844     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 845     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 846     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 847     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 848     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 849     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 850     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 851     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 852     { 0 },
 853 };
 854
 855 static const StreamType METADATA_types[] = {
 856     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 857     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 858     { 0 },
 859 };
 860
 861 /* descriptor present */
 862 static const StreamType DESC_types[] = {
 863     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 864     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 865     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 866     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 867     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 868     { 0 },
 869 };
 870
 871 static void mpegts_find_stream_type(AVStream *st,
 872                                     uint32_t stream_type,
 873                                     const StreamType *types)
 874 {
 875     for (; types->stream_type; types++)
 876         if (stream_type == types->stream_type) {
 877             if (st->codecpar->codec_type != types->codec_type ||
 878                 st->codecpar->codec_id   != types->codec_id) {
 879                 st->codecpar->codec_type = types->codec_type;
 880                 st->codecpar->codec_id   = types->codec_id;
 881                 st->internal->need_context_update = 1;
 882             }
 883             st->request_probe        = 0;
 884             return;
 885         }
 886 }
 887
 888 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 889                                   uint32_t stream_type, uint32_t prog_reg_desc)
 890 {
 891     int old_codec_type = st->codecpar->codec_type;
 892     int old_codec_id   = st->codecpar->codec_id;
 893     int old_codec_tag  = st->codecpar->codec_tag;
 894
 895     if (avcodec_is_open(st->internal->avctx)) {
 896         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 897         return 0;
 898     }
 899
 900     avpriv_set_pts_info(st, 33, 1, 90000);
 901     st->priv_data         = pes;
 902     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 903     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 904     st->need_parsing      = AVSTREAM_PARSE_FULL;
 905     pes->st          = st;
 906     pes->stream_type = stream_type;
 907
 908     av_log(pes->stream, AV_LOG_DEBUG,
 909            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 910            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 911
 912     st->codecpar->codec_tag = pes->stream_type;
 913
 914     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 915     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
 916         st->request_probe = 50;
 917     if ((prog_reg_desc == AV_RL32("HDMV") ||
 918          prog_reg_desc == AV_RL32("HDPR")) &&
 919         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 920         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 921         if (pes->stream_type == 0x83) {
 922             // HDMV TrueHD streams also contain an AC3 coded version of the
 923             // audio track - add a second stream for this
 924             AVStream *sub_st;
 925             // priv_data cannot be shared between streams
 926             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 927             if (!sub_pes)
 928                 return AVERROR(ENOMEM);
 929             memcpy(sub_pes, pes, sizeof(*sub_pes));
 930
 931             sub_st = avformat_new_stream(pes->stream, NULL);
 932             if (!sub_st) {
 933                 av_free(sub_pes);
 934                 return AVERROR(ENOMEM);
 935             }
 936
 937             sub_st->id = pes->pid;
 938             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 939             sub_st->priv_data         = sub_pes;
 940             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 941             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 942             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 943             sub_pes->sub_st           = pes->sub_st = sub_st;
 944         }
 945     }
 946     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 947         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 948     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 949         st->codecpar->codec_id  = old_codec_id;
 950         st->codecpar->codec_type = old_codec_type;
 951     }
 952     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 953             (st->request_probe > 0 && st->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 954         st->probe_packets > 0 &&
 955         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 956         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 957         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 958         st->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 959     }
 960
 961     /* queue a context update if properties changed */
 962     if (old_codec_type != st->codecpar->codec_type ||
 963         old_codec_id   != st->codecpar->codec_id   ||
 964         old_codec_tag  != st->codecpar->codec_tag)
 965         st->internal->need_context_update = 1;
 966
 967     return 0;
 968 }
 969
 970 static void reset_pes_packet_state(PESContext *pes)
 971 {
 972     pes->pts        = AV_NOPTS_VALUE;
 973     pes->dts        = AV_NOPTS_VALUE;
 974     pes->data_index = 0;
 975     pes->flags      = 0;
 976     av_buffer_unref(&pes->buffer);
 977 }
 978
 979 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
 980 {
 981     av_init_packet(pkt);
 982     pkt->data = (uint8_t *)buffer;
 983     pkt->size = len;
 984 }
 985
 986 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 987 {
 988     uint8_t *sd;
 989
 990     av_init_packet(pkt);
 991
 992     pkt->buf  = pes->buffer;
 993     pkt->data = pes->buffer->data;
 994     pkt->size = pes->data_index;
 995
 996     if (pes->total_size != MAX_PES_PAYLOAD &&
 997         pes->pes_header_size + pes->data_index != pes->total_size +
 998         PES_START_SIZE) {
 999         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
1000         pes->flags |= AV_PKT_FLAG_CORRUPT;
1001     }
1002     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1003
1004     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
1005     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
1006         pkt->stream_index = pes->sub_st->index;
1007     else
1008         pkt->stream_index = pes->st->index;
1009     pkt->pts = pes->pts;
1010     pkt->dts = pes->dts;
1011     /* store position of first TS packet of this PES packet */
1012     pkt->pos   = pes->ts_packet_pos;
1013     pkt->flags = pes->flags;
1014
1015     pes->buffer = NULL;
1016     reset_pes_packet_state(pes);
1017
1018     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
1019     if (!sd)
1020         return AVERROR(ENOMEM);
1021     *sd = pes->stream_id;
1022
1023     return 0;
1024 }
1025
1026 static uint64_t get_ts64(GetBitContext *gb, int bits)
1027 {
1028     if (get_bits_left(gb) < bits)
1029         return AV_NOPTS_VALUE;
1030     return get_bits64(gb, bits);
1031 }
1032
1033 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
1034                           const uint8_t *buf, int buf_size)
1035 {
1036     GetBitContext gb;
1037     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
1038     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
1039     int dts_flag = -1, cts_flag = -1;
1040     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
1041     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
1042     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
1043
1044     memcpy(buf_padded, buf, buf_padded_size);
1045
1046     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
1047
1048     if (sl->use_au_start)
1049         au_start_flag = get_bits1(&gb);
1050     if (sl->use_au_end)
1051         au_end_flag = get_bits1(&gb);
1052     if (!sl->use_au_start && !sl->use_au_end)
1053         au_start_flag = au_end_flag = 1;
1054     if (sl->ocr_len > 0)
1055         ocr_flag = get_bits1(&gb);
1056     if (sl->use_idle)
1057         idle_flag = get_bits1(&gb);
1058     if (sl->use_padding)
1059         padding_flag = get_bits1(&gb);
1060     if (padding_flag)
1061         padding_bits = get_bits(&gb, 3);
1062
1063     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
1064         if (sl->packet_seq_num_len)
1065             skip_bits_long(&gb, sl->packet_seq_num_len);
1066         if (sl->degr_prior_len)
1067             if (get_bits1(&gb))
1068                 skip_bits(&gb, sl->degr_prior_len);
1069         if (ocr_flag)
1070             skip_bits_long(&gb, sl->ocr_len);
1071         if (au_start_flag) {
1072             if (sl->use_rand_acc_pt)
1073                 get_bits1(&gb);
1074             if (sl->au_seq_num_len > 0)
1075                 skip_bits_long(&gb, sl->au_seq_num_len);
1076             if (sl->use_timestamps) {
1077                 dts_flag = get_bits1(&gb);
1078                 cts_flag = get_bits1(&gb);
1079             }
1080         }
1081         if (sl->inst_bitrate_len)
1082             inst_bitrate_flag = get_bits1(&gb);
1083         if (dts_flag == 1)
1084             dts = get_ts64(&gb, sl->timestamp_len);
1085         if (cts_flag == 1)
1086             cts = get_ts64(&gb, sl->timestamp_len);
1087         if (sl->au_len > 0)
1088             skip_bits_long(&gb, sl->au_len);
1089         if (inst_bitrate_flag)
1090             skip_bits_long(&gb, sl->inst_bitrate_len);
1091     }
1092
1093     if (dts != AV_NOPTS_VALUE)
1094         pes->dts = dts;
1095     if (cts != AV_NOPTS_VALUE)
1096         pes->pts = cts;
1097
1098     if (sl->timestamp_len && sl->timestamp_res)
1099         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1100
1101     return (get_bits_count(&gb) + 7) >> 3;
1102 }
1103
1104 /* return non zero if a packet could be constructed */
1105 static int mpegts_push_data(MpegTSFilter *filter,
1106                             const uint8_t *buf, int buf_size, int is_start,
1107                             int64_t pos)
1108 {
1109     PESContext *pes   = filter->u.pes_filter.opaque;
1110     MpegTSContext *ts = pes->ts;
1111     const uint8_t *p;
1112     int ret, len, code;
1113
1114     if (!ts->pkt)
1115         return 0;
1116
1117     if (is_start) {
1118         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1119             ret = new_pes_packet(pes, ts->pkt);
1120             if (ret < 0)
1121                 return ret;
1122             ts->stop_parse = 1;
1123         } else {
1124             reset_pes_packet_state(pes);
1125         }
1126         pes->state         = MPEGTS_HEADER;
1127         pes->ts_packet_pos = pos;
1128     }
1129     p = buf;
1130     while (buf_size > 0) {
1131         switch (pes->state) {
1132         case MPEGTS_HEADER:
1133             len = PES_START_SIZE - pes->data_index;
1134             if (len > buf_size)
1135                 len = buf_size;
1136             memcpy(pes->header + pes->data_index, p, len);
1137             pes->data_index += len;
1138             p += len;
1139             buf_size -= len;
1140             if (pes->data_index == PES_START_SIZE) {
1141                 /* we got all the PES or section header. We can now
1142                  * decide */
1143                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1144                     pes->header[2] == 0x01) {
1145                     /* it must be an MPEG-2 PES stream */
1146                     code = pes->header[3] | 0x100;
1147                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1148                             code);
1149                     pes->stream_id = pes->header[3];
1150
1151                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1152                          (!pes->sub_st ||
1153                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1154                         code == 0x1be) /* padding_stream */
1155                         goto skip;
1156
1157                     /* stream not present in PMT */
1158                     if (!pes->st) {
1159                         if (ts->skip_changes)
1160                             goto skip;
1161                         if (ts->merge_pmt_versions)
1162                             goto skip; /* wait for PMT to merge new stream */
1163
1164                         pes->st = avformat_new_stream(ts->stream, NULL);
1165                         if (!pes->st)
1166                             return AVERROR(ENOMEM);
1167                         pes->st->id = pes->pid;
1168                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1169                     }
1170
1171                     pes->total_size = AV_RB16(pes->header + 4);
1172                     /* NOTE: a zero total size means the PES size is
1173                      * unbounded */
1174                     if (!pes->total_size)
1175                         pes->total_size = MAX_PES_PAYLOAD;
1176
1177                     /* allocate pes buffer */
1178                     pes->buffer = av_buffer_alloc(pes->total_size +
1179                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1180                     if (!pes->buffer)
1181                         return AVERROR(ENOMEM);
1182
1183                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1184                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1185                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1186                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1187                         pes->state = MPEGTS_PESHEADER;
1188                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1189                             av_log(pes->stream, AV_LOG_TRACE,
1190                                     "pid=%x stream_type=%x probing\n",
1191                                     pes->pid,
1192                                     pes->stream_type);
1193                             pes->st->request_probe = 1;
1194                         }
1195                     } else {
1196                         pes->pes_header_size = 6;
1197                         pes->state      = MPEGTS_PAYLOAD;
1198                         pes->data_index = 0;
1199                     }
1200                 } else {
1201                     /* otherwise, it should be a table */
1202                     /* skip packet */
1203 skip:
1204                     pes->state = MPEGTS_SKIP;
1205                     continue;
1206                 }
1207             }
1208             break;
1209         /**********************************************/
1210         /* PES packing parsing */
1211         case MPEGTS_PESHEADER:
1212             len = PES_HEADER_SIZE - pes->data_index;
1213             if (len < 0)
1214                 return AVERROR_INVALIDDATA;
1215             if (len > buf_size)
1216                 len = buf_size;
1217             memcpy(pes->header + pes->data_index, p, len);
1218             pes->data_index += len;
1219             p += len;
1220             buf_size -= len;
1221             if (pes->data_index == PES_HEADER_SIZE) {
1222                 pes->pes_header_size = pes->header[8] + 9;
1223                 pes->state           = MPEGTS_PESHEADER_FILL;
1224             }
1225             break;
1226         case MPEGTS_PESHEADER_FILL:
1227             len = pes->pes_header_size - pes->data_index;
1228             if (len < 0)
1229                 return AVERROR_INVALIDDATA;
1230             if (len > buf_size)
1231                 len = buf_size;
1232             memcpy(pes->header + pes->data_index, p, len);
1233             pes->data_index += len;
1234             p += len;
1235             buf_size -= len;
1236             if (pes->data_index == pes->pes_header_size) {
1237                 const uint8_t *r;
1238                 unsigned int flags, pes_ext, skip;
1239
1240                 flags = pes->header[7];
1241                 r = pes->header + 9;
1242                 pes->pts = AV_NOPTS_VALUE;
1243                 pes->dts = AV_NOPTS_VALUE;
1244                 if ((flags & 0xc0) == 0x80) {
1245                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1246                     r += 5;
1247                 } else if ((flags & 0xc0) == 0xc0) {
1248                     pes->pts = ff_parse_pes_pts(r);
1249                     r += 5;
1250                     pes->dts = ff_parse_pes_pts(r);
1251                     r += 5;
1252                 }
1253                 pes->extended_stream_id = -1;
1254                 if (flags & 0x01) { /* PES extension */
1255                     pes_ext = *r++;
1256                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1257                     skip  = (pes_ext >> 4) & 0xb;
1258                     skip += skip & 0x9;
1259                     r    += skip;
1260                     if ((pes_ext & 0x41) == 0x01 &&
1261                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1262                         /* PES extension 2 */
1263                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1264                             pes->extended_stream_id = r[1];
1265                     }
1266                 }
1267
1268                 /* we got the full header. We parse it and get the payload */
1269                 pes->state = MPEGTS_PAYLOAD;
1270                 pes->data_index = 0;
1271                 if (pes->stream_type == 0x12 && buf_size > 0) {
1272                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1273                                                          buf_size);
1274                     pes->pes_header_size += sl_header_bytes;
1275                     p += sl_header_bytes;
1276                     buf_size -= sl_header_bytes;
1277                 }
1278                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1279                     /* skip metadata access unit header */
1280                     pes->pes_header_size += 5;
1281                     p += 5;
1282                     buf_size -= 5;
1283                 }
1284                 if (   pes->ts->fix_teletext_pts
1285                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1286                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1287                     ) {
1288                     AVProgram *p = NULL;
1289                     int pcr_found = 0;
1290                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1291                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1292                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1293                             if (f) {
1294                                 AVStream *st = NULL;
1295                                 if (f->type == MPEGTS_PES) {
1296                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1297                                     if (pcrpes)
1298                                         st = pcrpes->st;
1299                                 } else if (f->type == MPEGTS_PCR) {
1300                                     int i;
1301                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1302                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1303                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1304                                             st = pst;
1305                                     }
1306                                 }
1307                                 if (f->last_pcr != -1 && !f->discard) {
1308                                     // teletext packets do not always have correct timestamps,
1309                                     // the standard says they should be handled after 40.6 ms at most,
1310                                     // and the pcr error to this packet should be no more than 100 ms.
1311                                     // TODO: we should interpolate the PCR, not just use the last one
1312                                     int64_t pcr = f->last_pcr / 300;
1313                                     pcr_found = 1;
1314                                     if (st) {
1315                                         pes->st->pts_wrap_reference = st->pts_wrap_reference;
1316                                         pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1317                                     }
1318                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1319                                         pes->pts = pes->dts = pcr;
1320                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1321                                                pes->dts > pcr + 3654 + 9000) {
1322                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1323                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1324                                                pes->dts > pcr + 10*90000) { //10sec
1325                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1326                                     }
1327                                     break;
1328                                 }
1329                             }
1330                         }
1331                     }
1332
1333                     if (!pcr_found) {
1334                         av_log(pes->stream, AV_LOG_VERBOSE,
1335                                "Forcing DTS/PTS to be unset for a "
1336                                "non-trustworthy PES packet for PID %d as "
1337                                "PCR hasn't been received yet.\n",
1338                                pes->pid);
1339                         pes->dts = pes->pts = AV_NOPTS_VALUE;
1340                     }
1341                 }
1342             }
1343             break;
1344         case MPEGTS_PAYLOAD:
1345             if (pes->buffer) {
1346                 if (pes->data_index > 0 &&
1347                     pes->data_index + buf_size > pes->total_size) {
1348                     ret = new_pes_packet(pes, ts->pkt);
1349                     if (ret < 0)
1350                         return ret;
1351                     pes->total_size = MAX_PES_PAYLOAD;
1352                     pes->buffer = av_buffer_alloc(pes->total_size +
1353                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1354                     if (!pes->buffer)
1355                         return AVERROR(ENOMEM);
1356                     ts->stop_parse = 1;
1357                 } else if (pes->data_index == 0 &&
1358                            buf_size > pes->total_size) {
1359                     // pes packet size is < ts size packet and pes data is padded with 0xff
1360                     // not sure if this is legal in ts but see issue #2392
1361                     buf_size = pes->total_size;
1362                 }
1363                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1364                 pes->data_index += buf_size;
1365                 /* emit complete packets with known packet size
1366                  * decreases demuxer delay for infrequent packets like subtitles from
1367                  * a couple of seconds to milliseconds for properly muxed files.
1368                  * total_size is the number of bytes following pes_packet_length
1369                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1370                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1371                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1372                     ts->stop_parse = 1;
1373                     ret = new_pes_packet(pes, ts->pkt);
1374                     if (ret < 0)
1375                         return ret;
1376                 }
1377             }
1378             buf_size = 0;
1379             break;
1380         case MPEGTS_SKIP:
1381             buf_size = 0;
1382             break;
1383         }
1384     }
1385
1386     return 0;
1387 }
1388
1389 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1390 {
1391     MpegTSFilter *tss;
1392     PESContext *pes;
1393
1394     /* if no pid found, then add a pid context */
1395     pes = av_mallocz(sizeof(PESContext));
1396     if (!pes)
1397         return 0;
1398     pes->ts      = ts;
1399     pes->stream  = ts->stream;
1400     pes->pid     = pid;
1401     pes->pcr_pid = pcr_pid;
1402     pes->state   = MPEGTS_SKIP;
1403     pes->pts     = AV_NOPTS_VALUE;
1404     pes->dts     = AV_NOPTS_VALUE;
1405     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1406     if (!tss) {
1407         av_free(pes);
1408         return 0;
1409     }
1410     return pes;
1411 }
1412
1413 #define MAX_LEVEL 4
1414 typedef struct MP4DescrParseContext {
1415     AVFormatContext *s;
1416     AVIOContext pb;
1417     Mp4Descr *descr;
1418     Mp4Descr *active_descr;
1419     int descr_count;
1420     int max_descr_count;
1421     int level;
1422     int predefined_SLConfigDescriptor_seen;
1423 } MP4DescrParseContext;
1424
1425 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1426                                      const uint8_t *buf, unsigned size,
1427                                      Mp4Descr *descr, int max_descr_count)
1428 {
1429     int ret;
1430     if (size > (1 << 30))
1431         return AVERROR_INVALIDDATA;
1432
1433     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1434                                  NULL, NULL, NULL, NULL)) < 0)
1435         return ret;
1436
1437     d->s               = s;
1438     d->level           = 0;
1439     d->descr_count     = 0;
1440     d->descr           = descr;
1441     d->active_descr    = NULL;
1442     d->max_descr_count = max_descr_count;
1443
1444     return 0;
1445 }
1446
1447 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1448 {
1449     int64_t new_off = avio_tell(pb);
1450     (*len) -= new_off - *off;
1451     *off    = new_off;
1452 }
1453
1454 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1455                            int target_tag);
1456
1457 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1458 {
1459     while (len > 0) {
1460         int ret = parse_mp4_descr(d, off, len, 0);
1461         if (ret < 0)
1462             return ret;
1463         update_offsets(&d->pb, &off, &len);
1464     }
1465     return 0;
1466 }
1467
1468 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1469 {
1470     avio_rb16(&d->pb); // ID
1471     avio_r8(&d->pb);
1472     avio_r8(&d->pb);
1473     avio_r8(&d->pb);
1474     avio_r8(&d->pb);
1475     avio_r8(&d->pb);
1476     update_offsets(&d->pb, &off, &len);
1477     return parse_mp4_descr_arr(d, off, len);
1478 }
1479
1480 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1481 {
1482     int id_flags;
1483     if (len < 2)
1484         return 0;
1485     id_flags = avio_rb16(&d->pb);
1486     if (!(id_flags & 0x0020)) { // URL_Flag
1487         update_offsets(&d->pb, &off, &len);
1488         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1489     } else {
1490         return 0;
1491     }
1492 }
1493
1494 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1495 {
1496     int es_id = 0;
1497     int ret   = 0;
1498
1499     if (d->descr_count >= d->max_descr_count)
1500         return AVERROR_INVALIDDATA;
1501     ff_mp4_parse_es_descr(&d->pb, &es_id);
1502     d->active_descr = d->descr + (d->descr_count++);
1503
1504     d->active_descr->es_id = es_id;
1505     update_offsets(&d->pb, &off, &len);
1506     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1507         return ret;
1508     update_offsets(&d->pb, &off, &len);
1509     if (len > 0)
1510         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1511     d->active_descr = NULL;
1512     return ret;
1513 }
1514
1515 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1516                                       int len)
1517 {
1518     Mp4Descr *descr = d->active_descr;
1519     if (!descr)
1520         return AVERROR_INVALIDDATA;
1521     d->active_descr->dec_config_descr = av_malloc(len);
1522     if (!descr->dec_config_descr)
1523         return AVERROR(ENOMEM);
1524     descr->dec_config_descr_len = len;
1525     avio_read(&d->pb, descr->dec_config_descr, len);
1526     return 0;
1527 }
1528
1529 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1530 {
1531     Mp4Descr *descr = d->active_descr;
1532     int predefined;
1533     if (!descr)
1534         return AVERROR_INVALIDDATA;
1535
1536 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1537     descr->sl.dst = avio_r8(&d->pb);                            \
1538     if (descr->sl.dst > maxv) {                                 \
1539         descr->sl.dst = maxv;                                   \
1540         return AVERROR_INVALIDDATA;                             \
1541     }                                                           \
1542 } while (0)
1543
1544     predefined = avio_r8(&d->pb);
1545     if (!predefined) {
1546         int lengths;
1547         int flags = avio_r8(&d->pb);
1548         descr->sl.use_au_start    = !!(flags & 0x80);
1549         descr->sl.use_au_end      = !!(flags & 0x40);
1550         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1551         descr->sl.use_padding     = !!(flags & 0x08);
1552         descr->sl.use_timestamps  = !!(flags & 0x04);
1553         descr->sl.use_idle        = !!(flags & 0x02);
1554         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1555         avio_rb32(&d->pb);
1556         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1557         R8_CHECK_CLIP_MAX(ocr_len,       63);
1558         R8_CHECK_CLIP_MAX(au_len,        31);
1559         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1560         lengths                      = avio_rb16(&d->pb);
1561         descr->sl.degr_prior_len     = lengths >> 12;
1562         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1563         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1564     } else if (!d->predefined_SLConfigDescriptor_seen){
1565         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1566         d->predefined_SLConfigDescriptor_seen = 1;
1567     }
1568     return 0;
1569 }
1570
1571 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1572                            int target_tag)
1573 {
1574     int tag;
1575     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1576     int ret = 0;
1577
1578     update_offsets(&d->pb, &off, &len);
1579     if (len < 0 || len1 > len || len1 <= 0) {
1580         av_log(d->s, AV_LOG_ERROR,
1581                "Tag %x length violation new length %d bytes remaining %d\n",
1582                tag, len1, len);
1583         return AVERROR_INVALIDDATA;
1584     }
1585
1586     if (d->level++ >= MAX_LEVEL) {
1587         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1588         ret = AVERROR_INVALIDDATA;
1589         goto done;
1590     }
1591
1592     if (target_tag && tag != target_tag) {
1593         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1594                target_tag);
1595         ret = AVERROR_INVALIDDATA;
1596         goto done;
1597     }
1598
1599     switch (tag) {
1600     case MP4IODescrTag:
1601         ret = parse_MP4IODescrTag(d, off, len1);
1602         break;
1603     case MP4ODescrTag:
1604         ret = parse_MP4ODescrTag(d, off, len1);
1605         break;
1606     case MP4ESDescrTag:
1607         ret = parse_MP4ESDescrTag(d, off, len1);
1608         break;
1609     case MP4DecConfigDescrTag:
1610         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1611         break;
1612     case MP4SLDescrTag:
1613         ret = parse_MP4SLDescrTag(d, off, len1);
1614         break;
1615     }
1616
1617
1618 done:
1619     d->level--;
1620     avio_seek(&d->pb, off + len1, SEEK_SET);
1621     return ret;
1622 }
1623
1624 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1625                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1626 {
1627     MP4DescrParseContext d;
1628     int ret;
1629
1630     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1631     if (ret < 0)
1632         return ret;
1633
1634     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1635
1636     *descr_count = d.descr_count;
1637     return ret;
1638 }
1639
1640 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1641                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1642 {
1643     MP4DescrParseContext d;
1644     int ret;
1645
1646     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1647     if (ret < 0)
1648         return ret;
1649
1650     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1651
1652     *descr_count = d.descr_count;
1653     return ret;
1654 }
1655
1656 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1657                     int section_len)
1658 {
1659     MpegTSContext *ts = filter->u.section_filter.opaque;
1660     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1661     SectionHeader h;
1662     const uint8_t *p, *p_end;
1663     AVIOContext pb;
1664     int mp4_descr_count = 0;
1665     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1666     int i, pid;
1667     AVFormatContext *s = ts->stream;
1668
1669     p_end = section + section_len - 4;
1670     p = section;
1671     if (parse_section_header(&h, &p, p_end) < 0)
1672         return;
1673     if (h.tid != M4OD_TID)
1674         return;
1675     if (skip_identical(&h, tssf))
1676         return;
1677
1678     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1679                 MAX_MP4_DESCR_COUNT);
1680
1681     for (pid = 0; pid < NB_PID_MAX; pid++) {
1682         if (!ts->pids[pid])
1683             continue;
1684         for (i = 0; i < mp4_descr_count; i++) {
1685             PESContext *pes;
1686             AVStream *st;
1687             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1688                 continue;
1689             if (ts->pids[pid]->type != MPEGTS_PES) {
1690                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1691                 continue;
1692             }
1693             pes = ts->pids[pid]->u.pes_filter.opaque;
1694             st  = pes->st;
1695             if (!st)
1696                 continue;
1697
1698             pes->sl = mp4_descr[i].sl;
1699
1700             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1701                               mp4_descr[i].dec_config_descr_len, 0,
1702                               NULL, NULL, NULL, NULL);
1703             ff_mp4_read_dec_config_descr(s, st, &pb);
1704             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1705                 st->codecpar->extradata_size > 0)
1706                 st->need_parsing = 0;
1707             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1708                 st->codecpar->extradata_size > 0)
1709                 st->need_parsing = 0;
1710
1711             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1712             st->internal->need_context_update = 1;
1713         }
1714     }
1715     for (i = 0; i < mp4_descr_count; i++)
1716         av_free(mp4_descr[i].dec_config_descr);
1717 }
1718
1719 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1720                     int section_len)
1721 {
1722     AVProgram *prg = NULL;
1723     MpegTSContext *ts = filter->u.section_filter.opaque;
1724
1725     int idx = ff_find_stream_index(ts->stream, filter->pid);
1726     if (idx < 0)
1727         return;
1728
1729     /**
1730      * In case we receive an SCTE-35 packet before mpegts context is fully
1731      * initialized.
1732      */
1733     if (!ts->pkt)
1734         return;
1735
1736     new_data_packet(section, section_len, ts->pkt);
1737     ts->pkt->stream_index = idx;
1738     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1739     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1740         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1741         if (f && f->last_pcr != -1)
1742             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1743     }
1744     ts->stop_parse = 1;
1745
1746 }
1747
1748 static const uint8_t opus_coupled_stream_cnt[9] = {
1749     1, 0, 1, 1, 2, 2, 2, 3, 3
1750 };
1751
1752 static const uint8_t opus_stream_cnt[9] = {
1753     1, 1, 1, 2, 2, 3, 4, 4, 5,
1754 };
1755
1756 static const uint8_t opus_channel_map[8][8] = {
1757     { 0 },
1758     { 0,1 },
1759     { 0,2,1 },
1760     { 0,1,2,3 },
1761     { 0,4,1,2,3 },
1762     { 0,4,1,2,3,5 },
1763     { 0,4,1,2,3,5,6 },
1764     { 0,6,1,2,3,4,5,7 },
1765 };
1766
1767 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1768                               const uint8_t **pp, const uint8_t *desc_list_end,
1769                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1770                               MpegTSContext *ts)
1771 {
1772     const uint8_t *desc_end;
1773     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1774     char language[252];
1775     int i;
1776
1777     desc_tag = get8(pp, desc_list_end);
1778     if (desc_tag < 0)
1779         return AVERROR_INVALIDDATA;
1780     desc_len = get8(pp, desc_list_end);
1781     if (desc_len < 0)
1782         return AVERROR_INVALIDDATA;
1783     desc_end = *pp + desc_len;
1784     if (desc_end > desc_list_end)
1785         return AVERROR_INVALIDDATA;
1786
1787     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1788
1789     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1790         stream_type == STREAM_TYPE_PRIVATE_DATA)
1791         mpegts_find_stream_type(st, desc_tag, DESC_types);
1792
1793     switch (desc_tag) {
1794     case 0x02: /* video stream descriptor */
1795         if (get8(pp, desc_end) & 0x1) {
1796             st->disposition |= AV_DISPOSITION_STILL_IMAGE;
1797         }
1798         break;
1799     case 0x1E: /* SL descriptor */
1800         desc_es_id = get16(pp, desc_end);
1801         if (desc_es_id < 0)
1802             break;
1803         if (ts && ts->pids[pid])
1804             ts->pids[pid]->es_id = desc_es_id;
1805         for (i = 0; i < mp4_descr_count; i++)
1806             if (mp4_descr[i].dec_config_descr_len &&
1807                 mp4_descr[i].es_id == desc_es_id) {
1808                 AVIOContext pb;
1809                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1810                                   mp4_descr[i].dec_config_descr_len, 0,
1811                                   NULL, NULL, NULL, NULL);
1812                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1813                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1814                     st->codecpar->extradata_size > 0) {
1815                     st->need_parsing = 0;
1816                     st->internal->need_context_update = 1;
1817                 }
1818                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1819                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1820             }
1821         break;
1822     case 0x1F: /* FMC descriptor */
1823         if (get16(pp, desc_end) < 0)
1824             break;
1825         if (mp4_descr_count > 0 &&
1826             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1827              (st->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1828              st->request_probe > 0) &&
1829             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1830             AVIOContext pb;
1831             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1832                               mp4_descr->dec_config_descr_len, 0,
1833                               NULL, NULL, NULL, NULL);
1834             ff_mp4_read_dec_config_descr(fc, st, &pb);
1835             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1836                 st->codecpar->extradata_size > 0) {
1837                 st->request_probe = st->need_parsing = 0;
1838                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1839                 st->internal->need_context_update = 1;
1840             }
1841         }
1842         break;
1843     case 0x56: /* DVB teletext descriptor */
1844         {
1845             uint8_t *extradata = NULL;
1846             int language_count = desc_len / 5;
1847
1848             if (desc_len > 0 && desc_len % 5 != 0)
1849                 return AVERROR_INVALIDDATA;
1850
1851             if (language_count > 0) {
1852                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1853                 av_assert0(language_count <= sizeof(language) / 4);
1854
1855                 if (st->codecpar->extradata == NULL) {
1856                     if (ff_alloc_extradata(st->codecpar, language_count * 2)) {
1857                         return AVERROR(ENOMEM);
1858                     }
1859                 }
1860
1861                 if (st->codecpar->extradata_size < language_count * 2)
1862                     return AVERROR_INVALIDDATA;
1863
1864                 extradata = st->codecpar->extradata;
1865
1866                 for (i = 0; i < language_count; i++) {
1867                     language[i * 4 + 0] = get8(pp, desc_end);
1868                     language[i * 4 + 1] = get8(pp, desc_end);
1869                     language[i * 4 + 2] = get8(pp, desc_end);
1870                     language[i * 4 + 3] = ',';
1871
1872                     memcpy(extradata, *pp, 2);
1873                     extradata += 2;
1874
1875                     *pp += 2;
1876                 }
1877
1878                 language[i * 4 - 1] = 0;
1879                 av_dict_set(&st->metadata, "language", language, 0);
1880                 st->internal->need_context_update = 1;
1881             }
1882         }
1883         break;
1884     case 0x59: /* subtitling descriptor */
1885         {
1886             /* 8 bytes per DVB subtitle substream data:
1887              * ISO_639_language_code (3 bytes),
1888              * subtitling_type (1 byte),
1889              * composition_page_id (2 bytes),
1890              * ancillary_page_id (2 bytes) */
1891             int language_count = desc_len / 8;
1892
1893             if (desc_len > 0 && desc_len % 8 != 0)
1894                 return AVERROR_INVALIDDATA;
1895
1896             if (language_count > 1) {
1897                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1898             }
1899
1900             if (language_count > 0) {
1901                 uint8_t *extradata;
1902
1903                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1904                 av_assert0(language_count <= sizeof(language) / 4);
1905
1906                 if (st->codecpar->extradata == NULL) {
1907                     if (ff_alloc_extradata(st->codecpar, language_count * 5)) {
1908                         return AVERROR(ENOMEM);
1909                     }
1910                 }
1911
1912                 if (st->codecpar->extradata_size < language_count * 5)
1913                     return AVERROR_INVALIDDATA;
1914
1915                 extradata = st->codecpar->extradata;
1916
1917                 for (i = 0; i < language_count; i++) {
1918                     language[i * 4 + 0] = get8(pp, desc_end);
1919                     language[i * 4 + 1] = get8(pp, desc_end);
1920                     language[i * 4 + 2] = get8(pp, desc_end);
1921                     language[i * 4 + 3] = ',';
1922
1923                     /* hearing impaired subtitles detection using subtitling_type */
1924                     switch (*pp[0]) {
1925                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1926                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1927                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1928                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1929                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1930                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1931                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1932                         break;
1933                     }
1934
1935                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1936                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1937                     extradata += 5;
1938
1939                     *pp += 4;
1940                 }
1941
1942                 language[i * 4 - 1] = 0;
1943                 av_dict_set(&st->metadata, "language", language, 0);
1944                 st->internal->need_context_update = 1;
1945             }
1946         }
1947         break;
1948     case 0x0a: /* ISO 639 language descriptor */
1949         for (i = 0; i + 4 <= desc_len; i += 4) {
1950             language[i + 0] = get8(pp, desc_end);
1951             language[i + 1] = get8(pp, desc_end);
1952             language[i + 2] = get8(pp, desc_end);
1953             language[i + 3] = ',';
1954             switch (get8(pp, desc_end)) {
1955             case 0x01:
1956                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1957                 break;
1958             case 0x02:
1959                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1960                 break;
1961             case 0x03:
1962                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1963                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
1964                 break;
1965             }
1966         }
1967         if (i && language[0]) {
1968             language[i - 1] = 0;
1969             /* don't overwrite language, as it may already have been set by
1970              * another, more specific descriptor (e.g. supplementary audio) */
1971             av_dict_set(&st->metadata, "language", language, AV_DICT_DONT_OVERWRITE);
1972         }
1973         break;
1974     case 0x05: /* registration descriptor */
1975         st->codecpar->codec_tag = bytestream_get_le32(pp);
1976         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1977         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) {
1978             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1979             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1980                 st->request_probe = 50;
1981         }
1982         break;
1983     case 0x52: /* stream identifier descriptor */
1984         st->stream_identifier = 1 + get8(pp, desc_end);
1985         break;
1986     case 0x26: /* metadata descriptor */
1987         if (get16(pp, desc_end) == 0xFFFF)
1988             *pp += 4;
1989         if (get8(pp, desc_end) == 0xFF) {
1990             st->codecpar->codec_tag = bytestream_get_le32(pp);
1991             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
1992                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
1993         }
1994         break;
1995     case 0x7f: /* DVB extension descriptor */
1996         ext_desc_tag = get8(pp, desc_end);
1997         if (ext_desc_tag < 0)
1998             return AVERROR_INVALIDDATA;
1999         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
2000             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
2001             if (!st->codecpar->extradata) {
2002                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
2003                                                      AV_INPUT_BUFFER_PADDING_SIZE);
2004                 if (!st->codecpar->extradata)
2005                     return AVERROR(ENOMEM);
2006
2007                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
2008                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
2009
2010                 channel_config_code = get8(pp, desc_end);
2011                 if (channel_config_code < 0)
2012                     return AVERROR_INVALIDDATA;
2013                 if (channel_config_code <= 0x8) {
2014                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
2015                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
2016                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
2017                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
2018                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
2019                 } else {
2020                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
2021                 }
2022                 st->need_parsing = AVSTREAM_PARSE_FULL;
2023                 st->internal->need_context_update = 1;
2024             }
2025         }
2026         if (ext_desc_tag == 0x06) { /* supplementary audio descriptor */
2027             int flags;
2028
2029             if (desc_len < 1)
2030                 return AVERROR_INVALIDDATA;
2031             flags = get8(pp, desc_end);
2032
2033             if ((flags & 0x80) == 0) /* mix_type */
2034                 st->disposition |= AV_DISPOSITION_DEPENDENT;
2035
2036             switch ((flags >> 2) & 0x1F) { /* editorial_classification */
2037             case 0x01:
2038                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2039                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2040                 break;
2041             case 0x02:
2042                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
2043                 break;
2044             case 0x03:
2045                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2046                 break;
2047             }
2048
2049             if (flags & 0x01) { /* language_code_present */
2050                 if (desc_len < 4)
2051                     return AVERROR_INVALIDDATA;
2052                 language[0] = get8(pp, desc_end);
2053                 language[1] = get8(pp, desc_end);
2054                 language[2] = get8(pp, desc_end);
2055                 language[3] = 0;
2056
2057                 /* This language always has to override a possible
2058                  * ISO 639 language descriptor language */
2059                 if (language[0])
2060                     av_dict_set(&st->metadata, "language", language, 0);
2061             }
2062         }
2063         break;
2064     case 0x6a: /* ac-3_descriptor */
2065         {
2066             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2067             if (component_type_flag) {
2068                 int component_type = get8(pp, desc_end);
2069                 int service_type_mask = 0x38;  // 0b00111000
2070                 int service_type = ((component_type & service_type_mask) >> 3);
2071                 if (service_type == 0x02 /* 0b010 */) {
2072                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2073                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2074                 }
2075             }
2076         }
2077         break;
2078     case 0x7a: /* enhanced_ac-3_descriptor */
2079         {
2080             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2081             if (component_type_flag) {
2082                 int component_type = get8(pp, desc_end);
2083                 int service_type_mask = 0x38;  // 0b00111000
2084                 int service_type = ((component_type & service_type_mask) >> 3);
2085                 if (service_type == 0x02 /* 0b010 */) {
2086                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2087                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2088                 }
2089             }
2090         }
2091         break;
2092     case 0xfd: /* ARIB data coding type descriptor */
2093         // STD-B24, fascicle 3, chapter 4 defines private_stream_1
2094         // for captions
2095         if (stream_type == STREAM_TYPE_PRIVATE_DATA) {
2096             // This structure is defined in STD-B10, part 1, listing 5.4 and
2097             // part 2, 6.2.20).
2098             // Listing of data_component_ids is in STD-B10, part 2, Annex J.
2099             // Component tag limits are documented in TR-B14, fascicle 2,
2100             // Vol. 3, Section 2, 4.2.8.1
2101             int actual_component_tag = st->stream_identifier - 1;
2102             int picked_profile = FF_PROFILE_UNKNOWN;
2103             int data_component_id = get16(pp, desc_end);
2104             if (data_component_id < 0)
2105                 return AVERROR_INVALIDDATA;
2106
2107             switch (data_component_id) {
2108             case 0x0008:
2109                 // [0x30..0x37] are component tags utilized for
2110                 // non-mobile captioning service ("profile A").
2111                 if (actual_component_tag >= 0x30 &&
2112                     actual_component_tag <= 0x37) {
2113                     picked_profile = FF_PROFILE_ARIB_PROFILE_A;
2114                 }
2115                 break;
2116             case 0x0012:
2117                 // component tag 0x87 signifies a mobile/partial reception
2118                 // (1seg) captioning service ("profile C").
2119                 if (actual_component_tag == 0x87) {
2120                     picked_profile = FF_PROFILE_ARIB_PROFILE_C;
2121                 }
2122                 break;
2123             default:
2124                 break;
2125             }
2126
2127             if (picked_profile == FF_PROFILE_UNKNOWN)
2128                 break;
2129
2130             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2131             st->codecpar->codec_id   = AV_CODEC_ID_ARIB_CAPTION;
2132             st->codecpar->profile    = picked_profile;
2133             st->request_probe        = 0;
2134         }
2135         break;
2136     default:
2137         break;
2138     }
2139     *pp = desc_end;
2140     return 0;
2141 }
2142
2143 static AVStream *find_matching_stream(MpegTSContext *ts, int pid, unsigned int programid,
2144                                       int stream_identifier, int pmt_stream_idx)
2145 {
2146     AVFormatContext *s = ts->stream;
2147     int i;
2148     AVStream *found = NULL;
2149
2150     for (i = 0; i < s->nb_streams; i++) {
2151         AVStream *st = s->streams[i];
2152         if (st->program_num != programid)
2153             continue;
2154         if (stream_identifier != -1) { /* match based on "stream identifier descriptor" if present */
2155             if (st->stream_identifier == stream_identifier+1) {
2156                 found = st;
2157                 break;
2158             }
2159         } else if (st->pmt_stream_idx == pmt_stream_idx) { /* match based on position within the PMT */
2160             found = st;
2161             break;
2162         }
2163     }
2164
2165     if (found) {
2166         av_log(ts->stream, AV_LOG_VERBOSE,
2167                "re-using existing %s stream %d (pid=0x%x) for new pid=0x%x\n",
2168                av_get_media_type_string(found->codecpar->codec_type),
2169                i, found->id, pid);
2170     }
2171
2172     return found;
2173 }
2174
2175 static int parse_stream_identifier_desc(const uint8_t *p, const uint8_t *p_end)
2176 {
2177     const uint8_t **pp = &p;
2178     const uint8_t *desc_list_end;
2179     const uint8_t *desc_end;
2180     int desc_list_len;
2181     int desc_len, desc_tag;
2182
2183     desc_list_len = get16(pp, p_end);
2184     if (desc_list_len < 0)
2185         return -1;
2186     desc_list_len &= 0xfff;
2187     desc_list_end  = p + desc_list_len;
2188     if (desc_list_end > p_end)
2189         return -1;
2190
2191     while (1) {
2192         desc_tag = get8(pp, desc_list_end);
2193         if (desc_tag < 0)
2194             return -1;
2195         desc_len = get8(pp, desc_list_end);
2196         if (desc_len < 0)
2197             return -1;
2198         desc_end = *pp + desc_len;
2199         if (desc_end > desc_list_end)
2200             return -1;
2201
2202         if (desc_tag == 0x52) {
2203             return get8(pp, desc_end);
2204         }
2205         *pp = desc_end;
2206     }
2207
2208     return -1;
2209 }
2210
2211 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
2212 {
2213     return !(stream_type == 0x13 ||
2214              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
2215 }
2216
2217 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2218 {
2219     MpegTSContext *ts = filter->u.section_filter.opaque;
2220     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2221     SectionHeader h1, *h = &h1;
2222     PESContext *pes;
2223     AVStream *st;
2224     const uint8_t *p, *p_end, *desc_list_end;
2225     int program_info_length, pcr_pid, pid, stream_type;
2226     int desc_list_len;
2227     uint32_t prog_reg_desc = 0; /* registration descriptor */
2228     int stream_identifier = -1;
2229
2230     int mp4_descr_count = 0;
2231     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
2232     int i;
2233
2234     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
2235     hex_dump_debug(ts->stream, section, section_len);
2236
2237     p_end = section + section_len - 4;
2238     p = section;
2239     if (parse_section_header(h, &p, p_end) < 0)
2240         return;
2241     if (h->tid != PMT_TID)
2242         return;
2243     if (skip_identical(h, tssf))
2244         return;
2245
2246     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
2247             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
2248
2249     if (!ts->scan_all_pmts && ts->skip_changes)
2250         return;
2251
2252     if (ts->skip_unknown_pmt && !get_program(ts, h->id))
2253         return;
2254     if (!ts->skip_clear)
2255         clear_program(ts, h->id);
2256
2257     pcr_pid = get16(&p, p_end);
2258     if (pcr_pid < 0)
2259         return;
2260     pcr_pid &= 0x1fff;
2261     add_pid_to_pmt(ts, h->id, pcr_pid);
2262     update_av_program_info(ts->stream, h->id, pcr_pid, h->version);
2263
2264     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
2265
2266     program_info_length = get16(&p, p_end);
2267     if (program_info_length < 0)
2268         return;
2269     program_info_length &= 0xfff;
2270     while (program_info_length >= 2) {
2271         uint8_t tag, len;
2272         tag = get8(&p, p_end);
2273         len = get8(&p, p_end);
2274
2275         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
2276
2277         if (len > program_info_length - 2)
2278             // something else is broken, exit the program_descriptors_loop
2279             break;
2280         program_info_length -= len + 2;
2281         if (tag == 0x1d) { // IOD descriptor
2282             get8(&p, p_end); // scope
2283             get8(&p, p_end); // label
2284             len -= 2;
2285             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
2286                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
2287         } else if (tag == 0x05 && len >= 4) { // registration descriptor
2288             prog_reg_desc = bytestream_get_le32(&p);
2289             len -= 4;
2290         }
2291         p += len;
2292     }
2293     p += program_info_length;
2294     if (p >= p_end)
2295         goto out;
2296
2297     // stop parsing after pmt, we found header
2298     if (!ts->stream->nb_streams)
2299         ts->stop_parse = 2;
2300
2301     set_pmt_found(ts, h->id);
2302
2303
2304     for (i = 0; ; i++) {
2305         st = 0;
2306         pes = NULL;
2307         stream_type = get8(&p, p_end);
2308         if (stream_type < 0)
2309             break;
2310         pid = get16(&p, p_end);
2311         if (pid < 0)
2312             goto out;
2313         pid &= 0x1fff;
2314         if (pid == ts->current_pid)
2315             goto out;
2316
2317         if (ts->merge_pmt_versions)
2318             stream_identifier = parse_stream_identifier_desc(p, p_end);
2319
2320         /* now create stream */
2321         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2322             pes = ts->pids[pid]->u.pes_filter.opaque;
2323             if (ts->merge_pmt_versions && !pes->st) {
2324                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2325                 if (st) {
2326                     pes->st = st;
2327                     pes->stream_type = stream_type;
2328                     pes->merged_st = 1;
2329                 }
2330             }
2331             if (!pes->st) {
2332                 pes->st = avformat_new_stream(pes->stream, NULL);
2333                 if (!pes->st)
2334                     goto out;
2335                 pes->st->id = pes->pid;
2336                 pes->st->program_num = h->id;
2337                 pes->st->pmt_version = h->version;
2338                 pes->st->pmt_stream_idx = i;
2339             }
2340             st = pes->st;
2341         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2342             if (ts->pids[pid])
2343                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2344             pes = add_pes_stream(ts, pid, pcr_pid);
2345             if (ts->merge_pmt_versions && pes && !pes->st) {
2346                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2347                 if (st) {
2348                     pes->st = st;
2349                     pes->stream_type = stream_type;
2350                     pes->merged_st = 1;
2351                 }
2352             }
2353             if (pes && !pes->st) {
2354                 st = avformat_new_stream(pes->stream, NULL);
2355                 if (!st)
2356                     goto out;
2357                 st->id = pes->pid;
2358                 st->program_num = h->id;
2359                 st->pmt_version = h->version;
2360                 st->pmt_stream_idx = i;
2361             }
2362         } else {
2363             int idx = ff_find_stream_index(ts->stream, pid);
2364             if (idx >= 0) {
2365                 st = ts->stream->streams[idx];
2366             }
2367             if (ts->merge_pmt_versions && !st) {
2368                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2369             }
2370             if (!st) {
2371                 st = avformat_new_stream(ts->stream, NULL);
2372                 if (!st)
2373                     goto out;
2374                 st->id = pid;
2375                 st->program_num = h->id;
2376                 st->pmt_version = h->version;
2377                 st->pmt_stream_idx = i;
2378                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2379                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2380                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2381                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2382                 }
2383             }
2384         }
2385
2386         if (!st)
2387             goto out;
2388
2389         if (pes && !pes->stream_type)
2390             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2391
2392         add_pid_to_pmt(ts, h->id, pid);
2393
2394         av_program_add_stream_index(ts->stream, h->id, st->index);
2395
2396         desc_list_len = get16(&p, p_end);
2397         if (desc_list_len < 0)
2398             goto out;
2399         desc_list_len &= 0xfff;
2400         desc_list_end  = p + desc_list_len;
2401         if (desc_list_end > p_end)
2402             goto out;
2403         for (;;) {
2404             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2405                                           desc_list_end, mp4_descr,
2406                                           mp4_descr_count, pid, ts) < 0)
2407                 break;
2408
2409             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2410                 stream_type == 0x83 && pes->sub_st) {
2411                 av_program_add_stream_index(ts->stream, h->id,
2412                                             pes->sub_st->index);
2413                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2414             }
2415         }
2416         p = desc_list_end;
2417     }
2418
2419     if (!ts->pids[pcr_pid])
2420         mpegts_open_pcr_filter(ts, pcr_pid);
2421
2422 out:
2423     for (i = 0; i < mp4_descr_count; i++)
2424         av_free(mp4_descr[i].dec_config_descr);
2425 }
2426
2427 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2428 {
2429     MpegTSContext *ts = filter->u.section_filter.opaque;
2430     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2431     SectionHeader h1, *h = &h1;
2432     const uint8_t *p, *p_end;
2433     int sid, pmt_pid;
2434     AVProgram *program;
2435
2436     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2437     hex_dump_debug(ts->stream, section, section_len);
2438
2439     p_end = section + section_len - 4;
2440     p     = section;
2441     if (parse_section_header(h, &p, p_end) < 0)
2442         return;
2443     if (h->tid != PAT_TID)
2444         return;
2445     if (ts->skip_changes)
2446         return;
2447
2448     if (skip_identical(h, tssf))
2449         return;
2450     ts->stream->ts_id = h->id;
2451
2452     clear_programs(ts);
2453     for (;;) {
2454         sid = get16(&p, p_end);
2455         if (sid < 0)
2456             break;
2457         pmt_pid = get16(&p, p_end);
2458         if (pmt_pid < 0)
2459             break;
2460         pmt_pid &= 0x1fff;
2461
2462         if (pmt_pid == ts->current_pid)
2463             break;
2464
2465         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2466
2467         if (sid == 0x0000) {
2468             /* NIT info */
2469         } else {
2470             MpegTSFilter *fil = ts->pids[pmt_pid];
2471             program = av_new_program(ts->stream, sid);
2472             if (program) {
2473                 program->program_num = sid;
2474                 program->pmt_pid = pmt_pid;
2475             }
2476             if (fil)
2477                 if (   fil->type != MPEGTS_SECTION
2478                     || fil->pid != pmt_pid
2479                     || fil->u.section_filter.section_cb != pmt_cb)
2480                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2481
2482             if (!ts->pids[pmt_pid])
2483                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2484             add_pat_entry(ts, sid);
2485             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2486             add_pid_to_pmt(ts, sid, pmt_pid);
2487         }
2488     }
2489
2490     if (sid < 0) {
2491         int i,j;
2492         for (j=0; j<ts->stream->nb_programs; j++) {
2493             for (i = 0; i < ts->nb_prg; i++)
2494                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2495                     break;
2496             if (i==ts->nb_prg && !ts->skip_clear)
2497                 clear_avprogram(ts, ts->stream->programs[j]->id);
2498         }
2499     }
2500 }
2501
2502 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2503 {
2504     MpegTSContext *ts = filter->u.section_filter.opaque;
2505     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2506     SectionHeader h1, *h = &h1;
2507     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2508     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2509     char *name, *provider_name;
2510
2511     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2512     hex_dump_debug(ts->stream, section, section_len);
2513
2514     p_end = section + section_len - 4;
2515     p     = section;
2516     if (parse_section_header(h, &p, p_end) < 0)
2517         return;
2518     if (h->tid != SDT_TID)
2519         return;
2520     if (ts->skip_changes)
2521         return;
2522     if (skip_identical(h, tssf))
2523         return;
2524
2525     onid = get16(&p, p_end);
2526     if (onid < 0)
2527         return;
2528     val = get8(&p, p_end);
2529     if (val < 0)
2530         return;
2531     for (;;) {
2532         sid = get16(&p, p_end);
2533         if (sid < 0)
2534             break;
2535         val = get8(&p, p_end);
2536         if (val < 0)
2537             break;
2538         desc_list_len = get16(&p, p_end);
2539         if (desc_list_len < 0)
2540             break;
2541         desc_list_len &= 0xfff;
2542         desc_list_end  = p + desc_list_len;
2543         if (desc_list_end > p_end)
2544             break;
2545         for (;;) {
2546             desc_tag = get8(&p, desc_list_end);
2547             if (desc_tag < 0)
2548                 break;
2549             desc_len = get8(&p, desc_list_end);
2550             desc_end = p + desc_len;
2551             if (desc_len < 0 || desc_end > desc_list_end)
2552                 break;
2553
2554             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2555                     desc_tag, desc_len);
2556
2557             switch (desc_tag) {
2558             case 0x48:
2559                 service_type = get8(&p, p_end);
2560                 if (service_type < 0)
2561                     break;
2562                 provider_name = getstr8(&p, p_end);
2563                 if (!provider_name)
2564                     break;
2565                 name = getstr8(&p, p_end);
2566                 if (name) {
2567                     AVProgram *program = av_new_program(ts->stream, sid);
2568                     if (program) {
2569                         av_dict_set(&program->metadata, "service_name", name, 0);
2570                         av_dict_set(&program->metadata, "service_provider",
2571                                     provider_name, 0);
2572                     }
2573                 }
2574                 av_free(name);
2575                 av_free(provider_name);
2576                 break;
2577             default:
2578                 break;
2579             }
2580             p = desc_end;
2581         }
2582         p = desc_list_end;
2583     }
2584 }
2585
2586 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2587                      const uint8_t *packet);
2588
2589 /* handle one TS packet */
2590 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2591 {
2592     MpegTSFilter *tss;
2593     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2594         has_adaptation, has_payload;
2595     const uint8_t *p, *p_end;
2596     int64_t pos;
2597
2598     pid = AV_RB16(packet + 1) & 0x1fff;
2599     is_start = packet[1] & 0x40;
2600     tss = ts->pids[pid];
2601     if (ts->auto_guess && !tss && is_start) {
2602         add_pes_stream(ts, pid, -1);
2603         tss = ts->pids[pid];
2604     }
2605     if (!tss)
2606         return 0;
2607     if (is_start)
2608         tss->discard = discard_pid(ts, pid);
2609     if (tss->discard)
2610         return 0;
2611     ts->current_pid = pid;
2612
2613     afc = (packet[3] >> 4) & 3;
2614     if (afc == 0) /* reserved value */
2615         return 0;
2616     has_adaptation   = afc & 2;
2617     has_payload      = afc & 1;
2618     is_discontinuity = has_adaptation &&
2619                        packet[4] != 0 && /* with length > 0 */
2620                        (packet[5] & 0x80); /* and discontinuity indicated */
2621
2622     /* continuity check (currently not used) */
2623     cc = (packet[3] & 0xf);
2624     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2625     cc_ok = pid == 0x1FFF || // null packet PID
2626             is_discontinuity ||
2627             tss->last_cc < 0 ||
2628             expected_cc == cc;
2629
2630     tss->last_cc = cc;
2631     if (!cc_ok) {
2632         av_log(ts->stream, AV_LOG_DEBUG,
2633                "Continuity check failed for pid %d expected %d got %d\n",
2634                pid, expected_cc, cc);
2635         if (tss->type == MPEGTS_PES) {
2636             PESContext *pc = tss->u.pes_filter.opaque;
2637             pc->flags |= AV_PKT_FLAG_CORRUPT;
2638         }
2639     }
2640
2641     if (packet[1] & 0x80) {
2642         av_log(ts->stream, AV_LOG_DEBUG, "Packet had TEI flag set; marking as corrupt\n");
2643         if (tss->type == MPEGTS_PES) {
2644             PESContext *pc = tss->u.pes_filter.opaque;
2645             pc->flags |= AV_PKT_FLAG_CORRUPT;
2646         }
2647     }
2648
2649     p = packet + 4;
2650     if (has_adaptation) {
2651         int64_t pcr_h;
2652         int pcr_l;
2653         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2654             tss->last_pcr = pcr_h * 300 + pcr_l;
2655         /* skip adaptation field */
2656         p += p[0] + 1;
2657     }
2658     /* if past the end of packet, ignore */
2659     p_end = packet + TS_PACKET_SIZE;
2660     if (p >= p_end || !has_payload)
2661         return 0;
2662
2663     pos = avio_tell(ts->stream->pb);
2664     if (pos >= 0) {
2665         av_assert0(pos >= TS_PACKET_SIZE);
2666         ts->pos47_full = pos - TS_PACKET_SIZE;
2667     }
2668
2669     if (tss->type == MPEGTS_SECTION) {
2670         if (is_start) {
2671             /* pointer field present */
2672             len = *p++;
2673             if (len > p_end - p)
2674                 return 0;
2675             if (len && cc_ok) {
2676                 /* write remaining section bytes */
2677                 write_section_data(ts, tss,
2678                                    p, len, 0);
2679                 /* check whether filter has been closed */
2680                 if (!ts->pids[pid])
2681                     return 0;
2682             }
2683             p += len;
2684             if (p < p_end) {
2685                 write_section_data(ts, tss,
2686                                    p, p_end - p, 1);
2687             }
2688         } else {
2689             if (cc_ok) {
2690                 write_section_data(ts, tss,
2691                                    p, p_end - p, 0);
2692             }
2693         }
2694
2695         // stop find_stream_info from waiting for more streams
2696         // when all programs have received a PMT
2697         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2698             int i;
2699             for (i = 0; i < ts->nb_prg; i++) {
2700                 if (!ts->prg[i].pmt_found)
2701                     break;
2702             }
2703             if (i == ts->nb_prg && ts->nb_prg > 0) {
2704                 int types = 0;
2705                 for (i = 0; i < ts->stream->nb_streams; i++) {
2706                     AVStream *st = ts->stream->streams[i];
2707                     if (st->codecpar->codec_type >= 0)
2708                         types |= 1<<st->codecpar->codec_type;
2709                 }
2710                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2711                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2712                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2713                 }
2714             }
2715         }
2716
2717     } else {
2718         int ret;
2719         // Note: The position here points actually behind the current packet.
2720         if (tss->type == MPEGTS_PES) {
2721             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2722                                                 pos - ts->raw_packet_size)) < 0)
2723                 return ret;
2724         }
2725     }
2726
2727     return 0;
2728 }
2729
2730 static void reanalyze(MpegTSContext *ts) {
2731     AVIOContext *pb = ts->stream->pb;
2732     int64_t pos = avio_tell(pb);
2733     if (pos < 0)
2734         return;
2735     pos -= ts->pos47_full;
2736     if (pos == TS_PACKET_SIZE) {
2737         ts->size_stat[0] ++;
2738     } else if (pos == TS_DVHS_PACKET_SIZE) {
2739         ts->size_stat[1] ++;
2740     } else if (pos == TS_FEC_PACKET_SIZE) {
2741         ts->size_stat[2] ++;
2742     }
2743
2744     ts->size_stat_count ++;
2745     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2746         int newsize = 0;
2747         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2748             newsize = TS_PACKET_SIZE;
2749         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2750             newsize = TS_DVHS_PACKET_SIZE;
2751         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2752             newsize = TS_FEC_PACKET_SIZE;
2753         }
2754         if (newsize && newsize != ts->raw_packet_size) {
2755             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2756             ts->raw_packet_size = newsize;
2757         }
2758         ts->size_stat_count = 0;
2759         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2760     }
2761 }
2762
2763 /* XXX: try to find a better synchro over several packets (use
2764  * get_packet_size() ?) */
2765 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2766 {
2767     MpegTSContext *ts = s->priv_data;
2768     AVIOContext *pb = s->pb;
2769     int c, i;
2770     uint64_t pos = avio_tell(pb);
2771
2772     avio_seek(pb, -FFMIN(seekback, pos), SEEK_CUR);
2773
2774     //Special case for files like 01c56b0dc1.ts
2775     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2776         avio_seek(pb, 12, SEEK_CUR);
2777         return 0;
2778     }
2779
2780     for (i = 0; i < ts->resync_size; i++) {
2781         c = avio_r8(pb);
2782         if (avio_feof(pb))
2783             return AVERROR_EOF;
2784         if (c == 0x47) {
2785             avio_seek(pb, -1, SEEK_CUR);
2786             reanalyze(s->priv_data);
2787             return 0;
2788         }
2789     }
2790     av_log(s, AV_LOG_ERROR,
2791            "max resync size reached, could not find sync byte\n");
2792     /* no sync found */
2793     return AVERROR_INVALIDDATA;
2794 }
2795
2796 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2797 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2798                        const uint8_t **data)
2799 {
2800     AVIOContext *pb = s->pb;
2801     int len;
2802
2803     for (;;) {
2804         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2805         if (len != TS_PACKET_SIZE)
2806             return len < 0 ? len : AVERROR_EOF;
2807         /* check packet sync byte */
2808         if ((*data)[0] != 0x47) {
2809             /* find a new packet start */
2810
2811             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2812                 return AVERROR(EAGAIN);
2813             else
2814                 continue;
2815         } else {
2816             break;
2817         }
2818     }
2819     return 0;
2820 }
2821
2822 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2823 {
2824     AVIOContext *pb = s->pb;
2825     int skip = raw_packet_size - TS_PACKET_SIZE;
2826     if (skip > 0)
2827         avio_skip(pb, skip);
2828 }
2829
2830 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2831 {
2832     AVFormatContext *s = ts->stream;
2833     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2834     const uint8_t *data;
2835     int64_t packet_num;
2836     int ret = 0;
2837
2838     if (avio_tell(s->pb) != ts->last_pos) {
2839         int i;
2840         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2841         /* seek detected, flush pes buffer */
2842         for (i = 0; i < NB_PID_MAX; i++) {
2843             if (ts->pids[i]) {
2844                 if (ts->pids[i]->type == MPEGTS_PES) {
2845                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2846                     av_buffer_unref(&pes->buffer);
2847                     pes->data_index = 0;
2848                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2849                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2850                     ts->pids[i]->u.section_filter.last_ver = -1;
2851                 }
2852                 ts->pids[i]->last_cc = -1;
2853                 ts->pids[i]->last_pcr = -1;
2854             }
2855         }
2856     }
2857
2858     ts->stop_parse = 0;
2859     packet_num = 0;
2860     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2861     for (;;) {
2862         packet_num++;
2863         if (nb_packets != 0 && packet_num >= nb_packets ||
2864             ts->stop_parse > 1) {
2865             ret = AVERROR(EAGAIN);
2866             break;
2867         }
2868         if (ts->stop_parse > 0)
2869             break;
2870
2871         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2872         if (ret != 0)
2873             break;
2874         ret = handle_packet(ts, data);
2875         finished_reading_packet(s, ts->raw_packet_size);
2876         if (ret != 0)
2877             break;
2878     }
2879     ts->last_pos = avio_tell(s->pb);
2880     return ret;
2881 }
2882
2883 static int mpegts_probe(const AVProbeData *p)
2884 {
2885     const int size = p->buf_size;
2886     int maxscore = 0;
2887     int sumscore = 0;
2888     int i;
2889     int check_count = size / TS_FEC_PACKET_SIZE;
2890 #define CHECK_COUNT 10
2891 #define CHECK_BLOCK 100
2892
2893     if (!check_count)
2894         return 0;
2895
2896     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2897         int left = FFMIN(check_count - i, CHECK_BLOCK);
2898         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2899         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2900         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2901         score = FFMAX3(score, dvhs_score, fec_score);
2902         sumscore += score;
2903         maxscore = FFMAX(maxscore, score);
2904     }
2905
2906     sumscore = sumscore * CHECK_COUNT / check_count;
2907     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2908
2909     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2910
2911     if        (check_count > CHECK_COUNT && sumscore > 6) {
2912         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2913     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
2914         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2915     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
2916         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2917     } else if (sumscore > 6) {
2918         return 2;
2919     } else {
2920         return 0;
2921     }
2922 }
2923
2924 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2925  * (-1) if not available */
2926 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2927 {
2928     int afc, len, flags;
2929     const uint8_t *p;
2930     unsigned int v;
2931
2932     afc = (packet[3] >> 4) & 3;
2933     if (afc <= 1)
2934         return AVERROR_INVALIDDATA;
2935     p   = packet + 4;
2936     len = p[0];
2937     p++;
2938     if (len == 0)
2939         return AVERROR_INVALIDDATA;
2940     flags = *p++;
2941     len--;
2942     if (!(flags & 0x10))
2943         return AVERROR_INVALIDDATA;
2944     if (len < 6)
2945         return AVERROR_INVALIDDATA;
2946     v          = AV_RB32(p);
2947     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2948     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2949     return 0;
2950 }
2951
2952 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2953
2954     /* NOTE: We attempt to seek on non-seekable files as well, as the
2955      * probe buffer usually is big enough. Only warn if the seek failed
2956      * on files where the seek should work. */
2957     if (avio_seek(pb, pos, SEEK_SET) < 0)
2958         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2959 }
2960
2961 static int mpegts_read_header(AVFormatContext *s)
2962 {
2963     MpegTSContext *ts = s->priv_data;
2964     AVIOContext *pb   = s->pb;
2965     int64_t pos, probesize = s->probesize;
2966
2967     s->internal->prefer_codec_framerate = 1;
2968
2969     if (ffio_ensure_seekback(pb, probesize) < 0)
2970         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2971
2972     pos = avio_tell(pb);
2973     ts->raw_packet_size = get_packet_size(s);
2974     if (ts->raw_packet_size <= 0) {
2975         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2976         ts->raw_packet_size = TS_PACKET_SIZE;
2977     }
2978     ts->stream     = s;
2979     ts->auto_guess = 0;
2980
2981     if (s->iformat == &ff_mpegts_demuxer) {
2982         /* normal demux */
2983
2984         /* first do a scan to get all the services */
2985         seek_back(s, pb, pos);
2986
2987         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2988
2989         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2990
2991         handle_packets(ts, probesize / ts->raw_packet_size);
2992         /* if could not find service, enable auto_guess */
2993
2994         ts->auto_guess = 1;
2995
2996         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
2997
2998         s->ctx_flags |= AVFMTCTX_NOHEADER;
2999     } else {
3000         AVStream *st;
3001         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
3002         int64_t pcrs[2], pcr_h;
3003         int packet_count[2];
3004         uint8_t packet[TS_PACKET_SIZE];
3005         const uint8_t *data;
3006
3007         /* only read packets */
3008
3009         st = avformat_new_stream(s, NULL);
3010         if (!st)
3011             return AVERROR(ENOMEM);
3012         avpriv_set_pts_info(st, 60, 1, 27000000);
3013         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
3014         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
3015
3016         /* we iterate until we find two PCRs to estimate the bitrate */
3017         pcr_pid    = -1;
3018         nb_pcrs    = 0;
3019         nb_packets = 0;
3020         for (;;) {
3021             ret = read_packet(s, packet, ts->raw_packet_size, &data);
3022             if (ret < 0)
3023                 return ret;
3024             pid = AV_RB16(data + 1) & 0x1fff;
3025             if ((pcr_pid == -1 || pcr_pid == pid) &&
3026                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
3027                 finished_reading_packet(s, ts->raw_packet_size);
3028                 pcr_pid = pid;
3029                 packet_count[nb_pcrs] = nb_packets;
3030                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
3031                 nb_pcrs++;
3032                 if (nb_pcrs >= 2) {
3033                     if (pcrs[1] - pcrs[0] > 0) {
3034                         /* the difference needs to be positive to make sense for bitrate computation */
3035                         break;
3036                     } else {
3037                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
3038                         pcrs[0] = pcrs[1];
3039                         packet_count[0] = packet_count[1];
3040                         nb_pcrs--;
3041                     }
3042                 }
3043             } else {
3044                 finished_reading_packet(s, ts->raw_packet_size);
3045             }
3046             nb_packets++;
3047         }
3048
3049         /* NOTE1: the bitrate is computed without the FEC */
3050         /* NOTE2: it is only the bitrate of the start of the stream */
3051         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
3052         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
3053         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
3054         st->codecpar->bit_rate = s->bit_rate;
3055         st->start_time      = ts->cur_pcr;
3056         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%d\n",
3057                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
3058     }
3059
3060     seek_back(s, pb, pos);
3061     return 0;
3062 }
3063
3064 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
3065
3066 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
3067 {
3068     MpegTSContext *ts = s->priv_data;
3069     int ret, i;
3070     int64_t pcr_h, next_pcr_h, pos;
3071     int pcr_l, next_pcr_l;
3072     uint8_t pcr_buf[12];
3073     const uint8_t *data;
3074
3075     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
3076         return AVERROR(ENOMEM);
3077     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
3078     pkt->pos = avio_tell(s->pb);
3079     if (ret < 0) {
3080         av_packet_unref(pkt);
3081         return ret;
3082     }
3083     if (data != pkt->data)
3084         memcpy(pkt->data, data, ts->raw_packet_size);
3085     finished_reading_packet(s, ts->raw_packet_size);
3086     if (ts->mpeg2ts_compute_pcr) {
3087         /* compute exact PCR for each packet */
3088         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
3089             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
3090             pos = avio_tell(s->pb);
3091             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
3092                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
3093                 avio_read(s->pb, pcr_buf, 12);
3094                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
3095                     /* XXX: not precise enough */
3096                     ts->pcr_incr =
3097                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
3098                         (i + 1);
3099                     break;
3100                 }
3101             }
3102             avio_seek(s->pb, pos, SEEK_SET);
3103             /* no next PCR found: we use previous increment */
3104             ts->cur_pcr = pcr_h * 300 + pcr_l;
3105         }
3106         pkt->pts      = ts->cur_pcr;
3107         pkt->duration = ts->pcr_incr;
3108         ts->cur_pcr  += ts->pcr_incr;
3109     }
3110     pkt->stream_index = 0;
3111     return 0;
3112 }
3113
3114 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
3115 {
3116     MpegTSContext *ts = s->priv_data;
3117     int ret, i;
3118
3119     pkt->size = -1;
3120     ts->pkt = pkt;
3121     ret = handle_packets(ts, 0);
3122     if (ret < 0) {
3123         av_packet_unref(ts->pkt);
3124         /* flush pes data left */
3125         for (i = 0; i < NB_PID_MAX; i++)
3126             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
3127                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
3128                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
3129                     ret = new_pes_packet(pes, pkt);
3130                     if (ret < 0)
3131                         return ret;
3132                     pes->state = MPEGTS_SKIP;
3133                     ret = 0;
3134                     break;
3135                 }
3136             }
3137     }
3138
3139     if (!ret && pkt->size < 0)
3140         ret = AVERROR_INVALIDDATA;
3141     return ret;
3142 }
3143
3144 static void mpegts_free(MpegTSContext *ts)
3145 {
3146     int i;
3147
3148     clear_programs(ts);
3149
3150     for (i = 0; i < NB_PID_MAX; i++)
3151         if (ts->pids[i])
3152             mpegts_close_filter(ts, ts->pids[i]);
3153 }
3154
3155 static int mpegts_read_close(AVFormatContext *s)
3156 {
3157     MpegTSContext *ts = s->priv_data;
3158     mpegts_free(ts);
3159     return 0;
3160 }
3161
3162 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
3163                               int64_t *ppos, int64_t pos_limit)
3164 {
3165     MpegTSContext *ts = s->priv_data;
3166     int64_t pos, timestamp;
3167     uint8_t buf[TS_PACKET_SIZE];
3168     int pcr_l, pcr_pid =
3169         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
3170     int pos47 = ts->pos47_full % ts->raw_packet_size;
3171     pos =
3172         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
3173         ts->raw_packet_size + pos47;
3174     while(pos < pos_limit) {
3175         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3176             return AV_NOPTS_VALUE;
3177         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
3178             return AV_NOPTS_VALUE;
3179         if (buf[0] != 0x47) {
3180             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
3181                 return AV_NOPTS_VALUE;
3182             pos = avio_tell(s->pb);
3183             continue;
3184         }
3185         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
3186             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
3187             *ppos = pos;
3188             return timestamp;
3189         }
3190         pos += ts->raw_packet_size;
3191     }
3192
3193     return AV_NOPTS_VALUE;
3194 }
3195
3196 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
3197                               int64_t *ppos, int64_t pos_limit)
3198 {
3199     MpegTSContext *ts = s->priv_data;
3200     int64_t pos;
3201     int pos47 = ts->pos47_full % ts->raw_packet_size;
3202     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
3203     ff_read_frame_flush(s);
3204     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3205         return AV_NOPTS_VALUE;
3206     while(pos < pos_limit) {
3207         int ret;
3208         AVPacket pkt;
3209         av_init_packet(&pkt);
3210         ret = av_read_frame(s, &pkt);
3211         if (ret < 0)
3212             return AV_NOPTS_VALUE;
3213         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
3214             ff_reduce_index(s, pkt.stream_index);
3215             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
3216             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
3217                 int64_t dts = pkt.dts;
3218                 *ppos = pkt.pos;
3219                 av_packet_unref(&pkt);
3220                 return dts;
3221             }
3222         }
3223         pos = pkt.pos;
3224         av_packet_unref(&pkt);
3225     }
3226
3227     return AV_NOPTS_VALUE;
3228 }
3229
3230 /**************************************************************/
3231 /* parsing functions - called from other demuxers such as RTP */
3232
3233 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
3234 {
3235     MpegTSContext *ts;
3236
3237     ts = av_mallocz(sizeof(MpegTSContext));
3238     if (!ts)
3239         return NULL;
3240     /* no stream case, currently used by RTP */
3241     ts->raw_packet_size = TS_PACKET_SIZE;
3242     ts->stream = s;
3243     ts->auto_guess = 1;
3244     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3245     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3246
3247     return ts;
3248 }
3249
3250 /* return the consumed length if a packet was output, or -1 if no
3251  * packet is output */
3252 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
3253                                const uint8_t *buf, int len)
3254 {
3255     int len1;
3256
3257     len1 = len;
3258     ts->pkt = pkt;
3259     for (;;) {
3260         ts->stop_parse = 0;
3261         if (len < TS_PACKET_SIZE)
3262             return AVERROR_INVALIDDATA;
3263         if (buf[0] != 0x47) {
3264             buf++;
3265             len--;
3266         } else {
3267             handle_packet(ts, buf);
3268             buf += TS_PACKET_SIZE;
3269             len -= TS_PACKET_SIZE;
3270             if (ts->stop_parse == 1)
3271                 break;
3272         }
3273     }
3274     return len1 - len;
3275 }
3276
3277 void avpriv_mpegts_parse_close(MpegTSContext *ts)
3278 {
3279     mpegts_free(ts);
3280     av_free(ts);
3281 }
3282
3283 AVInputFormat ff_mpegts_demuxer = {
3284     .name           = "mpegts",
3285     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
3286     .priv_data_size = sizeof(MpegTSContext),
3287     .read_probe     = mpegts_probe,
3288     .read_header    = mpegts_read_header,
3289     .read_packet    = mpegts_read_packet,
3290     .read_close     = mpegts_read_close,
3291     .read_timestamp = mpegts_get_dts,
3292     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3293     .priv_class     = &mpegts_class,
3294 };
3295
3296 AVInputFormat ff_mpegtsraw_demuxer = {
3297     .name           = "mpegtsraw",
3298     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
3299     .priv_data_size = sizeof(MpegTSContext),
3300     .read_header    = mpegts_read_header,
3301     .read_packet    = mpegts_raw_read_packet,
3302     .read_close     = mpegts_read_close,
3303     .read_timestamp = mpegts_get_dts,
3304     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3305     .priv_class     = &mpegtsraw_class,
3306 };