git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG-2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/common.h"
  24 #include "libavutil/crc.h"
  25 #include "libavutil/internal.h"
  26 #include "libavutil/intreadwrite.h"
  27 #include "libavutil/log.h"
  28 #include "libavutil/dict.h"
  29 #include "libavutil/mathematics.h"
  30 #include "libavutil/opt.h"
  31 #include "libavutil/avassert.h"
  32 #include "libavutil/dovi_meta.h"
  33 #include "libavcodec/bytestream.h"
  34 #include "libavcodec/get_bits.h"
  35 #include "libavcodec/opus.h"
  36 #include "avformat.h"
  37 #include "mpegts.h"
  38 #include "internal.h"
  39 #include "avio_internal.h"
  40 #include "mpeg.h"
  41 #include "isom.h"
  42 #if CONFIG_ICONV
  43 #include <iconv.h>
  44 #endif
  45
  46 /* maximum size in which we look for synchronization if
  47  * synchronization is lost */
  48 #define MAX_RESYNC_SIZE 65536
  49
  50 #define MAX_PES_PAYLOAD 200 * 1024
  51
  52 #define MAX_MP4_DESCR_COUNT 16
  53
  54 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  55     do {                                                                       \
  56         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  57             (modulus) = (dividend) % (divisor);                                \
  58         (prev_dividend) = (dividend);                                          \
  59     } while (0)
  60
  61 #define PROBE_PACKET_MAX_BUF 8192
  62 #define PROBE_PACKET_MARGIN 5
  63
  64 enum MpegTSFilterType {
  65     MPEGTS_PES,
  66     MPEGTS_SECTION,
  67     MPEGTS_PCR,
  68 };
  69
  70 typedef struct MpegTSFilter MpegTSFilter;
  71
  72 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  73                          int is_start, int64_t pos);
  74
  75 typedef struct MpegTSPESFilter {
  76     PESCallback *pes_cb;
  77     void *opaque;
  78 } MpegTSPESFilter;
  79
  80 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  81
  82 typedef void SetServiceCallback (void *opaque, int ret);
  83
  84 typedef struct MpegTSSectionFilter {
  85     int section_index;
  86     int section_h_size;
  87     int last_ver;
  88     unsigned crc;
  89     unsigned last_crc;
  90     uint8_t *section_buf;
  91     unsigned int check_crc : 1;
  92     unsigned int end_of_section_reached : 1;
  93     SectionCallback *section_cb;
  94     void *opaque;
  95 } MpegTSSectionFilter;
  96
  97 struct MpegTSFilter {
  98     int pid;
  99     int es_id;
 100     int last_cc; /* last cc code (-1 if first packet) */
 101     int64_t last_pcr;
 102     int discard;
 103     enum MpegTSFilterType type;
 104     union {
 105         MpegTSPESFilter pes_filter;
 106         MpegTSSectionFilter section_filter;
 107     } u;
 108 };
 109
 110 #define MAX_PIDS_PER_PROGRAM 64
 111 struct Program {
 112     unsigned int id; // program id/service id
 113     unsigned int nb_pids;
 114     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 115
 116     /** have we found pmt for this program */
 117     int pmt_found;
 118 };
 119
 120 struct MpegTSContext {
 121     const AVClass *class;
 122     /* user data */
 123     AVFormatContext *stream;
 124     /** raw packet size, including FEC if present */
 125     int raw_packet_size;
 126
 127     int64_t pos47_full;
 128
 129     /** if true, all pids are analyzed to find streams */
 130     int auto_guess;
 131
 132     /** compute exact PCR for each transport stream packet */
 133     int mpeg2ts_compute_pcr;
 134
 135     /** fix dvb teletext pts                                 */
 136     int fix_teletext_pts;
 137
 138     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 139     int64_t pcr_incr;   /**< used to estimate the exact PCR */
 140
 141     /* data needed to handle file based ts */
 142     /** stop parsing loop */
 143     int stop_parse;
 144     /** packet containing Audio/Video data */
 145     AVPacket *pkt;
 146     /** to detect seek */
 147     int64_t last_pos;
 148
 149     int skip_changes;
 150     int skip_clear;
 151     int skip_unknown_pmt;
 152
 153     int scan_all_pmts;
 154
 155     int resync_size;
 156     int merge_pmt_versions;
 157
 158     /******************************************/
 159     /* private mpegts data */
 160     /* scan context */
 161     /** structure to keep track of Program->pids mapping */
 162     unsigned int nb_prg;
 163     struct Program *prg;
 164
 165     int8_t crc_validity[NB_PID_MAX];
 166     /** filters for various streams specified by PMT + for the PAT and PMT */
 167     MpegTSFilter *pids[NB_PID_MAX];
 168     int current_pid;
 169
 170     AVStream *epg_stream;
 171     AVBufferPool* pools[32];
 172 };
 173
 174 #define MPEGTS_OPTIONS \
 175     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 176
 177 static const AVOption options[] = {
 178     MPEGTS_OPTIONS,
 179     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 180      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 181     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 182      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 183     {"scan_all_pmts", "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 184      {.i64 = -1}, -1, 1, AV_OPT_FLAG_DECODING_PARAM },
 185     {"skip_unknown_pmt", "skip PMTs for programs not advertised in the PAT", offsetof(MpegTSContext, skip_unknown_pmt), AV_OPT_TYPE_BOOL,
 186      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 187     {"merge_pmt_versions", "re-use streams when PMT's version/pids change", offsetof(MpegTSContext, merge_pmt_versions), AV_OPT_TYPE_BOOL,
 188      {.i64 = 0}, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 189     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 190      {.i64 = 0}, 0, 1, 0 },
 191     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 192      {.i64 = 0}, 0, 1, 0 },
 193     { NULL },
 194 };
 195
 196 static const AVClass mpegts_class = {
 197     .class_name = "mpegts demuxer",
 198     .item_name  = av_default_item_name,
 199     .option     = options,
 200     .version    = LIBAVUTIL_VERSION_INT,
 201 };
 202
 203 static const AVOption raw_options[] = {
 204     MPEGTS_OPTIONS,
 205     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 206           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 207           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 208     { "ts_packetsize", "output option carrying the raw packet size",
 209       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 210       { .i64 = 0 }, 0, 0,
 211       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 212     { NULL },
 213 };
 214
 215 static const AVClass mpegtsraw_class = {
 216     .class_name = "mpegtsraw demuxer",
 217     .item_name  = av_default_item_name,
 218     .option     = raw_options,
 219     .version    = LIBAVUTIL_VERSION_INT,
 220 };
 221
 222 /* TS stream handling */
 223
 224 enum MpegTSState {
 225     MPEGTS_HEADER = 0,
 226     MPEGTS_PESHEADER,
 227     MPEGTS_PESHEADER_FILL,
 228     MPEGTS_PAYLOAD,
 229     MPEGTS_SKIP,
 230 };
 231
 232 /* enough for PES header + length */
 233 #define PES_START_SIZE  6
 234 #define PES_HEADER_SIZE 9
 235 #define MAX_PES_HEADER_SIZE (9 + 255)
 236
 237 typedef struct PESContext {
 238     int pid;
 239     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 240     int stream_type;
 241     MpegTSContext *ts;
 242     AVFormatContext *stream;
 243     AVStream *st;
 244     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 245     enum MpegTSState state;
 246     /* used to get the format */
 247     int data_index;
 248     int flags; /**< copied to the AVPacket flags */
 249     int total_size;
 250     int pes_header_size;
 251     int extended_stream_id;
 252     uint8_t stream_id;
 253     int64_t pts, dts;
 254     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 255     uint8_t header[MAX_PES_HEADER_SIZE];
 256     AVBufferRef *buffer;
 257     SLConfigDescr sl;
 258     int merged_st;
 259 } PESContext;
 260
 261 extern AVInputFormat ff_mpegts_demuxer;
 262
 263 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 264 {
 265     int i;
 266     for (i = 0; i < ts->nb_prg; i++) {
 267         if (ts->prg[i].id == programid) {
 268             return &ts->prg[i];
 269         }
 270     }
 271     return NULL;
 272 }
 273
 274 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 275 {
 276     AVProgram *prg = NULL;
 277     int i;
 278
 279     for (i = 0; i < ts->stream->nb_programs; i++)
 280         if (ts->stream->programs[i]->id == programid) {
 281             prg = ts->stream->programs[i];
 282             break;
 283         }
 284     if (!prg)
 285         return;
 286     prg->nb_stream_indexes = 0;
 287 }
 288
 289 static void clear_program(struct Program *p)
 290 {
 291     if (!p)
 292         return;
 293     p->nb_pids = 0;
 294     p->pmt_found = 0;
 295 }
 296
 297 static void clear_programs(MpegTSContext *ts)
 298 {
 299     av_freep(&ts->prg);
 300     ts->nb_prg = 0;
 301 }
 302
 303 static struct Program * add_program(MpegTSContext *ts, unsigned int programid)
 304 {
 305     struct Program *p = get_program(ts, programid);
 306     if (p)
 307         return p;
 308     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 309         ts->nb_prg = 0;
 310         return NULL;
 311     }
 312     p = &ts->prg[ts->nb_prg];
 313     p->id = programid;
 314     clear_program(p);
 315     ts->nb_prg++;
 316     return p;
 317 }
 318
 319 static void add_pid_to_program(struct Program *p, unsigned int pid)
 320 {
 321     int i;
 322     if (!p)
 323         return;
 324
 325     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 326         return;
 327
 328     for (i = 0; i < p->nb_pids; i++)
 329         if (p->pids[i] == pid)
 330             return;
 331
 332     p->pids[p->nb_pids++] = pid;
 333 }
 334
 335 static void update_av_program_info(AVFormatContext *s, unsigned int programid,
 336                                    unsigned int pid, int version)
 337 {
 338     int i;
 339     for (i = 0; i < s->nb_programs; i++) {
 340         AVProgram *program = s->programs[i];
 341         if (program->id == programid) {
 342             int old_pcr_pid = program->pcr_pid,
 343                 old_version = program->pmt_version;
 344             program->pcr_pid = pid;
 345             program->pmt_version = version;
 346
 347             if (old_version != -1 && old_version != version) {
 348                 av_log(s, AV_LOG_VERBOSE,
 349                        "detected PMT change (program=%d, version=%d/%d, pcr_pid=0x%x/0x%x)\n",
 350                        programid, old_version, version, old_pcr_pid, pid);
 351             }
 352             break;
 353         }
 354     }
 355 }
 356
 357 /**
 358  * @brief discard_pid() decides if the pid is to be discarded according
 359  *                      to caller's programs selection
 360  * @param ts    : - TS context
 361  * @param pid   : - pid
 362  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 363  *         0 otherwise
 364  */
 365 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 366 {
 367     int i, j, k;
 368     int used = 0, discarded = 0;
 369     struct Program *p;
 370
 371     if (pid == PAT_PID)
 372         return 0;
 373
 374     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 375      * no way we have to discard this packet */
 376     for (k = 0; k < ts->stream->nb_programs; k++)
 377         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 378             break;
 379     if (k == ts->stream->nb_programs)
 380         return 0;
 381
 382     for (i = 0; i < ts->nb_prg; i++) {
 383         p = &ts->prg[i];
 384         for (j = 0; j < p->nb_pids; j++) {
 385             if (p->pids[j] != pid)
 386                 continue;
 387             // is program with id p->id set to be discarded?
 388             for (k = 0; k < ts->stream->nb_programs; k++) {
 389                 if (ts->stream->programs[k]->id == p->id) {
 390                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 391                         discarded++;
 392                     else
 393                         used++;
 394                 }
 395             }
 396         }
 397     }
 398
 399     return !used && discarded;
 400 }
 401
 402 /**
 403  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 404  *  function when they are complete.
 405  */
 406 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 407                                const uint8_t *buf, int buf_size, int is_start)
 408 {
 409     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 410     uint8_t *cur_section_buf = NULL;
 411     int len, offset;
 412
 413     if (is_start) {
 414         memcpy(tss->section_buf, buf, buf_size);
 415         tss->section_index = buf_size;
 416         tss->section_h_size = -1;
 417         tss->end_of_section_reached = 0;
 418     } else {
 419         if (tss->end_of_section_reached)
 420             return;
 421         len = MAX_SECTION_SIZE - tss->section_index;
 422         if (buf_size < len)
 423             len = buf_size;
 424         memcpy(tss->section_buf + tss->section_index, buf, len);
 425         tss->section_index += len;
 426     }
 427
 428     offset = 0;
 429     cur_section_buf = tss->section_buf;
 430     while (cur_section_buf - tss->section_buf < MAX_SECTION_SIZE && cur_section_buf[0] != 0xff) {
 431         /* compute section length if possible */
 432         if (tss->section_h_size == -1 && tss->section_index - offset >= 3) {
 433             len = (AV_RB16(cur_section_buf + 1) & 0xfff) + 3;
 434             if (len > MAX_SECTION_SIZE)
 435                 return;
 436             tss->section_h_size = len;
 437         }
 438
 439         if (tss->section_h_size != -1 &&
 440             tss->section_index >= offset + tss->section_h_size) {
 441             int crc_valid = 1;
 442             tss->end_of_section_reached = 1;
 443
 444             if (tss->check_crc) {
 445                 crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, cur_section_buf, tss->section_h_size);
 446                 if (tss->section_h_size >= 4)
 447                     tss->crc = AV_RB32(cur_section_buf + tss->section_h_size - 4);
 448
 449                 if (crc_valid) {
 450                     ts->crc_validity[ tss1->pid ] = 100;
 451                 }else if (ts->crc_validity[ tss1->pid ] > -10) {
 452                     ts->crc_validity[ tss1->pid ]--;
 453                 }else
 454                     crc_valid = 2;
 455             }
 456             if (crc_valid) {
 457                 tss->section_cb(tss1, cur_section_buf, tss->section_h_size);
 458                 if (crc_valid != 1)
 459                     tss->last_ver = -1;
 460             }
 461
 462             cur_section_buf += tss->section_h_size;
 463             offset += tss->section_h_size;
 464             tss->section_h_size = -1;
 465         } else {
 466             tss->section_h_size = -1;
 467             tss->end_of_section_reached = 0;
 468             break;
 469         }
 470     }
 471 }
 472
 473 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 474                                         enum MpegTSFilterType type)
 475 {
 476     MpegTSFilter *filter;
 477
 478     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
 479
 480     if (pid >= NB_PID_MAX || ts->pids[pid])
 481         return NULL;
 482     filter = av_mallocz(sizeof(MpegTSFilter));
 483     if (!filter)
 484         return NULL;
 485     ts->pids[pid] = filter;
 486
 487     filter->type    = type;
 488     filter->pid     = pid;
 489     filter->es_id   = -1;
 490     filter->last_cc = -1;
 491     filter->last_pcr= -1;
 492
 493     return filter;
 494 }
 495
 496 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 497                                                 unsigned int pid,
 498                                                 SectionCallback *section_cb,
 499                                                 void *opaque,
 500                                                 int check_crc)
 501 {
 502     MpegTSFilter *filter;
 503     MpegTSSectionFilter *sec;
 504     uint8_t *section_buf = av_mallocz(MAX_SECTION_SIZE);
 505
 506     if (!section_buf)
 507         return NULL;
 508
 509     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION))) {
 510         av_free(section_buf);
 511         return NULL;
 512     }
 513     sec = &filter->u.section_filter;
 514     sec->section_cb  = section_cb;
 515     sec->opaque      = opaque;
 516     sec->section_buf = section_buf;
 517     sec->check_crc   = check_crc;
 518     sec->last_ver    = -1;
 519
 520     return filter;
 521 }
 522
 523 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 524                                             PESCallback *pes_cb,
 525                                             void *opaque)
 526 {
 527     MpegTSFilter *filter;
 528     MpegTSPESFilter *pes;
 529
 530     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 531         return NULL;
 532
 533     pes = &filter->u.pes_filter;
 534     pes->pes_cb = pes_cb;
 535     pes->opaque = opaque;
 536     return filter;
 537 }
 538
 539 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 540 {
 541     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 542 }
 543
 544 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 545 {
 546     int pid;
 547
 548     pid = filter->pid;
 549     if (filter->type == MPEGTS_SECTION)
 550         av_freep(&filter->u.section_filter.section_buf);
 551     else if (filter->type == MPEGTS_PES) {
 552         PESContext *pes = filter->u.pes_filter.opaque;
 553         av_buffer_unref(&pes->buffer);
 554         /* referenced private data will be freed later in
 555          * avformat_close_input (pes->st->priv_data == pes) */
 556         if (!pes->st || pes->merged_st) {
 557             av_freep(&filter->u.pes_filter.opaque);
 558         }
 559     }
 560
 561     av_free(filter);
 562     ts->pids[pid] = NULL;
 563 }
 564
 565 static int analyze(const uint8_t *buf, int size, int packet_size,
 566                    int probe)
 567 {
 568     int stat[TS_MAX_PACKET_SIZE];
 569     int stat_all = 0;
 570     int i;
 571     int best_score = 0;
 572
 573     memset(stat, 0, packet_size * sizeof(*stat));
 574
 575     for (i = 0; i < size - 3; i++) {
 576         if (buf[i] == 0x47) {
 577             int pid = AV_RB16(buf+1) & 0x1FFF;
 578             int asc = buf[i + 3] & 0x30;
 579             if (!probe || pid == 0x1FFF || asc) {
 580                 int x = i % packet_size;
 581                 stat[x]++;
 582                 stat_all++;
 583                 if (stat[x] > best_score) {
 584                     best_score = stat[x];
 585                 }
 586             }
 587         }
 588     }
 589
 590     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 591 }
 592
 593 /* autodetect fec presence */
 594 static int get_packet_size(AVFormatContext* s)
 595 {
 596     int score, fec_score, dvhs_score;
 597     int margin;
 598     int ret;
 599
 600     /*init buffer to store stream for probing */
 601     uint8_t buf[PROBE_PACKET_MAX_BUF] = {0};
 602     int buf_size = 0;
 603     int max_iterations = 16;
 604
 605     while (buf_size < PROBE_PACKET_MAX_BUF && max_iterations--) {
 606         ret = avio_read_partial(s->pb, buf + buf_size, PROBE_PACKET_MAX_BUF - buf_size);
 607         if (ret < 0)
 608             return AVERROR_INVALIDDATA;
 609         buf_size += ret;
 610
 611         score      = analyze(buf, buf_size, TS_PACKET_SIZE,      0);
 612         dvhs_score = analyze(buf, buf_size, TS_DVHS_PACKET_SIZE, 0);
 613         fec_score  = analyze(buf, buf_size, TS_FEC_PACKET_SIZE,  0);
 614         av_log(s, AV_LOG_TRACE, "Probe: %d, score: %d, dvhs_score: %d, fec_score: %d \n",
 615             buf_size, score, dvhs_score, fec_score);
 616
 617         margin = mid_pred(score, fec_score, dvhs_score);
 618
 619         if (buf_size < PROBE_PACKET_MAX_BUF)
 620             margin += PROBE_PACKET_MARGIN; /*if buffer not filled */
 621
 622         if (score > margin)
 623             return TS_PACKET_SIZE;
 624         else if (dvhs_score > margin)
 625             return TS_DVHS_PACKET_SIZE;
 626         else if (fec_score > margin)
 627             return TS_FEC_PACKET_SIZE;
 628     }
 629     return AVERROR_INVALIDDATA;
 630 }
 631
 632 typedef struct SectionHeader {
 633     uint8_t tid;
 634     uint16_t id;
 635     uint8_t version;
 636     uint8_t sec_num;
 637     uint8_t last_sec_num;
 638 } SectionHeader;
 639
 640 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 641 {
 642     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 643         return 1;
 644
 645     tssf->last_ver = h->version;
 646     tssf->last_crc = tssf->crc;
 647
 648     return 0;
 649 }
 650
 651 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 652 {
 653     const uint8_t *p;
 654     int c;
 655
 656     p = *pp;
 657     if (p >= p_end)
 658         return AVERROR_INVALIDDATA;
 659     c   = *p++;
 660     *pp = p;
 661     return c;
 662 }
 663
 664 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 665 {
 666     const uint8_t *p;
 667     int c;
 668
 669     p = *pp;
 670     if (1 >= p_end - p)
 671         return AVERROR_INVALIDDATA;
 672     c   = AV_RB16(p);
 673     p  += 2;
 674     *pp = p;
 675     return c;
 676 }
 677
 678 /* read and allocate a DVB string preceded by its length */
 679 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 680 {
 681     int len;
 682     const uint8_t *p;
 683     char *str;
 684
 685     p   = *pp;
 686     len = get8(&p, p_end);
 687     if (len < 0)
 688         return NULL;
 689     if (len > p_end - p)
 690         return NULL;
 691 #if CONFIG_ICONV
 692     if (len) {
 693         const char *encodings[] = {
 694             "ISO6937", "ISO-8859-5", "ISO-8859-6", "ISO-8859-7",
 695             "ISO-8859-8", "ISO-8859-9", "ISO-8859-10", "ISO-8859-11",
 696             "", "ISO-8859-13", "ISO-8859-14", "ISO-8859-15", "", "", "", "",
 697             "", "UCS-2BE", "KSC_5601", "GB2312", "UCS-2BE", "UTF-8", "", "",
 698             "", "", "", "", "", "", "", ""
 699         };
 700         iconv_t cd;
 701         char *in, *out;
 702         size_t inlen = len, outlen = inlen * 6 + 1;
 703         if (len >= 3 && p[0] == 0x10 && !p[1] && p[2] && p[2] <= 0xf && p[2] != 0xc) {
 704             char iso8859[12];
 705             snprintf(iso8859, sizeof(iso8859), "ISO-8859-%d", p[2]);
 706             inlen -= 3;
 707             in = (char *)p + 3;
 708             cd = iconv_open("UTF-8", iso8859);
 709         } else if (p[0] < 0x20) {
 710             inlen -= 1;
 711             in = (char *)p + 1;
 712             cd = iconv_open("UTF-8", encodings[*p]);
 713         } else {
 714             in = (char *)p;
 715             cd = iconv_open("UTF-8", encodings[0]);
 716         }
 717         if (cd == (iconv_t)-1)
 718             goto no_iconv;
 719         str = out = av_malloc(outlen);
 720         if (!str) {
 721             iconv_close(cd);
 722             return NULL;
 723         }
 724         if (iconv(cd, &in, &inlen, &out, &outlen) == -1) {
 725             iconv_close(cd);
 726             av_freep(&str);
 727             goto no_iconv;
 728         }
 729         iconv_close(cd);
 730         *out = 0;
 731         *pp = p + len;
 732         return str;
 733     }
 734 no_iconv:
 735 #endif
 736     str = av_malloc(len + 1);
 737     if (!str)
 738         return NULL;
 739     memcpy(str, p, len);
 740     str[len] = '\0';
 741     p  += len;
 742     *pp = p;
 743     return str;
 744 }
 745
 746 static int parse_section_header(SectionHeader *h,
 747                                 const uint8_t **pp, const uint8_t *p_end)
 748 {
 749     int val;
 750
 751     val = get8(pp, p_end);
 752     if (val < 0)
 753         return val;
 754     h->tid = val;
 755     *pp += 2;
 756     val  = get16(pp, p_end);
 757     if (val < 0)
 758         return val;
 759     h->id = val;
 760     val = get8(pp, p_end);
 761     if (val < 0)
 762         return val;
 763     h->version = (val >> 1) & 0x1f;
 764     val = get8(pp, p_end);
 765     if (val < 0)
 766         return val;
 767     h->sec_num = val;
 768     val = get8(pp, p_end);
 769     if (val < 0)
 770         return val;
 771     h->last_sec_num = val;
 772     return 0;
 773 }
 774
 775 typedef struct StreamType {
 776     uint32_t stream_type;
 777     enum AVMediaType codec_type;
 778     enum AVCodecID codec_id;
 779 } StreamType;
 780
 781 static const StreamType ISO_types[] = {
 782     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 783     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 784     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 785     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 786     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 787     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 788     /* Makito encoder sets stream type 0x11 for AAC,
 789      * so auto-detect LOAS/LATM instead of hardcoding it. */
 790 #if !CONFIG_LOAS_DEMUXER
 791     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 792 #endif
 793     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 794     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 795     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 796     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 797     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 798     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 799     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 800     { 0xd2, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_AVS2       },
 801     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 802     { 0 },
 803 };
 804
 805 static const StreamType HDMV_types[] = {
 806     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 807     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 808     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 809     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 810     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 811     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 812     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 813     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 814     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 815     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 816     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 817     { 0 },
 818 };
 819
 820 /* SCTE types */
 821 static const StreamType SCTE_types[] = {
 822     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
 823     { 0 },
 824 };
 825
 826 /* ATSC ? */
 827 static const StreamType MISC_types[] = {
 828     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 829     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 830     { 0 },
 831 };
 832
 833 static const StreamType REGD_types[] = {
 834     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 835     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 836     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 837     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 838     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 839     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 840     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 841     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 842     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 843     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 844     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 845     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 846     { 0 },
 847 };
 848
 849 static const StreamType METADATA_types[] = {
 850     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 851     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 852     { 0 },
 853 };
 854
 855 /* descriptor present */
 856 static const StreamType DESC_types[] = {
 857     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 858     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 859     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 860     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 861     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 862     { 0 },
 863 };
 864
 865 static void mpegts_find_stream_type(AVStream *st,
 866                                     uint32_t stream_type,
 867                                     const StreamType *types)
 868 {
 869     for (; types->stream_type; types++)
 870         if (stream_type == types->stream_type) {
 871             if (st->codecpar->codec_type != types->codec_type ||
 872                 st->codecpar->codec_id   != types->codec_id) {
 873                 st->codecpar->codec_type = types->codec_type;
 874                 st->codecpar->codec_id   = types->codec_id;
 875                 st->internal->need_context_update = 1;
 876             }
 877             st->internal->request_probe        = 0;
 878             return;
 879         }
 880 }
 881
 882 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 883                                   uint32_t stream_type, uint32_t prog_reg_desc)
 884 {
 885     int old_codec_type = st->codecpar->codec_type;
 886     int old_codec_id   = st->codecpar->codec_id;
 887     int old_codec_tag  = st->codecpar->codec_tag;
 888
 889     if (avcodec_is_open(st->internal->avctx)) {
 890         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 891         return 0;
 892     }
 893
 894     avpriv_set_pts_info(st, 33, 1, 90000);
 895     st->priv_data         = pes;
 896     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 897     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 898     st->need_parsing      = AVSTREAM_PARSE_FULL;
 899     pes->st          = st;
 900     pes->stream_type = stream_type;
 901
 902     av_log(pes->stream, AV_LOG_DEBUG,
 903            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 904            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 905
 906     st->codecpar->codec_tag = pes->stream_type;
 907
 908     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 909     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
 910         st->internal->request_probe = 50;
 911     if ((prog_reg_desc == AV_RL32("HDMV") ||
 912          prog_reg_desc == AV_RL32("HDPR")) &&
 913         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 914         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 915         if (pes->stream_type == 0x83) {
 916             // HDMV TrueHD streams also contain an AC3 coded version of the
 917             // audio track - add a second stream for this
 918             AVStream *sub_st;
 919             // priv_data cannot be shared between streams
 920             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 921             if (!sub_pes)
 922                 return AVERROR(ENOMEM);
 923             memcpy(sub_pes, pes, sizeof(*sub_pes));
 924
 925             sub_st = avformat_new_stream(pes->stream, NULL);
 926             if (!sub_st) {
 927                 av_free(sub_pes);
 928                 return AVERROR(ENOMEM);
 929             }
 930
 931             sub_st->id = pes->pid;
 932             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 933             sub_st->priv_data         = sub_pes;
 934             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 935             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 936             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 937             sub_pes->sub_st           = pes->sub_st = sub_st;
 938         }
 939     }
 940     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 941         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 942     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 943         st->codecpar->codec_id  = old_codec_id;
 944         st->codecpar->codec_type = old_codec_type;
 945     }
 946     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 947             (st->internal->request_probe > 0 && st->internal->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 948         st->probe_packets > 0 &&
 949         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 950         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 951         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 952         st->internal->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 953     }
 954
 955     /* queue a context update if properties changed */
 956     if (old_codec_type != st->codecpar->codec_type ||
 957         old_codec_id   != st->codecpar->codec_id   ||
 958         old_codec_tag  != st->codecpar->codec_tag)
 959         st->internal->need_context_update = 1;
 960
 961     return 0;
 962 }
 963
 964 static void reset_pes_packet_state(PESContext *pes)
 965 {
 966     pes->pts        = AV_NOPTS_VALUE;
 967     pes->dts        = AV_NOPTS_VALUE;
 968     pes->data_index = 0;
 969     pes->flags      = 0;
 970     av_buffer_unref(&pes->buffer);
 971 }
 972
 973 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
 974 {
 975     av_init_packet(pkt);
 976     pkt->data = (uint8_t *)buffer;
 977     pkt->size = len;
 978 }
 979
 980 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 981 {
 982     uint8_t *sd;
 983
 984     av_init_packet(pkt);
 985
 986     pkt->buf  = pes->buffer;
 987     pkt->data = pes->buffer->data;
 988     pkt->size = pes->data_index;
 989
 990     if (pes->total_size != MAX_PES_PAYLOAD &&
 991         pes->pes_header_size + pes->data_index != pes->total_size +
 992         PES_START_SIZE) {
 993         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
 994         pes->flags |= AV_PKT_FLAG_CORRUPT;
 995     }
 996     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 997
 998     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
 999     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
1000         pkt->stream_index = pes->sub_st->index;
1001     else
1002         pkt->stream_index = pes->st->index;
1003     pkt->pts = pes->pts;
1004     pkt->dts = pes->dts;
1005     /* store position of first TS packet of this PES packet */
1006     pkt->pos   = pes->ts_packet_pos;
1007     pkt->flags = pes->flags;
1008
1009     pes->buffer = NULL;
1010     reset_pes_packet_state(pes);
1011
1012     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
1013     if (!sd)
1014         return AVERROR(ENOMEM);
1015     *sd = pes->stream_id;
1016
1017     return 0;
1018 }
1019
1020 static uint64_t get_ts64(GetBitContext *gb, int bits)
1021 {
1022     if (get_bits_left(gb) < bits)
1023         return AV_NOPTS_VALUE;
1024     return get_bits64(gb, bits);
1025 }
1026
1027 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
1028                           const uint8_t *buf, int buf_size)
1029 {
1030     GetBitContext gb;
1031     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
1032     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
1033     int dts_flag = -1, cts_flag = -1;
1034     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
1035     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
1036     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
1037
1038     memcpy(buf_padded, buf, buf_padded_size);
1039
1040     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
1041
1042     if (sl->use_au_start)
1043         au_start_flag = get_bits1(&gb);
1044     if (sl->use_au_end)
1045         au_end_flag = get_bits1(&gb);
1046     if (!sl->use_au_start && !sl->use_au_end)
1047         au_start_flag = au_end_flag = 1;
1048     if (sl->ocr_len > 0)
1049         ocr_flag = get_bits1(&gb);
1050     if (sl->use_idle)
1051         idle_flag = get_bits1(&gb);
1052     if (sl->use_padding)
1053         padding_flag = get_bits1(&gb);
1054     if (padding_flag)
1055         padding_bits = get_bits(&gb, 3);
1056
1057     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
1058         if (sl->packet_seq_num_len)
1059             skip_bits_long(&gb, sl->packet_seq_num_len);
1060         if (sl->degr_prior_len)
1061             if (get_bits1(&gb))
1062                 skip_bits(&gb, sl->degr_prior_len);
1063         if (ocr_flag)
1064             skip_bits_long(&gb, sl->ocr_len);
1065         if (au_start_flag) {
1066             if (sl->use_rand_acc_pt)
1067                 get_bits1(&gb);
1068             if (sl->au_seq_num_len > 0)
1069                 skip_bits_long(&gb, sl->au_seq_num_len);
1070             if (sl->use_timestamps) {
1071                 dts_flag = get_bits1(&gb);
1072                 cts_flag = get_bits1(&gb);
1073             }
1074         }
1075         if (sl->inst_bitrate_len)
1076             inst_bitrate_flag = get_bits1(&gb);
1077         if (dts_flag == 1)
1078             dts = get_ts64(&gb, sl->timestamp_len);
1079         if (cts_flag == 1)
1080             cts = get_ts64(&gb, sl->timestamp_len);
1081         if (sl->au_len > 0)
1082             skip_bits_long(&gb, sl->au_len);
1083         if (inst_bitrate_flag)
1084             skip_bits_long(&gb, sl->inst_bitrate_len);
1085     }
1086
1087     if (dts != AV_NOPTS_VALUE)
1088         pes->dts = dts;
1089     if (cts != AV_NOPTS_VALUE)
1090         pes->pts = cts;
1091
1092     if (sl->timestamp_len && sl->timestamp_res)
1093         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1094
1095     return (get_bits_count(&gb) + 7) >> 3;
1096 }
1097
1098 static AVBufferRef *buffer_pool_get(MpegTSContext *ts, int size)
1099 {
1100     int index = av_log2(size + AV_INPUT_BUFFER_PADDING_SIZE);
1101     if (!ts->pools[index]) {
1102         int pool_size = FFMIN(MAX_PES_PAYLOAD + AV_INPUT_BUFFER_PADDING_SIZE, 2 << index);
1103         ts->pools[index] = av_buffer_pool_init(pool_size, NULL);
1104         if (!ts->pools[index])
1105             return NULL;
1106     }
1107     return av_buffer_pool_get(ts->pools[index]);
1108 }
1109
1110 /* return non zero if a packet could be constructed */
1111 static int mpegts_push_data(MpegTSFilter *filter,
1112                             const uint8_t *buf, int buf_size, int is_start,
1113                             int64_t pos)
1114 {
1115     PESContext *pes   = filter->u.pes_filter.opaque;
1116     MpegTSContext *ts = pes->ts;
1117     const uint8_t *p;
1118     int ret, len, code;
1119
1120     if (!ts->pkt)
1121         return 0;
1122
1123     if (is_start) {
1124         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1125             ret = new_pes_packet(pes, ts->pkt);
1126             if (ret < 0)
1127                 return ret;
1128             ts->stop_parse = 1;
1129         } else {
1130             reset_pes_packet_state(pes);
1131         }
1132         pes->state         = MPEGTS_HEADER;
1133         pes->ts_packet_pos = pos;
1134     }
1135     p = buf;
1136     while (buf_size > 0) {
1137         switch (pes->state) {
1138         case MPEGTS_HEADER:
1139             len = PES_START_SIZE - pes->data_index;
1140             if (len > buf_size)
1141                 len = buf_size;
1142             memcpy(pes->header + pes->data_index, p, len);
1143             pes->data_index += len;
1144             p += len;
1145             buf_size -= len;
1146             if (pes->data_index == PES_START_SIZE) {
1147                 /* we got all the PES or section header. We can now
1148                  * decide */
1149                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1150                     pes->header[2] == 0x01) {
1151                     /* it must be an MPEG-2 PES stream */
1152                     code = pes->header[3] | 0x100;
1153                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1154                             code);
1155                     pes->stream_id = pes->header[3];
1156
1157                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1158                          (!pes->sub_st ||
1159                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1160                         code == 0x1be) /* padding_stream */
1161                         goto skip;
1162
1163                     /* stream not present in PMT */
1164                     if (!pes->st) {
1165                         if (ts->skip_changes)
1166                             goto skip;
1167                         if (ts->merge_pmt_versions)
1168                             goto skip; /* wait for PMT to merge new stream */
1169
1170                         pes->st = avformat_new_stream(ts->stream, NULL);
1171                         if (!pes->st)
1172                             return AVERROR(ENOMEM);
1173                         pes->st->id = pes->pid;
1174                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1175                     }
1176
1177                     pes->total_size = AV_RB16(pes->header + 4);
1178                     /* NOTE: a zero total size means the PES size is
1179                      * unbounded */
1180                     if (!pes->total_size)
1181                         pes->total_size = MAX_PES_PAYLOAD;
1182
1183                     /* allocate pes buffer */
1184                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1185                     if (!pes->buffer)
1186                         return AVERROR(ENOMEM);
1187
1188                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1189                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1190                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1191                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1192                         pes->state = MPEGTS_PESHEADER;
1193                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->internal->request_probe) {
1194                             av_log(pes->stream, AV_LOG_TRACE,
1195                                     "pid=%x stream_type=%x probing\n",
1196                                     pes->pid,
1197                                     pes->stream_type);
1198                             pes->st->internal->request_probe = 1;
1199                         }
1200                     } else {
1201                         pes->pes_header_size = 6;
1202                         pes->state      = MPEGTS_PAYLOAD;
1203                         pes->data_index = 0;
1204                     }
1205                 } else {
1206                     /* otherwise, it should be a table */
1207                     /* skip packet */
1208 skip:
1209                     pes->state = MPEGTS_SKIP;
1210                     continue;
1211                 }
1212             }
1213             break;
1214         /**********************************************/
1215         /* PES packing parsing */
1216         case MPEGTS_PESHEADER:
1217             len = PES_HEADER_SIZE - pes->data_index;
1218             if (len < 0)
1219                 return AVERROR_INVALIDDATA;
1220             if (len > buf_size)
1221                 len = buf_size;
1222             memcpy(pes->header + pes->data_index, p, len);
1223             pes->data_index += len;
1224             p += len;
1225             buf_size -= len;
1226             if (pes->data_index == PES_HEADER_SIZE) {
1227                 pes->pes_header_size = pes->header[8] + 9;
1228                 pes->state           = MPEGTS_PESHEADER_FILL;
1229             }
1230             break;
1231         case MPEGTS_PESHEADER_FILL:
1232             len = pes->pes_header_size - pes->data_index;
1233             if (len < 0)
1234                 return AVERROR_INVALIDDATA;
1235             if (len > buf_size)
1236                 len = buf_size;
1237             memcpy(pes->header + pes->data_index, p, len);
1238             pes->data_index += len;
1239             p += len;
1240             buf_size -= len;
1241             if (pes->data_index == pes->pes_header_size) {
1242                 const uint8_t *r;
1243                 unsigned int flags, pes_ext, skip;
1244
1245                 flags = pes->header[7];
1246                 r = pes->header + 9;
1247                 pes->pts = AV_NOPTS_VALUE;
1248                 pes->dts = AV_NOPTS_VALUE;
1249                 if ((flags & 0xc0) == 0x80) {
1250                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1251                     r += 5;
1252                 } else if ((flags & 0xc0) == 0xc0) {
1253                     pes->pts = ff_parse_pes_pts(r);
1254                     r += 5;
1255                     pes->dts = ff_parse_pes_pts(r);
1256                     r += 5;
1257                 }
1258                 pes->extended_stream_id = -1;
1259                 if (flags & 0x01) { /* PES extension */
1260                     pes_ext = *r++;
1261                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1262                     skip  = (pes_ext >> 4) & 0xb;
1263                     skip += skip & 0x9;
1264                     r    += skip;
1265                     if ((pes_ext & 0x41) == 0x01 &&
1266                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1267                         /* PES extension 2 */
1268                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1269                             pes->extended_stream_id = r[1];
1270                     }
1271                 }
1272
1273                 /* we got the full header. We parse it and get the payload */
1274                 pes->state = MPEGTS_PAYLOAD;
1275                 pes->data_index = 0;
1276                 if (pes->stream_type == 0x12 && buf_size > 0) {
1277                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1278                                                          buf_size);
1279                     pes->pes_header_size += sl_header_bytes;
1280                     p += sl_header_bytes;
1281                     buf_size -= sl_header_bytes;
1282                 }
1283                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1284                     /* skip metadata access unit header */
1285                     pes->pes_header_size += 5;
1286                     p += 5;
1287                     buf_size -= 5;
1288                 }
1289                 if (   pes->ts->fix_teletext_pts
1290                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1291                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1292                     ) {
1293                     AVProgram *p = NULL;
1294                     int pcr_found = 0;
1295                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1296                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1297                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1298                             if (f) {
1299                                 AVStream *st = NULL;
1300                                 if (f->type == MPEGTS_PES) {
1301                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1302                                     if (pcrpes)
1303                                         st = pcrpes->st;
1304                                 } else if (f->type == MPEGTS_PCR) {
1305                                     int i;
1306                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1307                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1308                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1309                                             st = pst;
1310                                     }
1311                                 }
1312                                 if (f->last_pcr != -1 && !f->discard) {
1313                                     // teletext packets do not always have correct timestamps,
1314                                     // the standard says they should be handled after 40.6 ms at most,
1315                                     // and the pcr error to this packet should be no more than 100 ms.
1316                                     // TODO: we should interpolate the PCR, not just use the last one
1317                                     int64_t pcr = f->last_pcr / 300;
1318                                     pcr_found = 1;
1319                                     if (st) {
1320                                         pes->st->internal->pts_wrap_reference = st->internal->pts_wrap_reference;
1321                                         pes->st->internal->pts_wrap_behavior = st->internal->pts_wrap_behavior;
1322                                     }
1323                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1324                                         pes->pts = pes->dts = pcr;
1325                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1326                                                pes->dts > pcr + 3654 + 9000) {
1327                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1328                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1329                                                pes->dts > pcr + 10*90000) { //10sec
1330                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1331                                     }
1332                                     break;
1333                                 }
1334                             }
1335                         }
1336                     }
1337
1338                     if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1339                         !pcr_found) {
1340                         av_log(pes->stream, AV_LOG_VERBOSE,
1341                                "Forcing DTS/PTS to be unset for a "
1342                                "non-trustworthy PES packet for PID %d as "
1343                                "PCR hasn't been received yet.\n",
1344                                pes->pid);
1345                         pes->dts = pes->pts = AV_NOPTS_VALUE;
1346                     }
1347                 }
1348             }
1349             break;
1350         case MPEGTS_PAYLOAD:
1351             if (pes->buffer) {
1352                 if (pes->data_index > 0 &&
1353                     pes->data_index + buf_size > pes->total_size) {
1354                     ret = new_pes_packet(pes, ts->pkt);
1355                     if (ret < 0)
1356                         return ret;
1357                     pes->total_size = MAX_PES_PAYLOAD;
1358                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1359                     if (!pes->buffer)
1360                         return AVERROR(ENOMEM);
1361                     ts->stop_parse = 1;
1362                 } else if (pes->data_index == 0 &&
1363                            buf_size > pes->total_size) {
1364                     // pes packet size is < ts size packet and pes data is padded with 0xff
1365                     // not sure if this is legal in ts but see issue #2392
1366                     buf_size = pes->total_size;
1367                 }
1368                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1369                 pes->data_index += buf_size;
1370                 /* emit complete packets with known packet size
1371                  * decreases demuxer delay for infrequent packets like subtitles from
1372                  * a couple of seconds to milliseconds for properly muxed files.
1373                  * total_size is the number of bytes following pes_packet_length
1374                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1375                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1376                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1377                     ts->stop_parse = 1;
1378                     ret = new_pes_packet(pes, ts->pkt);
1379                     if (ret < 0)
1380                         return ret;
1381                 }
1382             }
1383             buf_size = 0;
1384             break;
1385         case MPEGTS_SKIP:
1386             buf_size = 0;
1387             break;
1388         }
1389     }
1390
1391     return 0;
1392 }
1393
1394 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1395 {
1396     MpegTSFilter *tss;
1397     PESContext *pes;
1398
1399     /* if no pid found, then add a pid context */
1400     pes = av_mallocz(sizeof(PESContext));
1401     if (!pes)
1402         return 0;
1403     pes->ts      = ts;
1404     pes->stream  = ts->stream;
1405     pes->pid     = pid;
1406     pes->pcr_pid = pcr_pid;
1407     pes->state   = MPEGTS_SKIP;
1408     pes->pts     = AV_NOPTS_VALUE;
1409     pes->dts     = AV_NOPTS_VALUE;
1410     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1411     if (!tss) {
1412         av_free(pes);
1413         return 0;
1414     }
1415     return pes;
1416 }
1417
1418 #define MAX_LEVEL 4
1419 typedef struct MP4DescrParseContext {
1420     AVFormatContext *s;
1421     AVIOContext pb;
1422     Mp4Descr *descr;
1423     Mp4Descr *active_descr;
1424     int descr_count;
1425     int max_descr_count;
1426     int level;
1427     int predefined_SLConfigDescriptor_seen;
1428 } MP4DescrParseContext;
1429
1430 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1431                                      const uint8_t *buf, unsigned size,
1432                                      Mp4Descr *descr, int max_descr_count)
1433 {
1434     int ret;
1435     if (size > (1 << 30))
1436         return AVERROR_INVALIDDATA;
1437
1438     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1439                                  NULL, NULL, NULL, NULL)) < 0)
1440         return ret;
1441
1442     d->s               = s;
1443     d->level           = 0;
1444     d->descr_count     = 0;
1445     d->descr           = descr;
1446     d->active_descr    = NULL;
1447     d->max_descr_count = max_descr_count;
1448
1449     return 0;
1450 }
1451
1452 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1453 {
1454     int64_t new_off = avio_tell(pb);
1455     (*len) -= new_off - *off;
1456     *off    = new_off;
1457 }
1458
1459 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1460                            int target_tag);
1461
1462 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1463 {
1464     while (len > 0) {
1465         int ret = parse_mp4_descr(d, off, len, 0);
1466         if (ret < 0)
1467             return ret;
1468         update_offsets(&d->pb, &off, &len);
1469     }
1470     return 0;
1471 }
1472
1473 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1474 {
1475     avio_rb16(&d->pb); // ID
1476     avio_r8(&d->pb);
1477     avio_r8(&d->pb);
1478     avio_r8(&d->pb);
1479     avio_r8(&d->pb);
1480     avio_r8(&d->pb);
1481     update_offsets(&d->pb, &off, &len);
1482     return parse_mp4_descr_arr(d, off, len);
1483 }
1484
1485 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1486 {
1487     int id_flags;
1488     if (len < 2)
1489         return 0;
1490     id_flags = avio_rb16(&d->pb);
1491     if (!(id_flags & 0x0020)) { // URL_Flag
1492         update_offsets(&d->pb, &off, &len);
1493         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1494     } else {
1495         return 0;
1496     }
1497 }
1498
1499 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1500 {
1501     int es_id = 0;
1502     int ret   = 0;
1503
1504     if (d->descr_count >= d->max_descr_count)
1505         return AVERROR_INVALIDDATA;
1506     ff_mp4_parse_es_descr(&d->pb, &es_id);
1507     d->active_descr = d->descr + (d->descr_count++);
1508
1509     d->active_descr->es_id = es_id;
1510     update_offsets(&d->pb, &off, &len);
1511     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1512         return ret;
1513     update_offsets(&d->pb, &off, &len);
1514     if (len > 0)
1515         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1516     d->active_descr = NULL;
1517     return ret;
1518 }
1519
1520 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1521                                       int len)
1522 {
1523     Mp4Descr *descr = d->active_descr;
1524     if (!descr)
1525         return AVERROR_INVALIDDATA;
1526     d->active_descr->dec_config_descr = av_malloc(len);
1527     if (!descr->dec_config_descr)
1528         return AVERROR(ENOMEM);
1529     descr->dec_config_descr_len = len;
1530     avio_read(&d->pb, descr->dec_config_descr, len);
1531     return 0;
1532 }
1533
1534 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1535 {
1536     Mp4Descr *descr = d->active_descr;
1537     int predefined;
1538     if (!descr)
1539         return AVERROR_INVALIDDATA;
1540
1541 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1542     descr->sl.dst = avio_r8(&d->pb);                            \
1543     if (descr->sl.dst > maxv) {                                 \
1544         descr->sl.dst = maxv;                                   \
1545         return AVERROR_INVALIDDATA;                             \
1546     }                                                           \
1547 } while (0)
1548
1549     predefined = avio_r8(&d->pb);
1550     if (!predefined) {
1551         int lengths;
1552         int flags = avio_r8(&d->pb);
1553         descr->sl.use_au_start    = !!(flags & 0x80);
1554         descr->sl.use_au_end      = !!(flags & 0x40);
1555         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1556         descr->sl.use_padding     = !!(flags & 0x08);
1557         descr->sl.use_timestamps  = !!(flags & 0x04);
1558         descr->sl.use_idle        = !!(flags & 0x02);
1559         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1560         avio_rb32(&d->pb);
1561         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1562         R8_CHECK_CLIP_MAX(ocr_len,       63);
1563         R8_CHECK_CLIP_MAX(au_len,        31);
1564         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1565         lengths                      = avio_rb16(&d->pb);
1566         descr->sl.degr_prior_len     = lengths >> 12;
1567         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1568         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1569     } else if (!d->predefined_SLConfigDescriptor_seen){
1570         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1571         d->predefined_SLConfigDescriptor_seen = 1;
1572     }
1573     return 0;
1574 }
1575
1576 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1577                            int target_tag)
1578 {
1579     int tag;
1580     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1581     int ret = 0;
1582
1583     update_offsets(&d->pb, &off, &len);
1584     if (len < 0 || len1 > len || len1 <= 0) {
1585         av_log(d->s, AV_LOG_ERROR,
1586                "Tag %x length violation new length %d bytes remaining %d\n",
1587                tag, len1, len);
1588         return AVERROR_INVALIDDATA;
1589     }
1590
1591     if (d->level++ >= MAX_LEVEL) {
1592         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1593         ret = AVERROR_INVALIDDATA;
1594         goto done;
1595     }
1596
1597     if (target_tag && tag != target_tag) {
1598         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1599                target_tag);
1600         ret = AVERROR_INVALIDDATA;
1601         goto done;
1602     }
1603
1604     switch (tag) {
1605     case MP4IODescrTag:
1606         ret = parse_MP4IODescrTag(d, off, len1);
1607         break;
1608     case MP4ODescrTag:
1609         ret = parse_MP4ODescrTag(d, off, len1);
1610         break;
1611     case MP4ESDescrTag:
1612         ret = parse_MP4ESDescrTag(d, off, len1);
1613         break;
1614     case MP4DecConfigDescrTag:
1615         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1616         break;
1617     case MP4SLDescrTag:
1618         ret = parse_MP4SLDescrTag(d, off, len1);
1619         break;
1620     }
1621
1622
1623 done:
1624     d->level--;
1625     avio_seek(&d->pb, off + len1, SEEK_SET);
1626     return ret;
1627 }
1628
1629 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1630                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1631 {
1632     MP4DescrParseContext d;
1633     int ret;
1634
1635     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1636     if (ret < 0)
1637         return ret;
1638
1639     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1640
1641     *descr_count = d.descr_count;
1642     return ret;
1643 }
1644
1645 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1646                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1647 {
1648     MP4DescrParseContext d;
1649     int ret;
1650
1651     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1652     if (ret < 0)
1653         return ret;
1654
1655     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1656
1657     *descr_count = d.descr_count;
1658     return ret;
1659 }
1660
1661 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1662                     int section_len)
1663 {
1664     MpegTSContext *ts = filter->u.section_filter.opaque;
1665     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1666     SectionHeader h;
1667     const uint8_t *p, *p_end;
1668     AVIOContext pb;
1669     int mp4_descr_count = 0;
1670     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1671     int i, pid;
1672     AVFormatContext *s = ts->stream;
1673
1674     p_end = section + section_len - 4;
1675     p = section;
1676     if (parse_section_header(&h, &p, p_end) < 0)
1677         return;
1678     if (h.tid != M4OD_TID)
1679         return;
1680     if (skip_identical(&h, tssf))
1681         return;
1682
1683     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1684                 MAX_MP4_DESCR_COUNT);
1685
1686     for (pid = 0; pid < NB_PID_MAX; pid++) {
1687         if (!ts->pids[pid])
1688             continue;
1689         for (i = 0; i < mp4_descr_count; i++) {
1690             PESContext *pes;
1691             AVStream *st;
1692             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1693                 continue;
1694             if (ts->pids[pid]->type != MPEGTS_PES) {
1695                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1696                 continue;
1697             }
1698             pes = ts->pids[pid]->u.pes_filter.opaque;
1699             st  = pes->st;
1700             if (!st)
1701                 continue;
1702
1703             pes->sl = mp4_descr[i].sl;
1704
1705             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1706                               mp4_descr[i].dec_config_descr_len, 0,
1707                               NULL, NULL, NULL, NULL);
1708             ff_mp4_read_dec_config_descr(s, st, &pb);
1709             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1710                 st->codecpar->extradata_size > 0)
1711                 st->need_parsing = 0;
1712             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1713                 st->codecpar->extradata_size > 0)
1714                 st->need_parsing = 0;
1715
1716             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1717             st->internal->need_context_update = 1;
1718         }
1719     }
1720     for (i = 0; i < mp4_descr_count; i++)
1721         av_free(mp4_descr[i].dec_config_descr);
1722 }
1723
1724 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1725                     int section_len)
1726 {
1727     AVProgram *prg = NULL;
1728     MpegTSContext *ts = filter->u.section_filter.opaque;
1729
1730     int idx = ff_find_stream_index(ts->stream, filter->pid);
1731     if (idx < 0)
1732         return;
1733
1734     /**
1735      * In case we receive an SCTE-35 packet before mpegts context is fully
1736      * initialized.
1737      */
1738     if (!ts->pkt)
1739         return;
1740
1741     new_data_packet(section, section_len, ts->pkt);
1742     ts->pkt->stream_index = idx;
1743     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1744     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1745         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1746         if (f && f->last_pcr != -1)
1747             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1748     }
1749     ts->stop_parse = 1;
1750
1751 }
1752
1753 static const uint8_t opus_coupled_stream_cnt[9] = {
1754     1, 0, 1, 1, 2, 2, 2, 3, 3
1755 };
1756
1757 static const uint8_t opus_stream_cnt[9] = {
1758     1, 1, 1, 2, 2, 3, 4, 4, 5,
1759 };
1760
1761 static const uint8_t opus_channel_map[8][8] = {
1762     { 0 },
1763     { 0,1 },
1764     { 0,2,1 },
1765     { 0,1,2,3 },
1766     { 0,4,1,2,3 },
1767     { 0,4,1,2,3,5 },
1768     { 0,4,1,2,3,5,6 },
1769     { 0,6,1,2,3,4,5,7 },
1770 };
1771
1772 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1773                               const uint8_t **pp, const uint8_t *desc_list_end,
1774                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1775                               MpegTSContext *ts)
1776 {
1777     const uint8_t *desc_end;
1778     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1779     char language[252];
1780     int i;
1781
1782     desc_tag = get8(pp, desc_list_end);
1783     if (desc_tag < 0)
1784         return AVERROR_INVALIDDATA;
1785     desc_len = get8(pp, desc_list_end);
1786     if (desc_len < 0)
1787         return AVERROR_INVALIDDATA;
1788     desc_end = *pp + desc_len;
1789     if (desc_end > desc_list_end)
1790         return AVERROR_INVALIDDATA;
1791
1792     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1793
1794     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) &&
1795         stream_type == STREAM_TYPE_PRIVATE_DATA)
1796         mpegts_find_stream_type(st, desc_tag, DESC_types);
1797
1798     switch (desc_tag) {
1799     case VIDEO_STREAM_DESCRIPTOR:
1800         if (get8(pp, desc_end) & 0x1) {
1801             st->disposition |= AV_DISPOSITION_STILL_IMAGE;
1802         }
1803         break;
1804     case SL_DESCRIPTOR:
1805         desc_es_id = get16(pp, desc_end);
1806         if (desc_es_id < 0)
1807             break;
1808         if (ts && ts->pids[pid])
1809             ts->pids[pid]->es_id = desc_es_id;
1810         for (i = 0; i < mp4_descr_count; i++)
1811             if (mp4_descr[i].dec_config_descr_len &&
1812                 mp4_descr[i].es_id == desc_es_id) {
1813                 AVIOContext pb;
1814                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1815                                   mp4_descr[i].dec_config_descr_len, 0,
1816                                   NULL, NULL, NULL, NULL);
1817                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1818                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1819                     st->codecpar->extradata_size > 0) {
1820                     st->need_parsing = 0;
1821                     st->internal->need_context_update = 1;
1822                 }
1823                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1824                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1825             }
1826         break;
1827     case FMC_DESCRIPTOR:
1828         if (get16(pp, desc_end) < 0)
1829             break;
1830         if (mp4_descr_count > 0 &&
1831             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1832              (st->internal->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1833              st->internal->request_probe > 0) &&
1834             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1835             AVIOContext pb;
1836             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1837                               mp4_descr->dec_config_descr_len, 0,
1838                               NULL, NULL, NULL, NULL);
1839             ff_mp4_read_dec_config_descr(fc, st, &pb);
1840             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1841                 st->codecpar->extradata_size > 0) {
1842                 st->internal->request_probe = st->need_parsing = 0;
1843                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1844                 st->internal->need_context_update = 1;
1845             }
1846         }
1847         break;
1848     case 0x56: /* DVB teletext descriptor */
1849         {
1850             uint8_t *extradata = NULL;
1851             int language_count = desc_len / 5, ret;
1852
1853             if (desc_len > 0 && desc_len % 5 != 0)
1854                 return AVERROR_INVALIDDATA;
1855
1856             if (language_count > 0) {
1857                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1858                 av_assert0(language_count <= sizeof(language) / 4);
1859
1860                 if (st->codecpar->extradata == NULL) {
1861                     ret = ff_alloc_extradata(st->codecpar, language_count * 2);
1862                     if (ret < 0)
1863                         return ret;
1864                 }
1865
1866                 if (st->codecpar->extradata_size < language_count * 2)
1867                     return AVERROR_INVALIDDATA;
1868
1869                 extradata = st->codecpar->extradata;
1870
1871                 for (i = 0; i < language_count; i++) {
1872                     language[i * 4 + 0] = get8(pp, desc_end);
1873                     language[i * 4 + 1] = get8(pp, desc_end);
1874                     language[i * 4 + 2] = get8(pp, desc_end);
1875                     language[i * 4 + 3] = ',';
1876
1877                     memcpy(extradata, *pp, 2);
1878                     extradata += 2;
1879
1880                     *pp += 2;
1881                 }
1882
1883                 language[i * 4 - 1] = 0;
1884                 av_dict_set(&st->metadata, "language", language, 0);
1885                 st->internal->need_context_update = 1;
1886             }
1887         }
1888         break;
1889     case 0x59: /* subtitling descriptor */
1890         {
1891             /* 8 bytes per DVB subtitle substream data:
1892              * ISO_639_language_code (3 bytes),
1893              * subtitling_type (1 byte),
1894              * composition_page_id (2 bytes),
1895              * ancillary_page_id (2 bytes) */
1896             int language_count = desc_len / 8, ret;
1897
1898             if (desc_len > 0 && desc_len % 8 != 0)
1899                 return AVERROR_INVALIDDATA;
1900
1901             if (language_count > 1) {
1902                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1903             }
1904
1905             if (language_count > 0) {
1906                 uint8_t *extradata;
1907
1908                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1909                 av_assert0(language_count <= sizeof(language) / 4);
1910
1911                 if (st->codecpar->extradata == NULL) {
1912                     ret = ff_alloc_extradata(st->codecpar, language_count * 5);
1913                     if (ret < 0)
1914                         return ret;
1915                 }
1916
1917                 if (st->codecpar->extradata_size < language_count * 5)
1918                     return AVERROR_INVALIDDATA;
1919
1920                 extradata = st->codecpar->extradata;
1921
1922                 for (i = 0; i < language_count; i++) {
1923                     language[i * 4 + 0] = get8(pp, desc_end);
1924                     language[i * 4 + 1] = get8(pp, desc_end);
1925                     language[i * 4 + 2] = get8(pp, desc_end);
1926                     language[i * 4 + 3] = ',';
1927
1928                     /* hearing impaired subtitles detection using subtitling_type */
1929                     switch (*pp[0]) {
1930                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1931                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1932                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1933                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1934                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1935                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1936                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1937                         break;
1938                     }
1939
1940                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1941                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1942                     extradata += 5;
1943
1944                     *pp += 4;
1945                 }
1946
1947                 language[i * 4 - 1] = 0;
1948                 av_dict_set(&st->metadata, "language", language, 0);
1949                 st->internal->need_context_update = 1;
1950             }
1951         }
1952         break;
1953     case ISO_639_LANGUAGE_DESCRIPTOR:
1954         for (i = 0; i + 4 <= desc_len; i += 4) {
1955             language[i + 0] = get8(pp, desc_end);
1956             language[i + 1] = get8(pp, desc_end);
1957             language[i + 2] = get8(pp, desc_end);
1958             language[i + 3] = ',';
1959             switch (get8(pp, desc_end)) {
1960             case 0x01:
1961                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1962                 break;
1963             case 0x02:
1964                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1965                 break;
1966             case 0x03:
1967                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1968                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
1969                 break;
1970             }
1971         }
1972         if (i && language[0]) {
1973             language[i - 1] = 0;
1974             /* don't overwrite language, as it may already have been set by
1975              * another, more specific descriptor (e.g. supplementary audio) */
1976             av_dict_set(&st->metadata, "language", language, AV_DICT_DONT_OVERWRITE);
1977         }
1978         break;
1979     case REGISTRATION_DESCRIPTOR:
1980         st->codecpar->codec_tag = bytestream_get_le32(pp);
1981         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1982         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) {
1983             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1984             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1985                 st->internal->request_probe = 50;
1986         }
1987         break;
1988     case 0x52: /* stream identifier descriptor */
1989         st->stream_identifier = 1 + get8(pp, desc_end);
1990         break;
1991     case METADATA_DESCRIPTOR:
1992         if (get16(pp, desc_end) == 0xFFFF)
1993             *pp += 4;
1994         if (get8(pp, desc_end) == 0xFF) {
1995             st->codecpar->codec_tag = bytestream_get_le32(pp);
1996             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
1997                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
1998         }
1999         break;
2000     case 0x7f: /* DVB extension descriptor */
2001         ext_desc_tag = get8(pp, desc_end);
2002         if (ext_desc_tag < 0)
2003             return AVERROR_INVALIDDATA;
2004         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
2005             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
2006             if (!st->codecpar->extradata) {
2007                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
2008                                                      AV_INPUT_BUFFER_PADDING_SIZE);
2009                 if (!st->codecpar->extradata)
2010                     return AVERROR(ENOMEM);
2011
2012                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
2013                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
2014
2015                 channel_config_code = get8(pp, desc_end);
2016                 if (channel_config_code < 0)
2017                     return AVERROR_INVALIDDATA;
2018                 if (channel_config_code <= 0x8) {
2019                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
2020                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
2021                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
2022                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
2023                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
2024                 } else {
2025                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
2026                 }
2027                 st->need_parsing = AVSTREAM_PARSE_FULL;
2028                 st->internal->need_context_update = 1;
2029             }
2030         }
2031         if (ext_desc_tag == 0x06) { /* supplementary audio descriptor */
2032             int flags;
2033
2034             if (desc_len < 1)
2035                 return AVERROR_INVALIDDATA;
2036             flags = get8(pp, desc_end);
2037
2038             if ((flags & 0x80) == 0) /* mix_type */
2039                 st->disposition |= AV_DISPOSITION_DEPENDENT;
2040
2041             switch ((flags >> 2) & 0x1F) { /* editorial_classification */
2042             case 0x01:
2043                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2044                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2045                 break;
2046             case 0x02:
2047                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
2048                 break;
2049             case 0x03:
2050                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2051                 break;
2052             }
2053
2054             if (flags & 0x01) { /* language_code_present */
2055                 if (desc_len < 4)
2056                     return AVERROR_INVALIDDATA;
2057                 language[0] = get8(pp, desc_end);
2058                 language[1] = get8(pp, desc_end);
2059                 language[2] = get8(pp, desc_end);
2060                 language[3] = 0;
2061
2062                 /* This language always has to override a possible
2063                  * ISO 639 language descriptor language */
2064                 if (language[0])
2065                     av_dict_set(&st->metadata, "language", language, 0);
2066             }
2067         }
2068         break;
2069     case 0x6a: /* ac-3_descriptor */
2070         {
2071             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2072             if (component_type_flag) {
2073                 int component_type = get8(pp, desc_end);
2074                 int service_type_mask = 0x38;  // 0b00111000
2075                 int service_type = ((component_type & service_type_mask) >> 3);
2076                 if (service_type == 0x02 /* 0b010 */) {
2077                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2078                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2079                 }
2080             }
2081         }
2082         break;
2083     case 0x7a: /* enhanced_ac-3_descriptor */
2084         {
2085             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2086             if (component_type_flag) {
2087                 int component_type = get8(pp, desc_end);
2088                 int service_type_mask = 0x38;  // 0b00111000
2089                 int service_type = ((component_type & service_type_mask) >> 3);
2090                 if (service_type == 0x02 /* 0b010 */) {
2091                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2092                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2093                 }
2094             }
2095         }
2096         break;
2097     case 0xfd: /* ARIB data coding type descriptor */
2098         // STD-B24, fascicle 3, chapter 4 defines private_stream_1
2099         // for captions
2100         if (stream_type == STREAM_TYPE_PRIVATE_DATA) {
2101             // This structure is defined in STD-B10, part 1, listing 5.4 and
2102             // part 2, 6.2.20).
2103             // Listing of data_component_ids is in STD-B10, part 2, Annex J.
2104             // Component tag limits are documented in TR-B14, fascicle 2,
2105             // Vol. 3, Section 2, 4.2.8.1
2106             int actual_component_tag = st->stream_identifier - 1;
2107             int picked_profile = FF_PROFILE_UNKNOWN;
2108             int data_component_id = get16(pp, desc_end);
2109             if (data_component_id < 0)
2110                 return AVERROR_INVALIDDATA;
2111
2112             switch (data_component_id) {
2113             case 0x0008:
2114                 // [0x30..0x37] are component tags utilized for
2115                 // non-mobile captioning service ("profile A").
2116                 if (actual_component_tag >= 0x30 &&
2117                     actual_component_tag <= 0x37) {
2118                     picked_profile = FF_PROFILE_ARIB_PROFILE_A;
2119                 }
2120                 break;
2121             case 0x0012:
2122                 // component tag 0x87 signifies a mobile/partial reception
2123                 // (1seg) captioning service ("profile C").
2124                 if (actual_component_tag == 0x87) {
2125                     picked_profile = FF_PROFILE_ARIB_PROFILE_C;
2126                 }
2127                 break;
2128             default:
2129                 break;
2130             }
2131
2132             if (picked_profile == FF_PROFILE_UNKNOWN)
2133                 break;
2134
2135             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2136             st->codecpar->codec_id   = AV_CODEC_ID_ARIB_CAPTION;
2137             st->codecpar->profile    = picked_profile;
2138             st->internal->request_probe        = 0;
2139         }
2140         break;
2141     case 0xb0: /* DOVI video stream descriptor */
2142         {
2143             uint32_t buf;
2144             AVDOVIDecoderConfigurationRecord *dovi;
2145             size_t dovi_size;
2146             int ret;
2147             if (desc_end - *pp < 4) // (8 + 8 + 7 + 6 + 1 + 1 + 1) / 8
2148                 return AVERROR_INVALIDDATA;
2149
2150             dovi = av_dovi_alloc(&dovi_size);
2151             if (!dovi)
2152                 return AVERROR(ENOMEM);
2153
2154             dovi->dv_version_major = get8(pp, desc_end);
2155             dovi->dv_version_minor = get8(pp, desc_end);
2156             buf = get16(pp, desc_end);
2157             dovi->dv_profile        = (buf >> 9) & 0x7f;    // 7 bits
2158             dovi->dv_level          = (buf >> 3) & 0x3f;    // 6 bits
2159             dovi->rpu_present_flag  = (buf >> 2) & 0x01;    // 1 bit
2160             dovi->el_present_flag   = (buf >> 1) & 0x01;    // 1 bit
2161             dovi->bl_present_flag   =  buf       & 0x01;    // 1 bit
2162             if (desc_end - *pp >= 20) {  // 4 + 4 * 4
2163                 buf = get8(pp, desc_end);
2164                 dovi->dv_bl_signal_compatibility_id = (buf >> 4) & 0x0f; // 4 bits
2165             } else {
2166                 // 0 stands for None
2167                 // Dolby Vision V1.2.93 profiles and levels
2168                 dovi->dv_bl_signal_compatibility_id = 0;
2169             }
2170
2171             ret = av_stream_add_side_data(st, AV_PKT_DATA_DOVI_CONF,
2172                                           (uint8_t *)dovi, dovi_size);
2173             if (ret < 0) {
2174                 av_free(dovi);
2175                 return ret;
2176             }
2177
2178             av_log(fc, AV_LOG_TRACE, "DOVI, version: %d.%d, profile: %d, level: %d, "
2179                    "rpu flag: %d, el flag: %d, bl flag: %d, compatibility id: %d\n",
2180                    dovi->dv_version_major, dovi->dv_version_minor,
2181                    dovi->dv_profile, dovi->dv_level,
2182                    dovi->rpu_present_flag,
2183                    dovi->el_present_flag,
2184                    dovi->bl_present_flag,
2185                    dovi->dv_bl_signal_compatibility_id);
2186         }
2187         break;
2188     default:
2189         break;
2190     }
2191     *pp = desc_end;
2192     return 0;
2193 }
2194
2195 static AVStream *find_matching_stream(MpegTSContext *ts, int pid, unsigned int programid,
2196                                       int stream_identifier, int pmt_stream_idx)
2197 {
2198     AVFormatContext *s = ts->stream;
2199     int i;
2200     AVStream *found = NULL;
2201
2202     for (i = 0; i < s->nb_streams; i++) {
2203         AVStream *st = s->streams[i];
2204         if (st->program_num != programid)
2205             continue;
2206         if (stream_identifier != -1) { /* match based on "stream identifier descriptor" if present */
2207             if (st->stream_identifier == stream_identifier+1) {
2208                 found = st;
2209                 break;
2210             }
2211         } else if (st->pmt_stream_idx == pmt_stream_idx) { /* match based on position within the PMT */
2212             found = st;
2213             break;
2214         }
2215     }
2216
2217     if (found) {
2218         av_log(ts->stream, AV_LOG_VERBOSE,
2219                "re-using existing %s stream %d (pid=0x%x) for new pid=0x%x\n",
2220                av_get_media_type_string(found->codecpar->codec_type),
2221                i, found->id, pid);
2222     }
2223
2224     return found;
2225 }
2226
2227 static int parse_stream_identifier_desc(const uint8_t *p, const uint8_t *p_end)
2228 {
2229     const uint8_t **pp = &p;
2230     const uint8_t *desc_list_end;
2231     const uint8_t *desc_end;
2232     int desc_list_len;
2233     int desc_len, desc_tag;
2234
2235     desc_list_len = get16(pp, p_end);
2236     if (desc_list_len < 0)
2237         return -1;
2238     desc_list_len &= 0xfff;
2239     desc_list_end  = p + desc_list_len;
2240     if (desc_list_end > p_end)
2241         return -1;
2242
2243     while (1) {
2244         desc_tag = get8(pp, desc_list_end);
2245         if (desc_tag < 0)
2246             return -1;
2247         desc_len = get8(pp, desc_list_end);
2248         if (desc_len < 0)
2249             return -1;
2250         desc_end = *pp + desc_len;
2251         if (desc_end > desc_list_end)
2252             return -1;
2253
2254         if (desc_tag == 0x52) {
2255             return get8(pp, desc_end);
2256         }
2257         *pp = desc_end;
2258     }
2259
2260     return -1;
2261 }
2262
2263 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
2264 {
2265     return !(stream_type == 0x13 ||
2266              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
2267 }
2268
2269 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2270 {
2271     MpegTSContext *ts = filter->u.section_filter.opaque;
2272     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2273     SectionHeader h1, *h = &h1;
2274     PESContext *pes;
2275     AVStream *st;
2276     const uint8_t *p, *p_end, *desc_list_end;
2277     int program_info_length, pcr_pid, pid, stream_type;
2278     int desc_list_len;
2279     uint32_t prog_reg_desc = 0; /* registration descriptor */
2280     int stream_identifier = -1;
2281     struct Program *prg;
2282
2283     int mp4_descr_count = 0;
2284     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
2285     int i;
2286
2287     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
2288     hex_dump_debug(ts->stream, section, section_len);
2289
2290     p_end = section + section_len - 4;
2291     p = section;
2292     if (parse_section_header(h, &p, p_end) < 0)
2293         return;
2294     if (h->tid != PMT_TID)
2295         return;
2296     if (skip_identical(h, tssf))
2297         return;
2298
2299     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
2300             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
2301
2302     if (!ts->scan_all_pmts && ts->skip_changes)
2303         return;
2304
2305     prg = get_program(ts, h->id);
2306
2307     if (ts->skip_unknown_pmt && !prg)
2308         return;
2309     if (prg && prg->nb_pids && prg->pids[0] != ts->current_pid)
2310         return;
2311     if (!ts->skip_clear)
2312         clear_avprogram(ts, h->id);
2313     clear_program(prg);
2314     add_pid_to_program(prg, ts->current_pid);
2315
2316     pcr_pid = get16(&p, p_end);
2317     if (pcr_pid < 0)
2318         return;
2319     pcr_pid &= 0x1fff;
2320     add_pid_to_program(prg, pcr_pid);
2321     update_av_program_info(ts->stream, h->id, pcr_pid, h->version);
2322
2323     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
2324
2325     program_info_length = get16(&p, p_end);
2326     if (program_info_length < 0)
2327         return;
2328     program_info_length &= 0xfff;
2329     while (program_info_length >= 2) {
2330         uint8_t tag, len;
2331         tag = get8(&p, p_end);
2332         len = get8(&p, p_end);
2333
2334         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
2335
2336         if (len > program_info_length - 2)
2337             // something else is broken, exit the program_descriptors_loop
2338             break;
2339         program_info_length -= len + 2;
2340         if (tag == IOD_DESCRIPTOR) {
2341             get8(&p, p_end); // scope
2342             get8(&p, p_end); // label
2343             len -= 2;
2344             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
2345                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
2346         } else if (tag == REGISTRATION_DESCRIPTOR && len >= 4) {
2347             prog_reg_desc = bytestream_get_le32(&p);
2348             len -= 4;
2349         }
2350         p += len;
2351     }
2352     p += program_info_length;
2353     if (p >= p_end)
2354         goto out;
2355
2356     // stop parsing after pmt, we found header
2357     if (!ts->pkt)
2358         ts->stop_parse = 2;
2359
2360     if (prg)
2361         prg->pmt_found = 1;
2362
2363     for (i = 0; ; i++) {
2364         st = 0;
2365         pes = NULL;
2366         stream_type = get8(&p, p_end);
2367         if (stream_type < 0)
2368             break;
2369         pid = get16(&p, p_end);
2370         if (pid < 0)
2371             goto out;
2372         pid &= 0x1fff;
2373         if (pid == ts->current_pid)
2374             goto out;
2375
2376         if (ts->merge_pmt_versions)
2377             stream_identifier = parse_stream_identifier_desc(p, p_end);
2378
2379         /* now create stream */
2380         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2381             pes = ts->pids[pid]->u.pes_filter.opaque;
2382             if (ts->merge_pmt_versions && !pes->st) {
2383                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2384                 if (st) {
2385                     pes->st = st;
2386                     pes->stream_type = stream_type;
2387                     pes->merged_st = 1;
2388                 }
2389             }
2390             if (!pes->st) {
2391                 pes->st = avformat_new_stream(pes->stream, NULL);
2392                 if (!pes->st)
2393                     goto out;
2394                 pes->st->id = pes->pid;
2395                 pes->st->program_num = h->id;
2396                 pes->st->pmt_version = h->version;
2397                 pes->st->pmt_stream_idx = i;
2398             }
2399             st = pes->st;
2400         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2401             if (ts->pids[pid])
2402                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2403             pes = add_pes_stream(ts, pid, pcr_pid);
2404             if (ts->merge_pmt_versions && pes && !pes->st) {
2405                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2406                 if (st) {
2407                     pes->st = st;
2408                     pes->stream_type = stream_type;
2409                     pes->merged_st = 1;
2410                 }
2411             }
2412             if (pes && !pes->st) {
2413                 st = avformat_new_stream(pes->stream, NULL);
2414                 if (!st)
2415                     goto out;
2416                 st->id = pes->pid;
2417                 st->program_num = h->id;
2418                 st->pmt_version = h->version;
2419                 st->pmt_stream_idx = i;
2420             }
2421         } else {
2422             int idx = ff_find_stream_index(ts->stream, pid);
2423             if (idx >= 0) {
2424                 st = ts->stream->streams[idx];
2425             }
2426             if (ts->merge_pmt_versions && !st) {
2427                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2428             }
2429             if (!st) {
2430                 st = avformat_new_stream(ts->stream, NULL);
2431                 if (!st)
2432                     goto out;
2433                 st->id = pid;
2434                 st->program_num = h->id;
2435                 st->pmt_version = h->version;
2436                 st->pmt_stream_idx = i;
2437                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2438                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2439                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2440                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2441                 }
2442             }
2443         }
2444
2445         if (!st)
2446             goto out;
2447
2448         if (pes && !pes->stream_type)
2449             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2450
2451         add_pid_to_program(prg, pid);
2452
2453         av_program_add_stream_index(ts->stream, h->id, st->index);
2454
2455         desc_list_len = get16(&p, p_end);
2456         if (desc_list_len < 0)
2457             goto out;
2458         desc_list_len &= 0xfff;
2459         desc_list_end  = p + desc_list_len;
2460         if (desc_list_end > p_end)
2461             goto out;
2462         for (;;) {
2463             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2464                                           desc_list_end, mp4_descr,
2465                                           mp4_descr_count, pid, ts) < 0)
2466                 break;
2467
2468             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2469                 stream_type == 0x83 && pes->sub_st) {
2470                 av_program_add_stream_index(ts->stream, h->id,
2471                                             pes->sub_st->index);
2472                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2473             }
2474         }
2475         p = desc_list_end;
2476     }
2477
2478     if (!ts->pids[pcr_pid])
2479         mpegts_open_pcr_filter(ts, pcr_pid);
2480
2481 out:
2482     for (i = 0; i < mp4_descr_count; i++)
2483         av_free(mp4_descr[i].dec_config_descr);
2484 }
2485
2486 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2487 {
2488     MpegTSContext *ts = filter->u.section_filter.opaque;
2489     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2490     SectionHeader h1, *h = &h1;
2491     const uint8_t *p, *p_end;
2492     int sid, pmt_pid;
2493     int nb_prg = 0;
2494     AVProgram *program;
2495
2496     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2497     hex_dump_debug(ts->stream, section, section_len);
2498
2499     p_end = section + section_len - 4;
2500     p     = section;
2501     if (parse_section_header(h, &p, p_end) < 0)
2502         return;
2503     if (h->tid != PAT_TID)
2504         return;
2505     if (ts->skip_changes)
2506         return;
2507
2508     if (skip_identical(h, tssf))
2509         return;
2510     ts->stream->ts_id = h->id;
2511
2512     for (;;) {
2513         sid = get16(&p, p_end);
2514         if (sid < 0)
2515             break;
2516         pmt_pid = get16(&p, p_end);
2517         if (pmt_pid < 0)
2518             break;
2519         pmt_pid &= 0x1fff;
2520
2521         if (pmt_pid == ts->current_pid)
2522             break;
2523
2524         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2525
2526         if (sid == 0x0000) {
2527             /* NIT info */
2528         } else {
2529             MpegTSFilter *fil = ts->pids[pmt_pid];
2530             struct Program *prg;
2531             program = av_new_program(ts->stream, sid);
2532             if (program) {
2533                 program->program_num = sid;
2534                 program->pmt_pid = pmt_pid;
2535             }
2536             if (fil)
2537                 if (   fil->type != MPEGTS_SECTION
2538                     || fil->pid != pmt_pid
2539                     || fil->u.section_filter.section_cb != pmt_cb)
2540                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2541
2542             if (!ts->pids[pmt_pid])
2543                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2544             prg = add_program(ts, sid);
2545             if (prg) {
2546                 unsigned prg_idx = prg - ts->prg;
2547                 if (prg->nb_pids && prg->pids[0] != pmt_pid)
2548                     clear_program(prg);
2549                 add_pid_to_program(prg, pmt_pid);
2550                 if (prg_idx > nb_prg)
2551                     FFSWAP(struct Program, ts->prg[nb_prg], ts->prg[prg_idx]);
2552                 if (prg_idx >= nb_prg)
2553                     nb_prg++;
2554             }
2555         }
2556     }
2557     ts->nb_prg = nb_prg;
2558
2559     if (sid < 0) {
2560         int i,j;
2561         for (j=0; j<ts->stream->nb_programs; j++) {
2562             for (i = 0; i < ts->nb_prg; i++)
2563                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2564                     break;
2565             if (i==ts->nb_prg && !ts->skip_clear)
2566                 clear_avprogram(ts, ts->stream->programs[j]->id);
2567         }
2568     }
2569 }
2570
2571 static void eit_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2572 {
2573     MpegTSContext *ts = filter->u.section_filter.opaque;
2574     const uint8_t *p, *p_end;
2575     SectionHeader h1, *h = &h1;
2576
2577     /*
2578      * Sometimes we receive EPG packets but SDT table do not have
2579      * eit_pres_following or eit_sched turned on, so we open EPG
2580      * stream directly here.
2581      */
2582     if (!ts->epg_stream) {
2583         ts->epg_stream = avformat_new_stream(ts->stream, NULL);
2584         if (!ts->epg_stream)
2585             return;
2586         ts->epg_stream->id = EIT_PID;
2587         ts->epg_stream->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2588         ts->epg_stream->codecpar->codec_id = AV_CODEC_ID_EPG;
2589     }
2590
2591     if (ts->epg_stream->discard == AVDISCARD_ALL)
2592         return;
2593
2594     p_end = section + section_len - 4;
2595     p     = section;
2596
2597     if (parse_section_header(h, &p, p_end) < 0)
2598         return;
2599     if (h->tid < EIT_TID || h->tid > OEITS_END_TID)
2600         return;
2601
2602     av_log(ts->stream, AV_LOG_TRACE, "EIT: tid received = %.02x\n", h->tid);
2603
2604     /**
2605      * Service_id 0xFFFF is reserved, it indicates that the current EIT table
2606      * is scrambled.
2607      */
2608     if (h->id == 0xFFFF) {
2609         av_log(ts->stream, AV_LOG_TRACE, "Scrambled EIT table received.\n");
2610         return;
2611     }
2612
2613     /**
2614      * In case we receive an EPG packet before mpegts context is fully
2615      * initialized.
2616      */
2617     if (!ts->pkt)
2618         return;
2619
2620     new_data_packet(section, section_len, ts->pkt);
2621     ts->pkt->stream_index = ts->epg_stream->index;
2622     ts->stop_parse = 1;
2623 }
2624
2625 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2626 {
2627     MpegTSContext *ts = filter->u.section_filter.opaque;
2628     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2629     SectionHeader h1, *h = &h1;
2630     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2631     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2632     char *name, *provider_name;
2633
2634     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2635     hex_dump_debug(ts->stream, section, section_len);
2636
2637     p_end = section + section_len - 4;
2638     p     = section;
2639     if (parse_section_header(h, &p, p_end) < 0)
2640         return;
2641     if (h->tid != SDT_TID)
2642         return;
2643     if (ts->skip_changes)
2644         return;
2645     if (skip_identical(h, tssf))
2646         return;
2647
2648     onid = get16(&p, p_end);
2649     if (onid < 0)
2650         return;
2651     val = get8(&p, p_end);
2652     if (val < 0)
2653         return;
2654     for (;;) {
2655         sid = get16(&p, p_end);
2656         if (sid < 0)
2657             break;
2658         val = get8(&p, p_end);
2659         if (val < 0)
2660             break;
2661         desc_list_len = get16(&p, p_end);
2662         if (desc_list_len < 0)
2663             break;
2664         desc_list_len &= 0xfff;
2665         desc_list_end  = p + desc_list_len;
2666         if (desc_list_end > p_end)
2667             break;
2668         for (;;) {
2669             desc_tag = get8(&p, desc_list_end);
2670             if (desc_tag < 0)
2671                 break;
2672             desc_len = get8(&p, desc_list_end);
2673             desc_end = p + desc_len;
2674             if (desc_len < 0 || desc_end > desc_list_end)
2675                 break;
2676
2677             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2678                     desc_tag, desc_len);
2679
2680             switch (desc_tag) {
2681             case 0x48:
2682                 service_type = get8(&p, p_end);
2683                 if (service_type < 0)
2684                     break;
2685                 provider_name = getstr8(&p, p_end);
2686                 if (!provider_name)
2687                     break;
2688                 name = getstr8(&p, p_end);
2689                 if (name) {
2690                     AVProgram *program = av_new_program(ts->stream, sid);
2691                     if (program) {
2692                         av_dict_set(&program->metadata, "service_name", name, 0);
2693                         av_dict_set(&program->metadata, "service_provider",
2694                                     provider_name, 0);
2695                     }
2696                 }
2697                 av_free(name);
2698                 av_free(provider_name);
2699                 break;
2700             default:
2701                 break;
2702             }
2703             p = desc_end;
2704         }
2705         p = desc_list_end;
2706     }
2707 }
2708
2709 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2710                      const uint8_t *packet);
2711
2712 /* handle one TS packet */
2713 static int handle_packet(MpegTSContext *ts, const uint8_t *packet, int64_t pos)
2714 {
2715     MpegTSFilter *tss;
2716     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2717         has_adaptation, has_payload;
2718     const uint8_t *p, *p_end;
2719
2720     pid = AV_RB16(packet + 1) & 0x1fff;
2721     is_start = packet[1] & 0x40;
2722     tss = ts->pids[pid];
2723     if (ts->auto_guess && !tss && is_start) {
2724         add_pes_stream(ts, pid, -1);
2725         tss = ts->pids[pid];
2726     }
2727     if (!tss)
2728         return 0;
2729     if (is_start)
2730         tss->discard = discard_pid(ts, pid);
2731     if (tss->discard)
2732         return 0;
2733     ts->current_pid = pid;
2734
2735     afc = (packet[3] >> 4) & 3;
2736     if (afc == 0) /* reserved value */
2737         return 0;
2738     has_adaptation   = afc & 2;
2739     has_payload      = afc & 1;
2740     is_discontinuity = has_adaptation &&
2741                        packet[4] != 0 && /* with length > 0 */
2742                        (packet[5] & 0x80); /* and discontinuity indicated */
2743
2744     /* continuity check (currently not used) */
2745     cc = (packet[3] & 0xf);
2746     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2747     cc_ok = pid == 0x1FFF || // null packet PID
2748             is_discontinuity ||
2749             tss->last_cc < 0 ||
2750             expected_cc == cc;
2751
2752     tss->last_cc = cc;
2753     if (!cc_ok) {
2754         av_log(ts->stream, AV_LOG_DEBUG,
2755                "Continuity check failed for pid %d expected %d got %d\n",
2756                pid, expected_cc, cc);
2757         if (tss->type == MPEGTS_PES) {
2758             PESContext *pc = tss->u.pes_filter.opaque;
2759             pc->flags |= AV_PKT_FLAG_CORRUPT;
2760         }
2761     }
2762
2763     if (packet[1] & 0x80) {
2764         av_log(ts->stream, AV_LOG_DEBUG, "Packet had TEI flag set; marking as corrupt\n");
2765         if (tss->type == MPEGTS_PES) {
2766             PESContext *pc = tss->u.pes_filter.opaque;
2767             pc->flags |= AV_PKT_FLAG_CORRUPT;
2768         }
2769     }
2770
2771     p = packet + 4;
2772     if (has_adaptation) {
2773         int64_t pcr_h;
2774         int pcr_l;
2775         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2776             tss->last_pcr = pcr_h * 300 + pcr_l;
2777         /* skip adaptation field */
2778         p += p[0] + 1;
2779     }
2780     /* if past the end of packet, ignore */
2781     p_end = packet + TS_PACKET_SIZE;
2782     if (p >= p_end || !has_payload)
2783         return 0;
2784
2785     if (pos >= 0) {
2786         av_assert0(pos >= TS_PACKET_SIZE);
2787         ts->pos47_full = pos - TS_PACKET_SIZE;
2788     }
2789
2790     if (tss->type == MPEGTS_SECTION) {
2791         if (is_start) {
2792             /* pointer field present */
2793             len = *p++;
2794             if (len > p_end - p)
2795                 return 0;
2796             if (len && cc_ok) {
2797                 /* write remaining section bytes */
2798                 write_section_data(ts, tss,
2799                                    p, len, 0);
2800                 /* check whether filter has been closed */
2801                 if (!ts->pids[pid])
2802                     return 0;
2803             }
2804             p += len;
2805             if (p < p_end) {
2806                 write_section_data(ts, tss,
2807                                    p, p_end - p, 1);
2808             }
2809         } else {
2810             if (cc_ok) {
2811                 write_section_data(ts, tss,
2812                                    p, p_end - p, 0);
2813             }
2814         }
2815
2816         // stop find_stream_info from waiting for more streams
2817         // when all programs have received a PMT
2818         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2819             int i;
2820             for (i = 0; i < ts->nb_prg; i++) {
2821                 if (!ts->prg[i].pmt_found)
2822                     break;
2823             }
2824             if (i == ts->nb_prg && ts->nb_prg > 0) {
2825                 int types = 0;
2826                 for (i = 0; i < ts->stream->nb_streams; i++) {
2827                     AVStream *st = ts->stream->streams[i];
2828                     if (st->codecpar->codec_type >= 0)
2829                         types |= 1<<st->codecpar->codec_type;
2830                 }
2831                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2832                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2833                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2834                 }
2835             }
2836         }
2837
2838     } else {
2839         int ret;
2840         // Note: The position here points actually behind the current packet.
2841         if (tss->type == MPEGTS_PES) {
2842             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2843                                                 pos - ts->raw_packet_size)) < 0)
2844                 return ret;
2845         }
2846     }
2847
2848     return 0;
2849 }
2850
2851 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2852 {
2853     MpegTSContext *ts = s->priv_data;
2854     AVIOContext *pb = s->pb;
2855     int c, i;
2856     uint64_t pos = avio_tell(pb);
2857     int64_t back = FFMIN(seekback, pos);
2858
2859     //Special case for files like 01c56b0dc1.ts
2860     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2861         avio_seek(pb, 12 - back, SEEK_CUR);
2862         return 0;
2863     }
2864
2865     avio_seek(pb, -back, SEEK_CUR);
2866
2867     for (i = 0; i < ts->resync_size; i++) {
2868         c = avio_r8(pb);
2869         if (avio_feof(pb))
2870             return AVERROR_EOF;
2871         if (c == 0x47) {
2872             int new_packet_size, ret;
2873             avio_seek(pb, -1, SEEK_CUR);
2874             pos = avio_tell(pb);
2875             ret = ffio_ensure_seekback(pb, PROBE_PACKET_MAX_BUF);
2876             if (ret < 0)
2877                 return ret;
2878             new_packet_size = get_packet_size(s);
2879             if (new_packet_size > 0 && new_packet_size != ts->raw_packet_size) {
2880                 av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", new_packet_size);
2881                 ts->raw_packet_size = new_packet_size;
2882             }
2883             avio_seek(pb, pos, SEEK_SET);
2884             return 0;
2885         }
2886     }
2887     av_log(s, AV_LOG_ERROR,
2888            "max resync size reached, could not find sync byte\n");
2889     /* no sync found */
2890     return AVERROR_INVALIDDATA;
2891 }
2892
2893 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2894 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2895                        const uint8_t **data)
2896 {
2897     AVIOContext *pb = s->pb;
2898     int len;
2899
2900     for (;;) {
2901         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2902         if (len != TS_PACKET_SIZE)
2903             return len < 0 ? len : AVERROR_EOF;
2904         /* check packet sync byte */
2905         if ((*data)[0] != 0x47) {
2906             /* find a new packet start */
2907
2908             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2909                 return AVERROR(EAGAIN);
2910             else
2911                 continue;
2912         } else {
2913             break;
2914         }
2915     }
2916     return 0;
2917 }
2918
2919 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2920 {
2921     AVIOContext *pb = s->pb;
2922     int skip = raw_packet_size - TS_PACKET_SIZE;
2923     if (skip > 0)
2924         avio_skip(pb, skip);
2925 }
2926
2927 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2928 {
2929     AVFormatContext *s = ts->stream;
2930     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2931     const uint8_t *data;
2932     int64_t packet_num;
2933     int ret = 0;
2934
2935     if (avio_tell(s->pb) != ts->last_pos) {
2936         int i;
2937         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2938         /* seek detected, flush pes buffer */
2939         for (i = 0; i < NB_PID_MAX; i++) {
2940             if (ts->pids[i]) {
2941                 if (ts->pids[i]->type == MPEGTS_PES) {
2942                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2943                     av_buffer_unref(&pes->buffer);
2944                     pes->data_index = 0;
2945                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2946                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2947                     ts->pids[i]->u.section_filter.last_ver = -1;
2948                 }
2949                 ts->pids[i]->last_cc = -1;
2950                 ts->pids[i]->last_pcr = -1;
2951             }
2952         }
2953     }
2954
2955     ts->stop_parse = 0;
2956     packet_num = 0;
2957     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2958     for (;;) {
2959         packet_num++;
2960         if (nb_packets != 0 && packet_num >= nb_packets ||
2961             ts->stop_parse > 1) {
2962             ret = AVERROR(EAGAIN);
2963             break;
2964         }
2965         if (ts->stop_parse > 0)
2966             break;
2967
2968         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2969         if (ret != 0)
2970             break;
2971         ret = handle_packet(ts, data, avio_tell(s->pb));
2972         finished_reading_packet(s, ts->raw_packet_size);
2973         if (ret != 0)
2974             break;
2975     }
2976     ts->last_pos = avio_tell(s->pb);
2977     return ret;
2978 }
2979
2980 static int mpegts_probe(const AVProbeData *p)
2981 {
2982     const int size = p->buf_size;
2983     int maxscore = 0;
2984     int sumscore = 0;
2985     int i;
2986     int check_count = size / TS_FEC_PACKET_SIZE;
2987 #define CHECK_COUNT 10
2988 #define CHECK_BLOCK 100
2989
2990     if (!check_count)
2991         return 0;
2992
2993     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2994         int left = FFMIN(check_count - i, CHECK_BLOCK);
2995         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2996         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2997         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2998         score = FFMAX3(score, dvhs_score, fec_score);
2999         sumscore += score;
3000         maxscore = FFMAX(maxscore, score);
3001     }
3002
3003     sumscore = sumscore * CHECK_COUNT / check_count;
3004     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
3005
3006     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
3007
3008     if        (check_count > CHECK_COUNT && sumscore > 6) {
3009         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
3010     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
3011         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3012     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
3013         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3014     } else if (sumscore > 6) {
3015         return 2;
3016     } else {
3017         return 0;
3018     }
3019 }
3020
3021 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
3022  * (-1) if not available */
3023 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
3024 {
3025     int afc, len, flags;
3026     const uint8_t *p;
3027     unsigned int v;
3028
3029     afc = (packet[3] >> 4) & 3;
3030     if (afc <= 1)
3031         return AVERROR_INVALIDDATA;
3032     p   = packet + 4;
3033     len = p[0];
3034     p++;
3035     if (len == 0)
3036         return AVERROR_INVALIDDATA;
3037     flags = *p++;
3038     len--;
3039     if (!(flags & 0x10))
3040         return AVERROR_INVALIDDATA;
3041     if (len < 6)
3042         return AVERROR_INVALIDDATA;
3043     v          = AV_RB32(p);
3044     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
3045     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
3046     return 0;
3047 }
3048
3049 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
3050
3051     /* NOTE: We attempt to seek on non-seekable files as well, as the
3052      * probe buffer usually is big enough. Only warn if the seek failed
3053      * on files where the seek should work. */
3054     if (avio_seek(pb, pos, SEEK_SET) < 0)
3055         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
3056 }
3057
3058 static int mpegts_read_header(AVFormatContext *s)
3059 {
3060     MpegTSContext *ts = s->priv_data;
3061     AVIOContext *pb   = s->pb;
3062     int64_t pos, probesize = s->probesize;
3063     int64_t seekback = FFMAX(s->probesize, (int64_t)ts->resync_size + PROBE_PACKET_MAX_BUF);
3064
3065     s->internal->prefer_codec_framerate = 1;
3066
3067     if (ffio_ensure_seekback(pb, seekback) < 0)
3068         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
3069
3070     pos = avio_tell(pb);
3071     ts->raw_packet_size = get_packet_size(s);
3072     if (ts->raw_packet_size <= 0) {
3073         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
3074         ts->raw_packet_size = TS_PACKET_SIZE;
3075     }
3076     ts->stream     = s;
3077     ts->auto_guess = 0;
3078
3079     if (s->iformat == &ff_mpegts_demuxer) {
3080         /* normal demux */
3081
3082         /* first do a scan to get all the services */
3083         seek_back(s, pb, pos);
3084
3085         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3086         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3087         mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3088
3089         handle_packets(ts, probesize / ts->raw_packet_size);
3090         /* if could not find service, enable auto_guess */
3091
3092         ts->auto_guess = 1;
3093
3094         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
3095
3096         s->ctx_flags |= AVFMTCTX_NOHEADER;
3097     } else {
3098         AVStream *st;
3099         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
3100         int64_t pcrs[2], pcr_h;
3101         uint8_t packet[TS_PACKET_SIZE];
3102         const uint8_t *data;
3103
3104         /* only read packets */
3105
3106         st = avformat_new_stream(s, NULL);
3107         if (!st)
3108             return AVERROR(ENOMEM);
3109         avpriv_set_pts_info(st, 60, 1, 27000000);
3110         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
3111         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
3112
3113         /* we iterate until we find two PCRs to estimate the bitrate */
3114         pcr_pid    = -1;
3115         nb_pcrs    = 0;
3116         nb_packets = 0;
3117         for (;;) {
3118             ret = read_packet(s, packet, ts->raw_packet_size, &data);
3119             if (ret < 0)
3120                 return ret;
3121             pid = AV_RB16(data + 1) & 0x1fff;
3122             if ((pcr_pid == -1 || pcr_pid == pid) &&
3123                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
3124                 finished_reading_packet(s, ts->raw_packet_size);
3125                 pcr_pid = pid;
3126                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
3127                 nb_pcrs++;
3128                 if (nb_pcrs >= 2) {
3129                     if (pcrs[1] - pcrs[0] > 0) {
3130                         /* the difference needs to be positive to make sense for bitrate computation */
3131                         break;
3132                     } else {
3133                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
3134                         pcrs[0] = pcrs[1];
3135                         nb_pcrs--;
3136                     }
3137                 }
3138             } else {
3139                 finished_reading_packet(s, ts->raw_packet_size);
3140             }
3141             nb_packets++;
3142         }
3143
3144         /* NOTE1: the bitrate is computed without the FEC */
3145         /* NOTE2: it is only the bitrate of the start of the stream */
3146         ts->pcr_incr = pcrs[1] - pcrs[0];
3147         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * (nb_packets - 1);
3148         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
3149         st->codecpar->bit_rate = s->bit_rate;
3150         st->start_time      = ts->cur_pcr;
3151         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%"PRId64"\n",
3152                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
3153     }
3154
3155     seek_back(s, pb, pos);
3156     return 0;
3157 }
3158
3159 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
3160
3161 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
3162 {
3163     MpegTSContext *ts = s->priv_data;
3164     int ret, i;
3165     int64_t pcr_h, next_pcr_h, pos;
3166     int pcr_l, next_pcr_l;
3167     uint8_t pcr_buf[12];
3168     const uint8_t *data;
3169
3170     if ((ret = av_new_packet(pkt, TS_PACKET_SIZE)) < 0)
3171         return ret;
3172     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
3173     pkt->pos = avio_tell(s->pb);
3174     if (ret < 0) {
3175         return ret;
3176     }
3177     if (data != pkt->data)
3178         memcpy(pkt->data, data, TS_PACKET_SIZE);
3179     finished_reading_packet(s, ts->raw_packet_size);
3180     if (ts->mpeg2ts_compute_pcr) {
3181         /* compute exact PCR for each packet */
3182         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
3183             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
3184             pos = avio_tell(s->pb);
3185             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
3186                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
3187                 avio_read(s->pb, pcr_buf, 12);
3188                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
3189                     /* XXX: not precise enough */
3190                     ts->pcr_incr =
3191                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
3192                         (i + 1);
3193                     break;
3194                 }
3195             }
3196             avio_seek(s->pb, pos, SEEK_SET);
3197             /* no next PCR found: we use previous increment */
3198             ts->cur_pcr = pcr_h * 300 + pcr_l;
3199         }
3200         pkt->pts      = ts->cur_pcr;
3201         pkt->duration = ts->pcr_incr;
3202         ts->cur_pcr  += ts->pcr_incr;
3203     }
3204     pkt->stream_index = 0;
3205     return 0;
3206 }
3207
3208 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
3209 {
3210     MpegTSContext *ts = s->priv_data;
3211     int ret, i;
3212
3213     pkt->size = -1;
3214     ts->pkt = pkt;
3215     ret = handle_packets(ts, 0);
3216     if (ret < 0) {
3217         av_packet_unref(ts->pkt);
3218         /* flush pes data left */
3219         for (i = 0; i < NB_PID_MAX; i++)
3220             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
3221                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
3222                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
3223                     ret = new_pes_packet(pes, pkt);
3224                     if (ret < 0)
3225                         return ret;
3226                     pes->state = MPEGTS_SKIP;
3227                     ret = 0;
3228                     break;
3229                 }
3230             }
3231     }
3232
3233     if (!ret && pkt->size < 0)
3234         ret = AVERROR_INVALIDDATA;
3235     return ret;
3236 }
3237
3238 static void mpegts_free(MpegTSContext *ts)
3239 {
3240     int i;
3241
3242     clear_programs(ts);
3243
3244     for (i = 0; i < FF_ARRAY_ELEMS(ts->pools); i++)
3245         av_buffer_pool_uninit(&ts->pools[i]);
3246
3247     for (i = 0; i < NB_PID_MAX; i++)
3248         if (ts->pids[i])
3249             mpegts_close_filter(ts, ts->pids[i]);
3250 }
3251
3252 static int mpegts_read_close(AVFormatContext *s)
3253 {
3254     MpegTSContext *ts = s->priv_data;
3255     mpegts_free(ts);
3256     return 0;
3257 }
3258
3259 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
3260                               int64_t *ppos, int64_t pos_limit)
3261 {
3262     MpegTSContext *ts = s->priv_data;
3263     int64_t pos, timestamp;
3264     uint8_t buf[TS_PACKET_SIZE];
3265     int pcr_l, pcr_pid =
3266         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
3267     int pos47 = ts->pos47_full % ts->raw_packet_size;
3268     pos =
3269         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
3270         ts->raw_packet_size + pos47;
3271     while(pos < pos_limit) {
3272         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3273             return AV_NOPTS_VALUE;
3274         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
3275             return AV_NOPTS_VALUE;
3276         if (buf[0] != 0x47) {
3277             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
3278                 return AV_NOPTS_VALUE;
3279             pos = avio_tell(s->pb);
3280             continue;
3281         }
3282         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
3283             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
3284             *ppos = pos;
3285             return timestamp;
3286         }
3287         pos += ts->raw_packet_size;
3288     }
3289
3290     return AV_NOPTS_VALUE;
3291 }
3292
3293 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
3294                               int64_t *ppos, int64_t pos_limit)
3295 {
3296     MpegTSContext *ts = s->priv_data;
3297     int64_t pos;
3298     int pos47 = ts->pos47_full % ts->raw_packet_size;
3299     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
3300     ff_read_frame_flush(s);
3301     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3302         return AV_NOPTS_VALUE;
3303     while(pos < pos_limit) {
3304         int ret;
3305         AVPacket pkt;
3306         av_init_packet(&pkt);
3307         ret = av_read_frame(s, &pkt);
3308         if (ret < 0)
3309             return AV_NOPTS_VALUE;
3310         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
3311             ff_reduce_index(s, pkt.stream_index);
3312             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
3313             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
3314                 int64_t dts = pkt.dts;
3315                 *ppos = pkt.pos;
3316                 av_packet_unref(&pkt);
3317                 return dts;
3318             }
3319         }
3320         pos = pkt.pos;
3321         av_packet_unref(&pkt);
3322     }
3323
3324     return AV_NOPTS_VALUE;
3325 }
3326
3327 /**************************************************************/
3328 /* parsing functions - called from other demuxers such as RTP */
3329
3330 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
3331 {
3332     MpegTSContext *ts;
3333
3334     ts = av_mallocz(sizeof(MpegTSContext));
3335     if (!ts)
3336         return NULL;
3337     /* no stream case, currently used by RTP */
3338     ts->raw_packet_size = TS_PACKET_SIZE;
3339     ts->stream = s;
3340     ts->auto_guess = 1;
3341
3342     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3343     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3344     mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3345
3346     return ts;
3347 }
3348
3349 /* return the consumed length if a packet was output, or -1 if no
3350  * packet is output */
3351 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
3352                                const uint8_t *buf, int len)
3353 {
3354     int len1;
3355
3356     len1 = len;
3357     ts->pkt = pkt;
3358     for (;;) {
3359         ts->stop_parse = 0;
3360         if (len < TS_PACKET_SIZE)
3361             return AVERROR_INVALIDDATA;
3362         if (buf[0] != 0x47) {
3363             buf++;
3364             len--;
3365         } else {
3366             handle_packet(ts, buf, len1 - len + TS_PACKET_SIZE);
3367             buf += TS_PACKET_SIZE;
3368             len -= TS_PACKET_SIZE;
3369             if (ts->stop_parse == 1)
3370                 break;
3371         }
3372     }
3373     return len1 - len;
3374 }
3375
3376 void avpriv_mpegts_parse_close(MpegTSContext *ts)
3377 {
3378     mpegts_free(ts);
3379     av_free(ts);
3380 }
3381
3382 AVInputFormat ff_mpegts_demuxer = {
3383     .name           = "mpegts",
3384     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
3385     .priv_data_size = sizeof(MpegTSContext),
3386     .read_probe     = mpegts_probe,
3387     .read_header    = mpegts_read_header,
3388     .read_packet    = mpegts_read_packet,
3389     .read_close     = mpegts_read_close,
3390     .read_timestamp = mpegts_get_dts,
3391     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3392     .priv_class     = &mpegts_class,
3393 };
3394
3395 AVInputFormat ff_mpegtsraw_demuxer = {
3396     .name           = "mpegtsraw",
3397     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
3398     .priv_data_size = sizeof(MpegTSContext),
3399     .read_header    = mpegts_read_header,
3400     .read_packet    = mpegts_raw_read_packet,
3401     .read_close     = mpegts_read_close,
3402     .read_timestamp = mpegts_get_dts,
3403     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3404     .priv_class     = &mpegtsraw_class,
3405 };