git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG-2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/internal.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/dict.h"
  28 #include "libavutil/mathematics.h"
  29 #include "libavutil/opt.h"
  30 #include "libavutil/avassert.h"
  31 #include "libavutil/dovi_meta.h"
  32 #include "libavcodec/bytestream.h"
  33 #include "libavcodec/get_bits.h"
  34 #include "libavcodec/opus.h"
  35 #include "avformat.h"
  36 #include "mpegts.h"
  37 #include "internal.h"
  38 #include "avio_internal.h"
  39 #include "mpeg.h"
  40 #include "isom.h"
  41 #if CONFIG_ICONV
  42 #include <iconv.h>
  43 #endif
  44
  45 /* maximum size in which we look for synchronization if
  46  * synchronization is lost */
  47 #define MAX_RESYNC_SIZE 65536
  48
  49 #define MAX_PES_PAYLOAD 200 * 1024
  50
  51 #define MAX_MP4_DESCR_COUNT 16
  52
  53 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  54     do {                                                                       \
  55         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  56             (modulus) = (dividend) % (divisor);                                \
  57         (prev_dividend) = (dividend);                                          \
  58     } while (0)
  59
  60 #define PROBE_PACKET_MAX_BUF 8192
  61 #define PROBE_PACKET_MARGIN 5
  62
  63 enum MpegTSFilterType {
  64     MPEGTS_PES,
  65     MPEGTS_SECTION,
  66     MPEGTS_PCR,
  67 };
  68
  69 typedef struct MpegTSFilter MpegTSFilter;
  70
  71 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  72                          int is_start, int64_t pos);
  73
  74 typedef struct MpegTSPESFilter {
  75     PESCallback *pes_cb;
  76     void *opaque;
  77 } MpegTSPESFilter;
  78
  79 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  80
  81 typedef void SetServiceCallback (void *opaque, int ret);
  82
  83 typedef struct MpegTSSectionFilter {
  84     int section_index;
  85     int section_h_size;
  86     int last_ver;
  87     unsigned crc;
  88     unsigned last_crc;
  89     uint8_t *section_buf;
  90     unsigned int check_crc : 1;
  91     unsigned int end_of_section_reached : 1;
  92     SectionCallback *section_cb;
  93     void *opaque;
  94 } MpegTSSectionFilter;
  95
  96 struct MpegTSFilter {
  97     int pid;
  98     int es_id;
  99     int last_cc; /* last cc code (-1 if first packet) */
 100     int64_t last_pcr;
 101     int discard;
 102     enum MpegTSFilterType type;
 103     union {
 104         MpegTSPESFilter pes_filter;
 105         MpegTSSectionFilter section_filter;
 106     } u;
 107 };
 108
 109 #define MAX_PIDS_PER_PROGRAM 64
 110 struct Program {
 111     unsigned int id; // program id/service id
 112     unsigned int nb_pids;
 113     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 114
 115     /** have we found pmt for this program */
 116     int pmt_found;
 117 };
 118
 119 struct MpegTSContext {
 120     const AVClass *class;
 121     /* user data */
 122     AVFormatContext *stream;
 123     /** raw packet size, including FEC if present */
 124     int raw_packet_size;
 125
 126     int64_t pos47_full;
 127
 128     /** if true, all pids are analyzed to find streams */
 129     int auto_guess;
 130
 131     /** compute exact PCR for each transport stream packet */
 132     int mpeg2ts_compute_pcr;
 133
 134     /** fix dvb teletext pts                                 */
 135     int fix_teletext_pts;
 136
 137     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 138     int64_t pcr_incr;   /**< used to estimate the exact PCR */
 139
 140     /* data needed to handle file based ts */
 141     /** stop parsing loop */
 142     int stop_parse;
 143     /** packet containing Audio/Video data */
 144     AVPacket *pkt;
 145     /** to detect seek */
 146     int64_t last_pos;
 147
 148     int skip_changes;
 149     int skip_clear;
 150     int skip_unknown_pmt;
 151
 152     int scan_all_pmts;
 153
 154     int resync_size;
 155     int merge_pmt_versions;
 156
 157     /******************************************/
 158     /* private mpegts data */
 159     /* scan context */
 160     /** structure to keep track of Program->pids mapping */
 161     unsigned int nb_prg;
 162     struct Program *prg;
 163
 164     int8_t crc_validity[NB_PID_MAX];
 165     /** filters for various streams specified by PMT + for the PAT and PMT */
 166     MpegTSFilter *pids[NB_PID_MAX];
 167     int current_pid;
 168
 169     AVStream *epg_stream;
 170     AVBufferPool* pools[32];
 171 };
 172
 173 #define MPEGTS_OPTIONS \
 174     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 175
 176 static const AVOption options[] = {
 177     MPEGTS_OPTIONS,
 178     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 179      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 180     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 181      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 182     {"scan_all_pmts", "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 183      {.i64 = -1}, -1, 1, AV_OPT_FLAG_DECODING_PARAM },
 184     {"skip_unknown_pmt", "skip PMTs for programs not advertised in the PAT", offsetof(MpegTSContext, skip_unknown_pmt), AV_OPT_TYPE_BOOL,
 185      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 186     {"merge_pmt_versions", "re-use streams when PMT's version/pids change", offsetof(MpegTSContext, merge_pmt_versions), AV_OPT_TYPE_BOOL,
 187      {.i64 = 0}, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 188     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 189      {.i64 = 0}, 0, 1, 0 },
 190     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 191      {.i64 = 0}, 0, 1, 0 },
 192     { NULL },
 193 };
 194
 195 static const AVClass mpegts_class = {
 196     .class_name = "mpegts demuxer",
 197     .item_name  = av_default_item_name,
 198     .option     = options,
 199     .version    = LIBAVUTIL_VERSION_INT,
 200 };
 201
 202 static const AVOption raw_options[] = {
 203     MPEGTS_OPTIONS,
 204     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 205           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 206           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 207     { "ts_packetsize", "output option carrying the raw packet size",
 208       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 209       { .i64 = 0 }, 0, 0,
 210       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 211     { NULL },
 212 };
 213
 214 static const AVClass mpegtsraw_class = {
 215     .class_name = "mpegtsraw demuxer",
 216     .item_name  = av_default_item_name,
 217     .option     = raw_options,
 218     .version    = LIBAVUTIL_VERSION_INT,
 219 };
 220
 221 /* TS stream handling */
 222
 223 enum MpegTSState {
 224     MPEGTS_HEADER = 0,
 225     MPEGTS_PESHEADER,
 226     MPEGTS_PESHEADER_FILL,
 227     MPEGTS_PAYLOAD,
 228     MPEGTS_SKIP,
 229 };
 230
 231 /* enough for PES header + length */
 232 #define PES_START_SIZE  6
 233 #define PES_HEADER_SIZE 9
 234 #define MAX_PES_HEADER_SIZE (9 + 255)
 235
 236 typedef struct PESContext {
 237     int pid;
 238     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 239     int stream_type;
 240     MpegTSContext *ts;
 241     AVFormatContext *stream;
 242     AVStream *st;
 243     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 244     enum MpegTSState state;
 245     /* used to get the format */
 246     int data_index;
 247     int flags; /**< copied to the AVPacket flags */
 248     int total_size;
 249     int pes_header_size;
 250     int extended_stream_id;
 251     uint8_t stream_id;
 252     int64_t pts, dts;
 253     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 254     uint8_t header[MAX_PES_HEADER_SIZE];
 255     AVBufferRef *buffer;
 256     SLConfigDescr sl;
 257     int merged_st;
 258 } PESContext;
 259
 260 extern AVInputFormat ff_mpegts_demuxer;
 261
 262 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 263 {
 264     int i;
 265     for (i = 0; i < ts->nb_prg; i++) {
 266         if (ts->prg[i].id == programid) {
 267             return &ts->prg[i];
 268         }
 269     }
 270     return NULL;
 271 }
 272
 273 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 274 {
 275     AVProgram *prg = NULL;
 276     int i;
 277
 278     for (i = 0; i < ts->stream->nb_programs; i++)
 279         if (ts->stream->programs[i]->id == programid) {
 280             prg = ts->stream->programs[i];
 281             break;
 282         }
 283     if (!prg)
 284         return;
 285     prg->nb_stream_indexes = 0;
 286 }
 287
 288 static void clear_program(struct Program *p)
 289 {
 290     if (!p)
 291         return;
 292     p->nb_pids = 0;
 293     p->pmt_found = 0;
 294 }
 295
 296 static void clear_programs(MpegTSContext *ts)
 297 {
 298     av_freep(&ts->prg);
 299     ts->nb_prg = 0;
 300 }
 301
 302 static struct Program * add_program(MpegTSContext *ts, unsigned int programid)
 303 {
 304     struct Program *p;
 305     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 306         ts->nb_prg = 0;
 307         return NULL;
 308     }
 309     p = &ts->prg[ts->nb_prg];
 310     p->id = programid;
 311     clear_program(p);
 312     ts->nb_prg++;
 313     return p;
 314 }
 315
 316 static void add_pid_to_program(struct Program *p, unsigned int pid)
 317 {
 318     int i;
 319     if (!p)
 320         return;
 321
 322     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 323         return;
 324
 325     for (i = 0; i < p->nb_pids; i++)
 326         if (p->pids[i] == pid)
 327             return;
 328
 329     p->pids[p->nb_pids++] = pid;
 330 }
 331
 332 static void update_av_program_info(AVFormatContext *s, unsigned int programid,
 333                                    unsigned int pid, int version)
 334 {
 335     int i;
 336     for (i = 0; i < s->nb_programs; i++) {
 337         AVProgram *program = s->programs[i];
 338         if (program->id == programid) {
 339             int old_pcr_pid = program->pcr_pid,
 340                 old_version = program->pmt_version;
 341             program->pcr_pid = pid;
 342             program->pmt_version = version;
 343
 344             if (old_version != -1 && old_version != version) {
 345                 av_log(s, AV_LOG_VERBOSE,
 346                        "detected PMT change (program=%d, version=%d/%d, pcr_pid=0x%x/0x%x)\n",
 347                        programid, old_version, version, old_pcr_pid, pid);
 348             }
 349             break;
 350         }
 351     }
 352 }
 353
 354 /**
 355  * @brief discard_pid() decides if the pid is to be discarded according
 356  *                      to caller's programs selection
 357  * @param ts    : - TS context
 358  * @param pid   : - pid
 359  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 360  *         0 otherwise
 361  */
 362 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 363 {
 364     int i, j, k;
 365     int used = 0, discarded = 0;
 366     struct Program *p;
 367
 368     if (pid == PAT_PID)
 369         return 0;
 370
 371     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 372      * no way we have to discard this packet */
 373     for (k = 0; k < ts->stream->nb_programs; k++)
 374         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 375             break;
 376     if (k == ts->stream->nb_programs)
 377         return 0;
 378
 379     for (i = 0; i < ts->nb_prg; i++) {
 380         p = &ts->prg[i];
 381         for (j = 0; j < p->nb_pids; j++) {
 382             if (p->pids[j] != pid)
 383                 continue;
 384             // is program with id p->id set to be discarded?
 385             for (k = 0; k < ts->stream->nb_programs; k++) {
 386                 if (ts->stream->programs[k]->id == p->id) {
 387                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 388                         discarded++;
 389                     else
 390                         used++;
 391                 }
 392             }
 393         }
 394     }
 395
 396     return !used && discarded;
 397 }
 398
 399 /**
 400  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 401  *  function when they are complete.
 402  */
 403 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 404                                const uint8_t *buf, int buf_size, int is_start)
 405 {
 406     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 407     uint8_t *cur_section_buf = NULL;
 408     int len, offset;
 409
 410     if (is_start) {
 411         memcpy(tss->section_buf, buf, buf_size);
 412         tss->section_index = buf_size;
 413         tss->section_h_size = -1;
 414         tss->end_of_section_reached = 0;
 415     } else {
 416         if (tss->end_of_section_reached)
 417             return;
 418         len = MAX_SECTION_SIZE - tss->section_index;
 419         if (buf_size < len)
 420             len = buf_size;
 421         memcpy(tss->section_buf + tss->section_index, buf, len);
 422         tss->section_index += len;
 423     }
 424
 425     offset = 0;
 426     cur_section_buf = tss->section_buf;
 427     while (cur_section_buf - tss->section_buf < MAX_SECTION_SIZE && cur_section_buf[0] != 0xff) {
 428         /* compute section length if possible */
 429         if (tss->section_h_size == -1 && tss->section_index - offset >= 3) {
 430             len = (AV_RB16(cur_section_buf + 1) & 0xfff) + 3;
 431             if (len > MAX_SECTION_SIZE)
 432                 return;
 433             tss->section_h_size = len;
 434         }
 435
 436         if (tss->section_h_size != -1 &&
 437             tss->section_index >= offset + tss->section_h_size) {
 438             int crc_valid = 1;
 439             tss->end_of_section_reached = 1;
 440
 441             if (tss->check_crc) {
 442                 crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, cur_section_buf, tss->section_h_size);
 443                 if (tss->section_h_size >= 4)
 444                     tss->crc = AV_RB32(cur_section_buf + tss->section_h_size - 4);
 445
 446                 if (crc_valid) {
 447                     ts->crc_validity[ tss1->pid ] = 100;
 448                 }else if (ts->crc_validity[ tss1->pid ] > -10) {
 449                     ts->crc_validity[ tss1->pid ]--;
 450                 }else
 451                     crc_valid = 2;
 452             }
 453             if (crc_valid) {
 454                 tss->section_cb(tss1, cur_section_buf, tss->section_h_size);
 455                 if (crc_valid != 1)
 456                     tss->last_ver = -1;
 457             }
 458
 459             cur_section_buf += tss->section_h_size;
 460             offset += tss->section_h_size;
 461             tss->section_h_size = -1;
 462         } else {
 463             tss->section_h_size = -1;
 464             tss->end_of_section_reached = 0;
 465             break;
 466         }
 467     }
 468 }
 469
 470 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 471                                         enum MpegTSFilterType type)
 472 {
 473     MpegTSFilter *filter;
 474
 475     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
 476
 477     if (pid >= NB_PID_MAX || ts->pids[pid])
 478         return NULL;
 479     filter = av_mallocz(sizeof(MpegTSFilter));
 480     if (!filter)
 481         return NULL;
 482     ts->pids[pid] = filter;
 483
 484     filter->type    = type;
 485     filter->pid     = pid;
 486     filter->es_id   = -1;
 487     filter->last_cc = -1;
 488     filter->last_pcr= -1;
 489
 490     return filter;
 491 }
 492
 493 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 494                                                 unsigned int pid,
 495                                                 SectionCallback *section_cb,
 496                                                 void *opaque,
 497                                                 int check_crc)
 498 {
 499     MpegTSFilter *filter;
 500     MpegTSSectionFilter *sec;
 501     uint8_t *section_buf = av_mallocz(MAX_SECTION_SIZE);
 502
 503     if (!section_buf)
 504         return NULL;
 505
 506     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION))) {
 507         av_free(section_buf);
 508         return NULL;
 509     }
 510     sec = &filter->u.section_filter;
 511     sec->section_cb  = section_cb;
 512     sec->opaque      = opaque;
 513     sec->section_buf = section_buf;
 514     sec->check_crc   = check_crc;
 515     sec->last_ver    = -1;
 516
 517     return filter;
 518 }
 519
 520 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 521                                             PESCallback *pes_cb,
 522                                             void *opaque)
 523 {
 524     MpegTSFilter *filter;
 525     MpegTSPESFilter *pes;
 526
 527     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 528         return NULL;
 529
 530     pes = &filter->u.pes_filter;
 531     pes->pes_cb = pes_cb;
 532     pes->opaque = opaque;
 533     return filter;
 534 }
 535
 536 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 537 {
 538     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 539 }
 540
 541 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 542 {
 543     int pid;
 544
 545     pid = filter->pid;
 546     if (filter->type == MPEGTS_SECTION)
 547         av_freep(&filter->u.section_filter.section_buf);
 548     else if (filter->type == MPEGTS_PES) {
 549         PESContext *pes = filter->u.pes_filter.opaque;
 550         av_buffer_unref(&pes->buffer);
 551         /* referenced private data will be freed later in
 552          * avformat_close_input (pes->st->priv_data == pes) */
 553         if (!pes->st || pes->merged_st) {
 554             av_freep(&filter->u.pes_filter.opaque);
 555         }
 556     }
 557
 558     av_free(filter);
 559     ts->pids[pid] = NULL;
 560 }
 561
 562 static int analyze(const uint8_t *buf, int size, int packet_size,
 563                    int probe)
 564 {
 565     int stat[TS_MAX_PACKET_SIZE];
 566     int stat_all = 0;
 567     int i;
 568     int best_score = 0;
 569
 570     memset(stat, 0, packet_size * sizeof(*stat));
 571
 572     for (i = 0; i < size - 3; i++) {
 573         if (buf[i] == 0x47) {
 574             int pid = AV_RB16(buf+1) & 0x1FFF;
 575             int asc = buf[i + 3] & 0x30;
 576             if (!probe || pid == 0x1FFF || asc) {
 577                 int x = i % packet_size;
 578                 stat[x]++;
 579                 stat_all++;
 580                 if (stat[x] > best_score) {
 581                     best_score = stat[x];
 582                 }
 583             }
 584         }
 585     }
 586
 587     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 588 }
 589
 590 /* autodetect fec presence */
 591 static int get_packet_size(AVFormatContext* s)
 592 {
 593     int score, fec_score, dvhs_score;
 594     int margin;
 595     int ret;
 596
 597     /*init buffer to store stream for probing */
 598     uint8_t buf[PROBE_PACKET_MAX_BUF] = {0};
 599     int buf_size = 0;
 600     int max_iterations = 16;
 601
 602     while (buf_size < PROBE_PACKET_MAX_BUF && max_iterations--) {
 603         ret = avio_read_partial(s->pb, buf + buf_size, PROBE_PACKET_MAX_BUF - buf_size);
 604         if (ret < 0)
 605             return AVERROR_INVALIDDATA;
 606         buf_size += ret;
 607
 608         score      = analyze(buf, buf_size, TS_PACKET_SIZE,      0);
 609         dvhs_score = analyze(buf, buf_size, TS_DVHS_PACKET_SIZE, 0);
 610         fec_score  = analyze(buf, buf_size, TS_FEC_PACKET_SIZE,  0);
 611         av_log(s, AV_LOG_TRACE, "Probe: %d, score: %d, dvhs_score: %d, fec_score: %d \n",
 612             buf_size, score, dvhs_score, fec_score);
 613
 614         margin = mid_pred(score, fec_score, dvhs_score);
 615
 616         if (buf_size < PROBE_PACKET_MAX_BUF)
 617             margin += PROBE_PACKET_MARGIN; /*if buffer not filled */
 618
 619         if (score > margin)
 620             return TS_PACKET_SIZE;
 621         else if (dvhs_score > margin)
 622             return TS_DVHS_PACKET_SIZE;
 623         else if (fec_score > margin)
 624             return TS_FEC_PACKET_SIZE;
 625     }
 626     return AVERROR_INVALIDDATA;
 627 }
 628
 629 typedef struct SectionHeader {
 630     uint8_t tid;
 631     uint16_t id;
 632     uint8_t version;
 633     uint8_t sec_num;
 634     uint8_t last_sec_num;
 635 } SectionHeader;
 636
 637 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 638 {
 639     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 640         return 1;
 641
 642     tssf->last_ver = h->version;
 643     tssf->last_crc = tssf->crc;
 644
 645     return 0;
 646 }
 647
 648 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 649 {
 650     const uint8_t *p;
 651     int c;
 652
 653     p = *pp;
 654     if (p >= p_end)
 655         return AVERROR_INVALIDDATA;
 656     c   = *p++;
 657     *pp = p;
 658     return c;
 659 }
 660
 661 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 662 {
 663     const uint8_t *p;
 664     int c;
 665
 666     p = *pp;
 667     if (1 >= p_end - p)
 668         return AVERROR_INVALIDDATA;
 669     c   = AV_RB16(p);
 670     p  += 2;
 671     *pp = p;
 672     return c;
 673 }
 674
 675 /* read and allocate a DVB string preceded by its length */
 676 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 677 {
 678     int len;
 679     const uint8_t *p;
 680     char *str;
 681
 682     p   = *pp;
 683     len = get8(&p, p_end);
 684     if (len < 0)
 685         return NULL;
 686     if (len > p_end - p)
 687         return NULL;
 688 #if CONFIG_ICONV
 689     if (len) {
 690         const char *encodings[] = {
 691             "ISO6937", "ISO-8859-5", "ISO-8859-6", "ISO-8859-7",
 692             "ISO-8859-8", "ISO-8859-9", "ISO-8859-10", "ISO-8859-11",
 693             "", "ISO-8859-13", "ISO-8859-14", "ISO-8859-15", "", "", "", "",
 694             "", "UCS-2BE", "KSC_5601", "GB2312", "UCS-2BE", "UTF-8", "", "",
 695             "", "", "", "", "", "", "", ""
 696         };
 697         iconv_t cd;
 698         char *in, *out;
 699         size_t inlen = len, outlen = inlen * 6 + 1;
 700         if (len >= 3 && p[0] == 0x10 && !p[1] && p[2] && p[2] <= 0xf && p[2] != 0xc) {
 701             char iso8859[12];
 702             snprintf(iso8859, sizeof(iso8859), "ISO-8859-%d", p[2]);
 703             inlen -= 3;
 704             in = (char *)p + 3;
 705             cd = iconv_open("UTF-8", iso8859);
 706         } else if (p[0] < 0x20) {
 707             inlen -= 1;
 708             in = (char *)p + 1;
 709             cd = iconv_open("UTF-8", encodings[*p]);
 710         } else {
 711             in = (char *)p;
 712             cd = iconv_open("UTF-8", encodings[0]);
 713         }
 714         if (cd == (iconv_t)-1)
 715             goto no_iconv;
 716         str = out = av_malloc(outlen);
 717         if (!str) {
 718             iconv_close(cd);
 719             return NULL;
 720         }
 721         if (iconv(cd, &in, &inlen, &out, &outlen) == -1) {
 722             iconv_close(cd);
 723             av_freep(&str);
 724             goto no_iconv;
 725         }
 726         iconv_close(cd);
 727         *out = 0;
 728         *pp = p + len;
 729         return str;
 730     }
 731 no_iconv:
 732 #endif
 733     str = av_malloc(len + 1);
 734     if (!str)
 735         return NULL;
 736     memcpy(str, p, len);
 737     str[len] = '\0';
 738     p  += len;
 739     *pp = p;
 740     return str;
 741 }
 742
 743 static int parse_section_header(SectionHeader *h,
 744                                 const uint8_t **pp, const uint8_t *p_end)
 745 {
 746     int val;
 747
 748     val = get8(pp, p_end);
 749     if (val < 0)
 750         return val;
 751     h->tid = val;
 752     *pp += 2;
 753     val  = get16(pp, p_end);
 754     if (val < 0)
 755         return val;
 756     h->id = val;
 757     val = get8(pp, p_end);
 758     if (val < 0)
 759         return val;
 760     h->version = (val >> 1) & 0x1f;
 761     val = get8(pp, p_end);
 762     if (val < 0)
 763         return val;
 764     h->sec_num = val;
 765     val = get8(pp, p_end);
 766     if (val < 0)
 767         return val;
 768     h->last_sec_num = val;
 769     return 0;
 770 }
 771
 772 typedef struct StreamType {
 773     uint32_t stream_type;
 774     enum AVMediaType codec_type;
 775     enum AVCodecID codec_id;
 776 } StreamType;
 777
 778 static const StreamType ISO_types[] = {
 779     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 780     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 781     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 782     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 783     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 784     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 785     /* Makito encoder sets stream type 0x11 for AAC,
 786      * so auto-detect LOAS/LATM instead of hardcoding it. */
 787 #if !CONFIG_LOAS_DEMUXER
 788     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 789 #endif
 790     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 791     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 792     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 793     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 794     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 795     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 796     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 797     { 0xd2, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_AVS2       },
 798     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 799     { 0 },
 800 };
 801
 802 static const StreamType HDMV_types[] = {
 803     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 804     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 805     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 806     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 807     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 808     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 809     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 810     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 811     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 812     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 813     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 814     { 0 },
 815 };
 816
 817 /* SCTE types */
 818 static const StreamType SCTE_types[] = {
 819     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
 820     { 0 },
 821 };
 822
 823 /* ATSC ? */
 824 static const StreamType MISC_types[] = {
 825     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 826     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 827     { 0 },
 828 };
 829
 830 static const StreamType REGD_types[] = {
 831     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 832     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 833     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 834     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 835     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 836     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 837     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 838     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 839     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 840     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 841     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 842     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 843     { 0 },
 844 };
 845
 846 static const StreamType METADATA_types[] = {
 847     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 848     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 849     { 0 },
 850 };
 851
 852 /* descriptor present */
 853 static const StreamType DESC_types[] = {
 854     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 855     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 856     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 857     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 858     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 859     { 0 },
 860 };
 861
 862 static void mpegts_find_stream_type(AVStream *st,
 863                                     uint32_t stream_type,
 864                                     const StreamType *types)
 865 {
 866     for (; types->stream_type; types++)
 867         if (stream_type == types->stream_type) {
 868             if (st->codecpar->codec_type != types->codec_type ||
 869                 st->codecpar->codec_id   != types->codec_id) {
 870                 st->codecpar->codec_type = types->codec_type;
 871                 st->codecpar->codec_id   = types->codec_id;
 872                 st->internal->need_context_update = 1;
 873             }
 874             st->internal->request_probe        = 0;
 875             return;
 876         }
 877 }
 878
 879 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 880                                   uint32_t stream_type, uint32_t prog_reg_desc)
 881 {
 882     int old_codec_type = st->codecpar->codec_type;
 883     int old_codec_id   = st->codecpar->codec_id;
 884     int old_codec_tag  = st->codecpar->codec_tag;
 885
 886     if (avcodec_is_open(st->internal->avctx)) {
 887         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 888         return 0;
 889     }
 890
 891     avpriv_set_pts_info(st, 33, 1, 90000);
 892     st->priv_data         = pes;
 893     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 894     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 895     st->need_parsing      = AVSTREAM_PARSE_FULL;
 896     pes->st          = st;
 897     pes->stream_type = stream_type;
 898
 899     av_log(pes->stream, AV_LOG_DEBUG,
 900            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 901            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 902
 903     st->codecpar->codec_tag = pes->stream_type;
 904
 905     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 906     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
 907         st->internal->request_probe = 50;
 908     if ((prog_reg_desc == AV_RL32("HDMV") ||
 909          prog_reg_desc == AV_RL32("HDPR")) &&
 910         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 911         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 912         if (pes->stream_type == 0x83) {
 913             // HDMV TrueHD streams also contain an AC3 coded version of the
 914             // audio track - add a second stream for this
 915             AVStream *sub_st;
 916             // priv_data cannot be shared between streams
 917             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 918             if (!sub_pes)
 919                 return AVERROR(ENOMEM);
 920             memcpy(sub_pes, pes, sizeof(*sub_pes));
 921
 922             sub_st = avformat_new_stream(pes->stream, NULL);
 923             if (!sub_st) {
 924                 av_free(sub_pes);
 925                 return AVERROR(ENOMEM);
 926             }
 927
 928             sub_st->id = pes->pid;
 929             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 930             sub_st->priv_data         = sub_pes;
 931             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 932             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 933             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 934             sub_pes->sub_st           = pes->sub_st = sub_st;
 935         }
 936     }
 937     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 938         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 939     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 940         st->codecpar->codec_id  = old_codec_id;
 941         st->codecpar->codec_type = old_codec_type;
 942     }
 943     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 944             (st->internal->request_probe > 0 && st->internal->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 945         st->probe_packets > 0 &&
 946         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 947         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 948         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 949         st->internal->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 950     }
 951
 952     /* queue a context update if properties changed */
 953     if (old_codec_type != st->codecpar->codec_type ||
 954         old_codec_id   != st->codecpar->codec_id   ||
 955         old_codec_tag  != st->codecpar->codec_tag)
 956         st->internal->need_context_update = 1;
 957
 958     return 0;
 959 }
 960
 961 static void reset_pes_packet_state(PESContext *pes)
 962 {
 963     pes->pts        = AV_NOPTS_VALUE;
 964     pes->dts        = AV_NOPTS_VALUE;
 965     pes->data_index = 0;
 966     pes->flags      = 0;
 967     av_buffer_unref(&pes->buffer);
 968 }
 969
 970 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
 971 {
 972     av_init_packet(pkt);
 973     pkt->data = (uint8_t *)buffer;
 974     pkt->size = len;
 975 }
 976
 977 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 978 {
 979     uint8_t *sd;
 980
 981     av_init_packet(pkt);
 982
 983     pkt->buf  = pes->buffer;
 984     pkt->data = pes->buffer->data;
 985     pkt->size = pes->data_index;
 986
 987     if (pes->total_size != MAX_PES_PAYLOAD &&
 988         pes->pes_header_size + pes->data_index != pes->total_size +
 989         PES_START_SIZE) {
 990         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
 991         pes->flags |= AV_PKT_FLAG_CORRUPT;
 992     }
 993     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 994
 995     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
 996     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
 997         pkt->stream_index = pes->sub_st->index;
 998     else
 999         pkt->stream_index = pes->st->index;
1000     pkt->pts = pes->pts;
1001     pkt->dts = pes->dts;
1002     /* store position of first TS packet of this PES packet */
1003     pkt->pos   = pes->ts_packet_pos;
1004     pkt->flags = pes->flags;
1005
1006     pes->buffer = NULL;
1007     reset_pes_packet_state(pes);
1008
1009     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
1010     if (!sd)
1011         return AVERROR(ENOMEM);
1012     *sd = pes->stream_id;
1013
1014     return 0;
1015 }
1016
1017 static uint64_t get_ts64(GetBitContext *gb, int bits)
1018 {
1019     if (get_bits_left(gb) < bits)
1020         return AV_NOPTS_VALUE;
1021     return get_bits64(gb, bits);
1022 }
1023
1024 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
1025                           const uint8_t *buf, int buf_size)
1026 {
1027     GetBitContext gb;
1028     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
1029     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
1030     int dts_flag = -1, cts_flag = -1;
1031     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
1032     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
1033     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
1034
1035     memcpy(buf_padded, buf, buf_padded_size);
1036
1037     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
1038
1039     if (sl->use_au_start)
1040         au_start_flag = get_bits1(&gb);
1041     if (sl->use_au_end)
1042         au_end_flag = get_bits1(&gb);
1043     if (!sl->use_au_start && !sl->use_au_end)
1044         au_start_flag = au_end_flag = 1;
1045     if (sl->ocr_len > 0)
1046         ocr_flag = get_bits1(&gb);
1047     if (sl->use_idle)
1048         idle_flag = get_bits1(&gb);
1049     if (sl->use_padding)
1050         padding_flag = get_bits1(&gb);
1051     if (padding_flag)
1052         padding_bits = get_bits(&gb, 3);
1053
1054     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
1055         if (sl->packet_seq_num_len)
1056             skip_bits_long(&gb, sl->packet_seq_num_len);
1057         if (sl->degr_prior_len)
1058             if (get_bits1(&gb))
1059                 skip_bits(&gb, sl->degr_prior_len);
1060         if (ocr_flag)
1061             skip_bits_long(&gb, sl->ocr_len);
1062         if (au_start_flag) {
1063             if (sl->use_rand_acc_pt)
1064                 get_bits1(&gb);
1065             if (sl->au_seq_num_len > 0)
1066                 skip_bits_long(&gb, sl->au_seq_num_len);
1067             if (sl->use_timestamps) {
1068                 dts_flag = get_bits1(&gb);
1069                 cts_flag = get_bits1(&gb);
1070             }
1071         }
1072         if (sl->inst_bitrate_len)
1073             inst_bitrate_flag = get_bits1(&gb);
1074         if (dts_flag == 1)
1075             dts = get_ts64(&gb, sl->timestamp_len);
1076         if (cts_flag == 1)
1077             cts = get_ts64(&gb, sl->timestamp_len);
1078         if (sl->au_len > 0)
1079             skip_bits_long(&gb, sl->au_len);
1080         if (inst_bitrate_flag)
1081             skip_bits_long(&gb, sl->inst_bitrate_len);
1082     }
1083
1084     if (dts != AV_NOPTS_VALUE)
1085         pes->dts = dts;
1086     if (cts != AV_NOPTS_VALUE)
1087         pes->pts = cts;
1088
1089     if (sl->timestamp_len && sl->timestamp_res)
1090         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1091
1092     return (get_bits_count(&gb) + 7) >> 3;
1093 }
1094
1095 static AVBufferRef *buffer_pool_get(MpegTSContext *ts, int size)
1096 {
1097     int index = av_log2(size + AV_INPUT_BUFFER_PADDING_SIZE);
1098     if (!ts->pools[index]) {
1099         int pool_size = FFMIN(MAX_PES_PAYLOAD + AV_INPUT_BUFFER_PADDING_SIZE, 2 << index);
1100         ts->pools[index] = av_buffer_pool_init(pool_size, NULL);
1101         if (!ts->pools[index])
1102             return NULL;
1103     }
1104     return av_buffer_pool_get(ts->pools[index]);
1105 }
1106
1107 /* return non zero if a packet could be constructed */
1108 static int mpegts_push_data(MpegTSFilter *filter,
1109                             const uint8_t *buf, int buf_size, int is_start,
1110                             int64_t pos)
1111 {
1112     PESContext *pes   = filter->u.pes_filter.opaque;
1113     MpegTSContext *ts = pes->ts;
1114     const uint8_t *p;
1115     int ret, len, code;
1116
1117     if (!ts->pkt)
1118         return 0;
1119
1120     if (is_start) {
1121         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1122             ret = new_pes_packet(pes, ts->pkt);
1123             if (ret < 0)
1124                 return ret;
1125             ts->stop_parse = 1;
1126         } else {
1127             reset_pes_packet_state(pes);
1128         }
1129         pes->state         = MPEGTS_HEADER;
1130         pes->ts_packet_pos = pos;
1131     }
1132     p = buf;
1133     while (buf_size > 0) {
1134         switch (pes->state) {
1135         case MPEGTS_HEADER:
1136             len = PES_START_SIZE - pes->data_index;
1137             if (len > buf_size)
1138                 len = buf_size;
1139             memcpy(pes->header + pes->data_index, p, len);
1140             pes->data_index += len;
1141             p += len;
1142             buf_size -= len;
1143             if (pes->data_index == PES_START_SIZE) {
1144                 /* we got all the PES or section header. We can now
1145                  * decide */
1146                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1147                     pes->header[2] == 0x01) {
1148                     /* it must be an MPEG-2 PES stream */
1149                     code = pes->header[3] | 0x100;
1150                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1151                             code);
1152                     pes->stream_id = pes->header[3];
1153
1154                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1155                          (!pes->sub_st ||
1156                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1157                         code == 0x1be) /* padding_stream */
1158                         goto skip;
1159
1160                     /* stream not present in PMT */
1161                     if (!pes->st) {
1162                         if (ts->skip_changes)
1163                             goto skip;
1164                         if (ts->merge_pmt_versions)
1165                             goto skip; /* wait for PMT to merge new stream */
1166
1167                         pes->st = avformat_new_stream(ts->stream, NULL);
1168                         if (!pes->st)
1169                             return AVERROR(ENOMEM);
1170                         pes->st->id = pes->pid;
1171                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1172                     }
1173
1174                     pes->total_size = AV_RB16(pes->header + 4);
1175                     /* NOTE: a zero total size means the PES size is
1176                      * unbounded */
1177                     if (!pes->total_size)
1178                         pes->total_size = MAX_PES_PAYLOAD;
1179
1180                     /* allocate pes buffer */
1181                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1182                     if (!pes->buffer)
1183                         return AVERROR(ENOMEM);
1184
1185                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1186                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1187                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1188                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1189                         pes->state = MPEGTS_PESHEADER;
1190                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->internal->request_probe) {
1191                             av_log(pes->stream, AV_LOG_TRACE,
1192                                     "pid=%x stream_type=%x probing\n",
1193                                     pes->pid,
1194                                     pes->stream_type);
1195                             pes->st->internal->request_probe = 1;
1196                         }
1197                     } else {
1198                         pes->pes_header_size = 6;
1199                         pes->state      = MPEGTS_PAYLOAD;
1200                         pes->data_index = 0;
1201                     }
1202                 } else {
1203                     /* otherwise, it should be a table */
1204                     /* skip packet */
1205 skip:
1206                     pes->state = MPEGTS_SKIP;
1207                     continue;
1208                 }
1209             }
1210             break;
1211         /**********************************************/
1212         /* PES packing parsing */
1213         case MPEGTS_PESHEADER:
1214             len = PES_HEADER_SIZE - pes->data_index;
1215             if (len < 0)
1216                 return AVERROR_INVALIDDATA;
1217             if (len > buf_size)
1218                 len = buf_size;
1219             memcpy(pes->header + pes->data_index, p, len);
1220             pes->data_index += len;
1221             p += len;
1222             buf_size -= len;
1223             if (pes->data_index == PES_HEADER_SIZE) {
1224                 pes->pes_header_size = pes->header[8] + 9;
1225                 pes->state           = MPEGTS_PESHEADER_FILL;
1226             }
1227             break;
1228         case MPEGTS_PESHEADER_FILL:
1229             len = pes->pes_header_size - pes->data_index;
1230             if (len < 0)
1231                 return AVERROR_INVALIDDATA;
1232             if (len > buf_size)
1233                 len = buf_size;
1234             memcpy(pes->header + pes->data_index, p, len);
1235             pes->data_index += len;
1236             p += len;
1237             buf_size -= len;
1238             if (pes->data_index == pes->pes_header_size) {
1239                 const uint8_t *r;
1240                 unsigned int flags, pes_ext, skip;
1241
1242                 flags = pes->header[7];
1243                 r = pes->header + 9;
1244                 pes->pts = AV_NOPTS_VALUE;
1245                 pes->dts = AV_NOPTS_VALUE;
1246                 if ((flags & 0xc0) == 0x80) {
1247                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1248                     r += 5;
1249                 } else if ((flags & 0xc0) == 0xc0) {
1250                     pes->pts = ff_parse_pes_pts(r);
1251                     r += 5;
1252                     pes->dts = ff_parse_pes_pts(r);
1253                     r += 5;
1254                 }
1255                 pes->extended_stream_id = -1;
1256                 if (flags & 0x01) { /* PES extension */
1257                     pes_ext = *r++;
1258                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1259                     skip  = (pes_ext >> 4) & 0xb;
1260                     skip += skip & 0x9;
1261                     r    += skip;
1262                     if ((pes_ext & 0x41) == 0x01 &&
1263                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1264                         /* PES extension 2 */
1265                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1266                             pes->extended_stream_id = r[1];
1267                     }
1268                 }
1269
1270                 /* we got the full header. We parse it and get the payload */
1271                 pes->state = MPEGTS_PAYLOAD;
1272                 pes->data_index = 0;
1273                 if (pes->stream_type == 0x12 && buf_size > 0) {
1274                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1275                                                          buf_size);
1276                     pes->pes_header_size += sl_header_bytes;
1277                     p += sl_header_bytes;
1278                     buf_size -= sl_header_bytes;
1279                 }
1280                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1281                     /* skip metadata access unit header */
1282                     pes->pes_header_size += 5;
1283                     p += 5;
1284                     buf_size -= 5;
1285                 }
1286                 if (   pes->ts->fix_teletext_pts
1287                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1288                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1289                     ) {
1290                     AVProgram *p = NULL;
1291                     int pcr_found = 0;
1292                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1293                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1294                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1295                             if (f) {
1296                                 AVStream *st = NULL;
1297                                 if (f->type == MPEGTS_PES) {
1298                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1299                                     if (pcrpes)
1300                                         st = pcrpes->st;
1301                                 } else if (f->type == MPEGTS_PCR) {
1302                                     int i;
1303                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1304                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1305                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1306                                             st = pst;
1307                                     }
1308                                 }
1309                                 if (f->last_pcr != -1 && !f->discard) {
1310                                     // teletext packets do not always have correct timestamps,
1311                                     // the standard says they should be handled after 40.6 ms at most,
1312                                     // and the pcr error to this packet should be no more than 100 ms.
1313                                     // TODO: we should interpolate the PCR, not just use the last one
1314                                     int64_t pcr = f->last_pcr / 300;
1315                                     pcr_found = 1;
1316                                     if (st) {
1317                                         pes->st->internal->pts_wrap_reference = st->internal->pts_wrap_reference;
1318                                         pes->st->internal->pts_wrap_behavior = st->internal->pts_wrap_behavior;
1319                                     }
1320                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1321                                         pes->pts = pes->dts = pcr;
1322                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1323                                                pes->dts > pcr + 3654 + 9000) {
1324                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1325                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1326                                                pes->dts > pcr + 10*90000) { //10sec
1327                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1328                                     }
1329                                     break;
1330                                 }
1331                             }
1332                         }
1333                     }
1334
1335                     if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1336                         !pcr_found) {
1337                         av_log(pes->stream, AV_LOG_VERBOSE,
1338                                "Forcing DTS/PTS to be unset for a "
1339                                "non-trustworthy PES packet for PID %d as "
1340                                "PCR hasn't been received yet.\n",
1341                                pes->pid);
1342                         pes->dts = pes->pts = AV_NOPTS_VALUE;
1343                     }
1344                 }
1345             }
1346             break;
1347         case MPEGTS_PAYLOAD:
1348             if (pes->buffer) {
1349                 if (pes->data_index > 0 &&
1350                     pes->data_index + buf_size > pes->total_size) {
1351                     ret = new_pes_packet(pes, ts->pkt);
1352                     if (ret < 0)
1353                         return ret;
1354                     pes->total_size = MAX_PES_PAYLOAD;
1355                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1356                     if (!pes->buffer)
1357                         return AVERROR(ENOMEM);
1358                     ts->stop_parse = 1;
1359                 } else if (pes->data_index == 0 &&
1360                            buf_size > pes->total_size) {
1361                     // pes packet size is < ts size packet and pes data is padded with 0xff
1362                     // not sure if this is legal in ts but see issue #2392
1363                     buf_size = pes->total_size;
1364                 }
1365                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1366                 pes->data_index += buf_size;
1367                 /* emit complete packets with known packet size
1368                  * decreases demuxer delay for infrequent packets like subtitles from
1369                  * a couple of seconds to milliseconds for properly muxed files.
1370                  * total_size is the number of bytes following pes_packet_length
1371                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1372                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1373                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1374                     ts->stop_parse = 1;
1375                     ret = new_pes_packet(pes, ts->pkt);
1376                     if (ret < 0)
1377                         return ret;
1378                 }
1379             }
1380             buf_size = 0;
1381             break;
1382         case MPEGTS_SKIP:
1383             buf_size = 0;
1384             break;
1385         }
1386     }
1387
1388     return 0;
1389 }
1390
1391 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1392 {
1393     MpegTSFilter *tss;
1394     PESContext *pes;
1395
1396     /* if no pid found, then add a pid context */
1397     pes = av_mallocz(sizeof(PESContext));
1398     if (!pes)
1399         return 0;
1400     pes->ts      = ts;
1401     pes->stream  = ts->stream;
1402     pes->pid     = pid;
1403     pes->pcr_pid = pcr_pid;
1404     pes->state   = MPEGTS_SKIP;
1405     pes->pts     = AV_NOPTS_VALUE;
1406     pes->dts     = AV_NOPTS_VALUE;
1407     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1408     if (!tss) {
1409         av_free(pes);
1410         return 0;
1411     }
1412     return pes;
1413 }
1414
1415 #define MAX_LEVEL 4
1416 typedef struct MP4DescrParseContext {
1417     AVFormatContext *s;
1418     AVIOContext pb;
1419     Mp4Descr *descr;
1420     Mp4Descr *active_descr;
1421     int descr_count;
1422     int max_descr_count;
1423     int level;
1424     int predefined_SLConfigDescriptor_seen;
1425 } MP4DescrParseContext;
1426
1427 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1428                                      const uint8_t *buf, unsigned size,
1429                                      Mp4Descr *descr, int max_descr_count)
1430 {
1431     int ret;
1432     if (size > (1 << 30))
1433         return AVERROR_INVALIDDATA;
1434
1435     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1436                                  NULL, NULL, NULL, NULL)) < 0)
1437         return ret;
1438
1439     d->s               = s;
1440     d->level           = 0;
1441     d->descr_count     = 0;
1442     d->descr           = descr;
1443     d->active_descr    = NULL;
1444     d->max_descr_count = max_descr_count;
1445
1446     return 0;
1447 }
1448
1449 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1450 {
1451     int64_t new_off = avio_tell(pb);
1452     (*len) -= new_off - *off;
1453     *off    = new_off;
1454 }
1455
1456 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1457                            int target_tag);
1458
1459 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1460 {
1461     while (len > 0) {
1462         int ret = parse_mp4_descr(d, off, len, 0);
1463         if (ret < 0)
1464             return ret;
1465         update_offsets(&d->pb, &off, &len);
1466     }
1467     return 0;
1468 }
1469
1470 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1471 {
1472     avio_rb16(&d->pb); // ID
1473     avio_r8(&d->pb);
1474     avio_r8(&d->pb);
1475     avio_r8(&d->pb);
1476     avio_r8(&d->pb);
1477     avio_r8(&d->pb);
1478     update_offsets(&d->pb, &off, &len);
1479     return parse_mp4_descr_arr(d, off, len);
1480 }
1481
1482 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1483 {
1484     int id_flags;
1485     if (len < 2)
1486         return 0;
1487     id_flags = avio_rb16(&d->pb);
1488     if (!(id_flags & 0x0020)) { // URL_Flag
1489         update_offsets(&d->pb, &off, &len);
1490         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1491     } else {
1492         return 0;
1493     }
1494 }
1495
1496 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1497 {
1498     int es_id = 0;
1499     int ret   = 0;
1500
1501     if (d->descr_count >= d->max_descr_count)
1502         return AVERROR_INVALIDDATA;
1503     ff_mp4_parse_es_descr(&d->pb, &es_id);
1504     d->active_descr = d->descr + (d->descr_count++);
1505
1506     d->active_descr->es_id = es_id;
1507     update_offsets(&d->pb, &off, &len);
1508     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1509         return ret;
1510     update_offsets(&d->pb, &off, &len);
1511     if (len > 0)
1512         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1513     d->active_descr = NULL;
1514     return ret;
1515 }
1516
1517 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1518                                       int len)
1519 {
1520     Mp4Descr *descr = d->active_descr;
1521     if (!descr)
1522         return AVERROR_INVALIDDATA;
1523     d->active_descr->dec_config_descr = av_malloc(len);
1524     if (!descr->dec_config_descr)
1525         return AVERROR(ENOMEM);
1526     descr->dec_config_descr_len = len;
1527     avio_read(&d->pb, descr->dec_config_descr, len);
1528     return 0;
1529 }
1530
1531 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1532 {
1533     Mp4Descr *descr = d->active_descr;
1534     int predefined;
1535     if (!descr)
1536         return AVERROR_INVALIDDATA;
1537
1538 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1539     descr->sl.dst = avio_r8(&d->pb);                            \
1540     if (descr->sl.dst > maxv) {                                 \
1541         descr->sl.dst = maxv;                                   \
1542         return AVERROR_INVALIDDATA;                             \
1543     }                                                           \
1544 } while (0)
1545
1546     predefined = avio_r8(&d->pb);
1547     if (!predefined) {
1548         int lengths;
1549         int flags = avio_r8(&d->pb);
1550         descr->sl.use_au_start    = !!(flags & 0x80);
1551         descr->sl.use_au_end      = !!(flags & 0x40);
1552         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1553         descr->sl.use_padding     = !!(flags & 0x08);
1554         descr->sl.use_timestamps  = !!(flags & 0x04);
1555         descr->sl.use_idle        = !!(flags & 0x02);
1556         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1557         avio_rb32(&d->pb);
1558         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1559         R8_CHECK_CLIP_MAX(ocr_len,       63);
1560         R8_CHECK_CLIP_MAX(au_len,        31);
1561         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1562         lengths                      = avio_rb16(&d->pb);
1563         descr->sl.degr_prior_len     = lengths >> 12;
1564         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1565         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1566     } else if (!d->predefined_SLConfigDescriptor_seen){
1567         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1568         d->predefined_SLConfigDescriptor_seen = 1;
1569     }
1570     return 0;
1571 }
1572
1573 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1574                            int target_tag)
1575 {
1576     int tag;
1577     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1578     int ret = 0;
1579
1580     update_offsets(&d->pb, &off, &len);
1581     if (len < 0 || len1 > len || len1 <= 0) {
1582         av_log(d->s, AV_LOG_ERROR,
1583                "Tag %x length violation new length %d bytes remaining %d\n",
1584                tag, len1, len);
1585         return AVERROR_INVALIDDATA;
1586     }
1587
1588     if (d->level++ >= MAX_LEVEL) {
1589         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1590         ret = AVERROR_INVALIDDATA;
1591         goto done;
1592     }
1593
1594     if (target_tag && tag != target_tag) {
1595         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1596                target_tag);
1597         ret = AVERROR_INVALIDDATA;
1598         goto done;
1599     }
1600
1601     switch (tag) {
1602     case MP4IODescrTag:
1603         ret = parse_MP4IODescrTag(d, off, len1);
1604         break;
1605     case MP4ODescrTag:
1606         ret = parse_MP4ODescrTag(d, off, len1);
1607         break;
1608     case MP4ESDescrTag:
1609         ret = parse_MP4ESDescrTag(d, off, len1);
1610         break;
1611     case MP4DecConfigDescrTag:
1612         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1613         break;
1614     case MP4SLDescrTag:
1615         ret = parse_MP4SLDescrTag(d, off, len1);
1616         break;
1617     }
1618
1619
1620 done:
1621     d->level--;
1622     avio_seek(&d->pb, off + len1, SEEK_SET);
1623     return ret;
1624 }
1625
1626 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1627                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1628 {
1629     MP4DescrParseContext d;
1630     int ret;
1631
1632     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1633     if (ret < 0)
1634         return ret;
1635
1636     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1637
1638     *descr_count = d.descr_count;
1639     return ret;
1640 }
1641
1642 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1643                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1644 {
1645     MP4DescrParseContext d;
1646     int ret;
1647
1648     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1649     if (ret < 0)
1650         return ret;
1651
1652     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1653
1654     *descr_count = d.descr_count;
1655     return ret;
1656 }
1657
1658 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1659                     int section_len)
1660 {
1661     MpegTSContext *ts = filter->u.section_filter.opaque;
1662     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1663     SectionHeader h;
1664     const uint8_t *p, *p_end;
1665     AVIOContext pb;
1666     int mp4_descr_count = 0;
1667     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1668     int i, pid;
1669     AVFormatContext *s = ts->stream;
1670
1671     p_end = section + section_len - 4;
1672     p = section;
1673     if (parse_section_header(&h, &p, p_end) < 0)
1674         return;
1675     if (h.tid != M4OD_TID)
1676         return;
1677     if (skip_identical(&h, tssf))
1678         return;
1679
1680     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1681                 MAX_MP4_DESCR_COUNT);
1682
1683     for (pid = 0; pid < NB_PID_MAX; pid++) {
1684         if (!ts->pids[pid])
1685             continue;
1686         for (i = 0; i < mp4_descr_count; i++) {
1687             PESContext *pes;
1688             AVStream *st;
1689             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1690                 continue;
1691             if (ts->pids[pid]->type != MPEGTS_PES) {
1692                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1693                 continue;
1694             }
1695             pes = ts->pids[pid]->u.pes_filter.opaque;
1696             st  = pes->st;
1697             if (!st)
1698                 continue;
1699
1700             pes->sl = mp4_descr[i].sl;
1701
1702             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1703                               mp4_descr[i].dec_config_descr_len, 0,
1704                               NULL, NULL, NULL, NULL);
1705             ff_mp4_read_dec_config_descr(s, st, &pb);
1706             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1707                 st->codecpar->extradata_size > 0)
1708                 st->need_parsing = 0;
1709             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1710                 st->codecpar->extradata_size > 0)
1711                 st->need_parsing = 0;
1712
1713             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1714             st->internal->need_context_update = 1;
1715         }
1716     }
1717     for (i = 0; i < mp4_descr_count; i++)
1718         av_free(mp4_descr[i].dec_config_descr);
1719 }
1720
1721 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1722                     int section_len)
1723 {
1724     AVProgram *prg = NULL;
1725     MpegTSContext *ts = filter->u.section_filter.opaque;
1726
1727     int idx = ff_find_stream_index(ts->stream, filter->pid);
1728     if (idx < 0)
1729         return;
1730
1731     /**
1732      * In case we receive an SCTE-35 packet before mpegts context is fully
1733      * initialized.
1734      */
1735     if (!ts->pkt)
1736         return;
1737
1738     new_data_packet(section, section_len, ts->pkt);
1739     ts->pkt->stream_index = idx;
1740     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1741     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1742         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1743         if (f && f->last_pcr != -1)
1744             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1745     }
1746     ts->stop_parse = 1;
1747
1748 }
1749
1750 static const uint8_t opus_coupled_stream_cnt[9] = {
1751     1, 0, 1, 1, 2, 2, 2, 3, 3
1752 };
1753
1754 static const uint8_t opus_stream_cnt[9] = {
1755     1, 1, 1, 2, 2, 3, 4, 4, 5,
1756 };
1757
1758 static const uint8_t opus_channel_map[8][8] = {
1759     { 0 },
1760     { 0,1 },
1761     { 0,2,1 },
1762     { 0,1,2,3 },
1763     { 0,4,1,2,3 },
1764     { 0,4,1,2,3,5 },
1765     { 0,4,1,2,3,5,6 },
1766     { 0,6,1,2,3,4,5,7 },
1767 };
1768
1769 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1770                               const uint8_t **pp, const uint8_t *desc_list_end,
1771                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1772                               MpegTSContext *ts)
1773 {
1774     const uint8_t *desc_end;
1775     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1776     char language[252];
1777     int i;
1778
1779     desc_tag = get8(pp, desc_list_end);
1780     if (desc_tag < 0)
1781         return AVERROR_INVALIDDATA;
1782     desc_len = get8(pp, desc_list_end);
1783     if (desc_len < 0)
1784         return AVERROR_INVALIDDATA;
1785     desc_end = *pp + desc_len;
1786     if (desc_end > desc_list_end)
1787         return AVERROR_INVALIDDATA;
1788
1789     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1790
1791     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) &&
1792         stream_type == STREAM_TYPE_PRIVATE_DATA)
1793         mpegts_find_stream_type(st, desc_tag, DESC_types);
1794
1795     switch (desc_tag) {
1796     case VIDEO_STREAM_DESCRIPTOR:
1797         if (get8(pp, desc_end) & 0x1) {
1798             st->disposition |= AV_DISPOSITION_STILL_IMAGE;
1799         }
1800         break;
1801     case SL_DESCRIPTOR:
1802         desc_es_id = get16(pp, desc_end);
1803         if (desc_es_id < 0)
1804             break;
1805         if (ts && ts->pids[pid])
1806             ts->pids[pid]->es_id = desc_es_id;
1807         for (i = 0; i < mp4_descr_count; i++)
1808             if (mp4_descr[i].dec_config_descr_len &&
1809                 mp4_descr[i].es_id == desc_es_id) {
1810                 AVIOContext pb;
1811                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1812                                   mp4_descr[i].dec_config_descr_len, 0,
1813                                   NULL, NULL, NULL, NULL);
1814                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1815                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1816                     st->codecpar->extradata_size > 0) {
1817                     st->need_parsing = 0;
1818                     st->internal->need_context_update = 1;
1819                 }
1820                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1821                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1822             }
1823         break;
1824     case FMC_DESCRIPTOR:
1825         if (get16(pp, desc_end) < 0)
1826             break;
1827         if (mp4_descr_count > 0 &&
1828             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1829              (st->internal->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1830              st->internal->request_probe > 0) &&
1831             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1832             AVIOContext pb;
1833             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1834                               mp4_descr->dec_config_descr_len, 0,
1835                               NULL, NULL, NULL, NULL);
1836             ff_mp4_read_dec_config_descr(fc, st, &pb);
1837             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1838                 st->codecpar->extradata_size > 0) {
1839                 st->internal->request_probe = st->need_parsing = 0;
1840                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1841                 st->internal->need_context_update = 1;
1842             }
1843         }
1844         break;
1845     case 0x56: /* DVB teletext descriptor */
1846         {
1847             uint8_t *extradata = NULL;
1848             int language_count = desc_len / 5, ret;
1849
1850             if (desc_len > 0 && desc_len % 5 != 0)
1851                 return AVERROR_INVALIDDATA;
1852
1853             if (language_count > 0) {
1854                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1855                 av_assert0(language_count <= sizeof(language) / 4);
1856
1857                 if (st->codecpar->extradata == NULL) {
1858                     ret = ff_alloc_extradata(st->codecpar, language_count * 2);
1859                     if (ret < 0)
1860                         return ret;
1861                 }
1862
1863                 if (st->codecpar->extradata_size < language_count * 2)
1864                     return AVERROR_INVALIDDATA;
1865
1866                 extradata = st->codecpar->extradata;
1867
1868                 for (i = 0; i < language_count; i++) {
1869                     language[i * 4 + 0] = get8(pp, desc_end);
1870                     language[i * 4 + 1] = get8(pp, desc_end);
1871                     language[i * 4 + 2] = get8(pp, desc_end);
1872                     language[i * 4 + 3] = ',';
1873
1874                     memcpy(extradata, *pp, 2);
1875                     extradata += 2;
1876
1877                     *pp += 2;
1878                 }
1879
1880                 language[i * 4 - 1] = 0;
1881                 av_dict_set(&st->metadata, "language", language, 0);
1882                 st->internal->need_context_update = 1;
1883             }
1884         }
1885         break;
1886     case 0x59: /* subtitling descriptor */
1887         {
1888             /* 8 bytes per DVB subtitle substream data:
1889              * ISO_639_language_code (3 bytes),
1890              * subtitling_type (1 byte),
1891              * composition_page_id (2 bytes),
1892              * ancillary_page_id (2 bytes) */
1893             int language_count = desc_len / 8, ret;
1894
1895             if (desc_len > 0 && desc_len % 8 != 0)
1896                 return AVERROR_INVALIDDATA;
1897
1898             if (language_count > 1) {
1899                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1900             }
1901
1902             if (language_count > 0) {
1903                 uint8_t *extradata;
1904
1905                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1906                 av_assert0(language_count <= sizeof(language) / 4);
1907
1908                 if (st->codecpar->extradata == NULL) {
1909                     ret = ff_alloc_extradata(st->codecpar, language_count * 5);
1910                     if (ret < 0)
1911                         return ret;
1912                 }
1913
1914                 if (st->codecpar->extradata_size < language_count * 5)
1915                     return AVERROR_INVALIDDATA;
1916
1917                 extradata = st->codecpar->extradata;
1918
1919                 for (i = 0; i < language_count; i++) {
1920                     language[i * 4 + 0] = get8(pp, desc_end);
1921                     language[i * 4 + 1] = get8(pp, desc_end);
1922                     language[i * 4 + 2] = get8(pp, desc_end);
1923                     language[i * 4 + 3] = ',';
1924
1925                     /* hearing impaired subtitles detection using subtitling_type */
1926                     switch (*pp[0]) {
1927                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1928                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1929                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1930                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1931                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1932                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1933                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1934                         break;
1935                     }
1936
1937                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1938                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1939                     extradata += 5;
1940
1941                     *pp += 4;
1942                 }
1943
1944                 language[i * 4 - 1] = 0;
1945                 av_dict_set(&st->metadata, "language", language, 0);
1946                 st->internal->need_context_update = 1;
1947             }
1948         }
1949         break;
1950     case ISO_639_LANGUAGE_DESCRIPTOR:
1951         for (i = 0; i + 4 <= desc_len; i += 4) {
1952             language[i + 0] = get8(pp, desc_end);
1953             language[i + 1] = get8(pp, desc_end);
1954             language[i + 2] = get8(pp, desc_end);
1955             language[i + 3] = ',';
1956             switch (get8(pp, desc_end)) {
1957             case 0x01:
1958                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1959                 break;
1960             case 0x02:
1961                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1962                 break;
1963             case 0x03:
1964                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1965                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
1966                 break;
1967             }
1968         }
1969         if (i && language[0]) {
1970             language[i - 1] = 0;
1971             /* don't overwrite language, as it may already have been set by
1972              * another, more specific descriptor (e.g. supplementary audio) */
1973             av_dict_set(&st->metadata, "language", language, AV_DICT_DONT_OVERWRITE);
1974         }
1975         break;
1976     case REGISTRATION_DESCRIPTOR:
1977         st->codecpar->codec_tag = bytestream_get_le32(pp);
1978         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1979         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) {
1980             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1981             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1982                 st->internal->request_probe = 50;
1983         }
1984         break;
1985     case 0x52: /* stream identifier descriptor */
1986         st->stream_identifier = 1 + get8(pp, desc_end);
1987         break;
1988     case METADATA_DESCRIPTOR:
1989         if (get16(pp, desc_end) == 0xFFFF)
1990             *pp += 4;
1991         if (get8(pp, desc_end) == 0xFF) {
1992             st->codecpar->codec_tag = bytestream_get_le32(pp);
1993             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
1994                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
1995         }
1996         break;
1997     case 0x7f: /* DVB extension descriptor */
1998         ext_desc_tag = get8(pp, desc_end);
1999         if (ext_desc_tag < 0)
2000             return AVERROR_INVALIDDATA;
2001         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
2002             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
2003             if (!st->codecpar->extradata) {
2004                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
2005                                                      AV_INPUT_BUFFER_PADDING_SIZE);
2006                 if (!st->codecpar->extradata)
2007                     return AVERROR(ENOMEM);
2008
2009                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
2010                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
2011
2012                 channel_config_code = get8(pp, desc_end);
2013                 if (channel_config_code < 0)
2014                     return AVERROR_INVALIDDATA;
2015                 if (channel_config_code <= 0x8) {
2016                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
2017                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
2018                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
2019                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
2020                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
2021                 } else {
2022                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
2023                 }
2024                 st->need_parsing = AVSTREAM_PARSE_FULL;
2025                 st->internal->need_context_update = 1;
2026             }
2027         }
2028         if (ext_desc_tag == 0x06) { /* supplementary audio descriptor */
2029             int flags;
2030
2031             if (desc_len < 1)
2032                 return AVERROR_INVALIDDATA;
2033             flags = get8(pp, desc_end);
2034
2035             if ((flags & 0x80) == 0) /* mix_type */
2036                 st->disposition |= AV_DISPOSITION_DEPENDENT;
2037
2038             switch ((flags >> 2) & 0x1F) { /* editorial_classification */
2039             case 0x01:
2040                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2041                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2042                 break;
2043             case 0x02:
2044                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
2045                 break;
2046             case 0x03:
2047                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2048                 break;
2049             }
2050
2051             if (flags & 0x01) { /* language_code_present */
2052                 if (desc_len < 4)
2053                     return AVERROR_INVALIDDATA;
2054                 language[0] = get8(pp, desc_end);
2055                 language[1] = get8(pp, desc_end);
2056                 language[2] = get8(pp, desc_end);
2057                 language[3] = 0;
2058
2059                 /* This language always has to override a possible
2060                  * ISO 639 language descriptor language */
2061                 if (language[0])
2062                     av_dict_set(&st->metadata, "language", language, 0);
2063             }
2064         }
2065         break;
2066     case 0x6a: /* ac-3_descriptor */
2067         {
2068             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2069             if (component_type_flag) {
2070                 int component_type = get8(pp, desc_end);
2071                 int service_type_mask = 0x38;  // 0b00111000
2072                 int service_type = ((component_type & service_type_mask) >> 3);
2073                 if (service_type == 0x02 /* 0b010 */) {
2074                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2075                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2076                 }
2077             }
2078         }
2079         break;
2080     case 0x7a: /* enhanced_ac-3_descriptor */
2081         {
2082             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2083             if (component_type_flag) {
2084                 int component_type = get8(pp, desc_end);
2085                 int service_type_mask = 0x38;  // 0b00111000
2086                 int service_type = ((component_type & service_type_mask) >> 3);
2087                 if (service_type == 0x02 /* 0b010 */) {
2088                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2089                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2090                 }
2091             }
2092         }
2093         break;
2094     case 0xfd: /* ARIB data coding type descriptor */
2095         // STD-B24, fascicle 3, chapter 4 defines private_stream_1
2096         // for captions
2097         if (stream_type == STREAM_TYPE_PRIVATE_DATA) {
2098             // This structure is defined in STD-B10, part 1, listing 5.4 and
2099             // part 2, 6.2.20).
2100             // Listing of data_component_ids is in STD-B10, part 2, Annex J.
2101             // Component tag limits are documented in TR-B14, fascicle 2,
2102             // Vol. 3, Section 2, 4.2.8.1
2103             int actual_component_tag = st->stream_identifier - 1;
2104             int picked_profile = FF_PROFILE_UNKNOWN;
2105             int data_component_id = get16(pp, desc_end);
2106             if (data_component_id < 0)
2107                 return AVERROR_INVALIDDATA;
2108
2109             switch (data_component_id) {
2110             case 0x0008:
2111                 // [0x30..0x37] are component tags utilized for
2112                 // non-mobile captioning service ("profile A").
2113                 if (actual_component_tag >= 0x30 &&
2114                     actual_component_tag <= 0x37) {
2115                     picked_profile = FF_PROFILE_ARIB_PROFILE_A;
2116                 }
2117                 break;
2118             case 0x0012:
2119                 // component tag 0x87 signifies a mobile/partial reception
2120                 // (1seg) captioning service ("profile C").
2121                 if (actual_component_tag == 0x87) {
2122                     picked_profile = FF_PROFILE_ARIB_PROFILE_C;
2123                 }
2124                 break;
2125             default:
2126                 break;
2127             }
2128
2129             if (picked_profile == FF_PROFILE_UNKNOWN)
2130                 break;
2131
2132             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2133             st->codecpar->codec_id   = AV_CODEC_ID_ARIB_CAPTION;
2134             st->codecpar->profile    = picked_profile;
2135             st->internal->request_probe        = 0;
2136         }
2137         break;
2138     case 0xb0: /* DOVI video stream descriptor */
2139         {
2140             uint32_t buf;
2141             AVDOVIDecoderConfigurationRecord *dovi;
2142             size_t dovi_size;
2143             int ret;
2144             if (desc_end - *pp < 4) // (8 + 8 + 7 + 6 + 1 + 1 + 1) / 8
2145                 return AVERROR_INVALIDDATA;
2146
2147             dovi = av_dovi_alloc(&dovi_size);
2148             if (!dovi)
2149                 return AVERROR(ENOMEM);
2150
2151             dovi->dv_version_major = get8(pp, desc_end);
2152             dovi->dv_version_minor = get8(pp, desc_end);
2153             buf = get16(pp, desc_end);
2154             dovi->dv_profile        = (buf >> 9) & 0x7f;    // 7 bits
2155             dovi->dv_level          = (buf >> 3) & 0x3f;    // 6 bits
2156             dovi->rpu_present_flag  = (buf >> 2) & 0x01;    // 1 bit
2157             dovi->el_present_flag   = (buf >> 1) & 0x01;    // 1 bit
2158             dovi->bl_present_flag   =  buf       & 0x01;    // 1 bit
2159             if (desc_end - *pp >= 20) {  // 4 + 4 * 4
2160                 buf = get8(pp, desc_end);
2161                 dovi->dv_bl_signal_compatibility_id = (buf >> 4) & 0x0f; // 4 bits
2162             } else {
2163                 // 0 stands for None
2164                 // Dolby Vision V1.2.93 profiles and levels
2165                 dovi->dv_bl_signal_compatibility_id = 0;
2166             }
2167
2168             ret = av_stream_add_side_data(st, AV_PKT_DATA_DOVI_CONF,
2169                                           (uint8_t *)dovi, dovi_size);
2170             if (ret < 0) {
2171                 av_free(dovi);
2172                 return ret;
2173             }
2174
2175             av_log(fc, AV_LOG_TRACE, "DOVI, version: %d.%d, profile: %d, level: %d, "
2176                    "rpu flag: %d, el flag: %d, bl flag: %d, compatibility id: %d\n",
2177                    dovi->dv_version_major, dovi->dv_version_minor,
2178                    dovi->dv_profile, dovi->dv_level,
2179                    dovi->rpu_present_flag,
2180                    dovi->el_present_flag,
2181                    dovi->bl_present_flag,
2182                    dovi->dv_bl_signal_compatibility_id);
2183         }
2184         break;
2185     default:
2186         break;
2187     }
2188     *pp = desc_end;
2189     return 0;
2190 }
2191
2192 static AVStream *find_matching_stream(MpegTSContext *ts, int pid, unsigned int programid,
2193                                       int stream_identifier, int pmt_stream_idx)
2194 {
2195     AVFormatContext *s = ts->stream;
2196     int i;
2197     AVStream *found = NULL;
2198
2199     for (i = 0; i < s->nb_streams; i++) {
2200         AVStream *st = s->streams[i];
2201         if (st->program_num != programid)
2202             continue;
2203         if (stream_identifier != -1) { /* match based on "stream identifier descriptor" if present */
2204             if (st->stream_identifier == stream_identifier+1) {
2205                 found = st;
2206                 break;
2207             }
2208         } else if (st->pmt_stream_idx == pmt_stream_idx) { /* match based on position within the PMT */
2209             found = st;
2210             break;
2211         }
2212     }
2213
2214     if (found) {
2215         av_log(ts->stream, AV_LOG_VERBOSE,
2216                "re-using existing %s stream %d (pid=0x%x) for new pid=0x%x\n",
2217                av_get_media_type_string(found->codecpar->codec_type),
2218                i, found->id, pid);
2219     }
2220
2221     return found;
2222 }
2223
2224 static int parse_stream_identifier_desc(const uint8_t *p, const uint8_t *p_end)
2225 {
2226     const uint8_t **pp = &p;
2227     const uint8_t *desc_list_end;
2228     const uint8_t *desc_end;
2229     int desc_list_len;
2230     int desc_len, desc_tag;
2231
2232     desc_list_len = get16(pp, p_end);
2233     if (desc_list_len < 0)
2234         return -1;
2235     desc_list_len &= 0xfff;
2236     desc_list_end  = p + desc_list_len;
2237     if (desc_list_end > p_end)
2238         return -1;
2239
2240     while (1) {
2241         desc_tag = get8(pp, desc_list_end);
2242         if (desc_tag < 0)
2243             return -1;
2244         desc_len = get8(pp, desc_list_end);
2245         if (desc_len < 0)
2246             return -1;
2247         desc_end = *pp + desc_len;
2248         if (desc_end > desc_list_end)
2249             return -1;
2250
2251         if (desc_tag == 0x52) {
2252             return get8(pp, desc_end);
2253         }
2254         *pp = desc_end;
2255     }
2256
2257     return -1;
2258 }
2259
2260 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
2261 {
2262     return !(stream_type == 0x13 ||
2263              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
2264 }
2265
2266 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2267 {
2268     MpegTSContext *ts = filter->u.section_filter.opaque;
2269     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2270     SectionHeader h1, *h = &h1;
2271     PESContext *pes;
2272     AVStream *st;
2273     const uint8_t *p, *p_end, *desc_list_end;
2274     int program_info_length, pcr_pid, pid, stream_type;
2275     int desc_list_len;
2276     uint32_t prog_reg_desc = 0; /* registration descriptor */
2277     int stream_identifier = -1;
2278     struct Program *prg;
2279
2280     int mp4_descr_count = 0;
2281     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
2282     int i;
2283
2284     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
2285     hex_dump_debug(ts->stream, section, section_len);
2286
2287     p_end = section + section_len - 4;
2288     p = section;
2289     if (parse_section_header(h, &p, p_end) < 0)
2290         return;
2291     if (h->tid != PMT_TID)
2292         return;
2293     if (skip_identical(h, tssf))
2294         return;
2295
2296     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
2297             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
2298
2299     if (!ts->scan_all_pmts && ts->skip_changes)
2300         return;
2301
2302     prg = get_program(ts, h->id);
2303
2304     if (ts->skip_unknown_pmt && !prg)
2305         return;
2306     if (!ts->skip_clear) {
2307         clear_avprogram(ts, h->id);
2308         clear_program(prg);
2309     }
2310
2311     pcr_pid = get16(&p, p_end);
2312     if (pcr_pid < 0)
2313         return;
2314     pcr_pid &= 0x1fff;
2315     add_pid_to_program(prg, pcr_pid);
2316     update_av_program_info(ts->stream, h->id, pcr_pid, h->version);
2317
2318     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
2319
2320     program_info_length = get16(&p, p_end);
2321     if (program_info_length < 0)
2322         return;
2323     program_info_length &= 0xfff;
2324     while (program_info_length >= 2) {
2325         uint8_t tag, len;
2326         tag = get8(&p, p_end);
2327         len = get8(&p, p_end);
2328
2329         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
2330
2331         if (len > program_info_length - 2)
2332             // something else is broken, exit the program_descriptors_loop
2333             break;
2334         program_info_length -= len + 2;
2335         if (tag == IOD_DESCRIPTOR) {
2336             get8(&p, p_end); // scope
2337             get8(&p, p_end); // label
2338             len -= 2;
2339             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
2340                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
2341         } else if (tag == REGISTRATION_DESCRIPTOR && len >= 4) {
2342             prog_reg_desc = bytestream_get_le32(&p);
2343             len -= 4;
2344         }
2345         p += len;
2346     }
2347     p += program_info_length;
2348     if (p >= p_end)
2349         goto out;
2350
2351     // stop parsing after pmt, we found header
2352     if (!ts->pkt)
2353         ts->stop_parse = 2;
2354
2355     if (prg)
2356         prg->pmt_found = 1;
2357
2358     for (i = 0; ; i++) {
2359         st = 0;
2360         pes = NULL;
2361         stream_type = get8(&p, p_end);
2362         if (stream_type < 0)
2363             break;
2364         pid = get16(&p, p_end);
2365         if (pid < 0)
2366             goto out;
2367         pid &= 0x1fff;
2368         if (pid == ts->current_pid)
2369             goto out;
2370
2371         if (ts->merge_pmt_versions)
2372             stream_identifier = parse_stream_identifier_desc(p, p_end);
2373
2374         /* now create stream */
2375         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2376             pes = ts->pids[pid]->u.pes_filter.opaque;
2377             if (ts->merge_pmt_versions && !pes->st) {
2378                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2379                 if (st) {
2380                     pes->st = st;
2381                     pes->stream_type = stream_type;
2382                     pes->merged_st = 1;
2383                 }
2384             }
2385             if (!pes->st) {
2386                 pes->st = avformat_new_stream(pes->stream, NULL);
2387                 if (!pes->st)
2388                     goto out;
2389                 pes->st->id = pes->pid;
2390                 pes->st->program_num = h->id;
2391                 pes->st->pmt_version = h->version;
2392                 pes->st->pmt_stream_idx = i;
2393             }
2394             st = pes->st;
2395         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2396             if (ts->pids[pid])
2397                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2398             pes = add_pes_stream(ts, pid, pcr_pid);
2399             if (ts->merge_pmt_versions && pes && !pes->st) {
2400                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2401                 if (st) {
2402                     pes->st = st;
2403                     pes->stream_type = stream_type;
2404                     pes->merged_st = 1;
2405                 }
2406             }
2407             if (pes && !pes->st) {
2408                 st = avformat_new_stream(pes->stream, NULL);
2409                 if (!st)
2410                     goto out;
2411                 st->id = pes->pid;
2412                 st->program_num = h->id;
2413                 st->pmt_version = h->version;
2414                 st->pmt_stream_idx = i;
2415             }
2416         } else {
2417             int idx = ff_find_stream_index(ts->stream, pid);
2418             if (idx >= 0) {
2419                 st = ts->stream->streams[idx];
2420             }
2421             if (ts->merge_pmt_versions && !st) {
2422                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2423             }
2424             if (!st) {
2425                 st = avformat_new_stream(ts->stream, NULL);
2426                 if (!st)
2427                     goto out;
2428                 st->id = pid;
2429                 st->program_num = h->id;
2430                 st->pmt_version = h->version;
2431                 st->pmt_stream_idx = i;
2432                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2433                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2434                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2435                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2436                 }
2437             }
2438         }
2439
2440         if (!st)
2441             goto out;
2442
2443         if (pes && !pes->stream_type)
2444             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2445
2446         add_pid_to_program(prg, pid);
2447
2448         av_program_add_stream_index(ts->stream, h->id, st->index);
2449
2450         desc_list_len = get16(&p, p_end);
2451         if (desc_list_len < 0)
2452             goto out;
2453         desc_list_len &= 0xfff;
2454         desc_list_end  = p + desc_list_len;
2455         if (desc_list_end > p_end)
2456             goto out;
2457         for (;;) {
2458             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2459                                           desc_list_end, mp4_descr,
2460                                           mp4_descr_count, pid, ts) < 0)
2461                 break;
2462
2463             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2464                 stream_type == 0x83 && pes->sub_st) {
2465                 av_program_add_stream_index(ts->stream, h->id,
2466                                             pes->sub_st->index);
2467                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2468             }
2469         }
2470         p = desc_list_end;
2471     }
2472
2473     if (!ts->pids[pcr_pid])
2474         mpegts_open_pcr_filter(ts, pcr_pid);
2475
2476 out:
2477     for (i = 0; i < mp4_descr_count; i++)
2478         av_free(mp4_descr[i].dec_config_descr);
2479 }
2480
2481 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2482 {
2483     MpegTSContext *ts = filter->u.section_filter.opaque;
2484     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2485     SectionHeader h1, *h = &h1;
2486     const uint8_t *p, *p_end;
2487     int sid, pmt_pid;
2488     AVProgram *program;
2489
2490     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2491     hex_dump_debug(ts->stream, section, section_len);
2492
2493     p_end = section + section_len - 4;
2494     p     = section;
2495     if (parse_section_header(h, &p, p_end) < 0)
2496         return;
2497     if (h->tid != PAT_TID)
2498         return;
2499     if (ts->skip_changes)
2500         return;
2501
2502     if (skip_identical(h, tssf))
2503         return;
2504     ts->stream->ts_id = h->id;
2505
2506     clear_programs(ts);
2507     for (;;) {
2508         sid = get16(&p, p_end);
2509         if (sid < 0)
2510             break;
2511         pmt_pid = get16(&p, p_end);
2512         if (pmt_pid < 0)
2513             break;
2514         pmt_pid &= 0x1fff;
2515
2516         if (pmt_pid == ts->current_pid)
2517             break;
2518
2519         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2520
2521         if (sid == 0x0000) {
2522             /* NIT info */
2523         } else {
2524             MpegTSFilter *fil = ts->pids[pmt_pid];
2525             struct Program *prg;
2526             program = av_new_program(ts->stream, sid);
2527             if (program) {
2528                 program->program_num = sid;
2529                 program->pmt_pid = pmt_pid;
2530             }
2531             if (fil)
2532                 if (   fil->type != MPEGTS_SECTION
2533                     || fil->pid != pmt_pid
2534                     || fil->u.section_filter.section_cb != pmt_cb)
2535                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2536
2537             if (!ts->pids[pmt_pid])
2538                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2539             prg = add_program(ts, sid);
2540             add_pid_to_program(prg, pmt_pid);
2541         }
2542     }
2543
2544     if (sid < 0) {
2545         int i,j;
2546         for (j=0; j<ts->stream->nb_programs; j++) {
2547             for (i = 0; i < ts->nb_prg; i++)
2548                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2549                     break;
2550             if (i==ts->nb_prg && !ts->skip_clear)
2551                 clear_avprogram(ts, ts->stream->programs[j]->id);
2552         }
2553     }
2554 }
2555
2556 static void eit_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2557 {
2558     MpegTSContext *ts = filter->u.section_filter.opaque;
2559     const uint8_t *p, *p_end;
2560     SectionHeader h1, *h = &h1;
2561
2562     /*
2563      * Sometimes we receive EPG packets but SDT table do not have
2564      * eit_pres_following or eit_sched turned on, so we open EPG
2565      * stream directly here.
2566      */
2567     if (!ts->epg_stream) {
2568         ts->epg_stream = avformat_new_stream(ts->stream, NULL);
2569         if (!ts->epg_stream)
2570             return;
2571         ts->epg_stream->id = EIT_PID;
2572         ts->epg_stream->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2573         ts->epg_stream->codecpar->codec_id = AV_CODEC_ID_EPG;
2574     }
2575
2576     if (ts->epg_stream->discard == AVDISCARD_ALL)
2577         return;
2578
2579     p_end = section + section_len - 4;
2580     p     = section;
2581
2582     if (parse_section_header(h, &p, p_end) < 0)
2583         return;
2584     if (h->tid < EIT_TID || h->tid > OEITS_END_TID)
2585         return;
2586
2587     av_log(ts->stream, AV_LOG_TRACE, "EIT: tid received = %.02x\n", h->tid);
2588
2589     /**
2590      * Service_id 0xFFFF is reserved, it indicates that the current EIT table
2591      * is scrambled.
2592      */
2593     if (h->id == 0xFFFF) {
2594         av_log(ts->stream, AV_LOG_TRACE, "Scrambled EIT table received.\n");
2595         return;
2596     }
2597
2598     /**
2599      * In case we receive an EPG packet before mpegts context is fully
2600      * initialized.
2601      */
2602     if (!ts->pkt)
2603         return;
2604
2605     new_data_packet(section, section_len, ts->pkt);
2606     ts->pkt->stream_index = ts->epg_stream->index;
2607     ts->stop_parse = 1;
2608 }
2609
2610 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2611 {
2612     MpegTSContext *ts = filter->u.section_filter.opaque;
2613     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2614     SectionHeader h1, *h = &h1;
2615     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2616     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2617     char *name, *provider_name;
2618
2619     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2620     hex_dump_debug(ts->stream, section, section_len);
2621
2622     p_end = section + section_len - 4;
2623     p     = section;
2624     if (parse_section_header(h, &p, p_end) < 0)
2625         return;
2626     if (h->tid != SDT_TID)
2627         return;
2628     if (ts->skip_changes)
2629         return;
2630     if (skip_identical(h, tssf))
2631         return;
2632
2633     onid = get16(&p, p_end);
2634     if (onid < 0)
2635         return;
2636     val = get8(&p, p_end);
2637     if (val < 0)
2638         return;
2639     for (;;) {
2640         sid = get16(&p, p_end);
2641         if (sid < 0)
2642             break;
2643         val = get8(&p, p_end);
2644         if (val < 0)
2645             break;
2646         desc_list_len = get16(&p, p_end);
2647         if (desc_list_len < 0)
2648             break;
2649         desc_list_len &= 0xfff;
2650         desc_list_end  = p + desc_list_len;
2651         if (desc_list_end > p_end)
2652             break;
2653         for (;;) {
2654             desc_tag = get8(&p, desc_list_end);
2655             if (desc_tag < 0)
2656                 break;
2657             desc_len = get8(&p, desc_list_end);
2658             desc_end = p + desc_len;
2659             if (desc_len < 0 || desc_end > desc_list_end)
2660                 break;
2661
2662             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2663                     desc_tag, desc_len);
2664
2665             switch (desc_tag) {
2666             case 0x48:
2667                 service_type = get8(&p, p_end);
2668                 if (service_type < 0)
2669                     break;
2670                 provider_name = getstr8(&p, p_end);
2671                 if (!provider_name)
2672                     break;
2673                 name = getstr8(&p, p_end);
2674                 if (name) {
2675                     AVProgram *program = av_new_program(ts->stream, sid);
2676                     if (program) {
2677                         av_dict_set(&program->metadata, "service_name", name, 0);
2678                         av_dict_set(&program->metadata, "service_provider",
2679                                     provider_name, 0);
2680                     }
2681                 }
2682                 av_free(name);
2683                 av_free(provider_name);
2684                 break;
2685             default:
2686                 break;
2687             }
2688             p = desc_end;
2689         }
2690         p = desc_list_end;
2691     }
2692 }
2693
2694 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2695                      const uint8_t *packet);
2696
2697 /* handle one TS packet */
2698 static int handle_packet(MpegTSContext *ts, const uint8_t *packet, int64_t pos)
2699 {
2700     MpegTSFilter *tss;
2701     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2702         has_adaptation, has_payload;
2703     const uint8_t *p, *p_end;
2704
2705     pid = AV_RB16(packet + 1) & 0x1fff;
2706     is_start = packet[1] & 0x40;
2707     tss = ts->pids[pid];
2708     if (ts->auto_guess && !tss && is_start) {
2709         add_pes_stream(ts, pid, -1);
2710         tss = ts->pids[pid];
2711     }
2712     if (!tss)
2713         return 0;
2714     if (is_start)
2715         tss->discard = discard_pid(ts, pid);
2716     if (tss->discard)
2717         return 0;
2718     ts->current_pid = pid;
2719
2720     afc = (packet[3] >> 4) & 3;
2721     if (afc == 0) /* reserved value */
2722         return 0;
2723     has_adaptation   = afc & 2;
2724     has_payload      = afc & 1;
2725     is_discontinuity = has_adaptation &&
2726                        packet[4] != 0 && /* with length > 0 */
2727                        (packet[5] & 0x80); /* and discontinuity indicated */
2728
2729     /* continuity check (currently not used) */
2730     cc = (packet[3] & 0xf);
2731     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2732     cc_ok = pid == 0x1FFF || // null packet PID
2733             is_discontinuity ||
2734             tss->last_cc < 0 ||
2735             expected_cc == cc;
2736
2737     tss->last_cc = cc;
2738     if (!cc_ok) {
2739         av_log(ts->stream, AV_LOG_DEBUG,
2740                "Continuity check failed for pid %d expected %d got %d\n",
2741                pid, expected_cc, cc);
2742         if (tss->type == MPEGTS_PES) {
2743             PESContext *pc = tss->u.pes_filter.opaque;
2744             pc->flags |= AV_PKT_FLAG_CORRUPT;
2745         }
2746     }
2747
2748     if (packet[1] & 0x80) {
2749         av_log(ts->stream, AV_LOG_DEBUG, "Packet had TEI flag set; marking as corrupt\n");
2750         if (tss->type == MPEGTS_PES) {
2751             PESContext *pc = tss->u.pes_filter.opaque;
2752             pc->flags |= AV_PKT_FLAG_CORRUPT;
2753         }
2754     }
2755
2756     p = packet + 4;
2757     if (has_adaptation) {
2758         int64_t pcr_h;
2759         int pcr_l;
2760         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2761             tss->last_pcr = pcr_h * 300 + pcr_l;
2762         /* skip adaptation field */
2763         p += p[0] + 1;
2764     }
2765     /* if past the end of packet, ignore */
2766     p_end = packet + TS_PACKET_SIZE;
2767     if (p >= p_end || !has_payload)
2768         return 0;
2769
2770     if (pos >= 0) {
2771         av_assert0(pos >= TS_PACKET_SIZE);
2772         ts->pos47_full = pos - TS_PACKET_SIZE;
2773     }
2774
2775     if (tss->type == MPEGTS_SECTION) {
2776         if (is_start) {
2777             /* pointer field present */
2778             len = *p++;
2779             if (len > p_end - p)
2780                 return 0;
2781             if (len && cc_ok) {
2782                 /* write remaining section bytes */
2783                 write_section_data(ts, tss,
2784                                    p, len, 0);
2785                 /* check whether filter has been closed */
2786                 if (!ts->pids[pid])
2787                     return 0;
2788             }
2789             p += len;
2790             if (p < p_end) {
2791                 write_section_data(ts, tss,
2792                                    p, p_end - p, 1);
2793             }
2794         } else {
2795             if (cc_ok) {
2796                 write_section_data(ts, tss,
2797                                    p, p_end - p, 0);
2798             }
2799         }
2800
2801         // stop find_stream_info from waiting for more streams
2802         // when all programs have received a PMT
2803         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2804             int i;
2805             for (i = 0; i < ts->nb_prg; i++) {
2806                 if (!ts->prg[i].pmt_found)
2807                     break;
2808             }
2809             if (i == ts->nb_prg && ts->nb_prg > 0) {
2810                 int types = 0;
2811                 for (i = 0; i < ts->stream->nb_streams; i++) {
2812                     AVStream *st = ts->stream->streams[i];
2813                     if (st->codecpar->codec_type >= 0)
2814                         types |= 1<<st->codecpar->codec_type;
2815                 }
2816                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2817                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2818                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2819                 }
2820             }
2821         }
2822
2823     } else {
2824         int ret;
2825         // Note: The position here points actually behind the current packet.
2826         if (tss->type == MPEGTS_PES) {
2827             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2828                                                 pos - ts->raw_packet_size)) < 0)
2829                 return ret;
2830         }
2831     }
2832
2833     return 0;
2834 }
2835
2836 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2837 {
2838     MpegTSContext *ts = s->priv_data;
2839     AVIOContext *pb = s->pb;
2840     int c, i;
2841     uint64_t pos = avio_tell(pb);
2842     int64_t back = FFMIN(seekback, pos);
2843
2844     //Special case for files like 01c56b0dc1.ts
2845     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2846         avio_seek(pb, 12 - back, SEEK_CUR);
2847         return 0;
2848     }
2849
2850     avio_seek(pb, -back, SEEK_CUR);
2851
2852     for (i = 0; i < ts->resync_size; i++) {
2853         c = avio_r8(pb);
2854         if (avio_feof(pb))
2855             return AVERROR_EOF;
2856         if (c == 0x47) {
2857             int new_packet_size, ret;
2858             avio_seek(pb, -1, SEEK_CUR);
2859             pos = avio_tell(pb);
2860             ret = ffio_ensure_seekback(pb, PROBE_PACKET_MAX_BUF);
2861             if (ret < 0)
2862                 return ret;
2863             new_packet_size = get_packet_size(s);
2864             if (new_packet_size > 0 && new_packet_size != ts->raw_packet_size) {
2865                 av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", new_packet_size);
2866                 ts->raw_packet_size = new_packet_size;
2867             }
2868             avio_seek(pb, pos, SEEK_SET);
2869             return 0;
2870         }
2871     }
2872     av_log(s, AV_LOG_ERROR,
2873            "max resync size reached, could not find sync byte\n");
2874     /* no sync found */
2875     return AVERROR_INVALIDDATA;
2876 }
2877
2878 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2879 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2880                        const uint8_t **data)
2881 {
2882     AVIOContext *pb = s->pb;
2883     int len;
2884
2885     for (;;) {
2886         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2887         if (len != TS_PACKET_SIZE)
2888             return len < 0 ? len : AVERROR_EOF;
2889         /* check packet sync byte */
2890         if ((*data)[0] != 0x47) {
2891             /* find a new packet start */
2892
2893             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2894                 return AVERROR(EAGAIN);
2895             else
2896                 continue;
2897         } else {
2898             break;
2899         }
2900     }
2901     return 0;
2902 }
2903
2904 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2905 {
2906     AVIOContext *pb = s->pb;
2907     int skip = raw_packet_size - TS_PACKET_SIZE;
2908     if (skip > 0)
2909         avio_skip(pb, skip);
2910 }
2911
2912 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2913 {
2914     AVFormatContext *s = ts->stream;
2915     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2916     const uint8_t *data;
2917     int64_t packet_num;
2918     int ret = 0;
2919
2920     if (avio_tell(s->pb) != ts->last_pos) {
2921         int i;
2922         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2923         /* seek detected, flush pes buffer */
2924         for (i = 0; i < NB_PID_MAX; i++) {
2925             if (ts->pids[i]) {
2926                 if (ts->pids[i]->type == MPEGTS_PES) {
2927                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2928                     av_buffer_unref(&pes->buffer);
2929                     pes->data_index = 0;
2930                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2931                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2932                     ts->pids[i]->u.section_filter.last_ver = -1;
2933                 }
2934                 ts->pids[i]->last_cc = -1;
2935                 ts->pids[i]->last_pcr = -1;
2936             }
2937         }
2938     }
2939
2940     ts->stop_parse = 0;
2941     packet_num = 0;
2942     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2943     for (;;) {
2944         packet_num++;
2945         if (nb_packets != 0 && packet_num >= nb_packets ||
2946             ts->stop_parse > 1) {
2947             ret = AVERROR(EAGAIN);
2948             break;
2949         }
2950         if (ts->stop_parse > 0)
2951             break;
2952
2953         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2954         if (ret != 0)
2955             break;
2956         ret = handle_packet(ts, data, avio_tell(s->pb));
2957         finished_reading_packet(s, ts->raw_packet_size);
2958         if (ret != 0)
2959             break;
2960     }
2961     ts->last_pos = avio_tell(s->pb);
2962     return ret;
2963 }
2964
2965 static int mpegts_probe(const AVProbeData *p)
2966 {
2967     const int size = p->buf_size;
2968     int maxscore = 0;
2969     int sumscore = 0;
2970     int i;
2971     int check_count = size / TS_FEC_PACKET_SIZE;
2972 #define CHECK_COUNT 10
2973 #define CHECK_BLOCK 100
2974
2975     if (!check_count)
2976         return 0;
2977
2978     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2979         int left = FFMIN(check_count - i, CHECK_BLOCK);
2980         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2981         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2982         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2983         score = FFMAX3(score, dvhs_score, fec_score);
2984         sumscore += score;
2985         maxscore = FFMAX(maxscore, score);
2986     }
2987
2988     sumscore = sumscore * CHECK_COUNT / check_count;
2989     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2990
2991     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2992
2993     if        (check_count > CHECK_COUNT && sumscore > 6) {
2994         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2995     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
2996         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2997     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
2998         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2999     } else if (sumscore > 6) {
3000         return 2;
3001     } else {
3002         return 0;
3003     }
3004 }
3005
3006 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
3007  * (-1) if not available */
3008 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
3009 {
3010     int afc, len, flags;
3011     const uint8_t *p;
3012     unsigned int v;
3013
3014     afc = (packet[3] >> 4) & 3;
3015     if (afc <= 1)
3016         return AVERROR_INVALIDDATA;
3017     p   = packet + 4;
3018     len = p[0];
3019     p++;
3020     if (len == 0)
3021         return AVERROR_INVALIDDATA;
3022     flags = *p++;
3023     len--;
3024     if (!(flags & 0x10))
3025         return AVERROR_INVALIDDATA;
3026     if (len < 6)
3027         return AVERROR_INVALIDDATA;
3028     v          = AV_RB32(p);
3029     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
3030     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
3031     return 0;
3032 }
3033
3034 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
3035
3036     /* NOTE: We attempt to seek on non-seekable files as well, as the
3037      * probe buffer usually is big enough. Only warn if the seek failed
3038      * on files where the seek should work. */
3039     if (avio_seek(pb, pos, SEEK_SET) < 0)
3040         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
3041 }
3042
3043 static int mpegts_read_header(AVFormatContext *s)
3044 {
3045     MpegTSContext *ts = s->priv_data;
3046     AVIOContext *pb   = s->pb;
3047     int64_t pos, probesize = s->probesize;
3048     int64_t seekback = FFMAX(s->probesize, (int64_t)ts->resync_size + PROBE_PACKET_MAX_BUF);
3049
3050     s->internal->prefer_codec_framerate = 1;
3051
3052     if (ffio_ensure_seekback(pb, seekback) < 0)
3053         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
3054
3055     pos = avio_tell(pb);
3056     ts->raw_packet_size = get_packet_size(s);
3057     if (ts->raw_packet_size <= 0) {
3058         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
3059         ts->raw_packet_size = TS_PACKET_SIZE;
3060     }
3061     ts->stream     = s;
3062     ts->auto_guess = 0;
3063
3064     if (s->iformat == &ff_mpegts_demuxer) {
3065         /* normal demux */
3066
3067         /* first do a scan to get all the services */
3068         seek_back(s, pb, pos);
3069
3070         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3071         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3072         mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3073
3074         handle_packets(ts, probesize / ts->raw_packet_size);
3075         /* if could not find service, enable auto_guess */
3076
3077         ts->auto_guess = 1;
3078
3079         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
3080
3081         s->ctx_flags |= AVFMTCTX_NOHEADER;
3082     } else {
3083         AVStream *st;
3084         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
3085         int64_t pcrs[2], pcr_h;
3086         uint8_t packet[TS_PACKET_SIZE];
3087         const uint8_t *data;
3088
3089         /* only read packets */
3090
3091         st = avformat_new_stream(s, NULL);
3092         if (!st)
3093             return AVERROR(ENOMEM);
3094         avpriv_set_pts_info(st, 60, 1, 27000000);
3095         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
3096         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
3097
3098         /* we iterate until we find two PCRs to estimate the bitrate */
3099         pcr_pid    = -1;
3100         nb_pcrs    = 0;
3101         nb_packets = 0;
3102         for (;;) {
3103             ret = read_packet(s, packet, ts->raw_packet_size, &data);
3104             if (ret < 0)
3105                 return ret;
3106             pid = AV_RB16(data + 1) & 0x1fff;
3107             if ((pcr_pid == -1 || pcr_pid == pid) &&
3108                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
3109                 finished_reading_packet(s, ts->raw_packet_size);
3110                 pcr_pid = pid;
3111                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
3112                 nb_pcrs++;
3113                 if (nb_pcrs >= 2) {
3114                     if (pcrs[1] - pcrs[0] > 0) {
3115                         /* the difference needs to be positive to make sense for bitrate computation */
3116                         break;
3117                     } else {
3118                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
3119                         pcrs[0] = pcrs[1];
3120                         nb_pcrs--;
3121                     }
3122                 }
3123             } else {
3124                 finished_reading_packet(s, ts->raw_packet_size);
3125             }
3126             nb_packets++;
3127         }
3128
3129         /* NOTE1: the bitrate is computed without the FEC */
3130         /* NOTE2: it is only the bitrate of the start of the stream */
3131         ts->pcr_incr = pcrs[1] - pcrs[0];
3132         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * (nb_packets - 1);
3133         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
3134         st->codecpar->bit_rate = s->bit_rate;
3135         st->start_time      = ts->cur_pcr;
3136         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%"PRId64"\n",
3137                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
3138     }
3139
3140     seek_back(s, pb, pos);
3141     return 0;
3142 }
3143
3144 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
3145
3146 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
3147 {
3148     MpegTSContext *ts = s->priv_data;
3149     int ret, i;
3150     int64_t pcr_h, next_pcr_h, pos;
3151     int pcr_l, next_pcr_l;
3152     uint8_t pcr_buf[12];
3153     const uint8_t *data;
3154
3155     if ((ret = av_new_packet(pkt, TS_PACKET_SIZE)) < 0)
3156         return ret;
3157     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
3158     pkt->pos = avio_tell(s->pb);
3159     if (ret < 0) {
3160         return ret;
3161     }
3162     if (data != pkt->data)
3163         memcpy(pkt->data, data, TS_PACKET_SIZE);
3164     finished_reading_packet(s, ts->raw_packet_size);
3165     if (ts->mpeg2ts_compute_pcr) {
3166         /* compute exact PCR for each packet */
3167         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
3168             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
3169             pos = avio_tell(s->pb);
3170             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
3171                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
3172                 avio_read(s->pb, pcr_buf, 12);
3173                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
3174                     /* XXX: not precise enough */
3175                     ts->pcr_incr =
3176                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
3177                         (i + 1);
3178                     break;
3179                 }
3180             }
3181             avio_seek(s->pb, pos, SEEK_SET);
3182             /* no next PCR found: we use previous increment */
3183             ts->cur_pcr = pcr_h * 300 + pcr_l;
3184         }
3185         pkt->pts      = ts->cur_pcr;
3186         pkt->duration = ts->pcr_incr;
3187         ts->cur_pcr  += ts->pcr_incr;
3188     }
3189     pkt->stream_index = 0;
3190     return 0;
3191 }
3192
3193 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
3194 {
3195     MpegTSContext *ts = s->priv_data;
3196     int ret, i;
3197
3198     pkt->size = -1;
3199     ts->pkt = pkt;
3200     ret = handle_packets(ts, 0);
3201     if (ret < 0) {
3202         av_packet_unref(ts->pkt);
3203         /* flush pes data left */
3204         for (i = 0; i < NB_PID_MAX; i++)
3205             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
3206                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
3207                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
3208                     ret = new_pes_packet(pes, pkt);
3209                     if (ret < 0)
3210                         return ret;
3211                     pes->state = MPEGTS_SKIP;
3212                     ret = 0;
3213                     break;
3214                 }
3215             }
3216     }
3217
3218     if (!ret && pkt->size < 0)
3219         ret = AVERROR_INVALIDDATA;
3220     return ret;
3221 }
3222
3223 static void mpegts_free(MpegTSContext *ts)
3224 {
3225     int i;
3226
3227     clear_programs(ts);
3228
3229     for (i = 0; i < FF_ARRAY_ELEMS(ts->pools); i++)
3230         av_buffer_pool_uninit(&ts->pools[i]);
3231
3232     for (i = 0; i < NB_PID_MAX; i++)
3233         if (ts->pids[i])
3234             mpegts_close_filter(ts, ts->pids[i]);
3235 }
3236
3237 static int mpegts_read_close(AVFormatContext *s)
3238 {
3239     MpegTSContext *ts = s->priv_data;
3240     mpegts_free(ts);
3241     return 0;
3242 }
3243
3244 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
3245                               int64_t *ppos, int64_t pos_limit)
3246 {
3247     MpegTSContext *ts = s->priv_data;
3248     int64_t pos, timestamp;
3249     uint8_t buf[TS_PACKET_SIZE];
3250     int pcr_l, pcr_pid =
3251         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
3252     int pos47 = ts->pos47_full % ts->raw_packet_size;
3253     pos =
3254         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
3255         ts->raw_packet_size + pos47;
3256     while(pos < pos_limit) {
3257         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3258             return AV_NOPTS_VALUE;
3259         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
3260             return AV_NOPTS_VALUE;
3261         if (buf[0] != 0x47) {
3262             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
3263                 return AV_NOPTS_VALUE;
3264             pos = avio_tell(s->pb);
3265             continue;
3266         }
3267         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
3268             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
3269             *ppos = pos;
3270             return timestamp;
3271         }
3272         pos += ts->raw_packet_size;
3273     }
3274
3275     return AV_NOPTS_VALUE;
3276 }
3277
3278 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
3279                               int64_t *ppos, int64_t pos_limit)
3280 {
3281     MpegTSContext *ts = s->priv_data;
3282     int64_t pos;
3283     int pos47 = ts->pos47_full % ts->raw_packet_size;
3284     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
3285     ff_read_frame_flush(s);
3286     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3287         return AV_NOPTS_VALUE;
3288     while(pos < pos_limit) {
3289         int ret;
3290         AVPacket pkt;
3291         av_init_packet(&pkt);
3292         ret = av_read_frame(s, &pkt);
3293         if (ret < 0)
3294             return AV_NOPTS_VALUE;
3295         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
3296             ff_reduce_index(s, pkt.stream_index);
3297             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
3298             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
3299                 int64_t dts = pkt.dts;
3300                 *ppos = pkt.pos;
3301                 av_packet_unref(&pkt);
3302                 return dts;
3303             }
3304         }
3305         pos = pkt.pos;
3306         av_packet_unref(&pkt);
3307     }
3308
3309     return AV_NOPTS_VALUE;
3310 }
3311
3312 /**************************************************************/
3313 /* parsing functions - called from other demuxers such as RTP */
3314
3315 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
3316 {
3317     MpegTSContext *ts;
3318
3319     ts = av_mallocz(sizeof(MpegTSContext));
3320     if (!ts)
3321         return NULL;
3322     /* no stream case, currently used by RTP */
3323     ts->raw_packet_size = TS_PACKET_SIZE;
3324     ts->stream = s;
3325     ts->auto_guess = 1;
3326
3327     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3328     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3329     mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3330
3331     return ts;
3332 }
3333
3334 /* return the consumed length if a packet was output, or -1 if no
3335  * packet is output */
3336 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
3337                                const uint8_t *buf, int len)
3338 {
3339     int len1;
3340
3341     len1 = len;
3342     ts->pkt = pkt;
3343     for (;;) {
3344         ts->stop_parse = 0;
3345         if (len < TS_PACKET_SIZE)
3346             return AVERROR_INVALIDDATA;
3347         if (buf[0] != 0x47) {
3348             buf++;
3349             len--;
3350         } else {
3351             handle_packet(ts, buf, len1 - len + TS_PACKET_SIZE);
3352             buf += TS_PACKET_SIZE;
3353             len -= TS_PACKET_SIZE;
3354             if (ts->stop_parse == 1)
3355                 break;
3356         }
3357     }
3358     return len1 - len;
3359 }
3360
3361 void avpriv_mpegts_parse_close(MpegTSContext *ts)
3362 {
3363     mpegts_free(ts);
3364     av_free(ts);
3365 }
3366
3367 AVInputFormat ff_mpegts_demuxer = {
3368     .name           = "mpegts",
3369     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
3370     .priv_data_size = sizeof(MpegTSContext),
3371     .read_probe     = mpegts_probe,
3372     .read_header    = mpegts_read_header,
3373     .read_packet    = mpegts_read_packet,
3374     .read_close     = mpegts_read_close,
3375     .read_timestamp = mpegts_get_dts,
3376     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3377     .priv_class     = &mpegts_class,
3378 };
3379
3380 AVInputFormat ff_mpegtsraw_demuxer = {
3381     .name           = "mpegtsraw",
3382     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
3383     .priv_data_size = sizeof(MpegTSContext),
3384     .read_header    = mpegts_read_header,
3385     .read_packet    = mpegts_raw_read_packet,
3386     .read_close     = mpegts_read_close,
3387     .read_timestamp = mpegts_get_dts,
3388     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3389     .priv_class     = &mpegtsraw_class,
3390 };