git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG-2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/internal.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/dict.h"
  28 #include "libavutil/mathematics.h"
  29 #include "libavutil/opt.h"
  30 #include "libavutil/avassert.h"
  31 #include "libavutil/dovi_meta.h"
  32 #include "libavcodec/bytestream.h"
  33 #include "libavcodec/get_bits.h"
  34 #include "libavcodec/opus.h"
  35 #include "avformat.h"
  36 #include "mpegts.h"
  37 #include "internal.h"
  38 #include "avio_internal.h"
  39 #include "mpeg.h"
  40 #include "isom.h"
  41 #if CONFIG_ICONV
  42 #include <iconv.h>
  43 #endif
  44
  45 /* maximum size in which we look for synchronization if
  46  * synchronization is lost */
  47 #define MAX_RESYNC_SIZE 65536
  48
  49 #define MAX_PES_PAYLOAD 200 * 1024
  50
  51 #define MAX_MP4_DESCR_COUNT 16
  52
  53 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  54     do {                                                                       \
  55         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  56             (modulus) = (dividend) % (divisor);                                \
  57         (prev_dividend) = (dividend);                                          \
  58     } while (0)
  59
  60 #define PROBE_PACKET_MAX_BUF 8192
  61 #define PROBE_PACKET_MARGIN 5
  62
  63 enum MpegTSFilterType {
  64     MPEGTS_PES,
  65     MPEGTS_SECTION,
  66     MPEGTS_PCR,
  67 };
  68
  69 typedef struct MpegTSFilter MpegTSFilter;
  70
  71 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  72                          int is_start, int64_t pos);
  73
  74 typedef struct MpegTSPESFilter {
  75     PESCallback *pes_cb;
  76     void *opaque;
  77 } MpegTSPESFilter;
  78
  79 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  80
  81 typedef void SetServiceCallback (void *opaque, int ret);
  82
  83 typedef struct MpegTSSectionFilter {
  84     int section_index;
  85     int section_h_size;
  86     int last_ver;
  87     unsigned crc;
  88     unsigned last_crc;
  89     uint8_t *section_buf;
  90     unsigned int check_crc : 1;
  91     unsigned int end_of_section_reached : 1;
  92     SectionCallback *section_cb;
  93     void *opaque;
  94 } MpegTSSectionFilter;
  95
  96 struct MpegTSFilter {
  97     int pid;
  98     int es_id;
  99     int last_cc; /* last cc code (-1 if first packet) */
 100     int64_t last_pcr;
 101     int discard;
 102     enum MpegTSFilterType type;
 103     union {
 104         MpegTSPESFilter pes_filter;
 105         MpegTSSectionFilter section_filter;
 106     } u;
 107 };
 108
 109 #define MAX_PIDS_PER_PROGRAM 64
 110 struct Program {
 111     unsigned int id; // program id/service id
 112     unsigned int nb_pids;
 113     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 114
 115     /** have we found pmt for this program */
 116     int pmt_found;
 117 };
 118
 119 struct MpegTSContext {
 120     const AVClass *class;
 121     /* user data */
 122     AVFormatContext *stream;
 123     /** raw packet size, including FEC if present */
 124     int raw_packet_size;
 125
 126     int size_stat[3];
 127     int size_stat_count;
 128 #define SIZE_STAT_THRESHOLD 10
 129
 130     int64_t pos47_full;
 131
 132     /** if true, all pids are analyzed to find streams */
 133     int auto_guess;
 134
 135     /** compute exact PCR for each transport stream packet */
 136     int mpeg2ts_compute_pcr;
 137
 138     /** fix dvb teletext pts                                 */
 139     int fix_teletext_pts;
 140
 141     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 142     int pcr_incr;       /**< used to estimate the exact PCR */
 143
 144     /* data needed to handle file based ts */
 145     /** stop parsing loop */
 146     int stop_parse;
 147     /** packet containing Audio/Video data */
 148     AVPacket *pkt;
 149     /** to detect seek */
 150     int64_t last_pos;
 151
 152     int skip_changes;
 153     int skip_clear;
 154     int skip_unknown_pmt;
 155
 156     int scan_all_pmts;
 157
 158     int resync_size;
 159     int merge_pmt_versions;
 160
 161     /******************************************/
 162     /* private mpegts data */
 163     /* scan context */
 164     /** structure to keep track of Program->pids mapping */
 165     unsigned int nb_prg;
 166     struct Program *prg;
 167
 168     int8_t crc_validity[NB_PID_MAX];
 169     /** filters for various streams specified by PMT + for the PAT and PMT */
 170     MpegTSFilter *pids[NB_PID_MAX];
 171     int current_pid;
 172
 173     AVStream *epg_stream;
 174     AVBufferPool* pools[32];
 175 };
 176
 177 #define MPEGTS_OPTIONS \
 178     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 179
 180 static const AVOption options[] = {
 181     MPEGTS_OPTIONS,
 182     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 183      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 184     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 185      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 186     {"scan_all_pmts", "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 187      {.i64 = -1}, -1, 1, AV_OPT_FLAG_DECODING_PARAM },
 188     {"skip_unknown_pmt", "skip PMTs for programs not advertised in the PAT", offsetof(MpegTSContext, skip_unknown_pmt), AV_OPT_TYPE_BOOL,
 189      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 190     {"merge_pmt_versions", "re-use streams when PMT's version/pids change", offsetof(MpegTSContext, merge_pmt_versions), AV_OPT_TYPE_BOOL,
 191      {.i64 = 0}, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 192     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 193      {.i64 = 0}, 0, 1, 0 },
 194     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 195      {.i64 = 0}, 0, 1, 0 },
 196     { NULL },
 197 };
 198
 199 static const AVClass mpegts_class = {
 200     .class_name = "mpegts demuxer",
 201     .item_name  = av_default_item_name,
 202     .option     = options,
 203     .version    = LIBAVUTIL_VERSION_INT,
 204 };
 205
 206 static const AVOption raw_options[] = {
 207     MPEGTS_OPTIONS,
 208     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 209           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 210           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 211     { "ts_packetsize", "output option carrying the raw packet size",
 212       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 213       { .i64 = 0 }, 0, 0,
 214       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 215     { NULL },
 216 };
 217
 218 static const AVClass mpegtsraw_class = {
 219     .class_name = "mpegtsraw demuxer",
 220     .item_name  = av_default_item_name,
 221     .option     = raw_options,
 222     .version    = LIBAVUTIL_VERSION_INT,
 223 };
 224
 225 /* TS stream handling */
 226
 227 enum MpegTSState {
 228     MPEGTS_HEADER = 0,
 229     MPEGTS_PESHEADER,
 230     MPEGTS_PESHEADER_FILL,
 231     MPEGTS_PAYLOAD,
 232     MPEGTS_SKIP,
 233 };
 234
 235 /* enough for PES header + length */
 236 #define PES_START_SIZE  6
 237 #define PES_HEADER_SIZE 9
 238 #define MAX_PES_HEADER_SIZE (9 + 255)
 239
 240 typedef struct PESContext {
 241     int pid;
 242     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 243     int stream_type;
 244     MpegTSContext *ts;
 245     AVFormatContext *stream;
 246     AVStream *st;
 247     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 248     enum MpegTSState state;
 249     /* used to get the format */
 250     int data_index;
 251     int flags; /**< copied to the AVPacket flags */
 252     int total_size;
 253     int pes_header_size;
 254     int extended_stream_id;
 255     uint8_t stream_id;
 256     int64_t pts, dts;
 257     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 258     uint8_t header[MAX_PES_HEADER_SIZE];
 259     AVBufferRef *buffer;
 260     SLConfigDescr sl;
 261     int merged_st;
 262 } PESContext;
 263
 264 extern AVInputFormat ff_mpegts_demuxer;
 265
 266 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 267 {
 268     int i;
 269     for (i = 0; i < ts->nb_prg; i++) {
 270         if (ts->prg[i].id == programid) {
 271             return &ts->prg[i];
 272         }
 273     }
 274     return NULL;
 275 }
 276
 277 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 278 {
 279     AVProgram *prg = NULL;
 280     int i;
 281
 282     for (i = 0; i < ts->stream->nb_programs; i++)
 283         if (ts->stream->programs[i]->id == programid) {
 284             prg = ts->stream->programs[i];
 285             break;
 286         }
 287     if (!prg)
 288         return;
 289     prg->nb_stream_indexes = 0;
 290 }
 291
 292 static void clear_program(MpegTSContext *ts, unsigned int programid)
 293 {
 294     int i;
 295
 296     clear_avprogram(ts, programid);
 297     for (i = 0; i < ts->nb_prg; i++)
 298         if (ts->prg[i].id == programid) {
 299             ts->prg[i].nb_pids = 0;
 300             ts->prg[i].pmt_found = 0;
 301         }
 302 }
 303
 304 static void clear_programs(MpegTSContext *ts)
 305 {
 306     av_freep(&ts->prg);
 307     ts->nb_prg = 0;
 308 }
 309
 310 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
 311 {
 312     struct Program *p;
 313     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 314         ts->nb_prg = 0;
 315         return;
 316     }
 317     p = &ts->prg[ts->nb_prg];
 318     p->id = programid;
 319     p->nb_pids = 0;
 320     p->pmt_found = 0;
 321     ts->nb_prg++;
 322 }
 323
 324 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
 325                            unsigned int pid)
 326 {
 327     struct Program *p = get_program(ts, programid);
 328     int i;
 329     if (!p)
 330         return;
 331
 332     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 333         return;
 334
 335     for (i = 0; i < p->nb_pids; i++)
 336         if (p->pids[i] == pid)
 337             return;
 338
 339     p->pids[p->nb_pids++] = pid;
 340 }
 341
 342 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
 343 {
 344     struct Program *p = get_program(ts, programid);
 345     if (!p)
 346         return;
 347
 348     p->pmt_found = 1;
 349 }
 350
 351 static void update_av_program_info(AVFormatContext *s, unsigned int programid,
 352                                    unsigned int pid, int version)
 353 {
 354     int i;
 355     for (i = 0; i < s->nb_programs; i++) {
 356         AVProgram *program = s->programs[i];
 357         if (program->id == programid) {
 358             int old_pcr_pid = program->pcr_pid,
 359                 old_version = program->pmt_version;
 360             program->pcr_pid = pid;
 361             program->pmt_version = version;
 362
 363             if (old_version != -1 && old_version != version) {
 364                 av_log(s, AV_LOG_VERBOSE,
 365                        "detected PMT change (program=%d, version=%d/%d, pcr_pid=0x%x/0x%x)\n",
 366                        programid, old_version, version, old_pcr_pid, pid);
 367             }
 368             break;
 369         }
 370     }
 371 }
 372
 373 /**
 374  * @brief discard_pid() decides if the pid is to be discarded according
 375  *                      to caller's programs selection
 376  * @param ts    : - TS context
 377  * @param pid   : - pid
 378  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 379  *         0 otherwise
 380  */
 381 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 382 {
 383     int i, j, k;
 384     int used = 0, discarded = 0;
 385     struct Program *p;
 386
 387     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 388      * no way we have to discard this packet */
 389     for (k = 0; k < ts->stream->nb_programs; k++)
 390         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 391             break;
 392     if (k == ts->stream->nb_programs)
 393         return 0;
 394
 395     for (i = 0; i < ts->nb_prg; i++) {
 396         p = &ts->prg[i];
 397         for (j = 0; j < p->nb_pids; j++) {
 398             if (p->pids[j] != pid)
 399                 continue;
 400             // is program with id p->id set to be discarded?
 401             for (k = 0; k < ts->stream->nb_programs; k++) {
 402                 if (ts->stream->programs[k]->id == p->id) {
 403                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 404                         discarded++;
 405                     else
 406                         used++;
 407                 }
 408             }
 409         }
 410     }
 411
 412     return !used && discarded;
 413 }
 414
 415 /**
 416  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 417  *  function when they are complete.
 418  */
 419 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 420                                const uint8_t *buf, int buf_size, int is_start)
 421 {
 422     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 423     uint8_t *cur_section_buf = NULL;
 424     int len, offset;
 425
 426     if (is_start) {
 427         memcpy(tss->section_buf, buf, buf_size);
 428         tss->section_index = buf_size;
 429         tss->section_h_size = -1;
 430         tss->end_of_section_reached = 0;
 431     } else {
 432         if (tss->end_of_section_reached)
 433             return;
 434         len = MAX_SECTION_SIZE - tss->section_index;
 435         if (buf_size < len)
 436             len = buf_size;
 437         memcpy(tss->section_buf + tss->section_index, buf, len);
 438         tss->section_index += len;
 439     }
 440
 441     offset = 0;
 442     cur_section_buf = tss->section_buf;
 443     while (cur_section_buf - tss->section_buf < MAX_SECTION_SIZE && cur_section_buf[0] != 0xff) {
 444         /* compute section length if possible */
 445         if (tss->section_h_size == -1 && tss->section_index - offset >= 3) {
 446             len = (AV_RB16(cur_section_buf + 1) & 0xfff) + 3;
 447             if (len > MAX_SECTION_SIZE)
 448                 return;
 449             tss->section_h_size = len;
 450         }
 451
 452         if (tss->section_h_size != -1 &&
 453             tss->section_index >= offset + tss->section_h_size) {
 454             int crc_valid = 1;
 455             tss->end_of_section_reached = 1;
 456
 457             if (tss->check_crc) {
 458                 crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, cur_section_buf, tss->section_h_size);
 459                 if (tss->section_h_size >= 4)
 460                     tss->crc = AV_RB32(cur_section_buf + tss->section_h_size - 4);
 461
 462                 if (crc_valid) {
 463                     ts->crc_validity[ tss1->pid ] = 100;
 464                 }else if (ts->crc_validity[ tss1->pid ] > -10) {
 465                     ts->crc_validity[ tss1->pid ]--;
 466                 }else
 467                     crc_valid = 2;
 468             }
 469             if (crc_valid) {
 470                 tss->section_cb(tss1, cur_section_buf, tss->section_h_size);
 471                 if (crc_valid != 1)
 472                     tss->last_ver = -1;
 473             }
 474
 475             cur_section_buf += tss->section_h_size;
 476             offset += tss->section_h_size;
 477             tss->section_h_size = -1;
 478         } else {
 479             tss->section_h_size = -1;
 480             tss->end_of_section_reached = 0;
 481             break;
 482         }
 483     }
 484 }
 485
 486 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 487                                         enum MpegTSFilterType type)
 488 {
 489     MpegTSFilter *filter;
 490
 491     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
 492
 493     if (pid >= NB_PID_MAX || ts->pids[pid])
 494         return NULL;
 495     filter = av_mallocz(sizeof(MpegTSFilter));
 496     if (!filter)
 497         return NULL;
 498     ts->pids[pid] = filter;
 499
 500     filter->type    = type;
 501     filter->pid     = pid;
 502     filter->es_id   = -1;
 503     filter->last_cc = -1;
 504     filter->last_pcr= -1;
 505
 506     return filter;
 507 }
 508
 509 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 510                                                 unsigned int pid,
 511                                                 SectionCallback *section_cb,
 512                                                 void *opaque,
 513                                                 int check_crc)
 514 {
 515     MpegTSFilter *filter;
 516     MpegTSSectionFilter *sec;
 517
 518     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
 519         return NULL;
 520     sec = &filter->u.section_filter;
 521     sec->section_cb  = section_cb;
 522     sec->opaque      = opaque;
 523     sec->section_buf = av_mallocz(MAX_SECTION_SIZE);
 524     sec->check_crc   = check_crc;
 525     sec->last_ver    = -1;
 526
 527     if (!sec->section_buf) {
 528         av_free(filter);
 529         return NULL;
 530     }
 531     return filter;
 532 }
 533
 534 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 535                                             PESCallback *pes_cb,
 536                                             void *opaque)
 537 {
 538     MpegTSFilter *filter;
 539     MpegTSPESFilter *pes;
 540
 541     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 542         return NULL;
 543
 544     pes = &filter->u.pes_filter;
 545     pes->pes_cb = pes_cb;
 546     pes->opaque = opaque;
 547     return filter;
 548 }
 549
 550 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 551 {
 552     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 553 }
 554
 555 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 556 {
 557     int pid;
 558
 559     pid = filter->pid;
 560     if (filter->type == MPEGTS_SECTION)
 561         av_freep(&filter->u.section_filter.section_buf);
 562     else if (filter->type == MPEGTS_PES) {
 563         PESContext *pes = filter->u.pes_filter.opaque;
 564         av_buffer_unref(&pes->buffer);
 565         /* referenced private data will be freed later in
 566          * avformat_close_input (pes->st->priv_data == pes) */
 567         if (!pes->st || pes->merged_st) {
 568             av_freep(&filter->u.pes_filter.opaque);
 569         }
 570     }
 571
 572     av_free(filter);
 573     ts->pids[pid] = NULL;
 574 }
 575
 576 static int analyze(const uint8_t *buf, int size, int packet_size,
 577                    int probe)
 578 {
 579     int stat[TS_MAX_PACKET_SIZE];
 580     int stat_all = 0;
 581     int i;
 582     int best_score = 0;
 583
 584     memset(stat, 0, packet_size * sizeof(*stat));
 585
 586     for (i = 0; i < size - 3; i++) {
 587         if (buf[i] == 0x47) {
 588             int pid = AV_RB16(buf+1) & 0x1FFF;
 589             int asc = buf[i + 3] & 0x30;
 590             if (!probe || pid == 0x1FFF || asc) {
 591                 int x = i % packet_size;
 592                 stat[x]++;
 593                 stat_all++;
 594                 if (stat[x] > best_score) {
 595                     best_score = stat[x];
 596                 }
 597             }
 598         }
 599     }
 600
 601     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 602 }
 603
 604 /* autodetect fec presence */
 605 static int get_packet_size(AVFormatContext* s)
 606 {
 607     int score, fec_score, dvhs_score;
 608     int margin;
 609     int ret;
 610
 611     /*init buffer to store stream for probing */
 612     uint8_t buf[PROBE_PACKET_MAX_BUF] = {0};
 613     int buf_size = 0;
 614
 615     while (buf_size < PROBE_PACKET_MAX_BUF) {
 616         ret = avio_read_partial(s->pb, buf + buf_size, PROBE_PACKET_MAX_BUF - buf_size);
 617         if (ret < 0)
 618             return AVERROR_INVALIDDATA;
 619         buf_size += ret;
 620
 621         score      = analyze(buf, buf_size, TS_PACKET_SIZE,      0);
 622         dvhs_score = analyze(buf, buf_size, TS_DVHS_PACKET_SIZE, 0);
 623         fec_score  = analyze(buf, buf_size, TS_FEC_PACKET_SIZE,  0);
 624         av_log(s, AV_LOG_TRACE, "Probe: %d, score: %d, dvhs_score: %d, fec_score: %d \n",
 625             buf_size, score, dvhs_score, fec_score);
 626
 627         margin = mid_pred(score, fec_score, dvhs_score);
 628
 629         if (buf_size < PROBE_PACKET_MAX_BUF)
 630             margin += PROBE_PACKET_MARGIN; /*if buffer not filled */
 631
 632         if (score > margin)
 633             return TS_PACKET_SIZE;
 634         else if (dvhs_score > margin)
 635             return TS_DVHS_PACKET_SIZE;
 636         else if (fec_score > margin)
 637             return TS_FEC_PACKET_SIZE;
 638     }
 639     return AVERROR_INVALIDDATA;
 640 }
 641
 642 typedef struct SectionHeader {
 643     uint8_t tid;
 644     uint16_t id;
 645     uint8_t version;
 646     uint8_t sec_num;
 647     uint8_t last_sec_num;
 648 } SectionHeader;
 649
 650 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 651 {
 652     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 653         return 1;
 654
 655     tssf->last_ver = h->version;
 656     tssf->last_crc = tssf->crc;
 657
 658     return 0;
 659 }
 660
 661 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 662 {
 663     const uint8_t *p;
 664     int c;
 665
 666     p = *pp;
 667     if (p >= p_end)
 668         return AVERROR_INVALIDDATA;
 669     c   = *p++;
 670     *pp = p;
 671     return c;
 672 }
 673
 674 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 675 {
 676     const uint8_t *p;
 677     int c;
 678
 679     p = *pp;
 680     if (1 >= p_end - p)
 681         return AVERROR_INVALIDDATA;
 682     c   = AV_RB16(p);
 683     p  += 2;
 684     *pp = p;
 685     return c;
 686 }
 687
 688 /* read and allocate a DVB string preceded by its length */
 689 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 690 {
 691     int len;
 692     const uint8_t *p;
 693     char *str;
 694
 695     p   = *pp;
 696     len = get8(&p, p_end);
 697     if (len < 0)
 698         return NULL;
 699     if (len > p_end - p)
 700         return NULL;
 701 #if CONFIG_ICONV
 702     if (len) {
 703         const char *encodings[] = {
 704             "ISO6937", "ISO-8859-5", "ISO-8859-6", "ISO-8859-7",
 705             "ISO-8859-8", "ISO-8859-9", "ISO-8859-10", "ISO-8859-11",
 706             "", "ISO-8859-13", "ISO-8859-14", "ISO-8859-15", "", "", "", "",
 707             "", "UCS-2BE", "KSC_5601", "GB2312", "UCS-2BE", "UTF-8", "", "",
 708             "", "", "", "", "", "", "", ""
 709         };
 710         iconv_t cd;
 711         char *in, *out;
 712         size_t inlen = len, outlen = inlen * 6 + 1;
 713         if (len >= 3 && p[0] == 0x10 && !p[1] && p[2] && p[2] <= 0xf && p[2] != 0xc) {
 714             char iso8859[12];
 715             snprintf(iso8859, sizeof(iso8859), "ISO-8859-%d", p[2]);
 716             inlen -= 3;
 717             in = (char *)p + 3;
 718             cd = iconv_open("UTF-8", iso8859);
 719         } else if (p[0] < 0x20) {
 720             inlen -= 1;
 721             in = (char *)p + 1;
 722             cd = iconv_open("UTF-8", encodings[*p]);
 723         } else {
 724             in = (char *)p;
 725             cd = iconv_open("UTF-8", encodings[0]);
 726         }
 727         if (cd == (iconv_t)-1)
 728             goto no_iconv;
 729         str = out = av_malloc(outlen);
 730         if (!str) {
 731             iconv_close(cd);
 732             return NULL;
 733         }
 734         if (iconv(cd, &in, &inlen, &out, &outlen) == -1) {
 735             iconv_close(cd);
 736             av_freep(&str);
 737             goto no_iconv;
 738         }
 739         iconv_close(cd);
 740         *out = 0;
 741         *pp = p + len;
 742         return str;
 743     }
 744 no_iconv:
 745 #endif
 746     str = av_malloc(len + 1);
 747     if (!str)
 748         return NULL;
 749     memcpy(str, p, len);
 750     str[len] = '\0';
 751     p  += len;
 752     *pp = p;
 753     return str;
 754 }
 755
 756 static int parse_section_header(SectionHeader *h,
 757                                 const uint8_t **pp, const uint8_t *p_end)
 758 {
 759     int val;
 760
 761     val = get8(pp, p_end);
 762     if (val < 0)
 763         return val;
 764     h->tid = val;
 765     *pp += 2;
 766     val  = get16(pp, p_end);
 767     if (val < 0)
 768         return val;
 769     h->id = val;
 770     val = get8(pp, p_end);
 771     if (val < 0)
 772         return val;
 773     h->version = (val >> 1) & 0x1f;
 774     val = get8(pp, p_end);
 775     if (val < 0)
 776         return val;
 777     h->sec_num = val;
 778     val = get8(pp, p_end);
 779     if (val < 0)
 780         return val;
 781     h->last_sec_num = val;
 782     return 0;
 783 }
 784
 785 typedef struct StreamType {
 786     uint32_t stream_type;
 787     enum AVMediaType codec_type;
 788     enum AVCodecID codec_id;
 789 } StreamType;
 790
 791 static const StreamType ISO_types[] = {
 792     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 793     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 794     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 795     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 796     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 797     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 798     /* Makito encoder sets stream type 0x11 for AAC,
 799      * so auto-detect LOAS/LATM instead of hardcoding it. */
 800 #if !CONFIG_LOAS_DEMUXER
 801     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 802 #endif
 803     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 804     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 805     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 806     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 807     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 808     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 809     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 810     { 0xd2, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_AVS2       },
 811     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 812     { 0 },
 813 };
 814
 815 static const StreamType HDMV_types[] = {
 816     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 817     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 818     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 819     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 820     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 821     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 822     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 823     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 824     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 825     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 826     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 827     { 0 },
 828 };
 829
 830 /* SCTE types */
 831 static const StreamType SCTE_types[] = {
 832     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
 833     { 0 },
 834 };
 835
 836 /* ATSC ? */
 837 static const StreamType MISC_types[] = {
 838     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 839     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 840     { 0 },
 841 };
 842
 843 static const StreamType REGD_types[] = {
 844     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 845     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 846     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 847     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 848     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 849     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 850     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 851     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 852     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 853     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 854     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 855     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 856     { 0 },
 857 };
 858
 859 static const StreamType METADATA_types[] = {
 860     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 861     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 862     { 0 },
 863 };
 864
 865 /* descriptor present */
 866 static const StreamType DESC_types[] = {
 867     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 868     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 869     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 870     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 871     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 872     { 0 },
 873 };
 874
 875 static void mpegts_find_stream_type(AVStream *st,
 876                                     uint32_t stream_type,
 877                                     const StreamType *types)
 878 {
 879     for (; types->stream_type; types++)
 880         if (stream_type == types->stream_type) {
 881             if (st->codecpar->codec_type != types->codec_type ||
 882                 st->codecpar->codec_id   != types->codec_id) {
 883                 st->codecpar->codec_type = types->codec_type;
 884                 st->codecpar->codec_id   = types->codec_id;
 885                 st->internal->need_context_update = 1;
 886             }
 887             st->request_probe        = 0;
 888             return;
 889         }
 890 }
 891
 892 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 893                                   uint32_t stream_type, uint32_t prog_reg_desc)
 894 {
 895     int old_codec_type = st->codecpar->codec_type;
 896     int old_codec_id   = st->codecpar->codec_id;
 897     int old_codec_tag  = st->codecpar->codec_tag;
 898
 899     if (avcodec_is_open(st->internal->avctx)) {
 900         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 901         return 0;
 902     }
 903
 904     avpriv_set_pts_info(st, 33, 1, 90000);
 905     st->priv_data         = pes;
 906     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 907     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 908     st->need_parsing      = AVSTREAM_PARSE_FULL;
 909     pes->st          = st;
 910     pes->stream_type = stream_type;
 911
 912     av_log(pes->stream, AV_LOG_DEBUG,
 913            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 914            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 915
 916     st->codecpar->codec_tag = pes->stream_type;
 917
 918     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 919     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
 920         st->request_probe = 50;
 921     if ((prog_reg_desc == AV_RL32("HDMV") ||
 922          prog_reg_desc == AV_RL32("HDPR")) &&
 923         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 924         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 925         if (pes->stream_type == 0x83) {
 926             // HDMV TrueHD streams also contain an AC3 coded version of the
 927             // audio track - add a second stream for this
 928             AVStream *sub_st;
 929             // priv_data cannot be shared between streams
 930             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 931             if (!sub_pes)
 932                 return AVERROR(ENOMEM);
 933             memcpy(sub_pes, pes, sizeof(*sub_pes));
 934
 935             sub_st = avformat_new_stream(pes->stream, NULL);
 936             if (!sub_st) {
 937                 av_free(sub_pes);
 938                 return AVERROR(ENOMEM);
 939             }
 940
 941             sub_st->id = pes->pid;
 942             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 943             sub_st->priv_data         = sub_pes;
 944             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 945             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 946             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 947             sub_pes->sub_st           = pes->sub_st = sub_st;
 948         }
 949     }
 950     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 951         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 952     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 953         st->codecpar->codec_id  = old_codec_id;
 954         st->codecpar->codec_type = old_codec_type;
 955     }
 956     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 957             (st->request_probe > 0 && st->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 958         st->probe_packets > 0 &&
 959         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 960         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 961         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 962         st->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 963     }
 964
 965     /* queue a context update if properties changed */
 966     if (old_codec_type != st->codecpar->codec_type ||
 967         old_codec_id   != st->codecpar->codec_id   ||
 968         old_codec_tag  != st->codecpar->codec_tag)
 969         st->internal->need_context_update = 1;
 970
 971     return 0;
 972 }
 973
 974 static void reset_pes_packet_state(PESContext *pes)
 975 {
 976     pes->pts        = AV_NOPTS_VALUE;
 977     pes->dts        = AV_NOPTS_VALUE;
 978     pes->data_index = 0;
 979     pes->flags      = 0;
 980     av_buffer_unref(&pes->buffer);
 981 }
 982
 983 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
 984 {
 985     av_init_packet(pkt);
 986     pkt->data = (uint8_t *)buffer;
 987     pkt->size = len;
 988 }
 989
 990 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 991 {
 992     uint8_t *sd;
 993
 994     av_init_packet(pkt);
 995
 996     pkt->buf  = pes->buffer;
 997     pkt->data = pes->buffer->data;
 998     pkt->size = pes->data_index;
 999
1000     if (pes->total_size != MAX_PES_PAYLOAD &&
1001         pes->pes_header_size + pes->data_index != pes->total_size +
1002         PES_START_SIZE) {
1003         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
1004         pes->flags |= AV_PKT_FLAG_CORRUPT;
1005     }
1006     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1007
1008     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
1009     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
1010         pkt->stream_index = pes->sub_st->index;
1011     else
1012         pkt->stream_index = pes->st->index;
1013     pkt->pts = pes->pts;
1014     pkt->dts = pes->dts;
1015     /* store position of first TS packet of this PES packet */
1016     pkt->pos   = pes->ts_packet_pos;
1017     pkt->flags = pes->flags;
1018
1019     pes->buffer = NULL;
1020     reset_pes_packet_state(pes);
1021
1022     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
1023     if (!sd)
1024         return AVERROR(ENOMEM);
1025     *sd = pes->stream_id;
1026
1027     return 0;
1028 }
1029
1030 static uint64_t get_ts64(GetBitContext *gb, int bits)
1031 {
1032     if (get_bits_left(gb) < bits)
1033         return AV_NOPTS_VALUE;
1034     return get_bits64(gb, bits);
1035 }
1036
1037 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
1038                           const uint8_t *buf, int buf_size)
1039 {
1040     GetBitContext gb;
1041     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
1042     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
1043     int dts_flag = -1, cts_flag = -1;
1044     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
1045     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
1046     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
1047
1048     memcpy(buf_padded, buf, buf_padded_size);
1049
1050     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
1051
1052     if (sl->use_au_start)
1053         au_start_flag = get_bits1(&gb);
1054     if (sl->use_au_end)
1055         au_end_flag = get_bits1(&gb);
1056     if (!sl->use_au_start && !sl->use_au_end)
1057         au_start_flag = au_end_flag = 1;
1058     if (sl->ocr_len > 0)
1059         ocr_flag = get_bits1(&gb);
1060     if (sl->use_idle)
1061         idle_flag = get_bits1(&gb);
1062     if (sl->use_padding)
1063         padding_flag = get_bits1(&gb);
1064     if (padding_flag)
1065         padding_bits = get_bits(&gb, 3);
1066
1067     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
1068         if (sl->packet_seq_num_len)
1069             skip_bits_long(&gb, sl->packet_seq_num_len);
1070         if (sl->degr_prior_len)
1071             if (get_bits1(&gb))
1072                 skip_bits(&gb, sl->degr_prior_len);
1073         if (ocr_flag)
1074             skip_bits_long(&gb, sl->ocr_len);
1075         if (au_start_flag) {
1076             if (sl->use_rand_acc_pt)
1077                 get_bits1(&gb);
1078             if (sl->au_seq_num_len > 0)
1079                 skip_bits_long(&gb, sl->au_seq_num_len);
1080             if (sl->use_timestamps) {
1081                 dts_flag = get_bits1(&gb);
1082                 cts_flag = get_bits1(&gb);
1083             }
1084         }
1085         if (sl->inst_bitrate_len)
1086             inst_bitrate_flag = get_bits1(&gb);
1087         if (dts_flag == 1)
1088             dts = get_ts64(&gb, sl->timestamp_len);
1089         if (cts_flag == 1)
1090             cts = get_ts64(&gb, sl->timestamp_len);
1091         if (sl->au_len > 0)
1092             skip_bits_long(&gb, sl->au_len);
1093         if (inst_bitrate_flag)
1094             skip_bits_long(&gb, sl->inst_bitrate_len);
1095     }
1096
1097     if (dts != AV_NOPTS_VALUE)
1098         pes->dts = dts;
1099     if (cts != AV_NOPTS_VALUE)
1100         pes->pts = cts;
1101
1102     if (sl->timestamp_len && sl->timestamp_res)
1103         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1104
1105     return (get_bits_count(&gb) + 7) >> 3;
1106 }
1107
1108 static AVBufferRef *buffer_pool_get(MpegTSContext *ts, int size)
1109 {
1110     int index = av_log2(size + AV_INPUT_BUFFER_PADDING_SIZE);
1111     if (!ts->pools[index]) {
1112         int pool_size = FFMIN(MAX_PES_PAYLOAD + AV_INPUT_BUFFER_PADDING_SIZE, 2 << index);
1113         ts->pools[index] = av_buffer_pool_init(pool_size, NULL);
1114         if (!ts->pools[index])
1115             return NULL;
1116     }
1117     return av_buffer_pool_get(ts->pools[index]);
1118 }
1119
1120 /* return non zero if a packet could be constructed */
1121 static int mpegts_push_data(MpegTSFilter *filter,
1122                             const uint8_t *buf, int buf_size, int is_start,
1123                             int64_t pos)
1124 {
1125     PESContext *pes   = filter->u.pes_filter.opaque;
1126     MpegTSContext *ts = pes->ts;
1127     const uint8_t *p;
1128     int ret, len, code;
1129
1130     if (!ts->pkt)
1131         return 0;
1132
1133     if (is_start) {
1134         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1135             ret = new_pes_packet(pes, ts->pkt);
1136             if (ret < 0)
1137                 return ret;
1138             ts->stop_parse = 1;
1139         } else {
1140             reset_pes_packet_state(pes);
1141         }
1142         pes->state         = MPEGTS_HEADER;
1143         pes->ts_packet_pos = pos;
1144     }
1145     p = buf;
1146     while (buf_size > 0) {
1147         switch (pes->state) {
1148         case MPEGTS_HEADER:
1149             len = PES_START_SIZE - pes->data_index;
1150             if (len > buf_size)
1151                 len = buf_size;
1152             memcpy(pes->header + pes->data_index, p, len);
1153             pes->data_index += len;
1154             p += len;
1155             buf_size -= len;
1156             if (pes->data_index == PES_START_SIZE) {
1157                 /* we got all the PES or section header. We can now
1158                  * decide */
1159                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1160                     pes->header[2] == 0x01) {
1161                     /* it must be an MPEG-2 PES stream */
1162                     code = pes->header[3] | 0x100;
1163                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1164                             code);
1165                     pes->stream_id = pes->header[3];
1166
1167                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1168                          (!pes->sub_st ||
1169                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1170                         code == 0x1be) /* padding_stream */
1171                         goto skip;
1172
1173                     /* stream not present in PMT */
1174                     if (!pes->st) {
1175                         if (ts->skip_changes)
1176                             goto skip;
1177                         if (ts->merge_pmt_versions)
1178                             goto skip; /* wait for PMT to merge new stream */
1179
1180                         pes->st = avformat_new_stream(ts->stream, NULL);
1181                         if (!pes->st)
1182                             return AVERROR(ENOMEM);
1183                         pes->st->id = pes->pid;
1184                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1185                     }
1186
1187                     pes->total_size = AV_RB16(pes->header + 4);
1188                     /* NOTE: a zero total size means the PES size is
1189                      * unbounded */
1190                     if (!pes->total_size)
1191                         pes->total_size = MAX_PES_PAYLOAD;
1192
1193                     /* allocate pes buffer */
1194                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1195                     if (!pes->buffer)
1196                         return AVERROR(ENOMEM);
1197
1198                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1199                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1200                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1201                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1202                         pes->state = MPEGTS_PESHEADER;
1203                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1204                             av_log(pes->stream, AV_LOG_TRACE,
1205                                     "pid=%x stream_type=%x probing\n",
1206                                     pes->pid,
1207                                     pes->stream_type);
1208                             pes->st->request_probe = 1;
1209                         }
1210                     } else {
1211                         pes->pes_header_size = 6;
1212                         pes->state      = MPEGTS_PAYLOAD;
1213                         pes->data_index = 0;
1214                     }
1215                 } else {
1216                     /* otherwise, it should be a table */
1217                     /* skip packet */
1218 skip:
1219                     pes->state = MPEGTS_SKIP;
1220                     continue;
1221                 }
1222             }
1223             break;
1224         /**********************************************/
1225         /* PES packing parsing */
1226         case MPEGTS_PESHEADER:
1227             len = PES_HEADER_SIZE - pes->data_index;
1228             if (len < 0)
1229                 return AVERROR_INVALIDDATA;
1230             if (len > buf_size)
1231                 len = buf_size;
1232             memcpy(pes->header + pes->data_index, p, len);
1233             pes->data_index += len;
1234             p += len;
1235             buf_size -= len;
1236             if (pes->data_index == PES_HEADER_SIZE) {
1237                 pes->pes_header_size = pes->header[8] + 9;
1238                 pes->state           = MPEGTS_PESHEADER_FILL;
1239             }
1240             break;
1241         case MPEGTS_PESHEADER_FILL:
1242             len = pes->pes_header_size - pes->data_index;
1243             if (len < 0)
1244                 return AVERROR_INVALIDDATA;
1245             if (len > buf_size)
1246                 len = buf_size;
1247             memcpy(pes->header + pes->data_index, p, len);
1248             pes->data_index += len;
1249             p += len;
1250             buf_size -= len;
1251             if (pes->data_index == pes->pes_header_size) {
1252                 const uint8_t *r;
1253                 unsigned int flags, pes_ext, skip;
1254
1255                 flags = pes->header[7];
1256                 r = pes->header + 9;
1257                 pes->pts = AV_NOPTS_VALUE;
1258                 pes->dts = AV_NOPTS_VALUE;
1259                 if ((flags & 0xc0) == 0x80) {
1260                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1261                     r += 5;
1262                 } else if ((flags & 0xc0) == 0xc0) {
1263                     pes->pts = ff_parse_pes_pts(r);
1264                     r += 5;
1265                     pes->dts = ff_parse_pes_pts(r);
1266                     r += 5;
1267                 }
1268                 pes->extended_stream_id = -1;
1269                 if (flags & 0x01) { /* PES extension */
1270                     pes_ext = *r++;
1271                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1272                     skip  = (pes_ext >> 4) & 0xb;
1273                     skip += skip & 0x9;
1274                     r    += skip;
1275                     if ((pes_ext & 0x41) == 0x01 &&
1276                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1277                         /* PES extension 2 */
1278                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1279                             pes->extended_stream_id = r[1];
1280                     }
1281                 }
1282
1283                 /* we got the full header. We parse it and get the payload */
1284                 pes->state = MPEGTS_PAYLOAD;
1285                 pes->data_index = 0;
1286                 if (pes->stream_type == 0x12 && buf_size > 0) {
1287                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1288                                                          buf_size);
1289                     pes->pes_header_size += sl_header_bytes;
1290                     p += sl_header_bytes;
1291                     buf_size -= sl_header_bytes;
1292                 }
1293                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1294                     /* skip metadata access unit header */
1295                     pes->pes_header_size += 5;
1296                     p += 5;
1297                     buf_size -= 5;
1298                 }
1299                 if (   pes->ts->fix_teletext_pts
1300                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1301                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1302                     ) {
1303                     AVProgram *p = NULL;
1304                     int pcr_found = 0;
1305                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1306                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1307                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1308                             if (f) {
1309                                 AVStream *st = NULL;
1310                                 if (f->type == MPEGTS_PES) {
1311                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1312                                     if (pcrpes)
1313                                         st = pcrpes->st;
1314                                 } else if (f->type == MPEGTS_PCR) {
1315                                     int i;
1316                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1317                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1318                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1319                                             st = pst;
1320                                     }
1321                                 }
1322                                 if (f->last_pcr != -1 && !f->discard) {
1323                                     // teletext packets do not always have correct timestamps,
1324                                     // the standard says they should be handled after 40.6 ms at most,
1325                                     // and the pcr error to this packet should be no more than 100 ms.
1326                                     // TODO: we should interpolate the PCR, not just use the last one
1327                                     int64_t pcr = f->last_pcr / 300;
1328                                     pcr_found = 1;
1329                                     if (st) {
1330                                         pes->st->pts_wrap_reference = st->pts_wrap_reference;
1331                                         pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1332                                     }
1333                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1334                                         pes->pts = pes->dts = pcr;
1335                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1336                                                pes->dts > pcr + 3654 + 9000) {
1337                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1338                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1339                                                pes->dts > pcr + 10*90000) { //10sec
1340                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1341                                     }
1342                                     break;
1343                                 }
1344                             }
1345                         }
1346                     }
1347
1348                     if (!pcr_found) {
1349                         av_log(pes->stream, AV_LOG_VERBOSE,
1350                                "Forcing DTS/PTS to be unset for a "
1351                                "non-trustworthy PES packet for PID %d as "
1352                                "PCR hasn't been received yet.\n",
1353                                pes->pid);
1354                         pes->dts = pes->pts = AV_NOPTS_VALUE;
1355                     }
1356                 }
1357             }
1358             break;
1359         case MPEGTS_PAYLOAD:
1360             if (pes->buffer) {
1361                 if (pes->data_index > 0 &&
1362                     pes->data_index + buf_size > pes->total_size) {
1363                     ret = new_pes_packet(pes, ts->pkt);
1364                     if (ret < 0)
1365                         return ret;
1366                     pes->total_size = MAX_PES_PAYLOAD;
1367                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1368                     if (!pes->buffer)
1369                         return AVERROR(ENOMEM);
1370                     ts->stop_parse = 1;
1371                 } else if (pes->data_index == 0 &&
1372                            buf_size > pes->total_size) {
1373                     // pes packet size is < ts size packet and pes data is padded with 0xff
1374                     // not sure if this is legal in ts but see issue #2392
1375                     buf_size = pes->total_size;
1376                 }
1377                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1378                 pes->data_index += buf_size;
1379                 /* emit complete packets with known packet size
1380                  * decreases demuxer delay for infrequent packets like subtitles from
1381                  * a couple of seconds to milliseconds for properly muxed files.
1382                  * total_size is the number of bytes following pes_packet_length
1383                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1384                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1385                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1386                     ts->stop_parse = 1;
1387                     ret = new_pes_packet(pes, ts->pkt);
1388                     if (ret < 0)
1389                         return ret;
1390                 }
1391             }
1392             buf_size = 0;
1393             break;
1394         case MPEGTS_SKIP:
1395             buf_size = 0;
1396             break;
1397         }
1398     }
1399
1400     return 0;
1401 }
1402
1403 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1404 {
1405     MpegTSFilter *tss;
1406     PESContext *pes;
1407
1408     /* if no pid found, then add a pid context */
1409     pes = av_mallocz(sizeof(PESContext));
1410     if (!pes)
1411         return 0;
1412     pes->ts      = ts;
1413     pes->stream  = ts->stream;
1414     pes->pid     = pid;
1415     pes->pcr_pid = pcr_pid;
1416     pes->state   = MPEGTS_SKIP;
1417     pes->pts     = AV_NOPTS_VALUE;
1418     pes->dts     = AV_NOPTS_VALUE;
1419     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1420     if (!tss) {
1421         av_free(pes);
1422         return 0;
1423     }
1424     return pes;
1425 }
1426
1427 #define MAX_LEVEL 4
1428 typedef struct MP4DescrParseContext {
1429     AVFormatContext *s;
1430     AVIOContext pb;
1431     Mp4Descr *descr;
1432     Mp4Descr *active_descr;
1433     int descr_count;
1434     int max_descr_count;
1435     int level;
1436     int predefined_SLConfigDescriptor_seen;
1437 } MP4DescrParseContext;
1438
1439 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1440                                      const uint8_t *buf, unsigned size,
1441                                      Mp4Descr *descr, int max_descr_count)
1442 {
1443     int ret;
1444     if (size > (1 << 30))
1445         return AVERROR_INVALIDDATA;
1446
1447     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1448                                  NULL, NULL, NULL, NULL)) < 0)
1449         return ret;
1450
1451     d->s               = s;
1452     d->level           = 0;
1453     d->descr_count     = 0;
1454     d->descr           = descr;
1455     d->active_descr    = NULL;
1456     d->max_descr_count = max_descr_count;
1457
1458     return 0;
1459 }
1460
1461 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1462 {
1463     int64_t new_off = avio_tell(pb);
1464     (*len) -= new_off - *off;
1465     *off    = new_off;
1466 }
1467
1468 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1469                            int target_tag);
1470
1471 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1472 {
1473     while (len > 0) {
1474         int ret = parse_mp4_descr(d, off, len, 0);
1475         if (ret < 0)
1476             return ret;
1477         update_offsets(&d->pb, &off, &len);
1478     }
1479     return 0;
1480 }
1481
1482 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1483 {
1484     avio_rb16(&d->pb); // ID
1485     avio_r8(&d->pb);
1486     avio_r8(&d->pb);
1487     avio_r8(&d->pb);
1488     avio_r8(&d->pb);
1489     avio_r8(&d->pb);
1490     update_offsets(&d->pb, &off, &len);
1491     return parse_mp4_descr_arr(d, off, len);
1492 }
1493
1494 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1495 {
1496     int id_flags;
1497     if (len < 2)
1498         return 0;
1499     id_flags = avio_rb16(&d->pb);
1500     if (!(id_flags & 0x0020)) { // URL_Flag
1501         update_offsets(&d->pb, &off, &len);
1502         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1503     } else {
1504         return 0;
1505     }
1506 }
1507
1508 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1509 {
1510     int es_id = 0;
1511     int ret   = 0;
1512
1513     if (d->descr_count >= d->max_descr_count)
1514         return AVERROR_INVALIDDATA;
1515     ff_mp4_parse_es_descr(&d->pb, &es_id);
1516     d->active_descr = d->descr + (d->descr_count++);
1517
1518     d->active_descr->es_id = es_id;
1519     update_offsets(&d->pb, &off, &len);
1520     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1521         return ret;
1522     update_offsets(&d->pb, &off, &len);
1523     if (len > 0)
1524         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1525     d->active_descr = NULL;
1526     return ret;
1527 }
1528
1529 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1530                                       int len)
1531 {
1532     Mp4Descr *descr = d->active_descr;
1533     if (!descr)
1534         return AVERROR_INVALIDDATA;
1535     d->active_descr->dec_config_descr = av_malloc(len);
1536     if (!descr->dec_config_descr)
1537         return AVERROR(ENOMEM);
1538     descr->dec_config_descr_len = len;
1539     avio_read(&d->pb, descr->dec_config_descr, len);
1540     return 0;
1541 }
1542
1543 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1544 {
1545     Mp4Descr *descr = d->active_descr;
1546     int predefined;
1547     if (!descr)
1548         return AVERROR_INVALIDDATA;
1549
1550 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1551     descr->sl.dst = avio_r8(&d->pb);                            \
1552     if (descr->sl.dst > maxv) {                                 \
1553         descr->sl.dst = maxv;                                   \
1554         return AVERROR_INVALIDDATA;                             \
1555     }                                                           \
1556 } while (0)
1557
1558     predefined = avio_r8(&d->pb);
1559     if (!predefined) {
1560         int lengths;
1561         int flags = avio_r8(&d->pb);
1562         descr->sl.use_au_start    = !!(flags & 0x80);
1563         descr->sl.use_au_end      = !!(flags & 0x40);
1564         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1565         descr->sl.use_padding     = !!(flags & 0x08);
1566         descr->sl.use_timestamps  = !!(flags & 0x04);
1567         descr->sl.use_idle        = !!(flags & 0x02);
1568         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1569         avio_rb32(&d->pb);
1570         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1571         R8_CHECK_CLIP_MAX(ocr_len,       63);
1572         R8_CHECK_CLIP_MAX(au_len,        31);
1573         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1574         lengths                      = avio_rb16(&d->pb);
1575         descr->sl.degr_prior_len     = lengths >> 12;
1576         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1577         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1578     } else if (!d->predefined_SLConfigDescriptor_seen){
1579         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1580         d->predefined_SLConfigDescriptor_seen = 1;
1581     }
1582     return 0;
1583 }
1584
1585 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1586                            int target_tag)
1587 {
1588     int tag;
1589     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1590     int ret = 0;
1591
1592     update_offsets(&d->pb, &off, &len);
1593     if (len < 0 || len1 > len || len1 <= 0) {
1594         av_log(d->s, AV_LOG_ERROR,
1595                "Tag %x length violation new length %d bytes remaining %d\n",
1596                tag, len1, len);
1597         return AVERROR_INVALIDDATA;
1598     }
1599
1600     if (d->level++ >= MAX_LEVEL) {
1601         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1602         ret = AVERROR_INVALIDDATA;
1603         goto done;
1604     }
1605
1606     if (target_tag && tag != target_tag) {
1607         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1608                target_tag);
1609         ret = AVERROR_INVALIDDATA;
1610         goto done;
1611     }
1612
1613     switch (tag) {
1614     case MP4IODescrTag:
1615         ret = parse_MP4IODescrTag(d, off, len1);
1616         break;
1617     case MP4ODescrTag:
1618         ret = parse_MP4ODescrTag(d, off, len1);
1619         break;
1620     case MP4ESDescrTag:
1621         ret = parse_MP4ESDescrTag(d, off, len1);
1622         break;
1623     case MP4DecConfigDescrTag:
1624         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1625         break;
1626     case MP4SLDescrTag:
1627         ret = parse_MP4SLDescrTag(d, off, len1);
1628         break;
1629     }
1630
1631
1632 done:
1633     d->level--;
1634     avio_seek(&d->pb, off + len1, SEEK_SET);
1635     return ret;
1636 }
1637
1638 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1639                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1640 {
1641     MP4DescrParseContext d;
1642     int ret;
1643
1644     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1645     if (ret < 0)
1646         return ret;
1647
1648     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1649
1650     *descr_count = d.descr_count;
1651     return ret;
1652 }
1653
1654 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1655                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1656 {
1657     MP4DescrParseContext d;
1658     int ret;
1659
1660     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1661     if (ret < 0)
1662         return ret;
1663
1664     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1665
1666     *descr_count = d.descr_count;
1667     return ret;
1668 }
1669
1670 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1671                     int section_len)
1672 {
1673     MpegTSContext *ts = filter->u.section_filter.opaque;
1674     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1675     SectionHeader h;
1676     const uint8_t *p, *p_end;
1677     AVIOContext pb;
1678     int mp4_descr_count = 0;
1679     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1680     int i, pid;
1681     AVFormatContext *s = ts->stream;
1682
1683     p_end = section + section_len - 4;
1684     p = section;
1685     if (parse_section_header(&h, &p, p_end) < 0)
1686         return;
1687     if (h.tid != M4OD_TID)
1688         return;
1689     if (skip_identical(&h, tssf))
1690         return;
1691
1692     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1693                 MAX_MP4_DESCR_COUNT);
1694
1695     for (pid = 0; pid < NB_PID_MAX; pid++) {
1696         if (!ts->pids[pid])
1697             continue;
1698         for (i = 0; i < mp4_descr_count; i++) {
1699             PESContext *pes;
1700             AVStream *st;
1701             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1702                 continue;
1703             if (ts->pids[pid]->type != MPEGTS_PES) {
1704                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1705                 continue;
1706             }
1707             pes = ts->pids[pid]->u.pes_filter.opaque;
1708             st  = pes->st;
1709             if (!st)
1710                 continue;
1711
1712             pes->sl = mp4_descr[i].sl;
1713
1714             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1715                               mp4_descr[i].dec_config_descr_len, 0,
1716                               NULL, NULL, NULL, NULL);
1717             ff_mp4_read_dec_config_descr(s, st, &pb);
1718             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1719                 st->codecpar->extradata_size > 0)
1720                 st->need_parsing = 0;
1721             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1722                 st->codecpar->extradata_size > 0)
1723                 st->need_parsing = 0;
1724
1725             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1726             st->internal->need_context_update = 1;
1727         }
1728     }
1729     for (i = 0; i < mp4_descr_count; i++)
1730         av_free(mp4_descr[i].dec_config_descr);
1731 }
1732
1733 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1734                     int section_len)
1735 {
1736     AVProgram *prg = NULL;
1737     MpegTSContext *ts = filter->u.section_filter.opaque;
1738
1739     int idx = ff_find_stream_index(ts->stream, filter->pid);
1740     if (idx < 0)
1741         return;
1742
1743     /**
1744      * In case we receive an SCTE-35 packet before mpegts context is fully
1745      * initialized.
1746      */
1747     if (!ts->pkt)
1748         return;
1749
1750     new_data_packet(section, section_len, ts->pkt);
1751     ts->pkt->stream_index = idx;
1752     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1753     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1754         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1755         if (f && f->last_pcr != -1)
1756             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1757     }
1758     ts->stop_parse = 1;
1759
1760 }
1761
1762 static const uint8_t opus_coupled_stream_cnt[9] = {
1763     1, 0, 1, 1, 2, 2, 2, 3, 3
1764 };
1765
1766 static const uint8_t opus_stream_cnt[9] = {
1767     1, 1, 1, 2, 2, 3, 4, 4, 5,
1768 };
1769
1770 static const uint8_t opus_channel_map[8][8] = {
1771     { 0 },
1772     { 0,1 },
1773     { 0,2,1 },
1774     { 0,1,2,3 },
1775     { 0,4,1,2,3 },
1776     { 0,4,1,2,3,5 },
1777     { 0,4,1,2,3,5,6 },
1778     { 0,6,1,2,3,4,5,7 },
1779 };
1780
1781 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1782                               const uint8_t **pp, const uint8_t *desc_list_end,
1783                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1784                               MpegTSContext *ts)
1785 {
1786     const uint8_t *desc_end;
1787     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1788     char language[252];
1789     int i;
1790
1791     desc_tag = get8(pp, desc_list_end);
1792     if (desc_tag < 0)
1793         return AVERROR_INVALIDDATA;
1794     desc_len = get8(pp, desc_list_end);
1795     if (desc_len < 0)
1796         return AVERROR_INVALIDDATA;
1797     desc_end = *pp + desc_len;
1798     if (desc_end > desc_list_end)
1799         return AVERROR_INVALIDDATA;
1800
1801     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1802
1803     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1804         stream_type == STREAM_TYPE_PRIVATE_DATA)
1805         mpegts_find_stream_type(st, desc_tag, DESC_types);
1806
1807     switch (desc_tag) {
1808     case 0x02: /* video stream descriptor */
1809         if (get8(pp, desc_end) & 0x1) {
1810             st->disposition |= AV_DISPOSITION_STILL_IMAGE;
1811         }
1812         break;
1813     case 0x1E: /* SL descriptor */
1814         desc_es_id = get16(pp, desc_end);
1815         if (desc_es_id < 0)
1816             break;
1817         if (ts && ts->pids[pid])
1818             ts->pids[pid]->es_id = desc_es_id;
1819         for (i = 0; i < mp4_descr_count; i++)
1820             if (mp4_descr[i].dec_config_descr_len &&
1821                 mp4_descr[i].es_id == desc_es_id) {
1822                 AVIOContext pb;
1823                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1824                                   mp4_descr[i].dec_config_descr_len, 0,
1825                                   NULL, NULL, NULL, NULL);
1826                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1827                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1828                     st->codecpar->extradata_size > 0) {
1829                     st->need_parsing = 0;
1830                     st->internal->need_context_update = 1;
1831                 }
1832                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1833                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1834             }
1835         break;
1836     case 0x1F: /* FMC descriptor */
1837         if (get16(pp, desc_end) < 0)
1838             break;
1839         if (mp4_descr_count > 0 &&
1840             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1841              (st->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1842              st->request_probe > 0) &&
1843             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1844             AVIOContext pb;
1845             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1846                               mp4_descr->dec_config_descr_len, 0,
1847                               NULL, NULL, NULL, NULL);
1848             ff_mp4_read_dec_config_descr(fc, st, &pb);
1849             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1850                 st->codecpar->extradata_size > 0) {
1851                 st->request_probe = st->need_parsing = 0;
1852                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1853                 st->internal->need_context_update = 1;
1854             }
1855         }
1856         break;
1857     case 0x56: /* DVB teletext descriptor */
1858         {
1859             uint8_t *extradata = NULL;
1860             int language_count = desc_len / 5, ret;
1861
1862             if (desc_len > 0 && desc_len % 5 != 0)
1863                 return AVERROR_INVALIDDATA;
1864
1865             if (language_count > 0) {
1866                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1867                 av_assert0(language_count <= sizeof(language) / 4);
1868
1869                 if (st->codecpar->extradata == NULL) {
1870                     ret = ff_alloc_extradata(st->codecpar, language_count * 2);
1871                     if (ret < 0)
1872                         return ret;
1873                 }
1874
1875                 if (st->codecpar->extradata_size < language_count * 2)
1876                     return AVERROR_INVALIDDATA;
1877
1878                 extradata = st->codecpar->extradata;
1879
1880                 for (i = 0; i < language_count; i++) {
1881                     language[i * 4 + 0] = get8(pp, desc_end);
1882                     language[i * 4 + 1] = get8(pp, desc_end);
1883                     language[i * 4 + 2] = get8(pp, desc_end);
1884                     language[i * 4 + 3] = ',';
1885
1886                     memcpy(extradata, *pp, 2);
1887                     extradata += 2;
1888
1889                     *pp += 2;
1890                 }
1891
1892                 language[i * 4 - 1] = 0;
1893                 av_dict_set(&st->metadata, "language", language, 0);
1894                 st->internal->need_context_update = 1;
1895             }
1896         }
1897         break;
1898     case 0x59: /* subtitling descriptor */
1899         {
1900             /* 8 bytes per DVB subtitle substream data:
1901              * ISO_639_language_code (3 bytes),
1902              * subtitling_type (1 byte),
1903              * composition_page_id (2 bytes),
1904              * ancillary_page_id (2 bytes) */
1905             int language_count = desc_len / 8, ret;
1906
1907             if (desc_len > 0 && desc_len % 8 != 0)
1908                 return AVERROR_INVALIDDATA;
1909
1910             if (language_count > 1) {
1911                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1912             }
1913
1914             if (language_count > 0) {
1915                 uint8_t *extradata;
1916
1917                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1918                 av_assert0(language_count <= sizeof(language) / 4);
1919
1920                 if (st->codecpar->extradata == NULL) {
1921                     ret = ff_alloc_extradata(st->codecpar, language_count * 5);
1922                     if (ret < 0)
1923                         return ret;
1924                 }
1925
1926                 if (st->codecpar->extradata_size < language_count * 5)
1927                     return AVERROR_INVALIDDATA;
1928
1929                 extradata = st->codecpar->extradata;
1930
1931                 for (i = 0; i < language_count; i++) {
1932                     language[i * 4 + 0] = get8(pp, desc_end);
1933                     language[i * 4 + 1] = get8(pp, desc_end);
1934                     language[i * 4 + 2] = get8(pp, desc_end);
1935                     language[i * 4 + 3] = ',';
1936
1937                     /* hearing impaired subtitles detection using subtitling_type */
1938                     switch (*pp[0]) {
1939                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1940                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1941                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1942                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1943                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1944                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1945                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1946                         break;
1947                     }
1948
1949                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1950                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1951                     extradata += 5;
1952
1953                     *pp += 4;
1954                 }
1955
1956                 language[i * 4 - 1] = 0;
1957                 av_dict_set(&st->metadata, "language", language, 0);
1958                 st->internal->need_context_update = 1;
1959             }
1960         }
1961         break;
1962     case 0x0a: /* ISO 639 language descriptor */
1963         for (i = 0; i + 4 <= desc_len; i += 4) {
1964             language[i + 0] = get8(pp, desc_end);
1965             language[i + 1] = get8(pp, desc_end);
1966             language[i + 2] = get8(pp, desc_end);
1967             language[i + 3] = ',';
1968             switch (get8(pp, desc_end)) {
1969             case 0x01:
1970                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1971                 break;
1972             case 0x02:
1973                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1974                 break;
1975             case 0x03:
1976                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1977                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
1978                 break;
1979             }
1980         }
1981         if (i && language[0]) {
1982             language[i - 1] = 0;
1983             /* don't overwrite language, as it may already have been set by
1984              * another, more specific descriptor (e.g. supplementary audio) */
1985             av_dict_set(&st->metadata, "language", language, AV_DICT_DONT_OVERWRITE);
1986         }
1987         break;
1988     case 0x05: /* registration descriptor */
1989         st->codecpar->codec_tag = bytestream_get_le32(pp);
1990         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1991         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) {
1992             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1993             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1994                 st->request_probe = 50;
1995         }
1996         break;
1997     case 0x52: /* stream identifier descriptor */
1998         st->stream_identifier = 1 + get8(pp, desc_end);
1999         break;
2000     case 0x26: /* metadata descriptor */
2001         if (get16(pp, desc_end) == 0xFFFF)
2002             *pp += 4;
2003         if (get8(pp, desc_end) == 0xFF) {
2004             st->codecpar->codec_tag = bytestream_get_le32(pp);
2005             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
2006                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
2007         }
2008         break;
2009     case 0x7f: /* DVB extension descriptor */
2010         ext_desc_tag = get8(pp, desc_end);
2011         if (ext_desc_tag < 0)
2012             return AVERROR_INVALIDDATA;
2013         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
2014             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
2015             if (!st->codecpar->extradata) {
2016                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
2017                                                      AV_INPUT_BUFFER_PADDING_SIZE);
2018                 if (!st->codecpar->extradata)
2019                     return AVERROR(ENOMEM);
2020
2021                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
2022                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
2023
2024                 channel_config_code = get8(pp, desc_end);
2025                 if (channel_config_code < 0)
2026                     return AVERROR_INVALIDDATA;
2027                 if (channel_config_code <= 0x8) {
2028                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
2029                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
2030                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
2031                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
2032                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
2033                 } else {
2034                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
2035                 }
2036                 st->need_parsing = AVSTREAM_PARSE_FULL;
2037                 st->internal->need_context_update = 1;
2038             }
2039         }
2040         if (ext_desc_tag == 0x06) { /* supplementary audio descriptor */
2041             int flags;
2042
2043             if (desc_len < 1)
2044                 return AVERROR_INVALIDDATA;
2045             flags = get8(pp, desc_end);
2046
2047             if ((flags & 0x80) == 0) /* mix_type */
2048                 st->disposition |= AV_DISPOSITION_DEPENDENT;
2049
2050             switch ((flags >> 2) & 0x1F) { /* editorial_classification */
2051             case 0x01:
2052                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2053                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2054                 break;
2055             case 0x02:
2056                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
2057                 break;
2058             case 0x03:
2059                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2060                 break;
2061             }
2062
2063             if (flags & 0x01) { /* language_code_present */
2064                 if (desc_len < 4)
2065                     return AVERROR_INVALIDDATA;
2066                 language[0] = get8(pp, desc_end);
2067                 language[1] = get8(pp, desc_end);
2068                 language[2] = get8(pp, desc_end);
2069                 language[3] = 0;
2070
2071                 /* This language always has to override a possible
2072                  * ISO 639 language descriptor language */
2073                 if (language[0])
2074                     av_dict_set(&st->metadata, "language", language, 0);
2075             }
2076         }
2077         break;
2078     case 0x6a: /* ac-3_descriptor */
2079         {
2080             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2081             if (component_type_flag) {
2082                 int component_type = get8(pp, desc_end);
2083                 int service_type_mask = 0x38;  // 0b00111000
2084                 int service_type = ((component_type & service_type_mask) >> 3);
2085                 if (service_type == 0x02 /* 0b010 */) {
2086                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2087                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2088                 }
2089             }
2090         }
2091         break;
2092     case 0x7a: /* enhanced_ac-3_descriptor */
2093         {
2094             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2095             if (component_type_flag) {
2096                 int component_type = get8(pp, desc_end);
2097                 int service_type_mask = 0x38;  // 0b00111000
2098                 int service_type = ((component_type & service_type_mask) >> 3);
2099                 if (service_type == 0x02 /* 0b010 */) {
2100                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2101                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2102                 }
2103             }
2104         }
2105         break;
2106     case 0xfd: /* ARIB data coding type descriptor */
2107         // STD-B24, fascicle 3, chapter 4 defines private_stream_1
2108         // for captions
2109         if (stream_type == STREAM_TYPE_PRIVATE_DATA) {
2110             // This structure is defined in STD-B10, part 1, listing 5.4 and
2111             // part 2, 6.2.20).
2112             // Listing of data_component_ids is in STD-B10, part 2, Annex J.
2113             // Component tag limits are documented in TR-B14, fascicle 2,
2114             // Vol. 3, Section 2, 4.2.8.1
2115             int actual_component_tag = st->stream_identifier - 1;
2116             int picked_profile = FF_PROFILE_UNKNOWN;
2117             int data_component_id = get16(pp, desc_end);
2118             if (data_component_id < 0)
2119                 return AVERROR_INVALIDDATA;
2120
2121             switch (data_component_id) {
2122             case 0x0008:
2123                 // [0x30..0x37] are component tags utilized for
2124                 // non-mobile captioning service ("profile A").
2125                 if (actual_component_tag >= 0x30 &&
2126                     actual_component_tag <= 0x37) {
2127                     picked_profile = FF_PROFILE_ARIB_PROFILE_A;
2128                 }
2129                 break;
2130             case 0x0012:
2131                 // component tag 0x87 signifies a mobile/partial reception
2132                 // (1seg) captioning service ("profile C").
2133                 if (actual_component_tag == 0x87) {
2134                     picked_profile = FF_PROFILE_ARIB_PROFILE_C;
2135                 }
2136                 break;
2137             default:
2138                 break;
2139             }
2140
2141             if (picked_profile == FF_PROFILE_UNKNOWN)
2142                 break;
2143
2144             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2145             st->codecpar->codec_id   = AV_CODEC_ID_ARIB_CAPTION;
2146             st->codecpar->profile    = picked_profile;
2147             st->request_probe        = 0;
2148         }
2149         break;
2150     case 0xb0: /* DOVI video stream descriptor */
2151         {
2152             uint32_t buf;
2153             AVDOVIDecoderConfigurationRecord *dovi;
2154             size_t dovi_size;
2155             int ret;
2156             if (desc_end - *pp < 4) // (8 + 8 + 7 + 6 + 1 + 1 + 1) / 8
2157                 return AVERROR_INVALIDDATA;
2158
2159             dovi = av_dovi_alloc(&dovi_size);
2160             if (!dovi)
2161                 return AVERROR(ENOMEM);
2162
2163             dovi->dv_version_major = get8(pp, desc_end);
2164             dovi->dv_version_minor = get8(pp, desc_end);
2165             buf = get16(pp, desc_end);
2166             dovi->dv_profile        = (buf >> 9) & 0x7f;    // 7 bits
2167             dovi->dv_level          = (buf >> 3) & 0x3f;    // 6 bits
2168             dovi->rpu_present_flag  = (buf >> 2) & 0x01;    // 1 bit
2169             dovi->el_present_flag   = (buf >> 1) & 0x01;    // 1 bit
2170             dovi->bl_present_flag   =  buf       & 0x01;    // 1 bit
2171             if (desc_end - *pp >= 20) {  // 4 + 4 * 4
2172                 buf = get8(pp, desc_end);
2173                 dovi->dv_bl_signal_compatibility_id = (buf >> 4) & 0x0f; // 4 bits
2174             } else {
2175                 // 0 stands for None
2176                 // Dolby Vision V1.2.93 profiles and levels
2177                 dovi->dv_bl_signal_compatibility_id = 0;
2178             }
2179
2180             ret = av_stream_add_side_data(st, AV_PKT_DATA_DOVI_CONF,
2181                                           (uint8_t *)dovi, dovi_size);
2182             if (ret < 0) {
2183                 av_free(dovi);
2184                 return ret;
2185             }
2186
2187             av_log(fc, AV_LOG_TRACE, "DOVI, version: %d.%d, profile: %d, level: %d, "
2188                    "rpu flag: %d, el flag: %d, bl flag: %d, compatibility id: %d\n",
2189                    dovi->dv_version_major, dovi->dv_version_minor,
2190                    dovi->dv_profile, dovi->dv_level,
2191                    dovi->rpu_present_flag,
2192                    dovi->el_present_flag,
2193                    dovi->bl_present_flag,
2194                    dovi->dv_bl_signal_compatibility_id);
2195         }
2196         break;
2197     default:
2198         break;
2199     }
2200     *pp = desc_end;
2201     return 0;
2202 }
2203
2204 static AVStream *find_matching_stream(MpegTSContext *ts, int pid, unsigned int programid,
2205                                       int stream_identifier, int pmt_stream_idx)
2206 {
2207     AVFormatContext *s = ts->stream;
2208     int i;
2209     AVStream *found = NULL;
2210
2211     for (i = 0; i < s->nb_streams; i++) {
2212         AVStream *st = s->streams[i];
2213         if (st->program_num != programid)
2214             continue;
2215         if (stream_identifier != -1) { /* match based on "stream identifier descriptor" if present */
2216             if (st->stream_identifier == stream_identifier+1) {
2217                 found = st;
2218                 break;
2219             }
2220         } else if (st->pmt_stream_idx == pmt_stream_idx) { /* match based on position within the PMT */
2221             found = st;
2222             break;
2223         }
2224     }
2225
2226     if (found) {
2227         av_log(ts->stream, AV_LOG_VERBOSE,
2228                "re-using existing %s stream %d (pid=0x%x) for new pid=0x%x\n",
2229                av_get_media_type_string(found->codecpar->codec_type),
2230                i, found->id, pid);
2231     }
2232
2233     return found;
2234 }
2235
2236 static int parse_stream_identifier_desc(const uint8_t *p, const uint8_t *p_end)
2237 {
2238     const uint8_t **pp = &p;
2239     const uint8_t *desc_list_end;
2240     const uint8_t *desc_end;
2241     int desc_list_len;
2242     int desc_len, desc_tag;
2243
2244     desc_list_len = get16(pp, p_end);
2245     if (desc_list_len < 0)
2246         return -1;
2247     desc_list_len &= 0xfff;
2248     desc_list_end  = p + desc_list_len;
2249     if (desc_list_end > p_end)
2250         return -1;
2251
2252     while (1) {
2253         desc_tag = get8(pp, desc_list_end);
2254         if (desc_tag < 0)
2255             return -1;
2256         desc_len = get8(pp, desc_list_end);
2257         if (desc_len < 0)
2258             return -1;
2259         desc_end = *pp + desc_len;
2260         if (desc_end > desc_list_end)
2261             return -1;
2262
2263         if (desc_tag == 0x52) {
2264             return get8(pp, desc_end);
2265         }
2266         *pp = desc_end;
2267     }
2268
2269     return -1;
2270 }
2271
2272 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
2273 {
2274     return !(stream_type == 0x13 ||
2275              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
2276 }
2277
2278 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2279 {
2280     MpegTSContext *ts = filter->u.section_filter.opaque;
2281     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2282     SectionHeader h1, *h = &h1;
2283     PESContext *pes;
2284     AVStream *st;
2285     const uint8_t *p, *p_end, *desc_list_end;
2286     int program_info_length, pcr_pid, pid, stream_type;
2287     int desc_list_len;
2288     uint32_t prog_reg_desc = 0; /* registration descriptor */
2289     int stream_identifier = -1;
2290
2291     int mp4_descr_count = 0;
2292     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
2293     int i;
2294
2295     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
2296     hex_dump_debug(ts->stream, section, section_len);
2297
2298     p_end = section + section_len - 4;
2299     p = section;
2300     if (parse_section_header(h, &p, p_end) < 0)
2301         return;
2302     if (h->tid != PMT_TID)
2303         return;
2304     if (skip_identical(h, tssf))
2305         return;
2306
2307     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
2308             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
2309
2310     if (!ts->scan_all_pmts && ts->skip_changes)
2311         return;
2312
2313     if (ts->skip_unknown_pmt && !get_program(ts, h->id))
2314         return;
2315     if (!ts->skip_clear)
2316         clear_program(ts, h->id);
2317
2318     pcr_pid = get16(&p, p_end);
2319     if (pcr_pid < 0)
2320         return;
2321     pcr_pid &= 0x1fff;
2322     add_pid_to_pmt(ts, h->id, pcr_pid);
2323     update_av_program_info(ts->stream, h->id, pcr_pid, h->version);
2324
2325     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
2326
2327     program_info_length = get16(&p, p_end);
2328     if (program_info_length < 0)
2329         return;
2330     program_info_length &= 0xfff;
2331     while (program_info_length >= 2) {
2332         uint8_t tag, len;
2333         tag = get8(&p, p_end);
2334         len = get8(&p, p_end);
2335
2336         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
2337
2338         if (len > program_info_length - 2)
2339             // something else is broken, exit the program_descriptors_loop
2340             break;
2341         program_info_length -= len + 2;
2342         if (tag == 0x1d) { // IOD descriptor
2343             get8(&p, p_end); // scope
2344             get8(&p, p_end); // label
2345             len -= 2;
2346             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
2347                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
2348         } else if (tag == 0x05 && len >= 4) { // registration descriptor
2349             prog_reg_desc = bytestream_get_le32(&p);
2350             len -= 4;
2351         }
2352         p += len;
2353     }
2354     p += program_info_length;
2355     if (p >= p_end)
2356         goto out;
2357
2358     // stop parsing after pmt, we found header
2359     if (!ts->stream->nb_streams)
2360         ts->stop_parse = 2;
2361
2362     set_pmt_found(ts, h->id);
2363
2364
2365     for (i = 0; ; i++) {
2366         st = 0;
2367         pes = NULL;
2368         stream_type = get8(&p, p_end);
2369         if (stream_type < 0)
2370             break;
2371         pid = get16(&p, p_end);
2372         if (pid < 0)
2373             goto out;
2374         pid &= 0x1fff;
2375         if (pid == ts->current_pid)
2376             goto out;
2377
2378         if (ts->merge_pmt_versions)
2379             stream_identifier = parse_stream_identifier_desc(p, p_end);
2380
2381         /* now create stream */
2382         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2383             pes = ts->pids[pid]->u.pes_filter.opaque;
2384             if (ts->merge_pmt_versions && !pes->st) {
2385                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2386                 if (st) {
2387                     pes->st = st;
2388                     pes->stream_type = stream_type;
2389                     pes->merged_st = 1;
2390                 }
2391             }
2392             if (!pes->st) {
2393                 pes->st = avformat_new_stream(pes->stream, NULL);
2394                 if (!pes->st)
2395                     goto out;
2396                 pes->st->id = pes->pid;
2397                 pes->st->program_num = h->id;
2398                 pes->st->pmt_version = h->version;
2399                 pes->st->pmt_stream_idx = i;
2400             }
2401             st = pes->st;
2402         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2403             if (ts->pids[pid])
2404                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2405             pes = add_pes_stream(ts, pid, pcr_pid);
2406             if (ts->merge_pmt_versions && pes && !pes->st) {
2407                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2408                 if (st) {
2409                     pes->st = st;
2410                     pes->stream_type = stream_type;
2411                     pes->merged_st = 1;
2412                 }
2413             }
2414             if (pes && !pes->st) {
2415                 st = avformat_new_stream(pes->stream, NULL);
2416                 if (!st)
2417                     goto out;
2418                 st->id = pes->pid;
2419                 st->program_num = h->id;
2420                 st->pmt_version = h->version;
2421                 st->pmt_stream_idx = i;
2422             }
2423         } else {
2424             int idx = ff_find_stream_index(ts->stream, pid);
2425             if (idx >= 0) {
2426                 st = ts->stream->streams[idx];
2427             }
2428             if (ts->merge_pmt_versions && !st) {
2429                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2430             }
2431             if (!st) {
2432                 st = avformat_new_stream(ts->stream, NULL);
2433                 if (!st)
2434                     goto out;
2435                 st->id = pid;
2436                 st->program_num = h->id;
2437                 st->pmt_version = h->version;
2438                 st->pmt_stream_idx = i;
2439                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2440                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2441                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2442                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2443                 }
2444             }
2445         }
2446
2447         if (!st)
2448             goto out;
2449
2450         if (pes && !pes->stream_type)
2451             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2452
2453         add_pid_to_pmt(ts, h->id, pid);
2454
2455         av_program_add_stream_index(ts->stream, h->id, st->index);
2456
2457         desc_list_len = get16(&p, p_end);
2458         if (desc_list_len < 0)
2459             goto out;
2460         desc_list_len &= 0xfff;
2461         desc_list_end  = p + desc_list_len;
2462         if (desc_list_end > p_end)
2463             goto out;
2464         for (;;) {
2465             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2466                                           desc_list_end, mp4_descr,
2467                                           mp4_descr_count, pid, ts) < 0)
2468                 break;
2469
2470             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2471                 stream_type == 0x83 && pes->sub_st) {
2472                 av_program_add_stream_index(ts->stream, h->id,
2473                                             pes->sub_st->index);
2474                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2475             }
2476         }
2477         p = desc_list_end;
2478     }
2479
2480     if (!ts->pids[pcr_pid])
2481         mpegts_open_pcr_filter(ts, pcr_pid);
2482
2483 out:
2484     for (i = 0; i < mp4_descr_count; i++)
2485         av_free(mp4_descr[i].dec_config_descr);
2486 }
2487
2488 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2489 {
2490     MpegTSContext *ts = filter->u.section_filter.opaque;
2491     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2492     SectionHeader h1, *h = &h1;
2493     const uint8_t *p, *p_end;
2494     int sid, pmt_pid;
2495     AVProgram *program;
2496
2497     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2498     hex_dump_debug(ts->stream, section, section_len);
2499
2500     p_end = section + section_len - 4;
2501     p     = section;
2502     if (parse_section_header(h, &p, p_end) < 0)
2503         return;
2504     if (h->tid != PAT_TID)
2505         return;
2506     if (ts->skip_changes)
2507         return;
2508
2509     if (skip_identical(h, tssf))
2510         return;
2511     ts->stream->ts_id = h->id;
2512
2513     clear_programs(ts);
2514     for (;;) {
2515         sid = get16(&p, p_end);
2516         if (sid < 0)
2517             break;
2518         pmt_pid = get16(&p, p_end);
2519         if (pmt_pid < 0)
2520             break;
2521         pmt_pid &= 0x1fff;
2522
2523         if (pmt_pid == ts->current_pid)
2524             break;
2525
2526         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2527
2528         if (sid == 0x0000) {
2529             /* NIT info */
2530         } else {
2531             MpegTSFilter *fil = ts->pids[pmt_pid];
2532             program = av_new_program(ts->stream, sid);
2533             if (program) {
2534                 program->program_num = sid;
2535                 program->pmt_pid = pmt_pid;
2536             }
2537             if (fil)
2538                 if (   fil->type != MPEGTS_SECTION
2539                     || fil->pid != pmt_pid
2540                     || fil->u.section_filter.section_cb != pmt_cb)
2541                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2542
2543             if (!ts->pids[pmt_pid])
2544                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2545             add_pat_entry(ts, sid);
2546             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2547             add_pid_to_pmt(ts, sid, pmt_pid);
2548         }
2549     }
2550
2551     if (sid < 0) {
2552         int i,j;
2553         for (j=0; j<ts->stream->nb_programs; j++) {
2554             for (i = 0; i < ts->nb_prg; i++)
2555                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2556                     break;
2557             if (i==ts->nb_prg && !ts->skip_clear)
2558                 clear_avprogram(ts, ts->stream->programs[j]->id);
2559         }
2560     }
2561 }
2562
2563 static void eit_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2564 {
2565     MpegTSContext *ts = filter->u.section_filter.opaque;
2566     const uint8_t *p, *p_end;
2567     SectionHeader h1, *h = &h1;
2568
2569     /*
2570      * Sometimes we receive EPG packets but SDT table do not have
2571      * eit_pres_following or eit_sched turned on, so we open EPG
2572      * stream directly here.
2573      */
2574     if (!ts->epg_stream) {
2575         ts->epg_stream = avformat_new_stream(ts->stream, NULL);
2576         if (!ts->epg_stream)
2577             return;
2578         ts->epg_stream->id = EIT_PID;
2579         ts->epg_stream->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2580         ts->epg_stream->codecpar->codec_id = AV_CODEC_ID_EPG;
2581     }
2582
2583     if (ts->epg_stream->discard == AVDISCARD_ALL)
2584         return;
2585
2586     p_end = section + section_len - 4;
2587     p     = section;
2588
2589     if (parse_section_header(h, &p, p_end) < 0)
2590         return;
2591     if (h->tid < EIT_TID || h->tid > OEITS_END_TID)
2592         return;
2593
2594     av_log(ts->stream, AV_LOG_TRACE, "EIT: tid received = %.02x\n", h->tid);
2595
2596     /**
2597      * Service_id 0xFFFF is reserved, it indicates that the current EIT table
2598      * is scrambled.
2599      */
2600     if (h->id == 0xFFFF) {
2601         av_log(ts->stream, AV_LOG_TRACE, "Scrambled EIT table received.\n");
2602         return;
2603     }
2604
2605     /**
2606      * In case we receive an EPG packet before mpegts context is fully
2607      * initialized.
2608      */
2609     if (!ts->pkt)
2610         return;
2611
2612     new_data_packet(section, section_len, ts->pkt);
2613     ts->pkt->stream_index = ts->epg_stream->index;
2614     ts->stop_parse = 1;
2615 }
2616
2617 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2618 {
2619     MpegTSContext *ts = filter->u.section_filter.opaque;
2620     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2621     SectionHeader h1, *h = &h1;
2622     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2623     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2624     char *name, *provider_name;
2625
2626     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2627     hex_dump_debug(ts->stream, section, section_len);
2628
2629     p_end = section + section_len - 4;
2630     p     = section;
2631     if (parse_section_header(h, &p, p_end) < 0)
2632         return;
2633     if (h->tid != SDT_TID)
2634         return;
2635     if (ts->skip_changes)
2636         return;
2637     if (skip_identical(h, tssf))
2638         return;
2639
2640     onid = get16(&p, p_end);
2641     if (onid < 0)
2642         return;
2643     val = get8(&p, p_end);
2644     if (val < 0)
2645         return;
2646     for (;;) {
2647         sid = get16(&p, p_end);
2648         if (sid < 0)
2649             break;
2650         val = get8(&p, p_end);
2651         if (val < 0)
2652             break;
2653         desc_list_len = get16(&p, p_end);
2654         if (desc_list_len < 0)
2655             break;
2656         desc_list_len &= 0xfff;
2657         desc_list_end  = p + desc_list_len;
2658         if (desc_list_end > p_end)
2659             break;
2660         for (;;) {
2661             desc_tag = get8(&p, desc_list_end);
2662             if (desc_tag < 0)
2663                 break;
2664             desc_len = get8(&p, desc_list_end);
2665             desc_end = p + desc_len;
2666             if (desc_len < 0 || desc_end > desc_list_end)
2667                 break;
2668
2669             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2670                     desc_tag, desc_len);
2671
2672             switch (desc_tag) {
2673             case 0x48:
2674                 service_type = get8(&p, p_end);
2675                 if (service_type < 0)
2676                     break;
2677                 provider_name = getstr8(&p, p_end);
2678                 if (!provider_name)
2679                     break;
2680                 name = getstr8(&p, p_end);
2681                 if (name) {
2682                     AVProgram *program = av_new_program(ts->stream, sid);
2683                     if (program) {
2684                         av_dict_set(&program->metadata, "service_name", name, 0);
2685                         av_dict_set(&program->metadata, "service_provider",
2686                                     provider_name, 0);
2687                     }
2688                 }
2689                 av_free(name);
2690                 av_free(provider_name);
2691                 break;
2692             default:
2693                 break;
2694             }
2695             p = desc_end;
2696         }
2697         p = desc_list_end;
2698     }
2699 }
2700
2701 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2702                      const uint8_t *packet);
2703
2704 /* handle one TS packet */
2705 static int handle_packet(MpegTSContext *ts, const uint8_t *packet, int64_t pos)
2706 {
2707     MpegTSFilter *tss;
2708     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2709         has_adaptation, has_payload;
2710     const uint8_t *p, *p_end;
2711
2712     pid = AV_RB16(packet + 1) & 0x1fff;
2713     is_start = packet[1] & 0x40;
2714     tss = ts->pids[pid];
2715     if (ts->auto_guess && !tss && is_start) {
2716         add_pes_stream(ts, pid, -1);
2717         tss = ts->pids[pid];
2718     }
2719     if (!tss)
2720         return 0;
2721     if (is_start)
2722         tss->discard = discard_pid(ts, pid);
2723     if (tss->discard)
2724         return 0;
2725     ts->current_pid = pid;
2726
2727     afc = (packet[3] >> 4) & 3;
2728     if (afc == 0) /* reserved value */
2729         return 0;
2730     has_adaptation   = afc & 2;
2731     has_payload      = afc & 1;
2732     is_discontinuity = has_adaptation &&
2733                        packet[4] != 0 && /* with length > 0 */
2734                        (packet[5] & 0x80); /* and discontinuity indicated */
2735
2736     /* continuity check (currently not used) */
2737     cc = (packet[3] & 0xf);
2738     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2739     cc_ok = pid == 0x1FFF || // null packet PID
2740             is_discontinuity ||
2741             tss->last_cc < 0 ||
2742             expected_cc == cc;
2743
2744     tss->last_cc = cc;
2745     if (!cc_ok) {
2746         av_log(ts->stream, AV_LOG_DEBUG,
2747                "Continuity check failed for pid %d expected %d got %d\n",
2748                pid, expected_cc, cc);
2749         if (tss->type == MPEGTS_PES) {
2750             PESContext *pc = tss->u.pes_filter.opaque;
2751             pc->flags |= AV_PKT_FLAG_CORRUPT;
2752         }
2753     }
2754
2755     if (packet[1] & 0x80) {
2756         av_log(ts->stream, AV_LOG_DEBUG, "Packet had TEI flag set; marking as corrupt\n");
2757         if (tss->type == MPEGTS_PES) {
2758             PESContext *pc = tss->u.pes_filter.opaque;
2759             pc->flags |= AV_PKT_FLAG_CORRUPT;
2760         }
2761     }
2762
2763     p = packet + 4;
2764     if (has_adaptation) {
2765         int64_t pcr_h;
2766         int pcr_l;
2767         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2768             tss->last_pcr = pcr_h * 300 + pcr_l;
2769         /* skip adaptation field */
2770         p += p[0] + 1;
2771     }
2772     /* if past the end of packet, ignore */
2773     p_end = packet + TS_PACKET_SIZE;
2774     if (p >= p_end || !has_payload)
2775         return 0;
2776
2777     if (pos >= 0) {
2778         av_assert0(pos >= TS_PACKET_SIZE);
2779         ts->pos47_full = pos - TS_PACKET_SIZE;
2780     }
2781
2782     if (tss->type == MPEGTS_SECTION) {
2783         if (is_start) {
2784             /* pointer field present */
2785             len = *p++;
2786             if (len > p_end - p)
2787                 return 0;
2788             if (len && cc_ok) {
2789                 /* write remaining section bytes */
2790                 write_section_data(ts, tss,
2791                                    p, len, 0);
2792                 /* check whether filter has been closed */
2793                 if (!ts->pids[pid])
2794                     return 0;
2795             }
2796             p += len;
2797             if (p < p_end) {
2798                 write_section_data(ts, tss,
2799                                    p, p_end - p, 1);
2800             }
2801         } else {
2802             if (cc_ok) {
2803                 write_section_data(ts, tss,
2804                                    p, p_end - p, 0);
2805             }
2806         }
2807
2808         // stop find_stream_info from waiting for more streams
2809         // when all programs have received a PMT
2810         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2811             int i;
2812             for (i = 0; i < ts->nb_prg; i++) {
2813                 if (!ts->prg[i].pmt_found)
2814                     break;
2815             }
2816             if (i == ts->nb_prg && ts->nb_prg > 0) {
2817                 int types = 0;
2818                 for (i = 0; i < ts->stream->nb_streams; i++) {
2819                     AVStream *st = ts->stream->streams[i];
2820                     if (st->codecpar->codec_type >= 0)
2821                         types |= 1<<st->codecpar->codec_type;
2822                 }
2823                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2824                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2825                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2826                 }
2827             }
2828         }
2829
2830     } else {
2831         int ret;
2832         // Note: The position here points actually behind the current packet.
2833         if (tss->type == MPEGTS_PES) {
2834             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2835                                                 pos - ts->raw_packet_size)) < 0)
2836                 return ret;
2837         }
2838     }
2839
2840     return 0;
2841 }
2842
2843 static void reanalyze(MpegTSContext *ts) {
2844     AVIOContext *pb = ts->stream->pb;
2845     int64_t pos = avio_tell(pb);
2846     if (pos < 0)
2847         return;
2848     pos -= ts->pos47_full;
2849     if (pos == TS_PACKET_SIZE) {
2850         ts->size_stat[0] ++;
2851     } else if (pos == TS_DVHS_PACKET_SIZE) {
2852         ts->size_stat[1] ++;
2853     } else if (pos == TS_FEC_PACKET_SIZE) {
2854         ts->size_stat[2] ++;
2855     }
2856
2857     ts->size_stat_count ++;
2858     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2859         int newsize = 0;
2860         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2861             newsize = TS_PACKET_SIZE;
2862         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2863             newsize = TS_DVHS_PACKET_SIZE;
2864         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2865             newsize = TS_FEC_PACKET_SIZE;
2866         }
2867         if (newsize && newsize != ts->raw_packet_size) {
2868             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2869             ts->raw_packet_size = newsize;
2870         }
2871         ts->size_stat_count = 0;
2872         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2873     }
2874 }
2875
2876 /* XXX: try to find a better synchro over several packets (use
2877  * get_packet_size() ?) */
2878 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2879 {
2880     MpegTSContext *ts = s->priv_data;
2881     AVIOContext *pb = s->pb;
2882     int c, i;
2883     uint64_t pos = avio_tell(pb);
2884
2885     avio_seek(pb, -FFMIN(seekback, pos), SEEK_CUR);
2886
2887     //Special case for files like 01c56b0dc1.ts
2888     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2889         avio_seek(pb, 12, SEEK_CUR);
2890         return 0;
2891     }
2892
2893     for (i = 0; i < ts->resync_size; i++) {
2894         c = avio_r8(pb);
2895         if (avio_feof(pb))
2896             return AVERROR_EOF;
2897         if (c == 0x47) {
2898             avio_seek(pb, -1, SEEK_CUR);
2899             reanalyze(s->priv_data);
2900             return 0;
2901         }
2902     }
2903     av_log(s, AV_LOG_ERROR,
2904            "max resync size reached, could not find sync byte\n");
2905     /* no sync found */
2906     return AVERROR_INVALIDDATA;
2907 }
2908
2909 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2910 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2911                        const uint8_t **data)
2912 {
2913     AVIOContext *pb = s->pb;
2914     int len;
2915
2916     for (;;) {
2917         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2918         if (len != TS_PACKET_SIZE)
2919             return len < 0 ? len : AVERROR_EOF;
2920         /* check packet sync byte */
2921         if ((*data)[0] != 0x47) {
2922             /* find a new packet start */
2923
2924             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2925                 return AVERROR(EAGAIN);
2926             else
2927                 continue;
2928         } else {
2929             break;
2930         }
2931     }
2932     return 0;
2933 }
2934
2935 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2936 {
2937     AVIOContext *pb = s->pb;
2938     int skip = raw_packet_size - TS_PACKET_SIZE;
2939     if (skip > 0)
2940         avio_skip(pb, skip);
2941 }
2942
2943 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2944 {
2945     AVFormatContext *s = ts->stream;
2946     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2947     const uint8_t *data;
2948     int64_t packet_num;
2949     int ret = 0;
2950
2951     if (avio_tell(s->pb) != ts->last_pos) {
2952         int i;
2953         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2954         /* seek detected, flush pes buffer */
2955         for (i = 0; i < NB_PID_MAX; i++) {
2956             if (ts->pids[i]) {
2957                 if (ts->pids[i]->type == MPEGTS_PES) {
2958                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2959                     av_buffer_unref(&pes->buffer);
2960                     pes->data_index = 0;
2961                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2962                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2963                     ts->pids[i]->u.section_filter.last_ver = -1;
2964                 }
2965                 ts->pids[i]->last_cc = -1;
2966                 ts->pids[i]->last_pcr = -1;
2967             }
2968         }
2969     }
2970
2971     ts->stop_parse = 0;
2972     packet_num = 0;
2973     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2974     for (;;) {
2975         packet_num++;
2976         if (nb_packets != 0 && packet_num >= nb_packets ||
2977             ts->stop_parse > 1) {
2978             ret = AVERROR(EAGAIN);
2979             break;
2980         }
2981         if (ts->stop_parse > 0)
2982             break;
2983
2984         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2985         if (ret != 0)
2986             break;
2987         ret = handle_packet(ts, data, avio_tell(s->pb));
2988         finished_reading_packet(s, ts->raw_packet_size);
2989         if (ret != 0)
2990             break;
2991     }
2992     ts->last_pos = avio_tell(s->pb);
2993     return ret;
2994 }
2995
2996 static int mpegts_probe(const AVProbeData *p)
2997 {
2998     const int size = p->buf_size;
2999     int maxscore = 0;
3000     int sumscore = 0;
3001     int i;
3002     int check_count = size / TS_FEC_PACKET_SIZE;
3003 #define CHECK_COUNT 10
3004 #define CHECK_BLOCK 100
3005
3006     if (!check_count)
3007         return 0;
3008
3009     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
3010         int left = FFMIN(check_count - i, CHECK_BLOCK);
3011         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
3012         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
3013         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
3014         score = FFMAX3(score, dvhs_score, fec_score);
3015         sumscore += score;
3016         maxscore = FFMAX(maxscore, score);
3017     }
3018
3019     sumscore = sumscore * CHECK_COUNT / check_count;
3020     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
3021
3022     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
3023
3024     if        (check_count > CHECK_COUNT && sumscore > 6) {
3025         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
3026     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
3027         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3028     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
3029         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3030     } else if (sumscore > 6) {
3031         return 2;
3032     } else {
3033         return 0;
3034     }
3035 }
3036
3037 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
3038  * (-1) if not available */
3039 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
3040 {
3041     int afc, len, flags;
3042     const uint8_t *p;
3043     unsigned int v;
3044
3045     afc = (packet[3] >> 4) & 3;
3046     if (afc <= 1)
3047         return AVERROR_INVALIDDATA;
3048     p   = packet + 4;
3049     len = p[0];
3050     p++;
3051     if (len == 0)
3052         return AVERROR_INVALIDDATA;
3053     flags = *p++;
3054     len--;
3055     if (!(flags & 0x10))
3056         return AVERROR_INVALIDDATA;
3057     if (len < 6)
3058         return AVERROR_INVALIDDATA;
3059     v          = AV_RB32(p);
3060     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
3061     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
3062     return 0;
3063 }
3064
3065 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
3066
3067     /* NOTE: We attempt to seek on non-seekable files as well, as the
3068      * probe buffer usually is big enough. Only warn if the seek failed
3069      * on files where the seek should work. */
3070     if (avio_seek(pb, pos, SEEK_SET) < 0)
3071         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
3072 }
3073
3074 static int mpegts_read_header(AVFormatContext *s)
3075 {
3076     MpegTSContext *ts = s->priv_data;
3077     AVIOContext *pb   = s->pb;
3078     int64_t pos, probesize = s->probesize;
3079
3080     s->internal->prefer_codec_framerate = 1;
3081
3082     if (ffio_ensure_seekback(pb, probesize) < 0)
3083         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
3084
3085     pos = avio_tell(pb);
3086     ts->raw_packet_size = get_packet_size(s);
3087     if (ts->raw_packet_size <= 0) {
3088         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
3089         ts->raw_packet_size = TS_PACKET_SIZE;
3090     }
3091     ts->stream     = s;
3092     ts->auto_guess = 0;
3093
3094     if (s->iformat == &ff_mpegts_demuxer) {
3095         /* normal demux */
3096
3097         /* first do a scan to get all the services */
3098         seek_back(s, pb, pos);
3099
3100         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3101         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3102         mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3103
3104         handle_packets(ts, probesize / ts->raw_packet_size);
3105         /* if could not find service, enable auto_guess */
3106
3107         ts->auto_guess = 1;
3108
3109         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
3110
3111         s->ctx_flags |= AVFMTCTX_NOHEADER;
3112     } else {
3113         AVStream *st;
3114         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
3115         int64_t pcrs[2], pcr_h;
3116         int packet_count[2];
3117         uint8_t packet[TS_PACKET_SIZE];
3118         const uint8_t *data;
3119
3120         /* only read packets */
3121
3122         st = avformat_new_stream(s, NULL);
3123         if (!st)
3124             return AVERROR(ENOMEM);
3125         avpriv_set_pts_info(st, 60, 1, 27000000);
3126         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
3127         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
3128
3129         /* we iterate until we find two PCRs to estimate the bitrate */
3130         pcr_pid    = -1;
3131         nb_pcrs    = 0;
3132         nb_packets = 0;
3133         for (;;) {
3134             ret = read_packet(s, packet, ts->raw_packet_size, &data);
3135             if (ret < 0)
3136                 return ret;
3137             pid = AV_RB16(data + 1) & 0x1fff;
3138             if ((pcr_pid == -1 || pcr_pid == pid) &&
3139                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
3140                 finished_reading_packet(s, ts->raw_packet_size);
3141                 pcr_pid = pid;
3142                 packet_count[nb_pcrs] = nb_packets;
3143                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
3144                 nb_pcrs++;
3145                 if (nb_pcrs >= 2) {
3146                     if (pcrs[1] - pcrs[0] > 0) {
3147                         /* the difference needs to be positive to make sense for bitrate computation */
3148                         break;
3149                     } else {
3150                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
3151                         pcrs[0] = pcrs[1];
3152                         packet_count[0] = packet_count[1];
3153                         nb_pcrs--;
3154                     }
3155                 }
3156             } else {
3157                 finished_reading_packet(s, ts->raw_packet_size);
3158             }
3159             nb_packets++;
3160         }
3161
3162         /* NOTE1: the bitrate is computed without the FEC */
3163         /* NOTE2: it is only the bitrate of the start of the stream */
3164         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
3165         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
3166         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
3167         st->codecpar->bit_rate = s->bit_rate;
3168         st->start_time      = ts->cur_pcr;
3169         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%d\n",
3170                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
3171     }
3172
3173     seek_back(s, pb, pos);
3174     return 0;
3175 }
3176
3177 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
3178
3179 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
3180 {
3181     MpegTSContext *ts = s->priv_data;
3182     int ret, i;
3183     int64_t pcr_h, next_pcr_h, pos;
3184     int pcr_l, next_pcr_l;
3185     uint8_t pcr_buf[12];
3186     const uint8_t *data;
3187
3188     if ((ret = av_new_packet(pkt, TS_PACKET_SIZE)) < 0)
3189         return ret;
3190     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
3191     pkt->pos = avio_tell(s->pb);
3192     if (ret < 0) {
3193         return ret;
3194     }
3195     if (data != pkt->data)
3196         memcpy(pkt->data, data, ts->raw_packet_size);
3197     finished_reading_packet(s, ts->raw_packet_size);
3198     if (ts->mpeg2ts_compute_pcr) {
3199         /* compute exact PCR for each packet */
3200         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
3201             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
3202             pos = avio_tell(s->pb);
3203             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
3204                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
3205                 avio_read(s->pb, pcr_buf, 12);
3206                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
3207                     /* XXX: not precise enough */
3208                     ts->pcr_incr =
3209                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
3210                         (i + 1);
3211                     break;
3212                 }
3213             }
3214             avio_seek(s->pb, pos, SEEK_SET);
3215             /* no next PCR found: we use previous increment */
3216             ts->cur_pcr = pcr_h * 300 + pcr_l;
3217         }
3218         pkt->pts      = ts->cur_pcr;
3219         pkt->duration = ts->pcr_incr;
3220         ts->cur_pcr  += ts->pcr_incr;
3221     }
3222     pkt->stream_index = 0;
3223     return 0;
3224 }
3225
3226 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
3227 {
3228     MpegTSContext *ts = s->priv_data;
3229     int ret, i;
3230
3231     pkt->size = -1;
3232     ts->pkt = pkt;
3233     ret = handle_packets(ts, 0);
3234     if (ret < 0) {
3235         av_packet_unref(ts->pkt);
3236         /* flush pes data left */
3237         for (i = 0; i < NB_PID_MAX; i++)
3238             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
3239                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
3240                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
3241                     ret = new_pes_packet(pes, pkt);
3242                     if (ret < 0)
3243                         return ret;
3244                     pes->state = MPEGTS_SKIP;
3245                     ret = 0;
3246                     break;
3247                 }
3248             }
3249     }
3250
3251     if (!ret && pkt->size < 0)
3252         ret = AVERROR_INVALIDDATA;
3253     return ret;
3254 }
3255
3256 static void mpegts_free(MpegTSContext *ts)
3257 {
3258     int i;
3259
3260     clear_programs(ts);
3261
3262     for (i = 0; i < FF_ARRAY_ELEMS(ts->pools); i++)
3263         av_buffer_pool_uninit(&ts->pools[i]);
3264
3265     for (i = 0; i < NB_PID_MAX; i++)
3266         if (ts->pids[i])
3267             mpegts_close_filter(ts, ts->pids[i]);
3268 }
3269
3270 static int mpegts_read_close(AVFormatContext *s)
3271 {
3272     MpegTSContext *ts = s->priv_data;
3273     mpegts_free(ts);
3274     return 0;
3275 }
3276
3277 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
3278                               int64_t *ppos, int64_t pos_limit)
3279 {
3280     MpegTSContext *ts = s->priv_data;
3281     int64_t pos, timestamp;
3282     uint8_t buf[TS_PACKET_SIZE];
3283     int pcr_l, pcr_pid =
3284         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
3285     int pos47 = ts->pos47_full % ts->raw_packet_size;
3286     pos =
3287         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
3288         ts->raw_packet_size + pos47;
3289     while(pos < pos_limit) {
3290         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3291             return AV_NOPTS_VALUE;
3292         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
3293             return AV_NOPTS_VALUE;
3294         if (buf[0] != 0x47) {
3295             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
3296                 return AV_NOPTS_VALUE;
3297             pos = avio_tell(s->pb);
3298             continue;
3299         }
3300         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
3301             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
3302             *ppos = pos;
3303             return timestamp;
3304         }
3305         pos += ts->raw_packet_size;
3306     }
3307
3308     return AV_NOPTS_VALUE;
3309 }
3310
3311 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
3312                               int64_t *ppos, int64_t pos_limit)
3313 {
3314     MpegTSContext *ts = s->priv_data;
3315     int64_t pos;
3316     int pos47 = ts->pos47_full % ts->raw_packet_size;
3317     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
3318     ff_read_frame_flush(s);
3319     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3320         return AV_NOPTS_VALUE;
3321     while(pos < pos_limit) {
3322         int ret;
3323         AVPacket pkt;
3324         av_init_packet(&pkt);
3325         ret = av_read_frame(s, &pkt);
3326         if (ret < 0)
3327             return AV_NOPTS_VALUE;
3328         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
3329             ff_reduce_index(s, pkt.stream_index);
3330             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
3331             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
3332                 int64_t dts = pkt.dts;
3333                 *ppos = pkt.pos;
3334                 av_packet_unref(&pkt);
3335                 return dts;
3336             }
3337         }
3338         pos = pkt.pos;
3339         av_packet_unref(&pkt);
3340     }
3341
3342     return AV_NOPTS_VALUE;
3343 }
3344
3345 /**************************************************************/
3346 /* parsing functions - called from other demuxers such as RTP */
3347
3348 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
3349 {
3350     MpegTSContext *ts;
3351
3352     ts = av_mallocz(sizeof(MpegTSContext));
3353     if (!ts)
3354         return NULL;
3355     /* no stream case, currently used by RTP */
3356     ts->raw_packet_size = TS_PACKET_SIZE;
3357     ts->stream = s;
3358     ts->auto_guess = 1;
3359
3360     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3361     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3362     mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3363
3364     return ts;
3365 }
3366
3367 /* return the consumed length if a packet was output, or -1 if no
3368  * packet is output */
3369 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
3370                                const uint8_t *buf, int len)
3371 {
3372     int len1;
3373
3374     len1 = len;
3375     ts->pkt = pkt;
3376     for (;;) {
3377         ts->stop_parse = 0;
3378         if (len < TS_PACKET_SIZE)
3379             return AVERROR_INVALIDDATA;
3380         if (buf[0] != 0x47) {
3381             buf++;
3382             len--;
3383         } else {
3384             handle_packet(ts, buf, len1 - len + TS_PACKET_SIZE);
3385             buf += TS_PACKET_SIZE;
3386             len -= TS_PACKET_SIZE;
3387             if (ts->stop_parse == 1)
3388                 break;
3389         }
3390     }
3391     return len1 - len;
3392 }
3393
3394 void avpriv_mpegts_parse_close(MpegTSContext *ts)
3395 {
3396     mpegts_free(ts);
3397     av_free(ts);
3398 }
3399
3400 AVInputFormat ff_mpegts_demuxer = {
3401     .name           = "mpegts",
3402     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
3403     .priv_data_size = sizeof(MpegTSContext),
3404     .read_probe     = mpegts_probe,
3405     .read_header    = mpegts_read_header,
3406     .read_packet    = mpegts_read_packet,
3407     .read_close     = mpegts_read_close,
3408     .read_timestamp = mpegts_get_dts,
3409     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3410     .priv_class     = &mpegts_class,
3411 };
3412
3413 AVInputFormat ff_mpegtsraw_demuxer = {
3414     .name           = "mpegtsraw",
3415     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
3416     .priv_data_size = sizeof(MpegTSContext),
3417     .read_header    = mpegts_read_header,
3418     .read_packet    = mpegts_raw_read_packet,
3419     .read_close     = mpegts_read_close,
3420     .read_timestamp = mpegts_get_dts,
3421     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3422     .priv_class     = &mpegtsraw_class,
3423 };