git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/intreadwrite.h"
  25 #include "libavutil/log.h"
  26 #include "libavutil/dict.h"
  27 #include "libavutil/mathematics.h"
  28 #include "libavutil/opt.h"
  29 #include "libavutil/avassert.h"
  30 #include "libavcodec/bytestream.h"
  31 #include "libavcodec/get_bits.h"
  32 #include "libavcodec/opus.h"
  33 #include "avformat.h"
  34 #include "mpegts.h"
  35 #include "internal.h"
  36 #include "avio_internal.h"
  37 #include "seek.h"
  38 #include "mpeg.h"
  39 #include "isom.h"
  40
  41 /* maximum size in which we look for synchronisation if
  42  * synchronisation is lost */
  43 #define MAX_RESYNC_SIZE 65536
  44
  45 #define MAX_PES_PAYLOAD 200 * 1024
  46
  47 #define MAX_MP4_DESCR_COUNT 16
  48
  49 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  50     do {                                                                       \
  51         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  52             (modulus) = (dividend) % (divisor);                                \
  53         (prev_dividend) = (dividend);                                          \
  54     } while (0)
  55
  56 enum MpegTSFilterType {
  57     MPEGTS_PES,
  58     MPEGTS_SECTION,
  59     MPEGTS_PCR,
  60 };
  61
  62 typedef struct MpegTSFilter MpegTSFilter;
  63
  64 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  65                          int is_start, int64_t pos);
  66
  67 typedef struct MpegTSPESFilter {
  68     PESCallback *pes_cb;
  69     void *opaque;
  70 } MpegTSPESFilter;
  71
  72 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  73
  74 typedef void SetServiceCallback (void *opaque, int ret);
  75
  76 typedef struct MpegTSSectionFilter {
  77     int section_index;
  78     int section_h_size;
  79     uint8_t *section_buf;
  80     unsigned int check_crc : 1;
  81     unsigned int end_of_section_reached : 1;
  82     SectionCallback *section_cb;
  83     void *opaque;
  84 } MpegTSSectionFilter;
  85
  86 struct MpegTSFilter {
  87     int pid;
  88     int es_id;
  89     int last_cc; /* last cc code (-1 if first packet) */
  90     int64_t last_pcr;
  91     enum MpegTSFilterType type;
  92     union {
  93         MpegTSPESFilter pes_filter;
  94         MpegTSSectionFilter section_filter;
  95     } u;
  96 };
  97
  98 #define MAX_PIDS_PER_PROGRAM 64
  99 struct Program {
 100     unsigned int id; // program id/service id
 101     unsigned int nb_pids;
 102     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 103
 104     /** have we found pmt for this program */
 105     int pmt_found;
 106 };
 107
 108 struct MpegTSContext {
 109     const AVClass *class;
 110     /* user data */
 111     AVFormatContext *stream;
 112     /** raw packet size, including FEC if present */
 113     int raw_packet_size;
 114
 115     int size_stat[3];
 116     int size_stat_count;
 117 #define SIZE_STAT_THRESHOLD 10
 118
 119     int64_t pos47_full;
 120
 121     /** if true, all pids are analyzed to find streams */
 122     int auto_guess;
 123
 124     /** compute exact PCR for each transport stream packet */
 125     int mpeg2ts_compute_pcr;
 126
 127     /** fix dvb teletext pts                                 */
 128     int fix_teletext_pts;
 129
 130     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 131     int pcr_incr;       /**< used to estimate the exact PCR */
 132
 133     /* data needed to handle file based ts */
 134     /** stop parsing loop */
 135     int stop_parse;
 136     /** packet containing Audio/Video data */
 137     AVPacket *pkt;
 138     /** to detect seek */
 139     int64_t last_pos;
 140
 141     int skip_changes;
 142     int skip_clear;
 143
 144     int scan_all_pmts;
 145
 146     int resync_size;
 147
 148     /******************************************/
 149     /* private mpegts data */
 150     /* scan context */
 151     /** structure to keep track of Program->pids mapping */
 152     unsigned int nb_prg;
 153     struct Program *prg;
 154
 155     int8_t crc_validity[NB_PID_MAX];
 156     /** filters for various streams specified by PMT + for the PAT and PMT */
 157     MpegTSFilter *pids[NB_PID_MAX];
 158     int current_pid;
 159 };
 160
 161 #define MPEGTS_OPTIONS \
 162     { "resync_size",   "Size limit for looking up a new synchronization.", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 163
 164 static const AVOption options[] = {
 165     MPEGTS_OPTIONS,
 166     {"fix_teletext_pts", "Try to fix pts values of dvb teletext streams.", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_INT,
 167      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 168     {"ts_packetsize", "Output option carrying the raw packet size.", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 169      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 170     {"scan_all_pmts",   "Scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_INT,
 171      { .i64 =  -1}, -1, 1,  AV_OPT_FLAG_DECODING_PARAM },
 172     {"skip_changes", "Skip changing / adding streams / programs.", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_INT,
 173      {.i64 = 0}, 0, 1, 0 },
 174     {"skip_clear", "Skip clearing programs.", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_INT,
 175      {.i64 = 0}, 0, 1, 0 },
 176     { NULL },
 177 };
 178
 179 static const AVClass mpegts_class = {
 180     .class_name = "mpegts demuxer",
 181     .item_name  = av_default_item_name,
 182     .option     = options,
 183     .version    = LIBAVUTIL_VERSION_INT,
 184 };
 185
 186 static const AVOption raw_options[] = {
 187     MPEGTS_OPTIONS,
 188     { "compute_pcr",   "Compute exact PCR for each transport stream packet.",
 189           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
 190           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 191     { "ts_packetsize", "Output option carrying the raw packet size.",
 192       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 193       { .i64 = 0 }, 0, 0,
 194       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 195     { NULL },
 196 };
 197
 198 static const AVClass mpegtsraw_class = {
 199     .class_name = "mpegtsraw demuxer",
 200     .item_name  = av_default_item_name,
 201     .option     = raw_options,
 202     .version    = LIBAVUTIL_VERSION_INT,
 203 };
 204
 205 /* TS stream handling */
 206
 207 enum MpegTSState {
 208     MPEGTS_HEADER = 0,
 209     MPEGTS_PESHEADER,
 210     MPEGTS_PESHEADER_FILL,
 211     MPEGTS_PAYLOAD,
 212     MPEGTS_SKIP,
 213 };
 214
 215 /* enough for PES header + length */
 216 #define PES_START_SIZE  6
 217 #define PES_HEADER_SIZE 9
 218 #define MAX_PES_HEADER_SIZE (9 + 255)
 219
 220 typedef struct PESContext {
 221     int pid;
 222     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 223     int stream_type;
 224     MpegTSContext *ts;
 225     AVFormatContext *stream;
 226     AVStream *st;
 227     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 228     enum MpegTSState state;
 229     /* used to get the format */
 230     int data_index;
 231     int flags; /**< copied to the AVPacket flags */
 232     int total_size;
 233     int pes_header_size;
 234     int extended_stream_id;
 235     int64_t pts, dts;
 236     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 237     uint8_t header[MAX_PES_HEADER_SIZE];
 238     AVBufferRef *buffer;
 239     SLConfigDescr sl;
 240 } PESContext;
 241
 242 extern AVInputFormat ff_mpegts_demuxer;
 243
 244 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 245 {
 246     int i;
 247     for (i = 0; i < ts->nb_prg; i++) {
 248         if (ts->prg[i].id == programid) {
 249             return &ts->prg[i];
 250         }
 251     }
 252     return NULL;
 253 }
 254
 255 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 256 {
 257     AVProgram *prg = NULL;
 258     int i;
 259
 260     for (i = 0; i < ts->stream->nb_programs; i++)
 261         if (ts->stream->programs[i]->id == programid) {
 262             prg = ts->stream->programs[i];
 263             break;
 264         }
 265     if (!prg)
 266         return;
 267     prg->nb_stream_indexes = 0;
 268 }
 269
 270 static void clear_program(MpegTSContext *ts, unsigned int programid)
 271 {
 272     int i;
 273
 274     clear_avprogram(ts, programid);
 275     for (i = 0; i < ts->nb_prg; i++)
 276         if (ts->prg[i].id == programid) {
 277             ts->prg[i].nb_pids = 0;
 278             ts->prg[i].pmt_found = 0;
 279         }
 280 }
 281
 282 static void clear_programs(MpegTSContext *ts)
 283 {
 284     av_freep(&ts->prg);
 285     ts->nb_prg = 0;
 286 }
 287
 288 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
 289 {
 290     struct Program *p;
 291     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 292         ts->nb_prg = 0;
 293         return;
 294     }
 295     p = &ts->prg[ts->nb_prg];
 296     p->id = programid;
 297     p->nb_pids = 0;
 298     p->pmt_found = 0;
 299     ts->nb_prg++;
 300 }
 301
 302 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
 303                            unsigned int pid)
 304 {
 305     struct Program *p = get_program(ts, programid);
 306     int i;
 307     if (!p)
 308         return;
 309
 310     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 311         return;
 312
 313     for (i = 0; i < p->nb_pids; i++)
 314         if (p->pids[i] == pid)
 315             return;
 316
 317     p->pids[p->nb_pids++] = pid;
 318 }
 319
 320 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
 321 {
 322     struct Program *p = get_program(ts, programid);
 323     if (!p)
 324         return;
 325
 326     p->pmt_found = 1;
 327 }
 328
 329 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
 330 {
 331     int i;
 332     for (i = 0; i < s->nb_programs; i++) {
 333         if (s->programs[i]->id == programid) {
 334             s->programs[i]->pcr_pid = pid;
 335             break;
 336         }
 337     }
 338 }
 339
 340 /**
 341  * @brief discard_pid() decides if the pid is to be discarded according
 342  *                      to caller's programs selection
 343  * @param ts    : - TS context
 344  * @param pid   : - pid
 345  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 346  *         0 otherwise
 347  */
 348 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 349 {
 350     int i, j, k;
 351     int used = 0, discarded = 0;
 352     struct Program *p;
 353
 354     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 355      * no way we have to discard this packet */
 356     for (k = 0; k < ts->stream->nb_programs; k++)
 357         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 358             break;
 359     if (k == ts->stream->nb_programs)
 360         return 0;
 361
 362     for (i = 0; i < ts->nb_prg; i++) {
 363         p = &ts->prg[i];
 364         for (j = 0; j < p->nb_pids; j++) {
 365             if (p->pids[j] != pid)
 366                 continue;
 367             // is program with id p->id set to be discarded?
 368             for (k = 0; k < ts->stream->nb_programs; k++) {
 369                 if (ts->stream->programs[k]->id == p->id) {
 370                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 371                         discarded++;
 372                     else
 373                         used++;
 374                 }
 375             }
 376         }
 377     }
 378
 379     return !used && discarded;
 380 }
 381
 382 /**
 383  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 384  *  function when they are complete.
 385  */
 386 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 387                                const uint8_t *buf, int buf_size, int is_start)
 388 {
 389     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 390     int len;
 391
 392     if (is_start) {
 393         memcpy(tss->section_buf, buf, buf_size);
 394         tss->section_index = buf_size;
 395         tss->section_h_size = -1;
 396         tss->end_of_section_reached = 0;
 397     } else {
 398         if (tss->end_of_section_reached)
 399             return;
 400         len = 4096 - tss->section_index;
 401         if (buf_size < len)
 402             len = buf_size;
 403         memcpy(tss->section_buf + tss->section_index, buf, len);
 404         tss->section_index += len;
 405     }
 406
 407     /* compute section length if possible */
 408     if (tss->section_h_size == -1 && tss->section_index >= 3) {
 409         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
 410         if (len > 4096)
 411             return;
 412         tss->section_h_size = len;
 413     }
 414
 415     if (tss->section_h_size != -1 &&
 416         tss->section_index >= tss->section_h_size) {
 417         int crc_valid = 1;
 418         tss->end_of_section_reached = 1;
 419
 420         if (tss->check_crc) {
 421             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
 422             if (crc_valid) {
 423                 ts->crc_validity[ tss1->pid ] = 100;
 424             }else if (ts->crc_validity[ tss1->pid ] > -10) {
 425                 ts->crc_validity[ tss1->pid ]--;
 426             }else
 427                 crc_valid = 2;
 428         }
 429         if (crc_valid)
 430             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
 431     }
 432 }
 433
 434 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 435                                         enum MpegTSFilterType type)
 436 {
 437     MpegTSFilter *filter;
 438
 439     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
 440
 441     if (pid >= NB_PID_MAX || ts->pids[pid])
 442         return NULL;
 443     filter = av_mallocz(sizeof(MpegTSFilter));
 444     if (!filter)
 445         return NULL;
 446     ts->pids[pid] = filter;
 447
 448     filter->type    = type;
 449     filter->pid     = pid;
 450     filter->es_id   = -1;
 451     filter->last_cc = -1;
 452     filter->last_pcr= -1;
 453
 454     return filter;
 455 }
 456
 457 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 458                                                 unsigned int pid,
 459                                                 SectionCallback *section_cb,
 460                                                 void *opaque,
 461                                                 int check_crc)
 462 {
 463     MpegTSFilter *filter;
 464     MpegTSSectionFilter *sec;
 465
 466     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
 467         return NULL;
 468     sec = &filter->u.section_filter;
 469     sec->section_cb  = section_cb;
 470     sec->opaque      = opaque;
 471     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
 472     sec->check_crc   = check_crc;
 473     if (!sec->section_buf) {
 474         av_free(filter);
 475         return NULL;
 476     }
 477     return filter;
 478 }
 479
 480 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 481                                             PESCallback *pes_cb,
 482                                             void *opaque)
 483 {
 484     MpegTSFilter *filter;
 485     MpegTSPESFilter *pes;
 486
 487     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 488         return NULL;
 489
 490     pes = &filter->u.pes_filter;
 491     pes->pes_cb = pes_cb;
 492     pes->opaque = opaque;
 493     return filter;
 494 }
 495
 496 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 497 {
 498     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 499 }
 500
 501 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 502 {
 503     int pid;
 504
 505     pid = filter->pid;
 506     if (filter->type == MPEGTS_SECTION)
 507         av_freep(&filter->u.section_filter.section_buf);
 508     else if (filter->type == MPEGTS_PES) {
 509         PESContext *pes = filter->u.pes_filter.opaque;
 510         av_buffer_unref(&pes->buffer);
 511         /* referenced private data will be freed later in
 512          * avformat_close_input */
 513         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
 514             av_freep(&filter->u.pes_filter.opaque);
 515         }
 516     }
 517
 518     av_free(filter);
 519     ts->pids[pid] = NULL;
 520 }
 521
 522 static int analyze(const uint8_t *buf, int size, int packet_size, int *index)
 523 {
 524     int stat[TS_MAX_PACKET_SIZE];
 525     int stat_all = 0;
 526     int i;
 527     int best_score = 0;
 528
 529     memset(stat, 0, packet_size * sizeof(*stat));
 530
 531     for (i = 0; i < size - 3; i++) {
 532         if (buf[i] == 0x47 && !(buf[i + 1] & 0x80) && buf[i + 3] != 0x47) {
 533             int x = i % packet_size;
 534             stat[x]++;
 535             stat_all++;
 536             if (stat[x] > best_score) {
 537                 best_score = stat[x];
 538                 if (index)
 539                     *index = x;
 540             }
 541         }
 542     }
 543
 544     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 545 }
 546
 547 /* autodetect fec presence. Must have at least 1024 bytes  */
 548 static int get_packet_size(const uint8_t *buf, int size)
 549 {
 550     int score, fec_score, dvhs_score;
 551
 552     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
 553         return AVERROR_INVALIDDATA;
 554
 555     score      = analyze(buf, size, TS_PACKET_SIZE, NULL);
 556     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
 557     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
 558     av_dlog(NULL, "score: %d, dvhs_score: %d, fec_score: %d \n",
 559             score, dvhs_score, fec_score);
 560
 561     if (score > fec_score && score > dvhs_score)
 562         return TS_PACKET_SIZE;
 563     else if (dvhs_score > score && dvhs_score > fec_score)
 564         return TS_DVHS_PACKET_SIZE;
 565     else if (score < fec_score && dvhs_score < fec_score)
 566         return TS_FEC_PACKET_SIZE;
 567     else
 568         return AVERROR_INVALIDDATA;
 569 }
 570
 571 typedef struct SectionHeader {
 572     uint8_t tid;
 573     uint16_t id;
 574     uint8_t version;
 575     uint8_t sec_num;
 576     uint8_t last_sec_num;
 577 } SectionHeader;
 578
 579 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 580 {
 581     const uint8_t *p;
 582     int c;
 583
 584     p = *pp;
 585     if (p >= p_end)
 586         return AVERROR_INVALIDDATA;
 587     c   = *p++;
 588     *pp = p;
 589     return c;
 590 }
 591
 592 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 593 {
 594     const uint8_t *p;
 595     int c;
 596
 597     p = *pp;
 598     if ((p + 1) >= p_end)
 599         return AVERROR_INVALIDDATA;
 600     c   = AV_RB16(p);
 601     p  += 2;
 602     *pp = p;
 603     return c;
 604 }
 605
 606 /* read and allocate a DVB string preceded by its length */
 607 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 608 {
 609     int len;
 610     const uint8_t *p;
 611     char *str;
 612
 613     p   = *pp;
 614     len = get8(&p, p_end);
 615     if (len < 0)
 616         return NULL;
 617     if ((p + len) > p_end)
 618         return NULL;
 619     str = av_malloc(len + 1);
 620     if (!str)
 621         return NULL;
 622     memcpy(str, p, len);
 623     str[len] = '\0';
 624     p  += len;
 625     *pp = p;
 626     return str;
 627 }
 628
 629 static int parse_section_header(SectionHeader *h,
 630                                 const uint8_t **pp, const uint8_t *p_end)
 631 {
 632     int val;
 633
 634     val = get8(pp, p_end);
 635     if (val < 0)
 636         return val;
 637     h->tid = val;
 638     *pp += 2;
 639     val  = get16(pp, p_end);
 640     if (val < 0)
 641         return val;
 642     h->id = val;
 643     val = get8(pp, p_end);
 644     if (val < 0)
 645         return val;
 646     h->version = (val >> 1) & 0x1f;
 647     val = get8(pp, p_end);
 648     if (val < 0)
 649         return val;
 650     h->sec_num = val;
 651     val = get8(pp, p_end);
 652     if (val < 0)
 653         return val;
 654     h->last_sec_num = val;
 655     return 0;
 656 }
 657
 658 typedef struct {
 659     uint32_t stream_type;
 660     enum AVMediaType codec_type;
 661     enum AVCodecID codec_id;
 662 } StreamType;
 663
 664 static const StreamType ISO_types[] = {
 665     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 666     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 667     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 668     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 669     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 670     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 671     /* Makito encoder sets stream type 0x11 for AAC,
 672      * so auto-detect LOAS/LATM instead of hardcoding it. */
 673 #if !CONFIG_LOAS_DEMUXER
 674     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 675 #endif
 676     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 677     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 678     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 679     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 680     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 681     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 682     { 0 },
 683 };
 684
 685 static const StreamType HDMV_types[] = {
 686     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 687     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 688     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 689     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 690     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 691     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 692     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 693     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 694     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 695     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 696     { 0 },
 697 };
 698
 699 /* ATSC ? */
 700 static const StreamType MISC_types[] = {
 701     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 702     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 703     { 0 },
 704 };
 705
 706 static const StreamType REGD_types[] = {
 707     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 708     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 709     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 710     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 711     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 712     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 713     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 714     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 715     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 716     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 717     { 0 },
 718 };
 719
 720 static const StreamType METADATA_types[] = {
 721     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 722     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 723     { 0 },
 724 };
 725
 726 /* descriptor present */
 727 static const StreamType DESC_types[] = {
 728     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 729     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 730     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 731     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 732     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 733     { 0 },
 734 };
 735
 736 static void mpegts_find_stream_type(AVStream *st,
 737                                     uint32_t stream_type,
 738                                     const StreamType *types)
 739 {
 740     if (avcodec_is_open(st->codec)) {
 741         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
 742         return;
 743     }
 744
 745     for (; types->stream_type; types++)
 746         if (stream_type == types->stream_type) {
 747             st->codec->codec_type = types->codec_type;
 748             st->codec->codec_id   = types->codec_id;
 749             st->request_probe     = 0;
 750             return;
 751         }
 752 }
 753
 754 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 755                                   uint32_t stream_type, uint32_t prog_reg_desc)
 756 {
 757     int old_codec_type = st->codec->codec_type;
 758     int old_codec_id  = st->codec->codec_id;
 759
 760     if (avcodec_is_open(st->codec)) {
 761         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
 762         return 0;
 763     }
 764
 765     avpriv_set_pts_info(st, 33, 1, 90000);
 766     st->priv_data         = pes;
 767     st->codec->codec_type = AVMEDIA_TYPE_DATA;
 768     st->codec->codec_id   = AV_CODEC_ID_NONE;
 769     st->need_parsing      = AVSTREAM_PARSE_FULL;
 770     pes->st          = st;
 771     pes->stream_type = stream_type;
 772
 773     av_log(pes->stream, AV_LOG_DEBUG,
 774            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 775            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 776
 777     st->codec->codec_tag = pes->stream_type;
 778
 779     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 780     if ((prog_reg_desc == AV_RL32("HDMV") ||
 781          prog_reg_desc == AV_RL32("HDPR")) &&
 782         st->codec->codec_id == AV_CODEC_ID_NONE) {
 783         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 784         if (pes->stream_type == 0x83) {
 785             // HDMV TrueHD streams also contain an AC3 coded version of the
 786             // audio track - add a second stream for this
 787             AVStream *sub_st;
 788             // priv_data cannot be shared between streams
 789             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 790             if (!sub_pes)
 791                 return AVERROR(ENOMEM);
 792             memcpy(sub_pes, pes, sizeof(*sub_pes));
 793
 794             sub_st = avformat_new_stream(pes->stream, NULL);
 795             if (!sub_st) {
 796                 av_free(sub_pes);
 797                 return AVERROR(ENOMEM);
 798             }
 799
 800             sub_st->id = pes->pid;
 801             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 802             sub_st->priv_data         = sub_pes;
 803             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
 804             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
 805             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 806             sub_pes->sub_st           = pes->sub_st = sub_st;
 807         }
 808     }
 809     if (st->codec->codec_id == AV_CODEC_ID_NONE)
 810         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 811     if (st->codec->codec_id == AV_CODEC_ID_NONE) {
 812         st->codec->codec_id  = old_codec_id;
 813         st->codec->codec_type = old_codec_type;
 814     }
 815
 816     return 0;
 817 }
 818
 819 static void reset_pes_packet_state(PESContext *pes)
 820 {
 821     pes->pts        = AV_NOPTS_VALUE;
 822     pes->dts        = AV_NOPTS_VALUE;
 823     pes->data_index = 0;
 824     pes->flags      = 0;
 825     av_buffer_unref(&pes->buffer);
 826 }
 827
 828 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
 829 {
 830     av_init_packet(pkt);
 831
 832     pkt->buf  = pes->buffer;
 833     pkt->data = pes->buffer->data;
 834     pkt->size = pes->data_index;
 835
 836     if (pes->total_size != MAX_PES_PAYLOAD &&
 837         pes->pes_header_size + pes->data_index != pes->total_size +
 838         PES_START_SIZE) {
 839         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
 840         pes->flags |= AV_PKT_FLAG_CORRUPT;
 841     }
 842     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
 843
 844     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
 845     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
 846         pkt->stream_index = pes->sub_st->index;
 847     else
 848         pkt->stream_index = pes->st->index;
 849     pkt->pts = pes->pts;
 850     pkt->dts = pes->dts;
 851     /* store position of first TS packet of this PES packet */
 852     pkt->pos   = pes->ts_packet_pos;
 853     pkt->flags = pes->flags;
 854
 855     pes->buffer = NULL;
 856     reset_pes_packet_state(pes);
 857 }
 858
 859 static uint64_t get_ts64(GetBitContext *gb, int bits)
 860 {
 861     if (get_bits_left(gb) < bits)
 862         return AV_NOPTS_VALUE;
 863     return get_bits64(gb, bits);
 864 }
 865
 866 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
 867                           const uint8_t *buf, int buf_size)
 868 {
 869     GetBitContext gb;
 870     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
 871     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
 872     int dts_flag = -1, cts_flag = -1;
 873     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
 874     uint8_t buf_padded[128 + FF_INPUT_BUFFER_PADDING_SIZE];
 875     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - FF_INPUT_BUFFER_PADDING_SIZE);
 876
 877     memcpy(buf_padded, buf, buf_padded_size);
 878
 879     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
 880
 881     if (sl->use_au_start)
 882         au_start_flag = get_bits1(&gb);
 883     if (sl->use_au_end)
 884         au_end_flag = get_bits1(&gb);
 885     if (!sl->use_au_start && !sl->use_au_end)
 886         au_start_flag = au_end_flag = 1;
 887     if (sl->ocr_len > 0)
 888         ocr_flag = get_bits1(&gb);
 889     if (sl->use_idle)
 890         idle_flag = get_bits1(&gb);
 891     if (sl->use_padding)
 892         padding_flag = get_bits1(&gb);
 893     if (padding_flag)
 894         padding_bits = get_bits(&gb, 3);
 895
 896     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
 897         if (sl->packet_seq_num_len)
 898             skip_bits_long(&gb, sl->packet_seq_num_len);
 899         if (sl->degr_prior_len)
 900             if (get_bits1(&gb))
 901                 skip_bits(&gb, sl->degr_prior_len);
 902         if (ocr_flag)
 903             skip_bits_long(&gb, sl->ocr_len);
 904         if (au_start_flag) {
 905             if (sl->use_rand_acc_pt)
 906                 get_bits1(&gb);
 907             if (sl->au_seq_num_len > 0)
 908                 skip_bits_long(&gb, sl->au_seq_num_len);
 909             if (sl->use_timestamps) {
 910                 dts_flag = get_bits1(&gb);
 911                 cts_flag = get_bits1(&gb);
 912             }
 913         }
 914         if (sl->inst_bitrate_len)
 915             inst_bitrate_flag = get_bits1(&gb);
 916         if (dts_flag == 1)
 917             dts = get_ts64(&gb, sl->timestamp_len);
 918         if (cts_flag == 1)
 919             cts = get_ts64(&gb, sl->timestamp_len);
 920         if (sl->au_len > 0)
 921             skip_bits_long(&gb, sl->au_len);
 922         if (inst_bitrate_flag)
 923             skip_bits_long(&gb, sl->inst_bitrate_len);
 924     }
 925
 926     if (dts != AV_NOPTS_VALUE)
 927         pes->dts = dts;
 928     if (cts != AV_NOPTS_VALUE)
 929         pes->pts = cts;
 930
 931     if (sl->timestamp_len && sl->timestamp_res)
 932         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
 933
 934     return (get_bits_count(&gb) + 7) >> 3;
 935 }
 936
 937 /* return non zero if a packet could be constructed */
 938 static int mpegts_push_data(MpegTSFilter *filter,
 939                             const uint8_t *buf, int buf_size, int is_start,
 940                             int64_t pos)
 941 {
 942     PESContext *pes   = filter->u.pes_filter.opaque;
 943     MpegTSContext *ts = pes->ts;
 944     const uint8_t *p;
 945     int len, code;
 946
 947     if (!ts->pkt)
 948         return 0;
 949
 950     if (is_start) {
 951         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
 952             new_pes_packet(pes, ts->pkt);
 953             ts->stop_parse = 1;
 954         } else {
 955             reset_pes_packet_state(pes);
 956         }
 957         pes->state         = MPEGTS_HEADER;
 958         pes->ts_packet_pos = pos;
 959     }
 960     p = buf;
 961     while (buf_size > 0) {
 962         switch (pes->state) {
 963         case MPEGTS_HEADER:
 964             len = PES_START_SIZE - pes->data_index;
 965             if (len > buf_size)
 966                 len = buf_size;
 967             memcpy(pes->header + pes->data_index, p, len);
 968             pes->data_index += len;
 969             p += len;
 970             buf_size -= len;
 971             if (pes->data_index == PES_START_SIZE) {
 972                 /* we got all the PES or section header. We can now
 973                  * decide */
 974                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
 975                     pes->header[2] == 0x01) {
 976                     /* it must be an mpeg2 PES stream */
 977                     code = pes->header[3] | 0x100;
 978                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid,
 979                             code);
 980
 981                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
 982                          (!pes->sub_st ||
 983                           pes->sub_st->discard == AVDISCARD_ALL)) ||
 984                         code == 0x1be) /* padding_stream */
 985                         goto skip;
 986
 987                     /* stream not present in PMT */
 988                     if (!pes->st) {
 989                         if (ts->skip_changes)
 990                             goto skip;
 991
 992                         pes->st = avformat_new_stream(ts->stream, NULL);
 993                         if (!pes->st)
 994                             return AVERROR(ENOMEM);
 995                         pes->st->id = pes->pid;
 996                         mpegts_set_stream_info(pes->st, pes, 0, 0);
 997                     }
 998
 999                     pes->total_size = AV_RB16(pes->header + 4);
1000                     /* NOTE: a zero total size means the PES size is
1001                      * unbounded */
1002                     if (!pes->total_size)
1003                         pes->total_size = MAX_PES_PAYLOAD;
1004
1005                     /* allocate pes buffer */
1006                     pes->buffer = av_buffer_alloc(pes->total_size +
1007                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1008                     if (!pes->buffer)
1009                         return AVERROR(ENOMEM);
1010
1011                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1012                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1013                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1014                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1015                         pes->state = MPEGTS_PESHEADER;
1016                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1017                             av_dlog(pes->stream,
1018                                     "pid=%x stream_type=%x probing\n",
1019                                     pes->pid,
1020                                     pes->stream_type);
1021                             pes->st->request_probe = 1;
1022                         }
1023                     } else {
1024                         pes->state      = MPEGTS_PAYLOAD;
1025                         pes->data_index = 0;
1026                     }
1027                 } else {
1028                     /* otherwise, it should be a table */
1029                     /* skip packet */
1030 skip:
1031                     pes->state = MPEGTS_SKIP;
1032                     continue;
1033                 }
1034             }
1035             break;
1036         /**********************************************/
1037         /* PES packing parsing */
1038         case MPEGTS_PESHEADER:
1039             len = PES_HEADER_SIZE - pes->data_index;
1040             if (len < 0)
1041                 return AVERROR_INVALIDDATA;
1042             if (len > buf_size)
1043                 len = buf_size;
1044             memcpy(pes->header + pes->data_index, p, len);
1045             pes->data_index += len;
1046             p += len;
1047             buf_size -= len;
1048             if (pes->data_index == PES_HEADER_SIZE) {
1049                 pes->pes_header_size = pes->header[8] + 9;
1050                 pes->state           = MPEGTS_PESHEADER_FILL;
1051             }
1052             break;
1053         case MPEGTS_PESHEADER_FILL:
1054             len = pes->pes_header_size - pes->data_index;
1055             if (len < 0)
1056                 return AVERROR_INVALIDDATA;
1057             if (len > buf_size)
1058                 len = buf_size;
1059             memcpy(pes->header + pes->data_index, p, len);
1060             pes->data_index += len;
1061             p += len;
1062             buf_size -= len;
1063             if (pes->data_index == pes->pes_header_size) {
1064                 const uint8_t *r;
1065                 unsigned int flags, pes_ext, skip;
1066
1067                 flags = pes->header[7];
1068                 r = pes->header + 9;
1069                 pes->pts = AV_NOPTS_VALUE;
1070                 pes->dts = AV_NOPTS_VALUE;
1071                 if ((flags & 0xc0) == 0x80) {
1072                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1073                     r += 5;
1074                 } else if ((flags & 0xc0) == 0xc0) {
1075                     pes->pts = ff_parse_pes_pts(r);
1076                     r += 5;
1077                     pes->dts = ff_parse_pes_pts(r);
1078                     r += 5;
1079                 }
1080                 pes->extended_stream_id = -1;
1081                 if (flags & 0x01) { /* PES extension */
1082                     pes_ext = *r++;
1083                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1084                     skip  = (pes_ext >> 4) & 0xb;
1085                     skip += skip & 0x9;
1086                     r    += skip;
1087                     if ((pes_ext & 0x41) == 0x01 &&
1088                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1089                         /* PES extension 2 */
1090                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1091                             pes->extended_stream_id = r[1];
1092                     }
1093                 }
1094
1095                 /* we got the full header. We parse it and get the payload */
1096                 pes->state = MPEGTS_PAYLOAD;
1097                 pes->data_index = 0;
1098                 if (pes->stream_type == 0x12 && buf_size > 0) {
1099                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1100                                                          buf_size);
1101                     pes->pes_header_size += sl_header_bytes;
1102                     p += sl_header_bytes;
1103                     buf_size -= sl_header_bytes;
1104                 }
1105                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1106                     /* skip metadata access unit header */
1107                     pes->pes_header_size += 5;
1108                     p += 5;
1109                     buf_size -= 5;
1110                 }
1111                 if (pes->ts->fix_teletext_pts && pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT) {
1112                     AVProgram *p = NULL;
1113                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1114                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1115                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1116                             if (f) {
1117                                 AVStream *st = NULL;
1118                                 if (f->type == MPEGTS_PES) {
1119                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1120                                     if (pcrpes)
1121                                         st = pcrpes->st;
1122                                 } else if (f->type == MPEGTS_PCR) {
1123                                     int i;
1124                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1125                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1126                                         if (pst->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1127                                             st = pst;
1128                                     }
1129                                 }
1130                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1131                                     // teletext packets do not always have correct timestamps,
1132                                     // the standard says they should be handled after 40.6 ms at most,
1133                                     // and the pcr error to this packet should be no more than 100 ms.
1134                                     // TODO: we should interpolate the PCR, not just use the last one
1135                                     int64_t pcr = f->last_pcr / 300;
1136                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1137                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1138                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1139                                         pes->pts = pes->dts = pcr;
1140                                     } else if (pes->dts > pcr + 3654 + 9000) {
1141                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1142                                     }
1143                                     break;
1144                                 }
1145                             }
1146                         }
1147                     }
1148                 }
1149             }
1150             break;
1151         case MPEGTS_PAYLOAD:
1152             if (pes->buffer) {
1153                 if (pes->data_index > 0 &&
1154                     pes->data_index + buf_size > pes->total_size) {
1155                     new_pes_packet(pes, ts->pkt);
1156                     pes->total_size = MAX_PES_PAYLOAD;
1157                     pes->buffer = av_buffer_alloc(pes->total_size +
1158                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1159                     if (!pes->buffer)
1160                         return AVERROR(ENOMEM);
1161                     ts->stop_parse = 1;
1162                 } else if (pes->data_index == 0 &&
1163                            buf_size > pes->total_size) {
1164                     // pes packet size is < ts size packet and pes data is padded with 0xff
1165                     // not sure if this is legal in ts but see issue #2392
1166                     buf_size = pes->total_size;
1167                 }
1168                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1169                 pes->data_index += buf_size;
1170                 /* emit complete packets with known packet size
1171                  * decreases demuxer delay for infrequent packets like subtitles from
1172                  * a couple of seconds to milliseconds for properly muxed files.
1173                  * total_size is the number of bytes following pes_packet_length
1174                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1175                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1176                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1177                     ts->stop_parse = 1;
1178                     new_pes_packet(pes, ts->pkt);
1179                 }
1180             }
1181             buf_size = 0;
1182             break;
1183         case MPEGTS_SKIP:
1184             buf_size = 0;
1185             break;
1186         }
1187     }
1188
1189     return 0;
1190 }
1191
1192 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1193 {
1194     MpegTSFilter *tss;
1195     PESContext *pes;
1196
1197     /* if no pid found, then add a pid context */
1198     pes = av_mallocz(sizeof(PESContext));
1199     if (!pes)
1200         return 0;
1201     pes->ts      = ts;
1202     pes->stream  = ts->stream;
1203     pes->pid     = pid;
1204     pes->pcr_pid = pcr_pid;
1205     pes->state   = MPEGTS_SKIP;
1206     pes->pts     = AV_NOPTS_VALUE;
1207     pes->dts     = AV_NOPTS_VALUE;
1208     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1209     if (!tss) {
1210         av_free(pes);
1211         return 0;
1212     }
1213     return pes;
1214 }
1215
1216 #define MAX_LEVEL 4
1217 typedef struct {
1218     AVFormatContext *s;
1219     AVIOContext pb;
1220     Mp4Descr *descr;
1221     Mp4Descr *active_descr;
1222     int descr_count;
1223     int max_descr_count;
1224     int level;
1225     int predefined_SLConfigDescriptor_seen;
1226 } MP4DescrParseContext;
1227
1228 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1229                                      const uint8_t *buf, unsigned size,
1230                                      Mp4Descr *descr, int max_descr_count)
1231 {
1232     int ret;
1233     if (size > (1 << 30))
1234         return AVERROR_INVALIDDATA;
1235
1236     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1237                                  NULL, NULL, NULL, NULL)) < 0)
1238         return ret;
1239
1240     d->s               = s;
1241     d->level           = 0;
1242     d->descr_count     = 0;
1243     d->descr           = descr;
1244     d->active_descr    = NULL;
1245     d->max_descr_count = max_descr_count;
1246
1247     return 0;
1248 }
1249
1250 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1251 {
1252     int64_t new_off = avio_tell(pb);
1253     (*len) -= new_off - *off;
1254     *off    = new_off;
1255 }
1256
1257 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1258                            int target_tag);
1259
1260 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1261 {
1262     while (len > 0) {
1263         int ret = parse_mp4_descr(d, off, len, 0);
1264         if (ret < 0)
1265             return ret;
1266         update_offsets(&d->pb, &off, &len);
1267     }
1268     return 0;
1269 }
1270
1271 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1272 {
1273     avio_rb16(&d->pb); // ID
1274     avio_r8(&d->pb);
1275     avio_r8(&d->pb);
1276     avio_r8(&d->pb);
1277     avio_r8(&d->pb);
1278     avio_r8(&d->pb);
1279     update_offsets(&d->pb, &off, &len);
1280     return parse_mp4_descr_arr(d, off, len);
1281 }
1282
1283 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1284 {
1285     int id_flags;
1286     if (len < 2)
1287         return 0;
1288     id_flags = avio_rb16(&d->pb);
1289     if (!(id_flags & 0x0020)) { // URL_Flag
1290         update_offsets(&d->pb, &off, &len);
1291         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1292     } else {
1293         return 0;
1294     }
1295 }
1296
1297 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1298 {
1299     int es_id = 0;
1300     if (d->descr_count >= d->max_descr_count)
1301         return AVERROR_INVALIDDATA;
1302     ff_mp4_parse_es_descr(&d->pb, &es_id);
1303     d->active_descr = d->descr + (d->descr_count++);
1304
1305     d->active_descr->es_id = es_id;
1306     update_offsets(&d->pb, &off, &len);
1307     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1308     update_offsets(&d->pb, &off, &len);
1309     if (len > 0)
1310         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1311     d->active_descr = NULL;
1312     return 0;
1313 }
1314
1315 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1316                                       int len)
1317 {
1318     Mp4Descr *descr = d->active_descr;
1319     if (!descr)
1320         return AVERROR_INVALIDDATA;
1321     d->active_descr->dec_config_descr = av_malloc(len);
1322     if (!descr->dec_config_descr)
1323         return AVERROR(ENOMEM);
1324     descr->dec_config_descr_len = len;
1325     avio_read(&d->pb, descr->dec_config_descr, len);
1326     return 0;
1327 }
1328
1329 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1330 {
1331     Mp4Descr *descr = d->active_descr;
1332     int predefined;
1333     if (!descr)
1334         return AVERROR_INVALIDDATA;
1335
1336     predefined = avio_r8(&d->pb);
1337     if (!predefined) {
1338         int lengths;
1339         int flags = avio_r8(&d->pb);
1340         descr->sl.use_au_start    = !!(flags & 0x80);
1341         descr->sl.use_au_end      = !!(flags & 0x40);
1342         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1343         descr->sl.use_padding     = !!(flags & 0x08);
1344         descr->sl.use_timestamps  = !!(flags & 0x04);
1345         descr->sl.use_idle        = !!(flags & 0x02);
1346         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1347         avio_rb32(&d->pb);
1348         descr->sl.timestamp_len      = avio_r8(&d->pb);
1349         if (descr->sl.timestamp_len > 64) {
1350             avpriv_request_sample(NULL, "timestamp_len > 64");
1351             descr->sl.timestamp_len = 64;
1352             return AVERROR_PATCHWELCOME;
1353         }
1354         descr->sl.ocr_len            = avio_r8(&d->pb);
1355         descr->sl.au_len             = avio_r8(&d->pb);
1356         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1357         lengths                      = avio_rb16(&d->pb);
1358         descr->sl.degr_prior_len     = lengths >> 12;
1359         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1360         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1361     } else if (!d->predefined_SLConfigDescriptor_seen){
1362         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1363         d->predefined_SLConfigDescriptor_seen = 1;
1364     }
1365     return 0;
1366 }
1367
1368 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1369                            int target_tag)
1370 {
1371     int tag;
1372     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1373     update_offsets(&d->pb, &off, &len);
1374     if (len < 0 || len1 > len || len1 <= 0) {
1375         av_log(d->s, AV_LOG_ERROR,
1376                "Tag %x length violation new length %d bytes remaining %d\n",
1377                tag, len1, len);
1378         return AVERROR_INVALIDDATA;
1379     }
1380
1381     if (d->level++ >= MAX_LEVEL) {
1382         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1383         goto done;
1384     }
1385
1386     if (target_tag && tag != target_tag) {
1387         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1388                target_tag);
1389         goto done;
1390     }
1391
1392     switch (tag) {
1393     case MP4IODescrTag:
1394         parse_MP4IODescrTag(d, off, len1);
1395         break;
1396     case MP4ODescrTag:
1397         parse_MP4ODescrTag(d, off, len1);
1398         break;
1399     case MP4ESDescrTag:
1400         parse_MP4ESDescrTag(d, off, len1);
1401         break;
1402     case MP4DecConfigDescrTag:
1403         parse_MP4DecConfigDescrTag(d, off, len1);
1404         break;
1405     case MP4SLDescrTag:
1406         parse_MP4SLDescrTag(d, off, len1);
1407         break;
1408     }
1409
1410
1411 done:
1412     d->level--;
1413     avio_seek(&d->pb, off + len1, SEEK_SET);
1414     return 0;
1415 }
1416
1417 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1418                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1419 {
1420     MP4DescrParseContext d;
1421     int ret;
1422
1423     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1424     if (ret < 0)
1425         return ret;
1426
1427     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1428
1429     *descr_count = d.descr_count;
1430     return ret;
1431 }
1432
1433 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1434                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1435 {
1436     MP4DescrParseContext d;
1437     int ret;
1438
1439     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1440     if (ret < 0)
1441         return ret;
1442
1443     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1444
1445     *descr_count = d.descr_count;
1446     return ret;
1447 }
1448
1449 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1450                     int section_len)
1451 {
1452     MpegTSContext *ts = filter->u.section_filter.opaque;
1453     SectionHeader h;
1454     const uint8_t *p, *p_end;
1455     AVIOContext pb;
1456     int mp4_descr_count = 0;
1457     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1458     int i, pid;
1459     AVFormatContext *s = ts->stream;
1460
1461     p_end = section + section_len - 4;
1462     p = section;
1463     if (parse_section_header(&h, &p, p_end) < 0)
1464         return;
1465     if (h.tid != M4OD_TID)
1466         return;
1467
1468     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1469                 MAX_MP4_DESCR_COUNT);
1470
1471     for (pid = 0; pid < NB_PID_MAX; pid++) {
1472         if (!ts->pids[pid])
1473             continue;
1474         for (i = 0; i < mp4_descr_count; i++) {
1475             PESContext *pes;
1476             AVStream *st;
1477             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1478                 continue;
1479             if (ts->pids[pid]->type != MPEGTS_PES) {
1480                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1481                 continue;
1482             }
1483             pes = ts->pids[pid]->u.pes_filter.opaque;
1484             st  = pes->st;
1485             if (!st)
1486                 continue;
1487
1488             pes->sl = mp4_descr[i].sl;
1489
1490             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1491                               mp4_descr[i].dec_config_descr_len, 0,
1492                               NULL, NULL, NULL, NULL);
1493             ff_mp4_read_dec_config_descr(s, st, &pb);
1494             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1495                 st->codec->extradata_size > 0)
1496                 st->need_parsing = 0;
1497             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1498                 st->codec->extradata_size > 0)
1499                 st->need_parsing = 0;
1500
1501             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1502                 // do nothing
1503             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO)
1504                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1505             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE)
1506                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1507             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN)
1508                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1509         }
1510     }
1511     for (i = 0; i < mp4_descr_count; i++)
1512         av_free(mp4_descr[i].dec_config_descr);
1513 }
1514
1515 static const uint8_t opus_coupled_stream_cnt[9] = {
1516     1, 0, 1, 1, 2, 2, 2, 3, 3
1517 };
1518
1519 static const uint8_t opus_stream_cnt[9] = {
1520     1, 1, 1, 2, 2, 3, 4, 4, 5,
1521 };
1522
1523 static const uint8_t opus_channel_map[8][8] = {
1524     { 0 },
1525     { 0,1 },
1526     { 0,2,1 },
1527     { 0,1,2,3 },
1528     { 0,4,1,2,3 },
1529     { 0,4,1,2,3,5 },
1530     { 0,4,1,2,3,5,6 },
1531     { 0,6,1,2,3,4,5,7 },
1532 };
1533
1534 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1535                               const uint8_t **pp, const uint8_t *desc_list_end,
1536                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1537                               MpegTSContext *ts)
1538 {
1539     const uint8_t *desc_end;
1540     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1541     char language[252];
1542     int i;
1543
1544     desc_tag = get8(pp, desc_list_end);
1545     if (desc_tag < 0)
1546         return AVERROR_INVALIDDATA;
1547     desc_len = get8(pp, desc_list_end);
1548     if (desc_len < 0)
1549         return AVERROR_INVALIDDATA;
1550     desc_end = *pp + desc_len;
1551     if (desc_end > desc_list_end)
1552         return AVERROR_INVALIDDATA;
1553
1554     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1555
1556     if ((st->codec->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1557         stream_type == STREAM_TYPE_PRIVATE_DATA)
1558         mpegts_find_stream_type(st, desc_tag, DESC_types);
1559
1560     switch (desc_tag) {
1561     case 0x1E: /* SL descriptor */
1562         desc_es_id = get16(pp, desc_end);
1563         if (desc_es_id < 0)
1564             break;
1565         if (ts && ts->pids[pid])
1566             ts->pids[pid]->es_id = desc_es_id;
1567         for (i = 0; i < mp4_descr_count; i++)
1568             if (mp4_descr[i].dec_config_descr_len &&
1569                 mp4_descr[i].es_id == desc_es_id) {
1570                 AVIOContext pb;
1571                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1572                                   mp4_descr[i].dec_config_descr_len, 0,
1573                                   NULL, NULL, NULL, NULL);
1574                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1575                 if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1576                     st->codec->extradata_size > 0)
1577                     st->need_parsing = 0;
1578                 if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1579                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1580             }
1581         break;
1582     case 0x1F: /* FMC descriptor */
1583         if (get16(pp, desc_end) < 0)
1584             break;
1585         if (mp4_descr_count > 0 &&
1586             (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe > 0) &&
1587             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1588             AVIOContext pb;
1589             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1590                               mp4_descr->dec_config_descr_len, 0,
1591                               NULL, NULL, NULL, NULL);
1592             ff_mp4_read_dec_config_descr(fc, st, &pb);
1593             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1594                 st->codec->extradata_size > 0) {
1595                 st->request_probe = st->need_parsing = 0;
1596                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1597             }
1598         }
1599         break;
1600     case 0x56: /* DVB teletext descriptor */
1601         {
1602             uint8_t *extradata = NULL;
1603             int language_count = desc_len / 5;
1604
1605             if (desc_len > 0 && desc_len % 5 != 0)
1606                 return AVERROR_INVALIDDATA;
1607
1608             if (language_count > 0) {
1609                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1610                 if (language_count > sizeof(language) / 4) {
1611                     language_count = sizeof(language) / 4;
1612                 }
1613
1614                 if (st->codec->extradata == NULL) {
1615                     if (ff_alloc_extradata(st->codec, language_count * 2)) {
1616                         return AVERROR(ENOMEM);
1617                     }
1618                 }
1619
1620                if (st->codec->extradata_size < language_count * 2)
1621                    return AVERROR_INVALIDDATA;
1622
1623                extradata = st->codec->extradata;
1624
1625                 for (i = 0; i < language_count; i++) {
1626                     language[i * 4 + 0] = get8(pp, desc_end);
1627                     language[i * 4 + 1] = get8(pp, desc_end);
1628                     language[i * 4 + 2] = get8(pp, desc_end);
1629                     language[i * 4 + 3] = ',';
1630
1631                     memcpy(extradata, *pp, 2);
1632                     extradata += 2;
1633
1634                     *pp += 2;
1635                 }
1636
1637                 language[i * 4 - 1] = 0;
1638                 av_dict_set(&st->metadata, "language", language, 0);
1639             }
1640         }
1641         break;
1642     case 0x59: /* subtitling descriptor */
1643         {
1644             /* 8 bytes per DVB subtitle substream data:
1645              * ISO_639_language_code (3 bytes),
1646              * subtitling_type (1 byte),
1647              * composition_page_id (2 bytes),
1648              * ancillary_page_id (2 bytes) */
1649             int language_count = desc_len / 8;
1650
1651             if (desc_len > 0 && desc_len % 8 != 0)
1652                 return AVERROR_INVALIDDATA;
1653
1654             if (language_count > 1) {
1655                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1656             }
1657
1658             if (language_count > 0) {
1659                 uint8_t *extradata;
1660
1661                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1662                 if (language_count > sizeof(language) / 4) {
1663                     language_count = sizeof(language) / 4;
1664                 }
1665
1666                 if (st->codec->extradata == NULL) {
1667                     if (ff_alloc_extradata(st->codec, language_count * 5)) {
1668                         return AVERROR(ENOMEM);
1669                     }
1670                 }
1671
1672                 if (st->codec->extradata_size < language_count * 5)
1673                     return AVERROR_INVALIDDATA;
1674
1675                 extradata = st->codec->extradata;
1676
1677                 for (i = 0; i < language_count; i++) {
1678                     language[i * 4 + 0] = get8(pp, desc_end);
1679                     language[i * 4 + 1] = get8(pp, desc_end);
1680                     language[i * 4 + 2] = get8(pp, desc_end);
1681                     language[i * 4 + 3] = ',';
1682
1683                     /* hearing impaired subtitles detection using subtitling_type */
1684                     switch (*pp[0]) {
1685                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1686                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1687                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1688                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1689                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1690                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1691                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1692                         break;
1693                     }
1694
1695                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1696                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1697                     extradata += 5;
1698
1699                     *pp += 4;
1700                 }
1701
1702                 language[i * 4 - 1] = 0;
1703                 av_dict_set(&st->metadata, "language", language, 0);
1704             }
1705         }
1706         break;
1707     case 0x0a: /* ISO 639 language descriptor */
1708         for (i = 0; i + 4 <= desc_len; i += 4) {
1709             language[i + 0] = get8(pp, desc_end);
1710             language[i + 1] = get8(pp, desc_end);
1711             language[i + 2] = get8(pp, desc_end);
1712             language[i + 3] = ',';
1713             switch (get8(pp, desc_end)) {
1714             case 0x01:
1715                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1716                 break;
1717             case 0x02:
1718                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1719                 break;
1720             case 0x03:
1721                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1722                 break;
1723             }
1724         }
1725         if (i && language[0]) {
1726             language[i - 1] = 0;
1727             av_dict_set(&st->metadata, "language", language, 0);
1728         }
1729         break;
1730     case 0x05: /* registration descriptor */
1731         st->codec->codec_tag = bytestream_get_le32(pp);
1732         av_dlog(fc, "reg_desc=%.4s\n", (char *)&st->codec->codec_tag);
1733         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1734             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1735         break;
1736     case 0x52: /* stream identifier descriptor */
1737         st->stream_identifier = 1 + get8(pp, desc_end);
1738         break;
1739     case 0x26: /* metadata descriptor */
1740         if (get16(pp, desc_end) == 0xFFFF)
1741             *pp += 4;
1742         if (get8(pp, desc_end) == 0xFF) {
1743             st->codec->codec_tag = bytestream_get_le32(pp);
1744             if (st->codec->codec_id == AV_CODEC_ID_NONE)
1745                 mpegts_find_stream_type(st, st->codec->codec_tag, METADATA_types);
1746         }
1747         break;
1748     case 0x7f: /* DVB extension descriptor */
1749         ext_desc_tag = get8(pp, desc_end);
1750         if (ext_desc_tag < 0)
1751             return AVERROR_INVALIDDATA;
1752         if (st->codec->codec_id == AV_CODEC_ID_OPUS &&
1753             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1754             if (!st->codec->extradata) {
1755                 st->codec->extradata = av_mallocz(sizeof(opus_default_extradata) +
1756                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1757                 if (!st->codec->extradata)
1758                     return AVERROR(ENOMEM);
1759
1760                 st->codec->extradata_size = sizeof(opus_default_extradata);
1761                 memcpy(st->codec->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1762
1763                 channel_config_code = get8(pp, desc_end);
1764                 if (channel_config_code < 0)
1765                     return AVERROR_INVALIDDATA;
1766                 if (channel_config_code <= 0x8) {
1767                     st->codec->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1768                     st->codec->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
1769                     st->codec->extradata[19] = opus_stream_cnt[channel_config_code];
1770                     st->codec->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1771                     memcpy(&st->codec->extradata[21], opus_channel_map[channels - 1], channels);
1772                 } else {
1773                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1774                 }
1775                 st->need_parsing = AVSTREAM_PARSE_FULL;
1776             }
1777         }
1778         break;
1779     default:
1780         break;
1781     }
1782     *pp = desc_end;
1783     return 0;
1784 }
1785
1786 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1787 {
1788     MpegTSContext *ts = filter->u.section_filter.opaque;
1789     SectionHeader h1, *h = &h1;
1790     PESContext *pes;
1791     AVStream *st;
1792     const uint8_t *p, *p_end, *desc_list_end;
1793     int program_info_length, pcr_pid, pid, stream_type;
1794     int desc_list_len;
1795     uint32_t prog_reg_desc = 0; /* registration descriptor */
1796
1797     int mp4_descr_count = 0;
1798     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1799     int i;
1800
1801     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1802     hex_dump_debug(ts->stream, section, section_len);
1803
1804     p_end = section + section_len - 4;
1805     p = section;
1806     if (parse_section_header(h, &p, p_end) < 0)
1807         return;
1808
1809     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d version=%d\n",
1810             h->id, h->sec_num, h->last_sec_num, h->version);
1811
1812     if (h->tid != PMT_TID)
1813         return;
1814     if (!ts->scan_all_pmts && ts->skip_changes)
1815         return;
1816
1817     if (!ts->skip_clear)
1818         clear_program(ts, h->id);
1819
1820     pcr_pid = get16(&p, p_end);
1821     if (pcr_pid < 0)
1822         return;
1823     pcr_pid &= 0x1fff;
1824     add_pid_to_pmt(ts, h->id, pcr_pid);
1825     set_pcr_pid(ts->stream, h->id, pcr_pid);
1826
1827     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1828
1829     program_info_length = get16(&p, p_end);
1830     if (program_info_length < 0)
1831         return;
1832     program_info_length &= 0xfff;
1833     while (program_info_length >= 2) {
1834         uint8_t tag, len;
1835         tag = get8(&p, p_end);
1836         len = get8(&p, p_end);
1837
1838         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1839
1840         if (len > program_info_length - 2)
1841             // something else is broken, exit the program_descriptors_loop
1842             break;
1843         program_info_length -= len + 2;
1844         if (tag == 0x1d) { // IOD descriptor
1845             get8(&p, p_end); // scope
1846             get8(&p, p_end); // label
1847             len -= 2;
1848             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1849                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1850         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1851             prog_reg_desc = bytestream_get_le32(&p);
1852             len -= 4;
1853         }
1854         p += len;
1855     }
1856     p += program_info_length;
1857     if (p >= p_end)
1858         goto out;
1859
1860     // stop parsing after pmt, we found header
1861     if (!ts->stream->nb_streams)
1862         ts->stop_parse = 2;
1863
1864     set_pmt_found(ts, h->id);
1865
1866
1867     for (;;) {
1868         st = 0;
1869         pes = NULL;
1870         stream_type = get8(&p, p_end);
1871         if (stream_type < 0)
1872             break;
1873         pid = get16(&p, p_end);
1874         if (pid < 0)
1875             goto out;
1876         pid &= 0x1fff;
1877         if (pid == ts->current_pid)
1878             goto out;
1879
1880         /* now create stream */
1881         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1882             pes = ts->pids[pid]->u.pes_filter.opaque;
1883             if (!pes->st) {
1884                 pes->st     = avformat_new_stream(pes->stream, NULL);
1885                 if (!pes->st)
1886                     goto out;
1887                 pes->st->id = pes->pid;
1888             }
1889             st = pes->st;
1890         } else if (stream_type != 0x13) {
1891             if (ts->pids[pid])
1892                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1893             pes = add_pes_stream(ts, pid, pcr_pid);
1894             if (pes) {
1895                 st = avformat_new_stream(pes->stream, NULL);
1896                 if (!st)
1897                     goto out;
1898                 st->id = pes->pid;
1899             }
1900         } else {
1901             int idx = ff_find_stream_index(ts->stream, pid);
1902             if (idx >= 0) {
1903                 st = ts->stream->streams[idx];
1904             } else {
1905                 st = avformat_new_stream(ts->stream, NULL);
1906                 if (!st)
1907                     goto out;
1908                 st->id = pid;
1909                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1910             }
1911         }
1912
1913         if (!st)
1914             goto out;
1915
1916         if (pes && !pes->stream_type)
1917             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1918
1919         add_pid_to_pmt(ts, h->id, pid);
1920
1921         ff_program_add_stream_index(ts->stream, h->id, st->index);
1922
1923         desc_list_len = get16(&p, p_end);
1924         if (desc_list_len < 0)
1925             goto out;
1926         desc_list_len &= 0xfff;
1927         desc_list_end  = p + desc_list_len;
1928         if (desc_list_end > p_end)
1929             goto out;
1930         for (;;) {
1931             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
1932                                           desc_list_end, mp4_descr,
1933                                           mp4_descr_count, pid, ts) < 0)
1934                 break;
1935
1936             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
1937                 stream_type == 0x83 && pes->sub_st) {
1938                 ff_program_add_stream_index(ts->stream, h->id,
1939                                             pes->sub_st->index);
1940                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1941             }
1942         }
1943         p = desc_list_end;
1944     }
1945
1946     if (!ts->pids[pcr_pid])
1947         mpegts_open_pcr_filter(ts, pcr_pid);
1948
1949 out:
1950     for (i = 0; i < mp4_descr_count; i++)
1951         av_free(mp4_descr[i].dec_config_descr);
1952 }
1953
1954 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1955 {
1956     MpegTSContext *ts = filter->u.section_filter.opaque;
1957     SectionHeader h1, *h = &h1;
1958     const uint8_t *p, *p_end;
1959     int sid, pmt_pid;
1960     AVProgram *program;
1961
1962     av_dlog(ts->stream, "PAT:\n");
1963     hex_dump_debug(ts->stream, section, section_len);
1964
1965     p_end = section + section_len - 4;
1966     p     = section;
1967     if (parse_section_header(h, &p, p_end) < 0)
1968         return;
1969     if (h->tid != PAT_TID)
1970         return;
1971     if (ts->skip_changes)
1972         return;
1973
1974     ts->stream->ts_id = h->id;
1975
1976     clear_programs(ts);
1977     for (;;) {
1978         sid = get16(&p, p_end);
1979         if (sid < 0)
1980             break;
1981         pmt_pid = get16(&p, p_end);
1982         if (pmt_pid < 0)
1983             break;
1984         pmt_pid &= 0x1fff;
1985
1986         if (pmt_pid == ts->current_pid)
1987             break;
1988
1989         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1990
1991         if (sid == 0x0000) {
1992             /* NIT info */
1993         } else {
1994             MpegTSFilter *fil = ts->pids[pmt_pid];
1995             program = av_new_program(ts->stream, sid);
1996             if (program) {
1997                 program->program_num = sid;
1998                 program->pmt_pid = pmt_pid;
1999             }
2000             if (fil)
2001                 if (   fil->type != MPEGTS_SECTION
2002                     || fil->pid != pmt_pid
2003                     || fil->u.section_filter.section_cb != pmt_cb)
2004                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2005
2006             if (!ts->pids[pmt_pid])
2007                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2008             add_pat_entry(ts, sid);
2009             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2010             add_pid_to_pmt(ts, sid, pmt_pid);
2011         }
2012     }
2013
2014     if (sid < 0) {
2015         int i,j;
2016         for (j=0; j<ts->stream->nb_programs; j++) {
2017             for (i = 0; i < ts->nb_prg; i++)
2018                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2019                     break;
2020             if (i==ts->nb_prg && !ts->skip_clear)
2021                 clear_avprogram(ts, ts->stream->programs[j]->id);
2022         }
2023     }
2024 }
2025
2026 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2027 {
2028     MpegTSContext *ts = filter->u.section_filter.opaque;
2029     SectionHeader h1, *h = &h1;
2030     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2031     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2032     char *name, *provider_name;
2033
2034     av_dlog(ts->stream, "SDT:\n");
2035     hex_dump_debug(ts->stream, section, section_len);
2036
2037     p_end = section + section_len - 4;
2038     p     = section;
2039     if (parse_section_header(h, &p, p_end) < 0)
2040         return;
2041     if (h->tid != SDT_TID)
2042         return;
2043     if (ts->skip_changes)
2044         return;
2045     onid = get16(&p, p_end);
2046     if (onid < 0)
2047         return;
2048     val = get8(&p, p_end);
2049     if (val < 0)
2050         return;
2051     for (;;) {
2052         sid = get16(&p, p_end);
2053         if (sid < 0)
2054             break;
2055         val = get8(&p, p_end);
2056         if (val < 0)
2057             break;
2058         desc_list_len = get16(&p, p_end);
2059         if (desc_list_len < 0)
2060             break;
2061         desc_list_len &= 0xfff;
2062         desc_list_end  = p + desc_list_len;
2063         if (desc_list_end > p_end)
2064             break;
2065         for (;;) {
2066             desc_tag = get8(&p, desc_list_end);
2067             if (desc_tag < 0)
2068                 break;
2069             desc_len = get8(&p, desc_list_end);
2070             desc_end = p + desc_len;
2071             if (desc_len < 0 || desc_end > desc_list_end)
2072                 break;
2073
2074             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
2075                     desc_tag, desc_len);
2076
2077             switch (desc_tag) {
2078             case 0x48:
2079                 service_type = get8(&p, p_end);
2080                 if (service_type < 0)
2081                     break;
2082                 provider_name = getstr8(&p, p_end);
2083                 if (!provider_name)
2084                     break;
2085                 name = getstr8(&p, p_end);
2086                 if (name) {
2087                     AVProgram *program = av_new_program(ts->stream, sid);
2088                     if (program) {
2089                         av_dict_set(&program->metadata, "service_name", name, 0);
2090                         av_dict_set(&program->metadata, "service_provider",
2091                                     provider_name, 0);
2092                     }
2093                 }
2094                 av_free(name);
2095                 av_free(provider_name);
2096                 break;
2097             default:
2098                 break;
2099             }
2100             p = desc_end;
2101         }
2102         p = desc_list_end;
2103     }
2104 }
2105
2106 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2107                      const uint8_t *packet);
2108
2109 /* handle one TS packet */
2110 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2111 {
2112     MpegTSFilter *tss;
2113     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2114         has_adaptation, has_payload;
2115     const uint8_t *p, *p_end;
2116     int64_t pos;
2117
2118     pid = AV_RB16(packet + 1) & 0x1fff;
2119     if (pid && discard_pid(ts, pid))
2120         return 0;
2121     is_start = packet[1] & 0x40;
2122     tss = ts->pids[pid];
2123     if (ts->auto_guess && !tss && is_start) {
2124         add_pes_stream(ts, pid, -1);
2125         tss = ts->pids[pid];
2126     }
2127     if (!tss)
2128         return 0;
2129     ts->current_pid = pid;
2130
2131     afc = (packet[3] >> 4) & 3;
2132     if (afc == 0) /* reserved value */
2133         return 0;
2134     has_adaptation   = afc & 2;
2135     has_payload      = afc & 1;
2136     is_discontinuity = has_adaptation &&
2137                        packet[4] != 0 && /* with length > 0 */
2138                        (packet[5] & 0x80); /* and discontinuity indicated */
2139
2140     /* continuity check (currently not used) */
2141     cc = (packet[3] & 0xf);
2142     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2143     cc_ok = pid == 0x1FFF || // null packet PID
2144             is_discontinuity ||
2145             tss->last_cc < 0 ||
2146             expected_cc == cc;
2147
2148     tss->last_cc = cc;
2149     if (!cc_ok) {
2150         av_log(ts->stream, AV_LOG_DEBUG,
2151                "Continuity check failed for pid %d expected %d got %d\n",
2152                pid, expected_cc, cc);
2153         if (tss->type == MPEGTS_PES) {
2154             PESContext *pc = tss->u.pes_filter.opaque;
2155             pc->flags |= AV_PKT_FLAG_CORRUPT;
2156         }
2157     }
2158
2159     p = packet + 4;
2160     if (has_adaptation) {
2161         int64_t pcr_h;
2162         int pcr_l;
2163         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2164             tss->last_pcr = pcr_h * 300 + pcr_l;
2165         /* skip adaptation field */
2166         p += p[0] + 1;
2167     }
2168     /* if past the end of packet, ignore */
2169     p_end = packet + TS_PACKET_SIZE;
2170     if (p >= p_end || !has_payload)
2171         return 0;
2172
2173     pos = avio_tell(ts->stream->pb);
2174     if (pos >= 0) {
2175         av_assert0(pos >= TS_PACKET_SIZE);
2176         ts->pos47_full = pos - TS_PACKET_SIZE;
2177     }
2178
2179     if (tss->type == MPEGTS_SECTION) {
2180         if (is_start) {
2181             /* pointer field present */
2182             len = *p++;
2183             if (p + len > p_end)
2184                 return 0;
2185             if (len && cc_ok) {
2186                 /* write remaining section bytes */
2187                 write_section_data(ts, tss,
2188                                    p, len, 0);
2189                 /* check whether filter has been closed */
2190                 if (!ts->pids[pid])
2191                     return 0;
2192             }
2193             p += len;
2194             if (p < p_end) {
2195                 write_section_data(ts, tss,
2196                                    p, p_end - p, 1);
2197             }
2198         } else {
2199             if (cc_ok) {
2200                 write_section_data(ts, tss,
2201                                    p, p_end - p, 0);
2202             }
2203         }
2204
2205         // stop find_stream_info from waiting for more streams
2206         // when all programs have received a PMT
2207         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2208             int i;
2209             for (i = 0; i < ts->nb_prg; i++) {
2210                 if (!ts->prg[i].pmt_found)
2211                     break;
2212             }
2213             if (i == ts->nb_prg && ts->nb_prg > 0) {
2214                 int types = 0;
2215                 for (i = 0; i < ts->stream->nb_streams; i++) {
2216                     AVStream *st = ts->stream->streams[i];
2217                     types |= 1<<st->codec->codec_type;
2218                 }
2219                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2220                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2221                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2222                 }
2223             }
2224         }
2225
2226     } else {
2227         int ret;
2228         // Note: The position here points actually behind the current packet.
2229         if (tss->type == MPEGTS_PES) {
2230             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2231                                                 pos - ts->raw_packet_size)) < 0)
2232                 return ret;
2233         }
2234     }
2235
2236     return 0;
2237 }
2238
2239 static void reanalyze(MpegTSContext *ts) {
2240     AVIOContext *pb = ts->stream->pb;
2241     int64_t pos = avio_tell(pb);
2242     if (pos < 0)
2243         return;
2244     pos -= ts->pos47_full;
2245     if (pos == TS_PACKET_SIZE) {
2246         ts->size_stat[0] ++;
2247     } else if (pos == TS_DVHS_PACKET_SIZE) {
2248         ts->size_stat[1] ++;
2249     } else if (pos == TS_FEC_PACKET_SIZE) {
2250         ts->size_stat[2] ++;
2251     }
2252
2253     ts->size_stat_count ++;
2254     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2255         int newsize = 0;
2256         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2257             newsize = TS_PACKET_SIZE;
2258         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2259             newsize = TS_DVHS_PACKET_SIZE;
2260         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2261             newsize = TS_FEC_PACKET_SIZE;
2262         }
2263         if (newsize && newsize != ts->raw_packet_size) {
2264             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2265             ts->raw_packet_size = newsize;
2266         }
2267         ts->size_stat_count = 0;
2268         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2269     }
2270 }
2271
2272 /* XXX: try to find a better synchro over several packets (use
2273  * get_packet_size() ?) */
2274 static int mpegts_resync(AVFormatContext *s)
2275 {
2276     MpegTSContext *ts = s->priv_data;
2277     AVIOContext *pb = s->pb;
2278     int c, i;
2279
2280     for (i = 0; i < ts->resync_size; i++) {
2281         c = avio_r8(pb);
2282         if (avio_feof(pb))
2283             return AVERROR_EOF;
2284         if (c == 0x47) {
2285             avio_seek(pb, -1, SEEK_CUR);
2286             reanalyze(s->priv_data);
2287             return 0;
2288         }
2289     }
2290     av_log(s, AV_LOG_ERROR,
2291            "max resync size reached, could not find sync byte\n");
2292     /* no sync found */
2293     return AVERROR_INVALIDDATA;
2294 }
2295
2296 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2297 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2298                        const uint8_t **data)
2299 {
2300     AVIOContext *pb = s->pb;
2301     int len;
2302
2303     for (;;) {
2304         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2305         if (len != TS_PACKET_SIZE)
2306             return len < 0 ? len : AVERROR_EOF;
2307         /* check packet sync byte */
2308         if ((*data)[0] != 0x47) {
2309             /* find a new packet start */
2310             uint64_t pos = avio_tell(pb);
2311             avio_seek(pb, -FFMIN(raw_packet_size, pos), SEEK_CUR);
2312
2313             if (mpegts_resync(s) < 0)
2314                 return AVERROR(EAGAIN);
2315             else
2316                 continue;
2317         } else {
2318             break;
2319         }
2320     }
2321     return 0;
2322 }
2323
2324 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2325 {
2326     AVIOContext *pb = s->pb;
2327     int skip = raw_packet_size - TS_PACKET_SIZE;
2328     if (skip > 0)
2329         avio_skip(pb, skip);
2330 }
2331
2332 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2333 {
2334     AVFormatContext *s = ts->stream;
2335     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
2336     const uint8_t *data;
2337     int64_t packet_num;
2338     int ret = 0;
2339
2340     if (avio_tell(s->pb) != ts->last_pos) {
2341         int i;
2342         av_dlog(ts->stream, "Skipping after seek\n");
2343         /* seek detected, flush pes buffer */
2344         for (i = 0; i < NB_PID_MAX; i++) {
2345             if (ts->pids[i]) {
2346                 if (ts->pids[i]->type == MPEGTS_PES) {
2347                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2348                     av_buffer_unref(&pes->buffer);
2349                     pes->data_index = 0;
2350                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2351                 }
2352                 ts->pids[i]->last_cc = -1;
2353                 ts->pids[i]->last_pcr = -1;
2354             }
2355         }
2356     }
2357
2358     ts->stop_parse = 0;
2359     packet_num = 0;
2360     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
2361     for (;;) {
2362         packet_num++;
2363         if (nb_packets != 0 && packet_num >= nb_packets ||
2364             ts->stop_parse > 1) {
2365             ret = AVERROR(EAGAIN);
2366             break;
2367         }
2368         if (ts->stop_parse > 0)
2369             break;
2370
2371         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2372         if (ret != 0)
2373             break;
2374         ret = handle_packet(ts, data);
2375         finished_reading_packet(s, ts->raw_packet_size);
2376         if (ret != 0)
2377             break;
2378     }
2379     ts->last_pos = avio_tell(s->pb);
2380     return ret;
2381 }
2382
2383 static int mpegts_probe(AVProbeData *p)
2384 {
2385     const int size = p->buf_size;
2386     int maxscore = 0;
2387     int sumscore = 0;
2388     int i;
2389     int check_count = size / TS_FEC_PACKET_SIZE;
2390 #define CHECK_COUNT 10
2391 #define CHECK_BLOCK 100
2392
2393     if (check_count < CHECK_COUNT)
2394         return AVERROR_INVALIDDATA;
2395
2396     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2397         int left = FFMIN(check_count - i, CHECK_BLOCK);
2398         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL);
2399         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL);
2400         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL);
2401         score = FFMAX3(score, dvhs_score, fec_score);
2402         sumscore += score;
2403         maxscore = FFMAX(maxscore, score);
2404     }
2405
2406     sumscore = sumscore * CHECK_COUNT / check_count;
2407     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2408
2409     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2410
2411     if      (sumscore > 6) return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2412     else if (maxscore > 6) return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2413     else
2414         return AVERROR_INVALIDDATA;
2415 }
2416
2417 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2418  * (-1) if not available */
2419 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2420 {
2421     int afc, len, flags;
2422     const uint8_t *p;
2423     unsigned int v;
2424
2425     afc = (packet[3] >> 4) & 3;
2426     if (afc <= 1)
2427         return AVERROR_INVALIDDATA;
2428     p   = packet + 4;
2429     len = p[0];
2430     p++;
2431     if (len == 0)
2432         return AVERROR_INVALIDDATA;
2433     flags = *p++;
2434     len--;
2435     if (!(flags & 0x10))
2436         return AVERROR_INVALIDDATA;
2437     if (len < 6)
2438         return AVERROR_INVALIDDATA;
2439     v          = AV_RB32(p);
2440     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2441     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2442     return 0;
2443 }
2444
2445 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2446
2447     /* NOTE: We attempt to seek on non-seekable files as well, as the
2448      * probe buffer usually is big enough. Only warn if the seek failed
2449      * on files where the seek should work. */
2450     if (avio_seek(pb, pos, SEEK_SET) < 0)
2451         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2452 }
2453
2454 static int mpegts_read_header(AVFormatContext *s)
2455 {
2456     MpegTSContext *ts = s->priv_data;
2457     AVIOContext *pb   = s->pb;
2458     uint8_t buf[8 * 1024] = {0};
2459     int len;
2460     int64_t pos, probesize = s->probesize ? s->probesize : s->probesize2;
2461
2462     if (ffio_ensure_seekback(pb, probesize) < 0)
2463         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2464
2465     /* read the first 8192 bytes to get packet size */
2466     pos = avio_tell(pb);
2467     len = avio_read(pb, buf, sizeof(buf));
2468     ts->raw_packet_size = get_packet_size(buf, len);
2469     if (ts->raw_packet_size <= 0) {
2470         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2471         ts->raw_packet_size = TS_PACKET_SIZE;
2472     }
2473     ts->stream     = s;
2474     ts->auto_guess = 0;
2475
2476     if (s->iformat == &ff_mpegts_demuxer) {
2477         /* normal demux */
2478
2479         /* first do a scan to get all the services */
2480         seek_back(s, pb, pos);
2481
2482         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2483
2484         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2485
2486         handle_packets(ts, probesize / ts->raw_packet_size);
2487         /* if could not find service, enable auto_guess */
2488
2489         ts->auto_guess = 1;
2490
2491         av_dlog(ts->stream, "tuning done\n");
2492
2493         s->ctx_flags |= AVFMTCTX_NOHEADER;
2494     } else {
2495         AVStream *st;
2496         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2497         int64_t pcrs[2], pcr_h;
2498         int packet_count[2];
2499         uint8_t packet[TS_PACKET_SIZE];
2500         const uint8_t *data;
2501
2502         /* only read packets */
2503
2504         st = avformat_new_stream(s, NULL);
2505         if (!st)
2506             return AVERROR(ENOMEM);
2507         avpriv_set_pts_info(st, 60, 1, 27000000);
2508         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2509         st->codec->codec_id   = AV_CODEC_ID_MPEG2TS;
2510
2511         /* we iterate until we find two PCRs to estimate the bitrate */
2512         pcr_pid    = -1;
2513         nb_pcrs    = 0;
2514         nb_packets = 0;
2515         for (;;) {
2516             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2517             if (ret < 0)
2518                 return ret;
2519             pid = AV_RB16(data + 1) & 0x1fff;
2520             if ((pcr_pid == -1 || pcr_pid == pid) &&
2521                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2522                 finished_reading_packet(s, ts->raw_packet_size);
2523                 pcr_pid = pid;
2524                 packet_count[nb_pcrs] = nb_packets;
2525                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2526                 nb_pcrs++;
2527                 if (nb_pcrs >= 2)
2528                     break;
2529             } else {
2530                 finished_reading_packet(s, ts->raw_packet_size);
2531             }
2532             nb_packets++;
2533         }
2534
2535         /* NOTE1: the bitrate is computed without the FEC */
2536         /* NOTE2: it is only the bitrate of the start of the stream */
2537         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2538         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2539         s->bit_rate  = TS_PACKET_SIZE * 8 * 27e6 / ts->pcr_incr;
2540         st->codec->bit_rate = s->bit_rate;
2541         st->start_time      = ts->cur_pcr;
2542         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2543                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2544     }
2545
2546     seek_back(s, pb, pos);
2547     return 0;
2548 }
2549
2550 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2551
2552 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2553 {
2554     MpegTSContext *ts = s->priv_data;
2555     int ret, i;
2556     int64_t pcr_h, next_pcr_h, pos;
2557     int pcr_l, next_pcr_l;
2558     uint8_t pcr_buf[12];
2559     const uint8_t *data;
2560
2561     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2562         return AVERROR(ENOMEM);
2563     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2564     pkt->pos = avio_tell(s->pb);
2565     if (ret < 0) {
2566         av_free_packet(pkt);
2567         return ret;
2568     }
2569     if (data != pkt->data)
2570         memcpy(pkt->data, data, ts->raw_packet_size);
2571     finished_reading_packet(s, ts->raw_packet_size);
2572     if (ts->mpeg2ts_compute_pcr) {
2573         /* compute exact PCR for each packet */
2574         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2575             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2576             pos = avio_tell(s->pb);
2577             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2578                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2579                 avio_read(s->pb, pcr_buf, 12);
2580                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2581                     /* XXX: not precise enough */
2582                     ts->pcr_incr =
2583                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2584                         (i + 1);
2585                     break;
2586                 }
2587             }
2588             avio_seek(s->pb, pos, SEEK_SET);
2589             /* no next PCR found: we use previous increment */
2590             ts->cur_pcr = pcr_h * 300 + pcr_l;
2591         }
2592         pkt->pts      = ts->cur_pcr;
2593         pkt->duration = ts->pcr_incr;
2594         ts->cur_pcr  += ts->pcr_incr;
2595     }
2596     pkt->stream_index = 0;
2597     return 0;
2598 }
2599
2600 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2601 {
2602     MpegTSContext *ts = s->priv_data;
2603     int ret, i;
2604
2605     pkt->size = -1;
2606     ts->pkt = pkt;
2607     ret = handle_packets(ts, 0);
2608     if (ret < 0) {
2609         av_free_packet(ts->pkt);
2610         /* flush pes data left */
2611         for (i = 0; i < NB_PID_MAX; i++)
2612             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2613                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2614                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2615                     new_pes_packet(pes, pkt);
2616                     pes->state = MPEGTS_SKIP;
2617                     ret = 0;
2618                     break;
2619                 }
2620             }
2621     }
2622
2623     if (!ret && pkt->size < 0)
2624         ret = AVERROR(EINTR);
2625     return ret;
2626 }
2627
2628 static void mpegts_free(MpegTSContext *ts)
2629 {
2630     int i;
2631
2632     clear_programs(ts);
2633
2634     for (i = 0; i < NB_PID_MAX; i++)
2635         if (ts->pids[i])
2636             mpegts_close_filter(ts, ts->pids[i]);
2637 }
2638
2639 static int mpegts_read_close(AVFormatContext *s)
2640 {
2641     MpegTSContext *ts = s->priv_data;
2642     mpegts_free(ts);
2643     return 0;
2644 }
2645
2646 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2647                               int64_t *ppos, int64_t pos_limit)
2648 {
2649     MpegTSContext *ts = s->priv_data;
2650     int64_t pos, timestamp;
2651     uint8_t buf[TS_PACKET_SIZE];
2652     int pcr_l, pcr_pid =
2653         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2654     int pos47 = ts->pos47_full % ts->raw_packet_size;
2655     pos =
2656         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2657         ts->raw_packet_size + pos47;
2658     while(pos < pos_limit) {
2659         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2660             return AV_NOPTS_VALUE;
2661         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2662             return AV_NOPTS_VALUE;
2663         if (buf[0] != 0x47) {
2664             avio_seek(s->pb, -TS_PACKET_SIZE, SEEK_CUR);
2665             if (mpegts_resync(s) < 0)
2666                 return AV_NOPTS_VALUE;
2667             pos = avio_tell(s->pb);
2668             continue;
2669         }
2670         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2671             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2672             *ppos = pos;
2673             return timestamp;
2674         }
2675         pos += ts->raw_packet_size;
2676     }
2677
2678     return AV_NOPTS_VALUE;
2679 }
2680
2681 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2682                               int64_t *ppos, int64_t pos_limit)
2683 {
2684     MpegTSContext *ts = s->priv_data;
2685     int64_t pos;
2686     int pos47 = ts->pos47_full % ts->raw_packet_size;
2687     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2688     ff_read_frame_flush(s);
2689     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2690         return AV_NOPTS_VALUE;
2691     while(pos < pos_limit) {
2692         int ret;
2693         AVPacket pkt;
2694         av_init_packet(&pkt);
2695         ret = av_read_frame(s, &pkt);
2696         if (ret < 0)
2697             return AV_NOPTS_VALUE;
2698         av_free_packet(&pkt);
2699         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2700             ff_reduce_index(s, pkt.stream_index);
2701             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2702             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2703                 *ppos = pkt.pos;
2704                 return pkt.dts;
2705             }
2706         }
2707         pos = pkt.pos;
2708     }
2709
2710     return AV_NOPTS_VALUE;
2711 }
2712
2713 /**************************************************************/
2714 /* parsing functions - called from other demuxers such as RTP */
2715
2716 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2717 {
2718     MpegTSContext *ts;
2719
2720     ts = av_mallocz(sizeof(MpegTSContext));
2721     if (!ts)
2722         return NULL;
2723     /* no stream case, currently used by RTP */
2724     ts->raw_packet_size = TS_PACKET_SIZE;
2725     ts->stream = s;
2726     ts->auto_guess = 1;
2727     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2728     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2729
2730     return ts;
2731 }
2732
2733 /* return the consumed length if a packet was output, or -1 if no
2734  * packet is output */
2735 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2736                                const uint8_t *buf, int len)
2737 {
2738     int len1;
2739
2740     len1 = len;
2741     ts->pkt = pkt;
2742     for (;;) {
2743         ts->stop_parse = 0;
2744         if (len < TS_PACKET_SIZE)
2745             return AVERROR_INVALIDDATA;
2746         if (buf[0] != 0x47) {
2747             buf++;
2748             len--;
2749         } else {
2750             handle_packet(ts, buf);
2751             buf += TS_PACKET_SIZE;
2752             len -= TS_PACKET_SIZE;
2753             if (ts->stop_parse == 1)
2754                 break;
2755         }
2756     }
2757     return len1 - len;
2758 }
2759
2760 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2761 {
2762     mpegts_free(ts);
2763     av_free(ts);
2764 }
2765
2766 AVInputFormat ff_mpegts_demuxer = {
2767     .name           = "mpegts",
2768     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2769     .priv_data_size = sizeof(MpegTSContext),
2770     .read_probe     = mpegts_probe,
2771     .read_header    = mpegts_read_header,
2772     .read_packet    = mpegts_read_packet,
2773     .read_close     = mpegts_read_close,
2774     .read_timestamp = mpegts_get_dts,
2775     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2776     .priv_class     = &mpegts_class,
2777 };
2778
2779 AVInputFormat ff_mpegtsraw_demuxer = {
2780     .name           = "mpegtsraw",
2781     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2782     .priv_data_size = sizeof(MpegTSContext),
2783     .read_header    = mpegts_read_header,
2784     .read_packet    = mpegts_raw_read_packet,
2785     .read_close     = mpegts_read_close,
2786     .read_timestamp = mpegts_get_dts,
2787     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2788     .priv_class     = &mpegtsraw_class,
2789 };