git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/internal.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/dict.h"
  28 #include "libavutil/mathematics.h"
  29 #include "libavutil/opt.h"
  30 #include "libavutil/avassert.h"
  31 #include "libavcodec/bytestream.h"
  32 #include "libavcodec/get_bits.h"
  33 #include "libavcodec/opus.h"
  34 #include "avformat.h"
  35 #include "mpegts.h"
  36 #include "internal.h"
  37 #include "avio_internal.h"
  38 #include "mpeg.h"
  39 #include "isom.h"
  40
  41 /* maximum size in which we look for synchronisation if
  42  * synchronisation is lost */
  43 #define MAX_RESYNC_SIZE 65536
  44
  45 #define MAX_PES_PAYLOAD 200 * 1024
  46
  47 #define MAX_MP4_DESCR_COUNT 16
  48
  49 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  50     do {                                                                       \
  51         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  52             (modulus) = (dividend) % (divisor);                                \
  53         (prev_dividend) = (dividend);                                          \
  54     } while (0)
  55
  56 enum MpegTSFilterType {
  57     MPEGTS_PES,
  58     MPEGTS_SECTION,
  59     MPEGTS_PCR,
  60 };
  61
  62 typedef struct MpegTSFilter MpegTSFilter;
  63
  64 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  65                          int is_start, int64_t pos);
  66
  67 typedef struct MpegTSPESFilter {
  68     PESCallback *pes_cb;
  69     void *opaque;
  70 } MpegTSPESFilter;
  71
  72 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  73
  74 typedef void SetServiceCallback (void *opaque, int ret);
  75
  76 typedef struct MpegTSSectionFilter {
  77     int section_index;
  78     int section_h_size;
  79     int last_ver;
  80     unsigned crc;
  81     unsigned last_crc;
  82     uint8_t *section_buf;
  83     unsigned int check_crc : 1;
  84     unsigned int end_of_section_reached : 1;
  85     SectionCallback *section_cb;
  86     void *opaque;
  87 } MpegTSSectionFilter;
  88
  89 struct MpegTSFilter {
  90     int pid;
  91     int es_id;
  92     int last_cc; /* last cc code (-1 if first packet) */
  93     int64_t last_pcr;
  94     enum MpegTSFilterType type;
  95     union {
  96         MpegTSPESFilter pes_filter;
  97         MpegTSSectionFilter section_filter;
  98     } u;
  99 };
 100
 101 #define MAX_PIDS_PER_PROGRAM 64
 102 struct Program {
 103     unsigned int id; // program id/service id
 104     unsigned int nb_pids;
 105     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 106
 107     /** have we found pmt for this program */
 108     int pmt_found;
 109 };
 110
 111 struct MpegTSContext {
 112     const AVClass *class;
 113     /* user data */
 114     AVFormatContext *stream;
 115     /** raw packet size, including FEC if present */
 116     int raw_packet_size;
 117
 118     int size_stat[3];
 119     int size_stat_count;
 120 #define SIZE_STAT_THRESHOLD 10
 121
 122     int64_t pos47_full;
 123
 124     /** if true, all pids are analyzed to find streams */
 125     int auto_guess;
 126
 127     /** compute exact PCR for each transport stream packet */
 128     int mpeg2ts_compute_pcr;
 129
 130     /** fix dvb teletext pts                                 */
 131     int fix_teletext_pts;
 132
 133     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 134     int pcr_incr;       /**< used to estimate the exact PCR */
 135
 136     /* data needed to handle file based ts */
 137     /** stop parsing loop */
 138     int stop_parse;
 139     /** packet containing Audio/Video data */
 140     AVPacket *pkt;
 141     /** to detect seek */
 142     int64_t last_pos;
 143
 144     int skip_changes;
 145     int skip_clear;
 146
 147     int scan_all_pmts;
 148
 149     int resync_size;
 150
 151     /******************************************/
 152     /* private mpegts data */
 153     /* scan context */
 154     /** structure to keep track of Program->pids mapping */
 155     unsigned int nb_prg;
 156     struct Program *prg;
 157
 158     int8_t crc_validity[NB_PID_MAX];
 159     /** filters for various streams specified by PMT + for the PAT and PMT */
 160     MpegTSFilter *pids[NB_PID_MAX];
 161     int current_pid;
 162 };
 163
 164 #define MPEGTS_OPTIONS \
 165     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 166
 167 static const AVOption options[] = {
 168     MPEGTS_OPTIONS,
 169     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 170      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 171     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 172      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 173     {"scan_all_pmts",   "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 174      { .i64 =  -1}, -1, 1,  AV_OPT_FLAG_DECODING_PARAM },
 175     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 176      {.i64 = 0}, 0, 1, 0 },
 177     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 178      {.i64 = 0}, 0, 1, 0 },
 179     { NULL },
 180 };
 181
 182 static const AVClass mpegts_class = {
 183     .class_name = "mpegts demuxer",
 184     .item_name  = av_default_item_name,
 185     .option     = options,
 186     .version    = LIBAVUTIL_VERSION_INT,
 187 };
 188
 189 static const AVOption raw_options[] = {
 190     MPEGTS_OPTIONS,
 191     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 192           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 193           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 194     { "ts_packetsize", "output option carrying the raw packet size",
 195       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 196       { .i64 = 0 }, 0, 0,
 197       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 198     { NULL },
 199 };
 200
 201 static const AVClass mpegtsraw_class = {
 202     .class_name = "mpegtsraw demuxer",
 203     .item_name  = av_default_item_name,
 204     .option     = raw_options,
 205     .version    = LIBAVUTIL_VERSION_INT,
 206 };
 207
 208 /* TS stream handling */
 209
 210 enum MpegTSState {
 211     MPEGTS_HEADER = 0,
 212     MPEGTS_PESHEADER,
 213     MPEGTS_PESHEADER_FILL,
 214     MPEGTS_PAYLOAD,
 215     MPEGTS_SKIP,
 216 };
 217
 218 /* enough for PES header + length */
 219 #define PES_START_SIZE  6
 220 #define PES_HEADER_SIZE 9
 221 #define MAX_PES_HEADER_SIZE (9 + 255)
 222
 223 typedef struct PESContext {
 224     int pid;
 225     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 226     int stream_type;
 227     MpegTSContext *ts;
 228     AVFormatContext *stream;
 229     AVStream *st;
 230     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 231     enum MpegTSState state;
 232     /* used to get the format */
 233     int data_index;
 234     int flags; /**< copied to the AVPacket flags */
 235     int total_size;
 236     int pes_header_size;
 237     int extended_stream_id;
 238     uint8_t stream_id;
 239     int64_t pts, dts;
 240     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 241     uint8_t header[MAX_PES_HEADER_SIZE];
 242     AVBufferRef *buffer;
 243     SLConfigDescr sl;
 244 } PESContext;
 245
 246 extern AVInputFormat ff_mpegts_demuxer;
 247
 248 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 249 {
 250     int i;
 251     for (i = 0; i < ts->nb_prg; i++) {
 252         if (ts->prg[i].id == programid) {
 253             return &ts->prg[i];
 254         }
 255     }
 256     return NULL;
 257 }
 258
 259 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 260 {
 261     AVProgram *prg = NULL;
 262     int i;
 263
 264     for (i = 0; i < ts->stream->nb_programs; i++)
 265         if (ts->stream->programs[i]->id == programid) {
 266             prg = ts->stream->programs[i];
 267             break;
 268         }
 269     if (!prg)
 270         return;
 271     prg->nb_stream_indexes = 0;
 272 }
 273
 274 static void clear_program(MpegTSContext *ts, unsigned int programid)
 275 {
 276     int i;
 277
 278     clear_avprogram(ts, programid);
 279     for (i = 0; i < ts->nb_prg; i++)
 280         if (ts->prg[i].id == programid) {
 281             ts->prg[i].nb_pids = 0;
 282             ts->prg[i].pmt_found = 0;
 283         }
 284 }
 285
 286 static void clear_programs(MpegTSContext *ts)
 287 {
 288     av_freep(&ts->prg);
 289     ts->nb_prg = 0;
 290 }
 291
 292 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
 293 {
 294     struct Program *p;
 295     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 296         ts->nb_prg = 0;
 297         return;
 298     }
 299     p = &ts->prg[ts->nb_prg];
 300     p->id = programid;
 301     p->nb_pids = 0;
 302     p->pmt_found = 0;
 303     ts->nb_prg++;
 304 }
 305
 306 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
 307                            unsigned int pid)
 308 {
 309     struct Program *p = get_program(ts, programid);
 310     int i;
 311     if (!p)
 312         return;
 313
 314     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 315         return;
 316
 317     for (i = 0; i < p->nb_pids; i++)
 318         if (p->pids[i] == pid)
 319             return;
 320
 321     p->pids[p->nb_pids++] = pid;
 322 }
 323
 324 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
 325 {
 326     struct Program *p = get_program(ts, programid);
 327     if (!p)
 328         return;
 329
 330     p->pmt_found = 1;
 331 }
 332
 333 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
 334 {
 335     int i;
 336     for (i = 0; i < s->nb_programs; i++) {
 337         if (s->programs[i]->id == programid) {
 338             s->programs[i]->pcr_pid = pid;
 339             break;
 340         }
 341     }
 342 }
 343
 344 /**
 345  * @brief discard_pid() decides if the pid is to be discarded according
 346  *                      to caller's programs selection
 347  * @param ts    : - TS context
 348  * @param pid   : - pid
 349  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 350  *         0 otherwise
 351  */
 352 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 353 {
 354     int i, j, k;
 355     int used = 0, discarded = 0;
 356     struct Program *p;
 357
 358     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 359      * no way we have to discard this packet */
 360     for (k = 0; k < ts->stream->nb_programs; k++)
 361         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 362             break;
 363     if (k == ts->stream->nb_programs)
 364         return 0;
 365
 366     for (i = 0; i < ts->nb_prg; i++) {
 367         p = &ts->prg[i];
 368         for (j = 0; j < p->nb_pids; j++) {
 369             if (p->pids[j] != pid)
 370                 continue;
 371             // is program with id p->id set to be discarded?
 372             for (k = 0; k < ts->stream->nb_programs; k++) {
 373                 if (ts->stream->programs[k]->id == p->id) {
 374                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 375                         discarded++;
 376                     else
 377                         used++;
 378                 }
 379             }
 380         }
 381     }
 382
 383     return !used && discarded;
 384 }
 385
 386 /**
 387  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 388  *  function when they are complete.
 389  */
 390 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 391                                const uint8_t *buf, int buf_size, int is_start)
 392 {
 393     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 394     int len;
 395
 396     if (is_start) {
 397         memcpy(tss->section_buf, buf, buf_size);
 398         tss->section_index = buf_size;
 399         tss->section_h_size = -1;
 400         tss->end_of_section_reached = 0;
 401     } else {
 402         if (tss->end_of_section_reached)
 403             return;
 404         len = 4096 - tss->section_index;
 405         if (buf_size < len)
 406             len = buf_size;
 407         memcpy(tss->section_buf + tss->section_index, buf, len);
 408         tss->section_index += len;
 409     }
 410
 411     /* compute section length if possible */
 412     if (tss->section_h_size == -1 && tss->section_index >= 3) {
 413         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
 414         if (len > 4096)
 415             return;
 416         tss->section_h_size = len;
 417     }
 418
 419     if (tss->section_h_size != -1 &&
 420         tss->section_index >= tss->section_h_size) {
 421         int crc_valid = 1;
 422         tss->end_of_section_reached = 1;
 423
 424         if (tss->check_crc) {
 425             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
 426             if (tss->section_h_size >= 4)
 427                 tss->crc = AV_RB32(tss->section_buf + tss->section_h_size - 4);
 428
 429             if (crc_valid) {
 430                 ts->crc_validity[ tss1->pid ] = 100;
 431             }else if (ts->crc_validity[ tss1->pid ] > -10) {
 432                 ts->crc_validity[ tss1->pid ]--;
 433             }else
 434                 crc_valid = 2;
 435         }
 436         if (crc_valid) {
 437             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
 438             if (crc_valid != 1)
 439                 tss->last_ver = -1;
 440         }
 441     }
 442 }
 443
 444 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 445                                         enum MpegTSFilterType type)
 446 {
 447     MpegTSFilter *filter;
 448
 449     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x\n", pid);
 450
 451     if (pid >= NB_PID_MAX || ts->pids[pid])
 452         return NULL;
 453     filter = av_mallocz(sizeof(MpegTSFilter));
 454     if (!filter)
 455         return NULL;
 456     ts->pids[pid] = filter;
 457
 458     filter->type    = type;
 459     filter->pid     = pid;
 460     filter->es_id   = -1;
 461     filter->last_cc = -1;
 462     filter->last_pcr= -1;
 463
 464     return filter;
 465 }
 466
 467 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 468                                                 unsigned int pid,
 469                                                 SectionCallback *section_cb,
 470                                                 void *opaque,
 471                                                 int check_crc)
 472 {
 473     MpegTSFilter *filter;
 474     MpegTSSectionFilter *sec;
 475
 476     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
 477         return NULL;
 478     sec = &filter->u.section_filter;
 479     sec->section_cb  = section_cb;
 480     sec->opaque      = opaque;
 481     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
 482     sec->check_crc   = check_crc;
 483     sec->last_ver    = -1;
 484
 485     if (!sec->section_buf) {
 486         av_free(filter);
 487         return NULL;
 488     }
 489     return filter;
 490 }
 491
 492 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 493                                             PESCallback *pes_cb,
 494                                             void *opaque)
 495 {
 496     MpegTSFilter *filter;
 497     MpegTSPESFilter *pes;
 498
 499     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 500         return NULL;
 501
 502     pes = &filter->u.pes_filter;
 503     pes->pes_cb = pes_cb;
 504     pes->opaque = opaque;
 505     return filter;
 506 }
 507
 508 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 509 {
 510     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 511 }
 512
 513 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 514 {
 515     int pid;
 516
 517     pid = filter->pid;
 518     if (filter->type == MPEGTS_SECTION)
 519         av_freep(&filter->u.section_filter.section_buf);
 520     else if (filter->type == MPEGTS_PES) {
 521         PESContext *pes = filter->u.pes_filter.opaque;
 522         av_buffer_unref(&pes->buffer);
 523         /* referenced private data will be freed later in
 524          * avformat_close_input */
 525         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
 526             av_freep(&filter->u.pes_filter.opaque);
 527         }
 528     }
 529
 530     av_free(filter);
 531     ts->pids[pid] = NULL;
 532 }
 533
 534 static int analyze(const uint8_t *buf, int size, int packet_size,
 535                    int probe)
 536 {
 537     int stat[TS_MAX_PACKET_SIZE];
 538     int stat_all = 0;
 539     int i;
 540     int best_score = 0;
 541
 542     memset(stat, 0, packet_size * sizeof(*stat));
 543
 544     for (i = 0; i < size - 3; i++) {
 545         if (buf[i] == 0x47 &&
 546             (!probe || (buf[i + 3] & 0x30))) {
 547             int x = i % packet_size;
 548             stat[x]++;
 549             stat_all++;
 550             if (stat[x] > best_score) {
 551                 best_score = stat[x];
 552             }
 553         }
 554     }
 555
 556     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 557 }
 558
 559 /* autodetect fec presence. Must have at least 1024 bytes  */
 560 static int get_packet_size(const uint8_t *buf, int size)
 561 {
 562     int score, fec_score, dvhs_score;
 563
 564     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
 565         return AVERROR_INVALIDDATA;
 566
 567     score      = analyze(buf, size, TS_PACKET_SIZE,      0);
 568     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, 0);
 569     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE,  0);
 570     av_log(NULL, AV_LOG_TRACE, "score: %d, dvhs_score: %d, fec_score: %d \n",
 571             score, dvhs_score, fec_score);
 572
 573     if (score > fec_score && score > dvhs_score)
 574         return TS_PACKET_SIZE;
 575     else if (dvhs_score > score && dvhs_score > fec_score)
 576         return TS_DVHS_PACKET_SIZE;
 577     else if (score < fec_score && dvhs_score < fec_score)
 578         return TS_FEC_PACKET_SIZE;
 579     else
 580         return AVERROR_INVALIDDATA;
 581 }
 582
 583 typedef struct SectionHeader {
 584     uint8_t tid;
 585     uint16_t id;
 586     uint8_t version;
 587     uint8_t sec_num;
 588     uint8_t last_sec_num;
 589 } SectionHeader;
 590
 591 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 592 {
 593     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 594         return 1;
 595
 596     tssf->last_ver = h->version;
 597     tssf->last_crc = tssf->crc;
 598
 599     return 0;
 600 }
 601
 602 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 603 {
 604     const uint8_t *p;
 605     int c;
 606
 607     p = *pp;
 608     if (p >= p_end)
 609         return AVERROR_INVALIDDATA;
 610     c   = *p++;
 611     *pp = p;
 612     return c;
 613 }
 614
 615 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 616 {
 617     const uint8_t *p;
 618     int c;
 619
 620     p = *pp;
 621     if (1 >= p_end - p)
 622         return AVERROR_INVALIDDATA;
 623     c   = AV_RB16(p);
 624     p  += 2;
 625     *pp = p;
 626     return c;
 627 }
 628
 629 /* read and allocate a DVB string preceded by its length */
 630 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 631 {
 632     int len;
 633     const uint8_t *p;
 634     char *str;
 635
 636     p   = *pp;
 637     len = get8(&p, p_end);
 638     if (len < 0)
 639         return NULL;
 640     if (len > p_end - p)
 641         return NULL;
 642     str = av_malloc(len + 1);
 643     if (!str)
 644         return NULL;
 645     memcpy(str, p, len);
 646     str[len] = '\0';
 647     p  += len;
 648     *pp = p;
 649     return str;
 650 }
 651
 652 static int parse_section_header(SectionHeader *h,
 653                                 const uint8_t **pp, const uint8_t *p_end)
 654 {
 655     int val;
 656
 657     val = get8(pp, p_end);
 658     if (val < 0)
 659         return val;
 660     h->tid = val;
 661     *pp += 2;
 662     val  = get16(pp, p_end);
 663     if (val < 0)
 664         return val;
 665     h->id = val;
 666     val = get8(pp, p_end);
 667     if (val < 0)
 668         return val;
 669     h->version = (val >> 1) & 0x1f;
 670     val = get8(pp, p_end);
 671     if (val < 0)
 672         return val;
 673     h->sec_num = val;
 674     val = get8(pp, p_end);
 675     if (val < 0)
 676         return val;
 677     h->last_sec_num = val;
 678     return 0;
 679 }
 680
 681 typedef struct StreamType {
 682     uint32_t stream_type;
 683     enum AVMediaType codec_type;
 684     enum AVCodecID codec_id;
 685 } StreamType;
 686
 687 static const StreamType ISO_types[] = {
 688     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 689     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 690     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 691     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 692     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 693     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 694     /* Makito encoder sets stream type 0x11 for AAC,
 695      * so auto-detect LOAS/LATM instead of hardcoding it. */
 696 #if !CONFIG_LOAS_DEMUXER
 697     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 698 #endif
 699     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 700     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 701     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 702     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 703     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 704     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 705     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 706     { 0 },
 707 };
 708
 709 static const StreamType HDMV_types[] = {
 710     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 711     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 712     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 713     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 714     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 715     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 716     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 717     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 718     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 719     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 720     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 721     { 0 },
 722 };
 723
 724 /* ATSC ? */
 725 static const StreamType MISC_types[] = {
 726     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 727     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 728     { 0 },
 729 };
 730
 731 static const StreamType REGD_types[] = {
 732     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 733     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 734     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 735     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 736     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 737     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 738     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 739     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 740     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 741     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 742     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 743     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 744     { 0 },
 745 };
 746
 747 static const StreamType METADATA_types[] = {
 748     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 749     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 750     { 0 },
 751 };
 752
 753 /* descriptor present */
 754 static const StreamType DESC_types[] = {
 755     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 756     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 757     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 758     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 759     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 760     { 0 },
 761 };
 762
 763 static void mpegts_find_stream_type(AVStream *st,
 764                                     uint32_t stream_type,
 765                                     const StreamType *types)
 766 {
 767     for (; types->stream_type; types++)
 768         if (stream_type == types->stream_type) {
 769             if (st->codecpar->codec_type != types->codec_type ||
 770                 st->codecpar->codec_id   != types->codec_id) {
 771                 st->codecpar->codec_type = types->codec_type;
 772                 st->codecpar->codec_id   = types->codec_id;
 773                 st->internal->need_context_update = 1;
 774             }
 775             st->request_probe        = 0;
 776             return;
 777         }
 778 }
 779
 780 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 781                                   uint32_t stream_type, uint32_t prog_reg_desc)
 782 {
 783     int old_codec_type = st->codecpar->codec_type;
 784     int old_codec_id   = st->codecpar->codec_id;
 785     int old_codec_tag  = st->codecpar->codec_tag;
 786
 787     if (avcodec_is_open(st->internal->avctx)) {
 788         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 789         return 0;
 790     }
 791
 792     avpriv_set_pts_info(st, 33, 1, 90000);
 793     st->priv_data         = pes;
 794     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 795     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 796     st->need_parsing      = AVSTREAM_PARSE_FULL;
 797     pes->st          = st;
 798     pes->stream_type = stream_type;
 799
 800     av_log(pes->stream, AV_LOG_DEBUG,
 801            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 802            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 803
 804     st->codecpar->codec_tag = pes->stream_type;
 805
 806     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 807     if (pes->stream_type == 4)
 808         st->request_probe = 50;
 809     if ((prog_reg_desc == AV_RL32("HDMV") ||
 810          prog_reg_desc == AV_RL32("HDPR")) &&
 811         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 812         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 813         if (pes->stream_type == 0x83) {
 814             // HDMV TrueHD streams also contain an AC3 coded version of the
 815             // audio track - add a second stream for this
 816             AVStream *sub_st;
 817             // priv_data cannot be shared between streams
 818             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 819             if (!sub_pes)
 820                 return AVERROR(ENOMEM);
 821             memcpy(sub_pes, pes, sizeof(*sub_pes));
 822
 823             sub_st = avformat_new_stream(pes->stream, NULL);
 824             if (!sub_st) {
 825                 av_free(sub_pes);
 826                 return AVERROR(ENOMEM);
 827             }
 828
 829             sub_st->id = pes->pid;
 830             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 831             sub_st->priv_data         = sub_pes;
 832             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 833             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 834             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 835             sub_pes->sub_st           = pes->sub_st = sub_st;
 836         }
 837     }
 838     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 839         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 840     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 841         st->codecpar->codec_id  = old_codec_id;
 842         st->codecpar->codec_type = old_codec_type;
 843     }
 844     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 845             (st->request_probe > 0 && st->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 846         st->probe_packets > 0 &&
 847         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 848         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 849         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 850         st->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 851     }
 852
 853     /* queue a context update if properties changed */
 854     if (old_codec_type != st->codecpar->codec_type ||
 855         old_codec_id   != st->codecpar->codec_id   ||
 856         old_codec_tag  != st->codecpar->codec_tag)
 857         st->internal->need_context_update = 1;
 858
 859     return 0;
 860 }
 861
 862 static void reset_pes_packet_state(PESContext *pes)
 863 {
 864     pes->pts        = AV_NOPTS_VALUE;
 865     pes->dts        = AV_NOPTS_VALUE;
 866     pes->data_index = 0;
 867     pes->flags      = 0;
 868     av_buffer_unref(&pes->buffer);
 869 }
 870
 871 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 872 {
 873     char *sd;
 874
 875     av_init_packet(pkt);
 876
 877     pkt->buf  = pes->buffer;
 878     pkt->data = pes->buffer->data;
 879     pkt->size = pes->data_index;
 880
 881     if (pes->total_size != MAX_PES_PAYLOAD &&
 882         pes->pes_header_size + pes->data_index != pes->total_size +
 883         PES_START_SIZE) {
 884         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
 885         pes->flags |= AV_PKT_FLAG_CORRUPT;
 886     }
 887     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 888
 889     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
 890     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
 891         pkt->stream_index = pes->sub_st->index;
 892     else
 893         pkt->stream_index = pes->st->index;
 894     pkt->pts = pes->pts;
 895     pkt->dts = pes->dts;
 896     /* store position of first TS packet of this PES packet */
 897     pkt->pos   = pes->ts_packet_pos;
 898     pkt->flags = pes->flags;
 899
 900     pes->buffer = NULL;
 901     reset_pes_packet_state(pes);
 902
 903     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
 904     if (!sd)
 905         return AVERROR(ENOMEM);
 906     *sd = pes->stream_id;
 907
 908     return 0;
 909 }
 910
 911 static uint64_t get_ts64(GetBitContext *gb, int bits)
 912 {
 913     if (get_bits_left(gb) < bits)
 914         return AV_NOPTS_VALUE;
 915     return get_bits64(gb, bits);
 916 }
 917
 918 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
 919                           const uint8_t *buf, int buf_size)
 920 {
 921     GetBitContext gb;
 922     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
 923     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
 924     int dts_flag = -1, cts_flag = -1;
 925     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
 926     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
 927     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
 928
 929     memcpy(buf_padded, buf, buf_padded_size);
 930
 931     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
 932
 933     if (sl->use_au_start)
 934         au_start_flag = get_bits1(&gb);
 935     if (sl->use_au_end)
 936         au_end_flag = get_bits1(&gb);
 937     if (!sl->use_au_start && !sl->use_au_end)
 938         au_start_flag = au_end_flag = 1;
 939     if (sl->ocr_len > 0)
 940         ocr_flag = get_bits1(&gb);
 941     if (sl->use_idle)
 942         idle_flag = get_bits1(&gb);
 943     if (sl->use_padding)
 944         padding_flag = get_bits1(&gb);
 945     if (padding_flag)
 946         padding_bits = get_bits(&gb, 3);
 947
 948     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
 949         if (sl->packet_seq_num_len)
 950             skip_bits_long(&gb, sl->packet_seq_num_len);
 951         if (sl->degr_prior_len)
 952             if (get_bits1(&gb))
 953                 skip_bits(&gb, sl->degr_prior_len);
 954         if (ocr_flag)
 955             skip_bits_long(&gb, sl->ocr_len);
 956         if (au_start_flag) {
 957             if (sl->use_rand_acc_pt)
 958                 get_bits1(&gb);
 959             if (sl->au_seq_num_len > 0)
 960                 skip_bits_long(&gb, sl->au_seq_num_len);
 961             if (sl->use_timestamps) {
 962                 dts_flag = get_bits1(&gb);
 963                 cts_flag = get_bits1(&gb);
 964             }
 965         }
 966         if (sl->inst_bitrate_len)
 967             inst_bitrate_flag = get_bits1(&gb);
 968         if (dts_flag == 1)
 969             dts = get_ts64(&gb, sl->timestamp_len);
 970         if (cts_flag == 1)
 971             cts = get_ts64(&gb, sl->timestamp_len);
 972         if (sl->au_len > 0)
 973             skip_bits_long(&gb, sl->au_len);
 974         if (inst_bitrate_flag)
 975             skip_bits_long(&gb, sl->inst_bitrate_len);
 976     }
 977
 978     if (dts != AV_NOPTS_VALUE)
 979         pes->dts = dts;
 980     if (cts != AV_NOPTS_VALUE)
 981         pes->pts = cts;
 982
 983     if (sl->timestamp_len && sl->timestamp_res)
 984         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
 985
 986     return (get_bits_count(&gb) + 7) >> 3;
 987 }
 988
 989 /* return non zero if a packet could be constructed */
 990 static int mpegts_push_data(MpegTSFilter *filter,
 991                             const uint8_t *buf, int buf_size, int is_start,
 992                             int64_t pos)
 993 {
 994     PESContext *pes   = filter->u.pes_filter.opaque;
 995     MpegTSContext *ts = pes->ts;
 996     const uint8_t *p;
 997     int ret, len, code;
 998
 999     if (!ts->pkt)
1000         return 0;
1001
1002     if (is_start) {
1003         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1004             ret = new_pes_packet(pes, ts->pkt);
1005             if (ret < 0)
1006                 return ret;
1007             ts->stop_parse = 1;
1008         } else {
1009             reset_pes_packet_state(pes);
1010         }
1011         pes->state         = MPEGTS_HEADER;
1012         pes->ts_packet_pos = pos;
1013     }
1014     p = buf;
1015     while (buf_size > 0) {
1016         switch (pes->state) {
1017         case MPEGTS_HEADER:
1018             len = PES_START_SIZE - pes->data_index;
1019             if (len > buf_size)
1020                 len = buf_size;
1021             memcpy(pes->header + pes->data_index, p, len);
1022             pes->data_index += len;
1023             p += len;
1024             buf_size -= len;
1025             if (pes->data_index == PES_START_SIZE) {
1026                 /* we got all the PES or section header. We can now
1027                  * decide */
1028                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1029                     pes->header[2] == 0x01) {
1030                     /* it must be an mpeg2 PES stream */
1031                     code = pes->header[3] | 0x100;
1032                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1033                             code);
1034                     pes->stream_id = pes->header[3];
1035
1036                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1037                          (!pes->sub_st ||
1038                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1039                         code == 0x1be) /* padding_stream */
1040                         goto skip;
1041
1042                     /* stream not present in PMT */
1043                     if (!pes->st) {
1044                         if (ts->skip_changes)
1045                             goto skip;
1046
1047                         pes->st = avformat_new_stream(ts->stream, NULL);
1048                         if (!pes->st)
1049                             return AVERROR(ENOMEM);
1050                         pes->st->id = pes->pid;
1051                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1052                     }
1053
1054                     pes->total_size = AV_RB16(pes->header + 4);
1055                     /* NOTE: a zero total size means the PES size is
1056                      * unbounded */
1057                     if (!pes->total_size)
1058                         pes->total_size = MAX_PES_PAYLOAD;
1059
1060                     /* allocate pes buffer */
1061                     pes->buffer = av_buffer_alloc(pes->total_size +
1062                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1063                     if (!pes->buffer)
1064                         return AVERROR(ENOMEM);
1065
1066                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1067                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1068                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1069                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1070                         pes->state = MPEGTS_PESHEADER;
1071                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1072                             av_log(pes->stream, AV_LOG_TRACE,
1073                                     "pid=%x stream_type=%x probing\n",
1074                                     pes->pid,
1075                                     pes->stream_type);
1076                             pes->st->request_probe = 1;
1077                         }
1078                     } else {
1079                         pes->pes_header_size = 6;
1080                         pes->state      = MPEGTS_PAYLOAD;
1081                         pes->data_index = 0;
1082                     }
1083                 } else {
1084                     /* otherwise, it should be a table */
1085                     /* skip packet */
1086 skip:
1087                     pes->state = MPEGTS_SKIP;
1088                     continue;
1089                 }
1090             }
1091             break;
1092         /**********************************************/
1093         /* PES packing parsing */
1094         case MPEGTS_PESHEADER:
1095             len = PES_HEADER_SIZE - pes->data_index;
1096             if (len < 0)
1097                 return AVERROR_INVALIDDATA;
1098             if (len > buf_size)
1099                 len = buf_size;
1100             memcpy(pes->header + pes->data_index, p, len);
1101             pes->data_index += len;
1102             p += len;
1103             buf_size -= len;
1104             if (pes->data_index == PES_HEADER_SIZE) {
1105                 pes->pes_header_size = pes->header[8] + 9;
1106                 pes->state           = MPEGTS_PESHEADER_FILL;
1107             }
1108             break;
1109         case MPEGTS_PESHEADER_FILL:
1110             len = pes->pes_header_size - pes->data_index;
1111             if (len < 0)
1112                 return AVERROR_INVALIDDATA;
1113             if (len > buf_size)
1114                 len = buf_size;
1115             memcpy(pes->header + pes->data_index, p, len);
1116             pes->data_index += len;
1117             p += len;
1118             buf_size -= len;
1119             if (pes->data_index == pes->pes_header_size) {
1120                 const uint8_t *r;
1121                 unsigned int flags, pes_ext, skip;
1122
1123                 flags = pes->header[7];
1124                 r = pes->header + 9;
1125                 pes->pts = AV_NOPTS_VALUE;
1126                 pes->dts = AV_NOPTS_VALUE;
1127                 if ((flags & 0xc0) == 0x80) {
1128                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1129                     r += 5;
1130                 } else if ((flags & 0xc0) == 0xc0) {
1131                     pes->pts = ff_parse_pes_pts(r);
1132                     r += 5;
1133                     pes->dts = ff_parse_pes_pts(r);
1134                     r += 5;
1135                 }
1136                 pes->extended_stream_id = -1;
1137                 if (flags & 0x01) { /* PES extension */
1138                     pes_ext = *r++;
1139                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1140                     skip  = (pes_ext >> 4) & 0xb;
1141                     skip += skip & 0x9;
1142                     r    += skip;
1143                     if ((pes_ext & 0x41) == 0x01 &&
1144                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1145                         /* PES extension 2 */
1146                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1147                             pes->extended_stream_id = r[1];
1148                     }
1149                 }
1150
1151                 /* we got the full header. We parse it and get the payload */
1152                 pes->state = MPEGTS_PAYLOAD;
1153                 pes->data_index = 0;
1154                 if (pes->stream_type == 0x12 && buf_size > 0) {
1155                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1156                                                          buf_size);
1157                     pes->pes_header_size += sl_header_bytes;
1158                     p += sl_header_bytes;
1159                     buf_size -= sl_header_bytes;
1160                 }
1161                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1162                     /* skip metadata access unit header */
1163                     pes->pes_header_size += 5;
1164                     p += 5;
1165                     buf_size -= 5;
1166                 }
1167                 if (   pes->ts->fix_teletext_pts
1168                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1169                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1170                     ) {
1171                     AVProgram *p = NULL;
1172                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1173                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1174                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1175                             if (f) {
1176                                 AVStream *st = NULL;
1177                                 if (f->type == MPEGTS_PES) {
1178                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1179                                     if (pcrpes)
1180                                         st = pcrpes->st;
1181                                 } else if (f->type == MPEGTS_PCR) {
1182                                     int i;
1183                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1184                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1185                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1186                                             st = pst;
1187                                     }
1188                                 }
1189                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1190                                     // teletext packets do not always have correct timestamps,
1191                                     // the standard says they should be handled after 40.6 ms at most,
1192                                     // and the pcr error to this packet should be no more than 100 ms.
1193                                     // TODO: we should interpolate the PCR, not just use the last one
1194                                     int64_t pcr = f->last_pcr / 300;
1195                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1196                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1197                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1198                                         pes->pts = pes->dts = pcr;
1199                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1200                                                pes->dts > pcr + 3654 + 9000) {
1201                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1202                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1203                                                pes->dts > pcr + 10*90000) { //10sec
1204                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1205                                     }
1206                                     break;
1207                                 }
1208                             }
1209                         }
1210                     }
1211                 }
1212             }
1213             break;
1214         case MPEGTS_PAYLOAD:
1215             if (pes->buffer) {
1216                 if (pes->data_index > 0 &&
1217                     pes->data_index + buf_size > pes->total_size) {
1218                     ret = new_pes_packet(pes, ts->pkt);
1219                     if (ret < 0)
1220                         return ret;
1221                     pes->total_size = MAX_PES_PAYLOAD;
1222                     pes->buffer = av_buffer_alloc(pes->total_size +
1223                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1224                     if (!pes->buffer)
1225                         return AVERROR(ENOMEM);
1226                     ts->stop_parse = 1;
1227                 } else if (pes->data_index == 0 &&
1228                            buf_size > pes->total_size) {
1229                     // pes packet size is < ts size packet and pes data is padded with 0xff
1230                     // not sure if this is legal in ts but see issue #2392
1231                     buf_size = pes->total_size;
1232                 }
1233                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1234                 pes->data_index += buf_size;
1235                 /* emit complete packets with known packet size
1236                  * decreases demuxer delay for infrequent packets like subtitles from
1237                  * a couple of seconds to milliseconds for properly muxed files.
1238                  * total_size is the number of bytes following pes_packet_length
1239                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1240                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1241                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1242                     ts->stop_parse = 1;
1243                     ret = new_pes_packet(pes, ts->pkt);
1244                     if (ret < 0)
1245                         return ret;
1246                 }
1247             }
1248             buf_size = 0;
1249             break;
1250         case MPEGTS_SKIP:
1251             buf_size = 0;
1252             break;
1253         }
1254     }
1255
1256     return 0;
1257 }
1258
1259 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1260 {
1261     MpegTSFilter *tss;
1262     PESContext *pes;
1263
1264     /* if no pid found, then add a pid context */
1265     pes = av_mallocz(sizeof(PESContext));
1266     if (!pes)
1267         return 0;
1268     pes->ts      = ts;
1269     pes->stream  = ts->stream;
1270     pes->pid     = pid;
1271     pes->pcr_pid = pcr_pid;
1272     pes->state   = MPEGTS_SKIP;
1273     pes->pts     = AV_NOPTS_VALUE;
1274     pes->dts     = AV_NOPTS_VALUE;
1275     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1276     if (!tss) {
1277         av_free(pes);
1278         return 0;
1279     }
1280     return pes;
1281 }
1282
1283 #define MAX_LEVEL 4
1284 typedef struct MP4DescrParseContext {
1285     AVFormatContext *s;
1286     AVIOContext pb;
1287     Mp4Descr *descr;
1288     Mp4Descr *active_descr;
1289     int descr_count;
1290     int max_descr_count;
1291     int level;
1292     int predefined_SLConfigDescriptor_seen;
1293 } MP4DescrParseContext;
1294
1295 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1296                                      const uint8_t *buf, unsigned size,
1297                                      Mp4Descr *descr, int max_descr_count)
1298 {
1299     int ret;
1300     if (size > (1 << 30))
1301         return AVERROR_INVALIDDATA;
1302
1303     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1304                                  NULL, NULL, NULL, NULL)) < 0)
1305         return ret;
1306
1307     d->s               = s;
1308     d->level           = 0;
1309     d->descr_count     = 0;
1310     d->descr           = descr;
1311     d->active_descr    = NULL;
1312     d->max_descr_count = max_descr_count;
1313
1314     return 0;
1315 }
1316
1317 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1318 {
1319     int64_t new_off = avio_tell(pb);
1320     (*len) -= new_off - *off;
1321     *off    = new_off;
1322 }
1323
1324 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1325                            int target_tag);
1326
1327 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1328 {
1329     while (len > 0) {
1330         int ret = parse_mp4_descr(d, off, len, 0);
1331         if (ret < 0)
1332             return ret;
1333         update_offsets(&d->pb, &off, &len);
1334     }
1335     return 0;
1336 }
1337
1338 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1339 {
1340     avio_rb16(&d->pb); // ID
1341     avio_r8(&d->pb);
1342     avio_r8(&d->pb);
1343     avio_r8(&d->pb);
1344     avio_r8(&d->pb);
1345     avio_r8(&d->pb);
1346     update_offsets(&d->pb, &off, &len);
1347     return parse_mp4_descr_arr(d, off, len);
1348 }
1349
1350 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1351 {
1352     int id_flags;
1353     if (len < 2)
1354         return 0;
1355     id_flags = avio_rb16(&d->pb);
1356     if (!(id_flags & 0x0020)) { // URL_Flag
1357         update_offsets(&d->pb, &off, &len);
1358         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1359     } else {
1360         return 0;
1361     }
1362 }
1363
1364 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1365 {
1366     int es_id = 0;
1367     int ret   = 0;
1368
1369     if (d->descr_count >= d->max_descr_count)
1370         return AVERROR_INVALIDDATA;
1371     ff_mp4_parse_es_descr(&d->pb, &es_id);
1372     d->active_descr = d->descr + (d->descr_count++);
1373
1374     d->active_descr->es_id = es_id;
1375     update_offsets(&d->pb, &off, &len);
1376     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1377         return ret;
1378     update_offsets(&d->pb, &off, &len);
1379     if (len > 0)
1380         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1381     d->active_descr = NULL;
1382     return ret;
1383 }
1384
1385 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1386                                       int len)
1387 {
1388     Mp4Descr *descr = d->active_descr;
1389     if (!descr)
1390         return AVERROR_INVALIDDATA;
1391     d->active_descr->dec_config_descr = av_malloc(len);
1392     if (!descr->dec_config_descr)
1393         return AVERROR(ENOMEM);
1394     descr->dec_config_descr_len = len;
1395     avio_read(&d->pb, descr->dec_config_descr, len);
1396     return 0;
1397 }
1398
1399 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1400 {
1401     Mp4Descr *descr = d->active_descr;
1402     int predefined;
1403     if (!descr)
1404         return AVERROR_INVALIDDATA;
1405
1406     predefined = avio_r8(&d->pb);
1407     if (!predefined) {
1408         int lengths;
1409         int flags = avio_r8(&d->pb);
1410         descr->sl.use_au_start    = !!(flags & 0x80);
1411         descr->sl.use_au_end      = !!(flags & 0x40);
1412         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1413         descr->sl.use_padding     = !!(flags & 0x08);
1414         descr->sl.use_timestamps  = !!(flags & 0x04);
1415         descr->sl.use_idle        = !!(flags & 0x02);
1416         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1417         avio_rb32(&d->pb);
1418         descr->sl.timestamp_len      = avio_r8(&d->pb);
1419         if (descr->sl.timestamp_len > 64) {
1420             avpriv_request_sample(NULL, "timestamp_len > 64");
1421             descr->sl.timestamp_len = 64;
1422             return AVERROR_PATCHWELCOME;
1423         }
1424         descr->sl.ocr_len            = avio_r8(&d->pb);
1425         descr->sl.au_len             = avio_r8(&d->pb);
1426         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1427         lengths                      = avio_rb16(&d->pb);
1428         descr->sl.degr_prior_len     = lengths >> 12;
1429         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1430         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1431     } else if (!d->predefined_SLConfigDescriptor_seen){
1432         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1433         d->predefined_SLConfigDescriptor_seen = 1;
1434     }
1435     return 0;
1436 }
1437
1438 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1439                            int target_tag)
1440 {
1441     int tag;
1442     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1443     int ret = 0;
1444
1445     update_offsets(&d->pb, &off, &len);
1446     if (len < 0 || len1 > len || len1 <= 0) {
1447         av_log(d->s, AV_LOG_ERROR,
1448                "Tag %x length violation new length %d bytes remaining %d\n",
1449                tag, len1, len);
1450         return AVERROR_INVALIDDATA;
1451     }
1452
1453     if (d->level++ >= MAX_LEVEL) {
1454         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1455         ret = AVERROR_INVALIDDATA;
1456         goto done;
1457     }
1458
1459     if (target_tag && tag != target_tag) {
1460         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1461                target_tag);
1462         ret = AVERROR_INVALIDDATA;
1463         goto done;
1464     }
1465
1466     switch (tag) {
1467     case MP4IODescrTag:
1468         ret = parse_MP4IODescrTag(d, off, len1);
1469         break;
1470     case MP4ODescrTag:
1471         ret = parse_MP4ODescrTag(d, off, len1);
1472         break;
1473     case MP4ESDescrTag:
1474         ret = parse_MP4ESDescrTag(d, off, len1);
1475         break;
1476     case MP4DecConfigDescrTag:
1477         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1478         break;
1479     case MP4SLDescrTag:
1480         ret = parse_MP4SLDescrTag(d, off, len1);
1481         break;
1482     }
1483
1484
1485 done:
1486     d->level--;
1487     avio_seek(&d->pb, off + len1, SEEK_SET);
1488     return ret;
1489 }
1490
1491 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1492                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1493 {
1494     MP4DescrParseContext d;
1495     int ret;
1496
1497     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1498     if (ret < 0)
1499         return ret;
1500
1501     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1502
1503     *descr_count = d.descr_count;
1504     return ret;
1505 }
1506
1507 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1508                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1509 {
1510     MP4DescrParseContext d;
1511     int ret;
1512
1513     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1514     if (ret < 0)
1515         return ret;
1516
1517     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1518
1519     *descr_count = d.descr_count;
1520     return ret;
1521 }
1522
1523 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1524                     int section_len)
1525 {
1526     MpegTSContext *ts = filter->u.section_filter.opaque;
1527     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1528     SectionHeader h;
1529     const uint8_t *p, *p_end;
1530     AVIOContext pb;
1531     int mp4_descr_count = 0;
1532     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1533     int i, pid;
1534     AVFormatContext *s = ts->stream;
1535
1536     p_end = section + section_len - 4;
1537     p = section;
1538     if (parse_section_header(&h, &p, p_end) < 0)
1539         return;
1540     if (h.tid != M4OD_TID)
1541         return;
1542     if (skip_identical(&h, tssf))
1543         return;
1544
1545     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1546                 MAX_MP4_DESCR_COUNT);
1547
1548     for (pid = 0; pid < NB_PID_MAX; pid++) {
1549         if (!ts->pids[pid])
1550             continue;
1551         for (i = 0; i < mp4_descr_count; i++) {
1552             PESContext *pes;
1553             AVStream *st;
1554             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1555                 continue;
1556             if (ts->pids[pid]->type != MPEGTS_PES) {
1557                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1558                 continue;
1559             }
1560             pes = ts->pids[pid]->u.pes_filter.opaque;
1561             st  = pes->st;
1562             if (!st)
1563                 continue;
1564
1565             pes->sl = mp4_descr[i].sl;
1566
1567             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1568                               mp4_descr[i].dec_config_descr_len, 0,
1569                               NULL, NULL, NULL, NULL);
1570             ff_mp4_read_dec_config_descr(s, st, &pb);
1571             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1572                 st->codecpar->extradata_size > 0)
1573                 st->need_parsing = 0;
1574             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1575                 st->codecpar->extradata_size > 0)
1576                 st->need_parsing = 0;
1577
1578             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1579             st->internal->need_context_update = 1;
1580         }
1581     }
1582     for (i = 0; i < mp4_descr_count; i++)
1583         av_free(mp4_descr[i].dec_config_descr);
1584 }
1585
1586 static const uint8_t opus_coupled_stream_cnt[9] = {
1587     1, 0, 1, 1, 2, 2, 2, 3, 3
1588 };
1589
1590 static const uint8_t opus_stream_cnt[9] = {
1591     1, 1, 1, 2, 2, 3, 4, 4, 5,
1592 };
1593
1594 static const uint8_t opus_channel_map[8][8] = {
1595     { 0 },
1596     { 0,1 },
1597     { 0,2,1 },
1598     { 0,1,2,3 },
1599     { 0,4,1,2,3 },
1600     { 0,4,1,2,3,5 },
1601     { 0,4,1,2,3,5,6 },
1602     { 0,6,1,2,3,4,5,7 },
1603 };
1604
1605 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1606                               const uint8_t **pp, const uint8_t *desc_list_end,
1607                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1608                               MpegTSContext *ts)
1609 {
1610     const uint8_t *desc_end;
1611     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1612     char language[252];
1613     int i;
1614
1615     desc_tag = get8(pp, desc_list_end);
1616     if (desc_tag < 0)
1617         return AVERROR_INVALIDDATA;
1618     desc_len = get8(pp, desc_list_end);
1619     if (desc_len < 0)
1620         return AVERROR_INVALIDDATA;
1621     desc_end = *pp + desc_len;
1622     if (desc_end > desc_list_end)
1623         return AVERROR_INVALIDDATA;
1624
1625     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1626
1627     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1628         stream_type == STREAM_TYPE_PRIVATE_DATA)
1629         mpegts_find_stream_type(st, desc_tag, DESC_types);
1630
1631     switch (desc_tag) {
1632     case 0x1E: /* SL descriptor */
1633         desc_es_id = get16(pp, desc_end);
1634         if (desc_es_id < 0)
1635             break;
1636         if (ts && ts->pids[pid])
1637             ts->pids[pid]->es_id = desc_es_id;
1638         for (i = 0; i < mp4_descr_count; i++)
1639             if (mp4_descr[i].dec_config_descr_len &&
1640                 mp4_descr[i].es_id == desc_es_id) {
1641                 AVIOContext pb;
1642                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1643                                   mp4_descr[i].dec_config_descr_len, 0,
1644                                   NULL, NULL, NULL, NULL);
1645                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1646                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1647                     st->codecpar->extradata_size > 0) {
1648                     st->need_parsing = 0;
1649                     st->internal->need_context_update = 1;
1650                 }
1651                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1652                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1653             }
1654         break;
1655     case 0x1F: /* FMC descriptor */
1656         if (get16(pp, desc_end) < 0)
1657             break;
1658         if (mp4_descr_count > 0 &&
1659             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1660              (st->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1661              st->request_probe > 0) &&
1662             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1663             AVIOContext pb;
1664             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1665                               mp4_descr->dec_config_descr_len, 0,
1666                               NULL, NULL, NULL, NULL);
1667             ff_mp4_read_dec_config_descr(fc, st, &pb);
1668             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1669                 st->codecpar->extradata_size > 0) {
1670                 st->request_probe = st->need_parsing = 0;
1671                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1672                 st->internal->need_context_update = 1;
1673             }
1674         }
1675         break;
1676     case 0x56: /* DVB teletext descriptor */
1677         {
1678             uint8_t *extradata = NULL;
1679             int language_count = desc_len / 5;
1680
1681             if (desc_len > 0 && desc_len % 5 != 0)
1682                 return AVERROR_INVALIDDATA;
1683
1684             if (language_count > 0) {
1685                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1686                 av_assert0(language_count <= sizeof(language) / 4);
1687
1688                 if (st->codecpar->extradata == NULL) {
1689                     if (ff_alloc_extradata(st->codecpar, language_count * 2)) {
1690                         return AVERROR(ENOMEM);
1691                     }
1692                 }
1693
1694                if (st->codecpar->extradata_size < language_count * 2)
1695                    return AVERROR_INVALIDDATA;
1696
1697                extradata = st->codecpar->extradata;
1698
1699                 for (i = 0; i < language_count; i++) {
1700                     language[i * 4 + 0] = get8(pp, desc_end);
1701                     language[i * 4 + 1] = get8(pp, desc_end);
1702                     language[i * 4 + 2] = get8(pp, desc_end);
1703                     language[i * 4 + 3] = ',';
1704
1705                     memcpy(extradata, *pp, 2);
1706                     extradata += 2;
1707
1708                     *pp += 2;
1709                 }
1710
1711                 language[i * 4 - 1] = 0;
1712                 av_dict_set(&st->metadata, "language", language, 0);
1713                 st->internal->need_context_update = 1;
1714             }
1715         }
1716         break;
1717     case 0x59: /* subtitling descriptor */
1718         {
1719             /* 8 bytes per DVB subtitle substream data:
1720              * ISO_639_language_code (3 bytes),
1721              * subtitling_type (1 byte),
1722              * composition_page_id (2 bytes),
1723              * ancillary_page_id (2 bytes) */
1724             int language_count = desc_len / 8;
1725
1726             if (desc_len > 0 && desc_len % 8 != 0)
1727                 return AVERROR_INVALIDDATA;
1728
1729             if (language_count > 1) {
1730                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1731             }
1732
1733             if (language_count > 0) {
1734                 uint8_t *extradata;
1735
1736                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1737                 av_assert0(language_count <= sizeof(language) / 4);
1738
1739                 if (st->codecpar->extradata == NULL) {
1740                     if (ff_alloc_extradata(st->codecpar, language_count * 5)) {
1741                         return AVERROR(ENOMEM);
1742                     }
1743                 }
1744
1745                 if (st->codecpar->extradata_size < language_count * 5)
1746                     return AVERROR_INVALIDDATA;
1747
1748                 extradata = st->codecpar->extradata;
1749
1750                 for (i = 0; i < language_count; i++) {
1751                     language[i * 4 + 0] = get8(pp, desc_end);
1752                     language[i * 4 + 1] = get8(pp, desc_end);
1753                     language[i * 4 + 2] = get8(pp, desc_end);
1754                     language[i * 4 + 3] = ',';
1755
1756                     /* hearing impaired subtitles detection using subtitling_type */
1757                     switch (*pp[0]) {
1758                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1759                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1760                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1761                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1762                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1763                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1764                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1765                         break;
1766                     }
1767
1768                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1769                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1770                     extradata += 5;
1771
1772                     *pp += 4;
1773                 }
1774
1775                 language[i * 4 - 1] = 0;
1776                 av_dict_set(&st->metadata, "language", language, 0);
1777                 st->internal->need_context_update = 1;
1778             }
1779         }
1780         break;
1781     case 0x0a: /* ISO 639 language descriptor */
1782         for (i = 0; i + 4 <= desc_len; i += 4) {
1783             language[i + 0] = get8(pp, desc_end);
1784             language[i + 1] = get8(pp, desc_end);
1785             language[i + 2] = get8(pp, desc_end);
1786             language[i + 3] = ',';
1787             switch (get8(pp, desc_end)) {
1788             case 0x01:
1789                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1790                 break;
1791             case 0x02:
1792                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1793                 break;
1794             case 0x03:
1795                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1796                 break;
1797             }
1798         }
1799         if (i && language[0]) {
1800             language[i - 1] = 0;
1801             av_dict_set(&st->metadata, "language", language, 0);
1802         }
1803         break;
1804     case 0x05: /* registration descriptor */
1805         st->codecpar->codec_tag = bytestream_get_le32(pp);
1806         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1807         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0)
1808             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1809         break;
1810     case 0x52: /* stream identifier descriptor */
1811         st->stream_identifier = 1 + get8(pp, desc_end);
1812         break;
1813     case 0x26: /* metadata descriptor */
1814         if (get16(pp, desc_end) == 0xFFFF)
1815             *pp += 4;
1816         if (get8(pp, desc_end) == 0xFF) {
1817             st->codecpar->codec_tag = bytestream_get_le32(pp);
1818             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
1819                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
1820         }
1821         break;
1822     case 0x7f: /* DVB extension descriptor */
1823         ext_desc_tag = get8(pp, desc_end);
1824         if (ext_desc_tag < 0)
1825             return AVERROR_INVALIDDATA;
1826         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
1827             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1828             if (!st->codecpar->extradata) {
1829                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
1830                                                      AV_INPUT_BUFFER_PADDING_SIZE);
1831                 if (!st->codecpar->extradata)
1832                     return AVERROR(ENOMEM);
1833
1834                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
1835                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1836
1837                 channel_config_code = get8(pp, desc_end);
1838                 if (channel_config_code < 0)
1839                     return AVERROR_INVALIDDATA;
1840                 if (channel_config_code <= 0x8) {
1841                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1842                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
1843                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
1844                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1845                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
1846                 } else {
1847                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1848                 }
1849                 st->need_parsing = AVSTREAM_PARSE_FULL;
1850                 st->internal->need_context_update = 1;
1851             }
1852         }
1853         break;
1854     default:
1855         break;
1856     }
1857     *pp = desc_end;
1858     return 0;
1859 }
1860
1861 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1862 {
1863     MpegTSContext *ts = filter->u.section_filter.opaque;
1864     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1865     SectionHeader h1, *h = &h1;
1866     PESContext *pes;
1867     AVStream *st;
1868     const uint8_t *p, *p_end, *desc_list_end;
1869     int program_info_length, pcr_pid, pid, stream_type;
1870     int desc_list_len;
1871     uint32_t prog_reg_desc = 0; /* registration descriptor */
1872
1873     int mp4_descr_count = 0;
1874     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1875     int i;
1876
1877     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
1878     hex_dump_debug(ts->stream, section, section_len);
1879
1880     p_end = section + section_len - 4;
1881     p = section;
1882     if (parse_section_header(h, &p, p_end) < 0)
1883         return;
1884     if (skip_identical(h, tssf))
1885         return;
1886
1887     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d\n",
1888             h->id, h->sec_num, h->last_sec_num, h->version);
1889
1890     if (h->tid != PMT_TID)
1891         return;
1892     if (!ts->scan_all_pmts && ts->skip_changes)
1893         return;
1894
1895     if (!ts->skip_clear)
1896         clear_program(ts, h->id);
1897
1898     pcr_pid = get16(&p, p_end);
1899     if (pcr_pid < 0)
1900         return;
1901     pcr_pid &= 0x1fff;
1902     add_pid_to_pmt(ts, h->id, pcr_pid);
1903     set_pcr_pid(ts->stream, h->id, pcr_pid);
1904
1905     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
1906
1907     program_info_length = get16(&p, p_end);
1908     if (program_info_length < 0)
1909         return;
1910     program_info_length &= 0xfff;
1911     while (program_info_length >= 2) {
1912         uint8_t tag, len;
1913         tag = get8(&p, p_end);
1914         len = get8(&p, p_end);
1915
1916         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
1917
1918         if (len > program_info_length - 2)
1919             // something else is broken, exit the program_descriptors_loop
1920             break;
1921         program_info_length -= len + 2;
1922         if (tag == 0x1d) { // IOD descriptor
1923             get8(&p, p_end); // scope
1924             get8(&p, p_end); // label
1925             len -= 2;
1926             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1927                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1928         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1929             prog_reg_desc = bytestream_get_le32(&p);
1930             len -= 4;
1931         }
1932         p += len;
1933     }
1934     p += program_info_length;
1935     if (p >= p_end)
1936         goto out;
1937
1938     // stop parsing after pmt, we found header
1939     if (!ts->stream->nb_streams)
1940         ts->stop_parse = 2;
1941
1942     set_pmt_found(ts, h->id);
1943
1944
1945     for (;;) {
1946         st = 0;
1947         pes = NULL;
1948         stream_type = get8(&p, p_end);
1949         if (stream_type < 0)
1950             break;
1951         pid = get16(&p, p_end);
1952         if (pid < 0)
1953             goto out;
1954         pid &= 0x1fff;
1955         if (pid == ts->current_pid)
1956             goto out;
1957
1958         /* now create stream */
1959         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1960             pes = ts->pids[pid]->u.pes_filter.opaque;
1961             if (!pes->st) {
1962                 pes->st     = avformat_new_stream(pes->stream, NULL);
1963                 if (!pes->st)
1964                     goto out;
1965                 pes->st->id = pes->pid;
1966             }
1967             st = pes->st;
1968         } else if (stream_type != 0x13) {
1969             if (ts->pids[pid])
1970                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1971             pes = add_pes_stream(ts, pid, pcr_pid);
1972             if (pes) {
1973                 st = avformat_new_stream(pes->stream, NULL);
1974                 if (!st)
1975                     goto out;
1976                 st->id = pes->pid;
1977             }
1978         } else {
1979             int idx = ff_find_stream_index(ts->stream, pid);
1980             if (idx >= 0) {
1981                 st = ts->stream->streams[idx];
1982             } else {
1983                 st = avformat_new_stream(ts->stream, NULL);
1984                 if (!st)
1985                     goto out;
1986                 st->id = pid;
1987                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
1988             }
1989         }
1990
1991         if (!st)
1992             goto out;
1993
1994         if (pes && !pes->stream_type)
1995             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1996
1997         add_pid_to_pmt(ts, h->id, pid);
1998
1999         av_program_add_stream_index(ts->stream, h->id, st->index);
2000
2001         desc_list_len = get16(&p, p_end);
2002         if (desc_list_len < 0)
2003             goto out;
2004         desc_list_len &= 0xfff;
2005         desc_list_end  = p + desc_list_len;
2006         if (desc_list_end > p_end)
2007             goto out;
2008         for (;;) {
2009             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2010                                           desc_list_end, mp4_descr,
2011                                           mp4_descr_count, pid, ts) < 0)
2012                 break;
2013
2014             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2015                 stream_type == 0x83 && pes->sub_st) {
2016                 av_program_add_stream_index(ts->stream, h->id,
2017                                             pes->sub_st->index);
2018                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2019             }
2020         }
2021         p = desc_list_end;
2022     }
2023
2024     if (!ts->pids[pcr_pid])
2025         mpegts_open_pcr_filter(ts, pcr_pid);
2026
2027 out:
2028     for (i = 0; i < mp4_descr_count; i++)
2029         av_free(mp4_descr[i].dec_config_descr);
2030 }
2031
2032 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2033 {
2034     MpegTSContext *ts = filter->u.section_filter.opaque;
2035     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2036     SectionHeader h1, *h = &h1;
2037     const uint8_t *p, *p_end;
2038     int sid, pmt_pid;
2039     AVProgram *program;
2040
2041     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2042     hex_dump_debug(ts->stream, section, section_len);
2043
2044     p_end = section + section_len - 4;
2045     p     = section;
2046     if (parse_section_header(h, &p, p_end) < 0)
2047         return;
2048     if (h->tid != PAT_TID)
2049         return;
2050     if (ts->skip_changes)
2051         return;
2052
2053     if (skip_identical(h, tssf))
2054         return;
2055     ts->stream->ts_id = h->id;
2056
2057     clear_programs(ts);
2058     for (;;) {
2059         sid = get16(&p, p_end);
2060         if (sid < 0)
2061             break;
2062         pmt_pid = get16(&p, p_end);
2063         if (pmt_pid < 0)
2064             break;
2065         pmt_pid &= 0x1fff;
2066
2067         if (pmt_pid == ts->current_pid)
2068             break;
2069
2070         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2071
2072         if (sid == 0x0000) {
2073             /* NIT info */
2074         } else {
2075             MpegTSFilter *fil = ts->pids[pmt_pid];
2076             program = av_new_program(ts->stream, sid);
2077             if (program) {
2078                 program->program_num = sid;
2079                 program->pmt_pid = pmt_pid;
2080             }
2081             if (fil)
2082                 if (   fil->type != MPEGTS_SECTION
2083                     || fil->pid != pmt_pid
2084                     || fil->u.section_filter.section_cb != pmt_cb)
2085                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2086
2087             if (!ts->pids[pmt_pid])
2088                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2089             add_pat_entry(ts, sid);
2090             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2091             add_pid_to_pmt(ts, sid, pmt_pid);
2092         }
2093     }
2094
2095     if (sid < 0) {
2096         int i,j;
2097         for (j=0; j<ts->stream->nb_programs; j++) {
2098             for (i = 0; i < ts->nb_prg; i++)
2099                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2100                     break;
2101             if (i==ts->nb_prg && !ts->skip_clear)
2102                 clear_avprogram(ts, ts->stream->programs[j]->id);
2103         }
2104     }
2105 }
2106
2107 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2108 {
2109     MpegTSContext *ts = filter->u.section_filter.opaque;
2110     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2111     SectionHeader h1, *h = &h1;
2112     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2113     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2114     char *name, *provider_name;
2115
2116     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2117     hex_dump_debug(ts->stream, section, section_len);
2118
2119     p_end = section + section_len - 4;
2120     p     = section;
2121     if (parse_section_header(h, &p, p_end) < 0)
2122         return;
2123     if (h->tid != SDT_TID)
2124         return;
2125     if (ts->skip_changes)
2126         return;
2127     if (skip_identical(h, tssf))
2128         return;
2129
2130     onid = get16(&p, p_end);
2131     if (onid < 0)
2132         return;
2133     val = get8(&p, p_end);
2134     if (val < 0)
2135         return;
2136     for (;;) {
2137         sid = get16(&p, p_end);
2138         if (sid < 0)
2139             break;
2140         val = get8(&p, p_end);
2141         if (val < 0)
2142             break;
2143         desc_list_len = get16(&p, p_end);
2144         if (desc_list_len < 0)
2145             break;
2146         desc_list_len &= 0xfff;
2147         desc_list_end  = p + desc_list_len;
2148         if (desc_list_end > p_end)
2149             break;
2150         for (;;) {
2151             desc_tag = get8(&p, desc_list_end);
2152             if (desc_tag < 0)
2153                 break;
2154             desc_len = get8(&p, desc_list_end);
2155             desc_end = p + desc_len;
2156             if (desc_len < 0 || desc_end > desc_list_end)
2157                 break;
2158
2159             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2160                     desc_tag, desc_len);
2161
2162             switch (desc_tag) {
2163             case 0x48:
2164                 service_type = get8(&p, p_end);
2165                 if (service_type < 0)
2166                     break;
2167                 provider_name = getstr8(&p, p_end);
2168                 if (!provider_name)
2169                     break;
2170                 name = getstr8(&p, p_end);
2171                 if (name) {
2172                     AVProgram *program = av_new_program(ts->stream, sid);
2173                     if (program) {
2174                         av_dict_set(&program->metadata, "service_name", name, 0);
2175                         av_dict_set(&program->metadata, "service_provider",
2176                                     provider_name, 0);
2177                     }
2178                 }
2179                 av_free(name);
2180                 av_free(provider_name);
2181                 break;
2182             default:
2183                 break;
2184             }
2185             p = desc_end;
2186         }
2187         p = desc_list_end;
2188     }
2189 }
2190
2191 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2192                      const uint8_t *packet);
2193
2194 /* handle one TS packet */
2195 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2196 {
2197     MpegTSFilter *tss;
2198     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2199         has_adaptation, has_payload;
2200     const uint8_t *p, *p_end;
2201     int64_t pos;
2202
2203     pid = AV_RB16(packet + 1) & 0x1fff;
2204     if (pid && discard_pid(ts, pid))
2205         return 0;
2206     is_start = packet[1] & 0x40;
2207     tss = ts->pids[pid];
2208     if (ts->auto_guess && !tss && is_start) {
2209         add_pes_stream(ts, pid, -1);
2210         tss = ts->pids[pid];
2211     }
2212     if (!tss)
2213         return 0;
2214     ts->current_pid = pid;
2215
2216     afc = (packet[3] >> 4) & 3;
2217     if (afc == 0) /* reserved value */
2218         return 0;
2219     has_adaptation   = afc & 2;
2220     has_payload      = afc & 1;
2221     is_discontinuity = has_adaptation &&
2222                        packet[4] != 0 && /* with length > 0 */
2223                        (packet[5] & 0x80); /* and discontinuity indicated */
2224
2225     /* continuity check (currently not used) */
2226     cc = (packet[3] & 0xf);
2227     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2228     cc_ok = pid == 0x1FFF || // null packet PID
2229             is_discontinuity ||
2230             tss->last_cc < 0 ||
2231             expected_cc == cc;
2232
2233     tss->last_cc = cc;
2234     if (!cc_ok) {
2235         av_log(ts->stream, AV_LOG_DEBUG,
2236                "Continuity check failed for pid %d expected %d got %d\n",
2237                pid, expected_cc, cc);
2238         if (tss->type == MPEGTS_PES) {
2239             PESContext *pc = tss->u.pes_filter.opaque;
2240             pc->flags |= AV_PKT_FLAG_CORRUPT;
2241         }
2242     }
2243
2244     p = packet + 4;
2245     if (has_adaptation) {
2246         int64_t pcr_h;
2247         int pcr_l;
2248         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2249             tss->last_pcr = pcr_h * 300 + pcr_l;
2250         /* skip adaptation field */
2251         p += p[0] + 1;
2252     }
2253     /* if past the end of packet, ignore */
2254     p_end = packet + TS_PACKET_SIZE;
2255     if (p >= p_end || !has_payload)
2256         return 0;
2257
2258     pos = avio_tell(ts->stream->pb);
2259     if (pos >= 0) {
2260         av_assert0(pos >= TS_PACKET_SIZE);
2261         ts->pos47_full = pos - TS_PACKET_SIZE;
2262     }
2263
2264     if (tss->type == MPEGTS_SECTION) {
2265         if (is_start) {
2266             /* pointer field present */
2267             len = *p++;
2268             if (len > p_end - p)
2269                 return 0;
2270             if (len && cc_ok) {
2271                 /* write remaining section bytes */
2272                 write_section_data(ts, tss,
2273                                    p, len, 0);
2274                 /* check whether filter has been closed */
2275                 if (!ts->pids[pid])
2276                     return 0;
2277             }
2278             p += len;
2279             if (p < p_end) {
2280                 write_section_data(ts, tss,
2281                                    p, p_end - p, 1);
2282             }
2283         } else {
2284             if (cc_ok) {
2285                 write_section_data(ts, tss,
2286                                    p, p_end - p, 0);
2287             }
2288         }
2289
2290         // stop find_stream_info from waiting for more streams
2291         // when all programs have received a PMT
2292         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2293             int i;
2294             for (i = 0; i < ts->nb_prg; i++) {
2295                 if (!ts->prg[i].pmt_found)
2296                     break;
2297             }
2298             if (i == ts->nb_prg && ts->nb_prg > 0) {
2299                 int types = 0;
2300                 for (i = 0; i < ts->stream->nb_streams; i++) {
2301                     AVStream *st = ts->stream->streams[i];
2302                     types |= 1<<st->codecpar->codec_type;
2303                 }
2304                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2305                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2306                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2307                 }
2308             }
2309         }
2310
2311     } else {
2312         int ret;
2313         // Note: The position here points actually behind the current packet.
2314         if (tss->type == MPEGTS_PES) {
2315             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2316                                                 pos - ts->raw_packet_size)) < 0)
2317                 return ret;
2318         }
2319     }
2320
2321     return 0;
2322 }
2323
2324 static void reanalyze(MpegTSContext *ts) {
2325     AVIOContext *pb = ts->stream->pb;
2326     int64_t pos = avio_tell(pb);
2327     if (pos < 0)
2328         return;
2329     pos -= ts->pos47_full;
2330     if (pos == TS_PACKET_SIZE) {
2331         ts->size_stat[0] ++;
2332     } else if (pos == TS_DVHS_PACKET_SIZE) {
2333         ts->size_stat[1] ++;
2334     } else if (pos == TS_FEC_PACKET_SIZE) {
2335         ts->size_stat[2] ++;
2336     }
2337
2338     ts->size_stat_count ++;
2339     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2340         int newsize = 0;
2341         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2342             newsize = TS_PACKET_SIZE;
2343         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2344             newsize = TS_DVHS_PACKET_SIZE;
2345         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2346             newsize = TS_FEC_PACKET_SIZE;
2347         }
2348         if (newsize && newsize != ts->raw_packet_size) {
2349             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2350             ts->raw_packet_size = newsize;
2351         }
2352         ts->size_stat_count = 0;
2353         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2354     }
2355 }
2356
2357 /* XXX: try to find a better synchro over several packets (use
2358  * get_packet_size() ?) */
2359 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2360 {
2361     MpegTSContext *ts = s->priv_data;
2362     AVIOContext *pb = s->pb;
2363     int c, i;
2364     uint64_t pos = avio_tell(pb);
2365
2366     avio_seek(pb, -FFMIN(seekback, pos), SEEK_CUR);
2367
2368     //Special case for files like 01c56b0dc1.ts
2369     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2370         avio_seek(pb, 12, SEEK_CUR);
2371         return 0;
2372     }
2373
2374     for (i = 0; i < ts->resync_size; i++) {
2375         c = avio_r8(pb);
2376         if (avio_feof(pb))
2377             return AVERROR_EOF;
2378         if (c == 0x47) {
2379             avio_seek(pb, -1, SEEK_CUR);
2380             reanalyze(s->priv_data);
2381             return 0;
2382         }
2383     }
2384     av_log(s, AV_LOG_ERROR,
2385            "max resync size reached, could not find sync byte\n");
2386     /* no sync found */
2387     return AVERROR_INVALIDDATA;
2388 }
2389
2390 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2391 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2392                        const uint8_t **data)
2393 {
2394     AVIOContext *pb = s->pb;
2395     int len;
2396
2397     for (;;) {
2398         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2399         if (len != TS_PACKET_SIZE)
2400             return len < 0 ? len : AVERROR_EOF;
2401         /* check packet sync byte */
2402         if ((*data)[0] != 0x47) {
2403             /* find a new packet start */
2404
2405             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2406                 return AVERROR(EAGAIN);
2407             else
2408                 continue;
2409         } else {
2410             break;
2411         }
2412     }
2413     return 0;
2414 }
2415
2416 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2417 {
2418     AVIOContext *pb = s->pb;
2419     int skip = raw_packet_size - TS_PACKET_SIZE;
2420     if (skip > 0)
2421         avio_skip(pb, skip);
2422 }
2423
2424 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2425 {
2426     AVFormatContext *s = ts->stream;
2427     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2428     const uint8_t *data;
2429     int64_t packet_num;
2430     int ret = 0;
2431
2432     if (avio_tell(s->pb) != ts->last_pos) {
2433         int i;
2434         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2435         /* seek detected, flush pes buffer */
2436         for (i = 0; i < NB_PID_MAX; i++) {
2437             if (ts->pids[i]) {
2438                 if (ts->pids[i]->type == MPEGTS_PES) {
2439                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2440                     av_buffer_unref(&pes->buffer);
2441                     pes->data_index = 0;
2442                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2443                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2444                     ts->pids[i]->u.section_filter.last_ver = -1;
2445                 }
2446                 ts->pids[i]->last_cc = -1;
2447                 ts->pids[i]->last_pcr = -1;
2448             }
2449         }
2450     }
2451
2452     ts->stop_parse = 0;
2453     packet_num = 0;
2454     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2455     for (;;) {
2456         packet_num++;
2457         if (nb_packets != 0 && packet_num >= nb_packets ||
2458             ts->stop_parse > 1) {
2459             ret = AVERROR(EAGAIN);
2460             break;
2461         }
2462         if (ts->stop_parse > 0)
2463             break;
2464
2465         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2466         if (ret != 0)
2467             break;
2468         ret = handle_packet(ts, data);
2469         finished_reading_packet(s, ts->raw_packet_size);
2470         if (ret != 0)
2471             break;
2472     }
2473     ts->last_pos = avio_tell(s->pb);
2474     return ret;
2475 }
2476
2477 static int mpegts_probe(AVProbeData *p)
2478 {
2479     const int size = p->buf_size;
2480     int maxscore = 0;
2481     int sumscore = 0;
2482     int i;
2483     int check_count = size / TS_FEC_PACKET_SIZE;
2484 #define CHECK_COUNT 10
2485 #define CHECK_BLOCK 100
2486
2487     if (!check_count)
2488         return 0;
2489
2490     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2491         int left = FFMIN(check_count - i, CHECK_BLOCK);
2492         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2493         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2494         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2495         score = FFMAX3(score, dvhs_score, fec_score);
2496         sumscore += score;
2497         maxscore = FFMAX(maxscore, score);
2498     }
2499
2500     sumscore = sumscore * CHECK_COUNT / check_count;
2501     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2502
2503     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2504
2505     if        (check_count >= CHECK_COUNT && sumscore > 6) {
2506         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2507     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
2508         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2509     } else if (sumscore > 6) {
2510         return 2;
2511     } else {
2512         return 0;
2513     }
2514 }
2515
2516 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2517  * (-1) if not available */
2518 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2519 {
2520     int afc, len, flags;
2521     const uint8_t *p;
2522     unsigned int v;
2523
2524     afc = (packet[3] >> 4) & 3;
2525     if (afc <= 1)
2526         return AVERROR_INVALIDDATA;
2527     p   = packet + 4;
2528     len = p[0];
2529     p++;
2530     if (len == 0)
2531         return AVERROR_INVALIDDATA;
2532     flags = *p++;
2533     len--;
2534     if (!(flags & 0x10))
2535         return AVERROR_INVALIDDATA;
2536     if (len < 6)
2537         return AVERROR_INVALIDDATA;
2538     v          = AV_RB32(p);
2539     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2540     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2541     return 0;
2542 }
2543
2544 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2545
2546     /* NOTE: We attempt to seek on non-seekable files as well, as the
2547      * probe buffer usually is big enough. Only warn if the seek failed
2548      * on files where the seek should work. */
2549     if (avio_seek(pb, pos, SEEK_SET) < 0)
2550         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2551 }
2552
2553 static int mpegts_read_header(AVFormatContext *s)
2554 {
2555     MpegTSContext *ts = s->priv_data;
2556     AVIOContext *pb   = s->pb;
2557     uint8_t buf[8 * 1024] = {0};
2558     int len;
2559     int64_t pos, probesize = s->probesize;
2560
2561     if (ffio_ensure_seekback(pb, probesize) < 0)
2562         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2563
2564     /* read the first 8192 bytes to get packet size */
2565     pos = avio_tell(pb);
2566     len = avio_read(pb, buf, sizeof(buf));
2567     ts->raw_packet_size = get_packet_size(buf, len);
2568     if (ts->raw_packet_size <= 0) {
2569         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2570         ts->raw_packet_size = TS_PACKET_SIZE;
2571     }
2572     ts->stream     = s;
2573     ts->auto_guess = 0;
2574
2575     if (s->iformat == &ff_mpegts_demuxer) {
2576         /* normal demux */
2577
2578         /* first do a scan to get all the services */
2579         seek_back(s, pb, pos);
2580
2581         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2582
2583         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2584
2585         handle_packets(ts, probesize / ts->raw_packet_size);
2586         /* if could not find service, enable auto_guess */
2587
2588         ts->auto_guess = 1;
2589
2590         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
2591
2592         s->ctx_flags |= AVFMTCTX_NOHEADER;
2593     } else {
2594         AVStream *st;
2595         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2596         int64_t pcrs[2], pcr_h;
2597         int packet_count[2];
2598         uint8_t packet[TS_PACKET_SIZE];
2599         const uint8_t *data;
2600
2601         /* only read packets */
2602
2603         st = avformat_new_stream(s, NULL);
2604         if (!st)
2605             return AVERROR(ENOMEM);
2606         avpriv_set_pts_info(st, 60, 1, 27000000);
2607         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2608         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
2609
2610         /* we iterate until we find two PCRs to estimate the bitrate */
2611         pcr_pid    = -1;
2612         nb_pcrs    = 0;
2613         nb_packets = 0;
2614         for (;;) {
2615             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2616             if (ret < 0)
2617                 return ret;
2618             pid = AV_RB16(data + 1) & 0x1fff;
2619             if ((pcr_pid == -1 || pcr_pid == pid) &&
2620                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2621                 finished_reading_packet(s, ts->raw_packet_size);
2622                 pcr_pid = pid;
2623                 packet_count[nb_pcrs] = nb_packets;
2624                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2625                 nb_pcrs++;
2626                 if (nb_pcrs >= 2)
2627                     break;
2628             } else {
2629                 finished_reading_packet(s, ts->raw_packet_size);
2630             }
2631             nb_packets++;
2632         }
2633
2634         /* NOTE1: the bitrate is computed without the FEC */
2635         /* NOTE2: it is only the bitrate of the start of the stream */
2636         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2637         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2638         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
2639         st->codecpar->bit_rate = s->bit_rate;
2640         st->start_time      = ts->cur_pcr;
2641         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%d\n",
2642                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2643     }
2644
2645     seek_back(s, pb, pos);
2646     return 0;
2647 }
2648
2649 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2650
2651 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2652 {
2653     MpegTSContext *ts = s->priv_data;
2654     int ret, i;
2655     int64_t pcr_h, next_pcr_h, pos;
2656     int pcr_l, next_pcr_l;
2657     uint8_t pcr_buf[12];
2658     const uint8_t *data;
2659
2660     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2661         return AVERROR(ENOMEM);
2662     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2663     pkt->pos = avio_tell(s->pb);
2664     if (ret < 0) {
2665         av_packet_unref(pkt);
2666         return ret;
2667     }
2668     if (data != pkt->data)
2669         memcpy(pkt->data, data, ts->raw_packet_size);
2670     finished_reading_packet(s, ts->raw_packet_size);
2671     if (ts->mpeg2ts_compute_pcr) {
2672         /* compute exact PCR for each packet */
2673         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2674             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2675             pos = avio_tell(s->pb);
2676             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2677                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2678                 avio_read(s->pb, pcr_buf, 12);
2679                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2680                     /* XXX: not precise enough */
2681                     ts->pcr_incr =
2682                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2683                         (i + 1);
2684                     break;
2685                 }
2686             }
2687             avio_seek(s->pb, pos, SEEK_SET);
2688             /* no next PCR found: we use previous increment */
2689             ts->cur_pcr = pcr_h * 300 + pcr_l;
2690         }
2691         pkt->pts      = ts->cur_pcr;
2692         pkt->duration = ts->pcr_incr;
2693         ts->cur_pcr  += ts->pcr_incr;
2694     }
2695     pkt->stream_index = 0;
2696     return 0;
2697 }
2698
2699 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2700 {
2701     MpegTSContext *ts = s->priv_data;
2702     int ret, i;
2703
2704     pkt->size = -1;
2705     ts->pkt = pkt;
2706     ret = handle_packets(ts, 0);
2707     if (ret < 0) {
2708         av_packet_unref(ts->pkt);
2709         /* flush pes data left */
2710         for (i = 0; i < NB_PID_MAX; i++)
2711             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2712                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2713                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2714                     ret = new_pes_packet(pes, pkt);
2715                     if (ret < 0)
2716                         return ret;
2717                     pes->state = MPEGTS_SKIP;
2718                     ret = 0;
2719                     break;
2720                 }
2721             }
2722     }
2723
2724     if (!ret && pkt->size < 0)
2725         ret = AVERROR_INVALIDDATA;
2726     return ret;
2727 }
2728
2729 static void mpegts_free(MpegTSContext *ts)
2730 {
2731     int i;
2732
2733     clear_programs(ts);
2734
2735     for (i = 0; i < NB_PID_MAX; i++)
2736         if (ts->pids[i])
2737             mpegts_close_filter(ts, ts->pids[i]);
2738 }
2739
2740 static int mpegts_read_close(AVFormatContext *s)
2741 {
2742     MpegTSContext *ts = s->priv_data;
2743     mpegts_free(ts);
2744     return 0;
2745 }
2746
2747 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2748                               int64_t *ppos, int64_t pos_limit)
2749 {
2750     MpegTSContext *ts = s->priv_data;
2751     int64_t pos, timestamp;
2752     uint8_t buf[TS_PACKET_SIZE];
2753     int pcr_l, pcr_pid =
2754         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2755     int pos47 = ts->pos47_full % ts->raw_packet_size;
2756     pos =
2757         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2758         ts->raw_packet_size + pos47;
2759     while(pos < pos_limit) {
2760         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2761             return AV_NOPTS_VALUE;
2762         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2763             return AV_NOPTS_VALUE;
2764         if (buf[0] != 0x47) {
2765             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
2766                 return AV_NOPTS_VALUE;
2767             pos = avio_tell(s->pb);
2768             continue;
2769         }
2770         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2771             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2772             *ppos = pos;
2773             return timestamp;
2774         }
2775         pos += ts->raw_packet_size;
2776     }
2777
2778     return AV_NOPTS_VALUE;
2779 }
2780
2781 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2782                               int64_t *ppos, int64_t pos_limit)
2783 {
2784     MpegTSContext *ts = s->priv_data;
2785     int64_t pos;
2786     int pos47 = ts->pos47_full % ts->raw_packet_size;
2787     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2788     ff_read_frame_flush(s);
2789     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2790         return AV_NOPTS_VALUE;
2791     while(pos < pos_limit) {
2792         int ret;
2793         AVPacket pkt;
2794         av_init_packet(&pkt);
2795         ret = av_read_frame(s, &pkt);
2796         if (ret < 0)
2797             return AV_NOPTS_VALUE;
2798         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2799             ff_reduce_index(s, pkt.stream_index);
2800             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2801             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2802                 int64_t dts = pkt.dts;
2803                 *ppos = pkt.pos;
2804                 av_packet_unref(&pkt);
2805                 return dts;
2806             }
2807         }
2808         pos = pkt.pos;
2809         av_packet_unref(&pkt);
2810     }
2811
2812     return AV_NOPTS_VALUE;
2813 }
2814
2815 /**************************************************************/
2816 /* parsing functions - called from other demuxers such as RTP */
2817
2818 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2819 {
2820     MpegTSContext *ts;
2821
2822     ts = av_mallocz(sizeof(MpegTSContext));
2823     if (!ts)
2824         return NULL;
2825     /* no stream case, currently used by RTP */
2826     ts->raw_packet_size = TS_PACKET_SIZE;
2827     ts->stream = s;
2828     ts->auto_guess = 1;
2829     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2830     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2831
2832     return ts;
2833 }
2834
2835 /* return the consumed length if a packet was output, or -1 if no
2836  * packet is output */
2837 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2838                                const uint8_t *buf, int len)
2839 {
2840     int len1;
2841
2842     len1 = len;
2843     ts->pkt = pkt;
2844     for (;;) {
2845         ts->stop_parse = 0;
2846         if (len < TS_PACKET_SIZE)
2847             return AVERROR_INVALIDDATA;
2848         if (buf[0] != 0x47) {
2849             buf++;
2850             len--;
2851         } else {
2852             handle_packet(ts, buf);
2853             buf += TS_PACKET_SIZE;
2854             len -= TS_PACKET_SIZE;
2855             if (ts->stop_parse == 1)
2856                 break;
2857         }
2858     }
2859     return len1 - len;
2860 }
2861
2862 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2863 {
2864     mpegts_free(ts);
2865     av_free(ts);
2866 }
2867
2868 AVInputFormat ff_mpegts_demuxer = {
2869     .name           = "mpegts",
2870     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2871     .priv_data_size = sizeof(MpegTSContext),
2872     .read_probe     = mpegts_probe,
2873     .read_header    = mpegts_read_header,
2874     .read_packet    = mpegts_read_packet,
2875     .read_close     = mpegts_read_close,
2876     .read_timestamp = mpegts_get_dts,
2877     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2878     .priv_class     = &mpegts_class,
2879 };
2880
2881 AVInputFormat ff_mpegtsraw_demuxer = {
2882     .name           = "mpegtsraw",
2883     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2884     .priv_data_size = sizeof(MpegTSContext),
2885     .read_header    = mpegts_read_header,
2886     .read_packet    = mpegts_raw_read_packet,
2887     .read_close     = mpegts_read_close,
2888     .read_timestamp = mpegts_get_dts,
2889     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2890     .priv_class     = &mpegtsraw_class,
2891 };