git.sesse.net Git - ffmpeg/blob - libavformat/mpegts.c

   1 /*
   2  * MPEG-2 transport stream (aka DVB) demuxer
   3  * Copyright (c) 2002-2003 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/buffer.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/internal.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/dict.h"
  28 #include "libavutil/mathematics.h"
  29 #include "libavutil/opt.h"
  30 #include "libavutil/avassert.h"
  31 #include "libavutil/dovi_meta.h"
  32 #include "libavcodec/bytestream.h"
  33 #include "libavcodec/get_bits.h"
  34 #include "libavcodec/opus.h"
  35 #include "avformat.h"
  36 #include "mpegts.h"
  37 #include "internal.h"
  38 #include "avio_internal.h"
  39 #include "mpeg.h"
  40 #include "isom.h"
  41 #if CONFIG_ICONV
  42 #include <iconv.h>
  43 #endif
  44
  45 /* maximum size in which we look for synchronization if
  46  * synchronization is lost */
  47 #define MAX_RESYNC_SIZE 65536
  48
  49 #define MAX_PES_PAYLOAD 200 * 1024
  50
  51 #define MAX_MP4_DESCR_COUNT 16
  52
  53 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
  54     do {                                                                       \
  55         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
  56             (modulus) = (dividend) % (divisor);                                \
  57         (prev_dividend) = (dividend);                                          \
  58     } while (0)
  59
  60 #define PROBE_PACKET_MAX_BUF 8192
  61 #define PROBE_PACKET_MARGIN 5
  62
  63 enum MpegTSFilterType {
  64     MPEGTS_PES,
  65     MPEGTS_SECTION,
  66     MPEGTS_PCR,
  67 };
  68
  69 typedef struct MpegTSFilter MpegTSFilter;
  70
  71 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
  72                          int is_start, int64_t pos);
  73
  74 typedef struct MpegTSPESFilter {
  75     PESCallback *pes_cb;
  76     void *opaque;
  77 } MpegTSPESFilter;
  78
  79 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
  80
  81 typedef void SetServiceCallback (void *opaque, int ret);
  82
  83 typedef struct MpegTSSectionFilter {
  84     int section_index;
  85     int section_h_size;
  86     int last_ver;
  87     unsigned crc;
  88     unsigned last_crc;
  89     uint8_t *section_buf;
  90     unsigned int check_crc : 1;
  91     unsigned int end_of_section_reached : 1;
  92     SectionCallback *section_cb;
  93     void *opaque;
  94 } MpegTSSectionFilter;
  95
  96 struct MpegTSFilter {
  97     int pid;
  98     int es_id;
  99     int last_cc; /* last cc code (-1 if first packet) */
 100     int64_t last_pcr;
 101     int discard;
 102     enum MpegTSFilterType type;
 103     union {
 104         MpegTSPESFilter pes_filter;
 105         MpegTSSectionFilter section_filter;
 106     } u;
 107 };
 108
 109 #define MAX_PIDS_PER_PROGRAM 64
 110 struct Program {
 111     unsigned int id; // program id/service id
 112     unsigned int nb_pids;
 113     unsigned int pids[MAX_PIDS_PER_PROGRAM];
 114
 115     /** have we found pmt for this program */
 116     int pmt_found;
 117 };
 118
 119 struct MpegTSContext {
 120     const AVClass *class;
 121     /* user data */
 122     AVFormatContext *stream;
 123     /** raw packet size, including FEC if present */
 124     int raw_packet_size;
 125
 126     int64_t pos47_full;
 127
 128     /** if true, all pids are analyzed to find streams */
 129     int auto_guess;
 130
 131     /** compute exact PCR for each transport stream packet */
 132     int mpeg2ts_compute_pcr;
 133
 134     /** fix dvb teletext pts                                 */
 135     int fix_teletext_pts;
 136
 137     int64_t cur_pcr;    /**< used to estimate the exact PCR */
 138     int64_t pcr_incr;   /**< used to estimate the exact PCR */
 139
 140     /* data needed to handle file based ts */
 141     /** stop parsing loop */
 142     int stop_parse;
 143     /** packet containing Audio/Video data */
 144     AVPacket *pkt;
 145     /** to detect seek */
 146     int64_t last_pos;
 147
 148     int skip_changes;
 149     int skip_clear;
 150     int skip_unknown_pmt;
 151
 152     int scan_all_pmts;
 153
 154     int resync_size;
 155     int merge_pmt_versions;
 156
 157     /******************************************/
 158     /* private mpegts data */
 159     /* scan context */
 160     /** structure to keep track of Program->pids mapping */
 161     unsigned int nb_prg;
 162     struct Program *prg;
 163
 164     int8_t crc_validity[NB_PID_MAX];
 165     /** filters for various streams specified by PMT + for the PAT and PMT */
 166     MpegTSFilter *pids[NB_PID_MAX];
 167     int current_pid;
 168
 169     AVStream *epg_stream;
 170     AVBufferPool* pools[32];
 171 };
 172
 173 #define MPEGTS_OPTIONS \
 174     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
 175
 176 static const AVOption options[] = {
 177     MPEGTS_OPTIONS,
 178     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
 179      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 180     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 181      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 182     {"scan_all_pmts", "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
 183      {.i64 = -1}, -1, 1, AV_OPT_FLAG_DECODING_PARAM },
 184     {"skip_unknown_pmt", "skip PMTs for programs not advertised in the PAT", offsetof(MpegTSContext, skip_unknown_pmt), AV_OPT_TYPE_BOOL,
 185      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
 186     {"merge_pmt_versions", "re-use streams when PMT's version/pids change", offsetof(MpegTSContext, merge_pmt_versions), AV_OPT_TYPE_BOOL,
 187      {.i64 = 0}, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 188     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
 189      {.i64 = 0}, 0, 1, 0 },
 190     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
 191      {.i64 = 0}, 0, 1, 0 },
 192     { NULL },
 193 };
 194
 195 static const AVClass mpegts_class = {
 196     .class_name = "mpegts demuxer",
 197     .item_name  = av_default_item_name,
 198     .option     = options,
 199     .version    = LIBAVUTIL_VERSION_INT,
 200 };
 201
 202 static const AVOption raw_options[] = {
 203     MPEGTS_OPTIONS,
 204     { "compute_pcr",   "compute exact PCR for each transport stream packet",
 205           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
 206           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
 207     { "ts_packetsize", "output option carrying the raw packet size",
 208       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
 209       { .i64 = 0 }, 0, 0,
 210       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 211     { NULL },
 212 };
 213
 214 static const AVClass mpegtsraw_class = {
 215     .class_name = "mpegtsraw demuxer",
 216     .item_name  = av_default_item_name,
 217     .option     = raw_options,
 218     .version    = LIBAVUTIL_VERSION_INT,
 219 };
 220
 221 /* TS stream handling */
 222
 223 enum MpegTSState {
 224     MPEGTS_HEADER = 0,
 225     MPEGTS_PESHEADER,
 226     MPEGTS_PESHEADER_FILL,
 227     MPEGTS_PAYLOAD,
 228     MPEGTS_SKIP,
 229 };
 230
 231 /* enough for PES header + length */
 232 #define PES_START_SIZE  6
 233 #define PES_HEADER_SIZE 9
 234 #define MAX_PES_HEADER_SIZE (9 + 255)
 235
 236 typedef struct PESContext {
 237     int pid;
 238     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
 239     int stream_type;
 240     MpegTSContext *ts;
 241     AVFormatContext *stream;
 242     AVStream *st;
 243     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
 244     enum MpegTSState state;
 245     /* used to get the format */
 246     int data_index;
 247     int flags; /**< copied to the AVPacket flags */
 248     int total_size;
 249     int pes_header_size;
 250     int extended_stream_id;
 251     uint8_t stream_id;
 252     int64_t pts, dts;
 253     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
 254     uint8_t header[MAX_PES_HEADER_SIZE];
 255     AVBufferRef *buffer;
 256     SLConfigDescr sl;
 257     int merged_st;
 258 } PESContext;
 259
 260 extern AVInputFormat ff_mpegts_demuxer;
 261
 262 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
 263 {
 264     int i;
 265     for (i = 0; i < ts->nb_prg; i++) {
 266         if (ts->prg[i].id == programid) {
 267             return &ts->prg[i];
 268         }
 269     }
 270     return NULL;
 271 }
 272
 273 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
 274 {
 275     AVProgram *prg = NULL;
 276     int i;
 277
 278     for (i = 0; i < ts->stream->nb_programs; i++)
 279         if (ts->stream->programs[i]->id == programid) {
 280             prg = ts->stream->programs[i];
 281             break;
 282         }
 283     if (!prg)
 284         return;
 285     prg->nb_stream_indexes = 0;
 286 }
 287
 288 static void clear_program(MpegTSContext *ts, unsigned int programid)
 289 {
 290     int i;
 291
 292     clear_avprogram(ts, programid);
 293     for (i = 0; i < ts->nb_prg; i++)
 294         if (ts->prg[i].id == programid) {
 295             ts->prg[i].nb_pids = 0;
 296             ts->prg[i].pmt_found = 0;
 297         }
 298 }
 299
 300 static void clear_programs(MpegTSContext *ts)
 301 {
 302     av_freep(&ts->prg);
 303     ts->nb_prg = 0;
 304 }
 305
 306 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
 307 {
 308     struct Program *p;
 309     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
 310         ts->nb_prg = 0;
 311         return;
 312     }
 313     p = &ts->prg[ts->nb_prg];
 314     p->id = programid;
 315     p->nb_pids = 0;
 316     p->pmt_found = 0;
 317     ts->nb_prg++;
 318 }
 319
 320 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
 321                            unsigned int pid)
 322 {
 323     struct Program *p = get_program(ts, programid);
 324     int i;
 325     if (!p)
 326         return;
 327
 328     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
 329         return;
 330
 331     for (i = 0; i < p->nb_pids; i++)
 332         if (p->pids[i] == pid)
 333             return;
 334
 335     p->pids[p->nb_pids++] = pid;
 336 }
 337
 338 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
 339 {
 340     struct Program *p = get_program(ts, programid);
 341     if (!p)
 342         return;
 343
 344     p->pmt_found = 1;
 345 }
 346
 347 static void update_av_program_info(AVFormatContext *s, unsigned int programid,
 348                                    unsigned int pid, int version)
 349 {
 350     int i;
 351     for (i = 0; i < s->nb_programs; i++) {
 352         AVProgram *program = s->programs[i];
 353         if (program->id == programid) {
 354             int old_pcr_pid = program->pcr_pid,
 355                 old_version = program->pmt_version;
 356             program->pcr_pid = pid;
 357             program->pmt_version = version;
 358
 359             if (old_version != -1 && old_version != version) {
 360                 av_log(s, AV_LOG_VERBOSE,
 361                        "detected PMT change (program=%d, version=%d/%d, pcr_pid=0x%x/0x%x)\n",
 362                        programid, old_version, version, old_pcr_pid, pid);
 363             }
 364             break;
 365         }
 366     }
 367 }
 368
 369 /**
 370  * @brief discard_pid() decides if the pid is to be discarded according
 371  *                      to caller's programs selection
 372  * @param ts    : - TS context
 373  * @param pid   : - pid
 374  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
 375  *         0 otherwise
 376  */
 377 static int discard_pid(MpegTSContext *ts, unsigned int pid)
 378 {
 379     int i, j, k;
 380     int used = 0, discarded = 0;
 381     struct Program *p;
 382
 383     if (pid == PAT_PID)
 384         return 0;
 385
 386     /* If none of the programs have .discard=AVDISCARD_ALL then there's
 387      * no way we have to discard this packet */
 388     for (k = 0; k < ts->stream->nb_programs; k++)
 389         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 390             break;
 391     if (k == ts->stream->nb_programs)
 392         return 0;
 393
 394     for (i = 0; i < ts->nb_prg; i++) {
 395         p = &ts->prg[i];
 396         for (j = 0; j < p->nb_pids; j++) {
 397             if (p->pids[j] != pid)
 398                 continue;
 399             // is program with id p->id set to be discarded?
 400             for (k = 0; k < ts->stream->nb_programs; k++) {
 401                 if (ts->stream->programs[k]->id == p->id) {
 402                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
 403                         discarded++;
 404                     else
 405                         used++;
 406                 }
 407             }
 408         }
 409     }
 410
 411     return !used && discarded;
 412 }
 413
 414 /**
 415  *  Assemble PES packets out of TS packets, and then call the "section_cb"
 416  *  function when they are complete.
 417  */
 418 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
 419                                const uint8_t *buf, int buf_size, int is_start)
 420 {
 421     MpegTSSectionFilter *tss = &tss1->u.section_filter;
 422     uint8_t *cur_section_buf = NULL;
 423     int len, offset;
 424
 425     if (is_start) {
 426         memcpy(tss->section_buf, buf, buf_size);
 427         tss->section_index = buf_size;
 428         tss->section_h_size = -1;
 429         tss->end_of_section_reached = 0;
 430     } else {
 431         if (tss->end_of_section_reached)
 432             return;
 433         len = MAX_SECTION_SIZE - tss->section_index;
 434         if (buf_size < len)
 435             len = buf_size;
 436         memcpy(tss->section_buf + tss->section_index, buf, len);
 437         tss->section_index += len;
 438     }
 439
 440     offset = 0;
 441     cur_section_buf = tss->section_buf;
 442     while (cur_section_buf - tss->section_buf < MAX_SECTION_SIZE && cur_section_buf[0] != 0xff) {
 443         /* compute section length if possible */
 444         if (tss->section_h_size == -1 && tss->section_index - offset >= 3) {
 445             len = (AV_RB16(cur_section_buf + 1) & 0xfff) + 3;
 446             if (len > MAX_SECTION_SIZE)
 447                 return;
 448             tss->section_h_size = len;
 449         }
 450
 451         if (tss->section_h_size != -1 &&
 452             tss->section_index >= offset + tss->section_h_size) {
 453             int crc_valid = 1;
 454             tss->end_of_section_reached = 1;
 455
 456             if (tss->check_crc) {
 457                 crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, cur_section_buf, tss->section_h_size);
 458                 if (tss->section_h_size >= 4)
 459                     tss->crc = AV_RB32(cur_section_buf + tss->section_h_size - 4);
 460
 461                 if (crc_valid) {
 462                     ts->crc_validity[ tss1->pid ] = 100;
 463                 }else if (ts->crc_validity[ tss1->pid ] > -10) {
 464                     ts->crc_validity[ tss1->pid ]--;
 465                 }else
 466                     crc_valid = 2;
 467             }
 468             if (crc_valid) {
 469                 tss->section_cb(tss1, cur_section_buf, tss->section_h_size);
 470                 if (crc_valid != 1)
 471                     tss->last_ver = -1;
 472             }
 473
 474             cur_section_buf += tss->section_h_size;
 475             offset += tss->section_h_size;
 476             tss->section_h_size = -1;
 477         } else {
 478             tss->section_h_size = -1;
 479             tss->end_of_section_reached = 0;
 480             break;
 481         }
 482     }
 483 }
 484
 485 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
 486                                         enum MpegTSFilterType type)
 487 {
 488     MpegTSFilter *filter;
 489
 490     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
 491
 492     if (pid >= NB_PID_MAX || ts->pids[pid])
 493         return NULL;
 494     filter = av_mallocz(sizeof(MpegTSFilter));
 495     if (!filter)
 496         return NULL;
 497     ts->pids[pid] = filter;
 498
 499     filter->type    = type;
 500     filter->pid     = pid;
 501     filter->es_id   = -1;
 502     filter->last_cc = -1;
 503     filter->last_pcr= -1;
 504
 505     return filter;
 506 }
 507
 508 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
 509                                                 unsigned int pid,
 510                                                 SectionCallback *section_cb,
 511                                                 void *opaque,
 512                                                 int check_crc)
 513 {
 514     MpegTSFilter *filter;
 515     MpegTSSectionFilter *sec;
 516     uint8_t *section_buf = av_mallocz(MAX_SECTION_SIZE);
 517
 518     if (!section_buf)
 519         return NULL;
 520
 521     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION))) {
 522         av_free(section_buf);
 523         return NULL;
 524     }
 525     sec = &filter->u.section_filter;
 526     sec->section_cb  = section_cb;
 527     sec->opaque      = opaque;
 528     sec->section_buf = section_buf;
 529     sec->check_crc   = check_crc;
 530     sec->last_ver    = -1;
 531
 532     return filter;
 533 }
 534
 535 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
 536                                             PESCallback *pes_cb,
 537                                             void *opaque)
 538 {
 539     MpegTSFilter *filter;
 540     MpegTSPESFilter *pes;
 541
 542     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
 543         return NULL;
 544
 545     pes = &filter->u.pes_filter;
 546     pes->pes_cb = pes_cb;
 547     pes->opaque = opaque;
 548     return filter;
 549 }
 550
 551 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
 552 {
 553     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
 554 }
 555
 556 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
 557 {
 558     int pid;
 559
 560     pid = filter->pid;
 561     if (filter->type == MPEGTS_SECTION)
 562         av_freep(&filter->u.section_filter.section_buf);
 563     else if (filter->type == MPEGTS_PES) {
 564         PESContext *pes = filter->u.pes_filter.opaque;
 565         av_buffer_unref(&pes->buffer);
 566         /* referenced private data will be freed later in
 567          * avformat_close_input (pes->st->priv_data == pes) */
 568         if (!pes->st || pes->merged_st) {
 569             av_freep(&filter->u.pes_filter.opaque);
 570         }
 571     }
 572
 573     av_free(filter);
 574     ts->pids[pid] = NULL;
 575 }
 576
 577 static int analyze(const uint8_t *buf, int size, int packet_size,
 578                    int probe)
 579 {
 580     int stat[TS_MAX_PACKET_SIZE];
 581     int stat_all = 0;
 582     int i;
 583     int best_score = 0;
 584
 585     memset(stat, 0, packet_size * sizeof(*stat));
 586
 587     for (i = 0; i < size - 3; i++) {
 588         if (buf[i] == 0x47) {
 589             int pid = AV_RB16(buf+1) & 0x1FFF;
 590             int asc = buf[i + 3] & 0x30;
 591             if (!probe || pid == 0x1FFF || asc) {
 592                 int x = i % packet_size;
 593                 stat[x]++;
 594                 stat_all++;
 595                 if (stat[x] > best_score) {
 596                     best_score = stat[x];
 597                 }
 598             }
 599         }
 600     }
 601
 602     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
 603 }
 604
 605 /* autodetect fec presence */
 606 static int get_packet_size(AVFormatContext* s)
 607 {
 608     int score, fec_score, dvhs_score;
 609     int margin;
 610     int ret;
 611
 612     /*init buffer to store stream for probing */
 613     uint8_t buf[PROBE_PACKET_MAX_BUF] = {0};
 614     int buf_size = 0;
 615     int max_iterations = 16;
 616
 617     while (buf_size < PROBE_PACKET_MAX_BUF && max_iterations--) {
 618         ret = avio_read_partial(s->pb, buf + buf_size, PROBE_PACKET_MAX_BUF - buf_size);
 619         if (ret < 0)
 620             return AVERROR_INVALIDDATA;
 621         buf_size += ret;
 622
 623         score      = analyze(buf, buf_size, TS_PACKET_SIZE,      0);
 624         dvhs_score = analyze(buf, buf_size, TS_DVHS_PACKET_SIZE, 0);
 625         fec_score  = analyze(buf, buf_size, TS_FEC_PACKET_SIZE,  0);
 626         av_log(s, AV_LOG_TRACE, "Probe: %d, score: %d, dvhs_score: %d, fec_score: %d \n",
 627             buf_size, score, dvhs_score, fec_score);
 628
 629         margin = mid_pred(score, fec_score, dvhs_score);
 630
 631         if (buf_size < PROBE_PACKET_MAX_BUF)
 632             margin += PROBE_PACKET_MARGIN; /*if buffer not filled */
 633
 634         if (score > margin)
 635             return TS_PACKET_SIZE;
 636         else if (dvhs_score > margin)
 637             return TS_DVHS_PACKET_SIZE;
 638         else if (fec_score > margin)
 639             return TS_FEC_PACKET_SIZE;
 640     }
 641     return AVERROR_INVALIDDATA;
 642 }
 643
 644 typedef struct SectionHeader {
 645     uint8_t tid;
 646     uint16_t id;
 647     uint8_t version;
 648     uint8_t sec_num;
 649     uint8_t last_sec_num;
 650 } SectionHeader;
 651
 652 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
 653 {
 654     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
 655         return 1;
 656
 657     tssf->last_ver = h->version;
 658     tssf->last_crc = tssf->crc;
 659
 660     return 0;
 661 }
 662
 663 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
 664 {
 665     const uint8_t *p;
 666     int c;
 667
 668     p = *pp;
 669     if (p >= p_end)
 670         return AVERROR_INVALIDDATA;
 671     c   = *p++;
 672     *pp = p;
 673     return c;
 674 }
 675
 676 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
 677 {
 678     const uint8_t *p;
 679     int c;
 680
 681     p = *pp;
 682     if (1 >= p_end - p)
 683         return AVERROR_INVALIDDATA;
 684     c   = AV_RB16(p);
 685     p  += 2;
 686     *pp = p;
 687     return c;
 688 }
 689
 690 /* read and allocate a DVB string preceded by its length */
 691 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
 692 {
 693     int len;
 694     const uint8_t *p;
 695     char *str;
 696
 697     p   = *pp;
 698     len = get8(&p, p_end);
 699     if (len < 0)
 700         return NULL;
 701     if (len > p_end - p)
 702         return NULL;
 703 #if CONFIG_ICONV
 704     if (len) {
 705         const char *encodings[] = {
 706             "ISO6937", "ISO-8859-5", "ISO-8859-6", "ISO-8859-7",
 707             "ISO-8859-8", "ISO-8859-9", "ISO-8859-10", "ISO-8859-11",
 708             "", "ISO-8859-13", "ISO-8859-14", "ISO-8859-15", "", "", "", "",
 709             "", "UCS-2BE", "KSC_5601", "GB2312", "UCS-2BE", "UTF-8", "", "",
 710             "", "", "", "", "", "", "", ""
 711         };
 712         iconv_t cd;
 713         char *in, *out;
 714         size_t inlen = len, outlen = inlen * 6 + 1;
 715         if (len >= 3 && p[0] == 0x10 && !p[1] && p[2] && p[2] <= 0xf && p[2] != 0xc) {
 716             char iso8859[12];
 717             snprintf(iso8859, sizeof(iso8859), "ISO-8859-%d", p[2]);
 718             inlen -= 3;
 719             in = (char *)p + 3;
 720             cd = iconv_open("UTF-8", iso8859);
 721         } else if (p[0] < 0x20) {
 722             inlen -= 1;
 723             in = (char *)p + 1;
 724             cd = iconv_open("UTF-8", encodings[*p]);
 725         } else {
 726             in = (char *)p;
 727             cd = iconv_open("UTF-8", encodings[0]);
 728         }
 729         if (cd == (iconv_t)-1)
 730             goto no_iconv;
 731         str = out = av_malloc(outlen);
 732         if (!str) {
 733             iconv_close(cd);
 734             return NULL;
 735         }
 736         if (iconv(cd, &in, &inlen, &out, &outlen) == -1) {
 737             iconv_close(cd);
 738             av_freep(&str);
 739             goto no_iconv;
 740         }
 741         iconv_close(cd);
 742         *out = 0;
 743         *pp = p + len;
 744         return str;
 745     }
 746 no_iconv:
 747 #endif
 748     str = av_malloc(len + 1);
 749     if (!str)
 750         return NULL;
 751     memcpy(str, p, len);
 752     str[len] = '\0';
 753     p  += len;
 754     *pp = p;
 755     return str;
 756 }
 757
 758 static int parse_section_header(SectionHeader *h,
 759                                 const uint8_t **pp, const uint8_t *p_end)
 760 {
 761     int val;
 762
 763     val = get8(pp, p_end);
 764     if (val < 0)
 765         return val;
 766     h->tid = val;
 767     *pp += 2;
 768     val  = get16(pp, p_end);
 769     if (val < 0)
 770         return val;
 771     h->id = val;
 772     val = get8(pp, p_end);
 773     if (val < 0)
 774         return val;
 775     h->version = (val >> 1) & 0x1f;
 776     val = get8(pp, p_end);
 777     if (val < 0)
 778         return val;
 779     h->sec_num = val;
 780     val = get8(pp, p_end);
 781     if (val < 0)
 782         return val;
 783     h->last_sec_num = val;
 784     return 0;
 785 }
 786
 787 typedef struct StreamType {
 788     uint32_t stream_type;
 789     enum AVMediaType codec_type;
 790     enum AVCodecID codec_id;
 791 } StreamType;
 792
 793 static const StreamType ISO_types[] = {
 794     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 795     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
 796     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 797     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
 798     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 799     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
 800     /* Makito encoder sets stream type 0x11 for AAC,
 801      * so auto-detect LOAS/LATM instead of hardcoding it. */
 802 #if !CONFIG_LOAS_DEMUXER
 803     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
 804 #endif
 805     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 806     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
 807     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
 808     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
 809     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
 810     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
 811     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
 812     { 0xd2, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_AVS2       },
 813     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
 814     { 0 },
 815 };
 816
 817 static const StreamType HDMV_types[] = {
 818     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
 819     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
 820     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
 821     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
 822     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
 823     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
 824     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
 825     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
 826     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
 827     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
 828     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
 829     { 0 },
 830 };
 831
 832 /* SCTE types */
 833 static const StreamType SCTE_types[] = {
 834     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
 835     { 0 },
 836 };
 837
 838 /* ATSC ? */
 839 static const StreamType MISC_types[] = {
 840     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
 841     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
 842     { 0 },
 843 };
 844
 845 static const StreamType REGD_types[] = {
 846     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
 847     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
 848     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
 849     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 850     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 851     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
 852     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
 853     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
 854     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
 855     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
 856     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
 857     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
 858     { 0 },
 859 };
 860
 861 static const StreamType METADATA_types[] = {
 862     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
 863     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
 864     { 0 },
 865 };
 866
 867 /* descriptor present */
 868 static const StreamType DESC_types[] = {
 869     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
 870     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
 871     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
 872     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
 873     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
 874     { 0 },
 875 };
 876
 877 static void mpegts_find_stream_type(AVStream *st,
 878                                     uint32_t stream_type,
 879                                     const StreamType *types)
 880 {
 881     for (; types->stream_type; types++)
 882         if (stream_type == types->stream_type) {
 883             if (st->codecpar->codec_type != types->codec_type ||
 884                 st->codecpar->codec_id   != types->codec_id) {
 885                 st->codecpar->codec_type = types->codec_type;
 886                 st->codecpar->codec_id   = types->codec_id;
 887                 st->internal->need_context_update = 1;
 888             }
 889             st->internal->request_probe        = 0;
 890             return;
 891         }
 892 }
 893
 894 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
 895                                   uint32_t stream_type, uint32_t prog_reg_desc)
 896 {
 897     int old_codec_type = st->codecpar->codec_type;
 898     int old_codec_id   = st->codecpar->codec_id;
 899     int old_codec_tag  = st->codecpar->codec_tag;
 900
 901     if (avcodec_is_open(st->internal->avctx)) {
 902         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
 903         return 0;
 904     }
 905
 906     avpriv_set_pts_info(st, 33, 1, 90000);
 907     st->priv_data         = pes;
 908     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 909     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
 910     st->need_parsing      = AVSTREAM_PARSE_FULL;
 911     pes->st          = st;
 912     pes->stream_type = stream_type;
 913
 914     av_log(pes->stream, AV_LOG_DEBUG,
 915            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
 916            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
 917
 918     st->codecpar->codec_tag = pes->stream_type;
 919
 920     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
 921     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
 922         st->internal->request_probe = 50;
 923     if ((prog_reg_desc == AV_RL32("HDMV") ||
 924          prog_reg_desc == AV_RL32("HDPR")) &&
 925         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 926         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
 927         if (pes->stream_type == 0x83) {
 928             // HDMV TrueHD streams also contain an AC3 coded version of the
 929             // audio track - add a second stream for this
 930             AVStream *sub_st;
 931             // priv_data cannot be shared between streams
 932             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
 933             if (!sub_pes)
 934                 return AVERROR(ENOMEM);
 935             memcpy(sub_pes, pes, sizeof(*sub_pes));
 936
 937             sub_st = avformat_new_stream(pes->stream, NULL);
 938             if (!sub_st) {
 939                 av_free(sub_pes);
 940                 return AVERROR(ENOMEM);
 941             }
 942
 943             sub_st->id = pes->pid;
 944             avpriv_set_pts_info(sub_st, 33, 1, 90000);
 945             sub_st->priv_data         = sub_pes;
 946             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 947             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
 948             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
 949             sub_pes->sub_st           = pes->sub_st = sub_st;
 950         }
 951     }
 952     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
 953         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
 954     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
 955         st->codecpar->codec_id  = old_codec_id;
 956         st->codecpar->codec_type = old_codec_type;
 957     }
 958     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
 959             (st->internal->request_probe > 0 && st->internal->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
 960         st->probe_packets > 0 &&
 961         stream_type == STREAM_TYPE_PRIVATE_DATA) {
 962         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
 963         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
 964         st->internal->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
 965     }
 966
 967     /* queue a context update if properties changed */
 968     if (old_codec_type != st->codecpar->codec_type ||
 969         old_codec_id   != st->codecpar->codec_id   ||
 970         old_codec_tag  != st->codecpar->codec_tag)
 971         st->internal->need_context_update = 1;
 972
 973     return 0;
 974 }
 975
 976 static void reset_pes_packet_state(PESContext *pes)
 977 {
 978     pes->pts        = AV_NOPTS_VALUE;
 979     pes->dts        = AV_NOPTS_VALUE;
 980     pes->data_index = 0;
 981     pes->flags      = 0;
 982     av_buffer_unref(&pes->buffer);
 983 }
 984
 985 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
 986 {
 987     av_init_packet(pkt);
 988     pkt->data = (uint8_t *)buffer;
 989     pkt->size = len;
 990 }
 991
 992 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
 993 {
 994     uint8_t *sd;
 995
 996     av_init_packet(pkt);
 997
 998     pkt->buf  = pes->buffer;
 999     pkt->data = pes->buffer->data;
1000     pkt->size = pes->data_index;
1001
1002     if (pes->total_size != MAX_PES_PAYLOAD &&
1003         pes->pes_header_size + pes->data_index != pes->total_size +
1004         PES_START_SIZE) {
1005         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
1006         pes->flags |= AV_PKT_FLAG_CORRUPT;
1007     }
1008     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1009
1010     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
1011     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
1012         pkt->stream_index = pes->sub_st->index;
1013     else
1014         pkt->stream_index = pes->st->index;
1015     pkt->pts = pes->pts;
1016     pkt->dts = pes->dts;
1017     /* store position of first TS packet of this PES packet */
1018     pkt->pos   = pes->ts_packet_pos;
1019     pkt->flags = pes->flags;
1020
1021     pes->buffer = NULL;
1022     reset_pes_packet_state(pes);
1023
1024     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
1025     if (!sd)
1026         return AVERROR(ENOMEM);
1027     *sd = pes->stream_id;
1028
1029     return 0;
1030 }
1031
1032 static uint64_t get_ts64(GetBitContext *gb, int bits)
1033 {
1034     if (get_bits_left(gb) < bits)
1035         return AV_NOPTS_VALUE;
1036     return get_bits64(gb, bits);
1037 }
1038
1039 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
1040                           const uint8_t *buf, int buf_size)
1041 {
1042     GetBitContext gb;
1043     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
1044     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
1045     int dts_flag = -1, cts_flag = -1;
1046     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
1047     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
1048     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
1049
1050     memcpy(buf_padded, buf, buf_padded_size);
1051
1052     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
1053
1054     if (sl->use_au_start)
1055         au_start_flag = get_bits1(&gb);
1056     if (sl->use_au_end)
1057         au_end_flag = get_bits1(&gb);
1058     if (!sl->use_au_start && !sl->use_au_end)
1059         au_start_flag = au_end_flag = 1;
1060     if (sl->ocr_len > 0)
1061         ocr_flag = get_bits1(&gb);
1062     if (sl->use_idle)
1063         idle_flag = get_bits1(&gb);
1064     if (sl->use_padding)
1065         padding_flag = get_bits1(&gb);
1066     if (padding_flag)
1067         padding_bits = get_bits(&gb, 3);
1068
1069     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
1070         if (sl->packet_seq_num_len)
1071             skip_bits_long(&gb, sl->packet_seq_num_len);
1072         if (sl->degr_prior_len)
1073             if (get_bits1(&gb))
1074                 skip_bits(&gb, sl->degr_prior_len);
1075         if (ocr_flag)
1076             skip_bits_long(&gb, sl->ocr_len);
1077         if (au_start_flag) {
1078             if (sl->use_rand_acc_pt)
1079                 get_bits1(&gb);
1080             if (sl->au_seq_num_len > 0)
1081                 skip_bits_long(&gb, sl->au_seq_num_len);
1082             if (sl->use_timestamps) {
1083                 dts_flag = get_bits1(&gb);
1084                 cts_flag = get_bits1(&gb);
1085             }
1086         }
1087         if (sl->inst_bitrate_len)
1088             inst_bitrate_flag = get_bits1(&gb);
1089         if (dts_flag == 1)
1090             dts = get_ts64(&gb, sl->timestamp_len);
1091         if (cts_flag == 1)
1092             cts = get_ts64(&gb, sl->timestamp_len);
1093         if (sl->au_len > 0)
1094             skip_bits_long(&gb, sl->au_len);
1095         if (inst_bitrate_flag)
1096             skip_bits_long(&gb, sl->inst_bitrate_len);
1097     }
1098
1099     if (dts != AV_NOPTS_VALUE)
1100         pes->dts = dts;
1101     if (cts != AV_NOPTS_VALUE)
1102         pes->pts = cts;
1103
1104     if (sl->timestamp_len && sl->timestamp_res)
1105         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1106
1107     return (get_bits_count(&gb) + 7) >> 3;
1108 }
1109
1110 static AVBufferRef *buffer_pool_get(MpegTSContext *ts, int size)
1111 {
1112     int index = av_log2(size + AV_INPUT_BUFFER_PADDING_SIZE);
1113     if (!ts->pools[index]) {
1114         int pool_size = FFMIN(MAX_PES_PAYLOAD + AV_INPUT_BUFFER_PADDING_SIZE, 2 << index);
1115         ts->pools[index] = av_buffer_pool_init(pool_size, NULL);
1116         if (!ts->pools[index])
1117             return NULL;
1118     }
1119     return av_buffer_pool_get(ts->pools[index]);
1120 }
1121
1122 /* return non zero if a packet could be constructed */
1123 static int mpegts_push_data(MpegTSFilter *filter,
1124                             const uint8_t *buf, int buf_size, int is_start,
1125                             int64_t pos)
1126 {
1127     PESContext *pes   = filter->u.pes_filter.opaque;
1128     MpegTSContext *ts = pes->ts;
1129     const uint8_t *p;
1130     int ret, len, code;
1131
1132     if (!ts->pkt)
1133         return 0;
1134
1135     if (is_start) {
1136         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1137             ret = new_pes_packet(pes, ts->pkt);
1138             if (ret < 0)
1139                 return ret;
1140             ts->stop_parse = 1;
1141         } else {
1142             reset_pes_packet_state(pes);
1143         }
1144         pes->state         = MPEGTS_HEADER;
1145         pes->ts_packet_pos = pos;
1146     }
1147     p = buf;
1148     while (buf_size > 0) {
1149         switch (pes->state) {
1150         case MPEGTS_HEADER:
1151             len = PES_START_SIZE - pes->data_index;
1152             if (len > buf_size)
1153                 len = buf_size;
1154             memcpy(pes->header + pes->data_index, p, len);
1155             pes->data_index += len;
1156             p += len;
1157             buf_size -= len;
1158             if (pes->data_index == PES_START_SIZE) {
1159                 /* we got all the PES or section header. We can now
1160                  * decide */
1161                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1162                     pes->header[2] == 0x01) {
1163                     /* it must be an MPEG-2 PES stream */
1164                     code = pes->header[3] | 0x100;
1165                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1166                             code);
1167                     pes->stream_id = pes->header[3];
1168
1169                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1170                          (!pes->sub_st ||
1171                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1172                         code == 0x1be) /* padding_stream */
1173                         goto skip;
1174
1175                     /* stream not present in PMT */
1176                     if (!pes->st) {
1177                         if (ts->skip_changes)
1178                             goto skip;
1179                         if (ts->merge_pmt_versions)
1180                             goto skip; /* wait for PMT to merge new stream */
1181
1182                         pes->st = avformat_new_stream(ts->stream, NULL);
1183                         if (!pes->st)
1184                             return AVERROR(ENOMEM);
1185                         pes->st->id = pes->pid;
1186                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1187                     }
1188
1189                     pes->total_size = AV_RB16(pes->header + 4);
1190                     /* NOTE: a zero total size means the PES size is
1191                      * unbounded */
1192                     if (!pes->total_size)
1193                         pes->total_size = MAX_PES_PAYLOAD;
1194
1195                     /* allocate pes buffer */
1196                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1197                     if (!pes->buffer)
1198                         return AVERROR(ENOMEM);
1199
1200                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1201                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1202                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1203                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1204                         pes->state = MPEGTS_PESHEADER;
1205                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->internal->request_probe) {
1206                             av_log(pes->stream, AV_LOG_TRACE,
1207                                     "pid=%x stream_type=%x probing\n",
1208                                     pes->pid,
1209                                     pes->stream_type);
1210                             pes->st->internal->request_probe = 1;
1211                         }
1212                     } else {
1213                         pes->pes_header_size = 6;
1214                         pes->state      = MPEGTS_PAYLOAD;
1215                         pes->data_index = 0;
1216                     }
1217                 } else {
1218                     /* otherwise, it should be a table */
1219                     /* skip packet */
1220 skip:
1221                     pes->state = MPEGTS_SKIP;
1222                     continue;
1223                 }
1224             }
1225             break;
1226         /**********************************************/
1227         /* PES packing parsing */
1228         case MPEGTS_PESHEADER:
1229             len = PES_HEADER_SIZE - pes->data_index;
1230             if (len < 0)
1231                 return AVERROR_INVALIDDATA;
1232             if (len > buf_size)
1233                 len = buf_size;
1234             memcpy(pes->header + pes->data_index, p, len);
1235             pes->data_index += len;
1236             p += len;
1237             buf_size -= len;
1238             if (pes->data_index == PES_HEADER_SIZE) {
1239                 pes->pes_header_size = pes->header[8] + 9;
1240                 pes->state           = MPEGTS_PESHEADER_FILL;
1241             }
1242             break;
1243         case MPEGTS_PESHEADER_FILL:
1244             len = pes->pes_header_size - pes->data_index;
1245             if (len < 0)
1246                 return AVERROR_INVALIDDATA;
1247             if (len > buf_size)
1248                 len = buf_size;
1249             memcpy(pes->header + pes->data_index, p, len);
1250             pes->data_index += len;
1251             p += len;
1252             buf_size -= len;
1253             if (pes->data_index == pes->pes_header_size) {
1254                 const uint8_t *r;
1255                 unsigned int flags, pes_ext, skip;
1256
1257                 flags = pes->header[7];
1258                 r = pes->header + 9;
1259                 pes->pts = AV_NOPTS_VALUE;
1260                 pes->dts = AV_NOPTS_VALUE;
1261                 if ((flags & 0xc0) == 0x80) {
1262                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1263                     r += 5;
1264                 } else if ((flags & 0xc0) == 0xc0) {
1265                     pes->pts = ff_parse_pes_pts(r);
1266                     r += 5;
1267                     pes->dts = ff_parse_pes_pts(r);
1268                     r += 5;
1269                 }
1270                 pes->extended_stream_id = -1;
1271                 if (flags & 0x01) { /* PES extension */
1272                     pes_ext = *r++;
1273                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1274                     skip  = (pes_ext >> 4) & 0xb;
1275                     skip += skip & 0x9;
1276                     r    += skip;
1277                     if ((pes_ext & 0x41) == 0x01 &&
1278                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1279                         /* PES extension 2 */
1280                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1281                             pes->extended_stream_id = r[1];
1282                     }
1283                 }
1284
1285                 /* we got the full header. We parse it and get the payload */
1286                 pes->state = MPEGTS_PAYLOAD;
1287                 pes->data_index = 0;
1288                 if (pes->stream_type == 0x12 && buf_size > 0) {
1289                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1290                                                          buf_size);
1291                     pes->pes_header_size += sl_header_bytes;
1292                     p += sl_header_bytes;
1293                     buf_size -= sl_header_bytes;
1294                 }
1295                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1296                     /* skip metadata access unit header */
1297                     pes->pes_header_size += 5;
1298                     p += 5;
1299                     buf_size -= 5;
1300                 }
1301                 if (   pes->ts->fix_teletext_pts
1302                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1303                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1304                     ) {
1305                     AVProgram *p = NULL;
1306                     int pcr_found = 0;
1307                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1308                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1309                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1310                             if (f) {
1311                                 AVStream *st = NULL;
1312                                 if (f->type == MPEGTS_PES) {
1313                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1314                                     if (pcrpes)
1315                                         st = pcrpes->st;
1316                                 } else if (f->type == MPEGTS_PCR) {
1317                                     int i;
1318                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1319                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1320                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1321                                             st = pst;
1322                                     }
1323                                 }
1324                                 if (f->last_pcr != -1 && !f->discard) {
1325                                     // teletext packets do not always have correct timestamps,
1326                                     // the standard says they should be handled after 40.6 ms at most,
1327                                     // and the pcr error to this packet should be no more than 100 ms.
1328                                     // TODO: we should interpolate the PCR, not just use the last one
1329                                     int64_t pcr = f->last_pcr / 300;
1330                                     pcr_found = 1;
1331                                     if (st) {
1332                                         pes->st->internal->pts_wrap_reference = st->internal->pts_wrap_reference;
1333                                         pes->st->internal->pts_wrap_behavior = st->internal->pts_wrap_behavior;
1334                                     }
1335                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1336                                         pes->pts = pes->dts = pcr;
1337                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1338                                                pes->dts > pcr + 3654 + 9000) {
1339                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1340                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1341                                                pes->dts > pcr + 10*90000) { //10sec
1342                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1343                                     }
1344                                     break;
1345                                 }
1346                             }
1347                         }
1348                     }
1349
1350                     if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1351                         !pcr_found) {
1352                         av_log(pes->stream, AV_LOG_VERBOSE,
1353                                "Forcing DTS/PTS to be unset for a "
1354                                "non-trustworthy PES packet for PID %d as "
1355                                "PCR hasn't been received yet.\n",
1356                                pes->pid);
1357                         pes->dts = pes->pts = AV_NOPTS_VALUE;
1358                     }
1359                 }
1360             }
1361             break;
1362         case MPEGTS_PAYLOAD:
1363             if (pes->buffer) {
1364                 if (pes->data_index > 0 &&
1365                     pes->data_index + buf_size > pes->total_size) {
1366                     ret = new_pes_packet(pes, ts->pkt);
1367                     if (ret < 0)
1368                         return ret;
1369                     pes->total_size = MAX_PES_PAYLOAD;
1370                     pes->buffer = buffer_pool_get(ts, pes->total_size);
1371                     if (!pes->buffer)
1372                         return AVERROR(ENOMEM);
1373                     ts->stop_parse = 1;
1374                 } else if (pes->data_index == 0 &&
1375                            buf_size > pes->total_size) {
1376                     // pes packet size is < ts size packet and pes data is padded with 0xff
1377                     // not sure if this is legal in ts but see issue #2392
1378                     buf_size = pes->total_size;
1379                 }
1380                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1381                 pes->data_index += buf_size;
1382                 /* emit complete packets with known packet size
1383                  * decreases demuxer delay for infrequent packets like subtitles from
1384                  * a couple of seconds to milliseconds for properly muxed files.
1385                  * total_size is the number of bytes following pes_packet_length
1386                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1387                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1388                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1389                     ts->stop_parse = 1;
1390                     ret = new_pes_packet(pes, ts->pkt);
1391                     if (ret < 0)
1392                         return ret;
1393                 }
1394             }
1395             buf_size = 0;
1396             break;
1397         case MPEGTS_SKIP:
1398             buf_size = 0;
1399             break;
1400         }
1401     }
1402
1403     return 0;
1404 }
1405
1406 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1407 {
1408     MpegTSFilter *tss;
1409     PESContext *pes;
1410
1411     /* if no pid found, then add a pid context */
1412     pes = av_mallocz(sizeof(PESContext));
1413     if (!pes)
1414         return 0;
1415     pes->ts      = ts;
1416     pes->stream  = ts->stream;
1417     pes->pid     = pid;
1418     pes->pcr_pid = pcr_pid;
1419     pes->state   = MPEGTS_SKIP;
1420     pes->pts     = AV_NOPTS_VALUE;
1421     pes->dts     = AV_NOPTS_VALUE;
1422     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1423     if (!tss) {
1424         av_free(pes);
1425         return 0;
1426     }
1427     return pes;
1428 }
1429
1430 #define MAX_LEVEL 4
1431 typedef struct MP4DescrParseContext {
1432     AVFormatContext *s;
1433     AVIOContext pb;
1434     Mp4Descr *descr;
1435     Mp4Descr *active_descr;
1436     int descr_count;
1437     int max_descr_count;
1438     int level;
1439     int predefined_SLConfigDescriptor_seen;
1440 } MP4DescrParseContext;
1441
1442 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1443                                      const uint8_t *buf, unsigned size,
1444                                      Mp4Descr *descr, int max_descr_count)
1445 {
1446     int ret;
1447     if (size > (1 << 30))
1448         return AVERROR_INVALIDDATA;
1449
1450     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1451                                  NULL, NULL, NULL, NULL)) < 0)
1452         return ret;
1453
1454     d->s               = s;
1455     d->level           = 0;
1456     d->descr_count     = 0;
1457     d->descr           = descr;
1458     d->active_descr    = NULL;
1459     d->max_descr_count = max_descr_count;
1460
1461     return 0;
1462 }
1463
1464 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1465 {
1466     int64_t new_off = avio_tell(pb);
1467     (*len) -= new_off - *off;
1468     *off    = new_off;
1469 }
1470
1471 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1472                            int target_tag);
1473
1474 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1475 {
1476     while (len > 0) {
1477         int ret = parse_mp4_descr(d, off, len, 0);
1478         if (ret < 0)
1479             return ret;
1480         update_offsets(&d->pb, &off, &len);
1481     }
1482     return 0;
1483 }
1484
1485 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1486 {
1487     avio_rb16(&d->pb); // ID
1488     avio_r8(&d->pb);
1489     avio_r8(&d->pb);
1490     avio_r8(&d->pb);
1491     avio_r8(&d->pb);
1492     avio_r8(&d->pb);
1493     update_offsets(&d->pb, &off, &len);
1494     return parse_mp4_descr_arr(d, off, len);
1495 }
1496
1497 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1498 {
1499     int id_flags;
1500     if (len < 2)
1501         return 0;
1502     id_flags = avio_rb16(&d->pb);
1503     if (!(id_flags & 0x0020)) { // URL_Flag
1504         update_offsets(&d->pb, &off, &len);
1505         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1506     } else {
1507         return 0;
1508     }
1509 }
1510
1511 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1512 {
1513     int es_id = 0;
1514     int ret   = 0;
1515
1516     if (d->descr_count >= d->max_descr_count)
1517         return AVERROR_INVALIDDATA;
1518     ff_mp4_parse_es_descr(&d->pb, &es_id);
1519     d->active_descr = d->descr + (d->descr_count++);
1520
1521     d->active_descr->es_id = es_id;
1522     update_offsets(&d->pb, &off, &len);
1523     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1524         return ret;
1525     update_offsets(&d->pb, &off, &len);
1526     if (len > 0)
1527         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1528     d->active_descr = NULL;
1529     return ret;
1530 }
1531
1532 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1533                                       int len)
1534 {
1535     Mp4Descr *descr = d->active_descr;
1536     if (!descr)
1537         return AVERROR_INVALIDDATA;
1538     d->active_descr->dec_config_descr = av_malloc(len);
1539     if (!descr->dec_config_descr)
1540         return AVERROR(ENOMEM);
1541     descr->dec_config_descr_len = len;
1542     avio_read(&d->pb, descr->dec_config_descr, len);
1543     return 0;
1544 }
1545
1546 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1547 {
1548     Mp4Descr *descr = d->active_descr;
1549     int predefined;
1550     if (!descr)
1551         return AVERROR_INVALIDDATA;
1552
1553 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1554     descr->sl.dst = avio_r8(&d->pb);                            \
1555     if (descr->sl.dst > maxv) {                                 \
1556         descr->sl.dst = maxv;                                   \
1557         return AVERROR_INVALIDDATA;                             \
1558     }                                                           \
1559 } while (0)
1560
1561     predefined = avio_r8(&d->pb);
1562     if (!predefined) {
1563         int lengths;
1564         int flags = avio_r8(&d->pb);
1565         descr->sl.use_au_start    = !!(flags & 0x80);
1566         descr->sl.use_au_end      = !!(flags & 0x40);
1567         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1568         descr->sl.use_padding     = !!(flags & 0x08);
1569         descr->sl.use_timestamps  = !!(flags & 0x04);
1570         descr->sl.use_idle        = !!(flags & 0x02);
1571         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1572         avio_rb32(&d->pb);
1573         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1574         R8_CHECK_CLIP_MAX(ocr_len,       63);
1575         R8_CHECK_CLIP_MAX(au_len,        31);
1576         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1577         lengths                      = avio_rb16(&d->pb);
1578         descr->sl.degr_prior_len     = lengths >> 12;
1579         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1580         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1581     } else if (!d->predefined_SLConfigDescriptor_seen){
1582         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1583         d->predefined_SLConfigDescriptor_seen = 1;
1584     }
1585     return 0;
1586 }
1587
1588 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1589                            int target_tag)
1590 {
1591     int tag;
1592     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1593     int ret = 0;
1594
1595     update_offsets(&d->pb, &off, &len);
1596     if (len < 0 || len1 > len || len1 <= 0) {
1597         av_log(d->s, AV_LOG_ERROR,
1598                "Tag %x length violation new length %d bytes remaining %d\n",
1599                tag, len1, len);
1600         return AVERROR_INVALIDDATA;
1601     }
1602
1603     if (d->level++ >= MAX_LEVEL) {
1604         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1605         ret = AVERROR_INVALIDDATA;
1606         goto done;
1607     }
1608
1609     if (target_tag && tag != target_tag) {
1610         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1611                target_tag);
1612         ret = AVERROR_INVALIDDATA;
1613         goto done;
1614     }
1615
1616     switch (tag) {
1617     case MP4IODescrTag:
1618         ret = parse_MP4IODescrTag(d, off, len1);
1619         break;
1620     case MP4ODescrTag:
1621         ret = parse_MP4ODescrTag(d, off, len1);
1622         break;
1623     case MP4ESDescrTag:
1624         ret = parse_MP4ESDescrTag(d, off, len1);
1625         break;
1626     case MP4DecConfigDescrTag:
1627         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1628         break;
1629     case MP4SLDescrTag:
1630         ret = parse_MP4SLDescrTag(d, off, len1);
1631         break;
1632     }
1633
1634
1635 done:
1636     d->level--;
1637     avio_seek(&d->pb, off + len1, SEEK_SET);
1638     return ret;
1639 }
1640
1641 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1642                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1643 {
1644     MP4DescrParseContext d;
1645     int ret;
1646
1647     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1648     if (ret < 0)
1649         return ret;
1650
1651     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1652
1653     *descr_count = d.descr_count;
1654     return ret;
1655 }
1656
1657 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1658                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1659 {
1660     MP4DescrParseContext d;
1661     int ret;
1662
1663     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1664     if (ret < 0)
1665         return ret;
1666
1667     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1668
1669     *descr_count = d.descr_count;
1670     return ret;
1671 }
1672
1673 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1674                     int section_len)
1675 {
1676     MpegTSContext *ts = filter->u.section_filter.opaque;
1677     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1678     SectionHeader h;
1679     const uint8_t *p, *p_end;
1680     AVIOContext pb;
1681     int mp4_descr_count = 0;
1682     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1683     int i, pid;
1684     AVFormatContext *s = ts->stream;
1685
1686     p_end = section + section_len - 4;
1687     p = section;
1688     if (parse_section_header(&h, &p, p_end) < 0)
1689         return;
1690     if (h.tid != M4OD_TID)
1691         return;
1692     if (skip_identical(&h, tssf))
1693         return;
1694
1695     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1696                 MAX_MP4_DESCR_COUNT);
1697
1698     for (pid = 0; pid < NB_PID_MAX; pid++) {
1699         if (!ts->pids[pid])
1700             continue;
1701         for (i = 0; i < mp4_descr_count; i++) {
1702             PESContext *pes;
1703             AVStream *st;
1704             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1705                 continue;
1706             if (ts->pids[pid]->type != MPEGTS_PES) {
1707                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1708                 continue;
1709             }
1710             pes = ts->pids[pid]->u.pes_filter.opaque;
1711             st  = pes->st;
1712             if (!st)
1713                 continue;
1714
1715             pes->sl = mp4_descr[i].sl;
1716
1717             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1718                               mp4_descr[i].dec_config_descr_len, 0,
1719                               NULL, NULL, NULL, NULL);
1720             ff_mp4_read_dec_config_descr(s, st, &pb);
1721             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1722                 st->codecpar->extradata_size > 0)
1723                 st->need_parsing = 0;
1724             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1725                 st->codecpar->extradata_size > 0)
1726                 st->need_parsing = 0;
1727
1728             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1729             st->internal->need_context_update = 1;
1730         }
1731     }
1732     for (i = 0; i < mp4_descr_count; i++)
1733         av_free(mp4_descr[i].dec_config_descr);
1734 }
1735
1736 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1737                     int section_len)
1738 {
1739     AVProgram *prg = NULL;
1740     MpegTSContext *ts = filter->u.section_filter.opaque;
1741
1742     int idx = ff_find_stream_index(ts->stream, filter->pid);
1743     if (idx < 0)
1744         return;
1745
1746     /**
1747      * In case we receive an SCTE-35 packet before mpegts context is fully
1748      * initialized.
1749      */
1750     if (!ts->pkt)
1751         return;
1752
1753     new_data_packet(section, section_len, ts->pkt);
1754     ts->pkt->stream_index = idx;
1755     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1756     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1757         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1758         if (f && f->last_pcr != -1)
1759             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1760     }
1761     ts->stop_parse = 1;
1762
1763 }
1764
1765 static const uint8_t opus_coupled_stream_cnt[9] = {
1766     1, 0, 1, 1, 2, 2, 2, 3, 3
1767 };
1768
1769 static const uint8_t opus_stream_cnt[9] = {
1770     1, 1, 1, 2, 2, 3, 4, 4, 5,
1771 };
1772
1773 static const uint8_t opus_channel_map[8][8] = {
1774     { 0 },
1775     { 0,1 },
1776     { 0,2,1 },
1777     { 0,1,2,3 },
1778     { 0,4,1,2,3 },
1779     { 0,4,1,2,3,5 },
1780     { 0,4,1,2,3,5,6 },
1781     { 0,6,1,2,3,4,5,7 },
1782 };
1783
1784 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1785                               const uint8_t **pp, const uint8_t *desc_list_end,
1786                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1787                               MpegTSContext *ts)
1788 {
1789     const uint8_t *desc_end;
1790     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1791     char language[252];
1792     int i;
1793
1794     desc_tag = get8(pp, desc_list_end);
1795     if (desc_tag < 0)
1796         return AVERROR_INVALIDDATA;
1797     desc_len = get8(pp, desc_list_end);
1798     if (desc_len < 0)
1799         return AVERROR_INVALIDDATA;
1800     desc_end = *pp + desc_len;
1801     if (desc_end > desc_list_end)
1802         return AVERROR_INVALIDDATA;
1803
1804     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1805
1806     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) &&
1807         stream_type == STREAM_TYPE_PRIVATE_DATA)
1808         mpegts_find_stream_type(st, desc_tag, DESC_types);
1809
1810     switch (desc_tag) {
1811     case VIDEO_STREAM_DESCRIPTOR:
1812         if (get8(pp, desc_end) & 0x1) {
1813             st->disposition |= AV_DISPOSITION_STILL_IMAGE;
1814         }
1815         break;
1816     case SL_DESCRIPTOR:
1817         desc_es_id = get16(pp, desc_end);
1818         if (desc_es_id < 0)
1819             break;
1820         if (ts && ts->pids[pid])
1821             ts->pids[pid]->es_id = desc_es_id;
1822         for (i = 0; i < mp4_descr_count; i++)
1823             if (mp4_descr[i].dec_config_descr_len &&
1824                 mp4_descr[i].es_id == desc_es_id) {
1825                 AVIOContext pb;
1826                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1827                                   mp4_descr[i].dec_config_descr_len, 0,
1828                                   NULL, NULL, NULL, NULL);
1829                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1830                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1831                     st->codecpar->extradata_size > 0) {
1832                     st->need_parsing = 0;
1833                     st->internal->need_context_update = 1;
1834                 }
1835                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1836                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1837             }
1838         break;
1839     case FMC_DESCRIPTOR:
1840         if (get16(pp, desc_end) < 0)
1841             break;
1842         if (mp4_descr_count > 0 &&
1843             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1844              (st->internal->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1845              st->internal->request_probe > 0) &&
1846             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1847             AVIOContext pb;
1848             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1849                               mp4_descr->dec_config_descr_len, 0,
1850                               NULL, NULL, NULL, NULL);
1851             ff_mp4_read_dec_config_descr(fc, st, &pb);
1852             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1853                 st->codecpar->extradata_size > 0) {
1854                 st->internal->request_probe = st->need_parsing = 0;
1855                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1856                 st->internal->need_context_update = 1;
1857             }
1858         }
1859         break;
1860     case 0x56: /* DVB teletext descriptor */
1861         {
1862             uint8_t *extradata = NULL;
1863             int language_count = desc_len / 5, ret;
1864
1865             if (desc_len > 0 && desc_len % 5 != 0)
1866                 return AVERROR_INVALIDDATA;
1867
1868             if (language_count > 0) {
1869                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1870                 av_assert0(language_count <= sizeof(language) / 4);
1871
1872                 if (st->codecpar->extradata == NULL) {
1873                     ret = ff_alloc_extradata(st->codecpar, language_count * 2);
1874                     if (ret < 0)
1875                         return ret;
1876                 }
1877
1878                 if (st->codecpar->extradata_size < language_count * 2)
1879                     return AVERROR_INVALIDDATA;
1880
1881                 extradata = st->codecpar->extradata;
1882
1883                 for (i = 0; i < language_count; i++) {
1884                     language[i * 4 + 0] = get8(pp, desc_end);
1885                     language[i * 4 + 1] = get8(pp, desc_end);
1886                     language[i * 4 + 2] = get8(pp, desc_end);
1887                     language[i * 4 + 3] = ',';
1888
1889                     memcpy(extradata, *pp, 2);
1890                     extradata += 2;
1891
1892                     *pp += 2;
1893                 }
1894
1895                 language[i * 4 - 1] = 0;
1896                 av_dict_set(&st->metadata, "language", language, 0);
1897                 st->internal->need_context_update = 1;
1898             }
1899         }
1900         break;
1901     case 0x59: /* subtitling descriptor */
1902         {
1903             /* 8 bytes per DVB subtitle substream data:
1904              * ISO_639_language_code (3 bytes),
1905              * subtitling_type (1 byte),
1906              * composition_page_id (2 bytes),
1907              * ancillary_page_id (2 bytes) */
1908             int language_count = desc_len / 8, ret;
1909
1910             if (desc_len > 0 && desc_len % 8 != 0)
1911                 return AVERROR_INVALIDDATA;
1912
1913             if (language_count > 1) {
1914                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1915             }
1916
1917             if (language_count > 0) {
1918                 uint8_t *extradata;
1919
1920                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1921                 av_assert0(language_count <= sizeof(language) / 4);
1922
1923                 if (st->codecpar->extradata == NULL) {
1924                     ret = ff_alloc_extradata(st->codecpar, language_count * 5);
1925                     if (ret < 0)
1926                         return ret;
1927                 }
1928
1929                 if (st->codecpar->extradata_size < language_count * 5)
1930                     return AVERROR_INVALIDDATA;
1931
1932                 extradata = st->codecpar->extradata;
1933
1934                 for (i = 0; i < language_count; i++) {
1935                     language[i * 4 + 0] = get8(pp, desc_end);
1936                     language[i * 4 + 1] = get8(pp, desc_end);
1937                     language[i * 4 + 2] = get8(pp, desc_end);
1938                     language[i * 4 + 3] = ',';
1939
1940                     /* hearing impaired subtitles detection using subtitling_type */
1941                     switch (*pp[0]) {
1942                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1943                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1944                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1945                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1946                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1947                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1948                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1949                         break;
1950                     }
1951
1952                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1953                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1954                     extradata += 5;
1955
1956                     *pp += 4;
1957                 }
1958
1959                 language[i * 4 - 1] = 0;
1960                 av_dict_set(&st->metadata, "language", language, 0);
1961                 st->internal->need_context_update = 1;
1962             }
1963         }
1964         break;
1965     case ISO_639_LANGUAGE_DESCRIPTOR:
1966         for (i = 0; i + 4 <= desc_len; i += 4) {
1967             language[i + 0] = get8(pp, desc_end);
1968             language[i + 1] = get8(pp, desc_end);
1969             language[i + 2] = get8(pp, desc_end);
1970             language[i + 3] = ',';
1971             switch (get8(pp, desc_end)) {
1972             case 0x01:
1973                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1974                 break;
1975             case 0x02:
1976                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1977                 break;
1978             case 0x03:
1979                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1980                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
1981                 break;
1982             }
1983         }
1984         if (i && language[0]) {
1985             language[i - 1] = 0;
1986             /* don't overwrite language, as it may already have been set by
1987              * another, more specific descriptor (e.g. supplementary audio) */
1988             av_dict_set(&st->metadata, "language", language, AV_DICT_DONT_OVERWRITE);
1989         }
1990         break;
1991     case REGISTRATION_DESCRIPTOR:
1992         st->codecpar->codec_tag = bytestream_get_le32(pp);
1993         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1994         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->internal->request_probe > 0) {
1995             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1996             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1997                 st->internal->request_probe = 50;
1998         }
1999         break;
2000     case 0x52: /* stream identifier descriptor */
2001         st->stream_identifier = 1 + get8(pp, desc_end);
2002         break;
2003     case METADATA_DESCRIPTOR:
2004         if (get16(pp, desc_end) == 0xFFFF)
2005             *pp += 4;
2006         if (get8(pp, desc_end) == 0xFF) {
2007             st->codecpar->codec_tag = bytestream_get_le32(pp);
2008             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
2009                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
2010         }
2011         break;
2012     case 0x7f: /* DVB extension descriptor */
2013         ext_desc_tag = get8(pp, desc_end);
2014         if (ext_desc_tag < 0)
2015             return AVERROR_INVALIDDATA;
2016         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
2017             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
2018             if (!st->codecpar->extradata) {
2019                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
2020                                                      AV_INPUT_BUFFER_PADDING_SIZE);
2021                 if (!st->codecpar->extradata)
2022                     return AVERROR(ENOMEM);
2023
2024                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
2025                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
2026
2027                 channel_config_code = get8(pp, desc_end);
2028                 if (channel_config_code < 0)
2029                     return AVERROR_INVALIDDATA;
2030                 if (channel_config_code <= 0x8) {
2031                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
2032                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
2033                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
2034                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
2035                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
2036                 } else {
2037                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
2038                 }
2039                 st->need_parsing = AVSTREAM_PARSE_FULL;
2040                 st->internal->need_context_update = 1;
2041             }
2042         }
2043         if (ext_desc_tag == 0x06) { /* supplementary audio descriptor */
2044             int flags;
2045
2046             if (desc_len < 1)
2047                 return AVERROR_INVALIDDATA;
2048             flags = get8(pp, desc_end);
2049
2050             if ((flags & 0x80) == 0) /* mix_type */
2051                 st->disposition |= AV_DISPOSITION_DEPENDENT;
2052
2053             switch ((flags >> 2) & 0x1F) { /* editorial_classification */
2054             case 0x01:
2055                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2056                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2057                 break;
2058             case 0x02:
2059                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
2060                 break;
2061             case 0x03:
2062                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
2063                 break;
2064             }
2065
2066             if (flags & 0x01) { /* language_code_present */
2067                 if (desc_len < 4)
2068                     return AVERROR_INVALIDDATA;
2069                 language[0] = get8(pp, desc_end);
2070                 language[1] = get8(pp, desc_end);
2071                 language[2] = get8(pp, desc_end);
2072                 language[3] = 0;
2073
2074                 /* This language always has to override a possible
2075                  * ISO 639 language descriptor language */
2076                 if (language[0])
2077                     av_dict_set(&st->metadata, "language", language, 0);
2078             }
2079         }
2080         break;
2081     case 0x6a: /* ac-3_descriptor */
2082         {
2083             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2084             if (component_type_flag) {
2085                 int component_type = get8(pp, desc_end);
2086                 int service_type_mask = 0x38;  // 0b00111000
2087                 int service_type = ((component_type & service_type_mask) >> 3);
2088                 if (service_type == 0x02 /* 0b010 */) {
2089                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2090                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2091                 }
2092             }
2093         }
2094         break;
2095     case 0x7a: /* enhanced_ac-3_descriptor */
2096         {
2097             int component_type_flag = get8(pp, desc_end) & (1 << 7);
2098             if (component_type_flag) {
2099                 int component_type = get8(pp, desc_end);
2100                 int service_type_mask = 0x38;  // 0b00111000
2101                 int service_type = ((component_type & service_type_mask) >> 3);
2102                 if (service_type == 0x02 /* 0b010 */) {
2103                     st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2104                     av_log(ts ? ts->stream : fc, AV_LOG_DEBUG, "New track disposition for id %u: %u\n", st->id, st->disposition);
2105                 }
2106             }
2107         }
2108         break;
2109     case 0xfd: /* ARIB data coding type descriptor */
2110         // STD-B24, fascicle 3, chapter 4 defines private_stream_1
2111         // for captions
2112         if (stream_type == STREAM_TYPE_PRIVATE_DATA) {
2113             // This structure is defined in STD-B10, part 1, listing 5.4 and
2114             // part 2, 6.2.20).
2115             // Listing of data_component_ids is in STD-B10, part 2, Annex J.
2116             // Component tag limits are documented in TR-B14, fascicle 2,
2117             // Vol. 3, Section 2, 4.2.8.1
2118             int actual_component_tag = st->stream_identifier - 1;
2119             int picked_profile = FF_PROFILE_UNKNOWN;
2120             int data_component_id = get16(pp, desc_end);
2121             if (data_component_id < 0)
2122                 return AVERROR_INVALIDDATA;
2123
2124             switch (data_component_id) {
2125             case 0x0008:
2126                 // [0x30..0x37] are component tags utilized for
2127                 // non-mobile captioning service ("profile A").
2128                 if (actual_component_tag >= 0x30 &&
2129                     actual_component_tag <= 0x37) {
2130                     picked_profile = FF_PROFILE_ARIB_PROFILE_A;
2131                 }
2132                 break;
2133             case 0x0012:
2134                 // component tag 0x87 signifies a mobile/partial reception
2135                 // (1seg) captioning service ("profile C").
2136                 if (actual_component_tag == 0x87) {
2137                     picked_profile = FF_PROFILE_ARIB_PROFILE_C;
2138                 }
2139                 break;
2140             default:
2141                 break;
2142             }
2143
2144             if (picked_profile == FF_PROFILE_UNKNOWN)
2145                 break;
2146
2147             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2148             st->codecpar->codec_id   = AV_CODEC_ID_ARIB_CAPTION;
2149             st->codecpar->profile    = picked_profile;
2150             st->internal->request_probe        = 0;
2151         }
2152         break;
2153     case 0xb0: /* DOVI video stream descriptor */
2154         {
2155             uint32_t buf;
2156             AVDOVIDecoderConfigurationRecord *dovi;
2157             size_t dovi_size;
2158             int ret;
2159             if (desc_end - *pp < 4) // (8 + 8 + 7 + 6 + 1 + 1 + 1) / 8
2160                 return AVERROR_INVALIDDATA;
2161
2162             dovi = av_dovi_alloc(&dovi_size);
2163             if (!dovi)
2164                 return AVERROR(ENOMEM);
2165
2166             dovi->dv_version_major = get8(pp, desc_end);
2167             dovi->dv_version_minor = get8(pp, desc_end);
2168             buf = get16(pp, desc_end);
2169             dovi->dv_profile        = (buf >> 9) & 0x7f;    // 7 bits
2170             dovi->dv_level          = (buf >> 3) & 0x3f;    // 6 bits
2171             dovi->rpu_present_flag  = (buf >> 2) & 0x01;    // 1 bit
2172             dovi->el_present_flag   = (buf >> 1) & 0x01;    // 1 bit
2173             dovi->bl_present_flag   =  buf       & 0x01;    // 1 bit
2174             if (desc_end - *pp >= 20) {  // 4 + 4 * 4
2175                 buf = get8(pp, desc_end);
2176                 dovi->dv_bl_signal_compatibility_id = (buf >> 4) & 0x0f; // 4 bits
2177             } else {
2178                 // 0 stands for None
2179                 // Dolby Vision V1.2.93 profiles and levels
2180                 dovi->dv_bl_signal_compatibility_id = 0;
2181             }
2182
2183             ret = av_stream_add_side_data(st, AV_PKT_DATA_DOVI_CONF,
2184                                           (uint8_t *)dovi, dovi_size);
2185             if (ret < 0) {
2186                 av_free(dovi);
2187                 return ret;
2188             }
2189
2190             av_log(fc, AV_LOG_TRACE, "DOVI, version: %d.%d, profile: %d, level: %d, "
2191                    "rpu flag: %d, el flag: %d, bl flag: %d, compatibility id: %d\n",
2192                    dovi->dv_version_major, dovi->dv_version_minor,
2193                    dovi->dv_profile, dovi->dv_level,
2194                    dovi->rpu_present_flag,
2195                    dovi->el_present_flag,
2196                    dovi->bl_present_flag,
2197                    dovi->dv_bl_signal_compatibility_id);
2198         }
2199         break;
2200     default:
2201         break;
2202     }
2203     *pp = desc_end;
2204     return 0;
2205 }
2206
2207 static AVStream *find_matching_stream(MpegTSContext *ts, int pid, unsigned int programid,
2208                                       int stream_identifier, int pmt_stream_idx)
2209 {
2210     AVFormatContext *s = ts->stream;
2211     int i;
2212     AVStream *found = NULL;
2213
2214     for (i = 0; i < s->nb_streams; i++) {
2215         AVStream *st = s->streams[i];
2216         if (st->program_num != programid)
2217             continue;
2218         if (stream_identifier != -1) { /* match based on "stream identifier descriptor" if present */
2219             if (st->stream_identifier == stream_identifier+1) {
2220                 found = st;
2221                 break;
2222             }
2223         } else if (st->pmt_stream_idx == pmt_stream_idx) { /* match based on position within the PMT */
2224             found = st;
2225             break;
2226         }
2227     }
2228
2229     if (found) {
2230         av_log(ts->stream, AV_LOG_VERBOSE,
2231                "re-using existing %s stream %d (pid=0x%x) for new pid=0x%x\n",
2232                av_get_media_type_string(found->codecpar->codec_type),
2233                i, found->id, pid);
2234     }
2235
2236     return found;
2237 }
2238
2239 static int parse_stream_identifier_desc(const uint8_t *p, const uint8_t *p_end)
2240 {
2241     const uint8_t **pp = &p;
2242     const uint8_t *desc_list_end;
2243     const uint8_t *desc_end;
2244     int desc_list_len;
2245     int desc_len, desc_tag;
2246
2247     desc_list_len = get16(pp, p_end);
2248     if (desc_list_len < 0)
2249         return -1;
2250     desc_list_len &= 0xfff;
2251     desc_list_end  = p + desc_list_len;
2252     if (desc_list_end > p_end)
2253         return -1;
2254
2255     while (1) {
2256         desc_tag = get8(pp, desc_list_end);
2257         if (desc_tag < 0)
2258             return -1;
2259         desc_len = get8(pp, desc_list_end);
2260         if (desc_len < 0)
2261             return -1;
2262         desc_end = *pp + desc_len;
2263         if (desc_end > desc_list_end)
2264             return -1;
2265
2266         if (desc_tag == 0x52) {
2267             return get8(pp, desc_end);
2268         }
2269         *pp = desc_end;
2270     }
2271
2272     return -1;
2273 }
2274
2275 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
2276 {
2277     return !(stream_type == 0x13 ||
2278              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
2279 }
2280
2281 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2282 {
2283     MpegTSContext *ts = filter->u.section_filter.opaque;
2284     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2285     SectionHeader h1, *h = &h1;
2286     PESContext *pes;
2287     AVStream *st;
2288     const uint8_t *p, *p_end, *desc_list_end;
2289     int program_info_length, pcr_pid, pid, stream_type;
2290     int desc_list_len;
2291     uint32_t prog_reg_desc = 0; /* registration descriptor */
2292     int stream_identifier = -1;
2293
2294     int mp4_descr_count = 0;
2295     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
2296     int i;
2297
2298     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
2299     hex_dump_debug(ts->stream, section, section_len);
2300
2301     p_end = section + section_len - 4;
2302     p = section;
2303     if (parse_section_header(h, &p, p_end) < 0)
2304         return;
2305     if (h->tid != PMT_TID)
2306         return;
2307     if (skip_identical(h, tssf))
2308         return;
2309
2310     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
2311             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
2312
2313     if (!ts->scan_all_pmts && ts->skip_changes)
2314         return;
2315
2316     if (ts->skip_unknown_pmt && !get_program(ts, h->id))
2317         return;
2318     if (!ts->skip_clear)
2319         clear_program(ts, h->id);
2320
2321     pcr_pid = get16(&p, p_end);
2322     if (pcr_pid < 0)
2323         return;
2324     pcr_pid &= 0x1fff;
2325     add_pid_to_pmt(ts, h->id, pcr_pid);
2326     update_av_program_info(ts->stream, h->id, pcr_pid, h->version);
2327
2328     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
2329
2330     program_info_length = get16(&p, p_end);
2331     if (program_info_length < 0)
2332         return;
2333     program_info_length &= 0xfff;
2334     while (program_info_length >= 2) {
2335         uint8_t tag, len;
2336         tag = get8(&p, p_end);
2337         len = get8(&p, p_end);
2338
2339         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
2340
2341         if (len > program_info_length - 2)
2342             // something else is broken, exit the program_descriptors_loop
2343             break;
2344         program_info_length -= len + 2;
2345         if (tag == IOD_DESCRIPTOR) {
2346             get8(&p, p_end); // scope
2347             get8(&p, p_end); // label
2348             len -= 2;
2349             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
2350                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
2351         } else if (tag == REGISTRATION_DESCRIPTOR && len >= 4) {
2352             prog_reg_desc = bytestream_get_le32(&p);
2353             len -= 4;
2354         }
2355         p += len;
2356     }
2357     p += program_info_length;
2358     if (p >= p_end)
2359         goto out;
2360
2361     // stop parsing after pmt, we found header
2362     if (!ts->pkt)
2363         ts->stop_parse = 2;
2364
2365     set_pmt_found(ts, h->id);
2366
2367
2368     for (i = 0; ; i++) {
2369         st = 0;
2370         pes = NULL;
2371         stream_type = get8(&p, p_end);
2372         if (stream_type < 0)
2373             break;
2374         pid = get16(&p, p_end);
2375         if (pid < 0)
2376             goto out;
2377         pid &= 0x1fff;
2378         if (pid == ts->current_pid)
2379             goto out;
2380
2381         if (ts->merge_pmt_versions)
2382             stream_identifier = parse_stream_identifier_desc(p, p_end);
2383
2384         /* now create stream */
2385         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2386             pes = ts->pids[pid]->u.pes_filter.opaque;
2387             if (ts->merge_pmt_versions && !pes->st) {
2388                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2389                 if (st) {
2390                     pes->st = st;
2391                     pes->stream_type = stream_type;
2392                     pes->merged_st = 1;
2393                 }
2394             }
2395             if (!pes->st) {
2396                 pes->st = avformat_new_stream(pes->stream, NULL);
2397                 if (!pes->st)
2398                     goto out;
2399                 pes->st->id = pes->pid;
2400                 pes->st->program_num = h->id;
2401                 pes->st->pmt_version = h->version;
2402                 pes->st->pmt_stream_idx = i;
2403             }
2404             st = pes->st;
2405         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2406             if (ts->pids[pid])
2407                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2408             pes = add_pes_stream(ts, pid, pcr_pid);
2409             if (ts->merge_pmt_versions && pes && !pes->st) {
2410                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2411                 if (st) {
2412                     pes->st = st;
2413                     pes->stream_type = stream_type;
2414                     pes->merged_st = 1;
2415                 }
2416             }
2417             if (pes && !pes->st) {
2418                 st = avformat_new_stream(pes->stream, NULL);
2419                 if (!st)
2420                     goto out;
2421                 st->id = pes->pid;
2422                 st->program_num = h->id;
2423                 st->pmt_version = h->version;
2424                 st->pmt_stream_idx = i;
2425             }
2426         } else {
2427             int idx = ff_find_stream_index(ts->stream, pid);
2428             if (idx >= 0) {
2429                 st = ts->stream->streams[idx];
2430             }
2431             if (ts->merge_pmt_versions && !st) {
2432                 st = find_matching_stream(ts, pid, h->id, stream_identifier, i);
2433             }
2434             if (!st) {
2435                 st = avformat_new_stream(ts->stream, NULL);
2436                 if (!st)
2437                     goto out;
2438                 st->id = pid;
2439                 st->program_num = h->id;
2440                 st->pmt_version = h->version;
2441                 st->pmt_stream_idx = i;
2442                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2443                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2444                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2445                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2446                 }
2447             }
2448         }
2449
2450         if (!st)
2451             goto out;
2452
2453         if (pes && !pes->stream_type)
2454             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2455
2456         add_pid_to_pmt(ts, h->id, pid);
2457
2458         av_program_add_stream_index(ts->stream, h->id, st->index);
2459
2460         desc_list_len = get16(&p, p_end);
2461         if (desc_list_len < 0)
2462             goto out;
2463         desc_list_len &= 0xfff;
2464         desc_list_end  = p + desc_list_len;
2465         if (desc_list_end > p_end)
2466             goto out;
2467         for (;;) {
2468             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2469                                           desc_list_end, mp4_descr,
2470                                           mp4_descr_count, pid, ts) < 0)
2471                 break;
2472
2473             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2474                 stream_type == 0x83 && pes->sub_st) {
2475                 av_program_add_stream_index(ts->stream, h->id,
2476                                             pes->sub_st->index);
2477                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2478             }
2479         }
2480         p = desc_list_end;
2481     }
2482
2483     if (!ts->pids[pcr_pid])
2484         mpegts_open_pcr_filter(ts, pcr_pid);
2485
2486 out:
2487     for (i = 0; i < mp4_descr_count; i++)
2488         av_free(mp4_descr[i].dec_config_descr);
2489 }
2490
2491 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2492 {
2493     MpegTSContext *ts = filter->u.section_filter.opaque;
2494     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2495     SectionHeader h1, *h = &h1;
2496     const uint8_t *p, *p_end;
2497     int sid, pmt_pid;
2498     AVProgram *program;
2499
2500     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2501     hex_dump_debug(ts->stream, section, section_len);
2502
2503     p_end = section + section_len - 4;
2504     p     = section;
2505     if (parse_section_header(h, &p, p_end) < 0)
2506         return;
2507     if (h->tid != PAT_TID)
2508         return;
2509     if (ts->skip_changes)
2510         return;
2511
2512     if (skip_identical(h, tssf))
2513         return;
2514     ts->stream->ts_id = h->id;
2515
2516     clear_programs(ts);
2517     for (;;) {
2518         sid = get16(&p, p_end);
2519         if (sid < 0)
2520             break;
2521         pmt_pid = get16(&p, p_end);
2522         if (pmt_pid < 0)
2523             break;
2524         pmt_pid &= 0x1fff;
2525
2526         if (pmt_pid == ts->current_pid)
2527             break;
2528
2529         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2530
2531         if (sid == 0x0000) {
2532             /* NIT info */
2533         } else {
2534             MpegTSFilter *fil = ts->pids[pmt_pid];
2535             program = av_new_program(ts->stream, sid);
2536             if (program) {
2537                 program->program_num = sid;
2538                 program->pmt_pid = pmt_pid;
2539             }
2540             if (fil)
2541                 if (   fil->type != MPEGTS_SECTION
2542                     || fil->pid != pmt_pid
2543                     || fil->u.section_filter.section_cb != pmt_cb)
2544                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2545
2546             if (!ts->pids[pmt_pid])
2547                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2548             add_pat_entry(ts, sid);
2549             add_pid_to_pmt(ts, sid, pmt_pid);
2550         }
2551     }
2552
2553     if (sid < 0) {
2554         int i,j;
2555         for (j=0; j<ts->stream->nb_programs; j++) {
2556             for (i = 0; i < ts->nb_prg; i++)
2557                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2558                     break;
2559             if (i==ts->nb_prg && !ts->skip_clear)
2560                 clear_avprogram(ts, ts->stream->programs[j]->id);
2561         }
2562     }
2563 }
2564
2565 static void eit_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2566 {
2567     MpegTSContext *ts = filter->u.section_filter.opaque;
2568     const uint8_t *p, *p_end;
2569     SectionHeader h1, *h = &h1;
2570
2571     /*
2572      * Sometimes we receive EPG packets but SDT table do not have
2573      * eit_pres_following or eit_sched turned on, so we open EPG
2574      * stream directly here.
2575      */
2576     if (!ts->epg_stream) {
2577         ts->epg_stream = avformat_new_stream(ts->stream, NULL);
2578         if (!ts->epg_stream)
2579             return;
2580         ts->epg_stream->id = EIT_PID;
2581         ts->epg_stream->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2582         ts->epg_stream->codecpar->codec_id = AV_CODEC_ID_EPG;
2583     }
2584
2585     if (ts->epg_stream->discard == AVDISCARD_ALL)
2586         return;
2587
2588     p_end = section + section_len - 4;
2589     p     = section;
2590
2591     if (parse_section_header(h, &p, p_end) < 0)
2592         return;
2593     if (h->tid < EIT_TID || h->tid > OEITS_END_TID)
2594         return;
2595
2596     av_log(ts->stream, AV_LOG_TRACE, "EIT: tid received = %.02x\n", h->tid);
2597
2598     /**
2599      * Service_id 0xFFFF is reserved, it indicates that the current EIT table
2600      * is scrambled.
2601      */
2602     if (h->id == 0xFFFF) {
2603         av_log(ts->stream, AV_LOG_TRACE, "Scrambled EIT table received.\n");
2604         return;
2605     }
2606
2607     /**
2608      * In case we receive an EPG packet before mpegts context is fully
2609      * initialized.
2610      */
2611     if (!ts->pkt)
2612         return;
2613
2614     new_data_packet(section, section_len, ts->pkt);
2615     ts->pkt->stream_index = ts->epg_stream->index;
2616     ts->stop_parse = 1;
2617 }
2618
2619 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2620 {
2621     MpegTSContext *ts = filter->u.section_filter.opaque;
2622     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2623     SectionHeader h1, *h = &h1;
2624     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2625     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2626     char *name, *provider_name;
2627
2628     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2629     hex_dump_debug(ts->stream, section, section_len);
2630
2631     p_end = section + section_len - 4;
2632     p     = section;
2633     if (parse_section_header(h, &p, p_end) < 0)
2634         return;
2635     if (h->tid != SDT_TID)
2636         return;
2637     if (ts->skip_changes)
2638         return;
2639     if (skip_identical(h, tssf))
2640         return;
2641
2642     onid = get16(&p, p_end);
2643     if (onid < 0)
2644         return;
2645     val = get8(&p, p_end);
2646     if (val < 0)
2647         return;
2648     for (;;) {
2649         sid = get16(&p, p_end);
2650         if (sid < 0)
2651             break;
2652         val = get8(&p, p_end);
2653         if (val < 0)
2654             break;
2655         desc_list_len = get16(&p, p_end);
2656         if (desc_list_len < 0)
2657             break;
2658         desc_list_len &= 0xfff;
2659         desc_list_end  = p + desc_list_len;
2660         if (desc_list_end > p_end)
2661             break;
2662         for (;;) {
2663             desc_tag = get8(&p, desc_list_end);
2664             if (desc_tag < 0)
2665                 break;
2666             desc_len = get8(&p, desc_list_end);
2667             desc_end = p + desc_len;
2668             if (desc_len < 0 || desc_end > desc_list_end)
2669                 break;
2670
2671             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2672                     desc_tag, desc_len);
2673
2674             switch (desc_tag) {
2675             case 0x48:
2676                 service_type = get8(&p, p_end);
2677                 if (service_type < 0)
2678                     break;
2679                 provider_name = getstr8(&p, p_end);
2680                 if (!provider_name)
2681                     break;
2682                 name = getstr8(&p, p_end);
2683                 if (name) {
2684                     AVProgram *program = av_new_program(ts->stream, sid);
2685                     if (program) {
2686                         av_dict_set(&program->metadata, "service_name", name, 0);
2687                         av_dict_set(&program->metadata, "service_provider",
2688                                     provider_name, 0);
2689                     }
2690                 }
2691                 av_free(name);
2692                 av_free(provider_name);
2693                 break;
2694             default:
2695                 break;
2696             }
2697             p = desc_end;
2698         }
2699         p = desc_list_end;
2700     }
2701 }
2702
2703 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2704                      const uint8_t *packet);
2705
2706 /* handle one TS packet */
2707 static int handle_packet(MpegTSContext *ts, const uint8_t *packet, int64_t pos)
2708 {
2709     MpegTSFilter *tss;
2710     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2711         has_adaptation, has_payload;
2712     const uint8_t *p, *p_end;
2713
2714     pid = AV_RB16(packet + 1) & 0x1fff;
2715     is_start = packet[1] & 0x40;
2716     tss = ts->pids[pid];
2717     if (ts->auto_guess && !tss && is_start) {
2718         add_pes_stream(ts, pid, -1);
2719         tss = ts->pids[pid];
2720     }
2721     if (!tss)
2722         return 0;
2723     if (is_start)
2724         tss->discard = discard_pid(ts, pid);
2725     if (tss->discard)
2726         return 0;
2727     ts->current_pid = pid;
2728
2729     afc = (packet[3] >> 4) & 3;
2730     if (afc == 0) /* reserved value */
2731         return 0;
2732     has_adaptation   = afc & 2;
2733     has_payload      = afc & 1;
2734     is_discontinuity = has_adaptation &&
2735                        packet[4] != 0 && /* with length > 0 */
2736                        (packet[5] & 0x80); /* and discontinuity indicated */
2737
2738     /* continuity check (currently not used) */
2739     cc = (packet[3] & 0xf);
2740     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2741     cc_ok = pid == 0x1FFF || // null packet PID
2742             is_discontinuity ||
2743             tss->last_cc < 0 ||
2744             expected_cc == cc;
2745
2746     tss->last_cc = cc;
2747     if (!cc_ok) {
2748         av_log(ts->stream, AV_LOG_DEBUG,
2749                "Continuity check failed for pid %d expected %d got %d\n",
2750                pid, expected_cc, cc);
2751         if (tss->type == MPEGTS_PES) {
2752             PESContext *pc = tss->u.pes_filter.opaque;
2753             pc->flags |= AV_PKT_FLAG_CORRUPT;
2754         }
2755     }
2756
2757     if (packet[1] & 0x80) {
2758         av_log(ts->stream, AV_LOG_DEBUG, "Packet had TEI flag set; marking as corrupt\n");
2759         if (tss->type == MPEGTS_PES) {
2760             PESContext *pc = tss->u.pes_filter.opaque;
2761             pc->flags |= AV_PKT_FLAG_CORRUPT;
2762         }
2763     }
2764
2765     p = packet + 4;
2766     if (has_adaptation) {
2767         int64_t pcr_h;
2768         int pcr_l;
2769         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2770             tss->last_pcr = pcr_h * 300 + pcr_l;
2771         /* skip adaptation field */
2772         p += p[0] + 1;
2773     }
2774     /* if past the end of packet, ignore */
2775     p_end = packet + TS_PACKET_SIZE;
2776     if (p >= p_end || !has_payload)
2777         return 0;
2778
2779     if (pos >= 0) {
2780         av_assert0(pos >= TS_PACKET_SIZE);
2781         ts->pos47_full = pos - TS_PACKET_SIZE;
2782     }
2783
2784     if (tss->type == MPEGTS_SECTION) {
2785         if (is_start) {
2786             /* pointer field present */
2787             len = *p++;
2788             if (len > p_end - p)
2789                 return 0;
2790             if (len && cc_ok) {
2791                 /* write remaining section bytes */
2792                 write_section_data(ts, tss,
2793                                    p, len, 0);
2794                 /* check whether filter has been closed */
2795                 if (!ts->pids[pid])
2796                     return 0;
2797             }
2798             p += len;
2799             if (p < p_end) {
2800                 write_section_data(ts, tss,
2801                                    p, p_end - p, 1);
2802             }
2803         } else {
2804             if (cc_ok) {
2805                 write_section_data(ts, tss,
2806                                    p, p_end - p, 0);
2807             }
2808         }
2809
2810         // stop find_stream_info from waiting for more streams
2811         // when all programs have received a PMT
2812         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2813             int i;
2814             for (i = 0; i < ts->nb_prg; i++) {
2815                 if (!ts->prg[i].pmt_found)
2816                     break;
2817             }
2818             if (i == ts->nb_prg && ts->nb_prg > 0) {
2819                 int types = 0;
2820                 for (i = 0; i < ts->stream->nb_streams; i++) {
2821                     AVStream *st = ts->stream->streams[i];
2822                     if (st->codecpar->codec_type >= 0)
2823                         types |= 1<<st->codecpar->codec_type;
2824                 }
2825                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2826                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2827                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2828                 }
2829             }
2830         }
2831
2832     } else {
2833         int ret;
2834         // Note: The position here points actually behind the current packet.
2835         if (tss->type == MPEGTS_PES) {
2836             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2837                                                 pos - ts->raw_packet_size)) < 0)
2838                 return ret;
2839         }
2840     }
2841
2842     return 0;
2843 }
2844
2845 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2846 {
2847     MpegTSContext *ts = s->priv_data;
2848     AVIOContext *pb = s->pb;
2849     int c, i;
2850     uint64_t pos = avio_tell(pb);
2851     int64_t back = FFMIN(seekback, pos);
2852
2853     //Special case for files like 01c56b0dc1.ts
2854     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2855         avio_seek(pb, 12 - back, SEEK_CUR);
2856         return 0;
2857     }
2858
2859     avio_seek(pb, -back, SEEK_CUR);
2860
2861     for (i = 0; i < ts->resync_size; i++) {
2862         c = avio_r8(pb);
2863         if (avio_feof(pb))
2864             return AVERROR_EOF;
2865         if (c == 0x47) {
2866             int new_packet_size, ret;
2867             avio_seek(pb, -1, SEEK_CUR);
2868             pos = avio_tell(pb);
2869             ret = ffio_ensure_seekback(pb, PROBE_PACKET_MAX_BUF);
2870             if (ret < 0)
2871                 return ret;
2872             new_packet_size = get_packet_size(s);
2873             if (new_packet_size > 0 && new_packet_size != ts->raw_packet_size) {
2874                 av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", new_packet_size);
2875                 ts->raw_packet_size = new_packet_size;
2876             }
2877             avio_seek(pb, pos, SEEK_SET);
2878             return 0;
2879         }
2880     }
2881     av_log(s, AV_LOG_ERROR,
2882            "max resync size reached, could not find sync byte\n");
2883     /* no sync found */
2884     return AVERROR_INVALIDDATA;
2885 }
2886
2887 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2888 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2889                        const uint8_t **data)
2890 {
2891     AVIOContext *pb = s->pb;
2892     int len;
2893
2894     for (;;) {
2895         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2896         if (len != TS_PACKET_SIZE)
2897             return len < 0 ? len : AVERROR_EOF;
2898         /* check packet sync byte */
2899         if ((*data)[0] != 0x47) {
2900             /* find a new packet start */
2901
2902             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2903                 return AVERROR(EAGAIN);
2904             else
2905                 continue;
2906         } else {
2907             break;
2908         }
2909     }
2910     return 0;
2911 }
2912
2913 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2914 {
2915     AVIOContext *pb = s->pb;
2916     int skip = raw_packet_size - TS_PACKET_SIZE;
2917     if (skip > 0)
2918         avio_skip(pb, skip);
2919 }
2920
2921 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2922 {
2923     AVFormatContext *s = ts->stream;
2924     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2925     const uint8_t *data;
2926     int64_t packet_num;
2927     int ret = 0;
2928
2929     if (avio_tell(s->pb) != ts->last_pos) {
2930         int i;
2931         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2932         /* seek detected, flush pes buffer */
2933         for (i = 0; i < NB_PID_MAX; i++) {
2934             if (ts->pids[i]) {
2935                 if (ts->pids[i]->type == MPEGTS_PES) {
2936                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2937                     av_buffer_unref(&pes->buffer);
2938                     pes->data_index = 0;
2939                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2940                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2941                     ts->pids[i]->u.section_filter.last_ver = -1;
2942                 }
2943                 ts->pids[i]->last_cc = -1;
2944                 ts->pids[i]->last_pcr = -1;
2945             }
2946         }
2947     }
2948
2949     ts->stop_parse = 0;
2950     packet_num = 0;
2951     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2952     for (;;) {
2953         packet_num++;
2954         if (nb_packets != 0 && packet_num >= nb_packets ||
2955             ts->stop_parse > 1) {
2956             ret = AVERROR(EAGAIN);
2957             break;
2958         }
2959         if (ts->stop_parse > 0)
2960             break;
2961
2962         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2963         if (ret != 0)
2964             break;
2965         ret = handle_packet(ts, data, avio_tell(s->pb));
2966         finished_reading_packet(s, ts->raw_packet_size);
2967         if (ret != 0)
2968             break;
2969     }
2970     ts->last_pos = avio_tell(s->pb);
2971     return ret;
2972 }
2973
2974 static int mpegts_probe(const AVProbeData *p)
2975 {
2976     const int size = p->buf_size;
2977     int maxscore = 0;
2978     int sumscore = 0;
2979     int i;
2980     int check_count = size / TS_FEC_PACKET_SIZE;
2981 #define CHECK_COUNT 10
2982 #define CHECK_BLOCK 100
2983
2984     if (!check_count)
2985         return 0;
2986
2987     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2988         int left = FFMIN(check_count - i, CHECK_BLOCK);
2989         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2990         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2991         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2992         score = FFMAX3(score, dvhs_score, fec_score);
2993         sumscore += score;
2994         maxscore = FFMAX(maxscore, score);
2995     }
2996
2997     sumscore = sumscore * CHECK_COUNT / check_count;
2998     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2999
3000     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
3001
3002     if        (check_count > CHECK_COUNT && sumscore > 6) {
3003         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
3004     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
3005         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3006     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
3007         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
3008     } else if (sumscore > 6) {
3009         return 2;
3010     } else {
3011         return 0;
3012     }
3013 }
3014
3015 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
3016  * (-1) if not available */
3017 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
3018 {
3019     int afc, len, flags;
3020     const uint8_t *p;
3021     unsigned int v;
3022
3023     afc = (packet[3] >> 4) & 3;
3024     if (afc <= 1)
3025         return AVERROR_INVALIDDATA;
3026     p   = packet + 4;
3027     len = p[0];
3028     p++;
3029     if (len == 0)
3030         return AVERROR_INVALIDDATA;
3031     flags = *p++;
3032     len--;
3033     if (!(flags & 0x10))
3034         return AVERROR_INVALIDDATA;
3035     if (len < 6)
3036         return AVERROR_INVALIDDATA;
3037     v          = AV_RB32(p);
3038     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
3039     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
3040     return 0;
3041 }
3042
3043 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
3044
3045     /* NOTE: We attempt to seek on non-seekable files as well, as the
3046      * probe buffer usually is big enough. Only warn if the seek failed
3047      * on files where the seek should work. */
3048     if (avio_seek(pb, pos, SEEK_SET) < 0)
3049         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
3050 }
3051
3052 static int mpegts_read_header(AVFormatContext *s)
3053 {
3054     MpegTSContext *ts = s->priv_data;
3055     AVIOContext *pb   = s->pb;
3056     int64_t pos, probesize = s->probesize;
3057     int64_t seekback = FFMAX(s->probesize, (int64_t)ts->resync_size + PROBE_PACKET_MAX_BUF);
3058
3059     s->internal->prefer_codec_framerate = 1;
3060
3061     if (ffio_ensure_seekback(pb, seekback) < 0)
3062         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
3063
3064     pos = avio_tell(pb);
3065     ts->raw_packet_size = get_packet_size(s);
3066     if (ts->raw_packet_size <= 0) {
3067         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
3068         ts->raw_packet_size = TS_PACKET_SIZE;
3069     }
3070     ts->stream     = s;
3071     ts->auto_guess = 0;
3072
3073     if (s->iformat == &ff_mpegts_demuxer) {
3074         /* normal demux */
3075
3076         /* first do a scan to get all the services */
3077         seek_back(s, pb, pos);
3078
3079         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3080         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3081         mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3082
3083         handle_packets(ts, probesize / ts->raw_packet_size);
3084         /* if could not find service, enable auto_guess */
3085
3086         ts->auto_guess = 1;
3087
3088         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
3089
3090         s->ctx_flags |= AVFMTCTX_NOHEADER;
3091     } else {
3092         AVStream *st;
3093         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
3094         int64_t pcrs[2], pcr_h;
3095         uint8_t packet[TS_PACKET_SIZE];
3096         const uint8_t *data;
3097
3098         /* only read packets */
3099
3100         st = avformat_new_stream(s, NULL);
3101         if (!st)
3102             return AVERROR(ENOMEM);
3103         avpriv_set_pts_info(st, 60, 1, 27000000);
3104         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
3105         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
3106
3107         /* we iterate until we find two PCRs to estimate the bitrate */
3108         pcr_pid    = -1;
3109         nb_pcrs    = 0;
3110         nb_packets = 0;
3111         for (;;) {
3112             ret = read_packet(s, packet, ts->raw_packet_size, &data);
3113             if (ret < 0)
3114                 return ret;
3115             pid = AV_RB16(data + 1) & 0x1fff;
3116             if ((pcr_pid == -1 || pcr_pid == pid) &&
3117                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
3118                 finished_reading_packet(s, ts->raw_packet_size);
3119                 pcr_pid = pid;
3120                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
3121                 nb_pcrs++;
3122                 if (nb_pcrs >= 2) {
3123                     if (pcrs[1] - pcrs[0] > 0) {
3124                         /* the difference needs to be positive to make sense for bitrate computation */
3125                         break;
3126                     } else {
3127                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
3128                         pcrs[0] = pcrs[1];
3129                         nb_pcrs--;
3130                     }
3131                 }
3132             } else {
3133                 finished_reading_packet(s, ts->raw_packet_size);
3134             }
3135             nb_packets++;
3136         }
3137
3138         /* NOTE1: the bitrate is computed without the FEC */
3139         /* NOTE2: it is only the bitrate of the start of the stream */
3140         ts->pcr_incr = pcrs[1] - pcrs[0];
3141         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * (nb_packets - 1);
3142         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
3143         st->codecpar->bit_rate = s->bit_rate;
3144         st->start_time      = ts->cur_pcr;
3145         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%"PRId64"\n",
3146                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
3147     }
3148
3149     seek_back(s, pb, pos);
3150     return 0;
3151 }
3152
3153 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
3154
3155 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
3156 {
3157     MpegTSContext *ts = s->priv_data;
3158     int ret, i;
3159     int64_t pcr_h, next_pcr_h, pos;
3160     int pcr_l, next_pcr_l;
3161     uint8_t pcr_buf[12];
3162     const uint8_t *data;
3163
3164     if ((ret = av_new_packet(pkt, TS_PACKET_SIZE)) < 0)
3165         return ret;
3166     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
3167     pkt->pos = avio_tell(s->pb);
3168     if (ret < 0) {
3169         return ret;
3170     }
3171     if (data != pkt->data)
3172         memcpy(pkt->data, data, TS_PACKET_SIZE);
3173     finished_reading_packet(s, ts->raw_packet_size);
3174     if (ts->mpeg2ts_compute_pcr) {
3175         /* compute exact PCR for each packet */
3176         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
3177             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
3178             pos = avio_tell(s->pb);
3179             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
3180                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
3181                 avio_read(s->pb, pcr_buf, 12);
3182                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
3183                     /* XXX: not precise enough */
3184                     ts->pcr_incr =
3185                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
3186                         (i + 1);
3187                     break;
3188                 }
3189             }
3190             avio_seek(s->pb, pos, SEEK_SET);
3191             /* no next PCR found: we use previous increment */
3192             ts->cur_pcr = pcr_h * 300 + pcr_l;
3193         }
3194         pkt->pts      = ts->cur_pcr;
3195         pkt->duration = ts->pcr_incr;
3196         ts->cur_pcr  += ts->pcr_incr;
3197     }
3198     pkt->stream_index = 0;
3199     return 0;
3200 }
3201
3202 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
3203 {
3204     MpegTSContext *ts = s->priv_data;
3205     int ret, i;
3206
3207     pkt->size = -1;
3208     ts->pkt = pkt;
3209     ret = handle_packets(ts, 0);
3210     if (ret < 0) {
3211         av_packet_unref(ts->pkt);
3212         /* flush pes data left */
3213         for (i = 0; i < NB_PID_MAX; i++)
3214             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
3215                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
3216                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
3217                     ret = new_pes_packet(pes, pkt);
3218                     if (ret < 0)
3219                         return ret;
3220                     pes->state = MPEGTS_SKIP;
3221                     ret = 0;
3222                     break;
3223                 }
3224             }
3225     }
3226
3227     if (!ret && pkt->size < 0)
3228         ret = AVERROR_INVALIDDATA;
3229     return ret;
3230 }
3231
3232 static void mpegts_free(MpegTSContext *ts)
3233 {
3234     int i;
3235
3236     clear_programs(ts);
3237
3238     for (i = 0; i < FF_ARRAY_ELEMS(ts->pools); i++)
3239         av_buffer_pool_uninit(&ts->pools[i]);
3240
3241     for (i = 0; i < NB_PID_MAX; i++)
3242         if (ts->pids[i])
3243             mpegts_close_filter(ts, ts->pids[i]);
3244 }
3245
3246 static int mpegts_read_close(AVFormatContext *s)
3247 {
3248     MpegTSContext *ts = s->priv_data;
3249     mpegts_free(ts);
3250     return 0;
3251 }
3252
3253 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
3254                               int64_t *ppos, int64_t pos_limit)
3255 {
3256     MpegTSContext *ts = s->priv_data;
3257     int64_t pos, timestamp;
3258     uint8_t buf[TS_PACKET_SIZE];
3259     int pcr_l, pcr_pid =
3260         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
3261     int pos47 = ts->pos47_full % ts->raw_packet_size;
3262     pos =
3263         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
3264         ts->raw_packet_size + pos47;
3265     while(pos < pos_limit) {
3266         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3267             return AV_NOPTS_VALUE;
3268         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
3269             return AV_NOPTS_VALUE;
3270         if (buf[0] != 0x47) {
3271             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
3272                 return AV_NOPTS_VALUE;
3273             pos = avio_tell(s->pb);
3274             continue;
3275         }
3276         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
3277             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
3278             *ppos = pos;
3279             return timestamp;
3280         }
3281         pos += ts->raw_packet_size;
3282     }
3283
3284     return AV_NOPTS_VALUE;
3285 }
3286
3287 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
3288                               int64_t *ppos, int64_t pos_limit)
3289 {
3290     MpegTSContext *ts = s->priv_data;
3291     int64_t pos;
3292     int pos47 = ts->pos47_full % ts->raw_packet_size;
3293     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
3294     ff_read_frame_flush(s);
3295     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
3296         return AV_NOPTS_VALUE;
3297     while(pos < pos_limit) {
3298         int ret;
3299         AVPacket pkt;
3300         av_init_packet(&pkt);
3301         ret = av_read_frame(s, &pkt);
3302         if (ret < 0)
3303             return AV_NOPTS_VALUE;
3304         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
3305             ff_reduce_index(s, pkt.stream_index);
3306             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
3307             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
3308                 int64_t dts = pkt.dts;
3309                 *ppos = pkt.pos;
3310                 av_packet_unref(&pkt);
3311                 return dts;
3312             }
3313         }
3314         pos = pkt.pos;
3315         av_packet_unref(&pkt);
3316     }
3317
3318     return AV_NOPTS_VALUE;
3319 }
3320
3321 /**************************************************************/
3322 /* parsing functions - called from other demuxers such as RTP */
3323
3324 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
3325 {
3326     MpegTSContext *ts;
3327
3328     ts = av_mallocz(sizeof(MpegTSContext));
3329     if (!ts)
3330         return NULL;
3331     /* no stream case, currently used by RTP */
3332     ts->raw_packet_size = TS_PACKET_SIZE;
3333     ts->stream = s;
3334     ts->auto_guess = 1;
3335
3336     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
3337     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
3338     mpegts_open_section_filter(ts, EIT_PID, eit_cb, ts, 1);
3339
3340     return ts;
3341 }
3342
3343 /* return the consumed length if a packet was output, or -1 if no
3344  * packet is output */
3345 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
3346                                const uint8_t *buf, int len)
3347 {
3348     int len1;
3349
3350     len1 = len;
3351     ts->pkt = pkt;
3352     for (;;) {
3353         ts->stop_parse = 0;
3354         if (len < TS_PACKET_SIZE)
3355             return AVERROR_INVALIDDATA;
3356         if (buf[0] != 0x47) {
3357             buf++;
3358             len--;
3359         } else {
3360             handle_packet(ts, buf, len1 - len + TS_PACKET_SIZE);
3361             buf += TS_PACKET_SIZE;
3362             len -= TS_PACKET_SIZE;
3363             if (ts->stop_parse == 1)
3364                 break;
3365         }
3366     }
3367     return len1 - len;
3368 }
3369
3370 void avpriv_mpegts_parse_close(MpegTSContext *ts)
3371 {
3372     mpegts_free(ts);
3373     av_free(ts);
3374 }
3375
3376 AVInputFormat ff_mpegts_demuxer = {
3377     .name           = "mpegts",
3378     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
3379     .priv_data_size = sizeof(MpegTSContext),
3380     .read_probe     = mpegts_probe,
3381     .read_header    = mpegts_read_header,
3382     .read_packet    = mpegts_read_packet,
3383     .read_close     = mpegts_read_close,
3384     .read_timestamp = mpegts_get_dts,
3385     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3386     .priv_class     = &mpegts_class,
3387 };
3388
3389 AVInputFormat ff_mpegtsraw_demuxer = {
3390     .name           = "mpegtsraw",
3391     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
3392     .priv_data_size = sizeof(MpegTSContext),
3393     .read_header    = mpegts_read_header,
3394     .read_packet    = mpegts_raw_read_packet,
3395     .read_close     = mpegts_read_close,
3396     .read_timestamp = mpegts_get_dts,
3397     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
3398     .priv_class     = &mpegtsraw_class,
3399 };