git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c

   1 /*
   2  * Matroska file demuxer
   3  * Copyright (c) 2003-2008 The FFmpeg Project
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * Matroska file demuxer
  25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
  26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
  27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
  28  * @see specs available on the Matroska project page: http://www.matroska.org/
  29  */
  30
  31 #include "config.h"
  32
  33 #include <inttypes.h>
  34 #include <stdio.h>
  35
  36 #include "libavutil/avstring.h"
  37 #include "libavutil/base64.h"
  38 #include "libavutil/dict.h"
  39 #include "libavutil/intfloat.h"
  40 #include "libavutil/intreadwrite.h"
  41 #include "libavutil/lzo.h"
  42 #include "libavutil/mastering_display_metadata.h"
  43 #include "libavutil/mathematics.h"
  44 #include "libavutil/opt.h"
  45 #include "libavutil/time_internal.h"
  46 #include "libavutil/spherical.h"
  47
  48 #include "libavcodec/bytestream.h"
  49 #include "libavcodec/flac.h"
  50 #include "libavcodec/mpeg4audio.h"
  51
  52 #include "avformat.h"
  53 #include "avio_internal.h"
  54 #include "internal.h"
  55 #include "isom.h"
  56 #include "matroska.h"
  57 #include "oggdec.h"
  58 /* For ff_codec_get_id(). */
  59 #include "riff.h"
  60 #include "rmsipr.h"
  61
  62 #if CONFIG_BZLIB
  63 #include <bzlib.h>
  64 #endif
  65 #if CONFIG_ZLIB
  66 #include <zlib.h>
  67 #endif
  68
  69 #include "qtpalette.h"
  70
  71 #define EBML_UNKNOWN_LENGTH  UINT64_MAX /* EBML unknown length, in uint64_t */
  72 #define NEEDS_CHECKING                2 /* Indicates that some error checks
  73                                          * still need to be performed */
  74
  75 typedef enum {
  76     EBML_NONE,
  77     EBML_UINT,
  78     EBML_FLOAT,
  79     EBML_STR,
  80     EBML_UTF8,
  81     EBML_BIN,
  82     EBML_NEST,
  83     EBML_LEVEL1,
  84     EBML_STOP,
  85     EBML_SINT,
  86     EBML_TYPE_COUNT
  87 } EbmlType;
  88
  89 typedef const struct EbmlSyntax {
  90     uint32_t id;
  91     EbmlType type;
  92     int list_elem_size;
  93     int data_offset;
  94     union {
  95         int64_t     i;
  96         uint64_t    u;
  97         double      f;
  98         const char *s;
  99         const struct EbmlSyntax *n;
 100     } def;
 101 } EbmlSyntax;
 102
 103 typedef struct EbmlList {
 104     int nb_elem;
 105     void *elem;
 106 } EbmlList;
 107
 108 typedef struct EbmlBin {
 109     int      size;
 110     AVBufferRef *buf;
 111     uint8_t *data;
 112     int64_t  pos;
 113 } EbmlBin;
 114
 115 typedef struct Ebml {
 116     uint64_t version;
 117     uint64_t max_size;
 118     uint64_t id_length;
 119     char    *doctype;
 120     uint64_t doctype_version;
 121 } Ebml;
 122
 123 typedef struct MatroskaTrackCompression {
 124     uint64_t algo;
 125     EbmlBin  settings;
 126 } MatroskaTrackCompression;
 127
 128 typedef struct MatroskaTrackEncryption {
 129     uint64_t algo;
 130     EbmlBin  key_id;
 131 } MatroskaTrackEncryption;
 132
 133 typedef struct MatroskaTrackEncoding {
 134     uint64_t scope;
 135     uint64_t type;
 136     MatroskaTrackCompression compression;
 137     MatroskaTrackEncryption encryption;
 138 } MatroskaTrackEncoding;
 139
 140 typedef struct MatroskaMasteringMeta {
 141     double r_x;
 142     double r_y;
 143     double g_x;
 144     double g_y;
 145     double b_x;
 146     double b_y;
 147     double white_x;
 148     double white_y;
 149     double max_luminance;
 150     double min_luminance;
 151 } MatroskaMasteringMeta;
 152
 153 typedef struct MatroskaTrackVideoColor {
 154     uint64_t matrix_coefficients;
 155     uint64_t bits_per_channel;
 156     uint64_t chroma_sub_horz;
 157     uint64_t chroma_sub_vert;
 158     uint64_t cb_sub_horz;
 159     uint64_t cb_sub_vert;
 160     uint64_t chroma_siting_horz;
 161     uint64_t chroma_siting_vert;
 162     uint64_t range;
 163     uint64_t transfer_characteristics;
 164     uint64_t primaries;
 165     uint64_t max_cll;
 166     uint64_t max_fall;
 167     MatroskaMasteringMeta mastering_meta;
 168 } MatroskaTrackVideoColor;
 169
 170 typedef struct MatroskaTrackVideoProjection {
 171     uint64_t type;
 172     EbmlBin private;
 173     double yaw;
 174     double pitch;
 175     double roll;
 176 } MatroskaTrackVideoProjection;
 177
 178 typedef struct MatroskaTrackVideo {
 179     double   frame_rate;
 180     uint64_t display_width;
 181     uint64_t display_height;
 182     uint64_t pixel_width;
 183     uint64_t pixel_height;
 184     EbmlBin color_space;
 185     uint64_t display_unit;
 186     uint64_t interlaced;
 187     uint64_t field_order;
 188     uint64_t stereo_mode;
 189     uint64_t alpha_mode;
 190     EbmlList color;
 191     MatroskaTrackVideoProjection projection;
 192 } MatroskaTrackVideo;
 193
 194 typedef struct MatroskaTrackAudio {
 195     double   samplerate;
 196     double   out_samplerate;
 197     uint64_t bitdepth;
 198     uint64_t channels;
 199
 200     /* real audio header (extracted from extradata) */
 201     int      coded_framesize;
 202     int      sub_packet_h;
 203     int      frame_size;
 204     int      sub_packet_size;
 205     int      sub_packet_cnt;
 206     int      pkt_cnt;
 207     uint64_t buf_timecode;
 208     uint8_t *buf;
 209 } MatroskaTrackAudio;
 210
 211 typedef struct MatroskaTrackPlane {
 212     uint64_t uid;
 213     uint64_t type;
 214 } MatroskaTrackPlane;
 215
 216 typedef struct MatroskaTrackOperation {
 217     EbmlList combine_planes;
 218 } MatroskaTrackOperation;
 219
 220 typedef struct MatroskaTrack {
 221     uint64_t num;
 222     uint64_t uid;
 223     uint64_t type;
 224     char    *name;
 225     char    *codec_id;
 226     EbmlBin  codec_priv;
 227     char    *language;
 228     double time_scale;
 229     uint64_t default_duration;
 230     uint64_t flag_default;
 231     uint64_t flag_forced;
 232     uint64_t seek_preroll;
 233     MatroskaTrackVideo video;
 234     MatroskaTrackAudio audio;
 235     MatroskaTrackOperation operation;
 236     EbmlList encodings;
 237     uint64_t codec_delay;
 238     uint64_t codec_delay_in_track_tb;
 239
 240     AVStream *stream;
 241     int64_t end_timecode;
 242     int ms_compat;
 243     uint64_t max_block_additional_id;
 244
 245     uint32_t palette[AVPALETTE_COUNT];
 246     int has_palette;
 247 } MatroskaTrack;
 248
 249 typedef struct MatroskaAttachment {
 250     uint64_t uid;
 251     char *filename;
 252     char *mime;
 253     EbmlBin bin;
 254
 255     AVStream *stream;
 256 } MatroskaAttachment;
 257
 258 typedef struct MatroskaChapter {
 259     uint64_t start;
 260     uint64_t end;
 261     uint64_t uid;
 262     char    *title;
 263
 264     AVChapter *chapter;
 265 } MatroskaChapter;
 266
 267 typedef struct MatroskaIndexPos {
 268     uint64_t track;
 269     uint64_t pos;
 270 } MatroskaIndexPos;
 271
 272 typedef struct MatroskaIndex {
 273     uint64_t time;
 274     EbmlList pos;
 275 } MatroskaIndex;
 276
 277 typedef struct MatroskaTag {
 278     char *name;
 279     char *string;
 280     char *lang;
 281     uint64_t def;
 282     EbmlList sub;
 283 } MatroskaTag;
 284
 285 typedef struct MatroskaTagTarget {
 286     char    *type;
 287     uint64_t typevalue;
 288     uint64_t trackuid;
 289     uint64_t chapteruid;
 290     uint64_t attachuid;
 291 } MatroskaTagTarget;
 292
 293 typedef struct MatroskaTags {
 294     MatroskaTagTarget target;
 295     EbmlList tag;
 296 } MatroskaTags;
 297
 298 typedef struct MatroskaSeekhead {
 299     uint64_t id;
 300     uint64_t pos;
 301 } MatroskaSeekhead;
 302
 303 typedef struct MatroskaLevel {
 304     uint64_t start;
 305     uint64_t length;
 306 } MatroskaLevel;
 307
 308 typedef struct MatroskaBlock {
 309     uint64_t duration;
 310     int64_t  reference;
 311     uint64_t non_simple;
 312     EbmlBin  bin;
 313     uint64_t additional_id;
 314     EbmlBin  additional;
 315     int64_t discard_padding;
 316 } MatroskaBlock;
 317
 318 typedef struct MatroskaCluster {
 319     MatroskaBlock block;
 320     uint64_t timecode;
 321     int64_t pos;
 322 } MatroskaCluster;
 323
 324 typedef struct MatroskaLevel1Element {
 325     uint64_t pos;
 326     uint32_t id;
 327     int parsed;
 328 } MatroskaLevel1Element;
 329
 330 typedef struct MatroskaDemuxContext {
 331     const AVClass *class;
 332     AVFormatContext *ctx;
 333
 334     /* EBML stuff */
 335     int num_levels;
 336     MatroskaLevel levels[EBML_MAX_DEPTH];
 337     uint32_t current_id;
 338
 339     uint64_t time_scale;
 340     double   duration;
 341     char    *title;
 342     char    *muxingapp;
 343     EbmlBin date_utc;
 344     EbmlList tracks;
 345     EbmlList attachments;
 346     EbmlList chapters;
 347     EbmlList index;
 348     EbmlList tags;
 349     EbmlList seekhead;
 350
 351     /* byte position of the segment inside the stream */
 352     int64_t segment_start;
 353
 354     /* the packet queue */
 355     AVPacketList *queue;
 356     AVPacketList *queue_end;
 357
 358     int done;
 359
 360     /* What to skip before effectively reading a packet. */
 361     int skip_to_keyframe;
 362     uint64_t skip_to_timecode;
 363
 364     /* File has a CUES element, but we defer parsing until it is needed. */
 365     int cues_parsing_deferred;
 366
 367     /* Level1 elements and whether they were read yet */
 368     MatroskaLevel1Element level1_elems[64];
 369     int num_level1_elems;
 370
 371     MatroskaCluster current_cluster;
 372
 373     /* WebM DASH Manifest live flag */
 374     int is_live;
 375
 376     /* Bandwidth value for WebM DASH Manifest */
 377     int bandwidth;
 378 } MatroskaDemuxContext;
 379
 380 static const EbmlSyntax ebml_header[] = {
 381     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
 382     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
 383     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
 384     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
 385     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
 386     { EBML_ID_EBMLVERSION,        EBML_NONE },
 387     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
 388     { 0 }
 389 };
 390
 391 static const EbmlSyntax ebml_syntax[] = {
 392     { EBML_ID_HEADER, EBML_NEST, 0, 0, { .n = ebml_header } },
 393     { 0 }
 394 };
 395
 396 static const EbmlSyntax matroska_info[] = {
 397     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
 398     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
 399     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
 400     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
 401     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
 402     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
 403     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
 404     { 0 }
 405 };
 406
 407 static const EbmlSyntax matroska_mastering_meta[] = {
 408     { MATROSKA_ID_VIDEOCOLOR_RX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_x), { .f=-1 } },
 409     { MATROSKA_ID_VIDEOCOLOR_RY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_y), { .f=-1 } },
 410     { MATROSKA_ID_VIDEOCOLOR_GX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_x), { .f=-1 } },
 411     { MATROSKA_ID_VIDEOCOLOR_GY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_y), { .f=-1 } },
 412     { MATROSKA_ID_VIDEOCOLOR_BX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_x), { .f=-1 } },
 413     { MATROSKA_ID_VIDEOCOLOR_BY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_y), { .f=-1 } },
 414     { MATROSKA_ID_VIDEOCOLOR_WHITEX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_x), { .f=-1 } },
 415     { MATROSKA_ID_VIDEOCOLOR_WHITEY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_y), { .f=-1 } },
 416     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMIN, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, min_luminance), { .f=-1 } },
 417     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMAX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, max_luminance), { .f=-1 } },
 418     { 0 }
 419 };
 420
 421 static const EbmlSyntax matroska_track_video_color[] = {
 422     { MATROSKA_ID_VIDEOCOLORMATRIXCOEFF,      EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, matrix_coefficients), { .u = AVCOL_SPC_UNSPECIFIED } },
 423     { MATROSKA_ID_VIDEOCOLORBITSPERCHANNEL,   EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, bits_per_channel), { .u=0 } },
 424     { MATROSKA_ID_VIDEOCOLORCHROMASUBHORZ,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_horz), { .u=0 } },
 425     { MATROSKA_ID_VIDEOCOLORCHROMASUBVERT,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_vert), { .u=0 } },
 426     { MATROSKA_ID_VIDEOCOLORCBSUBHORZ,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_horz), { .u=0 } },
 427     { MATROSKA_ID_VIDEOCOLORCBSUBVERT,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_vert), { .u=0 } },
 428     { MATROSKA_ID_VIDEOCOLORCHROMASITINGHORZ, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_horz), { .u = MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED } },
 429     { MATROSKA_ID_VIDEOCOLORCHROMASITINGVERT, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_vert), { .u = MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED } },
 430     { MATROSKA_ID_VIDEOCOLORRANGE,            EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, range), { .u = AVCOL_RANGE_UNSPECIFIED } },
 431     { MATROSKA_ID_VIDEOCOLORTRANSFERCHARACTERISTICS, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, transfer_characteristics), { .u = AVCOL_TRC_UNSPECIFIED } },
 432     { MATROSKA_ID_VIDEOCOLORPRIMARIES,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, primaries), { .u = AVCOL_PRI_UNSPECIFIED } },
 433     { MATROSKA_ID_VIDEOCOLORMAXCLL,           EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_cll), { .u=0 } },
 434     { MATROSKA_ID_VIDEOCOLORMAXFALL,          EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_fall), { .u=0 } },
 435     { MATROSKA_ID_VIDEOCOLORMASTERINGMETA,    EBML_NEST, 0, offsetof(MatroskaTrackVideoColor, mastering_meta), { .n = matroska_mastering_meta } },
 436     { 0 }
 437 };
 438
 439 static const EbmlSyntax matroska_track_video_projection[] = {
 440     { MATROSKA_ID_VIDEOPROJECTIONTYPE,        EBML_UINT,  0, offsetof(MatroskaTrackVideoProjection, type), { .u = MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR } },
 441     { MATROSKA_ID_VIDEOPROJECTIONPRIVATE,     EBML_BIN,   0, offsetof(MatroskaTrackVideoProjection, private) },
 442     { MATROSKA_ID_VIDEOPROJECTIONPOSEYAW,     EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, yaw), { .f=0.0 } },
 443     { MATROSKA_ID_VIDEOPROJECTIONPOSEPITCH,   EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, pitch), { .f=0.0 } },
 444     { MATROSKA_ID_VIDEOPROJECTIONPOSEROLL,    EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, roll), { .f=0.0 } },
 445     { 0 }
 446 };
 447
 448 static const EbmlSyntax matroska_track_video[] = {
 449     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
 450     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
 451     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
 452     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
 453     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
 454     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
 455     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
 456     { MATROSKA_ID_VIDEOCOLOR,          EBML_NEST,  sizeof(MatroskaTrackVideoColor), offsetof(MatroskaTrackVideo, color), { .n = matroska_track_video_color } },
 457     { MATROSKA_ID_VIDEOPROJECTION,     EBML_NEST,  0, offsetof(MatroskaTrackVideo, projection), { .n = matroska_track_video_projection } },
 458     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
 459     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
 460     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
 461     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
 462     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_unit), { .u= MATROSKA_VIDEO_DISPLAYUNIT_PIXELS } },
 463     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_UINT,  0, offsetof(MatroskaTrackVideo, interlaced),  { .u = MATROSKA_VIDEO_INTERLACE_FLAG_UNDETERMINED } },
 464     { MATROSKA_ID_VIDEOFIELDORDER,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, field_order), { .u = MATROSKA_VIDEO_FIELDORDER_UNDETERMINED } },
 465     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
 466     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
 467     { 0 }
 468 };
 469
 470 static const EbmlSyntax matroska_track_audio[] = {
 471     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
 472     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
 473     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
 474     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
 475     { 0 }
 476 };
 477
 478 static const EbmlSyntax matroska_track_encoding_compression[] = {
 479     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
 480     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
 481     { 0 }
 482 };
 483
 484 static const EbmlSyntax matroska_track_encoding_encryption[] = {
 485     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
 486     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
 487     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
 488     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
 489     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
 490     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
 491     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
 492     { 0 }
 493 };
 494 static const EbmlSyntax matroska_track_encoding[] = {
 495     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
 496     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
 497     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
 498     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
 499     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
 500     { 0 }
 501 };
 502
 503 static const EbmlSyntax matroska_track_encodings[] = {
 504     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
 505     { 0 }
 506 };
 507
 508 static const EbmlSyntax matroska_track_plane[] = {
 509     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
 510     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
 511     { 0 }
 512 };
 513
 514 static const EbmlSyntax matroska_track_combine_planes[] = {
 515     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
 516     { 0 }
 517 };
 518
 519 static const EbmlSyntax matroska_track_operation[] = {
 520     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
 521     { 0 }
 522 };
 523
 524 static const EbmlSyntax matroska_track[] = {
 525     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
 526     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
 527     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
 528     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
 529     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
 530     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
 531     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
 532     { MATROSKA_ID_TRACKLANGUAGE,         EBML_UTF8,  0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
 533     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
 534     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
 535     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
 536     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
 537     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
 538     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
 539     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
 540     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
 541     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
 542     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
 543     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
 544     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
 545     { MATROSKA_ID_CODECNAME,             EBML_NONE },
 546     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
 547     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
 548     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
 549     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
 550     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
 551     { 0 }
 552 };
 553
 554 static const EbmlSyntax matroska_tracks[] = {
 555     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
 556     { 0 }
 557 };
 558
 559 static const EbmlSyntax matroska_attachment[] = {
 560     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
 561     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
 562     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
 563     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
 564     { MATROSKA_ID_FILEDESC,     EBML_NONE },
 565     { 0 }
 566 };
 567
 568 static const EbmlSyntax matroska_attachments[] = {
 569     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
 570     { 0 }
 571 };
 572
 573 static const EbmlSyntax matroska_chapter_display[] = {
 574     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
 575     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
 576     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
 577     { 0 }
 578 };
 579
 580 static const EbmlSyntax matroska_chapter_entry[] = {
 581     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
 582     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
 583     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
 584     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
 585     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
 586     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
 587     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
 588     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
 589     { 0 }
 590 };
 591
 592 static const EbmlSyntax matroska_chapter[] = {
 593     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
 594     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
 595     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
 596     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
 597     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
 598     { 0 }
 599 };
 600
 601 static const EbmlSyntax matroska_chapters[] = {
 602     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
 603     { 0 }
 604 };
 605
 606 static const EbmlSyntax matroska_index_pos[] = {
 607     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
 608     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
 609     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
 610     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
 611     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
 612     { 0 }
 613 };
 614
 615 static const EbmlSyntax matroska_index_entry[] = {
 616     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
 617     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
 618     { 0 }
 619 };
 620
 621 static const EbmlSyntax matroska_index[] = {
 622     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
 623     { 0 }
 624 };
 625
 626 static const EbmlSyntax matroska_simpletag[] = {
 627     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
 628     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
 629     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
 630     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 631     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 632     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
 633     { 0 }
 634 };
 635
 636 static const EbmlSyntax matroska_tagtargets[] = {
 637     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
 638     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
 639     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
 640     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
 641     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
 642     { 0 }
 643 };
 644
 645 static const EbmlSyntax matroska_tag[] = {
 646     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
 647     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
 648     { 0 }
 649 };
 650
 651 static const EbmlSyntax matroska_tags[] = {
 652     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
 653     { 0 }
 654 };
 655
 656 static const EbmlSyntax matroska_seekhead_entry[] = {
 657     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
 658     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
 659     { 0 }
 660 };
 661
 662 static const EbmlSyntax matroska_seekhead[] = {
 663     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
 664     { 0 }
 665 };
 666
 667 static const EbmlSyntax matroska_segment[] = {
 668     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
 669     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
 670     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
 671     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
 672     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
 673     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
 674     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
 675     { MATROSKA_ID_CLUSTER,     EBML_STOP },
 676     { 0 }
 677 };
 678
 679 static const EbmlSyntax matroska_segments[] = {
 680     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
 681     { 0 }
 682 };
 683
 684 static const EbmlSyntax matroska_blockmore[] = {
 685     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id) },
 686     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
 687     { 0 }
 688 };
 689
 690 static const EbmlSyntax matroska_blockadditions[] = {
 691     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
 692     { 0 }
 693 };
 694
 695 static const EbmlSyntax matroska_blockgroup[] = {
 696     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 697     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
 698     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
 699     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
 700     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference), { .i = INT64_MIN } },
 701     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
 702     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
 703     { 0 }
 704 };
 705
 706 static const EbmlSyntax matroska_cluster_parsing[] = {
 707     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
 708     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, 0, 0, { .n = matroska_blockgroup } },
 709     { MATROSKA_ID_SIMPLEBLOCK,     EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 710     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 711     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 712     { MATROSKA_ID_INFO,            EBML_NONE },
 713     { MATROSKA_ID_CUES,            EBML_NONE },
 714     { MATROSKA_ID_TAGS,            EBML_NONE },
 715     { MATROSKA_ID_SEEKHEAD,        EBML_NONE },
 716     { MATROSKA_ID_CLUSTER,         EBML_STOP },
 717     { 0 }
 718 };
 719
 720 static const EbmlSyntax matroska_cluster[] = {
 721     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
 722     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
 723     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
 724     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 725     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 726     { 0 }
 727 };
 728
 729 static const EbmlSyntax matroska_clusters[] = {
 730     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster } },
 731     { MATROSKA_ID_INFO,     EBML_NONE },
 732     { MATROSKA_ID_CUES,     EBML_NONE },
 733     { MATROSKA_ID_TAGS,     EBML_NONE },
 734     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
 735     { 0 }
 736 };
 737
 738 static const char *const matroska_doctypes[] = { "matroska", "webm" };
 739
 740 static int matroska_read_close(AVFormatContext *s);
 741
 742 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
 743 {
 744     AVIOContext *pb = matroska->ctx->pb;
 745     int64_t ret;
 746     uint32_t id;
 747     matroska->current_id = 0;
 748     matroska->num_levels = 0;
 749
 750     /* seek to next position to resync from */
 751     if ((ret = avio_seek(pb, last_pos + 1, SEEK_SET)) < 0) {
 752         matroska->done = 1;
 753         return ret;
 754     }
 755
 756     id = avio_rb32(pb);
 757
 758     // try to find a toplevel element
 759     while (!avio_feof(pb)) {
 760         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
 761             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
 762             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
 763             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
 764             matroska->current_id = id;
 765             return 0;
 766         }
 767         id = (id << 8) | avio_r8(pb);
 768     }
 769
 770     matroska->done = 1;
 771     return AVERROR_EOF;
 772 }
 773
 774 /*
 775  * Return: Whether we reached the end of a level in the hierarchy or not.
 776  */
 777 static int ebml_level_end(MatroskaDemuxContext *matroska)
 778 {
 779     AVIOContext *pb = matroska->ctx->pb;
 780     int64_t pos = avio_tell(pb);
 781
 782     if (matroska->num_levels > 0) {
 783         MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
 784         if (pos - level->start >= level->length || matroska->current_id) {
 785             matroska->num_levels--;
 786             return 1;
 787         }
 788     }
 789     return (matroska->is_live && matroska->ctx->pb->eof_reached) ? 1 : 0;
 790 }
 791
 792 /*
 793  * Read: an "EBML number", which is defined as a variable-length
 794  * array of bytes. The first byte indicates the length by giving a
 795  * number of 0-bits followed by a one. The position of the first
 796  * "one" bit inside the first byte indicates the length of this
 797  * number.
 798  * Returns: number of bytes read, < 0 on error
 799  */
 800 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
 801                          int max_size, uint64_t *number, int eof_forbidden)
 802 {
 803     int read, n = 1;
 804     uint64_t total;
 805     int64_t pos;
 806
 807     /* The first byte tells us the length in bytes - except when it is zero. */
 808     total = avio_r8(pb);
 809     if (pb->eof_reached)
 810         goto err;
 811
 812     /* get the length of the EBML number */
 813     read = 8 - ff_log2_tab[total];
 814
 815     if (!total || read > max_size) {
 816         pos = avio_tell(pb) - 1;
 817         if (!total) {
 818             av_log(matroska->ctx, AV_LOG_ERROR,
 819                    "0x00 at pos %"PRId64" (0x%"PRIx64") invalid as first byte "
 820                    "of an EBML number\n", pos, pos);
 821         } else {
 822             av_log(matroska->ctx, AV_LOG_ERROR,
 823                    "Length %d indicated by an EBML number's first byte 0x%02x "
 824                    "at pos %"PRId64" (0x%"PRIx64") exceeds max length %d.\n",
 825                    read, (uint8_t) total, pos, pos, max_size);
 826         }
 827         return AVERROR_INVALIDDATA;
 828     }
 829
 830     /* read out length */
 831     total ^= 1 << ff_log2_tab[total];
 832     while (n++ < read)
 833         total = (total << 8) | avio_r8(pb);
 834
 835     if (pb->eof_reached) {
 836         eof_forbidden = 1;
 837         goto err;
 838     }
 839
 840     *number = total;
 841
 842     return read;
 843
 844 err:
 845     pos = avio_tell(pb);
 846     if (pb->error) {
 847         av_log(matroska->ctx, AV_LOG_ERROR,
 848                "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
 849                pos, pos);
 850         return pb->error;
 851     }
 852     if (eof_forbidden) {
 853         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
 854                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
 855         return AVERROR(EIO);
 856     }
 857     return AVERROR_EOF;
 858 }
 859
 860 /**
 861  * Read a EBML length value.
 862  * This needs special handling for the "unknown length" case which has multiple
 863  * encodings.
 864  */
 865 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
 866                             uint64_t *number)
 867 {
 868     int res = ebml_read_num(matroska, pb, 8, number, 1);
 869     if (res > 0 && *number + 1 == 1ULL << (7 * res))
 870         *number = EBML_UNKNOWN_LENGTH;
 871     return res;
 872 }
 873
 874 /*
 875  * Read the next element as an unsigned int.
 876  * Returns NEEDS_CHECKING.
 877  */
 878 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
 879 {
 880     int n = 0;
 881
 882     /* big-endian ordering; build up number */
 883     *num = 0;
 884     while (n++ < size)
 885         *num = (*num << 8) | avio_r8(pb);
 886
 887     return NEEDS_CHECKING;
 888 }
 889
 890 /*
 891  * Read the next element as a signed int.
 892  * Returns NEEDS_CHECKING.
 893  */
 894 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
 895 {
 896     int n = 1;
 897
 898     if (size == 0) {
 899         *num = 0;
 900     } else {
 901         *num = sign_extend(avio_r8(pb), 8);
 902
 903         /* big-endian ordering; build up number */
 904         while (n++ < size)
 905             *num = ((uint64_t)*num << 8) | avio_r8(pb);
 906     }
 907
 908     return NEEDS_CHECKING;
 909 }
 910
 911 /*
 912  * Read the next element as a float.
 913  * Returns NEEDS_CHECKING or < 0 on obvious failure.
 914  */
 915 static int ebml_read_float(AVIOContext *pb, int size, double *num)
 916 {
 917     if (size == 0)
 918         *num = 0;
 919     else if (size == 4)
 920         *num = av_int2float(avio_rb32(pb));
 921     else if (size == 8)
 922         *num = av_int2double(avio_rb64(pb));
 923     else
 924         return AVERROR_INVALIDDATA;
 925
 926     return NEEDS_CHECKING;
 927 }
 928
 929 /*
 930  * Read the next element as an ASCII string.
 931  * 0 is success, < 0 or NEEDS_CHECKING is failure.
 932  */
 933 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
 934 {
 935     char *res;
 936     int ret;
 937
 938     /* EBML strings are usually not 0-terminated, so we allocate one
 939      * byte more, read the string and NULL-terminate it ourselves. */
 940     if (!(res = av_malloc(size + 1)))
 941         return AVERROR(ENOMEM);
 942     if ((ret = avio_read(pb, (uint8_t *) res, size)) != size) {
 943         av_free(res);
 944         return ret < 0 ? ret : NEEDS_CHECKING;
 945     }
 946     (res)[size] = '\0';
 947     av_free(*str);
 948     *str = res;
 949
 950     return 0;
 951 }
 952
 953 /*
 954  * Read the next element as binary data.
 955  * 0 is success, < 0 or NEEDS_CHECKING is failure.
 956  */
 957 static int ebml_read_binary(AVIOContext *pb, int length, EbmlBin *bin)
 958 {
 959     int ret;
 960
 961     ret = av_buffer_realloc(&bin->buf, length + AV_INPUT_BUFFER_PADDING_SIZE);
 962     if (ret < 0)
 963         return ret;
 964     memset(bin->buf->data + length, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 965
 966     bin->data = bin->buf->data;
 967     bin->size = length;
 968     bin->pos  = avio_tell(pb);
 969     if ((ret = avio_read(pb, bin->data, length)) != length) {
 970         av_buffer_unref(&bin->buf);
 971         bin->data = NULL;
 972         bin->size = 0;
 973         return ret < 0 ? ret : NEEDS_CHECKING;
 974     }
 975
 976     return 0;
 977 }
 978
 979 /*
 980  * Read the next element, but only the header. The contents
 981  * are supposed to be sub-elements which can be read separately.
 982  * 0 is success, < 0 is failure.
 983  */
 984 static int ebml_read_master(MatroskaDemuxContext *matroska, uint64_t length)
 985 {
 986     AVIOContext *pb = matroska->ctx->pb;
 987     MatroskaLevel *level;
 988
 989     if (matroska->num_levels >= EBML_MAX_DEPTH) {
 990         av_log(matroska->ctx, AV_LOG_ERROR,
 991                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
 992         return AVERROR(ENOSYS);
 993     }
 994
 995     level         = &matroska->levels[matroska->num_levels++];
 996     level->start  = avio_tell(pb);
 997     level->length = length;
 998
 999     return 0;
1000 }
1001
1002 /*
1003  * Read signed/unsigned "EBML" numbers.
1004  * Return: number of bytes processed, < 0 on error
1005  */
1006 static int matroska_ebmlnum_uint(MatroskaDemuxContext *matroska,
1007                                  uint8_t *data, uint32_t size, uint64_t *num)
1008 {
1009     AVIOContext pb;
1010     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
1011     return ebml_read_num(matroska, &pb, FFMIN(size, 8), num, 1);
1012 }
1013
1014 /*
1015  * Same as above, but signed.
1016  */
1017 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
1018                                  uint8_t *data, uint32_t size, int64_t *num)
1019 {
1020     uint64_t unum;
1021     int res;
1022
1023     /* read as unsigned number first */
1024     if ((res = matroska_ebmlnum_uint(matroska, data, size, &unum)) < 0)
1025         return res;
1026
1027     /* make signed (weird way) */
1028     *num = unum - ((1LL << (7 * res - 1)) - 1);
1029
1030     return res;
1031 }
1032
1033 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
1034                            EbmlSyntax *syntax, void *data);
1035
1036 static int ebml_parse_id(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1037                          uint32_t id, void *data)
1038 {
1039     int i;
1040     for (i = 0; syntax[i].id; i++)
1041         if (id == syntax[i].id)
1042             break;
1043     if (!syntax[i].id && id == MATROSKA_ID_CLUSTER &&
1044         matroska->num_levels > 0                   &&
1045         matroska->levels[matroska->num_levels - 1].length == EBML_UNKNOWN_LENGTH)
1046         return 0;  // we reached the end of an unknown size cluster
1047     if (!syntax[i].id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
1048         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32"\n", id);
1049     }
1050     return ebml_parse_elem(matroska, &syntax[i], data);
1051 }
1052
1053 static int ebml_parse(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1054                       void *data)
1055 {
1056     if (!matroska->current_id) {
1057         uint64_t id;
1058         int res = ebml_read_num(matroska, matroska->ctx->pb, 4, &id, 0);
1059         if (res < 0) {
1060             // in live mode, finish parsing if EOF is reached.
1061             return (matroska->is_live && matroska->ctx->pb->eof_reached &&
1062                     res == AVERROR_EOF) ? 1 : res;
1063         }
1064         matroska->current_id = id | 1 << 7 * res;
1065     }
1066     return ebml_parse_id(matroska, syntax, matroska->current_id, data);
1067 }
1068
1069 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1070                            void *data)
1071 {
1072     int i, res = 0;
1073
1074     for (i = 0; syntax[i].id; i++)
1075         switch (syntax[i].type) {
1076         case EBML_SINT:
1077             *(int64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.i;
1078             break;
1079         case EBML_UINT:
1080             *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
1081             break;
1082         case EBML_FLOAT:
1083             *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
1084             break;
1085         case EBML_STR:
1086         case EBML_UTF8:
1087             // the default may be NULL
1088             if (syntax[i].def.s) {
1089                 uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
1090                 *dst = av_strdup(syntax[i].def.s);
1091                 if (!*dst)
1092                     return AVERROR(ENOMEM);
1093             }
1094             break;
1095         }
1096
1097     while (!res && !ebml_level_end(matroska))
1098         res = ebml_parse(matroska, syntax, data);
1099
1100     return res;
1101 }
1102
1103 static int is_ebml_id_valid(uint32_t id)
1104 {
1105     // Due to endian nonsense in Matroska, the highest byte with any bits set
1106     // will contain the leading length bit. This bit in turn identifies the
1107     // total byte length of the element by its position within the byte.
1108     unsigned int bits = av_log2(id);
1109     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1110 }
1111
1112 /*
1113  * Allocate and return the entry for the level1 element with the given ID. If
1114  * an entry already exists, return the existing entry.
1115  */
1116 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1117                                                         uint32_t id)
1118 {
1119     int i;
1120     MatroskaLevel1Element *elem;
1121
1122     if (!is_ebml_id_valid(id))
1123         return NULL;
1124
1125     // Some files link to all clusters; useless.
1126     if (id == MATROSKA_ID_CLUSTER)
1127         return NULL;
1128
1129     // There can be multiple seekheads.
1130     if (id != MATROSKA_ID_SEEKHEAD) {
1131         for (i = 0; i < matroska->num_level1_elems; i++) {
1132             if (matroska->level1_elems[i].id == id)
1133                 return &matroska->level1_elems[i];
1134         }
1135     }
1136
1137     // Only a completely broken file would have more elements.
1138     // It also provides a low-effort way to escape from circular seekheads
1139     // (every iteration will add a level1 entry).
1140     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1141         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements or circular seekheads.\n");
1142         return NULL;
1143     }
1144
1145     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1146     *elem = (MatroskaLevel1Element){.id = id};
1147
1148     return elem;
1149 }
1150
1151 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
1152                            EbmlSyntax *syntax, void *data)
1153 {
1154     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1155         [EBML_UINT]  = 8,
1156         [EBML_SINT]  = 8,
1157         [EBML_FLOAT] = 8,
1158         // max. 16 MB for strings
1159         [EBML_STR]   = 0x1000000,
1160         [EBML_UTF8]  = 0x1000000,
1161         // max. 256 MB for binary data
1162         [EBML_BIN]   = 0x10000000,
1163         // no limits for anything else
1164     };
1165     AVIOContext *pb = matroska->ctx->pb;
1166     uint32_t id = syntax->id;
1167     uint64_t length;
1168     int res;
1169     void *newelem;
1170     MatroskaLevel1Element *level1_elem;
1171
1172     data = (char *) data + syntax->data_offset;
1173     if (syntax->list_elem_size) {
1174         EbmlList *list = data;
1175         newelem = av_realloc_array(list->elem, list->nb_elem + 1, syntax->list_elem_size);
1176         if (!newelem)
1177             return AVERROR(ENOMEM);
1178         list->elem = newelem;
1179         data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1180         memset(data, 0, syntax->list_elem_size);
1181         list->nb_elem++;
1182     }
1183
1184     if (syntax->type != EBML_STOP) {
1185         matroska->current_id = 0;
1186         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1187             return res;
1188         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1189             av_log(matroska->ctx, AV_LOG_ERROR,
1190                    "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for syntax element %i\n",
1191                    length, max_lengths[syntax->type], syntax->type);
1192             return AVERROR_INVALIDDATA;
1193         }
1194         if (matroska->num_levels > 0) {
1195             MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
1196             AVIOContext *pb = matroska->ctx->pb;
1197             int64_t pos = avio_tell(pb);
1198
1199             if (length != EBML_UNKNOWN_LENGTH &&
1200                 level->length != EBML_UNKNOWN_LENGTH) {
1201                 uint64_t elem_end = pos + length,
1202                         level_end = level->start + level->length;
1203
1204                 if (level_end < elem_end) {
1205                     av_log(matroska->ctx, AV_LOG_ERROR,
1206                            "Element at 0x%"PRIx64" ending at 0x%"PRIx64" exceeds "
1207                            "containing master element ending at 0x%"PRIx64"\n",
1208                            pos, elem_end, level_end);
1209                     return AVERROR_INVALIDDATA;
1210                 }
1211             } else if (level->length != EBML_UNKNOWN_LENGTH) {
1212                 av_log(matroska->ctx, AV_LOG_ERROR, "Unknown-sized element "
1213                        "at 0x%"PRIx64" inside parent with finite size\n", pos);
1214                 return AVERROR_INVALIDDATA;
1215             } else if (length == EBML_UNKNOWN_LENGTH && id != MATROSKA_ID_CLUSTER) {
1216                 // According to the specifications only clusters and segments
1217                 // are allowed to be unknown-sized.
1218                 av_log(matroska->ctx, AV_LOG_ERROR,
1219                        "Found unknown-sized element other than a cluster at "
1220                        "0x%"PRIx64". Dropping the invalid element.\n", pos);
1221                 return AVERROR_INVALIDDATA;
1222             }
1223         }
1224     }
1225
1226     switch (syntax->type) {
1227     case EBML_UINT:
1228         res = ebml_read_uint(pb, length, data);
1229         break;
1230     case EBML_SINT:
1231         res = ebml_read_sint(pb, length, data);
1232         break;
1233     case EBML_FLOAT:
1234         res = ebml_read_float(pb, length, data);
1235         break;
1236     case EBML_STR:
1237     case EBML_UTF8:
1238         res = ebml_read_ascii(pb, length, data);
1239         break;
1240     case EBML_BIN:
1241         res = ebml_read_binary(pb, length, data);
1242         break;
1243     case EBML_LEVEL1:
1244     case EBML_NEST:
1245         if ((res = ebml_read_master(matroska, length)) < 0)
1246             return res;
1247         if (id == MATROSKA_ID_SEGMENT)
1248             matroska->segment_start = avio_tell(matroska->ctx->pb);
1249         if (id == MATROSKA_ID_CUES)
1250             matroska->cues_parsing_deferred = 0;
1251         if (syntax->type == EBML_LEVEL1 &&
1252             (level1_elem = matroska_find_level1_elem(matroska, syntax->id))) {
1253             if (level1_elem->parsed)
1254                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1255             level1_elem->parsed = 1;
1256         }
1257         return ebml_parse_nest(matroska, syntax->def.n, data);
1258     case EBML_STOP:
1259         return 1;
1260     default:
1261         if (length) {
1262             int64_t res2;
1263             if (ffio_limit(pb, length) != length) {
1264                 // ffio_limit emits its own error message,
1265                 // so we don't have to.
1266                 return AVERROR(EIO);
1267             }
1268             if ((res2 = avio_skip(pb, length - 1)) >= 0) {
1269                 // avio_skip might take us past EOF. We check for this
1270                 // by skipping only length - 1 bytes, reading a byte and
1271                 // checking the error flags. This is done in order to check
1272                 // that the element has been properly skipped even when
1273                 // no filesize (that ffio_limit relies on) is available.
1274                 avio_r8(pb);
1275                 res = NEEDS_CHECKING;
1276             } else
1277                 res = res2;
1278         } else
1279             res = 0;
1280     }
1281     if (res) {
1282         if (res == NEEDS_CHECKING) {
1283             if (pb->eof_reached) {
1284                 if (pb->error)
1285                     res = pb->error;
1286                 else
1287                     res = AVERROR_EOF;
1288             } else
1289                 res = 0;
1290         }
1291
1292         if (res == AVERROR_INVALIDDATA)
1293             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1294         else if (res == AVERROR(EIO))
1295             av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1296         else if (res == AVERROR_EOF) {
1297             av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely\n");
1298             res = AVERROR(EIO);
1299         }
1300     }
1301     return res;
1302 }
1303
1304 static void ebml_free(EbmlSyntax *syntax, void *data)
1305 {
1306     int i, j;
1307     for (i = 0; syntax[i].id; i++) {
1308         void *data_off = (char *) data + syntax[i].data_offset;
1309         switch (syntax[i].type) {
1310         case EBML_STR:
1311         case EBML_UTF8:
1312             av_freep(data_off);
1313             break;
1314         case EBML_BIN:
1315             av_buffer_unref(&((EbmlBin *) data_off)->buf);
1316             break;
1317         case EBML_LEVEL1:
1318         case EBML_NEST:
1319             if (syntax[i].list_elem_size) {
1320                 EbmlList *list = data_off;
1321                 char *ptr = list->elem;
1322                 for (j = 0; j < list->nb_elem;
1323                      j++, ptr += syntax[i].list_elem_size)
1324                     ebml_free(syntax[i].def.n, ptr);
1325                 av_freep(&list->elem);
1326                 list->nb_elem = 0;
1327             } else
1328                 ebml_free(syntax[i].def.n, data_off);
1329         default:
1330             break;
1331         }
1332     }
1333 }
1334
1335 /*
1336  * Autodetecting...
1337  */
1338 static int matroska_probe(const AVProbeData *p)
1339 {
1340     uint64_t total = 0;
1341     int len_mask = 0x80, size = 1, n = 1, i;
1342
1343     /* EBML header? */
1344     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1345         return 0;
1346
1347     /* length of header */
1348     total = p->buf[4];
1349     while (size <= 8 && !(total & len_mask)) {
1350         size++;
1351         len_mask >>= 1;
1352     }
1353     if (size > 8)
1354         return 0;
1355     total &= (len_mask - 1);
1356     while (n < size)
1357         total = (total << 8) | p->buf[4 + n++];
1358
1359     /* Does the probe data contain the whole header? */
1360     if (p->buf_size < 4 + size + total)
1361         return 0;
1362
1363     /* The header should contain a known document type. For now,
1364      * we don't parse the whole header but simply check for the
1365      * availability of that array of characters inside the header.
1366      * Not fully fool-proof, but good enough. */
1367     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1368         size_t probelen = strlen(matroska_doctypes[i]);
1369         if (total < probelen)
1370             continue;
1371         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1372             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1373                 return AVPROBE_SCORE_MAX;
1374     }
1375
1376     // probably valid EBML header but no recognized doctype
1377     return AVPROBE_SCORE_EXTENSION;
1378 }
1379
1380 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1381                                                  int num)
1382 {
1383     MatroskaTrack *tracks = matroska->tracks.elem;
1384     int i;
1385
1386     for (i = 0; i < matroska->tracks.nb_elem; i++)
1387         if (tracks[i].num == num)
1388             return &tracks[i];
1389
1390     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
1391     return NULL;
1392 }
1393
1394 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1395                                   MatroskaTrack *track)
1396 {
1397     MatroskaTrackEncoding *encodings = track->encodings.elem;
1398     uint8_t *data = *buf;
1399     int isize = *buf_size;
1400     uint8_t *pkt_data = NULL;
1401     uint8_t av_unused *newpktdata;
1402     int pkt_size = isize;
1403     int result = 0;
1404     int olen;
1405
1406     if (pkt_size >= 10000000U)
1407         return AVERROR_INVALIDDATA;
1408
1409     switch (encodings[0].compression.algo) {
1410     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1411     {
1412         int header_size = encodings[0].compression.settings.size;
1413         uint8_t *header = encodings[0].compression.settings.data;
1414
1415         if (header_size && !header) {
1416             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1417             return -1;
1418         }
1419
1420         if (!header_size)
1421             return 0;
1422
1423         pkt_size = isize + header_size;
1424         pkt_data = av_malloc(pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1425         if (!pkt_data)
1426             return AVERROR(ENOMEM);
1427
1428         memcpy(pkt_data, header, header_size);
1429         memcpy(pkt_data + header_size, data, isize);
1430         break;
1431     }
1432 #if CONFIG_LZO
1433     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1434         do {
1435             olen       = pkt_size *= 3;
1436             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING
1437                                                        + AV_INPUT_BUFFER_PADDING_SIZE);
1438             if (!newpktdata) {
1439                 result = AVERROR(ENOMEM);
1440                 goto failed;
1441             }
1442             pkt_data = newpktdata;
1443             result   = av_lzo1x_decode(pkt_data, &olen, data, &isize);
1444         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1445         if (result) {
1446             result = AVERROR_INVALIDDATA;
1447             goto failed;
1448         }
1449         pkt_size -= olen;
1450         break;
1451 #endif
1452 #if CONFIG_ZLIB
1453     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1454     {
1455         z_stream zstream = { 0 };
1456         if (inflateInit(&zstream) != Z_OK)
1457             return -1;
1458         zstream.next_in  = data;
1459         zstream.avail_in = isize;
1460         do {
1461             pkt_size  *= 3;
1462             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1463             if (!newpktdata) {
1464                 inflateEnd(&zstream);
1465                 result = AVERROR(ENOMEM);
1466                 goto failed;
1467             }
1468             pkt_data          = newpktdata;
1469             zstream.avail_out = pkt_size - zstream.total_out;
1470             zstream.next_out  = pkt_data + zstream.total_out;
1471             result = inflate(&zstream, Z_NO_FLUSH);
1472         } while (result == Z_OK && pkt_size < 10000000);
1473         pkt_size = zstream.total_out;
1474         inflateEnd(&zstream);
1475         if (result != Z_STREAM_END) {
1476             if (result == Z_MEM_ERROR)
1477                 result = AVERROR(ENOMEM);
1478             else
1479                 result = AVERROR_INVALIDDATA;
1480             goto failed;
1481         }
1482         break;
1483     }
1484 #endif
1485 #if CONFIG_BZLIB
1486     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1487     {
1488         bz_stream bzstream = { 0 };
1489         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1490             return -1;
1491         bzstream.next_in  = data;
1492         bzstream.avail_in = isize;
1493         do {
1494             pkt_size  *= 3;
1495             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1496             if (!newpktdata) {
1497                 BZ2_bzDecompressEnd(&bzstream);
1498                 result = AVERROR(ENOMEM);
1499                 goto failed;
1500             }
1501             pkt_data           = newpktdata;
1502             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1503             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1504             result = BZ2_bzDecompress(&bzstream);
1505         } while (result == BZ_OK && pkt_size < 10000000);
1506         pkt_size = bzstream.total_out_lo32;
1507         BZ2_bzDecompressEnd(&bzstream);
1508         if (result != BZ_STREAM_END) {
1509             if (result == BZ_MEM_ERROR)
1510                 result = AVERROR(ENOMEM);
1511             else
1512                 result = AVERROR_INVALIDDATA;
1513             goto failed;
1514         }
1515         break;
1516     }
1517 #endif
1518     default:
1519         return AVERROR_INVALIDDATA;
1520     }
1521
1522     memset(pkt_data + pkt_size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1523
1524     *buf      = pkt_data;
1525     *buf_size = pkt_size;
1526     return 0;
1527
1528 failed:
1529     av_free(pkt_data);
1530     return result;
1531 }
1532
1533 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1534                                  AVDictionary **metadata, char *prefix)
1535 {
1536     MatroskaTag *tags = list->elem;
1537     char key[1024];
1538     int i;
1539
1540     for (i = 0; i < list->nb_elem; i++) {
1541         const char *lang = tags[i].lang &&
1542                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1543
1544         if (!tags[i].name) {
1545             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1546             continue;
1547         }
1548         if (prefix)
1549             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1550         else
1551             av_strlcpy(key, tags[i].name, sizeof(key));
1552         if (tags[i].def || !lang) {
1553             av_dict_set(metadata, key, tags[i].string, 0);
1554             if (tags[i].sub.nb_elem)
1555                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1556         }
1557         if (lang) {
1558             av_strlcat(key, "-", sizeof(key));
1559             av_strlcat(key, lang, sizeof(key));
1560             av_dict_set(metadata, key, tags[i].string, 0);
1561             if (tags[i].sub.nb_elem)
1562                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1563         }
1564     }
1565     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1566 }
1567
1568 static void matroska_convert_tags(AVFormatContext *s)
1569 {
1570     MatroskaDemuxContext *matroska = s->priv_data;
1571     MatroskaTags *tags = matroska->tags.elem;
1572     int i, j;
1573
1574     for (i = 0; i < matroska->tags.nb_elem; i++) {
1575         if (tags[i].target.attachuid) {
1576             MatroskaAttachment *attachment = matroska->attachments.elem;
1577             int found = 0;
1578             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1579                 if (attachment[j].uid == tags[i].target.attachuid &&
1580                     attachment[j].stream) {
1581                     matroska_convert_tag(s, &tags[i].tag,
1582                                          &attachment[j].stream->metadata, NULL);
1583                     found = 1;
1584                 }
1585             }
1586             if (!found) {
1587                 av_log(NULL, AV_LOG_WARNING,
1588                        "The tags at index %d refer to a "
1589                        "non-existent attachment %"PRId64".\n",
1590                        i, tags[i].target.attachuid);
1591             }
1592         } else if (tags[i].target.chapteruid) {
1593             MatroskaChapter *chapter = matroska->chapters.elem;
1594             int found = 0;
1595             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1596                 if (chapter[j].uid == tags[i].target.chapteruid &&
1597                     chapter[j].chapter) {
1598                     matroska_convert_tag(s, &tags[i].tag,
1599                                          &chapter[j].chapter->metadata, NULL);
1600                     found = 1;
1601                 }
1602             }
1603             if (!found) {
1604                 av_log(NULL, AV_LOG_WARNING,
1605                        "The tags at index %d refer to a non-existent chapter "
1606                        "%"PRId64".\n",
1607                        i, tags[i].target.chapteruid);
1608             }
1609         } else if (tags[i].target.trackuid) {
1610             MatroskaTrack *track = matroska->tracks.elem;
1611             int found = 0;
1612             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1613                 if (track[j].uid == tags[i].target.trackuid &&
1614                     track[j].stream) {
1615                     matroska_convert_tag(s, &tags[i].tag,
1616                                          &track[j].stream->metadata, NULL);
1617                     found = 1;
1618                }
1619             }
1620             if (!found) {
1621                 av_log(NULL, AV_LOG_WARNING,
1622                        "The tags at index %d refer to a non-existent track "
1623                        "%"PRId64".\n",
1624                        i, tags[i].target.trackuid);
1625             }
1626         } else {
1627             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1628                                  tags[i].target.type);
1629         }
1630     }
1631 }
1632
1633 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1634                                          uint64_t pos)
1635 {
1636     uint32_t saved_id       = matroska->current_id;
1637     int64_t before_pos = avio_tell(matroska->ctx->pb);
1638     MatroskaLevel level;
1639     int64_t offset;
1640     int ret = 0;
1641
1642     /* seek */
1643     offset = pos + matroska->segment_start;
1644     if (avio_seek(matroska->ctx->pb, offset, SEEK_SET) == offset) {
1645         /* We don't want to lose our seekhead level, so we add
1646          * a dummy. This is a crude hack. */
1647         if (matroska->num_levels == EBML_MAX_DEPTH) {
1648             av_log(matroska->ctx, AV_LOG_INFO,
1649                    "Max EBML element depth (%d) reached, "
1650                    "cannot parse further.\n", EBML_MAX_DEPTH);
1651             ret = AVERROR_INVALIDDATA;
1652         } else {
1653             level.start  = 0;
1654             level.length = EBML_UNKNOWN_LENGTH;
1655             matroska->levels[matroska->num_levels] = level;
1656             matroska->num_levels++;
1657             matroska->current_id                   = 0;
1658
1659             ret = ebml_parse(matroska, matroska_segment, matroska);
1660
1661             /* remove dummy level */
1662             while (matroska->num_levels) {
1663                 uint64_t length = matroska->levels[--matroska->num_levels].length;
1664                 if (length == EBML_UNKNOWN_LENGTH)
1665                     break;
1666             }
1667         }
1668     }
1669     /* seek back */
1670     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
1671     matroska->current_id = saved_id;
1672
1673     return ret;
1674 }
1675
1676 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1677 {
1678     EbmlList *seekhead_list = &matroska->seekhead;
1679     int i;
1680
1681     // we should not do any seeking in the streaming case
1682     if (!(matroska->ctx->pb->seekable & AVIO_SEEKABLE_NORMAL))
1683         return;
1684
1685     for (i = 0; i < seekhead_list->nb_elem; i++) {
1686         MatroskaSeekhead *seekheads = seekhead_list->elem;
1687         uint32_t id  = seekheads[i].id;
1688         uint64_t pos = seekheads[i].pos;
1689
1690         MatroskaLevel1Element *elem = matroska_find_level1_elem(matroska, id);
1691         if (!elem || elem->parsed)
1692             continue;
1693
1694         elem->pos = pos;
1695
1696         // defer cues parsing until we actually need cue data.
1697         if (id == MATROSKA_ID_CUES)
1698             continue;
1699
1700         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1701             // mark index as broken
1702             matroska->cues_parsing_deferred = -1;
1703             break;
1704         }
1705
1706         elem->parsed = 1;
1707     }
1708 }
1709
1710 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1711 {
1712     EbmlList *index_list;
1713     MatroskaIndex *index;
1714     uint64_t index_scale = 1;
1715     int i, j;
1716
1717     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1718         return;
1719
1720     index_list = &matroska->index;
1721     index      = index_list->elem;
1722     if (index_list->nb_elem < 2)
1723         return;
1724     if (index[1].time > 1E14 / matroska->time_scale) {
1725         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1726         return;
1727     }
1728     for (i = 0; i < index_list->nb_elem; i++) {
1729         EbmlList *pos_list    = &index[i].pos;
1730         MatroskaIndexPos *pos = pos_list->elem;
1731         for (j = 0; j < pos_list->nb_elem; j++) {
1732             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1733                                                               pos[j].track);
1734             if (track && track->stream)
1735                 av_add_index_entry(track->stream,
1736                                    pos[j].pos + matroska->segment_start,
1737                                    index[i].time / index_scale, 0, 0,
1738                                    AVINDEX_KEYFRAME);
1739         }
1740     }
1741 }
1742
1743 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1744     int i;
1745
1746     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1747         return;
1748
1749     for (i = 0; i < matroska->num_level1_elems; i++) {
1750         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1751         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1752             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1753                 matroska->cues_parsing_deferred = -1;
1754             elem->parsed = 1;
1755             break;
1756         }
1757     }
1758
1759     matroska_add_index_entries(matroska);
1760 }
1761
1762 static int matroska_aac_profile(char *codec_id)
1763 {
1764     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1765     int profile;
1766
1767     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1768         if (strstr(codec_id, aac_profiles[profile]))
1769             break;
1770     return profile + 1;
1771 }
1772
1773 static int matroska_aac_sri(int samplerate)
1774 {
1775     int sri;
1776
1777     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1778         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1779             break;
1780     return sri;
1781 }
1782
1783 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1784 {
1785     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1786     avpriv_dict_set_timestamp(metadata, "creation_time", date_utc / 1000 + 978307200000000LL);
1787 }
1788
1789 static int matroska_parse_flac(AVFormatContext *s,
1790                                MatroskaTrack *track,
1791                                int *offset)
1792 {
1793     AVStream *st = track->stream;
1794     uint8_t *p = track->codec_priv.data;
1795     int size   = track->codec_priv.size;
1796
1797     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1798         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1799         track->codec_priv.size = 0;
1800         return 0;
1801     }
1802     *offset = 8;
1803     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1804
1805     p    += track->codec_priv.size;
1806     size -= track->codec_priv.size;
1807
1808     /* parse the remaining metadata blocks if present */
1809     while (size >= 4) {
1810         int block_last, block_type, block_size;
1811
1812         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1813
1814         p    += 4;
1815         size -= 4;
1816         if (block_size > size)
1817             return 0;
1818
1819         /* check for the channel mask */
1820         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
1821             AVDictionary *dict = NULL;
1822             AVDictionaryEntry *chmask;
1823
1824             ff_vorbis_comment(s, &dict, p, block_size, 0);
1825             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
1826             if (chmask) {
1827                 uint64_t mask = strtol(chmask->value, NULL, 0);
1828                 if (!mask || mask & ~0x3ffffULL) {
1829                     av_log(s, AV_LOG_WARNING,
1830                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
1831                 } else
1832                     st->codecpar->channel_layout = mask;
1833             }
1834             av_dict_free(&dict);
1835         }
1836
1837         p    += block_size;
1838         size -= block_size;
1839     }
1840
1841     return 0;
1842 }
1843
1844 static int mkv_field_order(MatroskaDemuxContext *matroska, int64_t field_order)
1845 {
1846     int major, minor, micro, bttb = 0;
1847
1848     /* workaround a bug in our Matroska muxer, introduced in version 57.36 alongside
1849      * this function, and fixed in 57.52 */
1850     if (matroska->muxingapp && sscanf(matroska->muxingapp, "Lavf%d.%d.%d", &major, &minor, &micro) == 3)
1851         bttb = (major == 57 && minor >= 36 && minor <= 51 && micro >= 100);
1852
1853     switch (field_order) {
1854     case MATROSKA_VIDEO_FIELDORDER_PROGRESSIVE:
1855         return AV_FIELD_PROGRESSIVE;
1856     case MATROSKA_VIDEO_FIELDORDER_UNDETERMINED:
1857         return AV_FIELD_UNKNOWN;
1858     case MATROSKA_VIDEO_FIELDORDER_TT:
1859         return AV_FIELD_TT;
1860     case MATROSKA_VIDEO_FIELDORDER_BB:
1861         return AV_FIELD_BB;
1862     case MATROSKA_VIDEO_FIELDORDER_BT:
1863         return bttb ? AV_FIELD_TB : AV_FIELD_BT;
1864     case MATROSKA_VIDEO_FIELDORDER_TB:
1865         return bttb ? AV_FIELD_BT : AV_FIELD_TB;
1866     default:
1867         return AV_FIELD_UNKNOWN;
1868     }
1869 }
1870
1871 static void mkv_stereo_mode_display_mul(int stereo_mode,
1872                                         int *h_width, int *h_height)
1873 {
1874     switch (stereo_mode) {
1875         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
1876         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
1877         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
1878         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
1879         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
1880             break;
1881         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
1882         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
1883         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
1884         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
1885             *h_width = 2;
1886             break;
1887         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
1888         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
1889         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
1890         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
1891             *h_height = 2;
1892             break;
1893     }
1894 }
1895
1896 static int mkv_parse_video_color(AVStream *st, const MatroskaTrack *track) {
1897     const MatroskaTrackVideoColor *color = track->video.color.elem;
1898     const MatroskaMasteringMeta *mastering_meta;
1899     int has_mastering_primaries, has_mastering_luminance;
1900
1901     if (!track->video.color.nb_elem)
1902         return 0;
1903
1904     mastering_meta = &color->mastering_meta;
1905     // Mastering primaries are CIE 1931 coords, and must be > 0.
1906     has_mastering_primaries =
1907         mastering_meta->r_x > 0 && mastering_meta->r_y > 0 &&
1908         mastering_meta->g_x > 0 && mastering_meta->g_y > 0 &&
1909         mastering_meta->b_x > 0 && mastering_meta->b_y > 0 &&
1910         mastering_meta->white_x > 0 && mastering_meta->white_y > 0;
1911     has_mastering_luminance = mastering_meta->max_luminance > 0;
1912
1913     if (color->matrix_coefficients != AVCOL_SPC_RESERVED)
1914         st->codecpar->color_space = color->matrix_coefficients;
1915     if (color->primaries != AVCOL_PRI_RESERVED &&
1916         color->primaries != AVCOL_PRI_RESERVED0)
1917         st->codecpar->color_primaries = color->primaries;
1918     if (color->transfer_characteristics != AVCOL_TRC_RESERVED &&
1919         color->transfer_characteristics != AVCOL_TRC_RESERVED0)
1920         st->codecpar->color_trc = color->transfer_characteristics;
1921     if (color->range != AVCOL_RANGE_UNSPECIFIED &&
1922         color->range <= AVCOL_RANGE_JPEG)
1923         st->codecpar->color_range = color->range;
1924     if (color->chroma_siting_horz != MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED &&
1925         color->chroma_siting_vert != MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED &&
1926         color->chroma_siting_horz  < MATROSKA_COLOUR_CHROMASITINGHORZ_NB &&
1927         color->chroma_siting_vert  < MATROSKA_COLOUR_CHROMASITINGVERT_NB) {
1928         st->codecpar->chroma_location =
1929             avcodec_chroma_pos_to_enum((color->chroma_siting_horz - 1) << 7,
1930                                        (color->chroma_siting_vert - 1) << 7);
1931     }
1932     if (color->max_cll && color->max_fall) {
1933         size_t size = 0;
1934         int ret;
1935         AVContentLightMetadata *metadata = av_content_light_metadata_alloc(&size);
1936         if (!metadata)
1937             return AVERROR(ENOMEM);
1938         ret = av_stream_add_side_data(st, AV_PKT_DATA_CONTENT_LIGHT_LEVEL,
1939                                       (uint8_t *)metadata, size);
1940         if (ret < 0) {
1941             av_freep(&metadata);
1942             return ret;
1943         }
1944         metadata->MaxCLL  = color->max_cll;
1945         metadata->MaxFALL = color->max_fall;
1946     }
1947
1948     if (has_mastering_primaries || has_mastering_luminance) {
1949         // Use similar rationals as other standards.
1950         const int chroma_den = 50000;
1951         const int luma_den = 10000;
1952         AVMasteringDisplayMetadata *metadata =
1953             (AVMasteringDisplayMetadata*) av_stream_new_side_data(
1954                 st, AV_PKT_DATA_MASTERING_DISPLAY_METADATA,
1955                 sizeof(AVMasteringDisplayMetadata));
1956         if (!metadata) {
1957             return AVERROR(ENOMEM);
1958         }
1959         memset(metadata, 0, sizeof(AVMasteringDisplayMetadata));
1960         if (has_mastering_primaries) {
1961             metadata->display_primaries[0][0] = av_make_q(
1962                 round(mastering_meta->r_x * chroma_den), chroma_den);
1963             metadata->display_primaries[0][1] = av_make_q(
1964                 round(mastering_meta->r_y * chroma_den), chroma_den);
1965             metadata->display_primaries[1][0] = av_make_q(
1966                 round(mastering_meta->g_x * chroma_den), chroma_den);
1967             metadata->display_primaries[1][1] = av_make_q(
1968                 round(mastering_meta->g_y * chroma_den), chroma_den);
1969             metadata->display_primaries[2][0] = av_make_q(
1970                 round(mastering_meta->b_x * chroma_den), chroma_den);
1971             metadata->display_primaries[2][1] = av_make_q(
1972                 round(mastering_meta->b_y * chroma_den), chroma_den);
1973             metadata->white_point[0] = av_make_q(
1974                 round(mastering_meta->white_x * chroma_den), chroma_den);
1975             metadata->white_point[1] = av_make_q(
1976                 round(mastering_meta->white_y * chroma_den), chroma_den);
1977             metadata->has_primaries = 1;
1978         }
1979         if (has_mastering_luminance) {
1980             metadata->max_luminance = av_make_q(
1981                 round(mastering_meta->max_luminance * luma_den), luma_den);
1982             metadata->min_luminance = av_make_q(
1983                 round(mastering_meta->min_luminance * luma_den), luma_den);
1984             metadata->has_luminance = 1;
1985         }
1986     }
1987     return 0;
1988 }
1989
1990 static int mkv_parse_video_projection(AVStream *st, const MatroskaTrack *track) {
1991     AVSphericalMapping *spherical;
1992     enum AVSphericalProjection projection;
1993     size_t spherical_size;
1994     uint32_t l = 0, t = 0, r = 0, b = 0;
1995     uint32_t padding = 0;
1996     int ret;
1997     GetByteContext gb;
1998
1999     bytestream2_init(&gb, track->video.projection.private.data,
2000                      track->video.projection.private.size);
2001
2002     if (bytestream2_get_byte(&gb) != 0) {
2003         av_log(NULL, AV_LOG_WARNING, "Unknown spherical metadata\n");
2004         return 0;
2005     }
2006
2007     bytestream2_skip(&gb, 3); // flags
2008
2009     switch (track->video.projection.type) {
2010     case MATROSKA_VIDEO_PROJECTION_TYPE_EQUIRECTANGULAR:
2011         if (track->video.projection.private.size == 20) {
2012             t = bytestream2_get_be32(&gb);
2013             b = bytestream2_get_be32(&gb);
2014             l = bytestream2_get_be32(&gb);
2015             r = bytestream2_get_be32(&gb);
2016
2017             if (b >= UINT_MAX - t || r >= UINT_MAX - l) {
2018                 av_log(NULL, AV_LOG_ERROR,
2019                        "Invalid bounding rectangle coordinates "
2020                        "%"PRIu32",%"PRIu32",%"PRIu32",%"PRIu32"\n",
2021                        l, t, r, b);
2022                 return AVERROR_INVALIDDATA;
2023             }
2024         } else if (track->video.projection.private.size != 0) {
2025             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2026             return AVERROR_INVALIDDATA;
2027         }
2028
2029         if (l || t || r || b)
2030             projection = AV_SPHERICAL_EQUIRECTANGULAR_TILE;
2031         else
2032             projection = AV_SPHERICAL_EQUIRECTANGULAR;
2033         break;
2034     case MATROSKA_VIDEO_PROJECTION_TYPE_CUBEMAP:
2035         if (track->video.projection.private.size < 4) {
2036             av_log(NULL, AV_LOG_ERROR, "Missing projection private properties\n");
2037             return AVERROR_INVALIDDATA;
2038         } else if (track->video.projection.private.size == 12) {
2039             uint32_t layout = bytestream2_get_be32(&gb);
2040             if (layout) {
2041                 av_log(NULL, AV_LOG_WARNING,
2042                        "Unknown spherical cubemap layout %"PRIu32"\n", layout);
2043                 return 0;
2044             }
2045             projection = AV_SPHERICAL_CUBEMAP;
2046             padding = bytestream2_get_be32(&gb);
2047         } else {
2048             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2049             return AVERROR_INVALIDDATA;
2050         }
2051         break;
2052     case MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR:
2053         /* No Spherical metadata */
2054         return 0;
2055     default:
2056         av_log(NULL, AV_LOG_WARNING,
2057                "Unknown spherical metadata type %"PRIu64"\n",
2058                track->video.projection.type);
2059         return 0;
2060     }
2061
2062     spherical = av_spherical_alloc(&spherical_size);
2063     if (!spherical)
2064         return AVERROR(ENOMEM);
2065
2066     spherical->projection = projection;
2067
2068     spherical->yaw   = (int32_t) (track->video.projection.yaw   * (1 << 16));
2069     spherical->pitch = (int32_t) (track->video.projection.pitch * (1 << 16));
2070     spherical->roll  = (int32_t) (track->video.projection.roll  * (1 << 16));
2071
2072     spherical->padding = padding;
2073
2074     spherical->bound_left   = l;
2075     spherical->bound_top    = t;
2076     spherical->bound_right  = r;
2077     spherical->bound_bottom = b;
2078
2079     ret = av_stream_add_side_data(st, AV_PKT_DATA_SPHERICAL, (uint8_t *)spherical,
2080                                   spherical_size);
2081     if (ret < 0) {
2082         av_freep(&spherical);
2083         return ret;
2084     }
2085
2086     return 0;
2087 }
2088
2089 static int get_qt_codec(MatroskaTrack *track, uint32_t *fourcc, enum AVCodecID *codec_id)
2090 {
2091     const AVCodecTag *codec_tags;
2092
2093     codec_tags = track->type == MATROSKA_TRACK_TYPE_VIDEO ?
2094             ff_codec_movvideo_tags : ff_codec_movaudio_tags;
2095
2096     /* Normalize noncompliant private data that starts with the fourcc
2097      * by expanding/shifting the data by 4 bytes and storing the data
2098      * size at the start. */
2099     if (ff_codec_get_id(codec_tags, AV_RL32(track->codec_priv.data))) {
2100         int ret = av_buffer_realloc(&track->codec_priv.buf,
2101                                     track->codec_priv.size + 4 + AV_INPUT_BUFFER_PADDING_SIZE);
2102         if (ret < 0)
2103             return ret;
2104
2105         track->codec_priv.data = track->codec_priv.buf->data;
2106         memmove(track->codec_priv.data + 4, track->codec_priv.data, track->codec_priv.size);
2107         track->codec_priv.size += 4;
2108         AV_WB32(track->codec_priv.data, track->codec_priv.size);
2109     }
2110
2111     *fourcc = AV_RL32(track->codec_priv.data + 4);
2112     *codec_id = ff_codec_get_id(codec_tags, *fourcc);
2113
2114     return 0;
2115 }
2116
2117 static int matroska_parse_tracks(AVFormatContext *s)
2118 {
2119     MatroskaDemuxContext *matroska = s->priv_data;
2120     MatroskaTrack *tracks = matroska->tracks.elem;
2121     AVStream *st;
2122     int i, j, ret;
2123     int k;
2124
2125     for (i = 0; i < matroska->tracks.nb_elem; i++) {
2126         MatroskaTrack *track = &tracks[i];
2127         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
2128         EbmlList *encodings_list = &track->encodings;
2129         MatroskaTrackEncoding *encodings = encodings_list->elem;
2130         uint8_t *extradata = NULL;
2131         int extradata_size = 0;
2132         int extradata_offset = 0;
2133         uint32_t fourcc = 0;
2134         AVIOContext b;
2135         char* key_id_base64 = NULL;
2136         int bit_depth = -1;
2137
2138         /* Apply some sanity checks. */
2139         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
2140             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
2141             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
2142             track->type != MATROSKA_TRACK_TYPE_METADATA) {
2143             av_log(matroska->ctx, AV_LOG_INFO,
2144                    "Unknown or unsupported track type %"PRIu64"\n",
2145                    track->type);
2146             continue;
2147         }
2148         if (!track->codec_id)
2149             continue;
2150
2151         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
2152             isnan(track->audio.samplerate)) {
2153             av_log(matroska->ctx, AV_LOG_WARNING,
2154                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
2155                    track->audio.samplerate);
2156             track->audio.samplerate = 8000;
2157         }
2158
2159         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2160             if (!track->default_duration && track->video.frame_rate > 0) {
2161                 double default_duration = 1000000000 / track->video.frame_rate;
2162                 if (default_duration > UINT64_MAX || default_duration < 0) {
2163                     av_log(matroska->ctx, AV_LOG_WARNING,
2164                          "Invalid frame rate %e. Cannot calculate default duration.\n",
2165                          track->video.frame_rate);
2166                 } else {
2167                     track->default_duration = default_duration;
2168                 }
2169             }
2170             if (track->video.display_width == -1)
2171                 track->video.display_width = track->video.pixel_width;
2172             if (track->video.display_height == -1)
2173                 track->video.display_height = track->video.pixel_height;
2174             if (track->video.color_space.size == 4)
2175                 fourcc = AV_RL32(track->video.color_space.data);
2176         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2177             if (!track->audio.out_samplerate)
2178                 track->audio.out_samplerate = track->audio.samplerate;
2179         }
2180         if (encodings_list->nb_elem > 1) {
2181             av_log(matroska->ctx, AV_LOG_ERROR,
2182                    "Multiple combined encodings not supported");
2183         } else if (encodings_list->nb_elem == 1) {
2184             if (encodings[0].type) {
2185                 if (encodings[0].encryption.key_id.size > 0) {
2186                     /* Save the encryption key id to be stored later as a
2187                        metadata tag. */
2188                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
2189                     key_id_base64 = av_malloc(b64_size);
2190                     if (key_id_base64 == NULL)
2191                         return AVERROR(ENOMEM);
2192
2193                     av_base64_encode(key_id_base64, b64_size,
2194                                      encodings[0].encryption.key_id.data,
2195                                      encodings[0].encryption.key_id.size);
2196                 } else {
2197                     encodings[0].scope = 0;
2198                     av_log(matroska->ctx, AV_LOG_ERROR,
2199                            "Unsupported encoding type");
2200                 }
2201             } else if (
2202 #if CONFIG_ZLIB
2203                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
2204 #endif
2205 #if CONFIG_BZLIB
2206                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
2207 #endif
2208 #if CONFIG_LZO
2209                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
2210 #endif
2211                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
2212                 encodings[0].scope = 0;
2213                 av_log(matroska->ctx, AV_LOG_ERROR,
2214                        "Unsupported encoding type");
2215             } else if (track->codec_priv.size && encodings[0].scope & 2) {
2216                 uint8_t *codec_priv = track->codec_priv.data;
2217                 int ret = matroska_decode_buffer(&track->codec_priv.data,
2218                                                  &track->codec_priv.size,
2219                                                  track);
2220                 if (ret < 0) {
2221                     track->codec_priv.data = NULL;
2222                     track->codec_priv.size = 0;
2223                     av_log(matroska->ctx, AV_LOG_ERROR,
2224                            "Failed to decode codec private data\n");
2225                 }
2226
2227                 if (codec_priv != track->codec_priv.data) {
2228                     av_buffer_unref(&track->codec_priv.buf);
2229                     if (track->codec_priv.data) {
2230                         track->codec_priv.buf = av_buffer_create(track->codec_priv.data,
2231                                                                  track->codec_priv.size + AV_INPUT_BUFFER_PADDING_SIZE,
2232                                                                  NULL, NULL, 0);
2233                         if (!track->codec_priv.buf) {
2234                             av_freep(&track->codec_priv.data);
2235                             track->codec_priv.size = 0;
2236                             return AVERROR(ENOMEM);
2237                         }
2238                     }
2239                 }
2240             }
2241         }
2242
2243         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
2244             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
2245                          strlen(ff_mkv_codec_tags[j].str))) {
2246                 codec_id = ff_mkv_codec_tags[j].id;
2247                 break;
2248             }
2249         }
2250
2251         st = track->stream = avformat_new_stream(s, NULL);
2252         if (!st) {
2253             av_free(key_id_base64);
2254             return AVERROR(ENOMEM);
2255         }
2256
2257         if (key_id_base64) {
2258             /* export encryption key id as base64 metadata tag */
2259             av_dict_set(&st->metadata, "enc_key_id", key_id_base64, 0);
2260             av_freep(&key_id_base64);
2261         }
2262
2263         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
2264              track->codec_priv.size >= 40               &&
2265             track->codec_priv.data) {
2266             track->ms_compat    = 1;
2267             bit_depth           = AV_RL16(track->codec_priv.data + 14);
2268             fourcc              = AV_RL32(track->codec_priv.data + 16);
2269             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
2270                                                   fourcc);
2271             if (!codec_id)
2272                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
2273                                                   fourcc);
2274             extradata_offset    = 40;
2275         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
2276                    track->codec_priv.size >= 14         &&
2277                    track->codec_priv.data) {
2278             int ret;
2279             ffio_init_context(&b, track->codec_priv.data,
2280                               track->codec_priv.size,
2281                               0, NULL, NULL, NULL, NULL);
2282             ret = ff_get_wav_header(s, &b, st->codecpar, track->codec_priv.size, 0);
2283             if (ret < 0)
2284                 return ret;
2285             codec_id         = st->codecpar->codec_id;
2286             fourcc           = st->codecpar->codec_tag;
2287             extradata_offset = FFMIN(track->codec_priv.size, 18);
2288         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
2289                    /* Normally 36, but allow noncompliant private data */
2290                    && (track->codec_priv.size >= 32)
2291                    && (track->codec_priv.data)) {
2292             uint16_t sample_size;
2293             int ret = get_qt_codec(track, &fourcc, &codec_id);
2294             if (ret < 0)
2295                 return ret;
2296             sample_size = AV_RB16(track->codec_priv.data + 26);
2297             if (fourcc == 0) {
2298                 if (sample_size == 8) {
2299                     fourcc = MKTAG('r','a','w',' ');
2300                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2301                 } else if (sample_size == 16) {
2302                     fourcc = MKTAG('t','w','o','s');
2303                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2304                 }
2305             }
2306             if ((fourcc == MKTAG('t','w','o','s') ||
2307                     fourcc == MKTAG('s','o','w','t')) &&
2308                     sample_size == 8)
2309                 codec_id = AV_CODEC_ID_PCM_S8;
2310         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
2311                    (track->codec_priv.size >= 21)          &&
2312                    (track->codec_priv.data)) {
2313             int ret = get_qt_codec(track, &fourcc, &codec_id);
2314             if (ret < 0)
2315                 return ret;
2316             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI ")) {
2317                 fourcc = MKTAG('S','V','Q','3');
2318                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
2319             }
2320             if (codec_id == AV_CODEC_ID_NONE)
2321                 av_log(matroska->ctx, AV_LOG_ERROR,
2322                        "mov FourCC not found %s.\n", av_fourcc2str(fourcc));
2323             if (track->codec_priv.size >= 86) {
2324                 bit_depth = AV_RB16(track->codec_priv.data + 82);
2325                 ffio_init_context(&b, track->codec_priv.data,
2326                                   track->codec_priv.size,
2327                                   0, NULL, NULL, NULL, NULL);
2328                 if (ff_get_qtpalette(codec_id, &b, track->palette)) {
2329                     bit_depth &= 0x1F;
2330                     track->has_palette = 1;
2331                 }
2332             }
2333         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
2334             switch (track->audio.bitdepth) {
2335             case  8:
2336                 codec_id = AV_CODEC_ID_PCM_U8;
2337                 break;
2338             case 24:
2339                 codec_id = AV_CODEC_ID_PCM_S24BE;
2340                 break;
2341             case 32:
2342                 codec_id = AV_CODEC_ID_PCM_S32BE;
2343                 break;
2344             }
2345         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
2346             switch (track->audio.bitdepth) {
2347             case  8:
2348                 codec_id = AV_CODEC_ID_PCM_U8;
2349                 break;
2350             case 24:
2351                 codec_id = AV_CODEC_ID_PCM_S24LE;
2352                 break;
2353             case 32:
2354                 codec_id = AV_CODEC_ID_PCM_S32LE;
2355                 break;
2356             }
2357         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
2358                    track->audio.bitdepth == 64) {
2359             codec_id = AV_CODEC_ID_PCM_F64LE;
2360         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
2361             int profile = matroska_aac_profile(track->codec_id);
2362             int sri     = matroska_aac_sri(track->audio.samplerate);
2363             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
2364             if (!extradata)
2365                 return AVERROR(ENOMEM);
2366             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
2367             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
2368             if (strstr(track->codec_id, "SBR")) {
2369                 sri            = matroska_aac_sri(track->audio.out_samplerate);
2370                 extradata[2]   = 0x56;
2371                 extradata[3]   = 0xE5;
2372                 extradata[4]   = 0x80 | (sri << 3);
2373                 extradata_size = 5;
2374             } else
2375                 extradata_size = 2;
2376         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
2377             /* Only ALAC's magic cookie is stored in Matroska's track headers.
2378              * Create the "atom size", "tag", and "tag version" fields the
2379              * decoder expects manually. */
2380             extradata_size = 12 + track->codec_priv.size;
2381             extradata      = av_mallocz(extradata_size +
2382                                         AV_INPUT_BUFFER_PADDING_SIZE);
2383             if (!extradata)
2384                 return AVERROR(ENOMEM);
2385             AV_WB32(extradata, extradata_size);
2386             memcpy(&extradata[4], "alac", 4);
2387             AV_WB32(&extradata[8], 0);
2388             memcpy(&extradata[12], track->codec_priv.data,
2389                    track->codec_priv.size);
2390         } else if (codec_id == AV_CODEC_ID_TTA) {
2391             extradata_size = 30;
2392             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
2393             if (!extradata)
2394                 return AVERROR(ENOMEM);
2395             ffio_init_context(&b, extradata, extradata_size, 1,
2396                               NULL, NULL, NULL, NULL);
2397             avio_write(&b, "TTA1", 4);
2398             avio_wl16(&b, 1);
2399             if (track->audio.channels > UINT16_MAX ||
2400                 track->audio.bitdepth > UINT16_MAX) {
2401                 av_log(matroska->ctx, AV_LOG_WARNING,
2402                        "Too large audio channel number %"PRIu64
2403                        " or bitdepth %"PRIu64". Skipping track.\n",
2404                        track->audio.channels, track->audio.bitdepth);
2405                 av_freep(&extradata);
2406                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
2407                     return AVERROR_INVALIDDATA;
2408                 else
2409                     continue;
2410             }
2411             avio_wl16(&b, track->audio.channels);
2412             avio_wl16(&b, track->audio.bitdepth);
2413             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
2414                 return AVERROR_INVALIDDATA;
2415             avio_wl32(&b, track->audio.out_samplerate);
2416             avio_wl32(&b, av_rescale((matroska->duration * matroska->time_scale),
2417                                      track->audio.out_samplerate,
2418                                      AV_TIME_BASE * 1000));
2419         } else if (codec_id == AV_CODEC_ID_RV10 ||
2420                    codec_id == AV_CODEC_ID_RV20 ||
2421                    codec_id == AV_CODEC_ID_RV30 ||
2422                    codec_id == AV_CODEC_ID_RV40) {
2423             extradata_offset = 26;
2424         } else if (codec_id == AV_CODEC_ID_RA_144) {
2425             track->audio.out_samplerate = 8000;
2426             track->audio.channels       = 1;
2427         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
2428                     codec_id == AV_CODEC_ID_COOK   ||
2429                     codec_id == AV_CODEC_ID_ATRAC3 ||
2430                     codec_id == AV_CODEC_ID_SIPR)
2431                       && track->codec_priv.data) {
2432             int flavor;
2433
2434             ffio_init_context(&b, track->codec_priv.data,
2435                               track->codec_priv.size,
2436                               0, NULL, NULL, NULL, NULL);
2437             avio_skip(&b, 22);
2438             flavor                       = avio_rb16(&b);
2439             track->audio.coded_framesize = avio_rb32(&b);
2440             avio_skip(&b, 12);
2441             track->audio.sub_packet_h    = avio_rb16(&b);
2442             track->audio.frame_size      = avio_rb16(&b);
2443             track->audio.sub_packet_size = avio_rb16(&b);
2444             if (flavor                        < 0 ||
2445                 track->audio.coded_framesize <= 0 ||
2446                 track->audio.sub_packet_h    <= 0 ||
2447                 track->audio.frame_size      <= 0 ||
2448                 track->audio.sub_packet_size <= 0 && codec_id != AV_CODEC_ID_SIPR)
2449                 return AVERROR_INVALIDDATA;
2450             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2451                                                track->audio.frame_size);
2452             if (!track->audio.buf)
2453                 return AVERROR(ENOMEM);
2454             if (codec_id == AV_CODEC_ID_RA_288) {
2455                 st->codecpar->block_align = track->audio.coded_framesize;
2456                 track->codec_priv.size = 0;
2457             } else {
2458                 if (codec_id == AV_CODEC_ID_SIPR && flavor < 4) {
2459                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2460                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2461                     st->codecpar->bit_rate          = sipr_bit_rate[flavor];
2462                 }
2463                 st->codecpar->block_align = track->audio.sub_packet_size;
2464                 extradata_offset       = 78;
2465             }
2466         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2467             ret = matroska_parse_flac(s, track, &extradata_offset);
2468             if (ret < 0)
2469                 return ret;
2470         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2471             fourcc = AV_RL32(track->codec_priv.data);
2472         } else if (codec_id == AV_CODEC_ID_VP9 && track->codec_priv.size) {
2473             /* we don't need any value stored in CodecPrivate.
2474                make sure that it's not exported as extradata. */
2475             track->codec_priv.size = 0;
2476         } else if (codec_id == AV_CODEC_ID_AV1 && track->codec_priv.size) {
2477             /* For now, propagate only the OBUs, if any. Once libavcodec is
2478                updated to handle isobmff style extradata this can be removed. */
2479             extradata_offset = 4;
2480         }
2481         track->codec_priv.size -= extradata_offset;
2482
2483         if (codec_id == AV_CODEC_ID_NONE)
2484             av_log(matroska->ctx, AV_LOG_INFO,
2485                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2486
2487         if (track->time_scale < 0.01)
2488             track->time_scale = 1.0;
2489         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2490                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2491
2492         /* convert the delay from ns to the track timebase */
2493         track->codec_delay_in_track_tb = av_rescale_q(track->codec_delay,
2494                                           (AVRational){ 1, 1000000000 },
2495                                           st->time_base);
2496
2497         st->codecpar->codec_id = codec_id;
2498
2499         if (strcmp(track->language, "und"))
2500             av_dict_set(&st->metadata, "language", track->language, 0);
2501         av_dict_set(&st->metadata, "title", track->name, 0);
2502
2503         if (track->flag_default)
2504             st->disposition |= AV_DISPOSITION_DEFAULT;
2505         if (track->flag_forced)
2506             st->disposition |= AV_DISPOSITION_FORCED;
2507
2508         if (!st->codecpar->extradata) {
2509             if (extradata) {
2510                 st->codecpar->extradata      = extradata;
2511                 st->codecpar->extradata_size = extradata_size;
2512             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2513                 if (ff_alloc_extradata(st->codecpar, track->codec_priv.size))
2514                     return AVERROR(ENOMEM);
2515                 memcpy(st->codecpar->extradata,
2516                        track->codec_priv.data + extradata_offset,
2517                        track->codec_priv.size);
2518             }
2519         }
2520
2521         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2522             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2523             int display_width_mul  = 1;
2524             int display_height_mul = 1;
2525
2526             st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2527             st->codecpar->codec_tag  = fourcc;
2528             if (bit_depth >= 0)
2529                 st->codecpar->bits_per_coded_sample = bit_depth;
2530             st->codecpar->width      = track->video.pixel_width;
2531             st->codecpar->height     = track->video.pixel_height;
2532
2533             if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_INTERLACED)
2534                 st->codecpar->field_order = mkv_field_order(matroska, track->video.field_order);
2535             else if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_PROGRESSIVE)
2536                 st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2537
2538             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2539                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2540
2541             if (track->video.display_unit < MATROSKA_VIDEO_DISPLAYUNIT_UNKNOWN) {
2542                 av_reduce(&st->sample_aspect_ratio.num,
2543                           &st->sample_aspect_ratio.den,
2544                           st->codecpar->height * track->video.display_width  * display_width_mul,
2545                           st->codecpar->width  * track->video.display_height * display_height_mul,
2546                           255);
2547             }
2548             if (st->codecpar->codec_id != AV_CODEC_ID_HEVC)
2549                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2550
2551             if (track->default_duration) {
2552                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2553                           1000000000, track->default_duration, 30000);
2554 #if FF_API_R_FRAME_RATE
2555                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2556                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2557                     st->r_frame_rate = st->avg_frame_rate;
2558 #endif
2559             }
2560
2561             /* export stereo mode flag as metadata tag */
2562             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2563                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2564
2565             /* export alpha mode flag as metadata tag  */
2566             if (track->video.alpha_mode)
2567                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2568
2569             /* if we have virtual track, mark the real tracks */
2570             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2571                 char buf[32];
2572                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2573                     continue;
2574                 snprintf(buf, sizeof(buf), "%s_%d",
2575                          ff_matroska_video_stereo_plane[planes[j].type], i);
2576                 for (k=0; k < matroska->tracks.nb_elem; k++)
2577                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2578                         av_dict_set(&tracks[k].stream->metadata,
2579                                     "stereo_mode", buf, 0);
2580                         break;
2581                     }
2582             }
2583             // add stream level stereo3d side data if it is a supported format
2584             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2585                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2586                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2587                 if (ret < 0)
2588                     return ret;
2589             }
2590
2591             ret = mkv_parse_video_color(st, track);
2592             if (ret < 0)
2593                 return ret;
2594             ret = mkv_parse_video_projection(st, track);
2595             if (ret < 0)
2596                 return ret;
2597         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2598             st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
2599             st->codecpar->codec_tag   = fourcc;
2600             st->codecpar->sample_rate = track->audio.out_samplerate;
2601             st->codecpar->channels    = track->audio.channels;
2602             if (!st->codecpar->bits_per_coded_sample)
2603                 st->codecpar->bits_per_coded_sample = track->audio.bitdepth;
2604             if (st->codecpar->codec_id == AV_CODEC_ID_MP3 ||
2605                 st->codecpar->codec_id == AV_CODEC_ID_MLP ||
2606                 st->codecpar->codec_id == AV_CODEC_ID_TRUEHD)
2607                 st->need_parsing = AVSTREAM_PARSE_FULL;
2608             else if (st->codecpar->codec_id != AV_CODEC_ID_AAC)
2609                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2610             if (track->codec_delay > 0) {
2611                 st->codecpar->initial_padding = av_rescale_q(track->codec_delay,
2612                                                              (AVRational){1, 1000000000},
2613                                                              (AVRational){1, st->codecpar->codec_id == AV_CODEC_ID_OPUS ?
2614                                                                              48000 : st->codecpar->sample_rate});
2615             }
2616             if (track->seek_preroll > 0) {
2617                 st->codecpar->seek_preroll = av_rescale_q(track->seek_preroll,
2618                                                           (AVRational){1, 1000000000},
2619                                                           (AVRational){1, st->codecpar->sample_rate});
2620             }
2621         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2622             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2623
2624             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2625                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2626             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2627                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2628             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2629                 st->disposition |= AV_DISPOSITION_METADATA;
2630             }
2631         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2632             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2633         }
2634     }
2635
2636     return 0;
2637 }
2638
2639 static int matroska_read_header(AVFormatContext *s)
2640 {
2641     MatroskaDemuxContext *matroska = s->priv_data;
2642     EbmlList *attachments_list = &matroska->attachments;
2643     EbmlList *chapters_list    = &matroska->chapters;
2644     MatroskaAttachment *attachments;
2645     MatroskaChapter *chapters;
2646     uint64_t max_start = 0;
2647     int64_t pos;
2648     Ebml ebml = { 0 };
2649     int i, j, res;
2650
2651     matroska->ctx = s;
2652     matroska->cues_parsing_deferred = 1;
2653
2654     /* First read the EBML header. */
2655     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2656         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2657         ebml_free(ebml_syntax, &ebml);
2658         return AVERROR_INVALIDDATA;
2659     }
2660     if (ebml.version         > EBML_VERSION      ||
2661         ebml.max_size        > sizeof(uint64_t)  ||
2662         ebml.id_length       > sizeof(uint32_t)  ||
2663         ebml.doctype_version > 3) {
2664         avpriv_report_missing_feature(matroska->ctx,
2665                                       "EBML version %"PRIu64", doctype %s, doc version %"PRIu64,
2666                                       ebml.version, ebml.doctype, ebml.doctype_version);
2667         ebml_free(ebml_syntax, &ebml);
2668         return AVERROR_PATCHWELCOME;
2669     } else if (ebml.doctype_version == 3) {
2670         av_log(matroska->ctx, AV_LOG_WARNING,
2671                "EBML header using unsupported features\n"
2672                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2673                ebml.version, ebml.doctype, ebml.doctype_version);
2674     }
2675     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2676         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2677             break;
2678     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2679         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2680         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2681             ebml_free(ebml_syntax, &ebml);
2682             return AVERROR_INVALIDDATA;
2683         }
2684     }
2685     ebml_free(ebml_syntax, &ebml);
2686
2687     /* The next thing is a segment. */
2688     pos = avio_tell(matroska->ctx->pb);
2689     res = ebml_parse(matroska, matroska_segments, matroska);
2690     // try resyncing until we find a EBML_STOP type element.
2691     while (res != 1) {
2692         res = matroska_resync(matroska, pos);
2693         if (res < 0)
2694             goto fail;
2695         pos = avio_tell(matroska->ctx->pb);
2696         res = ebml_parse(matroska, matroska_segment, matroska);
2697     }
2698     /* Set data_offset as it might be needed later by seek_frame_generic. */
2699     if (matroska->current_id == MATROSKA_ID_CLUSTER)
2700         s->internal->data_offset = avio_tell(matroska->ctx->pb) - 4;
2701     matroska_execute_seekhead(matroska);
2702
2703     if (!matroska->time_scale)
2704         matroska->time_scale = 1000000;
2705     if (matroska->duration)
2706         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2707                                   1000 / AV_TIME_BASE;
2708     av_dict_set(&s->metadata, "title", matroska->title, 0);
2709     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2710
2711     if (matroska->date_utc.size == 8)
2712         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2713
2714     res = matroska_parse_tracks(s);
2715     if (res < 0)
2716         goto fail;
2717
2718     attachments = attachments_list->elem;
2719     for (j = 0; j < attachments_list->nb_elem; j++) {
2720         if (!(attachments[j].filename && attachments[j].mime &&
2721               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2722             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2723         } else {
2724             AVStream *st = avformat_new_stream(s, NULL);
2725             if (!st)
2726                 break;
2727             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2728             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2729             st->codecpar->codec_id   = AV_CODEC_ID_NONE;
2730
2731             for (i = 0; ff_mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2732                 if (!strncmp(ff_mkv_image_mime_tags[i].str, attachments[j].mime,
2733                              strlen(ff_mkv_image_mime_tags[i].str))) {
2734                     st->codecpar->codec_id = ff_mkv_image_mime_tags[i].id;
2735                     break;
2736                 }
2737             }
2738
2739             attachments[j].stream = st;
2740
2741             if (st->codecpar->codec_id != AV_CODEC_ID_NONE) {
2742                 AVPacket *pkt = &st->attached_pic;
2743
2744                 st->disposition         |= AV_DISPOSITION_ATTACHED_PIC;
2745                 st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2746
2747                 av_init_packet(pkt);
2748                 pkt->buf = av_buffer_ref(attachments[j].bin.buf);
2749                 if (!pkt->buf)
2750                     return AVERROR(ENOMEM);
2751                 pkt->data         = attachments[j].bin.data;
2752                 pkt->size         = attachments[j].bin.size;
2753                 pkt->stream_index = st->index;
2754                 pkt->flags       |= AV_PKT_FLAG_KEY;
2755             } else {
2756                 st->codecpar->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2757                 if (ff_alloc_extradata(st->codecpar, attachments[j].bin.size))
2758                     break;
2759                 memcpy(st->codecpar->extradata, attachments[j].bin.data,
2760                        attachments[j].bin.size);
2761
2762                 for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2763                     if (!strncmp(ff_mkv_mime_tags[i].str, attachments[j].mime,
2764                                 strlen(ff_mkv_mime_tags[i].str))) {
2765                         st->codecpar->codec_id = ff_mkv_mime_tags[i].id;
2766                         break;
2767                     }
2768                 }
2769             }
2770         }
2771     }
2772
2773     chapters = chapters_list->elem;
2774     for (i = 0; i < chapters_list->nb_elem; i++)
2775         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2776             (max_start == 0 || chapters[i].start > max_start)) {
2777             chapters[i].chapter =
2778                 avpriv_new_chapter(s, chapters[i].uid,
2779                                    (AVRational) { 1, 1000000000 },
2780                                    chapters[i].start, chapters[i].end,
2781                                    chapters[i].title);
2782             if (chapters[i].chapter) {
2783                 av_dict_set(&chapters[i].chapter->metadata,
2784                             "title", chapters[i].title, 0);
2785             }
2786             max_start = chapters[i].start;
2787         }
2788
2789     matroska_add_index_entries(matroska);
2790
2791     matroska_convert_tags(s);
2792
2793     return 0;
2794 fail:
2795     matroska_read_close(s);
2796     return res;
2797 }
2798
2799 /*
2800  * Put one packet in an application-supplied AVPacket struct.
2801  * Returns 0 on success or -1 on failure.
2802  */
2803 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2804                                    AVPacket *pkt)
2805 {
2806     if (matroska->queue) {
2807         MatroskaTrack *tracks = matroska->tracks.elem;
2808         MatroskaTrack *track;
2809
2810         ff_packet_list_get(&matroska->queue, &matroska->queue_end, pkt);
2811         track = &tracks[pkt->stream_index];
2812         if (track->has_palette) {
2813             uint8_t *pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
2814             if (!pal) {
2815                 av_log(matroska->ctx, AV_LOG_ERROR, "Cannot append palette to packet\n");
2816             } else {
2817                 memcpy(pal, track->palette, AVPALETTE_SIZE);
2818             }
2819             track->has_palette = 0;
2820         }
2821         return 0;
2822     }
2823
2824     return -1;
2825 }
2826
2827 /*
2828  * Free all packets in our internal queue.
2829  */
2830 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
2831 {
2832     ff_packet_list_free(&matroska->queue, &matroska->queue_end);
2833 }
2834
2835 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
2836                                 int *buf_size, int type,
2837                                 uint32_t **lace_buf, int *laces)
2838 {
2839     int res = 0, n, size = *buf_size;
2840     uint8_t *data = *buf;
2841     uint32_t *lace_size;
2842
2843     if (!type) {
2844         *laces    = 1;
2845         *lace_buf = av_malloc(sizeof(**lace_buf));
2846         if (!*lace_buf)
2847             return AVERROR(ENOMEM);
2848
2849         *lace_buf[0] = size;
2850         return 0;
2851     }
2852
2853     av_assert0(size > 0);
2854     *laces    = *data + 1;
2855     data     += 1;
2856     size     -= 1;
2857     lace_size = av_malloc_array(*laces, sizeof(*lace_size));
2858     if (!lace_size)
2859         return AVERROR(ENOMEM);
2860
2861     switch (type) {
2862     case 0x1: /* Xiph lacing */
2863     {
2864         uint8_t temp;
2865         uint32_t total = 0;
2866         for (n = 0; res == 0 && n < *laces - 1; n++) {
2867             lace_size[n] = 0;
2868
2869             while (1) {
2870                 if (size <= total) {
2871                     res = AVERROR_INVALIDDATA;
2872                     break;
2873                 }
2874                 temp          = *data;
2875                 total        += temp;
2876                 lace_size[n] += temp;
2877                 data         += 1;
2878                 size         -= 1;
2879                 if (temp != 0xff)
2880                     break;
2881             }
2882         }
2883         if (size <= total) {
2884             res = AVERROR_INVALIDDATA;
2885             break;
2886         }
2887
2888         lace_size[n] = size - total;
2889         break;
2890     }
2891
2892     case 0x2: /* fixed-size lacing */
2893         if (size % (*laces)) {
2894             res = AVERROR_INVALIDDATA;
2895             break;
2896         }
2897         for (n = 0; n < *laces; n++)
2898             lace_size[n] = size / *laces;
2899         break;
2900
2901     case 0x3: /* EBML lacing */
2902     {
2903         uint64_t num;
2904         uint64_t total;
2905         n = matroska_ebmlnum_uint(matroska, data, size, &num);
2906         if (n < 0 || num > INT_MAX) {
2907             av_log(matroska->ctx, AV_LOG_INFO,
2908                    "EBML block data error\n");
2909             res = n<0 ? n : AVERROR_INVALIDDATA;
2910             break;
2911         }
2912         data += n;
2913         size -= n;
2914         total = lace_size[0] = num;
2915         for (n = 1; res == 0 && n < *laces - 1; n++) {
2916             int64_t snum;
2917             int r;
2918             r = matroska_ebmlnum_sint(matroska, data, size, &snum);
2919             if (r < 0 || lace_size[n - 1] + snum > (uint64_t)INT_MAX) {
2920                 av_log(matroska->ctx, AV_LOG_INFO,
2921                        "EBML block data error\n");
2922                 res = r<0 ? r : AVERROR_INVALIDDATA;
2923                 break;
2924             }
2925             data        += r;
2926             size        -= r;
2927             lace_size[n] = lace_size[n - 1] + snum;
2928             total       += lace_size[n];
2929         }
2930         if (size <= total) {
2931             res = AVERROR_INVALIDDATA;
2932             break;
2933         }
2934         lace_size[*laces - 1] = size - total;
2935         break;
2936     }
2937     }
2938
2939     *buf      = data;
2940     *lace_buf = lace_size;
2941     *buf_size = size;
2942
2943     return res;
2944 }
2945
2946 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
2947                                    MatroskaTrack *track, AVStream *st,
2948                                    uint8_t *data, int size, uint64_t timecode,
2949                                    int64_t pos)
2950 {
2951     int a = st->codecpar->block_align;
2952     int sps = track->audio.sub_packet_size;
2953     int cfs = track->audio.coded_framesize;
2954     int h   = track->audio.sub_packet_h;
2955     int y   = track->audio.sub_packet_cnt;
2956     int w   = track->audio.frame_size;
2957     int x;
2958
2959     if (!track->audio.pkt_cnt) {
2960         if (track->audio.sub_packet_cnt == 0)
2961             track->audio.buf_timecode = timecode;
2962         if (st->codecpar->codec_id == AV_CODEC_ID_RA_288) {
2963             if (size < cfs * h / 2) {
2964                 av_log(matroska->ctx, AV_LOG_ERROR,
2965                        "Corrupt int4 RM-style audio packet size\n");
2966                 return AVERROR_INVALIDDATA;
2967             }
2968             for (x = 0; x < h / 2; x++)
2969                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
2970                        data + x * cfs, cfs);
2971         } else if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
2972             if (size < w) {
2973                 av_log(matroska->ctx, AV_LOG_ERROR,
2974                        "Corrupt sipr RM-style audio packet size\n");
2975                 return AVERROR_INVALIDDATA;
2976             }
2977             memcpy(track->audio.buf + y * w, data, w);
2978         } else {
2979             if (size < sps * w / sps || h<=0 || w%sps) {
2980                 av_log(matroska->ctx, AV_LOG_ERROR,
2981                        "Corrupt generic RM-style audio packet size\n");
2982                 return AVERROR_INVALIDDATA;
2983             }
2984             for (x = 0; x < w / sps; x++)
2985                 memcpy(track->audio.buf +
2986                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
2987                        data + x * sps, sps);
2988         }
2989
2990         if (++track->audio.sub_packet_cnt >= h) {
2991             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR)
2992                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
2993             track->audio.sub_packet_cnt = 0;
2994             track->audio.pkt_cnt        = h * w / a;
2995         }
2996     }
2997
2998     while (track->audio.pkt_cnt) {
2999         int ret;
3000         AVPacket pktl, *pkt = &pktl;
3001
3002         ret = av_new_packet(pkt, a);
3003         if (ret < 0) {
3004             return ret;
3005         }
3006         memcpy(pkt->data,
3007                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
3008                a);
3009         pkt->pts                  = track->audio.buf_timecode;
3010         track->audio.buf_timecode = AV_NOPTS_VALUE;
3011         pkt->pos                  = pos;
3012         pkt->stream_index         = st->index;
3013         ret = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3014         if (ret < 0) {
3015             av_packet_unref(pkt);
3016             return AVERROR(ENOMEM);
3017         }
3018     }
3019
3020     return 0;
3021 }
3022
3023 /* reconstruct full wavpack blocks from mangled matroska ones */
3024 static int matroska_parse_wavpack(MatroskaTrack *track, uint8_t *src,
3025                                   uint8_t **pdst, int *size)
3026 {
3027     uint8_t *dst = NULL;
3028     int dstlen   = 0;
3029     int srclen   = *size;
3030     uint32_t samples;
3031     uint16_t ver;
3032     int ret, offset = 0;
3033
3034     if (srclen < 12 || track->stream->codecpar->extradata_size < 2)
3035         return AVERROR_INVALIDDATA;
3036
3037     ver = AV_RL16(track->stream->codecpar->extradata);
3038
3039     samples = AV_RL32(src);
3040     src    += 4;
3041     srclen -= 4;
3042
3043     while (srclen >= 8) {
3044         int multiblock;
3045         uint32_t blocksize;
3046         uint8_t *tmp;
3047
3048         uint32_t flags = AV_RL32(src);
3049         uint32_t crc   = AV_RL32(src + 4);
3050         src    += 8;
3051         srclen -= 8;
3052
3053         multiblock = (flags & 0x1800) != 0x1800;
3054         if (multiblock) {
3055             if (srclen < 4) {
3056                 ret = AVERROR_INVALIDDATA;
3057                 goto fail;
3058             }
3059             blocksize = AV_RL32(src);
3060             src      += 4;
3061             srclen   -= 4;
3062         } else
3063             blocksize = srclen;
3064
3065         if (blocksize > srclen) {
3066             ret = AVERROR_INVALIDDATA;
3067             goto fail;
3068         }
3069
3070         tmp = av_realloc(dst, dstlen + blocksize + 32 + AV_INPUT_BUFFER_PADDING_SIZE);
3071         if (!tmp) {
3072             ret = AVERROR(ENOMEM);
3073             goto fail;
3074         }
3075         dst     = tmp;
3076         dstlen += blocksize + 32;
3077
3078         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
3079         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
3080         AV_WL16(dst + offset +  8, ver);                    // version
3081         AV_WL16(dst + offset + 10, 0);                      // track/index_no
3082         AV_WL32(dst + offset + 12, 0);                      // total samples
3083         AV_WL32(dst + offset + 16, 0);                      // block index
3084         AV_WL32(dst + offset + 20, samples);                // number of samples
3085         AV_WL32(dst + offset + 24, flags);                  // flags
3086         AV_WL32(dst + offset + 28, crc);                    // crc
3087         memcpy(dst + offset + 32, src, blocksize);          // block data
3088
3089         src    += blocksize;
3090         srclen -= blocksize;
3091         offset += blocksize + 32;
3092     }
3093
3094     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3095
3096     *pdst = dst;
3097     *size = dstlen;
3098
3099     return 0;
3100
3101 fail:
3102     av_freep(&dst);
3103     return ret;
3104 }
3105
3106 static int matroska_parse_prores(MatroskaTrack *track, uint8_t *src,
3107                                  uint8_t **pdst, int *size)
3108 {
3109     uint8_t *dst = src;
3110     int dstlen = *size;
3111
3112     if (AV_RB32(&src[4]) != MKBETAG('i', 'c', 'p', 'f')) {
3113         dst = av_malloc(dstlen + 8 + AV_INPUT_BUFFER_PADDING_SIZE);
3114         if (!dst)
3115             return AVERROR(ENOMEM);
3116
3117         AV_WB32(dst, dstlen);
3118         AV_WB32(dst + 4, MKBETAG('i', 'c', 'p', 'f'));
3119         memcpy(dst + 8, src, dstlen);
3120         memset(dst + 8 + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3121         dstlen += 8;
3122     }
3123
3124     *pdst = dst;
3125     *size = dstlen;
3126
3127     return 0;
3128 }
3129
3130 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
3131                                  MatroskaTrack *track,
3132                                  AVStream *st,
3133                                  uint8_t *data, int data_len,
3134                                  uint64_t timecode,
3135                                  uint64_t duration,
3136                                  int64_t pos)
3137 {
3138     AVPacket pktl, *pkt = &pktl;
3139     uint8_t *id, *settings, *text, *buf;
3140     int id_len, settings_len, text_len;
3141     uint8_t *p, *q;
3142     int err;
3143
3144     if (data_len <= 0)
3145         return AVERROR_INVALIDDATA;
3146
3147     p = data;
3148     q = data + data_len;
3149
3150     id = p;
3151     id_len = -1;
3152     while (p < q) {
3153         if (*p == '\r' || *p == '\n') {
3154             id_len = p - id;
3155             if (*p == '\r')
3156                 p++;
3157             break;
3158         }
3159         p++;
3160     }
3161
3162     if (p >= q || *p != '\n')
3163         return AVERROR_INVALIDDATA;
3164     p++;
3165
3166     settings = p;
3167     settings_len = -1;
3168     while (p < q) {
3169         if (*p == '\r' || *p == '\n') {
3170             settings_len = p - settings;
3171             if (*p == '\r')
3172                 p++;
3173             break;
3174         }
3175         p++;
3176     }
3177
3178     if (p >= q || *p != '\n')
3179         return AVERROR_INVALIDDATA;
3180     p++;
3181
3182     text = p;
3183     text_len = q - p;
3184     while (text_len > 0) {
3185         const int len = text_len - 1;
3186         const uint8_t c = p[len];
3187         if (c != '\r' && c != '\n')
3188             break;
3189         text_len = len;
3190     }
3191
3192     if (text_len <= 0)
3193         return AVERROR_INVALIDDATA;
3194
3195     err = av_new_packet(pkt, text_len);
3196     if (err < 0) {
3197         return err;
3198     }
3199
3200     memcpy(pkt->data, text, text_len);
3201
3202     if (id_len > 0) {
3203         buf = av_packet_new_side_data(pkt,
3204                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
3205                                       id_len);
3206         if (!buf) {
3207             av_packet_unref(pkt);
3208             return AVERROR(ENOMEM);
3209         }
3210         memcpy(buf, id, id_len);
3211     }
3212
3213     if (settings_len > 0) {
3214         buf = av_packet_new_side_data(pkt,
3215                                       AV_PKT_DATA_WEBVTT_SETTINGS,
3216                                       settings_len);
3217         if (!buf) {
3218             av_packet_unref(pkt);
3219             return AVERROR(ENOMEM);
3220         }
3221         memcpy(buf, settings, settings_len);
3222     }
3223
3224     // Do we need this for subtitles?
3225     // pkt->flags = AV_PKT_FLAG_KEY;
3226
3227     pkt->stream_index = st->index;
3228     pkt->pts = timecode;
3229
3230     // Do we need this for subtitles?
3231     // pkt->dts = timecode;
3232
3233     pkt->duration = duration;
3234     pkt->pos = pos;
3235
3236     err = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3237     if (err < 0) {
3238         av_packet_unref(pkt);
3239         return AVERROR(ENOMEM);
3240     }
3241
3242     return 0;
3243 }
3244
3245 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
3246                                 MatroskaTrack *track, AVStream *st,
3247                                 AVBufferRef *buf, uint8_t *data, int pkt_size,
3248                                 uint64_t timecode, uint64_t lace_duration,
3249                                 int64_t pos, int is_keyframe,
3250                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3251                                 int64_t discard_padding)
3252 {
3253     MatroskaTrackEncoding *encodings = track->encodings.elem;
3254     uint8_t *pkt_data = data;
3255     int res;
3256     AVPacket pktl, *pkt = &pktl;
3257
3258     if (encodings && !encodings->type && encodings->scope & 1) {
3259         res = matroska_decode_buffer(&pkt_data, &pkt_size, track);
3260         if (res < 0)
3261             return res;
3262     }
3263
3264     if (st->codecpar->codec_id == AV_CODEC_ID_WAVPACK) {
3265         uint8_t *wv_data;
3266         res = matroska_parse_wavpack(track, pkt_data, &wv_data, &pkt_size);
3267         if (res < 0) {
3268             av_log(matroska->ctx, AV_LOG_ERROR,
3269                    "Error parsing a wavpack block.\n");
3270             goto fail;
3271         }
3272         if (pkt_data != data)
3273             av_freep(&pkt_data);
3274         pkt_data = wv_data;
3275     }
3276
3277     if (st->codecpar->codec_id == AV_CODEC_ID_PRORES) {
3278         uint8_t *pr_data;
3279         res = matroska_parse_prores(track, pkt_data, &pr_data, &pkt_size);
3280         if (res < 0) {
3281             av_log(matroska->ctx, AV_LOG_ERROR,
3282                    "Error parsing a prores block.\n");
3283             goto fail;
3284         }
3285         if (pkt_data != data)
3286             av_freep(&pkt_data);
3287         pkt_data = pr_data;
3288     }
3289
3290     av_init_packet(pkt);
3291     if (pkt_data != data)
3292         pkt->buf = av_buffer_create(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE,
3293                                     NULL, NULL, 0);
3294     else
3295         pkt->buf = av_buffer_ref(buf);
3296
3297     if (!pkt->buf) {
3298         res = AVERROR(ENOMEM);
3299         goto fail;
3300     }
3301
3302     pkt->data         = pkt_data;
3303     pkt->size         = pkt_size;
3304     pkt->flags        = is_keyframe;
3305     pkt->stream_index = st->index;
3306
3307     if (additional_size > 0) {
3308         uint8_t *side_data = av_packet_new_side_data(pkt,
3309                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
3310                                                      additional_size + 8);
3311         if (!side_data) {
3312             av_packet_unref(pkt);
3313             return AVERROR(ENOMEM);
3314         }
3315         AV_WB64(side_data, additional_id);
3316         memcpy(side_data + 8, additional, additional_size);
3317     }
3318
3319     if (discard_padding) {
3320         uint8_t *side_data = av_packet_new_side_data(pkt,
3321                                                      AV_PKT_DATA_SKIP_SAMPLES,
3322                                                      10);
3323         if (!side_data) {
3324             av_packet_unref(pkt);
3325             return AVERROR(ENOMEM);
3326         }
3327         discard_padding = av_rescale_q(discard_padding,
3328                                             (AVRational){1, 1000000000},
3329                                             (AVRational){1, st->codecpar->sample_rate});
3330         if (discard_padding > 0) {
3331             AV_WL32(side_data + 4, discard_padding);
3332         } else {
3333             AV_WL32(side_data, -discard_padding);
3334         }
3335     }
3336
3337     if (track->ms_compat)
3338         pkt->dts = timecode;
3339     else
3340         pkt->pts = timecode;
3341     pkt->pos = pos;
3342     pkt->duration = lace_duration;
3343
3344 #if FF_API_CONVERGENCE_DURATION
3345 FF_DISABLE_DEPRECATION_WARNINGS
3346     if (st->codecpar->codec_id == AV_CODEC_ID_SUBRIP) {
3347         pkt->convergence_duration = lace_duration;
3348     }
3349 FF_ENABLE_DEPRECATION_WARNINGS
3350 #endif
3351
3352     res = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3353     if (res < 0) {
3354         av_packet_unref(pkt);
3355         return AVERROR(ENOMEM);
3356     }
3357
3358     return 0;
3359
3360 fail:
3361     if (pkt_data != data)
3362         av_freep(&pkt_data);
3363     return res;
3364 }
3365
3366 static int matroska_parse_block(MatroskaDemuxContext *matroska, AVBufferRef *buf, uint8_t *data,
3367                                 int size, int64_t pos, uint64_t cluster_time,
3368                                 uint64_t block_duration, int is_keyframe,
3369                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3370                                 int64_t cluster_pos, int64_t discard_padding)
3371 {
3372     uint64_t timecode = AV_NOPTS_VALUE;
3373     MatroskaTrack *track;
3374     int res = 0;
3375     AVStream *st;
3376     int16_t block_time;
3377     uint32_t *lace_size = NULL;
3378     int n, flags, laces = 0;
3379     uint64_t num;
3380     int trust_default_duration = 1;
3381
3382     if ((n = matroska_ebmlnum_uint(matroska, data, size, &num)) < 0) {
3383         return n;
3384     }
3385     data += n;
3386     size -= n;
3387
3388     track = matroska_find_track_by_num(matroska, num);
3389     if (!track || !track->stream) {
3390         av_log(matroska->ctx, AV_LOG_INFO,
3391                "Invalid stream %"PRIu64"\n", num);
3392         return AVERROR_INVALIDDATA;
3393     } else if (size <= 3)
3394         return 0;
3395     st = track->stream;
3396     if (st->discard >= AVDISCARD_ALL)
3397         return res;
3398     av_assert1(block_duration != AV_NOPTS_VALUE);
3399
3400     block_time = sign_extend(AV_RB16(data), 16);
3401     data      += 2;
3402     flags      = *data++;
3403     size      -= 3;
3404     if (is_keyframe == -1)
3405         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
3406
3407     if (cluster_time != (uint64_t) -1 &&
3408         (block_time >= 0 || cluster_time >= -block_time)) {
3409         timecode = cluster_time + block_time - track->codec_delay_in_track_tb;
3410         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3411             timecode < track->end_timecode)
3412             is_keyframe = 0;  /* overlapping subtitles are not key frame */
3413         if (is_keyframe) {
3414             ff_reduce_index(matroska->ctx, st->index);
3415             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
3416                                AVINDEX_KEYFRAME);
3417         }
3418     }
3419
3420     if (matroska->skip_to_keyframe &&
3421         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
3422         // Compare signed timecodes. Timecode may be negative due to codec delay
3423         // offset. We don't support timestamps greater than int64_t anyway - see
3424         // AVPacket's pts.
3425         if ((int64_t)timecode < (int64_t)matroska->skip_to_timecode)
3426             return res;
3427         if (is_keyframe)
3428             matroska->skip_to_keyframe = 0;
3429         else if (!st->skip_to_keyframe) {
3430             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
3431             matroska->skip_to_keyframe = 0;
3432         }
3433     }
3434
3435     res = matroska_parse_laces(matroska, &data, &size, (flags & 0x06) >> 1,
3436                                &lace_size, &laces);
3437
3438     if (res)
3439         goto end;
3440
3441     if (track->audio.samplerate == 8000) {
3442         // If this is needed for more codecs, then add them here
3443         if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
3444             if (track->audio.samplerate != st->codecpar->sample_rate || !st->codecpar->frame_size)
3445                 trust_default_duration = 0;
3446         }
3447     }
3448
3449     if (!block_duration && trust_default_duration)
3450         block_duration = track->default_duration * laces / matroska->time_scale;
3451
3452     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
3453         track->end_timecode =
3454             FFMAX(track->end_timecode, timecode + block_duration);
3455
3456     for (n = 0; n < laces; n++) {
3457         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
3458
3459         if (lace_size[n] > size) {
3460             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid packet size\n");
3461             break;
3462         }
3463
3464         if ((st->codecpar->codec_id == AV_CODEC_ID_RA_288 ||
3465              st->codecpar->codec_id == AV_CODEC_ID_COOK   ||
3466              st->codecpar->codec_id == AV_CODEC_ID_SIPR   ||
3467              st->codecpar->codec_id == AV_CODEC_ID_ATRAC3) &&
3468             st->codecpar->block_align && track->audio.sub_packet_size) {
3469             res = matroska_parse_rm_audio(matroska, track, st, data,
3470                                           lace_size[n],
3471                                           timecode, pos);
3472             if (res)
3473                 goto end;
3474
3475         } else if (st->codecpar->codec_id == AV_CODEC_ID_WEBVTT) {
3476             res = matroska_parse_webvtt(matroska, track, st,
3477                                         data, lace_size[n],
3478                                         timecode, lace_duration,
3479                                         pos);
3480             if (res)
3481                 goto end;
3482         } else {
3483             res = matroska_parse_frame(matroska, track, st, buf, data, lace_size[n],
3484                                        timecode, lace_duration, pos,
3485                                        !n ? is_keyframe : 0,
3486                                        additional, additional_id, additional_size,
3487                                        discard_padding);
3488             if (res)
3489                 goto end;
3490         }
3491
3492         if (timecode != AV_NOPTS_VALUE)
3493             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
3494         data += lace_size[n];
3495         size -= lace_size[n];
3496     }
3497
3498 end:
3499     av_free(lace_size);
3500     return res;
3501 }
3502
3503 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3504 {
3505     MatroskaCluster *cluster = &matroska->current_cluster;
3506     MatroskaBlock     *block = &cluster->block;
3507     int res;
3508     res = ebml_parse(matroska,
3509                      matroska_cluster_parsing,
3510                      cluster);
3511     if (res == 1) {
3512         /* New Cluster */
3513         if (cluster->pos)
3514             ebml_level_end(matroska);
3515         cluster->pos = avio_tell(matroska->ctx->pb);
3516         /* sizeof the ID which was already read */
3517         if (matroska->current_id)
3518             cluster->pos -= 4;
3519         res = ebml_parse(matroska,
3520                          matroska_clusters,
3521                          cluster);
3522         /* Try parsing the block again. */
3523         if (res == 1)
3524             res = ebml_parse(matroska,
3525                              matroska_cluster_parsing,
3526                              cluster);
3527     }
3528
3529     if (!res && block->bin.size > 0) {
3530             int is_keyframe = block->non_simple ? block->reference == INT64_MIN : -1;
3531             uint8_t* additional = block->additional.size > 0 ?
3532                                     block->additional.data : NULL;
3533
3534             res = matroska_parse_block(matroska, block->bin.buf, block->bin.data,
3535                                        block->bin.size, block->bin.pos,
3536                                        matroska->current_cluster.timecode,
3537                                        block->duration, is_keyframe,
3538                                        additional, block->additional_id,
3539                                        block->additional.size,
3540                                        cluster->pos,
3541                                        block->discard_padding);
3542     }
3543
3544     ebml_free(matroska_blockgroup, block);
3545     memset(block, 0, sizeof(*block));
3546
3547     return res;
3548 }
3549
3550 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3551 {
3552     MatroskaDemuxContext *matroska = s->priv_data;
3553     int ret = 0;
3554
3555     while (matroska_deliver_packet(matroska, pkt)) {
3556         int64_t pos = avio_tell(matroska->ctx->pb);
3557         if (matroska->done)
3558             return (ret < 0) ? ret : AVERROR_EOF;
3559         if (matroska_parse_cluster(matroska) < 0)
3560             ret = matroska_resync(matroska, pos);
3561     }
3562
3563     return 0;
3564 }
3565
3566 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3567                               int64_t timestamp, int flags)
3568 {
3569     MatroskaDemuxContext *matroska = s->priv_data;
3570     MatroskaTrack *tracks = NULL;
3571     AVStream *st = s->streams[stream_index];
3572     int i, index;
3573
3574     /* Parse the CUES now since we need the index data to seek. */
3575     if (matroska->cues_parsing_deferred > 0) {
3576         matroska->cues_parsing_deferred = 0;
3577         matroska_parse_cues(matroska);
3578     }
3579
3580     if (!st->nb_index_entries)
3581         goto err;
3582     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3583
3584     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3585         avio_seek(s->pb, st->index_entries[st->nb_index_entries - 1].pos,
3586                   SEEK_SET);
3587         matroska->current_id = 0;
3588         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3589             matroska_clear_queue(matroska);
3590             if (matroska_parse_cluster(matroska) < 0)
3591                 break;
3592         }
3593     }
3594
3595     matroska_clear_queue(matroska);
3596     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3597         goto err;
3598
3599     tracks = matroska->tracks.elem;
3600     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3601         tracks[i].audio.pkt_cnt        = 0;
3602         tracks[i].audio.sub_packet_cnt = 0;
3603         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3604         tracks[i].end_timecode         = 0;
3605     }
3606
3607     avio_seek(s->pb, st->index_entries[index].pos, SEEK_SET);
3608     matroska->current_id       = 0;
3609     if (flags & AVSEEK_FLAG_ANY) {
3610         st->skip_to_keyframe = 0;
3611         matroska->skip_to_timecode = timestamp;
3612     } else {
3613         st->skip_to_keyframe = 1;
3614         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3615     }
3616     matroska->skip_to_keyframe = 1;
3617     matroska->done             = 0;
3618     matroska->num_levels       = 0;
3619     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3620     return 0;
3621 err:
3622     // slightly hackish but allows proper fallback to
3623     // the generic seeking code.
3624     matroska_clear_queue(matroska);
3625     matroska->current_id = 0;
3626     st->skip_to_keyframe =
3627     matroska->skip_to_keyframe = 0;
3628     matroska->done = 0;
3629     matroska->num_levels = 0;
3630     return -1;
3631 }
3632
3633 static int matroska_read_close(AVFormatContext *s)
3634 {
3635     MatroskaDemuxContext *matroska = s->priv_data;
3636     MatroskaTrack *tracks = matroska->tracks.elem;
3637     int n;
3638
3639     matroska_clear_queue(matroska);
3640
3641     for (n = 0; n < matroska->tracks.nb_elem; n++)
3642         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3643             av_freep(&tracks[n].audio.buf);
3644     ebml_free(matroska_segment, matroska);
3645
3646     return 0;
3647 }
3648
3649 typedef struct {
3650     int64_t start_time_ns;
3651     int64_t end_time_ns;
3652     int64_t start_offset;
3653     int64_t end_offset;
3654 } CueDesc;
3655
3656 /* This function searches all the Cues and returns the CueDesc corresponding to
3657  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3658  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3659  */
3660 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3661     MatroskaDemuxContext *matroska = s->priv_data;
3662     CueDesc cue_desc;
3663     int i;
3664     int nb_index_entries = s->streams[0]->nb_index_entries;
3665     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3666     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3667     for (i = 1; i < nb_index_entries; i++) {
3668         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3669             index_entries[i].timestamp * matroska->time_scale > ts) {
3670             break;
3671         }
3672     }
3673     --i;
3674     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3675     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3676     if (i != nb_index_entries - 1) {
3677         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3678         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3679     } else {
3680         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3681         // FIXME: this needs special handling for files where Cues appear
3682         // before Clusters. the current logic assumes Cues appear after
3683         // Clusters.
3684         cue_desc.end_offset = cues_start - matroska->segment_start;
3685     }
3686     return cue_desc;
3687 }
3688
3689 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3690 {
3691     MatroskaDemuxContext *matroska = s->priv_data;
3692     int64_t cluster_pos, before_pos;
3693     int index, rv = 1;
3694     if (s->streams[0]->nb_index_entries <= 0) return 0;
3695     // seek to the first cluster using cues.
3696     index = av_index_search_timestamp(s->streams[0], 0, 0);
3697     if (index < 0)  return 0;
3698     cluster_pos = s->streams[0]->index_entries[index].pos;
3699     before_pos = avio_tell(s->pb);
3700     while (1) {
3701         uint64_t cluster_id, cluster_length;
3702         int read;
3703         AVPacket *pkt;
3704         avio_seek(s->pb, cluster_pos, SEEK_SET);
3705         // read cluster id and length
3706         read = ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id, 1);
3707         if (read < 0 || cluster_id != 0xF43B675) // done with all clusters
3708             break;
3709         read = ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3710         if (read < 0)
3711             break;
3712         avio_seek(s->pb, cluster_pos, SEEK_SET);
3713         matroska->current_id = 0;
3714         matroska_clear_queue(matroska);
3715         if (matroska_parse_cluster(matroska) < 0 ||
3716             !matroska->queue) {
3717             break;
3718         }
3719         pkt = &matroska->queue->pkt;
3720         // 4 + read is the length of the cluster id and the cluster length field.
3721         cluster_pos += 4 + read + cluster_length;
3722         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3723             rv = 0;
3724             break;
3725         }
3726     }
3727     avio_seek(s->pb, before_pos, SEEK_SET);
3728     return rv;
3729 }
3730
3731 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3732                                              double min_buffer, double* buffer,
3733                                              double* sec_to_download, AVFormatContext *s,
3734                                              int64_t cues_start)
3735 {
3736     double nano_seconds_per_second = 1000000000.0;
3737     double time_sec = time_ns / nano_seconds_per_second;
3738     int rv = 0;
3739     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3740     int64_t end_time_ns = time_ns + time_to_search_ns;
3741     double sec_downloaded = 0.0;
3742     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3743     if (desc_curr.start_time_ns == -1)
3744       return -1;
3745     *sec_to_download = 0.0;
3746
3747     // Check for non cue start time.
3748     if (time_ns > desc_curr.start_time_ns) {
3749       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3750       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3751       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3752       double timeToDownload = (cueBytes * 8.0) / bps;
3753
3754       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3755       *sec_to_download += timeToDownload;
3756
3757       // Check if the search ends within the first cue.
3758       if (desc_curr.end_time_ns >= end_time_ns) {
3759           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3760           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3761           sec_downloaded = percent_to_sub * sec_downloaded;
3762           *sec_to_download = percent_to_sub * *sec_to_download;
3763       }
3764
3765       if ((sec_downloaded + *buffer) <= min_buffer) {
3766           return 1;
3767       }
3768
3769       // Get the next Cue.
3770       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3771     }
3772
3773     while (desc_curr.start_time_ns != -1) {
3774         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3775         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3776         double desc_sec = desc_ns / nano_seconds_per_second;
3777         double bits = (desc_bytes * 8.0);
3778         double time_to_download = bits / bps;
3779
3780         sec_downloaded += desc_sec - time_to_download;
3781         *sec_to_download += time_to_download;
3782
3783         if (desc_curr.end_time_ns >= end_time_ns) {
3784             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3785             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3786             sec_downloaded = percent_to_sub * sec_downloaded;
3787             *sec_to_download = percent_to_sub * *sec_to_download;
3788
3789             if ((sec_downloaded + *buffer) <= min_buffer)
3790                 rv = 1;
3791             break;
3792         }
3793
3794         if ((sec_downloaded + *buffer) <= min_buffer) {
3795             rv = 1;
3796             break;
3797         }
3798
3799         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3800     }
3801     *buffer = *buffer + sec_downloaded;
3802     return rv;
3803 }
3804
3805 /* This function computes the bandwidth of the WebM file with the help of
3806  * buffer_size_after_time_downloaded() function. Both of these functions are
3807  * adapted from WebM Tools project and are adapted to work with FFmpeg's
3808  * Matroska parsing mechanism.
3809  *
3810  * Returns the bandwidth of the file on success; -1 on error.
3811  * */
3812 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
3813 {
3814     MatroskaDemuxContext *matroska = s->priv_data;
3815     AVStream *st = s->streams[0];
3816     double bandwidth = 0.0;
3817     int i;
3818
3819     for (i = 0; i < st->nb_index_entries; i++) {
3820         int64_t prebuffer_ns = 1000000000;
3821         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
3822         double nano_seconds_per_second = 1000000000.0;
3823         int64_t prebuffered_ns = time_ns + prebuffer_ns;
3824         double prebuffer_bytes = 0.0;
3825         int64_t temp_prebuffer_ns = prebuffer_ns;
3826         int64_t pre_bytes, pre_ns;
3827         double pre_sec, prebuffer, bits_per_second;
3828         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
3829
3830         // Start with the first Cue.
3831         CueDesc desc_end = desc_beg;
3832
3833         // Figure out how much data we have downloaded for the prebuffer. This will
3834         // be used later to adjust the bits per sample to try.
3835         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
3836             // Prebuffered the entire Cue.
3837             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
3838             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
3839             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3840         }
3841         if (desc_end.start_time_ns == -1) {
3842             // The prebuffer is larger than the duration.
3843             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
3844               return -1;
3845             bits_per_second = 0.0;
3846         } else {
3847             // The prebuffer ends in the last Cue. Estimate how much data was
3848             // prebuffered.
3849             pre_bytes = desc_end.end_offset - desc_end.start_offset;
3850             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
3851             pre_sec = pre_ns / nano_seconds_per_second;
3852             prebuffer_bytes +=
3853                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
3854
3855             prebuffer = prebuffer_ns / nano_seconds_per_second;
3856
3857             // Set this to 0.0 in case our prebuffer buffers the entire video.
3858             bits_per_second = 0.0;
3859             do {
3860                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
3861                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
3862                 double desc_sec = desc_ns / nano_seconds_per_second;
3863                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
3864
3865                 // Drop the bps by the percentage of bytes buffered.
3866                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
3867                 double mod_bits_per_second = calc_bits_per_second * percent;
3868
3869                 if (prebuffer < desc_sec) {
3870                     double search_sec =
3871                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
3872
3873                     // Add 1 so the bits per second should be a little bit greater than file
3874                     // datarate.
3875                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
3876                     const double min_buffer = 0.0;
3877                     double buffer = prebuffer;
3878                     double sec_to_download = 0.0;
3879
3880                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
3881                                                                min_buffer, &buffer, &sec_to_download,
3882                                                                s, cues_start);
3883                     if (rv < 0) {
3884                         return -1;
3885                     } else if (rv == 0) {
3886                         bits_per_second = (double)(bps);
3887                         break;
3888                     }
3889                 }
3890
3891                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3892             } while (desc_end.start_time_ns != -1);
3893         }
3894         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
3895     }
3896     return (int64_t)bandwidth;
3897 }
3898
3899 static int webm_dash_manifest_cues(AVFormatContext *s, int64_t init_range)
3900 {
3901     MatroskaDemuxContext *matroska = s->priv_data;
3902     EbmlList *seekhead_list = &matroska->seekhead;
3903     MatroskaSeekhead *seekhead = seekhead_list->elem;
3904     char *buf;
3905     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
3906     int i;
3907     int end = 0;
3908
3909     // determine cues start and end positions
3910     for (i = 0; i < seekhead_list->nb_elem; i++)
3911         if (seekhead[i].id == MATROSKA_ID_CUES)
3912             break;
3913
3914     if (i >= seekhead_list->nb_elem) return -1;
3915
3916     before_pos = avio_tell(matroska->ctx->pb);
3917     cues_start = seekhead[i].pos + matroska->segment_start;
3918     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
3919         // cues_end is computed as cues_start + cues_length + length of the
3920         // Cues element ID (i.e. 4) + EBML length of the Cues element.
3921         // cues_end is inclusive and the above sum is reduced by 1.
3922         uint64_t cues_length, cues_id;
3923         int bytes_read;
3924         bytes_read = ebml_read_num   (matroska, matroska->ctx->pb, 4, &cues_id, 1);
3925         if (bytes_read < 0 || cues_id != (MATROSKA_ID_CUES & 0xfffffff))
3926             return bytes_read < 0 ? bytes_read : AVERROR_INVALIDDATA;
3927         bytes_read = ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
3928         if (bytes_read < 0)
3929             return bytes_read;
3930         cues_end = cues_start + 4 + bytes_read + cues_length - 1;
3931     }
3932     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
3933     if (cues_start == -1 || cues_end == -1) return -1;
3934
3935     // parse the cues
3936     matroska_parse_cues(matroska);
3937
3938     // cues start
3939     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
3940
3941     // cues end
3942     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
3943
3944     // if the file has cues at the start, fix up the init range so tht
3945     // it does not include it
3946     if (cues_start <= init_range)
3947         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, cues_start - 1, 0);
3948
3949     // bandwidth
3950     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
3951     if (bandwidth < 0) return -1;
3952     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
3953
3954     // check if all clusters start with key frames
3955     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
3956
3957     // store cue point timestamps as a comma separated list for checking subsegment alignment in
3958     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
3959     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20);
3960     if (!buf) return -1;
3961     strcpy(buf, "");
3962     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
3963         int ret = snprintf(buf + end, 20,
3964                            "%" PRId64"%s", s->streams[0]->index_entries[i].timestamp,
3965                            i != s->streams[0]->nb_index_entries - 1 ? "," : "");
3966         if (ret <= 0 || (ret == 20 && i ==  s->streams[0]->nb_index_entries - 1)) {
3967             av_log(s, AV_LOG_ERROR, "timestamp too long.\n");
3968             av_free(buf);
3969             return AVERROR_INVALIDDATA;
3970         }
3971         end += ret;
3972     }
3973     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS, buf, 0);
3974     av_free(buf);
3975
3976     return 0;
3977 }
3978
3979 static int webm_dash_manifest_read_header(AVFormatContext *s)
3980 {
3981     char *buf;
3982     int ret = matroska_read_header(s);
3983     int64_t init_range;
3984     MatroskaTrack *tracks;
3985     MatroskaDemuxContext *matroska = s->priv_data;
3986     if (ret) {
3987         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
3988         return -1;
3989     }
3990     if (!s->nb_streams) {
3991         matroska_read_close(s);
3992         av_log(s, AV_LOG_ERROR, "No streams found\n");
3993         return AVERROR_INVALIDDATA;
3994     }
3995
3996     if (!matroska->is_live) {
3997         buf = av_asprintf("%g", matroska->duration);
3998         if (!buf) return AVERROR(ENOMEM);
3999         av_dict_set(&s->streams[0]->metadata, DURATION, buf, 0);
4000         av_free(buf);
4001
4002         // initialization range
4003         // 5 is the offset of Cluster ID.
4004         init_range = avio_tell(s->pb) - 5;
4005         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, init_range, 0);
4006     }
4007
4008     // basename of the file
4009     buf = strrchr(s->url, '/');
4010     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->url, 0);
4011
4012     // track number
4013     tracks = matroska->tracks.elem;
4014     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
4015
4016     // parse the cues and populate Cue related fields
4017     if (!matroska->is_live) {
4018         ret = webm_dash_manifest_cues(s, init_range);
4019         if (ret < 0) {
4020             av_log(s, AV_LOG_ERROR, "Error parsing Cues\n");
4021             return ret;
4022         }
4023     }
4024
4025     // use the bandwidth from the command line if it was provided
4026     if (matroska->bandwidth > 0) {
4027         av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH,
4028                         matroska->bandwidth, 0);
4029     }
4030     return 0;
4031 }
4032
4033 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
4034 {
4035     return AVERROR_EOF;
4036 }
4037
4038 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
4039 static const AVOption options[] = {
4040     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
4041     { "bandwidth", "bandwidth of this stream to be specified in the DASH manifest.", OFFSET(bandwidth), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, AV_OPT_FLAG_DECODING_PARAM },
4042     { NULL },
4043 };
4044
4045 static const AVClass webm_dash_class = {
4046     .class_name = "WebM DASH Manifest demuxer",
4047     .item_name  = av_default_item_name,
4048     .option     = options,
4049     .version    = LIBAVUTIL_VERSION_INT,
4050 };
4051
4052 AVInputFormat ff_matroska_demuxer = {
4053     .name           = "matroska,webm",
4054     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
4055     .extensions     = "mkv,mk3d,mka,mks",
4056     .priv_data_size = sizeof(MatroskaDemuxContext),
4057     .read_probe     = matroska_probe,
4058     .read_header    = matroska_read_header,
4059     .read_packet    = matroska_read_packet,
4060     .read_close     = matroska_read_close,
4061     .read_seek      = matroska_read_seek,
4062     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
4063 };
4064
4065 AVInputFormat ff_webm_dash_manifest_demuxer = {
4066     .name           = "webm_dash_manifest",
4067     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
4068     .priv_data_size = sizeof(MatroskaDemuxContext),
4069     .read_header    = webm_dash_manifest_read_header,
4070     .read_packet    = webm_dash_manifest_read_packet,
4071     .read_close     = matroska_read_close,
4072     .priv_class     = &webm_dash_class,
4073 };