git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c

   1 /*
   2  * Matroska file demuxer
   3  * Copyright (c) 2003-2008 The FFmpeg Project
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * Matroska file demuxer
  25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
  26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
  27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
  28  * @see specs available on the Matroska project page: http://www.matroska.org/
  29  */
  30
  31 #include "config.h"
  32
  33 #include <inttypes.h>
  34 #include <stdio.h>
  35
  36 #include "libavutil/avstring.h"
  37 #include "libavutil/base64.h"
  38 #include "libavutil/dict.h"
  39 #include "libavutil/intfloat.h"
  40 #include "libavutil/intreadwrite.h"
  41 #include "libavutil/lzo.h"
  42 #include "libavutil/mastering_display_metadata.h"
  43 #include "libavutil/mathematics.h"
  44 #include "libavutil/opt.h"
  45 #include "libavutil/time_internal.h"
  46 #include "libavutil/spherical.h"
  47
  48 #include "libavcodec/bytestream.h"
  49 #include "libavcodec/flac.h"
  50 #include "libavcodec/mpeg4audio.h"
  51
  52 #include "avformat.h"
  53 #include "avio_internal.h"
  54 #include "internal.h"
  55 #include "isom.h"
  56 #include "matroska.h"
  57 #include "oggdec.h"
  58 /* For ff_codec_get_id(). */
  59 #include "riff.h"
  60 #include "rmsipr.h"
  61
  62 #if CONFIG_BZLIB
  63 #include <bzlib.h>
  64 #endif
  65 #if CONFIG_ZLIB
  66 #include <zlib.h>
  67 #endif
  68
  69 #include "qtpalette.h"
  70
  71 #define EBML_UNKNOWN_LENGTH  UINT64_MAX /* EBML unknown length, in uint64_t */
  72 #define NEEDS_CHECKING                2 /* Indicates that some error checks
  73                                          * still need to be performed */
  74 #define LEVEL_ENDED                   3 /* return value of ebml_parse when the
  75                                          * syntax level used for parsing ended. */
  76 #define SKIP_THRESHOLD      1024 * 1024 /* In non-seekable mode, if more than SKIP_THRESHOLD
  77                                          * of unkown, potentially damaged data is encountered,
  78                                          * it is considered an error. */
  79 #define UNKNOWN_EQUIV         50 * 1024 /* An unknown element is considered equivalent
  80                                          * to this many bytes of unknown data for the
  81                                          * SKIP_THRESHOLD check. */
  82
  83 typedef enum {
  84     EBML_NONE,
  85     EBML_UINT,
  86     EBML_SINT,
  87     EBML_FLOAT,
  88     EBML_STR,
  89     EBML_UTF8,
  90     EBML_BIN,
  91     EBML_NEST,
  92     EBML_LEVEL1,
  93     EBML_STOP,
  94     EBML_TYPE_COUNT
  95 } EbmlType;
  96
  97 typedef const struct EbmlSyntax {
  98     uint32_t id;
  99     EbmlType type;
 100     int list_elem_size;
 101     int data_offset;
 102     union {
 103         int64_t     i;
 104         uint64_t    u;
 105         double      f;
 106         const char *s;
 107         const struct EbmlSyntax *n;
 108     } def;
 109 } EbmlSyntax;
 110
 111 typedef struct EbmlList {
 112     int nb_elem;
 113     void *elem;
 114 } EbmlList;
 115
 116 typedef struct EbmlBin {
 117     int      size;
 118     AVBufferRef *buf;
 119     uint8_t *data;
 120     int64_t  pos;
 121 } EbmlBin;
 122
 123 typedef struct Ebml {
 124     uint64_t version;
 125     uint64_t max_size;
 126     uint64_t id_length;
 127     char    *doctype;
 128     uint64_t doctype_version;
 129 } Ebml;
 130
 131 typedef struct MatroskaTrackCompression {
 132     uint64_t algo;
 133     EbmlBin  settings;
 134 } MatroskaTrackCompression;
 135
 136 typedef struct MatroskaTrackEncryption {
 137     uint64_t algo;
 138     EbmlBin  key_id;
 139 } MatroskaTrackEncryption;
 140
 141 typedef struct MatroskaTrackEncoding {
 142     uint64_t scope;
 143     uint64_t type;
 144     MatroskaTrackCompression compression;
 145     MatroskaTrackEncryption encryption;
 146 } MatroskaTrackEncoding;
 147
 148 typedef struct MatroskaMasteringMeta {
 149     double r_x;
 150     double r_y;
 151     double g_x;
 152     double g_y;
 153     double b_x;
 154     double b_y;
 155     double white_x;
 156     double white_y;
 157     double max_luminance;
 158     double min_luminance;
 159 } MatroskaMasteringMeta;
 160
 161 typedef struct MatroskaTrackVideoColor {
 162     uint64_t matrix_coefficients;
 163     uint64_t bits_per_channel;
 164     uint64_t chroma_sub_horz;
 165     uint64_t chroma_sub_vert;
 166     uint64_t cb_sub_horz;
 167     uint64_t cb_sub_vert;
 168     uint64_t chroma_siting_horz;
 169     uint64_t chroma_siting_vert;
 170     uint64_t range;
 171     uint64_t transfer_characteristics;
 172     uint64_t primaries;
 173     uint64_t max_cll;
 174     uint64_t max_fall;
 175     MatroskaMasteringMeta mastering_meta;
 176 } MatroskaTrackVideoColor;
 177
 178 typedef struct MatroskaTrackVideoProjection {
 179     uint64_t type;
 180     EbmlBin private;
 181     double yaw;
 182     double pitch;
 183     double roll;
 184 } MatroskaTrackVideoProjection;
 185
 186 typedef struct MatroskaTrackVideo {
 187     double   frame_rate;
 188     uint64_t display_width;
 189     uint64_t display_height;
 190     uint64_t pixel_width;
 191     uint64_t pixel_height;
 192     EbmlBin  color_space;
 193     uint64_t display_unit;
 194     uint64_t interlaced;
 195     uint64_t field_order;
 196     uint64_t stereo_mode;
 197     uint64_t alpha_mode;
 198     EbmlList color;
 199     MatroskaTrackVideoProjection projection;
 200 } MatroskaTrackVideo;
 201
 202 typedef struct MatroskaTrackAudio {
 203     double   samplerate;
 204     double   out_samplerate;
 205     uint64_t bitdepth;
 206     uint64_t channels;
 207
 208     /* real audio header (extracted from extradata) */
 209     int      coded_framesize;
 210     int      sub_packet_h;
 211     int      frame_size;
 212     int      sub_packet_size;
 213     int      sub_packet_cnt;
 214     int      pkt_cnt;
 215     uint64_t buf_timecode;
 216     uint8_t *buf;
 217 } MatroskaTrackAudio;
 218
 219 typedef struct MatroskaTrackPlane {
 220     uint64_t uid;
 221     uint64_t type;
 222 } MatroskaTrackPlane;
 223
 224 typedef struct MatroskaTrackOperation {
 225     EbmlList combine_planes;
 226 } MatroskaTrackOperation;
 227
 228 typedef struct MatroskaTrack {
 229     uint64_t num;
 230     uint64_t uid;
 231     uint64_t type;
 232     char    *name;
 233     char    *codec_id;
 234     EbmlBin  codec_priv;
 235     char    *language;
 236     double time_scale;
 237     uint64_t default_duration;
 238     uint64_t flag_default;
 239     uint64_t flag_forced;
 240     uint64_t seek_preroll;
 241     MatroskaTrackVideo video;
 242     MatroskaTrackAudio audio;
 243     MatroskaTrackOperation operation;
 244     EbmlList encodings;
 245     uint64_t codec_delay;
 246     uint64_t codec_delay_in_track_tb;
 247
 248     AVStream *stream;
 249     int64_t end_timecode;
 250     int ms_compat;
 251     uint64_t max_block_additional_id;
 252
 253     uint32_t palette[AVPALETTE_COUNT];
 254     int has_palette;
 255 } MatroskaTrack;
 256
 257 typedef struct MatroskaAttachment {
 258     uint64_t uid;
 259     char *filename;
 260     char *mime;
 261     EbmlBin bin;
 262
 263     AVStream *stream;
 264 } MatroskaAttachment;
 265
 266 typedef struct MatroskaChapter {
 267     uint64_t start;
 268     uint64_t end;
 269     uint64_t uid;
 270     char    *title;
 271
 272     AVChapter *chapter;
 273 } MatroskaChapter;
 274
 275 typedef struct MatroskaIndexPos {
 276     uint64_t track;
 277     uint64_t pos;
 278 } MatroskaIndexPos;
 279
 280 typedef struct MatroskaIndex {
 281     uint64_t time;
 282     EbmlList pos;
 283 } MatroskaIndex;
 284
 285 typedef struct MatroskaTag {
 286     char *name;
 287     char *string;
 288     char *lang;
 289     uint64_t def;
 290     EbmlList sub;
 291 } MatroskaTag;
 292
 293 typedef struct MatroskaTagTarget {
 294     char    *type;
 295     uint64_t typevalue;
 296     uint64_t trackuid;
 297     uint64_t chapteruid;
 298     uint64_t attachuid;
 299 } MatroskaTagTarget;
 300
 301 typedef struct MatroskaTags {
 302     MatroskaTagTarget target;
 303     EbmlList tag;
 304 } MatroskaTags;
 305
 306 typedef struct MatroskaSeekhead {
 307     uint64_t id;
 308     uint64_t pos;
 309 } MatroskaSeekhead;
 310
 311 typedef struct MatroskaLevel {
 312     uint64_t start;
 313     uint64_t length;
 314 } MatroskaLevel;
 315
 316 typedef struct MatroskaBlock {
 317     uint64_t duration;
 318     int64_t  reference;
 319     uint64_t non_simple;
 320     EbmlBin  bin;
 321     uint64_t additional_id;
 322     EbmlBin  additional;
 323     int64_t  discard_padding;
 324 } MatroskaBlock;
 325
 326 typedef struct MatroskaCluster {
 327     MatroskaBlock block;
 328     uint64_t timecode;
 329     int64_t pos;
 330 } MatroskaCluster;
 331
 332 typedef struct MatroskaLevel1Element {
 333     uint64_t pos;
 334     uint32_t id;
 335     int parsed;
 336 } MatroskaLevel1Element;
 337
 338 typedef struct MatroskaDemuxContext {
 339     const AVClass *class;
 340     AVFormatContext *ctx;
 341
 342     /* EBML stuff */
 343     MatroskaLevel levels[EBML_MAX_DEPTH];
 344     int      num_levels;
 345     uint32_t current_id;
 346     int64_t  resync_pos;
 347     int      unknown_count;
 348
 349     uint64_t time_scale;
 350     double   duration;
 351     char    *title;
 352     char    *muxingapp;
 353     EbmlBin  date_utc;
 354     EbmlList tracks;
 355     EbmlList attachments;
 356     EbmlList chapters;
 357     EbmlList index;
 358     EbmlList tags;
 359     EbmlList seekhead;
 360
 361     /* byte position of the segment inside the stream */
 362     int64_t segment_start;
 363
 364     /* the packet queue */
 365     AVPacketList *queue;
 366     AVPacketList *queue_end;
 367
 368     int done;
 369
 370     /* What to skip before effectively reading a packet. */
 371     int skip_to_keyframe;
 372     uint64_t skip_to_timecode;
 373
 374     /* File has a CUES element, but we defer parsing until it is needed. */
 375     int cues_parsing_deferred;
 376
 377     /* Level1 elements and whether they were read yet */
 378     MatroskaLevel1Element level1_elems[64];
 379     int num_level1_elems;
 380
 381     MatroskaCluster current_cluster;
 382
 383     /* WebM DASH Manifest live flag */
 384     int is_live;
 385
 386     /* Bandwidth value for WebM DASH Manifest */
 387     int bandwidth;
 388 } MatroskaDemuxContext;
 389
 390 #define CHILD_OF(parent) { .def = { .n = parent } }
 391
 392 static const EbmlSyntax ebml_syntax[], matroska_segment[], matroska_track_video_color[], matroska_track_video[],
 393                         matroska_track[], matroska_track_encoding[], matroska_track_encodings[],
 394                         matroska_track_combine_planes[], matroska_track_operation[], matroska_tracks[],
 395                         matroska_attachments[], matroska_chapter_entry[], matroska_chapter[], matroska_chapters[],
 396                         matroska_index_entry[], matroska_index[], matroska_tag[], matroska_tags[], matroska_seekhead[],
 397                         matroska_blockadditions[], matroska_blockgroup[], matroska_cluster_parsing[];
 398
 399 static const EbmlSyntax ebml_header[] = {
 400     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
 401     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
 402     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
 403     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
 404     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
 405     { EBML_ID_EBMLVERSION,        EBML_NONE },
 406     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
 407     CHILD_OF(ebml_syntax)
 408 };
 409
 410 static const EbmlSyntax ebml_syntax[] = {
 411     { EBML_ID_HEADER,      EBML_NEST, 0, 0, { .n = ebml_header } },
 412     { MATROSKA_ID_SEGMENT, EBML_STOP },
 413     { 0 }
 414 };
 415
 416 static const EbmlSyntax matroska_info[] = {
 417     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
 418     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
 419     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
 420     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
 421     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
 422     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
 423     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
 424     CHILD_OF(matroska_segment)
 425 };
 426
 427 static const EbmlSyntax matroska_mastering_meta[] = {
 428     { MATROSKA_ID_VIDEOCOLOR_RX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_x), { .f=-1 } },
 429     { MATROSKA_ID_VIDEOCOLOR_RY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_y), { .f=-1 } },
 430     { MATROSKA_ID_VIDEOCOLOR_GX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_x), { .f=-1 } },
 431     { MATROSKA_ID_VIDEOCOLOR_GY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_y), { .f=-1 } },
 432     { MATROSKA_ID_VIDEOCOLOR_BX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_x), { .f=-1 } },
 433     { MATROSKA_ID_VIDEOCOLOR_BY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_y), { .f=-1 } },
 434     { MATROSKA_ID_VIDEOCOLOR_WHITEX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_x), { .f=-1 } },
 435     { MATROSKA_ID_VIDEOCOLOR_WHITEY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_y), { .f=-1 } },
 436     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMIN, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, min_luminance), { .f=-1 } },
 437     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMAX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, max_luminance), { .f=-1 } },
 438     CHILD_OF(matroska_track_video_color)
 439 };
 440
 441 static const EbmlSyntax matroska_track_video_color[] = {
 442     { MATROSKA_ID_VIDEOCOLORMATRIXCOEFF,      EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, matrix_coefficients), { .u = AVCOL_SPC_UNSPECIFIED } },
 443     { MATROSKA_ID_VIDEOCOLORBITSPERCHANNEL,   EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, bits_per_channel), { .u=0 } },
 444     { MATROSKA_ID_VIDEOCOLORCHROMASUBHORZ,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_horz), { .u=0 } },
 445     { MATROSKA_ID_VIDEOCOLORCHROMASUBVERT,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_vert), { .u=0 } },
 446     { MATROSKA_ID_VIDEOCOLORCBSUBHORZ,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_horz), { .u=0 } },
 447     { MATROSKA_ID_VIDEOCOLORCBSUBVERT,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_vert), { .u=0 } },
 448     { MATROSKA_ID_VIDEOCOLORCHROMASITINGHORZ, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_horz), { .u = MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED } },
 449     { MATROSKA_ID_VIDEOCOLORCHROMASITINGVERT, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_vert), { .u = MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED } },
 450     { MATROSKA_ID_VIDEOCOLORRANGE,            EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, range), { .u = AVCOL_RANGE_UNSPECIFIED } },
 451     { MATROSKA_ID_VIDEOCOLORTRANSFERCHARACTERISTICS, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, transfer_characteristics), { .u = AVCOL_TRC_UNSPECIFIED } },
 452     { MATROSKA_ID_VIDEOCOLORPRIMARIES,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, primaries), { .u = AVCOL_PRI_UNSPECIFIED } },
 453     { MATROSKA_ID_VIDEOCOLORMAXCLL,           EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_cll), { .u=0 } },
 454     { MATROSKA_ID_VIDEOCOLORMAXFALL,          EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_fall), { .u=0 } },
 455     { MATROSKA_ID_VIDEOCOLORMASTERINGMETA,    EBML_NEST, 0, offsetof(MatroskaTrackVideoColor, mastering_meta), { .n = matroska_mastering_meta } },
 456     CHILD_OF(matroska_track_video)
 457 };
 458
 459 static const EbmlSyntax matroska_track_video_projection[] = {
 460     { MATROSKA_ID_VIDEOPROJECTIONTYPE,        EBML_UINT,  0, offsetof(MatroskaTrackVideoProjection, type), { .u = MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR } },
 461     { MATROSKA_ID_VIDEOPROJECTIONPRIVATE,     EBML_BIN,   0, offsetof(MatroskaTrackVideoProjection, private) },
 462     { MATROSKA_ID_VIDEOPROJECTIONPOSEYAW,     EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, yaw), { .f=0.0 } },
 463     { MATROSKA_ID_VIDEOPROJECTIONPOSEPITCH,   EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, pitch), { .f=0.0 } },
 464     { MATROSKA_ID_VIDEOPROJECTIONPOSEROLL,    EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, roll), { .f=0.0 } },
 465     CHILD_OF(matroska_track_video)
 466 };
 467
 468 static const EbmlSyntax matroska_track_video[] = {
 469     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
 470     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
 471     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
 472     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
 473     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
 474     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
 475     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
 476     { MATROSKA_ID_VIDEOCOLOR,          EBML_NEST,  sizeof(MatroskaTrackVideoColor), offsetof(MatroskaTrackVideo, color), { .n = matroska_track_video_color } },
 477     { MATROSKA_ID_VIDEOPROJECTION,     EBML_NEST,  0, offsetof(MatroskaTrackVideo, projection), { .n = matroska_track_video_projection } },
 478     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
 479     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
 480     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
 481     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
 482     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_unit), { .u= MATROSKA_VIDEO_DISPLAYUNIT_PIXELS } },
 483     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_UINT,  0, offsetof(MatroskaTrackVideo, interlaced),  { .u = MATROSKA_VIDEO_INTERLACE_FLAG_UNDETERMINED } },
 484     { MATROSKA_ID_VIDEOFIELDORDER,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, field_order), { .u = MATROSKA_VIDEO_FIELDORDER_UNDETERMINED } },
 485     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
 486     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
 487     CHILD_OF(matroska_track)
 488 };
 489
 490 static const EbmlSyntax matroska_track_audio[] = {
 491     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
 492     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
 493     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
 494     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
 495     CHILD_OF(matroska_track)
 496 };
 497
 498 static const EbmlSyntax matroska_track_encoding_compression[] = {
 499     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
 500     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
 501     CHILD_OF(matroska_track_encoding)
 502 };
 503
 504 static const EbmlSyntax matroska_track_encoding_encryption[] = {
 505     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
 506     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
 507     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
 508     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
 509     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
 510     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
 511     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
 512     CHILD_OF(matroska_track_encoding)
 513 };
 514 static const EbmlSyntax matroska_track_encoding[] = {
 515     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
 516     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
 517     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
 518     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
 519     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
 520     CHILD_OF(matroska_track_encodings)
 521 };
 522
 523 static const EbmlSyntax matroska_track_encodings[] = {
 524     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
 525     CHILD_OF(matroska_track)
 526 };
 527
 528 static const EbmlSyntax matroska_track_plane[] = {
 529     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
 530     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
 531     CHILD_OF(matroska_track_combine_planes)
 532 };
 533
 534 static const EbmlSyntax matroska_track_combine_planes[] = {
 535     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
 536     CHILD_OF(matroska_track_operation)
 537 };
 538
 539 static const EbmlSyntax matroska_track_operation[] = {
 540     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
 541     CHILD_OF(matroska_track)
 542 };
 543
 544 static const EbmlSyntax matroska_track[] = {
 545     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
 546     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
 547     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
 548     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
 549     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
 550     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
 551     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
 552     { MATROSKA_ID_TRACKLANGUAGE,         EBML_UTF8,  0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
 553     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
 554     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
 555     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
 556     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
 557     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
 558     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
 559     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
 560     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
 561     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
 562     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
 563     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
 564     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
 565     { MATROSKA_ID_CODECNAME,             EBML_NONE },
 566     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
 567     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
 568     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
 569     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
 570     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
 571     CHILD_OF(matroska_tracks)
 572 };
 573
 574 static const EbmlSyntax matroska_tracks[] = {
 575     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
 576     CHILD_OF(matroska_segment)
 577 };
 578
 579 static const EbmlSyntax matroska_attachment[] = {
 580     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
 581     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
 582     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
 583     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
 584     { MATROSKA_ID_FILEDESC,     EBML_NONE },
 585     CHILD_OF(matroska_attachments)
 586 };
 587
 588 static const EbmlSyntax matroska_attachments[] = {
 589     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
 590     CHILD_OF(matroska_segment)
 591 };
 592
 593 static const EbmlSyntax matroska_chapter_display[] = {
 594     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
 595     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
 596     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
 597     CHILD_OF(matroska_chapter_entry)
 598 };
 599
 600 static const EbmlSyntax matroska_chapter_entry[] = {
 601     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
 602     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
 603     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
 604     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
 605     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
 606     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
 607     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
 608     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
 609     CHILD_OF(matroska_chapter)
 610 };
 611
 612 static const EbmlSyntax matroska_chapter[] = {
 613     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
 614     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
 615     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
 616     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
 617     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
 618     CHILD_OF(matroska_chapters)
 619 };
 620
 621 static const EbmlSyntax matroska_chapters[] = {
 622     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
 623     CHILD_OF(matroska_segment)
 624 };
 625
 626 static const EbmlSyntax matroska_index_pos[] = {
 627     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
 628     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
 629     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
 630     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
 631     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
 632     CHILD_OF(matroska_index_entry)
 633 };
 634
 635 static const EbmlSyntax matroska_index_entry[] = {
 636     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
 637     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
 638     CHILD_OF(matroska_index)
 639 };
 640
 641 static const EbmlSyntax matroska_index[] = {
 642     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
 643     CHILD_OF(matroska_segment)
 644 };
 645
 646 static const EbmlSyntax matroska_simpletag[] = {
 647     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
 648     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
 649     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
 650     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 651     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 652     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
 653     CHILD_OF(matroska_tag)
 654 };
 655
 656 static const EbmlSyntax matroska_tagtargets[] = {
 657     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
 658     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
 659     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
 660     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
 661     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
 662     CHILD_OF(matroska_tag)
 663 };
 664
 665 static const EbmlSyntax matroska_tag[] = {
 666     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
 667     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
 668     CHILD_OF(matroska_tags)
 669 };
 670
 671 static const EbmlSyntax matroska_tags[] = {
 672     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
 673     CHILD_OF(matroska_segment)
 674 };
 675
 676 static const EbmlSyntax matroska_seekhead_entry[] = {
 677     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
 678     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
 679     CHILD_OF(matroska_seekhead)
 680 };
 681
 682 static const EbmlSyntax matroska_seekhead[] = {
 683     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
 684     CHILD_OF(matroska_segment)
 685 };
 686
 687 static const EbmlSyntax matroska_segment[] = {
 688     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
 689     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
 690     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
 691     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
 692     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
 693     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
 694     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
 695     { MATROSKA_ID_CLUSTER,     EBML_STOP },
 696     { 0 }   /* We don't want to go back to level 0, so don't add the parent. */
 697 };
 698
 699 static const EbmlSyntax matroska_segments[] = {
 700     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
 701     { 0 }
 702 };
 703
 704 static const EbmlSyntax matroska_blockmore[] = {
 705     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id) },
 706     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
 707     CHILD_OF(matroska_blockadditions)
 708 };
 709
 710 static const EbmlSyntax matroska_blockadditions[] = {
 711     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
 712     CHILD_OF(matroska_blockgroup)
 713 };
 714
 715 static const EbmlSyntax matroska_blockgroup[] = {
 716     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 717     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
 718     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
 719     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
 720     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference), { .i = INT64_MIN } },
 721     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
 722     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
 723     CHILD_OF(matroska_cluster_parsing)
 724 };
 725
 726 // The following array contains SimpleBlock and BlockGroup twice
 727 // in order to reuse the other values for matroska_cluster_enter.
 728 static const EbmlSyntax matroska_cluster_parsing[] = {
 729     { MATROSKA_ID_SIMPLEBLOCK,     EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 730     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, 0, 0, { .n = matroska_blockgroup } },
 731     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
 732     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
 733     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
 734     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 735     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 736     CHILD_OF(matroska_segment)
 737 };
 738
 739 static const EbmlSyntax matroska_cluster_enter[] = {
 740     { MATROSKA_ID_CLUSTER,     EBML_NEST, 0, 0, { .n = &matroska_cluster_parsing[2] } },
 741     { 0 }
 742 };
 743
 744 static const EbmlSyntax matroska_clusters[] = {
 745     { MATROSKA_ID_CLUSTER,     EBML_STOP },
 746     { MATROSKA_ID_CUES,        EBML_NONE },
 747     { MATROSKA_ID_TAGS,        EBML_NONE },
 748     { MATROSKA_ID_INFO,        EBML_NONE },
 749     { MATROSKA_ID_TRACKS,      EBML_NONE },
 750     { MATROSKA_ID_ATTACHMENTS, EBML_NONE },
 751     { MATROSKA_ID_CHAPTERS,    EBML_NONE },
 752     { MATROSKA_ID_SEEKHEAD,    EBML_NONE },
 753     { 0 } /* We don't want to go back to level 0, so don't add the parent. */
 754 };
 755 #undef CHILD_OF
 756
 757 static const char *const matroska_doctypes[] = { "matroska", "webm" };
 758
 759 static int matroska_read_close(AVFormatContext *s);
 760
 761 /*
 762  * This function prepares the status for parsing of level 1 elements.
 763  */
 764 static int matroska_reset_status(MatroskaDemuxContext *matroska,
 765                                  uint32_t id, int64_t position)
 766 {
 767     if (position >= 0) {
 768         int err = avio_seek(matroska->ctx->pb, position, SEEK_SET);
 769         if (err < 0)
 770             return err;
 771     }
 772
 773     matroska->current_id    = id;
 774     matroska->num_levels    = 1;
 775     matroska->unknown_count = 0;
 776     matroska->resync_pos = avio_tell(matroska->ctx->pb);
 777     if (id)
 778         matroska->resync_pos -= (av_log2(id) + 7) / 8;
 779
 780     return 0;
 781 }
 782
 783 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
 784 {
 785     AVIOContext *pb = matroska->ctx->pb;
 786     uint32_t id;
 787
 788     /* Try to seek to the last position to resync from. If this doesn't work,
 789      * we resync from the earliest position available: The start of the buffer. */
 790     if (last_pos < avio_tell(pb) && avio_seek(pb, last_pos + 1, SEEK_SET) < 0) {
 791         av_log(matroska->ctx, AV_LOG_WARNING,
 792                "Seek to desired resync point failed. Seeking to "
 793                "earliest point available instead.\n");
 794         avio_seek(pb, FFMAX(avio_tell(pb) + (pb->buffer - pb->buf_ptr),
 795                             last_pos + 1), SEEK_SET);
 796     }
 797
 798     id = avio_rb32(pb);
 799
 800     // try to find a toplevel element
 801     while (!avio_feof(pb)) {
 802         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
 803             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
 804             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
 805             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
 806             /* Prepare the context for parsing of a level 1 element. */
 807             matroska_reset_status(matroska, id, -1);
 808             /* Given that we are here means that an error has occured,
 809              * so treat the segment as unknown length in order not to
 810              * discard valid data that happens to be beyond the designated
 811              * end of the segment. */
 812             matroska->levels[0].length = EBML_UNKNOWN_LENGTH;
 813             return 0;
 814         }
 815         id = (id << 8) | avio_r8(pb);
 816     }
 817
 818     matroska->done = 1;
 819     return pb->error ? pb->error : AVERROR_EOF;
 820 }
 821
 822 /*
 823  * Read: an "EBML number", which is defined as a variable-length
 824  * array of bytes. The first byte indicates the length by giving a
 825  * number of 0-bits followed by a one. The position of the first
 826  * "one" bit inside the first byte indicates the length of this
 827  * number.
 828  * Returns: number of bytes read, < 0 on error
 829  */
 830 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
 831                          int max_size, uint64_t *number, int eof_forbidden)
 832 {
 833     int read, n = 1;
 834     uint64_t total;
 835     int64_t pos;
 836
 837     /* The first byte tells us the length in bytes - except when it is zero. */
 838     total = avio_r8(pb);
 839     if (pb->eof_reached)
 840         goto err;
 841
 842     /* get the length of the EBML number */
 843     read = 8 - ff_log2_tab[total];
 844
 845     if (!total || read > max_size) {
 846         pos = avio_tell(pb) - 1;
 847         if (!total) {
 848             av_log(matroska->ctx, AV_LOG_ERROR,
 849                    "0x00 at pos %"PRId64" (0x%"PRIx64") invalid as first byte "
 850                    "of an EBML number\n", pos, pos);
 851         } else {
 852             av_log(matroska->ctx, AV_LOG_ERROR,
 853                    "Length %d indicated by an EBML number's first byte 0x%02x "
 854                    "at pos %"PRId64" (0x%"PRIx64") exceeds max length %d.\n",
 855                    read, (uint8_t) total, pos, pos, max_size);
 856         }
 857         return AVERROR_INVALIDDATA;
 858     }
 859
 860     /* read out length */
 861     total ^= 1 << ff_log2_tab[total];
 862     while (n++ < read)
 863         total = (total << 8) | avio_r8(pb);
 864
 865     if (pb->eof_reached) {
 866         eof_forbidden = 1;
 867         goto err;
 868     }
 869
 870     *number = total;
 871
 872     return read;
 873
 874 err:
 875     pos = avio_tell(pb);
 876     if (pb->error) {
 877         av_log(matroska->ctx, AV_LOG_ERROR,
 878                "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
 879                pos, pos);
 880         return pb->error;
 881     }
 882     if (eof_forbidden) {
 883         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
 884                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
 885         return AVERROR(EIO);
 886     }
 887     return AVERROR_EOF;
 888 }
 889
 890 /**
 891  * Read a EBML length value.
 892  * This needs special handling for the "unknown length" case which has multiple
 893  * encodings.
 894  */
 895 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
 896                             uint64_t *number)
 897 {
 898     int res = ebml_read_num(matroska, pb, 8, number, 1);
 899     if (res > 0 && *number + 1 == 1ULL << (7 * res))
 900         *number = EBML_UNKNOWN_LENGTH;
 901     return res;
 902 }
 903
 904 /*
 905  * Read the next element as an unsigned int.
 906  * Returns NEEDS_CHECKING.
 907  */
 908 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
 909 {
 910     int n = 0;
 911
 912     /* big-endian ordering; build up number */
 913     *num = 0;
 914     while (n++ < size)
 915         *num = (*num << 8) | avio_r8(pb);
 916
 917     return NEEDS_CHECKING;
 918 }
 919
 920 /*
 921  * Read the next element as a signed int.
 922  * Returns NEEDS_CHECKING.
 923  */
 924 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
 925 {
 926     int n = 1;
 927
 928     if (size == 0) {
 929         *num = 0;
 930     } else {
 931         *num = sign_extend(avio_r8(pb), 8);
 932
 933         /* big-endian ordering; build up number */
 934         while (n++ < size)
 935             *num = ((uint64_t)*num << 8) | avio_r8(pb);
 936     }
 937
 938     return NEEDS_CHECKING;
 939 }
 940
 941 /*
 942  * Read the next element as a float.
 943  * Returns NEEDS_CHECKING or < 0 on obvious failure.
 944  */
 945 static int ebml_read_float(AVIOContext *pb, int size, double *num)
 946 {
 947     if (size == 0)
 948         *num = 0;
 949     else if (size == 4)
 950         *num = av_int2float(avio_rb32(pb));
 951     else if (size == 8)
 952         *num = av_int2double(avio_rb64(pb));
 953     else
 954         return AVERROR_INVALIDDATA;
 955
 956     return NEEDS_CHECKING;
 957 }
 958
 959 /*
 960  * Read the next element as an ASCII string.
 961  * 0 is success, < 0 or NEEDS_CHECKING is failure.
 962  */
 963 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
 964 {
 965     char *res;
 966     int ret;
 967
 968     /* EBML strings are usually not 0-terminated, so we allocate one
 969      * byte more, read the string and NULL-terminate it ourselves. */
 970     if (!(res = av_malloc(size + 1)))
 971         return AVERROR(ENOMEM);
 972     if ((ret = avio_read(pb, (uint8_t *) res, size)) != size) {
 973         av_free(res);
 974         return ret < 0 ? ret : NEEDS_CHECKING;
 975     }
 976     (res)[size] = '\0';
 977     av_free(*str);
 978     *str = res;
 979
 980     return 0;
 981 }
 982
 983 /*
 984  * Read the next element as binary data.
 985  * 0 is success, < 0 or NEEDS_CHECKING is failure.
 986  */
 987 static int ebml_read_binary(AVIOContext *pb, int length,
 988                             int64_t pos, EbmlBin *bin)
 989 {
 990     int ret;
 991
 992     ret = av_buffer_realloc(&bin->buf, length + AV_INPUT_BUFFER_PADDING_SIZE);
 993     if (ret < 0)
 994         return ret;
 995     memset(bin->buf->data + length, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 996
 997     bin->data = bin->buf->data;
 998     bin->size = length;
 999     bin->pos  = pos;
1000     if ((ret = avio_read(pb, bin->data, length)) != length) {
1001         av_buffer_unref(&bin->buf);
1002         bin->data = NULL;
1003         bin->size = 0;
1004         return ret < 0 ? ret : NEEDS_CHECKING;
1005     }
1006
1007     return 0;
1008 }
1009
1010 /*
1011  * Read the next element, but only the header. The contents
1012  * are supposed to be sub-elements which can be read separately.
1013  * 0 is success, < 0 is failure.
1014  */
1015 static int ebml_read_master(MatroskaDemuxContext *matroska,
1016                             uint64_t length, int64_t pos)
1017 {
1018     MatroskaLevel *level;
1019
1020     if (matroska->num_levels >= EBML_MAX_DEPTH) {
1021         av_log(matroska->ctx, AV_LOG_ERROR,
1022                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
1023         return AVERROR(ENOSYS);
1024     }
1025
1026     level         = &matroska->levels[matroska->num_levels++];
1027     level->start  = pos;
1028     level->length = length;
1029
1030     return 0;
1031 }
1032
1033 /*
1034  * Read signed/unsigned "EBML" numbers.
1035  * Return: number of bytes processed, < 0 on error
1036  */
1037 static int matroska_ebmlnum_uint(MatroskaDemuxContext *matroska,
1038                                  uint8_t *data, uint32_t size, uint64_t *num)
1039 {
1040     AVIOContext pb;
1041     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
1042     return ebml_read_num(matroska, &pb, FFMIN(size, 8), num, 1);
1043 }
1044
1045 /*
1046  * Same as above, but signed.
1047  */
1048 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
1049                                  uint8_t *data, uint32_t size, int64_t *num)
1050 {
1051     uint64_t unum;
1052     int res;
1053
1054     /* read as unsigned number first */
1055     if ((res = matroska_ebmlnum_uint(matroska, data, size, &unum)) < 0)
1056         return res;
1057
1058     /* make signed (weird way) */
1059     *num = unum - ((1LL << (7 * res - 1)) - 1);
1060
1061     return res;
1062 }
1063
1064 static int ebml_parse(MatroskaDemuxContext *matroska,
1065                       EbmlSyntax *syntax, void *data);
1066
1067 static EbmlSyntax *ebml_parse_id(EbmlSyntax *syntax, uint32_t id)
1068 {
1069     int i;
1070
1071     // Whoever touches this should be aware of the duplication
1072     // existing in matroska_cluster_parsing.
1073     for (i = 0; syntax[i].id; i++)
1074         if (id == syntax[i].id)
1075             break;
1076
1077     return &syntax[i];
1078 }
1079
1080 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1081                            void *data)
1082 {
1083     int i, res;
1084
1085     for (i = 0; syntax[i].id; i++)
1086         switch (syntax[i].type) {
1087         case EBML_UINT:
1088             *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
1089             break;
1090         case EBML_SINT:
1091             *(int64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.i;
1092             break;
1093         case EBML_FLOAT:
1094             *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
1095             break;
1096         case EBML_STR:
1097         case EBML_UTF8:
1098             // the default may be NULL
1099             if (syntax[i].def.s) {
1100                 uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
1101                 *dst = av_strdup(syntax[i].def.s);
1102                 if (!*dst)
1103                     return AVERROR(ENOMEM);
1104             }
1105             break;
1106         }
1107
1108     if (!matroska->levels[matroska->num_levels - 1].length) {
1109         matroska->num_levels--;
1110         return 0;
1111     }
1112
1113     do {
1114         res = ebml_parse(matroska, syntax, data);
1115     } while (!res);
1116
1117     return res == LEVEL_ENDED ? 0 : res;
1118 }
1119
1120 static int is_ebml_id_valid(uint32_t id)
1121 {
1122     // Due to endian nonsense in Matroska, the highest byte with any bits set
1123     // will contain the leading length bit. This bit in turn identifies the
1124     // total byte length of the element by its position within the byte.
1125     unsigned int bits = av_log2(id);
1126     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1127 }
1128
1129 /*
1130  * Allocate and return the entry for the level1 element with the given ID. If
1131  * an entry already exists, return the existing entry.
1132  */
1133 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1134                                                         uint32_t id)
1135 {
1136     int i;
1137     MatroskaLevel1Element *elem;
1138
1139     if (!is_ebml_id_valid(id))
1140         return NULL;
1141
1142     // Some files link to all clusters; useless.
1143     if (id == MATROSKA_ID_CLUSTER)
1144         return NULL;
1145
1146     // There can be multiple seekheads.
1147     if (id != MATROSKA_ID_SEEKHEAD) {
1148         for (i = 0; i < matroska->num_level1_elems; i++) {
1149             if (matroska->level1_elems[i].id == id)
1150                 return &matroska->level1_elems[i];
1151         }
1152     }
1153
1154     // Only a completely broken file would have more elements.
1155     // It also provides a low-effort way to escape from circular seekheads
1156     // (every iteration will add a level1 entry).
1157     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1158         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements or circular seekheads.\n");
1159         return NULL;
1160     }
1161
1162     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1163     *elem = (MatroskaLevel1Element){.id = id};
1164
1165     return elem;
1166 }
1167
1168 static int ebml_parse(MatroskaDemuxContext *matroska,
1169                       EbmlSyntax *syntax, void *data)
1170 {
1171     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1172         // Forbid unknown-length EBML_NONE elements.
1173         [EBML_NONE]  = EBML_UNKNOWN_LENGTH - 1,
1174         [EBML_UINT]  = 8,
1175         [EBML_SINT]  = 8,
1176         [EBML_FLOAT] = 8,
1177         // max. 16 MB for strings
1178         [EBML_STR]   = 0x1000000,
1179         [EBML_UTF8]  = 0x1000000,
1180         // max. 256 MB for binary data
1181         [EBML_BIN]   = 0x10000000,
1182         // no limits for anything else
1183     };
1184     AVIOContext *pb = matroska->ctx->pb;
1185     uint32_t id;
1186     uint64_t length;
1187     int64_t pos = avio_tell(pb), pos_alt;
1188     int res, update_pos = 1, level_check;
1189     MatroskaLevel1Element *level1_elem;
1190     MatroskaLevel *level = matroska->num_levels ? &matroska->levels[matroska->num_levels - 1] : NULL;
1191
1192     if (!matroska->current_id) {
1193         uint64_t id;
1194         res = ebml_read_num(matroska, pb, 4, &id, 0);
1195         if (res < 0) {
1196             if (pb->eof_reached && res == AVERROR_EOF) {
1197                 if (matroska->is_live)
1198                     // in live mode, finish parsing if EOF is reached.
1199                     return 1;
1200                 if (level && pos == avio_tell(pb)) {
1201                     if (level->length == EBML_UNKNOWN_LENGTH) {
1202                         // Unknown-length levels automatically end at EOF.
1203                         matroska->num_levels--;
1204                         return LEVEL_ENDED;
1205                     } else {
1206                         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
1207                                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
1208                     }
1209                 }
1210             }
1211             return res;
1212         }
1213         matroska->current_id = id | 1 << 7 * res;
1214         pos_alt = pos + res;
1215     } else {
1216         pos_alt = pos;
1217         pos    -= (av_log2(matroska->current_id) + 7) / 8;
1218     }
1219
1220     id = matroska->current_id;
1221
1222     syntax = ebml_parse_id(syntax, id);
1223     if (!syntax->id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
1224         if (level && level->length == EBML_UNKNOWN_LENGTH) {
1225             // Unknown-length levels end when an element from an upper level
1226             // in the hierarchy is encountered.
1227             while (syntax->def.n) {
1228                 syntax = ebml_parse_id(syntax->def.n, id);
1229                 if (syntax->id) {
1230                     matroska->num_levels--;
1231                     return LEVEL_ENDED;
1232                 }
1233             };
1234         }
1235
1236         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32" at pos. "
1237                                             "%"PRId64"\n", id, pos);
1238         update_pos = 0; /* Don't update resync_pos as an error might have happened. */
1239     }
1240
1241     data = (char *) data + syntax->data_offset;
1242     if (syntax->list_elem_size) {
1243         EbmlList *list = data;
1244         void *newelem = av_realloc_array(list->elem, list->nb_elem + 1,
1245                                                syntax->list_elem_size);
1246         if (!newelem)
1247             return AVERROR(ENOMEM);
1248         list->elem = newelem;
1249         data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1250         memset(data, 0, syntax->list_elem_size);
1251         list->nb_elem++;
1252     }
1253
1254     if (syntax->type != EBML_STOP) {
1255         matroska->current_id = 0;
1256         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1257             return res;
1258
1259         pos_alt += res;
1260
1261         if (matroska->num_levels > 0) {
1262             if (length != EBML_UNKNOWN_LENGTH &&
1263                 level->length != EBML_UNKNOWN_LENGTH) {
1264                 uint64_t elem_end = pos_alt + length,
1265                         level_end = level->start + level->length;
1266
1267                 if (elem_end < level_end) {
1268                     level_check = 0;
1269                 } else if (elem_end == level_end) {
1270                     level_check = LEVEL_ENDED;
1271                 } else {
1272                     av_log(matroska->ctx, AV_LOG_ERROR,
1273                            "Element at 0x%"PRIx64" ending at 0x%"PRIx64" exceeds "
1274                            "containing master element ending at 0x%"PRIx64"\n",
1275                            pos, elem_end, level_end);
1276                     return AVERROR_INVALIDDATA;
1277                 }
1278             } else if (length != EBML_UNKNOWN_LENGTH) {
1279                 level_check = 0;
1280             } else if (level->length != EBML_UNKNOWN_LENGTH) {
1281                 av_log(matroska->ctx, AV_LOG_ERROR, "Unknown-sized element "
1282                        "at 0x%"PRIx64" inside parent with finite size\n", pos);
1283                 return AVERROR_INVALIDDATA;
1284             } else if (id != MATROSKA_ID_CLUSTER) {
1285                 // According to the specifications only clusters and segments
1286                 // are allowed to be unknown-sized.
1287                 av_log(matroska->ctx, AV_LOG_ERROR,
1288                        "Found unknown-sized element other than a cluster at "
1289                        "0x%"PRIx64". Dropping the invalid element.\n", pos);
1290                 return AVERROR_INVALIDDATA;
1291             } else
1292                 level_check = 0;
1293         } else
1294             level_check = 0;
1295
1296         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1297             if (length != EBML_UNKNOWN_LENGTH) {
1298                 av_log(matroska->ctx, AV_LOG_ERROR,
1299                        "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for element "
1300                        "with ID 0x%"PRIX32" at 0x%"PRIx64"\n",
1301                        length, max_lengths[syntax->type], id, pos);
1302             } else if (syntax->type != EBML_NONE) {
1303                 av_log(matroska->ctx, AV_LOG_ERROR,
1304                        "Element with ID 0x%"PRIX32" at pos. 0x%"PRIx64" has "
1305                        "unknown length, yet the length of an element of its "
1306                        "type must be known.\n", id, pos);
1307             } else {
1308                 av_log(matroska->ctx, AV_LOG_ERROR,
1309                        "Found unknown-length element with ID 0x%"PRIX32" at "
1310                        "pos. 0x%"PRIx64" for which no syntax for parsing is "
1311                        "available.\n", id, pos);
1312             }
1313             return AVERROR_INVALIDDATA;
1314         }
1315
1316         if (!(pb->seekable & AVIO_SEEKABLE_NORMAL)) {
1317             // Loosing sync will likely manifest itself as encountering unknown
1318             // elements which are not reliably distinguishable from elements
1319             // belonging to future extensions of the format.
1320             // We use a heuristic to detect such situations: If the current
1321             // element is not expected at the current syntax level and there
1322             // were only a few unknown elements in a row, then the element is
1323             // skipped or considered defective based upon the length of the
1324             // current element (i.e. how much would be skipped); if there were
1325             // more than a few skipped elements in a row and skipping the current
1326             // element would lead us more than SKIP_THRESHOLD away from the last
1327             // known good position, then it is inferred that an error occured.
1328             // The dependency on the number of unknown elements in a row exists
1329             // because the distance to the last known good position is
1330             // automatically big if the last parsed element was big.
1331             // In both cases, each unknown element is considered equivalent to
1332             // UNKNOWN_EQUIV of skipped bytes for the check.
1333             // The whole check is only done for non-seekable output, because
1334             // in this situation skipped data can't simply be rechecked later.
1335             // This is especially important when using unkown length elements
1336             // as the check for whether a child exceeds its containing master
1337             // element is not effective in this situation.
1338             if (update_pos) {
1339                 matroska->unknown_count = 0;
1340             } else {
1341                 int64_t dist = length + UNKNOWN_EQUIV * matroska->unknown_count++;
1342
1343                 if (matroska->unknown_count > 3)
1344                     dist += pos_alt - matroska->resync_pos;
1345
1346                 if (dist > SKIP_THRESHOLD) {
1347                     av_log(matroska->ctx, AV_LOG_ERROR,
1348                            "Unknown element %"PRIX32" at pos. 0x%"PRIx64" with "
1349                            "length 0x%"PRIx64" considered as invalid data. Last "
1350                            "known good position 0x%"PRIx64", %d unknown elements"
1351                            " in a row\n", id, pos, length, matroska->resync_pos,
1352                            matroska->unknown_count);
1353                     return AVERROR_INVALIDDATA;
1354                 }
1355             }
1356         }
1357
1358         if (update_pos) {
1359             // We have found an element that is allowed at this place
1360             // in the hierarchy and it passed all checks, so treat the beginning
1361             // of the element as the "last known good" position.
1362             matroska->resync_pos = pos;
1363         }
1364     }
1365
1366     switch (syntax->type) {
1367     case EBML_UINT:
1368         res = ebml_read_uint(pb, length, data);
1369         break;
1370     case EBML_SINT:
1371         res = ebml_read_sint(pb, length, data);
1372         break;
1373     case EBML_FLOAT:
1374         res = ebml_read_float(pb, length, data);
1375         break;
1376     case EBML_STR:
1377     case EBML_UTF8:
1378         res = ebml_read_ascii(pb, length, data);
1379         break;
1380     case EBML_BIN:
1381         res = ebml_read_binary(pb, length, pos_alt, data);
1382         break;
1383     case EBML_LEVEL1:
1384     case EBML_NEST:
1385         if ((res = ebml_read_master(matroska, length, pos_alt)) < 0)
1386             return res;
1387         if (id == MATROSKA_ID_SEGMENT)
1388             matroska->segment_start = pos_alt;
1389         if (id == MATROSKA_ID_CUES)
1390             matroska->cues_parsing_deferred = 0;
1391         if (syntax->type == EBML_LEVEL1 &&
1392             (level1_elem = matroska_find_level1_elem(matroska, syntax->id))) {
1393             if (level1_elem->parsed)
1394                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1395             level1_elem->parsed = 1;
1396         }
1397         if (res = ebml_parse_nest(matroska, syntax->def.n, data))
1398             return res;
1399         break;
1400     case EBML_STOP:
1401         return 1;
1402     default:
1403         if (length) {
1404             int64_t res2;
1405             if (ffio_limit(pb, length) != length) {
1406                 // ffio_limit emits its own error message,
1407                 // so we don't have to.
1408                 return AVERROR(EIO);
1409             }
1410             if ((res2 = avio_skip(pb, length - 1)) >= 0) {
1411                 // avio_skip might take us past EOF. We check for this
1412                 // by skipping only length - 1 bytes, reading a byte and
1413                 // checking the error flags. This is done in order to check
1414                 // that the element has been properly skipped even when
1415                 // no filesize (that ffio_limit relies on) is available.
1416                 avio_r8(pb);
1417                 res = NEEDS_CHECKING;
1418             } else
1419                 res = res2;
1420         } else
1421             res = 0;
1422     }
1423     if (res) {
1424         if (res == NEEDS_CHECKING) {
1425             if (pb->eof_reached) {
1426                 if (pb->error)
1427                     res = pb->error;
1428                 else
1429                     res = AVERROR_EOF;
1430             } else
1431                 goto level_check;
1432         }
1433
1434         if (res == AVERROR_INVALIDDATA)
1435             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1436         else if (res == AVERROR(EIO))
1437             av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1438         else if (res == AVERROR_EOF) {
1439             av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely\n");
1440             res = AVERROR(EIO);
1441         }
1442
1443         return res;
1444     }
1445
1446 level_check:
1447     if (level_check == LEVEL_ENDED && matroska->num_levels) {
1448         level = &matroska->levels[matroska->num_levels - 1];
1449         pos   = avio_tell(pb);
1450
1451         // Given that pos >= level->start no check for
1452         // level->length != EBML_UNKNOWN_LENGTH is necessary.
1453         while (matroska->num_levels && pos == level->start + level->length) {
1454             matroska->num_levels--;
1455             level--;
1456         }
1457     }
1458
1459     return level_check;
1460 }
1461
1462 static void ebml_free(EbmlSyntax *syntax, void *data)
1463 {
1464     int i, j;
1465     for (i = 0; syntax[i].id; i++) {
1466         void *data_off = (char *) data + syntax[i].data_offset;
1467         switch (syntax[i].type) {
1468         case EBML_STR:
1469         case EBML_UTF8:
1470             av_freep(data_off);
1471             break;
1472         case EBML_BIN:
1473             av_buffer_unref(&((EbmlBin *) data_off)->buf);
1474             break;
1475         case EBML_LEVEL1:
1476         case EBML_NEST:
1477             if (syntax[i].list_elem_size) {
1478                 EbmlList *list = data_off;
1479                 char *ptr = list->elem;
1480                 for (j = 0; j < list->nb_elem;
1481                      j++, ptr += syntax[i].list_elem_size)
1482                     ebml_free(syntax[i].def.n, ptr);
1483                 av_freep(&list->elem);
1484                 list->nb_elem = 0;
1485             } else
1486                 ebml_free(syntax[i].def.n, data_off);
1487         default:
1488             break;
1489         }
1490     }
1491 }
1492
1493 /*
1494  * Autodetecting...
1495  */
1496 static int matroska_probe(const AVProbeData *p)
1497 {
1498     uint64_t total = 0;
1499     int len_mask = 0x80, size = 1, n = 1, i;
1500
1501     /* EBML header? */
1502     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1503         return 0;
1504
1505     /* length of header */
1506     total = p->buf[4];
1507     while (size <= 8 && !(total & len_mask)) {
1508         size++;
1509         len_mask >>= 1;
1510     }
1511     if (size > 8)
1512         return 0;
1513     total &= (len_mask - 1);
1514     while (n < size)
1515         total = (total << 8) | p->buf[4 + n++];
1516
1517     /* Does the probe data contain the whole header? */
1518     if (p->buf_size < 4 + size + total)
1519         return 0;
1520
1521     /* The header should contain a known document type. For now,
1522      * we don't parse the whole header but simply check for the
1523      * availability of that array of characters inside the header.
1524      * Not fully fool-proof, but good enough. */
1525     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1526         size_t probelen = strlen(matroska_doctypes[i]);
1527         if (total < probelen)
1528             continue;
1529         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1530             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1531                 return AVPROBE_SCORE_MAX;
1532     }
1533
1534     // probably valid EBML header but no recognized doctype
1535     return AVPROBE_SCORE_EXTENSION;
1536 }
1537
1538 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1539                                                  int num)
1540 {
1541     MatroskaTrack *tracks = matroska->tracks.elem;
1542     int i;
1543
1544     for (i = 0; i < matroska->tracks.nb_elem; i++)
1545         if (tracks[i].num == num)
1546             return &tracks[i];
1547
1548     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
1549     return NULL;
1550 }
1551
1552 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1553                                   MatroskaTrack *track)
1554 {
1555     MatroskaTrackEncoding *encodings = track->encodings.elem;
1556     uint8_t *data = *buf;
1557     int isize = *buf_size;
1558     uint8_t *pkt_data = NULL;
1559     uint8_t av_unused *newpktdata;
1560     int pkt_size = isize;
1561     int result = 0;
1562     int olen;
1563
1564     if (pkt_size >= 10000000U)
1565         return AVERROR_INVALIDDATA;
1566
1567     switch (encodings[0].compression.algo) {
1568     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1569     {
1570         int header_size = encodings[0].compression.settings.size;
1571         uint8_t *header = encodings[0].compression.settings.data;
1572
1573         if (header_size && !header) {
1574             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1575             return -1;
1576         }
1577
1578         if (!header_size)
1579             return 0;
1580
1581         pkt_size = isize + header_size;
1582         pkt_data = av_malloc(pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1583         if (!pkt_data)
1584             return AVERROR(ENOMEM);
1585
1586         memcpy(pkt_data, header, header_size);
1587         memcpy(pkt_data + header_size, data, isize);
1588         break;
1589     }
1590 #if CONFIG_LZO
1591     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1592         do {
1593             olen       = pkt_size *= 3;
1594             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING
1595                                                        + AV_INPUT_BUFFER_PADDING_SIZE);
1596             if (!newpktdata) {
1597                 result = AVERROR(ENOMEM);
1598                 goto failed;
1599             }
1600             pkt_data = newpktdata;
1601             result   = av_lzo1x_decode(pkt_data, &olen, data, &isize);
1602         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1603         if (result) {
1604             result = AVERROR_INVALIDDATA;
1605             goto failed;
1606         }
1607         pkt_size -= olen;
1608         break;
1609 #endif
1610 #if CONFIG_ZLIB
1611     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1612     {
1613         z_stream zstream = { 0 };
1614         if (inflateInit(&zstream) != Z_OK)
1615             return -1;
1616         zstream.next_in  = data;
1617         zstream.avail_in = isize;
1618         do {
1619             pkt_size  *= 3;
1620             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1621             if (!newpktdata) {
1622                 inflateEnd(&zstream);
1623                 result = AVERROR(ENOMEM);
1624                 goto failed;
1625             }
1626             pkt_data          = newpktdata;
1627             zstream.avail_out = pkt_size - zstream.total_out;
1628             zstream.next_out  = pkt_data + zstream.total_out;
1629             result = inflate(&zstream, Z_NO_FLUSH);
1630         } while (result == Z_OK && pkt_size < 10000000);
1631         pkt_size = zstream.total_out;
1632         inflateEnd(&zstream);
1633         if (result != Z_STREAM_END) {
1634             if (result == Z_MEM_ERROR)
1635                 result = AVERROR(ENOMEM);
1636             else
1637                 result = AVERROR_INVALIDDATA;
1638             goto failed;
1639         }
1640         break;
1641     }
1642 #endif
1643 #if CONFIG_BZLIB
1644     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1645     {
1646         bz_stream bzstream = { 0 };
1647         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1648             return -1;
1649         bzstream.next_in  = data;
1650         bzstream.avail_in = isize;
1651         do {
1652             pkt_size  *= 3;
1653             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1654             if (!newpktdata) {
1655                 BZ2_bzDecompressEnd(&bzstream);
1656                 result = AVERROR(ENOMEM);
1657                 goto failed;
1658             }
1659             pkt_data           = newpktdata;
1660             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1661             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1662             result = BZ2_bzDecompress(&bzstream);
1663         } while (result == BZ_OK && pkt_size < 10000000);
1664         pkt_size = bzstream.total_out_lo32;
1665         BZ2_bzDecompressEnd(&bzstream);
1666         if (result != BZ_STREAM_END) {
1667             if (result == BZ_MEM_ERROR)
1668                 result = AVERROR(ENOMEM);
1669             else
1670                 result = AVERROR_INVALIDDATA;
1671             goto failed;
1672         }
1673         break;
1674     }
1675 #endif
1676     default:
1677         return AVERROR_INVALIDDATA;
1678     }
1679
1680     memset(pkt_data + pkt_size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1681
1682     *buf      = pkt_data;
1683     *buf_size = pkt_size;
1684     return 0;
1685
1686 failed:
1687     av_free(pkt_data);
1688     return result;
1689 }
1690
1691 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1692                                  AVDictionary **metadata, char *prefix)
1693 {
1694     MatroskaTag *tags = list->elem;
1695     char key[1024];
1696     int i;
1697
1698     for (i = 0; i < list->nb_elem; i++) {
1699         const char *lang = tags[i].lang &&
1700                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1701
1702         if (!tags[i].name) {
1703             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1704             continue;
1705         }
1706         if (prefix)
1707             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1708         else
1709             av_strlcpy(key, tags[i].name, sizeof(key));
1710         if (tags[i].def || !lang) {
1711             av_dict_set(metadata, key, tags[i].string, 0);
1712             if (tags[i].sub.nb_elem)
1713                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1714         }
1715         if (lang) {
1716             av_strlcat(key, "-", sizeof(key));
1717             av_strlcat(key, lang, sizeof(key));
1718             av_dict_set(metadata, key, tags[i].string, 0);
1719             if (tags[i].sub.nb_elem)
1720                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1721         }
1722     }
1723     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1724 }
1725
1726 static void matroska_convert_tags(AVFormatContext *s)
1727 {
1728     MatroskaDemuxContext *matroska = s->priv_data;
1729     MatroskaTags *tags = matroska->tags.elem;
1730     int i, j;
1731
1732     for (i = 0; i < matroska->tags.nb_elem; i++) {
1733         if (tags[i].target.attachuid) {
1734             MatroskaAttachment *attachment = matroska->attachments.elem;
1735             int found = 0;
1736             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1737                 if (attachment[j].uid == tags[i].target.attachuid &&
1738                     attachment[j].stream) {
1739                     matroska_convert_tag(s, &tags[i].tag,
1740                                          &attachment[j].stream->metadata, NULL);
1741                     found = 1;
1742                 }
1743             }
1744             if (!found) {
1745                 av_log(NULL, AV_LOG_WARNING,
1746                        "The tags at index %d refer to a "
1747                        "non-existent attachment %"PRId64".\n",
1748                        i, tags[i].target.attachuid);
1749             }
1750         } else if (tags[i].target.chapteruid) {
1751             MatroskaChapter *chapter = matroska->chapters.elem;
1752             int found = 0;
1753             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1754                 if (chapter[j].uid == tags[i].target.chapteruid &&
1755                     chapter[j].chapter) {
1756                     matroska_convert_tag(s, &tags[i].tag,
1757                                          &chapter[j].chapter->metadata, NULL);
1758                     found = 1;
1759                 }
1760             }
1761             if (!found) {
1762                 av_log(NULL, AV_LOG_WARNING,
1763                        "The tags at index %d refer to a non-existent chapter "
1764                        "%"PRId64".\n",
1765                        i, tags[i].target.chapteruid);
1766             }
1767         } else if (tags[i].target.trackuid) {
1768             MatroskaTrack *track = matroska->tracks.elem;
1769             int found = 0;
1770             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1771                 if (track[j].uid == tags[i].target.trackuid &&
1772                     track[j].stream) {
1773                     matroska_convert_tag(s, &tags[i].tag,
1774                                          &track[j].stream->metadata, NULL);
1775                     found = 1;
1776                }
1777             }
1778             if (!found) {
1779                 av_log(NULL, AV_LOG_WARNING,
1780                        "The tags at index %d refer to a non-existent track "
1781                        "%"PRId64".\n",
1782                        i, tags[i].target.trackuid);
1783             }
1784         } else {
1785             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1786                                  tags[i].target.type);
1787         }
1788     }
1789 }
1790
1791 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1792                                          uint64_t pos)
1793 {
1794     uint32_t saved_id  = matroska->current_id;
1795     int64_t before_pos = avio_tell(matroska->ctx->pb);
1796     int64_t offset;
1797     int ret = 0;
1798
1799     /* seek */
1800     offset = pos + matroska->segment_start;
1801     if (avio_seek(matroska->ctx->pb, offset, SEEK_SET) == offset) {
1802         /* We don't want to lose our seekhead level, so we add
1803          * a dummy. This is a crude hack. */
1804         if (matroska->num_levels == EBML_MAX_DEPTH) {
1805             av_log(matroska->ctx, AV_LOG_INFO,
1806                    "Max EBML element depth (%d) reached, "
1807                    "cannot parse further.\n", EBML_MAX_DEPTH);
1808             ret = AVERROR_INVALIDDATA;
1809         } else {
1810             matroska->levels[matroska->num_levels] = (MatroskaLevel) { 0, EBML_UNKNOWN_LENGTH };
1811             matroska->num_levels++;
1812             matroska->current_id                   = 0;
1813
1814             ret = ebml_parse(matroska, matroska_segment, matroska);
1815             if (ret == LEVEL_ENDED) {
1816                 /* This can only happen if the seek brought us beyond EOF. */
1817                 ret = AVERROR_EOF;
1818             }
1819         }
1820     }
1821     /* Seek back - notice that in all instances where this is used
1822      * it is safe to set the level to 1. */
1823     matroska_reset_status(matroska, saved_id, before_pos);
1824
1825     return ret;
1826 }
1827
1828 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1829 {
1830     EbmlList *seekhead_list = &matroska->seekhead;
1831     int i;
1832
1833     // we should not do any seeking in the streaming case
1834     if (!(matroska->ctx->pb->seekable & AVIO_SEEKABLE_NORMAL))
1835         return;
1836
1837     for (i = 0; i < seekhead_list->nb_elem; i++) {
1838         MatroskaSeekhead *seekheads = seekhead_list->elem;
1839         uint32_t id  = seekheads[i].id;
1840         uint64_t pos = seekheads[i].pos;
1841
1842         MatroskaLevel1Element *elem = matroska_find_level1_elem(matroska, id);
1843         if (!elem || elem->parsed)
1844             continue;
1845
1846         elem->pos = pos;
1847
1848         // defer cues parsing until we actually need cue data.
1849         if (id == MATROSKA_ID_CUES)
1850             continue;
1851
1852         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1853             // mark index as broken
1854             matroska->cues_parsing_deferred = -1;
1855             break;
1856         }
1857
1858         elem->parsed = 1;
1859     }
1860 }
1861
1862 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1863 {
1864     EbmlList *index_list;
1865     MatroskaIndex *index;
1866     uint64_t index_scale = 1;
1867     int i, j;
1868
1869     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1870         return;
1871
1872     index_list = &matroska->index;
1873     index      = index_list->elem;
1874     if (index_list->nb_elem < 2)
1875         return;
1876     if (index[1].time > 1E14 / matroska->time_scale) {
1877         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1878         return;
1879     }
1880     for (i = 0; i < index_list->nb_elem; i++) {
1881         EbmlList *pos_list    = &index[i].pos;
1882         MatroskaIndexPos *pos = pos_list->elem;
1883         for (j = 0; j < pos_list->nb_elem; j++) {
1884             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1885                                                               pos[j].track);
1886             if (track && track->stream)
1887                 av_add_index_entry(track->stream,
1888                                    pos[j].pos + matroska->segment_start,
1889                                    index[i].time / index_scale, 0, 0,
1890                                    AVINDEX_KEYFRAME);
1891         }
1892     }
1893 }
1894
1895 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1896     int i;
1897
1898     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1899         return;
1900
1901     for (i = 0; i < matroska->num_level1_elems; i++) {
1902         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1903         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1904             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1905                 matroska->cues_parsing_deferred = -1;
1906             elem->parsed = 1;
1907             break;
1908         }
1909     }
1910
1911     matroska_add_index_entries(matroska);
1912 }
1913
1914 static int matroska_aac_profile(char *codec_id)
1915 {
1916     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1917     int profile;
1918
1919     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1920         if (strstr(codec_id, aac_profiles[profile]))
1921             break;
1922     return profile + 1;
1923 }
1924
1925 static int matroska_aac_sri(int samplerate)
1926 {
1927     int sri;
1928
1929     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1930         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1931             break;
1932     return sri;
1933 }
1934
1935 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1936 {
1937     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1938     avpriv_dict_set_timestamp(metadata, "creation_time", date_utc / 1000 + 978307200000000LL);
1939 }
1940
1941 static int matroska_parse_flac(AVFormatContext *s,
1942                                MatroskaTrack *track,
1943                                int *offset)
1944 {
1945     AVStream *st = track->stream;
1946     uint8_t *p = track->codec_priv.data;
1947     int size   = track->codec_priv.size;
1948
1949     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1950         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1951         track->codec_priv.size = 0;
1952         return 0;
1953     }
1954     *offset = 8;
1955     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1956
1957     p    += track->codec_priv.size;
1958     size -= track->codec_priv.size;
1959
1960     /* parse the remaining metadata blocks if present */
1961     while (size >= 4) {
1962         int block_last, block_type, block_size;
1963
1964         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1965
1966         p    += 4;
1967         size -= 4;
1968         if (block_size > size)
1969             return 0;
1970
1971         /* check for the channel mask */
1972         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
1973             AVDictionary *dict = NULL;
1974             AVDictionaryEntry *chmask;
1975
1976             ff_vorbis_comment(s, &dict, p, block_size, 0);
1977             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
1978             if (chmask) {
1979                 uint64_t mask = strtol(chmask->value, NULL, 0);
1980                 if (!mask || mask & ~0x3ffffULL) {
1981                     av_log(s, AV_LOG_WARNING,
1982                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
1983                 } else
1984                     st->codecpar->channel_layout = mask;
1985             }
1986             av_dict_free(&dict);
1987         }
1988
1989         p    += block_size;
1990         size -= block_size;
1991     }
1992
1993     return 0;
1994 }
1995
1996 static int mkv_field_order(MatroskaDemuxContext *matroska, int64_t field_order)
1997 {
1998     int major, minor, micro, bttb = 0;
1999
2000     /* workaround a bug in our Matroska muxer, introduced in version 57.36 alongside
2001      * this function, and fixed in 57.52 */
2002     if (matroska->muxingapp && sscanf(matroska->muxingapp, "Lavf%d.%d.%d", &major, &minor, &micro) == 3)
2003         bttb = (major == 57 && minor >= 36 && minor <= 51 && micro >= 100);
2004
2005     switch (field_order) {
2006     case MATROSKA_VIDEO_FIELDORDER_PROGRESSIVE:
2007         return AV_FIELD_PROGRESSIVE;
2008     case MATROSKA_VIDEO_FIELDORDER_UNDETERMINED:
2009         return AV_FIELD_UNKNOWN;
2010     case MATROSKA_VIDEO_FIELDORDER_TT:
2011         return AV_FIELD_TT;
2012     case MATROSKA_VIDEO_FIELDORDER_BB:
2013         return AV_FIELD_BB;
2014     case MATROSKA_VIDEO_FIELDORDER_BT:
2015         return bttb ? AV_FIELD_TB : AV_FIELD_BT;
2016     case MATROSKA_VIDEO_FIELDORDER_TB:
2017         return bttb ? AV_FIELD_BT : AV_FIELD_TB;
2018     default:
2019         return AV_FIELD_UNKNOWN;
2020     }
2021 }
2022
2023 static void mkv_stereo_mode_display_mul(int stereo_mode,
2024                                         int *h_width, int *h_height)
2025 {
2026     switch (stereo_mode) {
2027         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
2028         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
2029         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
2030         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
2031         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
2032             break;
2033         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
2034         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
2035         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
2036         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
2037             *h_width = 2;
2038             break;
2039         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
2040         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
2041         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
2042         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
2043             *h_height = 2;
2044             break;
2045     }
2046 }
2047
2048 static int mkv_parse_video_color(AVStream *st, const MatroskaTrack *track) {
2049     const MatroskaTrackVideoColor *color = track->video.color.elem;
2050     const MatroskaMasteringMeta *mastering_meta;
2051     int has_mastering_primaries, has_mastering_luminance;
2052
2053     if (!track->video.color.nb_elem)
2054         return 0;
2055
2056     mastering_meta = &color->mastering_meta;
2057     // Mastering primaries are CIE 1931 coords, and must be > 0.
2058     has_mastering_primaries =
2059         mastering_meta->r_x > 0 && mastering_meta->r_y > 0 &&
2060         mastering_meta->g_x > 0 && mastering_meta->g_y > 0 &&
2061         mastering_meta->b_x > 0 && mastering_meta->b_y > 0 &&
2062         mastering_meta->white_x > 0 && mastering_meta->white_y > 0;
2063     has_mastering_luminance = mastering_meta->max_luminance > 0;
2064
2065     if (color->matrix_coefficients != AVCOL_SPC_RESERVED)
2066         st->codecpar->color_space = color->matrix_coefficients;
2067     if (color->primaries != AVCOL_PRI_RESERVED &&
2068         color->primaries != AVCOL_PRI_RESERVED0)
2069         st->codecpar->color_primaries = color->primaries;
2070     if (color->transfer_characteristics != AVCOL_TRC_RESERVED &&
2071         color->transfer_characteristics != AVCOL_TRC_RESERVED0)
2072         st->codecpar->color_trc = color->transfer_characteristics;
2073     if (color->range != AVCOL_RANGE_UNSPECIFIED &&
2074         color->range <= AVCOL_RANGE_JPEG)
2075         st->codecpar->color_range = color->range;
2076     if (color->chroma_siting_horz != MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED &&
2077         color->chroma_siting_vert != MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED &&
2078         color->chroma_siting_horz  < MATROSKA_COLOUR_CHROMASITINGHORZ_NB &&
2079         color->chroma_siting_vert  < MATROSKA_COLOUR_CHROMASITINGVERT_NB) {
2080         st->codecpar->chroma_location =
2081             avcodec_chroma_pos_to_enum((color->chroma_siting_horz - 1) << 7,
2082                                        (color->chroma_siting_vert - 1) << 7);
2083     }
2084     if (color->max_cll && color->max_fall) {
2085         size_t size = 0;
2086         int ret;
2087         AVContentLightMetadata *metadata = av_content_light_metadata_alloc(&size);
2088         if (!metadata)
2089             return AVERROR(ENOMEM);
2090         ret = av_stream_add_side_data(st, AV_PKT_DATA_CONTENT_LIGHT_LEVEL,
2091                                       (uint8_t *)metadata, size);
2092         if (ret < 0) {
2093             av_freep(&metadata);
2094             return ret;
2095         }
2096         metadata->MaxCLL  = color->max_cll;
2097         metadata->MaxFALL = color->max_fall;
2098     }
2099
2100     if (has_mastering_primaries || has_mastering_luminance) {
2101         // Use similar rationals as other standards.
2102         const int chroma_den = 50000;
2103         const int luma_den = 10000;
2104         AVMasteringDisplayMetadata *metadata =
2105             (AVMasteringDisplayMetadata*) av_stream_new_side_data(
2106                 st, AV_PKT_DATA_MASTERING_DISPLAY_METADATA,
2107                 sizeof(AVMasteringDisplayMetadata));
2108         if (!metadata) {
2109             return AVERROR(ENOMEM);
2110         }
2111         memset(metadata, 0, sizeof(AVMasteringDisplayMetadata));
2112         if (has_mastering_primaries) {
2113             metadata->display_primaries[0][0] = av_make_q(
2114                 round(mastering_meta->r_x * chroma_den), chroma_den);
2115             metadata->display_primaries[0][1] = av_make_q(
2116                 round(mastering_meta->r_y * chroma_den), chroma_den);
2117             metadata->display_primaries[1][0] = av_make_q(
2118                 round(mastering_meta->g_x * chroma_den), chroma_den);
2119             metadata->display_primaries[1][1] = av_make_q(
2120                 round(mastering_meta->g_y * chroma_den), chroma_den);
2121             metadata->display_primaries[2][0] = av_make_q(
2122                 round(mastering_meta->b_x * chroma_den), chroma_den);
2123             metadata->display_primaries[2][1] = av_make_q(
2124                 round(mastering_meta->b_y * chroma_den), chroma_den);
2125             metadata->white_point[0] = av_make_q(
2126                 round(mastering_meta->white_x * chroma_den), chroma_den);
2127             metadata->white_point[1] = av_make_q(
2128                 round(mastering_meta->white_y * chroma_den), chroma_den);
2129             metadata->has_primaries = 1;
2130         }
2131         if (has_mastering_luminance) {
2132             metadata->max_luminance = av_make_q(
2133                 round(mastering_meta->max_luminance * luma_den), luma_den);
2134             metadata->min_luminance = av_make_q(
2135                 round(mastering_meta->min_luminance * luma_den), luma_den);
2136             metadata->has_luminance = 1;
2137         }
2138     }
2139     return 0;
2140 }
2141
2142 static int mkv_parse_video_projection(AVStream *st, const MatroskaTrack *track) {
2143     AVSphericalMapping *spherical;
2144     enum AVSphericalProjection projection;
2145     size_t spherical_size;
2146     uint32_t l = 0, t = 0, r = 0, b = 0;
2147     uint32_t padding = 0;
2148     int ret;
2149     GetByteContext gb;
2150
2151     bytestream2_init(&gb, track->video.projection.private.data,
2152                      track->video.projection.private.size);
2153
2154     if (bytestream2_get_byte(&gb) != 0) {
2155         av_log(NULL, AV_LOG_WARNING, "Unknown spherical metadata\n");
2156         return 0;
2157     }
2158
2159     bytestream2_skip(&gb, 3); // flags
2160
2161     switch (track->video.projection.type) {
2162     case MATROSKA_VIDEO_PROJECTION_TYPE_EQUIRECTANGULAR:
2163         if (track->video.projection.private.size == 20) {
2164             t = bytestream2_get_be32(&gb);
2165             b = bytestream2_get_be32(&gb);
2166             l = bytestream2_get_be32(&gb);
2167             r = bytestream2_get_be32(&gb);
2168
2169             if (b >= UINT_MAX - t || r >= UINT_MAX - l) {
2170                 av_log(NULL, AV_LOG_ERROR,
2171                        "Invalid bounding rectangle coordinates "
2172                        "%"PRIu32",%"PRIu32",%"PRIu32",%"PRIu32"\n",
2173                        l, t, r, b);
2174                 return AVERROR_INVALIDDATA;
2175             }
2176         } else if (track->video.projection.private.size != 0) {
2177             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2178             return AVERROR_INVALIDDATA;
2179         }
2180
2181         if (l || t || r || b)
2182             projection = AV_SPHERICAL_EQUIRECTANGULAR_TILE;
2183         else
2184             projection = AV_SPHERICAL_EQUIRECTANGULAR;
2185         break;
2186     case MATROSKA_VIDEO_PROJECTION_TYPE_CUBEMAP:
2187         if (track->video.projection.private.size < 4) {
2188             av_log(NULL, AV_LOG_ERROR, "Missing projection private properties\n");
2189             return AVERROR_INVALIDDATA;
2190         } else if (track->video.projection.private.size == 12) {
2191             uint32_t layout = bytestream2_get_be32(&gb);
2192             if (layout) {
2193                 av_log(NULL, AV_LOG_WARNING,
2194                        "Unknown spherical cubemap layout %"PRIu32"\n", layout);
2195                 return 0;
2196             }
2197             projection = AV_SPHERICAL_CUBEMAP;
2198             padding = bytestream2_get_be32(&gb);
2199         } else {
2200             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2201             return AVERROR_INVALIDDATA;
2202         }
2203         break;
2204     case MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR:
2205         /* No Spherical metadata */
2206         return 0;
2207     default:
2208         av_log(NULL, AV_LOG_WARNING,
2209                "Unknown spherical metadata type %"PRIu64"\n",
2210                track->video.projection.type);
2211         return 0;
2212     }
2213
2214     spherical = av_spherical_alloc(&spherical_size);
2215     if (!spherical)
2216         return AVERROR(ENOMEM);
2217
2218     spherical->projection = projection;
2219
2220     spherical->yaw   = (int32_t) (track->video.projection.yaw   * (1 << 16));
2221     spherical->pitch = (int32_t) (track->video.projection.pitch * (1 << 16));
2222     spherical->roll  = (int32_t) (track->video.projection.roll  * (1 << 16));
2223
2224     spherical->padding = padding;
2225
2226     spherical->bound_left   = l;
2227     spherical->bound_top    = t;
2228     spherical->bound_right  = r;
2229     spherical->bound_bottom = b;
2230
2231     ret = av_stream_add_side_data(st, AV_PKT_DATA_SPHERICAL, (uint8_t *)spherical,
2232                                   spherical_size);
2233     if (ret < 0) {
2234         av_freep(&spherical);
2235         return ret;
2236     }
2237
2238     return 0;
2239 }
2240
2241 static int get_qt_codec(MatroskaTrack *track, uint32_t *fourcc, enum AVCodecID *codec_id)
2242 {
2243     const AVCodecTag *codec_tags;
2244
2245     codec_tags = track->type == MATROSKA_TRACK_TYPE_VIDEO ?
2246             ff_codec_movvideo_tags : ff_codec_movaudio_tags;
2247
2248     /* Normalize noncompliant private data that starts with the fourcc
2249      * by expanding/shifting the data by 4 bytes and storing the data
2250      * size at the start. */
2251     if (ff_codec_get_id(codec_tags, AV_RL32(track->codec_priv.data))) {
2252         int ret = av_buffer_realloc(&track->codec_priv.buf,
2253                                     track->codec_priv.size + 4 + AV_INPUT_BUFFER_PADDING_SIZE);
2254         if (ret < 0)
2255             return ret;
2256
2257         track->codec_priv.data = track->codec_priv.buf->data;
2258         memmove(track->codec_priv.data + 4, track->codec_priv.data, track->codec_priv.size);
2259         track->codec_priv.size += 4;
2260         AV_WB32(track->codec_priv.data, track->codec_priv.size);
2261     }
2262
2263     *fourcc = AV_RL32(track->codec_priv.data + 4);
2264     *codec_id = ff_codec_get_id(codec_tags, *fourcc);
2265
2266     return 0;
2267 }
2268
2269 static int matroska_parse_tracks(AVFormatContext *s)
2270 {
2271     MatroskaDemuxContext *matroska = s->priv_data;
2272     MatroskaTrack *tracks = matroska->tracks.elem;
2273     AVStream *st;
2274     int i, j, ret;
2275     int k;
2276
2277     for (i = 0; i < matroska->tracks.nb_elem; i++) {
2278         MatroskaTrack *track = &tracks[i];
2279         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
2280         EbmlList *encodings_list = &track->encodings;
2281         MatroskaTrackEncoding *encodings = encodings_list->elem;
2282         uint8_t *extradata = NULL;
2283         int extradata_size = 0;
2284         int extradata_offset = 0;
2285         uint32_t fourcc = 0;
2286         AVIOContext b;
2287         char* key_id_base64 = NULL;
2288         int bit_depth = -1;
2289
2290         /* Apply some sanity checks. */
2291         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
2292             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
2293             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
2294             track->type != MATROSKA_TRACK_TYPE_METADATA) {
2295             av_log(matroska->ctx, AV_LOG_INFO,
2296                    "Unknown or unsupported track type %"PRIu64"\n",
2297                    track->type);
2298             continue;
2299         }
2300         if (!track->codec_id)
2301             continue;
2302
2303         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
2304             isnan(track->audio.samplerate)) {
2305             av_log(matroska->ctx, AV_LOG_WARNING,
2306                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
2307                    track->audio.samplerate);
2308             track->audio.samplerate = 8000;
2309         }
2310
2311         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2312             if (!track->default_duration && track->video.frame_rate > 0) {
2313                 double default_duration = 1000000000 / track->video.frame_rate;
2314                 if (default_duration > UINT64_MAX || default_duration < 0) {
2315                     av_log(matroska->ctx, AV_LOG_WARNING,
2316                          "Invalid frame rate %e. Cannot calculate default duration.\n",
2317                          track->video.frame_rate);
2318                 } else {
2319                     track->default_duration = default_duration;
2320                 }
2321             }
2322             if (track->video.display_width == -1)
2323                 track->video.display_width = track->video.pixel_width;
2324             if (track->video.display_height == -1)
2325                 track->video.display_height = track->video.pixel_height;
2326             if (track->video.color_space.size == 4)
2327                 fourcc = AV_RL32(track->video.color_space.data);
2328         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2329             if (!track->audio.out_samplerate)
2330                 track->audio.out_samplerate = track->audio.samplerate;
2331         }
2332         if (encodings_list->nb_elem > 1) {
2333             av_log(matroska->ctx, AV_LOG_ERROR,
2334                    "Multiple combined encodings not supported");
2335         } else if (encodings_list->nb_elem == 1) {
2336             if (encodings[0].type) {
2337                 if (encodings[0].encryption.key_id.size > 0) {
2338                     /* Save the encryption key id to be stored later as a
2339                        metadata tag. */
2340                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
2341                     key_id_base64 = av_malloc(b64_size);
2342                     if (key_id_base64 == NULL)
2343                         return AVERROR(ENOMEM);
2344
2345                     av_base64_encode(key_id_base64, b64_size,
2346                                      encodings[0].encryption.key_id.data,
2347                                      encodings[0].encryption.key_id.size);
2348                 } else {
2349                     encodings[0].scope = 0;
2350                     av_log(matroska->ctx, AV_LOG_ERROR,
2351                            "Unsupported encoding type");
2352                 }
2353             } else if (
2354 #if CONFIG_ZLIB
2355                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
2356 #endif
2357 #if CONFIG_BZLIB
2358                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
2359 #endif
2360 #if CONFIG_LZO
2361                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
2362 #endif
2363                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
2364                 encodings[0].scope = 0;
2365                 av_log(matroska->ctx, AV_LOG_ERROR,
2366                        "Unsupported encoding type");
2367             } else if (track->codec_priv.size && encodings[0].scope & 2) {
2368                 uint8_t *codec_priv = track->codec_priv.data;
2369                 int ret = matroska_decode_buffer(&track->codec_priv.data,
2370                                                  &track->codec_priv.size,
2371                                                  track);
2372                 if (ret < 0) {
2373                     track->codec_priv.data = NULL;
2374                     track->codec_priv.size = 0;
2375                     av_log(matroska->ctx, AV_LOG_ERROR,
2376                            "Failed to decode codec private data\n");
2377                 }
2378
2379                 if (codec_priv != track->codec_priv.data) {
2380                     av_buffer_unref(&track->codec_priv.buf);
2381                     if (track->codec_priv.data) {
2382                         track->codec_priv.buf = av_buffer_create(track->codec_priv.data,
2383                                                                  track->codec_priv.size + AV_INPUT_BUFFER_PADDING_SIZE,
2384                                                                  NULL, NULL, 0);
2385                         if (!track->codec_priv.buf) {
2386                             av_freep(&track->codec_priv.data);
2387                             track->codec_priv.size = 0;
2388                             return AVERROR(ENOMEM);
2389                         }
2390                     }
2391                 }
2392             }
2393         }
2394
2395         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
2396             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
2397                          strlen(ff_mkv_codec_tags[j].str))) {
2398                 codec_id = ff_mkv_codec_tags[j].id;
2399                 break;
2400             }
2401         }
2402
2403         st = track->stream = avformat_new_stream(s, NULL);
2404         if (!st) {
2405             av_free(key_id_base64);
2406             return AVERROR(ENOMEM);
2407         }
2408
2409         if (key_id_base64) {
2410             /* export encryption key id as base64 metadata tag */
2411             av_dict_set(&st->metadata, "enc_key_id", key_id_base64, 0);
2412             av_freep(&key_id_base64);
2413         }
2414
2415         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
2416              track->codec_priv.size >= 40               &&
2417             track->codec_priv.data) {
2418             track->ms_compat    = 1;
2419             bit_depth           = AV_RL16(track->codec_priv.data + 14);
2420             fourcc              = AV_RL32(track->codec_priv.data + 16);
2421             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
2422                                                   fourcc);
2423             if (!codec_id)
2424                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
2425                                                   fourcc);
2426             extradata_offset    = 40;
2427         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
2428                    track->codec_priv.size >= 14         &&
2429                    track->codec_priv.data) {
2430             int ret;
2431             ffio_init_context(&b, track->codec_priv.data,
2432                               track->codec_priv.size,
2433                               0, NULL, NULL, NULL, NULL);
2434             ret = ff_get_wav_header(s, &b, st->codecpar, track->codec_priv.size, 0);
2435             if (ret < 0)
2436                 return ret;
2437             codec_id         = st->codecpar->codec_id;
2438             fourcc           = st->codecpar->codec_tag;
2439             extradata_offset = FFMIN(track->codec_priv.size, 18);
2440         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
2441                    /* Normally 36, but allow noncompliant private data */
2442                    && (track->codec_priv.size >= 32)
2443                    && (track->codec_priv.data)) {
2444             uint16_t sample_size;
2445             int ret = get_qt_codec(track, &fourcc, &codec_id);
2446             if (ret < 0)
2447                 return ret;
2448             sample_size = AV_RB16(track->codec_priv.data + 26);
2449             if (fourcc == 0) {
2450                 if (sample_size == 8) {
2451                     fourcc = MKTAG('r','a','w',' ');
2452                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2453                 } else if (sample_size == 16) {
2454                     fourcc = MKTAG('t','w','o','s');
2455                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2456                 }
2457             }
2458             if ((fourcc == MKTAG('t','w','o','s') ||
2459                     fourcc == MKTAG('s','o','w','t')) &&
2460                     sample_size == 8)
2461                 codec_id = AV_CODEC_ID_PCM_S8;
2462         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
2463                    (track->codec_priv.size >= 21)          &&
2464                    (track->codec_priv.data)) {
2465             int ret = get_qt_codec(track, &fourcc, &codec_id);
2466             if (ret < 0)
2467                 return ret;
2468             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI ")) {
2469                 fourcc = MKTAG('S','V','Q','3');
2470                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
2471             }
2472             if (codec_id == AV_CODEC_ID_NONE)
2473                 av_log(matroska->ctx, AV_LOG_ERROR,
2474                        "mov FourCC not found %s.\n", av_fourcc2str(fourcc));
2475             if (track->codec_priv.size >= 86) {
2476                 bit_depth = AV_RB16(track->codec_priv.data + 82);
2477                 ffio_init_context(&b, track->codec_priv.data,
2478                                   track->codec_priv.size,
2479                                   0, NULL, NULL, NULL, NULL);
2480                 if (ff_get_qtpalette(codec_id, &b, track->palette)) {
2481                     bit_depth &= 0x1F;
2482                     track->has_palette = 1;
2483                 }
2484             }
2485         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
2486             switch (track->audio.bitdepth) {
2487             case  8:
2488                 codec_id = AV_CODEC_ID_PCM_U8;
2489                 break;
2490             case 24:
2491                 codec_id = AV_CODEC_ID_PCM_S24BE;
2492                 break;
2493             case 32:
2494                 codec_id = AV_CODEC_ID_PCM_S32BE;
2495                 break;
2496             }
2497         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
2498             switch (track->audio.bitdepth) {
2499             case  8:
2500                 codec_id = AV_CODEC_ID_PCM_U8;
2501                 break;
2502             case 24:
2503                 codec_id = AV_CODEC_ID_PCM_S24LE;
2504                 break;
2505             case 32:
2506                 codec_id = AV_CODEC_ID_PCM_S32LE;
2507                 break;
2508             }
2509         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
2510                    track->audio.bitdepth == 64) {
2511             codec_id = AV_CODEC_ID_PCM_F64LE;
2512         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
2513             int profile = matroska_aac_profile(track->codec_id);
2514             int sri     = matroska_aac_sri(track->audio.samplerate);
2515             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
2516             if (!extradata)
2517                 return AVERROR(ENOMEM);
2518             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
2519             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
2520             if (strstr(track->codec_id, "SBR")) {
2521                 sri            = matroska_aac_sri(track->audio.out_samplerate);
2522                 extradata[2]   = 0x56;
2523                 extradata[3]   = 0xE5;
2524                 extradata[4]   = 0x80 | (sri << 3);
2525                 extradata_size = 5;
2526             } else
2527                 extradata_size = 2;
2528         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
2529             /* Only ALAC's magic cookie is stored in Matroska's track headers.
2530              * Create the "atom size", "tag", and "tag version" fields the
2531              * decoder expects manually. */
2532             extradata_size = 12 + track->codec_priv.size;
2533             extradata      = av_mallocz(extradata_size +
2534                                         AV_INPUT_BUFFER_PADDING_SIZE);
2535             if (!extradata)
2536                 return AVERROR(ENOMEM);
2537             AV_WB32(extradata, extradata_size);
2538             memcpy(&extradata[4], "alac", 4);
2539             AV_WB32(&extradata[8], 0);
2540             memcpy(&extradata[12], track->codec_priv.data,
2541                    track->codec_priv.size);
2542         } else if (codec_id == AV_CODEC_ID_TTA) {
2543             extradata_size = 30;
2544             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
2545             if (!extradata)
2546                 return AVERROR(ENOMEM);
2547             ffio_init_context(&b, extradata, extradata_size, 1,
2548                               NULL, NULL, NULL, NULL);
2549             avio_write(&b, "TTA1", 4);
2550             avio_wl16(&b, 1);
2551             if (track->audio.channels > UINT16_MAX ||
2552                 track->audio.bitdepth > UINT16_MAX) {
2553                 av_log(matroska->ctx, AV_LOG_WARNING,
2554                        "Too large audio channel number %"PRIu64
2555                        " or bitdepth %"PRIu64". Skipping track.\n",
2556                        track->audio.channels, track->audio.bitdepth);
2557                 av_freep(&extradata);
2558                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
2559                     return AVERROR_INVALIDDATA;
2560                 else
2561                     continue;
2562             }
2563             avio_wl16(&b, track->audio.channels);
2564             avio_wl16(&b, track->audio.bitdepth);
2565             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
2566                 return AVERROR_INVALIDDATA;
2567             avio_wl32(&b, track->audio.out_samplerate);
2568             avio_wl32(&b, av_rescale((matroska->duration * matroska->time_scale),
2569                                      track->audio.out_samplerate,
2570                                      AV_TIME_BASE * 1000));
2571         } else if (codec_id == AV_CODEC_ID_RV10 ||
2572                    codec_id == AV_CODEC_ID_RV20 ||
2573                    codec_id == AV_CODEC_ID_RV30 ||
2574                    codec_id == AV_CODEC_ID_RV40) {
2575             extradata_offset = 26;
2576         } else if (codec_id == AV_CODEC_ID_RA_144) {
2577             track->audio.out_samplerate = 8000;
2578             track->audio.channels       = 1;
2579         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
2580                     codec_id == AV_CODEC_ID_COOK   ||
2581                     codec_id == AV_CODEC_ID_ATRAC3 ||
2582                     codec_id == AV_CODEC_ID_SIPR)
2583                       && track->codec_priv.data) {
2584             int flavor;
2585
2586             ffio_init_context(&b, track->codec_priv.data,
2587                               track->codec_priv.size,
2588                               0, NULL, NULL, NULL, NULL);
2589             avio_skip(&b, 22);
2590             flavor                       = avio_rb16(&b);
2591             track->audio.coded_framesize = avio_rb32(&b);
2592             avio_skip(&b, 12);
2593             track->audio.sub_packet_h    = avio_rb16(&b);
2594             track->audio.frame_size      = avio_rb16(&b);
2595             track->audio.sub_packet_size = avio_rb16(&b);
2596             if (flavor                        < 0 ||
2597                 track->audio.coded_framesize <= 0 ||
2598                 track->audio.sub_packet_h    <= 0 ||
2599                 track->audio.frame_size      <= 0 ||
2600                 track->audio.sub_packet_size <= 0 && codec_id != AV_CODEC_ID_SIPR)
2601                 return AVERROR_INVALIDDATA;
2602             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2603                                                track->audio.frame_size);
2604             if (!track->audio.buf)
2605                 return AVERROR(ENOMEM);
2606             if (codec_id == AV_CODEC_ID_RA_288) {
2607                 st->codecpar->block_align = track->audio.coded_framesize;
2608                 track->codec_priv.size = 0;
2609             } else {
2610                 if (codec_id == AV_CODEC_ID_SIPR && flavor < 4) {
2611                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2612                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2613                     st->codecpar->bit_rate          = sipr_bit_rate[flavor];
2614                 }
2615                 st->codecpar->block_align = track->audio.sub_packet_size;
2616                 extradata_offset       = 78;
2617             }
2618         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2619             ret = matroska_parse_flac(s, track, &extradata_offset);
2620             if (ret < 0)
2621                 return ret;
2622         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2623             fourcc = AV_RL32(track->codec_priv.data);
2624         } else if (codec_id == AV_CODEC_ID_VP9 && track->codec_priv.size) {
2625             /* we don't need any value stored in CodecPrivate.
2626                make sure that it's not exported as extradata. */
2627             track->codec_priv.size = 0;
2628         } else if (codec_id == AV_CODEC_ID_AV1 && track->codec_priv.size) {
2629             /* For now, propagate only the OBUs, if any. Once libavcodec is
2630                updated to handle isobmff style extradata this can be removed. */
2631             extradata_offset = 4;
2632         }
2633         track->codec_priv.size -= extradata_offset;
2634
2635         if (codec_id == AV_CODEC_ID_NONE)
2636             av_log(matroska->ctx, AV_LOG_INFO,
2637                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2638
2639         if (track->time_scale < 0.01)
2640             track->time_scale = 1.0;
2641         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2642                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2643
2644         /* convert the delay from ns to the track timebase */
2645         track->codec_delay_in_track_tb = av_rescale_q(track->codec_delay,
2646                                           (AVRational){ 1, 1000000000 },
2647                                           st->time_base);
2648
2649         st->codecpar->codec_id = codec_id;
2650
2651         if (strcmp(track->language, "und"))
2652             av_dict_set(&st->metadata, "language", track->language, 0);
2653         av_dict_set(&st->metadata, "title", track->name, 0);
2654
2655         if (track->flag_default)
2656             st->disposition |= AV_DISPOSITION_DEFAULT;
2657         if (track->flag_forced)
2658             st->disposition |= AV_DISPOSITION_FORCED;
2659
2660         if (!st->codecpar->extradata) {
2661             if (extradata) {
2662                 st->codecpar->extradata      = extradata;
2663                 st->codecpar->extradata_size = extradata_size;
2664             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2665                 if (ff_alloc_extradata(st->codecpar, track->codec_priv.size))
2666                     return AVERROR(ENOMEM);
2667                 memcpy(st->codecpar->extradata,
2668                        track->codec_priv.data + extradata_offset,
2669                        track->codec_priv.size);
2670             }
2671         }
2672
2673         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2674             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2675             int display_width_mul  = 1;
2676             int display_height_mul = 1;
2677
2678             st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2679             st->codecpar->codec_tag  = fourcc;
2680             if (bit_depth >= 0)
2681                 st->codecpar->bits_per_coded_sample = bit_depth;
2682             st->codecpar->width      = track->video.pixel_width;
2683             st->codecpar->height     = track->video.pixel_height;
2684
2685             if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_INTERLACED)
2686                 st->codecpar->field_order = mkv_field_order(matroska, track->video.field_order);
2687             else if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_PROGRESSIVE)
2688                 st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2689
2690             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2691                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2692
2693             if (track->video.display_unit < MATROSKA_VIDEO_DISPLAYUNIT_UNKNOWN) {
2694                 av_reduce(&st->sample_aspect_ratio.num,
2695                           &st->sample_aspect_ratio.den,
2696                           st->codecpar->height * track->video.display_width  * display_width_mul,
2697                           st->codecpar->width  * track->video.display_height * display_height_mul,
2698                           255);
2699             }
2700             if (st->codecpar->codec_id != AV_CODEC_ID_HEVC)
2701                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2702
2703             if (track->default_duration) {
2704                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2705                           1000000000, track->default_duration, 30000);
2706 #if FF_API_R_FRAME_RATE
2707                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2708                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2709                     st->r_frame_rate = st->avg_frame_rate;
2710 #endif
2711             }
2712
2713             /* export stereo mode flag as metadata tag */
2714             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2715                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2716
2717             /* export alpha mode flag as metadata tag  */
2718             if (track->video.alpha_mode)
2719                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2720
2721             /* if we have virtual track, mark the real tracks */
2722             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2723                 char buf[32];
2724                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2725                     continue;
2726                 snprintf(buf, sizeof(buf), "%s_%d",
2727                          ff_matroska_video_stereo_plane[planes[j].type], i);
2728                 for (k=0; k < matroska->tracks.nb_elem; k++)
2729                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2730                         av_dict_set(&tracks[k].stream->metadata,
2731                                     "stereo_mode", buf, 0);
2732                         break;
2733                     }
2734             }
2735             // add stream level stereo3d side data if it is a supported format
2736             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2737                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2738                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2739                 if (ret < 0)
2740                     return ret;
2741             }
2742
2743             ret = mkv_parse_video_color(st, track);
2744             if (ret < 0)
2745                 return ret;
2746             ret = mkv_parse_video_projection(st, track);
2747             if (ret < 0)
2748                 return ret;
2749         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2750             st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
2751             st->codecpar->codec_tag   = fourcc;
2752             st->codecpar->sample_rate = track->audio.out_samplerate;
2753             st->codecpar->channels    = track->audio.channels;
2754             if (!st->codecpar->bits_per_coded_sample)
2755                 st->codecpar->bits_per_coded_sample = track->audio.bitdepth;
2756             if (st->codecpar->codec_id == AV_CODEC_ID_MP3 ||
2757                 st->codecpar->codec_id == AV_CODEC_ID_MLP ||
2758                 st->codecpar->codec_id == AV_CODEC_ID_TRUEHD)
2759                 st->need_parsing = AVSTREAM_PARSE_FULL;
2760             else if (st->codecpar->codec_id != AV_CODEC_ID_AAC)
2761                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2762             if (track->codec_delay > 0) {
2763                 st->codecpar->initial_padding = av_rescale_q(track->codec_delay,
2764                                                              (AVRational){1, 1000000000},
2765                                                              (AVRational){1, st->codecpar->codec_id == AV_CODEC_ID_OPUS ?
2766                                                                              48000 : st->codecpar->sample_rate});
2767             }
2768             if (track->seek_preroll > 0) {
2769                 st->codecpar->seek_preroll = av_rescale_q(track->seek_preroll,
2770                                                           (AVRational){1, 1000000000},
2771                                                           (AVRational){1, st->codecpar->sample_rate});
2772             }
2773         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2774             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2775
2776             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2777                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2778             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2779                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2780             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2781                 st->disposition |= AV_DISPOSITION_METADATA;
2782             }
2783         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2784             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2785         }
2786     }
2787
2788     return 0;
2789 }
2790
2791 static int matroska_read_header(AVFormatContext *s)
2792 {
2793     MatroskaDemuxContext *matroska = s->priv_data;
2794     EbmlList *attachments_list = &matroska->attachments;
2795     EbmlList *chapters_list    = &matroska->chapters;
2796     MatroskaAttachment *attachments;
2797     MatroskaChapter *chapters;
2798     uint64_t max_start = 0;
2799     int64_t pos;
2800     Ebml ebml = { 0 };
2801     int i, j, res;
2802
2803     matroska->ctx = s;
2804     matroska->cues_parsing_deferred = 1;
2805
2806     /* First read the EBML header. */
2807     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2808         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2809         ebml_free(ebml_syntax, &ebml);
2810         return AVERROR_INVALIDDATA;
2811     }
2812     if (ebml.version         > EBML_VERSION      ||
2813         ebml.max_size        > sizeof(uint64_t)  ||
2814         ebml.id_length       > sizeof(uint32_t)  ||
2815         ebml.doctype_version > 3) {
2816         avpriv_report_missing_feature(matroska->ctx,
2817                                       "EBML version %"PRIu64", doctype %s, doc version %"PRIu64,
2818                                       ebml.version, ebml.doctype, ebml.doctype_version);
2819         ebml_free(ebml_syntax, &ebml);
2820         return AVERROR_PATCHWELCOME;
2821     } else if (ebml.doctype_version == 3) {
2822         av_log(matroska->ctx, AV_LOG_WARNING,
2823                "EBML header using unsupported features\n"
2824                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2825                ebml.version, ebml.doctype, ebml.doctype_version);
2826     }
2827     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2828         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2829             break;
2830     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2831         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2832         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2833             ebml_free(ebml_syntax, &ebml);
2834             return AVERROR_INVALIDDATA;
2835         }
2836     }
2837     ebml_free(ebml_syntax, &ebml);
2838
2839     /* The next thing is a segment. */
2840     pos = avio_tell(matroska->ctx->pb);
2841     res = ebml_parse(matroska, matroska_segments, matroska);
2842     // Try resyncing until we find an EBML_STOP type element.
2843     while (res != 1) {
2844         res = matroska_resync(matroska, pos);
2845         if (res < 0)
2846             goto fail;
2847         pos = avio_tell(matroska->ctx->pb);
2848         res = ebml_parse(matroska, matroska_segment, matroska);
2849     }
2850     /* Set data_offset as it might be needed later by seek_frame_generic. */
2851     if (matroska->current_id == MATROSKA_ID_CLUSTER)
2852         s->internal->data_offset = avio_tell(matroska->ctx->pb) - 4;
2853     matroska_execute_seekhead(matroska);
2854
2855     if (!matroska->time_scale)
2856         matroska->time_scale = 1000000;
2857     if (matroska->duration)
2858         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2859                                   1000 / AV_TIME_BASE;
2860     av_dict_set(&s->metadata, "title", matroska->title, 0);
2861     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2862
2863     if (matroska->date_utc.size == 8)
2864         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2865
2866     res = matroska_parse_tracks(s);
2867     if (res < 0)
2868         goto fail;
2869
2870     attachments = attachments_list->elem;
2871     for (j = 0; j < attachments_list->nb_elem; j++) {
2872         if (!(attachments[j].filename && attachments[j].mime &&
2873               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2874             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2875         } else {
2876             AVStream *st = avformat_new_stream(s, NULL);
2877             if (!st)
2878                 break;
2879             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2880             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2881             st->codecpar->codec_id   = AV_CODEC_ID_NONE;
2882
2883             for (i = 0; ff_mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2884                 if (!strncmp(ff_mkv_image_mime_tags[i].str, attachments[j].mime,
2885                              strlen(ff_mkv_image_mime_tags[i].str))) {
2886                     st->codecpar->codec_id = ff_mkv_image_mime_tags[i].id;
2887                     break;
2888                 }
2889             }
2890
2891             attachments[j].stream = st;
2892
2893             if (st->codecpar->codec_id != AV_CODEC_ID_NONE) {
2894                 AVPacket *pkt = &st->attached_pic;
2895
2896                 st->disposition         |= AV_DISPOSITION_ATTACHED_PIC;
2897                 st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2898
2899                 av_init_packet(pkt);
2900                 pkt->buf = av_buffer_ref(attachments[j].bin.buf);
2901                 if (!pkt->buf)
2902                     return AVERROR(ENOMEM);
2903                 pkt->data         = attachments[j].bin.data;
2904                 pkt->size         = attachments[j].bin.size;
2905                 pkt->stream_index = st->index;
2906                 pkt->flags       |= AV_PKT_FLAG_KEY;
2907             } else {
2908                 st->codecpar->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2909                 if (ff_alloc_extradata(st->codecpar, attachments[j].bin.size))
2910                     break;
2911                 memcpy(st->codecpar->extradata, attachments[j].bin.data,
2912                        attachments[j].bin.size);
2913
2914                 for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2915                     if (!strncmp(ff_mkv_mime_tags[i].str, attachments[j].mime,
2916                                 strlen(ff_mkv_mime_tags[i].str))) {
2917                         st->codecpar->codec_id = ff_mkv_mime_tags[i].id;
2918                         break;
2919                     }
2920                 }
2921             }
2922         }
2923     }
2924
2925     chapters = chapters_list->elem;
2926     for (i = 0; i < chapters_list->nb_elem; i++)
2927         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2928             (max_start == 0 || chapters[i].start > max_start)) {
2929             chapters[i].chapter =
2930                 avpriv_new_chapter(s, chapters[i].uid,
2931                                    (AVRational) { 1, 1000000000 },
2932                                    chapters[i].start, chapters[i].end,
2933                                    chapters[i].title);
2934             if (chapters[i].chapter) {
2935                 av_dict_set(&chapters[i].chapter->metadata,
2936                             "title", chapters[i].title, 0);
2937             }
2938             max_start = chapters[i].start;
2939         }
2940
2941     matroska_add_index_entries(matroska);
2942
2943     matroska_convert_tags(s);
2944
2945     return 0;
2946 fail:
2947     matroska_read_close(s);
2948     return res;
2949 }
2950
2951 /*
2952  * Put one packet in an application-supplied AVPacket struct.
2953  * Returns 0 on success or -1 on failure.
2954  */
2955 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2956                                    AVPacket *pkt)
2957 {
2958     if (matroska->queue) {
2959         MatroskaTrack *tracks = matroska->tracks.elem;
2960         MatroskaTrack *track;
2961
2962         ff_packet_list_get(&matroska->queue, &matroska->queue_end, pkt);
2963         track = &tracks[pkt->stream_index];
2964         if (track->has_palette) {
2965             uint8_t *pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
2966             if (!pal) {
2967                 av_log(matroska->ctx, AV_LOG_ERROR, "Cannot append palette to packet\n");
2968             } else {
2969                 memcpy(pal, track->palette, AVPALETTE_SIZE);
2970             }
2971             track->has_palette = 0;
2972         }
2973         return 0;
2974     }
2975
2976     return -1;
2977 }
2978
2979 /*
2980  * Free all packets in our internal queue.
2981  */
2982 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
2983 {
2984     ff_packet_list_free(&matroska->queue, &matroska->queue_end);
2985 }
2986
2987 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
2988                                 int *buf_size, int type,
2989                                 uint32_t **lace_buf, int *laces)
2990 {
2991     int res = 0, n, size = *buf_size;
2992     uint8_t *data = *buf;
2993     uint32_t *lace_size;
2994
2995     if (!type) {
2996         *laces    = 1;
2997         *lace_buf = av_malloc(sizeof(**lace_buf));
2998         if (!*lace_buf)
2999             return AVERROR(ENOMEM);
3000
3001         *lace_buf[0] = size;
3002         return 0;
3003     }
3004
3005     av_assert0(size > 0);
3006     *laces    = *data + 1;
3007     data     += 1;
3008     size     -= 1;
3009     lace_size = av_malloc_array(*laces, sizeof(*lace_size));
3010     if (!lace_size)
3011         return AVERROR(ENOMEM);
3012
3013     switch (type) {
3014     case 0x1: /* Xiph lacing */
3015     {
3016         uint8_t temp;
3017         uint32_t total = 0;
3018         for (n = 0; res == 0 && n < *laces - 1; n++) {
3019             lace_size[n] = 0;
3020
3021             while (1) {
3022                 if (size <= total) {
3023                     res = AVERROR_INVALIDDATA;
3024                     break;
3025                 }
3026                 temp          = *data;
3027                 total        += temp;
3028                 lace_size[n] += temp;
3029                 data         += 1;
3030                 size         -= 1;
3031                 if (temp != 0xff)
3032                     break;
3033             }
3034         }
3035         if (size <= total) {
3036             res = AVERROR_INVALIDDATA;
3037             break;
3038         }
3039
3040         lace_size[n] = size - total;
3041         break;
3042     }
3043
3044     case 0x2: /* fixed-size lacing */
3045         if (size % (*laces)) {
3046             res = AVERROR_INVALIDDATA;
3047             break;
3048         }
3049         for (n = 0; n < *laces; n++)
3050             lace_size[n] = size / *laces;
3051         break;
3052
3053     case 0x3: /* EBML lacing */
3054     {
3055         uint64_t num;
3056         uint64_t total;
3057         n = matroska_ebmlnum_uint(matroska, data, size, &num);
3058         if (n < 0 || num > INT_MAX) {
3059             av_log(matroska->ctx, AV_LOG_INFO,
3060                    "EBML block data error\n");
3061             res = n<0 ? n : AVERROR_INVALIDDATA;
3062             break;
3063         }
3064         data += n;
3065         size -= n;
3066         total = lace_size[0] = num;
3067         for (n = 1; res == 0 && n < *laces - 1; n++) {
3068             int64_t snum;
3069             int r;
3070             r = matroska_ebmlnum_sint(matroska, data, size, &snum);
3071             if (r < 0 || lace_size[n - 1] + snum > (uint64_t)INT_MAX) {
3072                 av_log(matroska->ctx, AV_LOG_INFO,
3073                        "EBML block data error\n");
3074                 res = r<0 ? r : AVERROR_INVALIDDATA;
3075                 break;
3076             }
3077             data        += r;
3078             size        -= r;
3079             lace_size[n] = lace_size[n - 1] + snum;
3080             total       += lace_size[n];
3081         }
3082         if (size <= total) {
3083             res = AVERROR_INVALIDDATA;
3084             break;
3085         }
3086         lace_size[*laces - 1] = size - total;
3087         break;
3088     }
3089     }
3090
3091     *buf      = data;
3092     *lace_buf = lace_size;
3093     *buf_size = size;
3094
3095     return res;
3096 }
3097
3098 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
3099                                    MatroskaTrack *track, AVStream *st,
3100                                    uint8_t *data, int size, uint64_t timecode,
3101                                    int64_t pos)
3102 {
3103     int a = st->codecpar->block_align;
3104     int sps = track->audio.sub_packet_size;
3105     int cfs = track->audio.coded_framesize;
3106     int h   = track->audio.sub_packet_h;
3107     int y   = track->audio.sub_packet_cnt;
3108     int w   = track->audio.frame_size;
3109     int x;
3110
3111     if (!track->audio.pkt_cnt) {
3112         if (track->audio.sub_packet_cnt == 0)
3113             track->audio.buf_timecode = timecode;
3114         if (st->codecpar->codec_id == AV_CODEC_ID_RA_288) {
3115             if (size < cfs * h / 2) {
3116                 av_log(matroska->ctx, AV_LOG_ERROR,
3117                        "Corrupt int4 RM-style audio packet size\n");
3118                 return AVERROR_INVALIDDATA;
3119             }
3120             for (x = 0; x < h / 2; x++)
3121                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
3122                        data + x * cfs, cfs);
3123         } else if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
3124             if (size < w) {
3125                 av_log(matroska->ctx, AV_LOG_ERROR,
3126                        "Corrupt sipr RM-style audio packet size\n");
3127                 return AVERROR_INVALIDDATA;
3128             }
3129             memcpy(track->audio.buf + y * w, data, w);
3130         } else {
3131             if (size < sps * w / sps || h<=0 || w%sps) {
3132                 av_log(matroska->ctx, AV_LOG_ERROR,
3133                        "Corrupt generic RM-style audio packet size\n");
3134                 return AVERROR_INVALIDDATA;
3135             }
3136             for (x = 0; x < w / sps; x++)
3137                 memcpy(track->audio.buf +
3138                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
3139                        data + x * sps, sps);
3140         }
3141
3142         if (++track->audio.sub_packet_cnt >= h) {
3143             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR)
3144                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
3145             track->audio.sub_packet_cnt = 0;
3146             track->audio.pkt_cnt        = h * w / a;
3147         }
3148     }
3149
3150     while (track->audio.pkt_cnt) {
3151         int ret;
3152         AVPacket pktl, *pkt = &pktl;
3153
3154         ret = av_new_packet(pkt, a);
3155         if (ret < 0) {
3156             return ret;
3157         }
3158         memcpy(pkt->data,
3159                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
3160                a);
3161         pkt->pts                  = track->audio.buf_timecode;
3162         track->audio.buf_timecode = AV_NOPTS_VALUE;
3163         pkt->pos                  = pos;
3164         pkt->stream_index         = st->index;
3165         ret = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3166         if (ret < 0) {
3167             av_packet_unref(pkt);
3168             return AVERROR(ENOMEM);
3169         }
3170     }
3171
3172     return 0;
3173 }
3174
3175 /* reconstruct full wavpack blocks from mangled matroska ones */
3176 static int matroska_parse_wavpack(MatroskaTrack *track, uint8_t *src,
3177                                   uint8_t **pdst, int *size)
3178 {
3179     uint8_t *dst = NULL;
3180     int dstlen   = 0;
3181     int srclen   = *size;
3182     uint32_t samples;
3183     uint16_t ver;
3184     int ret, offset = 0;
3185
3186     if (srclen < 12 || track->stream->codecpar->extradata_size < 2)
3187         return AVERROR_INVALIDDATA;
3188
3189     ver = AV_RL16(track->stream->codecpar->extradata);
3190
3191     samples = AV_RL32(src);
3192     src    += 4;
3193     srclen -= 4;
3194
3195     while (srclen >= 8) {
3196         int multiblock;
3197         uint32_t blocksize;
3198         uint8_t *tmp;
3199
3200         uint32_t flags = AV_RL32(src);
3201         uint32_t crc   = AV_RL32(src + 4);
3202         src    += 8;
3203         srclen -= 8;
3204
3205         multiblock = (flags & 0x1800) != 0x1800;
3206         if (multiblock) {
3207             if (srclen < 4) {
3208                 ret = AVERROR_INVALIDDATA;
3209                 goto fail;
3210             }
3211             blocksize = AV_RL32(src);
3212             src      += 4;
3213             srclen   -= 4;
3214         } else
3215             blocksize = srclen;
3216
3217         if (blocksize > srclen) {
3218             ret = AVERROR_INVALIDDATA;
3219             goto fail;
3220         }
3221
3222         tmp = av_realloc(dst, dstlen + blocksize + 32 + AV_INPUT_BUFFER_PADDING_SIZE);
3223         if (!tmp) {
3224             ret = AVERROR(ENOMEM);
3225             goto fail;
3226         }
3227         dst     = tmp;
3228         dstlen += blocksize + 32;
3229
3230         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
3231         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
3232         AV_WL16(dst + offset +  8, ver);                    // version
3233         AV_WL16(dst + offset + 10, 0);                      // track/index_no
3234         AV_WL32(dst + offset + 12, 0);                      // total samples
3235         AV_WL32(dst + offset + 16, 0);                      // block index
3236         AV_WL32(dst + offset + 20, samples);                // number of samples
3237         AV_WL32(dst + offset + 24, flags);                  // flags
3238         AV_WL32(dst + offset + 28, crc);                    // crc
3239         memcpy(dst + offset + 32, src, blocksize);          // block data
3240
3241         src    += blocksize;
3242         srclen -= blocksize;
3243         offset += blocksize + 32;
3244     }
3245
3246     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3247
3248     *pdst = dst;
3249     *size = dstlen;
3250
3251     return 0;
3252
3253 fail:
3254     av_freep(&dst);
3255     return ret;
3256 }
3257
3258 static int matroska_parse_prores(MatroskaTrack *track, uint8_t *src,
3259                                  uint8_t **pdst, int *size)
3260 {
3261     uint8_t *dst = src;
3262     int dstlen = *size;
3263
3264     if (AV_RB32(&src[4]) != MKBETAG('i', 'c', 'p', 'f')) {
3265         dst = av_malloc(dstlen + 8 + AV_INPUT_BUFFER_PADDING_SIZE);
3266         if (!dst)
3267             return AVERROR(ENOMEM);
3268
3269         AV_WB32(dst, dstlen);
3270         AV_WB32(dst + 4, MKBETAG('i', 'c', 'p', 'f'));
3271         memcpy(dst + 8, src, dstlen);
3272         memset(dst + 8 + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3273         dstlen += 8;
3274     }
3275
3276     *pdst = dst;
3277     *size = dstlen;
3278
3279     return 0;
3280 }
3281
3282 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
3283                                  MatroskaTrack *track,
3284                                  AVStream *st,
3285                                  uint8_t *data, int data_len,
3286                                  uint64_t timecode,
3287                                  uint64_t duration,
3288                                  int64_t pos)
3289 {
3290     AVPacket pktl, *pkt = &pktl;
3291     uint8_t *id, *settings, *text, *buf;
3292     int id_len, settings_len, text_len;
3293     uint8_t *p, *q;
3294     int err;
3295
3296     if (data_len <= 0)
3297         return AVERROR_INVALIDDATA;
3298
3299     p = data;
3300     q = data + data_len;
3301
3302     id = p;
3303     id_len = -1;
3304     while (p < q) {
3305         if (*p == '\r' || *p == '\n') {
3306             id_len = p - id;
3307             if (*p == '\r')
3308                 p++;
3309             break;
3310         }
3311         p++;
3312     }
3313
3314     if (p >= q || *p != '\n')
3315         return AVERROR_INVALIDDATA;
3316     p++;
3317
3318     settings = p;
3319     settings_len = -1;
3320     while (p < q) {
3321         if (*p == '\r' || *p == '\n') {
3322             settings_len = p - settings;
3323             if (*p == '\r')
3324                 p++;
3325             break;
3326         }
3327         p++;
3328     }
3329
3330     if (p >= q || *p != '\n')
3331         return AVERROR_INVALIDDATA;
3332     p++;
3333
3334     text = p;
3335     text_len = q - p;
3336     while (text_len > 0) {
3337         const int len = text_len - 1;
3338         const uint8_t c = p[len];
3339         if (c != '\r' && c != '\n')
3340             break;
3341         text_len = len;
3342     }
3343
3344     if (text_len <= 0)
3345         return AVERROR_INVALIDDATA;
3346
3347     err = av_new_packet(pkt, text_len);
3348     if (err < 0) {
3349         return err;
3350     }
3351
3352     memcpy(pkt->data, text, text_len);
3353
3354     if (id_len > 0) {
3355         buf = av_packet_new_side_data(pkt,
3356                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
3357                                       id_len);
3358         if (!buf) {
3359             av_packet_unref(pkt);
3360             return AVERROR(ENOMEM);
3361         }
3362         memcpy(buf, id, id_len);
3363     }
3364
3365     if (settings_len > 0) {
3366         buf = av_packet_new_side_data(pkt,
3367                                       AV_PKT_DATA_WEBVTT_SETTINGS,
3368                                       settings_len);
3369         if (!buf) {
3370             av_packet_unref(pkt);
3371             return AVERROR(ENOMEM);
3372         }
3373         memcpy(buf, settings, settings_len);
3374     }
3375
3376     // Do we need this for subtitles?
3377     // pkt->flags = AV_PKT_FLAG_KEY;
3378
3379     pkt->stream_index = st->index;
3380     pkt->pts = timecode;
3381
3382     // Do we need this for subtitles?
3383     // pkt->dts = timecode;
3384
3385     pkt->duration = duration;
3386     pkt->pos = pos;
3387
3388     err = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3389     if (err < 0) {
3390         av_packet_unref(pkt);
3391         return AVERROR(ENOMEM);
3392     }
3393
3394     return 0;
3395 }
3396
3397 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
3398                                 MatroskaTrack *track, AVStream *st,
3399                                 AVBufferRef *buf, uint8_t *data, int pkt_size,
3400                                 uint64_t timecode, uint64_t lace_duration,
3401                                 int64_t pos, int is_keyframe,
3402                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3403                                 int64_t discard_padding)
3404 {
3405     MatroskaTrackEncoding *encodings = track->encodings.elem;
3406     uint8_t *pkt_data = data;
3407     int res;
3408     AVPacket pktl, *pkt = &pktl;
3409
3410     if (encodings && !encodings->type && encodings->scope & 1) {
3411         res = matroska_decode_buffer(&pkt_data, &pkt_size, track);
3412         if (res < 0)
3413             return res;
3414     }
3415
3416     if (st->codecpar->codec_id == AV_CODEC_ID_WAVPACK) {
3417         uint8_t *wv_data;
3418         res = matroska_parse_wavpack(track, pkt_data, &wv_data, &pkt_size);
3419         if (res < 0) {
3420             av_log(matroska->ctx, AV_LOG_ERROR,
3421                    "Error parsing a wavpack block.\n");
3422             goto fail;
3423         }
3424         if (pkt_data != data)
3425             av_freep(&pkt_data);
3426         pkt_data = wv_data;
3427     }
3428
3429     if (st->codecpar->codec_id == AV_CODEC_ID_PRORES) {
3430         uint8_t *pr_data;
3431         res = matroska_parse_prores(track, pkt_data, &pr_data, &pkt_size);
3432         if (res < 0) {
3433             av_log(matroska->ctx, AV_LOG_ERROR,
3434                    "Error parsing a prores block.\n");
3435             goto fail;
3436         }
3437         if (pkt_data != data)
3438             av_freep(&pkt_data);
3439         pkt_data = pr_data;
3440     }
3441
3442     av_init_packet(pkt);
3443     if (pkt_data != data)
3444         pkt->buf = av_buffer_create(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE,
3445                                     NULL, NULL, 0);
3446     else
3447         pkt->buf = av_buffer_ref(buf);
3448
3449     if (!pkt->buf) {
3450         res = AVERROR(ENOMEM);
3451         goto fail;
3452     }
3453
3454     pkt->data         = pkt_data;
3455     pkt->size         = pkt_size;
3456     pkt->flags        = is_keyframe;
3457     pkt->stream_index = st->index;
3458
3459     if (additional_size > 0) {
3460         uint8_t *side_data = av_packet_new_side_data(pkt,
3461                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
3462                                                      additional_size + 8);
3463         if (!side_data) {
3464             av_packet_unref(pkt);
3465             return AVERROR(ENOMEM);
3466         }
3467         AV_WB64(side_data, additional_id);
3468         memcpy(side_data + 8, additional, additional_size);
3469     }
3470
3471     if (discard_padding) {
3472         uint8_t *side_data = av_packet_new_side_data(pkt,
3473                                                      AV_PKT_DATA_SKIP_SAMPLES,
3474                                                      10);
3475         if (!side_data) {
3476             av_packet_unref(pkt);
3477             return AVERROR(ENOMEM);
3478         }
3479         discard_padding = av_rescale_q(discard_padding,
3480                                             (AVRational){1, 1000000000},
3481                                             (AVRational){1, st->codecpar->sample_rate});
3482         if (discard_padding > 0) {
3483             AV_WL32(side_data + 4, discard_padding);
3484         } else {
3485             AV_WL32(side_data, -discard_padding);
3486         }
3487     }
3488
3489     if (track->ms_compat)
3490         pkt->dts = timecode;
3491     else
3492         pkt->pts = timecode;
3493     pkt->pos = pos;
3494     pkt->duration = lace_duration;
3495
3496 #if FF_API_CONVERGENCE_DURATION
3497 FF_DISABLE_DEPRECATION_WARNINGS
3498     if (st->codecpar->codec_id == AV_CODEC_ID_SUBRIP) {
3499         pkt->convergence_duration = lace_duration;
3500     }
3501 FF_ENABLE_DEPRECATION_WARNINGS
3502 #endif
3503
3504     res = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3505     if (res < 0) {
3506         av_packet_unref(pkt);
3507         return AVERROR(ENOMEM);
3508     }
3509
3510     return 0;
3511
3512 fail:
3513     if (pkt_data != data)
3514         av_freep(&pkt_data);
3515     return res;
3516 }
3517
3518 static int matroska_parse_block(MatroskaDemuxContext *matroska, AVBufferRef *buf, uint8_t *data,
3519                                 int size, int64_t pos, uint64_t cluster_time,
3520                                 uint64_t block_duration, int is_keyframe,
3521                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3522                                 int64_t cluster_pos, int64_t discard_padding)
3523 {
3524     uint64_t timecode = AV_NOPTS_VALUE;
3525     MatroskaTrack *track;
3526     int res = 0;
3527     AVStream *st;
3528     int16_t block_time;
3529     uint32_t *lace_size = NULL;
3530     int n, flags, laces = 0;
3531     uint64_t num;
3532     int trust_default_duration = 1;
3533
3534     if ((n = matroska_ebmlnum_uint(matroska, data, size, &num)) < 0) {
3535         return n;
3536     }
3537     data += n;
3538     size -= n;
3539
3540     track = matroska_find_track_by_num(matroska, num);
3541     if (!track || !track->stream) {
3542         av_log(matroska->ctx, AV_LOG_INFO,
3543                "Invalid stream %"PRIu64"\n", num);
3544         return AVERROR_INVALIDDATA;
3545     } else if (size <= 3)
3546         return 0;
3547     st = track->stream;
3548     if (st->discard >= AVDISCARD_ALL)
3549         return res;
3550     av_assert1(block_duration != AV_NOPTS_VALUE);
3551
3552     block_time = sign_extend(AV_RB16(data), 16);
3553     data      += 2;
3554     flags      = *data++;
3555     size      -= 3;
3556     if (is_keyframe == -1)
3557         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
3558
3559     if (cluster_time != (uint64_t) -1 &&
3560         (block_time >= 0 || cluster_time >= -block_time)) {
3561         timecode = cluster_time + block_time - track->codec_delay_in_track_tb;
3562         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3563             timecode < track->end_timecode)
3564             is_keyframe = 0;  /* overlapping subtitles are not key frame */
3565         if (is_keyframe) {
3566             ff_reduce_index(matroska->ctx, st->index);
3567             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
3568                                AVINDEX_KEYFRAME);
3569         }
3570     }
3571
3572     if (matroska->skip_to_keyframe &&
3573         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
3574         // Compare signed timecodes. Timecode may be negative due to codec delay
3575         // offset. We don't support timestamps greater than int64_t anyway - see
3576         // AVPacket's pts.
3577         if ((int64_t)timecode < (int64_t)matroska->skip_to_timecode)
3578             return res;
3579         if (is_keyframe)
3580             matroska->skip_to_keyframe = 0;
3581         else if (!st->skip_to_keyframe) {
3582             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
3583             matroska->skip_to_keyframe = 0;
3584         }
3585     }
3586
3587     res = matroska_parse_laces(matroska, &data, &size, (flags & 0x06) >> 1,
3588                                &lace_size, &laces);
3589
3590     if (res)
3591         goto end;
3592
3593     if (track->audio.samplerate == 8000) {
3594         // If this is needed for more codecs, then add them here
3595         if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
3596             if (track->audio.samplerate != st->codecpar->sample_rate || !st->codecpar->frame_size)
3597                 trust_default_duration = 0;
3598         }
3599     }
3600
3601     if (!block_duration && trust_default_duration)
3602         block_duration = track->default_duration * laces / matroska->time_scale;
3603
3604     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
3605         track->end_timecode =
3606             FFMAX(track->end_timecode, timecode + block_duration);
3607
3608     for (n = 0; n < laces; n++) {
3609         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
3610
3611         if (lace_size[n] > size) {
3612             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid packet size\n");
3613             break;
3614         }
3615
3616         if ((st->codecpar->codec_id == AV_CODEC_ID_RA_288 ||
3617              st->codecpar->codec_id == AV_CODEC_ID_COOK   ||
3618              st->codecpar->codec_id == AV_CODEC_ID_SIPR   ||
3619              st->codecpar->codec_id == AV_CODEC_ID_ATRAC3) &&
3620             st->codecpar->block_align && track->audio.sub_packet_size) {
3621             res = matroska_parse_rm_audio(matroska, track, st, data,
3622                                           lace_size[n],
3623                                           timecode, pos);
3624             if (res)
3625                 goto end;
3626
3627         } else if (st->codecpar->codec_id == AV_CODEC_ID_WEBVTT) {
3628             res = matroska_parse_webvtt(matroska, track, st,
3629                                         data, lace_size[n],
3630                                         timecode, lace_duration,
3631                                         pos);
3632             if (res)
3633                 goto end;
3634         } else {
3635             res = matroska_parse_frame(matroska, track, st, buf, data, lace_size[n],
3636                                        timecode, lace_duration, pos,
3637                                        !n ? is_keyframe : 0,
3638                                        additional, additional_id, additional_size,
3639                                        discard_padding);
3640             if (res)
3641                 goto end;
3642         }
3643
3644         if (timecode != AV_NOPTS_VALUE)
3645             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
3646         data += lace_size[n];
3647         size -= lace_size[n];
3648     }
3649
3650 end:
3651     av_free(lace_size);
3652     return res;
3653 }
3654
3655 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3656 {
3657     MatroskaCluster *cluster = &matroska->current_cluster;
3658     MatroskaBlock     *block = &cluster->block;
3659     int res;
3660
3661     av_assert0(matroska->num_levels <= 2);
3662
3663     if (matroska->num_levels == 1) {
3664         res = ebml_parse(matroska, matroska_clusters, NULL);
3665
3666         if (res == 1) {
3667             /* Found a cluster: subtract the size of the ID already read. */
3668             cluster->pos = avio_tell(matroska->ctx->pb) - 4;
3669
3670             res = ebml_parse(matroska, matroska_cluster_enter, cluster);
3671             if (res < 0)
3672                 return res;
3673         }
3674     }
3675
3676     if (matroska->num_levels == 2) {
3677         /* We are inside a cluster. */
3678         res = ebml_parse(matroska, matroska_cluster_parsing, cluster);
3679
3680         if (res >= 0 && block->bin.size > 0) {
3681             int is_keyframe = block->non_simple ? block->reference == INT64_MIN : -1;
3682             uint8_t* additional = block->additional.size > 0 ?
3683                                     block->additional.data : NULL;
3684
3685             res = matroska_parse_block(matroska, block->bin.buf, block->bin.data,
3686                                        block->bin.size, block->bin.pos,
3687                                        cluster->timecode, block->duration,
3688                                        is_keyframe, additional, block->additional_id,
3689                                        block->additional.size, cluster->pos,
3690                                        block->discard_padding);
3691         }
3692
3693         ebml_free(matroska_blockgroup, block);
3694         memset(block, 0, sizeof(*block));
3695     } else if (!matroska->num_levels) {
3696         if (!avio_feof(matroska->ctx->pb)) {
3697             avio_r8(matroska->ctx->pb);
3698             if (!avio_feof(matroska->ctx->pb)) {
3699                 av_log(matroska->ctx, AV_LOG_WARNING, "File extends beyond "
3700                        "end of segment.\n");
3701                 return AVERROR_INVALIDDATA;
3702             }
3703         }
3704         matroska->done = 1;
3705         return AVERROR_EOF;
3706     }
3707
3708     return res;
3709 }
3710
3711 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3712 {
3713     MatroskaDemuxContext *matroska = s->priv_data;
3714     int ret = 0;
3715
3716     if (matroska->resync_pos == -1) {
3717         // This can only happen if generic seeking has been used.
3718         matroska->resync_pos = avio_tell(s->pb);
3719     }
3720
3721     while (matroska_deliver_packet(matroska, pkt)) {
3722         if (matroska->done)
3723             return (ret < 0) ? ret : AVERROR_EOF;
3724         if (matroska_parse_cluster(matroska) < 0 && !matroska->done)
3725             ret = matroska_resync(matroska, matroska->resync_pos);
3726     }
3727
3728     return 0;
3729 }
3730
3731 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3732                               int64_t timestamp, int flags)
3733 {
3734     MatroskaDemuxContext *matroska = s->priv_data;
3735     MatroskaTrack *tracks = NULL;
3736     AVStream *st = s->streams[stream_index];
3737     int i, index;
3738
3739     /* Parse the CUES now since we need the index data to seek. */
3740     if (matroska->cues_parsing_deferred > 0) {
3741         matroska->cues_parsing_deferred = 0;
3742         matroska_parse_cues(matroska);
3743     }
3744
3745     if (!st->nb_index_entries)
3746         goto err;
3747     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3748
3749     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3750         matroska_reset_status(matroska, 0, st->index_entries[st->nb_index_entries - 1].pos);
3751         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3752             matroska_clear_queue(matroska);
3753             if (matroska_parse_cluster(matroska) < 0)
3754                 break;
3755         }
3756     }
3757
3758     matroska_clear_queue(matroska);
3759     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3760         goto err;
3761
3762     tracks = matroska->tracks.elem;
3763     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3764         tracks[i].audio.pkt_cnt        = 0;
3765         tracks[i].audio.sub_packet_cnt = 0;
3766         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3767         tracks[i].end_timecode         = 0;
3768     }
3769
3770     /* We seek to a level 1 element, so set the appropriate status. */
3771     matroska_reset_status(matroska, 0, st->index_entries[index].pos);
3772     if (flags & AVSEEK_FLAG_ANY) {
3773         st->skip_to_keyframe = 0;
3774         matroska->skip_to_timecode = timestamp;
3775     } else {
3776         st->skip_to_keyframe = 1;
3777         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3778     }
3779     matroska->skip_to_keyframe = 1;
3780     matroska->done             = 0;
3781     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3782     return 0;
3783 err:
3784     // slightly hackish but allows proper fallback to
3785     // the generic seeking code.
3786     matroska_reset_status(matroska, 0, -1);
3787     matroska->resync_pos = -1;
3788     matroska_clear_queue(matroska);
3789     st->skip_to_keyframe =
3790     matroska->skip_to_keyframe = 0;
3791     matroska->done = 0;
3792     return -1;
3793 }
3794
3795 static int matroska_read_close(AVFormatContext *s)
3796 {
3797     MatroskaDemuxContext *matroska = s->priv_data;
3798     MatroskaTrack *tracks = matroska->tracks.elem;
3799     int n;
3800
3801     matroska_clear_queue(matroska);
3802
3803     for (n = 0; n < matroska->tracks.nb_elem; n++)
3804         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3805             av_freep(&tracks[n].audio.buf);
3806     ebml_free(matroska_segment, matroska);
3807
3808     return 0;
3809 }
3810
3811 typedef struct {
3812     int64_t start_time_ns;
3813     int64_t end_time_ns;
3814     int64_t start_offset;
3815     int64_t end_offset;
3816 } CueDesc;
3817
3818 /* This function searches all the Cues and returns the CueDesc corresponding to
3819  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3820  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3821  */
3822 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3823     MatroskaDemuxContext *matroska = s->priv_data;
3824     CueDesc cue_desc;
3825     int i;
3826     int nb_index_entries = s->streams[0]->nb_index_entries;
3827     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3828     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3829     for (i = 1; i < nb_index_entries; i++) {
3830         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3831             index_entries[i].timestamp * matroska->time_scale > ts) {
3832             break;
3833         }
3834     }
3835     --i;
3836     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3837     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3838     if (i != nb_index_entries - 1) {
3839         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3840         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3841     } else {
3842         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3843         // FIXME: this needs special handling for files where Cues appear
3844         // before Clusters. the current logic assumes Cues appear after
3845         // Clusters.
3846         cue_desc.end_offset = cues_start - matroska->segment_start;
3847     }
3848     return cue_desc;
3849 }
3850
3851 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3852 {
3853     MatroskaDemuxContext *matroska = s->priv_data;
3854     uint32_t id = matroska->current_id;
3855     int64_t cluster_pos, before_pos;
3856     int index, rv = 1;
3857     if (s->streams[0]->nb_index_entries <= 0) return 0;
3858     // seek to the first cluster using cues.
3859     index = av_index_search_timestamp(s->streams[0], 0, 0);
3860     if (index < 0)  return 0;
3861     cluster_pos = s->streams[0]->index_entries[index].pos;
3862     before_pos = avio_tell(s->pb);
3863     while (1) {
3864         uint64_t cluster_id, cluster_length;
3865         int read;
3866         AVPacket *pkt;
3867         avio_seek(s->pb, cluster_pos, SEEK_SET);
3868         // read cluster id and length
3869         read = ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id, 1);
3870         if (read < 0 || cluster_id != 0xF43B675) // done with all clusters
3871             break;
3872         read = ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3873         if (read < 0)
3874             break;
3875
3876         matroska_reset_status(matroska, 0, cluster_pos);
3877         matroska_clear_queue(matroska);
3878         if (matroska_parse_cluster(matroska) < 0 ||
3879             !matroska->queue) {
3880             break;
3881         }
3882         pkt = &matroska->queue->pkt;
3883         // 4 + read is the length of the cluster id and the cluster length field.
3884         cluster_pos += 4 + read + cluster_length;
3885         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3886             rv = 0;
3887             break;
3888         }
3889     }
3890
3891     /* Restore the status after matroska_read_header: */
3892     matroska_reset_status(matroska, id, before_pos);
3893
3894     return rv;
3895 }
3896
3897 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3898                                              double min_buffer, double* buffer,
3899                                              double* sec_to_download, AVFormatContext *s,
3900                                              int64_t cues_start)
3901 {
3902     double nano_seconds_per_second = 1000000000.0;
3903     double time_sec = time_ns / nano_seconds_per_second;
3904     int rv = 0;
3905     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3906     int64_t end_time_ns = time_ns + time_to_search_ns;
3907     double sec_downloaded = 0.0;
3908     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3909     if (desc_curr.start_time_ns == -1)
3910       return -1;
3911     *sec_to_download = 0.0;
3912
3913     // Check for non cue start time.
3914     if (time_ns > desc_curr.start_time_ns) {
3915       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3916       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3917       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3918       double timeToDownload = (cueBytes * 8.0) / bps;
3919
3920       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3921       *sec_to_download += timeToDownload;
3922
3923       // Check if the search ends within the first cue.
3924       if (desc_curr.end_time_ns >= end_time_ns) {
3925           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3926           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3927           sec_downloaded = percent_to_sub * sec_downloaded;
3928           *sec_to_download = percent_to_sub * *sec_to_download;
3929       }
3930
3931       if ((sec_downloaded + *buffer) <= min_buffer) {
3932           return 1;
3933       }
3934
3935       // Get the next Cue.
3936       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3937     }
3938
3939     while (desc_curr.start_time_ns != -1) {
3940         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3941         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3942         double desc_sec = desc_ns / nano_seconds_per_second;
3943         double bits = (desc_bytes * 8.0);
3944         double time_to_download = bits / bps;
3945
3946         sec_downloaded += desc_sec - time_to_download;
3947         *sec_to_download += time_to_download;
3948
3949         if (desc_curr.end_time_ns >= end_time_ns) {
3950             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3951             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3952             sec_downloaded = percent_to_sub * sec_downloaded;
3953             *sec_to_download = percent_to_sub * *sec_to_download;
3954
3955             if ((sec_downloaded + *buffer) <= min_buffer)
3956                 rv = 1;
3957             break;
3958         }
3959
3960         if ((sec_downloaded + *buffer) <= min_buffer) {
3961             rv = 1;
3962             break;
3963         }
3964
3965         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3966     }
3967     *buffer = *buffer + sec_downloaded;
3968     return rv;
3969 }
3970
3971 /* This function computes the bandwidth of the WebM file with the help of
3972  * buffer_size_after_time_downloaded() function. Both of these functions are
3973  * adapted from WebM Tools project and are adapted to work with FFmpeg's
3974  * Matroska parsing mechanism.
3975  *
3976  * Returns the bandwidth of the file on success; -1 on error.
3977  * */
3978 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
3979 {
3980     MatroskaDemuxContext *matroska = s->priv_data;
3981     AVStream *st = s->streams[0];
3982     double bandwidth = 0.0;
3983     int i;
3984
3985     for (i = 0; i < st->nb_index_entries; i++) {
3986         int64_t prebuffer_ns = 1000000000;
3987         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
3988         double nano_seconds_per_second = 1000000000.0;
3989         int64_t prebuffered_ns = time_ns + prebuffer_ns;
3990         double prebuffer_bytes = 0.0;
3991         int64_t temp_prebuffer_ns = prebuffer_ns;
3992         int64_t pre_bytes, pre_ns;
3993         double pre_sec, prebuffer, bits_per_second;
3994         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
3995
3996         // Start with the first Cue.
3997         CueDesc desc_end = desc_beg;
3998
3999         // Figure out how much data we have downloaded for the prebuffer. This will
4000         // be used later to adjust the bits per sample to try.
4001         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
4002             // Prebuffered the entire Cue.
4003             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
4004             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
4005             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4006         }
4007         if (desc_end.start_time_ns == -1) {
4008             // The prebuffer is larger than the duration.
4009             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
4010               return -1;
4011             bits_per_second = 0.0;
4012         } else {
4013             // The prebuffer ends in the last Cue. Estimate how much data was
4014             // prebuffered.
4015             pre_bytes = desc_end.end_offset - desc_end.start_offset;
4016             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
4017             pre_sec = pre_ns / nano_seconds_per_second;
4018             prebuffer_bytes +=
4019                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
4020
4021             prebuffer = prebuffer_ns / nano_seconds_per_second;
4022
4023             // Set this to 0.0 in case our prebuffer buffers the entire video.
4024             bits_per_second = 0.0;
4025             do {
4026                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
4027                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
4028                 double desc_sec = desc_ns / nano_seconds_per_second;
4029                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
4030
4031                 // Drop the bps by the percentage of bytes buffered.
4032                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
4033                 double mod_bits_per_second = calc_bits_per_second * percent;
4034
4035                 if (prebuffer < desc_sec) {
4036                     double search_sec =
4037                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
4038
4039                     // Add 1 so the bits per second should be a little bit greater than file
4040                     // datarate.
4041                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
4042                     const double min_buffer = 0.0;
4043                     double buffer = prebuffer;
4044                     double sec_to_download = 0.0;
4045
4046                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
4047                                                                min_buffer, &buffer, &sec_to_download,
4048                                                                s, cues_start);
4049                     if (rv < 0) {
4050                         return -1;
4051                     } else if (rv == 0) {
4052                         bits_per_second = (double)(bps);
4053                         break;
4054                     }
4055                 }
4056
4057                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4058             } while (desc_end.start_time_ns != -1);
4059         }
4060         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
4061     }
4062     return (int64_t)bandwidth;
4063 }
4064
4065 static int webm_dash_manifest_cues(AVFormatContext *s, int64_t init_range)
4066 {
4067     MatroskaDemuxContext *matroska = s->priv_data;
4068     EbmlList *seekhead_list = &matroska->seekhead;
4069     MatroskaSeekhead *seekhead = seekhead_list->elem;
4070     char *buf;
4071     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
4072     int i;
4073     int end = 0;
4074
4075     // determine cues start and end positions
4076     for (i = 0; i < seekhead_list->nb_elem; i++)
4077         if (seekhead[i].id == MATROSKA_ID_CUES)
4078             break;
4079
4080     if (i >= seekhead_list->nb_elem) return -1;
4081
4082     before_pos = avio_tell(matroska->ctx->pb);
4083     cues_start = seekhead[i].pos + matroska->segment_start;
4084     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
4085         // cues_end is computed as cues_start + cues_length + length of the
4086         // Cues element ID (i.e. 4) + EBML length of the Cues element.
4087         // cues_end is inclusive and the above sum is reduced by 1.
4088         uint64_t cues_length, cues_id;
4089         int bytes_read;
4090         bytes_read = ebml_read_num   (matroska, matroska->ctx->pb, 4, &cues_id, 1);
4091         if (bytes_read < 0 || cues_id != (MATROSKA_ID_CUES & 0xfffffff))
4092             return bytes_read < 0 ? bytes_read : AVERROR_INVALIDDATA;
4093         bytes_read = ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
4094         if (bytes_read < 0)
4095             return bytes_read;
4096         cues_end = cues_start + 4 + bytes_read + cues_length - 1;
4097     }
4098     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
4099     if (cues_start == -1 || cues_end == -1) return -1;
4100
4101     // parse the cues
4102     matroska_parse_cues(matroska);
4103
4104     // cues start
4105     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
4106
4107     // cues end
4108     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
4109
4110     // if the file has cues at the start, fix up the init range so that
4111     // it does not include it
4112     if (cues_start <= init_range)
4113         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, cues_start - 1, 0);
4114
4115     // bandwidth
4116     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
4117     if (bandwidth < 0) return -1;
4118     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
4119
4120     // check if all clusters start with key frames
4121     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
4122
4123     // store cue point timestamps as a comma separated list for checking subsegment alignment in
4124     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
4125     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20);
4126     if (!buf) return -1;
4127     strcpy(buf, "");
4128     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
4129         int ret = snprintf(buf + end, 20,
4130                            "%" PRId64"%s", s->streams[0]->index_entries[i].timestamp,
4131                            i != s->streams[0]->nb_index_entries - 1 ? "," : "");
4132         if (ret <= 0 || (ret == 20 && i ==  s->streams[0]->nb_index_entries - 1)) {
4133             av_log(s, AV_LOG_ERROR, "timestamp too long.\n");
4134             av_free(buf);
4135             return AVERROR_INVALIDDATA;
4136         }
4137         end += ret;
4138     }
4139     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS, buf, 0);
4140     av_free(buf);
4141
4142     return 0;
4143 }
4144
4145 static int webm_dash_manifest_read_header(AVFormatContext *s)
4146 {
4147     char *buf;
4148     int ret = matroska_read_header(s);
4149     int64_t init_range;
4150     MatroskaTrack *tracks;
4151     MatroskaDemuxContext *matroska = s->priv_data;
4152     if (ret) {
4153         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
4154         return -1;
4155     }
4156     if (!s->nb_streams) {
4157         matroska_read_close(s);
4158         av_log(s, AV_LOG_ERROR, "No streams found\n");
4159         return AVERROR_INVALIDDATA;
4160     }
4161
4162     if (!matroska->is_live) {
4163         buf = av_asprintf("%g", matroska->duration);
4164         if (!buf) return AVERROR(ENOMEM);
4165         av_dict_set(&s->streams[0]->metadata, DURATION, buf, 0);
4166         av_free(buf);
4167
4168         // initialization range
4169         // 5 is the offset of Cluster ID.
4170         init_range = avio_tell(s->pb) - 5;
4171         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, init_range, 0);
4172     }
4173
4174     // basename of the file
4175     buf = strrchr(s->url, '/');
4176     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->url, 0);
4177
4178     // track number
4179     tracks = matroska->tracks.elem;
4180     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
4181
4182     // parse the cues and populate Cue related fields
4183     if (!matroska->is_live) {
4184         ret = webm_dash_manifest_cues(s, init_range);
4185         if (ret < 0) {
4186             av_log(s, AV_LOG_ERROR, "Error parsing Cues\n");
4187             return ret;
4188         }
4189     }
4190
4191     // use the bandwidth from the command line if it was provided
4192     if (matroska->bandwidth > 0) {
4193         av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH,
4194                         matroska->bandwidth, 0);
4195     }
4196     return 0;
4197 }
4198
4199 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
4200 {
4201     return AVERROR_EOF;
4202 }
4203
4204 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
4205 static const AVOption options[] = {
4206     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
4207     { "bandwidth", "bandwidth of this stream to be specified in the DASH manifest.", OFFSET(bandwidth), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, AV_OPT_FLAG_DECODING_PARAM },
4208     { NULL },
4209 };
4210
4211 static const AVClass webm_dash_class = {
4212     .class_name = "WebM DASH Manifest demuxer",
4213     .item_name  = av_default_item_name,
4214     .option     = options,
4215     .version    = LIBAVUTIL_VERSION_INT,
4216 };
4217
4218 AVInputFormat ff_matroska_demuxer = {
4219     .name           = "matroska,webm",
4220     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
4221     .extensions     = "mkv,mk3d,mka,mks",
4222     .priv_data_size = sizeof(MatroskaDemuxContext),
4223     .read_probe     = matroska_probe,
4224     .read_header    = matroska_read_header,
4225     .read_packet    = matroska_read_packet,
4226     .read_close     = matroska_read_close,
4227     .read_seek      = matroska_read_seek,
4228     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
4229 };
4230
4231 AVInputFormat ff_webm_dash_manifest_demuxer = {
4232     .name           = "webm_dash_manifest",
4233     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
4234     .priv_data_size = sizeof(MatroskaDemuxContext),
4235     .read_header    = webm_dash_manifest_read_header,
4236     .read_packet    = webm_dash_manifest_read_packet,
4237     .read_close     = matroska_read_close,
4238     .priv_class     = &webm_dash_class,
4239 };