git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c

   1 /*
   2  * Matroska file demuxer
   3  * Copyright (c) 2003-2008 The FFmpeg Project
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * Matroska file demuxer
  25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
  26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
  27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
  28  * @see specs available on the Matroska project page: http://www.matroska.org/
  29  */
  30
  31 #include "config.h"
  32
  33 #include <inttypes.h>
  34 #include <stdio.h>
  35
  36 #include "libavutil/avstring.h"
  37 #include "libavutil/base64.h"
  38 #include "libavutil/dict.h"
  39 #include "libavutil/intfloat.h"
  40 #include "libavutil/intreadwrite.h"
  41 #include "libavutil/lzo.h"
  42 #include "libavutil/mathematics.h"
  43 #include "libavutil/opt.h"
  44 #include "libavutil/time_internal.h"
  45
  46 #include "libavcodec/bytestream.h"
  47 #include "libavcodec/flac.h"
  48 #include "libavcodec/mpeg4audio.h"
  49
  50 #include "avformat.h"
  51 #include "avio_internal.h"
  52 #include "internal.h"
  53 #include "isom.h"
  54 #include "matroska.h"
  55 #include "oggdec.h"
  56 /* For ff_codec_get_id(). */
  57 #include "riff.h"
  58 #include "rmsipr.h"
  59
  60 #if CONFIG_BZLIB
  61 #include <bzlib.h>
  62 #endif
  63 #if CONFIG_ZLIB
  64 #include <zlib.h>
  65 #endif
  66
  67 typedef enum {
  68     EBML_NONE,
  69     EBML_UINT,
  70     EBML_FLOAT,
  71     EBML_STR,
  72     EBML_UTF8,
  73     EBML_BIN,
  74     EBML_NEST,
  75     EBML_LEVEL1,
  76     EBML_PASS,
  77     EBML_STOP,
  78     EBML_SINT,
  79     EBML_TYPE_COUNT
  80 } EbmlType;
  81
  82 typedef const struct EbmlSyntax {
  83     uint32_t id;
  84     EbmlType type;
  85     int list_elem_size;
  86     int data_offset;
  87     union {
  88         uint64_t    u;
  89         double      f;
  90         const char *s;
  91         const struct EbmlSyntax *n;
  92     } def;
  93 } EbmlSyntax;
  94
  95 typedef struct EbmlList {
  96     int nb_elem;
  97     void *elem;
  98 } EbmlList;
  99
 100 typedef struct EbmlBin {
 101     int      size;
 102     uint8_t *data;
 103     int64_t  pos;
 104 } EbmlBin;
 105
 106 typedef struct Ebml {
 107     uint64_t version;
 108     uint64_t max_size;
 109     uint64_t id_length;
 110     char    *doctype;
 111     uint64_t doctype_version;
 112 } Ebml;
 113
 114 typedef struct MatroskaTrackCompression {
 115     uint64_t algo;
 116     EbmlBin  settings;
 117 } MatroskaTrackCompression;
 118
 119 typedef struct MatroskaTrackEncryption {
 120     uint64_t algo;
 121     EbmlBin  key_id;
 122 } MatroskaTrackEncryption;
 123
 124 typedef struct MatroskaTrackEncoding {
 125     uint64_t scope;
 126     uint64_t type;
 127     MatroskaTrackCompression compression;
 128     MatroskaTrackEncryption encryption;
 129 } MatroskaTrackEncoding;
 130
 131 typedef struct MatroskaTrackVideo {
 132     double   frame_rate;
 133     uint64_t display_width;
 134     uint64_t display_height;
 135     uint64_t pixel_width;
 136     uint64_t pixel_height;
 137     EbmlBin color_space;
 138     uint64_t stereo_mode;
 139     uint64_t alpha_mode;
 140 } MatroskaTrackVideo;
 141
 142 typedef struct MatroskaTrackAudio {
 143     double   samplerate;
 144     double   out_samplerate;
 145     uint64_t bitdepth;
 146     uint64_t channels;
 147
 148     /* real audio header (extracted from extradata) */
 149     int      coded_framesize;
 150     int      sub_packet_h;
 151     int      frame_size;
 152     int      sub_packet_size;
 153     int      sub_packet_cnt;
 154     int      pkt_cnt;
 155     uint64_t buf_timecode;
 156     uint8_t *buf;
 157 } MatroskaTrackAudio;
 158
 159 typedef struct MatroskaTrackPlane {
 160     uint64_t uid;
 161     uint64_t type;
 162 } MatroskaTrackPlane;
 163
 164 typedef struct MatroskaTrackOperation {
 165     EbmlList combine_planes;
 166 } MatroskaTrackOperation;
 167
 168 typedef struct MatroskaTrack {
 169     uint64_t num;
 170     uint64_t uid;
 171     uint64_t type;
 172     char    *name;
 173     char    *codec_id;
 174     EbmlBin  codec_priv;
 175     char    *language;
 176     double time_scale;
 177     uint64_t default_duration;
 178     uint64_t flag_default;
 179     uint64_t flag_forced;
 180     uint64_t seek_preroll;
 181     MatroskaTrackVideo video;
 182     MatroskaTrackAudio audio;
 183     MatroskaTrackOperation operation;
 184     EbmlList encodings;
 185     uint64_t codec_delay;
 186
 187     AVStream *stream;
 188     int64_t end_timecode;
 189     int ms_compat;
 190     uint64_t max_block_additional_id;
 191 } MatroskaTrack;
 192
 193 typedef struct MatroskaAttachment {
 194     uint64_t uid;
 195     char *filename;
 196     char *mime;
 197     EbmlBin bin;
 198
 199     AVStream *stream;
 200 } MatroskaAttachment;
 201
 202 typedef struct MatroskaChapter {
 203     uint64_t start;
 204     uint64_t end;
 205     uint64_t uid;
 206     char    *title;
 207
 208     AVChapter *chapter;
 209 } MatroskaChapter;
 210
 211 typedef struct MatroskaIndexPos {
 212     uint64_t track;
 213     uint64_t pos;
 214 } MatroskaIndexPos;
 215
 216 typedef struct MatroskaIndex {
 217     uint64_t time;
 218     EbmlList pos;
 219 } MatroskaIndex;
 220
 221 typedef struct MatroskaTag {
 222     char *name;
 223     char *string;
 224     char *lang;
 225     uint64_t def;
 226     EbmlList sub;
 227 } MatroskaTag;
 228
 229 typedef struct MatroskaTagTarget {
 230     char    *type;
 231     uint64_t typevalue;
 232     uint64_t trackuid;
 233     uint64_t chapteruid;
 234     uint64_t attachuid;
 235 } MatroskaTagTarget;
 236
 237 typedef struct MatroskaTags {
 238     MatroskaTagTarget target;
 239     EbmlList tag;
 240 } MatroskaTags;
 241
 242 typedef struct MatroskaSeekhead {
 243     uint64_t id;
 244     uint64_t pos;
 245 } MatroskaSeekhead;
 246
 247 typedef struct MatroskaLevel {
 248     uint64_t start;
 249     uint64_t length;
 250 } MatroskaLevel;
 251
 252 typedef struct MatroskaCluster {
 253     uint64_t timecode;
 254     EbmlList blocks;
 255 } MatroskaCluster;
 256
 257 typedef struct MatroskaLevel1Element {
 258     uint64_t id;
 259     uint64_t pos;
 260     int parsed;
 261 } MatroskaLevel1Element;
 262
 263 typedef struct MatroskaDemuxContext {
 264     const AVClass *class;
 265     AVFormatContext *ctx;
 266
 267     /* EBML stuff */
 268     int num_levels;
 269     MatroskaLevel levels[EBML_MAX_DEPTH];
 270     int level_up;
 271     uint32_t current_id;
 272
 273     uint64_t time_scale;
 274     double   duration;
 275     char    *title;
 276     char    *muxingapp;
 277     EbmlBin date_utc;
 278     EbmlList tracks;
 279     EbmlList attachments;
 280     EbmlList chapters;
 281     EbmlList index;
 282     EbmlList tags;
 283     EbmlList seekhead;
 284
 285     /* byte position of the segment inside the stream */
 286     int64_t segment_start;
 287
 288     /* the packet queue */
 289     AVPacket **packets;
 290     int num_packets;
 291     AVPacket *prev_pkt;
 292
 293     int done;
 294
 295     /* What to skip before effectively reading a packet. */
 296     int skip_to_keyframe;
 297     uint64_t skip_to_timecode;
 298
 299     /* File has a CUES element, but we defer parsing until it is needed. */
 300     int cues_parsing_deferred;
 301
 302     /* Level1 elements and whether they were read yet */
 303     MatroskaLevel1Element level1_elems[64];
 304     int num_level1_elems;
 305
 306     int current_cluster_num_blocks;
 307     int64_t current_cluster_pos;
 308     MatroskaCluster current_cluster;
 309
 310     /* File has SSA subtitles which prevent incremental cluster parsing. */
 311     int contains_ssa;
 312
 313     /* WebM DASH Manifest live flag/ */
 314     int is_live;
 315 } MatroskaDemuxContext;
 316
 317 typedef struct MatroskaBlock {
 318     uint64_t duration;
 319     int64_t  reference;
 320     uint64_t non_simple;
 321     EbmlBin  bin;
 322     uint64_t additional_id;
 323     EbmlBin  additional;
 324     int64_t discard_padding;
 325 } MatroskaBlock;
 326
 327 static const EbmlSyntax ebml_header[] = {
 328     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
 329     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
 330     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
 331     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
 332     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
 333     { EBML_ID_EBMLVERSION,        EBML_NONE },
 334     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
 335     { 0 }
 336 };
 337
 338 static const EbmlSyntax ebml_syntax[] = {
 339     { EBML_ID_HEADER, EBML_NEST, 0, 0, { .n = ebml_header } },
 340     { 0 }
 341 };
 342
 343 static const EbmlSyntax matroska_info[] = {
 344     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
 345     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
 346     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
 347     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
 348     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
 349     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
 350     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
 351     { 0 }
 352 };
 353
 354 static const EbmlSyntax matroska_track_video[] = {
 355     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
 356     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
 357     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
 358     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
 359     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
 360     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
 361     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
 362     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
 363     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
 364     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
 365     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
 366     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_NONE },
 367     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_NONE },
 368     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
 369     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
 370     { 0 }
 371 };
 372
 373 static const EbmlSyntax matroska_track_audio[] = {
 374     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
 375     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
 376     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
 377     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
 378     { 0 }
 379 };
 380
 381 static const EbmlSyntax matroska_track_encoding_compression[] = {
 382     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
 383     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
 384     { 0 }
 385 };
 386
 387 static const EbmlSyntax matroska_track_encoding_encryption[] = {
 388     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
 389     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
 390     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
 391     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
 392     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
 393     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
 394     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
 395     { 0 }
 396 };
 397 static const EbmlSyntax matroska_track_encoding[] = {
 398     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
 399     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
 400     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
 401     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
 402     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
 403     { 0 }
 404 };
 405
 406 static const EbmlSyntax matroska_track_encodings[] = {
 407     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
 408     { 0 }
 409 };
 410
 411 static const EbmlSyntax matroska_track_plane[] = {
 412     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
 413     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
 414     { 0 }
 415 };
 416
 417 static const EbmlSyntax matroska_track_combine_planes[] = {
 418     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
 419     { 0 }
 420 };
 421
 422 static const EbmlSyntax matroska_track_operation[] = {
 423     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
 424     { 0 }
 425 };
 426
 427 static const EbmlSyntax matroska_track[] = {
 428     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
 429     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
 430     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
 431     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
 432     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
 433     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
 434     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
 435     { MATROSKA_ID_TRACKLANGUAGE,         EBML_UTF8,  0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
 436     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
 437     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
 438     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
 439     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
 440     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
 441     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
 442     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
 443     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
 444     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
 445     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
 446     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
 447     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
 448     { MATROSKA_ID_CODECNAME,             EBML_NONE },
 449     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
 450     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
 451     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
 452     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
 453     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
 454     { 0 }
 455 };
 456
 457 static const EbmlSyntax matroska_tracks[] = {
 458     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
 459     { 0 }
 460 };
 461
 462 static const EbmlSyntax matroska_attachment[] = {
 463     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
 464     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
 465     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
 466     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
 467     { MATROSKA_ID_FILEDESC,     EBML_NONE },
 468     { 0 }
 469 };
 470
 471 static const EbmlSyntax matroska_attachments[] = {
 472     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
 473     { 0 }
 474 };
 475
 476 static const EbmlSyntax matroska_chapter_display[] = {
 477     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
 478     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
 479     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
 480     { 0 }
 481 };
 482
 483 static const EbmlSyntax matroska_chapter_entry[] = {
 484     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
 485     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
 486     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
 487     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
 488     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
 489     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
 490     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
 491     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
 492     { 0 }
 493 };
 494
 495 static const EbmlSyntax matroska_chapter[] = {
 496     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
 497     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
 498     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
 499     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
 500     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
 501     { 0 }
 502 };
 503
 504 static const EbmlSyntax matroska_chapters[] = {
 505     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
 506     { 0 }
 507 };
 508
 509 static const EbmlSyntax matroska_index_pos[] = {
 510     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
 511     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
 512     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
 513     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
 514     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
 515     { 0 }
 516 };
 517
 518 static const EbmlSyntax matroska_index_entry[] = {
 519     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
 520     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
 521     { 0 }
 522 };
 523
 524 static const EbmlSyntax matroska_index[] = {
 525     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
 526     { 0 }
 527 };
 528
 529 static const EbmlSyntax matroska_simpletag[] = {
 530     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
 531     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
 532     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
 533     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 534     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
 535     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
 536     { 0 }
 537 };
 538
 539 static const EbmlSyntax matroska_tagtargets[] = {
 540     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
 541     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
 542     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
 543     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
 544     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
 545     { 0 }
 546 };
 547
 548 static const EbmlSyntax matroska_tag[] = {
 549     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
 550     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
 551     { 0 }
 552 };
 553
 554 static const EbmlSyntax matroska_tags[] = {
 555     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
 556     { 0 }
 557 };
 558
 559 static const EbmlSyntax matroska_seekhead_entry[] = {
 560     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
 561     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
 562     { 0 }
 563 };
 564
 565 static const EbmlSyntax matroska_seekhead[] = {
 566     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
 567     { 0 }
 568 };
 569
 570 static const EbmlSyntax matroska_segment[] = {
 571     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
 572     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
 573     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
 574     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
 575     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
 576     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
 577     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
 578     { MATROSKA_ID_CLUSTER,     EBML_STOP },
 579     { 0 }
 580 };
 581
 582 static const EbmlSyntax matroska_segments[] = {
 583     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
 584     { 0 }
 585 };
 586
 587 static const EbmlSyntax matroska_blockmore[] = {
 588     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id) },
 589     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
 590     { 0 }
 591 };
 592
 593 static const EbmlSyntax matroska_blockadditions[] = {
 594     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
 595     { 0 }
 596 };
 597
 598 static const EbmlSyntax matroska_blockgroup[] = {
 599     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 600     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
 601     { MATROSKA_ID_SIMPLEBLOCK,    EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
 602     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
 603     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
 604     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference) },
 605     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
 606     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
 607     { 0 }
 608 };
 609
 610 static const EbmlSyntax matroska_cluster[] = {
 611     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0,                     offsetof(MatroskaCluster, timecode) },
 612     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
 613     { MATROSKA_ID_SIMPLEBLOCK,     EBML_PASS, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
 614     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 615     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 616     { 0 }
 617 };
 618
 619 static const EbmlSyntax matroska_clusters[] = {
 620     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster } },
 621     { MATROSKA_ID_INFO,     EBML_NONE },
 622     { MATROSKA_ID_CUES,     EBML_NONE },
 623     { MATROSKA_ID_TAGS,     EBML_NONE },
 624     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
 625     { 0 }
 626 };
 627
 628 static const EbmlSyntax matroska_cluster_incremental_parsing[] = {
 629     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0,                     offsetof(MatroskaCluster, timecode) },
 630     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
 631     { MATROSKA_ID_SIMPLEBLOCK,     EBML_PASS, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
 632     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 633     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 634     { MATROSKA_ID_INFO,            EBML_NONE },
 635     { MATROSKA_ID_CUES,            EBML_NONE },
 636     { MATROSKA_ID_TAGS,            EBML_NONE },
 637     { MATROSKA_ID_SEEKHEAD,        EBML_NONE },
 638     { MATROSKA_ID_CLUSTER,         EBML_STOP },
 639     { 0 }
 640 };
 641
 642 static const EbmlSyntax matroska_cluster_incremental[] = {
 643     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
 644     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
 645     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
 646     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
 647     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
 648     { 0 }
 649 };
 650
 651 static const EbmlSyntax matroska_clusters_incremental[] = {
 652     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster_incremental } },
 653     { MATROSKA_ID_INFO,     EBML_NONE },
 654     { MATROSKA_ID_CUES,     EBML_NONE },
 655     { MATROSKA_ID_TAGS,     EBML_NONE },
 656     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
 657     { 0 }
 658 };
 659
 660 static const char *const matroska_doctypes[] = { "matroska", "webm" };
 661
 662 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
 663 {
 664     AVIOContext *pb = matroska->ctx->pb;
 665     uint32_t id;
 666     matroska->current_id = 0;
 667     matroska->num_levels = 0;
 668
 669     /* seek to next position to resync from */
 670     if (avio_seek(pb, last_pos + 1, SEEK_SET) < 0)
 671         goto eof;
 672
 673     id = avio_rb32(pb);
 674
 675     // try to find a toplevel element
 676     while (!avio_feof(pb)) {
 677         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
 678             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
 679             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
 680             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
 681             matroska->current_id = id;
 682             return 0;
 683         }
 684         id = (id << 8) | avio_r8(pb);
 685     }
 686
 687 eof:
 688     matroska->done = 1;
 689     return AVERROR_EOF;
 690 }
 691
 692 /*
 693  * Return: Whether we reached the end of a level in the hierarchy or not.
 694  */
 695 static int ebml_level_end(MatroskaDemuxContext *matroska)
 696 {
 697     AVIOContext *pb = matroska->ctx->pb;
 698     int64_t pos = avio_tell(pb);
 699
 700     if (matroska->num_levels > 0) {
 701         MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
 702         if (pos - level->start >= level->length || matroska->current_id) {
 703             matroska->num_levels--;
 704             return 1;
 705         }
 706     }
 707     return (matroska->is_live && matroska->ctx->pb->eof_reached) ? 1 : 0;
 708 }
 709
 710 /*
 711  * Read: an "EBML number", which is defined as a variable-length
 712  * array of bytes. The first byte indicates the length by giving a
 713  * number of 0-bits followed by a one. The position of the first
 714  * "one" bit inside the first byte indicates the length of this
 715  * number.
 716  * Returns: number of bytes read, < 0 on error
 717  */
 718 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
 719                          int max_size, uint64_t *number)
 720 {
 721     int read = 1, n = 1;
 722     uint64_t total = 0;
 723
 724     /* The first byte tells us the length in bytes - avio_r8() can normally
 725      * return 0, but since that's not a valid first ebmlID byte, we can
 726      * use it safely here to catch EOS. */
 727     if (!(total = avio_r8(pb))) {
 728         /* we might encounter EOS here */
 729         if (!avio_feof(pb)) {
 730             int64_t pos = avio_tell(pb);
 731             av_log(matroska->ctx, AV_LOG_ERROR,
 732                    "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
 733                    pos, pos);
 734             return pb->error ? pb->error : AVERROR(EIO);
 735         }
 736         return AVERROR_EOF;
 737     }
 738
 739     /* get the length of the EBML number */
 740     read = 8 - ff_log2_tab[total];
 741     if (read > max_size) {
 742         int64_t pos = avio_tell(pb) - 1;
 743         av_log(matroska->ctx, AV_LOG_ERROR,
 744                "Invalid EBML number size tag 0x%02x at pos %"PRIu64" (0x%"PRIx64")\n",
 745                (uint8_t) total, pos, pos);
 746         return AVERROR_INVALIDDATA;
 747     }
 748
 749     /* read out length */
 750     total ^= 1 << ff_log2_tab[total];
 751     while (n++ < read)
 752         total = (total << 8) | avio_r8(pb);
 753
 754     *number = total;
 755
 756     return read;
 757 }
 758
 759 /**
 760  * Read a EBML length value.
 761  * This needs special handling for the "unknown length" case which has multiple
 762  * encodings.
 763  */
 764 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
 765                             uint64_t *number)
 766 {
 767     int res = ebml_read_num(matroska, pb, 8, number);
 768     if (res > 0 && *number + 1 == 1ULL << (7 * res))
 769         *number = 0xffffffffffffffULL;
 770     return res;
 771 }
 772
 773 /*
 774  * Read the next element as an unsigned int.
 775  * 0 is success, < 0 is failure.
 776  */
 777 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
 778 {
 779     int n = 0;
 780
 781     if (size > 8)
 782         return AVERROR_INVALIDDATA;
 783
 784     /* big-endian ordering; build up number */
 785     *num = 0;
 786     while (n++ < size)
 787         *num = (*num << 8) | avio_r8(pb);
 788
 789     return 0;
 790 }
 791
 792 /*
 793  * Read the next element as a signed int.
 794  * 0 is success, < 0 is failure.
 795  */
 796 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
 797 {
 798     int n = 1;
 799
 800     if (size > 8)
 801         return AVERROR_INVALIDDATA;
 802
 803     if (size == 0) {
 804         *num = 0;
 805     } else {
 806         *num = sign_extend(avio_r8(pb), 8);
 807
 808         /* big-endian ordering; build up number */
 809         while (n++ < size)
 810             *num = ((uint64_t)*num << 8) | avio_r8(pb);
 811     }
 812
 813     return 0;
 814 }
 815
 816 /*
 817  * Read the next element as a float.
 818  * 0 is success, < 0 is failure.
 819  */
 820 static int ebml_read_float(AVIOContext *pb, int size, double *num)
 821 {
 822     if (size == 0)
 823         *num = 0;
 824     else if (size == 4)
 825         *num = av_int2float(avio_rb32(pb));
 826     else if (size == 8)
 827         *num = av_int2double(avio_rb64(pb));
 828     else
 829         return AVERROR_INVALIDDATA;
 830
 831     return 0;
 832 }
 833
 834 /*
 835  * Read the next element as an ASCII string.
 836  * 0 is success, < 0 is failure.
 837  */
 838 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
 839 {
 840     char *res;
 841
 842     /* EBML strings are usually not 0-terminated, so we allocate one
 843      * byte more, read the string and NULL-terminate it ourselves. */
 844     if (!(res = av_malloc(size + 1)))
 845         return AVERROR(ENOMEM);
 846     if (avio_read(pb, (uint8_t *) res, size) != size) {
 847         av_free(res);
 848         return AVERROR(EIO);
 849     }
 850     (res)[size] = '\0';
 851     av_free(*str);
 852     *str = res;
 853
 854     return 0;
 855 }
 856
 857 /*
 858  * Read the next element as binary data.
 859  * 0 is success, < 0 is failure.
 860  */
 861 static int ebml_read_binary(AVIOContext *pb, int length, EbmlBin *bin)
 862 {
 863     av_fast_padded_malloc(&bin->data, &bin->size, length);
 864     if (!bin->data)
 865         return AVERROR(ENOMEM);
 866
 867     bin->size = length;
 868     bin->pos  = avio_tell(pb);
 869     if (avio_read(pb, bin->data, length) != length) {
 870         av_freep(&bin->data);
 871         bin->size = 0;
 872         return AVERROR(EIO);
 873     }
 874
 875     return 0;
 876 }
 877
 878 /*
 879  * Read the next element, but only the header. The contents
 880  * are supposed to be sub-elements which can be read separately.
 881  * 0 is success, < 0 is failure.
 882  */
 883 static int ebml_read_master(MatroskaDemuxContext *matroska, uint64_t length)
 884 {
 885     AVIOContext *pb = matroska->ctx->pb;
 886     MatroskaLevel *level;
 887
 888     if (matroska->num_levels >= EBML_MAX_DEPTH) {
 889         av_log(matroska->ctx, AV_LOG_ERROR,
 890                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
 891         return AVERROR(ENOSYS);
 892     }
 893
 894     level         = &matroska->levels[matroska->num_levels++];
 895     level->start  = avio_tell(pb);
 896     level->length = length;
 897
 898     return 0;
 899 }
 900
 901 /*
 902  * Read signed/unsigned "EBML" numbers.
 903  * Return: number of bytes processed, < 0 on error
 904  */
 905 static int matroska_ebmlnum_uint(MatroskaDemuxContext *matroska,
 906                                  uint8_t *data, uint32_t size, uint64_t *num)
 907 {
 908     AVIOContext pb;
 909     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
 910     return ebml_read_num(matroska, &pb, FFMIN(size, 8), num);
 911 }
 912
 913 /*
 914  * Same as above, but signed.
 915  */
 916 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
 917                                  uint8_t *data, uint32_t size, int64_t *num)
 918 {
 919     uint64_t unum;
 920     int res;
 921
 922     /* read as unsigned number first */
 923     if ((res = matroska_ebmlnum_uint(matroska, data, size, &unum)) < 0)
 924         return res;
 925
 926     /* make signed (weird way) */
 927     *num = unum - ((1LL << (7 * res - 1)) - 1);
 928
 929     return res;
 930 }
 931
 932 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
 933                            EbmlSyntax *syntax, void *data);
 934
 935 static int ebml_parse_id(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
 936                          uint32_t id, void *data)
 937 {
 938     int i;
 939     for (i = 0; syntax[i].id; i++)
 940         if (id == syntax[i].id)
 941             break;
 942     if (!syntax[i].id && id == MATROSKA_ID_CLUSTER &&
 943         matroska->num_levels > 0                   &&
 944         matroska->levels[matroska->num_levels - 1].length == 0xffffffffffffff)
 945         return 0;  // we reached the end of an unknown size cluster
 946     if (!syntax[i].id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
 947         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32"\n", id);
 948     }
 949     return ebml_parse_elem(matroska, &syntax[i], data);
 950 }
 951
 952 static int ebml_parse(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
 953                       void *data)
 954 {
 955     if (!matroska->current_id) {
 956         uint64_t id;
 957         int res = ebml_read_num(matroska, matroska->ctx->pb, 4, &id);
 958         if (res < 0) {
 959             // in live mode, finish parsing if EOF is reached.
 960             return (matroska->is_live && matroska->ctx->pb->eof_reached &&
 961                     res == AVERROR_EOF) ? 1 : res;
 962         }
 963         matroska->current_id = id | 1 << 7 * res;
 964     }
 965     return ebml_parse_id(matroska, syntax, matroska->current_id, data);
 966 }
 967
 968 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
 969                            void *data)
 970 {
 971     int i, res = 0;
 972
 973     for (i = 0; syntax[i].id; i++)
 974         switch (syntax[i].type) {
 975         case EBML_UINT:
 976             *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
 977             break;
 978         case EBML_FLOAT:
 979             *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
 980             break;
 981         case EBML_STR:
 982         case EBML_UTF8:
 983             // the default may be NULL
 984             if (syntax[i].def.s) {
 985                 uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
 986                 *dst = av_strdup(syntax[i].def.s);
 987                 if (!*dst)
 988                     return AVERROR(ENOMEM);
 989             }
 990             break;
 991         }
 992
 993     while (!res && !ebml_level_end(matroska))
 994         res = ebml_parse(matroska, syntax, data);
 995
 996     return res;
 997 }
 998
 999 static int is_ebml_id_valid(uint32_t id)
1000 {
1001     // Due to endian nonsense in Matroska, the highest byte with any bits set
1002     // will contain the leading length bit. This bit in turn identifies the
1003     // total byte length of the element by its position within the byte.
1004     unsigned int bits = av_log2(id);
1005     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1006 }
1007
1008 /*
1009  * Allocate and return the entry for the level1 element with the given ID. If
1010  * an entry already exists, return the existing entry.
1011  */
1012 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1013                                                         uint32_t id)
1014 {
1015     int i;
1016     MatroskaLevel1Element *elem;
1017
1018     if (!is_ebml_id_valid(id))
1019         return NULL;
1020
1021     // Some files link to all clusters; useless.
1022     if (id == MATROSKA_ID_CLUSTER)
1023         return NULL;
1024
1025     // There can be multiple seekheads.
1026     if (id != MATROSKA_ID_SEEKHEAD) {
1027         for (i = 0; i < matroska->num_level1_elems; i++) {
1028             if (matroska->level1_elems[i].id == id)
1029                 return &matroska->level1_elems[i];
1030         }
1031     }
1032
1033     // Only a completely broken file would have more elements.
1034     // It also provides a low-effort way to escape from circular seekheads
1035     // (every iteration will add a level1 entry).
1036     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1037         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements or circular seekheads.\n");
1038         return NULL;
1039     }
1040
1041     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1042     *elem = (MatroskaLevel1Element){.id = id};
1043
1044     return elem;
1045 }
1046
1047 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
1048                            EbmlSyntax *syntax, void *data)
1049 {
1050     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1051         [EBML_UINT]  = 8,
1052         [EBML_FLOAT] = 8,
1053         // max. 16 MB for strings
1054         [EBML_STR]   = 0x1000000,
1055         [EBML_UTF8]  = 0x1000000,
1056         // max. 256 MB for binary data
1057         [EBML_BIN]   = 0x10000000,
1058         // no limits for anything else
1059     };
1060     AVIOContext *pb = matroska->ctx->pb;
1061     uint32_t id = syntax->id;
1062     uint64_t length;
1063     int res;
1064     void *newelem;
1065     MatroskaLevel1Element *level1_elem;
1066
1067     data = (char *) data + syntax->data_offset;
1068     if (syntax->list_elem_size) {
1069         EbmlList *list = data;
1070         newelem = av_realloc_array(list->elem, list->nb_elem + 1, syntax->list_elem_size);
1071         if (!newelem)
1072             return AVERROR(ENOMEM);
1073         list->elem = newelem;
1074         data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1075         memset(data, 0, syntax->list_elem_size);
1076         list->nb_elem++;
1077     }
1078
1079     if (syntax->type != EBML_PASS && syntax->type != EBML_STOP) {
1080         matroska->current_id = 0;
1081         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1082             return res;
1083         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1084             av_log(matroska->ctx, AV_LOG_ERROR,
1085                    "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for syntax element %i\n",
1086                    length, max_lengths[syntax->type], syntax->type);
1087             return AVERROR_INVALIDDATA;
1088         }
1089     }
1090
1091     switch (syntax->type) {
1092     case EBML_UINT:
1093         res = ebml_read_uint(pb, length, data);
1094         break;
1095     case EBML_SINT:
1096         res = ebml_read_sint(pb, length, data);
1097         break;
1098     case EBML_FLOAT:
1099         res = ebml_read_float(pb, length, data);
1100         break;
1101     case EBML_STR:
1102     case EBML_UTF8:
1103         res = ebml_read_ascii(pb, length, data);
1104         break;
1105     case EBML_BIN:
1106         res = ebml_read_binary(pb, length, data);
1107         break;
1108     case EBML_LEVEL1:
1109     case EBML_NEST:
1110         if ((res = ebml_read_master(matroska, length)) < 0)
1111             return res;
1112         if (id == MATROSKA_ID_SEGMENT)
1113             matroska->segment_start = avio_tell(matroska->ctx->pb);
1114         if (id == MATROSKA_ID_CUES)
1115             matroska->cues_parsing_deferred = 0;
1116         if (syntax->type == EBML_LEVEL1 &&
1117             (level1_elem = matroska_find_level1_elem(matroska, syntax->id))) {
1118             if (level1_elem->parsed)
1119                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1120             level1_elem->parsed = 1;
1121         }
1122         return ebml_parse_nest(matroska, syntax->def.n, data);
1123     case EBML_PASS:
1124         return ebml_parse_id(matroska, syntax->def.n, id, data);
1125     case EBML_STOP:
1126         return 1;
1127     default:
1128         if (ffio_limit(pb, length) != length)
1129             return AVERROR(EIO);
1130         return avio_skip(pb, length) < 0 ? AVERROR(EIO) : 0;
1131     }
1132     if (res == AVERROR_INVALIDDATA)
1133         av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1134     else if (res == AVERROR(EIO))
1135         av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1136     return res;
1137 }
1138
1139 static void ebml_free(EbmlSyntax *syntax, void *data)
1140 {
1141     int i, j;
1142     for (i = 0; syntax[i].id; i++) {
1143         void *data_off = (char *) data + syntax[i].data_offset;
1144         switch (syntax[i].type) {
1145         case EBML_STR:
1146         case EBML_UTF8:
1147             av_freep(data_off);
1148             break;
1149         case EBML_BIN:
1150             av_freep(&((EbmlBin *) data_off)->data);
1151             break;
1152         case EBML_LEVEL1:
1153         case EBML_NEST:
1154             if (syntax[i].list_elem_size) {
1155                 EbmlList *list = data_off;
1156                 char *ptr = list->elem;
1157                 for (j = 0; j < list->nb_elem;
1158                      j++, ptr += syntax[i].list_elem_size)
1159                     ebml_free(syntax[i].def.n, ptr);
1160                 av_freep(&list->elem);
1161             } else
1162                 ebml_free(syntax[i].def.n, data_off);
1163         default:
1164             break;
1165         }
1166     }
1167 }
1168
1169 /*
1170  * Autodetecting...
1171  */
1172 static int matroska_probe(AVProbeData *p)
1173 {
1174     uint64_t total = 0;
1175     int len_mask = 0x80, size = 1, n = 1, i;
1176
1177     /* EBML header? */
1178     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1179         return 0;
1180
1181     /* length of header */
1182     total = p->buf[4];
1183     while (size <= 8 && !(total & len_mask)) {
1184         size++;
1185         len_mask >>= 1;
1186     }
1187     if (size > 8)
1188         return 0;
1189     total &= (len_mask - 1);
1190     while (n < size)
1191         total = (total << 8) | p->buf[4 + n++];
1192
1193     /* Does the probe data contain the whole header? */
1194     if (p->buf_size < 4 + size + total)
1195         return 0;
1196
1197     /* The header should contain a known document type. For now,
1198      * we don't parse the whole header but simply check for the
1199      * availability of that array of characters inside the header.
1200      * Not fully fool-proof, but good enough. */
1201     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1202         size_t probelen = strlen(matroska_doctypes[i]);
1203         if (total < probelen)
1204             continue;
1205         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1206             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1207                 return AVPROBE_SCORE_MAX;
1208     }
1209
1210     // probably valid EBML header but no recognized doctype
1211     return AVPROBE_SCORE_EXTENSION;
1212 }
1213
1214 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1215                                                  int num)
1216 {
1217     MatroskaTrack *tracks = matroska->tracks.elem;
1218     int i;
1219
1220     for (i = 0; i < matroska->tracks.nb_elem; i++)
1221         if (tracks[i].num == num)
1222             return &tracks[i];
1223
1224     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
1225     return NULL;
1226 }
1227
1228 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1229                                   MatroskaTrack *track)
1230 {
1231     MatroskaTrackEncoding *encodings = track->encodings.elem;
1232     uint8_t *data = *buf;
1233     int isize = *buf_size;
1234     uint8_t *pkt_data = NULL;
1235     uint8_t av_unused *newpktdata;
1236     int pkt_size = isize;
1237     int result = 0;
1238     int olen;
1239
1240     if (pkt_size >= 10000000U)
1241         return AVERROR_INVALIDDATA;
1242
1243     switch (encodings[0].compression.algo) {
1244     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1245     {
1246         int header_size = encodings[0].compression.settings.size;
1247         uint8_t *header = encodings[0].compression.settings.data;
1248
1249         if (header_size && !header) {
1250             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1251             return -1;
1252         }
1253
1254         if (!header_size)
1255             return 0;
1256
1257         pkt_size = isize + header_size;
1258         pkt_data = av_malloc(pkt_size);
1259         if (!pkt_data)
1260             return AVERROR(ENOMEM);
1261
1262         memcpy(pkt_data, header, header_size);
1263         memcpy(pkt_data + header_size, data, isize);
1264         break;
1265     }
1266 #if CONFIG_LZO
1267     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1268         do {
1269             olen       = pkt_size *= 3;
1270             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING);
1271             if (!newpktdata) {
1272                 result = AVERROR(ENOMEM);
1273                 goto failed;
1274             }
1275             pkt_data = newpktdata;
1276             result   = av_lzo1x_decode(pkt_data, &olen, data, &isize);
1277         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1278         if (result) {
1279             result = AVERROR_INVALIDDATA;
1280             goto failed;
1281         }
1282         pkt_size -= olen;
1283         break;
1284 #endif
1285 #if CONFIG_ZLIB
1286     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1287     {
1288         z_stream zstream = { 0 };
1289         if (inflateInit(&zstream) != Z_OK)
1290             return -1;
1291         zstream.next_in  = data;
1292         zstream.avail_in = isize;
1293         do {
1294             pkt_size  *= 3;
1295             newpktdata = av_realloc(pkt_data, pkt_size);
1296             if (!newpktdata) {
1297                 inflateEnd(&zstream);
1298                 result = AVERROR(ENOMEM);
1299                 goto failed;
1300             }
1301             pkt_data          = newpktdata;
1302             zstream.avail_out = pkt_size - zstream.total_out;
1303             zstream.next_out  = pkt_data + zstream.total_out;
1304             result = inflate(&zstream, Z_NO_FLUSH);
1305         } while (result == Z_OK && pkt_size < 10000000);
1306         pkt_size = zstream.total_out;
1307         inflateEnd(&zstream);
1308         if (result != Z_STREAM_END) {
1309             if (result == Z_MEM_ERROR)
1310                 result = AVERROR(ENOMEM);
1311             else
1312                 result = AVERROR_INVALIDDATA;
1313             goto failed;
1314         }
1315         break;
1316     }
1317 #endif
1318 #if CONFIG_BZLIB
1319     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1320     {
1321         bz_stream bzstream = { 0 };
1322         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1323             return -1;
1324         bzstream.next_in  = data;
1325         bzstream.avail_in = isize;
1326         do {
1327             pkt_size  *= 3;
1328             newpktdata = av_realloc(pkt_data, pkt_size);
1329             if (!newpktdata) {
1330                 BZ2_bzDecompressEnd(&bzstream);
1331                 result = AVERROR(ENOMEM);
1332                 goto failed;
1333             }
1334             pkt_data           = newpktdata;
1335             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1336             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1337             result = BZ2_bzDecompress(&bzstream);
1338         } while (result == BZ_OK && pkt_size < 10000000);
1339         pkt_size = bzstream.total_out_lo32;
1340         BZ2_bzDecompressEnd(&bzstream);
1341         if (result != BZ_STREAM_END) {
1342             if (result == BZ_MEM_ERROR)
1343                 result = AVERROR(ENOMEM);
1344             else
1345                 result = AVERROR_INVALIDDATA;
1346             goto failed;
1347         }
1348         break;
1349     }
1350 #endif
1351     default:
1352         return AVERROR_INVALIDDATA;
1353     }
1354
1355     *buf      = pkt_data;
1356     *buf_size = pkt_size;
1357     return 0;
1358
1359 failed:
1360     av_free(pkt_data);
1361     return result;
1362 }
1363
1364 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1365                                  AVDictionary **metadata, char *prefix)
1366 {
1367     MatroskaTag *tags = list->elem;
1368     char key[1024];
1369     int i;
1370
1371     for (i = 0; i < list->nb_elem; i++) {
1372         const char *lang = tags[i].lang &&
1373                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1374
1375         if (!tags[i].name) {
1376             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1377             continue;
1378         }
1379         if (prefix)
1380             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1381         else
1382             av_strlcpy(key, tags[i].name, sizeof(key));
1383         if (tags[i].def || !lang) {
1384             av_dict_set(metadata, key, tags[i].string, 0);
1385             if (tags[i].sub.nb_elem)
1386                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1387         }
1388         if (lang) {
1389             av_strlcat(key, "-", sizeof(key));
1390             av_strlcat(key, lang, sizeof(key));
1391             av_dict_set(metadata, key, tags[i].string, 0);
1392             if (tags[i].sub.nb_elem)
1393                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1394         }
1395     }
1396     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1397 }
1398
1399 static void matroska_convert_tags(AVFormatContext *s)
1400 {
1401     MatroskaDemuxContext *matroska = s->priv_data;
1402     MatroskaTags *tags = matroska->tags.elem;
1403     int i, j;
1404
1405     for (i = 0; i < matroska->tags.nb_elem; i++) {
1406         if (tags[i].target.attachuid) {
1407             MatroskaAttachment *attachment = matroska->attachments.elem;
1408             int found = 0;
1409             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1410                 if (attachment[j].uid == tags[i].target.attachuid &&
1411                     attachment[j].stream) {
1412                     matroska_convert_tag(s, &tags[i].tag,
1413                                          &attachment[j].stream->metadata, NULL);
1414                     found = 1;
1415                 }
1416             }
1417             if (!found) {
1418                 av_log(NULL, AV_LOG_WARNING,
1419                        "The tags at index %d refer to a "
1420                        "non-existent attachment %"PRId64".\n",
1421                        i, tags[i].target.attachuid);
1422             }
1423         } else if (tags[i].target.chapteruid) {
1424             MatroskaChapter *chapter = matroska->chapters.elem;
1425             int found = 0;
1426             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1427                 if (chapter[j].uid == tags[i].target.chapteruid &&
1428                     chapter[j].chapter) {
1429                     matroska_convert_tag(s, &tags[i].tag,
1430                                          &chapter[j].chapter->metadata, NULL);
1431                     found = 1;
1432                 }
1433             }
1434             if (!found) {
1435                 av_log(NULL, AV_LOG_WARNING,
1436                        "The tags at index %d refer to a non-existent chapter "
1437                        "%"PRId64".\n",
1438                        i, tags[i].target.chapteruid);
1439             }
1440         } else if (tags[i].target.trackuid) {
1441             MatroskaTrack *track = matroska->tracks.elem;
1442             int found = 0;
1443             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1444                 if (track[j].uid == tags[i].target.trackuid &&
1445                     track[j].stream) {
1446                     matroska_convert_tag(s, &tags[i].tag,
1447                                          &track[j].stream->metadata, NULL);
1448                     found = 1;
1449                }
1450             }
1451             if (!found) {
1452                 av_log(NULL, AV_LOG_WARNING,
1453                        "The tags at index %d refer to a non-existent track "
1454                        "%"PRId64".\n",
1455                        i, tags[i].target.trackuid);
1456             }
1457         } else {
1458             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1459                                  tags[i].target.type);
1460         }
1461     }
1462 }
1463
1464 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1465                                          uint64_t pos)
1466 {
1467     uint32_t level_up       = matroska->level_up;
1468     uint32_t saved_id       = matroska->current_id;
1469     int64_t before_pos = avio_tell(matroska->ctx->pb);
1470     MatroskaLevel level;
1471     int64_t offset;
1472     int ret = 0;
1473
1474     /* seek */
1475     offset = pos + matroska->segment_start;
1476     if (avio_seek(matroska->ctx->pb, offset, SEEK_SET) == offset) {
1477         /* We don't want to lose our seekhead level, so we add
1478          * a dummy. This is a crude hack. */
1479         if (matroska->num_levels == EBML_MAX_DEPTH) {
1480             av_log(matroska->ctx, AV_LOG_INFO,
1481                    "Max EBML element depth (%d) reached, "
1482                    "cannot parse further.\n", EBML_MAX_DEPTH);
1483             ret = AVERROR_INVALIDDATA;
1484         } else {
1485             level.start  = 0;
1486             level.length = (uint64_t) -1;
1487             matroska->levels[matroska->num_levels] = level;
1488             matroska->num_levels++;
1489             matroska->current_id                   = 0;
1490
1491             ret = ebml_parse(matroska, matroska_segment, matroska);
1492
1493             /* remove dummy level */
1494             while (matroska->num_levels) {
1495                 uint64_t length = matroska->levels[--matroska->num_levels].length;
1496                 if (length == (uint64_t) -1)
1497                     break;
1498             }
1499         }
1500     }
1501     /* seek back */
1502     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
1503     matroska->level_up   = level_up;
1504     matroska->current_id = saved_id;
1505
1506     return ret;
1507 }
1508
1509 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1510 {
1511     EbmlList *seekhead_list = &matroska->seekhead;
1512     int i;
1513
1514     // we should not do any seeking in the streaming case
1515     if (!matroska->ctx->pb->seekable)
1516         return;
1517
1518     for (i = 0; i < seekhead_list->nb_elem; i++) {
1519         MatroskaSeekhead *seekheads = seekhead_list->elem;
1520         uint32_t id  = seekheads[i].id;
1521         uint64_t pos = seekheads[i].pos;
1522
1523         MatroskaLevel1Element *elem = matroska_find_level1_elem(matroska, id);
1524         if (!elem || elem->parsed)
1525             continue;
1526
1527         elem->pos = pos;
1528
1529         // defer cues parsing until we actually need cue data.
1530         if (id == MATROSKA_ID_CUES)
1531             continue;
1532
1533         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1534             // mark index as broken
1535             matroska->cues_parsing_deferred = -1;
1536             break;
1537         }
1538
1539         elem->parsed = 1;
1540     }
1541 }
1542
1543 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1544 {
1545     EbmlList *index_list;
1546     MatroskaIndex *index;
1547     uint64_t index_scale = 1;
1548     int i, j;
1549
1550     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1551         return;
1552
1553     index_list = &matroska->index;
1554     index      = index_list->elem;
1555     if (index_list->nb_elem < 2)
1556         return;
1557     if (index[1].time > 1E14 / matroska->time_scale) {
1558         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1559         return;
1560     }
1561     for (i = 0; i < index_list->nb_elem; i++) {
1562         EbmlList *pos_list    = &index[i].pos;
1563         MatroskaIndexPos *pos = pos_list->elem;
1564         for (j = 0; j < pos_list->nb_elem; j++) {
1565             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1566                                                               pos[j].track);
1567             if (track && track->stream)
1568                 av_add_index_entry(track->stream,
1569                                    pos[j].pos + matroska->segment_start,
1570                                    index[i].time / index_scale, 0, 0,
1571                                    AVINDEX_KEYFRAME);
1572         }
1573     }
1574 }
1575
1576 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1577     int i;
1578
1579     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1580         return;
1581
1582     for (i = 0; i < matroska->num_level1_elems; i++) {
1583         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1584         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1585             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1586                 matroska->cues_parsing_deferred = -1;
1587             elem->parsed = 1;
1588             break;
1589         }
1590     }
1591
1592     matroska_add_index_entries(matroska);
1593 }
1594
1595 static int matroska_aac_profile(char *codec_id)
1596 {
1597     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1598     int profile;
1599
1600     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1601         if (strstr(codec_id, aac_profiles[profile]))
1602             break;
1603     return profile + 1;
1604 }
1605
1606 static int matroska_aac_sri(int samplerate)
1607 {
1608     int sri;
1609
1610     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1611         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1612             break;
1613     return sri;
1614 }
1615
1616 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1617 {
1618     char buffer[32];
1619     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1620     time_t creation_time = date_utc / 1000000000 + 978307200;
1621     struct tm tmpbuf, *ptm = gmtime_r(&creation_time, &tmpbuf);
1622     if (!ptm) return;
1623     if (strftime(buffer, sizeof(buffer), "%Y-%m-%d %H:%M:%S", ptm))
1624         av_dict_set(metadata, "creation_time", buffer, 0);
1625 }
1626
1627 static int matroska_parse_flac(AVFormatContext *s,
1628                                MatroskaTrack *track,
1629                                int *offset)
1630 {
1631     AVStream *st = track->stream;
1632     uint8_t *p = track->codec_priv.data;
1633     int size   = track->codec_priv.size;
1634
1635     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1636         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1637         track->codec_priv.size = 0;
1638         return 0;
1639     }
1640     *offset = 8;
1641     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1642
1643     p    += track->codec_priv.size;
1644     size -= track->codec_priv.size;
1645
1646     /* parse the remaining metadata blocks if present */
1647     while (size >= 4) {
1648         int block_last, block_type, block_size;
1649
1650         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1651
1652         p    += 4;
1653         size -= 4;
1654         if (block_size > size)
1655             return 0;
1656
1657         /* check for the channel mask */
1658         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
1659             AVDictionary *dict = NULL;
1660             AVDictionaryEntry *chmask;
1661
1662             ff_vorbis_comment(s, &dict, p, block_size, 0);
1663             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
1664             if (chmask) {
1665                 uint64_t mask = strtol(chmask->value, NULL, 0);
1666                 if (!mask || mask & ~0x3ffffULL) {
1667                     av_log(s, AV_LOG_WARNING,
1668                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
1669                 } else
1670                     st->codec->channel_layout = mask;
1671             }
1672             av_dict_free(&dict);
1673         }
1674
1675         p    += block_size;
1676         size -= block_size;
1677     }
1678
1679     return 0;
1680 }
1681
1682 static void mkv_stereo_mode_display_mul(int stereo_mode, int *h_width, int *h_height)
1683 {
1684     switch (stereo_mode) {
1685         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
1686         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
1687         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
1688         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
1689         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
1690             break;
1691         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
1692         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
1693         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
1694         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
1695             *h_width = 2;
1696             break;
1697         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
1698         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
1699         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
1700         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
1701             *h_height = 2;
1702             break;
1703     }
1704 }
1705
1706 static int matroska_parse_tracks(AVFormatContext *s)
1707 {
1708     MatroskaDemuxContext *matroska = s->priv_data;
1709     MatroskaTrack *tracks = matroska->tracks.elem;
1710     AVStream *st;
1711     int i, j, ret;
1712     int k;
1713
1714     for (i = 0; i < matroska->tracks.nb_elem; i++) {
1715         MatroskaTrack *track = &tracks[i];
1716         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
1717         EbmlList *encodings_list = &track->encodings;
1718         MatroskaTrackEncoding *encodings = encodings_list->elem;
1719         uint8_t *extradata = NULL;
1720         int extradata_size = 0;
1721         int extradata_offset = 0;
1722         uint32_t fourcc = 0;
1723         AVIOContext b;
1724         char* key_id_base64 = NULL;
1725         int bit_depth = -1;
1726
1727         /* Apply some sanity checks. */
1728         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
1729             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
1730             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
1731             track->type != MATROSKA_TRACK_TYPE_METADATA) {
1732             av_log(matroska->ctx, AV_LOG_INFO,
1733                    "Unknown or unsupported track type %"PRIu64"\n",
1734                    track->type);
1735             continue;
1736         }
1737         if (!track->codec_id)
1738             continue;
1739
1740         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
1741             isnan(track->audio.samplerate)) {
1742             av_log(matroska->ctx, AV_LOG_WARNING,
1743                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
1744                    track->audio.samplerate);
1745             track->audio.samplerate = 8000;
1746         }
1747
1748         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
1749             if (!track->default_duration && track->video.frame_rate > 0)
1750                 track->default_duration = 1000000000 / track->video.frame_rate;
1751             if (track->video.display_width == -1)
1752                 track->video.display_width = track->video.pixel_width;
1753             if (track->video.display_height == -1)
1754                 track->video.display_height = track->video.pixel_height;
1755             if (track->video.color_space.size == 4)
1756                 fourcc = AV_RL32(track->video.color_space.data);
1757         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
1758             if (!track->audio.out_samplerate)
1759                 track->audio.out_samplerate = track->audio.samplerate;
1760         }
1761         if (encodings_list->nb_elem > 1) {
1762             av_log(matroska->ctx, AV_LOG_ERROR,
1763                    "Multiple combined encodings not supported");
1764         } else if (encodings_list->nb_elem == 1) {
1765             if (encodings[0].type) {
1766                 if (encodings[0].encryption.key_id.size > 0) {
1767                     /* Save the encryption key id to be stored later as a
1768                        metadata tag. */
1769                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
1770                     key_id_base64 = av_malloc(b64_size);
1771                     if (key_id_base64 == NULL)
1772                         return AVERROR(ENOMEM);
1773
1774                     av_base64_encode(key_id_base64, b64_size,
1775                                      encodings[0].encryption.key_id.data,
1776                                      encodings[0].encryption.key_id.size);
1777                 } else {
1778                     encodings[0].scope = 0;
1779                     av_log(matroska->ctx, AV_LOG_ERROR,
1780                            "Unsupported encoding type");
1781                 }
1782             } else if (
1783 #if CONFIG_ZLIB
1784                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
1785 #endif
1786 #if CONFIG_BZLIB
1787                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
1788 #endif
1789 #if CONFIG_LZO
1790                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
1791 #endif
1792                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
1793                 encodings[0].scope = 0;
1794                 av_log(matroska->ctx, AV_LOG_ERROR,
1795                        "Unsupported encoding type");
1796             } else if (track->codec_priv.size && encodings[0].scope & 2) {
1797                 uint8_t *codec_priv = track->codec_priv.data;
1798                 int ret = matroska_decode_buffer(&track->codec_priv.data,
1799                                                  &track->codec_priv.size,
1800                                                  track);
1801                 if (ret < 0) {
1802                     track->codec_priv.data = NULL;
1803                     track->codec_priv.size = 0;
1804                     av_log(matroska->ctx, AV_LOG_ERROR,
1805                            "Failed to decode codec private data\n");
1806                 }
1807
1808                 if (codec_priv != track->codec_priv.data)
1809                     av_free(codec_priv);
1810             }
1811         }
1812
1813         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
1814             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
1815                          strlen(ff_mkv_codec_tags[j].str))) {
1816                 codec_id = ff_mkv_codec_tags[j].id;
1817                 break;
1818             }
1819         }
1820
1821         st = track->stream = avformat_new_stream(s, NULL);
1822         if (!st) {
1823             av_free(key_id_base64);
1824             return AVERROR(ENOMEM);
1825         }
1826
1827         if (key_id_base64) {
1828             /* export encryption key id as base64 metadata tag */
1829             av_dict_set(&st->metadata, "enc_key_id", key_id_base64, 0);
1830             av_freep(&key_id_base64);
1831         }
1832
1833         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
1834              track->codec_priv.size >= 40               &&
1835             track->codec_priv.data) {
1836             track->ms_compat    = 1;
1837             bit_depth           = AV_RL16(track->codec_priv.data + 14);
1838             fourcc              = AV_RL32(track->codec_priv.data + 16);
1839             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
1840                                                   fourcc);
1841             if (!codec_id)
1842                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
1843                                                   fourcc);
1844             extradata_offset    = 40;
1845         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
1846                    track->codec_priv.size >= 14         &&
1847                    track->codec_priv.data) {
1848             int ret;
1849             ffio_init_context(&b, track->codec_priv.data,
1850                               track->codec_priv.size,
1851                               0, NULL, NULL, NULL, NULL);
1852             ret = ff_get_wav_header(s, &b, st->codec, track->codec_priv.size, 0);
1853             if (ret < 0)
1854                 return ret;
1855             codec_id         = st->codec->codec_id;
1856             fourcc           = st->codec->codec_tag;
1857             extradata_offset = FFMIN(track->codec_priv.size, 18);
1858         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
1859                    && (track->codec_priv.size >= 86)
1860                    && (track->codec_priv.data)) {
1861             fourcc = AV_RL32(track->codec_priv.data + 4);
1862             codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
1863             if (ff_codec_get_id(ff_codec_movaudio_tags, AV_RL32(track->codec_priv.data))) {
1864                 fourcc = AV_RL32(track->codec_priv.data);
1865                 codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
1866             }
1867         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
1868                    (track->codec_priv.size >= 21)          &&
1869                    (track->codec_priv.data)) {
1870             fourcc   = AV_RL32(track->codec_priv.data + 4);
1871             codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
1872             if (ff_codec_get_id(ff_codec_movvideo_tags, AV_RL32(track->codec_priv.data))) {
1873                 fourcc   = AV_RL32(track->codec_priv.data);
1874                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
1875             }
1876             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI "))
1877                 codec_id = AV_CODEC_ID_SVQ3;
1878             if (codec_id == AV_CODEC_ID_NONE) {
1879                 char buf[32];
1880                 av_get_codec_tag_string(buf, sizeof(buf), fourcc);
1881                 av_log(matroska->ctx, AV_LOG_ERROR,
1882                        "mov FourCC not found %s.\n", buf);
1883             }
1884         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
1885             switch (track->audio.bitdepth) {
1886             case  8:
1887                 codec_id = AV_CODEC_ID_PCM_U8;
1888                 break;
1889             case 24:
1890                 codec_id = AV_CODEC_ID_PCM_S24BE;
1891                 break;
1892             case 32:
1893                 codec_id = AV_CODEC_ID_PCM_S32BE;
1894                 break;
1895             }
1896         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
1897             switch (track->audio.bitdepth) {
1898             case  8:
1899                 codec_id = AV_CODEC_ID_PCM_U8;
1900                 break;
1901             case 24:
1902                 codec_id = AV_CODEC_ID_PCM_S24LE;
1903                 break;
1904             case 32:
1905                 codec_id = AV_CODEC_ID_PCM_S32LE;
1906                 break;
1907             }
1908         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
1909                    track->audio.bitdepth == 64) {
1910             codec_id = AV_CODEC_ID_PCM_F64LE;
1911         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
1912             int profile = matroska_aac_profile(track->codec_id);
1913             int sri     = matroska_aac_sri(track->audio.samplerate);
1914             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
1915             if (!extradata)
1916                 return AVERROR(ENOMEM);
1917             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
1918             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
1919             if (strstr(track->codec_id, "SBR")) {
1920                 sri            = matroska_aac_sri(track->audio.out_samplerate);
1921                 extradata[2]   = 0x56;
1922                 extradata[3]   = 0xE5;
1923                 extradata[4]   = 0x80 | (sri << 3);
1924                 extradata_size = 5;
1925             } else
1926                 extradata_size = 2;
1927         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
1928             /* Only ALAC's magic cookie is stored in Matroska's track headers.
1929              * Create the "atom size", "tag", and "tag version" fields the
1930              * decoder expects manually. */
1931             extradata_size = 12 + track->codec_priv.size;
1932             extradata      = av_mallocz(extradata_size +
1933                                         AV_INPUT_BUFFER_PADDING_SIZE);
1934             if (!extradata)
1935                 return AVERROR(ENOMEM);
1936             AV_WB32(extradata, extradata_size);
1937             memcpy(&extradata[4], "alac", 4);
1938             AV_WB32(&extradata[8], 0);
1939             memcpy(&extradata[12], track->codec_priv.data,
1940                    track->codec_priv.size);
1941         } else if (codec_id == AV_CODEC_ID_TTA) {
1942             extradata_size = 30;
1943             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
1944             if (!extradata)
1945                 return AVERROR(ENOMEM);
1946             ffio_init_context(&b, extradata, extradata_size, 1,
1947                               NULL, NULL, NULL, NULL);
1948             avio_write(&b, "TTA1", 4);
1949             avio_wl16(&b, 1);
1950             if (track->audio.channels > UINT16_MAX ||
1951                 track->audio.bitdepth > UINT16_MAX) {
1952                 av_log(matroska->ctx, AV_LOG_WARNING,
1953                        "Too large audio channel number %"PRIu64
1954                        " or bitdepth %"PRIu64". Skipping track.\n",
1955                        track->audio.channels, track->audio.bitdepth);
1956                 av_freep(&extradata);
1957                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
1958                     return AVERROR_INVALIDDATA;
1959                 else
1960                     continue;
1961             }
1962             avio_wl16(&b, track->audio.channels);
1963             avio_wl16(&b, track->audio.bitdepth);
1964             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
1965                 return AVERROR_INVALIDDATA;
1966             avio_wl32(&b, track->audio.out_samplerate);
1967             avio_wl32(&b, av_rescale((matroska->duration * matroska->time_scale),
1968                                      track->audio.out_samplerate,
1969                                      AV_TIME_BASE * 1000));
1970         } else if (codec_id == AV_CODEC_ID_RV10 ||
1971                    codec_id == AV_CODEC_ID_RV20 ||
1972                    codec_id == AV_CODEC_ID_RV30 ||
1973                    codec_id == AV_CODEC_ID_RV40) {
1974             extradata_offset = 26;
1975         } else if (codec_id == AV_CODEC_ID_RA_144) {
1976             track->audio.out_samplerate = 8000;
1977             track->audio.channels       = 1;
1978         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
1979                     codec_id == AV_CODEC_ID_COOK   ||
1980                     codec_id == AV_CODEC_ID_ATRAC3 ||
1981                     codec_id == AV_CODEC_ID_SIPR)
1982                       && track->codec_priv.data) {
1983             int flavor;
1984
1985             ffio_init_context(&b, track->codec_priv.data,
1986                               track->codec_priv.size,
1987                               0, NULL, NULL, NULL, NULL);
1988             avio_skip(&b, 22);
1989             flavor                       = avio_rb16(&b);
1990             track->audio.coded_framesize = avio_rb32(&b);
1991             avio_skip(&b, 12);
1992             track->audio.sub_packet_h    = avio_rb16(&b);
1993             track->audio.frame_size      = avio_rb16(&b);
1994             track->audio.sub_packet_size = avio_rb16(&b);
1995             if (flavor                        < 0 ||
1996                 track->audio.coded_framesize <= 0 ||
1997                 track->audio.sub_packet_h    <= 0 ||
1998                 track->audio.frame_size      <= 0 ||
1999                 track->audio.sub_packet_size <= 0)
2000                 return AVERROR_INVALIDDATA;
2001             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2002                                                track->audio.frame_size);
2003             if (!track->audio.buf)
2004                 return AVERROR(ENOMEM);
2005             if (codec_id == AV_CODEC_ID_RA_288) {
2006                 st->codec->block_align = track->audio.coded_framesize;
2007                 track->codec_priv.size = 0;
2008             } else {
2009                 if (codec_id == AV_CODEC_ID_SIPR && flavor < 4) {
2010                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2011                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2012                     st->codec->bit_rate          = sipr_bit_rate[flavor];
2013                 }
2014                 st->codec->block_align = track->audio.sub_packet_size;
2015                 extradata_offset       = 78;
2016             }
2017         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2018             ret = matroska_parse_flac(s, track, &extradata_offset);
2019             if (ret < 0)
2020                 return ret;
2021         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2022             fourcc = AV_RL32(track->codec_priv.data);
2023         }
2024         track->codec_priv.size -= extradata_offset;
2025
2026         if (codec_id == AV_CODEC_ID_NONE)
2027             av_log(matroska->ctx, AV_LOG_INFO,
2028                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2029
2030         if (track->time_scale < 0.01)
2031             track->time_scale = 1.0;
2032         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2033                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2034
2035         /* convert the delay from ns to the track timebase */
2036         track->codec_delay = av_rescale_q(track->codec_delay,
2037                                           (AVRational){ 1, 1000000000 },
2038                                           st->time_base);
2039
2040         st->codec->codec_id = codec_id;
2041
2042         if (strcmp(track->language, "und"))
2043             av_dict_set(&st->metadata, "language", track->language, 0);
2044         av_dict_set(&st->metadata, "title", track->name, 0);
2045
2046         if (track->flag_default)
2047             st->disposition |= AV_DISPOSITION_DEFAULT;
2048         if (track->flag_forced)
2049             st->disposition |= AV_DISPOSITION_FORCED;
2050
2051         if (!st->codec->extradata) {
2052             if (extradata) {
2053                 st->codec->extradata      = extradata;
2054                 st->codec->extradata_size = extradata_size;
2055             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2056                 if (ff_alloc_extradata(st->codec, track->codec_priv.size))
2057                     return AVERROR(ENOMEM);
2058                 memcpy(st->codec->extradata,
2059                        track->codec_priv.data + extradata_offset,
2060                        track->codec_priv.size);
2061             }
2062         }
2063
2064         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2065             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2066             int display_width_mul = 1;
2067             int display_height_mul = 1;
2068
2069             st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
2070             st->codec->codec_tag  = fourcc;
2071             if (bit_depth >= 0)
2072                 st->codec->bits_per_coded_sample = bit_depth;
2073             st->codec->width      = track->video.pixel_width;
2074             st->codec->height     = track->video.pixel_height;
2075
2076             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2077                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2078
2079             av_reduce(&st->sample_aspect_ratio.num,
2080                       &st->sample_aspect_ratio.den,
2081                       st->codec->height * track->video.display_width * display_width_mul,
2082                       st->codec->width  * track->video.display_height * display_height_mul,
2083                       255);
2084             if (st->codec->codec_id != AV_CODEC_ID_HEVC)
2085                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2086
2087             if (track->default_duration) {
2088                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2089                           1000000000, track->default_duration, 30000);
2090 #if FF_API_R_FRAME_RATE
2091                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2092                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2093                     st->r_frame_rate = st->avg_frame_rate;
2094 #endif
2095             }
2096
2097             /* export stereo mode flag as metadata tag */
2098             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2099                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2100
2101             /* export alpha mode flag as metadata tag  */
2102             if (track->video.alpha_mode)
2103                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2104
2105             /* if we have virtual track, mark the real tracks */
2106             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2107                 char buf[32];
2108                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2109                     continue;
2110                 snprintf(buf, sizeof(buf), "%s_%d",
2111                          ff_matroska_video_stereo_plane[planes[j].type], i);
2112                 for (k=0; k < matroska->tracks.nb_elem; k++)
2113                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2114                         av_dict_set(&tracks[k].stream->metadata,
2115                                     "stereo_mode", buf, 0);
2116                         break;
2117                     }
2118             }
2119             // add stream level stereo3d side data if it is a supported format
2120             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2121                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2122                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2123                 if (ret < 0)
2124                     return ret;
2125             }
2126         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2127             st->codec->codec_type  = AVMEDIA_TYPE_AUDIO;
2128             st->codec->codec_tag   = fourcc;
2129             st->codec->sample_rate = track->audio.out_samplerate;
2130             st->codec->channels    = track->audio.channels;
2131             if (!st->codec->bits_per_coded_sample)
2132                 st->codec->bits_per_coded_sample = track->audio.bitdepth;
2133             if (st->codec->codec_id == AV_CODEC_ID_MP3)
2134                 st->need_parsing = AVSTREAM_PARSE_FULL;
2135             else if (st->codec->codec_id != AV_CODEC_ID_AAC)
2136                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2137             if (track->codec_delay > 0) {
2138                 st->codec->delay = av_rescale_q(track->codec_delay,
2139                                                 st->time_base,
2140                                                 (AVRational){1, st->codec->sample_rate});
2141             }
2142             if (track->seek_preroll > 0) {
2143                 av_codec_set_seek_preroll(st->codec,
2144                                           av_rescale_q(track->seek_preroll,
2145                                                        (AVRational){1, 1000000000},
2146                                                        (AVRational){1, st->codec->sample_rate}));
2147             }
2148         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2149             st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
2150
2151             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2152                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2153             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2154                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2155             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2156                 st->disposition |= AV_DISPOSITION_METADATA;
2157             }
2158         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2159             st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
2160             if (st->codec->codec_id == AV_CODEC_ID_ASS)
2161                 matroska->contains_ssa = 1;
2162         }
2163     }
2164
2165     return 0;
2166 }
2167
2168 static int matroska_read_header(AVFormatContext *s)
2169 {
2170     MatroskaDemuxContext *matroska = s->priv_data;
2171     EbmlList *attachments_list = &matroska->attachments;
2172     EbmlList *chapters_list    = &matroska->chapters;
2173     MatroskaAttachment *attachments;
2174     MatroskaChapter *chapters;
2175     uint64_t max_start = 0;
2176     int64_t pos;
2177     Ebml ebml = { 0 };
2178     int i, j, res;
2179
2180     matroska->ctx = s;
2181     matroska->cues_parsing_deferred = 1;
2182
2183     /* First read the EBML header. */
2184     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2185         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2186         ebml_free(ebml_syntax, &ebml);
2187         return AVERROR_INVALIDDATA;
2188     }
2189     if (ebml.version         > EBML_VERSION      ||
2190         ebml.max_size        > sizeof(uint64_t)  ||
2191         ebml.id_length       > sizeof(uint32_t)  ||
2192         ebml.doctype_version > 3) {
2193         av_log(matroska->ctx, AV_LOG_ERROR,
2194                "EBML header using unsupported features\n"
2195                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2196                ebml.version, ebml.doctype, ebml.doctype_version);
2197         ebml_free(ebml_syntax, &ebml);
2198         return AVERROR_PATCHWELCOME;
2199     } else if (ebml.doctype_version == 3) {
2200         av_log(matroska->ctx, AV_LOG_WARNING,
2201                "EBML header using unsupported features\n"
2202                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2203                ebml.version, ebml.doctype, ebml.doctype_version);
2204     }
2205     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2206         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2207             break;
2208     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2209         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2210         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2211             ebml_free(ebml_syntax, &ebml);
2212             return AVERROR_INVALIDDATA;
2213         }
2214     }
2215     ebml_free(ebml_syntax, &ebml);
2216
2217     /* The next thing is a segment. */
2218     pos = avio_tell(matroska->ctx->pb);
2219     res = ebml_parse(matroska, matroska_segments, matroska);
2220     // try resyncing until we find a EBML_STOP type element.
2221     while (res != 1) {
2222         res = matroska_resync(matroska, pos);
2223         if (res < 0)
2224             return res;
2225         pos = avio_tell(matroska->ctx->pb);
2226         res = ebml_parse(matroska, matroska_segment, matroska);
2227     }
2228     matroska_execute_seekhead(matroska);
2229
2230     if (!matroska->time_scale)
2231         matroska->time_scale = 1000000;
2232     if (matroska->duration)
2233         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2234                                   1000 / AV_TIME_BASE;
2235     av_dict_set(&s->metadata, "title", matroska->title, 0);
2236     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2237
2238     if (matroska->date_utc.size == 8)
2239         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2240
2241     res = matroska_parse_tracks(s);
2242     if (res < 0)
2243         return res;
2244
2245     attachments = attachments_list->elem;
2246     for (j = 0; j < attachments_list->nb_elem; j++) {
2247         if (!(attachments[j].filename && attachments[j].mime &&
2248               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2249             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2250         } else {
2251             AVStream *st = avformat_new_stream(s, NULL);
2252             if (!st)
2253                 break;
2254             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2255             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2256             st->codec->codec_id   = AV_CODEC_ID_NONE;
2257
2258             for (i = 0; ff_mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2259                 if (!strncmp(ff_mkv_image_mime_tags[i].str, attachments[j].mime,
2260                              strlen(ff_mkv_image_mime_tags[i].str))) {
2261                     st->codec->codec_id = ff_mkv_image_mime_tags[i].id;
2262                     break;
2263                 }
2264             }
2265
2266             attachments[j].stream = st;
2267
2268             if (st->codec->codec_id != AV_CODEC_ID_NONE) {
2269                 st->disposition      |= AV_DISPOSITION_ATTACHED_PIC;
2270                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
2271
2272                 av_init_packet(&st->attached_pic);
2273                 if ((res = av_new_packet(&st->attached_pic, attachments[j].bin.size)) < 0)
2274                     return res;
2275                 memcpy(st->attached_pic.data, attachments[j].bin.data, attachments[j].bin.size);
2276                 st->attached_pic.stream_index = st->index;
2277                 st->attached_pic.flags       |= AV_PKT_FLAG_KEY;
2278             } else {
2279                 st->codec->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2280                 if (ff_alloc_extradata(st->codec, attachments[j].bin.size))
2281                     break;
2282                 memcpy(st->codec->extradata, attachments[j].bin.data,
2283                        attachments[j].bin.size);
2284
2285                 for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2286                     if (!strncmp(ff_mkv_mime_tags[i].str, attachments[j].mime,
2287                                 strlen(ff_mkv_mime_tags[i].str))) {
2288                         st->codec->codec_id = ff_mkv_mime_tags[i].id;
2289                         break;
2290                     }
2291                 }
2292             }
2293         }
2294     }
2295
2296     chapters = chapters_list->elem;
2297     for (i = 0; i < chapters_list->nb_elem; i++)
2298         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2299             (max_start == 0 || chapters[i].start > max_start)) {
2300             chapters[i].chapter =
2301                 avpriv_new_chapter(s, chapters[i].uid,
2302                                    (AVRational) { 1, 1000000000 },
2303                                    chapters[i].start, chapters[i].end,
2304                                    chapters[i].title);
2305             if (chapters[i].chapter) {
2306                 av_dict_set(&chapters[i].chapter->metadata,
2307                             "title", chapters[i].title, 0);
2308             }
2309             max_start = chapters[i].start;
2310         }
2311
2312     matroska_add_index_entries(matroska);
2313
2314     matroska_convert_tags(s);
2315
2316     return 0;
2317 }
2318
2319 /*
2320  * Put one packet in an application-supplied AVPacket struct.
2321  * Returns 0 on success or -1 on failure.
2322  */
2323 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2324                                    AVPacket *pkt)
2325 {
2326     if (matroska->num_packets > 0) {
2327         memcpy(pkt, matroska->packets[0], sizeof(AVPacket));
2328         av_freep(&matroska->packets[0]);
2329         if (matroska->num_packets > 1) {
2330             void *newpackets;
2331             memmove(&matroska->packets[0], &matroska->packets[1],
2332                     (matroska->num_packets - 1) * sizeof(AVPacket *));
2333             newpackets = av_realloc(matroska->packets,
2334                                     (matroska->num_packets - 1) *
2335                                     sizeof(AVPacket *));
2336             if (newpackets)
2337                 matroska->packets = newpackets;
2338         } else {
2339             av_freep(&matroska->packets);
2340             matroska->prev_pkt = NULL;
2341         }
2342         matroska->num_packets--;
2343         return 0;
2344     }
2345
2346     return -1;
2347 }
2348
2349 /*
2350  * Free all packets in our internal queue.
2351  */
2352 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
2353 {
2354     matroska->prev_pkt = NULL;
2355     if (matroska->packets) {
2356         int n;
2357         for (n = 0; n < matroska->num_packets; n++) {
2358             av_packet_unref(matroska->packets[n]);
2359             av_freep(&matroska->packets[n]);
2360         }
2361         av_freep(&matroska->packets);
2362         matroska->num_packets = 0;
2363     }
2364 }
2365
2366 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
2367                                 int *buf_size, int type,
2368                                 uint32_t **lace_buf, int *laces)
2369 {
2370     int res = 0, n, size = *buf_size;
2371     uint8_t *data = *buf;
2372     uint32_t *lace_size;
2373
2374     if (!type) {
2375         *laces    = 1;
2376         *lace_buf = av_mallocz(sizeof(int));
2377         if (!*lace_buf)
2378             return AVERROR(ENOMEM);
2379
2380         *lace_buf[0] = size;
2381         return 0;
2382     }
2383
2384     av_assert0(size > 0);
2385     *laces    = *data + 1;
2386     data     += 1;
2387     size     -= 1;
2388     lace_size = av_mallocz(*laces * sizeof(int));
2389     if (!lace_size)
2390         return AVERROR(ENOMEM);
2391
2392     switch (type) {
2393     case 0x1: /* Xiph lacing */
2394     {
2395         uint8_t temp;
2396         uint32_t total = 0;
2397         for (n = 0; res == 0 && n < *laces - 1; n++) {
2398             while (1) {
2399                 if (size <= total) {
2400                     res = AVERROR_INVALIDDATA;
2401                     break;
2402                 }
2403                 temp          = *data;
2404                 total        += temp;
2405                 lace_size[n] += temp;
2406                 data         += 1;
2407                 size         -= 1;
2408                 if (temp != 0xff)
2409                     break;
2410             }
2411         }
2412         if (size <= total) {
2413             res = AVERROR_INVALIDDATA;
2414             break;
2415         }
2416
2417         lace_size[n] = size - total;
2418         break;
2419     }
2420
2421     case 0x2: /* fixed-size lacing */
2422         if (size % (*laces)) {
2423             res = AVERROR_INVALIDDATA;
2424             break;
2425         }
2426         for (n = 0; n < *laces; n++)
2427             lace_size[n] = size / *laces;
2428         break;
2429
2430     case 0x3: /* EBML lacing */
2431     {
2432         uint64_t num;
2433         uint64_t total;
2434         n = matroska_ebmlnum_uint(matroska, data, size, &num);
2435         if (n < 0 || num > INT_MAX) {
2436             av_log(matroska->ctx, AV_LOG_INFO,
2437                    "EBML block data error\n");
2438             res = n<0 ? n : AVERROR_INVALIDDATA;
2439             break;
2440         }
2441         data += n;
2442         size -= n;
2443         total = lace_size[0] = num;
2444         for (n = 1; res == 0 && n < *laces - 1; n++) {
2445             int64_t snum;
2446             int r;
2447             r = matroska_ebmlnum_sint(matroska, data, size, &snum);
2448             if (r < 0 || lace_size[n - 1] + snum > (uint64_t)INT_MAX) {
2449                 av_log(matroska->ctx, AV_LOG_INFO,
2450                        "EBML block data error\n");
2451                 res = r<0 ? r : AVERROR_INVALIDDATA;
2452                 break;
2453             }
2454             data        += r;
2455             size        -= r;
2456             lace_size[n] = lace_size[n - 1] + snum;
2457             total       += lace_size[n];
2458         }
2459         if (size <= total) {
2460             res = AVERROR_INVALIDDATA;
2461             break;
2462         }
2463         lace_size[*laces - 1] = size - total;
2464         break;
2465     }
2466     }
2467
2468     *buf      = data;
2469     *lace_buf = lace_size;
2470     *buf_size = size;
2471
2472     return res;
2473 }
2474
2475 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
2476                                    MatroskaTrack *track, AVStream *st,
2477                                    uint8_t *data, int size, uint64_t timecode,
2478                                    int64_t pos)
2479 {
2480     int a = st->codec->block_align;
2481     int sps = track->audio.sub_packet_size;
2482     int cfs = track->audio.coded_framesize;
2483     int h   = track->audio.sub_packet_h;
2484     int y   = track->audio.sub_packet_cnt;
2485     int w   = track->audio.frame_size;
2486     int x;
2487
2488     if (!track->audio.pkt_cnt) {
2489         if (track->audio.sub_packet_cnt == 0)
2490             track->audio.buf_timecode = timecode;
2491         if (st->codec->codec_id == AV_CODEC_ID_RA_288) {
2492             if (size < cfs * h / 2) {
2493                 av_log(matroska->ctx, AV_LOG_ERROR,
2494                        "Corrupt int4 RM-style audio packet size\n");
2495                 return AVERROR_INVALIDDATA;
2496             }
2497             for (x = 0; x < h / 2; x++)
2498                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
2499                        data + x * cfs, cfs);
2500         } else if (st->codec->codec_id == AV_CODEC_ID_SIPR) {
2501             if (size < w) {
2502                 av_log(matroska->ctx, AV_LOG_ERROR,
2503                        "Corrupt sipr RM-style audio packet size\n");
2504                 return AVERROR_INVALIDDATA;
2505             }
2506             memcpy(track->audio.buf + y * w, data, w);
2507         } else {
2508             if (size < sps * w / sps || h<=0 || w%sps) {
2509                 av_log(matroska->ctx, AV_LOG_ERROR,
2510                        "Corrupt generic RM-style audio packet size\n");
2511                 return AVERROR_INVALIDDATA;
2512             }
2513             for (x = 0; x < w / sps; x++)
2514                 memcpy(track->audio.buf +
2515                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
2516                        data + x * sps, sps);
2517         }
2518
2519         if (++track->audio.sub_packet_cnt >= h) {
2520             if (st->codec->codec_id == AV_CODEC_ID_SIPR)
2521                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
2522             track->audio.sub_packet_cnt = 0;
2523             track->audio.pkt_cnt        = h * w / a;
2524         }
2525     }
2526
2527     while (track->audio.pkt_cnt) {
2528         int ret;
2529         AVPacket *pkt = av_mallocz(sizeof(AVPacket));
2530         if (!pkt)
2531             return AVERROR(ENOMEM);
2532
2533         ret = av_new_packet(pkt, a);
2534         if (ret < 0) {
2535             av_free(pkt);
2536             return ret;
2537         }
2538         memcpy(pkt->data,
2539                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
2540                a);
2541         pkt->pts                  = track->audio.buf_timecode;
2542         track->audio.buf_timecode = AV_NOPTS_VALUE;
2543         pkt->pos                  = pos;
2544         pkt->stream_index         = st->index;
2545         dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2546     }
2547
2548     return 0;
2549 }
2550
2551 /* reconstruct full wavpack blocks from mangled matroska ones */
2552 static int matroska_parse_wavpack(MatroskaTrack *track, uint8_t *src,
2553                                   uint8_t **pdst, int *size)
2554 {
2555     uint8_t *dst = NULL;
2556     int dstlen   = 0;
2557     int srclen   = *size;
2558     uint32_t samples;
2559     uint16_t ver;
2560     int ret, offset = 0;
2561
2562     if (srclen < 12 || track->stream->codec->extradata_size < 2)
2563         return AVERROR_INVALIDDATA;
2564
2565     ver = AV_RL16(track->stream->codec->extradata);
2566
2567     samples = AV_RL32(src);
2568     src    += 4;
2569     srclen -= 4;
2570
2571     while (srclen >= 8) {
2572         int multiblock;
2573         uint32_t blocksize;
2574         uint8_t *tmp;
2575
2576         uint32_t flags = AV_RL32(src);
2577         uint32_t crc   = AV_RL32(src + 4);
2578         src    += 8;
2579         srclen -= 8;
2580
2581         multiblock = (flags & 0x1800) != 0x1800;
2582         if (multiblock) {
2583             if (srclen < 4) {
2584                 ret = AVERROR_INVALIDDATA;
2585                 goto fail;
2586             }
2587             blocksize = AV_RL32(src);
2588             src      += 4;
2589             srclen   -= 4;
2590         } else
2591             blocksize = srclen;
2592
2593         if (blocksize > srclen) {
2594             ret = AVERROR_INVALIDDATA;
2595             goto fail;
2596         }
2597
2598         tmp = av_realloc(dst, dstlen + blocksize + 32);
2599         if (!tmp) {
2600             ret = AVERROR(ENOMEM);
2601             goto fail;
2602         }
2603         dst     = tmp;
2604         dstlen += blocksize + 32;
2605
2606         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
2607         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
2608         AV_WL16(dst + offset +  8, ver);                    // version
2609         AV_WL16(dst + offset + 10, 0);                      // track/index_no
2610         AV_WL32(dst + offset + 12, 0);                      // total samples
2611         AV_WL32(dst + offset + 16, 0);                      // block index
2612         AV_WL32(dst + offset + 20, samples);                // number of samples
2613         AV_WL32(dst + offset + 24, flags);                  // flags
2614         AV_WL32(dst + offset + 28, crc);                    // crc
2615         memcpy(dst + offset + 32, src, blocksize);          // block data
2616
2617         src    += blocksize;
2618         srclen -= blocksize;
2619         offset += blocksize + 32;
2620     }
2621
2622     *pdst = dst;
2623     *size = dstlen;
2624
2625     return 0;
2626
2627 fail:
2628     av_freep(&dst);
2629     return ret;
2630 }
2631
2632 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
2633                                  MatroskaTrack *track,
2634                                  AVStream *st,
2635                                  uint8_t *data, int data_len,
2636                                  uint64_t timecode,
2637                                  uint64_t duration,
2638                                  int64_t pos)
2639 {
2640     AVPacket *pkt;
2641     uint8_t *id, *settings, *text, *buf;
2642     int id_len, settings_len, text_len;
2643     uint8_t *p, *q;
2644     int err;
2645
2646     if (data_len <= 0)
2647         return AVERROR_INVALIDDATA;
2648
2649     p = data;
2650     q = data + data_len;
2651
2652     id = p;
2653     id_len = -1;
2654     while (p < q) {
2655         if (*p == '\r' || *p == '\n') {
2656             id_len = p - id;
2657             if (*p == '\r')
2658                 p++;
2659             break;
2660         }
2661         p++;
2662     }
2663
2664     if (p >= q || *p != '\n')
2665         return AVERROR_INVALIDDATA;
2666     p++;
2667
2668     settings = p;
2669     settings_len = -1;
2670     while (p < q) {
2671         if (*p == '\r' || *p == '\n') {
2672             settings_len = p - settings;
2673             if (*p == '\r')
2674                 p++;
2675             break;
2676         }
2677         p++;
2678     }
2679
2680     if (p >= q || *p != '\n')
2681         return AVERROR_INVALIDDATA;
2682     p++;
2683
2684     text = p;
2685     text_len = q - p;
2686     while (text_len > 0) {
2687         const int len = text_len - 1;
2688         const uint8_t c = p[len];
2689         if (c != '\r' && c != '\n')
2690             break;
2691         text_len = len;
2692     }
2693
2694     if (text_len <= 0)
2695         return AVERROR_INVALIDDATA;
2696
2697     pkt = av_mallocz(sizeof(*pkt));
2698     if (!pkt)
2699         return AVERROR(ENOMEM);
2700     err = av_new_packet(pkt, text_len);
2701     if (err < 0) {
2702         av_free(pkt);
2703         return AVERROR(err);
2704     }
2705
2706     memcpy(pkt->data, text, text_len);
2707
2708     if (id_len > 0) {
2709         buf = av_packet_new_side_data(pkt,
2710                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
2711                                       id_len);
2712         if (!buf) {
2713             av_free(pkt);
2714             return AVERROR(ENOMEM);
2715         }
2716         memcpy(buf, id, id_len);
2717     }
2718
2719     if (settings_len > 0) {
2720         buf = av_packet_new_side_data(pkt,
2721                                       AV_PKT_DATA_WEBVTT_SETTINGS,
2722                                       settings_len);
2723         if (!buf) {
2724             av_free(pkt);
2725             return AVERROR(ENOMEM);
2726         }
2727         memcpy(buf, settings, settings_len);
2728     }
2729
2730     // Do we need this for subtitles?
2731     // pkt->flags = AV_PKT_FLAG_KEY;
2732
2733     pkt->stream_index = st->index;
2734     pkt->pts = timecode;
2735
2736     // Do we need this for subtitles?
2737     // pkt->dts = timecode;
2738
2739     pkt->duration = duration;
2740     pkt->pos = pos;
2741
2742     dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2743     matroska->prev_pkt = pkt;
2744
2745     return 0;
2746 }
2747
2748 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
2749                                 MatroskaTrack *track, AVStream *st,
2750                                 uint8_t *data, int pkt_size,
2751                                 uint64_t timecode, uint64_t lace_duration,
2752                                 int64_t pos, int is_keyframe,
2753                                 uint8_t *additional, uint64_t additional_id, int additional_size,
2754                                 int64_t discard_padding)
2755 {
2756     MatroskaTrackEncoding *encodings = track->encodings.elem;
2757     uint8_t *pkt_data = data;
2758     int offset = 0, res;
2759     AVPacket *pkt;
2760
2761     if (encodings && !encodings->type && encodings->scope & 1) {
2762         res = matroska_decode_buffer(&pkt_data, &pkt_size, track);
2763         if (res < 0)
2764             return res;
2765     }
2766
2767     if (st->codec->codec_id == AV_CODEC_ID_WAVPACK) {
2768         uint8_t *wv_data;
2769         res = matroska_parse_wavpack(track, pkt_data, &wv_data, &pkt_size);
2770         if (res < 0) {
2771             av_log(matroska->ctx, AV_LOG_ERROR,
2772                    "Error parsing a wavpack block.\n");
2773             goto fail;
2774         }
2775         if (pkt_data != data)
2776             av_freep(&pkt_data);
2777         pkt_data = wv_data;
2778     }
2779
2780     if (st->codec->codec_id == AV_CODEC_ID_PRORES &&
2781         AV_RB32(&data[4]) != MKBETAG('i', 'c', 'p', 'f'))
2782         offset = 8;
2783
2784     pkt = av_mallocz(sizeof(AVPacket));
2785     if (!pkt) {
2786         if (pkt_data != data)
2787             av_freep(&pkt_data);
2788         return AVERROR(ENOMEM);
2789     }
2790     /* XXX: prevent data copy... */
2791     if (av_new_packet(pkt, pkt_size + offset) < 0) {
2792         av_free(pkt);
2793         res = AVERROR(ENOMEM);
2794         goto fail;
2795     }
2796
2797     if (st->codec->codec_id == AV_CODEC_ID_PRORES && offset == 8) {
2798         uint8_t *buf = pkt->data;
2799         bytestream_put_be32(&buf, pkt_size);
2800         bytestream_put_be32(&buf, MKBETAG('i', 'c', 'p', 'f'));
2801     }
2802
2803     memcpy(pkt->data + offset, pkt_data, pkt_size);
2804
2805     if (pkt_data != data)
2806         av_freep(&pkt_data);
2807
2808     pkt->flags        = is_keyframe;
2809     pkt->stream_index = st->index;
2810
2811     if (additional_size > 0) {
2812         uint8_t *side_data = av_packet_new_side_data(pkt,
2813                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
2814                                                      additional_size + 8);
2815         if (!side_data) {
2816             av_packet_unref(pkt);
2817             av_free(pkt);
2818             return AVERROR(ENOMEM);
2819         }
2820         AV_WB64(side_data, additional_id);
2821         memcpy(side_data + 8, additional, additional_size);
2822     }
2823
2824     if (discard_padding) {
2825         uint8_t *side_data = av_packet_new_side_data(pkt,
2826                                                      AV_PKT_DATA_SKIP_SAMPLES,
2827                                                      10);
2828         if (!side_data) {
2829             av_packet_unref(pkt);
2830             av_free(pkt);
2831             return AVERROR(ENOMEM);
2832         }
2833         AV_WL32(side_data, 0);
2834         AV_WL32(side_data + 4, av_rescale_q(discard_padding,
2835                                             (AVRational){1, 1000000000},
2836                                             (AVRational){1, st->codec->sample_rate}));
2837     }
2838
2839     if (track->ms_compat)
2840         pkt->dts = timecode;
2841     else
2842         pkt->pts = timecode;
2843     pkt->pos = pos;
2844     pkt->duration = lace_duration;
2845
2846 #if FF_API_CONVERGENCE_DURATION
2847 FF_DISABLE_DEPRECATION_WARNINGS
2848     if (st->codec->codec_id == AV_CODEC_ID_SUBRIP) {
2849         pkt->convergence_duration = lace_duration;
2850     }
2851 FF_ENABLE_DEPRECATION_WARNINGS
2852 #endif
2853
2854     dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2855     matroska->prev_pkt = pkt;
2856
2857     return 0;
2858
2859 fail:
2860     if (pkt_data != data)
2861         av_freep(&pkt_data);
2862     return res;
2863 }
2864
2865 static int matroska_parse_block(MatroskaDemuxContext *matroska, uint8_t *data,
2866                                 int size, int64_t pos, uint64_t cluster_time,
2867                                 uint64_t block_duration, int is_keyframe,
2868                                 uint8_t *additional, uint64_t additional_id, int additional_size,
2869                                 int64_t cluster_pos, int64_t discard_padding)
2870 {
2871     uint64_t timecode = AV_NOPTS_VALUE;
2872     MatroskaTrack *track;
2873     int res = 0;
2874     AVStream *st;
2875     int16_t block_time;
2876     uint32_t *lace_size = NULL;
2877     int n, flags, laces = 0;
2878     uint64_t num;
2879     int trust_default_duration = 1;
2880
2881     if ((n = matroska_ebmlnum_uint(matroska, data, size, &num)) < 0) {
2882         av_log(matroska->ctx, AV_LOG_ERROR, "EBML block data error\n");
2883         return n;
2884     }
2885     data += n;
2886     size -= n;
2887
2888     track = matroska_find_track_by_num(matroska, num);
2889     if (!track || !track->stream) {
2890         av_log(matroska->ctx, AV_LOG_INFO,
2891                "Invalid stream %"PRIu64" or size %u\n", num, size);
2892         return AVERROR_INVALIDDATA;
2893     } else if (size <= 3)
2894         return 0;
2895     st = track->stream;
2896     if (st->discard >= AVDISCARD_ALL)
2897         return res;
2898     av_assert1(block_duration != AV_NOPTS_VALUE);
2899
2900     block_time = sign_extend(AV_RB16(data), 16);
2901     data      += 2;
2902     flags      = *data++;
2903     size      -= 3;
2904     if (is_keyframe == -1)
2905         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
2906
2907     if (cluster_time != (uint64_t) -1 &&
2908         (block_time >= 0 || cluster_time >= -block_time)) {
2909         timecode = cluster_time + block_time - track->codec_delay;
2910         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
2911             timecode < track->end_timecode)
2912             is_keyframe = 0;  /* overlapping subtitles are not key frame */
2913         if (is_keyframe)
2914             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
2915                                AVINDEX_KEYFRAME);
2916     }
2917
2918     if (matroska->skip_to_keyframe &&
2919         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
2920         if (timecode < matroska->skip_to_timecode)
2921             return res;
2922         if (is_keyframe)
2923             matroska->skip_to_keyframe = 0;
2924         else if (!st->skip_to_keyframe) {
2925             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
2926             matroska->skip_to_keyframe = 0;
2927         }
2928     }
2929
2930     res = matroska_parse_laces(matroska, &data, &size, (flags & 0x06) >> 1,
2931                                &lace_size, &laces);
2932
2933     if (res)
2934         goto end;
2935
2936     if (track->audio.samplerate == 8000) {
2937         // If this is needed for more codecs, then add them here
2938         if (st->codec->codec_id == AV_CODEC_ID_AC3) {
2939             if (track->audio.samplerate != st->codec->sample_rate || !st->codec->frame_size)
2940                 trust_default_duration = 0;
2941         }
2942     }
2943
2944     if (!block_duration && trust_default_duration)
2945         block_duration = track->default_duration * laces / matroska->time_scale;
2946
2947     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
2948         track->end_timecode =
2949             FFMAX(track->end_timecode, timecode + block_duration);
2950
2951     for (n = 0; n < laces; n++) {
2952         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
2953
2954         if (lace_size[n] > size) {
2955             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid packet size\n");
2956             break;
2957         }
2958
2959         if ((st->codec->codec_id == AV_CODEC_ID_RA_288 ||
2960              st->codec->codec_id == AV_CODEC_ID_COOK   ||
2961              st->codec->codec_id == AV_CODEC_ID_SIPR   ||
2962              st->codec->codec_id == AV_CODEC_ID_ATRAC3) &&
2963             st->codec->block_align && track->audio.sub_packet_size) {
2964             res = matroska_parse_rm_audio(matroska, track, st, data,
2965                                           lace_size[n],
2966                                           timecode, pos);
2967             if (res)
2968                 goto end;
2969
2970         } else if (st->codec->codec_id == AV_CODEC_ID_WEBVTT) {
2971             res = matroska_parse_webvtt(matroska, track, st,
2972                                         data, lace_size[n],
2973                                         timecode, lace_duration,
2974                                         pos);
2975             if (res)
2976                 goto end;
2977         } else {
2978             res = matroska_parse_frame(matroska, track, st, data, lace_size[n],
2979                                        timecode, lace_duration, pos,
2980                                        !n ? is_keyframe : 0,
2981                                        additional, additional_id, additional_size,
2982                                        discard_padding);
2983             if (res)
2984                 goto end;
2985         }
2986
2987         if (timecode != AV_NOPTS_VALUE)
2988             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
2989         data += lace_size[n];
2990         size -= lace_size[n];
2991     }
2992
2993 end:
2994     av_free(lace_size);
2995     return res;
2996 }
2997
2998 static int matroska_parse_cluster_incremental(MatroskaDemuxContext *matroska)
2999 {
3000     EbmlList *blocks_list;
3001     MatroskaBlock *blocks;
3002     int i, res;
3003     res = ebml_parse(matroska,
3004                      matroska_cluster_incremental_parsing,
3005                      &matroska->current_cluster);
3006     if (res == 1) {
3007         /* New Cluster */
3008         if (matroska->current_cluster_pos)
3009             ebml_level_end(matroska);
3010         ebml_free(matroska_cluster, &matroska->current_cluster);
3011         memset(&matroska->current_cluster, 0, sizeof(MatroskaCluster));
3012         matroska->current_cluster_num_blocks = 0;
3013         matroska->current_cluster_pos        = avio_tell(matroska->ctx->pb);
3014         matroska->prev_pkt                   = NULL;
3015         /* sizeof the ID which was already read */
3016         if (matroska->current_id)
3017             matroska->current_cluster_pos -= 4;
3018         res = ebml_parse(matroska,
3019                          matroska_clusters_incremental,
3020                          &matroska->current_cluster);
3021         /* Try parsing the block again. */
3022         if (res == 1)
3023             res = ebml_parse(matroska,
3024                              matroska_cluster_incremental_parsing,
3025                              &matroska->current_cluster);
3026     }
3027
3028     if (!res &&
3029         matroska->current_cluster_num_blocks <
3030         matroska->current_cluster.blocks.nb_elem) {
3031         blocks_list = &matroska->current_cluster.blocks;
3032         blocks      = blocks_list->elem;
3033
3034         matroska->current_cluster_num_blocks = blocks_list->nb_elem;
3035         i                                    = blocks_list->nb_elem - 1;
3036         if (blocks[i].bin.size > 0 && blocks[i].bin.data) {
3037             int is_keyframe = blocks[i].non_simple ? !blocks[i].reference : -1;
3038             uint8_t* additional = blocks[i].additional.size > 0 ?
3039                                     blocks[i].additional.data : NULL;
3040             if (!blocks[i].non_simple)
3041                 blocks[i].duration = 0;
3042             res = matroska_parse_block(matroska, blocks[i].bin.data,
3043                                        blocks[i].bin.size, blocks[i].bin.pos,
3044                                        matroska->current_cluster.timecode,
3045                                        blocks[i].duration, is_keyframe,
3046                                        additional, blocks[i].additional_id,
3047                                        blocks[i].additional.size,
3048                                        matroska->current_cluster_pos,
3049                                        blocks[i].discard_padding);
3050         }
3051     }
3052
3053     return res;
3054 }
3055
3056 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3057 {
3058     MatroskaCluster cluster = { 0 };
3059     EbmlList *blocks_list;
3060     MatroskaBlock *blocks;
3061     int i, res;
3062     int64_t pos;
3063
3064     if (!matroska->contains_ssa)
3065         return matroska_parse_cluster_incremental(matroska);
3066     pos = avio_tell(matroska->ctx->pb);
3067     matroska->prev_pkt = NULL;
3068     if (matroska->current_id)
3069         pos -= 4;  /* sizeof the ID which was already read */
3070     res         = ebml_parse(matroska, matroska_clusters, &cluster);
3071     blocks_list = &cluster.blocks;
3072     blocks      = blocks_list->elem;
3073     for (i = 0; i < blocks_list->nb_elem; i++)
3074         if (blocks[i].bin.size > 0 && blocks[i].bin.data) {
3075             int is_keyframe = blocks[i].non_simple ? !blocks[i].reference : -1;
3076             res = matroska_parse_block(matroska, blocks[i].bin.data,
3077                                        blocks[i].bin.size, blocks[i].bin.pos,
3078                                        cluster.timecode, blocks[i].duration,
3079                                        is_keyframe, NULL, 0, 0, pos,
3080                                        blocks[i].discard_padding);
3081         }
3082     ebml_free(matroska_cluster, &cluster);
3083     return res;
3084 }
3085
3086 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3087 {
3088     MatroskaDemuxContext *matroska = s->priv_data;
3089
3090     while (matroska_deliver_packet(matroska, pkt)) {
3091         int64_t pos = avio_tell(matroska->ctx->pb);
3092         if (matroska->done)
3093             return AVERROR_EOF;
3094         if (matroska_parse_cluster(matroska) < 0)
3095             matroska_resync(matroska, pos);
3096     }
3097
3098     return 0;
3099 }
3100
3101 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3102                               int64_t timestamp, int flags)
3103 {
3104     MatroskaDemuxContext *matroska = s->priv_data;
3105     MatroskaTrack *tracks = NULL;
3106     AVStream *st = s->streams[stream_index];
3107     int i, index, index_sub, index_min;
3108
3109     /* Parse the CUES now since we need the index data to seek. */
3110     if (matroska->cues_parsing_deferred > 0) {
3111         matroska->cues_parsing_deferred = 0;
3112         matroska_parse_cues(matroska);
3113     }
3114
3115     if (!st->nb_index_entries)
3116         goto err;
3117     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3118
3119     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3120         avio_seek(s->pb, st->index_entries[st->nb_index_entries - 1].pos,
3121                   SEEK_SET);
3122         matroska->current_id = 0;
3123         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3124             matroska_clear_queue(matroska);
3125             if (matroska_parse_cluster(matroska) < 0)
3126                 break;
3127         }
3128     }
3129
3130     matroska_clear_queue(matroska);
3131     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3132         goto err;
3133
3134     index_min = index;
3135     tracks = matroska->tracks.elem;
3136     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3137         tracks[i].audio.pkt_cnt        = 0;
3138         tracks[i].audio.sub_packet_cnt = 0;
3139         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3140         tracks[i].end_timecode         = 0;
3141         if (tracks[i].type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3142             tracks[i].stream &&
3143             tracks[i].stream->discard != AVDISCARD_ALL) {
3144             index_sub = av_index_search_timestamp(
3145                 tracks[i].stream, st->index_entries[index].timestamp,
3146                 AVSEEK_FLAG_BACKWARD);
3147             while (index_sub >= 0 &&
3148                   index_min > 0 &&
3149                   tracks[i].stream->index_entries[index_sub].pos < st->index_entries[index_min].pos &&
3150                   st->index_entries[index].timestamp - tracks[i].stream->index_entries[index_sub].timestamp < 30000000000 / matroska->time_scale)
3151                 index_min--;
3152         }
3153     }
3154
3155     avio_seek(s->pb, st->index_entries[index_min].pos, SEEK_SET);
3156     matroska->current_id       = 0;
3157     if (flags & AVSEEK_FLAG_ANY) {
3158         st->skip_to_keyframe = 0;
3159         matroska->skip_to_timecode = timestamp;
3160     } else {
3161         st->skip_to_keyframe = 1;
3162         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3163     }
3164     matroska->skip_to_keyframe = 1;
3165     matroska->done             = 0;
3166     matroska->num_levels       = 0;
3167     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3168     return 0;
3169 err:
3170     // slightly hackish but allows proper fallback to
3171     // the generic seeking code.
3172     matroska_clear_queue(matroska);
3173     matroska->current_id = 0;
3174     st->skip_to_keyframe =
3175     matroska->skip_to_keyframe = 0;
3176     matroska->done = 0;
3177     matroska->num_levels = 0;
3178     return -1;
3179 }
3180
3181 static int matroska_read_close(AVFormatContext *s)
3182 {
3183     MatroskaDemuxContext *matroska = s->priv_data;
3184     MatroskaTrack *tracks = matroska->tracks.elem;
3185     int n;
3186
3187     matroska_clear_queue(matroska);
3188
3189     for (n = 0; n < matroska->tracks.nb_elem; n++)
3190         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3191             av_freep(&tracks[n].audio.buf);
3192     ebml_free(matroska_cluster, &matroska->current_cluster);
3193     ebml_free(matroska_segment, matroska);
3194
3195     return 0;
3196 }
3197
3198 typedef struct {
3199     int64_t start_time_ns;
3200     int64_t end_time_ns;
3201     int64_t start_offset;
3202     int64_t end_offset;
3203 } CueDesc;
3204
3205 /* This function searches all the Cues and returns the CueDesc corresponding the
3206  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3207  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3208  */
3209 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3210     MatroskaDemuxContext *matroska = s->priv_data;
3211     CueDesc cue_desc;
3212     int i;
3213     int nb_index_entries = s->streams[0]->nb_index_entries;
3214     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3215     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3216     for (i = 1; i < nb_index_entries; i++) {
3217         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3218             index_entries[i].timestamp * matroska->time_scale > ts) {
3219             break;
3220         }
3221     }
3222     --i;
3223     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3224     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3225     if (i != nb_index_entries - 1) {
3226         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3227         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3228     } else {
3229         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3230         // FIXME: this needs special handling for files where Cues appear
3231         // before Clusters. the current logic assumes Cues appear after
3232         // Clusters.
3233         cue_desc.end_offset = cues_start - matroska->segment_start;
3234     }
3235     return cue_desc;
3236 }
3237
3238 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3239 {
3240     MatroskaDemuxContext *matroska = s->priv_data;
3241     int64_t cluster_pos, before_pos;
3242     int index, rv = 1;
3243     if (s->streams[0]->nb_index_entries <= 0) return 0;
3244     // seek to the first cluster using cues.
3245     index = av_index_search_timestamp(s->streams[0], 0, 0);
3246     if (index < 0)  return 0;
3247     cluster_pos = s->streams[0]->index_entries[index].pos;
3248     before_pos = avio_tell(s->pb);
3249     while (1) {
3250         int64_t cluster_id = 0, cluster_length = 0;
3251         AVPacket *pkt;
3252         avio_seek(s->pb, cluster_pos, SEEK_SET);
3253         // read cluster id and length
3254         ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id);
3255         ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3256         if (cluster_id != 0xF43B675) { // done with all clusters
3257             break;
3258         }
3259         avio_seek(s->pb, cluster_pos, SEEK_SET);
3260         matroska->current_id = 0;
3261         matroska_clear_queue(matroska);
3262         if (matroska_parse_cluster(matroska) < 0 ||
3263             matroska->num_packets <= 0) {
3264             break;
3265         }
3266         pkt = matroska->packets[0];
3267         cluster_pos += cluster_length + 12; // 12 is the offset of the cluster id and length.
3268         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3269             rv = 0;
3270             break;
3271         }
3272     }
3273     avio_seek(s->pb, before_pos, SEEK_SET);
3274     return rv;
3275 }
3276
3277 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3278                                              double min_buffer, double* buffer,
3279                                              double* sec_to_download, AVFormatContext *s,
3280                                              int64_t cues_start)
3281 {
3282     double nano_seconds_per_second = 1000000000.0;
3283     double time_sec = time_ns / nano_seconds_per_second;
3284     int rv = 0;
3285     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3286     int64_t end_time_ns = time_ns + time_to_search_ns;
3287     double sec_downloaded = 0.0;
3288     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3289     if (desc_curr.start_time_ns == -1)
3290       return -1;
3291     *sec_to_download = 0.0;
3292
3293     // Check for non cue start time.
3294     if (time_ns > desc_curr.start_time_ns) {
3295       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3296       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3297       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3298       double timeToDownload = (cueBytes * 8.0) / bps;
3299
3300       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3301       *sec_to_download += timeToDownload;
3302
3303       // Check if the search ends within the first cue.
3304       if (desc_curr.end_time_ns >= end_time_ns) {
3305           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3306           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3307           sec_downloaded = percent_to_sub * sec_downloaded;
3308           *sec_to_download = percent_to_sub * *sec_to_download;
3309       }
3310
3311       if ((sec_downloaded + *buffer) <= min_buffer) {
3312           return 1;
3313       }
3314
3315       // Get the next Cue.
3316       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3317     }
3318
3319     while (desc_curr.start_time_ns != -1) {
3320         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3321         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3322         double desc_sec = desc_ns / nano_seconds_per_second;
3323         double bits = (desc_bytes * 8.0);
3324         double time_to_download = bits / bps;
3325
3326         sec_downloaded += desc_sec - time_to_download;
3327         *sec_to_download += time_to_download;
3328
3329         if (desc_curr.end_time_ns >= end_time_ns) {
3330             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3331             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3332             sec_downloaded = percent_to_sub * sec_downloaded;
3333             *sec_to_download = percent_to_sub * *sec_to_download;
3334
3335             if ((sec_downloaded + *buffer) <= min_buffer)
3336                 rv = 1;
3337             break;
3338         }
3339
3340         if ((sec_downloaded + *buffer) <= min_buffer) {
3341             rv = 1;
3342             break;
3343         }
3344
3345         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3346     }
3347     *buffer = *buffer + sec_downloaded;
3348     return rv;
3349 }
3350
3351 /* This function computes the bandwidth of the WebM file with the help of
3352  * buffer_size_after_time_downloaded() function. Both of these functions are
3353  * adapted from WebM Tools project and are adapted to work with FFmpeg's
3354  * Matroska parsing mechanism.
3355  *
3356  * Returns the bandwidth of the file on success; -1 on error.
3357  * */
3358 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
3359 {
3360     MatroskaDemuxContext *matroska = s->priv_data;
3361     AVStream *st = s->streams[0];
3362     double bandwidth = 0.0;
3363     int i;
3364
3365     for (i = 0; i < st->nb_index_entries; i++) {
3366         int64_t prebuffer_ns = 1000000000;
3367         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
3368         double nano_seconds_per_second = 1000000000.0;
3369         int64_t prebuffered_ns = time_ns + prebuffer_ns;
3370         double prebuffer_bytes = 0.0;
3371         int64_t temp_prebuffer_ns = prebuffer_ns;
3372         int64_t pre_bytes, pre_ns;
3373         double pre_sec, prebuffer, bits_per_second;
3374         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
3375
3376         // Start with the first Cue.
3377         CueDesc desc_end = desc_beg;
3378
3379         // Figure out how much data we have downloaded for the prebuffer. This will
3380         // be used later to adjust the bits per sample to try.
3381         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
3382             // Prebuffered the entire Cue.
3383             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
3384             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
3385             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3386         }
3387         if (desc_end.start_time_ns == -1) {
3388             // The prebuffer is larger than the duration.
3389             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
3390               return -1;
3391             bits_per_second = 0.0;
3392         } else {
3393             // The prebuffer ends in the last Cue. Estimate how much data was
3394             // prebuffered.
3395             pre_bytes = desc_end.end_offset - desc_end.start_offset;
3396             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
3397             pre_sec = pre_ns / nano_seconds_per_second;
3398             prebuffer_bytes +=
3399                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
3400
3401             prebuffer = prebuffer_ns / nano_seconds_per_second;
3402
3403             // Set this to 0.0 in case our prebuffer buffers the entire video.
3404             bits_per_second = 0.0;
3405             do {
3406                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
3407                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
3408                 double desc_sec = desc_ns / nano_seconds_per_second;
3409                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
3410
3411                 // Drop the bps by the percentage of bytes buffered.
3412                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
3413                 double mod_bits_per_second = calc_bits_per_second * percent;
3414
3415                 if (prebuffer < desc_sec) {
3416                     double search_sec =
3417                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
3418
3419                     // Add 1 so the bits per second should be a little bit greater than file
3420                     // datarate.
3421                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
3422                     const double min_buffer = 0.0;
3423                     double buffer = prebuffer;
3424                     double sec_to_download = 0.0;
3425
3426                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
3427                                                                min_buffer, &buffer, &sec_to_download,
3428                                                                s, cues_start);
3429                     if (rv < 0) {
3430                         return -1;
3431                     } else if (rv == 0) {
3432                         bits_per_second = (double)(bps);
3433                         break;
3434                     }
3435                 }
3436
3437                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3438             } while (desc_end.start_time_ns != -1);
3439         }
3440         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
3441     }
3442     return (int64_t)bandwidth;
3443 }
3444
3445 static int webm_dash_manifest_cues(AVFormatContext *s)
3446 {
3447     MatroskaDemuxContext *matroska = s->priv_data;
3448     EbmlList *seekhead_list = &matroska->seekhead;
3449     MatroskaSeekhead *seekhead = seekhead_list->elem;
3450     char *buf;
3451     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
3452     int i;
3453
3454     // determine cues start and end positions
3455     for (i = 0; i < seekhead_list->nb_elem; i++)
3456         if (seekhead[i].id == MATROSKA_ID_CUES)
3457             break;
3458
3459     if (i >= seekhead_list->nb_elem) return -1;
3460
3461     before_pos = avio_tell(matroska->ctx->pb);
3462     cues_start = seekhead[i].pos + matroska->segment_start;
3463     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
3464         // cues_end is computed as cues_start + cues_length + length of the
3465         // Cues element ID + EBML length of the Cues element. cues_end is
3466         // inclusive and the above sum is reduced by 1.
3467         uint64_t cues_length = 0, cues_id = 0, bytes_read = 0;
3468         bytes_read += ebml_read_num(matroska, matroska->ctx->pb, 4, &cues_id);
3469         bytes_read += ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
3470         cues_end = cues_start + cues_length + bytes_read - 1;
3471     }
3472     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
3473     if (cues_start == -1 || cues_end == -1) return -1;
3474
3475     // parse the cues
3476     matroska_parse_cues(matroska);
3477
3478     // cues start
3479     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
3480
3481     // cues end
3482     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
3483
3484     // bandwidth
3485     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
3486     if (bandwidth < 0) return -1;
3487     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
3488
3489     // check if all clusters start with key frames
3490     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
3491
3492     // store cue point timestamps as a comma separated list for checking subsegment alignment in
3493     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
3494     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20 * sizeof(char));
3495     if (!buf) return -1;
3496     strcpy(buf, "");
3497     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
3498         snprintf(buf, (i + 1) * 20 * sizeof(char),
3499                  "%s%" PRId64, buf, s->streams[0]->index_entries[i].timestamp);
3500         if (i != s->streams[0]->nb_index_entries - 1)
3501             strncat(buf, ",", sizeof(char));
3502     }
3503     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS, buf, 0);
3504     av_free(buf);
3505
3506     return 0;
3507 }
3508
3509 static int webm_dash_manifest_read_header(AVFormatContext *s)
3510 {
3511     char *buf;
3512     int ret = matroska_read_header(s);
3513     MatroskaTrack *tracks;
3514     MatroskaDemuxContext *matroska = s->priv_data;
3515     if (ret) {
3516         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
3517         return -1;
3518     }
3519
3520     if (!matroska->is_live) {
3521         buf = av_asprintf("%g", matroska->duration);
3522         if (!buf) return AVERROR(ENOMEM);
3523         av_dict_set(&s->streams[0]->metadata, DURATION, buf, 0);
3524         av_free(buf);
3525
3526         // initialization range
3527         // 5 is the offset of Cluster ID.
3528         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, avio_tell(s->pb) - 5, 0);
3529     }
3530
3531     // basename of the file
3532     buf = strrchr(s->filename, '/');
3533     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->filename, 0);
3534
3535     // track number
3536     tracks = matroska->tracks.elem;
3537     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
3538
3539     // parse the cues and populate Cue related fields
3540     return matroska->is_live ? 0 : webm_dash_manifest_cues(s);
3541 }
3542
3543 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
3544 {
3545     return AVERROR_EOF;
3546 }
3547
3548 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
3549 static const AVOption options[] = {
3550     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
3551     { NULL },
3552 };
3553
3554 static const AVClass webm_dash_class = {
3555     .class_name = "WebM DASH Manifest demuxer",
3556     .item_name  = av_default_item_name,
3557     .option     = options,
3558     .version    = LIBAVUTIL_VERSION_INT,
3559 };
3560
3561 AVInputFormat ff_matroska_demuxer = {
3562     .name           = "matroska,webm",
3563     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
3564     .extensions     = "mkv,mk3d,mka,mks",
3565     .priv_data_size = sizeof(MatroskaDemuxContext),
3566     .read_probe     = matroska_probe,
3567     .read_header    = matroska_read_header,
3568     .read_packet    = matroska_read_packet,
3569     .read_close     = matroska_read_close,
3570     .read_seek      = matroska_read_seek,
3571     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
3572 };
3573
3574 AVInputFormat ff_webm_dash_manifest_demuxer = {
3575     .name           = "webm_dash_manifest",
3576     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
3577     .priv_data_size = sizeof(MatroskaDemuxContext),
3578     .read_header    = webm_dash_manifest_read_header,
3579     .read_packet    = webm_dash_manifest_read_packet,
3580     .read_close     = matroska_read_close,
3581     .priv_class     = &webm_dash_class,
3582 };