]> git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c
avcodec/dvbsubdec: prefer to use variable instead of type for sizeof
[ffmpeg] / libavformat / matroskadec.c
1 /*
2  * Matroska file demuxer
3  * Copyright (c) 2003-2008 The FFmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Matroska file demuxer
25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
28  * @see specs available on the Matroska project page: http://www.matroska.org/
29  */
30
31 #include "config.h"
32
33 #include <inttypes.h>
34 #include <stdio.h>
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/base64.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lzo.h"
42 #include "libavutil/mastering_display_metadata.h"
43 #include "libavutil/mathematics.h"
44 #include "libavutil/opt.h"
45 #include "libavutil/time_internal.h"
46 #include "libavutil/spherical.h"
47
48 #include "libavcodec/bytestream.h"
49 #include "libavcodec/flac.h"
50 #include "libavcodec/mpeg4audio.h"
51
52 #include "avformat.h"
53 #include "avio_internal.h"
54 #include "internal.h"
55 #include "isom.h"
56 #include "matroska.h"
57 #include "oggdec.h"
58 /* For ff_codec_get_id(). */
59 #include "riff.h"
60 #include "rmsipr.h"
61
62 #if CONFIG_BZLIB
63 #include <bzlib.h>
64 #endif
65 #if CONFIG_ZLIB
66 #include <zlib.h>
67 #endif
68
69 #include "qtpalette.h"
70
71 #define EBML_UNKNOWN_LENGTH  UINT64_MAX /* EBML unknown length, in uint64_t */
72 #define NEEDS_CHECKING                2 /* Indicates that some error checks
73                                          * still need to be performed */
74 #define LEVEL_ENDED                   3 /* return value of ebml_parse when the
75                                          * syntax level used for parsing ended. */
76 #define SKIP_THRESHOLD      1024 * 1024 /* In non-seekable mode, if more than SKIP_THRESHOLD
77                                          * of unkown, potentially damaged data is encountered,
78                                          * it is considered an error. */
79 #define UNKNOWN_EQUIV         50 * 1024 /* An unknown element is considered equivalent
80                                          * to this many bytes of unknown data for the
81                                          * SKIP_THRESHOLD check. */
82
83 typedef enum {
84     EBML_NONE,
85     EBML_UINT,
86     EBML_SINT,
87     EBML_FLOAT,
88     EBML_STR,
89     EBML_UTF8,
90     EBML_BIN,
91     EBML_NEST,
92     EBML_LEVEL1,
93     EBML_STOP,
94     EBML_TYPE_COUNT
95 } EbmlType;
96
97 typedef const struct EbmlSyntax {
98     uint32_t id;
99     EbmlType type;
100     size_t list_elem_size;
101     size_t data_offset;
102     union {
103         int64_t     i;
104         uint64_t    u;
105         double      f;
106         const char *s;
107         const struct EbmlSyntax *n;
108     } def;
109 } EbmlSyntax;
110
111 typedef struct EbmlList {
112     int nb_elem;
113     unsigned int alloc_elem_size;
114     void *elem;
115 } EbmlList;
116
117 typedef struct EbmlBin {
118     int      size;
119     AVBufferRef *buf;
120     uint8_t *data;
121     int64_t  pos;
122 } EbmlBin;
123
124 typedef struct Ebml {
125     uint64_t version;
126     uint64_t max_size;
127     uint64_t id_length;
128     char    *doctype;
129     uint64_t doctype_version;
130 } Ebml;
131
132 typedef struct MatroskaTrackCompression {
133     uint64_t algo;
134     EbmlBin  settings;
135 } MatroskaTrackCompression;
136
137 typedef struct MatroskaTrackEncryption {
138     uint64_t algo;
139     EbmlBin  key_id;
140 } MatroskaTrackEncryption;
141
142 typedef struct MatroskaTrackEncoding {
143     uint64_t scope;
144     uint64_t type;
145     MatroskaTrackCompression compression;
146     MatroskaTrackEncryption encryption;
147 } MatroskaTrackEncoding;
148
149 typedef struct MatroskaMasteringMeta {
150     double r_x;
151     double r_y;
152     double g_x;
153     double g_y;
154     double b_x;
155     double b_y;
156     double white_x;
157     double white_y;
158     double max_luminance;
159     double min_luminance;
160 } MatroskaMasteringMeta;
161
162 typedef struct MatroskaTrackVideoColor {
163     uint64_t matrix_coefficients;
164     uint64_t bits_per_channel;
165     uint64_t chroma_sub_horz;
166     uint64_t chroma_sub_vert;
167     uint64_t cb_sub_horz;
168     uint64_t cb_sub_vert;
169     uint64_t chroma_siting_horz;
170     uint64_t chroma_siting_vert;
171     uint64_t range;
172     uint64_t transfer_characteristics;
173     uint64_t primaries;
174     uint64_t max_cll;
175     uint64_t max_fall;
176     MatroskaMasteringMeta mastering_meta;
177 } MatroskaTrackVideoColor;
178
179 typedef struct MatroskaTrackVideoProjection {
180     uint64_t type;
181     EbmlBin private;
182     double yaw;
183     double pitch;
184     double roll;
185 } MatroskaTrackVideoProjection;
186
187 typedef struct MatroskaTrackVideo {
188     double   frame_rate;
189     uint64_t display_width;
190     uint64_t display_height;
191     uint64_t pixel_width;
192     uint64_t pixel_height;
193     EbmlBin  color_space;
194     uint64_t display_unit;
195     uint64_t interlaced;
196     uint64_t field_order;
197     uint64_t stereo_mode;
198     uint64_t alpha_mode;
199     EbmlList color;
200     MatroskaTrackVideoProjection projection;
201 } MatroskaTrackVideo;
202
203 typedef struct MatroskaTrackAudio {
204     double   samplerate;
205     double   out_samplerate;
206     uint64_t bitdepth;
207     uint64_t channels;
208
209     /* real audio header (extracted from extradata) */
210     int      coded_framesize;
211     int      sub_packet_h;
212     int      frame_size;
213     int      sub_packet_size;
214     int      sub_packet_cnt;
215     int      pkt_cnt;
216     uint64_t buf_timecode;
217     uint8_t *buf;
218 } MatroskaTrackAudio;
219
220 typedef struct MatroskaTrackPlane {
221     uint64_t uid;
222     uint64_t type;
223 } MatroskaTrackPlane;
224
225 typedef struct MatroskaTrackOperation {
226     EbmlList combine_planes;
227 } MatroskaTrackOperation;
228
229 typedef struct MatroskaTrack {
230     uint64_t num;
231     uint64_t uid;
232     uint64_t type;
233     char    *name;
234     char    *codec_id;
235     EbmlBin  codec_priv;
236     char    *language;
237     double time_scale;
238     uint64_t default_duration;
239     uint64_t flag_default;
240     uint64_t flag_forced;
241     uint64_t seek_preroll;
242     MatroskaTrackVideo video;
243     MatroskaTrackAudio audio;
244     MatroskaTrackOperation operation;
245     EbmlList encodings;
246     uint64_t codec_delay;
247     uint64_t codec_delay_in_track_tb;
248
249     AVStream *stream;
250     int64_t end_timecode;
251     int ms_compat;
252     int needs_decoding;
253     uint64_t max_block_additional_id;
254
255     uint32_t palette[AVPALETTE_COUNT];
256     int has_palette;
257 } MatroskaTrack;
258
259 typedef struct MatroskaAttachment {
260     uint64_t uid;
261     char *filename;
262     char *description;
263     char *mime;
264     EbmlBin bin;
265
266     AVStream *stream;
267 } MatroskaAttachment;
268
269 typedef struct MatroskaChapter {
270     uint64_t start;
271     uint64_t end;
272     uint64_t uid;
273     char    *title;
274
275     AVChapter *chapter;
276 } MatroskaChapter;
277
278 typedef struct MatroskaIndexPos {
279     uint64_t track;
280     uint64_t pos;
281 } MatroskaIndexPos;
282
283 typedef struct MatroskaIndex {
284     uint64_t time;
285     EbmlList pos;
286 } MatroskaIndex;
287
288 typedef struct MatroskaTag {
289     char *name;
290     char *string;
291     char *lang;
292     uint64_t def;
293     EbmlList sub;
294 } MatroskaTag;
295
296 typedef struct MatroskaTagTarget {
297     char    *type;
298     uint64_t typevalue;
299     uint64_t trackuid;
300     uint64_t chapteruid;
301     uint64_t attachuid;
302 } MatroskaTagTarget;
303
304 typedef struct MatroskaTags {
305     MatroskaTagTarget target;
306     EbmlList tag;
307 } MatroskaTags;
308
309 typedef struct MatroskaSeekhead {
310     uint64_t id;
311     uint64_t pos;
312 } MatroskaSeekhead;
313
314 typedef struct MatroskaLevel {
315     uint64_t start;
316     uint64_t length;
317 } MatroskaLevel;
318
319 typedef struct MatroskaBlock {
320     uint64_t duration;
321     int64_t  reference;
322     uint64_t non_simple;
323     EbmlBin  bin;
324     uint64_t additional_id;
325     EbmlBin  additional;
326     int64_t  discard_padding;
327 } MatroskaBlock;
328
329 typedef struct MatroskaCluster {
330     MatroskaBlock block;
331     uint64_t timecode;
332     int64_t pos;
333 } MatroskaCluster;
334
335 typedef struct MatroskaLevel1Element {
336     int64_t  pos;
337     uint32_t id;
338     int parsed;
339 } MatroskaLevel1Element;
340
341 typedef struct MatroskaDemuxContext {
342     const AVClass *class;
343     AVFormatContext *ctx;
344
345     /* EBML stuff */
346     MatroskaLevel levels[EBML_MAX_DEPTH];
347     int      num_levels;
348     uint32_t current_id;
349     int64_t  resync_pos;
350     int      unknown_count;
351
352     uint64_t time_scale;
353     double   duration;
354     char    *title;
355     char    *muxingapp;
356     EbmlBin  date_utc;
357     EbmlList tracks;
358     EbmlList attachments;
359     EbmlList chapters;
360     EbmlList index;
361     EbmlList tags;
362     EbmlList seekhead;
363
364     /* byte position of the segment inside the stream */
365     int64_t segment_start;
366
367     /* the packet queue */
368     AVPacketList *queue;
369     AVPacketList *queue_end;
370
371     int done;
372
373     /* What to skip before effectively reading a packet. */
374     int skip_to_keyframe;
375     uint64_t skip_to_timecode;
376
377     /* File has a CUES element, but we defer parsing until it is needed. */
378     int cues_parsing_deferred;
379
380     /* Level1 elements and whether they were read yet */
381     MatroskaLevel1Element level1_elems[64];
382     int num_level1_elems;
383
384     MatroskaCluster current_cluster;
385
386     /* WebM DASH Manifest live flag */
387     int is_live;
388
389     /* Bandwidth value for WebM DASH Manifest */
390     int bandwidth;
391 } MatroskaDemuxContext;
392
393 #define CHILD_OF(parent) { .def = { .n = parent } }
394
395 // The following forward declarations need their size because
396 // a tentative definition with internal linkage must not be an
397 // incomplete type (6.7.2 in C90, 6.9.2 in C99).
398 // Removing the sizes breaks MSVC.
399 static EbmlSyntax ebml_syntax[3], matroska_segment[9], matroska_track_video_color[15], matroska_track_video[19],
400                   matroska_track[27], matroska_track_encoding[6], matroska_track_encodings[2],
401                   matroska_track_combine_planes[2], matroska_track_operation[2], matroska_tracks[2],
402                   matroska_attachments[2], matroska_chapter_entry[9], matroska_chapter[6], matroska_chapters[2],
403                   matroska_index_entry[3], matroska_index[2], matroska_tag[3], matroska_tags[2], matroska_seekhead[2],
404                   matroska_blockadditions[2], matroska_blockgroup[8], matroska_cluster_parsing[8];
405
406 static EbmlSyntax ebml_header[] = {
407     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
408     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
409     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
410     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
411     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
412     { EBML_ID_EBMLVERSION,        EBML_NONE },
413     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
414     CHILD_OF(ebml_syntax)
415 };
416
417 static EbmlSyntax ebml_syntax[] = {
418     { EBML_ID_HEADER,      EBML_NEST, 0, 0, { .n = ebml_header } },
419     { MATROSKA_ID_SEGMENT, EBML_STOP },
420     { 0 }
421 };
422
423 static EbmlSyntax matroska_info[] = {
424     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
425     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
426     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
427     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
428     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
429     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
430     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
431     CHILD_OF(matroska_segment)
432 };
433
434 static EbmlSyntax matroska_mastering_meta[] = {
435     { MATROSKA_ID_VIDEOCOLOR_RX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_x), { .f=-1 } },
436     { MATROSKA_ID_VIDEOCOLOR_RY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_y), { .f=-1 } },
437     { MATROSKA_ID_VIDEOCOLOR_GX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_x), { .f=-1 } },
438     { MATROSKA_ID_VIDEOCOLOR_GY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_y), { .f=-1 } },
439     { MATROSKA_ID_VIDEOCOLOR_BX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_x), { .f=-1 } },
440     { MATROSKA_ID_VIDEOCOLOR_BY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_y), { .f=-1 } },
441     { MATROSKA_ID_VIDEOCOLOR_WHITEX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_x), { .f=-1 } },
442     { MATROSKA_ID_VIDEOCOLOR_WHITEY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_y), { .f=-1 } },
443     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMIN, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, min_luminance), { .f=-1 } },
444     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMAX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, max_luminance), { .f=-1 } },
445     CHILD_OF(matroska_track_video_color)
446 };
447
448 static EbmlSyntax matroska_track_video_color[] = {
449     { MATROSKA_ID_VIDEOCOLORMATRIXCOEFF,      EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, matrix_coefficients), { .u = AVCOL_SPC_UNSPECIFIED } },
450     { MATROSKA_ID_VIDEOCOLORBITSPERCHANNEL,   EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, bits_per_channel), { .u=0 } },
451     { MATROSKA_ID_VIDEOCOLORCHROMASUBHORZ,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_horz), { .u=0 } },
452     { MATROSKA_ID_VIDEOCOLORCHROMASUBVERT,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_vert), { .u=0 } },
453     { MATROSKA_ID_VIDEOCOLORCBSUBHORZ,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_horz), { .u=0 } },
454     { MATROSKA_ID_VIDEOCOLORCBSUBVERT,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_vert), { .u=0 } },
455     { MATROSKA_ID_VIDEOCOLORCHROMASITINGHORZ, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_horz), { .u = MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED } },
456     { MATROSKA_ID_VIDEOCOLORCHROMASITINGVERT, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_vert), { .u = MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED } },
457     { MATROSKA_ID_VIDEOCOLORRANGE,            EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, range), { .u = AVCOL_RANGE_UNSPECIFIED } },
458     { MATROSKA_ID_VIDEOCOLORTRANSFERCHARACTERISTICS, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, transfer_characteristics), { .u = AVCOL_TRC_UNSPECIFIED } },
459     { MATROSKA_ID_VIDEOCOLORPRIMARIES,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, primaries), { .u = AVCOL_PRI_UNSPECIFIED } },
460     { MATROSKA_ID_VIDEOCOLORMAXCLL,           EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_cll), { .u=0 } },
461     { MATROSKA_ID_VIDEOCOLORMAXFALL,          EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_fall), { .u=0 } },
462     { MATROSKA_ID_VIDEOCOLORMASTERINGMETA,    EBML_NEST, 0, offsetof(MatroskaTrackVideoColor, mastering_meta), { .n = matroska_mastering_meta } },
463     CHILD_OF(matroska_track_video)
464 };
465
466 static EbmlSyntax matroska_track_video_projection[] = {
467     { MATROSKA_ID_VIDEOPROJECTIONTYPE,        EBML_UINT,  0, offsetof(MatroskaTrackVideoProjection, type), { .u = MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR } },
468     { MATROSKA_ID_VIDEOPROJECTIONPRIVATE,     EBML_BIN,   0, offsetof(MatroskaTrackVideoProjection, private) },
469     { MATROSKA_ID_VIDEOPROJECTIONPOSEYAW,     EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, yaw), { .f=0.0 } },
470     { MATROSKA_ID_VIDEOPROJECTIONPOSEPITCH,   EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, pitch), { .f=0.0 } },
471     { MATROSKA_ID_VIDEOPROJECTIONPOSEROLL,    EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, roll), { .f=0.0 } },
472     CHILD_OF(matroska_track_video)
473 };
474
475 static EbmlSyntax matroska_track_video[] = {
476     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
477     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
478     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
479     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
480     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
481     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
482     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
483     { MATROSKA_ID_VIDEOCOLOR,          EBML_NEST,  sizeof(MatroskaTrackVideoColor), offsetof(MatroskaTrackVideo, color), { .n = matroska_track_video_color } },
484     { MATROSKA_ID_VIDEOPROJECTION,     EBML_NEST,  0, offsetof(MatroskaTrackVideo, projection), { .n = matroska_track_video_projection } },
485     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
486     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
487     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
488     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
489     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_unit), { .u= MATROSKA_VIDEO_DISPLAYUNIT_PIXELS } },
490     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_UINT,  0, offsetof(MatroskaTrackVideo, interlaced),  { .u = MATROSKA_VIDEO_INTERLACE_FLAG_UNDETERMINED } },
491     { MATROSKA_ID_VIDEOFIELDORDER,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, field_order), { .u = MATROSKA_VIDEO_FIELDORDER_UNDETERMINED } },
492     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
493     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
494     CHILD_OF(matroska_track)
495 };
496
497 static EbmlSyntax matroska_track_audio[] = {
498     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
499     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
500     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
501     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
502     CHILD_OF(matroska_track)
503 };
504
505 static EbmlSyntax matroska_track_encoding_compression[] = {
506     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
507     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
508     CHILD_OF(matroska_track_encoding)
509 };
510
511 static EbmlSyntax matroska_track_encoding_encryption[] = {
512     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
513     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
514     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
515     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
516     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
517     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
518     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
519     CHILD_OF(matroska_track_encoding)
520 };
521 static EbmlSyntax matroska_track_encoding[] = {
522     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
523     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
524     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
525     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
526     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
527     CHILD_OF(matroska_track_encodings)
528 };
529
530 static EbmlSyntax matroska_track_encodings[] = {
531     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
532     CHILD_OF(matroska_track)
533 };
534
535 static EbmlSyntax matroska_track_plane[] = {
536     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
537     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
538     CHILD_OF(matroska_track_combine_planes)
539 };
540
541 static EbmlSyntax matroska_track_combine_planes[] = {
542     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
543     CHILD_OF(matroska_track_operation)
544 };
545
546 static EbmlSyntax matroska_track_operation[] = {
547     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
548     CHILD_OF(matroska_track)
549 };
550
551 static EbmlSyntax matroska_track[] = {
552     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
553     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
554     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
555     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
556     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
557     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
558     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
559     { MATROSKA_ID_TRACKLANGUAGE,         EBML_STR,   0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
560     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
561     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
562     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
563     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
564     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
565     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
566     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
567     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
568     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
569     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
570     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
571     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
572     { MATROSKA_ID_CODECNAME,             EBML_NONE },
573     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
574     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
575     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
576     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
577     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
578     CHILD_OF(matroska_tracks)
579 };
580
581 static EbmlSyntax matroska_tracks[] = {
582     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
583     CHILD_OF(matroska_segment)
584 };
585
586 static EbmlSyntax matroska_attachment[] = {
587     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
588     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
589     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
590     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
591     { MATROSKA_ID_FILEDESC,     EBML_UTF8, 0, offsetof(MatroskaAttachment, description) },
592     CHILD_OF(matroska_attachments)
593 };
594
595 static EbmlSyntax matroska_attachments[] = {
596     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
597     CHILD_OF(matroska_segment)
598 };
599
600 static EbmlSyntax matroska_chapter_display[] = {
601     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
602     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
603     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
604     CHILD_OF(matroska_chapter_entry)
605 };
606
607 static EbmlSyntax matroska_chapter_entry[] = {
608     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
609     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
610     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
611     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
612     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
613     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
614     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
615     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
616     CHILD_OF(matroska_chapter)
617 };
618
619 static EbmlSyntax matroska_chapter[] = {
620     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
621     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
622     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
623     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
624     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
625     CHILD_OF(matroska_chapters)
626 };
627
628 static EbmlSyntax matroska_chapters[] = {
629     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
630     CHILD_OF(matroska_segment)
631 };
632
633 static EbmlSyntax matroska_index_pos[] = {
634     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
635     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
636     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
637     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
638     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
639     CHILD_OF(matroska_index_entry)
640 };
641
642 static EbmlSyntax matroska_index_entry[] = {
643     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
644     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
645     CHILD_OF(matroska_index)
646 };
647
648 static EbmlSyntax matroska_index[] = {
649     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
650     CHILD_OF(matroska_segment)
651 };
652
653 static EbmlSyntax matroska_simpletag[] = {
654     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
655     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
656     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
657     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
658     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
659     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
660     CHILD_OF(matroska_tag)
661 };
662
663 static EbmlSyntax matroska_tagtargets[] = {
664     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
665     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
666     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
667     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
668     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
669     CHILD_OF(matroska_tag)
670 };
671
672 static EbmlSyntax matroska_tag[] = {
673     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
674     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
675     CHILD_OF(matroska_tags)
676 };
677
678 static EbmlSyntax matroska_tags[] = {
679     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
680     CHILD_OF(matroska_segment)
681 };
682
683 static EbmlSyntax matroska_seekhead_entry[] = {
684     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
685     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
686     CHILD_OF(matroska_seekhead)
687 };
688
689 static EbmlSyntax matroska_seekhead[] = {
690     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
691     CHILD_OF(matroska_segment)
692 };
693
694 static EbmlSyntax matroska_segment[] = {
695     { MATROSKA_ID_CLUSTER,     EBML_STOP },
696     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
697     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
698     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
699     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
700     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
701     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
702     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
703     { 0 }   /* We don't want to go back to level 0, so don't add the parent. */
704 };
705
706 static EbmlSyntax matroska_segments[] = {
707     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
708     { 0 }
709 };
710
711 static EbmlSyntax matroska_blockmore[] = {
712     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id), { .u = 1 } },
713     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
714     CHILD_OF(matroska_blockadditions)
715 };
716
717 static EbmlSyntax matroska_blockadditions[] = {
718     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
719     CHILD_OF(matroska_blockgroup)
720 };
721
722 static EbmlSyntax matroska_blockgroup[] = {
723     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
724     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
725     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
726     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
727     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference), { .i = INT64_MIN } },
728     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
729     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
730     CHILD_OF(matroska_cluster_parsing)
731 };
732
733 // The following array contains SimpleBlock and BlockGroup twice
734 // in order to reuse the other values for matroska_cluster_enter.
735 static EbmlSyntax matroska_cluster_parsing[] = {
736     { MATROSKA_ID_SIMPLEBLOCK,     EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
737     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, 0, 0, { .n = matroska_blockgroup } },
738     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
739     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
740     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
741     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
742     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
743     CHILD_OF(matroska_segment)
744 };
745
746 static EbmlSyntax matroska_cluster_enter[] = {
747     { MATROSKA_ID_CLUSTER,     EBML_NEST, 0, 0, { .n = &matroska_cluster_parsing[2] } },
748     { 0 }
749 };
750 #undef CHILD_OF
751
752 static const CodecMime mkv_image_mime_tags[] = {
753     {"image/gif"                  , AV_CODEC_ID_GIF},
754     {"image/jpeg"                 , AV_CODEC_ID_MJPEG},
755     {"image/png"                  , AV_CODEC_ID_PNG},
756     {"image/tiff"                 , AV_CODEC_ID_TIFF},
757
758     {""                           , AV_CODEC_ID_NONE}
759 };
760
761 static const CodecMime mkv_mime_tags[] = {
762     {"text/plain"                 , AV_CODEC_ID_TEXT},
763     {"application/x-truetype-font", AV_CODEC_ID_TTF},
764     {"application/x-font"         , AV_CODEC_ID_TTF},
765     {"application/vnd.ms-opentype", AV_CODEC_ID_OTF},
766     {"binary"                     , AV_CODEC_ID_BIN_DATA},
767
768     {""                           , AV_CODEC_ID_NONE}
769 };
770
771 static const char *const matroska_doctypes[] = { "matroska", "webm" };
772
773 static int matroska_read_close(AVFormatContext *s);
774
775 /*
776  * This function prepares the status for parsing of level 1 elements.
777  */
778 static int matroska_reset_status(MatroskaDemuxContext *matroska,
779                                  uint32_t id, int64_t position)
780 {
781     if (position >= 0) {
782         int64_t err = avio_seek(matroska->ctx->pb, position, SEEK_SET);
783         if (err < 0)
784             return err;
785     }
786
787     matroska->current_id    = id;
788     matroska->num_levels    = 1;
789     matroska->unknown_count = 0;
790     matroska->resync_pos = avio_tell(matroska->ctx->pb);
791     if (id)
792         matroska->resync_pos -= (av_log2(id) + 7) / 8;
793
794     return 0;
795 }
796
797 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
798 {
799     AVIOContext *pb = matroska->ctx->pb;
800     uint32_t id;
801
802     /* Try to seek to the last position to resync from. If this doesn't work,
803      * we resync from the earliest position available: The start of the buffer. */
804     if (last_pos < avio_tell(pb) && avio_seek(pb, last_pos + 1, SEEK_SET) < 0) {
805         av_log(matroska->ctx, AV_LOG_WARNING,
806                "Seek to desired resync point failed. Seeking to "
807                "earliest point available instead.\n");
808         avio_seek(pb, FFMAX(avio_tell(pb) + (pb->buffer - pb->buf_ptr),
809                             last_pos + 1), SEEK_SET);
810     }
811
812     id = avio_rb32(pb);
813
814     // try to find a toplevel element
815     while (!avio_feof(pb)) {
816         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
817             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
818             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
819             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
820             /* Prepare the context for parsing of a level 1 element. */
821             matroska_reset_status(matroska, id, -1);
822             /* Given that we are here means that an error has occurred,
823              * so treat the segment as unknown length in order not to
824              * discard valid data that happens to be beyond the designated
825              * end of the segment. */
826             matroska->levels[0].length = EBML_UNKNOWN_LENGTH;
827             return 0;
828         }
829         id = (id << 8) | avio_r8(pb);
830     }
831
832     matroska->done = 1;
833     return pb->error ? pb->error : AVERROR_EOF;
834 }
835
836 /*
837  * Read: an "EBML number", which is defined as a variable-length
838  * array of bytes. The first byte indicates the length by giving a
839  * number of 0-bits followed by a one. The position of the first
840  * "one" bit inside the first byte indicates the length of this
841  * number.
842  * Returns: number of bytes read, < 0 on error
843  */
844 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
845                          int max_size, uint64_t *number, int eof_forbidden)
846 {
847     int read, n = 1;
848     uint64_t total;
849     int64_t pos;
850
851     /* The first byte tells us the length in bytes - except when it is zero. */
852     total = avio_r8(pb);
853     if (pb->eof_reached)
854         goto err;
855
856     /* get the length of the EBML number */
857     read = 8 - ff_log2_tab[total];
858
859     if (!total || read > max_size) {
860         pos = avio_tell(pb) - 1;
861         if (!total) {
862             av_log(matroska->ctx, AV_LOG_ERROR,
863                    "0x00 at pos %"PRId64" (0x%"PRIx64") invalid as first byte "
864                    "of an EBML number\n", pos, pos);
865         } else {
866             av_log(matroska->ctx, AV_LOG_ERROR,
867                    "Length %d indicated by an EBML number's first byte 0x%02x "
868                    "at pos %"PRId64" (0x%"PRIx64") exceeds max length %d.\n",
869                    read, (uint8_t) total, pos, pos, max_size);
870         }
871         return AVERROR_INVALIDDATA;
872     }
873
874     /* read out length */
875     total ^= 1 << ff_log2_tab[total];
876     while (n++ < read)
877         total = (total << 8) | avio_r8(pb);
878
879     if (pb->eof_reached) {
880         eof_forbidden = 1;
881         goto err;
882     }
883
884     *number = total;
885
886     return read;
887
888 err:
889     pos = avio_tell(pb);
890     if (pb->error) {
891         av_log(matroska->ctx, AV_LOG_ERROR,
892                "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
893                pos, pos);
894         return pb->error;
895     }
896     if (eof_forbidden) {
897         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
898                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
899         return AVERROR(EIO);
900     }
901     return AVERROR_EOF;
902 }
903
904 /**
905  * Read a EBML length value.
906  * This needs special handling for the "unknown length" case which has multiple
907  * encodings.
908  */
909 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
910                             uint64_t *number)
911 {
912     int res = ebml_read_num(matroska, pb, 8, number, 1);
913     if (res > 0 && *number + 1 == 1ULL << (7 * res))
914         *number = EBML_UNKNOWN_LENGTH;
915     return res;
916 }
917
918 /*
919  * Read the next element as an unsigned int.
920  * Returns NEEDS_CHECKING.
921  */
922 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
923 {
924     int n = 0;
925
926     /* big-endian ordering; build up number */
927     *num = 0;
928     while (n++ < size)
929         *num = (*num << 8) | avio_r8(pb);
930
931     return NEEDS_CHECKING;
932 }
933
934 /*
935  * Read the next element as a signed int.
936  * Returns NEEDS_CHECKING.
937  */
938 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
939 {
940     int n = 1;
941
942     if (size == 0) {
943         *num = 0;
944     } else {
945         *num = sign_extend(avio_r8(pb), 8);
946
947         /* big-endian ordering; build up number */
948         while (n++ < size)
949             *num = ((uint64_t)*num << 8) | avio_r8(pb);
950     }
951
952     return NEEDS_CHECKING;
953 }
954
955 /*
956  * Read the next element as a float.
957  * Returns NEEDS_CHECKING or < 0 on obvious failure.
958  */
959 static int ebml_read_float(AVIOContext *pb, int size, double *num)
960 {
961     if (size == 0)
962         *num = 0;
963     else if (size == 4)
964         *num = av_int2float(avio_rb32(pb));
965     else if (size == 8)
966         *num = av_int2double(avio_rb64(pb));
967     else
968         return AVERROR_INVALIDDATA;
969
970     return NEEDS_CHECKING;
971 }
972
973 /*
974  * Read the next element as an ASCII string.
975  * 0 is success, < 0 or NEEDS_CHECKING is failure.
976  */
977 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
978 {
979     char *res;
980     int ret;
981
982     /* EBML strings are usually not 0-terminated, so we allocate one
983      * byte more, read the string and NULL-terminate it ourselves. */
984     if (!(res = av_malloc(size + 1)))
985         return AVERROR(ENOMEM);
986     if ((ret = avio_read(pb, (uint8_t *) res, size)) != size) {
987         av_free(res);
988         return ret < 0 ? ret : NEEDS_CHECKING;
989     }
990     (res)[size] = '\0';
991     av_free(*str);
992     *str = res;
993
994     return 0;
995 }
996
997 /*
998  * Read the next element as binary data.
999  * 0 is success, < 0 or NEEDS_CHECKING is failure.
1000  */
1001 static int ebml_read_binary(AVIOContext *pb, int length,
1002                             int64_t pos, EbmlBin *bin)
1003 {
1004     int ret;
1005
1006     ret = av_buffer_realloc(&bin->buf, length + AV_INPUT_BUFFER_PADDING_SIZE);
1007     if (ret < 0)
1008         return ret;
1009     memset(bin->buf->data + length, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1010
1011     bin->data = bin->buf->data;
1012     bin->size = length;
1013     bin->pos  = pos;
1014     if ((ret = avio_read(pb, bin->data, length)) != length) {
1015         av_buffer_unref(&bin->buf);
1016         bin->data = NULL;
1017         bin->size = 0;
1018         return ret < 0 ? ret : NEEDS_CHECKING;
1019     }
1020
1021     return 0;
1022 }
1023
1024 /*
1025  * Read the next element, but only the header. The contents
1026  * are supposed to be sub-elements which can be read separately.
1027  * 0 is success, < 0 is failure.
1028  */
1029 static int ebml_read_master(MatroskaDemuxContext *matroska,
1030                             uint64_t length, int64_t pos)
1031 {
1032     MatroskaLevel *level;
1033
1034     if (matroska->num_levels >= EBML_MAX_DEPTH) {
1035         av_log(matroska->ctx, AV_LOG_ERROR,
1036                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
1037         return AVERROR(ENOSYS);
1038     }
1039
1040     level         = &matroska->levels[matroska->num_levels++];
1041     level->start  = pos;
1042     level->length = length;
1043
1044     return 0;
1045 }
1046
1047 /*
1048  * Read a signed "EBML number"
1049  * Return: number of bytes processed, < 0 on error
1050  */
1051 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
1052                                  AVIOContext *pb, int64_t *num)
1053 {
1054     uint64_t unum;
1055     int res;
1056
1057     /* read as unsigned number first */
1058     if ((res = ebml_read_num(matroska, pb, 8, &unum, 1)) < 0)
1059         return res;
1060
1061     /* make signed (weird way) */
1062     *num = unum - ((1LL << (7 * res - 1)) - 1);
1063
1064     return res;
1065 }
1066
1067 static int ebml_parse(MatroskaDemuxContext *matroska,
1068                       EbmlSyntax *syntax, void *data);
1069
1070 static EbmlSyntax *ebml_parse_id(EbmlSyntax *syntax, uint32_t id)
1071 {
1072     int i;
1073
1074     // Whoever touches this should be aware of the duplication
1075     // existing in matroska_cluster_parsing.
1076     for (i = 0; syntax[i].id; i++)
1077         if (id == syntax[i].id)
1078             break;
1079
1080     return &syntax[i];
1081 }
1082
1083 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1084                            void *data)
1085 {
1086     int res;
1087
1088     if (data) {
1089         for (int i = 0; syntax[i].id; i++)
1090             switch (syntax[i].type) {
1091             case EBML_UINT:
1092                 *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
1093                 break;
1094             case EBML_SINT:
1095                 *(int64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.i;
1096                 break;
1097             case EBML_FLOAT:
1098                 *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
1099                 break;
1100             case EBML_STR:
1101             case EBML_UTF8:
1102                 // the default may be NULL
1103                 if (syntax[i].def.s) {
1104                     uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
1105                     *dst = av_strdup(syntax[i].def.s);
1106                     if (!*dst)
1107                         return AVERROR(ENOMEM);
1108                 }
1109                 break;
1110             }
1111
1112         if (!matroska->levels[matroska->num_levels - 1].length) {
1113             matroska->num_levels--;
1114             return 0;
1115         }
1116     }
1117
1118     do {
1119         res = ebml_parse(matroska, syntax, data);
1120     } while (!res);
1121
1122     return res == LEVEL_ENDED ? 0 : res;
1123 }
1124
1125 static int is_ebml_id_valid(uint32_t id)
1126 {
1127     // Due to endian nonsense in Matroska, the highest byte with any bits set
1128     // will contain the leading length bit. This bit in turn identifies the
1129     // total byte length of the element by its position within the byte.
1130     unsigned int bits = av_log2(id);
1131     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1132 }
1133
1134 /*
1135  * Allocate and return the entry for the level1 element with the given ID. If
1136  * an entry already exists, return the existing entry.
1137  */
1138 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1139                                                         uint32_t id, int64_t pos)
1140 {
1141     int i;
1142     MatroskaLevel1Element *elem;
1143
1144     if (!is_ebml_id_valid(id))
1145         return NULL;
1146
1147     // Some files link to all clusters; useless.
1148     if (id == MATROSKA_ID_CLUSTER)
1149         return NULL;
1150
1151     // There can be multiple SeekHeads and Tags.
1152     for (i = 0; i < matroska->num_level1_elems; i++) {
1153         if (matroska->level1_elems[i].id == id) {
1154             if (matroska->level1_elems[i].pos == pos ||
1155                 id != MATROSKA_ID_SEEKHEAD && id != MATROSKA_ID_TAGS)
1156                 return &matroska->level1_elems[i];
1157         }
1158     }
1159
1160     // Only a completely broken file would have more elements.
1161     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1162         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements.\n");
1163         return NULL;
1164     }
1165
1166     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1167     *elem = (MatroskaLevel1Element){.id = id};
1168
1169     return elem;
1170 }
1171
1172 static int ebml_parse(MatroskaDemuxContext *matroska,
1173                       EbmlSyntax *syntax, void *data)
1174 {
1175     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1176         // Forbid unknown-length EBML_NONE elements.
1177         [EBML_NONE]  = EBML_UNKNOWN_LENGTH - 1,
1178         [EBML_UINT]  = 8,
1179         [EBML_SINT]  = 8,
1180         [EBML_FLOAT] = 8,
1181         // max. 16 MB for strings
1182         [EBML_STR]   = 0x1000000,
1183         [EBML_UTF8]  = 0x1000000,
1184         // max. 256 MB for binary data
1185         [EBML_BIN]   = 0x10000000,
1186         // no limits for anything else
1187     };
1188     AVIOContext *pb = matroska->ctx->pb;
1189     uint32_t id;
1190     uint64_t length;
1191     int64_t pos = avio_tell(pb), pos_alt;
1192     int res, update_pos = 1, level_check;
1193     MatroskaLevel1Element *level1_elem;
1194     MatroskaLevel *level = matroska->num_levels ? &matroska->levels[matroska->num_levels - 1] : NULL;
1195
1196     if (!matroska->current_id) {
1197         uint64_t id;
1198         res = ebml_read_num(matroska, pb, 4, &id, 0);
1199         if (res < 0) {
1200             if (pb->eof_reached && res == AVERROR_EOF) {
1201                 if (matroska->is_live)
1202                     // in live mode, finish parsing if EOF is reached.
1203                     return 1;
1204                 if (level && pos == avio_tell(pb)) {
1205                     if (level->length == EBML_UNKNOWN_LENGTH) {
1206                         // Unknown-length levels automatically end at EOF.
1207                         matroska->num_levels--;
1208                         return LEVEL_ENDED;
1209                     } else {
1210                         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
1211                                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
1212                     }
1213                 }
1214             }
1215             return res;
1216         }
1217         matroska->current_id = id | 1 << 7 * res;
1218         pos_alt = pos + res;
1219     } else {
1220         pos_alt = pos;
1221         pos    -= (av_log2(matroska->current_id) + 7) / 8;
1222     }
1223
1224     id = matroska->current_id;
1225
1226     syntax = ebml_parse_id(syntax, id);
1227     if (!syntax->id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
1228         if (level && level->length == EBML_UNKNOWN_LENGTH) {
1229             // Unknown-length levels end when an element from an upper level
1230             // in the hierarchy is encountered.
1231             while (syntax->def.n) {
1232                 syntax = ebml_parse_id(syntax->def.n, id);
1233                 if (syntax->id) {
1234                     matroska->num_levels--;
1235                     return LEVEL_ENDED;
1236                 }
1237             };
1238         }
1239
1240         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32" at pos. "
1241                                             "%"PRId64"\n", id, pos);
1242         update_pos = 0; /* Don't update resync_pos as an error might have happened. */
1243     }
1244
1245     if (data) {
1246         data = (char *) data + syntax->data_offset;
1247         if (syntax->list_elem_size) {
1248             EbmlList *list = data;
1249             void *newelem;
1250
1251             if ((unsigned)list->nb_elem + 1 >= UINT_MAX / syntax->list_elem_size)
1252                 return AVERROR(ENOMEM);
1253             newelem = av_fast_realloc(list->elem,
1254                                       &list->alloc_elem_size,
1255                                       (list->nb_elem + 1) * syntax->list_elem_size);
1256             if (!newelem)
1257                 return AVERROR(ENOMEM);
1258             list->elem = newelem;
1259             data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1260             memset(data, 0, syntax->list_elem_size);
1261             list->nb_elem++;
1262         }
1263     }
1264
1265     if (syntax->type != EBML_STOP) {
1266         matroska->current_id = 0;
1267         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1268             return res;
1269
1270         pos_alt += res;
1271
1272         if (matroska->num_levels > 0) {
1273             if (length != EBML_UNKNOWN_LENGTH &&
1274                 level->length != EBML_UNKNOWN_LENGTH) {
1275                 uint64_t elem_end = pos_alt + length,
1276                         level_end = level->start + level->length;
1277
1278                 if (elem_end < level_end) {
1279                     level_check = 0;
1280                 } else if (elem_end == level_end) {
1281                     level_check = LEVEL_ENDED;
1282                 } else {
1283                     av_log(matroska->ctx, AV_LOG_ERROR,
1284                            "Element at 0x%"PRIx64" ending at 0x%"PRIx64" exceeds "
1285                            "containing master element ending at 0x%"PRIx64"\n",
1286                            pos, elem_end, level_end);
1287                     return AVERROR_INVALIDDATA;
1288                 }
1289             } else if (length != EBML_UNKNOWN_LENGTH) {
1290                 level_check = 0;
1291             } else if (level->length != EBML_UNKNOWN_LENGTH) {
1292                 av_log(matroska->ctx, AV_LOG_ERROR, "Unknown-sized element "
1293                        "at 0x%"PRIx64" inside parent with finite size\n", pos);
1294                 return AVERROR_INVALIDDATA;
1295             } else {
1296                 level_check = 0;
1297                 if (id != MATROSKA_ID_CLUSTER && (syntax->type == EBML_LEVEL1
1298                                               ||  syntax->type == EBML_NEST)) {
1299                     // According to the current specifications only clusters and
1300                     // segments are allowed to be unknown-length. We also accept
1301                     // other unknown-length master elements.
1302                     av_log(matroska->ctx, AV_LOG_WARNING,
1303                            "Found unknown-length element 0x%"PRIX32" other than "
1304                            "a cluster at 0x%"PRIx64". Spec-incompliant, but "
1305                            "parsing will nevertheless be attempted.\n", id, pos);
1306                     update_pos = -1;
1307                 }
1308             }
1309         } else
1310             level_check = 0;
1311
1312         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1313             if (length != EBML_UNKNOWN_LENGTH) {
1314                 av_log(matroska->ctx, AV_LOG_ERROR,
1315                        "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for element "
1316                        "with ID 0x%"PRIX32" at 0x%"PRIx64"\n",
1317                        length, max_lengths[syntax->type], id, pos);
1318             } else if (syntax->type != EBML_NONE) {
1319                 av_log(matroska->ctx, AV_LOG_ERROR,
1320                        "Element with ID 0x%"PRIX32" at pos. 0x%"PRIx64" has "
1321                        "unknown length, yet the length of an element of its "
1322                        "type must be known.\n", id, pos);
1323             } else {
1324                 av_log(matroska->ctx, AV_LOG_ERROR,
1325                        "Found unknown-length element with ID 0x%"PRIX32" at "
1326                        "pos. 0x%"PRIx64" for which no syntax for parsing is "
1327                        "available.\n", id, pos);
1328             }
1329             return AVERROR_INVALIDDATA;
1330         }
1331
1332         if (!(pb->seekable & AVIO_SEEKABLE_NORMAL)) {
1333             // Loosing sync will likely manifest itself as encountering unknown
1334             // elements which are not reliably distinguishable from elements
1335             // belonging to future extensions of the format.
1336             // We use a heuristic to detect such situations: If the current
1337             // element is not expected at the current syntax level and there
1338             // were only a few unknown elements in a row, then the element is
1339             // skipped or considered defective based upon the length of the
1340             // current element (i.e. how much would be skipped); if there were
1341             // more than a few skipped elements in a row and skipping the current
1342             // element would lead us more than SKIP_THRESHOLD away from the last
1343             // known good position, then it is inferred that an error occurred.
1344             // The dependency on the number of unknown elements in a row exists
1345             // because the distance to the last known good position is
1346             // automatically big if the last parsed element was big.
1347             // In both cases, each unknown element is considered equivalent to
1348             // UNKNOWN_EQUIV of skipped bytes for the check.
1349             // The whole check is only done for non-seekable output, because
1350             // in this situation skipped data can't simply be rechecked later.
1351             // This is especially important when using unkown length elements
1352             // as the check for whether a child exceeds its containing master
1353             // element is not effective in this situation.
1354             if (update_pos) {
1355                 matroska->unknown_count = 0;
1356             } else {
1357                 int64_t dist = length + UNKNOWN_EQUIV * matroska->unknown_count++;
1358
1359                 if (matroska->unknown_count > 3)
1360                     dist += pos_alt - matroska->resync_pos;
1361
1362                 if (dist > SKIP_THRESHOLD) {
1363                     av_log(matroska->ctx, AV_LOG_ERROR,
1364                            "Unknown element %"PRIX32" at pos. 0x%"PRIx64" with "
1365                            "length 0x%"PRIx64" considered as invalid data. Last "
1366                            "known good position 0x%"PRIx64", %d unknown elements"
1367                            " in a row\n", id, pos, length, matroska->resync_pos,
1368                            matroska->unknown_count);
1369                     return AVERROR_INVALIDDATA;
1370                 }
1371             }
1372         }
1373
1374         if (update_pos > 0) {
1375             // We have found an element that is allowed at this place
1376             // in the hierarchy and it passed all checks, so treat the beginning
1377             // of the element as the "last known good" position.
1378             matroska->resync_pos = pos;
1379         }
1380
1381         if (!data && length != EBML_UNKNOWN_LENGTH)
1382             goto skip;
1383     }
1384
1385     switch (syntax->type) {
1386     case EBML_UINT:
1387         res = ebml_read_uint(pb, length, data);
1388         break;
1389     case EBML_SINT:
1390         res = ebml_read_sint(pb, length, data);
1391         break;
1392     case EBML_FLOAT:
1393         res = ebml_read_float(pb, length, data);
1394         break;
1395     case EBML_STR:
1396     case EBML_UTF8:
1397         res = ebml_read_ascii(pb, length, data);
1398         break;
1399     case EBML_BIN:
1400         res = ebml_read_binary(pb, length, pos_alt, data);
1401         break;
1402     case EBML_LEVEL1:
1403     case EBML_NEST:
1404         if ((res = ebml_read_master(matroska, length, pos_alt)) < 0)
1405             return res;
1406         if (id == MATROSKA_ID_SEGMENT)
1407             matroska->segment_start = pos_alt;
1408         if (id == MATROSKA_ID_CUES)
1409             matroska->cues_parsing_deferred = 0;
1410         if (syntax->type == EBML_LEVEL1 &&
1411             (level1_elem = matroska_find_level1_elem(matroska, syntax->id, pos))) {
1412             if (!level1_elem->pos) {
1413                 // Zero is not a valid position for a level 1 element.
1414                 level1_elem->pos = pos;
1415             } else if (level1_elem->pos != pos)
1416                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1417             level1_elem->parsed = 1;
1418         }
1419         if (res = ebml_parse_nest(matroska, syntax->def.n, data))
1420             return res;
1421         break;
1422     case EBML_STOP:
1423         return 1;
1424     skip:
1425     default:
1426         if (length) {
1427             int64_t res2;
1428             if (ffio_limit(pb, length) != length) {
1429                 // ffio_limit emits its own error message,
1430                 // so we don't have to.
1431                 return AVERROR(EIO);
1432             }
1433             if ((res2 = avio_skip(pb, length - 1)) >= 0) {
1434                 // avio_skip might take us past EOF. We check for this
1435                 // by skipping only length - 1 bytes, reading a byte and
1436                 // checking the error flags. This is done in order to check
1437                 // that the element has been properly skipped even when
1438                 // no filesize (that ffio_limit relies on) is available.
1439                 avio_r8(pb);
1440                 res = NEEDS_CHECKING;
1441             } else
1442                 res = res2;
1443         } else
1444             res = 0;
1445     }
1446     if (res) {
1447         if (res == NEEDS_CHECKING) {
1448             if (pb->eof_reached) {
1449                 if (pb->error)
1450                     res = pb->error;
1451                 else
1452                     res = AVERROR_EOF;
1453             } else
1454                 goto level_check;
1455         }
1456
1457         if (res == AVERROR_INVALIDDATA)
1458             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1459         else if (res == AVERROR(EIO))
1460             av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1461         else if (res == AVERROR_EOF) {
1462             av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely\n");
1463             res = AVERROR(EIO);
1464         }
1465
1466         return res;
1467     }
1468
1469 level_check:
1470     if (level_check == LEVEL_ENDED && matroska->num_levels) {
1471         level = &matroska->levels[matroska->num_levels - 1];
1472         pos   = avio_tell(pb);
1473
1474         // Given that pos >= level->start no check for
1475         // level->length != EBML_UNKNOWN_LENGTH is necessary.
1476         while (matroska->num_levels && pos == level->start + level->length) {
1477             matroska->num_levels--;
1478             level--;
1479         }
1480     }
1481
1482     return level_check;
1483 }
1484
1485 static void ebml_free(EbmlSyntax *syntax, void *data)
1486 {
1487     int i, j;
1488     for (i = 0; syntax[i].id; i++) {
1489         void *data_off = (char *) data + syntax[i].data_offset;
1490         switch (syntax[i].type) {
1491         case EBML_STR:
1492         case EBML_UTF8:
1493             av_freep(data_off);
1494             break;
1495         case EBML_BIN:
1496             av_buffer_unref(&((EbmlBin *) data_off)->buf);
1497             break;
1498         case EBML_LEVEL1:
1499         case EBML_NEST:
1500             if (syntax[i].list_elem_size) {
1501                 EbmlList *list = data_off;
1502                 char *ptr = list->elem;
1503                 for (j = 0; j < list->nb_elem;
1504                      j++, ptr += syntax[i].list_elem_size)
1505                     ebml_free(syntax[i].def.n, ptr);
1506                 av_freep(&list->elem);
1507                 list->nb_elem = 0;
1508                 list->alloc_elem_size = 0;
1509             } else
1510                 ebml_free(syntax[i].def.n, data_off);
1511         default:
1512             break;
1513         }
1514     }
1515 }
1516
1517 /*
1518  * Autodetecting...
1519  */
1520 static int matroska_probe(const AVProbeData *p)
1521 {
1522     uint64_t total = 0;
1523     int len_mask = 0x80, size = 1, n = 1, i;
1524
1525     /* EBML header? */
1526     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1527         return 0;
1528
1529     /* length of header */
1530     total = p->buf[4];
1531     while (size <= 8 && !(total & len_mask)) {
1532         size++;
1533         len_mask >>= 1;
1534     }
1535     if (size > 8)
1536         return 0;
1537     total &= (len_mask - 1);
1538     while (n < size)
1539         total = (total << 8) | p->buf[4 + n++];
1540
1541     if (total + 1 == 1ULL << (7 * size)){
1542         /* Unknown-length header - simply parse the whole buffer. */
1543         total = p->buf_size - 4 - size;
1544     } else {
1545         /* Does the probe data contain the whole header? */
1546         if (p->buf_size < 4 + size + total)
1547             return 0;
1548     }
1549
1550     /* The header should contain a known document type. For now,
1551      * we don't parse the whole header but simply check for the
1552      * availability of that array of characters inside the header.
1553      * Not fully fool-proof, but good enough. */
1554     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1555         size_t probelen = strlen(matroska_doctypes[i]);
1556         if (total < probelen)
1557             continue;
1558         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1559             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1560                 return AVPROBE_SCORE_MAX;
1561     }
1562
1563     // probably valid EBML header but no recognized doctype
1564     return AVPROBE_SCORE_EXTENSION;
1565 }
1566
1567 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1568                                                  uint64_t num)
1569 {
1570     MatroskaTrack *tracks = matroska->tracks.elem;
1571     int i;
1572
1573     for (i = 0; i < matroska->tracks.nb_elem; i++)
1574         if (tracks[i].num == num)
1575             return &tracks[i];
1576
1577     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %"PRIu64"\n", num);
1578     return NULL;
1579 }
1580
1581 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1582                                   MatroskaTrack *track)
1583 {
1584     MatroskaTrackEncoding *encodings = track->encodings.elem;
1585     uint8_t *data = *buf;
1586     int isize = *buf_size;
1587     uint8_t *pkt_data = NULL;
1588     uint8_t av_unused *newpktdata;
1589     int pkt_size = isize;
1590     int result = 0;
1591     int olen;
1592
1593     if (pkt_size >= 10000000U)
1594         return AVERROR_INVALIDDATA;
1595
1596     switch (encodings[0].compression.algo) {
1597     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1598     {
1599         int header_size = encodings[0].compression.settings.size;
1600         uint8_t *header = encodings[0].compression.settings.data;
1601
1602         if (header_size && !header) {
1603             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1604             return -1;
1605         }
1606
1607         if (!header_size)
1608             return 0;
1609
1610         pkt_size = isize + header_size;
1611         pkt_data = av_malloc(pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1612         if (!pkt_data)
1613             return AVERROR(ENOMEM);
1614
1615         memcpy(pkt_data, header, header_size);
1616         memcpy(pkt_data + header_size, data, isize);
1617         break;
1618     }
1619 #if CONFIG_LZO
1620     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1621         do {
1622             int insize = isize;
1623             olen       = pkt_size *= 3;
1624             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING
1625                                                        + AV_INPUT_BUFFER_PADDING_SIZE);
1626             if (!newpktdata) {
1627                 result = AVERROR(ENOMEM);
1628                 goto failed;
1629             }
1630             pkt_data = newpktdata;
1631             result   = av_lzo1x_decode(pkt_data, &olen, data, &insize);
1632         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1633         if (result) {
1634             result = AVERROR_INVALIDDATA;
1635             goto failed;
1636         }
1637         pkt_size -= olen;
1638         break;
1639 #endif
1640 #if CONFIG_ZLIB
1641     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1642     {
1643         z_stream zstream = { 0 };
1644         if (inflateInit(&zstream) != Z_OK)
1645             return -1;
1646         zstream.next_in  = data;
1647         zstream.avail_in = isize;
1648         do {
1649             pkt_size  *= 3;
1650             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1651             if (!newpktdata) {
1652                 inflateEnd(&zstream);
1653                 result = AVERROR(ENOMEM);
1654                 goto failed;
1655             }
1656             pkt_data          = newpktdata;
1657             zstream.avail_out = pkt_size - zstream.total_out;
1658             zstream.next_out  = pkt_data + zstream.total_out;
1659             result = inflate(&zstream, Z_NO_FLUSH);
1660         } while (result == Z_OK && pkt_size < 10000000);
1661         pkt_size = zstream.total_out;
1662         inflateEnd(&zstream);
1663         if (result != Z_STREAM_END) {
1664             if (result == Z_MEM_ERROR)
1665                 result = AVERROR(ENOMEM);
1666             else
1667                 result = AVERROR_INVALIDDATA;
1668             goto failed;
1669         }
1670         break;
1671     }
1672 #endif
1673 #if CONFIG_BZLIB
1674     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1675     {
1676         bz_stream bzstream = { 0 };
1677         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1678             return -1;
1679         bzstream.next_in  = data;
1680         bzstream.avail_in = isize;
1681         do {
1682             pkt_size  *= 3;
1683             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1684             if (!newpktdata) {
1685                 BZ2_bzDecompressEnd(&bzstream);
1686                 result = AVERROR(ENOMEM);
1687                 goto failed;
1688             }
1689             pkt_data           = newpktdata;
1690             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1691             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1692             result = BZ2_bzDecompress(&bzstream);
1693         } while (result == BZ_OK && pkt_size < 10000000);
1694         pkt_size = bzstream.total_out_lo32;
1695         BZ2_bzDecompressEnd(&bzstream);
1696         if (result != BZ_STREAM_END) {
1697             if (result == BZ_MEM_ERROR)
1698                 result = AVERROR(ENOMEM);
1699             else
1700                 result = AVERROR_INVALIDDATA;
1701             goto failed;
1702         }
1703         break;
1704     }
1705 #endif
1706     default:
1707         return AVERROR_INVALIDDATA;
1708     }
1709
1710     memset(pkt_data + pkt_size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1711
1712     *buf      = pkt_data;
1713     *buf_size = pkt_size;
1714     return 0;
1715
1716 failed:
1717     av_free(pkt_data);
1718     return result;
1719 }
1720
1721 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1722                                  AVDictionary **metadata, char *prefix)
1723 {
1724     MatroskaTag *tags = list->elem;
1725     char key[1024];
1726     int i;
1727
1728     for (i = 0; i < list->nb_elem; i++) {
1729         const char *lang = tags[i].lang &&
1730                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1731
1732         if (!tags[i].name) {
1733             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1734             continue;
1735         }
1736         if (prefix)
1737             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1738         else
1739             av_strlcpy(key, tags[i].name, sizeof(key));
1740         if (tags[i].def || !lang) {
1741             av_dict_set(metadata, key, tags[i].string, 0);
1742             if (tags[i].sub.nb_elem)
1743                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1744         }
1745         if (lang) {
1746             av_strlcat(key, "-", sizeof(key));
1747             av_strlcat(key, lang, sizeof(key));
1748             av_dict_set(metadata, key, tags[i].string, 0);
1749             if (tags[i].sub.nb_elem)
1750                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1751         }
1752     }
1753     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1754 }
1755
1756 static void matroska_convert_tags(AVFormatContext *s)
1757 {
1758     MatroskaDemuxContext *matroska = s->priv_data;
1759     MatroskaTags *tags = matroska->tags.elem;
1760     int i, j;
1761
1762     for (i = 0; i < matroska->tags.nb_elem; i++) {
1763         if (tags[i].target.attachuid) {
1764             MatroskaAttachment *attachment = matroska->attachments.elem;
1765             int found = 0;
1766             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1767                 if (attachment[j].uid == tags[i].target.attachuid &&
1768                     attachment[j].stream) {
1769                     matroska_convert_tag(s, &tags[i].tag,
1770                                          &attachment[j].stream->metadata, NULL);
1771                     found = 1;
1772                 }
1773             }
1774             if (!found) {
1775                 av_log(s, AV_LOG_WARNING,
1776                        "The tags at index %d refer to a "
1777                        "non-existent attachment %"PRId64".\n",
1778                        i, tags[i].target.attachuid);
1779             }
1780         } else if (tags[i].target.chapteruid) {
1781             MatroskaChapter *chapter = matroska->chapters.elem;
1782             int found = 0;
1783             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1784                 if (chapter[j].uid == tags[i].target.chapteruid &&
1785                     chapter[j].chapter) {
1786                     matroska_convert_tag(s, &tags[i].tag,
1787                                          &chapter[j].chapter->metadata, NULL);
1788                     found = 1;
1789                 }
1790             }
1791             if (!found) {
1792                 av_log(s, AV_LOG_WARNING,
1793                        "The tags at index %d refer to a non-existent chapter "
1794                        "%"PRId64".\n",
1795                        i, tags[i].target.chapteruid);
1796             }
1797         } else if (tags[i].target.trackuid) {
1798             MatroskaTrack *track = matroska->tracks.elem;
1799             int found = 0;
1800             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1801                 if (track[j].uid == tags[i].target.trackuid &&
1802                     track[j].stream) {
1803                     matroska_convert_tag(s, &tags[i].tag,
1804                                          &track[j].stream->metadata, NULL);
1805                     found = 1;
1806                }
1807             }
1808             if (!found) {
1809                 av_log(s, AV_LOG_WARNING,
1810                        "The tags at index %d refer to a non-existent track "
1811                        "%"PRId64".\n",
1812                        i, tags[i].target.trackuid);
1813             }
1814         } else {
1815             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1816                                  tags[i].target.type);
1817         }
1818     }
1819 }
1820
1821 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1822                                          int64_t pos)
1823 {
1824     uint32_t saved_id  = matroska->current_id;
1825     int64_t before_pos = avio_tell(matroska->ctx->pb);
1826     int ret = 0;
1827
1828     /* seek */
1829     if (avio_seek(matroska->ctx->pb, pos, SEEK_SET) == pos) {
1830         /* We don't want to lose our seekhead level, so we add
1831          * a dummy. This is a crude hack. */
1832         if (matroska->num_levels == EBML_MAX_DEPTH) {
1833             av_log(matroska->ctx, AV_LOG_INFO,
1834                    "Max EBML element depth (%d) reached, "
1835                    "cannot parse further.\n", EBML_MAX_DEPTH);
1836             ret = AVERROR_INVALIDDATA;
1837         } else {
1838             matroska->levels[matroska->num_levels] = (MatroskaLevel) { 0, EBML_UNKNOWN_LENGTH };
1839             matroska->num_levels++;
1840             matroska->current_id                   = 0;
1841
1842             ret = ebml_parse(matroska, matroska_segment, matroska);
1843             if (ret == LEVEL_ENDED) {
1844                 /* This can only happen if the seek brought us beyond EOF. */
1845                 ret = AVERROR_EOF;
1846             }
1847         }
1848     }
1849     /* Seek back - notice that in all instances where this is used
1850      * it is safe to set the level to 1. */
1851     matroska_reset_status(matroska, saved_id, before_pos);
1852
1853     return ret;
1854 }
1855
1856 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1857 {
1858     EbmlList *seekhead_list = &matroska->seekhead;
1859     int i;
1860
1861     // we should not do any seeking in the streaming case
1862     if (!(matroska->ctx->pb->seekable & AVIO_SEEKABLE_NORMAL))
1863         return;
1864
1865     for (i = 0; i < seekhead_list->nb_elem; i++) {
1866         MatroskaSeekhead *seekheads = seekhead_list->elem;
1867         uint32_t id = seekheads[i].id;
1868         int64_t pos = seekheads[i].pos + matroska->segment_start;
1869         MatroskaLevel1Element *elem;
1870
1871         if (id != seekheads[i].id || pos < matroska->segment_start)
1872             continue;
1873
1874         elem = matroska_find_level1_elem(matroska, id, pos);
1875         if (!elem || elem->parsed)
1876             continue;
1877
1878         elem->pos = pos;
1879
1880         // defer cues parsing until we actually need cue data.
1881         if (id == MATROSKA_ID_CUES)
1882             continue;
1883
1884         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1885             // mark index as broken
1886             matroska->cues_parsing_deferred = -1;
1887             break;
1888         }
1889
1890         elem->parsed = 1;
1891     }
1892 }
1893
1894 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1895 {
1896     EbmlList *index_list;
1897     MatroskaIndex *index;
1898     uint64_t index_scale = 1;
1899     int i, j;
1900
1901     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1902         return;
1903
1904     index_list = &matroska->index;
1905     index      = index_list->elem;
1906     if (index_list->nb_elem < 2)
1907         return;
1908     if (index[1].time > 1E14 / matroska->time_scale) {
1909         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1910         return;
1911     }
1912     for (i = 0; i < index_list->nb_elem; i++) {
1913         EbmlList *pos_list    = &index[i].pos;
1914         MatroskaIndexPos *pos = pos_list->elem;
1915         for (j = 0; j < pos_list->nb_elem; j++) {
1916             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1917                                                               pos[j].track);
1918             if (track && track->stream)
1919                 av_add_index_entry(track->stream,
1920                                    pos[j].pos + matroska->segment_start,
1921                                    index[i].time / index_scale, 0, 0,
1922                                    AVINDEX_KEYFRAME);
1923         }
1924     }
1925 }
1926
1927 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1928     int i;
1929
1930     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1931         return;
1932
1933     for (i = 0; i < matroska->num_level1_elems; i++) {
1934         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1935         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1936             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1937                 matroska->cues_parsing_deferred = -1;
1938             elem->parsed = 1;
1939             break;
1940         }
1941     }
1942
1943     matroska_add_index_entries(matroska);
1944 }
1945
1946 static int matroska_aac_profile(char *codec_id)
1947 {
1948     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1949     int profile;
1950
1951     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1952         if (strstr(codec_id, aac_profiles[profile]))
1953             break;
1954     return profile + 1;
1955 }
1956
1957 static int matroska_aac_sri(int samplerate)
1958 {
1959     int sri;
1960
1961     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1962         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1963             break;
1964     return sri;
1965 }
1966
1967 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1968 {
1969     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1970     avpriv_dict_set_timestamp(metadata, "creation_time", date_utc / 1000 + 978307200000000LL);
1971 }
1972
1973 static int matroska_parse_flac(AVFormatContext *s,
1974                                MatroskaTrack *track,
1975                                int *offset)
1976 {
1977     AVStream *st = track->stream;
1978     uint8_t *p = track->codec_priv.data;
1979     int size   = track->codec_priv.size;
1980
1981     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1982         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1983         track->codec_priv.size = 0;
1984         return 0;
1985     }
1986     *offset = 8;
1987     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1988
1989     p    += track->codec_priv.size;
1990     size -= track->codec_priv.size;
1991
1992     /* parse the remaining metadata blocks if present */
1993     while (size >= 4) {
1994         int block_last, block_type, block_size;
1995
1996         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1997
1998         p    += 4;
1999         size -= 4;
2000         if (block_size > size)
2001             return 0;
2002
2003         /* check for the channel mask */
2004         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
2005             AVDictionary *dict = NULL;
2006             AVDictionaryEntry *chmask;
2007
2008             ff_vorbis_comment(s, &dict, p, block_size, 0);
2009             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
2010             if (chmask) {
2011                 uint64_t mask = strtol(chmask->value, NULL, 0);
2012                 if (!mask || mask & ~0x3ffffULL) {
2013                     av_log(s, AV_LOG_WARNING,
2014                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
2015                 } else
2016                     st->codecpar->channel_layout = mask;
2017             }
2018             av_dict_free(&dict);
2019         }
2020
2021         p    += block_size;
2022         size -= block_size;
2023     }
2024
2025     return 0;
2026 }
2027
2028 static int mkv_field_order(MatroskaDemuxContext *matroska, int64_t field_order)
2029 {
2030     int major, minor, micro, bttb = 0;
2031
2032     /* workaround a bug in our Matroska muxer, introduced in version 57.36 alongside
2033      * this function, and fixed in 57.52 */
2034     if (matroska->muxingapp && sscanf(matroska->muxingapp, "Lavf%d.%d.%d", &major, &minor, &micro) == 3)
2035         bttb = (major == 57 && minor >= 36 && minor <= 51 && micro >= 100);
2036
2037     switch (field_order) {
2038     case MATROSKA_VIDEO_FIELDORDER_PROGRESSIVE:
2039         return AV_FIELD_PROGRESSIVE;
2040     case MATROSKA_VIDEO_FIELDORDER_UNDETERMINED:
2041         return AV_FIELD_UNKNOWN;
2042     case MATROSKA_VIDEO_FIELDORDER_TT:
2043         return AV_FIELD_TT;
2044     case MATROSKA_VIDEO_FIELDORDER_BB:
2045         return AV_FIELD_BB;
2046     case MATROSKA_VIDEO_FIELDORDER_BT:
2047         return bttb ? AV_FIELD_TB : AV_FIELD_BT;
2048     case MATROSKA_VIDEO_FIELDORDER_TB:
2049         return bttb ? AV_FIELD_BT : AV_FIELD_TB;
2050     default:
2051         return AV_FIELD_UNKNOWN;
2052     }
2053 }
2054
2055 static void mkv_stereo_mode_display_mul(int stereo_mode,
2056                                         int *h_width, int *h_height)
2057 {
2058     switch (stereo_mode) {
2059         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
2060         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
2061         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
2062         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
2063         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
2064             break;
2065         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
2066         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
2067         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
2068         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
2069             *h_width = 2;
2070             break;
2071         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
2072         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
2073         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
2074         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
2075             *h_height = 2;
2076             break;
2077     }
2078 }
2079
2080 static int mkv_parse_video_color(AVStream *st, const MatroskaTrack *track) {
2081     const MatroskaTrackVideoColor *color = track->video.color.elem;
2082     const MatroskaMasteringMeta *mastering_meta;
2083     int has_mastering_primaries, has_mastering_luminance;
2084
2085     if (!track->video.color.nb_elem)
2086         return 0;
2087
2088     mastering_meta = &color->mastering_meta;
2089     // Mastering primaries are CIE 1931 coords, and must be > 0.
2090     has_mastering_primaries =
2091         mastering_meta->r_x > 0 && mastering_meta->r_y > 0 &&
2092         mastering_meta->g_x > 0 && mastering_meta->g_y > 0 &&
2093         mastering_meta->b_x > 0 && mastering_meta->b_y > 0 &&
2094         mastering_meta->white_x > 0 && mastering_meta->white_y > 0;
2095     has_mastering_luminance = mastering_meta->max_luminance > 0;
2096
2097     if (color->matrix_coefficients != AVCOL_SPC_RESERVED)
2098         st->codecpar->color_space = color->matrix_coefficients;
2099     if (color->primaries != AVCOL_PRI_RESERVED &&
2100         color->primaries != AVCOL_PRI_RESERVED0)
2101         st->codecpar->color_primaries = color->primaries;
2102     if (color->transfer_characteristics != AVCOL_TRC_RESERVED &&
2103         color->transfer_characteristics != AVCOL_TRC_RESERVED0)
2104         st->codecpar->color_trc = color->transfer_characteristics;
2105     if (color->range != AVCOL_RANGE_UNSPECIFIED &&
2106         color->range <= AVCOL_RANGE_JPEG)
2107         st->codecpar->color_range = color->range;
2108     if (color->chroma_siting_horz != MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED &&
2109         color->chroma_siting_vert != MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED &&
2110         color->chroma_siting_horz  < MATROSKA_COLOUR_CHROMASITINGHORZ_NB &&
2111         color->chroma_siting_vert  < MATROSKA_COLOUR_CHROMASITINGVERT_NB) {
2112         st->codecpar->chroma_location =
2113             avcodec_chroma_pos_to_enum((color->chroma_siting_horz - 1) << 7,
2114                                        (color->chroma_siting_vert - 1) << 7);
2115     }
2116     if (color->max_cll && color->max_fall) {
2117         size_t size = 0;
2118         int ret;
2119         AVContentLightMetadata *metadata = av_content_light_metadata_alloc(&size);
2120         if (!metadata)
2121             return AVERROR(ENOMEM);
2122         ret = av_stream_add_side_data(st, AV_PKT_DATA_CONTENT_LIGHT_LEVEL,
2123                                       (uint8_t *)metadata, size);
2124         if (ret < 0) {
2125             av_freep(&metadata);
2126             return ret;
2127         }
2128         metadata->MaxCLL  = color->max_cll;
2129         metadata->MaxFALL = color->max_fall;
2130     }
2131
2132     if (has_mastering_primaries || has_mastering_luminance) {
2133         AVMasteringDisplayMetadata *metadata =
2134             (AVMasteringDisplayMetadata*) av_stream_new_side_data(
2135                 st, AV_PKT_DATA_MASTERING_DISPLAY_METADATA,
2136                 sizeof(AVMasteringDisplayMetadata));
2137         if (!metadata) {
2138             return AVERROR(ENOMEM);
2139         }
2140         memset(metadata, 0, sizeof(AVMasteringDisplayMetadata));
2141         if (has_mastering_primaries) {
2142             metadata->display_primaries[0][0] = av_d2q(mastering_meta->r_x, INT_MAX);
2143             metadata->display_primaries[0][1] = av_d2q(mastering_meta->r_y, INT_MAX);
2144             metadata->display_primaries[1][0] = av_d2q(mastering_meta->g_x, INT_MAX);
2145             metadata->display_primaries[1][1] = av_d2q(mastering_meta->g_y, INT_MAX);
2146             metadata->display_primaries[2][0] = av_d2q(mastering_meta->b_x, INT_MAX);
2147             metadata->display_primaries[2][1] = av_d2q(mastering_meta->b_y, INT_MAX);
2148             metadata->white_point[0] = av_d2q(mastering_meta->white_x, INT_MAX);
2149             metadata->white_point[1] = av_d2q(mastering_meta->white_y, INT_MAX);
2150             metadata->has_primaries = 1;
2151         }
2152         if (has_mastering_luminance) {
2153             metadata->max_luminance = av_d2q(mastering_meta->max_luminance, INT_MAX);
2154             metadata->min_luminance = av_d2q(mastering_meta->min_luminance, INT_MAX);
2155             metadata->has_luminance = 1;
2156         }
2157     }
2158     return 0;
2159 }
2160
2161 static int mkv_parse_video_projection(AVStream *st, const MatroskaTrack *track,
2162                                       void *logctx)
2163 {
2164     AVSphericalMapping *spherical;
2165     enum AVSphericalProjection projection;
2166     size_t spherical_size;
2167     uint32_t l = 0, t = 0, r = 0, b = 0;
2168     uint32_t padding = 0;
2169     int ret;
2170     GetByteContext gb;
2171
2172     bytestream2_init(&gb, track->video.projection.private.data,
2173                      track->video.projection.private.size);
2174
2175     if (bytestream2_get_byte(&gb) != 0) {
2176         av_log(logctx, AV_LOG_WARNING, "Unknown spherical metadata\n");
2177         return 0;
2178     }
2179
2180     bytestream2_skip(&gb, 3); // flags
2181
2182     switch (track->video.projection.type) {
2183     case MATROSKA_VIDEO_PROJECTION_TYPE_EQUIRECTANGULAR:
2184         if (track->video.projection.private.size == 20) {
2185             t = bytestream2_get_be32(&gb);
2186             b = bytestream2_get_be32(&gb);
2187             l = bytestream2_get_be32(&gb);
2188             r = bytestream2_get_be32(&gb);
2189
2190             if (b >= UINT_MAX - t || r >= UINT_MAX - l) {
2191                 av_log(logctx, AV_LOG_ERROR,
2192                        "Invalid bounding rectangle coordinates "
2193                        "%"PRIu32",%"PRIu32",%"PRIu32",%"PRIu32"\n",
2194                        l, t, r, b);
2195                 return AVERROR_INVALIDDATA;
2196             }
2197         } else if (track->video.projection.private.size != 0) {
2198             av_log(logctx, AV_LOG_ERROR, "Unknown spherical metadata\n");
2199             return AVERROR_INVALIDDATA;
2200         }
2201
2202         if (l || t || r || b)
2203             projection = AV_SPHERICAL_EQUIRECTANGULAR_TILE;
2204         else
2205             projection = AV_SPHERICAL_EQUIRECTANGULAR;
2206         break;
2207     case MATROSKA_VIDEO_PROJECTION_TYPE_CUBEMAP:
2208         if (track->video.projection.private.size < 4) {
2209             av_log(logctx, AV_LOG_ERROR, "Missing projection private properties\n");
2210             return AVERROR_INVALIDDATA;
2211         } else if (track->video.projection.private.size == 12) {
2212             uint32_t layout = bytestream2_get_be32(&gb);
2213             if (layout) {
2214                 av_log(logctx, AV_LOG_WARNING,
2215                        "Unknown spherical cubemap layout %"PRIu32"\n", layout);
2216                 return 0;
2217             }
2218             projection = AV_SPHERICAL_CUBEMAP;
2219             padding = bytestream2_get_be32(&gb);
2220         } else {
2221             av_log(logctx, AV_LOG_ERROR, "Unknown spherical metadata\n");
2222             return AVERROR_INVALIDDATA;
2223         }
2224         break;
2225     case MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR:
2226         /* No Spherical metadata */
2227         return 0;
2228     default:
2229         av_log(logctx, AV_LOG_WARNING,
2230                "Unknown spherical metadata type %"PRIu64"\n",
2231                track->video.projection.type);
2232         return 0;
2233     }
2234
2235     spherical = av_spherical_alloc(&spherical_size);
2236     if (!spherical)
2237         return AVERROR(ENOMEM);
2238
2239     spherical->projection = projection;
2240
2241     spherical->yaw   = (int32_t) (track->video.projection.yaw   * (1 << 16));
2242     spherical->pitch = (int32_t) (track->video.projection.pitch * (1 << 16));
2243     spherical->roll  = (int32_t) (track->video.projection.roll  * (1 << 16));
2244
2245     spherical->padding = padding;
2246
2247     spherical->bound_left   = l;
2248     spherical->bound_top    = t;
2249     spherical->bound_right  = r;
2250     spherical->bound_bottom = b;
2251
2252     ret = av_stream_add_side_data(st, AV_PKT_DATA_SPHERICAL, (uint8_t *)spherical,
2253                                   spherical_size);
2254     if (ret < 0) {
2255         av_freep(&spherical);
2256         return ret;
2257     }
2258
2259     return 0;
2260 }
2261
2262 static int get_qt_codec(MatroskaTrack *track, uint32_t *fourcc, enum AVCodecID *codec_id)
2263 {
2264     const AVCodecTag *codec_tags;
2265
2266     codec_tags = track->type == MATROSKA_TRACK_TYPE_VIDEO ?
2267             ff_codec_movvideo_tags : ff_codec_movaudio_tags;
2268
2269     /* Normalize noncompliant private data that starts with the fourcc
2270      * by expanding/shifting the data by 4 bytes and storing the data
2271      * size at the start. */
2272     if (ff_codec_get_id(codec_tags, AV_RL32(track->codec_priv.data))) {
2273         int ret = av_buffer_realloc(&track->codec_priv.buf,
2274                                     track->codec_priv.size + 4 + AV_INPUT_BUFFER_PADDING_SIZE);
2275         if (ret < 0)
2276             return ret;
2277
2278         track->codec_priv.data = track->codec_priv.buf->data;
2279         memmove(track->codec_priv.data + 4, track->codec_priv.data, track->codec_priv.size);
2280         track->codec_priv.size += 4;
2281         AV_WB32(track->codec_priv.data, track->codec_priv.size);
2282     }
2283
2284     *fourcc = AV_RL32(track->codec_priv.data + 4);
2285     *codec_id = ff_codec_get_id(codec_tags, *fourcc);
2286
2287     return 0;
2288 }
2289
2290 static int matroska_parse_tracks(AVFormatContext *s)
2291 {
2292     MatroskaDemuxContext *matroska = s->priv_data;
2293     MatroskaTrack *tracks = matroska->tracks.elem;
2294     AVStream *st;
2295     int i, j, ret;
2296     int k;
2297
2298     for (i = 0; i < matroska->tracks.nb_elem; i++) {
2299         MatroskaTrack *track = &tracks[i];
2300         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
2301         EbmlList *encodings_list = &track->encodings;
2302         MatroskaTrackEncoding *encodings = encodings_list->elem;
2303         uint8_t *extradata = NULL;
2304         int extradata_size = 0;
2305         int extradata_offset = 0;
2306         uint32_t fourcc = 0;
2307         AVIOContext b;
2308         char* key_id_base64 = NULL;
2309         int bit_depth = -1;
2310
2311         /* Apply some sanity checks. */
2312         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
2313             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
2314             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
2315             track->type != MATROSKA_TRACK_TYPE_METADATA) {
2316             av_log(matroska->ctx, AV_LOG_INFO,
2317                    "Unknown or unsupported track type %"PRIu64"\n",
2318                    track->type);
2319             continue;
2320         }
2321         if (!track->codec_id)
2322             continue;
2323
2324         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
2325             isnan(track->audio.samplerate)) {
2326             av_log(matroska->ctx, AV_LOG_WARNING,
2327                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
2328                    track->audio.samplerate);
2329             track->audio.samplerate = 8000;
2330         }
2331
2332         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2333             if (!track->default_duration && track->video.frame_rate > 0) {
2334                 double default_duration = 1000000000 / track->video.frame_rate;
2335                 if (default_duration > UINT64_MAX || default_duration < 0) {
2336                     av_log(matroska->ctx, AV_LOG_WARNING,
2337                          "Invalid frame rate %e. Cannot calculate default duration.\n",
2338                          track->video.frame_rate);
2339                 } else {
2340                     track->default_duration = default_duration;
2341                 }
2342             }
2343             if (track->video.display_width == -1)
2344                 track->video.display_width = track->video.pixel_width;
2345             if (track->video.display_height == -1)
2346                 track->video.display_height = track->video.pixel_height;
2347             if (track->video.color_space.size == 4)
2348                 fourcc = AV_RL32(track->video.color_space.data);
2349         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2350             if (!track->audio.out_samplerate)
2351                 track->audio.out_samplerate = track->audio.samplerate;
2352         }
2353         if (encodings_list->nb_elem > 1) {
2354             av_log(matroska->ctx, AV_LOG_ERROR,
2355                    "Multiple combined encodings not supported");
2356         } else if (encodings_list->nb_elem == 1) {
2357             if (encodings[0].type) {
2358                 if (encodings[0].encryption.key_id.size > 0) {
2359                     /* Save the encryption key id to be stored later as a
2360                        metadata tag. */
2361                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
2362                     key_id_base64 = av_malloc(b64_size);
2363                     if (key_id_base64 == NULL)
2364                         return AVERROR(ENOMEM);
2365
2366                     av_base64_encode(key_id_base64, b64_size,
2367                                      encodings[0].encryption.key_id.data,
2368                                      encodings[0].encryption.key_id.size);
2369                 } else {
2370                     encodings[0].scope = 0;
2371                     av_log(matroska->ctx, AV_LOG_ERROR,
2372                            "Unsupported encoding type");
2373                 }
2374             } else if (
2375 #if CONFIG_ZLIB
2376                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
2377 #endif
2378 #if CONFIG_BZLIB
2379                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
2380 #endif
2381 #if CONFIG_LZO
2382                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
2383 #endif
2384                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
2385                 encodings[0].scope = 0;
2386                 av_log(matroska->ctx, AV_LOG_ERROR,
2387                        "Unsupported encoding type");
2388             } else if (track->codec_priv.size && encodings[0].scope & 2) {
2389                 uint8_t *codec_priv = track->codec_priv.data;
2390                 int ret = matroska_decode_buffer(&track->codec_priv.data,
2391                                                  &track->codec_priv.size,
2392                                                  track);
2393                 if (ret < 0) {
2394                     track->codec_priv.data = NULL;
2395                     track->codec_priv.size = 0;
2396                     av_log(matroska->ctx, AV_LOG_ERROR,
2397                            "Failed to decode codec private data\n");
2398                 }
2399
2400                 if (codec_priv != track->codec_priv.data) {
2401                     av_buffer_unref(&track->codec_priv.buf);
2402                     if (track->codec_priv.data) {
2403                         track->codec_priv.buf = av_buffer_create(track->codec_priv.data,
2404                                                                  track->codec_priv.size + AV_INPUT_BUFFER_PADDING_SIZE,
2405                                                                  NULL, NULL, 0);
2406                         if (!track->codec_priv.buf) {
2407                             av_freep(&track->codec_priv.data);
2408                             track->codec_priv.size = 0;
2409                             return AVERROR(ENOMEM);
2410                         }
2411                     }
2412                 }
2413             }
2414         }
2415         track->needs_decoding = encodings && !encodings[0].type &&
2416                                 encodings[0].scope & 1          &&
2417                                 (encodings[0].compression.algo !=
2418                                    MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP ||
2419                                  encodings[0].compression.settings.size);
2420
2421         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
2422             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
2423                          strlen(ff_mkv_codec_tags[j].str))) {
2424                 codec_id = ff_mkv_codec_tags[j].id;
2425                 break;
2426             }
2427         }
2428
2429         st = track->stream = avformat_new_stream(s, NULL);
2430         if (!st) {
2431             av_free(key_id_base64);
2432             return AVERROR(ENOMEM);
2433         }
2434
2435         if (key_id_base64) {
2436             /* export encryption key id as base64 metadata tag */
2437             av_dict_set(&st->metadata, "enc_key_id", key_id_base64,
2438                         AV_DICT_DONT_STRDUP_VAL);
2439         }
2440
2441         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
2442              track->codec_priv.size >= 40               &&
2443             track->codec_priv.data) {
2444             track->ms_compat    = 1;
2445             bit_depth           = AV_RL16(track->codec_priv.data + 14);
2446             fourcc              = AV_RL32(track->codec_priv.data + 16);
2447             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
2448                                                   fourcc);
2449             if (!codec_id)
2450                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
2451                                                   fourcc);
2452             extradata_offset    = 40;
2453         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
2454                    track->codec_priv.size >= 14         &&
2455                    track->codec_priv.data) {
2456             int ret;
2457             ffio_init_context(&b, track->codec_priv.data,
2458                               track->codec_priv.size,
2459                               0, NULL, NULL, NULL, NULL);
2460             ret = ff_get_wav_header(s, &b, st->codecpar, track->codec_priv.size, 0);
2461             if (ret < 0)
2462                 return ret;
2463             codec_id         = st->codecpar->codec_id;
2464             fourcc           = st->codecpar->codec_tag;
2465             extradata_offset = FFMIN(track->codec_priv.size, 18);
2466         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
2467                    /* Normally 36, but allow noncompliant private data */
2468                    && (track->codec_priv.size >= 32)
2469                    && (track->codec_priv.data)) {
2470             uint16_t sample_size;
2471             int ret = get_qt_codec(track, &fourcc, &codec_id);
2472             if (ret < 0)
2473                 return ret;
2474             sample_size = AV_RB16(track->codec_priv.data + 26);
2475             if (fourcc == 0) {
2476                 if (sample_size == 8) {
2477                     fourcc = MKTAG('r','a','w',' ');
2478                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2479                 } else if (sample_size == 16) {
2480                     fourcc = MKTAG('t','w','o','s');
2481                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2482                 }
2483             }
2484             if ((fourcc == MKTAG('t','w','o','s') ||
2485                     fourcc == MKTAG('s','o','w','t')) &&
2486                     sample_size == 8)
2487                 codec_id = AV_CODEC_ID_PCM_S8;
2488         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
2489                    (track->codec_priv.size >= 21)          &&
2490                    (track->codec_priv.data)) {
2491             int ret = get_qt_codec(track, &fourcc, &codec_id);
2492             if (ret < 0)
2493                 return ret;
2494             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI ")) {
2495                 fourcc = MKTAG('S','V','Q','3');
2496                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
2497             }
2498             if (codec_id == AV_CODEC_ID_NONE)
2499                 av_log(matroska->ctx, AV_LOG_ERROR,
2500                        "mov FourCC not found %s.\n", av_fourcc2str(fourcc));
2501             if (track->codec_priv.size >= 86) {
2502                 bit_depth = AV_RB16(track->codec_priv.data + 82);
2503                 ffio_init_context(&b, track->codec_priv.data,
2504                                   track->codec_priv.size,
2505                                   0, NULL, NULL, NULL, NULL);
2506                 if (ff_get_qtpalette(codec_id, &b, track->palette)) {
2507                     bit_depth &= 0x1F;
2508                     track->has_palette = 1;
2509                 }
2510             }
2511         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
2512             switch (track->audio.bitdepth) {
2513             case  8:
2514                 codec_id = AV_CODEC_ID_PCM_U8;
2515                 break;
2516             case 24:
2517                 codec_id = AV_CODEC_ID_PCM_S24BE;
2518                 break;
2519             case 32:
2520                 codec_id = AV_CODEC_ID_PCM_S32BE;
2521                 break;
2522             }
2523         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
2524             switch (track->audio.bitdepth) {
2525             case  8:
2526                 codec_id = AV_CODEC_ID_PCM_U8;
2527                 break;
2528             case 24:
2529                 codec_id = AV_CODEC_ID_PCM_S24LE;
2530                 break;
2531             case 32:
2532                 codec_id = AV_CODEC_ID_PCM_S32LE;
2533                 break;
2534             }
2535         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
2536                    track->audio.bitdepth == 64) {
2537             codec_id = AV_CODEC_ID_PCM_F64LE;
2538         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
2539             int profile = matroska_aac_profile(track->codec_id);
2540             int sri     = matroska_aac_sri(track->audio.samplerate);
2541             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
2542             if (!extradata)
2543                 return AVERROR(ENOMEM);
2544             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
2545             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
2546             if (strstr(track->codec_id, "SBR")) {
2547                 sri            = matroska_aac_sri(track->audio.out_samplerate);
2548                 extradata[2]   = 0x56;
2549                 extradata[3]   = 0xE5;
2550                 extradata[4]   = 0x80 | (sri << 3);
2551                 extradata_size = 5;
2552             } else
2553                 extradata_size = 2;
2554         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
2555             /* Only ALAC's magic cookie is stored in Matroska's track headers.
2556              * Create the "atom size", "tag", and "tag version" fields the
2557              * decoder expects manually. */
2558             extradata_size = 12 + track->codec_priv.size;
2559             extradata      = av_mallocz(extradata_size +
2560                                         AV_INPUT_BUFFER_PADDING_SIZE);
2561             if (!extradata)
2562                 return AVERROR(ENOMEM);
2563             AV_WB32(extradata, extradata_size);
2564             memcpy(&extradata[4], "alac", 4);
2565             AV_WB32(&extradata[8], 0);
2566             memcpy(&extradata[12], track->codec_priv.data,
2567                    track->codec_priv.size);
2568         } else if (codec_id == AV_CODEC_ID_TTA) {
2569             uint8_t *ptr;
2570             if (track->audio.channels > UINT16_MAX ||
2571                 track->audio.bitdepth > UINT16_MAX) {
2572                 av_log(matroska->ctx, AV_LOG_WARNING,
2573                        "Too large audio channel number %"PRIu64
2574                        " or bitdepth %"PRIu64". Skipping track.\n",
2575                        track->audio.channels, track->audio.bitdepth);
2576                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
2577                     return AVERROR_INVALIDDATA;
2578                 else
2579                     continue;
2580             }
2581             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
2582                 return AVERROR_INVALIDDATA;
2583             extradata_size = 22;
2584             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
2585             if (!extradata)
2586                 return AVERROR(ENOMEM);
2587             ptr = extradata;
2588             bytestream_put_be32(&ptr, AV_RB32("TTA1"));
2589             bytestream_put_le16(&ptr, 1);
2590             bytestream_put_le16(&ptr, track->audio.channels);
2591             bytestream_put_le16(&ptr, track->audio.bitdepth);
2592             bytestream_put_le32(&ptr, track->audio.out_samplerate);
2593             bytestream_put_le32(&ptr, av_rescale(matroska->duration * matroska->time_scale,
2594                                                  track->audio.out_samplerate,
2595                                                  AV_TIME_BASE * 1000));
2596         } else if (codec_id == AV_CODEC_ID_RV10 ||
2597                    codec_id == AV_CODEC_ID_RV20 ||
2598                    codec_id == AV_CODEC_ID_RV30 ||
2599                    codec_id == AV_CODEC_ID_RV40) {
2600             extradata_offset = 26;
2601         } else if (codec_id == AV_CODEC_ID_RA_144) {
2602             track->audio.out_samplerate = 8000;
2603             track->audio.channels       = 1;
2604         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
2605                     codec_id == AV_CODEC_ID_COOK   ||
2606                     codec_id == AV_CODEC_ID_ATRAC3 ||
2607                     codec_id == AV_CODEC_ID_SIPR)
2608                       && track->codec_priv.data) {
2609             int flavor;
2610
2611             ffio_init_context(&b, track->codec_priv.data,
2612                               track->codec_priv.size,
2613                               0, NULL, NULL, NULL, NULL);
2614             avio_skip(&b, 22);
2615             flavor                       = avio_rb16(&b);
2616             track->audio.coded_framesize = avio_rb32(&b);
2617             avio_skip(&b, 12);
2618             track->audio.sub_packet_h    = avio_rb16(&b);
2619             track->audio.frame_size      = avio_rb16(&b);
2620             track->audio.sub_packet_size = avio_rb16(&b);
2621             if (track->audio.coded_framesize <= 0 ||
2622                 track->audio.sub_packet_h    <= 0 ||
2623                 track->audio.frame_size      <= 0)
2624                 return AVERROR_INVALIDDATA;
2625
2626             if (codec_id == AV_CODEC_ID_RA_288) {
2627                 if (track->audio.sub_packet_h & 1 || 2 * track->audio.frame_size
2628                     != (int64_t)track->audio.sub_packet_h * track->audio.coded_framesize)
2629                     return AVERROR_INVALIDDATA;
2630                 st->codecpar->block_align = track->audio.coded_framesize;
2631                 track->codec_priv.size = 0;
2632             } else {
2633                 if (codec_id == AV_CODEC_ID_SIPR) {
2634                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2635                     if (flavor > 3)
2636                         return AVERROR_INVALIDDATA;
2637                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2638                     st->codecpar->bit_rate          = sipr_bit_rate[flavor];
2639                 } else if (track->audio.sub_packet_size <= 0 ||
2640                            track->audio.frame_size % track->audio.sub_packet_size)
2641                     return AVERROR_INVALIDDATA;
2642                 st->codecpar->block_align = track->audio.sub_packet_size;
2643                 extradata_offset       = 78;
2644             }
2645             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2646                                                track->audio.frame_size);
2647             if (!track->audio.buf)
2648                 return AVERROR(ENOMEM);
2649         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2650             ret = matroska_parse_flac(s, track, &extradata_offset);
2651             if (ret < 0)
2652                 return ret;
2653         } else if (codec_id == AV_CODEC_ID_WAVPACK && track->codec_priv.size < 2) {
2654             av_log(matroska->ctx, AV_LOG_INFO, "Assuming WavPack version 4.10 "
2655                    "in absence of valid CodecPrivate.\n");
2656             extradata_size = 2;
2657             extradata = av_mallocz(2 + AV_INPUT_BUFFER_PADDING_SIZE);
2658             if (!extradata)
2659                 return AVERROR(ENOMEM);
2660             AV_WL16(extradata, 0x410);
2661         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2662             fourcc = AV_RL32(track->codec_priv.data);
2663         } else if (codec_id == AV_CODEC_ID_VP9 && track->codec_priv.size) {
2664             /* we don't need any value stored in CodecPrivate.
2665                make sure that it's not exported as extradata. */
2666             track->codec_priv.size = 0;
2667         } else if (codec_id == AV_CODEC_ID_AV1 && track->codec_priv.size) {
2668             /* For now, propagate only the OBUs, if any. Once libavcodec is
2669                updated to handle isobmff style extradata this can be removed. */
2670             extradata_offset = 4;
2671         }
2672         track->codec_priv.size -= extradata_offset;
2673
2674         if (codec_id == AV_CODEC_ID_NONE)
2675             av_log(matroska->ctx, AV_LOG_INFO,
2676                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2677
2678         if (track->time_scale < 0.01)
2679             track->time_scale = 1.0;
2680         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2681                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2682
2683         /* convert the delay from ns to the track timebase */
2684         track->codec_delay_in_track_tb = av_rescale_q(track->codec_delay,
2685                                           (AVRational){ 1, 1000000000 },
2686                                           st->time_base);
2687
2688         st->codecpar->codec_id = codec_id;
2689
2690         if (strcmp(track->language, "und"))
2691             av_dict_set(&st->metadata, "language", track->language, 0);
2692         av_dict_set(&st->metadata, "title", track->name, 0);
2693
2694         if (track->flag_default)
2695             st->disposition |= AV_DISPOSITION_DEFAULT;
2696         if (track->flag_forced)
2697             st->disposition |= AV_DISPOSITION_FORCED;
2698
2699         if (!st->codecpar->extradata) {
2700             if (extradata) {
2701                 st->codecpar->extradata      = extradata;
2702                 st->codecpar->extradata_size = extradata_size;
2703             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2704                 if (ff_alloc_extradata(st->codecpar, track->codec_priv.size))
2705                     return AVERROR(ENOMEM);
2706                 memcpy(st->codecpar->extradata,
2707                        track->codec_priv.data + extradata_offset,
2708                        track->codec_priv.size);
2709             }
2710         }
2711
2712         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2713             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2714             int display_width_mul  = 1;
2715             int display_height_mul = 1;
2716
2717             st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2718             st->codecpar->codec_tag  = fourcc;
2719             if (bit_depth >= 0)
2720                 st->codecpar->bits_per_coded_sample = bit_depth;
2721             st->codecpar->width      = track->video.pixel_width;
2722             st->codecpar->height     = track->video.pixel_height;
2723
2724             if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_INTERLACED)
2725                 st->codecpar->field_order = mkv_field_order(matroska, track->video.field_order);
2726             else if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_PROGRESSIVE)
2727                 st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2728
2729             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2730                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2731
2732             if (track->video.display_unit < MATROSKA_VIDEO_DISPLAYUNIT_UNKNOWN) {
2733                 av_reduce(&st->sample_aspect_ratio.num,
2734                           &st->sample_aspect_ratio.den,
2735                           st->codecpar->height * track->video.display_width  * display_width_mul,
2736                           st->codecpar->width  * track->video.display_height * display_height_mul,
2737                           255);
2738             }
2739             if (st->codecpar->codec_id != AV_CODEC_ID_HEVC)
2740                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2741
2742             if (track->default_duration) {
2743                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2744                           1000000000, track->default_duration, 30000);
2745 #if FF_API_R_FRAME_RATE
2746                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2747                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2748                     st->r_frame_rate = st->avg_frame_rate;
2749 #endif
2750             }
2751
2752             /* export stereo mode flag as metadata tag */
2753             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2754                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2755
2756             /* export alpha mode flag as metadata tag  */
2757             if (track->video.alpha_mode)
2758                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2759
2760             /* if we have virtual track, mark the real tracks */
2761             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2762                 char buf[32];
2763                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2764                     continue;
2765                 snprintf(buf, sizeof(buf), "%s_%d",
2766                          ff_matroska_video_stereo_plane[planes[j].type], i);
2767                 for (k=0; k < matroska->tracks.nb_elem; k++)
2768                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2769                         av_dict_set(&tracks[k].stream->metadata,
2770                                     "stereo_mode", buf, 0);
2771                         break;
2772                     }
2773             }
2774             // add stream level stereo3d side data if it is a supported format
2775             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2776                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2777                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2778                 if (ret < 0)
2779                     return ret;
2780             }
2781
2782             ret = mkv_parse_video_color(st, track);
2783             if (ret < 0)
2784                 return ret;
2785             ret = mkv_parse_video_projection(st, track, matroska->ctx);
2786             if (ret < 0)
2787                 return ret;
2788         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2789             st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
2790             st->codecpar->codec_tag   = fourcc;
2791             st->codecpar->sample_rate = track->audio.out_samplerate;
2792             st->codecpar->channels    = track->audio.channels;
2793             if (!st->codecpar->bits_per_coded_sample)
2794                 st->codecpar->bits_per_coded_sample = track->audio.bitdepth;
2795             if (st->codecpar->codec_id == AV_CODEC_ID_MP3 ||
2796                 st->codecpar->codec_id == AV_CODEC_ID_MLP ||
2797                 st->codecpar->codec_id == AV_CODEC_ID_TRUEHD)
2798                 st->need_parsing = AVSTREAM_PARSE_FULL;
2799             else if (st->codecpar->codec_id != AV_CODEC_ID_AAC)
2800                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2801             if (track->codec_delay > 0) {
2802                 st->codecpar->initial_padding = av_rescale_q(track->codec_delay,
2803                                                              (AVRational){1, 1000000000},
2804                                                              (AVRational){1, st->codecpar->codec_id == AV_CODEC_ID_OPUS ?
2805                                                                              48000 : st->codecpar->sample_rate});
2806             }
2807             if (track->seek_preroll > 0) {
2808                 st->codecpar->seek_preroll = av_rescale_q(track->seek_preroll,
2809                                                           (AVRational){1, 1000000000},
2810                                                           (AVRational){1, st->codecpar->sample_rate});
2811             }
2812         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2813             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2814
2815             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2816                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2817             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2818                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2819             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2820                 st->disposition |= AV_DISPOSITION_METADATA;
2821             }
2822         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2823             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2824         }
2825     }
2826
2827     return 0;
2828 }
2829
2830 static int matroska_read_header(AVFormatContext *s)
2831 {
2832     MatroskaDemuxContext *matroska = s->priv_data;
2833     EbmlList *attachments_list = &matroska->attachments;
2834     EbmlList *chapters_list    = &matroska->chapters;
2835     MatroskaAttachment *attachments;
2836     MatroskaChapter *chapters;
2837     uint64_t max_start = 0;
2838     int64_t pos;
2839     Ebml ebml = { 0 };
2840     int i, j, res;
2841
2842     matroska->ctx = s;
2843     matroska->cues_parsing_deferred = 1;
2844
2845     /* First read the EBML header. */
2846     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2847         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2848         ebml_free(ebml_syntax, &ebml);
2849         return AVERROR_INVALIDDATA;
2850     }
2851     if (ebml.version         > EBML_VERSION      ||
2852         ebml.max_size        > sizeof(uint64_t)  ||
2853         ebml.id_length       > sizeof(uint32_t)  ||
2854         ebml.doctype_version > 3) {
2855         avpriv_report_missing_feature(matroska->ctx,
2856                                       "EBML version %"PRIu64", doctype %s, doc version %"PRIu64,
2857                                       ebml.version, ebml.doctype, ebml.doctype_version);
2858         ebml_free(ebml_syntax, &ebml);
2859         return AVERROR_PATCHWELCOME;
2860     } else if (ebml.doctype_version == 3) {
2861         av_log(matroska->ctx, AV_LOG_WARNING,
2862                "EBML header using unsupported features\n"
2863                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2864                ebml.version, ebml.doctype, ebml.doctype_version);
2865     }
2866     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2867         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2868             break;
2869     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2870         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2871         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2872             ebml_free(ebml_syntax, &ebml);
2873             return AVERROR_INVALIDDATA;
2874         }
2875     }
2876     ebml_free(ebml_syntax, &ebml);
2877
2878     /* The next thing is a segment. */
2879     pos = avio_tell(matroska->ctx->pb);
2880     res = ebml_parse(matroska, matroska_segments, matroska);
2881     // Try resyncing until we find an EBML_STOP type element.
2882     while (res != 1) {
2883         res = matroska_resync(matroska, pos);
2884         if (res < 0)
2885             goto fail;
2886         pos = avio_tell(matroska->ctx->pb);
2887         res = ebml_parse(matroska, matroska_segment, matroska);
2888     }
2889     /* Set data_offset as it might be needed later by seek_frame_generic. */
2890     if (matroska->current_id == MATROSKA_ID_CLUSTER)
2891         s->internal->data_offset = avio_tell(matroska->ctx->pb) - 4;
2892     matroska_execute_seekhead(matroska);
2893
2894     if (!matroska->time_scale)
2895         matroska->time_scale = 1000000;
2896     if (matroska->duration)
2897         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2898                                   1000 / AV_TIME_BASE;
2899     av_dict_set(&s->metadata, "title", matroska->title, 0);
2900     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2901
2902     if (matroska->date_utc.size == 8)
2903         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2904
2905     res = matroska_parse_tracks(s);
2906     if (res < 0)
2907         goto fail;
2908
2909     attachments = attachments_list->elem;
2910     for (j = 0; j < attachments_list->nb_elem; j++) {
2911         if (!(attachments[j].filename && attachments[j].mime &&
2912               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2913             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2914         } else {
2915             AVStream *st = avformat_new_stream(s, NULL);
2916             if (!st)
2917                 break;
2918             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2919             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2920             if (attachments[j].description)
2921                 av_dict_set(&st->metadata, "title", attachments[j].description, 0);
2922             st->codecpar->codec_id   = AV_CODEC_ID_NONE;
2923
2924             for (i = 0; mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2925                 if (!strncmp(mkv_image_mime_tags[i].str, attachments[j].mime,
2926                              strlen(mkv_image_mime_tags[i].str))) {
2927                     st->codecpar->codec_id = mkv_image_mime_tags[i].id;
2928                     break;
2929                 }
2930             }
2931
2932             attachments[j].stream = st;
2933
2934             if (st->codecpar->codec_id != AV_CODEC_ID_NONE) {
2935                 AVPacket *pkt = &st->attached_pic;
2936
2937                 st->disposition         |= AV_DISPOSITION_ATTACHED_PIC;
2938                 st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2939
2940                 av_init_packet(pkt);
2941                 pkt->buf          = attachments[j].bin.buf;
2942                 attachments[j].bin.buf = NULL;
2943                 pkt->data         = attachments[j].bin.data;
2944                 pkt->size         = attachments[j].bin.size;
2945                 pkt->stream_index = st->index;
2946                 pkt->flags       |= AV_PKT_FLAG_KEY;
2947             } else {
2948                 st->codecpar->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2949                 if (ff_alloc_extradata(st->codecpar, attachments[j].bin.size))
2950                     break;
2951                 memcpy(st->codecpar->extradata, attachments[j].bin.data,
2952                        attachments[j].bin.size);
2953
2954                 for (i = 0; mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2955                     if (!strncmp(mkv_mime_tags[i].str, attachments[j].mime,
2956                                 strlen(mkv_mime_tags[i].str))) {
2957                         st->codecpar->codec_id = mkv_mime_tags[i].id;
2958                         break;
2959                     }
2960                 }
2961             }
2962         }
2963     }
2964
2965     chapters = chapters_list->elem;
2966     for (i = 0; i < chapters_list->nb_elem; i++)
2967         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2968             (max_start == 0 || chapters[i].start > max_start)) {
2969             chapters[i].chapter =
2970                 avpriv_new_chapter(s, chapters[i].uid,
2971                                    (AVRational) { 1, 1000000000 },
2972                                    chapters[i].start, chapters[i].end,
2973                                    chapters[i].title);
2974             max_start = chapters[i].start;
2975         }
2976
2977     matroska_add_index_entries(matroska);
2978
2979     matroska_convert_tags(s);
2980
2981     return 0;
2982 fail:
2983     matroska_read_close(s);
2984     return res;
2985 }
2986
2987 /*
2988  * Put one packet in an application-supplied AVPacket struct.
2989  * Returns 0 on success or -1 on failure.
2990  */
2991 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2992                                    AVPacket *pkt)
2993 {
2994     if (matroska->queue) {
2995         MatroskaTrack *tracks = matroska->tracks.elem;
2996         MatroskaTrack *track;
2997
2998         ff_packet_list_get(&matroska->queue, &matroska->queue_end, pkt);
2999         track = &tracks[pkt->stream_index];
3000         if (track->has_palette) {
3001             uint8_t *pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
3002             if (!pal) {
3003                 av_log(matroska->ctx, AV_LOG_ERROR, "Cannot append palette to packet\n");
3004             } else {
3005                 memcpy(pal, track->palette, AVPALETTE_SIZE);
3006             }
3007             track->has_palette = 0;
3008         }
3009         return 0;
3010     }
3011
3012     return -1;
3013 }
3014
3015 /*
3016  * Free all packets in our internal queue.
3017  */
3018 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
3019 {
3020     ff_packet_list_free(&matroska->queue, &matroska->queue_end);
3021 }
3022
3023 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
3024                                 int size, int type, AVIOContext *pb,
3025                                 uint32_t lace_size[256], int *laces)
3026 {
3027     int n;
3028     uint8_t *data = *buf;
3029
3030     if (!type) {
3031         *laces    = 1;
3032         lace_size[0] = size;
3033         return 0;
3034     }
3035
3036     if (size <= 0)
3037         return AVERROR_INVALIDDATA;
3038
3039     *laces = *data + 1;
3040     data  += 1;
3041     size  -= 1;
3042
3043     switch (type) {
3044     case 0x1: /* Xiph lacing */
3045     {
3046         uint8_t temp;
3047         uint32_t total = 0;
3048         for (n = 0; n < *laces - 1; n++) {
3049             lace_size[n] = 0;
3050
3051             do {
3052                 if (size <= total)
3053                     return AVERROR_INVALIDDATA;
3054                 temp          = *data;
3055                 total        += temp;
3056                 lace_size[n] += temp;
3057                 data         += 1;
3058                 size         -= 1;
3059             } while (temp ==  0xff);
3060         }
3061         if (size < total)
3062             return AVERROR_INVALIDDATA;
3063
3064         lace_size[n] = size - total;
3065         break;
3066     }
3067
3068     case 0x2: /* fixed-size lacing */
3069         if (size % (*laces))
3070             return AVERROR_INVALIDDATA;
3071         for (n = 0; n < *laces; n++)
3072             lace_size[n] = size / *laces;
3073         break;
3074
3075     case 0x3: /* EBML lacing */
3076     {
3077         uint64_t num;
3078         uint64_t total;
3079         int offset;
3080
3081         avio_skip(pb, 4);
3082
3083         n = ebml_read_num(matroska, pb, 8, &num, 1);
3084         if (n < 0)
3085             return n;
3086         if (num > INT_MAX)
3087             return AVERROR_INVALIDDATA;
3088
3089         total = lace_size[0] = num;
3090         offset = n;
3091         for (n = 1; n < *laces - 1; n++) {
3092             int64_t snum;
3093             int r;
3094             r = matroska_ebmlnum_sint(matroska, pb, &snum);
3095             if (r < 0)
3096                 return r;
3097             if (lace_size[n - 1] + snum > (uint64_t)INT_MAX)
3098                 return AVERROR_INVALIDDATA;
3099
3100             lace_size[n] = lace_size[n - 1] + snum;
3101             total       += lace_size[n];
3102             offset      += r;
3103         }
3104         data += offset;
3105         size -= offset;
3106         if (size < total)
3107             return AVERROR_INVALIDDATA;
3108
3109         lace_size[*laces - 1] = size - total;
3110         break;
3111     }
3112     }
3113
3114     *buf = data;
3115
3116     return 0;
3117 }
3118
3119 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
3120                                    MatroskaTrack *track, AVStream *st,
3121                                    uint8_t *data, int size, uint64_t timecode,
3122                                    int64_t pos)
3123 {
3124     const int a   = st->codecpar->block_align;
3125     const int sps = track->audio.sub_packet_size;
3126     const int cfs = track->audio.coded_framesize;
3127     const int h   = track->audio.sub_packet_h;
3128     const int w   = track->audio.frame_size;
3129     int y   = track->audio.sub_packet_cnt;
3130     int x;
3131
3132     if (!track->audio.pkt_cnt) {
3133         if (track->audio.sub_packet_cnt == 0)
3134             track->audio.buf_timecode = timecode;
3135         if (st->codecpar->codec_id == AV_CODEC_ID_RA_288) {
3136             if (size < cfs * h / 2) {
3137                 av_log(matroska->ctx, AV_LOG_ERROR,
3138                        "Corrupt int4 RM-style audio packet size\n");
3139                 return AVERROR_INVALIDDATA;
3140             }
3141             for (x = 0; x < h / 2; x++)
3142                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
3143                        data + x * cfs, cfs);
3144         } else if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
3145             if (size < w) {
3146                 av_log(matroska->ctx, AV_LOG_ERROR,
3147                        "Corrupt sipr RM-style audio packet size\n");
3148                 return AVERROR_INVALIDDATA;
3149             }
3150             memcpy(track->audio.buf + y * w, data, w);
3151         } else {
3152             if (size < w) {
3153                 av_log(matroska->ctx, AV_LOG_ERROR,
3154                        "Corrupt generic RM-style audio packet size\n");
3155                 return AVERROR_INVALIDDATA;
3156             }
3157             for (x = 0; x < w / sps; x++)
3158                 memcpy(track->audio.buf +
3159                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
3160                        data + x * sps, sps);
3161         }
3162
3163         if (++track->audio.sub_packet_cnt >= h) {
3164             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR)
3165                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
3166             track->audio.sub_packet_cnt = 0;
3167             track->audio.pkt_cnt        = h * w / a;
3168         }
3169     }
3170
3171     while (track->audio.pkt_cnt) {
3172         int ret;
3173         AVPacket pktl, *pkt = &pktl;
3174
3175         ret = av_new_packet(pkt, a);
3176         if (ret < 0) {
3177             return ret;
3178         }
3179         memcpy(pkt->data,
3180                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
3181                a);
3182         pkt->pts                  = track->audio.buf_timecode;
3183         track->audio.buf_timecode = AV_NOPTS_VALUE;
3184         pkt->pos                  = pos;
3185         pkt->stream_index         = st->index;
3186         ret = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3187         if (ret < 0) {
3188             av_packet_unref(pkt);
3189             return AVERROR(ENOMEM);
3190         }
3191     }
3192
3193     return 0;
3194 }
3195
3196 /* reconstruct full wavpack blocks from mangled matroska ones */
3197 static int matroska_parse_wavpack(MatroskaTrack *track,
3198                                   uint8_t **data, int *size)
3199 {
3200     uint8_t *dst = NULL;
3201     uint8_t *src = *data;
3202     int dstlen   = 0;
3203     int srclen   = *size;
3204     uint32_t samples;
3205     uint16_t ver;
3206     int ret, offset = 0;
3207
3208     if (srclen < 12)
3209         return AVERROR_INVALIDDATA;
3210
3211     av_assert1(track->stream->codecpar->extradata_size >= 2);
3212     ver = AV_RL16(track->stream->codecpar->extradata);
3213
3214     samples = AV_RL32(src);
3215     src    += 4;
3216     srclen -= 4;
3217
3218     while (srclen >= 8) {
3219         int multiblock;
3220         uint32_t blocksize;
3221         uint8_t *tmp;
3222
3223         uint32_t flags = AV_RL32(src);
3224         uint32_t crc   = AV_RL32(src + 4);
3225         src    += 8;
3226         srclen -= 8;
3227
3228         multiblock = (flags & 0x1800) != 0x1800;
3229         if (multiblock) {
3230             if (srclen < 4) {
3231                 ret = AVERROR_INVALIDDATA;
3232                 goto fail;
3233             }
3234             blocksize = AV_RL32(src);
3235             src      += 4;
3236             srclen   -= 4;
3237         } else
3238             blocksize = srclen;
3239
3240         if (blocksize > srclen) {
3241             ret = AVERROR_INVALIDDATA;
3242             goto fail;
3243         }
3244
3245         tmp = av_realloc(dst, dstlen + blocksize + 32 + AV_INPUT_BUFFER_PADDING_SIZE);
3246         if (!tmp) {
3247             ret = AVERROR(ENOMEM);
3248             goto fail;
3249         }
3250         dst     = tmp;
3251         dstlen += blocksize + 32;
3252
3253         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
3254         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
3255         AV_WL16(dst + offset +  8, ver);                    // version
3256         AV_WL16(dst + offset + 10, 0);                      // track/index_no
3257         AV_WL32(dst + offset + 12, 0);                      // total samples
3258         AV_WL32(dst + offset + 16, 0);                      // block index
3259         AV_WL32(dst + offset + 20, samples);                // number of samples
3260         AV_WL32(dst + offset + 24, flags);                  // flags
3261         AV_WL32(dst + offset + 28, crc);                    // crc
3262         memcpy(dst + offset + 32, src, blocksize);          // block data
3263
3264         src    += blocksize;
3265         srclen -= blocksize;
3266         offset += blocksize + 32;
3267     }
3268
3269     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3270
3271     *data = dst;
3272     *size = dstlen;
3273
3274     return 0;
3275
3276 fail:
3277     av_freep(&dst);
3278     return ret;
3279 }
3280
3281 static int matroska_parse_prores(MatroskaTrack *track,
3282                                  uint8_t **data, int *size)
3283 {
3284     uint8_t *dst;
3285     int dstlen = *size + 8;
3286
3287     dst = av_malloc(dstlen + AV_INPUT_BUFFER_PADDING_SIZE);
3288     if (!dst)
3289         return AVERROR(ENOMEM);
3290
3291     AV_WB32(dst, dstlen);
3292     AV_WB32(dst + 4, MKBETAG('i', 'c', 'p', 'f'));
3293     memcpy(dst + 8, *data, dstlen - 8);
3294     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3295
3296     *data = dst;
3297     *size = dstlen;
3298
3299     return 0;
3300 }
3301
3302 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
3303                                  MatroskaTrack *track,
3304                                  AVStream *st,
3305                                  uint8_t *data, int data_len,
3306                                  uint64_t timecode,
3307                                  uint64_t duration,
3308                                  int64_t pos)
3309 {
3310     AVPacket pktl, *pkt = &pktl;
3311     uint8_t *id, *settings, *text, *buf;
3312     int id_len, settings_len, text_len;
3313     uint8_t *p, *q;
3314     int err;
3315
3316     if (data_len <= 0)
3317         return AVERROR_INVALIDDATA;
3318
3319     p = data;
3320     q = data + data_len;
3321
3322     id = p;
3323     id_len = -1;
3324     while (p < q) {
3325         if (*p == '\r' || *p == '\n') {
3326             id_len = p - id;
3327             if (*p == '\r')
3328                 p++;
3329             break;
3330         }
3331         p++;
3332     }
3333
3334     if (p >= q || *p != '\n')
3335         return AVERROR_INVALIDDATA;
3336     p++;
3337
3338     settings = p;
3339     settings_len = -1;
3340     while (p < q) {
3341         if (*p == '\r' || *p == '\n') {
3342             settings_len = p - settings;
3343             if (*p == '\r')
3344                 p++;
3345             break;
3346         }
3347         p++;
3348     }
3349
3350     if (p >= q || *p != '\n')
3351         return AVERROR_INVALIDDATA;
3352     p++;
3353
3354     text = p;
3355     text_len = q - p;
3356     while (text_len > 0) {
3357         const int len = text_len - 1;
3358         const uint8_t c = p[len];
3359         if (c != '\r' && c != '\n')
3360             break;
3361         text_len = len;
3362     }
3363
3364     if (text_len <= 0)
3365         return AVERROR_INVALIDDATA;
3366
3367     err = av_new_packet(pkt, text_len);
3368     if (err < 0) {
3369         return err;
3370     }
3371
3372     memcpy(pkt->data, text, text_len);
3373
3374     if (id_len > 0) {
3375         buf = av_packet_new_side_data(pkt,
3376                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
3377                                       id_len);
3378         if (!buf) {
3379             av_packet_unref(pkt);
3380             return AVERROR(ENOMEM);
3381         }
3382         memcpy(buf, id, id_len);
3383     }
3384
3385     if (settings_len > 0) {
3386         buf = av_packet_new_side_data(pkt,
3387                                       AV_PKT_DATA_WEBVTT_SETTINGS,
3388                                       settings_len);
3389         if (!buf) {
3390             av_packet_unref(pkt);
3391             return AVERROR(ENOMEM);
3392         }
3393         memcpy(buf, settings, settings_len);
3394     }
3395
3396     // Do we need this for subtitles?
3397     // pkt->flags = AV_PKT_FLAG_KEY;
3398
3399     pkt->stream_index = st->index;
3400     pkt->pts = timecode;
3401
3402     // Do we need this for subtitles?
3403     // pkt->dts = timecode;
3404
3405     pkt->duration = duration;
3406     pkt->pos = pos;
3407
3408     err = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3409     if (err < 0) {
3410         av_packet_unref(pkt);
3411         return AVERROR(ENOMEM);
3412     }
3413
3414     return 0;
3415 }
3416
3417 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
3418                                 MatroskaTrack *track, AVStream *st,
3419                                 AVBufferRef *buf, uint8_t *data, int pkt_size,
3420                                 uint64_t timecode, uint64_t lace_duration,
3421                                 int64_t pos, int is_keyframe,
3422                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3423                                 int64_t discard_padding)
3424 {
3425     uint8_t *pkt_data = data;
3426     int res = 0;
3427     AVPacket pktl, *pkt = &pktl;
3428
3429     if (st->codecpar->codec_id == AV_CODEC_ID_WAVPACK) {
3430         res = matroska_parse_wavpack(track, &pkt_data, &pkt_size);
3431         if (res < 0) {
3432             av_log(matroska->ctx, AV_LOG_ERROR,
3433                    "Error parsing a wavpack block.\n");
3434             goto fail;
3435         }
3436         if (!buf)
3437             av_freep(&data);
3438         buf = NULL;
3439     }
3440
3441     if (st->codecpar->codec_id == AV_CODEC_ID_PRORES &&
3442         AV_RB32(pkt_data + 4)  != MKBETAG('i', 'c', 'p', 'f')) {
3443         res = matroska_parse_prores(track, &pkt_data, &pkt_size);
3444         if (res < 0) {
3445             av_log(matroska->ctx, AV_LOG_ERROR,
3446                    "Error parsing a prores block.\n");
3447             goto fail;
3448         }
3449         if (!buf)
3450             av_freep(&data);
3451         buf = NULL;
3452     }
3453
3454     if (!pkt_size && !additional_size)
3455         goto no_output;
3456
3457     av_init_packet(pkt);
3458     if (!buf)
3459         pkt->buf = av_buffer_create(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE,
3460                                     NULL, NULL, 0);
3461     else
3462         pkt->buf = av_buffer_ref(buf);
3463
3464     if (!pkt->buf) {
3465         res = AVERROR(ENOMEM);
3466         goto fail;
3467     }
3468
3469     pkt->data         = pkt_data;
3470     pkt->size         = pkt_size;
3471     pkt->flags        = is_keyframe;
3472     pkt->stream_index = st->index;
3473
3474     if (additional_size > 0) {
3475         uint8_t *side_data = av_packet_new_side_data(pkt,
3476                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
3477                                                      additional_size + 8);
3478         if (!side_data) {
3479             av_packet_unref(pkt);
3480             return AVERROR(ENOMEM);
3481         }
3482         AV_WB64(side_data, additional_id);
3483         memcpy(side_data + 8, additional, additional_size);
3484     }
3485
3486     if (discard_padding) {
3487         uint8_t *side_data = av_packet_new_side_data(pkt,
3488                                                      AV_PKT_DATA_SKIP_SAMPLES,
3489                                                      10);
3490         if (!side_data) {
3491             av_packet_unref(pkt);
3492             return AVERROR(ENOMEM);
3493         }
3494         discard_padding = av_rescale_q(discard_padding,
3495                                             (AVRational){1, 1000000000},
3496                                             (AVRational){1, st->codecpar->sample_rate});
3497         if (discard_padding > 0) {
3498             AV_WL32(side_data + 4, discard_padding);
3499         } else {
3500             AV_WL32(side_data, -discard_padding);
3501         }
3502     }
3503
3504     if (track->ms_compat)
3505         pkt->dts = timecode;
3506     else
3507         pkt->pts = timecode;
3508     pkt->pos = pos;
3509     pkt->duration = lace_duration;
3510
3511 #if FF_API_CONVERGENCE_DURATION
3512 FF_DISABLE_DEPRECATION_WARNINGS
3513     if (st->codecpar->codec_id == AV_CODEC_ID_SUBRIP) {
3514         pkt->convergence_duration = lace_duration;
3515     }
3516 FF_ENABLE_DEPRECATION_WARNINGS
3517 #endif
3518
3519     res = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3520     if (res < 0) {
3521         av_packet_unref(pkt);
3522         return AVERROR(ENOMEM);
3523     }
3524
3525     return 0;
3526
3527 no_output:
3528 fail:
3529     if (!buf)
3530         av_free(pkt_data);
3531     return res;
3532 }
3533
3534 static int matroska_parse_block(MatroskaDemuxContext *matroska, AVBufferRef *buf, uint8_t *data,
3535                                 int size, int64_t pos, uint64_t cluster_time,
3536                                 uint64_t block_duration, int is_keyframe,
3537                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3538                                 int64_t cluster_pos, int64_t discard_padding)
3539 {
3540     uint64_t timecode = AV_NOPTS_VALUE;
3541     MatroskaTrack *track;
3542     AVIOContext pb;
3543     int res = 0;
3544     AVStream *st;
3545     int16_t block_time;
3546     uint32_t lace_size[256];
3547     int n, flags, laces = 0;
3548     uint64_t num;
3549     int trust_default_duration = 1;
3550
3551     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
3552
3553     if ((n = ebml_read_num(matroska, &pb, 8, &num, 1)) < 0)
3554         return n;
3555     data += n;
3556     size -= n;
3557
3558     track = matroska_find_track_by_num(matroska, num);
3559     if (!track || size < 3)
3560         return AVERROR_INVALIDDATA;
3561
3562     if (!(st = track->stream)) {
3563         av_log(matroska->ctx, AV_LOG_VERBOSE,
3564                "No stream associated to TrackNumber %"PRIu64". "
3565                "Ignoring Block with this TrackNumber.\n", num);
3566         return 0;
3567     }
3568
3569     if (st->discard >= AVDISCARD_ALL)
3570         return res;
3571     if (block_duration > INT64_MAX)
3572         block_duration = INT64_MAX;
3573
3574     block_time = sign_extend(AV_RB16(data), 16);
3575     data      += 2;
3576     flags      = *data++;
3577     size      -= 3;
3578     if (is_keyframe == -1)
3579         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
3580
3581     if (cluster_time != (uint64_t) -1 &&
3582         (block_time >= 0 || cluster_time >= -block_time)) {
3583         timecode = cluster_time + block_time - track->codec_delay_in_track_tb;
3584         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3585             timecode < track->end_timecode)
3586             is_keyframe = 0;  /* overlapping subtitles are not key frame */
3587         if (is_keyframe) {
3588             ff_reduce_index(matroska->ctx, st->index);
3589             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
3590                                AVINDEX_KEYFRAME);
3591         }
3592     }
3593
3594     if (matroska->skip_to_keyframe &&
3595         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
3596         // Compare signed timecodes. Timecode may be negative due to codec delay
3597         // offset. We don't support timestamps greater than int64_t anyway - see
3598         // AVPacket's pts.
3599         if ((int64_t)timecode < (int64_t)matroska->skip_to_timecode)
3600             return res;
3601         if (is_keyframe)
3602             matroska->skip_to_keyframe = 0;
3603         else if (!st->skip_to_keyframe) {
3604             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
3605             matroska->skip_to_keyframe = 0;
3606         }
3607     }
3608
3609     res = matroska_parse_laces(matroska, &data, size, (flags & 0x06) >> 1,
3610                                &pb, lace_size, &laces);
3611     if (res < 0) {
3612         av_log(matroska->ctx, AV_LOG_ERROR, "Error parsing frame sizes.\n");
3613         return res;
3614     }
3615
3616     if (track->audio.samplerate == 8000) {
3617         // If this is needed for more codecs, then add them here
3618         if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
3619             if (track->audio.samplerate != st->codecpar->sample_rate || !st->codecpar->frame_size)
3620                 trust_default_duration = 0;
3621         }
3622     }
3623
3624     if (!block_duration && trust_default_duration)
3625         block_duration = track->default_duration * laces / matroska->time_scale;
3626
3627     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
3628         track->end_timecode =
3629             FFMAX(track->end_timecode, timecode + block_duration);
3630
3631     for (n = 0; n < laces; n++) {
3632         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
3633         uint8_t *out_data = data;
3634         int      out_size = lace_size[n];
3635
3636         if (track->needs_decoding) {
3637             res = matroska_decode_buffer(&out_data, &out_size, track);
3638             if (res < 0)
3639                 return res;
3640             /* Given that we are here means that out_data is no longer
3641              * owned by buf, so set it to NULL. This depends upon
3642              * zero-length header removal compression being ignored. */
3643             av_assert1(out_data != data);
3644             buf = NULL;
3645         }
3646
3647         if (track->audio.buf) {
3648             res = matroska_parse_rm_audio(matroska, track, st,
3649                                           out_data, out_size,
3650                                           timecode, pos);
3651             if (!buf)
3652                 av_free(out_data);
3653             if (res)
3654                 return res;
3655         } else if (st->codecpar->codec_id == AV_CODEC_ID_WEBVTT) {
3656             res = matroska_parse_webvtt(matroska, track, st,
3657                                         out_data, out_size,
3658                                         timecode, lace_duration,
3659                                         pos);
3660             if (!buf)
3661                 av_free(out_data);
3662             if (res)
3663                 return res;
3664         } else {
3665             res = matroska_parse_frame(matroska, track, st, buf, out_data,
3666                                        out_size, timecode, lace_duration,
3667                                        pos, !n ? is_keyframe : 0,
3668                                        additional, additional_id, additional_size,
3669                                        discard_padding);
3670             if (res)
3671                 return res;
3672         }
3673
3674         if (timecode != AV_NOPTS_VALUE)
3675             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
3676         data += lace_size[n];
3677     }
3678
3679     return 0;
3680 }
3681
3682 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3683 {
3684     MatroskaCluster *cluster = &matroska->current_cluster;
3685     MatroskaBlock     *block = &cluster->block;
3686     int res;
3687
3688     av_assert0(matroska->num_levels <= 2);
3689
3690     if (matroska->num_levels == 1) {
3691         res = ebml_parse(matroska, matroska_segment, NULL);
3692
3693         if (res == 1) {
3694             /* Found a cluster: subtract the size of the ID already read. */
3695             cluster->pos = avio_tell(matroska->ctx->pb) - 4;
3696
3697             res = ebml_parse(matroska, matroska_cluster_enter, cluster);
3698             if (res < 0)
3699                 return res;
3700         }
3701     }
3702
3703     if (matroska->num_levels == 2) {
3704         /* We are inside a cluster. */
3705         res = ebml_parse(matroska, matroska_cluster_parsing, cluster);
3706
3707         if (res >= 0 && block->bin.size > 0) {
3708             int is_keyframe = block->non_simple ? block->reference == INT64_MIN : -1;
3709             uint8_t* additional = block->additional.size > 0 ?
3710                                     block->additional.data : NULL;
3711
3712             res = matroska_parse_block(matroska, block->bin.buf, block->bin.data,
3713                                        block->bin.size, block->bin.pos,
3714                                        cluster->timecode, block->duration,
3715                                        is_keyframe, additional, block->additional_id,
3716                                        block->additional.size, cluster->pos,
3717                                        block->discard_padding);
3718         }
3719
3720         ebml_free(matroska_blockgroup, block);
3721         memset(block, 0, sizeof(*block));
3722     } else if (!matroska->num_levels) {
3723         if (!avio_feof(matroska->ctx->pb)) {
3724             avio_r8(matroska->ctx->pb);
3725             if (!avio_feof(matroska->ctx->pb)) {
3726                 av_log(matroska->ctx, AV_LOG_WARNING, "File extends beyond "
3727                        "end of segment.\n");
3728                 return AVERROR_INVALIDDATA;
3729             }
3730         }
3731         matroska->done = 1;
3732         return AVERROR_EOF;
3733     }
3734
3735     return res;
3736 }
3737
3738 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3739 {
3740     MatroskaDemuxContext *matroska = s->priv_data;
3741     int ret = 0;
3742
3743     if (matroska->resync_pos == -1) {
3744         // This can only happen if generic seeking has been used.
3745         matroska->resync_pos = avio_tell(s->pb);
3746     }
3747
3748     while (matroska_deliver_packet(matroska, pkt)) {
3749         if (matroska->done)
3750             return (ret < 0) ? ret : AVERROR_EOF;
3751         if (matroska_parse_cluster(matroska) < 0 && !matroska->done)
3752             ret = matroska_resync(matroska, matroska->resync_pos);
3753     }
3754
3755     return 0;
3756 }
3757
3758 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3759                               int64_t timestamp, int flags)
3760 {
3761     MatroskaDemuxContext *matroska = s->priv_data;
3762     MatroskaTrack *tracks = NULL;
3763     AVStream *st = s->streams[stream_index];
3764     int i, index;
3765
3766     /* Parse the CUES now since we need the index data to seek. */
3767     if (matroska->cues_parsing_deferred > 0) {
3768         matroska->cues_parsing_deferred = 0;
3769         matroska_parse_cues(matroska);
3770     }
3771
3772     if (!st->nb_index_entries)
3773         goto err;
3774     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3775
3776     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3777         matroska_reset_status(matroska, 0, st->index_entries[st->nb_index_entries - 1].pos);
3778         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3779             matroska_clear_queue(matroska);
3780             if (matroska_parse_cluster(matroska) < 0)
3781                 break;
3782         }
3783     }
3784
3785     matroska_clear_queue(matroska);
3786     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3787         goto err;
3788
3789     tracks = matroska->tracks.elem;
3790     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3791         tracks[i].audio.pkt_cnt        = 0;
3792         tracks[i].audio.sub_packet_cnt = 0;
3793         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3794         tracks[i].end_timecode         = 0;
3795     }
3796
3797     /* We seek to a level 1 element, so set the appropriate status. */
3798     matroska_reset_status(matroska, 0, st->index_entries[index].pos);
3799     if (flags & AVSEEK_FLAG_ANY) {
3800         st->skip_to_keyframe = 0;
3801         matroska->skip_to_timecode = timestamp;
3802     } else {
3803         st->skip_to_keyframe = 1;
3804         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3805     }
3806     matroska->skip_to_keyframe = 1;
3807     matroska->done             = 0;
3808     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3809     return 0;
3810 err:
3811     // slightly hackish but allows proper fallback to
3812     // the generic seeking code.
3813     matroska_reset_status(matroska, 0, -1);
3814     matroska->resync_pos = -1;
3815     matroska_clear_queue(matroska);
3816     st->skip_to_keyframe =
3817     matroska->skip_to_keyframe = 0;
3818     matroska->done = 0;
3819     return -1;
3820 }
3821
3822 static int matroska_read_close(AVFormatContext *s)
3823 {
3824     MatroskaDemuxContext *matroska = s->priv_data;
3825     MatroskaTrack *tracks = matroska->tracks.elem;
3826     int n;
3827
3828     matroska_clear_queue(matroska);
3829
3830     for (n = 0; n < matroska->tracks.nb_elem; n++)
3831         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3832             av_freep(&tracks[n].audio.buf);
3833     ebml_free(matroska_segment, matroska);
3834
3835     return 0;
3836 }
3837
3838 typedef struct {
3839     int64_t start_time_ns;
3840     int64_t end_time_ns;
3841     int64_t start_offset;
3842     int64_t end_offset;
3843 } CueDesc;
3844
3845 /* This function searches all the Cues and returns the CueDesc corresponding to
3846  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3847  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3848  */
3849 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3850     MatroskaDemuxContext *matroska = s->priv_data;
3851     CueDesc cue_desc;
3852     int i;
3853     int nb_index_entries = s->streams[0]->nb_index_entries;
3854     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3855     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3856     for (i = 1; i < nb_index_entries; i++) {
3857         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3858             index_entries[i].timestamp * matroska->time_scale > ts) {
3859             break;
3860         }
3861     }
3862     --i;
3863     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3864     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3865     if (i != nb_index_entries - 1) {
3866         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3867         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3868     } else {
3869         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3870         // FIXME: this needs special handling for files where Cues appear
3871         // before Clusters. the current logic assumes Cues appear after
3872         // Clusters.
3873         cue_desc.end_offset = cues_start - matroska->segment_start;
3874     }
3875     return cue_desc;
3876 }
3877
3878 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3879 {
3880     MatroskaDemuxContext *matroska = s->priv_data;
3881     uint32_t id = matroska->current_id;
3882     int64_t cluster_pos, before_pos;
3883     int index, rv = 1;
3884     if (s->streams[0]->nb_index_entries <= 0) return 0;
3885     // seek to the first cluster using cues.
3886     index = av_index_search_timestamp(s->streams[0], 0, 0);
3887     if (index < 0)  return 0;
3888     cluster_pos = s->streams[0]->index_entries[index].pos;
3889     before_pos = avio_tell(s->pb);
3890     while (1) {
3891         uint64_t cluster_id, cluster_length;
3892         int read;
3893         AVPacket *pkt;
3894         avio_seek(s->pb, cluster_pos, SEEK_SET);
3895         // read cluster id and length
3896         read = ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id, 1);
3897         if (read < 0 || cluster_id != 0xF43B675) // done with all clusters
3898             break;
3899         read = ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3900         if (read < 0)
3901             break;
3902
3903         matroska_reset_status(matroska, 0, cluster_pos);
3904         matroska_clear_queue(matroska);
3905         if (matroska_parse_cluster(matroska) < 0 ||
3906             !matroska->queue) {
3907             break;
3908         }
3909         pkt = &matroska->queue->pkt;
3910         // 4 + read is the length of the cluster id and the cluster length field.
3911         cluster_pos += 4 + read + cluster_length;
3912         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3913             rv = 0;
3914             break;
3915         }
3916     }
3917
3918     /* Restore the status after matroska_read_header: */
3919     matroska_reset_status(matroska, id, before_pos);
3920
3921     return rv;
3922 }
3923
3924 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3925                                              double min_buffer, double* buffer,
3926                                              double* sec_to_download, AVFormatContext *s,
3927                                              int64_t cues_start)
3928 {
3929     double nano_seconds_per_second = 1000000000.0;
3930     double time_sec = time_ns / nano_seconds_per_second;
3931     int rv = 0;
3932     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3933     int64_t end_time_ns = time_ns + time_to_search_ns;
3934     double sec_downloaded = 0.0;
3935     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3936     if (desc_curr.start_time_ns == -1)
3937       return -1;
3938     *sec_to_download = 0.0;
3939
3940     // Check for non cue start time.
3941     if (time_ns > desc_curr.start_time_ns) {
3942       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3943       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3944       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3945       double timeToDownload = (cueBytes * 8.0) / bps;
3946
3947       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3948       *sec_to_download += timeToDownload;
3949
3950       // Check if the search ends within the first cue.
3951       if (desc_curr.end_time_ns >= end_time_ns) {
3952           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3953           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3954           sec_downloaded = percent_to_sub * sec_downloaded;
3955           *sec_to_download = percent_to_sub * *sec_to_download;
3956       }
3957
3958       if ((sec_downloaded + *buffer) <= min_buffer) {
3959           return 1;
3960       }
3961
3962       // Get the next Cue.
3963       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3964     }
3965
3966     while (desc_curr.start_time_ns != -1) {
3967         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3968         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3969         double desc_sec = desc_ns / nano_seconds_per_second;
3970         double bits = (desc_bytes * 8.0);
3971         double time_to_download = bits / bps;
3972
3973         sec_downloaded += desc_sec - time_to_download;
3974         *sec_to_download += time_to_download;
3975
3976         if (desc_curr.end_time_ns >= end_time_ns) {
3977             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3978             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3979             sec_downloaded = percent_to_sub * sec_downloaded;
3980             *sec_to_download = percent_to_sub * *sec_to_download;
3981
3982             if ((sec_downloaded + *buffer) <= min_buffer)
3983                 rv = 1;
3984             break;
3985         }
3986
3987         if ((sec_downloaded + *buffer) <= min_buffer) {
3988             rv = 1;
3989             break;
3990         }
3991
3992         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3993     }
3994     *buffer = *buffer + sec_downloaded;
3995     return rv;
3996 }
3997
3998 /* This function computes the bandwidth of the WebM file with the help of
3999  * buffer_size_after_time_downloaded() function. Both of these functions are
4000  * adapted from WebM Tools project and are adapted to work with FFmpeg's
4001  * Matroska parsing mechanism.
4002  *
4003  * Returns the bandwidth of the file on success; -1 on error.
4004  * */
4005 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
4006 {
4007     MatroskaDemuxContext *matroska = s->priv_data;
4008     AVStream *st = s->streams[0];
4009     double bandwidth = 0.0;
4010     int i;
4011
4012     for (i = 0; i < st->nb_index_entries; i++) {
4013         int64_t prebuffer_ns = 1000000000;
4014         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
4015         double nano_seconds_per_second = 1000000000.0;
4016         int64_t prebuffered_ns = time_ns + prebuffer_ns;
4017         double prebuffer_bytes = 0.0;
4018         int64_t temp_prebuffer_ns = prebuffer_ns;
4019         int64_t pre_bytes, pre_ns;
4020         double pre_sec, prebuffer, bits_per_second;
4021         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
4022
4023         // Start with the first Cue.
4024         CueDesc desc_end = desc_beg;
4025
4026         // Figure out how much data we have downloaded for the prebuffer. This will
4027         // be used later to adjust the bits per sample to try.
4028         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
4029             // Prebuffered the entire Cue.
4030             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
4031             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
4032             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4033         }
4034         if (desc_end.start_time_ns == -1) {
4035             // The prebuffer is larger than the duration.
4036             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
4037               return -1;
4038             bits_per_second = 0.0;
4039         } else {
4040             // The prebuffer ends in the last Cue. Estimate how much data was
4041             // prebuffered.
4042             pre_bytes = desc_end.end_offset - desc_end.start_offset;
4043             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
4044             pre_sec = pre_ns / nano_seconds_per_second;
4045             prebuffer_bytes +=
4046                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
4047
4048             prebuffer = prebuffer_ns / nano_seconds_per_second;
4049
4050             // Set this to 0.0 in case our prebuffer buffers the entire video.
4051             bits_per_second = 0.0;
4052             do {
4053                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
4054                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
4055                 double desc_sec = desc_ns / nano_seconds_per_second;
4056                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
4057
4058                 // Drop the bps by the percentage of bytes buffered.
4059                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
4060                 double mod_bits_per_second = calc_bits_per_second * percent;
4061
4062                 if (prebuffer < desc_sec) {
4063                     double search_sec =
4064                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
4065
4066                     // Add 1 so the bits per second should be a little bit greater than file
4067                     // datarate.
4068                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
4069                     const double min_buffer = 0.0;
4070                     double buffer = prebuffer;
4071                     double sec_to_download = 0.0;
4072
4073                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
4074                                                                min_buffer, &buffer, &sec_to_download,
4075                                                                s, cues_start);
4076                     if (rv < 0) {
4077                         return -1;
4078                     } else if (rv == 0) {
4079                         bits_per_second = (double)(bps);
4080                         break;
4081                     }
4082                 }
4083
4084                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4085             } while (desc_end.start_time_ns != -1);
4086         }
4087         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
4088     }
4089     return (int64_t)bandwidth;
4090 }
4091
4092 static int webm_dash_manifest_cues(AVFormatContext *s, int64_t init_range)
4093 {
4094     MatroskaDemuxContext *matroska = s->priv_data;
4095     EbmlList *seekhead_list = &matroska->seekhead;
4096     MatroskaSeekhead *seekhead = seekhead_list->elem;
4097     char *buf;
4098     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
4099     int i;
4100     int end = 0;
4101
4102     // determine cues start and end positions
4103     for (i = 0; i < seekhead_list->nb_elem; i++)
4104         if (seekhead[i].id == MATROSKA_ID_CUES)
4105             break;
4106
4107     if (i >= seekhead_list->nb_elem) return -1;
4108
4109     before_pos = avio_tell(matroska->ctx->pb);
4110     cues_start = seekhead[i].pos + matroska->segment_start;
4111     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
4112         // cues_end is computed as cues_start + cues_length + length of the
4113         // Cues element ID (i.e. 4) + EBML length of the Cues element.
4114         // cues_end is inclusive and the above sum is reduced by 1.
4115         uint64_t cues_length, cues_id;
4116         int bytes_read;
4117         bytes_read = ebml_read_num   (matroska, matroska->ctx->pb, 4, &cues_id, 1);
4118         if (bytes_read < 0 || cues_id != (MATROSKA_ID_CUES & 0xfffffff))
4119             return bytes_read < 0 ? bytes_read : AVERROR_INVALIDDATA;
4120         bytes_read = ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
4121         if (bytes_read < 0)
4122             return bytes_read;
4123         cues_end = cues_start + 4 + bytes_read + cues_length - 1;
4124     }
4125     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
4126     if (cues_start == -1 || cues_end == -1) return -1;
4127
4128     // parse the cues
4129     matroska_parse_cues(matroska);
4130
4131     // cues start
4132     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
4133
4134     // cues end
4135     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
4136
4137     // if the file has cues at the start, fix up the init range so that
4138     // it does not include it
4139     if (cues_start <= init_range)
4140         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, cues_start - 1, 0);
4141
4142     // bandwidth
4143     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
4144     if (bandwidth < 0) return -1;
4145     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
4146
4147     // check if all clusters start with key frames
4148     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
4149
4150     // store cue point timestamps as a comma separated list for checking subsegment alignment in
4151     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
4152     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20);
4153     if (!buf) return -1;
4154     strcpy(buf, "");
4155     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
4156         int ret = snprintf(buf + end, 20,
4157                            "%" PRId64"%s", s->streams[0]->index_entries[i].timestamp,
4158                            i != s->streams[0]->nb_index_entries - 1 ? "," : "");
4159         if (ret <= 0 || (ret == 20 && i ==  s->streams[0]->nb_index_entries - 1)) {
4160             av_log(s, AV_LOG_ERROR, "timestamp too long.\n");
4161             av_free(buf);
4162             return AVERROR_INVALIDDATA;
4163         }
4164         end += ret;
4165     }
4166     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS,
4167                 buf, AV_DICT_DONT_STRDUP_VAL);
4168
4169     return 0;
4170 }
4171
4172 static int webm_dash_manifest_read_header(AVFormatContext *s)
4173 {
4174     char *buf;
4175     int ret = matroska_read_header(s);
4176     int64_t init_range;
4177     MatroskaTrack *tracks;
4178     MatroskaDemuxContext *matroska = s->priv_data;
4179     if (ret) {
4180         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
4181         return -1;
4182     }
4183     if (!matroska->tracks.nb_elem || !s->nb_streams) {
4184         av_log(s, AV_LOG_ERROR, "No track found\n");
4185         ret = AVERROR_INVALIDDATA;
4186         goto fail;
4187     }
4188
4189     if (!matroska->is_live) {
4190         buf = av_asprintf("%g", matroska->duration);
4191         if (!buf) {
4192             ret = AVERROR(ENOMEM);
4193             goto fail;
4194         }
4195         av_dict_set(&s->streams[0]->metadata, DURATION,
4196                     buf, AV_DICT_DONT_STRDUP_VAL);
4197
4198         // initialization range
4199         // 5 is the offset of Cluster ID.
4200         init_range = avio_tell(s->pb) - 5;
4201         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, init_range, 0);
4202     }
4203
4204     // basename of the file
4205     buf = strrchr(s->url, '/');
4206     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->url, 0);
4207
4208     // track number
4209     tracks = matroska->tracks.elem;
4210     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
4211
4212     // parse the cues and populate Cue related fields
4213     if (!matroska->is_live) {
4214         ret = webm_dash_manifest_cues(s, init_range);
4215         if (ret < 0) {
4216             av_log(s, AV_LOG_ERROR, "Error parsing Cues\n");
4217             goto fail;
4218         }
4219     }
4220
4221     // use the bandwidth from the command line if it was provided
4222     if (matroska->bandwidth > 0) {
4223         av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH,
4224                         matroska->bandwidth, 0);
4225     }
4226     return 0;
4227 fail:
4228     matroska_read_close(s);
4229     return ret;
4230 }
4231
4232 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
4233 {
4234     return AVERROR_EOF;
4235 }
4236
4237 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
4238 static const AVOption options[] = {
4239     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
4240     { "bandwidth", "bandwidth of this stream to be specified in the DASH manifest.", OFFSET(bandwidth), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, AV_OPT_FLAG_DECODING_PARAM },
4241     { NULL },
4242 };
4243
4244 static const AVClass webm_dash_class = {
4245     .class_name = "WebM DASH Manifest demuxer",
4246     .item_name  = av_default_item_name,
4247     .option     = options,
4248     .version    = LIBAVUTIL_VERSION_INT,
4249 };
4250
4251 AVInputFormat ff_matroska_demuxer = {
4252     .name           = "matroska,webm",
4253     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
4254     .extensions     = "mkv,mk3d,mka,mks",
4255     .priv_data_size = sizeof(MatroskaDemuxContext),
4256     .read_probe     = matroska_probe,
4257     .read_header    = matroska_read_header,
4258     .read_packet    = matroska_read_packet,
4259     .read_close     = matroska_read_close,
4260     .read_seek      = matroska_read_seek,
4261     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
4262 };
4263
4264 AVInputFormat ff_webm_dash_manifest_demuxer = {
4265     .name           = "webm_dash_manifest",
4266     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
4267     .priv_data_size = sizeof(MatroskaDemuxContext),
4268     .read_header    = webm_dash_manifest_read_header,
4269     .read_packet    = webm_dash_manifest_read_packet,
4270     .read_close     = matroska_read_close,
4271     .priv_class     = &webm_dash_class,
4272 };