]> git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c
avformat/matroskadec: only use the track duration if it exists
[ffmpeg] / libavformat / matroskadec.c
1 /*
2  * Matroska file demuxer
3  * Copyright (c) 2003-2008 The FFmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Matroska file demuxer
25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
28  * @see specs available on the Matroska project page: http://www.matroska.org/
29  */
30
31 #include "config.h"
32
33 #include <inttypes.h>
34 #include <stdio.h>
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/base64.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lzo.h"
42 #include "libavutil/mastering_display_metadata.h"
43 #include "libavutil/mathematics.h"
44 #include "libavutil/opt.h"
45 #include "libavutil/time_internal.h"
46 #include "libavutil/spherical.h"
47
48 #include "libavcodec/bytestream.h"
49 #include "libavcodec/flac.h"
50 #include "libavcodec/mpeg4audio.h"
51 #include "libavcodec/packet_internal.h"
52
53 #include "avformat.h"
54 #include "avio_internal.h"
55 #include "internal.h"
56 #include "isom.h"
57 #include "matroska.h"
58 #include "oggdec.h"
59 /* For ff_codec_get_id(). */
60 #include "riff.h"
61 #include "rmsipr.h"
62
63 #if CONFIG_BZLIB
64 #include <bzlib.h>
65 #endif
66 #if CONFIG_ZLIB
67 #include <zlib.h>
68 #endif
69
70 #include "qtpalette.h"
71
72 #define EBML_UNKNOWN_LENGTH  UINT64_MAX /* EBML unknown length, in uint64_t */
73 #define NEEDS_CHECKING                2 /* Indicates that some error checks
74                                          * still need to be performed */
75 #define LEVEL_ENDED                   3 /* return value of ebml_parse when the
76                                          * syntax level used for parsing ended. */
77 #define SKIP_THRESHOLD      1024 * 1024 /* In non-seekable mode, if more than SKIP_THRESHOLD
78                                          * of unkown, potentially damaged data is encountered,
79                                          * it is considered an error. */
80 #define UNKNOWN_EQUIV         50 * 1024 /* An unknown element is considered equivalent
81                                          * to this many bytes of unknown data for the
82                                          * SKIP_THRESHOLD check. */
83
84 typedef enum {
85     EBML_NONE,
86     EBML_UINT,
87     EBML_SINT,
88     EBML_FLOAT,
89     EBML_STR,
90     EBML_UTF8,
91     EBML_BIN,
92     EBML_NEST,
93     EBML_LEVEL1,
94     EBML_STOP,
95     EBML_TYPE_COUNT
96 } EbmlType;
97
98 typedef const struct EbmlSyntax {
99     uint32_t id;
100     EbmlType type;
101     size_t list_elem_size;
102     size_t data_offset;
103     union {
104         int64_t     i;
105         uint64_t    u;
106         double      f;
107         const char *s;
108         const struct EbmlSyntax *n;
109     } def;
110 } EbmlSyntax;
111
112 typedef struct EbmlList {
113     int nb_elem;
114     unsigned int alloc_elem_size;
115     void *elem;
116 } EbmlList;
117
118 typedef struct EbmlBin {
119     int      size;
120     AVBufferRef *buf;
121     uint8_t *data;
122     int64_t  pos;
123 } EbmlBin;
124
125 typedef struct Ebml {
126     uint64_t version;
127     uint64_t max_size;
128     uint64_t id_length;
129     char    *doctype;
130     uint64_t doctype_version;
131 } Ebml;
132
133 typedef struct MatroskaTrackCompression {
134     uint64_t algo;
135     EbmlBin  settings;
136 } MatroskaTrackCompression;
137
138 typedef struct MatroskaTrackEncryption {
139     uint64_t algo;
140     EbmlBin  key_id;
141 } MatroskaTrackEncryption;
142
143 typedef struct MatroskaTrackEncoding {
144     uint64_t scope;
145     uint64_t type;
146     MatroskaTrackCompression compression;
147     MatroskaTrackEncryption encryption;
148 } MatroskaTrackEncoding;
149
150 typedef struct MatroskaMasteringMeta {
151     double r_x;
152     double r_y;
153     double g_x;
154     double g_y;
155     double b_x;
156     double b_y;
157     double white_x;
158     double white_y;
159     double max_luminance;
160     double min_luminance;
161 } MatroskaMasteringMeta;
162
163 typedef struct MatroskaTrackVideoColor {
164     uint64_t matrix_coefficients;
165     uint64_t bits_per_channel;
166     uint64_t chroma_sub_horz;
167     uint64_t chroma_sub_vert;
168     uint64_t cb_sub_horz;
169     uint64_t cb_sub_vert;
170     uint64_t chroma_siting_horz;
171     uint64_t chroma_siting_vert;
172     uint64_t range;
173     uint64_t transfer_characteristics;
174     uint64_t primaries;
175     uint64_t max_cll;
176     uint64_t max_fall;
177     MatroskaMasteringMeta mastering_meta;
178 } MatroskaTrackVideoColor;
179
180 typedef struct MatroskaTrackVideoProjection {
181     uint64_t type;
182     EbmlBin private;
183     double yaw;
184     double pitch;
185     double roll;
186 } MatroskaTrackVideoProjection;
187
188 typedef struct MatroskaTrackVideo {
189     double   frame_rate;
190     uint64_t display_width;
191     uint64_t display_height;
192     uint64_t pixel_width;
193     uint64_t pixel_height;
194     EbmlBin  color_space;
195     uint64_t display_unit;
196     uint64_t interlaced;
197     uint64_t field_order;
198     uint64_t stereo_mode;
199     uint64_t alpha_mode;
200     EbmlList color;
201     MatroskaTrackVideoProjection projection;
202 } MatroskaTrackVideo;
203
204 typedef struct MatroskaTrackAudio {
205     double   samplerate;
206     double   out_samplerate;
207     uint64_t bitdepth;
208     uint64_t channels;
209
210     /* real audio header (extracted from extradata) */
211     int      coded_framesize;
212     int      sub_packet_h;
213     int      frame_size;
214     int      sub_packet_size;
215     int      sub_packet_cnt;
216     int      pkt_cnt;
217     uint64_t buf_timecode;
218     uint8_t *buf;
219 } MatroskaTrackAudio;
220
221 typedef struct MatroskaTrackPlane {
222     uint64_t uid;
223     uint64_t type;
224 } MatroskaTrackPlane;
225
226 typedef struct MatroskaTrackOperation {
227     EbmlList combine_planes;
228 } MatroskaTrackOperation;
229
230 typedef struct MatroskaTrack {
231     uint64_t num;
232     uint64_t uid;
233     uint64_t type;
234     char    *name;
235     char    *codec_id;
236     EbmlBin  codec_priv;
237     char    *language;
238     double time_scale;
239     uint64_t default_duration;
240     uint64_t flag_default;
241     uint64_t flag_forced;
242     uint64_t seek_preroll;
243     MatroskaTrackVideo video;
244     MatroskaTrackAudio audio;
245     MatroskaTrackOperation operation;
246     EbmlList encodings;
247     uint64_t codec_delay;
248     uint64_t codec_delay_in_track_tb;
249
250     AVStream *stream;
251     int64_t end_timecode;
252     int ms_compat;
253     int needs_decoding;
254     uint64_t max_block_additional_id;
255
256     uint32_t palette[AVPALETTE_COUNT];
257     int has_palette;
258 } MatroskaTrack;
259
260 typedef struct MatroskaAttachment {
261     uint64_t uid;
262     char *filename;
263     char *description;
264     char *mime;
265     EbmlBin bin;
266
267     AVStream *stream;
268 } MatroskaAttachment;
269
270 typedef struct MatroskaChapter {
271     uint64_t start;
272     uint64_t end;
273     uint64_t uid;
274     char    *title;
275
276     AVChapter *chapter;
277 } MatroskaChapter;
278
279 typedef struct MatroskaIndexPos {
280     uint64_t track;
281     uint64_t pos;
282 } MatroskaIndexPos;
283
284 typedef struct MatroskaIndex {
285     uint64_t time;
286     EbmlList pos;
287 } MatroskaIndex;
288
289 typedef struct MatroskaTag {
290     char *name;
291     char *string;
292     char *lang;
293     uint64_t def;
294     EbmlList sub;
295 } MatroskaTag;
296
297 typedef struct MatroskaTagTarget {
298     char    *type;
299     uint64_t typevalue;
300     uint64_t trackuid;
301     uint64_t chapteruid;
302     uint64_t attachuid;
303 } MatroskaTagTarget;
304
305 typedef struct MatroskaTags {
306     MatroskaTagTarget target;
307     EbmlList tag;
308 } MatroskaTags;
309
310 typedef struct MatroskaSeekhead {
311     uint64_t id;
312     uint64_t pos;
313 } MatroskaSeekhead;
314
315 typedef struct MatroskaLevel {
316     uint64_t start;
317     uint64_t length;
318 } MatroskaLevel;
319
320 typedef struct MatroskaBlock {
321     uint64_t duration;
322     int64_t  reference;
323     uint64_t non_simple;
324     EbmlBin  bin;
325     uint64_t additional_id;
326     EbmlBin  additional;
327     int64_t  discard_padding;
328 } MatroskaBlock;
329
330 typedef struct MatroskaCluster {
331     MatroskaBlock block;
332     uint64_t timecode;
333     int64_t pos;
334 } MatroskaCluster;
335
336 typedef struct MatroskaLevel1Element {
337     int64_t  pos;
338     uint32_t id;
339     int parsed;
340 } MatroskaLevel1Element;
341
342 typedef struct MatroskaDemuxContext {
343     const AVClass *class;
344     AVFormatContext *ctx;
345
346     /* EBML stuff */
347     MatroskaLevel levels[EBML_MAX_DEPTH];
348     int      num_levels;
349     uint32_t current_id;
350     int64_t  resync_pos;
351     int      unknown_count;
352
353     uint64_t time_scale;
354     double   duration;
355     char    *title;
356     char    *muxingapp;
357     EbmlBin  date_utc;
358     EbmlList tracks;
359     EbmlList attachments;
360     EbmlList chapters;
361     EbmlList index;
362     EbmlList tags;
363     EbmlList seekhead;
364
365     /* byte position of the segment inside the stream */
366     int64_t segment_start;
367
368     /* the packet queue */
369     AVPacketList *queue;
370     AVPacketList *queue_end;
371
372     int done;
373
374     /* What to skip before effectively reading a packet. */
375     int skip_to_keyframe;
376     uint64_t skip_to_timecode;
377
378     /* File has a CUES element, but we defer parsing until it is needed. */
379     int cues_parsing_deferred;
380
381     /* Level1 elements and whether they were read yet */
382     MatroskaLevel1Element level1_elems[64];
383     int num_level1_elems;
384
385     MatroskaCluster current_cluster;
386
387     /* WebM DASH Manifest live flag */
388     int is_live;
389
390     /* Bandwidth value for WebM DASH Manifest */
391     int bandwidth;
392 } MatroskaDemuxContext;
393
394 #define CHILD_OF(parent) { .def = { .n = parent } }
395
396 // The following forward declarations need their size because
397 // a tentative definition with internal linkage must not be an
398 // incomplete type (6.7.2 in C90, 6.9.2 in C99).
399 // Removing the sizes breaks MSVC.
400 static EbmlSyntax ebml_syntax[3], matroska_segment[9], matroska_track_video_color[15], matroska_track_video[19],
401                   matroska_track[27], matroska_track_encoding[6], matroska_track_encodings[2],
402                   matroska_track_combine_planes[2], matroska_track_operation[2], matroska_tracks[2],
403                   matroska_attachments[2], matroska_chapter_entry[9], matroska_chapter[6], matroska_chapters[2],
404                   matroska_index_entry[3], matroska_index[2], matroska_tag[3], matroska_tags[2], matroska_seekhead[2],
405                   matroska_blockadditions[2], matroska_blockgroup[8], matroska_cluster_parsing[8];
406
407 static EbmlSyntax ebml_header[] = {
408     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
409     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
410     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
411     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
412     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
413     { EBML_ID_EBMLVERSION,        EBML_NONE },
414     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
415     CHILD_OF(ebml_syntax)
416 };
417
418 static EbmlSyntax ebml_syntax[] = {
419     { EBML_ID_HEADER,      EBML_NEST, 0, 0, { .n = ebml_header } },
420     { MATROSKA_ID_SEGMENT, EBML_STOP },
421     { 0 }
422 };
423
424 static EbmlSyntax matroska_info[] = {
425     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
426     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
427     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
428     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
429     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
430     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
431     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
432     CHILD_OF(matroska_segment)
433 };
434
435 static EbmlSyntax matroska_mastering_meta[] = {
436     { MATROSKA_ID_VIDEOCOLOR_RX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_x), { .f=-1 } },
437     { MATROSKA_ID_VIDEOCOLOR_RY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_y), { .f=-1 } },
438     { MATROSKA_ID_VIDEOCOLOR_GX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_x), { .f=-1 } },
439     { MATROSKA_ID_VIDEOCOLOR_GY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_y), { .f=-1 } },
440     { MATROSKA_ID_VIDEOCOLOR_BX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_x), { .f=-1 } },
441     { MATROSKA_ID_VIDEOCOLOR_BY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_y), { .f=-1 } },
442     { MATROSKA_ID_VIDEOCOLOR_WHITEX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_x), { .f=-1 } },
443     { MATROSKA_ID_VIDEOCOLOR_WHITEY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_y), { .f=-1 } },
444     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMIN, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, min_luminance), { .f=-1 } },
445     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMAX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, max_luminance), { .f=-1 } },
446     CHILD_OF(matroska_track_video_color)
447 };
448
449 static EbmlSyntax matroska_track_video_color[] = {
450     { MATROSKA_ID_VIDEOCOLORMATRIXCOEFF,      EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, matrix_coefficients), { .u = AVCOL_SPC_UNSPECIFIED } },
451     { MATROSKA_ID_VIDEOCOLORBITSPERCHANNEL,   EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, bits_per_channel), { .u=0 } },
452     { MATROSKA_ID_VIDEOCOLORCHROMASUBHORZ,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_horz), { .u=0 } },
453     { MATROSKA_ID_VIDEOCOLORCHROMASUBVERT,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_vert), { .u=0 } },
454     { MATROSKA_ID_VIDEOCOLORCBSUBHORZ,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_horz), { .u=0 } },
455     { MATROSKA_ID_VIDEOCOLORCBSUBVERT,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_vert), { .u=0 } },
456     { MATROSKA_ID_VIDEOCOLORCHROMASITINGHORZ, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_horz), { .u = MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED } },
457     { MATROSKA_ID_VIDEOCOLORCHROMASITINGVERT, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_vert), { .u = MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED } },
458     { MATROSKA_ID_VIDEOCOLORRANGE,            EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, range), { .u = AVCOL_RANGE_UNSPECIFIED } },
459     { MATROSKA_ID_VIDEOCOLORTRANSFERCHARACTERISTICS, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, transfer_characteristics), { .u = AVCOL_TRC_UNSPECIFIED } },
460     { MATROSKA_ID_VIDEOCOLORPRIMARIES,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, primaries), { .u = AVCOL_PRI_UNSPECIFIED } },
461     { MATROSKA_ID_VIDEOCOLORMAXCLL,           EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_cll), { .u=0 } },
462     { MATROSKA_ID_VIDEOCOLORMAXFALL,          EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_fall), { .u=0 } },
463     { MATROSKA_ID_VIDEOCOLORMASTERINGMETA,    EBML_NEST, 0, offsetof(MatroskaTrackVideoColor, mastering_meta), { .n = matroska_mastering_meta } },
464     CHILD_OF(matroska_track_video)
465 };
466
467 static EbmlSyntax matroska_track_video_projection[] = {
468     { MATROSKA_ID_VIDEOPROJECTIONTYPE,        EBML_UINT,  0, offsetof(MatroskaTrackVideoProjection, type), { .u = MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR } },
469     { MATROSKA_ID_VIDEOPROJECTIONPRIVATE,     EBML_BIN,   0, offsetof(MatroskaTrackVideoProjection, private) },
470     { MATROSKA_ID_VIDEOPROJECTIONPOSEYAW,     EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, yaw), { .f=0.0 } },
471     { MATROSKA_ID_VIDEOPROJECTIONPOSEPITCH,   EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, pitch), { .f=0.0 } },
472     { MATROSKA_ID_VIDEOPROJECTIONPOSEROLL,    EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, roll), { .f=0.0 } },
473     CHILD_OF(matroska_track_video)
474 };
475
476 static EbmlSyntax matroska_track_video[] = {
477     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
478     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
479     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
480     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
481     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
482     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
483     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
484     { MATROSKA_ID_VIDEOCOLOR,          EBML_NEST,  sizeof(MatroskaTrackVideoColor), offsetof(MatroskaTrackVideo, color), { .n = matroska_track_video_color } },
485     { MATROSKA_ID_VIDEOPROJECTION,     EBML_NEST,  0, offsetof(MatroskaTrackVideo, projection), { .n = matroska_track_video_projection } },
486     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
487     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
488     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
489     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
490     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_unit), { .u= MATROSKA_VIDEO_DISPLAYUNIT_PIXELS } },
491     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_UINT,  0, offsetof(MatroskaTrackVideo, interlaced),  { .u = MATROSKA_VIDEO_INTERLACE_FLAG_UNDETERMINED } },
492     { MATROSKA_ID_VIDEOFIELDORDER,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, field_order), { .u = MATROSKA_VIDEO_FIELDORDER_UNDETERMINED } },
493     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
494     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
495     CHILD_OF(matroska_track)
496 };
497
498 static EbmlSyntax matroska_track_audio[] = {
499     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
500     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
501     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
502     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
503     CHILD_OF(matroska_track)
504 };
505
506 static EbmlSyntax matroska_track_encoding_compression[] = {
507     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
508     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
509     CHILD_OF(matroska_track_encoding)
510 };
511
512 static EbmlSyntax matroska_track_encoding_encryption[] = {
513     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
514     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
515     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
516     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
517     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
518     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
519     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
520     CHILD_OF(matroska_track_encoding)
521 };
522 static EbmlSyntax matroska_track_encoding[] = {
523     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
524     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
525     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
526     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
527     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
528     CHILD_OF(matroska_track_encodings)
529 };
530
531 static EbmlSyntax matroska_track_encodings[] = {
532     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
533     CHILD_OF(matroska_track)
534 };
535
536 static EbmlSyntax matroska_track_plane[] = {
537     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
538     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
539     CHILD_OF(matroska_track_combine_planes)
540 };
541
542 static EbmlSyntax matroska_track_combine_planes[] = {
543     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
544     CHILD_OF(matroska_track_operation)
545 };
546
547 static EbmlSyntax matroska_track_operation[] = {
548     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
549     CHILD_OF(matroska_track)
550 };
551
552 static EbmlSyntax matroska_track[] = {
553     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
554     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
555     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
556     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
557     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
558     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
559     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
560     { MATROSKA_ID_TRACKLANGUAGE,         EBML_STR,   0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
561     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
562     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
563     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
564     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
565     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
566     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
567     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
568     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
569     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
570     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
571     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
572     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
573     { MATROSKA_ID_CODECNAME,             EBML_NONE },
574     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
575     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
576     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
577     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
578     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
579     CHILD_OF(matroska_tracks)
580 };
581
582 static EbmlSyntax matroska_tracks[] = {
583     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
584     CHILD_OF(matroska_segment)
585 };
586
587 static EbmlSyntax matroska_attachment[] = {
588     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
589     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
590     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
591     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
592     { MATROSKA_ID_FILEDESC,     EBML_UTF8, 0, offsetof(MatroskaAttachment, description) },
593     CHILD_OF(matroska_attachments)
594 };
595
596 static EbmlSyntax matroska_attachments[] = {
597     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
598     CHILD_OF(matroska_segment)
599 };
600
601 static EbmlSyntax matroska_chapter_display[] = {
602     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
603     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
604     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
605     CHILD_OF(matroska_chapter_entry)
606 };
607
608 static EbmlSyntax matroska_chapter_entry[] = {
609     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
610     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
611     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
612     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
613     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
614     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
615     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
616     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
617     CHILD_OF(matroska_chapter)
618 };
619
620 static EbmlSyntax matroska_chapter[] = {
621     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
622     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
623     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
624     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
625     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
626     CHILD_OF(matroska_chapters)
627 };
628
629 static EbmlSyntax matroska_chapters[] = {
630     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
631     CHILD_OF(matroska_segment)
632 };
633
634 static EbmlSyntax matroska_index_pos[] = {
635     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
636     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
637     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
638     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
639     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
640     CHILD_OF(matroska_index_entry)
641 };
642
643 static EbmlSyntax matroska_index_entry[] = {
644     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
645     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
646     CHILD_OF(matroska_index)
647 };
648
649 static EbmlSyntax matroska_index[] = {
650     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
651     CHILD_OF(matroska_segment)
652 };
653
654 static EbmlSyntax matroska_simpletag[] = {
655     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
656     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
657     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
658     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
659     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
660     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
661     CHILD_OF(matroska_tag)
662 };
663
664 static EbmlSyntax matroska_tagtargets[] = {
665     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
666     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
667     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
668     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
669     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
670     CHILD_OF(matroska_tag)
671 };
672
673 static EbmlSyntax matroska_tag[] = {
674     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
675     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
676     CHILD_OF(matroska_tags)
677 };
678
679 static EbmlSyntax matroska_tags[] = {
680     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
681     CHILD_OF(matroska_segment)
682 };
683
684 static EbmlSyntax matroska_seekhead_entry[] = {
685     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
686     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
687     CHILD_OF(matroska_seekhead)
688 };
689
690 static EbmlSyntax matroska_seekhead[] = {
691     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
692     CHILD_OF(matroska_segment)
693 };
694
695 static EbmlSyntax matroska_segment[] = {
696     { MATROSKA_ID_CLUSTER,     EBML_STOP },
697     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
698     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
699     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
700     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
701     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
702     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
703     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
704     { 0 }   /* We don't want to go back to level 0, so don't add the parent. */
705 };
706
707 static EbmlSyntax matroska_segments[] = {
708     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
709     { 0 }
710 };
711
712 static EbmlSyntax matroska_blockmore[] = {
713     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id), { .u = 1 } },
714     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
715     CHILD_OF(matroska_blockadditions)
716 };
717
718 static EbmlSyntax matroska_blockadditions[] = {
719     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
720     CHILD_OF(matroska_blockgroup)
721 };
722
723 static EbmlSyntax matroska_blockgroup[] = {
724     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
725     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
726     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
727     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
728     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference), { .i = INT64_MIN } },
729     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
730     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
731     CHILD_OF(matroska_cluster_parsing)
732 };
733
734 // The following array contains SimpleBlock and BlockGroup twice
735 // in order to reuse the other values for matroska_cluster_enter.
736 static EbmlSyntax matroska_cluster_parsing[] = {
737     { MATROSKA_ID_SIMPLEBLOCK,     EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
738     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, 0, 0, { .n = matroska_blockgroup } },
739     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
740     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
741     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
742     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
743     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
744     CHILD_OF(matroska_segment)
745 };
746
747 static EbmlSyntax matroska_cluster_enter[] = {
748     { MATROSKA_ID_CLUSTER,     EBML_NEST, 0, 0, { .n = &matroska_cluster_parsing[2] } },
749     { 0 }
750 };
751 #undef CHILD_OF
752
753 static const CodecMime mkv_image_mime_tags[] = {
754     {"image/gif"                  , AV_CODEC_ID_GIF},
755     {"image/jpeg"                 , AV_CODEC_ID_MJPEG},
756     {"image/png"                  , AV_CODEC_ID_PNG},
757     {"image/tiff"                 , AV_CODEC_ID_TIFF},
758
759     {""                           , AV_CODEC_ID_NONE}
760 };
761
762 static const CodecMime mkv_mime_tags[] = {
763     {"text/plain"                 , AV_CODEC_ID_TEXT},
764     {"application/x-truetype-font", AV_CODEC_ID_TTF},
765     {"application/x-font"         , AV_CODEC_ID_TTF},
766     {"application/vnd.ms-opentype", AV_CODEC_ID_OTF},
767     {"binary"                     , AV_CODEC_ID_BIN_DATA},
768
769     {""                           , AV_CODEC_ID_NONE}
770 };
771
772 static const char *const matroska_doctypes[] = { "matroska", "webm" };
773
774 static int matroska_read_close(AVFormatContext *s);
775
776 /*
777  * This function prepares the status for parsing of level 1 elements.
778  */
779 static int matroska_reset_status(MatroskaDemuxContext *matroska,
780                                  uint32_t id, int64_t position)
781 {
782     if (position >= 0) {
783         int64_t err = avio_seek(matroska->ctx->pb, position, SEEK_SET);
784         if (err < 0)
785             return err;
786     }
787
788     matroska->current_id    = id;
789     matroska->num_levels    = 1;
790     matroska->unknown_count = 0;
791     matroska->resync_pos = avio_tell(matroska->ctx->pb);
792     if (id)
793         matroska->resync_pos -= (av_log2(id) + 7) / 8;
794
795     return 0;
796 }
797
798 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
799 {
800     AVIOContext *pb = matroska->ctx->pb;
801     uint32_t id;
802
803     /* Try to seek to the last position to resync from. If this doesn't work,
804      * we resync from the earliest position available: The start of the buffer. */
805     if (last_pos < avio_tell(pb) && avio_seek(pb, last_pos + 1, SEEK_SET) < 0) {
806         av_log(matroska->ctx, AV_LOG_WARNING,
807                "Seek to desired resync point failed. Seeking to "
808                "earliest point available instead.\n");
809         avio_seek(pb, FFMAX(avio_tell(pb) + (pb->buffer - pb->buf_ptr),
810                             last_pos + 1), SEEK_SET);
811     }
812
813     id = avio_rb32(pb);
814
815     // try to find a toplevel element
816     while (!avio_feof(pb)) {
817         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
818             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
819             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
820             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
821             /* Prepare the context for parsing of a level 1 element. */
822             matroska_reset_status(matroska, id, -1);
823             /* Given that we are here means that an error has occurred,
824              * so treat the segment as unknown length in order not to
825              * discard valid data that happens to be beyond the designated
826              * end of the segment. */
827             matroska->levels[0].length = EBML_UNKNOWN_LENGTH;
828             return 0;
829         }
830         id = (id << 8) | avio_r8(pb);
831     }
832
833     matroska->done = 1;
834     return pb->error ? pb->error : AVERROR_EOF;
835 }
836
837 /*
838  * Read: an "EBML number", which is defined as a variable-length
839  * array of bytes. The first byte indicates the length by giving a
840  * number of 0-bits followed by a one. The position of the first
841  * "one" bit inside the first byte indicates the length of this
842  * number.
843  * Returns: number of bytes read, < 0 on error
844  */
845 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
846                          int max_size, uint64_t *number, int eof_forbidden)
847 {
848     int read, n = 1;
849     uint64_t total;
850     int64_t pos;
851
852     /* The first byte tells us the length in bytes - except when it is zero. */
853     total = avio_r8(pb);
854     if (pb->eof_reached)
855         goto err;
856
857     /* get the length of the EBML number */
858     read = 8 - ff_log2_tab[total];
859
860     if (!total || read > max_size) {
861         pos = avio_tell(pb) - 1;
862         if (!total) {
863             av_log(matroska->ctx, AV_LOG_ERROR,
864                    "0x00 at pos %"PRId64" (0x%"PRIx64") invalid as first byte "
865                    "of an EBML number\n", pos, pos);
866         } else {
867             av_log(matroska->ctx, AV_LOG_ERROR,
868                    "Length %d indicated by an EBML number's first byte 0x%02x "
869                    "at pos %"PRId64" (0x%"PRIx64") exceeds max length %d.\n",
870                    read, (uint8_t) total, pos, pos, max_size);
871         }
872         return AVERROR_INVALIDDATA;
873     }
874
875     /* read out length */
876     total ^= 1 << ff_log2_tab[total];
877     while (n++ < read)
878         total = (total << 8) | avio_r8(pb);
879
880     if (pb->eof_reached) {
881         eof_forbidden = 1;
882         goto err;
883     }
884
885     *number = total;
886
887     return read;
888
889 err:
890     pos = avio_tell(pb);
891     if (pb->error) {
892         av_log(matroska->ctx, AV_LOG_ERROR,
893                "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
894                pos, pos);
895         return pb->error;
896     }
897     if (eof_forbidden) {
898         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
899                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
900         return AVERROR(EIO);
901     }
902     return AVERROR_EOF;
903 }
904
905 /**
906  * Read a EBML length value.
907  * This needs special handling for the "unknown length" case which has multiple
908  * encodings.
909  */
910 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
911                             uint64_t *number)
912 {
913     int res = ebml_read_num(matroska, pb, 8, number, 1);
914     if (res > 0 && *number + 1 == 1ULL << (7 * res))
915         *number = EBML_UNKNOWN_LENGTH;
916     return res;
917 }
918
919 /*
920  * Read the next element as an unsigned int.
921  * Returns NEEDS_CHECKING.
922  */
923 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
924 {
925     int n = 0;
926
927     /* big-endian ordering; build up number */
928     *num = 0;
929     while (n++ < size)
930         *num = (*num << 8) | avio_r8(pb);
931
932     return NEEDS_CHECKING;
933 }
934
935 /*
936  * Read the next element as a signed int.
937  * Returns NEEDS_CHECKING.
938  */
939 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
940 {
941     int n = 1;
942
943     if (size == 0) {
944         *num = 0;
945     } else {
946         *num = sign_extend(avio_r8(pb), 8);
947
948         /* big-endian ordering; build up number */
949         while (n++ < size)
950             *num = ((uint64_t)*num << 8) | avio_r8(pb);
951     }
952
953     return NEEDS_CHECKING;
954 }
955
956 /*
957  * Read the next element as a float.
958  * Returns NEEDS_CHECKING or < 0 on obvious failure.
959  */
960 static int ebml_read_float(AVIOContext *pb, int size, double *num)
961 {
962     if (size == 0)
963         *num = 0;
964     else if (size == 4)
965         *num = av_int2float(avio_rb32(pb));
966     else if (size == 8)
967         *num = av_int2double(avio_rb64(pb));
968     else
969         return AVERROR_INVALIDDATA;
970
971     return NEEDS_CHECKING;
972 }
973
974 /*
975  * Read the next element as an ASCII string.
976  * 0 is success, < 0 or NEEDS_CHECKING is failure.
977  */
978 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
979 {
980     char *res;
981     int ret;
982
983     /* EBML strings are usually not 0-terminated, so we allocate one
984      * byte more, read the string and NULL-terminate it ourselves. */
985     if (!(res = av_malloc(size + 1)))
986         return AVERROR(ENOMEM);
987     if ((ret = avio_read(pb, (uint8_t *) res, size)) != size) {
988         av_free(res);
989         return ret < 0 ? ret : NEEDS_CHECKING;
990     }
991     (res)[size] = '\0';
992     av_free(*str);
993     *str = res;
994
995     return 0;
996 }
997
998 /*
999  * Read the next element as binary data.
1000  * 0 is success, < 0 or NEEDS_CHECKING is failure.
1001  */
1002 static int ebml_read_binary(AVIOContext *pb, int length,
1003                             int64_t pos, EbmlBin *bin)
1004 {
1005     int ret;
1006
1007     ret = av_buffer_realloc(&bin->buf, length + AV_INPUT_BUFFER_PADDING_SIZE);
1008     if (ret < 0)
1009         return ret;
1010     memset(bin->buf->data + length, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1011
1012     bin->data = bin->buf->data;
1013     bin->size = length;
1014     bin->pos  = pos;
1015     if ((ret = avio_read(pb, bin->data, length)) != length) {
1016         av_buffer_unref(&bin->buf);
1017         bin->data = NULL;
1018         bin->size = 0;
1019         return ret < 0 ? ret : NEEDS_CHECKING;
1020     }
1021
1022     return 0;
1023 }
1024
1025 /*
1026  * Read the next element, but only the header. The contents
1027  * are supposed to be sub-elements which can be read separately.
1028  * 0 is success, < 0 is failure.
1029  */
1030 static int ebml_read_master(MatroskaDemuxContext *matroska,
1031                             uint64_t length, int64_t pos)
1032 {
1033     MatroskaLevel *level;
1034
1035     if (matroska->num_levels >= EBML_MAX_DEPTH) {
1036         av_log(matroska->ctx, AV_LOG_ERROR,
1037                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
1038         return AVERROR(ENOSYS);
1039     }
1040
1041     level         = &matroska->levels[matroska->num_levels++];
1042     level->start  = pos;
1043     level->length = length;
1044
1045     return 0;
1046 }
1047
1048 /*
1049  * Read a signed "EBML number"
1050  * Return: number of bytes processed, < 0 on error
1051  */
1052 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
1053                                  AVIOContext *pb, int64_t *num)
1054 {
1055     uint64_t unum;
1056     int res;
1057
1058     /* read as unsigned number first */
1059     if ((res = ebml_read_num(matroska, pb, 8, &unum, 1)) < 0)
1060         return res;
1061
1062     /* make signed (weird way) */
1063     *num = unum - ((1LL << (7 * res - 1)) - 1);
1064
1065     return res;
1066 }
1067
1068 static int ebml_parse(MatroskaDemuxContext *matroska,
1069                       EbmlSyntax *syntax, void *data);
1070
1071 static EbmlSyntax *ebml_parse_id(EbmlSyntax *syntax, uint32_t id)
1072 {
1073     int i;
1074
1075     // Whoever touches this should be aware of the duplication
1076     // existing in matroska_cluster_parsing.
1077     for (i = 0; syntax[i].id; i++)
1078         if (id == syntax[i].id)
1079             break;
1080
1081     return &syntax[i];
1082 }
1083
1084 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1085                            void *data)
1086 {
1087     int res;
1088
1089     if (data) {
1090         for (int i = 0; syntax[i].id; i++)
1091             switch (syntax[i].type) {
1092             case EBML_UINT:
1093                 *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
1094                 break;
1095             case EBML_SINT:
1096                 *(int64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.i;
1097                 break;
1098             case EBML_FLOAT:
1099                 *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
1100                 break;
1101             case EBML_STR:
1102             case EBML_UTF8:
1103                 // the default may be NULL
1104                 if (syntax[i].def.s) {
1105                     uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
1106                     *dst = av_strdup(syntax[i].def.s);
1107                     if (!*dst)
1108                         return AVERROR(ENOMEM);
1109                 }
1110                 break;
1111             }
1112
1113         if (!matroska->levels[matroska->num_levels - 1].length) {
1114             matroska->num_levels--;
1115             return 0;
1116         }
1117     }
1118
1119     do {
1120         res = ebml_parse(matroska, syntax, data);
1121     } while (!res);
1122
1123     return res == LEVEL_ENDED ? 0 : res;
1124 }
1125
1126 static int is_ebml_id_valid(uint32_t id)
1127 {
1128     // Due to endian nonsense in Matroska, the highest byte with any bits set
1129     // will contain the leading length bit. This bit in turn identifies the
1130     // total byte length of the element by its position within the byte.
1131     unsigned int bits = av_log2(id);
1132     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1133 }
1134
1135 /*
1136  * Allocate and return the entry for the level1 element with the given ID. If
1137  * an entry already exists, return the existing entry.
1138  */
1139 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1140                                                         uint32_t id, int64_t pos)
1141 {
1142     int i;
1143     MatroskaLevel1Element *elem;
1144
1145     if (!is_ebml_id_valid(id))
1146         return NULL;
1147
1148     // Some files link to all clusters; useless.
1149     if (id == MATROSKA_ID_CLUSTER)
1150         return NULL;
1151
1152     // There can be multiple SeekHeads and Tags.
1153     for (i = 0; i < matroska->num_level1_elems; i++) {
1154         if (matroska->level1_elems[i].id == id) {
1155             if (matroska->level1_elems[i].pos == pos ||
1156                 id != MATROSKA_ID_SEEKHEAD && id != MATROSKA_ID_TAGS)
1157                 return &matroska->level1_elems[i];
1158         }
1159     }
1160
1161     // Only a completely broken file would have more elements.
1162     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1163         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements.\n");
1164         return NULL;
1165     }
1166
1167     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1168     *elem = (MatroskaLevel1Element){.id = id};
1169
1170     return elem;
1171 }
1172
1173 static int ebml_parse(MatroskaDemuxContext *matroska,
1174                       EbmlSyntax *syntax, void *data)
1175 {
1176     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1177         // Forbid unknown-length EBML_NONE elements.
1178         [EBML_NONE]  = EBML_UNKNOWN_LENGTH - 1,
1179         [EBML_UINT]  = 8,
1180         [EBML_SINT]  = 8,
1181         [EBML_FLOAT] = 8,
1182         // max. 16 MB for strings
1183         [EBML_STR]   = 0x1000000,
1184         [EBML_UTF8]  = 0x1000000,
1185         // max. 256 MB for binary data
1186         [EBML_BIN]   = 0x10000000,
1187         // no limits for anything else
1188     };
1189     AVIOContext *pb = matroska->ctx->pb;
1190     uint32_t id;
1191     uint64_t length;
1192     int64_t pos = avio_tell(pb), pos_alt;
1193     int res, update_pos = 1, level_check;
1194     MatroskaLevel1Element *level1_elem;
1195     MatroskaLevel *level = matroska->num_levels ? &matroska->levels[matroska->num_levels - 1] : NULL;
1196
1197     if (!matroska->current_id) {
1198         uint64_t id;
1199         res = ebml_read_num(matroska, pb, 4, &id, 0);
1200         if (res < 0) {
1201             if (pb->eof_reached && res == AVERROR_EOF) {
1202                 if (matroska->is_live)
1203                     // in live mode, finish parsing if EOF is reached.
1204                     return 1;
1205                 if (level && pos == avio_tell(pb)) {
1206                     if (level->length == EBML_UNKNOWN_LENGTH) {
1207                         // Unknown-length levels automatically end at EOF.
1208                         matroska->num_levels--;
1209                         return LEVEL_ENDED;
1210                     } else {
1211                         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
1212                                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
1213                     }
1214                 }
1215             }
1216             return res;
1217         }
1218         matroska->current_id = id | 1 << 7 * res;
1219         pos_alt = pos + res;
1220     } else {
1221         pos_alt = pos;
1222         pos    -= (av_log2(matroska->current_id) + 7) / 8;
1223     }
1224
1225     id = matroska->current_id;
1226
1227     syntax = ebml_parse_id(syntax, id);
1228     if (!syntax->id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
1229         if (level && level->length == EBML_UNKNOWN_LENGTH) {
1230             // Unknown-length levels end when an element from an upper level
1231             // in the hierarchy is encountered.
1232             while (syntax->def.n) {
1233                 syntax = ebml_parse_id(syntax->def.n, id);
1234                 if (syntax->id) {
1235                     matroska->num_levels--;
1236                     return LEVEL_ENDED;
1237                 }
1238             };
1239         }
1240
1241         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32" at pos. "
1242                                             "%"PRId64"\n", id, pos);
1243         update_pos = 0; /* Don't update resync_pos as an error might have happened. */
1244     }
1245
1246     if (data) {
1247         data = (char *) data + syntax->data_offset;
1248         if (syntax->list_elem_size) {
1249             EbmlList *list = data;
1250             void *newelem;
1251
1252             if ((unsigned)list->nb_elem + 1 >= UINT_MAX / syntax->list_elem_size)
1253                 return AVERROR(ENOMEM);
1254             newelem = av_fast_realloc(list->elem,
1255                                       &list->alloc_elem_size,
1256                                       (list->nb_elem + 1) * syntax->list_elem_size);
1257             if (!newelem)
1258                 return AVERROR(ENOMEM);
1259             list->elem = newelem;
1260             data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1261             memset(data, 0, syntax->list_elem_size);
1262             list->nb_elem++;
1263         }
1264     }
1265
1266     if (syntax->type != EBML_STOP) {
1267         matroska->current_id = 0;
1268         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1269             return res;
1270
1271         pos_alt += res;
1272
1273         if (matroska->num_levels > 0) {
1274             if (length != EBML_UNKNOWN_LENGTH &&
1275                 level->length != EBML_UNKNOWN_LENGTH) {
1276                 uint64_t elem_end = pos_alt + length,
1277                         level_end = level->start + level->length;
1278
1279                 if (elem_end < level_end) {
1280                     level_check = 0;
1281                 } else if (elem_end == level_end) {
1282                     level_check = LEVEL_ENDED;
1283                 } else {
1284                     av_log(matroska->ctx, AV_LOG_ERROR,
1285                            "Element at 0x%"PRIx64" ending at 0x%"PRIx64" exceeds "
1286                            "containing master element ending at 0x%"PRIx64"\n",
1287                            pos, elem_end, level_end);
1288                     return AVERROR_INVALIDDATA;
1289                 }
1290             } else if (length != EBML_UNKNOWN_LENGTH) {
1291                 level_check = 0;
1292             } else if (level->length != EBML_UNKNOWN_LENGTH) {
1293                 av_log(matroska->ctx, AV_LOG_ERROR, "Unknown-sized element "
1294                        "at 0x%"PRIx64" inside parent with finite size\n", pos);
1295                 return AVERROR_INVALIDDATA;
1296             } else {
1297                 level_check = 0;
1298                 if (id != MATROSKA_ID_CLUSTER && (syntax->type == EBML_LEVEL1
1299                                               ||  syntax->type == EBML_NEST)) {
1300                     // According to the current specifications only clusters and
1301                     // segments are allowed to be unknown-length. We also accept
1302                     // other unknown-length master elements.
1303                     av_log(matroska->ctx, AV_LOG_WARNING,
1304                            "Found unknown-length element 0x%"PRIX32" other than "
1305                            "a cluster at 0x%"PRIx64". Spec-incompliant, but "
1306                            "parsing will nevertheless be attempted.\n", id, pos);
1307                     update_pos = -1;
1308                 }
1309             }
1310         } else
1311             level_check = 0;
1312
1313         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1314             if (length != EBML_UNKNOWN_LENGTH) {
1315                 av_log(matroska->ctx, AV_LOG_ERROR,
1316                        "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for element "
1317                        "with ID 0x%"PRIX32" at 0x%"PRIx64"\n",
1318                        length, max_lengths[syntax->type], id, pos);
1319             } else if (syntax->type != EBML_NONE) {
1320                 av_log(matroska->ctx, AV_LOG_ERROR,
1321                        "Element with ID 0x%"PRIX32" at pos. 0x%"PRIx64" has "
1322                        "unknown length, yet the length of an element of its "
1323                        "type must be known.\n", id, pos);
1324             } else {
1325                 av_log(matroska->ctx, AV_LOG_ERROR,
1326                        "Found unknown-length element with ID 0x%"PRIX32" at "
1327                        "pos. 0x%"PRIx64" for which no syntax for parsing is "
1328                        "available.\n", id, pos);
1329             }
1330             return AVERROR_INVALIDDATA;
1331         }
1332
1333         if (!(pb->seekable & AVIO_SEEKABLE_NORMAL)) {
1334             // Loosing sync will likely manifest itself as encountering unknown
1335             // elements which are not reliably distinguishable from elements
1336             // belonging to future extensions of the format.
1337             // We use a heuristic to detect such situations: If the current
1338             // element is not expected at the current syntax level and there
1339             // were only a few unknown elements in a row, then the element is
1340             // skipped or considered defective based upon the length of the
1341             // current element (i.e. how much would be skipped); if there were
1342             // more than a few skipped elements in a row and skipping the current
1343             // element would lead us more than SKIP_THRESHOLD away from the last
1344             // known good position, then it is inferred that an error occurred.
1345             // The dependency on the number of unknown elements in a row exists
1346             // because the distance to the last known good position is
1347             // automatically big if the last parsed element was big.
1348             // In both cases, each unknown element is considered equivalent to
1349             // UNKNOWN_EQUIV of skipped bytes for the check.
1350             // The whole check is only done for non-seekable output, because
1351             // in this situation skipped data can't simply be rechecked later.
1352             // This is especially important when using unkown length elements
1353             // as the check for whether a child exceeds its containing master
1354             // element is not effective in this situation.
1355             if (update_pos) {
1356                 matroska->unknown_count = 0;
1357             } else {
1358                 int64_t dist = length + UNKNOWN_EQUIV * matroska->unknown_count++;
1359
1360                 if (matroska->unknown_count > 3)
1361                     dist += pos_alt - matroska->resync_pos;
1362
1363                 if (dist > SKIP_THRESHOLD) {
1364                     av_log(matroska->ctx, AV_LOG_ERROR,
1365                            "Unknown element %"PRIX32" at pos. 0x%"PRIx64" with "
1366                            "length 0x%"PRIx64" considered as invalid data. Last "
1367                            "known good position 0x%"PRIx64", %d unknown elements"
1368                            " in a row\n", id, pos, length, matroska->resync_pos,
1369                            matroska->unknown_count);
1370                     return AVERROR_INVALIDDATA;
1371                 }
1372             }
1373         }
1374
1375         if (update_pos > 0) {
1376             // We have found an element that is allowed at this place
1377             // in the hierarchy and it passed all checks, so treat the beginning
1378             // of the element as the "last known good" position.
1379             matroska->resync_pos = pos;
1380         }
1381
1382         if (!data && length != EBML_UNKNOWN_LENGTH)
1383             goto skip;
1384     }
1385
1386     switch (syntax->type) {
1387     case EBML_UINT:
1388         res = ebml_read_uint(pb, length, data);
1389         break;
1390     case EBML_SINT:
1391         res = ebml_read_sint(pb, length, data);
1392         break;
1393     case EBML_FLOAT:
1394         res = ebml_read_float(pb, length, data);
1395         break;
1396     case EBML_STR:
1397     case EBML_UTF8:
1398         res = ebml_read_ascii(pb, length, data);
1399         break;
1400     case EBML_BIN:
1401         res = ebml_read_binary(pb, length, pos_alt, data);
1402         break;
1403     case EBML_LEVEL1:
1404     case EBML_NEST:
1405         if ((res = ebml_read_master(matroska, length, pos_alt)) < 0)
1406             return res;
1407         if (id == MATROSKA_ID_SEGMENT)
1408             matroska->segment_start = pos_alt;
1409         if (id == MATROSKA_ID_CUES)
1410             matroska->cues_parsing_deferred = 0;
1411         if (syntax->type == EBML_LEVEL1 &&
1412             (level1_elem = matroska_find_level1_elem(matroska, syntax->id, pos))) {
1413             if (!level1_elem->pos) {
1414                 // Zero is not a valid position for a level 1 element.
1415                 level1_elem->pos = pos;
1416             } else if (level1_elem->pos != pos)
1417                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1418             level1_elem->parsed = 1;
1419         }
1420         if (res = ebml_parse_nest(matroska, syntax->def.n, data))
1421             return res;
1422         break;
1423     case EBML_STOP:
1424         return 1;
1425     skip:
1426     default:
1427         if (length) {
1428             int64_t res2;
1429             if (ffio_limit(pb, length) != length) {
1430                 // ffio_limit emits its own error message,
1431                 // so we don't have to.
1432                 return AVERROR(EIO);
1433             }
1434             if ((res2 = avio_skip(pb, length - 1)) >= 0) {
1435                 // avio_skip might take us past EOF. We check for this
1436                 // by skipping only length - 1 bytes, reading a byte and
1437                 // checking the error flags. This is done in order to check
1438                 // that the element has been properly skipped even when
1439                 // no filesize (that ffio_limit relies on) is available.
1440                 avio_r8(pb);
1441                 res = NEEDS_CHECKING;
1442             } else
1443                 res = res2;
1444         } else
1445             res = 0;
1446     }
1447     if (res) {
1448         if (res == NEEDS_CHECKING) {
1449             if (pb->eof_reached) {
1450                 if (pb->error)
1451                     res = pb->error;
1452                 else
1453                     res = AVERROR_EOF;
1454             } else
1455                 goto level_check;
1456         }
1457
1458         if (res == AVERROR_INVALIDDATA)
1459             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1460         else if (res == AVERROR(EIO))
1461             av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1462         else if (res == AVERROR_EOF) {
1463             av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely\n");
1464             res = AVERROR(EIO);
1465         }
1466
1467         return res;
1468     }
1469
1470 level_check:
1471     if (level_check == LEVEL_ENDED && matroska->num_levels) {
1472         level = &matroska->levels[matroska->num_levels - 1];
1473         pos   = avio_tell(pb);
1474
1475         // Given that pos >= level->start no check for
1476         // level->length != EBML_UNKNOWN_LENGTH is necessary.
1477         while (matroska->num_levels && pos == level->start + level->length) {
1478             matroska->num_levels--;
1479             level--;
1480         }
1481     }
1482
1483     return level_check;
1484 }
1485
1486 static void ebml_free(EbmlSyntax *syntax, void *data)
1487 {
1488     int i, j;
1489     for (i = 0; syntax[i].id; i++) {
1490         void *data_off = (char *) data + syntax[i].data_offset;
1491         switch (syntax[i].type) {
1492         case EBML_STR:
1493         case EBML_UTF8:
1494             av_freep(data_off);
1495             break;
1496         case EBML_BIN:
1497             av_buffer_unref(&((EbmlBin *) data_off)->buf);
1498             break;
1499         case EBML_LEVEL1:
1500         case EBML_NEST:
1501             if (syntax[i].list_elem_size) {
1502                 EbmlList *list = data_off;
1503                 char *ptr = list->elem;
1504                 for (j = 0; j < list->nb_elem;
1505                      j++, ptr += syntax[i].list_elem_size)
1506                     ebml_free(syntax[i].def.n, ptr);
1507                 av_freep(&list->elem);
1508                 list->nb_elem = 0;
1509                 list->alloc_elem_size = 0;
1510             } else
1511                 ebml_free(syntax[i].def.n, data_off);
1512         default:
1513             break;
1514         }
1515     }
1516 }
1517
1518 /*
1519  * Autodetecting...
1520  */
1521 static int matroska_probe(const AVProbeData *p)
1522 {
1523     uint64_t total = 0;
1524     int len_mask = 0x80, size = 1, n = 1, i;
1525
1526     /* EBML header? */
1527     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1528         return 0;
1529
1530     /* length of header */
1531     total = p->buf[4];
1532     while (size <= 8 && !(total & len_mask)) {
1533         size++;
1534         len_mask >>= 1;
1535     }
1536     if (size > 8)
1537         return 0;
1538     total &= (len_mask - 1);
1539     while (n < size)
1540         total = (total << 8) | p->buf[4 + n++];
1541
1542     if (total + 1 == 1ULL << (7 * size)){
1543         /* Unknown-length header - simply parse the whole buffer. */
1544         total = p->buf_size - 4 - size;
1545     } else {
1546         /* Does the probe data contain the whole header? */
1547         if (p->buf_size < 4 + size + total)
1548             return 0;
1549     }
1550
1551     /* The header should contain a known document type. For now,
1552      * we don't parse the whole header but simply check for the
1553      * availability of that array of characters inside the header.
1554      * Not fully fool-proof, but good enough. */
1555     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1556         size_t probelen = strlen(matroska_doctypes[i]);
1557         if (total < probelen)
1558             continue;
1559         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1560             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1561                 return AVPROBE_SCORE_MAX;
1562     }
1563
1564     // probably valid EBML header but no recognized doctype
1565     return AVPROBE_SCORE_EXTENSION;
1566 }
1567
1568 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1569                                                  uint64_t num)
1570 {
1571     MatroskaTrack *tracks = matroska->tracks.elem;
1572     int i;
1573
1574     for (i = 0; i < matroska->tracks.nb_elem; i++)
1575         if (tracks[i].num == num)
1576             return &tracks[i];
1577
1578     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %"PRIu64"\n", num);
1579     return NULL;
1580 }
1581
1582 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1583                                   MatroskaTrack *track)
1584 {
1585     MatroskaTrackEncoding *encodings = track->encodings.elem;
1586     uint8_t *data = *buf;
1587     int isize = *buf_size;
1588     uint8_t *pkt_data = NULL;
1589     uint8_t av_unused *newpktdata;
1590     int pkt_size = isize;
1591     int result = 0;
1592     int olen;
1593
1594     if (pkt_size >= 10000000U)
1595         return AVERROR_INVALIDDATA;
1596
1597     switch (encodings[0].compression.algo) {
1598     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1599     {
1600         int header_size = encodings[0].compression.settings.size;
1601         uint8_t *header = encodings[0].compression.settings.data;
1602
1603         if (header_size && !header) {
1604             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1605             return -1;
1606         }
1607
1608         if (!header_size)
1609             return 0;
1610
1611         pkt_size = isize + header_size;
1612         pkt_data = av_malloc(pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1613         if (!pkt_data)
1614             return AVERROR(ENOMEM);
1615
1616         memcpy(pkt_data, header, header_size);
1617         memcpy(pkt_data + header_size, data, isize);
1618         break;
1619     }
1620 #if CONFIG_LZO
1621     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1622         do {
1623             int insize = isize;
1624             olen       = pkt_size *= 3;
1625             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING
1626                                                        + AV_INPUT_BUFFER_PADDING_SIZE);
1627             if (!newpktdata) {
1628                 result = AVERROR(ENOMEM);
1629                 goto failed;
1630             }
1631             pkt_data = newpktdata;
1632             result   = av_lzo1x_decode(pkt_data, &olen, data, &insize);
1633         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1634         if (result) {
1635             result = AVERROR_INVALIDDATA;
1636             goto failed;
1637         }
1638         pkt_size -= olen;
1639         break;
1640 #endif
1641 #if CONFIG_ZLIB
1642     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1643     {
1644         z_stream zstream = { 0 };
1645         if (inflateInit(&zstream) != Z_OK)
1646             return -1;
1647         zstream.next_in  = data;
1648         zstream.avail_in = isize;
1649         do {
1650             pkt_size  *= 3;
1651             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1652             if (!newpktdata) {
1653                 inflateEnd(&zstream);
1654                 result = AVERROR(ENOMEM);
1655                 goto failed;
1656             }
1657             pkt_data          = newpktdata;
1658             zstream.avail_out = pkt_size - zstream.total_out;
1659             zstream.next_out  = pkt_data + zstream.total_out;
1660             result = inflate(&zstream, Z_NO_FLUSH);
1661         } while (result == Z_OK && pkt_size < 10000000);
1662         pkt_size = zstream.total_out;
1663         inflateEnd(&zstream);
1664         if (result != Z_STREAM_END) {
1665             if (result == Z_MEM_ERROR)
1666                 result = AVERROR(ENOMEM);
1667             else
1668                 result = AVERROR_INVALIDDATA;
1669             goto failed;
1670         }
1671         break;
1672     }
1673 #endif
1674 #if CONFIG_BZLIB
1675     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1676     {
1677         bz_stream bzstream = { 0 };
1678         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1679             return -1;
1680         bzstream.next_in  = data;
1681         bzstream.avail_in = isize;
1682         do {
1683             pkt_size  *= 3;
1684             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1685             if (!newpktdata) {
1686                 BZ2_bzDecompressEnd(&bzstream);
1687                 result = AVERROR(ENOMEM);
1688                 goto failed;
1689             }
1690             pkt_data           = newpktdata;
1691             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1692             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1693             result = BZ2_bzDecompress(&bzstream);
1694         } while (result == BZ_OK && pkt_size < 10000000);
1695         pkt_size = bzstream.total_out_lo32;
1696         BZ2_bzDecompressEnd(&bzstream);
1697         if (result != BZ_STREAM_END) {
1698             if (result == BZ_MEM_ERROR)
1699                 result = AVERROR(ENOMEM);
1700             else
1701                 result = AVERROR_INVALIDDATA;
1702             goto failed;
1703         }
1704         break;
1705     }
1706 #endif
1707     default:
1708         return AVERROR_INVALIDDATA;
1709     }
1710
1711     memset(pkt_data + pkt_size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1712
1713     *buf      = pkt_data;
1714     *buf_size = pkt_size;
1715     return 0;
1716
1717 failed:
1718     av_free(pkt_data);
1719     return result;
1720 }
1721
1722 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1723                                  AVDictionary **metadata, char *prefix)
1724 {
1725     MatroskaTag *tags = list->elem;
1726     char key[1024];
1727     int i;
1728
1729     for (i = 0; i < list->nb_elem; i++) {
1730         const char *lang = tags[i].lang &&
1731                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1732
1733         if (!tags[i].name) {
1734             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1735             continue;
1736         }
1737         if (prefix)
1738             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1739         else
1740             av_strlcpy(key, tags[i].name, sizeof(key));
1741         if (tags[i].def || !lang) {
1742             av_dict_set(metadata, key, tags[i].string, 0);
1743             if (tags[i].sub.nb_elem)
1744                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1745         }
1746         if (lang) {
1747             av_strlcat(key, "-", sizeof(key));
1748             av_strlcat(key, lang, sizeof(key));
1749             av_dict_set(metadata, key, tags[i].string, 0);
1750             if (tags[i].sub.nb_elem)
1751                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1752         }
1753     }
1754     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1755 }
1756
1757 static void matroska_convert_tags(AVFormatContext *s)
1758 {
1759     MatroskaDemuxContext *matroska = s->priv_data;
1760     MatroskaTags *tags = matroska->tags.elem;
1761     int i, j;
1762
1763     for (i = 0; i < matroska->tags.nb_elem; i++) {
1764         if (tags[i].target.attachuid) {
1765             MatroskaAttachment *attachment = matroska->attachments.elem;
1766             int found = 0;
1767             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1768                 if (attachment[j].uid == tags[i].target.attachuid &&
1769                     attachment[j].stream) {
1770                     matroska_convert_tag(s, &tags[i].tag,
1771                                          &attachment[j].stream->metadata, NULL);
1772                     found = 1;
1773                 }
1774             }
1775             if (!found) {
1776                 av_log(s, AV_LOG_WARNING,
1777                        "The tags at index %d refer to a "
1778                        "non-existent attachment %"PRId64".\n",
1779                        i, tags[i].target.attachuid);
1780             }
1781         } else if (tags[i].target.chapteruid) {
1782             MatroskaChapter *chapter = matroska->chapters.elem;
1783             int found = 0;
1784             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1785                 if (chapter[j].uid == tags[i].target.chapteruid &&
1786                     chapter[j].chapter) {
1787                     matroska_convert_tag(s, &tags[i].tag,
1788                                          &chapter[j].chapter->metadata, NULL);
1789                     found = 1;
1790                 }
1791             }
1792             if (!found) {
1793                 av_log(s, AV_LOG_WARNING,
1794                        "The tags at index %d refer to a non-existent chapter "
1795                        "%"PRId64".\n",
1796                        i, tags[i].target.chapteruid);
1797             }
1798         } else if (tags[i].target.trackuid) {
1799             MatroskaTrack *track = matroska->tracks.elem;
1800             int found = 0;
1801             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1802                 if (track[j].uid == tags[i].target.trackuid &&
1803                     track[j].stream) {
1804                     matroska_convert_tag(s, &tags[i].tag,
1805                                          &track[j].stream->metadata, NULL);
1806                     found = 1;
1807                }
1808             }
1809             if (!found) {
1810                 av_log(s, AV_LOG_WARNING,
1811                        "The tags at index %d refer to a non-existent track "
1812                        "%"PRId64".\n",
1813                        i, tags[i].target.trackuid);
1814             }
1815         } else {
1816             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1817                                  tags[i].target.type);
1818         }
1819     }
1820 }
1821
1822 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1823                                          int64_t pos)
1824 {
1825     uint32_t saved_id  = matroska->current_id;
1826     int64_t before_pos = avio_tell(matroska->ctx->pb);
1827     int ret = 0;
1828
1829     /* seek */
1830     if (avio_seek(matroska->ctx->pb, pos, SEEK_SET) == pos) {
1831         /* We don't want to lose our seekhead level, so we add
1832          * a dummy. This is a crude hack. */
1833         if (matroska->num_levels == EBML_MAX_DEPTH) {
1834             av_log(matroska->ctx, AV_LOG_INFO,
1835                    "Max EBML element depth (%d) reached, "
1836                    "cannot parse further.\n", EBML_MAX_DEPTH);
1837             ret = AVERROR_INVALIDDATA;
1838         } else {
1839             matroska->levels[matroska->num_levels] = (MatroskaLevel) { 0, EBML_UNKNOWN_LENGTH };
1840             matroska->num_levels++;
1841             matroska->current_id                   = 0;
1842
1843             ret = ebml_parse(matroska, matroska_segment, matroska);
1844             if (ret == LEVEL_ENDED) {
1845                 /* This can only happen if the seek brought us beyond EOF. */
1846                 ret = AVERROR_EOF;
1847             }
1848         }
1849     }
1850     /* Seek back - notice that in all instances where this is used
1851      * it is safe to set the level to 1. */
1852     matroska_reset_status(matroska, saved_id, before_pos);
1853
1854     return ret;
1855 }
1856
1857 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1858 {
1859     EbmlList *seekhead_list = &matroska->seekhead;
1860     int i;
1861
1862     // we should not do any seeking in the streaming case
1863     if (!(matroska->ctx->pb->seekable & AVIO_SEEKABLE_NORMAL))
1864         return;
1865
1866     for (i = 0; i < seekhead_list->nb_elem; i++) {
1867         MatroskaSeekhead *seekheads = seekhead_list->elem;
1868         uint32_t id = seekheads[i].id;
1869         int64_t pos = seekheads[i].pos + matroska->segment_start;
1870         MatroskaLevel1Element *elem;
1871
1872         if (id != seekheads[i].id || pos < matroska->segment_start)
1873             continue;
1874
1875         elem = matroska_find_level1_elem(matroska, id, pos);
1876         if (!elem || elem->parsed)
1877             continue;
1878
1879         elem->pos = pos;
1880
1881         // defer cues parsing until we actually need cue data.
1882         if (id == MATROSKA_ID_CUES)
1883             continue;
1884
1885         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1886             // mark index as broken
1887             matroska->cues_parsing_deferred = -1;
1888             break;
1889         }
1890
1891         elem->parsed = 1;
1892     }
1893 }
1894
1895 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1896 {
1897     EbmlList *index_list;
1898     MatroskaIndex *index;
1899     uint64_t index_scale = 1;
1900     int i, j;
1901
1902     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1903         return;
1904
1905     index_list = &matroska->index;
1906     index      = index_list->elem;
1907     if (index_list->nb_elem < 2)
1908         return;
1909     if (index[1].time > 1E14 / matroska->time_scale) {
1910         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1911         return;
1912     }
1913     for (i = 0; i < index_list->nb_elem; i++) {
1914         EbmlList *pos_list    = &index[i].pos;
1915         MatroskaIndexPos *pos = pos_list->elem;
1916         for (j = 0; j < pos_list->nb_elem; j++) {
1917             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1918                                                               pos[j].track);
1919             if (track && track->stream)
1920                 av_add_index_entry(track->stream,
1921                                    pos[j].pos + matroska->segment_start,
1922                                    index[i].time / index_scale, 0, 0,
1923                                    AVINDEX_KEYFRAME);
1924         }
1925     }
1926 }
1927
1928 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1929     int i;
1930
1931     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1932         return;
1933
1934     for (i = 0; i < matroska->num_level1_elems; i++) {
1935         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1936         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1937             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1938                 matroska->cues_parsing_deferred = -1;
1939             elem->parsed = 1;
1940             break;
1941         }
1942     }
1943
1944     matroska_add_index_entries(matroska);
1945 }
1946
1947 static int matroska_aac_profile(char *codec_id)
1948 {
1949     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1950     int profile;
1951
1952     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1953         if (strstr(codec_id, aac_profiles[profile]))
1954             break;
1955     return profile + 1;
1956 }
1957
1958 static int matroska_aac_sri(int samplerate)
1959 {
1960     int sri;
1961
1962     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1963         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1964             break;
1965     return sri;
1966 }
1967
1968 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1969 {
1970     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1971     avpriv_dict_set_timestamp(metadata, "creation_time", date_utc / 1000 + 978307200000000LL);
1972 }
1973
1974 static int matroska_parse_flac(AVFormatContext *s,
1975                                MatroskaTrack *track,
1976                                int *offset)
1977 {
1978     AVStream *st = track->stream;
1979     uint8_t *p = track->codec_priv.data;
1980     int size   = track->codec_priv.size;
1981
1982     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1983         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1984         track->codec_priv.size = 0;
1985         return 0;
1986     }
1987     *offset = 8;
1988     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1989
1990     p    += track->codec_priv.size;
1991     size -= track->codec_priv.size;
1992
1993     /* parse the remaining metadata blocks if present */
1994     while (size >= 4) {
1995         int block_last, block_type, block_size;
1996
1997         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1998
1999         p    += 4;
2000         size -= 4;
2001         if (block_size > size)
2002             return 0;
2003
2004         /* check for the channel mask */
2005         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
2006             AVDictionary *dict = NULL;
2007             AVDictionaryEntry *chmask;
2008
2009             ff_vorbis_comment(s, &dict, p, block_size, 0);
2010             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
2011             if (chmask) {
2012                 uint64_t mask = strtol(chmask->value, NULL, 0);
2013                 if (!mask || mask & ~0x3ffffULL) {
2014                     av_log(s, AV_LOG_WARNING,
2015                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
2016                 } else
2017                     st->codecpar->channel_layout = mask;
2018             }
2019             av_dict_free(&dict);
2020         }
2021
2022         p    += block_size;
2023         size -= block_size;
2024     }
2025
2026     return 0;
2027 }
2028
2029 static int mkv_field_order(MatroskaDemuxContext *matroska, int64_t field_order)
2030 {
2031     int minor, micro, bttb = 0;
2032
2033     /* workaround a bug in our Matroska muxer, introduced in version 57.36 alongside
2034      * this function, and fixed in 57.52 */
2035     if (matroska->muxingapp && sscanf(matroska->muxingapp, "Lavf57.%d.%d", &minor, &micro) == 2)
2036         bttb = (minor >= 36 && minor <= 51 && micro >= 100);
2037
2038     switch (field_order) {
2039     case MATROSKA_VIDEO_FIELDORDER_PROGRESSIVE:
2040         return AV_FIELD_PROGRESSIVE;
2041     case MATROSKA_VIDEO_FIELDORDER_UNDETERMINED:
2042         return AV_FIELD_UNKNOWN;
2043     case MATROSKA_VIDEO_FIELDORDER_TT:
2044         return AV_FIELD_TT;
2045     case MATROSKA_VIDEO_FIELDORDER_BB:
2046         return AV_FIELD_BB;
2047     case MATROSKA_VIDEO_FIELDORDER_BT:
2048         return bttb ? AV_FIELD_TB : AV_FIELD_BT;
2049     case MATROSKA_VIDEO_FIELDORDER_TB:
2050         return bttb ? AV_FIELD_BT : AV_FIELD_TB;
2051     default:
2052         return AV_FIELD_UNKNOWN;
2053     }
2054 }
2055
2056 static void mkv_stereo_mode_display_mul(int stereo_mode,
2057                                         int *h_width, int *h_height)
2058 {
2059     switch (stereo_mode) {
2060         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
2061         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
2062         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
2063         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
2064         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
2065             break;
2066         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
2067         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
2068         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
2069         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
2070             *h_width = 2;
2071             break;
2072         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
2073         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
2074         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
2075         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
2076             *h_height = 2;
2077             break;
2078     }
2079 }
2080
2081 static int mkv_parse_video_color(AVStream *st, const MatroskaTrack *track) {
2082     const MatroskaTrackVideoColor *color = track->video.color.elem;
2083     const MatroskaMasteringMeta *mastering_meta;
2084     int has_mastering_primaries, has_mastering_luminance;
2085
2086     if (!track->video.color.nb_elem)
2087         return 0;
2088
2089     mastering_meta = &color->mastering_meta;
2090     // Mastering primaries are CIE 1931 coords, and must be > 0.
2091     has_mastering_primaries =
2092         mastering_meta->r_x > 0 && mastering_meta->r_y > 0 &&
2093         mastering_meta->g_x > 0 && mastering_meta->g_y > 0 &&
2094         mastering_meta->b_x > 0 && mastering_meta->b_y > 0 &&
2095         mastering_meta->white_x > 0 && mastering_meta->white_y > 0;
2096     has_mastering_luminance = mastering_meta->max_luminance > 0;
2097
2098     if (color->matrix_coefficients != AVCOL_SPC_RESERVED)
2099         st->codecpar->color_space = color->matrix_coefficients;
2100     if (color->primaries != AVCOL_PRI_RESERVED &&
2101         color->primaries != AVCOL_PRI_RESERVED0)
2102         st->codecpar->color_primaries = color->primaries;
2103     if (color->transfer_characteristics != AVCOL_TRC_RESERVED &&
2104         color->transfer_characteristics != AVCOL_TRC_RESERVED0)
2105         st->codecpar->color_trc = color->transfer_characteristics;
2106     if (color->range != AVCOL_RANGE_UNSPECIFIED &&
2107         color->range <= AVCOL_RANGE_JPEG)
2108         st->codecpar->color_range = color->range;
2109     if (color->chroma_siting_horz != MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED &&
2110         color->chroma_siting_vert != MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED &&
2111         color->chroma_siting_horz  < MATROSKA_COLOUR_CHROMASITINGHORZ_NB &&
2112         color->chroma_siting_vert  < MATROSKA_COLOUR_CHROMASITINGVERT_NB) {
2113         st->codecpar->chroma_location =
2114             avcodec_chroma_pos_to_enum((color->chroma_siting_horz - 1) << 7,
2115                                        (color->chroma_siting_vert - 1) << 7);
2116     }
2117     if (color->max_cll && color->max_fall) {
2118         size_t size = 0;
2119         int ret;
2120         AVContentLightMetadata *metadata = av_content_light_metadata_alloc(&size);
2121         if (!metadata)
2122             return AVERROR(ENOMEM);
2123         ret = av_stream_add_side_data(st, AV_PKT_DATA_CONTENT_LIGHT_LEVEL,
2124                                       (uint8_t *)metadata, size);
2125         if (ret < 0) {
2126             av_freep(&metadata);
2127             return ret;
2128         }
2129         metadata->MaxCLL  = color->max_cll;
2130         metadata->MaxFALL = color->max_fall;
2131     }
2132
2133     if (has_mastering_primaries || has_mastering_luminance) {
2134         AVMasteringDisplayMetadata *metadata =
2135             (AVMasteringDisplayMetadata*) av_stream_new_side_data(
2136                 st, AV_PKT_DATA_MASTERING_DISPLAY_METADATA,
2137                 sizeof(AVMasteringDisplayMetadata));
2138         if (!metadata) {
2139             return AVERROR(ENOMEM);
2140         }
2141         memset(metadata, 0, sizeof(AVMasteringDisplayMetadata));
2142         if (has_mastering_primaries) {
2143             metadata->display_primaries[0][0] = av_d2q(mastering_meta->r_x, INT_MAX);
2144             metadata->display_primaries[0][1] = av_d2q(mastering_meta->r_y, INT_MAX);
2145             metadata->display_primaries[1][0] = av_d2q(mastering_meta->g_x, INT_MAX);
2146             metadata->display_primaries[1][1] = av_d2q(mastering_meta->g_y, INT_MAX);
2147             metadata->display_primaries[2][0] = av_d2q(mastering_meta->b_x, INT_MAX);
2148             metadata->display_primaries[2][1] = av_d2q(mastering_meta->b_y, INT_MAX);
2149             metadata->white_point[0] = av_d2q(mastering_meta->white_x, INT_MAX);
2150             metadata->white_point[1] = av_d2q(mastering_meta->white_y, INT_MAX);
2151             metadata->has_primaries = 1;
2152         }
2153         if (has_mastering_luminance) {
2154             metadata->max_luminance = av_d2q(mastering_meta->max_luminance, INT_MAX);
2155             metadata->min_luminance = av_d2q(mastering_meta->min_luminance, INT_MAX);
2156             metadata->has_luminance = 1;
2157         }
2158     }
2159     return 0;
2160 }
2161
2162 static int mkv_parse_video_projection(AVStream *st, const MatroskaTrack *track,
2163                                       void *logctx)
2164 {
2165     AVSphericalMapping *spherical;
2166     const MatroskaTrackVideoProjection *mkv_projection = &track->video.projection;
2167     const uint8_t *priv_data = mkv_projection->private.data;
2168     enum AVSphericalProjection projection;
2169     size_t spherical_size;
2170     uint32_t l = 0, t = 0, r = 0, b = 0;
2171     uint32_t padding = 0;
2172     int ret;
2173
2174     if (mkv_projection->private.size && priv_data[0] != 0) {
2175         av_log(logctx, AV_LOG_WARNING, "Unknown spherical metadata\n");
2176         return 0;
2177     }
2178
2179     switch (track->video.projection.type) {
2180     case MATROSKA_VIDEO_PROJECTION_TYPE_EQUIRECTANGULAR:
2181         if (track->video.projection.private.size == 20) {
2182             t = AV_RB32(priv_data +  4);
2183             b = AV_RB32(priv_data +  8);
2184             l = AV_RB32(priv_data + 12);
2185             r = AV_RB32(priv_data + 16);
2186
2187             if (b >= UINT_MAX - t || r >= UINT_MAX - l) {
2188                 av_log(logctx, AV_LOG_ERROR,
2189                        "Invalid bounding rectangle coordinates "
2190                        "%"PRIu32",%"PRIu32",%"PRIu32",%"PRIu32"\n",
2191                        l, t, r, b);
2192                 return AVERROR_INVALIDDATA;
2193             }
2194         } else if (track->video.projection.private.size != 0) {
2195             av_log(logctx, AV_LOG_ERROR, "Unknown spherical metadata\n");
2196             return AVERROR_INVALIDDATA;
2197         }
2198
2199         if (l || t || r || b)
2200             projection = AV_SPHERICAL_EQUIRECTANGULAR_TILE;
2201         else
2202             projection = AV_SPHERICAL_EQUIRECTANGULAR;
2203         break;
2204     case MATROSKA_VIDEO_PROJECTION_TYPE_CUBEMAP:
2205         if (track->video.projection.private.size < 4) {
2206             av_log(logctx, AV_LOG_ERROR, "Missing projection private properties\n");
2207             return AVERROR_INVALIDDATA;
2208         } else if (track->video.projection.private.size == 12) {
2209             uint32_t layout = AV_RB32(priv_data + 4);
2210             if (layout) {
2211                 av_log(logctx, AV_LOG_WARNING,
2212                        "Unknown spherical cubemap layout %"PRIu32"\n", layout);
2213                 return 0;
2214             }
2215             projection = AV_SPHERICAL_CUBEMAP;
2216             padding = AV_RB32(priv_data + 8);
2217         } else {
2218             av_log(logctx, AV_LOG_ERROR, "Unknown spherical metadata\n");
2219             return AVERROR_INVALIDDATA;
2220         }
2221         break;
2222     case MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR:
2223         /* No Spherical metadata */
2224         return 0;
2225     default:
2226         av_log(logctx, AV_LOG_WARNING,
2227                "Unknown spherical metadata type %"PRIu64"\n",
2228                track->video.projection.type);
2229         return 0;
2230     }
2231
2232     spherical = av_spherical_alloc(&spherical_size);
2233     if (!spherical)
2234         return AVERROR(ENOMEM);
2235
2236     spherical->projection = projection;
2237
2238     spherical->yaw   = (int32_t) (track->video.projection.yaw   * (1 << 16));
2239     spherical->pitch = (int32_t) (track->video.projection.pitch * (1 << 16));
2240     spherical->roll  = (int32_t) (track->video.projection.roll  * (1 << 16));
2241
2242     spherical->padding = padding;
2243
2244     spherical->bound_left   = l;
2245     spherical->bound_top    = t;
2246     spherical->bound_right  = r;
2247     spherical->bound_bottom = b;
2248
2249     ret = av_stream_add_side_data(st, AV_PKT_DATA_SPHERICAL, (uint8_t *)spherical,
2250                                   spherical_size);
2251     if (ret < 0) {
2252         av_freep(&spherical);
2253         return ret;
2254     }
2255
2256     return 0;
2257 }
2258
2259 static int get_qt_codec(MatroskaTrack *track, uint32_t *fourcc, enum AVCodecID *codec_id)
2260 {
2261     const AVCodecTag *codec_tags;
2262
2263     codec_tags = track->type == MATROSKA_TRACK_TYPE_VIDEO ?
2264             ff_codec_movvideo_tags : ff_codec_movaudio_tags;
2265
2266     /* Normalize noncompliant private data that starts with the fourcc
2267      * by expanding/shifting the data by 4 bytes and storing the data
2268      * size at the start. */
2269     if (ff_codec_get_id(codec_tags, AV_RL32(track->codec_priv.data))) {
2270         int ret = av_buffer_realloc(&track->codec_priv.buf,
2271                                     track->codec_priv.size + 4 + AV_INPUT_BUFFER_PADDING_SIZE);
2272         if (ret < 0)
2273             return ret;
2274
2275         track->codec_priv.data = track->codec_priv.buf->data;
2276         memmove(track->codec_priv.data + 4, track->codec_priv.data, track->codec_priv.size);
2277         track->codec_priv.size += 4;
2278         AV_WB32(track->codec_priv.data, track->codec_priv.size);
2279     }
2280
2281     *fourcc = AV_RL32(track->codec_priv.data + 4);
2282     *codec_id = ff_codec_get_id(codec_tags, *fourcc);
2283
2284     return 0;
2285 }
2286
2287 static int matroska_parse_tracks(AVFormatContext *s)
2288 {
2289     MatroskaDemuxContext *matroska = s->priv_data;
2290     MatroskaTrack *tracks = matroska->tracks.elem;
2291     AVStream *st;
2292     int i, j, ret;
2293     int k;
2294
2295     for (i = 0; i < matroska->tracks.nb_elem; i++) {
2296         MatroskaTrack *track = &tracks[i];
2297         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
2298         EbmlList *encodings_list = &track->encodings;
2299         MatroskaTrackEncoding *encodings = encodings_list->elem;
2300         uint8_t *extradata = NULL;
2301         int extradata_size = 0;
2302         int extradata_offset = 0;
2303         uint32_t fourcc = 0;
2304         AVIOContext b;
2305         char* key_id_base64 = NULL;
2306         int bit_depth = -1;
2307
2308         /* Apply some sanity checks. */
2309         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
2310             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
2311             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
2312             track->type != MATROSKA_TRACK_TYPE_METADATA) {
2313             av_log(matroska->ctx, AV_LOG_INFO,
2314                    "Unknown or unsupported track type %"PRIu64"\n",
2315                    track->type);
2316             continue;
2317         }
2318         if (!track->codec_id)
2319             continue;
2320
2321         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
2322             isnan(track->audio.samplerate)) {
2323             av_log(matroska->ctx, AV_LOG_WARNING,
2324                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
2325                    track->audio.samplerate);
2326             track->audio.samplerate = 8000;
2327         }
2328
2329         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2330             if (!track->default_duration && track->video.frame_rate > 0) {
2331                 double default_duration = 1000000000 / track->video.frame_rate;
2332                 if (default_duration > UINT64_MAX || default_duration < 0) {
2333                     av_log(matroska->ctx, AV_LOG_WARNING,
2334                          "Invalid frame rate %e. Cannot calculate default duration.\n",
2335                          track->video.frame_rate);
2336                 } else {
2337                     track->default_duration = default_duration;
2338                 }
2339             }
2340             if (track->video.display_width == -1)
2341                 track->video.display_width = track->video.pixel_width;
2342             if (track->video.display_height == -1)
2343                 track->video.display_height = track->video.pixel_height;
2344             if (track->video.color_space.size == 4)
2345                 fourcc = AV_RL32(track->video.color_space.data);
2346         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2347             if (!track->audio.out_samplerate)
2348                 track->audio.out_samplerate = track->audio.samplerate;
2349         }
2350         if (encodings_list->nb_elem > 1) {
2351             av_log(matroska->ctx, AV_LOG_ERROR,
2352                    "Multiple combined encodings not supported");
2353         } else if (encodings_list->nb_elem == 1) {
2354             if (encodings[0].type) {
2355                 if (encodings[0].encryption.key_id.size > 0) {
2356                     /* Save the encryption key id to be stored later as a
2357                        metadata tag. */
2358                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
2359                     key_id_base64 = av_malloc(b64_size);
2360                     if (key_id_base64 == NULL)
2361                         return AVERROR(ENOMEM);
2362
2363                     av_base64_encode(key_id_base64, b64_size,
2364                                      encodings[0].encryption.key_id.data,
2365                                      encodings[0].encryption.key_id.size);
2366                 } else {
2367                     encodings[0].scope = 0;
2368                     av_log(matroska->ctx, AV_LOG_ERROR,
2369                            "Unsupported encoding type");
2370                 }
2371             } else if (
2372 #if CONFIG_ZLIB
2373                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
2374 #endif
2375 #if CONFIG_BZLIB
2376                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
2377 #endif
2378 #if CONFIG_LZO
2379                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
2380 #endif
2381                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
2382                 encodings[0].scope = 0;
2383                 av_log(matroska->ctx, AV_LOG_ERROR,
2384                        "Unsupported encoding type");
2385             } else if (track->codec_priv.size && encodings[0].scope & 2) {
2386                 uint8_t *codec_priv = track->codec_priv.data;
2387                 int ret = matroska_decode_buffer(&track->codec_priv.data,
2388                                                  &track->codec_priv.size,
2389                                                  track);
2390                 if (ret < 0) {
2391                     track->codec_priv.data = NULL;
2392                     track->codec_priv.size = 0;
2393                     av_log(matroska->ctx, AV_LOG_ERROR,
2394                            "Failed to decode codec private data\n");
2395                 }
2396
2397                 if (codec_priv != track->codec_priv.data) {
2398                     av_buffer_unref(&track->codec_priv.buf);
2399                     if (track->codec_priv.data) {
2400                         track->codec_priv.buf = av_buffer_create(track->codec_priv.data,
2401                                                                  track->codec_priv.size + AV_INPUT_BUFFER_PADDING_SIZE,
2402                                                                  NULL, NULL, 0);
2403                         if (!track->codec_priv.buf) {
2404                             av_freep(&track->codec_priv.data);
2405                             track->codec_priv.size = 0;
2406                             return AVERROR(ENOMEM);
2407                         }
2408                     }
2409                 }
2410             }
2411         }
2412         track->needs_decoding = encodings && !encodings[0].type &&
2413                                 encodings[0].scope & 1          &&
2414                                 (encodings[0].compression.algo !=
2415                                    MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP ||
2416                                  encodings[0].compression.settings.size);
2417
2418         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
2419             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
2420                          strlen(ff_mkv_codec_tags[j].str))) {
2421                 codec_id = ff_mkv_codec_tags[j].id;
2422                 break;
2423             }
2424         }
2425
2426         st = track->stream = avformat_new_stream(s, NULL);
2427         if (!st) {
2428             av_free(key_id_base64);
2429             return AVERROR(ENOMEM);
2430         }
2431
2432         if (key_id_base64) {
2433             /* export encryption key id as base64 metadata tag */
2434             av_dict_set(&st->metadata, "enc_key_id", key_id_base64,
2435                         AV_DICT_DONT_STRDUP_VAL);
2436         }
2437
2438         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
2439              track->codec_priv.size >= 40               &&
2440             track->codec_priv.data) {
2441             track->ms_compat    = 1;
2442             bit_depth           = AV_RL16(track->codec_priv.data + 14);
2443             fourcc              = AV_RL32(track->codec_priv.data + 16);
2444             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
2445                                                   fourcc);
2446             if (!codec_id)
2447                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
2448                                                   fourcc);
2449             extradata_offset    = 40;
2450         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
2451                    track->codec_priv.size >= 14         &&
2452                    track->codec_priv.data) {
2453             int ret;
2454             ffio_init_context(&b, track->codec_priv.data,
2455                               track->codec_priv.size,
2456                               0, NULL, NULL, NULL, NULL);
2457             ret = ff_get_wav_header(s, &b, st->codecpar, track->codec_priv.size, 0);
2458             if (ret < 0)
2459                 return ret;
2460             codec_id         = st->codecpar->codec_id;
2461             fourcc           = st->codecpar->codec_tag;
2462             extradata_offset = FFMIN(track->codec_priv.size, 18);
2463         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
2464                    /* Normally 36, but allow noncompliant private data */
2465                    && (track->codec_priv.size >= 32)
2466                    && (track->codec_priv.data)) {
2467             uint16_t sample_size;
2468             int ret = get_qt_codec(track, &fourcc, &codec_id);
2469             if (ret < 0)
2470                 return ret;
2471             sample_size = AV_RB16(track->codec_priv.data + 26);
2472             if (fourcc == 0) {
2473                 if (sample_size == 8) {
2474                     fourcc = MKTAG('r','a','w',' ');
2475                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2476                 } else if (sample_size == 16) {
2477                     fourcc = MKTAG('t','w','o','s');
2478                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2479                 }
2480             }
2481             if ((fourcc == MKTAG('t','w','o','s') ||
2482                     fourcc == MKTAG('s','o','w','t')) &&
2483                     sample_size == 8)
2484                 codec_id = AV_CODEC_ID_PCM_S8;
2485         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
2486                    (track->codec_priv.size >= 21)          &&
2487                    (track->codec_priv.data)) {
2488             int ret = get_qt_codec(track, &fourcc, &codec_id);
2489             if (ret < 0)
2490                 return ret;
2491             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI ")) {
2492                 fourcc = MKTAG('S','V','Q','3');
2493                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
2494             }
2495             if (codec_id == AV_CODEC_ID_NONE)
2496                 av_log(matroska->ctx, AV_LOG_ERROR,
2497                        "mov FourCC not found %s.\n", av_fourcc2str(fourcc));
2498             if (track->codec_priv.size >= 86) {
2499                 bit_depth = AV_RB16(track->codec_priv.data + 82);
2500                 ffio_init_context(&b, track->codec_priv.data,
2501                                   track->codec_priv.size,
2502                                   0, NULL, NULL, NULL, NULL);
2503                 if (ff_get_qtpalette(codec_id, &b, track->palette)) {
2504                     bit_depth &= 0x1F;
2505                     track->has_palette = 1;
2506                 }
2507             }
2508         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
2509             switch (track->audio.bitdepth) {
2510             case  8:
2511                 codec_id = AV_CODEC_ID_PCM_U8;
2512                 break;
2513             case 24:
2514                 codec_id = AV_CODEC_ID_PCM_S24BE;
2515                 break;
2516             case 32:
2517                 codec_id = AV_CODEC_ID_PCM_S32BE;
2518                 break;
2519             }
2520         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
2521             switch (track->audio.bitdepth) {
2522             case  8:
2523                 codec_id = AV_CODEC_ID_PCM_U8;
2524                 break;
2525             case 24:
2526                 codec_id = AV_CODEC_ID_PCM_S24LE;
2527                 break;
2528             case 32:
2529                 codec_id = AV_CODEC_ID_PCM_S32LE;
2530                 break;
2531             }
2532         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
2533                    track->audio.bitdepth == 64) {
2534             codec_id = AV_CODEC_ID_PCM_F64LE;
2535         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
2536             int profile = matroska_aac_profile(track->codec_id);
2537             int sri     = matroska_aac_sri(track->audio.samplerate);
2538             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
2539             if (!extradata)
2540                 return AVERROR(ENOMEM);
2541             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
2542             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
2543             if (strstr(track->codec_id, "SBR")) {
2544                 sri            = matroska_aac_sri(track->audio.out_samplerate);
2545                 extradata[2]   = 0x56;
2546                 extradata[3]   = 0xE5;
2547                 extradata[4]   = 0x80 | (sri << 3);
2548                 extradata_size = 5;
2549             } else
2550                 extradata_size = 2;
2551         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
2552             /* Only ALAC's magic cookie is stored in Matroska's track headers.
2553              * Create the "atom size", "tag", and "tag version" fields the
2554              * decoder expects manually. */
2555             extradata_size = 12 + track->codec_priv.size;
2556             extradata      = av_mallocz(extradata_size +
2557                                         AV_INPUT_BUFFER_PADDING_SIZE);
2558             if (!extradata)
2559                 return AVERROR(ENOMEM);
2560             AV_WB32(extradata, extradata_size);
2561             memcpy(&extradata[4], "alac", 4);
2562             AV_WB32(&extradata[8], 0);
2563             memcpy(&extradata[12], track->codec_priv.data,
2564                    track->codec_priv.size);
2565         } else if (codec_id == AV_CODEC_ID_TTA) {
2566             uint8_t *ptr;
2567             if (track->audio.channels > UINT16_MAX ||
2568                 track->audio.bitdepth > UINT16_MAX) {
2569                 av_log(matroska->ctx, AV_LOG_WARNING,
2570                        "Too large audio channel number %"PRIu64
2571                        " or bitdepth %"PRIu64". Skipping track.\n",
2572                        track->audio.channels, track->audio.bitdepth);
2573                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
2574                     return AVERROR_INVALIDDATA;
2575                 else
2576                     continue;
2577             }
2578             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
2579                 return AVERROR_INVALIDDATA;
2580             extradata_size = 22;
2581             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
2582             if (!extradata)
2583                 return AVERROR(ENOMEM);
2584             ptr = extradata;
2585             bytestream_put_be32(&ptr, AV_RB32("TTA1"));
2586             bytestream_put_le16(&ptr, 1);
2587             bytestream_put_le16(&ptr, track->audio.channels);
2588             bytestream_put_le16(&ptr, track->audio.bitdepth);
2589             bytestream_put_le32(&ptr, track->audio.out_samplerate);
2590             bytestream_put_le32(&ptr, av_rescale(matroska->duration * matroska->time_scale,
2591                                                  track->audio.out_samplerate,
2592                                                  AV_TIME_BASE * 1000));
2593         } else if (codec_id == AV_CODEC_ID_RV10 ||
2594                    codec_id == AV_CODEC_ID_RV20 ||
2595                    codec_id == AV_CODEC_ID_RV30 ||
2596                    codec_id == AV_CODEC_ID_RV40) {
2597             extradata_offset = 26;
2598         } else if (codec_id == AV_CODEC_ID_RA_144) {
2599             track->audio.out_samplerate = 8000;
2600             track->audio.channels       = 1;
2601         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
2602                     codec_id == AV_CODEC_ID_COOK   ||
2603                     codec_id == AV_CODEC_ID_ATRAC3 ||
2604                     codec_id == AV_CODEC_ID_SIPR)
2605                       && track->codec_priv.data) {
2606             int flavor;
2607
2608             ffio_init_context(&b, track->codec_priv.data,
2609                               track->codec_priv.size,
2610                               0, NULL, NULL, NULL, NULL);
2611             avio_skip(&b, 22);
2612             flavor                       = avio_rb16(&b);
2613             track->audio.coded_framesize = avio_rb32(&b);
2614             avio_skip(&b, 12);
2615             track->audio.sub_packet_h    = avio_rb16(&b);
2616             track->audio.frame_size      = avio_rb16(&b);
2617             track->audio.sub_packet_size = avio_rb16(&b);
2618             if (track->audio.coded_framesize <= 0 ||
2619                 track->audio.sub_packet_h    <= 0 ||
2620                 track->audio.frame_size      <= 0)
2621                 return AVERROR_INVALIDDATA;
2622
2623             if (codec_id == AV_CODEC_ID_RA_288) {
2624                 if (track->audio.sub_packet_h & 1 || 2 * track->audio.frame_size
2625                     != (int64_t)track->audio.sub_packet_h * track->audio.coded_framesize)
2626                     return AVERROR_INVALIDDATA;
2627                 st->codecpar->block_align = track->audio.coded_framesize;
2628                 track->codec_priv.size = 0;
2629             } else {
2630                 if (codec_id == AV_CODEC_ID_SIPR) {
2631                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2632                     if (flavor > 3)
2633                         return AVERROR_INVALIDDATA;
2634                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2635                     st->codecpar->bit_rate          = sipr_bit_rate[flavor];
2636                 } else if (track->audio.sub_packet_size <= 0 ||
2637                            track->audio.frame_size % track->audio.sub_packet_size)
2638                     return AVERROR_INVALIDDATA;
2639                 st->codecpar->block_align = track->audio.sub_packet_size;
2640                 extradata_offset       = 78;
2641             }
2642             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2643                                                track->audio.frame_size);
2644             if (!track->audio.buf)
2645                 return AVERROR(ENOMEM);
2646         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2647             ret = matroska_parse_flac(s, track, &extradata_offset);
2648             if (ret < 0)
2649                 return ret;
2650         } else if (codec_id == AV_CODEC_ID_WAVPACK && track->codec_priv.size < 2) {
2651             av_log(matroska->ctx, AV_LOG_INFO, "Assuming WavPack version 4.10 "
2652                    "in absence of valid CodecPrivate.\n");
2653             extradata_size = 2;
2654             extradata = av_mallocz(2 + AV_INPUT_BUFFER_PADDING_SIZE);
2655             if (!extradata)
2656                 return AVERROR(ENOMEM);
2657             AV_WL16(extradata, 0x410);
2658         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2659             fourcc = AV_RL32(track->codec_priv.data);
2660         } else if (codec_id == AV_CODEC_ID_VP9 && track->codec_priv.size) {
2661             /* we don't need any value stored in CodecPrivate.
2662                make sure that it's not exported as extradata. */
2663             track->codec_priv.size = 0;
2664         } else if (codec_id == AV_CODEC_ID_AV1 && track->codec_priv.size) {
2665             /* For now, propagate only the OBUs, if any. Once libavcodec is
2666                updated to handle isobmff style extradata this can be removed. */
2667             extradata_offset = 4;
2668         }
2669         track->codec_priv.size -= extradata_offset;
2670
2671         if (codec_id == AV_CODEC_ID_NONE)
2672             av_log(matroska->ctx, AV_LOG_INFO,
2673                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2674
2675         if (track->time_scale < 0.01) {
2676             av_log(matroska->ctx, AV_LOG_WARNING,
2677                    "Track TimestampScale too small %f, assuming 1.0.\n",
2678                    track->time_scale);
2679             track->time_scale = 1.0;
2680         }
2681         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2682                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2683
2684         /* convert the delay from ns to the track timebase */
2685         track->codec_delay_in_track_tb = av_rescale_q(track->codec_delay,
2686                                           (AVRational){ 1, 1000000000 },
2687                                           st->time_base);
2688
2689         st->codecpar->codec_id = codec_id;
2690
2691         if (strcmp(track->language, "und"))
2692             av_dict_set(&st->metadata, "language", track->language, 0);
2693         av_dict_set(&st->metadata, "title", track->name, 0);
2694
2695         if (track->flag_default)
2696             st->disposition |= AV_DISPOSITION_DEFAULT;
2697         if (track->flag_forced)
2698             st->disposition |= AV_DISPOSITION_FORCED;
2699
2700         if (!st->codecpar->extradata) {
2701             if (extradata) {
2702                 st->codecpar->extradata      = extradata;
2703                 st->codecpar->extradata_size = extradata_size;
2704             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2705                 if (ff_alloc_extradata(st->codecpar, track->codec_priv.size))
2706                     return AVERROR(ENOMEM);
2707                 memcpy(st->codecpar->extradata,
2708                        track->codec_priv.data + extradata_offset,
2709                        track->codec_priv.size);
2710             }
2711         }
2712
2713         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2714             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2715             int display_width_mul  = 1;
2716             int display_height_mul = 1;
2717
2718             st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2719             st->codecpar->codec_tag  = fourcc;
2720             if (bit_depth >= 0)
2721                 st->codecpar->bits_per_coded_sample = bit_depth;
2722             st->codecpar->width      = track->video.pixel_width;
2723             st->codecpar->height     = track->video.pixel_height;
2724
2725             if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_INTERLACED)
2726                 st->codecpar->field_order = mkv_field_order(matroska, track->video.field_order);
2727             else if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_PROGRESSIVE)
2728                 st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2729
2730             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2731                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2732
2733             if (track->video.display_unit < MATROSKA_VIDEO_DISPLAYUNIT_UNKNOWN) {
2734                 av_reduce(&st->sample_aspect_ratio.num,
2735                           &st->sample_aspect_ratio.den,
2736                           st->codecpar->height * track->video.display_width  * display_width_mul,
2737                           st->codecpar->width  * track->video.display_height * display_height_mul,
2738                           255);
2739             }
2740             if (st->codecpar->codec_id != AV_CODEC_ID_HEVC)
2741                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2742
2743             if (track->default_duration) {
2744                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2745                           1000000000, track->default_duration, 30000);
2746 #if FF_API_R_FRAME_RATE
2747                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2748                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2749                     st->r_frame_rate = st->avg_frame_rate;
2750 #endif
2751             }
2752
2753             /* export stereo mode flag as metadata tag */
2754             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2755                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2756
2757             /* export alpha mode flag as metadata tag  */
2758             if (track->video.alpha_mode)
2759                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2760
2761             /* if we have virtual track, mark the real tracks */
2762             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2763                 char buf[32];
2764                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2765                     continue;
2766                 snprintf(buf, sizeof(buf), "%s_%d",
2767                          ff_matroska_video_stereo_plane[planes[j].type], i);
2768                 for (k=0; k < matroska->tracks.nb_elem; k++)
2769                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2770                         av_dict_set(&tracks[k].stream->metadata,
2771                                     "stereo_mode", buf, 0);
2772                         break;
2773                     }
2774             }
2775             // add stream level stereo3d side data if it is a supported format
2776             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2777                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2778                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2779                 if (ret < 0)
2780                     return ret;
2781             }
2782
2783             ret = mkv_parse_video_color(st, track);
2784             if (ret < 0)
2785                 return ret;
2786             ret = mkv_parse_video_projection(st, track, matroska->ctx);
2787             if (ret < 0)
2788                 return ret;
2789         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2790             st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
2791             st->codecpar->codec_tag   = fourcc;
2792             st->codecpar->sample_rate = track->audio.out_samplerate;
2793             st->codecpar->channels    = track->audio.channels;
2794             if (!st->codecpar->bits_per_coded_sample)
2795                 st->codecpar->bits_per_coded_sample = track->audio.bitdepth;
2796             if (st->codecpar->codec_id == AV_CODEC_ID_MP3 ||
2797                 st->codecpar->codec_id == AV_CODEC_ID_MLP ||
2798                 st->codecpar->codec_id == AV_CODEC_ID_TRUEHD)
2799                 st->need_parsing = AVSTREAM_PARSE_FULL;
2800             else if (st->codecpar->codec_id != AV_CODEC_ID_AAC)
2801                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2802             if (track->codec_delay > 0) {
2803                 st->codecpar->initial_padding = av_rescale_q(track->codec_delay,
2804                                                              (AVRational){1, 1000000000},
2805                                                              (AVRational){1, st->codecpar->codec_id == AV_CODEC_ID_OPUS ?
2806                                                                              48000 : st->codecpar->sample_rate});
2807             }
2808             if (track->seek_preroll > 0) {
2809                 st->codecpar->seek_preroll = av_rescale_q(track->seek_preroll,
2810                                                           (AVRational){1, 1000000000},
2811                                                           (AVRational){1, st->codecpar->sample_rate});
2812             }
2813         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2814             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2815
2816             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2817                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2818             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2819                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2820             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2821                 st->disposition |= AV_DISPOSITION_METADATA;
2822             }
2823         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2824             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2825         }
2826     }
2827
2828     return 0;
2829 }
2830
2831 static int matroska_read_header(AVFormatContext *s)
2832 {
2833     MatroskaDemuxContext *matroska = s->priv_data;
2834     EbmlList *attachments_list = &matroska->attachments;
2835     EbmlList *chapters_list    = &matroska->chapters;
2836     MatroskaAttachment *attachments;
2837     MatroskaChapter *chapters;
2838     uint64_t max_start = 0;
2839     int64_t pos;
2840     Ebml ebml = { 0 };
2841     int i, j, res;
2842
2843     matroska->ctx = s;
2844     matroska->cues_parsing_deferred = 1;
2845
2846     /* First read the EBML header. */
2847     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2848         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2849         ebml_free(ebml_syntax, &ebml);
2850         return AVERROR_INVALIDDATA;
2851     }
2852     if (ebml.version         > EBML_VERSION      ||
2853         ebml.max_size        > sizeof(uint64_t)  ||
2854         ebml.id_length       > sizeof(uint32_t)  ||
2855         ebml.doctype_version > 3) {
2856         avpriv_report_missing_feature(matroska->ctx,
2857                                       "EBML version %"PRIu64", doctype %s, doc version %"PRIu64,
2858                                       ebml.version, ebml.doctype, ebml.doctype_version);
2859         ebml_free(ebml_syntax, &ebml);
2860         return AVERROR_PATCHWELCOME;
2861     } else if (ebml.doctype_version == 3) {
2862         av_log(matroska->ctx, AV_LOG_WARNING,
2863                "EBML header using unsupported features\n"
2864                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2865                ebml.version, ebml.doctype, ebml.doctype_version);
2866     }
2867     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2868         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2869             break;
2870     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2871         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2872         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2873             ebml_free(ebml_syntax, &ebml);
2874             return AVERROR_INVALIDDATA;
2875         }
2876     }
2877     ebml_free(ebml_syntax, &ebml);
2878
2879     /* The next thing is a segment. */
2880     pos = avio_tell(matroska->ctx->pb);
2881     res = ebml_parse(matroska, matroska_segments, matroska);
2882     // Try resyncing until we find an EBML_STOP type element.
2883     while (res != 1) {
2884         res = matroska_resync(matroska, pos);
2885         if (res < 0)
2886             goto fail;
2887         pos = avio_tell(matroska->ctx->pb);
2888         res = ebml_parse(matroska, matroska_segment, matroska);
2889     }
2890     /* Set data_offset as it might be needed later by seek_frame_generic. */
2891     if (matroska->current_id == MATROSKA_ID_CLUSTER)
2892         s->internal->data_offset = avio_tell(matroska->ctx->pb) - 4;
2893     matroska_execute_seekhead(matroska);
2894
2895     if (!matroska->time_scale)
2896         matroska->time_scale = 1000000;
2897     if (matroska->duration)
2898         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2899                                   1000 / AV_TIME_BASE;
2900     av_dict_set(&s->metadata, "title", matroska->title, 0);
2901     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2902
2903     if (matroska->date_utc.size == 8)
2904         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2905
2906     res = matroska_parse_tracks(s);
2907     if (res < 0)
2908         goto fail;
2909
2910     attachments = attachments_list->elem;
2911     for (j = 0; j < attachments_list->nb_elem; j++) {
2912         if (!(attachments[j].filename && attachments[j].mime &&
2913               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2914             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2915         } else {
2916             AVStream *st = avformat_new_stream(s, NULL);
2917             if (!st)
2918                 break;
2919             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2920             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2921             if (attachments[j].description)
2922                 av_dict_set(&st->metadata, "title", attachments[j].description, 0);
2923             st->codecpar->codec_id   = AV_CODEC_ID_NONE;
2924
2925             for (i = 0; mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2926                 if (!strncmp(mkv_image_mime_tags[i].str, attachments[j].mime,
2927                              strlen(mkv_image_mime_tags[i].str))) {
2928                     st->codecpar->codec_id = mkv_image_mime_tags[i].id;
2929                     break;
2930                 }
2931             }
2932
2933             attachments[j].stream = st;
2934
2935             if (st->codecpar->codec_id != AV_CODEC_ID_NONE) {
2936                 AVPacket *pkt = &st->attached_pic;
2937
2938                 st->disposition         |= AV_DISPOSITION_ATTACHED_PIC;
2939                 st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2940
2941                 av_init_packet(pkt);
2942                 pkt->buf          = attachments[j].bin.buf;
2943                 attachments[j].bin.buf = NULL;
2944                 pkt->data         = attachments[j].bin.data;
2945                 pkt->size         = attachments[j].bin.size;
2946                 pkt->stream_index = st->index;
2947                 pkt->flags       |= AV_PKT_FLAG_KEY;
2948             } else {
2949                 st->codecpar->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2950                 if (ff_alloc_extradata(st->codecpar, attachments[j].bin.size))
2951                     break;
2952                 memcpy(st->codecpar->extradata, attachments[j].bin.data,
2953                        attachments[j].bin.size);
2954
2955                 for (i = 0; mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2956                     if (!strncmp(mkv_mime_tags[i].str, attachments[j].mime,
2957                                 strlen(mkv_mime_tags[i].str))) {
2958                         st->codecpar->codec_id = mkv_mime_tags[i].id;
2959                         break;
2960                     }
2961                 }
2962             }
2963         }
2964     }
2965
2966     chapters = chapters_list->elem;
2967     for (i = 0; i < chapters_list->nb_elem; i++)
2968         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2969             (max_start == 0 || chapters[i].start > max_start)) {
2970             chapters[i].chapter =
2971                 avpriv_new_chapter(s, chapters[i].uid,
2972                                    (AVRational) { 1, 1000000000 },
2973                                    chapters[i].start, chapters[i].end,
2974                                    chapters[i].title);
2975             max_start = chapters[i].start;
2976         }
2977
2978     matroska_add_index_entries(matroska);
2979
2980     matroska_convert_tags(s);
2981
2982     return 0;
2983 fail:
2984     matroska_read_close(s);
2985     return res;
2986 }
2987
2988 /*
2989  * Put one packet in an application-supplied AVPacket struct.
2990  * Returns 0 on success or -1 on failure.
2991  */
2992 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2993                                    AVPacket *pkt)
2994 {
2995     if (matroska->queue) {
2996         MatroskaTrack *tracks = matroska->tracks.elem;
2997         MatroskaTrack *track;
2998
2999         avpriv_packet_list_get(&matroska->queue, &matroska->queue_end, pkt);
3000         track = &tracks[pkt->stream_index];
3001         if (track->has_palette) {
3002             uint8_t *pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
3003             if (!pal) {
3004                 av_log(matroska->ctx, AV_LOG_ERROR, "Cannot append palette to packet\n");
3005             } else {
3006                 memcpy(pal, track->palette, AVPALETTE_SIZE);
3007             }
3008             track->has_palette = 0;
3009         }
3010         return 0;
3011     }
3012
3013     return -1;
3014 }
3015
3016 /*
3017  * Free all packets in our internal queue.
3018  */
3019 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
3020 {
3021     avpriv_packet_list_free(&matroska->queue, &matroska->queue_end);
3022 }
3023
3024 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
3025                                 int size, int type, AVIOContext *pb,
3026                                 uint32_t lace_size[256], int *laces)
3027 {
3028     int n;
3029     uint8_t *data = *buf;
3030
3031     if (!type) {
3032         *laces    = 1;
3033         lace_size[0] = size;
3034         return 0;
3035     }
3036
3037     if (size <= 0)
3038         return AVERROR_INVALIDDATA;
3039
3040     *laces = *data + 1;
3041     data  += 1;
3042     size  -= 1;
3043
3044     switch (type) {
3045     case 0x1: /* Xiph lacing */
3046     {
3047         uint8_t temp;
3048         uint32_t total = 0;
3049         for (n = 0; n < *laces - 1; n++) {
3050             lace_size[n] = 0;
3051
3052             do {
3053                 if (size <= total)
3054                     return AVERROR_INVALIDDATA;
3055                 temp          = *data;
3056                 total        += temp;
3057                 lace_size[n] += temp;
3058                 data         += 1;
3059                 size         -= 1;
3060             } while (temp ==  0xff);
3061         }
3062         if (size < total)
3063             return AVERROR_INVALIDDATA;
3064
3065         lace_size[n] = size - total;
3066         break;
3067     }
3068
3069     case 0x2: /* fixed-size lacing */
3070         if (size % (*laces))
3071             return AVERROR_INVALIDDATA;
3072         for (n = 0; n < *laces; n++)
3073             lace_size[n] = size / *laces;
3074         break;
3075
3076     case 0x3: /* EBML lacing */
3077     {
3078         uint64_t num;
3079         uint64_t total;
3080         int offset;
3081
3082         avio_skip(pb, 4);
3083
3084         n = ebml_read_num(matroska, pb, 8, &num, 1);
3085         if (n < 0)
3086             return n;
3087         if (num > INT_MAX)
3088             return AVERROR_INVALIDDATA;
3089
3090         total = lace_size[0] = num;
3091         offset = n;
3092         for (n = 1; n < *laces - 1; n++) {
3093             int64_t snum;
3094             int r;
3095             r = matroska_ebmlnum_sint(matroska, pb, &snum);
3096             if (r < 0)
3097                 return r;
3098             if (lace_size[n - 1] + snum > (uint64_t)INT_MAX)
3099                 return AVERROR_INVALIDDATA;
3100
3101             lace_size[n] = lace_size[n - 1] + snum;
3102             total       += lace_size[n];
3103             offset      += r;
3104         }
3105         data += offset;
3106         size -= offset;
3107         if (size < total)
3108             return AVERROR_INVALIDDATA;
3109
3110         lace_size[*laces - 1] = size - total;
3111         break;
3112     }
3113     }
3114
3115     *buf = data;
3116
3117     return 0;
3118 }
3119
3120 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
3121                                    MatroskaTrack *track, AVStream *st,
3122                                    uint8_t *data, int size, uint64_t timecode,
3123                                    int64_t pos)
3124 {
3125     const int a   = st->codecpar->block_align;
3126     const int sps = track->audio.sub_packet_size;
3127     const int cfs = track->audio.coded_framesize;
3128     const int h   = track->audio.sub_packet_h;
3129     const int w   = track->audio.frame_size;
3130     int y   = track->audio.sub_packet_cnt;
3131     int x;
3132
3133     if (!track->audio.pkt_cnt) {
3134         if (track->audio.sub_packet_cnt == 0)
3135             track->audio.buf_timecode = timecode;
3136         if (st->codecpar->codec_id == AV_CODEC_ID_RA_288) {
3137             if (size < cfs * h / 2) {
3138                 av_log(matroska->ctx, AV_LOG_ERROR,
3139                        "Corrupt int4 RM-style audio packet size\n");
3140                 return AVERROR_INVALIDDATA;
3141             }
3142             for (x = 0; x < h / 2; x++)
3143                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
3144                        data + x * cfs, cfs);
3145         } else if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
3146             if (size < w) {
3147                 av_log(matroska->ctx, AV_LOG_ERROR,
3148                        "Corrupt sipr RM-style audio packet size\n");
3149                 return AVERROR_INVALIDDATA;
3150             }
3151             memcpy(track->audio.buf + y * w, data, w);
3152         } else {
3153             if (size < w) {
3154                 av_log(matroska->ctx, AV_LOG_ERROR,
3155                        "Corrupt generic RM-style audio packet size\n");
3156                 return AVERROR_INVALIDDATA;
3157             }
3158             for (x = 0; x < w / sps; x++)
3159                 memcpy(track->audio.buf +
3160                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
3161                        data + x * sps, sps);
3162         }
3163
3164         if (++track->audio.sub_packet_cnt >= h) {
3165             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR)
3166                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
3167             track->audio.sub_packet_cnt = 0;
3168             track->audio.pkt_cnt        = h * w / a;
3169         }
3170     }
3171
3172     while (track->audio.pkt_cnt) {
3173         int ret;
3174         AVPacket pktl, *pkt = &pktl;
3175
3176         ret = av_new_packet(pkt, a);
3177         if (ret < 0) {
3178             return ret;
3179         }
3180         memcpy(pkt->data,
3181                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
3182                a);
3183         pkt->pts                  = track->audio.buf_timecode;
3184         track->audio.buf_timecode = AV_NOPTS_VALUE;
3185         pkt->pos                  = pos;
3186         pkt->stream_index         = st->index;
3187         ret = avpriv_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, NULL, 0);
3188         if (ret < 0) {
3189             av_packet_unref(pkt);
3190             return AVERROR(ENOMEM);
3191         }
3192     }
3193
3194     return 0;
3195 }
3196
3197 /* reconstruct full wavpack blocks from mangled matroska ones */
3198 static int matroska_parse_wavpack(MatroskaTrack *track,
3199                                   uint8_t **data, int *size)
3200 {
3201     uint8_t *dst = NULL;
3202     uint8_t *src = *data;
3203     int dstlen   = 0;
3204     int srclen   = *size;
3205     uint32_t samples;
3206     uint16_t ver;
3207     int ret, offset = 0;
3208
3209     if (srclen < 12)
3210         return AVERROR_INVALIDDATA;
3211
3212     av_assert1(track->stream->codecpar->extradata_size >= 2);
3213     ver = AV_RL16(track->stream->codecpar->extradata);
3214
3215     samples = AV_RL32(src);
3216     src    += 4;
3217     srclen -= 4;
3218
3219     while (srclen >= 8) {
3220         int multiblock;
3221         uint32_t blocksize;
3222         uint8_t *tmp;
3223
3224         uint32_t flags = AV_RL32(src);
3225         uint32_t crc   = AV_RL32(src + 4);
3226         src    += 8;
3227         srclen -= 8;
3228
3229         multiblock = (flags & 0x1800) != 0x1800;
3230         if (multiblock) {
3231             if (srclen < 4) {
3232                 ret = AVERROR_INVALIDDATA;
3233                 goto fail;
3234             }
3235             blocksize = AV_RL32(src);
3236             src      += 4;
3237             srclen   -= 4;
3238         } else
3239             blocksize = srclen;
3240
3241         if (blocksize > srclen) {
3242             ret = AVERROR_INVALIDDATA;
3243             goto fail;
3244         }
3245
3246         tmp = av_realloc(dst, dstlen + blocksize + 32 + AV_INPUT_BUFFER_PADDING_SIZE);
3247         if (!tmp) {
3248             ret = AVERROR(ENOMEM);
3249             goto fail;
3250         }
3251         dst     = tmp;
3252         dstlen += blocksize + 32;
3253
3254         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
3255         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
3256         AV_WL16(dst + offset +  8, ver);                    // version
3257         AV_WL16(dst + offset + 10, 0);                      // track/index_no
3258         AV_WL32(dst + offset + 12, 0);                      // total samples
3259         AV_WL32(dst + offset + 16, 0);                      // block index
3260         AV_WL32(dst + offset + 20, samples);                // number of samples
3261         AV_WL32(dst + offset + 24, flags);                  // flags
3262         AV_WL32(dst + offset + 28, crc);                    // crc
3263         memcpy(dst + offset + 32, src, blocksize);          // block data
3264
3265         src    += blocksize;
3266         srclen -= blocksize;
3267         offset += blocksize + 32;
3268     }
3269
3270     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3271
3272     *data = dst;
3273     *size = dstlen;
3274
3275     return 0;
3276
3277 fail:
3278     av_freep(&dst);
3279     return ret;
3280 }
3281
3282 static int matroska_parse_prores(MatroskaTrack *track,
3283                                  uint8_t **data, int *size)
3284 {
3285     uint8_t *dst;
3286     int dstlen = *size + 8;
3287
3288     dst = av_malloc(dstlen + AV_INPUT_BUFFER_PADDING_SIZE);
3289     if (!dst)
3290         return AVERROR(ENOMEM);
3291
3292     AV_WB32(dst, dstlen);
3293     AV_WB32(dst + 4, MKBETAG('i', 'c', 'p', 'f'));
3294     memcpy(dst + 8, *data, dstlen - 8);
3295     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3296
3297     *data = dst;
3298     *size = dstlen;
3299
3300     return 0;
3301 }
3302
3303 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
3304                                  MatroskaTrack *track,
3305                                  AVStream *st,
3306                                  uint8_t *data, int data_len,
3307                                  uint64_t timecode,
3308                                  uint64_t duration,
3309                                  int64_t pos)
3310 {
3311     AVPacket pktl, *pkt = &pktl;
3312     uint8_t *id, *settings, *text, *buf;
3313     int id_len, settings_len, text_len;
3314     uint8_t *p, *q;
3315     int err;
3316
3317     if (data_len <= 0)
3318         return AVERROR_INVALIDDATA;
3319
3320     p = data;
3321     q = data + data_len;
3322
3323     id = p;
3324     id_len = -1;
3325     while (p < q) {
3326         if (*p == '\r' || *p == '\n') {
3327             id_len = p - id;
3328             if (*p == '\r')
3329                 p++;
3330             break;
3331         }
3332         p++;
3333     }
3334
3335     if (p >= q || *p != '\n')
3336         return AVERROR_INVALIDDATA;
3337     p++;
3338
3339     settings = p;
3340     settings_len = -1;
3341     while (p < q) {
3342         if (*p == '\r' || *p == '\n') {
3343             settings_len = p - settings;
3344             if (*p == '\r')
3345                 p++;
3346             break;
3347         }
3348         p++;
3349     }
3350
3351     if (p >= q || *p != '\n')
3352         return AVERROR_INVALIDDATA;
3353     p++;
3354
3355     text = p;
3356     text_len = q - p;
3357     while (text_len > 0) {
3358         const int len = text_len - 1;
3359         const uint8_t c = p[len];
3360         if (c != '\r' && c != '\n')
3361             break;
3362         text_len = len;
3363     }
3364
3365     if (text_len <= 0)
3366         return AVERROR_INVALIDDATA;
3367
3368     err = av_new_packet(pkt, text_len);
3369     if (err < 0) {
3370         return err;
3371     }
3372
3373     memcpy(pkt->data, text, text_len);
3374
3375     if (id_len > 0) {
3376         buf = av_packet_new_side_data(pkt,
3377                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
3378                                       id_len);
3379         if (!buf) {
3380             av_packet_unref(pkt);
3381             return AVERROR(ENOMEM);
3382         }
3383         memcpy(buf, id, id_len);
3384     }
3385
3386     if (settings_len > 0) {
3387         buf = av_packet_new_side_data(pkt,
3388                                       AV_PKT_DATA_WEBVTT_SETTINGS,
3389                                       settings_len);
3390         if (!buf) {
3391             av_packet_unref(pkt);
3392             return AVERROR(ENOMEM);
3393         }
3394         memcpy(buf, settings, settings_len);
3395     }
3396
3397     // Do we need this for subtitles?
3398     // pkt->flags = AV_PKT_FLAG_KEY;
3399
3400     pkt->stream_index = st->index;
3401     pkt->pts = timecode;
3402
3403     // Do we need this for subtitles?
3404     // pkt->dts = timecode;
3405
3406     pkt->duration = duration;
3407     pkt->pos = pos;
3408
3409     err = avpriv_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, NULL, 0);
3410     if (err < 0) {
3411         av_packet_unref(pkt);
3412         return AVERROR(ENOMEM);
3413     }
3414
3415     return 0;
3416 }
3417
3418 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
3419                                 MatroskaTrack *track, AVStream *st,
3420                                 AVBufferRef *buf, uint8_t *data, int pkt_size,
3421                                 uint64_t timecode, uint64_t lace_duration,
3422                                 int64_t pos, int is_keyframe,
3423                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3424                                 int64_t discard_padding)
3425 {
3426     uint8_t *pkt_data = data;
3427     int res = 0;
3428     AVPacket pktl, *pkt = &pktl;
3429
3430     if (st->codecpar->codec_id == AV_CODEC_ID_WAVPACK) {
3431         res = matroska_parse_wavpack(track, &pkt_data, &pkt_size);
3432         if (res < 0) {
3433             av_log(matroska->ctx, AV_LOG_ERROR,
3434                    "Error parsing a wavpack block.\n");
3435             goto fail;
3436         }
3437         if (!buf)
3438             av_freep(&data);
3439         buf = NULL;
3440     }
3441
3442     if (st->codecpar->codec_id == AV_CODEC_ID_PRORES &&
3443         AV_RB32(pkt_data + 4)  != MKBETAG('i', 'c', 'p', 'f')) {
3444         res = matroska_parse_prores(track, &pkt_data, &pkt_size);
3445         if (res < 0) {
3446             av_log(matroska->ctx, AV_LOG_ERROR,
3447                    "Error parsing a prores block.\n");
3448             goto fail;
3449         }
3450         if (!buf)
3451             av_freep(&data);
3452         buf = NULL;
3453     }
3454
3455     if (!pkt_size && !additional_size)
3456         goto no_output;
3457
3458     av_init_packet(pkt);
3459     if (!buf)
3460         pkt->buf = av_buffer_create(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE,
3461                                     NULL, NULL, 0);
3462     else
3463         pkt->buf = av_buffer_ref(buf);
3464
3465     if (!pkt->buf) {
3466         res = AVERROR(ENOMEM);
3467         goto fail;
3468     }
3469
3470     pkt->data         = pkt_data;
3471     pkt->size         = pkt_size;
3472     pkt->flags        = is_keyframe;
3473     pkt->stream_index = st->index;
3474
3475     if (additional_size > 0) {
3476         uint8_t *side_data = av_packet_new_side_data(pkt,
3477                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
3478                                                      additional_size + 8);
3479         if (!side_data) {
3480             av_packet_unref(pkt);
3481             return AVERROR(ENOMEM);
3482         }
3483         AV_WB64(side_data, additional_id);
3484         memcpy(side_data + 8, additional, additional_size);
3485     }
3486
3487     if (discard_padding) {
3488         uint8_t *side_data = av_packet_new_side_data(pkt,
3489                                                      AV_PKT_DATA_SKIP_SAMPLES,
3490                                                      10);
3491         if (!side_data) {
3492             av_packet_unref(pkt);
3493             return AVERROR(ENOMEM);
3494         }
3495         discard_padding = av_rescale_q(discard_padding,
3496                                             (AVRational){1, 1000000000},
3497                                             (AVRational){1, st->codecpar->sample_rate});
3498         if (discard_padding > 0) {
3499             AV_WL32(side_data + 4, discard_padding);
3500         } else {
3501             AV_WL32(side_data, -discard_padding);
3502         }
3503     }
3504
3505     if (track->ms_compat)
3506         pkt->dts = timecode;
3507     else
3508         pkt->pts = timecode;
3509     pkt->pos = pos;
3510     pkt->duration = lace_duration;
3511
3512 #if FF_API_CONVERGENCE_DURATION
3513 FF_DISABLE_DEPRECATION_WARNINGS
3514     if (st->codecpar->codec_id == AV_CODEC_ID_SUBRIP) {
3515         pkt->convergence_duration = lace_duration;
3516     }
3517 FF_ENABLE_DEPRECATION_WARNINGS
3518 #endif
3519
3520     res = avpriv_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, NULL, 0);
3521     if (res < 0) {
3522         av_packet_unref(pkt);
3523         return AVERROR(ENOMEM);
3524     }
3525
3526     return 0;
3527
3528 no_output:
3529 fail:
3530     if (!buf)
3531         av_free(pkt_data);
3532     return res;
3533 }
3534
3535 static int matroska_parse_block(MatroskaDemuxContext *matroska, AVBufferRef *buf, uint8_t *data,
3536                                 int size, int64_t pos, uint64_t cluster_time,
3537                                 uint64_t block_duration, int is_keyframe,
3538                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3539                                 int64_t cluster_pos, int64_t discard_padding)
3540 {
3541     uint64_t timecode = AV_NOPTS_VALUE;
3542     MatroskaTrack *track;
3543     AVIOContext pb;
3544     int res = 0;
3545     AVStream *st;
3546     int16_t block_time;
3547     uint32_t lace_size[256];
3548     int n, flags, laces = 0;
3549     uint64_t num;
3550     int trust_default_duration;
3551
3552     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
3553
3554     if ((n = ebml_read_num(matroska, &pb, 8, &num, 1)) < 0)
3555         return n;
3556     data += n;
3557     size -= n;
3558
3559     track = matroska_find_track_by_num(matroska, num);
3560     if (!track || size < 3)
3561         return AVERROR_INVALIDDATA;
3562
3563     if (!(st = track->stream)) {
3564         av_log(matroska->ctx, AV_LOG_VERBOSE,
3565                "No stream associated to TrackNumber %"PRIu64". "
3566                "Ignoring Block with this TrackNumber.\n", num);
3567         return 0;
3568     }
3569
3570     if (st->discard >= AVDISCARD_ALL)
3571         return res;
3572     if (block_duration > INT64_MAX)
3573         block_duration = INT64_MAX;
3574
3575     block_time = sign_extend(AV_RB16(data), 16);
3576     data      += 2;
3577     flags      = *data++;
3578     size      -= 3;
3579     if (is_keyframe == -1)
3580         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
3581
3582     if (cluster_time != (uint64_t) -1 &&
3583         (block_time >= 0 || cluster_time >= -block_time)) {
3584         uint64_t timecode_cluster_in_track_tb = (double) cluster_time / track->time_scale;
3585         timecode = timecode_cluster_in_track_tb + block_time - track->codec_delay_in_track_tb;
3586         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3587             timecode < track->end_timecode)
3588             is_keyframe = 0;  /* overlapping subtitles are not key frame */
3589         if (is_keyframe) {
3590             ff_reduce_index(matroska->ctx, st->index);
3591             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
3592                                AVINDEX_KEYFRAME);
3593         }
3594     }
3595
3596     if (matroska->skip_to_keyframe &&
3597         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
3598         // Compare signed timecodes. Timecode may be negative due to codec delay
3599         // offset. We don't support timestamps greater than int64_t anyway - see
3600         // AVPacket's pts.
3601         if ((int64_t)timecode < (int64_t)matroska->skip_to_timecode)
3602             return res;
3603         if (is_keyframe)
3604             matroska->skip_to_keyframe = 0;
3605         else if (!st->internal->skip_to_keyframe) {
3606             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
3607             matroska->skip_to_keyframe = 0;
3608         }
3609     }
3610
3611     res = matroska_parse_laces(matroska, &data, size, (flags & 0x06) >> 1,
3612                                &pb, lace_size, &laces);
3613     if (res < 0) {
3614         av_log(matroska->ctx, AV_LOG_ERROR, "Error parsing frame sizes.\n");
3615         return res;
3616     }
3617
3618     trust_default_duration = track->default_duration != 0;
3619     if (track->audio.samplerate == 8000 && trust_default_duration) {
3620         // If this is needed for more codecs, then add them here
3621         if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
3622             if (track->audio.samplerate != st->codecpar->sample_rate || !st->codecpar->frame_size)
3623                 trust_default_duration = 0;
3624         }
3625     }
3626
3627     if (!block_duration && trust_default_duration)
3628         block_duration = track->default_duration * laces / matroska->time_scale;
3629
3630     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
3631         track->end_timecode =
3632             FFMAX(track->end_timecode, timecode + block_duration);
3633
3634     for (n = 0; n < laces; n++) {
3635         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
3636         uint8_t *out_data = data;
3637         int      out_size = lace_size[n];
3638
3639         if (track->needs_decoding) {
3640             res = matroska_decode_buffer(&out_data, &out_size, track);
3641             if (res < 0)
3642                 return res;
3643             /* Given that we are here means that out_data is no longer
3644              * owned by buf, so set it to NULL. This depends upon
3645              * zero-length header removal compression being ignored. */
3646             av_assert1(out_data != data);
3647             buf = NULL;
3648         }
3649
3650         if (track->audio.buf) {
3651             res = matroska_parse_rm_audio(matroska, track, st,
3652                                           out_data, out_size,
3653                                           timecode, pos);
3654             if (!buf)
3655                 av_free(out_data);
3656             if (res)
3657                 return res;
3658         } else if (st->codecpar->codec_id == AV_CODEC_ID_WEBVTT) {
3659             res = matroska_parse_webvtt(matroska, track, st,
3660                                         out_data, out_size,
3661                                         timecode, lace_duration,
3662                                         pos);
3663             if (!buf)
3664                 av_free(out_data);
3665             if (res)
3666                 return res;
3667         } else {
3668             res = matroska_parse_frame(matroska, track, st, buf, out_data,
3669                                        out_size, timecode, lace_duration,
3670                                        pos, !n ? is_keyframe : 0,
3671                                        additional, additional_id, additional_size,
3672                                        discard_padding);
3673             if (res)
3674                 return res;
3675         }
3676
3677         if (timecode != AV_NOPTS_VALUE)
3678             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
3679         data += lace_size[n];
3680     }
3681
3682     return 0;
3683 }
3684
3685 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3686 {
3687     MatroskaCluster *cluster = &matroska->current_cluster;
3688     MatroskaBlock     *block = &cluster->block;
3689     int res;
3690
3691     av_assert0(matroska->num_levels <= 2);
3692
3693     if (matroska->num_levels == 1) {
3694         res = ebml_parse(matroska, matroska_segment, NULL);
3695
3696         if (res == 1) {
3697             /* Found a cluster: subtract the size of the ID already read. */
3698             cluster->pos = avio_tell(matroska->ctx->pb) - 4;
3699
3700             res = ebml_parse(matroska, matroska_cluster_enter, cluster);
3701             if (res < 0)
3702                 return res;
3703         }
3704     }
3705
3706     if (matroska->num_levels == 2) {
3707         /* We are inside a cluster. */
3708         res = ebml_parse(matroska, matroska_cluster_parsing, cluster);
3709
3710         if (res >= 0 && block->bin.size > 0) {
3711             int is_keyframe = block->non_simple ? block->reference == INT64_MIN : -1;
3712             uint8_t* additional = block->additional.size > 0 ?
3713                                     block->additional.data : NULL;
3714
3715             res = matroska_parse_block(matroska, block->bin.buf, block->bin.data,
3716                                        block->bin.size, block->bin.pos,
3717                                        cluster->timecode, block->duration,
3718                                        is_keyframe, additional, block->additional_id,
3719                                        block->additional.size, cluster->pos,
3720                                        block->discard_padding);
3721         }
3722
3723         ebml_free(matroska_blockgroup, block);
3724         memset(block, 0, sizeof(*block));
3725     } else if (!matroska->num_levels) {
3726         if (!avio_feof(matroska->ctx->pb)) {
3727             avio_r8(matroska->ctx->pb);
3728             if (!avio_feof(matroska->ctx->pb)) {
3729                 av_log(matroska->ctx, AV_LOG_WARNING, "File extends beyond "
3730                        "end of segment.\n");
3731                 return AVERROR_INVALIDDATA;
3732             }
3733         }
3734         matroska->done = 1;
3735         return AVERROR_EOF;
3736     }
3737
3738     return res;
3739 }
3740
3741 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3742 {
3743     MatroskaDemuxContext *matroska = s->priv_data;
3744     int ret = 0;
3745
3746     if (matroska->resync_pos == -1) {
3747         // This can only happen if generic seeking has been used.
3748         matroska->resync_pos = avio_tell(s->pb);
3749     }
3750
3751     while (matroska_deliver_packet(matroska, pkt)) {
3752         if (matroska->done)
3753             return (ret < 0) ? ret : AVERROR_EOF;
3754         if (matroska_parse_cluster(matroska) < 0 && !matroska->done)
3755             ret = matroska_resync(matroska, matroska->resync_pos);
3756     }
3757
3758     return 0;
3759 }
3760
3761 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3762                               int64_t timestamp, int flags)
3763 {
3764     MatroskaDemuxContext *matroska = s->priv_data;
3765     MatroskaTrack *tracks = NULL;
3766     AVStream *st = s->streams[stream_index];
3767     int i, index;
3768
3769     /* Parse the CUES now since we need the index data to seek. */
3770     if (matroska->cues_parsing_deferred > 0) {
3771         matroska->cues_parsing_deferred = 0;
3772         matroska_parse_cues(matroska);
3773     }
3774
3775     if (!st->internal->nb_index_entries)
3776         goto err;
3777     timestamp = FFMAX(timestamp, st->internal->index_entries[0].timestamp);
3778
3779     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->internal->nb_index_entries - 1) {
3780         matroska_reset_status(matroska, 0, st->internal->index_entries[st->internal->nb_index_entries - 1].pos);
3781         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->internal->nb_index_entries - 1) {
3782             matroska_clear_queue(matroska);
3783             if (matroska_parse_cluster(matroska) < 0)
3784                 break;
3785         }
3786     }
3787
3788     matroska_clear_queue(matroska);
3789     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->internal->nb_index_entries - 1))
3790         goto err;
3791
3792     tracks = matroska->tracks.elem;
3793     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3794         tracks[i].audio.pkt_cnt        = 0;
3795         tracks[i].audio.sub_packet_cnt = 0;
3796         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3797         tracks[i].end_timecode         = 0;
3798     }
3799
3800     /* We seek to a level 1 element, so set the appropriate status. */
3801     matroska_reset_status(matroska, 0, st->internal->index_entries[index].pos);
3802     if (flags & AVSEEK_FLAG_ANY) {
3803         st->internal->skip_to_keyframe = 0;
3804         matroska->skip_to_timecode = timestamp;
3805     } else {
3806         st->internal->skip_to_keyframe = 1;
3807         matroska->skip_to_timecode = st->internal->index_entries[index].timestamp;
3808     }
3809     matroska->skip_to_keyframe = 1;
3810     matroska->done             = 0;
3811     ff_update_cur_dts(s, st, st->internal->index_entries[index].timestamp);
3812     return 0;
3813 err:
3814     // slightly hackish but allows proper fallback to
3815     // the generic seeking code.
3816     matroska_reset_status(matroska, 0, -1);
3817     matroska->resync_pos = -1;
3818     matroska_clear_queue(matroska);
3819     st->internal->skip_to_keyframe =
3820     matroska->skip_to_keyframe = 0;
3821     matroska->done = 0;
3822     return -1;
3823 }
3824
3825 static int matroska_read_close(AVFormatContext *s)
3826 {
3827     MatroskaDemuxContext *matroska = s->priv_data;
3828     MatroskaTrack *tracks = matroska->tracks.elem;
3829     int n;
3830
3831     matroska_clear_queue(matroska);
3832
3833     for (n = 0; n < matroska->tracks.nb_elem; n++)
3834         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3835             av_freep(&tracks[n].audio.buf);
3836     ebml_free(matroska_segment, matroska);
3837
3838     return 0;
3839 }
3840
3841 typedef struct {
3842     int64_t start_time_ns;
3843     int64_t end_time_ns;
3844     int64_t start_offset;
3845     int64_t end_offset;
3846 } CueDesc;
3847
3848 /* This function searches all the Cues and returns the CueDesc corresponding to
3849  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3850  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3851  */
3852 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3853     MatroskaDemuxContext *matroska = s->priv_data;
3854     CueDesc cue_desc;
3855     int i;
3856     int nb_index_entries = s->streams[0]->internal->nb_index_entries;
3857     AVIndexEntry *index_entries = s->streams[0]->internal->index_entries;
3858     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3859     for (i = 1; i < nb_index_entries; i++) {
3860         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3861             index_entries[i].timestamp * matroska->time_scale > ts) {
3862             break;
3863         }
3864     }
3865     --i;
3866     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3867     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3868     if (i != nb_index_entries - 1) {
3869         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3870         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3871     } else {
3872         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3873         // FIXME: this needs special handling for files where Cues appear
3874         // before Clusters. the current logic assumes Cues appear after
3875         // Clusters.
3876         cue_desc.end_offset = cues_start - matroska->segment_start;
3877     }
3878     return cue_desc;
3879 }
3880
3881 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3882 {
3883     MatroskaDemuxContext *matroska = s->priv_data;
3884     uint32_t id = matroska->current_id;
3885     int64_t cluster_pos, before_pos;
3886     int index, rv = 1;
3887     if (s->streams[0]->internal->nb_index_entries <= 0) return 0;
3888     // seek to the first cluster using cues.
3889     index = av_index_search_timestamp(s->streams[0], 0, 0);
3890     if (index < 0)  return 0;
3891     cluster_pos = s->streams[0]->internal->index_entries[index].pos;
3892     before_pos = avio_tell(s->pb);
3893     while (1) {
3894         uint64_t cluster_id, cluster_length;
3895         int read;
3896         AVPacket *pkt;
3897         avio_seek(s->pb, cluster_pos, SEEK_SET);
3898         // read cluster id and length
3899         read = ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id, 1);
3900         if (read < 0 || cluster_id != 0xF43B675) // done with all clusters
3901             break;
3902         read = ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3903         if (read < 0)
3904             break;
3905
3906         matroska_reset_status(matroska, 0, cluster_pos);
3907         matroska_clear_queue(matroska);
3908         if (matroska_parse_cluster(matroska) < 0 ||
3909             !matroska->queue) {
3910             break;
3911         }
3912         pkt = &matroska->queue->pkt;
3913         // 4 + read is the length of the cluster id and the cluster length field.
3914         cluster_pos += 4 + read + cluster_length;
3915         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3916             rv = 0;
3917             break;
3918         }
3919     }
3920
3921     /* Restore the status after matroska_read_header: */
3922     matroska_reset_status(matroska, id, before_pos);
3923
3924     return rv;
3925 }
3926
3927 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3928                                              double min_buffer, double* buffer,
3929                                              double* sec_to_download, AVFormatContext *s,
3930                                              int64_t cues_start)
3931 {
3932     double nano_seconds_per_second = 1000000000.0;
3933     double time_sec = time_ns / nano_seconds_per_second;
3934     int rv = 0;
3935     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3936     int64_t end_time_ns = time_ns + time_to_search_ns;
3937     double sec_downloaded = 0.0;
3938     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3939     if (desc_curr.start_time_ns == -1)
3940       return -1;
3941     *sec_to_download = 0.0;
3942
3943     // Check for non cue start time.
3944     if (time_ns > desc_curr.start_time_ns) {
3945       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3946       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3947       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3948       double timeToDownload = (cueBytes * 8.0) / bps;
3949
3950       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3951       *sec_to_download += timeToDownload;
3952
3953       // Check if the search ends within the first cue.
3954       if (desc_curr.end_time_ns >= end_time_ns) {
3955           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3956           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3957           sec_downloaded = percent_to_sub * sec_downloaded;
3958           *sec_to_download = percent_to_sub * *sec_to_download;
3959       }
3960
3961       if ((sec_downloaded + *buffer) <= min_buffer) {
3962           return 1;
3963       }
3964
3965       // Get the next Cue.
3966       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3967     }
3968
3969     while (desc_curr.start_time_ns != -1) {
3970         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3971         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3972         double desc_sec = desc_ns / nano_seconds_per_second;
3973         double bits = (desc_bytes * 8.0);
3974         double time_to_download = bits / bps;
3975
3976         sec_downloaded += desc_sec - time_to_download;
3977         *sec_to_download += time_to_download;
3978
3979         if (desc_curr.end_time_ns >= end_time_ns) {
3980             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3981             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3982             sec_downloaded = percent_to_sub * sec_downloaded;
3983             *sec_to_download = percent_to_sub * *sec_to_download;
3984
3985             if ((sec_downloaded + *buffer) <= min_buffer)
3986                 rv = 1;
3987             break;
3988         }
3989
3990         if ((sec_downloaded + *buffer) <= min_buffer) {
3991             rv = 1;
3992             break;
3993         }
3994
3995         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3996     }
3997     *buffer = *buffer + sec_downloaded;
3998     return rv;
3999 }
4000
4001 /* This function computes the bandwidth of the WebM file with the help of
4002  * buffer_size_after_time_downloaded() function. Both of these functions are
4003  * adapted from WebM Tools project and are adapted to work with FFmpeg's
4004  * Matroska parsing mechanism.
4005  *
4006  * Returns the bandwidth of the file on success; -1 on error.
4007  * */
4008 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
4009 {
4010     MatroskaDemuxContext *matroska = s->priv_data;
4011     AVStream *st = s->streams[0];
4012     double bandwidth = 0.0;
4013     int i;
4014
4015     for (i = 0; i < st->internal->nb_index_entries; i++) {
4016         int64_t prebuffer_ns = 1000000000;
4017         int64_t time_ns = st->internal->index_entries[i].timestamp * matroska->time_scale;
4018         double nano_seconds_per_second = 1000000000.0;
4019         int64_t prebuffered_ns = time_ns + prebuffer_ns;
4020         double prebuffer_bytes = 0.0;
4021         int64_t temp_prebuffer_ns = prebuffer_ns;
4022         int64_t pre_bytes, pre_ns;
4023         double pre_sec, prebuffer, bits_per_second;
4024         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
4025
4026         // Start with the first Cue.
4027         CueDesc desc_end = desc_beg;
4028
4029         // Figure out how much data we have downloaded for the prebuffer. This will
4030         // be used later to adjust the bits per sample to try.
4031         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
4032             // Prebuffered the entire Cue.
4033             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
4034             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
4035             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4036         }
4037         if (desc_end.start_time_ns == -1) {
4038             // The prebuffer is larger than the duration.
4039             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
4040               return -1;
4041             bits_per_second = 0.0;
4042         } else {
4043             // The prebuffer ends in the last Cue. Estimate how much data was
4044             // prebuffered.
4045             pre_bytes = desc_end.end_offset - desc_end.start_offset;
4046             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
4047             pre_sec = pre_ns / nano_seconds_per_second;
4048             prebuffer_bytes +=
4049                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
4050
4051             prebuffer = prebuffer_ns / nano_seconds_per_second;
4052
4053             // Set this to 0.0 in case our prebuffer buffers the entire video.
4054             bits_per_second = 0.0;
4055             do {
4056                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
4057                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
4058                 double desc_sec = desc_ns / nano_seconds_per_second;
4059                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
4060
4061                 // Drop the bps by the percentage of bytes buffered.
4062                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
4063                 double mod_bits_per_second = calc_bits_per_second * percent;
4064
4065                 if (prebuffer < desc_sec) {
4066                     double search_sec =
4067                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
4068
4069                     // Add 1 so the bits per second should be a little bit greater than file
4070                     // datarate.
4071                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
4072                     const double min_buffer = 0.0;
4073                     double buffer = prebuffer;
4074                     double sec_to_download = 0.0;
4075
4076                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
4077                                                                min_buffer, &buffer, &sec_to_download,
4078                                                                s, cues_start);
4079                     if (rv < 0) {
4080                         return -1;
4081                     } else if (rv == 0) {
4082                         bits_per_second = (double)(bps);
4083                         break;
4084                     }
4085                 }
4086
4087                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
4088             } while (desc_end.start_time_ns != -1);
4089         }
4090         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
4091     }
4092     return (int64_t)bandwidth;
4093 }
4094
4095 static int webm_dash_manifest_cues(AVFormatContext *s, int64_t init_range)
4096 {
4097     MatroskaDemuxContext *matroska = s->priv_data;
4098     EbmlList *seekhead_list = &matroska->seekhead;
4099     MatroskaSeekhead *seekhead = seekhead_list->elem;
4100     char *buf;
4101     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
4102     int i;
4103     int end = 0;
4104
4105     // determine cues start and end positions
4106     for (i = 0; i < seekhead_list->nb_elem; i++)
4107         if (seekhead[i].id == MATROSKA_ID_CUES)
4108             break;
4109
4110     if (i >= seekhead_list->nb_elem) return -1;
4111
4112     before_pos = avio_tell(matroska->ctx->pb);
4113     cues_start = seekhead[i].pos + matroska->segment_start;
4114     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
4115         // cues_end is computed as cues_start + cues_length + length of the
4116         // Cues element ID (i.e. 4) + EBML length of the Cues element.
4117         // cues_end is inclusive and the above sum is reduced by 1.
4118         uint64_t cues_length, cues_id;
4119         int bytes_read;
4120         bytes_read = ebml_read_num   (matroska, matroska->ctx->pb, 4, &cues_id, 1);
4121         if (bytes_read < 0 || cues_id != (MATROSKA_ID_CUES & 0xfffffff))
4122             return bytes_read < 0 ? bytes_read : AVERROR_INVALIDDATA;
4123         bytes_read = ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
4124         if (bytes_read < 0)
4125             return bytes_read;
4126         cues_end = cues_start + 4 + bytes_read + cues_length - 1;
4127     }
4128     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
4129     if (cues_start == -1 || cues_end == -1) return -1;
4130
4131     // parse the cues
4132     matroska_parse_cues(matroska);
4133
4134     // cues start
4135     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
4136
4137     // cues end
4138     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
4139
4140     // if the file has cues at the start, fix up the init range so that
4141     // it does not include it
4142     if (cues_start <= init_range)
4143         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, cues_start - 1, 0);
4144
4145     // bandwidth
4146     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
4147     if (bandwidth < 0) return -1;
4148     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
4149
4150     // check if all clusters start with key frames
4151     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
4152
4153     // store cue point timestamps as a comma separated list for checking subsegment alignment in
4154     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
4155     buf = av_malloc_array(s->streams[0]->internal->nb_index_entries, 20);
4156     if (!buf) return -1;
4157     strcpy(buf, "");
4158     for (i = 0; i < s->streams[0]->internal->nb_index_entries; i++) {
4159         int ret = snprintf(buf + end, 20,
4160                            "%" PRId64"%s", s->streams[0]->internal->index_entries[i].timestamp,
4161                            i != s->streams[0]->internal->nb_index_entries - 1 ? "," : "");
4162         if (ret <= 0 || (ret == 20 && i ==  s->streams[0]->internal->nb_index_entries - 1)) {
4163             av_log(s, AV_LOG_ERROR, "timestamp too long.\n");
4164             av_free(buf);
4165             return AVERROR_INVALIDDATA;
4166         }
4167         end += ret;
4168     }
4169     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS,
4170                 buf, AV_DICT_DONT_STRDUP_VAL);
4171
4172     return 0;
4173 }
4174
4175 static int webm_dash_manifest_read_header(AVFormatContext *s)
4176 {
4177     char *buf;
4178     int ret = matroska_read_header(s);
4179     int64_t init_range;
4180     MatroskaTrack *tracks;
4181     MatroskaDemuxContext *matroska = s->priv_data;
4182     if (ret) {
4183         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
4184         return -1;
4185     }
4186     if (!matroska->tracks.nb_elem || !s->nb_streams) {
4187         av_log(s, AV_LOG_ERROR, "No track found\n");
4188         ret = AVERROR_INVALIDDATA;
4189         goto fail;
4190     }
4191
4192     if (!matroska->is_live) {
4193         buf = av_asprintf("%g", matroska->duration);
4194         if (!buf) {
4195             ret = AVERROR(ENOMEM);
4196             goto fail;
4197         }
4198         av_dict_set(&s->streams[0]->metadata, DURATION,
4199                     buf, AV_DICT_DONT_STRDUP_VAL);
4200
4201         // initialization range
4202         // 5 is the offset of Cluster ID.
4203         init_range = avio_tell(s->pb) - 5;
4204         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, init_range, 0);
4205     }
4206
4207     // basename of the file
4208     buf = strrchr(s->url, '/');
4209     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->url, 0);
4210
4211     // track number
4212     tracks = matroska->tracks.elem;
4213     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
4214
4215     // parse the cues and populate Cue related fields
4216     if (!matroska->is_live) {
4217         ret = webm_dash_manifest_cues(s, init_range);
4218         if (ret < 0) {
4219             av_log(s, AV_LOG_ERROR, "Error parsing Cues\n");
4220             goto fail;
4221         }
4222     }
4223
4224     // use the bandwidth from the command line if it was provided
4225     if (matroska->bandwidth > 0) {
4226         av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH,
4227                         matroska->bandwidth, 0);
4228     }
4229     return 0;
4230 fail:
4231     matroska_read_close(s);
4232     return ret;
4233 }
4234
4235 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
4236 {
4237     return AVERROR_EOF;
4238 }
4239
4240 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
4241 static const AVOption options[] = {
4242     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
4243     { "bandwidth", "bandwidth of this stream to be specified in the DASH manifest.", OFFSET(bandwidth), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, AV_OPT_FLAG_DECODING_PARAM },
4244     { NULL },
4245 };
4246
4247 static const AVClass webm_dash_class = {
4248     .class_name = "WebM DASH Manifest demuxer",
4249     .item_name  = av_default_item_name,
4250     .option     = options,
4251     .version    = LIBAVUTIL_VERSION_INT,
4252 };
4253
4254 AVInputFormat ff_matroska_demuxer = {
4255     .name           = "matroska,webm",
4256     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
4257     .extensions     = "mkv,mk3d,mka,mks",
4258     .priv_data_size = sizeof(MatroskaDemuxContext),
4259     .read_probe     = matroska_probe,
4260     .read_header    = matroska_read_header,
4261     .read_packet    = matroska_read_packet,
4262     .read_close     = matroska_read_close,
4263     .read_seek      = matroska_read_seek,
4264     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
4265 };
4266
4267 AVInputFormat ff_webm_dash_manifest_demuxer = {
4268     .name           = "webm_dash_manifest",
4269     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
4270     .priv_data_size = sizeof(MatroskaDemuxContext),
4271     .read_header    = webm_dash_manifest_read_header,
4272     .read_packet    = webm_dash_manifest_read_packet,
4273     .read_close     = matroska_read_close,
4274     .priv_class     = &webm_dash_class,
4275 };