]> git.sesse.net Git - ffmpeg/blob - libavformat/matroskadec.c
avformat/matroskadec: Refactor some functions
[ffmpeg] / libavformat / matroskadec.c
1 /*
2  * Matroska file demuxer
3  * Copyright (c) 2003-2008 The FFmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Matroska file demuxer
25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
28  * @see specs available on the Matroska project page: http://www.matroska.org/
29  */
30
31 #include "config.h"
32
33 #include <inttypes.h>
34 #include <stdio.h>
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/base64.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lzo.h"
42 #include "libavutil/mastering_display_metadata.h"
43 #include "libavutil/mathematics.h"
44 #include "libavutil/opt.h"
45 #include "libavutil/time_internal.h"
46 #include "libavutil/spherical.h"
47
48 #include "libavcodec/bytestream.h"
49 #include "libavcodec/flac.h"
50 #include "libavcodec/mpeg4audio.h"
51
52 #include "avformat.h"
53 #include "avio_internal.h"
54 #include "internal.h"
55 #include "isom.h"
56 #include "matroska.h"
57 #include "oggdec.h"
58 /* For ff_codec_get_id(). */
59 #include "riff.h"
60 #include "rmsipr.h"
61
62 #if CONFIG_BZLIB
63 #include <bzlib.h>
64 #endif
65 #if CONFIG_ZLIB
66 #include <zlib.h>
67 #endif
68
69 #include "qtpalette.h"
70
71 #define EBML_UNKNOWN_LENGTH  UINT64_MAX /* EBML unknown length, in uint64_t */
72 #define NEEDS_CHECKING                2 /* Indicates that some error checks
73                                          * still need to be performed */
74
75 typedef enum {
76     EBML_NONE,
77     EBML_UINT,
78     EBML_FLOAT,
79     EBML_STR,
80     EBML_UTF8,
81     EBML_BIN,
82     EBML_NEST,
83     EBML_LEVEL1,
84     EBML_STOP,
85     EBML_SINT,
86     EBML_TYPE_COUNT
87 } EbmlType;
88
89 typedef const struct EbmlSyntax {
90     uint32_t id;
91     EbmlType type;
92     int list_elem_size;
93     int data_offset;
94     union {
95         int64_t     i;
96         uint64_t    u;
97         double      f;
98         const char *s;
99         const struct EbmlSyntax *n;
100     } def;
101 } EbmlSyntax;
102
103 typedef struct EbmlList {
104     int nb_elem;
105     void *elem;
106 } EbmlList;
107
108 typedef struct EbmlBin {
109     int      size;
110     AVBufferRef *buf;
111     uint8_t *data;
112     int64_t  pos;
113 } EbmlBin;
114
115 typedef struct Ebml {
116     uint64_t version;
117     uint64_t max_size;
118     uint64_t id_length;
119     char    *doctype;
120     uint64_t doctype_version;
121 } Ebml;
122
123 typedef struct MatroskaTrackCompression {
124     uint64_t algo;
125     EbmlBin  settings;
126 } MatroskaTrackCompression;
127
128 typedef struct MatroskaTrackEncryption {
129     uint64_t algo;
130     EbmlBin  key_id;
131 } MatroskaTrackEncryption;
132
133 typedef struct MatroskaTrackEncoding {
134     uint64_t scope;
135     uint64_t type;
136     MatroskaTrackCompression compression;
137     MatroskaTrackEncryption encryption;
138 } MatroskaTrackEncoding;
139
140 typedef struct MatroskaMasteringMeta {
141     double r_x;
142     double r_y;
143     double g_x;
144     double g_y;
145     double b_x;
146     double b_y;
147     double white_x;
148     double white_y;
149     double max_luminance;
150     double min_luminance;
151 } MatroskaMasteringMeta;
152
153 typedef struct MatroskaTrackVideoColor {
154     uint64_t matrix_coefficients;
155     uint64_t bits_per_channel;
156     uint64_t chroma_sub_horz;
157     uint64_t chroma_sub_vert;
158     uint64_t cb_sub_horz;
159     uint64_t cb_sub_vert;
160     uint64_t chroma_siting_horz;
161     uint64_t chroma_siting_vert;
162     uint64_t range;
163     uint64_t transfer_characteristics;
164     uint64_t primaries;
165     uint64_t max_cll;
166     uint64_t max_fall;
167     MatroskaMasteringMeta mastering_meta;
168 } MatroskaTrackVideoColor;
169
170 typedef struct MatroskaTrackVideoProjection {
171     uint64_t type;
172     EbmlBin private;
173     double yaw;
174     double pitch;
175     double roll;
176 } MatroskaTrackVideoProjection;
177
178 typedef struct MatroskaTrackVideo {
179     double   frame_rate;
180     uint64_t display_width;
181     uint64_t display_height;
182     uint64_t pixel_width;
183     uint64_t pixel_height;
184     EbmlBin color_space;
185     uint64_t display_unit;
186     uint64_t interlaced;
187     uint64_t field_order;
188     uint64_t stereo_mode;
189     uint64_t alpha_mode;
190     EbmlList color;
191     MatroskaTrackVideoProjection projection;
192 } MatroskaTrackVideo;
193
194 typedef struct MatroskaTrackAudio {
195     double   samplerate;
196     double   out_samplerate;
197     uint64_t bitdepth;
198     uint64_t channels;
199
200     /* real audio header (extracted from extradata) */
201     int      coded_framesize;
202     int      sub_packet_h;
203     int      frame_size;
204     int      sub_packet_size;
205     int      sub_packet_cnt;
206     int      pkt_cnt;
207     uint64_t buf_timecode;
208     uint8_t *buf;
209 } MatroskaTrackAudio;
210
211 typedef struct MatroskaTrackPlane {
212     uint64_t uid;
213     uint64_t type;
214 } MatroskaTrackPlane;
215
216 typedef struct MatroskaTrackOperation {
217     EbmlList combine_planes;
218 } MatroskaTrackOperation;
219
220 typedef struct MatroskaTrack {
221     uint64_t num;
222     uint64_t uid;
223     uint64_t type;
224     char    *name;
225     char    *codec_id;
226     EbmlBin  codec_priv;
227     char    *language;
228     double time_scale;
229     uint64_t default_duration;
230     uint64_t flag_default;
231     uint64_t flag_forced;
232     uint64_t seek_preroll;
233     MatroskaTrackVideo video;
234     MatroskaTrackAudio audio;
235     MatroskaTrackOperation operation;
236     EbmlList encodings;
237     uint64_t codec_delay;
238     uint64_t codec_delay_in_track_tb;
239
240     AVStream *stream;
241     int64_t end_timecode;
242     int ms_compat;
243     uint64_t max_block_additional_id;
244
245     uint32_t palette[AVPALETTE_COUNT];
246     int has_palette;
247 } MatroskaTrack;
248
249 typedef struct MatroskaAttachment {
250     uint64_t uid;
251     char *filename;
252     char *mime;
253     EbmlBin bin;
254
255     AVStream *stream;
256 } MatroskaAttachment;
257
258 typedef struct MatroskaChapter {
259     uint64_t start;
260     uint64_t end;
261     uint64_t uid;
262     char    *title;
263
264     AVChapter *chapter;
265 } MatroskaChapter;
266
267 typedef struct MatroskaIndexPos {
268     uint64_t track;
269     uint64_t pos;
270 } MatroskaIndexPos;
271
272 typedef struct MatroskaIndex {
273     uint64_t time;
274     EbmlList pos;
275 } MatroskaIndex;
276
277 typedef struct MatroskaTag {
278     char *name;
279     char *string;
280     char *lang;
281     uint64_t def;
282     EbmlList sub;
283 } MatroskaTag;
284
285 typedef struct MatroskaTagTarget {
286     char    *type;
287     uint64_t typevalue;
288     uint64_t trackuid;
289     uint64_t chapteruid;
290     uint64_t attachuid;
291 } MatroskaTagTarget;
292
293 typedef struct MatroskaTags {
294     MatroskaTagTarget target;
295     EbmlList tag;
296 } MatroskaTags;
297
298 typedef struct MatroskaSeekhead {
299     uint64_t id;
300     uint64_t pos;
301 } MatroskaSeekhead;
302
303 typedef struct MatroskaLevel {
304     uint64_t start;
305     uint64_t length;
306 } MatroskaLevel;
307
308 typedef struct MatroskaBlock {
309     uint64_t duration;
310     int64_t  reference;
311     uint64_t non_simple;
312     EbmlBin  bin;
313     uint64_t additional_id;
314     EbmlBin  additional;
315     int64_t discard_padding;
316 } MatroskaBlock;
317
318 typedef struct MatroskaCluster {
319     MatroskaBlock block;
320     uint64_t timecode;
321     int64_t pos;
322 } MatroskaCluster;
323
324 typedef struct MatroskaLevel1Element {
325     uint64_t pos;
326     uint32_t id;
327     int parsed;
328 } MatroskaLevel1Element;
329
330 typedef struct MatroskaDemuxContext {
331     const AVClass *class;
332     AVFormatContext *ctx;
333
334     /* EBML stuff */
335     int num_levels;
336     MatroskaLevel levels[EBML_MAX_DEPTH];
337     uint32_t current_id;
338
339     uint64_t time_scale;
340     double   duration;
341     char    *title;
342     char    *muxingapp;
343     EbmlBin date_utc;
344     EbmlList tracks;
345     EbmlList attachments;
346     EbmlList chapters;
347     EbmlList index;
348     EbmlList tags;
349     EbmlList seekhead;
350
351     /* byte position of the segment inside the stream */
352     int64_t segment_start;
353
354     /* the packet queue */
355     AVPacketList *queue;
356     AVPacketList *queue_end;
357
358     int done;
359
360     /* What to skip before effectively reading a packet. */
361     int skip_to_keyframe;
362     uint64_t skip_to_timecode;
363
364     /* File has a CUES element, but we defer parsing until it is needed. */
365     int cues_parsing_deferred;
366
367     /* Level1 elements and whether they were read yet */
368     MatroskaLevel1Element level1_elems[64];
369     int num_level1_elems;
370
371     MatroskaCluster current_cluster;
372
373     /* WebM DASH Manifest live flag */
374     int is_live;
375
376     /* Bandwidth value for WebM DASH Manifest */
377     int bandwidth;
378 } MatroskaDemuxContext;
379
380 static const EbmlSyntax ebml_header[] = {
381     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
382     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
383     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
384     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
385     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
386     { EBML_ID_EBMLVERSION,        EBML_NONE },
387     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
388     { 0 }
389 };
390
391 static const EbmlSyntax ebml_syntax[] = {
392     { EBML_ID_HEADER, EBML_NEST, 0, 0, { .n = ebml_header } },
393     { 0 }
394 };
395
396 static const EbmlSyntax matroska_info[] = {
397     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
398     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
399     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
400     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
401     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
402     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
403     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
404     { 0 }
405 };
406
407 static const EbmlSyntax matroska_mastering_meta[] = {
408     { MATROSKA_ID_VIDEOCOLOR_RX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_x), { .f=-1 } },
409     { MATROSKA_ID_VIDEOCOLOR_RY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, r_y), { .f=-1 } },
410     { MATROSKA_ID_VIDEOCOLOR_GX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_x), { .f=-1 } },
411     { MATROSKA_ID_VIDEOCOLOR_GY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, g_y), { .f=-1 } },
412     { MATROSKA_ID_VIDEOCOLOR_BX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_x), { .f=-1 } },
413     { MATROSKA_ID_VIDEOCOLOR_BY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, b_y), { .f=-1 } },
414     { MATROSKA_ID_VIDEOCOLOR_WHITEX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_x), { .f=-1 } },
415     { MATROSKA_ID_VIDEOCOLOR_WHITEY, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, white_y), { .f=-1 } },
416     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMIN, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, min_luminance), { .f=-1 } },
417     { MATROSKA_ID_VIDEOCOLOR_LUMINANCEMAX, EBML_FLOAT, 0, offsetof(MatroskaMasteringMeta, max_luminance), { .f=-1 } },
418     { 0 }
419 };
420
421 static const EbmlSyntax matroska_track_video_color[] = {
422     { MATROSKA_ID_VIDEOCOLORMATRIXCOEFF,      EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, matrix_coefficients), { .u = AVCOL_SPC_UNSPECIFIED } },
423     { MATROSKA_ID_VIDEOCOLORBITSPERCHANNEL,   EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, bits_per_channel), { .u=0 } },
424     { MATROSKA_ID_VIDEOCOLORCHROMASUBHORZ,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_horz), { .u=0 } },
425     { MATROSKA_ID_VIDEOCOLORCHROMASUBVERT,    EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_sub_vert), { .u=0 } },
426     { MATROSKA_ID_VIDEOCOLORCBSUBHORZ,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_horz), { .u=0 } },
427     { MATROSKA_ID_VIDEOCOLORCBSUBVERT,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, cb_sub_vert), { .u=0 } },
428     { MATROSKA_ID_VIDEOCOLORCHROMASITINGHORZ, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_horz), { .u = MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED } },
429     { MATROSKA_ID_VIDEOCOLORCHROMASITINGVERT, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, chroma_siting_vert), { .u = MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED } },
430     { MATROSKA_ID_VIDEOCOLORRANGE,            EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, range), { .u = AVCOL_RANGE_UNSPECIFIED } },
431     { MATROSKA_ID_VIDEOCOLORTRANSFERCHARACTERISTICS, EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, transfer_characteristics), { .u = AVCOL_TRC_UNSPECIFIED } },
432     { MATROSKA_ID_VIDEOCOLORPRIMARIES,        EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, primaries), { .u = AVCOL_PRI_UNSPECIFIED } },
433     { MATROSKA_ID_VIDEOCOLORMAXCLL,           EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_cll), { .u=0 } },
434     { MATROSKA_ID_VIDEOCOLORMAXFALL,          EBML_UINT, 0, offsetof(MatroskaTrackVideoColor, max_fall), { .u=0 } },
435     { MATROSKA_ID_VIDEOCOLORMASTERINGMETA,    EBML_NEST, 0, offsetof(MatroskaTrackVideoColor, mastering_meta), { .n = matroska_mastering_meta } },
436     { 0 }
437 };
438
439 static const EbmlSyntax matroska_track_video_projection[] = {
440     { MATROSKA_ID_VIDEOPROJECTIONTYPE,        EBML_UINT,  0, offsetof(MatroskaTrackVideoProjection, type), { .u = MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR } },
441     { MATROSKA_ID_VIDEOPROJECTIONPRIVATE,     EBML_BIN,   0, offsetof(MatroskaTrackVideoProjection, private) },
442     { MATROSKA_ID_VIDEOPROJECTIONPOSEYAW,     EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, yaw), { .f=0.0 } },
443     { MATROSKA_ID_VIDEOPROJECTIONPOSEPITCH,   EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, pitch), { .f=0.0 } },
444     { MATROSKA_ID_VIDEOPROJECTIONPOSEROLL,    EBML_FLOAT, 0, offsetof(MatroskaTrackVideoProjection, roll), { .f=0.0 } },
445     { 0 }
446 };
447
448 static const EbmlSyntax matroska_track_video[] = {
449     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
450     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
451     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
452     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
453     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
454     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
455     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
456     { MATROSKA_ID_VIDEOCOLOR,          EBML_NEST,  sizeof(MatroskaTrackVideoColor), offsetof(MatroskaTrackVideo, color), { .n = matroska_track_video_color } },
457     { MATROSKA_ID_VIDEOPROJECTION,     EBML_NEST,  0, offsetof(MatroskaTrackVideo, projection), { .n = matroska_track_video_projection } },
458     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
459     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
460     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
461     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
462     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_unit), { .u= MATROSKA_VIDEO_DISPLAYUNIT_PIXELS } },
463     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_UINT,  0, offsetof(MatroskaTrackVideo, interlaced),  { .u = MATROSKA_VIDEO_INTERLACE_FLAG_UNDETERMINED } },
464     { MATROSKA_ID_VIDEOFIELDORDER,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, field_order), { .u = MATROSKA_VIDEO_FIELDORDER_UNDETERMINED } },
465     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
466     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
467     { 0 }
468 };
469
470 static const EbmlSyntax matroska_track_audio[] = {
471     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
472     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
473     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
474     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
475     { 0 }
476 };
477
478 static const EbmlSyntax matroska_track_encoding_compression[] = {
479     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
480     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
481     { 0 }
482 };
483
484 static const EbmlSyntax matroska_track_encoding_encryption[] = {
485     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
486     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
487     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
488     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
489     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
490     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
491     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
492     { 0 }
493 };
494 static const EbmlSyntax matroska_track_encoding[] = {
495     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
496     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
497     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
498     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
499     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
500     { 0 }
501 };
502
503 static const EbmlSyntax matroska_track_encodings[] = {
504     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
505     { 0 }
506 };
507
508 static const EbmlSyntax matroska_track_plane[] = {
509     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
510     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
511     { 0 }
512 };
513
514 static const EbmlSyntax matroska_track_combine_planes[] = {
515     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
516     { 0 }
517 };
518
519 static const EbmlSyntax matroska_track_operation[] = {
520     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
521     { 0 }
522 };
523
524 static const EbmlSyntax matroska_track[] = {
525     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
526     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
527     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
528     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
529     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
530     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
531     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
532     { MATROSKA_ID_TRACKLANGUAGE,         EBML_UTF8,  0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
533     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
534     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
535     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
536     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
537     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
538     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
539     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
540     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
541     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
542     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
543     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
544     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
545     { MATROSKA_ID_CODECNAME,             EBML_NONE },
546     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
547     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
548     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
549     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
550     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
551     { 0 }
552 };
553
554 static const EbmlSyntax matroska_tracks[] = {
555     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
556     { 0 }
557 };
558
559 static const EbmlSyntax matroska_attachment[] = {
560     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
561     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
562     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
563     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
564     { MATROSKA_ID_FILEDESC,     EBML_NONE },
565     { 0 }
566 };
567
568 static const EbmlSyntax matroska_attachments[] = {
569     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
570     { 0 }
571 };
572
573 static const EbmlSyntax matroska_chapter_display[] = {
574     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
575     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
576     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
577     { 0 }
578 };
579
580 static const EbmlSyntax matroska_chapter_entry[] = {
581     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
582     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
583     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
584     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
585     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
586     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
587     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
588     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
589     { 0 }
590 };
591
592 static const EbmlSyntax matroska_chapter[] = {
593     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
594     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
595     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
596     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
597     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
598     { 0 }
599 };
600
601 static const EbmlSyntax matroska_chapters[] = {
602     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
603     { 0 }
604 };
605
606 static const EbmlSyntax matroska_index_pos[] = {
607     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
608     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
609     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
610     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
611     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
612     { 0 }
613 };
614
615 static const EbmlSyntax matroska_index_entry[] = {
616     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
617     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
618     { 0 }
619 };
620
621 static const EbmlSyntax matroska_index[] = {
622     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
623     { 0 }
624 };
625
626 static const EbmlSyntax matroska_simpletag[] = {
627     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
628     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
629     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
630     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
631     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
632     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
633     { 0 }
634 };
635
636 static const EbmlSyntax matroska_tagtargets[] = {
637     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
638     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
639     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
640     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
641     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
642     { 0 }
643 };
644
645 static const EbmlSyntax matroska_tag[] = {
646     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
647     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
648     { 0 }
649 };
650
651 static const EbmlSyntax matroska_tags[] = {
652     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
653     { 0 }
654 };
655
656 static const EbmlSyntax matroska_seekhead_entry[] = {
657     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
658     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
659     { 0 }
660 };
661
662 static const EbmlSyntax matroska_seekhead[] = {
663     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
664     { 0 }
665 };
666
667 static const EbmlSyntax matroska_segment[] = {
668     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
669     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
670     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
671     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
672     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
673     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
674     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
675     { MATROSKA_ID_CLUSTER,     EBML_STOP },
676     { 0 }
677 };
678
679 static const EbmlSyntax matroska_segments[] = {
680     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
681     { 0 }
682 };
683
684 static const EbmlSyntax matroska_blockmore[] = {
685     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id) },
686     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
687     { 0 }
688 };
689
690 static const EbmlSyntax matroska_blockadditions[] = {
691     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
692     { 0 }
693 };
694
695 static const EbmlSyntax matroska_blockgroup[] = {
696     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
697     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
698     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
699     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
700     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference), { .i = INT64_MIN } },
701     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
702     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
703     { 0 }
704 };
705
706 static const EbmlSyntax matroska_cluster_parsing[] = {
707     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
708     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, 0, 0, { .n = matroska_blockgroup } },
709     { MATROSKA_ID_SIMPLEBLOCK,     EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
710     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
711     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
712     { MATROSKA_ID_INFO,            EBML_NONE },
713     { MATROSKA_ID_CUES,            EBML_NONE },
714     { MATROSKA_ID_TAGS,            EBML_NONE },
715     { MATROSKA_ID_SEEKHEAD,        EBML_NONE },
716     { MATROSKA_ID_CLUSTER,         EBML_STOP },
717     { 0 }
718 };
719
720 static const EbmlSyntax matroska_cluster[] = {
721     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
722     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
723     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
724     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
725     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
726     { 0 }
727 };
728
729 static const EbmlSyntax matroska_clusters[] = {
730     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster } },
731     { MATROSKA_ID_INFO,     EBML_NONE },
732     { MATROSKA_ID_CUES,     EBML_NONE },
733     { MATROSKA_ID_TAGS,     EBML_NONE },
734     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
735     { 0 }
736 };
737
738 static const char *const matroska_doctypes[] = { "matroska", "webm" };
739
740 static int matroska_read_close(AVFormatContext *s);
741
742 /*
743  * This function prepares the status for parsing of level 1 elements.
744  */
745 static int matroska_reset_status(MatroskaDemuxContext *matroska,
746                                  uint32_t id, int64_t position)
747 {
748     if (position >= 0) {
749         int err = avio_seek(matroska->ctx->pb, position, SEEK_SET);
750         if (err < 0)
751             return err;
752     }
753
754     matroska->current_id = id;
755     matroska->num_levels = 1;
756     matroska->current_cluster.pos = 0;
757
758     return 0;
759 }
760
761 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
762 {
763     AVIOContext *pb = matroska->ctx->pb;
764     uint32_t id;
765
766     /* Try to seek to the last position to resync from. If this doesn't work,
767      * we resync from the earliest position available: The start of the buffer. */
768     if (last_pos < avio_tell(pb) && avio_seek(pb, last_pos + 1, SEEK_SET) < 0) {
769         av_log(matroska->ctx, AV_LOG_WARNING,
770                "Seek to desired resync point failed. Seeking to "
771                "earliest point available instead.\n");
772         avio_seek(pb, FFMAX(avio_tell(pb) + (pb->buffer - pb->buf_ptr),
773                             last_pos + 1), SEEK_SET);
774     }
775
776     id = avio_rb32(pb);
777
778     // try to find a toplevel element
779     while (!avio_feof(pb)) {
780         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
781             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
782             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
783             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
784             /* Prepare the context for parsing of a level 1 element. */
785             matroska_reset_status(matroska, id, -1);
786             /* Given that we are here means that an error has occured,
787              * so treat the segment as unknown length in order not to
788              * discard valid data that happens to be beyond the designated
789              * end of the segment. */
790             matroska->levels[0].length = EBML_UNKNOWN_LENGTH;
791             return 0;
792         }
793         id = (id << 8) | avio_r8(pb);
794     }
795
796     matroska->done = 1;
797     return pb->error ? pb->error : AVERROR_EOF;
798 }
799
800 /*
801  * Return: Whether we reached the end of a level in the hierarchy or not.
802  */
803 static int ebml_level_end(MatroskaDemuxContext *matroska)
804 {
805     AVIOContext *pb = matroska->ctx->pb;
806     int64_t pos = avio_tell(pb);
807
808     if (matroska->num_levels > 0) {
809         MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
810         if (pos - level->start >= level->length || matroska->current_id) {
811             matroska->num_levels--;
812             return 1;
813         }
814     }
815     return (matroska->is_live && matroska->ctx->pb->eof_reached) ? 1 : 0;
816 }
817
818 /*
819  * Read: an "EBML number", which is defined as a variable-length
820  * array of bytes. The first byte indicates the length by giving a
821  * number of 0-bits followed by a one. The position of the first
822  * "one" bit inside the first byte indicates the length of this
823  * number.
824  * Returns: number of bytes read, < 0 on error
825  */
826 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
827                          int max_size, uint64_t *number, int eof_forbidden)
828 {
829     int read, n = 1;
830     uint64_t total;
831     int64_t pos;
832
833     /* The first byte tells us the length in bytes - except when it is zero. */
834     total = avio_r8(pb);
835     if (pb->eof_reached)
836         goto err;
837
838     /* get the length of the EBML number */
839     read = 8 - ff_log2_tab[total];
840
841     if (!total || read > max_size) {
842         pos = avio_tell(pb) - 1;
843         if (!total) {
844             av_log(matroska->ctx, AV_LOG_ERROR,
845                    "0x00 at pos %"PRId64" (0x%"PRIx64") invalid as first byte "
846                    "of an EBML number\n", pos, pos);
847         } else {
848             av_log(matroska->ctx, AV_LOG_ERROR,
849                    "Length %d indicated by an EBML number's first byte 0x%02x "
850                    "at pos %"PRId64" (0x%"PRIx64") exceeds max length %d.\n",
851                    read, (uint8_t) total, pos, pos, max_size);
852         }
853         return AVERROR_INVALIDDATA;
854     }
855
856     /* read out length */
857     total ^= 1 << ff_log2_tab[total];
858     while (n++ < read)
859         total = (total << 8) | avio_r8(pb);
860
861     if (pb->eof_reached) {
862         eof_forbidden = 1;
863         goto err;
864     }
865
866     *number = total;
867
868     return read;
869
870 err:
871     pos = avio_tell(pb);
872     if (pb->error) {
873         av_log(matroska->ctx, AV_LOG_ERROR,
874                "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
875                pos, pos);
876         return pb->error;
877     }
878     if (eof_forbidden) {
879         av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely "
880                "at pos. %"PRIu64" (0x%"PRIx64")\n", pos, pos);
881         return AVERROR(EIO);
882     }
883     return AVERROR_EOF;
884 }
885
886 /**
887  * Read a EBML length value.
888  * This needs special handling for the "unknown length" case which has multiple
889  * encodings.
890  */
891 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
892                             uint64_t *number)
893 {
894     int res = ebml_read_num(matroska, pb, 8, number, 1);
895     if (res > 0 && *number + 1 == 1ULL << (7 * res))
896         *number = EBML_UNKNOWN_LENGTH;
897     return res;
898 }
899
900 /*
901  * Read the next element as an unsigned int.
902  * Returns NEEDS_CHECKING.
903  */
904 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
905 {
906     int n = 0;
907
908     /* big-endian ordering; build up number */
909     *num = 0;
910     while (n++ < size)
911         *num = (*num << 8) | avio_r8(pb);
912
913     return NEEDS_CHECKING;
914 }
915
916 /*
917  * Read the next element as a signed int.
918  * Returns NEEDS_CHECKING.
919  */
920 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
921 {
922     int n = 1;
923
924     if (size == 0) {
925         *num = 0;
926     } else {
927         *num = sign_extend(avio_r8(pb), 8);
928
929         /* big-endian ordering; build up number */
930         while (n++ < size)
931             *num = ((uint64_t)*num << 8) | avio_r8(pb);
932     }
933
934     return NEEDS_CHECKING;
935 }
936
937 /*
938  * Read the next element as a float.
939  * Returns NEEDS_CHECKING or < 0 on obvious failure.
940  */
941 static int ebml_read_float(AVIOContext *pb, int size, double *num)
942 {
943     if (size == 0)
944         *num = 0;
945     else if (size == 4)
946         *num = av_int2float(avio_rb32(pb));
947     else if (size == 8)
948         *num = av_int2double(avio_rb64(pb));
949     else
950         return AVERROR_INVALIDDATA;
951
952     return NEEDS_CHECKING;
953 }
954
955 /*
956  * Read the next element as an ASCII string.
957  * 0 is success, < 0 or NEEDS_CHECKING is failure.
958  */
959 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
960 {
961     char *res;
962     int ret;
963
964     /* EBML strings are usually not 0-terminated, so we allocate one
965      * byte more, read the string and NULL-terminate it ourselves. */
966     if (!(res = av_malloc(size + 1)))
967         return AVERROR(ENOMEM);
968     if ((ret = avio_read(pb, (uint8_t *) res, size)) != size) {
969         av_free(res);
970         return ret < 0 ? ret : NEEDS_CHECKING;
971     }
972     (res)[size] = '\0';
973     av_free(*str);
974     *str = res;
975
976     return 0;
977 }
978
979 /*
980  * Read the next element as binary data.
981  * 0 is success, < 0 or NEEDS_CHECKING is failure.
982  */
983 static int ebml_read_binary(AVIOContext *pb, int length, EbmlBin *bin)
984 {
985     int ret;
986
987     ret = av_buffer_realloc(&bin->buf, length + AV_INPUT_BUFFER_PADDING_SIZE);
988     if (ret < 0)
989         return ret;
990     memset(bin->buf->data + length, 0, AV_INPUT_BUFFER_PADDING_SIZE);
991
992     bin->data = bin->buf->data;
993     bin->size = length;
994     bin->pos  = avio_tell(pb);
995     if ((ret = avio_read(pb, bin->data, length)) != length) {
996         av_buffer_unref(&bin->buf);
997         bin->data = NULL;
998         bin->size = 0;
999         return ret < 0 ? ret : NEEDS_CHECKING;
1000     }
1001
1002     return 0;
1003 }
1004
1005 /*
1006  * Read the next element, but only the header. The contents
1007  * are supposed to be sub-elements which can be read separately.
1008  * 0 is success, < 0 is failure.
1009  */
1010 static int ebml_read_master(MatroskaDemuxContext *matroska, uint64_t length)
1011 {
1012     AVIOContext *pb = matroska->ctx->pb;
1013     MatroskaLevel *level;
1014
1015     if (matroska->num_levels >= EBML_MAX_DEPTH) {
1016         av_log(matroska->ctx, AV_LOG_ERROR,
1017                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
1018         return AVERROR(ENOSYS);
1019     }
1020
1021     level         = &matroska->levels[matroska->num_levels++];
1022     level->start  = avio_tell(pb);
1023     level->length = length;
1024
1025     return 0;
1026 }
1027
1028 /*
1029  * Read signed/unsigned "EBML" numbers.
1030  * Return: number of bytes processed, < 0 on error
1031  */
1032 static int matroska_ebmlnum_uint(MatroskaDemuxContext *matroska,
1033                                  uint8_t *data, uint32_t size, uint64_t *num)
1034 {
1035     AVIOContext pb;
1036     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
1037     return ebml_read_num(matroska, &pb, FFMIN(size, 8), num, 1);
1038 }
1039
1040 /*
1041  * Same as above, but signed.
1042  */
1043 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
1044                                  uint8_t *data, uint32_t size, int64_t *num)
1045 {
1046     uint64_t unum;
1047     int res;
1048
1049     /* read as unsigned number first */
1050     if ((res = matroska_ebmlnum_uint(matroska, data, size, &unum)) < 0)
1051         return res;
1052
1053     /* make signed (weird way) */
1054     *num = unum - ((1LL << (7 * res - 1)) - 1);
1055
1056     return res;
1057 }
1058
1059 static int ebml_parse(MatroskaDemuxContext *matroska,
1060                       EbmlSyntax *syntax, void *data);
1061
1062 static EbmlSyntax *ebml_parse_id(EbmlSyntax *syntax, uint32_t id)
1063 {
1064     int i;
1065     for (i = 0; syntax[i].id; i++)
1066         if (id == syntax[i].id)
1067             break;
1068
1069     return &syntax[i];
1070 }
1071
1072 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
1073                            void *data)
1074 {
1075     int i, res = 0;
1076
1077     for (i = 0; syntax[i].id; i++)
1078         switch (syntax[i].type) {
1079         case EBML_SINT:
1080             *(int64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.i;
1081             break;
1082         case EBML_UINT:
1083             *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
1084             break;
1085         case EBML_FLOAT:
1086             *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
1087             break;
1088         case EBML_STR:
1089         case EBML_UTF8:
1090             // the default may be NULL
1091             if (syntax[i].def.s) {
1092                 uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
1093                 *dst = av_strdup(syntax[i].def.s);
1094                 if (!*dst)
1095                     return AVERROR(ENOMEM);
1096             }
1097             break;
1098         }
1099
1100     while (!res && !ebml_level_end(matroska))
1101         res = ebml_parse(matroska, syntax, data);
1102
1103     return res;
1104 }
1105
1106 static int is_ebml_id_valid(uint32_t id)
1107 {
1108     // Due to endian nonsense in Matroska, the highest byte with any bits set
1109     // will contain the leading length bit. This bit in turn identifies the
1110     // total byte length of the element by its position within the byte.
1111     unsigned int bits = av_log2(id);
1112     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1113 }
1114
1115 /*
1116  * Allocate and return the entry for the level1 element with the given ID. If
1117  * an entry already exists, return the existing entry.
1118  */
1119 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1120                                                         uint32_t id)
1121 {
1122     int i;
1123     MatroskaLevel1Element *elem;
1124
1125     if (!is_ebml_id_valid(id))
1126         return NULL;
1127
1128     // Some files link to all clusters; useless.
1129     if (id == MATROSKA_ID_CLUSTER)
1130         return NULL;
1131
1132     // There can be multiple seekheads.
1133     if (id != MATROSKA_ID_SEEKHEAD) {
1134         for (i = 0; i < matroska->num_level1_elems; i++) {
1135             if (matroska->level1_elems[i].id == id)
1136                 return &matroska->level1_elems[i];
1137         }
1138     }
1139
1140     // Only a completely broken file would have more elements.
1141     // It also provides a low-effort way to escape from circular seekheads
1142     // (every iteration will add a level1 entry).
1143     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1144         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements or circular seekheads.\n");
1145         return NULL;
1146     }
1147
1148     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1149     *elem = (MatroskaLevel1Element){.id = id};
1150
1151     return elem;
1152 }
1153
1154 static int ebml_parse(MatroskaDemuxContext *matroska,
1155                       EbmlSyntax *syntax, void *data)
1156 {
1157     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1158         [EBML_UINT]  = 8,
1159         [EBML_SINT]  = 8,
1160         [EBML_FLOAT] = 8,
1161         // max. 16 MB for strings
1162         [EBML_STR]   = 0x1000000,
1163         [EBML_UTF8]  = 0x1000000,
1164         // max. 256 MB for binary data
1165         [EBML_BIN]   = 0x10000000,
1166         // no limits for anything else
1167     };
1168     AVIOContext *pb = matroska->ctx->pb;
1169     uint32_t id;
1170     uint64_t length;
1171     int res;
1172     void *newelem;
1173     MatroskaLevel1Element *level1_elem;
1174
1175     if (!matroska->current_id) {
1176         uint64_t id;
1177         res = ebml_read_num(matroska, pb, 4, &id, 0);
1178         if (res < 0) {
1179             // in live mode, finish parsing if EOF is reached.
1180             return (matroska->is_live && pb->eof_reached &&
1181                     res == AVERROR_EOF) ? 1 : res;
1182         }
1183         matroska->current_id = id | 1 << 7 * res;
1184     }
1185
1186     id = matroska->current_id;
1187
1188     syntax = ebml_parse_id(syntax, id);
1189     if (!syntax->id && id == MATROSKA_ID_CLUSTER &&
1190         matroska->num_levels > 0                 &&
1191         matroska->levels[matroska->num_levels - 1].length == EBML_UNKNOWN_LENGTH)
1192         return 0;  // we reached the end of an unknown size cluster
1193     if (!syntax->id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
1194         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32"\n", id);
1195     }
1196
1197     data = (char *) data + syntax->data_offset;
1198     if (syntax->list_elem_size) {
1199         EbmlList *list = data;
1200         newelem = av_realloc_array(list->elem, list->nb_elem + 1, syntax->list_elem_size);
1201         if (!newelem)
1202             return AVERROR(ENOMEM);
1203         list->elem = newelem;
1204         data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1205         memset(data, 0, syntax->list_elem_size);
1206         list->nb_elem++;
1207     }
1208
1209     if (syntax->type != EBML_STOP) {
1210         matroska->current_id = 0;
1211         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1212             return res;
1213         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1214             av_log(matroska->ctx, AV_LOG_ERROR,
1215                    "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for syntax element %i\n",
1216                    length, max_lengths[syntax->type], syntax->type);
1217             return AVERROR_INVALIDDATA;
1218         }
1219         if (matroska->num_levels > 0) {
1220             MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
1221             AVIOContext *pb = matroska->ctx->pb;
1222             int64_t pos = avio_tell(pb);
1223
1224             if (length != EBML_UNKNOWN_LENGTH &&
1225                 level->length != EBML_UNKNOWN_LENGTH) {
1226                 uint64_t elem_end = pos + length,
1227                         level_end = level->start + level->length;
1228
1229                 if (level_end < elem_end) {
1230                     av_log(matroska->ctx, AV_LOG_ERROR,
1231                            "Element at 0x%"PRIx64" ending at 0x%"PRIx64" exceeds "
1232                            "containing master element ending at 0x%"PRIx64"\n",
1233                            pos, elem_end, level_end);
1234                     return AVERROR_INVALIDDATA;
1235                 }
1236             } else if (level->length != EBML_UNKNOWN_LENGTH) {
1237                 av_log(matroska->ctx, AV_LOG_ERROR, "Unknown-sized element "
1238                        "at 0x%"PRIx64" inside parent with finite size\n", pos);
1239                 return AVERROR_INVALIDDATA;
1240             } else if (length == EBML_UNKNOWN_LENGTH && id != MATROSKA_ID_CLUSTER) {
1241                 // According to the specifications only clusters and segments
1242                 // are allowed to be unknown-sized.
1243                 av_log(matroska->ctx, AV_LOG_ERROR,
1244                        "Found unknown-sized element other than a cluster at "
1245                        "0x%"PRIx64". Dropping the invalid element.\n", pos);
1246                 return AVERROR_INVALIDDATA;
1247             }
1248         }
1249     }
1250
1251     switch (syntax->type) {
1252     case EBML_UINT:
1253         res = ebml_read_uint(pb, length, data);
1254         break;
1255     case EBML_SINT:
1256         res = ebml_read_sint(pb, length, data);
1257         break;
1258     case EBML_FLOAT:
1259         res = ebml_read_float(pb, length, data);
1260         break;
1261     case EBML_STR:
1262     case EBML_UTF8:
1263         res = ebml_read_ascii(pb, length, data);
1264         break;
1265     case EBML_BIN:
1266         res = ebml_read_binary(pb, length, data);
1267         break;
1268     case EBML_LEVEL1:
1269     case EBML_NEST:
1270         if ((res = ebml_read_master(matroska, length)) < 0)
1271             return res;
1272         if (id == MATROSKA_ID_SEGMENT)
1273             matroska->segment_start = avio_tell(matroska->ctx->pb);
1274         if (id == MATROSKA_ID_CUES)
1275             matroska->cues_parsing_deferred = 0;
1276         if (syntax->type == EBML_LEVEL1 &&
1277             (level1_elem = matroska_find_level1_elem(matroska, syntax->id))) {
1278             if (level1_elem->parsed)
1279                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1280             level1_elem->parsed = 1;
1281         }
1282         return ebml_parse_nest(matroska, syntax->def.n, data);
1283     case EBML_STOP:
1284         return 1;
1285     default:
1286         if (length) {
1287             int64_t res2;
1288             if (ffio_limit(pb, length) != length) {
1289                 // ffio_limit emits its own error message,
1290                 // so we don't have to.
1291                 return AVERROR(EIO);
1292             }
1293             if ((res2 = avio_skip(pb, length - 1)) >= 0) {
1294                 // avio_skip might take us past EOF. We check for this
1295                 // by skipping only length - 1 bytes, reading a byte and
1296                 // checking the error flags. This is done in order to check
1297                 // that the element has been properly skipped even when
1298                 // no filesize (that ffio_limit relies on) is available.
1299                 avio_r8(pb);
1300                 res = NEEDS_CHECKING;
1301             } else
1302                 res = res2;
1303         } else
1304             res = 0;
1305     }
1306     if (res) {
1307         if (res == NEEDS_CHECKING) {
1308             if (pb->eof_reached) {
1309                 if (pb->error)
1310                     res = pb->error;
1311                 else
1312                     res = AVERROR_EOF;
1313             } else
1314                 res = 0;
1315         }
1316
1317         if (res == AVERROR_INVALIDDATA)
1318             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1319         else if (res == AVERROR(EIO))
1320             av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1321         else if (res == AVERROR_EOF) {
1322             av_log(matroska->ctx, AV_LOG_ERROR, "File ended prematurely\n");
1323             res = AVERROR(EIO);
1324         }
1325     }
1326     return res;
1327 }
1328
1329 static void ebml_free(EbmlSyntax *syntax, void *data)
1330 {
1331     int i, j;
1332     for (i = 0; syntax[i].id; i++) {
1333         void *data_off = (char *) data + syntax[i].data_offset;
1334         switch (syntax[i].type) {
1335         case EBML_STR:
1336         case EBML_UTF8:
1337             av_freep(data_off);
1338             break;
1339         case EBML_BIN:
1340             av_buffer_unref(&((EbmlBin *) data_off)->buf);
1341             break;
1342         case EBML_LEVEL1:
1343         case EBML_NEST:
1344             if (syntax[i].list_elem_size) {
1345                 EbmlList *list = data_off;
1346                 char *ptr = list->elem;
1347                 for (j = 0; j < list->nb_elem;
1348                      j++, ptr += syntax[i].list_elem_size)
1349                     ebml_free(syntax[i].def.n, ptr);
1350                 av_freep(&list->elem);
1351                 list->nb_elem = 0;
1352             } else
1353                 ebml_free(syntax[i].def.n, data_off);
1354         default:
1355             break;
1356         }
1357     }
1358 }
1359
1360 /*
1361  * Autodetecting...
1362  */
1363 static int matroska_probe(const AVProbeData *p)
1364 {
1365     uint64_t total = 0;
1366     int len_mask = 0x80, size = 1, n = 1, i;
1367
1368     /* EBML header? */
1369     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1370         return 0;
1371
1372     /* length of header */
1373     total = p->buf[4];
1374     while (size <= 8 && !(total & len_mask)) {
1375         size++;
1376         len_mask >>= 1;
1377     }
1378     if (size > 8)
1379         return 0;
1380     total &= (len_mask - 1);
1381     while (n < size)
1382         total = (total << 8) | p->buf[4 + n++];
1383
1384     /* Does the probe data contain the whole header? */
1385     if (p->buf_size < 4 + size + total)
1386         return 0;
1387
1388     /* The header should contain a known document type. For now,
1389      * we don't parse the whole header but simply check for the
1390      * availability of that array of characters inside the header.
1391      * Not fully fool-proof, but good enough. */
1392     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1393         size_t probelen = strlen(matroska_doctypes[i]);
1394         if (total < probelen)
1395             continue;
1396         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1397             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1398                 return AVPROBE_SCORE_MAX;
1399     }
1400
1401     // probably valid EBML header but no recognized doctype
1402     return AVPROBE_SCORE_EXTENSION;
1403 }
1404
1405 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1406                                                  int num)
1407 {
1408     MatroskaTrack *tracks = matroska->tracks.elem;
1409     int i;
1410
1411     for (i = 0; i < matroska->tracks.nb_elem; i++)
1412         if (tracks[i].num == num)
1413             return &tracks[i];
1414
1415     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
1416     return NULL;
1417 }
1418
1419 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1420                                   MatroskaTrack *track)
1421 {
1422     MatroskaTrackEncoding *encodings = track->encodings.elem;
1423     uint8_t *data = *buf;
1424     int isize = *buf_size;
1425     uint8_t *pkt_data = NULL;
1426     uint8_t av_unused *newpktdata;
1427     int pkt_size = isize;
1428     int result = 0;
1429     int olen;
1430
1431     if (pkt_size >= 10000000U)
1432         return AVERROR_INVALIDDATA;
1433
1434     switch (encodings[0].compression.algo) {
1435     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1436     {
1437         int header_size = encodings[0].compression.settings.size;
1438         uint8_t *header = encodings[0].compression.settings.data;
1439
1440         if (header_size && !header) {
1441             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1442             return -1;
1443         }
1444
1445         if (!header_size)
1446             return 0;
1447
1448         pkt_size = isize + header_size;
1449         pkt_data = av_malloc(pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1450         if (!pkt_data)
1451             return AVERROR(ENOMEM);
1452
1453         memcpy(pkt_data, header, header_size);
1454         memcpy(pkt_data + header_size, data, isize);
1455         break;
1456     }
1457 #if CONFIG_LZO
1458     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1459         do {
1460             olen       = pkt_size *= 3;
1461             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING
1462                                                        + AV_INPUT_BUFFER_PADDING_SIZE);
1463             if (!newpktdata) {
1464                 result = AVERROR(ENOMEM);
1465                 goto failed;
1466             }
1467             pkt_data = newpktdata;
1468             result   = av_lzo1x_decode(pkt_data, &olen, data, &isize);
1469         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1470         if (result) {
1471             result = AVERROR_INVALIDDATA;
1472             goto failed;
1473         }
1474         pkt_size -= olen;
1475         break;
1476 #endif
1477 #if CONFIG_ZLIB
1478     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1479     {
1480         z_stream zstream = { 0 };
1481         if (inflateInit(&zstream) != Z_OK)
1482             return -1;
1483         zstream.next_in  = data;
1484         zstream.avail_in = isize;
1485         do {
1486             pkt_size  *= 3;
1487             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1488             if (!newpktdata) {
1489                 inflateEnd(&zstream);
1490                 result = AVERROR(ENOMEM);
1491                 goto failed;
1492             }
1493             pkt_data          = newpktdata;
1494             zstream.avail_out = pkt_size - zstream.total_out;
1495             zstream.next_out  = pkt_data + zstream.total_out;
1496             result = inflate(&zstream, Z_NO_FLUSH);
1497         } while (result == Z_OK && pkt_size < 10000000);
1498         pkt_size = zstream.total_out;
1499         inflateEnd(&zstream);
1500         if (result != Z_STREAM_END) {
1501             if (result == Z_MEM_ERROR)
1502                 result = AVERROR(ENOMEM);
1503             else
1504                 result = AVERROR_INVALIDDATA;
1505             goto failed;
1506         }
1507         break;
1508     }
1509 #endif
1510 #if CONFIG_BZLIB
1511     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1512     {
1513         bz_stream bzstream = { 0 };
1514         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1515             return -1;
1516         bzstream.next_in  = data;
1517         bzstream.avail_in = isize;
1518         do {
1519             pkt_size  *= 3;
1520             newpktdata = av_realloc(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE);
1521             if (!newpktdata) {
1522                 BZ2_bzDecompressEnd(&bzstream);
1523                 result = AVERROR(ENOMEM);
1524                 goto failed;
1525             }
1526             pkt_data           = newpktdata;
1527             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1528             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1529             result = BZ2_bzDecompress(&bzstream);
1530         } while (result == BZ_OK && pkt_size < 10000000);
1531         pkt_size = bzstream.total_out_lo32;
1532         BZ2_bzDecompressEnd(&bzstream);
1533         if (result != BZ_STREAM_END) {
1534             if (result == BZ_MEM_ERROR)
1535                 result = AVERROR(ENOMEM);
1536             else
1537                 result = AVERROR_INVALIDDATA;
1538             goto failed;
1539         }
1540         break;
1541     }
1542 #endif
1543     default:
1544         return AVERROR_INVALIDDATA;
1545     }
1546
1547     memset(pkt_data + pkt_size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1548
1549     *buf      = pkt_data;
1550     *buf_size = pkt_size;
1551     return 0;
1552
1553 failed:
1554     av_free(pkt_data);
1555     return result;
1556 }
1557
1558 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1559                                  AVDictionary **metadata, char *prefix)
1560 {
1561     MatroskaTag *tags = list->elem;
1562     char key[1024];
1563     int i;
1564
1565     for (i = 0; i < list->nb_elem; i++) {
1566         const char *lang = tags[i].lang &&
1567                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1568
1569         if (!tags[i].name) {
1570             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1571             continue;
1572         }
1573         if (prefix)
1574             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1575         else
1576             av_strlcpy(key, tags[i].name, sizeof(key));
1577         if (tags[i].def || !lang) {
1578             av_dict_set(metadata, key, tags[i].string, 0);
1579             if (tags[i].sub.nb_elem)
1580                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1581         }
1582         if (lang) {
1583             av_strlcat(key, "-", sizeof(key));
1584             av_strlcat(key, lang, sizeof(key));
1585             av_dict_set(metadata, key, tags[i].string, 0);
1586             if (tags[i].sub.nb_elem)
1587                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1588         }
1589     }
1590     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1591 }
1592
1593 static void matroska_convert_tags(AVFormatContext *s)
1594 {
1595     MatroskaDemuxContext *matroska = s->priv_data;
1596     MatroskaTags *tags = matroska->tags.elem;
1597     int i, j;
1598
1599     for (i = 0; i < matroska->tags.nb_elem; i++) {
1600         if (tags[i].target.attachuid) {
1601             MatroskaAttachment *attachment = matroska->attachments.elem;
1602             int found = 0;
1603             for (j = 0; j < matroska->attachments.nb_elem; j++) {
1604                 if (attachment[j].uid == tags[i].target.attachuid &&
1605                     attachment[j].stream) {
1606                     matroska_convert_tag(s, &tags[i].tag,
1607                                          &attachment[j].stream->metadata, NULL);
1608                     found = 1;
1609                 }
1610             }
1611             if (!found) {
1612                 av_log(NULL, AV_LOG_WARNING,
1613                        "The tags at index %d refer to a "
1614                        "non-existent attachment %"PRId64".\n",
1615                        i, tags[i].target.attachuid);
1616             }
1617         } else if (tags[i].target.chapteruid) {
1618             MatroskaChapter *chapter = matroska->chapters.elem;
1619             int found = 0;
1620             for (j = 0; j < matroska->chapters.nb_elem; j++) {
1621                 if (chapter[j].uid == tags[i].target.chapteruid &&
1622                     chapter[j].chapter) {
1623                     matroska_convert_tag(s, &tags[i].tag,
1624                                          &chapter[j].chapter->metadata, NULL);
1625                     found = 1;
1626                 }
1627             }
1628             if (!found) {
1629                 av_log(NULL, AV_LOG_WARNING,
1630                        "The tags at index %d refer to a non-existent chapter "
1631                        "%"PRId64".\n",
1632                        i, tags[i].target.chapteruid);
1633             }
1634         } else if (tags[i].target.trackuid) {
1635             MatroskaTrack *track = matroska->tracks.elem;
1636             int found = 0;
1637             for (j = 0; j < matroska->tracks.nb_elem; j++) {
1638                 if (track[j].uid == tags[i].target.trackuid &&
1639                     track[j].stream) {
1640                     matroska_convert_tag(s, &tags[i].tag,
1641                                          &track[j].stream->metadata, NULL);
1642                     found = 1;
1643                }
1644             }
1645             if (!found) {
1646                 av_log(NULL, AV_LOG_WARNING,
1647                        "The tags at index %d refer to a non-existent track "
1648                        "%"PRId64".\n",
1649                        i, tags[i].target.trackuid);
1650             }
1651         } else {
1652             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1653                                  tags[i].target.type);
1654         }
1655     }
1656 }
1657
1658 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1659                                          uint64_t pos)
1660 {
1661     uint32_t saved_id       = matroska->current_id;
1662     int64_t before_pos = avio_tell(matroska->ctx->pb);
1663     MatroskaLevel level;
1664     int64_t offset;
1665     int ret = 0;
1666
1667     /* seek */
1668     offset = pos + matroska->segment_start;
1669     if (avio_seek(matroska->ctx->pb, offset, SEEK_SET) == offset) {
1670         /* We don't want to lose our seekhead level, so we add
1671          * a dummy. This is a crude hack. */
1672         if (matroska->num_levels == EBML_MAX_DEPTH) {
1673             av_log(matroska->ctx, AV_LOG_INFO,
1674                    "Max EBML element depth (%d) reached, "
1675                    "cannot parse further.\n", EBML_MAX_DEPTH);
1676             ret = AVERROR_INVALIDDATA;
1677         } else {
1678             level.start  = 0;
1679             level.length = EBML_UNKNOWN_LENGTH;
1680             matroska->levels[matroska->num_levels] = level;
1681             matroska->num_levels++;
1682             matroska->current_id                   = 0;
1683
1684             ret = ebml_parse(matroska, matroska_segment, matroska);
1685         }
1686     }
1687     /* Seek back - notice that in all instances where this is used it is safe
1688      * to set the level to 1 and unset the position of the current cluster. */
1689     matroska_reset_status(matroska, saved_id, before_pos);
1690
1691     return ret;
1692 }
1693
1694 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1695 {
1696     EbmlList *seekhead_list = &matroska->seekhead;
1697     int i;
1698
1699     // we should not do any seeking in the streaming case
1700     if (!(matroska->ctx->pb->seekable & AVIO_SEEKABLE_NORMAL))
1701         return;
1702
1703     for (i = 0; i < seekhead_list->nb_elem; i++) {
1704         MatroskaSeekhead *seekheads = seekhead_list->elem;
1705         uint32_t id  = seekheads[i].id;
1706         uint64_t pos = seekheads[i].pos;
1707
1708         MatroskaLevel1Element *elem = matroska_find_level1_elem(matroska, id);
1709         if (!elem || elem->parsed)
1710             continue;
1711
1712         elem->pos = pos;
1713
1714         // defer cues parsing until we actually need cue data.
1715         if (id == MATROSKA_ID_CUES)
1716             continue;
1717
1718         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1719             // mark index as broken
1720             matroska->cues_parsing_deferred = -1;
1721             break;
1722         }
1723
1724         elem->parsed = 1;
1725     }
1726 }
1727
1728 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1729 {
1730     EbmlList *index_list;
1731     MatroskaIndex *index;
1732     uint64_t index_scale = 1;
1733     int i, j;
1734
1735     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1736         return;
1737
1738     index_list = &matroska->index;
1739     index      = index_list->elem;
1740     if (index_list->nb_elem < 2)
1741         return;
1742     if (index[1].time > 1E14 / matroska->time_scale) {
1743         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1744         return;
1745     }
1746     for (i = 0; i < index_list->nb_elem; i++) {
1747         EbmlList *pos_list    = &index[i].pos;
1748         MatroskaIndexPos *pos = pos_list->elem;
1749         for (j = 0; j < pos_list->nb_elem; j++) {
1750             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1751                                                               pos[j].track);
1752             if (track && track->stream)
1753                 av_add_index_entry(track->stream,
1754                                    pos[j].pos + matroska->segment_start,
1755                                    index[i].time / index_scale, 0, 0,
1756                                    AVINDEX_KEYFRAME);
1757         }
1758     }
1759 }
1760
1761 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1762     int i;
1763
1764     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1765         return;
1766
1767     for (i = 0; i < matroska->num_level1_elems; i++) {
1768         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1769         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1770             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1771                 matroska->cues_parsing_deferred = -1;
1772             elem->parsed = 1;
1773             break;
1774         }
1775     }
1776
1777     matroska_add_index_entries(matroska);
1778 }
1779
1780 static int matroska_aac_profile(char *codec_id)
1781 {
1782     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1783     int profile;
1784
1785     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1786         if (strstr(codec_id, aac_profiles[profile]))
1787             break;
1788     return profile + 1;
1789 }
1790
1791 static int matroska_aac_sri(int samplerate)
1792 {
1793     int sri;
1794
1795     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1796         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1797             break;
1798     return sri;
1799 }
1800
1801 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1802 {
1803     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1804     avpriv_dict_set_timestamp(metadata, "creation_time", date_utc / 1000 + 978307200000000LL);
1805 }
1806
1807 static int matroska_parse_flac(AVFormatContext *s,
1808                                MatroskaTrack *track,
1809                                int *offset)
1810 {
1811     AVStream *st = track->stream;
1812     uint8_t *p = track->codec_priv.data;
1813     int size   = track->codec_priv.size;
1814
1815     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1816         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1817         track->codec_priv.size = 0;
1818         return 0;
1819     }
1820     *offset = 8;
1821     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1822
1823     p    += track->codec_priv.size;
1824     size -= track->codec_priv.size;
1825
1826     /* parse the remaining metadata blocks if present */
1827     while (size >= 4) {
1828         int block_last, block_type, block_size;
1829
1830         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1831
1832         p    += 4;
1833         size -= 4;
1834         if (block_size > size)
1835             return 0;
1836
1837         /* check for the channel mask */
1838         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
1839             AVDictionary *dict = NULL;
1840             AVDictionaryEntry *chmask;
1841
1842             ff_vorbis_comment(s, &dict, p, block_size, 0);
1843             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
1844             if (chmask) {
1845                 uint64_t mask = strtol(chmask->value, NULL, 0);
1846                 if (!mask || mask & ~0x3ffffULL) {
1847                     av_log(s, AV_LOG_WARNING,
1848                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
1849                 } else
1850                     st->codecpar->channel_layout = mask;
1851             }
1852             av_dict_free(&dict);
1853         }
1854
1855         p    += block_size;
1856         size -= block_size;
1857     }
1858
1859     return 0;
1860 }
1861
1862 static int mkv_field_order(MatroskaDemuxContext *matroska, int64_t field_order)
1863 {
1864     int major, minor, micro, bttb = 0;
1865
1866     /* workaround a bug in our Matroska muxer, introduced in version 57.36 alongside
1867      * this function, and fixed in 57.52 */
1868     if (matroska->muxingapp && sscanf(matroska->muxingapp, "Lavf%d.%d.%d", &major, &minor, &micro) == 3)
1869         bttb = (major == 57 && minor >= 36 && minor <= 51 && micro >= 100);
1870
1871     switch (field_order) {
1872     case MATROSKA_VIDEO_FIELDORDER_PROGRESSIVE:
1873         return AV_FIELD_PROGRESSIVE;
1874     case MATROSKA_VIDEO_FIELDORDER_UNDETERMINED:
1875         return AV_FIELD_UNKNOWN;
1876     case MATROSKA_VIDEO_FIELDORDER_TT:
1877         return AV_FIELD_TT;
1878     case MATROSKA_VIDEO_FIELDORDER_BB:
1879         return AV_FIELD_BB;
1880     case MATROSKA_VIDEO_FIELDORDER_BT:
1881         return bttb ? AV_FIELD_TB : AV_FIELD_BT;
1882     case MATROSKA_VIDEO_FIELDORDER_TB:
1883         return bttb ? AV_FIELD_BT : AV_FIELD_TB;
1884     default:
1885         return AV_FIELD_UNKNOWN;
1886     }
1887 }
1888
1889 static void mkv_stereo_mode_display_mul(int stereo_mode,
1890                                         int *h_width, int *h_height)
1891 {
1892     switch (stereo_mode) {
1893         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
1894         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
1895         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
1896         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
1897         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
1898             break;
1899         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
1900         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
1901         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
1902         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
1903             *h_width = 2;
1904             break;
1905         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
1906         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
1907         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
1908         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
1909             *h_height = 2;
1910             break;
1911     }
1912 }
1913
1914 static int mkv_parse_video_color(AVStream *st, const MatroskaTrack *track) {
1915     const MatroskaTrackVideoColor *color = track->video.color.elem;
1916     const MatroskaMasteringMeta *mastering_meta;
1917     int has_mastering_primaries, has_mastering_luminance;
1918
1919     if (!track->video.color.nb_elem)
1920         return 0;
1921
1922     mastering_meta = &color->mastering_meta;
1923     // Mastering primaries are CIE 1931 coords, and must be > 0.
1924     has_mastering_primaries =
1925         mastering_meta->r_x > 0 && mastering_meta->r_y > 0 &&
1926         mastering_meta->g_x > 0 && mastering_meta->g_y > 0 &&
1927         mastering_meta->b_x > 0 && mastering_meta->b_y > 0 &&
1928         mastering_meta->white_x > 0 && mastering_meta->white_y > 0;
1929     has_mastering_luminance = mastering_meta->max_luminance > 0;
1930
1931     if (color->matrix_coefficients != AVCOL_SPC_RESERVED)
1932         st->codecpar->color_space = color->matrix_coefficients;
1933     if (color->primaries != AVCOL_PRI_RESERVED &&
1934         color->primaries != AVCOL_PRI_RESERVED0)
1935         st->codecpar->color_primaries = color->primaries;
1936     if (color->transfer_characteristics != AVCOL_TRC_RESERVED &&
1937         color->transfer_characteristics != AVCOL_TRC_RESERVED0)
1938         st->codecpar->color_trc = color->transfer_characteristics;
1939     if (color->range != AVCOL_RANGE_UNSPECIFIED &&
1940         color->range <= AVCOL_RANGE_JPEG)
1941         st->codecpar->color_range = color->range;
1942     if (color->chroma_siting_horz != MATROSKA_COLOUR_CHROMASITINGHORZ_UNDETERMINED &&
1943         color->chroma_siting_vert != MATROSKA_COLOUR_CHROMASITINGVERT_UNDETERMINED &&
1944         color->chroma_siting_horz  < MATROSKA_COLOUR_CHROMASITINGHORZ_NB &&
1945         color->chroma_siting_vert  < MATROSKA_COLOUR_CHROMASITINGVERT_NB) {
1946         st->codecpar->chroma_location =
1947             avcodec_chroma_pos_to_enum((color->chroma_siting_horz - 1) << 7,
1948                                        (color->chroma_siting_vert - 1) << 7);
1949     }
1950     if (color->max_cll && color->max_fall) {
1951         size_t size = 0;
1952         int ret;
1953         AVContentLightMetadata *metadata = av_content_light_metadata_alloc(&size);
1954         if (!metadata)
1955             return AVERROR(ENOMEM);
1956         ret = av_stream_add_side_data(st, AV_PKT_DATA_CONTENT_LIGHT_LEVEL,
1957                                       (uint8_t *)metadata, size);
1958         if (ret < 0) {
1959             av_freep(&metadata);
1960             return ret;
1961         }
1962         metadata->MaxCLL  = color->max_cll;
1963         metadata->MaxFALL = color->max_fall;
1964     }
1965
1966     if (has_mastering_primaries || has_mastering_luminance) {
1967         // Use similar rationals as other standards.
1968         const int chroma_den = 50000;
1969         const int luma_den = 10000;
1970         AVMasteringDisplayMetadata *metadata =
1971             (AVMasteringDisplayMetadata*) av_stream_new_side_data(
1972                 st, AV_PKT_DATA_MASTERING_DISPLAY_METADATA,
1973                 sizeof(AVMasteringDisplayMetadata));
1974         if (!metadata) {
1975             return AVERROR(ENOMEM);
1976         }
1977         memset(metadata, 0, sizeof(AVMasteringDisplayMetadata));
1978         if (has_mastering_primaries) {
1979             metadata->display_primaries[0][0] = av_make_q(
1980                 round(mastering_meta->r_x * chroma_den), chroma_den);
1981             metadata->display_primaries[0][1] = av_make_q(
1982                 round(mastering_meta->r_y * chroma_den), chroma_den);
1983             metadata->display_primaries[1][0] = av_make_q(
1984                 round(mastering_meta->g_x * chroma_den), chroma_den);
1985             metadata->display_primaries[1][1] = av_make_q(
1986                 round(mastering_meta->g_y * chroma_den), chroma_den);
1987             metadata->display_primaries[2][0] = av_make_q(
1988                 round(mastering_meta->b_x * chroma_den), chroma_den);
1989             metadata->display_primaries[2][1] = av_make_q(
1990                 round(mastering_meta->b_y * chroma_den), chroma_den);
1991             metadata->white_point[0] = av_make_q(
1992                 round(mastering_meta->white_x * chroma_den), chroma_den);
1993             metadata->white_point[1] = av_make_q(
1994                 round(mastering_meta->white_y * chroma_den), chroma_den);
1995             metadata->has_primaries = 1;
1996         }
1997         if (has_mastering_luminance) {
1998             metadata->max_luminance = av_make_q(
1999                 round(mastering_meta->max_luminance * luma_den), luma_den);
2000             metadata->min_luminance = av_make_q(
2001                 round(mastering_meta->min_luminance * luma_den), luma_den);
2002             metadata->has_luminance = 1;
2003         }
2004     }
2005     return 0;
2006 }
2007
2008 static int mkv_parse_video_projection(AVStream *st, const MatroskaTrack *track) {
2009     AVSphericalMapping *spherical;
2010     enum AVSphericalProjection projection;
2011     size_t spherical_size;
2012     uint32_t l = 0, t = 0, r = 0, b = 0;
2013     uint32_t padding = 0;
2014     int ret;
2015     GetByteContext gb;
2016
2017     bytestream2_init(&gb, track->video.projection.private.data,
2018                      track->video.projection.private.size);
2019
2020     if (bytestream2_get_byte(&gb) != 0) {
2021         av_log(NULL, AV_LOG_WARNING, "Unknown spherical metadata\n");
2022         return 0;
2023     }
2024
2025     bytestream2_skip(&gb, 3); // flags
2026
2027     switch (track->video.projection.type) {
2028     case MATROSKA_VIDEO_PROJECTION_TYPE_EQUIRECTANGULAR:
2029         if (track->video.projection.private.size == 20) {
2030             t = bytestream2_get_be32(&gb);
2031             b = bytestream2_get_be32(&gb);
2032             l = bytestream2_get_be32(&gb);
2033             r = bytestream2_get_be32(&gb);
2034
2035             if (b >= UINT_MAX - t || r >= UINT_MAX - l) {
2036                 av_log(NULL, AV_LOG_ERROR,
2037                        "Invalid bounding rectangle coordinates "
2038                        "%"PRIu32",%"PRIu32",%"PRIu32",%"PRIu32"\n",
2039                        l, t, r, b);
2040                 return AVERROR_INVALIDDATA;
2041             }
2042         } else if (track->video.projection.private.size != 0) {
2043             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2044             return AVERROR_INVALIDDATA;
2045         }
2046
2047         if (l || t || r || b)
2048             projection = AV_SPHERICAL_EQUIRECTANGULAR_TILE;
2049         else
2050             projection = AV_SPHERICAL_EQUIRECTANGULAR;
2051         break;
2052     case MATROSKA_VIDEO_PROJECTION_TYPE_CUBEMAP:
2053         if (track->video.projection.private.size < 4) {
2054             av_log(NULL, AV_LOG_ERROR, "Missing projection private properties\n");
2055             return AVERROR_INVALIDDATA;
2056         } else if (track->video.projection.private.size == 12) {
2057             uint32_t layout = bytestream2_get_be32(&gb);
2058             if (layout) {
2059                 av_log(NULL, AV_LOG_WARNING,
2060                        "Unknown spherical cubemap layout %"PRIu32"\n", layout);
2061                 return 0;
2062             }
2063             projection = AV_SPHERICAL_CUBEMAP;
2064             padding = bytestream2_get_be32(&gb);
2065         } else {
2066             av_log(NULL, AV_LOG_ERROR, "Unknown spherical metadata\n");
2067             return AVERROR_INVALIDDATA;
2068         }
2069         break;
2070     case MATROSKA_VIDEO_PROJECTION_TYPE_RECTANGULAR:
2071         /* No Spherical metadata */
2072         return 0;
2073     default:
2074         av_log(NULL, AV_LOG_WARNING,
2075                "Unknown spherical metadata type %"PRIu64"\n",
2076                track->video.projection.type);
2077         return 0;
2078     }
2079
2080     spherical = av_spherical_alloc(&spherical_size);
2081     if (!spherical)
2082         return AVERROR(ENOMEM);
2083
2084     spherical->projection = projection;
2085
2086     spherical->yaw   = (int32_t) (track->video.projection.yaw   * (1 << 16));
2087     spherical->pitch = (int32_t) (track->video.projection.pitch * (1 << 16));
2088     spherical->roll  = (int32_t) (track->video.projection.roll  * (1 << 16));
2089
2090     spherical->padding = padding;
2091
2092     spherical->bound_left   = l;
2093     spherical->bound_top    = t;
2094     spherical->bound_right  = r;
2095     spherical->bound_bottom = b;
2096
2097     ret = av_stream_add_side_data(st, AV_PKT_DATA_SPHERICAL, (uint8_t *)spherical,
2098                                   spherical_size);
2099     if (ret < 0) {
2100         av_freep(&spherical);
2101         return ret;
2102     }
2103
2104     return 0;
2105 }
2106
2107 static int get_qt_codec(MatroskaTrack *track, uint32_t *fourcc, enum AVCodecID *codec_id)
2108 {
2109     const AVCodecTag *codec_tags;
2110
2111     codec_tags = track->type == MATROSKA_TRACK_TYPE_VIDEO ?
2112             ff_codec_movvideo_tags : ff_codec_movaudio_tags;
2113
2114     /* Normalize noncompliant private data that starts with the fourcc
2115      * by expanding/shifting the data by 4 bytes and storing the data
2116      * size at the start. */
2117     if (ff_codec_get_id(codec_tags, AV_RL32(track->codec_priv.data))) {
2118         int ret = av_buffer_realloc(&track->codec_priv.buf,
2119                                     track->codec_priv.size + 4 + AV_INPUT_BUFFER_PADDING_SIZE);
2120         if (ret < 0)
2121             return ret;
2122
2123         track->codec_priv.data = track->codec_priv.buf->data;
2124         memmove(track->codec_priv.data + 4, track->codec_priv.data, track->codec_priv.size);
2125         track->codec_priv.size += 4;
2126         AV_WB32(track->codec_priv.data, track->codec_priv.size);
2127     }
2128
2129     *fourcc = AV_RL32(track->codec_priv.data + 4);
2130     *codec_id = ff_codec_get_id(codec_tags, *fourcc);
2131
2132     return 0;
2133 }
2134
2135 static int matroska_parse_tracks(AVFormatContext *s)
2136 {
2137     MatroskaDemuxContext *matroska = s->priv_data;
2138     MatroskaTrack *tracks = matroska->tracks.elem;
2139     AVStream *st;
2140     int i, j, ret;
2141     int k;
2142
2143     for (i = 0; i < matroska->tracks.nb_elem; i++) {
2144         MatroskaTrack *track = &tracks[i];
2145         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
2146         EbmlList *encodings_list = &track->encodings;
2147         MatroskaTrackEncoding *encodings = encodings_list->elem;
2148         uint8_t *extradata = NULL;
2149         int extradata_size = 0;
2150         int extradata_offset = 0;
2151         uint32_t fourcc = 0;
2152         AVIOContext b;
2153         char* key_id_base64 = NULL;
2154         int bit_depth = -1;
2155
2156         /* Apply some sanity checks. */
2157         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
2158             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
2159             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
2160             track->type != MATROSKA_TRACK_TYPE_METADATA) {
2161             av_log(matroska->ctx, AV_LOG_INFO,
2162                    "Unknown or unsupported track type %"PRIu64"\n",
2163                    track->type);
2164             continue;
2165         }
2166         if (!track->codec_id)
2167             continue;
2168
2169         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
2170             isnan(track->audio.samplerate)) {
2171             av_log(matroska->ctx, AV_LOG_WARNING,
2172                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
2173                    track->audio.samplerate);
2174             track->audio.samplerate = 8000;
2175         }
2176
2177         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2178             if (!track->default_duration && track->video.frame_rate > 0) {
2179                 double default_duration = 1000000000 / track->video.frame_rate;
2180                 if (default_duration > UINT64_MAX || default_duration < 0) {
2181                     av_log(matroska->ctx, AV_LOG_WARNING,
2182                          "Invalid frame rate %e. Cannot calculate default duration.\n",
2183                          track->video.frame_rate);
2184                 } else {
2185                     track->default_duration = default_duration;
2186                 }
2187             }
2188             if (track->video.display_width == -1)
2189                 track->video.display_width = track->video.pixel_width;
2190             if (track->video.display_height == -1)
2191                 track->video.display_height = track->video.pixel_height;
2192             if (track->video.color_space.size == 4)
2193                 fourcc = AV_RL32(track->video.color_space.data);
2194         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2195             if (!track->audio.out_samplerate)
2196                 track->audio.out_samplerate = track->audio.samplerate;
2197         }
2198         if (encodings_list->nb_elem > 1) {
2199             av_log(matroska->ctx, AV_LOG_ERROR,
2200                    "Multiple combined encodings not supported");
2201         } else if (encodings_list->nb_elem == 1) {
2202             if (encodings[0].type) {
2203                 if (encodings[0].encryption.key_id.size > 0) {
2204                     /* Save the encryption key id to be stored later as a
2205                        metadata tag. */
2206                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
2207                     key_id_base64 = av_malloc(b64_size);
2208                     if (key_id_base64 == NULL)
2209                         return AVERROR(ENOMEM);
2210
2211                     av_base64_encode(key_id_base64, b64_size,
2212                                      encodings[0].encryption.key_id.data,
2213                                      encodings[0].encryption.key_id.size);
2214                 } else {
2215                     encodings[0].scope = 0;
2216                     av_log(matroska->ctx, AV_LOG_ERROR,
2217                            "Unsupported encoding type");
2218                 }
2219             } else if (
2220 #if CONFIG_ZLIB
2221                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
2222 #endif
2223 #if CONFIG_BZLIB
2224                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
2225 #endif
2226 #if CONFIG_LZO
2227                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
2228 #endif
2229                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
2230                 encodings[0].scope = 0;
2231                 av_log(matroska->ctx, AV_LOG_ERROR,
2232                        "Unsupported encoding type");
2233             } else if (track->codec_priv.size && encodings[0].scope & 2) {
2234                 uint8_t *codec_priv = track->codec_priv.data;
2235                 int ret = matroska_decode_buffer(&track->codec_priv.data,
2236                                                  &track->codec_priv.size,
2237                                                  track);
2238                 if (ret < 0) {
2239                     track->codec_priv.data = NULL;
2240                     track->codec_priv.size = 0;
2241                     av_log(matroska->ctx, AV_LOG_ERROR,
2242                            "Failed to decode codec private data\n");
2243                 }
2244
2245                 if (codec_priv != track->codec_priv.data) {
2246                     av_buffer_unref(&track->codec_priv.buf);
2247                     if (track->codec_priv.data) {
2248                         track->codec_priv.buf = av_buffer_create(track->codec_priv.data,
2249                                                                  track->codec_priv.size + AV_INPUT_BUFFER_PADDING_SIZE,
2250                                                                  NULL, NULL, 0);
2251                         if (!track->codec_priv.buf) {
2252                             av_freep(&track->codec_priv.data);
2253                             track->codec_priv.size = 0;
2254                             return AVERROR(ENOMEM);
2255                         }
2256                     }
2257                 }
2258             }
2259         }
2260
2261         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
2262             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
2263                          strlen(ff_mkv_codec_tags[j].str))) {
2264                 codec_id = ff_mkv_codec_tags[j].id;
2265                 break;
2266             }
2267         }
2268
2269         st = track->stream = avformat_new_stream(s, NULL);
2270         if (!st) {
2271             av_free(key_id_base64);
2272             return AVERROR(ENOMEM);
2273         }
2274
2275         if (key_id_base64) {
2276             /* export encryption key id as base64 metadata tag */
2277             av_dict_set(&st->metadata, "enc_key_id", key_id_base64, 0);
2278             av_freep(&key_id_base64);
2279         }
2280
2281         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
2282              track->codec_priv.size >= 40               &&
2283             track->codec_priv.data) {
2284             track->ms_compat    = 1;
2285             bit_depth           = AV_RL16(track->codec_priv.data + 14);
2286             fourcc              = AV_RL32(track->codec_priv.data + 16);
2287             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
2288                                                   fourcc);
2289             if (!codec_id)
2290                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
2291                                                   fourcc);
2292             extradata_offset    = 40;
2293         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
2294                    track->codec_priv.size >= 14         &&
2295                    track->codec_priv.data) {
2296             int ret;
2297             ffio_init_context(&b, track->codec_priv.data,
2298                               track->codec_priv.size,
2299                               0, NULL, NULL, NULL, NULL);
2300             ret = ff_get_wav_header(s, &b, st->codecpar, track->codec_priv.size, 0);
2301             if (ret < 0)
2302                 return ret;
2303             codec_id         = st->codecpar->codec_id;
2304             fourcc           = st->codecpar->codec_tag;
2305             extradata_offset = FFMIN(track->codec_priv.size, 18);
2306         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
2307                    /* Normally 36, but allow noncompliant private data */
2308                    && (track->codec_priv.size >= 32)
2309                    && (track->codec_priv.data)) {
2310             uint16_t sample_size;
2311             int ret = get_qt_codec(track, &fourcc, &codec_id);
2312             if (ret < 0)
2313                 return ret;
2314             sample_size = AV_RB16(track->codec_priv.data + 26);
2315             if (fourcc == 0) {
2316                 if (sample_size == 8) {
2317                     fourcc = MKTAG('r','a','w',' ');
2318                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2319                 } else if (sample_size == 16) {
2320                     fourcc = MKTAG('t','w','o','s');
2321                     codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
2322                 }
2323             }
2324             if ((fourcc == MKTAG('t','w','o','s') ||
2325                     fourcc == MKTAG('s','o','w','t')) &&
2326                     sample_size == 8)
2327                 codec_id = AV_CODEC_ID_PCM_S8;
2328         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
2329                    (track->codec_priv.size >= 21)          &&
2330                    (track->codec_priv.data)) {
2331             int ret = get_qt_codec(track, &fourcc, &codec_id);
2332             if (ret < 0)
2333                 return ret;
2334             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI ")) {
2335                 fourcc = MKTAG('S','V','Q','3');
2336                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
2337             }
2338             if (codec_id == AV_CODEC_ID_NONE)
2339                 av_log(matroska->ctx, AV_LOG_ERROR,
2340                        "mov FourCC not found %s.\n", av_fourcc2str(fourcc));
2341             if (track->codec_priv.size >= 86) {
2342                 bit_depth = AV_RB16(track->codec_priv.data + 82);
2343                 ffio_init_context(&b, track->codec_priv.data,
2344                                   track->codec_priv.size,
2345                                   0, NULL, NULL, NULL, NULL);
2346                 if (ff_get_qtpalette(codec_id, &b, track->palette)) {
2347                     bit_depth &= 0x1F;
2348                     track->has_palette = 1;
2349                 }
2350             }
2351         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
2352             switch (track->audio.bitdepth) {
2353             case  8:
2354                 codec_id = AV_CODEC_ID_PCM_U8;
2355                 break;
2356             case 24:
2357                 codec_id = AV_CODEC_ID_PCM_S24BE;
2358                 break;
2359             case 32:
2360                 codec_id = AV_CODEC_ID_PCM_S32BE;
2361                 break;
2362             }
2363         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
2364             switch (track->audio.bitdepth) {
2365             case  8:
2366                 codec_id = AV_CODEC_ID_PCM_U8;
2367                 break;
2368             case 24:
2369                 codec_id = AV_CODEC_ID_PCM_S24LE;
2370                 break;
2371             case 32:
2372                 codec_id = AV_CODEC_ID_PCM_S32LE;
2373                 break;
2374             }
2375         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
2376                    track->audio.bitdepth == 64) {
2377             codec_id = AV_CODEC_ID_PCM_F64LE;
2378         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
2379             int profile = matroska_aac_profile(track->codec_id);
2380             int sri     = matroska_aac_sri(track->audio.samplerate);
2381             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
2382             if (!extradata)
2383                 return AVERROR(ENOMEM);
2384             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
2385             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
2386             if (strstr(track->codec_id, "SBR")) {
2387                 sri            = matroska_aac_sri(track->audio.out_samplerate);
2388                 extradata[2]   = 0x56;
2389                 extradata[3]   = 0xE5;
2390                 extradata[4]   = 0x80 | (sri << 3);
2391                 extradata_size = 5;
2392             } else
2393                 extradata_size = 2;
2394         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
2395             /* Only ALAC's magic cookie is stored in Matroska's track headers.
2396              * Create the "atom size", "tag", and "tag version" fields the
2397              * decoder expects manually. */
2398             extradata_size = 12 + track->codec_priv.size;
2399             extradata      = av_mallocz(extradata_size +
2400                                         AV_INPUT_BUFFER_PADDING_SIZE);
2401             if (!extradata)
2402                 return AVERROR(ENOMEM);
2403             AV_WB32(extradata, extradata_size);
2404             memcpy(&extradata[4], "alac", 4);
2405             AV_WB32(&extradata[8], 0);
2406             memcpy(&extradata[12], track->codec_priv.data,
2407                    track->codec_priv.size);
2408         } else if (codec_id == AV_CODEC_ID_TTA) {
2409             extradata_size = 30;
2410             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
2411             if (!extradata)
2412                 return AVERROR(ENOMEM);
2413             ffio_init_context(&b, extradata, extradata_size, 1,
2414                               NULL, NULL, NULL, NULL);
2415             avio_write(&b, "TTA1", 4);
2416             avio_wl16(&b, 1);
2417             if (track->audio.channels > UINT16_MAX ||
2418                 track->audio.bitdepth > UINT16_MAX) {
2419                 av_log(matroska->ctx, AV_LOG_WARNING,
2420                        "Too large audio channel number %"PRIu64
2421                        " or bitdepth %"PRIu64". Skipping track.\n",
2422                        track->audio.channels, track->audio.bitdepth);
2423                 av_freep(&extradata);
2424                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
2425                     return AVERROR_INVALIDDATA;
2426                 else
2427                     continue;
2428             }
2429             avio_wl16(&b, track->audio.channels);
2430             avio_wl16(&b, track->audio.bitdepth);
2431             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
2432                 return AVERROR_INVALIDDATA;
2433             avio_wl32(&b, track->audio.out_samplerate);
2434             avio_wl32(&b, av_rescale((matroska->duration * matroska->time_scale),
2435                                      track->audio.out_samplerate,
2436                                      AV_TIME_BASE * 1000));
2437         } else if (codec_id == AV_CODEC_ID_RV10 ||
2438                    codec_id == AV_CODEC_ID_RV20 ||
2439                    codec_id == AV_CODEC_ID_RV30 ||
2440                    codec_id == AV_CODEC_ID_RV40) {
2441             extradata_offset = 26;
2442         } else if (codec_id == AV_CODEC_ID_RA_144) {
2443             track->audio.out_samplerate = 8000;
2444             track->audio.channels       = 1;
2445         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
2446                     codec_id == AV_CODEC_ID_COOK   ||
2447                     codec_id == AV_CODEC_ID_ATRAC3 ||
2448                     codec_id == AV_CODEC_ID_SIPR)
2449                       && track->codec_priv.data) {
2450             int flavor;
2451
2452             ffio_init_context(&b, track->codec_priv.data,
2453                               track->codec_priv.size,
2454                               0, NULL, NULL, NULL, NULL);
2455             avio_skip(&b, 22);
2456             flavor                       = avio_rb16(&b);
2457             track->audio.coded_framesize = avio_rb32(&b);
2458             avio_skip(&b, 12);
2459             track->audio.sub_packet_h    = avio_rb16(&b);
2460             track->audio.frame_size      = avio_rb16(&b);
2461             track->audio.sub_packet_size = avio_rb16(&b);
2462             if (flavor                        < 0 ||
2463                 track->audio.coded_framesize <= 0 ||
2464                 track->audio.sub_packet_h    <= 0 ||
2465                 track->audio.frame_size      <= 0 ||
2466                 track->audio.sub_packet_size <= 0 && codec_id != AV_CODEC_ID_SIPR)
2467                 return AVERROR_INVALIDDATA;
2468             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
2469                                                track->audio.frame_size);
2470             if (!track->audio.buf)
2471                 return AVERROR(ENOMEM);
2472             if (codec_id == AV_CODEC_ID_RA_288) {
2473                 st->codecpar->block_align = track->audio.coded_framesize;
2474                 track->codec_priv.size = 0;
2475             } else {
2476                 if (codec_id == AV_CODEC_ID_SIPR && flavor < 4) {
2477                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
2478                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
2479                     st->codecpar->bit_rate          = sipr_bit_rate[flavor];
2480                 }
2481                 st->codecpar->block_align = track->audio.sub_packet_size;
2482                 extradata_offset       = 78;
2483             }
2484         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
2485             ret = matroska_parse_flac(s, track, &extradata_offset);
2486             if (ret < 0)
2487                 return ret;
2488         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
2489             fourcc = AV_RL32(track->codec_priv.data);
2490         } else if (codec_id == AV_CODEC_ID_VP9 && track->codec_priv.size) {
2491             /* we don't need any value stored in CodecPrivate.
2492                make sure that it's not exported as extradata. */
2493             track->codec_priv.size = 0;
2494         } else if (codec_id == AV_CODEC_ID_AV1 && track->codec_priv.size) {
2495             /* For now, propagate only the OBUs, if any. Once libavcodec is
2496                updated to handle isobmff style extradata this can be removed. */
2497             extradata_offset = 4;
2498         }
2499         track->codec_priv.size -= extradata_offset;
2500
2501         if (codec_id == AV_CODEC_ID_NONE)
2502             av_log(matroska->ctx, AV_LOG_INFO,
2503                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
2504
2505         if (track->time_scale < 0.01)
2506             track->time_scale = 1.0;
2507         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2508                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2509
2510         /* convert the delay from ns to the track timebase */
2511         track->codec_delay_in_track_tb = av_rescale_q(track->codec_delay,
2512                                           (AVRational){ 1, 1000000000 },
2513                                           st->time_base);
2514
2515         st->codecpar->codec_id = codec_id;
2516
2517         if (strcmp(track->language, "und"))
2518             av_dict_set(&st->metadata, "language", track->language, 0);
2519         av_dict_set(&st->metadata, "title", track->name, 0);
2520
2521         if (track->flag_default)
2522             st->disposition |= AV_DISPOSITION_DEFAULT;
2523         if (track->flag_forced)
2524             st->disposition |= AV_DISPOSITION_FORCED;
2525
2526         if (!st->codecpar->extradata) {
2527             if (extradata) {
2528                 st->codecpar->extradata      = extradata;
2529                 st->codecpar->extradata_size = extradata_size;
2530             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2531                 if (ff_alloc_extradata(st->codecpar, track->codec_priv.size))
2532                     return AVERROR(ENOMEM);
2533                 memcpy(st->codecpar->extradata,
2534                        track->codec_priv.data + extradata_offset,
2535                        track->codec_priv.size);
2536             }
2537         }
2538
2539         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2540             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2541             int display_width_mul  = 1;
2542             int display_height_mul = 1;
2543
2544             st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2545             st->codecpar->codec_tag  = fourcc;
2546             if (bit_depth >= 0)
2547                 st->codecpar->bits_per_coded_sample = bit_depth;
2548             st->codecpar->width      = track->video.pixel_width;
2549             st->codecpar->height     = track->video.pixel_height;
2550
2551             if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_INTERLACED)
2552                 st->codecpar->field_order = mkv_field_order(matroska, track->video.field_order);
2553             else if (track->video.interlaced == MATROSKA_VIDEO_INTERLACE_FLAG_PROGRESSIVE)
2554                 st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2555
2556             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2557                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2558
2559             if (track->video.display_unit < MATROSKA_VIDEO_DISPLAYUNIT_UNKNOWN) {
2560                 av_reduce(&st->sample_aspect_ratio.num,
2561                           &st->sample_aspect_ratio.den,
2562                           st->codecpar->height * track->video.display_width  * display_width_mul,
2563                           st->codecpar->width  * track->video.display_height * display_height_mul,
2564                           255);
2565             }
2566             if (st->codecpar->codec_id != AV_CODEC_ID_HEVC)
2567                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2568
2569             if (track->default_duration) {
2570                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2571                           1000000000, track->default_duration, 30000);
2572 #if FF_API_R_FRAME_RATE
2573                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2574                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2575                     st->r_frame_rate = st->avg_frame_rate;
2576 #endif
2577             }
2578
2579             /* export stereo mode flag as metadata tag */
2580             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2581                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2582
2583             /* export alpha mode flag as metadata tag  */
2584             if (track->video.alpha_mode)
2585                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2586
2587             /* if we have virtual track, mark the real tracks */
2588             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2589                 char buf[32];
2590                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2591                     continue;
2592                 snprintf(buf, sizeof(buf), "%s_%d",
2593                          ff_matroska_video_stereo_plane[planes[j].type], i);
2594                 for (k=0; k < matroska->tracks.nb_elem; k++)
2595                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2596                         av_dict_set(&tracks[k].stream->metadata,
2597                                     "stereo_mode", buf, 0);
2598                         break;
2599                     }
2600             }
2601             // add stream level stereo3d side data if it is a supported format
2602             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2603                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2604                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2605                 if (ret < 0)
2606                     return ret;
2607             }
2608
2609             ret = mkv_parse_video_color(st, track);
2610             if (ret < 0)
2611                 return ret;
2612             ret = mkv_parse_video_projection(st, track);
2613             if (ret < 0)
2614                 return ret;
2615         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2616             st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
2617             st->codecpar->codec_tag   = fourcc;
2618             st->codecpar->sample_rate = track->audio.out_samplerate;
2619             st->codecpar->channels    = track->audio.channels;
2620             if (!st->codecpar->bits_per_coded_sample)
2621                 st->codecpar->bits_per_coded_sample = track->audio.bitdepth;
2622             if (st->codecpar->codec_id == AV_CODEC_ID_MP3 ||
2623                 st->codecpar->codec_id == AV_CODEC_ID_MLP ||
2624                 st->codecpar->codec_id == AV_CODEC_ID_TRUEHD)
2625                 st->need_parsing = AVSTREAM_PARSE_FULL;
2626             else if (st->codecpar->codec_id != AV_CODEC_ID_AAC)
2627                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2628             if (track->codec_delay > 0) {
2629                 st->codecpar->initial_padding = av_rescale_q(track->codec_delay,
2630                                                              (AVRational){1, 1000000000},
2631                                                              (AVRational){1, st->codecpar->codec_id == AV_CODEC_ID_OPUS ?
2632                                                                              48000 : st->codecpar->sample_rate});
2633             }
2634             if (track->seek_preroll > 0) {
2635                 st->codecpar->seek_preroll = av_rescale_q(track->seek_preroll,
2636                                                           (AVRational){1, 1000000000},
2637                                                           (AVRational){1, st->codecpar->sample_rate});
2638             }
2639         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2640             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2641
2642             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2643                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2644             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2645                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2646             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2647                 st->disposition |= AV_DISPOSITION_METADATA;
2648             }
2649         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2650             st->codecpar->codec_type = AVMEDIA_TYPE_SUBTITLE;
2651         }
2652     }
2653
2654     return 0;
2655 }
2656
2657 static int matroska_read_header(AVFormatContext *s)
2658 {
2659     MatroskaDemuxContext *matroska = s->priv_data;
2660     EbmlList *attachments_list = &matroska->attachments;
2661     EbmlList *chapters_list    = &matroska->chapters;
2662     MatroskaAttachment *attachments;
2663     MatroskaChapter *chapters;
2664     uint64_t max_start = 0;
2665     int64_t pos;
2666     Ebml ebml = { 0 };
2667     int i, j, res;
2668
2669     matroska->ctx = s;
2670     matroska->cues_parsing_deferred = 1;
2671
2672     /* First read the EBML header. */
2673     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2674         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2675         ebml_free(ebml_syntax, &ebml);
2676         return AVERROR_INVALIDDATA;
2677     }
2678     if (ebml.version         > EBML_VERSION      ||
2679         ebml.max_size        > sizeof(uint64_t)  ||
2680         ebml.id_length       > sizeof(uint32_t)  ||
2681         ebml.doctype_version > 3) {
2682         avpriv_report_missing_feature(matroska->ctx,
2683                                       "EBML version %"PRIu64", doctype %s, doc version %"PRIu64,
2684                                       ebml.version, ebml.doctype, ebml.doctype_version);
2685         ebml_free(ebml_syntax, &ebml);
2686         return AVERROR_PATCHWELCOME;
2687     } else if (ebml.doctype_version == 3) {
2688         av_log(matroska->ctx, AV_LOG_WARNING,
2689                "EBML header using unsupported features\n"
2690                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2691                ebml.version, ebml.doctype, ebml.doctype_version);
2692     }
2693     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2694         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2695             break;
2696     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2697         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2698         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2699             ebml_free(ebml_syntax, &ebml);
2700             return AVERROR_INVALIDDATA;
2701         }
2702     }
2703     ebml_free(ebml_syntax, &ebml);
2704
2705     /* The next thing is a segment. */
2706     pos = avio_tell(matroska->ctx->pb);
2707     res = ebml_parse(matroska, matroska_segments, matroska);
2708     // try resyncing until we find a EBML_STOP type element.
2709     while (res != 1) {
2710         res = matroska_resync(matroska, pos);
2711         if (res < 0)
2712             goto fail;
2713         pos = avio_tell(matroska->ctx->pb);
2714         res = ebml_parse(matroska, matroska_segment, matroska);
2715     }
2716     /* Set data_offset as it might be needed later by seek_frame_generic. */
2717     if (matroska->current_id == MATROSKA_ID_CLUSTER)
2718         s->internal->data_offset = avio_tell(matroska->ctx->pb) - 4;
2719     matroska_execute_seekhead(matroska);
2720
2721     if (!matroska->time_scale)
2722         matroska->time_scale = 1000000;
2723     if (matroska->duration)
2724         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2725                                   1000 / AV_TIME_BASE;
2726     av_dict_set(&s->metadata, "title", matroska->title, 0);
2727     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2728
2729     if (matroska->date_utc.size == 8)
2730         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2731
2732     res = matroska_parse_tracks(s);
2733     if (res < 0)
2734         goto fail;
2735
2736     attachments = attachments_list->elem;
2737     for (j = 0; j < attachments_list->nb_elem; j++) {
2738         if (!(attachments[j].filename && attachments[j].mime &&
2739               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2740             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2741         } else {
2742             AVStream *st = avformat_new_stream(s, NULL);
2743             if (!st)
2744                 break;
2745             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2746             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2747             st->codecpar->codec_id   = AV_CODEC_ID_NONE;
2748
2749             for (i = 0; ff_mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2750                 if (!strncmp(ff_mkv_image_mime_tags[i].str, attachments[j].mime,
2751                              strlen(ff_mkv_image_mime_tags[i].str))) {
2752                     st->codecpar->codec_id = ff_mkv_image_mime_tags[i].id;
2753                     break;
2754                 }
2755             }
2756
2757             attachments[j].stream = st;
2758
2759             if (st->codecpar->codec_id != AV_CODEC_ID_NONE) {
2760                 AVPacket *pkt = &st->attached_pic;
2761
2762                 st->disposition         |= AV_DISPOSITION_ATTACHED_PIC;
2763                 st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
2764
2765                 av_init_packet(pkt);
2766                 pkt->buf = av_buffer_ref(attachments[j].bin.buf);
2767                 if (!pkt->buf)
2768                     return AVERROR(ENOMEM);
2769                 pkt->data         = attachments[j].bin.data;
2770                 pkt->size         = attachments[j].bin.size;
2771                 pkt->stream_index = st->index;
2772                 pkt->flags       |= AV_PKT_FLAG_KEY;
2773             } else {
2774                 st->codecpar->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2775                 if (ff_alloc_extradata(st->codecpar, attachments[j].bin.size))
2776                     break;
2777                 memcpy(st->codecpar->extradata, attachments[j].bin.data,
2778                        attachments[j].bin.size);
2779
2780                 for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2781                     if (!strncmp(ff_mkv_mime_tags[i].str, attachments[j].mime,
2782                                 strlen(ff_mkv_mime_tags[i].str))) {
2783                         st->codecpar->codec_id = ff_mkv_mime_tags[i].id;
2784                         break;
2785                     }
2786                 }
2787             }
2788         }
2789     }
2790
2791     chapters = chapters_list->elem;
2792     for (i = 0; i < chapters_list->nb_elem; i++)
2793         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2794             (max_start == 0 || chapters[i].start > max_start)) {
2795             chapters[i].chapter =
2796                 avpriv_new_chapter(s, chapters[i].uid,
2797                                    (AVRational) { 1, 1000000000 },
2798                                    chapters[i].start, chapters[i].end,
2799                                    chapters[i].title);
2800             if (chapters[i].chapter) {
2801                 av_dict_set(&chapters[i].chapter->metadata,
2802                             "title", chapters[i].title, 0);
2803             }
2804             max_start = chapters[i].start;
2805         }
2806
2807     matroska_add_index_entries(matroska);
2808
2809     matroska_convert_tags(s);
2810
2811     return 0;
2812 fail:
2813     matroska_read_close(s);
2814     return res;
2815 }
2816
2817 /*
2818  * Put one packet in an application-supplied AVPacket struct.
2819  * Returns 0 on success or -1 on failure.
2820  */
2821 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2822                                    AVPacket *pkt)
2823 {
2824     if (matroska->queue) {
2825         MatroskaTrack *tracks = matroska->tracks.elem;
2826         MatroskaTrack *track;
2827
2828         ff_packet_list_get(&matroska->queue, &matroska->queue_end, pkt);
2829         track = &tracks[pkt->stream_index];
2830         if (track->has_palette) {
2831             uint8_t *pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
2832             if (!pal) {
2833                 av_log(matroska->ctx, AV_LOG_ERROR, "Cannot append palette to packet\n");
2834             } else {
2835                 memcpy(pal, track->palette, AVPALETTE_SIZE);
2836             }
2837             track->has_palette = 0;
2838         }
2839         return 0;
2840     }
2841
2842     return -1;
2843 }
2844
2845 /*
2846  * Free all packets in our internal queue.
2847  */
2848 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
2849 {
2850     ff_packet_list_free(&matroska->queue, &matroska->queue_end);
2851 }
2852
2853 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
2854                                 int *buf_size, int type,
2855                                 uint32_t **lace_buf, int *laces)
2856 {
2857     int res = 0, n, size = *buf_size;
2858     uint8_t *data = *buf;
2859     uint32_t *lace_size;
2860
2861     if (!type) {
2862         *laces    = 1;
2863         *lace_buf = av_malloc(sizeof(**lace_buf));
2864         if (!*lace_buf)
2865             return AVERROR(ENOMEM);
2866
2867         *lace_buf[0] = size;
2868         return 0;
2869     }
2870
2871     av_assert0(size > 0);
2872     *laces    = *data + 1;
2873     data     += 1;
2874     size     -= 1;
2875     lace_size = av_malloc_array(*laces, sizeof(*lace_size));
2876     if (!lace_size)
2877         return AVERROR(ENOMEM);
2878
2879     switch (type) {
2880     case 0x1: /* Xiph lacing */
2881     {
2882         uint8_t temp;
2883         uint32_t total = 0;
2884         for (n = 0; res == 0 && n < *laces - 1; n++) {
2885             lace_size[n] = 0;
2886
2887             while (1) {
2888                 if (size <= total) {
2889                     res = AVERROR_INVALIDDATA;
2890                     break;
2891                 }
2892                 temp          = *data;
2893                 total        += temp;
2894                 lace_size[n] += temp;
2895                 data         += 1;
2896                 size         -= 1;
2897                 if (temp != 0xff)
2898                     break;
2899             }
2900         }
2901         if (size <= total) {
2902             res = AVERROR_INVALIDDATA;
2903             break;
2904         }
2905
2906         lace_size[n] = size - total;
2907         break;
2908     }
2909
2910     case 0x2: /* fixed-size lacing */
2911         if (size % (*laces)) {
2912             res = AVERROR_INVALIDDATA;
2913             break;
2914         }
2915         for (n = 0; n < *laces; n++)
2916             lace_size[n] = size / *laces;
2917         break;
2918
2919     case 0x3: /* EBML lacing */
2920     {
2921         uint64_t num;
2922         uint64_t total;
2923         n = matroska_ebmlnum_uint(matroska, data, size, &num);
2924         if (n < 0 || num > INT_MAX) {
2925             av_log(matroska->ctx, AV_LOG_INFO,
2926                    "EBML block data error\n");
2927             res = n<0 ? n : AVERROR_INVALIDDATA;
2928             break;
2929         }
2930         data += n;
2931         size -= n;
2932         total = lace_size[0] = num;
2933         for (n = 1; res == 0 && n < *laces - 1; n++) {
2934             int64_t snum;
2935             int r;
2936             r = matroska_ebmlnum_sint(matroska, data, size, &snum);
2937             if (r < 0 || lace_size[n - 1] + snum > (uint64_t)INT_MAX) {
2938                 av_log(matroska->ctx, AV_LOG_INFO,
2939                        "EBML block data error\n");
2940                 res = r<0 ? r : AVERROR_INVALIDDATA;
2941                 break;
2942             }
2943             data        += r;
2944             size        -= r;
2945             lace_size[n] = lace_size[n - 1] + snum;
2946             total       += lace_size[n];
2947         }
2948         if (size <= total) {
2949             res = AVERROR_INVALIDDATA;
2950             break;
2951         }
2952         lace_size[*laces - 1] = size - total;
2953         break;
2954     }
2955     }
2956
2957     *buf      = data;
2958     *lace_buf = lace_size;
2959     *buf_size = size;
2960
2961     return res;
2962 }
2963
2964 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
2965                                    MatroskaTrack *track, AVStream *st,
2966                                    uint8_t *data, int size, uint64_t timecode,
2967                                    int64_t pos)
2968 {
2969     int a = st->codecpar->block_align;
2970     int sps = track->audio.sub_packet_size;
2971     int cfs = track->audio.coded_framesize;
2972     int h   = track->audio.sub_packet_h;
2973     int y   = track->audio.sub_packet_cnt;
2974     int w   = track->audio.frame_size;
2975     int x;
2976
2977     if (!track->audio.pkt_cnt) {
2978         if (track->audio.sub_packet_cnt == 0)
2979             track->audio.buf_timecode = timecode;
2980         if (st->codecpar->codec_id == AV_CODEC_ID_RA_288) {
2981             if (size < cfs * h / 2) {
2982                 av_log(matroska->ctx, AV_LOG_ERROR,
2983                        "Corrupt int4 RM-style audio packet size\n");
2984                 return AVERROR_INVALIDDATA;
2985             }
2986             for (x = 0; x < h / 2; x++)
2987                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
2988                        data + x * cfs, cfs);
2989         } else if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
2990             if (size < w) {
2991                 av_log(matroska->ctx, AV_LOG_ERROR,
2992                        "Corrupt sipr RM-style audio packet size\n");
2993                 return AVERROR_INVALIDDATA;
2994             }
2995             memcpy(track->audio.buf + y * w, data, w);
2996         } else {
2997             if (size < sps * w / sps || h<=0 || w%sps) {
2998                 av_log(matroska->ctx, AV_LOG_ERROR,
2999                        "Corrupt generic RM-style audio packet size\n");
3000                 return AVERROR_INVALIDDATA;
3001             }
3002             for (x = 0; x < w / sps; x++)
3003                 memcpy(track->audio.buf +
3004                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
3005                        data + x * sps, sps);
3006         }
3007
3008         if (++track->audio.sub_packet_cnt >= h) {
3009             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR)
3010                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
3011             track->audio.sub_packet_cnt = 0;
3012             track->audio.pkt_cnt        = h * w / a;
3013         }
3014     }
3015
3016     while (track->audio.pkt_cnt) {
3017         int ret;
3018         AVPacket pktl, *pkt = &pktl;
3019
3020         ret = av_new_packet(pkt, a);
3021         if (ret < 0) {
3022             return ret;
3023         }
3024         memcpy(pkt->data,
3025                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
3026                a);
3027         pkt->pts                  = track->audio.buf_timecode;
3028         track->audio.buf_timecode = AV_NOPTS_VALUE;
3029         pkt->pos                  = pos;
3030         pkt->stream_index         = st->index;
3031         ret = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3032         if (ret < 0) {
3033             av_packet_unref(pkt);
3034             return AVERROR(ENOMEM);
3035         }
3036     }
3037
3038     return 0;
3039 }
3040
3041 /* reconstruct full wavpack blocks from mangled matroska ones */
3042 static int matroska_parse_wavpack(MatroskaTrack *track, uint8_t *src,
3043                                   uint8_t **pdst, int *size)
3044 {
3045     uint8_t *dst = NULL;
3046     int dstlen   = 0;
3047     int srclen   = *size;
3048     uint32_t samples;
3049     uint16_t ver;
3050     int ret, offset = 0;
3051
3052     if (srclen < 12 || track->stream->codecpar->extradata_size < 2)
3053         return AVERROR_INVALIDDATA;
3054
3055     ver = AV_RL16(track->stream->codecpar->extradata);
3056
3057     samples = AV_RL32(src);
3058     src    += 4;
3059     srclen -= 4;
3060
3061     while (srclen >= 8) {
3062         int multiblock;
3063         uint32_t blocksize;
3064         uint8_t *tmp;
3065
3066         uint32_t flags = AV_RL32(src);
3067         uint32_t crc   = AV_RL32(src + 4);
3068         src    += 8;
3069         srclen -= 8;
3070
3071         multiblock = (flags & 0x1800) != 0x1800;
3072         if (multiblock) {
3073             if (srclen < 4) {
3074                 ret = AVERROR_INVALIDDATA;
3075                 goto fail;
3076             }
3077             blocksize = AV_RL32(src);
3078             src      += 4;
3079             srclen   -= 4;
3080         } else
3081             blocksize = srclen;
3082
3083         if (blocksize > srclen) {
3084             ret = AVERROR_INVALIDDATA;
3085             goto fail;
3086         }
3087
3088         tmp = av_realloc(dst, dstlen + blocksize + 32 + AV_INPUT_BUFFER_PADDING_SIZE);
3089         if (!tmp) {
3090             ret = AVERROR(ENOMEM);
3091             goto fail;
3092         }
3093         dst     = tmp;
3094         dstlen += blocksize + 32;
3095
3096         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
3097         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
3098         AV_WL16(dst + offset +  8, ver);                    // version
3099         AV_WL16(dst + offset + 10, 0);                      // track/index_no
3100         AV_WL32(dst + offset + 12, 0);                      // total samples
3101         AV_WL32(dst + offset + 16, 0);                      // block index
3102         AV_WL32(dst + offset + 20, samples);                // number of samples
3103         AV_WL32(dst + offset + 24, flags);                  // flags
3104         AV_WL32(dst + offset + 28, crc);                    // crc
3105         memcpy(dst + offset + 32, src, blocksize);          // block data
3106
3107         src    += blocksize;
3108         srclen -= blocksize;
3109         offset += blocksize + 32;
3110     }
3111
3112     memset(dst + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3113
3114     *pdst = dst;
3115     *size = dstlen;
3116
3117     return 0;
3118
3119 fail:
3120     av_freep(&dst);
3121     return ret;
3122 }
3123
3124 static int matroska_parse_prores(MatroskaTrack *track, uint8_t *src,
3125                                  uint8_t **pdst, int *size)
3126 {
3127     uint8_t *dst = src;
3128     int dstlen = *size;
3129
3130     if (AV_RB32(&src[4]) != MKBETAG('i', 'c', 'p', 'f')) {
3131         dst = av_malloc(dstlen + 8 + AV_INPUT_BUFFER_PADDING_SIZE);
3132         if (!dst)
3133             return AVERROR(ENOMEM);
3134
3135         AV_WB32(dst, dstlen);
3136         AV_WB32(dst + 4, MKBETAG('i', 'c', 'p', 'f'));
3137         memcpy(dst + 8, src, dstlen);
3138         memset(dst + 8 + dstlen, 0, AV_INPUT_BUFFER_PADDING_SIZE);
3139         dstlen += 8;
3140     }
3141
3142     *pdst = dst;
3143     *size = dstlen;
3144
3145     return 0;
3146 }
3147
3148 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
3149                                  MatroskaTrack *track,
3150                                  AVStream *st,
3151                                  uint8_t *data, int data_len,
3152                                  uint64_t timecode,
3153                                  uint64_t duration,
3154                                  int64_t pos)
3155 {
3156     AVPacket pktl, *pkt = &pktl;
3157     uint8_t *id, *settings, *text, *buf;
3158     int id_len, settings_len, text_len;
3159     uint8_t *p, *q;
3160     int err;
3161
3162     if (data_len <= 0)
3163         return AVERROR_INVALIDDATA;
3164
3165     p = data;
3166     q = data + data_len;
3167
3168     id = p;
3169     id_len = -1;
3170     while (p < q) {
3171         if (*p == '\r' || *p == '\n') {
3172             id_len = p - id;
3173             if (*p == '\r')
3174                 p++;
3175             break;
3176         }
3177         p++;
3178     }
3179
3180     if (p >= q || *p != '\n')
3181         return AVERROR_INVALIDDATA;
3182     p++;
3183
3184     settings = p;
3185     settings_len = -1;
3186     while (p < q) {
3187         if (*p == '\r' || *p == '\n') {
3188             settings_len = p - settings;
3189             if (*p == '\r')
3190                 p++;
3191             break;
3192         }
3193         p++;
3194     }
3195
3196     if (p >= q || *p != '\n')
3197         return AVERROR_INVALIDDATA;
3198     p++;
3199
3200     text = p;
3201     text_len = q - p;
3202     while (text_len > 0) {
3203         const int len = text_len - 1;
3204         const uint8_t c = p[len];
3205         if (c != '\r' && c != '\n')
3206             break;
3207         text_len = len;
3208     }
3209
3210     if (text_len <= 0)
3211         return AVERROR_INVALIDDATA;
3212
3213     err = av_new_packet(pkt, text_len);
3214     if (err < 0) {
3215         return err;
3216     }
3217
3218     memcpy(pkt->data, text, text_len);
3219
3220     if (id_len > 0) {
3221         buf = av_packet_new_side_data(pkt,
3222                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
3223                                       id_len);
3224         if (!buf) {
3225             av_packet_unref(pkt);
3226             return AVERROR(ENOMEM);
3227         }
3228         memcpy(buf, id, id_len);
3229     }
3230
3231     if (settings_len > 0) {
3232         buf = av_packet_new_side_data(pkt,
3233                                       AV_PKT_DATA_WEBVTT_SETTINGS,
3234                                       settings_len);
3235         if (!buf) {
3236             av_packet_unref(pkt);
3237             return AVERROR(ENOMEM);
3238         }
3239         memcpy(buf, settings, settings_len);
3240     }
3241
3242     // Do we need this for subtitles?
3243     // pkt->flags = AV_PKT_FLAG_KEY;
3244
3245     pkt->stream_index = st->index;
3246     pkt->pts = timecode;
3247
3248     // Do we need this for subtitles?
3249     // pkt->dts = timecode;
3250
3251     pkt->duration = duration;
3252     pkt->pos = pos;
3253
3254     err = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3255     if (err < 0) {
3256         av_packet_unref(pkt);
3257         return AVERROR(ENOMEM);
3258     }
3259
3260     return 0;
3261 }
3262
3263 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
3264                                 MatroskaTrack *track, AVStream *st,
3265                                 AVBufferRef *buf, uint8_t *data, int pkt_size,
3266                                 uint64_t timecode, uint64_t lace_duration,
3267                                 int64_t pos, int is_keyframe,
3268                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3269                                 int64_t discard_padding)
3270 {
3271     MatroskaTrackEncoding *encodings = track->encodings.elem;
3272     uint8_t *pkt_data = data;
3273     int res;
3274     AVPacket pktl, *pkt = &pktl;
3275
3276     if (encodings && !encodings->type && encodings->scope & 1) {
3277         res = matroska_decode_buffer(&pkt_data, &pkt_size, track);
3278         if (res < 0)
3279             return res;
3280     }
3281
3282     if (st->codecpar->codec_id == AV_CODEC_ID_WAVPACK) {
3283         uint8_t *wv_data;
3284         res = matroska_parse_wavpack(track, pkt_data, &wv_data, &pkt_size);
3285         if (res < 0) {
3286             av_log(matroska->ctx, AV_LOG_ERROR,
3287                    "Error parsing a wavpack block.\n");
3288             goto fail;
3289         }
3290         if (pkt_data != data)
3291             av_freep(&pkt_data);
3292         pkt_data = wv_data;
3293     }
3294
3295     if (st->codecpar->codec_id == AV_CODEC_ID_PRORES) {
3296         uint8_t *pr_data;
3297         res = matroska_parse_prores(track, pkt_data, &pr_data, &pkt_size);
3298         if (res < 0) {
3299             av_log(matroska->ctx, AV_LOG_ERROR,
3300                    "Error parsing a prores block.\n");
3301             goto fail;
3302         }
3303         if (pkt_data != data)
3304             av_freep(&pkt_data);
3305         pkt_data = pr_data;
3306     }
3307
3308     av_init_packet(pkt);
3309     if (pkt_data != data)
3310         pkt->buf = av_buffer_create(pkt_data, pkt_size + AV_INPUT_BUFFER_PADDING_SIZE,
3311                                     NULL, NULL, 0);
3312     else
3313         pkt->buf = av_buffer_ref(buf);
3314
3315     if (!pkt->buf) {
3316         res = AVERROR(ENOMEM);
3317         goto fail;
3318     }
3319
3320     pkt->data         = pkt_data;
3321     pkt->size         = pkt_size;
3322     pkt->flags        = is_keyframe;
3323     pkt->stream_index = st->index;
3324
3325     if (additional_size > 0) {
3326         uint8_t *side_data = av_packet_new_side_data(pkt,
3327                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
3328                                                      additional_size + 8);
3329         if (!side_data) {
3330             av_packet_unref(pkt);
3331             return AVERROR(ENOMEM);
3332         }
3333         AV_WB64(side_data, additional_id);
3334         memcpy(side_data + 8, additional, additional_size);
3335     }
3336
3337     if (discard_padding) {
3338         uint8_t *side_data = av_packet_new_side_data(pkt,
3339                                                      AV_PKT_DATA_SKIP_SAMPLES,
3340                                                      10);
3341         if (!side_data) {
3342             av_packet_unref(pkt);
3343             return AVERROR(ENOMEM);
3344         }
3345         discard_padding = av_rescale_q(discard_padding,
3346                                             (AVRational){1, 1000000000},
3347                                             (AVRational){1, st->codecpar->sample_rate});
3348         if (discard_padding > 0) {
3349             AV_WL32(side_data + 4, discard_padding);
3350         } else {
3351             AV_WL32(side_data, -discard_padding);
3352         }
3353     }
3354
3355     if (track->ms_compat)
3356         pkt->dts = timecode;
3357     else
3358         pkt->pts = timecode;
3359     pkt->pos = pos;
3360     pkt->duration = lace_duration;
3361
3362 #if FF_API_CONVERGENCE_DURATION
3363 FF_DISABLE_DEPRECATION_WARNINGS
3364     if (st->codecpar->codec_id == AV_CODEC_ID_SUBRIP) {
3365         pkt->convergence_duration = lace_duration;
3366     }
3367 FF_ENABLE_DEPRECATION_WARNINGS
3368 #endif
3369
3370     res = ff_packet_list_put(&matroska->queue, &matroska->queue_end, pkt, 0);
3371     if (res < 0) {
3372         av_packet_unref(pkt);
3373         return AVERROR(ENOMEM);
3374     }
3375
3376     return 0;
3377
3378 fail:
3379     if (pkt_data != data)
3380         av_freep(&pkt_data);
3381     return res;
3382 }
3383
3384 static int matroska_parse_block(MatroskaDemuxContext *matroska, AVBufferRef *buf, uint8_t *data,
3385                                 int size, int64_t pos, uint64_t cluster_time,
3386                                 uint64_t block_duration, int is_keyframe,
3387                                 uint8_t *additional, uint64_t additional_id, int additional_size,
3388                                 int64_t cluster_pos, int64_t discard_padding)
3389 {
3390     uint64_t timecode = AV_NOPTS_VALUE;
3391     MatroskaTrack *track;
3392     int res = 0;
3393     AVStream *st;
3394     int16_t block_time;
3395     uint32_t *lace_size = NULL;
3396     int n, flags, laces = 0;
3397     uint64_t num;
3398     int trust_default_duration = 1;
3399
3400     if ((n = matroska_ebmlnum_uint(matroska, data, size, &num)) < 0) {
3401         return n;
3402     }
3403     data += n;
3404     size -= n;
3405
3406     track = matroska_find_track_by_num(matroska, num);
3407     if (!track || !track->stream) {
3408         av_log(matroska->ctx, AV_LOG_INFO,
3409                "Invalid stream %"PRIu64"\n", num);
3410         return AVERROR_INVALIDDATA;
3411     } else if (size <= 3)
3412         return 0;
3413     st = track->stream;
3414     if (st->discard >= AVDISCARD_ALL)
3415         return res;
3416     av_assert1(block_duration != AV_NOPTS_VALUE);
3417
3418     block_time = sign_extend(AV_RB16(data), 16);
3419     data      += 2;
3420     flags      = *data++;
3421     size      -= 3;
3422     if (is_keyframe == -1)
3423         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
3424
3425     if (cluster_time != (uint64_t) -1 &&
3426         (block_time >= 0 || cluster_time >= -block_time)) {
3427         timecode = cluster_time + block_time - track->codec_delay_in_track_tb;
3428         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3429             timecode < track->end_timecode)
3430             is_keyframe = 0;  /* overlapping subtitles are not key frame */
3431         if (is_keyframe) {
3432             ff_reduce_index(matroska->ctx, st->index);
3433             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
3434                                AVINDEX_KEYFRAME);
3435         }
3436     }
3437
3438     if (matroska->skip_to_keyframe &&
3439         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
3440         // Compare signed timecodes. Timecode may be negative due to codec delay
3441         // offset. We don't support timestamps greater than int64_t anyway - see
3442         // AVPacket's pts.
3443         if ((int64_t)timecode < (int64_t)matroska->skip_to_timecode)
3444             return res;
3445         if (is_keyframe)
3446             matroska->skip_to_keyframe = 0;
3447         else if (!st->skip_to_keyframe) {
3448             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
3449             matroska->skip_to_keyframe = 0;
3450         }
3451     }
3452
3453     res = matroska_parse_laces(matroska, &data, &size, (flags & 0x06) >> 1,
3454                                &lace_size, &laces);
3455
3456     if (res)
3457         goto end;
3458
3459     if (track->audio.samplerate == 8000) {
3460         // If this is needed for more codecs, then add them here
3461         if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
3462             if (track->audio.samplerate != st->codecpar->sample_rate || !st->codecpar->frame_size)
3463                 trust_default_duration = 0;
3464         }
3465     }
3466
3467     if (!block_duration && trust_default_duration)
3468         block_duration = track->default_duration * laces / matroska->time_scale;
3469
3470     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
3471         track->end_timecode =
3472             FFMAX(track->end_timecode, timecode + block_duration);
3473
3474     for (n = 0; n < laces; n++) {
3475         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
3476
3477         if (lace_size[n] > size) {
3478             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid packet size\n");
3479             break;
3480         }
3481
3482         if ((st->codecpar->codec_id == AV_CODEC_ID_RA_288 ||
3483              st->codecpar->codec_id == AV_CODEC_ID_COOK   ||
3484              st->codecpar->codec_id == AV_CODEC_ID_SIPR   ||
3485              st->codecpar->codec_id == AV_CODEC_ID_ATRAC3) &&
3486             st->codecpar->block_align && track->audio.sub_packet_size) {
3487             res = matroska_parse_rm_audio(matroska, track, st, data,
3488                                           lace_size[n],
3489                                           timecode, pos);
3490             if (res)
3491                 goto end;
3492
3493         } else if (st->codecpar->codec_id == AV_CODEC_ID_WEBVTT) {
3494             res = matroska_parse_webvtt(matroska, track, st,
3495                                         data, lace_size[n],
3496                                         timecode, lace_duration,
3497                                         pos);
3498             if (res)
3499                 goto end;
3500         } else {
3501             res = matroska_parse_frame(matroska, track, st, buf, data, lace_size[n],
3502                                        timecode, lace_duration, pos,
3503                                        !n ? is_keyframe : 0,
3504                                        additional, additional_id, additional_size,
3505                                        discard_padding);
3506             if (res)
3507                 goto end;
3508         }
3509
3510         if (timecode != AV_NOPTS_VALUE)
3511             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
3512         data += lace_size[n];
3513         size -= lace_size[n];
3514     }
3515
3516 end:
3517     av_free(lace_size);
3518     return res;
3519 }
3520
3521 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3522 {
3523     MatroskaCluster *cluster = &matroska->current_cluster;
3524     MatroskaBlock     *block = &cluster->block;
3525     int res;
3526     res = ebml_parse(matroska,
3527                      matroska_cluster_parsing,
3528                      cluster);
3529     if (res == 1) {
3530         /* New Cluster */
3531         if (cluster->pos)
3532             ebml_level_end(matroska);
3533         cluster->pos = avio_tell(matroska->ctx->pb);
3534         /* sizeof the ID which was already read */
3535         if (matroska->current_id)
3536             cluster->pos -= 4;
3537         res = ebml_parse(matroska,
3538                          matroska_clusters,
3539                          cluster);
3540         /* Try parsing the block again. */
3541         if (res == 1)
3542             res = ebml_parse(matroska,
3543                              matroska_cluster_parsing,
3544                              cluster);
3545     }
3546
3547     if (!res && block->bin.size > 0) {
3548             int is_keyframe = block->non_simple ? block->reference == INT64_MIN : -1;
3549             uint8_t* additional = block->additional.size > 0 ?
3550                                     block->additional.data : NULL;
3551
3552             res = matroska_parse_block(matroska, block->bin.buf, block->bin.data,
3553                                        block->bin.size, block->bin.pos,
3554                                        matroska->current_cluster.timecode,
3555                                        block->duration, is_keyframe,
3556                                        additional, block->additional_id,
3557                                        block->additional.size,
3558                                        cluster->pos,
3559                                        block->discard_padding);
3560     }
3561
3562     ebml_free(matroska_blockgroup, block);
3563     memset(block, 0, sizeof(*block));
3564
3565     return res;
3566 }
3567
3568 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3569 {
3570     MatroskaDemuxContext *matroska = s->priv_data;
3571     int ret = 0;
3572
3573     while (matroska_deliver_packet(matroska, pkt)) {
3574         int64_t pos = avio_tell(matroska->ctx->pb);
3575         if (matroska->done)
3576             return (ret < 0) ? ret : AVERROR_EOF;
3577         if (matroska_parse_cluster(matroska) < 0)
3578             ret = matroska_resync(matroska, pos);
3579     }
3580
3581     return 0;
3582 }
3583
3584 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3585                               int64_t timestamp, int flags)
3586 {
3587     MatroskaDemuxContext *matroska = s->priv_data;
3588     MatroskaTrack *tracks = NULL;
3589     AVStream *st = s->streams[stream_index];
3590     int i, index;
3591
3592     /* Parse the CUES now since we need the index data to seek. */
3593     if (matroska->cues_parsing_deferred > 0) {
3594         matroska->cues_parsing_deferred = 0;
3595         matroska_parse_cues(matroska);
3596     }
3597
3598     if (!st->nb_index_entries)
3599         goto err;
3600     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3601
3602     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3603         matroska_reset_status(matroska, 0, st->index_entries[st->nb_index_entries - 1].pos);
3604         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3605             matroska_clear_queue(matroska);
3606             if (matroska_parse_cluster(matroska) < 0)
3607                 break;
3608         }
3609     }
3610
3611     matroska_clear_queue(matroska);
3612     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3613         goto err;
3614
3615     tracks = matroska->tracks.elem;
3616     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3617         tracks[i].audio.pkt_cnt        = 0;
3618         tracks[i].audio.sub_packet_cnt = 0;
3619         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3620         tracks[i].end_timecode         = 0;
3621     }
3622
3623     /* We seek to a level 1 element, so set the appropriate status. */
3624     matroska_reset_status(matroska, 0, st->index_entries[index].pos);
3625     if (flags & AVSEEK_FLAG_ANY) {
3626         st->skip_to_keyframe = 0;
3627         matroska->skip_to_timecode = timestamp;
3628     } else {
3629         st->skip_to_keyframe = 1;
3630         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3631     }
3632     matroska->skip_to_keyframe = 1;
3633     matroska->done             = 0;
3634     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3635     return 0;
3636 err:
3637     // slightly hackish but allows proper fallback to
3638     // the generic seeking code.
3639     matroska_reset_status(matroska, 0, -1);
3640     matroska_clear_queue(matroska);
3641     st->skip_to_keyframe =
3642     matroska->skip_to_keyframe = 0;
3643     matroska->done = 0;
3644     return -1;
3645 }
3646
3647 static int matroska_read_close(AVFormatContext *s)
3648 {
3649     MatroskaDemuxContext *matroska = s->priv_data;
3650     MatroskaTrack *tracks = matroska->tracks.elem;
3651     int n;
3652
3653     matroska_clear_queue(matroska);
3654
3655     for (n = 0; n < matroska->tracks.nb_elem; n++)
3656         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3657             av_freep(&tracks[n].audio.buf);
3658     ebml_free(matroska_segment, matroska);
3659
3660     return 0;
3661 }
3662
3663 typedef struct {
3664     int64_t start_time_ns;
3665     int64_t end_time_ns;
3666     int64_t start_offset;
3667     int64_t end_offset;
3668 } CueDesc;
3669
3670 /* This function searches all the Cues and returns the CueDesc corresponding to
3671  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3672  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3673  */
3674 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3675     MatroskaDemuxContext *matroska = s->priv_data;
3676     CueDesc cue_desc;
3677     int i;
3678     int nb_index_entries = s->streams[0]->nb_index_entries;
3679     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3680     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3681     for (i = 1; i < nb_index_entries; i++) {
3682         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3683             index_entries[i].timestamp * matroska->time_scale > ts) {
3684             break;
3685         }
3686     }
3687     --i;
3688     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3689     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3690     if (i != nb_index_entries - 1) {
3691         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3692         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3693     } else {
3694         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3695         // FIXME: this needs special handling for files where Cues appear
3696         // before Clusters. the current logic assumes Cues appear after
3697         // Clusters.
3698         cue_desc.end_offset = cues_start - matroska->segment_start;
3699     }
3700     return cue_desc;
3701 }
3702
3703 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3704 {
3705     MatroskaDemuxContext *matroska = s->priv_data;
3706     uint32_t id = matroska->current_id;
3707     int64_t cluster_pos, before_pos;
3708     int index, rv = 1;
3709     if (s->streams[0]->nb_index_entries <= 0) return 0;
3710     // seek to the first cluster using cues.
3711     index = av_index_search_timestamp(s->streams[0], 0, 0);
3712     if (index < 0)  return 0;
3713     cluster_pos = s->streams[0]->index_entries[index].pos;
3714     before_pos = avio_tell(s->pb);
3715     while (1) {
3716         uint64_t cluster_id, cluster_length;
3717         int read;
3718         AVPacket *pkt;
3719         avio_seek(s->pb, cluster_pos, SEEK_SET);
3720         // read cluster id and length
3721         read = ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id, 1);
3722         if (read < 0 || cluster_id != 0xF43B675) // done with all clusters
3723             break;
3724         read = ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3725         if (read < 0)
3726             break;
3727
3728         matroska_reset_status(matroska, 0, cluster_pos);
3729         matroska_clear_queue(matroska);
3730         if (matroska_parse_cluster(matroska) < 0 ||
3731             !matroska->queue) {
3732             break;
3733         }
3734         pkt = &matroska->queue->pkt;
3735         // 4 + read is the length of the cluster id and the cluster length field.
3736         cluster_pos += 4 + read + cluster_length;
3737         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3738             rv = 0;
3739             break;
3740         }
3741     }
3742
3743     /* Restore the status after matroska_read_header: */
3744     matroska_reset_status(matroska, id, before_pos);
3745
3746     return rv;
3747 }
3748
3749 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3750                                              double min_buffer, double* buffer,
3751                                              double* sec_to_download, AVFormatContext *s,
3752                                              int64_t cues_start)
3753 {
3754     double nano_seconds_per_second = 1000000000.0;
3755     double time_sec = time_ns / nano_seconds_per_second;
3756     int rv = 0;
3757     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3758     int64_t end_time_ns = time_ns + time_to_search_ns;
3759     double sec_downloaded = 0.0;
3760     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3761     if (desc_curr.start_time_ns == -1)
3762       return -1;
3763     *sec_to_download = 0.0;
3764
3765     // Check for non cue start time.
3766     if (time_ns > desc_curr.start_time_ns) {
3767       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3768       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3769       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3770       double timeToDownload = (cueBytes * 8.0) / bps;
3771
3772       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3773       *sec_to_download += timeToDownload;
3774
3775       // Check if the search ends within the first cue.
3776       if (desc_curr.end_time_ns >= end_time_ns) {
3777           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3778           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3779           sec_downloaded = percent_to_sub * sec_downloaded;
3780           *sec_to_download = percent_to_sub * *sec_to_download;
3781       }
3782
3783       if ((sec_downloaded + *buffer) <= min_buffer) {
3784           return 1;
3785       }
3786
3787       // Get the next Cue.
3788       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3789     }
3790
3791     while (desc_curr.start_time_ns != -1) {
3792         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3793         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3794         double desc_sec = desc_ns / nano_seconds_per_second;
3795         double bits = (desc_bytes * 8.0);
3796         double time_to_download = bits / bps;
3797
3798         sec_downloaded += desc_sec - time_to_download;
3799         *sec_to_download += time_to_download;
3800
3801         if (desc_curr.end_time_ns >= end_time_ns) {
3802             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3803             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3804             sec_downloaded = percent_to_sub * sec_downloaded;
3805             *sec_to_download = percent_to_sub * *sec_to_download;
3806
3807             if ((sec_downloaded + *buffer) <= min_buffer)
3808                 rv = 1;
3809             break;
3810         }
3811
3812         if ((sec_downloaded + *buffer) <= min_buffer) {
3813             rv = 1;
3814             break;
3815         }
3816
3817         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3818     }
3819     *buffer = *buffer + sec_downloaded;
3820     return rv;
3821 }
3822
3823 /* This function computes the bandwidth of the WebM file with the help of
3824  * buffer_size_after_time_downloaded() function. Both of these functions are
3825  * adapted from WebM Tools project and are adapted to work with FFmpeg's
3826  * Matroska parsing mechanism.
3827  *
3828  * Returns the bandwidth of the file on success; -1 on error.
3829  * */
3830 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
3831 {
3832     MatroskaDemuxContext *matroska = s->priv_data;
3833     AVStream *st = s->streams[0];
3834     double bandwidth = 0.0;
3835     int i;
3836
3837     for (i = 0; i < st->nb_index_entries; i++) {
3838         int64_t prebuffer_ns = 1000000000;
3839         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
3840         double nano_seconds_per_second = 1000000000.0;
3841         int64_t prebuffered_ns = time_ns + prebuffer_ns;
3842         double prebuffer_bytes = 0.0;
3843         int64_t temp_prebuffer_ns = prebuffer_ns;
3844         int64_t pre_bytes, pre_ns;
3845         double pre_sec, prebuffer, bits_per_second;
3846         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
3847
3848         // Start with the first Cue.
3849         CueDesc desc_end = desc_beg;
3850
3851         // Figure out how much data we have downloaded for the prebuffer. This will
3852         // be used later to adjust the bits per sample to try.
3853         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
3854             // Prebuffered the entire Cue.
3855             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
3856             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
3857             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3858         }
3859         if (desc_end.start_time_ns == -1) {
3860             // The prebuffer is larger than the duration.
3861             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
3862               return -1;
3863             bits_per_second = 0.0;
3864         } else {
3865             // The prebuffer ends in the last Cue. Estimate how much data was
3866             // prebuffered.
3867             pre_bytes = desc_end.end_offset - desc_end.start_offset;
3868             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
3869             pre_sec = pre_ns / nano_seconds_per_second;
3870             prebuffer_bytes +=
3871                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
3872
3873             prebuffer = prebuffer_ns / nano_seconds_per_second;
3874
3875             // Set this to 0.0 in case our prebuffer buffers the entire video.
3876             bits_per_second = 0.0;
3877             do {
3878                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
3879                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
3880                 double desc_sec = desc_ns / nano_seconds_per_second;
3881                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
3882
3883                 // Drop the bps by the percentage of bytes buffered.
3884                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
3885                 double mod_bits_per_second = calc_bits_per_second * percent;
3886
3887                 if (prebuffer < desc_sec) {
3888                     double search_sec =
3889                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
3890
3891                     // Add 1 so the bits per second should be a little bit greater than file
3892                     // datarate.
3893                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
3894                     const double min_buffer = 0.0;
3895                     double buffer = prebuffer;
3896                     double sec_to_download = 0.0;
3897
3898                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
3899                                                                min_buffer, &buffer, &sec_to_download,
3900                                                                s, cues_start);
3901                     if (rv < 0) {
3902                         return -1;
3903                     } else if (rv == 0) {
3904                         bits_per_second = (double)(bps);
3905                         break;
3906                     }
3907                 }
3908
3909                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3910             } while (desc_end.start_time_ns != -1);
3911         }
3912         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
3913     }
3914     return (int64_t)bandwidth;
3915 }
3916
3917 static int webm_dash_manifest_cues(AVFormatContext *s, int64_t init_range)
3918 {
3919     MatroskaDemuxContext *matroska = s->priv_data;
3920     EbmlList *seekhead_list = &matroska->seekhead;
3921     MatroskaSeekhead *seekhead = seekhead_list->elem;
3922     char *buf;
3923     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
3924     int i;
3925     int end = 0;
3926
3927     // determine cues start and end positions
3928     for (i = 0; i < seekhead_list->nb_elem; i++)
3929         if (seekhead[i].id == MATROSKA_ID_CUES)
3930             break;
3931
3932     if (i >= seekhead_list->nb_elem) return -1;
3933
3934     before_pos = avio_tell(matroska->ctx->pb);
3935     cues_start = seekhead[i].pos + matroska->segment_start;
3936     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
3937         // cues_end is computed as cues_start + cues_length + length of the
3938         // Cues element ID (i.e. 4) + EBML length of the Cues element.
3939         // cues_end is inclusive and the above sum is reduced by 1.
3940         uint64_t cues_length, cues_id;
3941         int bytes_read;
3942         bytes_read = ebml_read_num   (matroska, matroska->ctx->pb, 4, &cues_id, 1);
3943         if (bytes_read < 0 || cues_id != (MATROSKA_ID_CUES & 0xfffffff))
3944             return bytes_read < 0 ? bytes_read : AVERROR_INVALIDDATA;
3945         bytes_read = ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
3946         if (bytes_read < 0)
3947             return bytes_read;
3948         cues_end = cues_start + 4 + bytes_read + cues_length - 1;
3949     }
3950     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
3951     if (cues_start == -1 || cues_end == -1) return -1;
3952
3953     // parse the cues
3954     matroska_parse_cues(matroska);
3955
3956     // cues start
3957     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
3958
3959     // cues end
3960     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
3961
3962     // if the file has cues at the start, fix up the init range so tht
3963     // it does not include it
3964     if (cues_start <= init_range)
3965         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, cues_start - 1, 0);
3966
3967     // bandwidth
3968     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
3969     if (bandwidth < 0) return -1;
3970     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
3971
3972     // check if all clusters start with key frames
3973     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
3974
3975     // store cue point timestamps as a comma separated list for checking subsegment alignment in
3976     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
3977     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20);
3978     if (!buf) return -1;
3979     strcpy(buf, "");
3980     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
3981         int ret = snprintf(buf + end, 20,
3982                            "%" PRId64"%s", s->streams[0]->index_entries[i].timestamp,
3983                            i != s->streams[0]->nb_index_entries - 1 ? "," : "");
3984         if (ret <= 0 || (ret == 20 && i ==  s->streams[0]->nb_index_entries - 1)) {
3985             av_log(s, AV_LOG_ERROR, "timestamp too long.\n");
3986             av_free(buf);
3987             return AVERROR_INVALIDDATA;
3988         }
3989         end += ret;
3990     }
3991     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS, buf, 0);
3992     av_free(buf);
3993
3994     return 0;
3995 }
3996
3997 static int webm_dash_manifest_read_header(AVFormatContext *s)
3998 {
3999     char *buf;
4000     int ret = matroska_read_header(s);
4001     int64_t init_range;
4002     MatroskaTrack *tracks;
4003     MatroskaDemuxContext *matroska = s->priv_data;
4004     if (ret) {
4005         av_log(s, AV_LOG_ERROR, "Failed to read file headers\n");
4006         return -1;
4007     }
4008     if (!s->nb_streams) {
4009         matroska_read_close(s);
4010         av_log(s, AV_LOG_ERROR, "No streams found\n");
4011         return AVERROR_INVALIDDATA;
4012     }
4013
4014     if (!matroska->is_live) {
4015         buf = av_asprintf("%g", matroska->duration);
4016         if (!buf) return AVERROR(ENOMEM);
4017         av_dict_set(&s->streams[0]->metadata, DURATION, buf, 0);
4018         av_free(buf);
4019
4020         // initialization range
4021         // 5 is the offset of Cluster ID.
4022         init_range = avio_tell(s->pb) - 5;
4023         av_dict_set_int(&s->streams[0]->metadata, INITIALIZATION_RANGE, init_range, 0);
4024     }
4025
4026     // basename of the file
4027     buf = strrchr(s->url, '/');
4028     av_dict_set(&s->streams[0]->metadata, FILENAME, buf ? ++buf : s->url, 0);
4029
4030     // track number
4031     tracks = matroska->tracks.elem;
4032     av_dict_set_int(&s->streams[0]->metadata, TRACK_NUMBER, tracks[0].num, 0);
4033
4034     // parse the cues and populate Cue related fields
4035     if (!matroska->is_live) {
4036         ret = webm_dash_manifest_cues(s, init_range);
4037         if (ret < 0) {
4038             av_log(s, AV_LOG_ERROR, "Error parsing Cues\n");
4039             return ret;
4040         }
4041     }
4042
4043     // use the bandwidth from the command line if it was provided
4044     if (matroska->bandwidth > 0) {
4045         av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH,
4046                         matroska->bandwidth, 0);
4047     }
4048     return 0;
4049 }
4050
4051 static int webm_dash_manifest_read_packet(AVFormatContext *s, AVPacket *pkt)
4052 {
4053     return AVERROR_EOF;
4054 }
4055
4056 #define OFFSET(x) offsetof(MatroskaDemuxContext, x)
4057 static const AVOption options[] = {
4058     { "live", "flag indicating that the input is a live file that only has the headers.", OFFSET(is_live), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
4059     { "bandwidth", "bandwidth of this stream to be specified in the DASH manifest.", OFFSET(bandwidth), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, AV_OPT_FLAG_DECODING_PARAM },
4060     { NULL },
4061 };
4062
4063 static const AVClass webm_dash_class = {
4064     .class_name = "WebM DASH Manifest demuxer",
4065     .item_name  = av_default_item_name,
4066     .option     = options,
4067     .version    = LIBAVUTIL_VERSION_INT,
4068 };
4069
4070 AVInputFormat ff_matroska_demuxer = {
4071     .name           = "matroska,webm",
4072     .long_name      = NULL_IF_CONFIG_SMALL("Matroska / WebM"),
4073     .extensions     = "mkv,mk3d,mka,mks",
4074     .priv_data_size = sizeof(MatroskaDemuxContext),
4075     .read_probe     = matroska_probe,
4076     .read_header    = matroska_read_header,
4077     .read_packet    = matroska_read_packet,
4078     .read_close     = matroska_read_close,
4079     .read_seek      = matroska_read_seek,
4080     .mime_type      = "audio/webm,audio/x-matroska,video/webm,video/x-matroska"
4081 };
4082
4083 AVInputFormat ff_webm_dash_manifest_demuxer = {
4084     .name           = "webm_dash_manifest",
4085     .long_name      = NULL_IF_CONFIG_SMALL("WebM DASH Manifest"),
4086     .priv_data_size = sizeof(MatroskaDemuxContext),
4087     .read_header    = webm_dash_manifest_read_header,
4088     .read_packet    = webm_dash_manifest_read_packet,
4089     .read_close     = matroska_read_close,
4090     .priv_class     = &webm_dash_class,
4091 };