]> git.sesse.net Git - ffmpeg/blob - libavformat/matroskaenc.c
matroskaenc: Allow VP9 and Opus in webm
[ffmpeg] / libavformat / matroskaenc.c
1 /*
2  * Matroska muxer
3  * Copyright (c) 2007 David Conrad
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <stdint.h>
23
24 #include "avc.h"
25 #include "hevc.h"
26 #include "avformat.h"
27 #include "avlanguage.h"
28 #include "flacenc.h"
29 #include "internal.h"
30 #include "isom.h"
31 #include "matroska.h"
32 #include "riff.h"
33 #include "vorbiscomment.h"
34 #include "wv.h"
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/channel_layout.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lfg.h"
42 #include "libavutil/mathematics.h"
43 #include "libavutil/opt.h"
44 #include "libavutil/random_seed.h"
45 #include "libavutil/samplefmt.h"
46
47 #include "libavcodec/xiph.h"
48 #include "libavcodec/mpeg4audio.h"
49
50 typedef struct ebml_master {
51     int64_t         pos;                ///< absolute offset in the file where the master's elements start
52     int             sizebytes;          ///< how many bytes were reserved for the size
53 } ebml_master;
54
55 typedef struct mkv_seekhead_entry {
56     unsigned int    elementid;
57     uint64_t        segmentpos;
58 } mkv_seekhead_entry;
59
60 typedef struct mkv_seekhead {
61     int64_t                 filepos;
62     int64_t                 segment_offset;     ///< the file offset to the beginning of the segment
63     int                     reserved_size;      ///< -1 if appending to file
64     int                     max_entries;
65     mkv_seekhead_entry      *entries;
66     int                     num_entries;
67 } mkv_seekhead;
68
69 typedef struct {
70     uint64_t        pts;
71     int             tracknum;
72     int64_t         cluster_pos;        ///< file offset of the cluster containing the block
73 } mkv_cuepoint;
74
75 typedef struct {
76     int64_t         segment_offset;
77     mkv_cuepoint    *entries;
78     int             num_entries;
79 } mkv_cues;
80
81 typedef struct {
82     int             write_dts;
83     int64_t         ts_offset;
84 } mkv_track;
85
86 #define MODE_MATROSKAv2 0x01
87 #define MODE_WEBM       0x02
88
89 typedef struct MatroskaMuxContext {
90     const AVClass  *class;
91     int             mode;
92     AVIOContext   *dyn_bc;
93     ebml_master     segment;
94     int64_t         segment_offset;
95     ebml_master     cluster;
96     int64_t         cluster_pos;        ///< file offset of the current cluster
97     int64_t         cluster_pts;
98     int64_t         duration_offset;
99     int64_t         duration;
100     mkv_seekhead    *main_seekhead;
101     mkv_cues        *cues;
102     mkv_track       *tracks;
103
104     AVPacket        cur_audio_pkt;
105
106     int have_attachments;
107
108     int reserve_cues_space;
109     int cluster_size_limit;
110     int64_t cues_pos;
111     int64_t cluster_time_limit;
112     int wrote_chapters;
113 } MatroskaMuxContext;
114
115
116 /** 2 bytes * 3 for EBML IDs, 3 1-byte EBML lengths, 8 bytes for 64 bit
117  * offset, 4 bytes for target EBML ID */
118 #define MAX_SEEKENTRY_SIZE 21
119
120 /** per-cuepoint-track - 3 1-byte EBML IDs, 3 1-byte EBML sizes, 2
121  * 8-byte uint max */
122 #define MAX_CUETRACKPOS_SIZE 22
123
124 /** per-cuepoint - 2 1-byte EBML IDs, 2 1-byte EBML sizes, 8-byte uint max */
125 #define MAX_CUEPOINT_SIZE(num_tracks) 12 + MAX_CUETRACKPOS_SIZE*num_tracks
126
127
128 static int ebml_id_size(unsigned int id)
129 {
130     return (av_log2(id+1)-1)/7+1;
131 }
132
133 static void put_ebml_id(AVIOContext *pb, unsigned int id)
134 {
135     int i = ebml_id_size(id);
136     while (i--)
137         avio_w8(pb, id >> (i*8));
138 }
139
140 /**
141  * Write an EBML size meaning "unknown size".
142  *
143  * @param bytes The number of bytes the size should occupy (maximum: 8).
144  */
145 static void put_ebml_size_unknown(AVIOContext *pb, int bytes)
146 {
147     assert(bytes <= 8);
148     avio_w8(pb, 0x1ff >> bytes);
149     while (--bytes)
150         avio_w8(pb, 0xff);
151 }
152
153 /**
154  * Calculate how many bytes are needed to represent a given number in EBML.
155  */
156 static int ebml_num_size(uint64_t num)
157 {
158     int bytes = 1;
159     while ((num+1) >> bytes*7) bytes++;
160     return bytes;
161 }
162
163 /**
164  * Write a number in EBML variable length format.
165  *
166  * @param bytes The number of bytes that need to be used to write the number.
167  *              If zero, any number of bytes can be used.
168  */
169 static void put_ebml_num(AVIOContext *pb, uint64_t num, int bytes)
170 {
171     int i, needed_bytes = ebml_num_size(num);
172
173     // sizes larger than this are currently undefined in EBML
174     assert(num < (1ULL<<56)-1);
175
176     if (bytes == 0)
177         // don't care how many bytes are used, so use the min
178         bytes = needed_bytes;
179     // the bytes needed to write the given size would exceed the bytes
180     // that we need to use, so write unknown size. This shouldn't happen.
181     assert(bytes >= needed_bytes);
182
183     num |= 1ULL << bytes*7;
184     for (i = bytes - 1; i >= 0; i--)
185         avio_w8(pb, num >> i*8);
186 }
187
188 static void put_ebml_uint(AVIOContext *pb, unsigned int elementid, uint64_t val)
189 {
190     int i, bytes = 1;
191     uint64_t tmp = val;
192     while (tmp>>=8) bytes++;
193
194     put_ebml_id(pb, elementid);
195     put_ebml_num(pb, bytes, 0);
196     for (i = bytes - 1; i >= 0; i--)
197         avio_w8(pb, val >> i*8);
198 }
199
200 static void put_ebml_float(AVIOContext *pb, unsigned int elementid, double val)
201 {
202     put_ebml_id(pb, elementid);
203     put_ebml_num(pb, 8, 0);
204     avio_wb64(pb, av_double2int(val));
205 }
206
207 static void put_ebml_binary(AVIOContext *pb, unsigned int elementid,
208                             const void *buf, int size)
209 {
210     put_ebml_id(pb, elementid);
211     put_ebml_num(pb, size, 0);
212     avio_write(pb, buf, size);
213 }
214
215 static void put_ebml_string(AVIOContext *pb, unsigned int elementid, const char *str)
216 {
217     put_ebml_binary(pb, elementid, str, strlen(str));
218 }
219
220 /**
221  * Write a void element of a given size. Useful for reserving space in
222  * the file to be written to later.
223  *
224  * @param size The number of bytes to reserve, which must be at least 2.
225  */
226 static void put_ebml_void(AVIOContext *pb, uint64_t size)
227 {
228     int64_t currentpos = avio_tell(pb);
229
230     assert(size >= 2);
231
232     put_ebml_id(pb, EBML_ID_VOID);
233     // we need to subtract the length needed to store the size from the
234     // size we need to reserve so 2 cases, we use 8 bytes to store the
235     // size if possible, 1 byte otherwise
236     if (size < 10)
237         put_ebml_num(pb, size-1, 0);
238     else
239         put_ebml_num(pb, size-9, 8);
240     while(avio_tell(pb) < currentpos + size)
241         avio_w8(pb, 0);
242 }
243
244 static ebml_master start_ebml_master(AVIOContext *pb, unsigned int elementid, uint64_t expectedsize)
245 {
246     int bytes = expectedsize ? ebml_num_size(expectedsize) : 8;
247     put_ebml_id(pb, elementid);
248     put_ebml_size_unknown(pb, bytes);
249     return (ebml_master){ avio_tell(pb), bytes };
250 }
251
252 static void end_ebml_master(AVIOContext *pb, ebml_master master)
253 {
254     int64_t pos = avio_tell(pb);
255
256     if (avio_seek(pb, master.pos - master.sizebytes, SEEK_SET) < 0)
257         return;
258     put_ebml_num(pb, pos - master.pos, master.sizebytes);
259     avio_seek(pb, pos, SEEK_SET);
260 }
261
262 static void put_xiph_size(AVIOContext *pb, int size)
263 {
264     int i;
265     for (i = 0; i < size / 255; i++)
266         avio_w8(pb, 255);
267     avio_w8(pb, size % 255);
268 }
269
270 /**
271  * Initialize a mkv_seekhead element to be ready to index level 1 Matroska
272  * elements. If a maximum number of elements is specified, enough space
273  * will be reserved at the current file location to write a seek head of
274  * that size.
275  *
276  * @param segment_offset The absolute offset to the position in the file
277  *                       where the segment begins.
278  * @param numelements The maximum number of elements that will be indexed
279  *                    by this seek head, 0 if unlimited.
280  */
281 static mkv_seekhead * mkv_start_seekhead(AVIOContext *pb, int64_t segment_offset, int numelements)
282 {
283     mkv_seekhead *new_seekhead = av_mallocz(sizeof(mkv_seekhead));
284     if (new_seekhead == NULL)
285         return NULL;
286
287     new_seekhead->segment_offset = segment_offset;
288
289     if (numelements > 0) {
290         new_seekhead->filepos = avio_tell(pb);
291         // 21 bytes max for a seek entry, 10 bytes max for the SeekHead ID
292         // and size, and 3 bytes to guarantee that an EBML void element
293         // will fit afterwards
294         new_seekhead->reserved_size = numelements * MAX_SEEKENTRY_SIZE + 13;
295         new_seekhead->max_entries = numelements;
296         put_ebml_void(pb, new_seekhead->reserved_size);
297     }
298     return new_seekhead;
299 }
300
301 static int mkv_add_seekhead_entry(mkv_seekhead *seekhead, unsigned int elementid, uint64_t filepos)
302 {
303     int err;
304
305     // don't store more elements than we reserved space for
306     if (seekhead->max_entries > 0 && seekhead->max_entries <= seekhead->num_entries)
307         return -1;
308
309     if ((err = av_reallocp_array(&seekhead->entries, seekhead->num_entries + 1,
310                                  sizeof(*seekhead->entries))) < 0) {
311         seekhead->num_entries = 0;
312         return err;
313     }
314
315     seekhead->entries[seekhead->num_entries].elementid    = elementid;
316     seekhead->entries[seekhead->num_entries++].segmentpos = filepos - seekhead->segment_offset;
317
318     return 0;
319 }
320
321 /**
322  * Write the seek head to the file and free it. If a maximum number of
323  * elements was specified to mkv_start_seekhead(), the seek head will
324  * be written at the location reserved for it. Otherwise, it is written
325  * at the current location in the file.
326  *
327  * @return The file offset where the seekhead was written,
328  * -1 if an error occurred.
329  */
330 static int64_t mkv_write_seekhead(AVIOContext *pb, mkv_seekhead *seekhead)
331 {
332     ebml_master metaseek, seekentry;
333     int64_t currentpos;
334     int i;
335
336     currentpos = avio_tell(pb);
337
338     if (seekhead->reserved_size > 0) {
339         if (avio_seek(pb, seekhead->filepos, SEEK_SET) < 0) {
340             currentpos = -1;
341             goto fail;
342         }
343     }
344
345     metaseek = start_ebml_master(pb, MATROSKA_ID_SEEKHEAD, seekhead->reserved_size);
346     for (i = 0; i < seekhead->num_entries; i++) {
347         mkv_seekhead_entry *entry = &seekhead->entries[i];
348
349         seekentry = start_ebml_master(pb, MATROSKA_ID_SEEKENTRY, MAX_SEEKENTRY_SIZE);
350
351         put_ebml_id(pb, MATROSKA_ID_SEEKID);
352         put_ebml_num(pb, ebml_id_size(entry->elementid), 0);
353         put_ebml_id(pb, entry->elementid);
354
355         put_ebml_uint(pb, MATROSKA_ID_SEEKPOSITION, entry->segmentpos);
356         end_ebml_master(pb, seekentry);
357     }
358     end_ebml_master(pb, metaseek);
359
360     if (seekhead->reserved_size > 0) {
361         uint64_t remaining = seekhead->filepos + seekhead->reserved_size - avio_tell(pb);
362         put_ebml_void(pb, remaining);
363         avio_seek(pb, currentpos, SEEK_SET);
364
365         currentpos = seekhead->filepos;
366     }
367 fail:
368     av_free(seekhead->entries);
369     av_free(seekhead);
370
371     return currentpos;
372 }
373
374 static mkv_cues * mkv_start_cues(int64_t segment_offset)
375 {
376     mkv_cues *cues = av_mallocz(sizeof(mkv_cues));
377     if (cues == NULL)
378         return NULL;
379
380     cues->segment_offset = segment_offset;
381     return cues;
382 }
383
384 static int mkv_add_cuepoint(mkv_cues *cues, int stream, int64_t ts, int64_t cluster_pos)
385 {
386     int err;
387
388     if (ts < 0)
389         return 0;
390
391     if ((err = av_reallocp_array(&cues->entries, cues->num_entries + 1,
392                                  sizeof(*cues->entries))) < 0) {
393         cues->num_entries = 0;
394         return err;
395     }
396
397     cues->entries[cues->num_entries].pts           = ts;
398     cues->entries[cues->num_entries].tracknum      = stream + 1;
399     cues->entries[cues->num_entries++].cluster_pos = cluster_pos - cues->segment_offset;
400
401     return 0;
402 }
403
404 static int64_t mkv_write_cues(AVIOContext *pb, mkv_cues *cues, int num_tracks)
405 {
406     ebml_master cues_element;
407     int64_t currentpos;
408     int i, j;
409
410     currentpos = avio_tell(pb);
411     cues_element = start_ebml_master(pb, MATROSKA_ID_CUES, 0);
412
413     for (i = 0; i < cues->num_entries; i++) {
414         ebml_master cuepoint, track_positions;
415         mkv_cuepoint *entry = &cues->entries[i];
416         uint64_t pts = entry->pts;
417
418         cuepoint = start_ebml_master(pb, MATROSKA_ID_POINTENTRY, MAX_CUEPOINT_SIZE(num_tracks));
419         put_ebml_uint(pb, MATROSKA_ID_CUETIME, pts);
420
421         // put all the entries from different tracks that have the exact same
422         // timestamp into the same CuePoint
423         for (j = 0; j < cues->num_entries - i && entry[j].pts == pts; j++) {
424             track_positions = start_ebml_master(pb, MATROSKA_ID_CUETRACKPOSITION, MAX_CUETRACKPOS_SIZE);
425             put_ebml_uint(pb, MATROSKA_ID_CUETRACK          , entry[j].tracknum   );
426             put_ebml_uint(pb, MATROSKA_ID_CUECLUSTERPOSITION, entry[j].cluster_pos);
427             end_ebml_master(pb, track_positions);
428         }
429         i += j - 1;
430         end_ebml_master(pb, cuepoint);
431     }
432     end_ebml_master(pb, cues_element);
433
434     return currentpos;
435 }
436
437 static int put_xiph_codecpriv(AVFormatContext *s, AVIOContext *pb, AVCodecContext *codec)
438 {
439     uint8_t *header_start[3];
440     int header_len[3];
441     int first_header_size;
442     int j;
443
444     if (codec->codec_id == AV_CODEC_ID_VORBIS)
445         first_header_size = 30;
446     else
447         first_header_size = 42;
448
449     if (avpriv_split_xiph_headers(codec->extradata, codec->extradata_size,
450                               first_header_size, header_start, header_len) < 0) {
451         av_log(s, AV_LOG_ERROR, "Extradata corrupt.\n");
452         return -1;
453     }
454
455     avio_w8(pb, 2);                    // number packets - 1
456     for (j = 0; j < 2; j++) {
457         put_xiph_size(pb, header_len[j]);
458     }
459     for (j = 0; j < 3; j++)
460         avio_write(pb, header_start[j], header_len[j]);
461
462     return 0;
463 }
464
465 static int put_wv_codecpriv(AVIOContext *pb, AVCodecContext *codec)
466 {
467     if (codec->extradata && codec->extradata_size == 2)
468         avio_write(pb, codec->extradata, 2);
469     else
470         avio_wl16(pb, 0x403); // fallback to the version mentioned in matroska specs
471     return 0;
472 }
473
474 static int put_flac_codecpriv(AVFormatContext *s,
475                               AVIOContext *pb, AVCodecContext *codec)
476 {
477     int write_comment = (codec->channel_layout &&
478                          !(codec->channel_layout & ~0x3ffffULL) &&
479                          !ff_flac_is_native_layout(codec->channel_layout));
480     int ret = ff_flac_write_header(pb, codec, !write_comment);
481
482     if (ret < 0)
483         return ret;
484
485     if (write_comment) {
486         const char *vendor = (s->flags & AVFMT_FLAG_BITEXACT) ?
487                              "Libav" : LIBAVFORMAT_IDENT;
488         AVDictionary *dict = NULL;
489         uint8_t buf[32], *data, *p;
490         int len;
491
492         snprintf(buf, sizeof(buf), "0x%"PRIx64, codec->channel_layout);
493         av_dict_set(&dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", buf, 0);
494
495         len = ff_vorbiscomment_length(dict, vendor);
496         data = av_malloc(len + 4);
497         if (!data) {
498             av_dict_free(&dict);
499             return AVERROR(ENOMEM);
500         }
501
502         data[0] = 0x84;
503         AV_WB24(data + 1, len);
504
505         p = data + 4;
506         ff_vorbiscomment_write(&p, &dict, vendor);
507
508         avio_write(pb, data, len + 4);
509
510         av_freep(&data);
511         av_dict_free(&dict);
512     }
513
514     return 0;
515 }
516
517 static void get_aac_sample_rates(AVFormatContext *s, AVCodecContext *codec, int *sample_rate, int *output_sample_rate)
518 {
519     MPEG4AudioConfig mp4ac;
520
521     if (avpriv_mpeg4audio_get_config(&mp4ac, codec->extradata,
522                                      codec->extradata_size * 8, 1) < 0) {
523         av_log(s, AV_LOG_WARNING, "Error parsing AAC extradata, unable to determine samplerate.\n");
524         return;
525     }
526
527     *sample_rate        = mp4ac.sample_rate;
528     *output_sample_rate = mp4ac.ext_sample_rate;
529 }
530
531 static int mkv_write_codecprivate(AVFormatContext *s, AVIOContext *pb, AVCodecContext *codec, int native_id, int qt_id)
532 {
533     AVIOContext *dyn_cp;
534     uint8_t *codecpriv;
535     int ret, codecpriv_size;
536
537     ret = avio_open_dyn_buf(&dyn_cp);
538     if(ret < 0)
539         return ret;
540
541     if (native_id) {
542         if (codec->codec_id == AV_CODEC_ID_VORBIS || codec->codec_id == AV_CODEC_ID_THEORA)
543             ret = put_xiph_codecpriv(s, dyn_cp, codec);
544         else if (codec->codec_id == AV_CODEC_ID_FLAC)
545             ret = put_flac_codecpriv(s, dyn_cp, codec);
546         else if (codec->codec_id == AV_CODEC_ID_WAVPACK)
547             ret = put_wv_codecpriv(dyn_cp, codec);
548         else if (codec->codec_id == AV_CODEC_ID_H264)
549             ret = ff_isom_write_avcc(dyn_cp, codec->extradata, codec->extradata_size);
550         else if (codec->codec_id == AV_CODEC_ID_HEVC)
551             ret = ff_isom_write_hvcc(dyn_cp, codec->extradata, codec->extradata_size, 0);
552         else if (codec->codec_id == AV_CODEC_ID_ALAC) {
553             if (codec->extradata_size < 36) {
554                 av_log(s, AV_LOG_ERROR,
555                        "Invalid extradata found, ALAC expects a 36-byte "
556                        "QuickTime atom.");
557                 ret = AVERROR_INVALIDDATA;
558             } else
559                 avio_write(dyn_cp, codec->extradata + 12,
560                                    codec->extradata_size - 12);
561         }
562         else if (codec->extradata_size)
563             avio_write(dyn_cp, codec->extradata, codec->extradata_size);
564     } else if (codec->codec_type == AVMEDIA_TYPE_VIDEO) {
565         if (qt_id) {
566             if (!codec->codec_tag)
567                 codec->codec_tag = ff_codec_get_tag(ff_codec_movvideo_tags, codec->codec_id);
568             if (codec->extradata_size)
569                 avio_write(dyn_cp, codec->extradata, codec->extradata_size);
570         } else {
571             if (!codec->codec_tag)
572                 codec->codec_tag = ff_codec_get_tag(ff_codec_bmp_tags, codec->codec_id);
573             if (!codec->codec_tag) {
574                 av_log(s, AV_LOG_ERROR, "No bmp codec ID found.\n");
575                 ret = -1;
576             }
577
578             ff_put_bmp_header(dyn_cp, codec, ff_codec_bmp_tags, 0);
579         }
580
581     } else if (codec->codec_type == AVMEDIA_TYPE_AUDIO) {
582         unsigned int tag;
583         tag = ff_codec_get_tag(ff_codec_wav_tags, codec->codec_id);
584         if (!tag) {
585             av_log(s, AV_LOG_ERROR, "No wav codec ID found.\n");
586             ret = -1;
587         }
588         if (!codec->codec_tag)
589             codec->codec_tag = tag;
590
591         ff_put_wav_header(dyn_cp, codec);
592     }
593
594     codecpriv_size = avio_close_dyn_buf(dyn_cp, &codecpriv);
595     if (codecpriv_size)
596         put_ebml_binary(pb, MATROSKA_ID_CODECPRIVATE, codecpriv, codecpriv_size);
597     av_free(codecpriv);
598     return ret;
599 }
600
601 static int mkv_write_tracks(AVFormatContext *s)
602 {
603     MatroskaMuxContext *mkv = s->priv_data;
604     AVIOContext *pb = s->pb;
605     ebml_master tracks;
606     int i, j, ret;
607
608     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_TRACKS, avio_tell(pb));
609     if (ret < 0) return ret;
610
611     tracks = start_ebml_master(pb, MATROSKA_ID_TRACKS, 0);
612     for (i = 0; i < s->nb_streams; i++) {
613         AVStream *st = s->streams[i];
614         AVCodecContext *codec = st->codec;
615         ebml_master subinfo, track;
616         int native_id = 0;
617         int qt_id = 0;
618         int bit_depth = av_get_bits_per_sample(codec->codec_id);
619         int sample_rate = codec->sample_rate;
620         int output_sample_rate = 0;
621         AVDictionaryEntry *tag;
622
623         // ms precision is the de-facto standard timescale for mkv files
624         avpriv_set_pts_info(st, 64, 1, 1000);
625
626         if (codec->codec_type == AVMEDIA_TYPE_ATTACHMENT) {
627             mkv->have_attachments = 1;
628             continue;
629         }
630
631         if (!bit_depth)
632             bit_depth = av_get_bytes_per_sample(codec->sample_fmt) << 3;
633
634         if (codec->codec_id == AV_CODEC_ID_AAC)
635             get_aac_sample_rates(s, codec, &sample_rate, &output_sample_rate);
636
637         track = start_ebml_master(pb, MATROSKA_ID_TRACKENTRY, 0);
638         put_ebml_uint (pb, MATROSKA_ID_TRACKNUMBER     , i + 1);
639         put_ebml_uint (pb, MATROSKA_ID_TRACKUID        , i + 1);
640         put_ebml_uint (pb, MATROSKA_ID_TRACKFLAGLACING , 0);    // no lacing (yet)
641
642         if ((tag = av_dict_get(st->metadata, "title", NULL, 0)))
643             put_ebml_string(pb, MATROSKA_ID_TRACKNAME, tag->value);
644         tag = av_dict_get(st->metadata, "language", NULL, 0);
645         put_ebml_string(pb, MATROSKA_ID_TRACKLANGUAGE, tag ? tag->value:"und");
646
647         // The default value for TRACKFLAGDEFAULT is 1, so add element
648         // if we need to clear it.
649         if (!(st->disposition & AV_DISPOSITION_DEFAULT))
650             put_ebml_uint(pb, MATROSKA_ID_TRACKFLAGDEFAULT, !!(st->disposition & AV_DISPOSITION_DEFAULT));
651
652         if (codec->codec_type == AVMEDIA_TYPE_AUDIO && codec->delay) {
653             mkv->tracks[i].ts_offset = av_rescale_q(codec->delay,
654                                                     (AVRational){ 1, codec->sample_rate },
655                                                     st->time_base);
656
657             put_ebml_uint(pb, MATROSKA_ID_CODECDELAY,
658                           av_rescale_q(codec->delay, (AVRational){ 1, codec->sample_rate },
659                                        (AVRational){ 1, 1000000000 }));
660         }
661
662         // look for a codec ID string specific to mkv to use,
663         // if none are found, use AVI codes
664         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
665             if (ff_mkv_codec_tags[j].id == codec->codec_id) {
666                 put_ebml_string(pb, MATROSKA_ID_CODECID, ff_mkv_codec_tags[j].str);
667                 native_id = 1;
668                 break;
669             }
670         }
671
672         if (mkv->mode == MODE_WEBM && !(codec->codec_id == AV_CODEC_ID_VP8 ||
673                                         codec->codec_id == AV_CODEC_ID_VP9 ||
674                                         codec->codec_id == AV_CODEC_ID_OPUS ||
675                                         codec->codec_id == AV_CODEC_ID_VORBIS)) {
676             av_log(s, AV_LOG_ERROR,
677                    "Only VP8 or VP9 video and Vorbis or Opus audio are supported for WebM.\n");
678             return AVERROR(EINVAL);
679         }
680
681         switch (codec->codec_type) {
682             case AVMEDIA_TYPE_VIDEO:
683                 put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_VIDEO);
684                 if (st->avg_frame_rate.num > 0 && st->avg_frame_rate.den > 0)
685                     put_ebml_uint(pb, MATROSKA_ID_TRACKDEFAULTDURATION, 1E9 / av_q2d(st->avg_frame_rate));
686
687                 if (!native_id &&
688                       ff_codec_get_tag(ff_codec_movvideo_tags, codec->codec_id) &&
689                     (!ff_codec_get_tag(ff_codec_bmp_tags,   codec->codec_id)
690                      || codec->codec_id == AV_CODEC_ID_SVQ1
691                      || codec->codec_id == AV_CODEC_ID_SVQ3
692                      || codec->codec_id == AV_CODEC_ID_CINEPAK))
693                     qt_id = 1;
694
695                 if (qt_id)
696                     put_ebml_string(pb, MATROSKA_ID_CODECID, "V_QUICKTIME");
697                 else if (!native_id) {
698                     // if there is no mkv-specific codec ID, use VFW mode
699                     put_ebml_string(pb, MATROSKA_ID_CODECID, "V_MS/VFW/FOURCC");
700                     mkv->tracks[i].write_dts = 1;
701                 }
702
703                 subinfo = start_ebml_master(pb, MATROSKA_ID_TRACKVIDEO, 0);
704                 // XXX: interlace flag?
705                 put_ebml_uint (pb, MATROSKA_ID_VIDEOPIXELWIDTH , codec->width);
706                 put_ebml_uint (pb, MATROSKA_ID_VIDEOPIXELHEIGHT, codec->height);
707                 if ((tag = av_dict_get(s->metadata, "stereo_mode", NULL, 0))) {
708                     uint8_t stereo_fmt = atoi(tag->value);
709                     int valid_fmt = 0;
710
711                     switch (mkv->mode) {
712                     case MODE_WEBM:
713                         if (stereo_fmt <= MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM
714                             || stereo_fmt == MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT)
715                             valid_fmt = 1;
716                         break;
717                     case MODE_MATROSKAv2:
718                         if (stereo_fmt <= MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL)
719                             valid_fmt = 1;
720                         break;
721                     }
722
723                     if (valid_fmt)
724                         put_ebml_uint (pb, MATROSKA_ID_VIDEOSTEREOMODE, stereo_fmt);
725                 }
726                 if (st->sample_aspect_ratio.num) {
727                     int d_width = codec->width*av_q2d(st->sample_aspect_ratio);
728                     put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYWIDTH , d_width);
729                     put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYHEIGHT, codec->height);
730                     put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYUNIT, 3);
731                 }
732                 end_ebml_master(pb, subinfo);
733                 break;
734
735             case AVMEDIA_TYPE_AUDIO:
736                 put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_AUDIO);
737
738                 if (!native_id)
739                     // no mkv-specific ID, use ACM mode
740                     put_ebml_string(pb, MATROSKA_ID_CODECID, "A_MS/ACM");
741
742                 subinfo = start_ebml_master(pb, MATROSKA_ID_TRACKAUDIO, 0);
743                 put_ebml_uint  (pb, MATROSKA_ID_AUDIOCHANNELS    , codec->channels);
744                 put_ebml_float (pb, MATROSKA_ID_AUDIOSAMPLINGFREQ, sample_rate);
745                 if (output_sample_rate)
746                     put_ebml_float(pb, MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, output_sample_rate);
747                 if (bit_depth)
748                     put_ebml_uint(pb, MATROSKA_ID_AUDIOBITDEPTH, bit_depth);
749                 end_ebml_master(pb, subinfo);
750                 break;
751
752             case AVMEDIA_TYPE_SUBTITLE:
753                 put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_SUBTITLE);
754                 if (!native_id) {
755                     av_log(s, AV_LOG_ERROR, "Subtitle codec %d is not supported.\n", codec->codec_id);
756                     return AVERROR(ENOSYS);
757                 }
758                 break;
759             default:
760                 av_log(s, AV_LOG_ERROR, "Only audio, video, and subtitles are supported for Matroska.\n");
761                 break;
762         }
763         ret = mkv_write_codecprivate(s, pb, codec, native_id, qt_id);
764         if (ret < 0) return ret;
765
766         end_ebml_master(pb, track);
767     }
768     end_ebml_master(pb, tracks);
769     return 0;
770 }
771
772 static int mkv_write_chapters(AVFormatContext *s)
773 {
774     MatroskaMuxContext *mkv = s->priv_data;
775     AVIOContext *pb = s->pb;
776     ebml_master chapters, editionentry;
777     AVRational scale = {1, 1E9};
778     int i, ret;
779
780     if (!s->nb_chapters || mkv->wrote_chapters)
781         return 0;
782
783     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_CHAPTERS, avio_tell(pb));
784     if (ret < 0) return ret;
785
786     chapters     = start_ebml_master(pb, MATROSKA_ID_CHAPTERS    , 0);
787     editionentry = start_ebml_master(pb, MATROSKA_ID_EDITIONENTRY, 0);
788     put_ebml_uint(pb, MATROSKA_ID_EDITIONFLAGDEFAULT, 1);
789     put_ebml_uint(pb, MATROSKA_ID_EDITIONFLAGHIDDEN , 0);
790     for (i = 0; i < s->nb_chapters; i++) {
791         ebml_master chapteratom, chapterdisplay;
792         AVChapter *c     = s->chapters[i];
793         AVDictionaryEntry *t = NULL;
794
795         chapteratom = start_ebml_master(pb, MATROSKA_ID_CHAPTERATOM, 0);
796         put_ebml_uint(pb, MATROSKA_ID_CHAPTERUID, c->id);
797         put_ebml_uint(pb, MATROSKA_ID_CHAPTERTIMESTART,
798                       av_rescale_q(c->start, c->time_base, scale));
799         put_ebml_uint(pb, MATROSKA_ID_CHAPTERTIMEEND,
800                       av_rescale_q(c->end,   c->time_base, scale));
801         put_ebml_uint(pb, MATROSKA_ID_CHAPTERFLAGHIDDEN , 0);
802         put_ebml_uint(pb, MATROSKA_ID_CHAPTERFLAGENABLED, 1);
803         if ((t = av_dict_get(c->metadata, "title", NULL, 0))) {
804             chapterdisplay = start_ebml_master(pb, MATROSKA_ID_CHAPTERDISPLAY, 0);
805             put_ebml_string(pb, MATROSKA_ID_CHAPSTRING, t->value);
806             put_ebml_string(pb, MATROSKA_ID_CHAPLANG  , "und");
807             end_ebml_master(pb, chapterdisplay);
808         }
809         end_ebml_master(pb, chapteratom);
810     }
811     end_ebml_master(pb, editionentry);
812     end_ebml_master(pb, chapters);
813
814     mkv->wrote_chapters = 1;
815     return 0;
816 }
817
818 static void mkv_write_simpletag(AVIOContext *pb, AVDictionaryEntry *t)
819 {
820     uint8_t *key = av_strdup(t->key);
821     uint8_t *p   = key;
822     const uint8_t *lang = NULL;
823     ebml_master tag;
824
825     if ((p = strrchr(p, '-')) &&
826         (lang = av_convert_lang_to(p + 1, AV_LANG_ISO639_2_BIBL)))
827         *p = 0;
828
829     p = key;
830     while (*p) {
831         if (*p == ' ')
832             *p = '_';
833         else if (*p >= 'a' && *p <= 'z')
834             *p -= 'a' - 'A';
835         p++;
836     }
837
838     tag = start_ebml_master(pb, MATROSKA_ID_SIMPLETAG, 0);
839     put_ebml_string(pb, MATROSKA_ID_TAGNAME, key);
840     if (lang)
841         put_ebml_string(pb, MATROSKA_ID_TAGLANG, lang);
842     put_ebml_string(pb, MATROSKA_ID_TAGSTRING, t->value);
843     end_ebml_master(pb, tag);
844
845     av_freep(&key);
846 }
847
848 static int mkv_write_tag(AVFormatContext *s, AVDictionary *m, unsigned int elementid,
849                          unsigned int uid, ebml_master *tags)
850 {
851     MatroskaMuxContext *mkv = s->priv_data;
852     ebml_master tag, targets;
853     AVDictionaryEntry *t = NULL;
854     int ret;
855
856     if (!tags->pos) {
857         ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_TAGS, avio_tell(s->pb));
858         if (ret < 0) return ret;
859
860         *tags = start_ebml_master(s->pb, MATROSKA_ID_TAGS, 0);
861     }
862
863     tag     = start_ebml_master(s->pb, MATROSKA_ID_TAG,        0);
864     targets = start_ebml_master(s->pb, MATROSKA_ID_TAGTARGETS, 0);
865     if (elementid)
866         put_ebml_uint(s->pb, elementid, uid);
867     end_ebml_master(s->pb, targets);
868
869     while ((t = av_dict_get(m, "", t, AV_DICT_IGNORE_SUFFIX)))
870         if (av_strcasecmp(t->key, "title") &&
871             av_strcasecmp(t->key, "encoding_tool"))
872             mkv_write_simpletag(s->pb, t);
873
874     end_ebml_master(s->pb, tag);
875     return 0;
876 }
877
878 static int mkv_write_tags(AVFormatContext *s)
879 {
880     ebml_master tags = {0};
881     int i, ret;
882
883     ff_metadata_conv_ctx(s, ff_mkv_metadata_conv, NULL);
884
885     if (av_dict_get(s->metadata, "", NULL, AV_DICT_IGNORE_SUFFIX)) {
886         ret = mkv_write_tag(s, s->metadata, 0, 0, &tags);
887         if (ret < 0) return ret;
888     }
889
890     for (i = 0; i < s->nb_streams; i++) {
891         AVStream *st = s->streams[i];
892
893         if (!av_dict_get(st->metadata, "", 0, AV_DICT_IGNORE_SUFFIX))
894             continue;
895
896         ret = mkv_write_tag(s, st->metadata, MATROSKA_ID_TAGTARGETS_TRACKUID, i + 1, &tags);
897         if (ret < 0) return ret;
898     }
899
900     for (i = 0; i < s->nb_chapters; i++) {
901         AVChapter *ch = s->chapters[i];
902
903         if (!av_dict_get(ch->metadata, "", NULL, AV_DICT_IGNORE_SUFFIX))
904             continue;
905
906         ret = mkv_write_tag(s, ch->metadata, MATROSKA_ID_TAGTARGETS_CHAPTERUID, ch->id, &tags);
907         if (ret < 0) return ret;
908     }
909
910     if (tags.pos)
911         end_ebml_master(s->pb, tags);
912     return 0;
913 }
914
915 static int mkv_write_attachments(AVFormatContext *s)
916 {
917     MatroskaMuxContext *mkv = s->priv_data;
918     AVIOContext *pb = s->pb;
919     ebml_master attachments;
920     AVLFG c;
921     int i, ret;
922
923     if (!mkv->have_attachments)
924         return 0;
925
926     av_lfg_init(&c, av_get_random_seed());
927
928     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_ATTACHMENTS, avio_tell(pb));
929     if (ret < 0) return ret;
930
931     attachments = start_ebml_master(pb, MATROSKA_ID_ATTACHMENTS, 0);
932
933     for (i = 0; i < s->nb_streams; i++) {
934         AVStream *st = s->streams[i];
935         ebml_master attached_file;
936         AVDictionaryEntry *t;
937         const char *mimetype = NULL;
938
939         if (st->codec->codec_type != AVMEDIA_TYPE_ATTACHMENT)
940             continue;
941
942         attached_file = start_ebml_master(pb, MATROSKA_ID_ATTACHEDFILE, 0);
943
944         if (t = av_dict_get(st->metadata, "title", NULL, 0))
945             put_ebml_string(pb, MATROSKA_ID_FILEDESC, t->value);
946         if (!(t = av_dict_get(st->metadata, "filename", NULL, 0))) {
947             av_log(s, AV_LOG_ERROR, "Attachment stream %d has no filename tag.\n", i);
948             return AVERROR(EINVAL);
949         }
950         put_ebml_string(pb, MATROSKA_ID_FILENAME, t->value);
951         if (t = av_dict_get(st->metadata, "mimetype", NULL, 0))
952             mimetype = t->value;
953         else if (st->codec->codec_id != AV_CODEC_ID_NONE ) {
954             int i;
955             for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++)
956                 if (ff_mkv_mime_tags[i].id == st->codec->codec_id) {
957                     mimetype = ff_mkv_mime_tags[i].str;
958                     break;
959                 }
960         }
961         if (!mimetype) {
962             av_log(s, AV_LOG_ERROR, "Attachment stream %d has no mimetype tag and "
963                                     "it cannot be deduced from the codec id.\n", i);
964             return AVERROR(EINVAL);
965         }
966
967         put_ebml_string(pb, MATROSKA_ID_FILEMIMETYPE, mimetype);
968         put_ebml_binary(pb, MATROSKA_ID_FILEDATA, st->codec->extradata, st->codec->extradata_size);
969         put_ebml_uint(pb, MATROSKA_ID_FILEUID, av_lfg_get(&c));
970         end_ebml_master(pb, attached_file);
971     }
972     end_ebml_master(pb, attachments);
973
974     return 0;
975 }
976
977 static int mkv_write_header(AVFormatContext *s)
978 {
979     MatroskaMuxContext *mkv = s->priv_data;
980     AVIOContext *pb = s->pb;
981     ebml_master ebml_header, segment_info;
982     AVDictionaryEntry *tag;
983     int ret, i;
984
985     if (!strcmp(s->oformat->name, "webm")) mkv->mode = MODE_WEBM;
986     else                                   mkv->mode = MODE_MATROSKAv2;
987
988     mkv->tracks = av_mallocz(s->nb_streams * sizeof(*mkv->tracks));
989     if (!mkv->tracks)
990         return AVERROR(ENOMEM);
991
992     ebml_header = start_ebml_master(pb, EBML_ID_HEADER, 0);
993     put_ebml_uint   (pb, EBML_ID_EBMLVERSION        ,           1);
994     put_ebml_uint   (pb, EBML_ID_EBMLREADVERSION    ,           1);
995     put_ebml_uint   (pb, EBML_ID_EBMLMAXIDLENGTH    ,           4);
996     put_ebml_uint   (pb, EBML_ID_EBMLMAXSIZELENGTH  ,           8);
997     put_ebml_string (pb, EBML_ID_DOCTYPE            , s->oformat->name);
998     put_ebml_uint   (pb, EBML_ID_DOCTYPEVERSION     ,           2);
999     put_ebml_uint   (pb, EBML_ID_DOCTYPEREADVERSION ,           2);
1000     end_ebml_master(pb, ebml_header);
1001
1002     mkv->segment = start_ebml_master(pb, MATROSKA_ID_SEGMENT, 0);
1003     mkv->segment_offset = avio_tell(pb);
1004
1005     // we write 2 seek heads - one at the end of the file to point to each
1006     // cluster, and one at the beginning to point to all other level one
1007     // elements (including the seek head at the end of the file), which
1008     // isn't more than 10 elements if we only write one of each other
1009     // currently defined level 1 element
1010     mkv->main_seekhead    = mkv_start_seekhead(pb, mkv->segment_offset, 10);
1011     if (!mkv->main_seekhead)
1012         return AVERROR(ENOMEM);
1013
1014     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_INFO, avio_tell(pb));
1015     if (ret < 0) return ret;
1016
1017     segment_info = start_ebml_master(pb, MATROSKA_ID_INFO, 0);
1018     put_ebml_uint(pb, MATROSKA_ID_TIMECODESCALE, 1000000);
1019     if ((tag = av_dict_get(s->metadata, "title", NULL, 0)))
1020         put_ebml_string(pb, MATROSKA_ID_TITLE, tag->value);
1021     if (!(s->flags & AVFMT_FLAG_BITEXACT)) {
1022         uint32_t segment_uid[4];
1023         AVLFG lfg;
1024
1025         av_lfg_init(&lfg, av_get_random_seed());
1026
1027         for (i = 0; i < 4; i++)
1028             segment_uid[i] = av_lfg_get(&lfg);
1029
1030         put_ebml_string(pb, MATROSKA_ID_MUXINGAPP , LIBAVFORMAT_IDENT);
1031         if ((tag = av_dict_get(s->metadata, "encoding_tool", NULL, 0)))
1032             put_ebml_string(pb, MATROSKA_ID_WRITINGAPP, tag->value);
1033         else
1034             put_ebml_string(pb, MATROSKA_ID_WRITINGAPP, LIBAVFORMAT_IDENT);
1035         put_ebml_binary(pb, MATROSKA_ID_SEGMENTUID, segment_uid, 16);
1036     }
1037
1038     // reserve space for the duration
1039     mkv->duration = 0;
1040     mkv->duration_offset = avio_tell(pb);
1041     put_ebml_void(pb, 11);                  // assumes double-precision float to be written
1042     end_ebml_master(pb, segment_info);
1043
1044     ret = mkv_write_tracks(s);
1045     if (ret < 0) return ret;
1046
1047     if (mkv->mode != MODE_WEBM) {
1048         ret = mkv_write_chapters(s);
1049         if (ret < 0) return ret;
1050
1051         ret = mkv_write_tags(s);
1052         if (ret < 0) return ret;
1053
1054         ret = mkv_write_attachments(s);
1055         if (ret < 0) return ret;
1056     }
1057
1058     if (!s->pb->seekable)
1059         mkv_write_seekhead(pb, mkv->main_seekhead);
1060
1061     mkv->cues = mkv_start_cues(mkv->segment_offset);
1062     if (mkv->cues == NULL)
1063         return AVERROR(ENOMEM);
1064
1065     if (pb->seekable && mkv->reserve_cues_space) {
1066         mkv->cues_pos = avio_tell(pb);
1067         put_ebml_void(pb, mkv->reserve_cues_space);
1068     }
1069
1070     av_init_packet(&mkv->cur_audio_pkt);
1071     mkv->cur_audio_pkt.size = 0;
1072
1073     avio_flush(pb);
1074
1075     // start a new cluster every 5 MB or 5 sec, or 32k / 1 sec for streaming or
1076     // after 4k and on a keyframe
1077     if (pb->seekable) {
1078         if (mkv->cluster_time_limit < 0)
1079             mkv->cluster_time_limit = 5000;
1080         if (mkv->cluster_size_limit < 0)
1081             mkv->cluster_size_limit = 5 * 1024 * 1024;
1082     } else {
1083         if (mkv->cluster_time_limit < 0)
1084             mkv->cluster_time_limit = 1000;
1085         if (mkv->cluster_size_limit < 0)
1086             mkv->cluster_size_limit = 32 * 1024;
1087     }
1088
1089     return 0;
1090 }
1091
1092 static int mkv_blockgroup_size(int pkt_size)
1093 {
1094     int size = pkt_size + 4;
1095     size += ebml_num_size(size);
1096     size += 2;              // EBML ID for block and block duration
1097     size += 8;              // max size of block duration
1098     size += ebml_num_size(size);
1099     size += 1;              // blockgroup EBML ID
1100     return size;
1101 }
1102
1103 static int ass_get_duration(const uint8_t *p)
1104 {
1105     int sh, sm, ss, sc, eh, em, es, ec;
1106     uint64_t start, end;
1107
1108     if (sscanf(p, "%*[^,],%d:%d:%d%*c%d,%d:%d:%d%*c%d",
1109                &sh, &sm, &ss, &sc, &eh, &em, &es, &ec) != 8)
1110         return 0;
1111     start = 3600000*sh + 60000*sm + 1000*ss + 10*sc;
1112     end   = 3600000*eh + 60000*em + 1000*es + 10*ec;
1113     return end - start;
1114 }
1115
1116 static int mkv_write_ass_blocks(AVFormatContext *s, AVIOContext *pb, AVPacket *pkt)
1117 {
1118     MatroskaMuxContext *mkv = s->priv_data;
1119     int i, layer = 0, max_duration = 0, size, line_size, data_size = pkt->size;
1120     uint8_t *start, *end, *data = pkt->data;
1121     ebml_master blockgroup;
1122     char buffer[2048];
1123
1124     while (data_size) {
1125         int duration = ass_get_duration(data);
1126         max_duration = FFMAX(duration, max_duration);
1127         end = memchr(data, '\n', data_size);
1128         size = line_size = end ? end-data+1 : data_size;
1129         size -= end ? (end[-1]=='\r')+1 : 0;
1130         start = data;
1131         for (i=0; i<3; i++, start++)
1132             if (!(start = memchr(start, ',', size-(start-data))))
1133                 return max_duration;
1134         size -= start - data;
1135         sscanf(data, "Dialogue: %d,", &layer);
1136         i = snprintf(buffer, sizeof(buffer), "%"PRId64",%d,",
1137                      s->streams[pkt->stream_index]->nb_frames, layer);
1138         size = FFMIN(i+size, sizeof(buffer));
1139         memcpy(buffer+i, start, size-i);
1140
1141         av_log(s, AV_LOG_DEBUG, "Writing block at offset %" PRIu64 ", size %d, "
1142                "pts %" PRId64 ", duration %d\n",
1143                avio_tell(pb), size, pkt->pts, duration);
1144         blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP, mkv_blockgroup_size(size));
1145         put_ebml_id(pb, MATROSKA_ID_BLOCK);
1146         put_ebml_num(pb, size+4, 0);
1147         avio_w8(pb, 0x80 | (pkt->stream_index + 1));     // this assumes stream_index is less than 126
1148         avio_wb16(pb, pkt->pts - mkv->cluster_pts);
1149         avio_w8(pb, 0);
1150         avio_write(pb, buffer, size);
1151         put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1152         end_ebml_master(pb, blockgroup);
1153
1154         data += line_size;
1155         data_size -= line_size;
1156     }
1157
1158     return max_duration;
1159 }
1160
1161 static int mkv_strip_wavpack(const uint8_t *src, uint8_t **pdst, int *size)
1162 {
1163     uint8_t *dst;
1164     int srclen = *size;
1165     int offset = 0;
1166     int ret;
1167
1168     dst = av_malloc(srclen);
1169     if (!dst)
1170         return AVERROR(ENOMEM);
1171
1172     while (srclen >= WV_HEADER_SIZE) {
1173         WvHeader header;
1174
1175         ret = ff_wv_parse_header(&header, src);
1176         if (ret < 0)
1177             goto fail;
1178         src    += WV_HEADER_SIZE;
1179         srclen -= WV_HEADER_SIZE;
1180
1181         if (srclen < header.blocksize) {
1182             ret = AVERROR_INVALIDDATA;
1183             goto fail;
1184         }
1185
1186         if (header.initial) {
1187             AV_WL32(dst + offset, header.samples);
1188             offset += 4;
1189         }
1190         AV_WL32(dst + offset,     header.flags);
1191         AV_WL32(dst + offset + 4, header.crc);
1192         offset += 8;
1193
1194         if (!(header.initial && header.final)) {
1195             AV_WL32(dst + offset, header.blocksize);
1196             offset += 4;
1197         }
1198
1199         memcpy(dst + offset, src, header.blocksize);
1200         src    += header.blocksize;
1201         srclen -= header.blocksize;
1202         offset += header.blocksize;
1203     }
1204
1205     *pdst = dst;
1206     *size = offset;
1207
1208     return 0;
1209 fail:
1210     av_freep(&dst);
1211     return ret;
1212 }
1213
1214 static void mkv_write_block(AVFormatContext *s, AVIOContext *pb,
1215                             unsigned int blockid, AVPacket *pkt, int flags)
1216 {
1217     MatroskaMuxContext *mkv = s->priv_data;
1218     AVCodecContext *codec = s->streams[pkt->stream_index]->codec;
1219     uint8_t *data = NULL;
1220     int offset = 0, size = pkt->size;
1221     int64_t ts = mkv->tracks[pkt->stream_index].write_dts ? pkt->dts : pkt->pts;
1222
1223     av_log(s, AV_LOG_DEBUG, "Writing block at offset %" PRIu64 ", size %d, "
1224            "pts %" PRId64 ", dts %" PRId64 ", duration %d, flags %d\n",
1225            avio_tell(pb), pkt->size, pkt->pts, pkt->dts, pkt->duration, flags);
1226     if (codec->codec_id == AV_CODEC_ID_H264 && codec->extradata_size > 0 &&
1227         (AV_RB24(codec->extradata) == 1 || AV_RB32(codec->extradata) == 1))
1228         ff_avc_parse_nal_units_buf(pkt->data, &data, &size);
1229     else if (codec->codec_id == AV_CODEC_ID_HEVC && codec->extradata_size > 6 &&
1230              (AV_RB24(codec->extradata) == 1 || AV_RB32(codec->extradata) == 1))
1231         /* extradata is Annex B, assume the bitstream is too and convert it */
1232         ff_hevc_annexb2mp4_buf(pkt->data, &data, &size, 0, NULL);
1233     else if (codec->codec_id == AV_CODEC_ID_WAVPACK) {
1234         int ret = mkv_strip_wavpack(pkt->data, &data, &size);
1235         if (ret < 0) {
1236             av_log(s, AV_LOG_ERROR, "Error stripping a WavPack packet.\n");
1237             return;
1238         }
1239     } else
1240         data = pkt->data;
1241
1242     if (codec->codec_id == AV_CODEC_ID_PRORES) {
1243         /* Matroska specification requires to remove the first QuickTime atom
1244          */
1245         size -= 8;
1246         offset = 8;
1247     }
1248
1249     put_ebml_id(pb, blockid);
1250     put_ebml_num(pb, size+4, 0);
1251     avio_w8(pb, 0x80 | (pkt->stream_index + 1));     // this assumes stream_index is less than 126
1252     avio_wb16(pb, ts - mkv->cluster_pts);
1253     avio_w8(pb, flags);
1254     avio_write(pb, data + offset, size);
1255     if (data != pkt->data)
1256         av_free(data);
1257 }
1258
1259 static int srt_get_duration(uint8_t **buf)
1260 {
1261     int i, duration = 0;
1262
1263     for (i=0; i<2 && !duration; i++) {
1264         int s_hour, s_min, s_sec, s_hsec, e_hour, e_min, e_sec, e_hsec;
1265         if (sscanf(*buf, "%d:%2d:%2d%*1[,.]%3d --> %d:%2d:%2d%*1[,.]%3d",
1266                    &s_hour, &s_min, &s_sec, &s_hsec,
1267                    &e_hour, &e_min, &e_sec, &e_hsec) == 8) {
1268             s_min  +=   60*s_hour;      e_min  +=   60*e_hour;
1269             s_sec  +=   60*s_min;       e_sec  +=   60*e_min;
1270             s_hsec += 1000*s_sec;       e_hsec += 1000*e_sec;
1271             duration = e_hsec - s_hsec;
1272         }
1273         *buf += strcspn(*buf, "\n") + 1;
1274     }
1275     return duration;
1276 }
1277
1278 static int mkv_write_srt_blocks(AVFormatContext *s, AVIOContext *pb, AVPacket *pkt)
1279 {
1280     ebml_master blockgroup;
1281     AVPacket pkt2 = *pkt;
1282     int64_t duration = srt_get_duration(&pkt2.data);
1283     pkt2.size -= pkt2.data - pkt->data;
1284
1285     blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP,
1286                                    mkv_blockgroup_size(pkt2.size));
1287     mkv_write_block(s, pb, MATROSKA_ID_BLOCK, &pkt2, 0);
1288     put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1289     end_ebml_master(pb, blockgroup);
1290
1291     return duration;
1292 }
1293
1294 static void mkv_flush_dynbuf(AVFormatContext *s)
1295 {
1296     MatroskaMuxContext *mkv = s->priv_data;
1297     int bufsize;
1298     uint8_t *dyn_buf;
1299
1300     if (!mkv->dyn_bc)
1301         return;
1302
1303     bufsize = avio_close_dyn_buf(mkv->dyn_bc, &dyn_buf);
1304     avio_write(s->pb, dyn_buf, bufsize);
1305     av_free(dyn_buf);
1306     mkv->dyn_bc = NULL;
1307 }
1308
1309 static int mkv_write_packet_internal(AVFormatContext *s, AVPacket *pkt)
1310 {
1311     MatroskaMuxContext *mkv = s->priv_data;
1312     AVIOContext *pb = s->pb;
1313     AVCodecContext *codec = s->streams[pkt->stream_index]->codec;
1314     int keyframe = !!(pkt->flags & AV_PKT_FLAG_KEY);
1315     int duration = pkt->duration;
1316     int ret;
1317     int64_t ts = mkv->tracks[pkt->stream_index].write_dts ? pkt->dts : pkt->pts;
1318
1319     if (ts == AV_NOPTS_VALUE) {
1320         av_log(s, AV_LOG_ERROR, "Can't write packet with unknown timestamp\n");
1321         return AVERROR(EINVAL);
1322     }
1323     ts += mkv->tracks[pkt->stream_index].ts_offset;
1324
1325     if (!s->pb->seekable) {
1326         if (!mkv->dyn_bc)
1327             avio_open_dyn_buf(&mkv->dyn_bc);
1328         pb = mkv->dyn_bc;
1329     }
1330
1331     if (!mkv->cluster_pos) {
1332         mkv->cluster_pos = avio_tell(s->pb);
1333         mkv->cluster = start_ebml_master(pb, MATROSKA_ID_CLUSTER, 0);
1334         put_ebml_uint(pb, MATROSKA_ID_CLUSTERTIMECODE, FFMAX(0, ts));
1335         mkv->cluster_pts = FFMAX(0, ts);
1336     }
1337
1338     if (codec->codec_type != AVMEDIA_TYPE_SUBTITLE) {
1339         mkv_write_block(s, pb, MATROSKA_ID_SIMPLEBLOCK, pkt, keyframe << 7);
1340     } else if (codec->codec_id == AV_CODEC_ID_SSA) {
1341         duration = mkv_write_ass_blocks(s, pb, pkt);
1342     } else if (codec->codec_id == AV_CODEC_ID_SRT) {
1343         duration = mkv_write_srt_blocks(s, pb, pkt);
1344     } else {
1345         ebml_master blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP, mkv_blockgroup_size(pkt->size));
1346         duration = pkt->convergence_duration;
1347         mkv_write_block(s, pb, MATROSKA_ID_BLOCK, pkt, 0);
1348         put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1349         end_ebml_master(pb, blockgroup);
1350     }
1351
1352     if (codec->codec_type == AVMEDIA_TYPE_VIDEO && keyframe) {
1353         ret = mkv_add_cuepoint(mkv->cues, pkt->stream_index, ts, mkv->cluster_pos);
1354         if (ret < 0) return ret;
1355     }
1356
1357     mkv->duration = FFMAX(mkv->duration, ts + duration);
1358     return 0;
1359 }
1360
1361 static int mkv_write_packet(AVFormatContext *s, AVPacket *pkt)
1362 {
1363     MatroskaMuxContext *mkv = s->priv_data;
1364     int codec_type          = s->streams[pkt->stream_index]->codec->codec_type;
1365     int keyframe            = !!(pkt->flags & AV_PKT_FLAG_KEY);
1366     int cluster_size;
1367     int64_t cluster_time;
1368     AVIOContext *pb;
1369     int ret;
1370
1371     if (mkv->tracks[pkt->stream_index].write_dts)
1372         cluster_time = pkt->dts - mkv->cluster_pts;
1373     else
1374         cluster_time = pkt->pts - mkv->cluster_pts;
1375     cluster_time += mkv->tracks[pkt->stream_index].ts_offset;
1376
1377     // start a new cluster every 5 MB or 5 sec, or 32k / 1 sec for streaming or
1378     // after 4k and on a keyframe
1379     if (s->pb->seekable) {
1380         pb = s->pb;
1381         cluster_size = avio_tell(pb) - mkv->cluster_pos;
1382     } else {
1383         pb = mkv->dyn_bc;
1384         cluster_size = avio_tell(pb);
1385     }
1386
1387     if (mkv->cluster_pos &&
1388         (cluster_size > mkv->cluster_size_limit ||
1389          cluster_time > mkv->cluster_time_limit ||
1390          (codec_type == AVMEDIA_TYPE_VIDEO && keyframe &&
1391           cluster_size > 4 * 1024))) {
1392         av_log(s, AV_LOG_DEBUG, "Starting new cluster at offset %" PRIu64
1393                " bytes, pts %" PRIu64 "dts %" PRIu64 "\n",
1394                avio_tell(pb), pkt->pts, pkt->dts);
1395         end_ebml_master(pb, mkv->cluster);
1396         mkv->cluster_pos = 0;
1397         if (mkv->dyn_bc)
1398             mkv_flush_dynbuf(s);
1399         avio_flush(s->pb);
1400     }
1401
1402     // check if we have an audio packet cached
1403     if (mkv->cur_audio_pkt.size > 0) {
1404         ret = mkv_write_packet_internal(s, &mkv->cur_audio_pkt);
1405         av_free_packet(&mkv->cur_audio_pkt);
1406         if (ret < 0) {
1407             av_log(s, AV_LOG_ERROR, "Could not write cached audio packet ret:%d\n", ret);
1408             return ret;
1409         }
1410     }
1411
1412     // buffer an audio packet to ensure the packet containing the video
1413     // keyframe's timecode is contained in the same cluster for WebM
1414     if (codec_type == AVMEDIA_TYPE_AUDIO) {
1415         mkv->cur_audio_pkt = *pkt;
1416         if (pkt->buf) {
1417             mkv->cur_audio_pkt.buf = av_buffer_ref(pkt->buf);
1418             ret = mkv->cur_audio_pkt.buf ? 0 : AVERROR(ENOMEM);
1419         } else
1420             ret = av_dup_packet(&mkv->cur_audio_pkt);
1421     } else
1422         ret = mkv_write_packet_internal(s, pkt);
1423     return ret;
1424 }
1425
1426 static int mkv_write_flush_packet(AVFormatContext *s, AVPacket *pkt)
1427 {
1428     MatroskaMuxContext *mkv = s->priv_data;
1429     AVIOContext *pb;
1430     if (s->pb->seekable)
1431         pb = s->pb;
1432     else
1433         pb = mkv->dyn_bc;
1434     if (!pkt) {
1435         if (mkv->cluster_pos) {
1436             av_log(s, AV_LOG_DEBUG, "Flushing cluster at offset %" PRIu64
1437                    " bytes\n", avio_tell(pb));
1438             end_ebml_master(pb, mkv->cluster);
1439             mkv->cluster_pos = 0;
1440             if (mkv->dyn_bc)
1441                 mkv_flush_dynbuf(s);
1442             avio_flush(s->pb);
1443         }
1444         return 0;
1445     }
1446     return mkv_write_packet(s, pkt);
1447 }
1448
1449 static int mkv_write_trailer(AVFormatContext *s)
1450 {
1451     MatroskaMuxContext *mkv = s->priv_data;
1452     AVIOContext *pb = s->pb;
1453     int64_t currentpos, cuespos;
1454     int ret;
1455
1456     // check if we have an audio packet cached
1457     if (mkv->cur_audio_pkt.size > 0) {
1458         ret = mkv_write_packet_internal(s, &mkv->cur_audio_pkt);
1459         av_free_packet(&mkv->cur_audio_pkt);
1460         if (ret < 0) {
1461             av_log(s, AV_LOG_ERROR, "Could not write cached audio packet ret:%d\n", ret);
1462             return ret;
1463         }
1464     }
1465
1466     if (mkv->dyn_bc) {
1467         end_ebml_master(mkv->dyn_bc, mkv->cluster);
1468         mkv_flush_dynbuf(s);
1469     } else if (mkv->cluster_pos) {
1470         end_ebml_master(pb, mkv->cluster);
1471     }
1472
1473     if (mkv->mode != MODE_WEBM) {
1474         ret = mkv_write_chapters(s);
1475         if (ret < 0) return ret;
1476     }
1477
1478     if (pb->seekable) {
1479         if (mkv->cues->num_entries) {
1480             if (mkv->reserve_cues_space) {
1481                 int64_t cues_end;
1482
1483                 currentpos = avio_tell(pb);
1484                 avio_seek(pb, mkv->cues_pos, SEEK_SET);
1485
1486                 cuespos = mkv_write_cues(pb, mkv->cues, s->nb_streams);
1487                 cues_end = avio_tell(pb);
1488                 if (cues_end > cuespos + mkv->reserve_cues_space) {
1489                     av_log(s, AV_LOG_ERROR, "Insufficient space reserved for cues: %d "
1490                            "(needed: %"PRId64").\n", mkv->reserve_cues_space,
1491                            cues_end - cuespos);
1492                     return AVERROR(EINVAL);
1493                 }
1494
1495                 if (cues_end < cuespos + mkv->reserve_cues_space)
1496                     put_ebml_void(pb, mkv->reserve_cues_space - (cues_end - cuespos));
1497
1498                 avio_seek(pb, currentpos, SEEK_SET);
1499             } else {
1500                 cuespos = mkv_write_cues(pb, mkv->cues, s->nb_streams);
1501             }
1502
1503             ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_CUES, cuespos);
1504             if (ret < 0) return ret;
1505         }
1506
1507         mkv_write_seekhead(pb, mkv->main_seekhead);
1508
1509         // update the duration
1510         av_log(s, AV_LOG_DEBUG, "end duration = %" PRIu64 "\n", mkv->duration);
1511         currentpos = avio_tell(pb);
1512         avio_seek(pb, mkv->duration_offset, SEEK_SET);
1513         put_ebml_float(pb, MATROSKA_ID_DURATION, mkv->duration);
1514
1515         avio_seek(pb, currentpos, SEEK_SET);
1516     }
1517
1518     end_ebml_master(pb, mkv->segment);
1519     av_free(mkv->tracks);
1520     av_freep(&mkv->cues->entries);
1521     av_freep(&mkv->cues);
1522
1523     return 0;
1524 }
1525
1526 static int mkv_query_codec(enum AVCodecID codec_id, int std_compliance)
1527 {
1528     int i;
1529     for (i = 0; ff_mkv_codec_tags[i].id != AV_CODEC_ID_NONE; i++)
1530         if (ff_mkv_codec_tags[i].id == codec_id)
1531             return 1;
1532
1533     if (std_compliance < FF_COMPLIANCE_NORMAL) {                // mkv theoretically supports any
1534         enum AVMediaType type = avcodec_get_type(codec_id);     // video/audio through VFW/ACM
1535         if (type == AVMEDIA_TYPE_VIDEO || type == AVMEDIA_TYPE_AUDIO)
1536             return 1;
1537     }
1538
1539     return 0;
1540 }
1541
1542 #define OFFSET(x) offsetof(MatroskaMuxContext, x)
1543 #define FLAGS AV_OPT_FLAG_ENCODING_PARAM
1544 static const AVOption options[] = {
1545     { "reserve_index_space", "Reserve a given amount of space (in bytes) at the beginning of the file for the index (cues).", OFFSET(reserve_cues_space), AV_OPT_TYPE_INT,   { .i64 = 0 },   0, INT_MAX,   FLAGS },
1546     { "cluster_size_limit",  "Store at most the provided amount of bytes in a cluster. ",                                     OFFSET(cluster_size_limit), AV_OPT_TYPE_INT  , { .i64 = -1 }, -1, INT_MAX,   FLAGS },
1547     { "cluster_time_limit",  "Store at most the provided number of milliseconds in a cluster.",                               OFFSET(cluster_time_limit), AV_OPT_TYPE_INT64, { .i64 = -1 }, -1, INT64_MAX, FLAGS },
1548     { NULL },
1549 };
1550
1551 #if CONFIG_MATROSKA_MUXER
1552 static const AVClass matroska_class = {
1553     .class_name = "matroska muxer",
1554     .item_name  = av_default_item_name,
1555     .option     = options,
1556     .version    = LIBAVUTIL_VERSION_INT,
1557 };
1558
1559 AVOutputFormat ff_matroska_muxer = {
1560     .name              = "matroska",
1561     .long_name         = NULL_IF_CONFIG_SMALL("Matroska"),
1562     .mime_type         = "video/x-matroska",
1563     .extensions        = "mkv",
1564     .priv_data_size    = sizeof(MatroskaMuxContext),
1565     .audio_codec       = CONFIG_LIBVORBIS_ENCODER ?
1566                          AV_CODEC_ID_VORBIS : AV_CODEC_ID_AC3,
1567     .video_codec       = CONFIG_LIBX264_ENCODER ?
1568                          AV_CODEC_ID_H264 : AV_CODEC_ID_MPEG4,
1569     .write_header      = mkv_write_header,
1570     .write_packet      = mkv_write_flush_packet,
1571     .write_trailer     = mkv_write_trailer,
1572     .flags             = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |
1573                          AVFMT_TS_NONSTRICT | AVFMT_ALLOW_FLUSH,
1574     .codec_tag         = (const AVCodecTag* const []){
1575          ff_codec_bmp_tags, ff_codec_wav_tags, 0
1576     },
1577     .subtitle_codec    = AV_CODEC_ID_SSA,
1578     .query_codec       = mkv_query_codec,
1579     .priv_class        = &matroska_class,
1580 };
1581 #endif
1582
1583 #if CONFIG_WEBM_MUXER
1584 static const AVClass webm_class = {
1585     .class_name = "webm muxer",
1586     .item_name  = av_default_item_name,
1587     .option     = options,
1588     .version    = LIBAVUTIL_VERSION_INT,
1589 };
1590
1591 AVOutputFormat ff_webm_muxer = {
1592     .name              = "webm",
1593     .long_name         = NULL_IF_CONFIG_SMALL("WebM"),
1594     .mime_type         = "video/webm",
1595     .extensions        = "webm",
1596     .priv_data_size    = sizeof(MatroskaMuxContext),
1597     .audio_codec       = AV_CODEC_ID_VORBIS,
1598     .video_codec       = AV_CODEC_ID_VP8,
1599     .write_header      = mkv_write_header,
1600     .write_packet      = mkv_write_flush_packet,
1601     .write_trailer     = mkv_write_trailer,
1602     .flags             = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |
1603                          AVFMT_TS_NONSTRICT | AVFMT_ALLOW_FLUSH,
1604     .priv_class        = &webm_class,
1605 };
1606 #endif
1607
1608 #if CONFIG_MATROSKA_AUDIO_MUXER
1609 static const AVClass mka_class = {
1610     .class_name = "matroska audio muxer",
1611     .item_name  = av_default_item_name,
1612     .option     = options,
1613     .version    = LIBAVUTIL_VERSION_INT,
1614 };
1615 AVOutputFormat ff_matroska_audio_muxer = {
1616     .name              = "matroska",
1617     .long_name         = NULL_IF_CONFIG_SMALL("Matroska"),
1618     .mime_type         = "audio/x-matroska",
1619     .extensions        = "mka",
1620     .priv_data_size    = sizeof(MatroskaMuxContext),
1621     .audio_codec       = CONFIG_LIBVORBIS_ENCODER ?
1622                          AV_CODEC_ID_VORBIS : AV_CODEC_ID_AC3,
1623     .video_codec       = AV_CODEC_ID_NONE,
1624     .write_header      = mkv_write_header,
1625     .write_packet      = mkv_write_flush_packet,
1626     .write_trailer     = mkv_write_trailer,
1627     .flags             = AVFMT_GLOBALHEADER | AVFMT_TS_NONSTRICT |
1628                          AVFMT_ALLOW_FLUSH,
1629     .codec_tag         = (const AVCodecTag* const []){ ff_codec_wav_tags, 0 },
1630     .priv_class        = &mka_class,
1631 };
1632 #endif