]> git.sesse.net Git - ffmpeg/blob - libavformat/cafdec.c
avformat/avidec: Fix memleak when allocating DVDemuxContext fails
[ffmpeg] / libavformat / cafdec.c
1 /*
2  * Core Audio Format demuxer
3  * Copyright (c) 2007 Justin Ruggles
4  * Copyright (c) 2009 Peter Ross
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * Core Audio Format demuxer
26  */
27
28 #include <inttypes.h>
29
30 #include "avformat.h"
31 #include "internal.h"
32 #include "isom.h"
33 #include "mov_chan.h"
34 #include "libavutil/intreadwrite.h"
35 #include "libavutil/intfloat.h"
36 #include "libavutil/dict.h"
37 #include "caf.h"
38
39 typedef struct CafContext {
40     int bytes_per_packet;           ///< bytes in a packet, or 0 if variable
41     int frames_per_packet;          ///< frames in a packet, or 0 if variable
42     int64_t num_bytes;              ///< total number of bytes in stream
43
44     int64_t packet_cnt;             ///< packet counter
45     int64_t frame_cnt;              ///< frame counter
46
47     int64_t data_start;             ///< data start position, in bytes
48     int64_t data_size;              ///< raw data size, in bytes
49 } CafContext;
50
51 static int probe(const AVProbeData *p)
52 {
53     if (AV_RB32(p->buf) == MKBETAG('c','a','f','f') && AV_RB16(&p->buf[4]) == 1)
54         return AVPROBE_SCORE_MAX;
55     return 0;
56 }
57
58 /** Read audio description chunk */
59 static int read_desc_chunk(AVFormatContext *s)
60 {
61     AVIOContext *pb = s->pb;
62     CafContext *caf = s->priv_data;
63     AVStream *st;
64     int flags;
65
66     /* new audio stream */
67     st = avformat_new_stream(s, NULL);
68     if (!st)
69         return AVERROR(ENOMEM);
70
71     /* parse format description */
72     st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
73     st->codecpar->sample_rate = av_int2double(avio_rb64(pb));
74     st->codecpar->codec_tag   = avio_rl32(pb);
75     flags = avio_rb32(pb);
76     caf->bytes_per_packet  = avio_rb32(pb);
77     st->codecpar->block_align = caf->bytes_per_packet;
78     caf->frames_per_packet = avio_rb32(pb);
79     st->codecpar->channels    = avio_rb32(pb);
80     st->codecpar->bits_per_coded_sample = avio_rb32(pb);
81
82     /* calculate bit rate for constant size packets */
83     if (caf->frames_per_packet > 0 && caf->bytes_per_packet > 0) {
84         st->codecpar->bit_rate = (uint64_t)st->codecpar->sample_rate * (uint64_t)caf->bytes_per_packet * 8
85                                  / (uint64_t)caf->frames_per_packet;
86     } else {
87         st->codecpar->bit_rate = 0;
88     }
89
90     /* determine codec */
91     if (st->codecpar->codec_tag == MKTAG('l','p','c','m'))
92         st->codecpar->codec_id = ff_mov_get_lpcm_codec_id(st->codecpar->bits_per_coded_sample, (flags ^ 0x2) | 0x4);
93     else
94         st->codecpar->codec_id = ff_codec_get_id(ff_codec_caf_tags, st->codecpar->codec_tag);
95     return 0;
96 }
97
98 /** Read magic cookie chunk */
99 static int read_kuki_chunk(AVFormatContext *s, int64_t size)
100 {
101     AVIOContext *pb = s->pb;
102     AVStream *st      = s->streams[0];
103     int ret;
104
105     if (size < 0 || size > INT_MAX - AV_INPUT_BUFFER_PADDING_SIZE)
106         return -1;
107
108     if (st->codecpar->codec_id == AV_CODEC_ID_AAC) {
109         /* The magic cookie format for AAC is an mp4 esds atom.
110            The lavc AAC decoder requires the data from the codec specific
111            description as extradata input. */
112         int strt, skip;
113
114         strt = avio_tell(pb);
115         ff_mov_read_esds(s, pb);
116         skip = size - (avio_tell(pb) - strt);
117         if (skip < 0 || !st->codecpar->extradata ||
118             st->codecpar->codec_id != AV_CODEC_ID_AAC) {
119             av_log(s, AV_LOG_ERROR, "invalid AAC magic cookie\n");
120             return AVERROR_INVALIDDATA;
121         }
122         avio_skip(pb, skip);
123     } else if (st->codecpar->codec_id == AV_CODEC_ID_ALAC) {
124 #define ALAC_PREAMBLE 12
125 #define ALAC_HEADER   36
126 #define ALAC_NEW_KUKI 24
127         uint8_t preamble[12];
128         if (size < ALAC_NEW_KUKI) {
129             av_log(s, AV_LOG_ERROR, "invalid ALAC magic cookie\n");
130             avio_skip(pb, size);
131             return AVERROR_INVALIDDATA;
132         }
133         if (avio_read(pb, preamble, ALAC_PREAMBLE) != ALAC_PREAMBLE) {
134             av_log(s, AV_LOG_ERROR, "failed to read preamble\n");
135             return AVERROR_INVALIDDATA;
136         }
137
138         if ((ret = ff_alloc_extradata(st->codecpar, ALAC_HEADER)) < 0)
139             return ret;
140
141         /* For the old style cookie, we skip 12 bytes, then read 36 bytes.
142          * The new style cookie only contains the last 24 bytes of what was
143          * 36 bytes in the old style cookie, so we fabricate the first 12 bytes
144          * in that case to maintain compatibility. */
145         if (!memcmp(&preamble[4], "frmaalac", 8)) {
146             if (size < ALAC_PREAMBLE + ALAC_HEADER) {
147                 av_log(s, AV_LOG_ERROR, "invalid ALAC magic cookie\n");
148                 av_freep(&st->codecpar->extradata);
149                 return AVERROR_INVALIDDATA;
150             }
151             if (avio_read(pb, st->codecpar->extradata, ALAC_HEADER) != ALAC_HEADER) {
152                 av_log(s, AV_LOG_ERROR, "failed to read kuki header\n");
153                 av_freep(&st->codecpar->extradata);
154                 return AVERROR_INVALIDDATA;
155             }
156             avio_skip(pb, size - ALAC_PREAMBLE - ALAC_HEADER);
157         } else {
158             AV_WB32(st->codecpar->extradata, 36);
159             memcpy(&st->codecpar->extradata[4], "alac", 4);
160             AV_WB32(&st->codecpar->extradata[8], 0);
161             memcpy(&st->codecpar->extradata[12], preamble, 12);
162             if (avio_read(pb, &st->codecpar->extradata[24], ALAC_NEW_KUKI - 12) != ALAC_NEW_KUKI - 12) {
163                 av_log(s, AV_LOG_ERROR, "failed to read new kuki header\n");
164                 av_freep(&st->codecpar->extradata);
165                 return AVERROR_INVALIDDATA;
166             }
167             avio_skip(pb, size - ALAC_NEW_KUKI);
168         }
169     } else if (st->codecpar->codec_id == AV_CODEC_ID_OPUS) {
170         // The data layout for Opus is currently unknown, so we do not export
171         // extradata at all. Multichannel streams are not supported.
172         if (st->codecpar->channels > 2) {
173             avpriv_request_sample(s, "multichannel Opus in CAF");
174             return AVERROR_PATCHWELCOME;
175         }
176         avio_skip(pb, size);
177     } else if ((ret = ff_get_extradata(s, st->codecpar, pb, size)) < 0) {
178         return ret;
179     }
180
181     return 0;
182 }
183
184 /** Read packet table chunk */
185 static int read_pakt_chunk(AVFormatContext *s, int64_t size)
186 {
187     AVIOContext *pb = s->pb;
188     AVStream *st      = s->streams[0];
189     CafContext *caf   = s->priv_data;
190     int64_t pos = 0, ccount, num_packets;
191     int i;
192
193     ccount = avio_tell(pb);
194
195     num_packets = avio_rb64(pb);
196     if (num_packets < 0 || INT32_MAX / sizeof(AVIndexEntry) < num_packets)
197         return AVERROR_INVALIDDATA;
198
199     st->nb_frames  = avio_rb64(pb); /* valid frames */
200     st->nb_frames += avio_rb32(pb); /* priming frames */
201     st->nb_frames += avio_rb32(pb); /* remainder frames */
202
203     st->duration = 0;
204     for (i = 0; i < num_packets; i++) {
205         av_add_index_entry(s->streams[0], pos, st->duration, 0, 0, AVINDEX_KEYFRAME);
206         pos += caf->bytes_per_packet ? caf->bytes_per_packet : ff_mp4_read_descr_len(pb);
207         st->duration += caf->frames_per_packet ? caf->frames_per_packet : ff_mp4_read_descr_len(pb);
208     }
209
210     if (avio_tell(pb) - ccount > size) {
211         av_log(s, AV_LOG_ERROR, "error reading packet table\n");
212         return AVERROR_INVALIDDATA;
213     }
214     avio_skip(pb, ccount + size - avio_tell(pb));
215
216     caf->num_bytes = pos;
217     return 0;
218 }
219
220 /** Read information chunk */
221 static void read_info_chunk(AVFormatContext *s, int64_t size)
222 {
223     AVIOContext *pb = s->pb;
224     unsigned int i;
225     unsigned int nb_entries = avio_rb32(pb);
226     for (i = 0; i < nb_entries && !avio_feof(pb); i++) {
227         char key[32];
228         char value[1024];
229         avio_get_str(pb, INT_MAX, key, sizeof(key));
230         avio_get_str(pb, INT_MAX, value, sizeof(value));
231         av_dict_set(&s->metadata, key, value, 0);
232     }
233 }
234
235 static int read_header(AVFormatContext *s)
236 {
237     AVIOContext *pb = s->pb;
238     CafContext *caf = s->priv_data;
239     AVStream *st;
240     uint32_t tag = 0;
241     int found_data, ret;
242     int64_t size, pos;
243
244     avio_skip(pb, 8); /* magic, version, file flags */
245
246     /* audio description chunk */
247     if (avio_rb32(pb) != MKBETAG('d','e','s','c')) {
248         av_log(s, AV_LOG_ERROR, "desc chunk not present\n");
249         return AVERROR_INVALIDDATA;
250     }
251     size = avio_rb64(pb);
252     if (size != 32)
253         return AVERROR_INVALIDDATA;
254
255     ret = read_desc_chunk(s);
256     if (ret)
257         return ret;
258     st = s->streams[0];
259
260     /* parse each chunk */
261     found_data = 0;
262     while (!avio_feof(pb)) {
263
264         /* stop at data chunk if seeking is not supported or
265            data chunk size is unknown */
266         if (found_data && (caf->data_size < 0 || !(pb->seekable & AVIO_SEEKABLE_NORMAL)))
267             break;
268
269         tag  = avio_rb32(pb);
270         size = avio_rb64(pb);
271         pos  = avio_tell(pb);
272         if (avio_feof(pb))
273             break;
274
275         switch (tag) {
276         case MKBETAG('d','a','t','a'):
277             avio_skip(pb, 4); /* edit count */
278             caf->data_start = avio_tell(pb);
279             caf->data_size  = size < 0 ? -1 : size - 4;
280             if (caf->data_size > 0 && (pb->seekable & AVIO_SEEKABLE_NORMAL))
281                 avio_skip(pb, caf->data_size);
282             found_data = 1;
283             break;
284
285         case MKBETAG('c','h','a','n'):
286             if ((ret = ff_mov_read_chan(s, s->pb, st, size)) < 0)
287                 return ret;
288             break;
289
290         /* magic cookie chunk */
291         case MKBETAG('k','u','k','i'):
292             if (read_kuki_chunk(s, size))
293                 return AVERROR_INVALIDDATA;
294             break;
295
296         /* packet table chunk */
297         case MKBETAG('p','a','k','t'):
298             if (read_pakt_chunk(s, size))
299                 return AVERROR_INVALIDDATA;
300             break;
301
302         case MKBETAG('i','n','f','o'):
303             read_info_chunk(s, size);
304             break;
305
306         default:
307             av_log(s, AV_LOG_WARNING,
308                    "skipping CAF chunk: %08"PRIX32" (%s), size %"PRId64"\n",
309                    tag, av_fourcc2str(av_bswap32(tag)), size);
310         case MKBETAG('f','r','e','e'):
311             if (size < 0 && found_data)
312                 goto found_data;
313             if (size < 0)
314                 return AVERROR_INVALIDDATA;
315             break;
316         }
317
318         if (size > 0) {
319             if (pos > INT64_MAX - size)
320                 return AVERROR_INVALIDDATA;
321             avio_skip(pb, FFMAX(0, pos + size - avio_tell(pb)));
322         }
323     }
324
325     if (!found_data)
326         return AVERROR_INVALIDDATA;
327
328 found_data:
329     if (caf->bytes_per_packet > 0 && caf->frames_per_packet > 0) {
330         if (caf->data_size > 0)
331             st->nb_frames = (caf->data_size / caf->bytes_per_packet) * caf->frames_per_packet;
332     } else if (st->nb_index_entries && st->duration > 0) {
333         if (st->codecpar->sample_rate && caf->data_size / st->duration > INT64_MAX / st->codecpar->sample_rate / 8) {
334             av_log(s, AV_LOG_ERROR, "Overflow during bit rate calculation %d * 8 * %"PRId64"\n",
335                    st->codecpar->sample_rate, caf->data_size / st->duration);
336             return AVERROR_INVALIDDATA;
337         }
338         st->codecpar->bit_rate = st->codecpar->sample_rate * 8LL *
339                                  (caf->data_size / st->duration);
340     } else {
341         av_log(s, AV_LOG_ERROR, "Missing packet table. It is required when "
342                                 "block size or frame size are variable.\n");
343         return AVERROR_INVALIDDATA;
344     }
345
346     avpriv_set_pts_info(st, 64, 1, st->codecpar->sample_rate);
347     st->start_time = 0;
348
349     /* position the stream at the start of data */
350     if (caf->data_size >= 0)
351         avio_seek(pb, caf->data_start, SEEK_SET);
352
353     return 0;
354 }
355
356 #define CAF_MAX_PKT_SIZE 4096
357
358 static int read_packet(AVFormatContext *s, AVPacket *pkt)
359 {
360     AVIOContext *pb = s->pb;
361     AVStream *st      = s->streams[0];
362     CafContext *caf   = s->priv_data;
363     int res, pkt_size = 0, pkt_frames = 0;
364     int64_t left      = CAF_MAX_PKT_SIZE;
365
366     if (avio_feof(pb))
367         return AVERROR_EOF;
368
369     /* don't read past end of data chunk */
370     if (caf->data_size > 0) {
371         left = (caf->data_start + caf->data_size) - avio_tell(pb);
372         if (!left)
373             return AVERROR_EOF;
374         if (left < 0)
375             return AVERROR(EIO);
376     }
377
378     pkt_frames = caf->frames_per_packet;
379     pkt_size   = caf->bytes_per_packet;
380
381     if (pkt_size > 0 && pkt_frames == 1) {
382         pkt_size   = (CAF_MAX_PKT_SIZE / pkt_size) * pkt_size;
383         pkt_size   = FFMIN(pkt_size, left);
384         pkt_frames = pkt_size / caf->bytes_per_packet;
385     } else if (st->nb_index_entries) {
386         if (caf->packet_cnt < st->nb_index_entries - 1) {
387             pkt_size   = st->index_entries[caf->packet_cnt + 1].pos       - st->index_entries[caf->packet_cnt].pos;
388             pkt_frames = st->index_entries[caf->packet_cnt + 1].timestamp - st->index_entries[caf->packet_cnt].timestamp;
389         } else if (caf->packet_cnt == st->nb_index_entries - 1) {
390             pkt_size   = caf->num_bytes - st->index_entries[caf->packet_cnt].pos;
391             pkt_frames = st->duration   - st->index_entries[caf->packet_cnt].timestamp;
392         } else {
393             return AVERROR(EIO);
394         }
395     }
396
397     if (pkt_size == 0 || pkt_frames == 0 || pkt_size > left)
398         return AVERROR(EIO);
399
400     res = av_get_packet(pb, pkt, pkt_size);
401     if (res < 0)
402         return res;
403
404     pkt->size           = res;
405     pkt->stream_index   = 0;
406     pkt->dts = pkt->pts = caf->frame_cnt;
407
408     caf->packet_cnt++;
409     caf->frame_cnt += pkt_frames;
410
411     return 0;
412 }
413
414 static int read_seek(AVFormatContext *s, int stream_index,
415                      int64_t timestamp, int flags)
416 {
417     AVStream *st = s->streams[0];
418     CafContext *caf = s->priv_data;
419     int64_t pos, packet_cnt, frame_cnt;
420
421     timestamp = FFMAX(timestamp, 0);
422
423     if (caf->frames_per_packet > 0 && caf->bytes_per_packet > 0) {
424         /* calculate new byte position based on target frame position */
425         pos = caf->bytes_per_packet * (timestamp / caf->frames_per_packet);
426         if (caf->data_size > 0)
427             pos = FFMIN(pos, caf->data_size);
428         packet_cnt = pos / caf->bytes_per_packet;
429         frame_cnt  = caf->frames_per_packet * packet_cnt;
430     } else if (st->nb_index_entries) {
431         packet_cnt = av_index_search_timestamp(st, timestamp, flags);
432         frame_cnt  = st->index_entries[packet_cnt].timestamp;
433         pos        = st->index_entries[packet_cnt].pos;
434     } else {
435         return -1;
436     }
437
438     if (avio_seek(s->pb, pos + caf->data_start, SEEK_SET) < 0)
439         return -1;
440
441     caf->packet_cnt = packet_cnt;
442     caf->frame_cnt  = frame_cnt;
443
444     return 0;
445 }
446
447 AVInputFormat ff_caf_demuxer = {
448     .name           = "caf",
449     .long_name      = NULL_IF_CONFIG_SMALL("Apple CAF (Core Audio Format)"),
450     .priv_data_size = sizeof(CafContext),
451     .read_probe     = probe,
452     .read_header    = read_header,
453     .read_packet    = read_packet,
454     .read_seek      = read_seek,
455     .codec_tag      = (const AVCodecTag* const []){ ff_codec_caf_tags, 0 },
456 };