]> git.sesse.net Git - ffmpeg/blob - libavformat/cafdec.c
mpegts: Fix dead error checks
[ffmpeg] / libavformat / cafdec.c
1 /*
2  * Core Audio Format demuxer
3  * Copyright (c) 2007 Justin Ruggles
4  * Copyright (c) 2009 Peter Ross
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * Core Audio Format demuxer
26  */
27
28 #include "avformat.h"
29 #include "internal.h"
30 #include "riff.h"
31 #include "isom.h"
32 #include "libavutil/intreadwrite.h"
33 #include "libavutil/intfloat.h"
34 #include "libavutil/dict.h"
35 #include "caf.h"
36
37 typedef struct {
38     int bytes_per_packet;           ///< bytes in a packet, or 0 if variable
39     int frames_per_packet;          ///< frames in a packet, or 0 if variable
40     int64_t num_bytes;              ///< total number of bytes in stream
41
42     int64_t packet_cnt;             ///< packet counter
43     int64_t frame_cnt;              ///< frame counter
44
45     int64_t data_start;             ///< data start position, in bytes
46     int64_t data_size;              ///< raw data size, in bytes
47 } CaffContext;
48
49 static int probe(AVProbeData *p)
50 {
51     if (AV_RB32(p->buf) == MKBETAG('c','a','f','f') && AV_RB16(&p->buf[4]) == 1)
52         return AVPROBE_SCORE_MAX;
53     return 0;
54 }
55
56 /** Read audio description chunk */
57 static int read_desc_chunk(AVFormatContext *s)
58 {
59     AVIOContext *pb = s->pb;
60     CaffContext *caf  = s->priv_data;
61     AVStream *st;
62     int flags;
63
64     /* new audio stream */
65     st = avformat_new_stream(s, NULL);
66     if (!st)
67         return AVERROR(ENOMEM);
68
69     /* parse format description */
70     st->codec->codec_type  = AVMEDIA_TYPE_AUDIO;
71     st->codec->sample_rate = av_int2double(avio_rb64(pb));
72     st->codec->codec_tag   = avio_rb32(pb);
73     flags = avio_rb32(pb);
74     caf->bytes_per_packet  = avio_rb32(pb);
75     st->codec->block_align = caf->bytes_per_packet;
76     caf->frames_per_packet = avio_rb32(pb);
77     st->codec->channels    = avio_rb32(pb);
78     st->codec->bits_per_coded_sample = avio_rb32(pb);
79
80     /* calculate bit rate for constant size packets */
81     if (caf->frames_per_packet > 0 && caf->bytes_per_packet > 0) {
82         st->codec->bit_rate = (uint64_t)st->codec->sample_rate * (uint64_t)caf->bytes_per_packet * 8
83                               / (uint64_t)caf->frames_per_packet;
84     } else {
85         st->codec->bit_rate = 0;
86     }
87
88     /* determine codec */
89     if (st->codec->codec_tag == MKBETAG('l','p','c','m'))
90         st->codec->codec_id = ff_mov_get_lpcm_codec_id(st->codec->bits_per_coded_sample, (flags ^ 0x2) | 0x4);
91     else
92         st->codec->codec_id = ff_codec_get_id(ff_codec_caf_tags, st->codec->codec_tag);
93     return 0;
94 }
95
96 /** Read magic cookie chunk */
97 static int read_kuki_chunk(AVFormatContext *s, int64_t size)
98 {
99     AVIOContext *pb = s->pb;
100     AVStream *st      = s->streams[0];
101
102     if (size < 0 || size > INT_MAX - FF_INPUT_BUFFER_PADDING_SIZE)
103         return -1;
104
105     if (st->codec->codec_id == CODEC_ID_AAC) {
106         /* The magic cookie format for AAC is an mp4 esds atom.
107            The lavc AAC decoder requires the data from the codec specific
108            description as extradata input. */
109         int strt, skip;
110         MOVAtom atom;
111
112         strt = avio_tell(pb);
113         ff_mov_read_esds(s, pb, atom);
114         skip = size - (avio_tell(pb) - strt);
115         if (skip < 0 || !st->codec->extradata ||
116             st->codec->codec_id != CODEC_ID_AAC) {
117             av_log(s, AV_LOG_ERROR, "invalid AAC magic cookie\n");
118             return AVERROR_INVALIDDATA;
119         }
120         avio_skip(pb, skip);
121     } else if (st->codec->codec_id == CODEC_ID_ALAC) {
122 #define ALAC_PREAMBLE 12
123 #define ALAC_HEADER   36
124         if (size < ALAC_PREAMBLE + ALAC_HEADER) {
125             av_log(s, AV_LOG_ERROR, "invalid ALAC magic cookie\n");
126             avio_skip(pb, size);
127             return AVERROR_INVALIDDATA;
128         }
129         avio_skip(pb, ALAC_PREAMBLE);
130         st->codec->extradata = av_mallocz(ALAC_HEADER + FF_INPUT_BUFFER_PADDING_SIZE);
131         if (!st->codec->extradata)
132             return AVERROR(ENOMEM);
133         avio_read(pb, st->codec->extradata, ALAC_HEADER);
134         st->codec->extradata_size = ALAC_HEADER;
135         avio_skip(pb, size - ALAC_PREAMBLE - ALAC_HEADER);
136     } else {
137         st->codec->extradata = av_mallocz(size + FF_INPUT_BUFFER_PADDING_SIZE);
138         if (!st->codec->extradata)
139             return AVERROR(ENOMEM);
140         avio_read(pb, st->codec->extradata, size);
141         st->codec->extradata_size = size;
142     }
143
144     return 0;
145 }
146
147 /** Read packet table chunk */
148 static int read_pakt_chunk(AVFormatContext *s, int64_t size)
149 {
150     AVIOContext *pb = s->pb;
151     AVStream *st      = s->streams[0];
152     CaffContext *caf  = s->priv_data;
153     int64_t pos = 0, ccount;
154     int num_packets, i;
155
156     ccount = avio_tell(pb);
157
158     num_packets = avio_rb64(pb);
159     if (num_packets < 0 || INT32_MAX / sizeof(AVIndexEntry) < num_packets)
160         return AVERROR_INVALIDDATA;
161
162     st->nb_frames  = avio_rb64(pb); /* valid frames */
163     st->nb_frames += avio_rb32(pb); /* priming frames */
164     st->nb_frames += avio_rb32(pb); /* remainder frames */
165
166     st->duration = 0;
167     for (i = 0; i < num_packets; i++) {
168         av_add_index_entry(s->streams[0], pos, st->duration, 0, 0, AVINDEX_KEYFRAME);
169         pos += caf->bytes_per_packet ? caf->bytes_per_packet : ff_mp4_read_descr_len(pb);
170         st->duration += caf->frames_per_packet ? caf->frames_per_packet : ff_mp4_read_descr_len(pb);
171     }
172
173     if (avio_tell(pb) - ccount != size) {
174         av_log(s, AV_LOG_ERROR, "error reading packet table\n");
175         return -1;
176     }
177
178     caf->num_bytes = pos;
179     return 0;
180 }
181
182 /** Read information chunk */
183 static void read_info_chunk(AVFormatContext *s, int64_t size)
184 {
185     AVIOContext *pb = s->pb;
186     unsigned int i;
187     unsigned int nb_entries = avio_rb32(pb);
188     for (i = 0; i < nb_entries; i++) {
189         char key[32];
190         char value[1024];
191         avio_get_str(pb, INT_MAX, key,   sizeof(key));
192         avio_get_str(pb, INT_MAX, value, sizeof(value));
193         av_dict_set(&s->metadata, key, value, 0);
194     }
195 }
196
197 static int read_header(AVFormatContext *s)
198 {
199     AVIOContext *pb = s->pb;
200     CaffContext *caf  = s->priv_data;
201     AVStream *st;
202     uint32_t tag = 0;
203     int found_data, ret;
204     int64_t size;
205
206     avio_skip(pb, 8); /* magic, version, file flags */
207
208     /* audio description chunk */
209     if (avio_rb32(pb) != MKBETAG('d','e','s','c')) {
210         av_log(s, AV_LOG_ERROR, "desc chunk not present\n");
211         return AVERROR_INVALIDDATA;
212     }
213     size = avio_rb64(pb);
214     if (size != 32)
215         return AVERROR_INVALIDDATA;
216
217     ret = read_desc_chunk(s);
218     if (ret)
219         return ret;
220     st = s->streams[0];
221
222     /* parse each chunk */
223     found_data = 0;
224     while (!pb->eof_reached) {
225
226         /* stop at data chunk if seeking is not supported or
227            data chunk size is unknown */
228         if (found_data && (caf->data_size < 0 || !pb->seekable))
229             break;
230
231         tag  = avio_rb32(pb);
232         size = avio_rb64(pb);
233         if (pb->eof_reached)
234             break;
235
236         switch (tag) {
237         case MKBETAG('d','a','t','a'):
238             avio_skip(pb, 4); /* edit count */
239             caf->data_start = avio_tell(pb);
240             caf->data_size  = size < 0 ? -1 : size - 4;
241             if (caf->data_size > 0 && pb->seekable)
242                 avio_skip(pb, caf->data_size);
243             found_data = 1;
244             break;
245
246         /* magic cookie chunk */
247         case MKBETAG('k','u','k','i'):
248             if (read_kuki_chunk(s, size))
249                 return AVERROR_INVALIDDATA;
250             break;
251
252         /* packet table chunk */
253         case MKBETAG('p','a','k','t'):
254             if (read_pakt_chunk(s, size))
255                 return AVERROR_INVALIDDATA;
256             break;
257
258         case MKBETAG('i','n','f','o'):
259             read_info_chunk(s, size);
260             break;
261
262         default:
263 #define _(x) ((x) >= ' ' ? (x) : ' ')
264             av_log(s, AV_LOG_WARNING, "skipping CAF chunk: %08X (%c%c%c%c)\n",
265                 tag, _(tag>>24), _((tag>>16)&0xFF), _((tag>>8)&0xFF), _(tag&0xFF));
266 #undef _
267         case MKBETAG('f','r','e','e'):
268             if (size < 0)
269                 return AVERROR_INVALIDDATA;
270             avio_skip(pb, size);
271             break;
272         }
273     }
274
275     if (!found_data)
276         return AVERROR_INVALIDDATA;
277
278     if (caf->bytes_per_packet > 0 && caf->frames_per_packet > 0) {
279         if (caf->data_size > 0)
280             st->nb_frames = (caf->data_size / caf->bytes_per_packet) * caf->frames_per_packet;
281     } else if (st->nb_index_entries) {
282         st->codec->bit_rate = st->codec->sample_rate * caf->data_size * 8 /
283                               st->duration;
284     } else {
285         av_log(s, AV_LOG_ERROR, "Missing packet table. It is required when "
286                                 "block size or frame size are variable.\n");
287         return AVERROR_INVALIDDATA;
288     }
289
290     avpriv_set_pts_info(st, 64, 1, st->codec->sample_rate);
291     st->start_time = 0;
292
293     /* position the stream at the start of data */
294     if (caf->data_size >= 0)
295         avio_seek(pb, caf->data_start, SEEK_SET);
296
297     return 0;
298 }
299
300 #define CAF_MAX_PKT_SIZE 4096
301
302 static int read_packet(AVFormatContext *s, AVPacket *pkt)
303 {
304     AVIOContext *pb = s->pb;
305     AVStream *st      = s->streams[0];
306     CaffContext *caf  = s->priv_data;
307     int res, pkt_size = 0, pkt_frames = 0;
308     int64_t left      = CAF_MAX_PKT_SIZE;
309
310     if (pb->eof_reached)
311         return AVERROR(EIO);
312
313     /* don't read past end of data chunk */
314     if (caf->data_size > 0) {
315         left = (caf->data_start + caf->data_size) - avio_tell(pb);
316         if (left <= 0)
317             return AVERROR(EIO);
318     }
319
320     pkt_frames = caf->frames_per_packet;
321     pkt_size   = caf->bytes_per_packet;
322
323     if (pkt_size > 0 && pkt_frames == 1) {
324         pkt_size   = (CAF_MAX_PKT_SIZE / pkt_size) * pkt_size;
325         pkt_size   = FFMIN(pkt_size, left);
326         pkt_frames = pkt_size / caf->bytes_per_packet;
327     } else if (st->nb_index_entries) {
328         if (caf->packet_cnt < st->nb_index_entries - 1) {
329             pkt_size   = st->index_entries[caf->packet_cnt + 1].pos       - st->index_entries[caf->packet_cnt].pos;
330             pkt_frames = st->index_entries[caf->packet_cnt + 1].timestamp - st->index_entries[caf->packet_cnt].timestamp;
331         } else if (caf->packet_cnt == st->nb_index_entries - 1) {
332             pkt_size   = caf->num_bytes - st->index_entries[caf->packet_cnt].pos;
333             pkt_frames = st->duration   - st->index_entries[caf->packet_cnt].timestamp;
334         } else {
335             return AVERROR(EIO);
336         }
337     }
338
339     if (pkt_size == 0 || pkt_frames == 0 || pkt_size > left)
340         return AVERROR(EIO);
341
342     res = av_get_packet(pb, pkt, pkt_size);
343     if (res < 0)
344         return res;
345
346     pkt->size           = res;
347     pkt->stream_index   = 0;
348     pkt->dts = pkt->pts = caf->frame_cnt;
349
350     caf->packet_cnt++;
351     caf->frame_cnt += pkt_frames;
352
353     return 0;
354 }
355
356 static int read_seek(AVFormatContext *s, int stream_index,
357                      int64_t timestamp, int flags)
358 {
359     AVStream *st = s->streams[0];
360     CaffContext *caf = s->priv_data;
361     int64_t pos, packet_cnt, frame_cnt;
362
363     timestamp = FFMAX(timestamp, 0);
364
365     if (caf->frames_per_packet > 0 && caf->bytes_per_packet > 0) {
366         /* calculate new byte position based on target frame position */
367         pos = caf->bytes_per_packet * timestamp / caf->frames_per_packet;
368         if (caf->data_size > 0)
369             pos = FFMIN(pos, caf->data_size);
370         packet_cnt = pos / caf->bytes_per_packet;
371         frame_cnt  = caf->frames_per_packet * packet_cnt;
372     } else if (st->nb_index_entries) {
373         packet_cnt = av_index_search_timestamp(st, timestamp, flags);
374         frame_cnt  = st->index_entries[packet_cnt].timestamp;
375         pos        = st->index_entries[packet_cnt].pos;
376     } else {
377         return -1;
378     }
379
380     if (avio_seek(s->pb, pos + caf->data_start, SEEK_SET) < 0)
381         return -1;
382
383     caf->packet_cnt = packet_cnt;
384     caf->frame_cnt  = frame_cnt;
385
386     return 0;
387 }
388
389 AVInputFormat ff_caf_demuxer = {
390     .name           = "caf",
391     .long_name      = NULL_IF_CONFIG_SMALL("Apple Core Audio Format"),
392     .priv_data_size = sizeof(CaffContext),
393     .read_probe     = probe,
394     .read_header    = read_header,
395     .read_packet    = read_packet,
396     .read_seek      = read_seek,
397     .codec_tag = (const AVCodecTag*[]){ff_codec_caf_tags, 0},
398 };