]> git.sesse.net Git - ffmpeg/blob - libavformat/rl2.c
avformat/rl2: fix memleak when read end of file
[ffmpeg] / libavformat / rl2.c
1 /*
2  * RL2 Format Demuxer
3  * Copyright (c) 2008 Sascha Sommer (saschasommer@freenet.de)
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * RL2 file demuxer
24  * @file
25  * @author Sascha Sommer (saschasommer@freenet.de)
26  * @see http://wiki.multimedia.cx/index.php?title=RL2
27  *
28  * extradata:
29  * 2 byte le initial drawing offset within 320x200 viewport
30  * 4 byte le number of used colors
31  * 256 * 3 bytes rgb palette
32  * optional background_frame
33  */
34
35 #include <stdint.h>
36
37 #include "libavutil/intreadwrite.h"
38 #include "libavutil/mathematics.h"
39 #include "avformat.h"
40 #include "internal.h"
41
42 #define EXTRADATA1_SIZE (6 + 256 * 3) ///< video base, clr, palette
43
44 #define FORM_TAG MKBETAG('F', 'O', 'R', 'M')
45 #define RLV2_TAG MKBETAG('R', 'L', 'V', '2')
46 #define RLV3_TAG MKBETAG('R', 'L', 'V', '3')
47
48 typedef struct Rl2DemuxContext {
49     unsigned int index_pos[2];   ///< indexes in the sample tables
50 } Rl2DemuxContext;
51
52
53 /**
54  * check if the file is in rl2 format
55  * @param p probe buffer
56  * @return 0 when the probe buffer does not contain rl2 data, > 0 otherwise
57  */
58 static int rl2_probe(const AVProbeData *p)
59 {
60
61     if(AV_RB32(&p->buf[0]) != FORM_TAG)
62         return 0;
63
64     if(AV_RB32(&p->buf[8]) != RLV2_TAG &&
65         AV_RB32(&p->buf[8]) != RLV3_TAG)
66         return 0;
67
68     return AVPROBE_SCORE_MAX;
69 }
70
71 /**
72  * read rl2 header data and setup the avstreams
73  * @param s demuxer context
74  * @return 0 on success, AVERROR otherwise
75  */
76 static av_cold int rl2_read_header(AVFormatContext *s)
77 {
78     AVIOContext *pb = s->pb;
79     AVStream *st;
80     unsigned int frame_count;
81     unsigned int audio_frame_counter = 0;
82     unsigned int video_frame_counter = 0;
83     unsigned int back_size;
84     unsigned short sound_rate;
85     unsigned short rate;
86     unsigned short channels;
87     unsigned short def_sound_size;
88     unsigned int signature;
89     unsigned int pts_den = 11025; /* video only case */
90     unsigned int pts_num = 1103;
91     unsigned int* chunk_offset = NULL;
92     int* chunk_size = NULL;
93     int* audio_size = NULL;
94     int i;
95     int ret = 0;
96
97     avio_skip(pb,4);          /* skip FORM tag */
98     back_size = avio_rl32(pb); /**< get size of the background frame */
99     signature = avio_rb32(pb);
100     avio_skip(pb, 4);         /* data size */
101     frame_count = avio_rl32(pb);
102
103     /* disallow back_sizes and frame_counts that may lead to overflows later */
104     if(back_size > INT_MAX/2  || frame_count > INT_MAX / sizeof(uint32_t))
105         return AVERROR_INVALIDDATA;
106
107     avio_skip(pb, 2);         /* encoding method */
108     sound_rate = avio_rl16(pb);
109     rate = avio_rl16(pb);
110     channels = avio_rl16(pb);
111     def_sound_size = avio_rl16(pb);
112
113     /** setup video stream */
114     st = avformat_new_stream(s, NULL);
115     if(!st)
116          return AVERROR(ENOMEM);
117
118     st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
119     st->codecpar->codec_id = AV_CODEC_ID_RL2;
120     st->codecpar->codec_tag = 0;  /* no fourcc */
121     st->codecpar->width = 320;
122     st->codecpar->height = 200;
123
124     /** allocate and fill extradata */
125     st->codecpar->extradata_size = EXTRADATA1_SIZE;
126
127     if(signature == RLV3_TAG && back_size > 0)
128         st->codecpar->extradata_size += back_size;
129
130     if(ff_get_extradata(s, st->codecpar, pb, st->codecpar->extradata_size) < 0)
131         return AVERROR(ENOMEM);
132
133     /** setup audio stream if present */
134     if(sound_rate){
135         if (!channels || channels > 42) {
136             av_log(s, AV_LOG_ERROR, "Invalid number of channels: %d\n", channels);
137             return AVERROR_INVALIDDATA;
138         }
139
140         pts_num = def_sound_size;
141         pts_den = rate;
142
143         st = avformat_new_stream(s, NULL);
144         if (!st)
145             return AVERROR(ENOMEM);
146         st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
147         st->codecpar->codec_id = AV_CODEC_ID_PCM_U8;
148         st->codecpar->codec_tag = 1;
149         st->codecpar->channels = channels;
150         st->codecpar->bits_per_coded_sample = 8;
151         st->codecpar->sample_rate = rate;
152         st->codecpar->bit_rate = st->codecpar->channels * st->codecpar->sample_rate *
153             st->codecpar->bits_per_coded_sample;
154         st->codecpar->block_align = st->codecpar->channels *
155             st->codecpar->bits_per_coded_sample / 8;
156         avpriv_set_pts_info(st,32,1,rate);
157     }
158
159     avpriv_set_pts_info(s->streams[0], 32, pts_num, pts_den);
160
161     chunk_size =   av_malloc(frame_count * sizeof(uint32_t));
162     audio_size =   av_malloc(frame_count * sizeof(uint32_t));
163     chunk_offset = av_malloc(frame_count * sizeof(uint32_t));
164
165     if(!chunk_size || !audio_size || !chunk_offset){
166         av_free(chunk_size);
167         av_free(audio_size);
168         av_free(chunk_offset);
169         return AVERROR(ENOMEM);
170     }
171
172     /** read offset and size tables */
173     for(i=0; i < frame_count;i++) {
174         if (avio_feof(pb)) {
175             ret = AVERROR_INVALIDDATA;
176             goto end;
177         }
178         chunk_size[i] = avio_rl32(pb);
179     }
180     for(i=0; i < frame_count;i++) {
181         if (avio_feof(pb)) {
182             ret = AVERROR_INVALIDDATA;
183             goto end;
184         }
185         chunk_offset[i] = avio_rl32(pb);
186     }
187     for(i=0; i < frame_count;i++) {
188         if (avio_feof(pb)) {
189             ret = AVERROR_INVALIDDATA;
190             goto end;
191         }
192         audio_size[i] = avio_rl32(pb) & 0xFFFF;
193     }
194
195     /** build the sample index */
196     for(i=0;i<frame_count;i++){
197         if(chunk_size[i] < 0 || audio_size[i] > chunk_size[i]){
198             ret = AVERROR_INVALIDDATA;
199             break;
200         }
201
202         if(sound_rate && audio_size[i]){
203             av_add_index_entry(s->streams[1], chunk_offset[i],
204                 audio_frame_counter,audio_size[i], 0, AVINDEX_KEYFRAME);
205             audio_frame_counter += audio_size[i] / channels;
206         }
207         av_add_index_entry(s->streams[0], chunk_offset[i] + audio_size[i],
208             video_frame_counter,chunk_size[i]-audio_size[i],0,AVINDEX_KEYFRAME);
209         ++video_frame_counter;
210     }
211
212 end:
213     av_free(chunk_size);
214     av_free(audio_size);
215     av_free(chunk_offset);
216
217     return ret;
218 }
219
220 /**
221  * read a single audio or video packet
222  * @param s demuxer context
223  * @param pkt the packet to be filled
224  * @return 0 on success, AVERROR otherwise
225  */
226 static int rl2_read_packet(AVFormatContext *s,
227                             AVPacket *pkt)
228 {
229     Rl2DemuxContext *rl2 = s->priv_data;
230     AVIOContext *pb = s->pb;
231     AVIndexEntry *sample = NULL;
232     int i;
233     int ret = 0;
234     int stream_id = -1;
235     int64_t pos = INT64_MAX;
236
237     /** check if there is a valid video or audio entry that can be used */
238     for(i=0; i<s->nb_streams; i++){
239         if(rl2->index_pos[i] < s->streams[i]->nb_index_entries
240               && s->streams[i]->index_entries[ rl2->index_pos[i] ].pos < pos){
241             sample = &s->streams[i]->index_entries[ rl2->index_pos[i] ];
242             pos= sample->pos;
243             stream_id= i;
244         }
245     }
246
247     if(stream_id == -1)
248         return AVERROR_EOF;
249
250     ++rl2->index_pos[stream_id];
251
252     /** position the stream (will probably be there anyway) */
253     avio_seek(pb, sample->pos, SEEK_SET);
254
255     /** fill the packet */
256     ret = av_get_packet(pb, pkt, sample->size);
257     if(ret != sample->size){
258         av_packet_unref(pkt);
259         return AVERROR(EIO);
260     }
261
262     pkt->stream_index = stream_id;
263     pkt->pts = sample->timestamp;
264
265     return ret;
266 }
267
268 /**
269  * seek to a new timestamp
270  * @param s demuxer context
271  * @param stream_index index of the stream that should be seeked
272  * @param timestamp wanted timestamp
273  * @param flags direction and seeking mode
274  * @return 0 on success, -1 otherwise
275  */
276 static int rl2_read_seek(AVFormatContext *s, int stream_index, int64_t timestamp, int flags)
277 {
278     AVStream *st = s->streams[stream_index];
279     Rl2DemuxContext *rl2 = s->priv_data;
280     int i;
281     int index = av_index_search_timestamp(st, timestamp, flags);
282     if(index < 0)
283         return -1;
284
285     rl2->index_pos[stream_index] = index;
286     timestamp = st->index_entries[index].timestamp;
287
288     for(i=0; i < s->nb_streams; i++){
289         AVStream *st2 = s->streams[i];
290         index = av_index_search_timestamp(st2,
291                     av_rescale_q(timestamp, st->time_base, st2->time_base),
292                     flags | AVSEEK_FLAG_BACKWARD);
293
294         if(index < 0)
295             index = 0;
296
297         rl2->index_pos[i] = index;
298     }
299
300     return 0;
301 }
302
303 AVInputFormat ff_rl2_demuxer = {
304     .name           = "rl2",
305     .long_name      = NULL_IF_CONFIG_SMALL("RL2"),
306     .priv_data_size = sizeof(Rl2DemuxContext),
307     .read_probe     = rl2_probe,
308     .read_header    = rl2_read_header,
309     .read_packet    = rl2_read_packet,
310     .read_seek      = rl2_read_seek,
311 };