]> git.sesse.net Git - ffmpeg/blob - libavformat/yop.c
oggspeexparse: fix array overread
[ffmpeg] / libavformat / yop.c
1 /*
2  * Psygnosis YOP demuxer
3  *
4  * Copyright (C) 2010 Mohamed Naufal Basheer <naufal11@gmail.com>
5  * derived from the code by
6  * Copyright (C) 2009 Thomas P. Higdon <thomas.p.higdon@gmail.com>
7  *
8  * This file is part of FFmpeg.
9  *
10  * FFmpeg is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * FFmpeg is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with FFmpeg; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 #include "libavutil/channel_layout.h"
26 #include "libavutil/intreadwrite.h"
27 #include "avformat.h"
28 #include "internal.h"
29
30 typedef struct yop_dec_context {
31     AVPacket video_packet;
32
33     int odd_frame;
34     int frame_size;
35     int audio_block_length;
36     int palette_size;
37 } YopDecContext;
38
39 static int yop_probe(AVProbeData *probe_packet)
40 {
41     if (AV_RB16(probe_packet->buf) == AV_RB16("YO")  &&
42         probe_packet->buf[2]<10                      &&
43         probe_packet->buf[3]<10                      &&
44         probe_packet->buf[6]                         &&
45         probe_packet->buf[7]                         &&
46         !(probe_packet->buf[8] & 1)                  &&
47         !(probe_packet->buf[10] & 1)                 &&
48         AV_RL16(probe_packet->buf + 12 + 6) >= 920    &&
49         AV_RL16(probe_packet->buf + 12 + 6) < probe_packet->buf[12] * 3 + 4 + probe_packet->buf[7] * 2048
50     )
51         return AVPROBE_SCORE_MAX * 3 / 4;
52
53     return 0;
54 }
55
56 static int yop_read_header(AVFormatContext *s)
57 {
58     YopDecContext *yop = s->priv_data;
59     AVIOContext *pb  = s->pb;
60
61     AVCodecContext *audio_dec, *video_dec;
62     AVStream *audio_stream, *video_stream;
63
64     int frame_rate, ret;
65
66     audio_stream = avformat_new_stream(s, NULL);
67     video_stream = avformat_new_stream(s, NULL);
68     if (!audio_stream || !video_stream)
69         return AVERROR(ENOMEM);
70
71     // Extra data that will be passed to the decoder
72     video_stream->codec->extradata_size = 8;
73
74     video_stream->codec->extradata = av_mallocz(video_stream->codec->extradata_size +
75                                                 FF_INPUT_BUFFER_PADDING_SIZE);
76
77     if (!video_stream->codec->extradata)
78         return AVERROR(ENOMEM);
79
80     // Audio
81     audio_dec               = audio_stream->codec;
82     audio_dec->codec_type   = AVMEDIA_TYPE_AUDIO;
83     audio_dec->codec_id     = AV_CODEC_ID_ADPCM_IMA_APC;
84     audio_dec->channels     = 1;
85     audio_dec->channel_layout = AV_CH_LAYOUT_MONO;
86     audio_dec->sample_rate  = 22050;
87
88     // Video
89     video_dec               = video_stream->codec;
90     video_dec->codec_type   = AVMEDIA_TYPE_VIDEO;
91     video_dec->codec_id     = AV_CODEC_ID_YOP;
92
93     avio_skip(pb, 6);
94
95     frame_rate              = avio_r8(pb);
96     yop->frame_size         = avio_r8(pb) * 2048;
97     video_dec->width        = avio_rl16(pb);
98     video_dec->height       = avio_rl16(pb);
99
100     video_stream->sample_aspect_ratio = (AVRational){1, 2};
101
102     ret = avio_read(pb, video_dec->extradata, 8);
103     if (ret < 8)
104         return ret < 0 ? ret : AVERROR_EOF;
105
106     yop->palette_size       = video_dec->extradata[0] * 3 + 4;
107     yop->audio_block_length = AV_RL16(video_dec->extradata + 6);
108
109     // 1840 samples per frame, 1 nibble per sample; hence 1840/2 = 920
110     if (yop->audio_block_length < 920 ||
111         yop->audio_block_length + yop->palette_size >= yop->frame_size) {
112         av_log(s, AV_LOG_ERROR, "YOP has invalid header\n");
113         return AVERROR_INVALIDDATA;
114     }
115
116     avio_seek(pb, 2048, SEEK_SET);
117
118     avpriv_set_pts_info(video_stream, 32, 1, frame_rate);
119
120     return 0;
121 }
122
123 static int yop_read_packet(AVFormatContext *s, AVPacket *pkt)
124 {
125     YopDecContext *yop = s->priv_data;
126     AVIOContext *pb  = s->pb;
127
128     int ret;
129     int actual_video_data_size = yop->frame_size -
130                                  yop->audio_block_length - yop->palette_size;
131
132     yop->video_packet.stream_index = 1;
133
134     if (yop->video_packet.data) {
135         *pkt                   =  yop->video_packet;
136         yop->video_packet.data =  NULL;
137         yop->video_packet.size =  0;
138         pkt->data[0]           =  yop->odd_frame;
139         pkt->flags             |= AV_PKT_FLAG_KEY;
140         yop->odd_frame         ^= 1;
141         return pkt->size;
142     }
143     ret = av_new_packet(&yop->video_packet,
144                         yop->frame_size - yop->audio_block_length);
145     if (ret < 0)
146         return ret;
147
148     yop->video_packet.pos = avio_tell(pb);
149
150     ret = avio_read(pb, yop->video_packet.data, yop->palette_size);
151     if (ret < 0) {
152         goto err_out;
153     }else if (ret < yop->palette_size) {
154         ret = AVERROR_EOF;
155         goto err_out;
156     }
157
158     ret = av_get_packet(pb, pkt, 920);
159     if (ret < 0)
160         goto err_out;
161
162     // Set position to the start of the frame
163     pkt->pos = yop->video_packet.pos;
164
165     avio_skip(pb, yop->audio_block_length - ret);
166
167     ret = avio_read(pb, yop->video_packet.data + yop->palette_size,
168                      actual_video_data_size);
169     if (ret < 0)
170         goto err_out;
171     else if (ret < actual_video_data_size)
172         av_shrink_packet(&yop->video_packet, yop->palette_size + ret);
173
174     // Arbitrarily return the audio data first
175     return yop->audio_block_length;
176
177 err_out:
178     av_free_packet(&yop->video_packet);
179     return ret;
180 }
181
182 static int yop_read_close(AVFormatContext *s)
183 {
184     YopDecContext *yop = s->priv_data;
185     av_free_packet(&yop->video_packet);
186     return 0;
187 }
188
189 static int yop_read_seek(AVFormatContext *s, int stream_index,
190                          int64_t timestamp, int flags)
191 {
192     YopDecContext *yop = s->priv_data;
193     int64_t frame_pos, pos_min, pos_max;
194     int frame_count;
195
196     if (!stream_index)
197         return -1;
198
199     pos_min        = s->data_offset;
200     pos_max        = avio_size(s->pb) - yop->frame_size;
201     frame_count    = (pos_max - pos_min) / yop->frame_size;
202
203     timestamp      = FFMAX(0, FFMIN(frame_count, timestamp));
204
205     frame_pos      = timestamp * yop->frame_size + pos_min;
206
207     if (avio_seek(s->pb, frame_pos, SEEK_SET) < 0)
208         return -1;
209
210     av_free_packet(&yop->video_packet);
211     yop->odd_frame = timestamp & 1;
212
213     return 0;
214 }
215
216 AVInputFormat ff_yop_demuxer = {
217     .name           = "yop",
218     .long_name      = NULL_IF_CONFIG_SMALL("Psygnosis YOP"),
219     .priv_data_size = sizeof(YopDecContext),
220     .read_probe     = yop_probe,
221     .read_header    = yop_read_header,
222     .read_packet    = yop_read_packet,
223     .read_close     = yop_read_close,
224     .read_seek      = yop_read_seek,
225     .extensions     = "yop",
226     .flags          = AVFMT_GENERIC_INDEX,
227 };