]> git.sesse.net Git - ffmpeg/blob - libavcodec/adx.c
Add a bounds check on AVProbeData input.
[ffmpeg] / libavcodec / adx.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21 #include "avcodec.h"
22
23 /**
24  * @file adx.c
25  * SEGA CRI adx codecs.
26  *
27  * Reference documents:
28  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
29  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
30  */
31
32 typedef struct {
33     int s1,s2;
34 } PREV;
35
36 typedef struct {
37     PREV prev[2];
38     int header_parsed;
39     unsigned char dec_temp[18*2];
40     unsigned short enc_temp[32*2];
41     int in_temp;
42 } ADXContext;
43
44 //#define    BASEVOL    0x11e0
45 #define    BASEVOL   0x4000
46 #define    SCALE1    0x7298
47 #define    SCALE2    0x3350
48
49 #define    CLIP(s)    if (s>32767) s=32767; else if (s<-32768) s=-32768
50
51 /* 18 bytes <-> 32 samples */
52
53 #ifdef CONFIG_ENCODERS
54 static void adx_encode(unsigned char *adx,const short *wav,PREV *prev)
55 {
56     int scale;
57     int i;
58     int s0,s1,s2,d;
59     int max=0;
60     int min=0;
61     int data[32];
62
63     s1 = prev->s1;
64     s2 = prev->s2;
65     for(i=0;i<32;i++) {
66         s0 = wav[i];
67         d = ((s0<<14) - SCALE1*s1 + SCALE2*s2)/BASEVOL;
68         data[i]=d;
69         if (max<d) max=d;
70         if (min>d) min=d;
71         s2 = s1;
72         s1 = s0;
73     }
74     prev->s1 = s1;
75     prev->s2 = s2;
76
77     /* -8..+7 */
78
79     if (max==0 && min==0) {
80         memset(adx,0,18);
81         return;
82     }
83
84     if (max/7>-min/8) scale = max/7;
85     else scale = -min/8;
86
87     if (scale==0) scale=1;
88
89     AV_WB16(adx, scale);
90
91     for(i=0;i<16;i++) {
92         adx[i+2] = ((data[i*2]/scale)<<4) | ((data[i*2+1]/scale)&0xf);
93     }
94 }
95 #endif //CONFIG_ENCODERS
96
97 static void adx_decode(short *out,const unsigned char *in,PREV *prev)
98 {
99     int scale = AV_RB16(in);
100     int i;
101     int s0,s1,s2,d;
102
103 //    printf("%x ",scale);
104
105     in+=2;
106     s1 = prev->s1;
107     s2 = prev->s2;
108     for(i=0;i<16;i++) {
109         d = in[i];
110         // d>>=4; if (d&8) d-=16;
111         d = ((signed char)d >> 4);
112         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
113         CLIP(s0);
114         *out++=s0;
115         s2 = s1;
116         s1 = s0;
117
118         d = in[i];
119         //d&=15; if (d&8) d-=16;
120         d = ((signed char)(d<<4) >> 4);
121         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
122         CLIP(s0);
123         *out++=s0;
124         s2 = s1;
125         s1 = s0;
126     }
127     prev->s1 = s1;
128     prev->s2 = s2;
129
130 }
131
132 static void adx_decode_stereo(short *out,const unsigned char *in,PREV *prev)
133 {
134     short tmp[32*2];
135     int i;
136
137     adx_decode(tmp   ,in   ,prev);
138     adx_decode(tmp+32,in+18,prev+1);
139     for(i=0;i<32;i++) {
140         out[i*2]   = tmp[i];
141         out[i*2+1] = tmp[i+32];
142     }
143 }
144
145 #ifdef CONFIG_ENCODERS
146
147 static int adx_encode_header(AVCodecContext *avctx,unsigned char *buf,size_t bufsize)
148 {
149 #if 0
150     struct {
151         uint32_t offset; /* 0x80000000 + sample start - 4 */
152         unsigned char unknown1[3]; /* 03 12 04 */
153         unsigned char channel; /* 1 or 2 */
154         uint32_t freq;
155         uint32_t size;
156         uint32_t unknown2; /* 01 f4 03 00 */
157         uint32_t unknown3; /* 00 00 00 00 */
158         uint32_t unknown4; /* 00 00 00 00 */
159
160     /* if loop
161         unknown3 00 15 00 01
162         unknown4 00 00 00 01
163         long loop_start_sample;
164         long loop_start_byte;
165         long loop_end_sample;
166         long loop_end_byte;
167         long
168     */
169     } adxhdr; /* big endian */
170     /* offset-6 "(c)CRI" */
171 #endif
172     AV_WB32(buf+0x00,0x80000000|0x20);
173     AV_WB32(buf+0x04,0x03120400|avctx->channels);
174     AV_WB32(buf+0x08,avctx->sample_rate);
175     AV_WB32(buf+0x0c,0); /* FIXME: set after */
176     AV_WB32(buf+0x10,0x01040300);
177     AV_WB32(buf+0x14,0x00000000);
178     AV_WB32(buf+0x18,0x00000000);
179     memcpy(buf+0x1c,"\0\0(c)CRI",8);
180     return 0x20+4;
181 }
182
183 static int adx_decode_init(AVCodecContext *avctx);
184 static int adx_encode_init(AVCodecContext *avctx)
185 {
186     if (avctx->channels > 2)
187         return -1; /* only stereo or mono =) */
188     avctx->frame_size = 32;
189
190     avctx->coded_frame= avcodec_alloc_frame();
191     avctx->coded_frame->key_frame= 1;
192
193 //    avctx->bit_rate = avctx->sample_rate*avctx->channels*18*8/32;
194
195     av_log(avctx, AV_LOG_DEBUG, "adx encode init\n");
196     adx_decode_init(avctx);
197
198     return 0;
199 }
200
201 static int adx_encode_close(AVCodecContext *avctx)
202 {
203     av_freep(&avctx->coded_frame);
204
205     return 0;
206 }
207
208 static int adx_encode_frame(AVCodecContext *avctx,
209                 uint8_t *frame, int buf_size, void *data)
210 {
211     ADXContext *c = avctx->priv_data;
212     const short *samples = data;
213     unsigned char *dst = frame;
214     int rest = avctx->frame_size;
215
216 /*
217     input data size =
218     ffmpeg.c: do_audio_out()
219     frame_bytes = enc->frame_size * 2 * enc->channels;
220 */
221
222 //    printf("sz=%d ",buf_size); fflush(stdout);
223     if (!c->header_parsed) {
224         int hdrsize = adx_encode_header(avctx,dst,buf_size);
225         dst+=hdrsize;
226         c->header_parsed = 1;
227     }
228
229     if (avctx->channels==1) {
230         while(rest>=32) {
231             adx_encode(dst,samples,c->prev);
232             dst+=18;
233             samples+=32;
234             rest-=32;
235         }
236     } else {
237         while(rest>=32*2) {
238             short tmpbuf[32*2];
239             int i;
240
241             for(i=0;i<32;i++) {
242                 tmpbuf[i] = samples[i*2];
243                 tmpbuf[i+32] = samples[i*2+1];
244             }
245
246             adx_encode(dst,tmpbuf,c->prev);
247             adx_encode(dst+18,tmpbuf+32,c->prev+1);
248             dst+=18*2;
249             samples+=32*2;
250             rest-=32*2;
251         }
252     }
253     return dst-frame;
254 }
255
256 #endif //CONFIG_ENCODERS
257
258 static int is_adx(const unsigned char *buf,size_t bufsize)
259 {
260     int    offset;
261
262     if (buf[0]!=0x80) return 0;
263     offset = (AV_RB32(buf)^0x80000000)+4;
264     if (bufsize<offset || memcmp(buf+offset-6,"(c)CRI",6)) return 0;
265     return offset;
266 }
267
268 /* return data offset or 6 */
269 static int adx_decode_header(AVCodecContext *avctx,const unsigned char *buf,size_t bufsize)
270 {
271     int offset;
272     int channels,freq,size;
273
274     offset = is_adx(buf,bufsize);
275     if (offset==0) return 0;
276
277     channels = buf[7];
278     freq = AV_RB32(buf+8);
279     size = AV_RB32(buf+12);
280
281 //    printf("freq=%d ch=%d\n",freq,channels);
282
283     avctx->sample_rate = freq;
284     avctx->channels = channels;
285     avctx->bit_rate = freq*channels*18*8/32;
286 //    avctx->frame_size = 18*channels;
287
288     return offset;
289 }
290
291 static int adx_decode_init(AVCodecContext * avctx)
292 {
293     ADXContext *c = avctx->priv_data;
294
295 //    printf("adx_decode_init\n"); fflush(stdout);
296     c->prev[0].s1 = 0;
297     c->prev[0].s2 = 0;
298     c->prev[1].s1 = 0;
299     c->prev[1].s2 = 0;
300     c->header_parsed = 0;
301     c->in_temp = 0;
302     return 0;
303 }
304
305 #if 0
306 static void dump(unsigned char *buf,size_t len)
307 {
308     int i;
309     for(i=0;i<len;i++) {
310         if ((i&15)==0) av_log(NULL, AV_LOG_DEBUG, "%04x  ",i);
311         av_log(NULL, AV_LOG_DEBUG, "%02x ",buf[i]);
312         if ((i&15)==15) av_log(NULL, AV_LOG_DEBUG, "\n");
313     }
314     av_log(NULL, AV_LOG_ERROR, "\n");
315 }
316 #endif
317
318 static int adx_decode_frame(AVCodecContext *avctx,
319                 void *data, int *data_size,
320                 uint8_t *buf0, int buf_size)
321 {
322     ADXContext *c = avctx->priv_data;
323     short *samples = data;
324     const uint8_t *buf = buf0;
325     int rest = buf_size;
326
327     if (!c->header_parsed) {
328         int hdrsize = adx_decode_header(avctx,buf,rest);
329         if (hdrsize==0) return -1;
330         c->header_parsed = 1;
331         buf  += hdrsize;
332         rest -= hdrsize;
333     }
334
335     if (c->in_temp) {
336         int copysize = 18*avctx->channels - c->in_temp;
337         memcpy(c->dec_temp+c->in_temp,buf,copysize);
338         rest -= copysize;
339         buf  += copysize;
340         if (avctx->channels==1) {
341             adx_decode(samples,c->dec_temp,c->prev);
342             samples += 32;
343         } else {
344             adx_decode_stereo(samples,c->dec_temp,c->prev);
345             samples += 32*2;
346         }
347     }
348     //
349     if (avctx->channels==1) {
350         while(rest>=18) {
351             adx_decode(samples,buf,c->prev);
352             rest-=18;
353             buf+=18;
354             samples+=32;
355         }
356     } else {
357         while(rest>=18*2) {
358             adx_decode_stereo(samples,buf,c->prev);
359             rest-=18*2;
360             buf+=18*2;
361             samples+=32*2;
362         }
363     }
364     //
365     c->in_temp = rest;
366     if (rest) {
367         memcpy(c->dec_temp,buf,rest);
368         buf+=rest;
369     }
370     *data_size = (uint8_t*)samples - (uint8_t*)data;
371 //    printf("%d:%d ",buf-buf0,*data_size); fflush(stdout);
372     return buf-buf0;
373 }
374
375 #ifdef CONFIG_ENCODERS
376 AVCodec adpcm_adx_encoder = {
377     "adpcm_adx",
378     CODEC_TYPE_AUDIO,
379     CODEC_ID_ADPCM_ADX,
380     sizeof(ADXContext),
381     adx_encode_init,
382     adx_encode_frame,
383     adx_encode_close,
384     NULL,
385 };
386 #endif //CONFIG_ENCODERS
387
388 AVCodec adpcm_adx_decoder = {
389     "adpcm_adx",
390     CODEC_TYPE_AUDIO,
391     CODEC_ID_ADPCM_ADX,
392     sizeof(ADXContext),
393     adx_decode_init,
394     NULL,
395     NULL,
396     adx_decode_frame,
397 };
398