]> git.sesse.net Git - ffmpeg/blob - libavcodec/libopencore-amr.c
exr: make sure that data_size is not bigger than expected
[ffmpeg] / libavcodec / libopencore-amr.c
1 /*
2  * AMR Audio decoder stub
3  * Copyright (c) 2003 the ffmpeg project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/channel_layout.h"
24 #include "libavutil/common.h"
25 #include "libavutil/opt.h"
26 #include "avcodec.h"
27 #include "audio_frame_queue.h"
28 #include "internal.h"
29
30 static int amr_decode_fix_avctx(AVCodecContext *avctx)
31 {
32     const int is_amr_wb = 1 + (avctx->codec_id == AV_CODEC_ID_AMR_WB);
33
34     if (!avctx->sample_rate)
35         avctx->sample_rate = 8000 * is_amr_wb;
36
37     if (avctx->channels > 1) {
38         av_log_missing_feature(avctx, "multi-channel AMR", 0);
39         return AVERROR_PATCHWELCOME;
40     }
41
42     avctx->channels       = 1;
43     avctx->channel_layout = AV_CH_LAYOUT_MONO;
44     avctx->sample_fmt     = AV_SAMPLE_FMT_S16;
45     return 0;
46 }
47
48 #if CONFIG_LIBOPENCORE_AMRNB
49
50 #include <opencore-amrnb/interf_dec.h>
51 #include <opencore-amrnb/interf_enc.h>
52
53 typedef struct AMRContext {
54     AVClass *av_class;
55     void *dec_state;
56     void *enc_state;
57     int   enc_bitrate;
58     int   enc_mode;
59     int   enc_dtx;
60     int   enc_last_frame;
61     AudioFrameQueue afq;
62 } AMRContext;
63
64 #if CONFIG_LIBOPENCORE_AMRNB_DECODER
65 static av_cold int amr_nb_decode_init(AVCodecContext *avctx)
66 {
67     AMRContext *s  = avctx->priv_data;
68     int ret;
69
70     if ((ret = amr_decode_fix_avctx(avctx)) < 0)
71         return ret;
72
73     s->dec_state   = Decoder_Interface_init();
74     if (!s->dec_state) {
75         av_log(avctx, AV_LOG_ERROR, "Decoder_Interface_init error\n");
76         return -1;
77     }
78
79     return 0;
80 }
81
82 static av_cold int amr_nb_decode_close(AVCodecContext *avctx)
83 {
84     AMRContext *s = avctx->priv_data;
85
86     Decoder_Interface_exit(s->dec_state);
87
88     return 0;
89 }
90
91 static int amr_nb_decode_frame(AVCodecContext *avctx, void *data,
92                                int *got_frame_ptr, AVPacket *avpkt)
93 {
94     AVFrame *frame     = data;
95     const uint8_t *buf = avpkt->data;
96     int buf_size       = avpkt->size;
97     AMRContext *s      = avctx->priv_data;
98     static const uint8_t block_size[16] = { 12, 13, 15, 17, 19, 20, 26, 31, 5, 0, 0, 0, 0, 0, 0, 0 };
99     enum Mode dec_mode;
100     int packet_size, ret;
101
102     av_dlog(avctx, "amr_decode_frame buf=%p buf_size=%d frame_count=%d!!\n",
103             buf, buf_size, avctx->frame_number);
104
105     /* get output buffer */
106     frame->nb_samples = 160;
107     if ((ret = ff_get_buffer(avctx, frame)) < 0) {
108         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
109         return ret;
110     }
111
112     dec_mode    = (buf[0] >> 3) & 0x000F;
113     packet_size = block_size[dec_mode] + 1;
114
115     if (packet_size > buf_size) {
116         av_log(avctx, AV_LOG_ERROR, "amr frame too short (%u, should be %u)\n",
117                buf_size, packet_size);
118         return AVERROR_INVALIDDATA;
119     }
120
121     av_dlog(avctx, "packet_size=%d buf= 0x%X %X %X %X\n",
122               packet_size, buf[0], buf[1], buf[2], buf[3]);
123     /* call decoder */
124     Decoder_Interface_Decode(s->dec_state, buf, (short *)frame->data[0], 0);
125
126     *got_frame_ptr = 1;
127
128     return packet_size;
129 }
130
131 AVCodec ff_libopencore_amrnb_decoder = {
132     .name           = "libopencore_amrnb",
133     .type           = AVMEDIA_TYPE_AUDIO,
134     .id             = AV_CODEC_ID_AMR_NB,
135     .priv_data_size = sizeof(AMRContext),
136     .init           = amr_nb_decode_init,
137     .close          = amr_nb_decode_close,
138     .decode         = amr_nb_decode_frame,
139     .capabilities   = CODEC_CAP_DR1,
140     .long_name      = NULL_IF_CONFIG_SMALL("OpenCORE AMR-NB (Adaptive Multi-Rate Narrow-Band)"),
141 };
142 #endif /* CONFIG_LIBOPENCORE_AMRNB_DECODER */
143
144 #if CONFIG_LIBOPENCORE_AMRNB_ENCODER
145 /* Common code for fixed and float version*/
146 typedef struct AMR_bitrates {
147     int       rate;
148     enum Mode mode;
149 } AMR_bitrates;
150
151 /* Match desired bitrate */
152 static int get_bitrate_mode(int bitrate, void *log_ctx)
153 {
154     /* make the correspondance between bitrate and mode */
155     static const AMR_bitrates rates[] = {
156         { 4750, MR475 }, { 5150, MR515 }, {  5900, MR59  }, {  6700, MR67  },
157         { 7400, MR74 },  { 7950, MR795 }, { 10200, MR102 }, { 12200, MR122 }
158     };
159     int i, best = -1, min_diff = 0;
160     char log_buf[200];
161
162     for (i = 0; i < 8; i++) {
163         if (rates[i].rate == bitrate)
164             return rates[i].mode;
165         if (best < 0 || abs(rates[i].rate - bitrate) < min_diff) {
166             best     = i;
167             min_diff = abs(rates[i].rate - bitrate);
168         }
169     }
170     /* no bitrate matching exactly, log a warning */
171     snprintf(log_buf, sizeof(log_buf), "bitrate not supported: use one of ");
172     for (i = 0; i < 8; i++)
173         av_strlcatf(log_buf, sizeof(log_buf), "%.2fk, ", rates[i].rate    / 1000.f);
174     av_strlcatf(log_buf, sizeof(log_buf), "using %.2fk", rates[best].rate / 1000.f);
175     av_log(log_ctx, AV_LOG_WARNING, "%s\n", log_buf);
176
177     return best;
178 }
179
180 static const AVOption options[] = {
181     { "dtx", "Allow DTX (generate comfort noise)", offsetof(AMRContext, enc_dtx), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM },
182     { NULL }
183 };
184
185 static const AVClass class = {
186     "libopencore_amrnb", av_default_item_name, options, LIBAVUTIL_VERSION_INT
187 };
188
189 static av_cold int amr_nb_encode_init(AVCodecContext *avctx)
190 {
191     AMRContext *s = avctx->priv_data;
192
193     if (avctx->sample_rate != 8000 && avctx->strict_std_compliance > FF_COMPLIANCE_UNOFFICIAL) {
194         av_log(avctx, AV_LOG_ERROR, "Only 8000Hz sample rate supported\n");
195         return AVERROR(ENOSYS);
196     }
197
198     if (avctx->channels != 1) {
199         av_log(avctx, AV_LOG_ERROR, "Only mono supported\n");
200         return AVERROR(ENOSYS);
201     }
202
203     avctx->frame_size  = 160;
204     avctx->delay       =  50;
205     ff_af_queue_init(avctx, &s->afq);
206 #if FF_API_OLD_ENCODE_AUDIO
207     avctx->coded_frame = avcodec_alloc_frame();
208     if (!avctx->coded_frame)
209         return AVERROR(ENOMEM);
210 #endif
211
212     s->enc_state = Encoder_Interface_init(s->enc_dtx);
213     if (!s->enc_state) {
214         av_log(avctx, AV_LOG_ERROR, "Encoder_Interface_init error\n");
215         av_freep(&avctx->coded_frame);
216         return -1;
217     }
218
219     s->enc_mode    = get_bitrate_mode(avctx->bit_rate, avctx);
220     s->enc_bitrate = avctx->bit_rate;
221
222     return 0;
223 }
224
225 static av_cold int amr_nb_encode_close(AVCodecContext *avctx)
226 {
227     AMRContext *s = avctx->priv_data;
228
229     Encoder_Interface_exit(s->enc_state);
230     ff_af_queue_close(&s->afq);
231 #if FF_API_OLD_ENCODE_AUDIO
232     av_freep(&avctx->coded_frame);
233 #endif
234     return 0;
235 }
236
237 static int amr_nb_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
238                                const AVFrame *frame, int *got_packet_ptr)
239 {
240     AMRContext *s = avctx->priv_data;
241     int written, ret;
242     int16_t *flush_buf = NULL;
243     const int16_t *samples = frame ? (const int16_t *)frame->data[0] : NULL;
244
245     if (s->enc_bitrate != avctx->bit_rate) {
246         s->enc_mode    = get_bitrate_mode(avctx->bit_rate, avctx);
247         s->enc_bitrate = avctx->bit_rate;
248     }
249
250     if ((ret = ff_alloc_packet2(avctx, avpkt, 32)))
251         return ret;
252
253     if (frame) {
254         if (frame->nb_samples < avctx->frame_size) {
255             flush_buf = av_mallocz(avctx->frame_size * sizeof(*flush_buf));
256             if (!flush_buf)
257                 return AVERROR(ENOMEM);
258             memcpy(flush_buf, samples, frame->nb_samples * sizeof(*flush_buf));
259             samples = flush_buf;
260             if (frame->nb_samples < avctx->frame_size - avctx->delay)
261                 s->enc_last_frame = -1;
262         }
263         if ((ret = ff_af_queue_add(&s->afq, frame)) < 0) {
264             av_freep(&flush_buf);
265             return ret;
266         }
267     } else {
268         if (s->enc_last_frame < 0)
269             return 0;
270         flush_buf = av_mallocz(avctx->frame_size * sizeof(*flush_buf));
271         if (!flush_buf)
272             return AVERROR(ENOMEM);
273         samples = flush_buf;
274         s->enc_last_frame = -1;
275     }
276
277     written = Encoder_Interface_Encode(s->enc_state, s->enc_mode, samples,
278                                        avpkt->data, 0);
279     av_dlog(avctx, "amr_nb_encode_frame encoded %u bytes, bitrate %u, first byte was %#02x\n",
280             written, s->enc_mode, avpkt->data[0]);
281
282     /* Get the next frame pts/duration */
283     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
284                        &avpkt->duration);
285
286     avpkt->size = written;
287     *got_packet_ptr = 1;
288     av_freep(&flush_buf);
289     return 0;
290 }
291
292 AVCodec ff_libopencore_amrnb_encoder = {
293     .name           = "libopencore_amrnb",
294     .type           = AVMEDIA_TYPE_AUDIO,
295     .id             = AV_CODEC_ID_AMR_NB,
296     .priv_data_size = sizeof(AMRContext),
297     .init           = amr_nb_encode_init,
298     .encode2        = amr_nb_encode_frame,
299     .close          = amr_nb_encode_close,
300     .capabilities   = CODEC_CAP_DELAY | CODEC_CAP_SMALL_LAST_FRAME,
301     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_S16,
302                                                      AV_SAMPLE_FMT_NONE },
303     .long_name      = NULL_IF_CONFIG_SMALL("OpenCORE AMR-NB (Adaptive Multi-Rate Narrow-Band)"),
304     .priv_class     = &class,
305 };
306 #endif /* CONFIG_LIBOPENCORE_AMRNB_ENCODER */
307
308 #endif /* CONFIG_LIBOPENCORE_AMRNB */
309
310 /* -----------AMR wideband ------------*/
311 #if CONFIG_LIBOPENCORE_AMRWB_DECODER
312
313 #include <opencore-amrwb/dec_if.h>
314 #include <opencore-amrwb/if_rom.h>
315
316 typedef struct AMRWBContext {
317     void  *state;
318 } AMRWBContext;
319
320 static av_cold int amr_wb_decode_init(AVCodecContext *avctx)
321 {
322     AMRWBContext *s = avctx->priv_data;
323     int ret;
324
325     if ((ret = amr_decode_fix_avctx(avctx)) < 0)
326         return ret;
327
328     s->state        = D_IF_init();
329
330     return 0;
331 }
332
333 static int amr_wb_decode_frame(AVCodecContext *avctx, void *data,
334                                int *got_frame_ptr, AVPacket *avpkt)
335 {
336     AVFrame *frame     = data;
337     const uint8_t *buf = avpkt->data;
338     int buf_size       = avpkt->size;
339     AMRWBContext *s    = avctx->priv_data;
340     int mode, ret;
341     int packet_size;
342     static const uint8_t block_size[16] = {18, 24, 33, 37, 41, 47, 51, 59, 61, 6, 6, 0, 0, 0, 1, 1};
343
344     /* get output buffer */
345     frame->nb_samples = 320;
346     if ((ret = ff_get_buffer(avctx, frame)) < 0) {
347         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
348         return ret;
349     }
350
351     mode        = (buf[0] >> 3) & 0x000F;
352     packet_size = block_size[mode];
353
354     if (packet_size > buf_size) {
355         av_log(avctx, AV_LOG_ERROR, "amr frame too short (%u, should be %u)\n",
356                buf_size, packet_size + 1);
357         return AVERROR_INVALIDDATA;
358     }
359     if (!packet_size) {
360         av_log(avctx, AV_LOG_ERROR, "amr packet_size invalid\n");
361         return AVERROR_INVALIDDATA;
362     }
363
364     D_IF_decode(s->state, buf, (short *)frame->data[0], _good_frame);
365
366     *got_frame_ptr = 1;
367
368     return packet_size;
369 }
370
371 static int amr_wb_decode_close(AVCodecContext *avctx)
372 {
373     AMRWBContext *s = avctx->priv_data;
374
375     D_IF_exit(s->state);
376     return 0;
377 }
378
379 AVCodec ff_libopencore_amrwb_decoder = {
380     .name           = "libopencore_amrwb",
381     .type           = AVMEDIA_TYPE_AUDIO,
382     .id             = AV_CODEC_ID_AMR_WB,
383     .priv_data_size = sizeof(AMRWBContext),
384     .init           = amr_wb_decode_init,
385     .close          = amr_wb_decode_close,
386     .decode         = amr_wb_decode_frame,
387     .capabilities   = CODEC_CAP_DR1,
388     .long_name      = NULL_IF_CONFIG_SMALL("OpenCORE AMR-WB (Adaptive Multi-Rate Wide-Band)"),
389 };
390
391 #endif /* CONFIG_LIBOPENCORE_AMRWB_DECODER */