]> git.sesse.net Git - ffmpeg/blob - libavcodec/mpegaudiodec.c
Merge remote-tracking branch 'qatar/master'
[ffmpeg] / libavcodec / mpegaudiodec.c
1 /*
2  * MPEG Audio decoder
3  * Copyright (c) 2001, 2002 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio decoder
25  */
26
27 #define UNCHECKED_BITSTREAM_READER 1
28
29 #include "libavutil/audioconvert.h"
30 #include "avcodec.h"
31 #include "get_bits.h"
32 #include "mathops.h"
33 #include "mpegaudiodsp.h"
34
35 /*
36  * TODO:
37  *  - test lsf / mpeg25 extensively.
38  */
39
40 #include "mpegaudio.h"
41 #include "mpegaudiodecheader.h"
42
43 #define BACKSTEP_SIZE 512
44 #define EXTRABYTES 24
45
46 /* layer 3 "granule" */
47 typedef struct GranuleDef {
48     uint8_t scfsi;
49     int part2_3_length;
50     int big_values;
51     int global_gain;
52     int scalefac_compress;
53     uint8_t block_type;
54     uint8_t switch_point;
55     int table_select[3];
56     int subblock_gain[3];
57     uint8_t scalefac_scale;
58     uint8_t count1table_select;
59     int region_size[3]; /* number of huffman codes in each region */
60     int preflag;
61     int short_start, long_end; /* long/short band indexes */
62     uint8_t scale_factors[40];
63     DECLARE_ALIGNED(16, INTFLOAT, sb_hybrid)[SBLIMIT * 18]; /* 576 samples */
64 } GranuleDef;
65
66 typedef struct MPADecodeContext {
67     MPA_DECODE_HEADER
68     uint8_t last_buf[2 * BACKSTEP_SIZE + EXTRABYTES];
69     int last_buf_size;
70     /* next header (used in free format parsing) */
71     uint32_t free_format_next_header;
72     GetBitContext gb;
73     GetBitContext in_gb;
74     DECLARE_ALIGNED(32, MPA_INT, synth_buf)[MPA_MAX_CHANNELS][512 * 2];
75     int synth_buf_offset[MPA_MAX_CHANNELS];
76     DECLARE_ALIGNED(32, INTFLOAT, sb_samples)[MPA_MAX_CHANNELS][36][SBLIMIT];
77     INTFLOAT mdct_buf[MPA_MAX_CHANNELS][SBLIMIT * 18]; /* previous samples, for layer 3 MDCT */
78     GranuleDef granules[2][2]; /* Used in Layer 3 */
79     int adu_mode; ///< 0 for standard mp3, 1 for adu formatted mp3
80     int dither_state;
81     int err_recognition;
82     AVCodecContext* avctx;
83     MPADSPContext mpadsp;
84     AVFrame frame;
85 } MPADecodeContext;
86
87 #if CONFIG_FLOAT
88 #   define SHR(a,b)       ((a)*(1.0f/(1<<(b))))
89 #   define FIXR_OLD(a)    ((int)((a) * FRAC_ONE + 0.5))
90 #   define FIXR(x)        ((float)(x))
91 #   define FIXHR(x)       ((float)(x))
92 #   define MULH3(x, y, s) ((s)*(y)*(x))
93 #   define MULLx(x, y, s) ((y)*(x))
94 #   define RENAME(a) a ## _float
95 #   define OUT_FMT AV_SAMPLE_FMT_FLT
96 #else
97 #   define SHR(a,b)       ((a)>>(b))
98 /* WARNING: only correct for positive numbers */
99 #   define FIXR_OLD(a)    ((int)((a) * FRAC_ONE + 0.5))
100 #   define FIXR(a)        ((int)((a) * FRAC_ONE + 0.5))
101 #   define FIXHR(a)       ((int)((a) * (1LL<<32) + 0.5))
102 #   define MULH3(x, y, s) MULH((s)*(x), y)
103 #   define MULLx(x, y, s) MULL(x,y,s)
104 #   define RENAME(a)      a ## _fixed
105 #   define OUT_FMT AV_SAMPLE_FMT_S16
106 #endif
107
108 /****************/
109
110 #define HEADER_SIZE 4
111
112 #include "mpegaudiodata.h"
113 #include "mpegaudiodectab.h"
114
115 /* vlc structure for decoding layer 3 huffman tables */
116 static VLC huff_vlc[16];
117 static VLC_TYPE huff_vlc_tables[
118     0 + 128 + 128 + 128 + 130 + 128 + 154 + 166 +
119   142 + 204 + 190 + 170 + 542 + 460 + 662 + 414
120   ][2];
121 static const int huff_vlc_tables_sizes[16] = {
122     0,  128,  128,  128,  130,  128,  154,  166,
123   142,  204,  190,  170,  542,  460,  662,  414
124 };
125 static VLC huff_quad_vlc[2];
126 static VLC_TYPE  huff_quad_vlc_tables[128+16][2];
127 static const int huff_quad_vlc_tables_sizes[2] = { 128, 16 };
128 /* computed from band_size_long */
129 static uint16_t band_index_long[9][23];
130 #include "mpegaudio_tablegen.h"
131 /* intensity stereo coef table */
132 static INTFLOAT is_table[2][16];
133 static INTFLOAT is_table_lsf[2][2][16];
134 static INTFLOAT csa_table[8][4];
135
136 static int16_t division_tab3[1<<6 ];
137 static int16_t division_tab5[1<<8 ];
138 static int16_t division_tab9[1<<11];
139
140 static int16_t * const division_tabs[4] = {
141     division_tab3, division_tab5, NULL, division_tab9
142 };
143
144 /* lower 2 bits: modulo 3, higher bits: shift */
145 static uint16_t scale_factor_modshift[64];
146 /* [i][j]:  2^(-j/3) * FRAC_ONE * 2^(i+2) / (2^(i+2) - 1) */
147 static int32_t scale_factor_mult[15][3];
148 /* mult table for layer 2 group quantization */
149
150 #define SCALE_GEN(v) \
151 { FIXR_OLD(1.0 * (v)), FIXR_OLD(0.7937005259 * (v)), FIXR_OLD(0.6299605249 * (v)) }
152
153 static const int32_t scale_factor_mult2[3][3] = {
154     SCALE_GEN(4.0 / 3.0), /* 3 steps */
155     SCALE_GEN(4.0 / 5.0), /* 5 steps */
156     SCALE_GEN(4.0 / 9.0), /* 9 steps */
157 };
158
159 /**
160  * Convert region offsets to region sizes and truncate
161  * size to big_values.
162  */
163 static void ff_region_offset2size(GranuleDef *g)
164 {
165     int i, k, j = 0;
166     g->region_size[2] = 576 / 2;
167     for (i = 0; i < 3; i++) {
168         k = FFMIN(g->region_size[i], g->big_values);
169         g->region_size[i] = k - j;
170         j = k;
171     }
172 }
173
174 static void ff_init_short_region(MPADecodeContext *s, GranuleDef *g)
175 {
176     if (g->block_type == 2)
177         g->region_size[0] = (36 / 2);
178     else {
179         if (s->sample_rate_index <= 2)
180             g->region_size[0] = (36 / 2);
181         else if (s->sample_rate_index != 8)
182             g->region_size[0] = (54 / 2);
183         else
184             g->region_size[0] = (108 / 2);
185     }
186     g->region_size[1] = (576 / 2);
187 }
188
189 static void ff_init_long_region(MPADecodeContext *s, GranuleDef *g, int ra1, int ra2)
190 {
191     int l;
192     g->region_size[0] = band_index_long[s->sample_rate_index][ra1 + 1] >> 1;
193     /* should not overflow */
194     l = FFMIN(ra1 + ra2 + 2, 22);
195     g->region_size[1] = band_index_long[s->sample_rate_index][      l] >> 1;
196 }
197
198 static void ff_compute_band_indexes(MPADecodeContext *s, GranuleDef *g)
199 {
200     if (g->block_type == 2) {
201         if (g->switch_point) {
202             /* if switched mode, we handle the 36 first samples as
203                 long blocks.  For 8000Hz, we handle the 48 first
204                 exponents as long blocks (XXX: check this!) */
205             if (s->sample_rate_index <= 2)
206                 g->long_end = 8;
207             else if (s->sample_rate_index != 8)
208                 g->long_end = 6;
209             else
210                 g->long_end = 4; /* 8000 Hz */
211
212             g->short_start = 2 + (s->sample_rate_index != 8);
213         } else {
214             g->long_end    = 0;
215             g->short_start = 0;
216         }
217     } else {
218         g->short_start = 13;
219         g->long_end    = 22;
220     }
221 }
222
223 /* layer 1 unscaling */
224 /* n = number of bits of the mantissa minus 1 */
225 static inline int l1_unscale(int n, int mant, int scale_factor)
226 {
227     int shift, mod;
228     int64_t val;
229
230     shift   = scale_factor_modshift[scale_factor];
231     mod     = shift & 3;
232     shift >>= 2;
233     val     = MUL64(mant + (-1 << n) + 1, scale_factor_mult[n-1][mod]);
234     shift  += n;
235     /* NOTE: at this point, 1 <= shift >= 21 + 15 */
236     return (int)((val + (1LL << (shift - 1))) >> shift);
237 }
238
239 static inline int l2_unscale_group(int steps, int mant, int scale_factor)
240 {
241     int shift, mod, val;
242
243     shift   = scale_factor_modshift[scale_factor];
244     mod     = shift & 3;
245     shift >>= 2;
246
247     val = (mant - (steps >> 1)) * scale_factor_mult2[steps >> 2][mod];
248     /* NOTE: at this point, 0 <= shift <= 21 */
249     if (shift > 0)
250         val = (val + (1 << (shift - 1))) >> shift;
251     return val;
252 }
253
254 /* compute value^(4/3) * 2^(exponent/4). It normalized to FRAC_BITS */
255 static inline int l3_unscale(int value, int exponent)
256 {
257     unsigned int m;
258     int e;
259
260     e  = table_4_3_exp  [4 * value + (exponent & 3)];
261     m  = table_4_3_value[4 * value + (exponent & 3)];
262     e -= exponent >> 2;
263     assert(e >= 1);
264     if (e > 31)
265         return 0;
266     m = (m + (1 << (e - 1))) >> e;
267
268     return m;
269 }
270
271 static av_cold void decode_init_static(void)
272 {
273     int i, j, k;
274     int offset;
275
276     /* scale factors table for layer 1/2 */
277     for (i = 0; i < 64; i++) {
278         int shift, mod;
279         /* 1.0 (i = 3) is normalized to 2 ^ FRAC_BITS */
280         shift = i / 3;
281         mod   = i % 3;
282         scale_factor_modshift[i] = mod | (shift << 2);
283     }
284
285     /* scale factor multiply for layer 1 */
286     for (i = 0; i < 15; i++) {
287         int n, norm;
288         n = i + 2;
289         norm = ((INT64_C(1) << n) * FRAC_ONE) / ((1 << n) - 1);
290         scale_factor_mult[i][0] = MULLx(norm, FIXR(1.0          * 2.0), FRAC_BITS);
291         scale_factor_mult[i][1] = MULLx(norm, FIXR(0.7937005259 * 2.0), FRAC_BITS);
292         scale_factor_mult[i][2] = MULLx(norm, FIXR(0.6299605249 * 2.0), FRAC_BITS);
293         av_dlog(NULL, "%d: norm=%x s=%x %x %x\n", i, norm,
294                 scale_factor_mult[i][0],
295                 scale_factor_mult[i][1],
296                 scale_factor_mult[i][2]);
297     }
298
299     RENAME(ff_mpa_synth_init)(RENAME(ff_mpa_synth_window));
300
301     /* huffman decode tables */
302     offset = 0;
303     for (i = 1; i < 16; i++) {
304         const HuffTable *h = &mpa_huff_tables[i];
305         int xsize, x, y;
306         uint8_t  tmp_bits [512];
307         uint16_t tmp_codes[512];
308
309         memset(tmp_bits , 0, sizeof(tmp_bits ));
310         memset(tmp_codes, 0, sizeof(tmp_codes));
311
312         xsize = h->xsize;
313
314         j = 0;
315         for (x = 0; x < xsize; x++) {
316             for (y = 0; y < xsize; y++) {
317                 tmp_bits [(x << 5) | y | ((x&&y)<<4)]= h->bits [j  ];
318                 tmp_codes[(x << 5) | y | ((x&&y)<<4)]= h->codes[j++];
319             }
320         }
321
322         /* XXX: fail test */
323         huff_vlc[i].table = huff_vlc_tables+offset;
324         huff_vlc[i].table_allocated = huff_vlc_tables_sizes[i];
325         init_vlc(&huff_vlc[i], 7, 512,
326                  tmp_bits, 1, 1, tmp_codes, 2, 2,
327                  INIT_VLC_USE_NEW_STATIC);
328         offset += huff_vlc_tables_sizes[i];
329     }
330     assert(offset == FF_ARRAY_ELEMS(huff_vlc_tables));
331
332     offset = 0;
333     for (i = 0; i < 2; i++) {
334         huff_quad_vlc[i].table = huff_quad_vlc_tables+offset;
335         huff_quad_vlc[i].table_allocated = huff_quad_vlc_tables_sizes[i];
336         init_vlc(&huff_quad_vlc[i], i == 0 ? 7 : 4, 16,
337                  mpa_quad_bits[i], 1, 1, mpa_quad_codes[i], 1, 1,
338                  INIT_VLC_USE_NEW_STATIC);
339         offset += huff_quad_vlc_tables_sizes[i];
340     }
341     assert(offset == FF_ARRAY_ELEMS(huff_quad_vlc_tables));
342
343     for (i = 0; i < 9; i++) {
344         k = 0;
345         for (j = 0; j < 22; j++) {
346             band_index_long[i][j] = k;
347             k += band_size_long[i][j];
348         }
349         band_index_long[i][22] = k;
350     }
351
352     /* compute n ^ (4/3) and store it in mantissa/exp format */
353
354     mpegaudio_tableinit();
355
356     for (i = 0; i < 4; i++) {
357         if (ff_mpa_quant_bits[i] < 0) {
358             for (j = 0; j < (1 << (-ff_mpa_quant_bits[i]+1)); j++) {
359                 int val1, val2, val3, steps;
360                 int val = j;
361                 steps   = ff_mpa_quant_steps[i];
362                 val1    = val % steps;
363                 val    /= steps;
364                 val2    = val % steps;
365                 val3    = val / steps;
366                 division_tabs[i][j] = val1 + (val2 << 4) + (val3 << 8);
367             }
368         }
369     }
370
371
372     for (i = 0; i < 7; i++) {
373         float f;
374         INTFLOAT v;
375         if (i != 6) {
376             f = tan((double)i * M_PI / 12.0);
377             v = FIXR(f / (1.0 + f));
378         } else {
379             v = FIXR(1.0);
380         }
381         is_table[0][    i] = v;
382         is_table[1][6 - i] = v;
383     }
384     /* invalid values */
385     for (i = 7; i < 16; i++)
386         is_table[0][i] = is_table[1][i] = 0.0;
387
388     for (i = 0; i < 16; i++) {
389         double f;
390         int e, k;
391
392         for (j = 0; j < 2; j++) {
393             e = -(j + 1) * ((i + 1) >> 1);
394             f = pow(2.0, e / 4.0);
395             k = i & 1;
396             is_table_lsf[j][k ^ 1][i] = FIXR(f);
397             is_table_lsf[j][k    ][i] = FIXR(1.0);
398             av_dlog(NULL, "is_table_lsf %d %d: %f %f\n",
399                     i, j, (float) is_table_lsf[j][0][i],
400                     (float) is_table_lsf[j][1][i]);
401         }
402     }
403
404     for (i = 0; i < 8; i++) {
405         float ci, cs, ca;
406         ci = ci_table[i];
407         cs = 1.0 / sqrt(1.0 + ci * ci);
408         ca = cs * ci;
409 #if !CONFIG_FLOAT
410         csa_table[i][0] = FIXHR(cs/4);
411         csa_table[i][1] = FIXHR(ca/4);
412         csa_table[i][2] = FIXHR(ca/4) + FIXHR(cs/4);
413         csa_table[i][3] = FIXHR(ca/4) - FIXHR(cs/4);
414 #else
415         csa_table[i][0] = cs;
416         csa_table[i][1] = ca;
417         csa_table[i][2] = ca + cs;
418         csa_table[i][3] = ca - cs;
419 #endif
420     }
421 }
422
423 static av_cold int decode_init(AVCodecContext * avctx)
424 {
425     static int initialized_tables = 0;
426     MPADecodeContext *s = avctx->priv_data;
427
428     if (!initialized_tables) {
429         decode_init_static();
430         initialized_tables = 1;
431     }
432
433     s->avctx = avctx;
434
435     ff_mpadsp_init(&s->mpadsp);
436
437     avctx->sample_fmt= OUT_FMT;
438     s->err_recognition = avctx->err_recognition;
439
440     if (avctx->codec_id == CODEC_ID_MP3ADU)
441         s->adu_mode = 1;
442
443     avcodec_get_frame_defaults(&s->frame);
444     avctx->coded_frame = &s->frame;
445
446     return 0;
447 }
448
449 #define C3 FIXHR(0.86602540378443864676/2)
450 #define C4 FIXHR(0.70710678118654752439/2) //0.5 / cos(pi*(9)/36)
451 #define C5 FIXHR(0.51763809020504152469/2) //0.5 / cos(pi*(5)/36)
452 #define C6 FIXHR(1.93185165257813657349/4) //0.5 / cos(pi*(15)/36)
453
454 /* 12 points IMDCT. We compute it "by hand" by factorizing obvious
455    cases. */
456 static void imdct12(INTFLOAT *out, INTFLOAT *in)
457 {
458     INTFLOAT in0, in1, in2, in3, in4, in5, t1, t2;
459
460     in0  = in[0*3];
461     in1  = in[1*3] + in[0*3];
462     in2  = in[2*3] + in[1*3];
463     in3  = in[3*3] + in[2*3];
464     in4  = in[4*3] + in[3*3];
465     in5  = in[5*3] + in[4*3];
466     in5 += in3;
467     in3 += in1;
468
469     in2  = MULH3(in2, C3, 2);
470     in3  = MULH3(in3, C3, 4);
471
472     t1   = in0 - in4;
473     t2   = MULH3(in1 - in5, C4, 2);
474
475     out[ 7] =
476     out[10] = t1 + t2;
477     out[ 1] =
478     out[ 4] = t1 - t2;
479
480     in0    += SHR(in4, 1);
481     in4     = in0 + in2;
482     in5    += 2*in1;
483     in1     = MULH3(in5 + in3, C5, 1);
484     out[ 8] =
485     out[ 9] = in4 + in1;
486     out[ 2] =
487     out[ 3] = in4 - in1;
488
489     in0    -= in2;
490     in5     = MULH3(in5 - in3, C6, 2);
491     out[ 0] =
492     out[ 5] = in0 - in5;
493     out[ 6] =
494     out[11] = in0 + in5;
495 }
496
497 /* return the number of decoded frames */
498 static int mp_decode_layer1(MPADecodeContext *s)
499 {
500     int bound, i, v, n, ch, j, mant;
501     uint8_t allocation[MPA_MAX_CHANNELS][SBLIMIT];
502     uint8_t scale_factors[MPA_MAX_CHANNELS][SBLIMIT];
503
504     if (s->mode == MPA_JSTEREO)
505         bound = (s->mode_ext + 1) * 4;
506     else
507         bound = SBLIMIT;
508
509     /* allocation bits */
510     for (i = 0; i < bound; i++) {
511         for (ch = 0; ch < s->nb_channels; ch++) {
512             allocation[ch][i] = get_bits(&s->gb, 4);
513         }
514     }
515     for (i = bound; i < SBLIMIT; i++)
516         allocation[0][i] = get_bits(&s->gb, 4);
517
518     /* scale factors */
519     for (i = 0; i < bound; i++) {
520         for (ch = 0; ch < s->nb_channels; ch++) {
521             if (allocation[ch][i])
522                 scale_factors[ch][i] = get_bits(&s->gb, 6);
523         }
524     }
525     for (i = bound; i < SBLIMIT; i++) {
526         if (allocation[0][i]) {
527             scale_factors[0][i] = get_bits(&s->gb, 6);
528             scale_factors[1][i] = get_bits(&s->gb, 6);
529         }
530     }
531
532     /* compute samples */
533     for (j = 0; j < 12; j++) {
534         for (i = 0; i < bound; i++) {
535             for (ch = 0; ch < s->nb_channels; ch++) {
536                 n = allocation[ch][i];
537                 if (n) {
538                     mant = get_bits(&s->gb, n + 1);
539                     v = l1_unscale(n, mant, scale_factors[ch][i]);
540                 } else {
541                     v = 0;
542                 }
543                 s->sb_samples[ch][j][i] = v;
544             }
545         }
546         for (i = bound; i < SBLIMIT; i++) {
547             n = allocation[0][i];
548             if (n) {
549                 mant = get_bits(&s->gb, n + 1);
550                 v = l1_unscale(n, mant, scale_factors[0][i]);
551                 s->sb_samples[0][j][i] = v;
552                 v = l1_unscale(n, mant, scale_factors[1][i]);
553                 s->sb_samples[1][j][i] = v;
554             } else {
555                 s->sb_samples[0][j][i] = 0;
556                 s->sb_samples[1][j][i] = 0;
557             }
558         }
559     }
560     return 12;
561 }
562
563 static int mp_decode_layer2(MPADecodeContext *s)
564 {
565     int sblimit; /* number of used subbands */
566     const unsigned char *alloc_table;
567     int table, bit_alloc_bits, i, j, ch, bound, v;
568     unsigned char bit_alloc[MPA_MAX_CHANNELS][SBLIMIT];
569     unsigned char scale_code[MPA_MAX_CHANNELS][SBLIMIT];
570     unsigned char scale_factors[MPA_MAX_CHANNELS][SBLIMIT][3], *sf;
571     int scale, qindex, bits, steps, k, l, m, b;
572
573     /* select decoding table */
574     table = ff_mpa_l2_select_table(s->bit_rate / 1000, s->nb_channels,
575                                    s->sample_rate, s->lsf);
576     sblimit     = ff_mpa_sblimit_table[table];
577     alloc_table = ff_mpa_alloc_tables[table];
578
579     if (s->mode == MPA_JSTEREO)
580         bound = (s->mode_ext + 1) * 4;
581     else
582         bound = sblimit;
583
584     av_dlog(s->avctx, "bound=%d sblimit=%d\n", bound, sblimit);
585
586     /* sanity check */
587     if (bound > sblimit)
588         bound = sblimit;
589
590     /* parse bit allocation */
591     j = 0;
592     for (i = 0; i < bound; i++) {
593         bit_alloc_bits = alloc_table[j];
594         for (ch = 0; ch < s->nb_channels; ch++)
595             bit_alloc[ch][i] = get_bits(&s->gb, bit_alloc_bits);
596         j += 1 << bit_alloc_bits;
597     }
598     for (i = bound; i < sblimit; i++) {
599         bit_alloc_bits = alloc_table[j];
600         v = get_bits(&s->gb, bit_alloc_bits);
601         bit_alloc[0][i] = v;
602         bit_alloc[1][i] = v;
603         j += 1 << bit_alloc_bits;
604     }
605
606     /* scale codes */
607     for (i = 0; i < sblimit; i++) {
608         for (ch = 0; ch < s->nb_channels; ch++) {
609             if (bit_alloc[ch][i])
610                 scale_code[ch][i] = get_bits(&s->gb, 2);
611         }
612     }
613
614     /* scale factors */
615     for (i = 0; i < sblimit; i++) {
616         for (ch = 0; ch < s->nb_channels; ch++) {
617             if (bit_alloc[ch][i]) {
618                 sf = scale_factors[ch][i];
619                 switch (scale_code[ch][i]) {
620                 default:
621                 case 0:
622                     sf[0] = get_bits(&s->gb, 6);
623                     sf[1] = get_bits(&s->gb, 6);
624                     sf[2] = get_bits(&s->gb, 6);
625                     break;
626                 case 2:
627                     sf[0] = get_bits(&s->gb, 6);
628                     sf[1] = sf[0];
629                     sf[2] = sf[0];
630                     break;
631                 case 1:
632                     sf[0] = get_bits(&s->gb, 6);
633                     sf[2] = get_bits(&s->gb, 6);
634                     sf[1] = sf[0];
635                     break;
636                 case 3:
637                     sf[0] = get_bits(&s->gb, 6);
638                     sf[2] = get_bits(&s->gb, 6);
639                     sf[1] = sf[2];
640                     break;
641                 }
642             }
643         }
644     }
645
646     /* samples */
647     for (k = 0; k < 3; k++) {
648         for (l = 0; l < 12; l += 3) {
649             j = 0;
650             for (i = 0; i < bound; i++) {
651                 bit_alloc_bits = alloc_table[j];
652                 for (ch = 0; ch < s->nb_channels; ch++) {
653                     b = bit_alloc[ch][i];
654                     if (b) {
655                         scale = scale_factors[ch][i][k];
656                         qindex = alloc_table[j+b];
657                         bits = ff_mpa_quant_bits[qindex];
658                         if (bits < 0) {
659                             int v2;
660                             /* 3 values at the same time */
661                             v = get_bits(&s->gb, -bits);
662                             v2 = division_tabs[qindex][v];
663                             steps  = ff_mpa_quant_steps[qindex];
664
665                             s->sb_samples[ch][k * 12 + l + 0][i] =
666                                 l2_unscale_group(steps,  v2       & 15, scale);
667                             s->sb_samples[ch][k * 12 + l + 1][i] =
668                                 l2_unscale_group(steps, (v2 >> 4) & 15, scale);
669                             s->sb_samples[ch][k * 12 + l + 2][i] =
670                                 l2_unscale_group(steps,  v2 >> 8      , scale);
671                         } else {
672                             for (m = 0; m < 3; m++) {
673                                 v = get_bits(&s->gb, bits);
674                                 v = l1_unscale(bits - 1, v, scale);
675                                 s->sb_samples[ch][k * 12 + l + m][i] = v;
676                             }
677                         }
678                     } else {
679                         s->sb_samples[ch][k * 12 + l + 0][i] = 0;
680                         s->sb_samples[ch][k * 12 + l + 1][i] = 0;
681                         s->sb_samples[ch][k * 12 + l + 2][i] = 0;
682                     }
683                 }
684                 /* next subband in alloc table */
685                 j += 1 << bit_alloc_bits;
686             }
687             /* XXX: find a way to avoid this duplication of code */
688             for (i = bound; i < sblimit; i++) {
689                 bit_alloc_bits = alloc_table[j];
690                 b = bit_alloc[0][i];
691                 if (b) {
692                     int mant, scale0, scale1;
693                     scale0 = scale_factors[0][i][k];
694                     scale1 = scale_factors[1][i][k];
695                     qindex = alloc_table[j+b];
696                     bits = ff_mpa_quant_bits[qindex];
697                     if (bits < 0) {
698                         /* 3 values at the same time */
699                         v = get_bits(&s->gb, -bits);
700                         steps = ff_mpa_quant_steps[qindex];
701                         mant = v % steps;
702                         v = v / steps;
703                         s->sb_samples[0][k * 12 + l + 0][i] =
704                             l2_unscale_group(steps, mant, scale0);
705                         s->sb_samples[1][k * 12 + l + 0][i] =
706                             l2_unscale_group(steps, mant, scale1);
707                         mant = v % steps;
708                         v = v / steps;
709                         s->sb_samples[0][k * 12 + l + 1][i] =
710                             l2_unscale_group(steps, mant, scale0);
711                         s->sb_samples[1][k * 12 + l + 1][i] =
712                             l2_unscale_group(steps, mant, scale1);
713                         s->sb_samples[0][k * 12 + l + 2][i] =
714                             l2_unscale_group(steps, v, scale0);
715                         s->sb_samples[1][k * 12 + l + 2][i] =
716                             l2_unscale_group(steps, v, scale1);
717                     } else {
718                         for (m = 0; m < 3; m++) {
719                             mant = get_bits(&s->gb, bits);
720                             s->sb_samples[0][k * 12 + l + m][i] =
721                                 l1_unscale(bits - 1, mant, scale0);
722                             s->sb_samples[1][k * 12 + l + m][i] =
723                                 l1_unscale(bits - 1, mant, scale1);
724                         }
725                     }
726                 } else {
727                     s->sb_samples[0][k * 12 + l + 0][i] = 0;
728                     s->sb_samples[0][k * 12 + l + 1][i] = 0;
729                     s->sb_samples[0][k * 12 + l + 2][i] = 0;
730                     s->sb_samples[1][k * 12 + l + 0][i] = 0;
731                     s->sb_samples[1][k * 12 + l + 1][i] = 0;
732                     s->sb_samples[1][k * 12 + l + 2][i] = 0;
733                 }
734                 /* next subband in alloc table */
735                 j += 1 << bit_alloc_bits;
736             }
737             /* fill remaining samples to zero */
738             for (i = sblimit; i < SBLIMIT; i++) {
739                 for (ch = 0; ch < s->nb_channels; ch++) {
740                     s->sb_samples[ch][k * 12 + l + 0][i] = 0;
741                     s->sb_samples[ch][k * 12 + l + 1][i] = 0;
742                     s->sb_samples[ch][k * 12 + l + 2][i] = 0;
743                 }
744             }
745         }
746     }
747     return 3 * 12;
748 }
749
750 #define SPLIT(dst,sf,n)             \
751     if (n == 3) {                   \
752         int m = (sf * 171) >> 9;    \
753         dst   = sf - 3 * m;         \
754         sf    = m;                  \
755     } else if (n == 4) {            \
756         dst  = sf & 3;              \
757         sf >>= 2;                   \
758     } else if (n == 5) {            \
759         int m = (sf * 205) >> 10;   \
760         dst   = sf - 5 * m;         \
761         sf    = m;                  \
762     } else if (n == 6) {            \
763         int m = (sf * 171) >> 10;   \
764         dst   = sf - 6 * m;         \
765         sf    = m;                  \
766     } else {                        \
767         dst = 0;                    \
768     }
769
770 static av_always_inline void lsf_sf_expand(int *slen, int sf, int n1, int n2,
771                                            int n3)
772 {
773     SPLIT(slen[3], sf, n3)
774     SPLIT(slen[2], sf, n2)
775     SPLIT(slen[1], sf, n1)
776     slen[0] = sf;
777 }
778
779 static void exponents_from_scale_factors(MPADecodeContext *s, GranuleDef *g,
780                                          int16_t *exponents)
781 {
782     const uint8_t *bstab, *pretab;
783     int len, i, j, k, l, v0, shift, gain, gains[3];
784     int16_t *exp_ptr;
785
786     exp_ptr = exponents;
787     gain    = g->global_gain - 210;
788     shift   = g->scalefac_scale + 1;
789
790     bstab  = band_size_long[s->sample_rate_index];
791     pretab = mpa_pretab[g->preflag];
792     for (i = 0; i < g->long_end; i++) {
793         v0 = gain - ((g->scale_factors[i] + pretab[i]) << shift) + 400;
794         len = bstab[i];
795         for (j = len; j > 0; j--)
796             *exp_ptr++ = v0;
797     }
798
799     if (g->short_start < 13) {
800         bstab    = band_size_short[s->sample_rate_index];
801         gains[0] = gain - (g->subblock_gain[0] << 3);
802         gains[1] = gain - (g->subblock_gain[1] << 3);
803         gains[2] = gain - (g->subblock_gain[2] << 3);
804         k        = g->long_end;
805         for (i = g->short_start; i < 13; i++) {
806             len = bstab[i];
807             for (l = 0; l < 3; l++) {
808                 v0 = gains[l] - (g->scale_factors[k++] << shift) + 400;
809                 for (j = len; j > 0; j--)
810                     *exp_ptr++ = v0;
811             }
812         }
813     }
814 }
815
816 /* handle n = 0 too */
817 static inline int get_bitsz(GetBitContext *s, int n)
818 {
819     return n ? get_bits(s, n) : 0;
820 }
821
822
823 static void switch_buffer(MPADecodeContext *s, int *pos, int *end_pos,
824                           int *end_pos2)
825 {
826     if (s->in_gb.buffer && *pos >= s->gb.size_in_bits) {
827         s->gb           = s->in_gb;
828         s->in_gb.buffer = NULL;
829         assert((get_bits_count(&s->gb) & 7) == 0);
830         skip_bits_long(&s->gb, *pos - *end_pos);
831         *end_pos2 =
832         *end_pos  = *end_pos2 + get_bits_count(&s->gb) - *pos;
833         *pos      = get_bits_count(&s->gb);
834     }
835 }
836
837 /* Following is a optimized code for
838             INTFLOAT v = *src
839             if(get_bits1(&s->gb))
840                 v = -v;
841             *dst = v;
842 */
843 #if CONFIG_FLOAT
844 #define READ_FLIP_SIGN(dst,src)                     \
845     v = AV_RN32A(src) ^ (get_bits1(&s->gb) << 31);  \
846     AV_WN32A(dst, v);
847 #else
848 #define READ_FLIP_SIGN(dst,src)     \
849     v      = -get_bits1(&s->gb);    \
850     *(dst) = (*(src) ^ v) - v;
851 #endif
852
853 static int huffman_decode(MPADecodeContext *s, GranuleDef *g,
854                           int16_t *exponents, int end_pos2)
855 {
856     int s_index;
857     int i;
858     int last_pos, bits_left;
859     VLC *vlc;
860     int end_pos = FFMIN(end_pos2, s->gb.size_in_bits);
861
862     /* low frequencies (called big values) */
863     s_index = 0;
864     for (i = 0; i < 3; i++) {
865         int j, k, l, linbits;
866         j = g->region_size[i];
867         if (j == 0)
868             continue;
869         /* select vlc table */
870         k       = g->table_select[i];
871         l       = mpa_huff_data[k][0];
872         linbits = mpa_huff_data[k][1];
873         vlc     = &huff_vlc[l];
874
875         if (!l) {
876             memset(&g->sb_hybrid[s_index], 0, sizeof(*g->sb_hybrid) * 2 * j);
877             s_index += 2 * j;
878             continue;
879         }
880
881         /* read huffcode and compute each couple */
882         for (; j > 0; j--) {
883             int exponent, x, y;
884             int v;
885             int pos = get_bits_count(&s->gb);
886
887             if (pos >= end_pos){
888 //                av_log(NULL, AV_LOG_ERROR, "pos: %d %d %d %d\n", pos, end_pos, end_pos2, s_index);
889                 switch_buffer(s, &pos, &end_pos, &end_pos2);
890 //                av_log(NULL, AV_LOG_ERROR, "new pos: %d %d\n", pos, end_pos);
891                 if (pos >= end_pos)
892                     break;
893             }
894             y = get_vlc2(&s->gb, vlc->table, 7, 3);
895
896             if (!y) {
897                 g->sb_hybrid[s_index  ] =
898                 g->sb_hybrid[s_index+1] = 0;
899                 s_index += 2;
900                 continue;
901             }
902
903             exponent= exponents[s_index];
904
905             av_dlog(s->avctx, "region=%d n=%d x=%d y=%d exp=%d\n",
906                     i, g->region_size[i] - j, x, y, exponent);
907             if (y & 16) {
908                 x = y >> 5;
909                 y = y & 0x0f;
910                 if (x < 15) {
911                     READ_FLIP_SIGN(g->sb_hybrid + s_index, RENAME(expval_table)[exponent] + x)
912                 } else {
913                     x += get_bitsz(&s->gb, linbits);
914                     v  = l3_unscale(x, exponent);
915                     if (get_bits1(&s->gb))
916                         v = -v;
917                     g->sb_hybrid[s_index] = v;
918                 }
919                 if (y < 15) {
920                     READ_FLIP_SIGN(g->sb_hybrid + s_index + 1, RENAME(expval_table)[exponent] + y)
921                 } else {
922                     y += get_bitsz(&s->gb, linbits);
923                     v  = l3_unscale(y, exponent);
924                     if (get_bits1(&s->gb))
925                         v = -v;
926                     g->sb_hybrid[s_index+1] = v;
927                 }
928             } else {
929                 x = y >> 5;
930                 y = y & 0x0f;
931                 x += y;
932                 if (x < 15) {
933                     READ_FLIP_SIGN(g->sb_hybrid + s_index + !!y, RENAME(expval_table)[exponent] + x)
934                 } else {
935                     x += get_bitsz(&s->gb, linbits);
936                     v  = l3_unscale(x, exponent);
937                     if (get_bits1(&s->gb))
938                         v = -v;
939                     g->sb_hybrid[s_index+!!y] = v;
940                 }
941                 g->sb_hybrid[s_index + !y] = 0;
942             }
943             s_index += 2;
944         }
945     }
946
947     /* high frequencies */
948     vlc = &huff_quad_vlc[g->count1table_select];
949     last_pos = 0;
950     while (s_index <= 572) {
951         int pos, code;
952         pos = get_bits_count(&s->gb);
953         if (pos >= end_pos) {
954             if (pos > end_pos2 && last_pos) {
955                 /* some encoders generate an incorrect size for this
956                    part. We must go back into the data */
957                 s_index -= 4;
958                 skip_bits_long(&s->gb, last_pos - pos);
959                 av_log(s->avctx, AV_LOG_INFO, "overread, skip %d enddists: %d %d\n", last_pos - pos, end_pos-pos, end_pos2-pos);
960                 if(s->err_recognition & (AV_EF_BITSTREAM|AV_EF_COMPLIANT))
961                     s_index=0;
962                 break;
963             }
964 //                av_log(NULL, AV_LOG_ERROR, "pos2: %d %d %d %d\n", pos, end_pos, end_pos2, s_index);
965             switch_buffer(s, &pos, &end_pos, &end_pos2);
966 //                av_log(NULL, AV_LOG_ERROR, "new pos2: %d %d %d\n", pos, end_pos, s_index);
967             if (pos >= end_pos)
968                 break;
969         }
970         last_pos = pos;
971
972         code = get_vlc2(&s->gb, vlc->table, vlc->bits, 1);
973         av_dlog(s->avctx, "t=%d code=%d\n", g->count1table_select, code);
974         g->sb_hybrid[s_index+0] =
975         g->sb_hybrid[s_index+1] =
976         g->sb_hybrid[s_index+2] =
977         g->sb_hybrid[s_index+3] = 0;
978         while (code) {
979             static const int idxtab[16] = { 3,3,2,2,1,1,1,1,0,0,0,0,0,0,0,0 };
980             int v;
981             int pos = s_index + idxtab[code];
982             code   ^= 8 >> idxtab[code];
983             READ_FLIP_SIGN(g->sb_hybrid + pos, RENAME(exp_table)+exponents[pos])
984         }
985         s_index += 4;
986     }
987     /* skip extension bits */
988     bits_left = end_pos2 - get_bits_count(&s->gb);
989 //av_log(NULL, AV_LOG_ERROR, "left:%d buf:%p\n", bits_left, s->in_gb.buffer);
990     if (bits_left < 0 && (s->err_recognition & (AV_EF_BUFFER|AV_EF_COMPLIANT))) {
991         av_log(s->avctx, AV_LOG_ERROR, "bits_left=%d\n", bits_left);
992         s_index=0;
993     } else if (bits_left > 0 && (s->err_recognition & (AV_EF_BUFFER|AV_EF_AGGRESSIVE))) {
994         av_log(s->avctx, AV_LOG_ERROR, "bits_left=%d\n", bits_left);
995         s_index = 0;
996     }
997     memset(&g->sb_hybrid[s_index], 0, sizeof(*g->sb_hybrid) * (576 - s_index));
998     skip_bits_long(&s->gb, bits_left);
999
1000     i = get_bits_count(&s->gb);
1001     switch_buffer(s, &i, &end_pos, &end_pos2);
1002
1003     return 0;
1004 }
1005
1006 /* Reorder short blocks from bitstream order to interleaved order. It
1007    would be faster to do it in parsing, but the code would be far more
1008    complicated */
1009 static void reorder_block(MPADecodeContext *s, GranuleDef *g)
1010 {
1011     int i, j, len;
1012     INTFLOAT *ptr, *dst, *ptr1;
1013     INTFLOAT tmp[576];
1014
1015     if (g->block_type != 2)
1016         return;
1017
1018     if (g->switch_point) {
1019         if (s->sample_rate_index != 8)
1020             ptr = g->sb_hybrid + 36;
1021         else
1022             ptr = g->sb_hybrid + 48;
1023     } else {
1024         ptr = g->sb_hybrid;
1025     }
1026
1027     for (i = g->short_start; i < 13; i++) {
1028         len  = band_size_short[s->sample_rate_index][i];
1029         ptr1 = ptr;
1030         dst  = tmp;
1031         for (j = len; j > 0; j--) {
1032             *dst++ = ptr[0*len];
1033             *dst++ = ptr[1*len];
1034             *dst++ = ptr[2*len];
1035             ptr++;
1036         }
1037         ptr += 2 * len;
1038         memcpy(ptr1, tmp, len * 3 * sizeof(*ptr1));
1039     }
1040 }
1041
1042 #define ISQRT2 FIXR(0.70710678118654752440)
1043
1044 static void compute_stereo(MPADecodeContext *s, GranuleDef *g0, GranuleDef *g1)
1045 {
1046     int i, j, k, l;
1047     int sf_max, sf, len, non_zero_found;
1048     INTFLOAT (*is_tab)[16], *tab0, *tab1, tmp0, tmp1, v1, v2;
1049     int non_zero_found_short[3];
1050
1051     /* intensity stereo */
1052     if (s->mode_ext & MODE_EXT_I_STEREO) {
1053         if (!s->lsf) {
1054             is_tab = is_table;
1055             sf_max = 7;
1056         } else {
1057             is_tab = is_table_lsf[g1->scalefac_compress & 1];
1058             sf_max = 16;
1059         }
1060
1061         tab0 = g0->sb_hybrid + 576;
1062         tab1 = g1->sb_hybrid + 576;
1063
1064         non_zero_found_short[0] = 0;
1065         non_zero_found_short[1] = 0;
1066         non_zero_found_short[2] = 0;
1067         k = (13 - g1->short_start) * 3 + g1->long_end - 3;
1068         for (i = 12; i >= g1->short_start; i--) {
1069             /* for last band, use previous scale factor */
1070             if (i != 11)
1071                 k -= 3;
1072             len = band_size_short[s->sample_rate_index][i];
1073             for (l = 2; l >= 0; l--) {
1074                 tab0 -= len;
1075                 tab1 -= len;
1076                 if (!non_zero_found_short[l]) {
1077                     /* test if non zero band. if so, stop doing i-stereo */
1078                     for (j = 0; j < len; j++) {
1079                         if (tab1[j] != 0) {
1080                             non_zero_found_short[l] = 1;
1081                             goto found1;
1082                         }
1083                     }
1084                     sf = g1->scale_factors[k + l];
1085                     if (sf >= sf_max)
1086                         goto found1;
1087
1088                     v1 = is_tab[0][sf];
1089                     v2 = is_tab[1][sf];
1090                     for (j = 0; j < len; j++) {
1091                         tmp0    = tab0[j];
1092                         tab0[j] = MULLx(tmp0, v1, FRAC_BITS);
1093                         tab1[j] = MULLx(tmp0, v2, FRAC_BITS);
1094                     }
1095                 } else {
1096 found1:
1097                     if (s->mode_ext & MODE_EXT_MS_STEREO) {
1098                         /* lower part of the spectrum : do ms stereo
1099                            if enabled */
1100                         for (j = 0; j < len; j++) {
1101                             tmp0    = tab0[j];
1102                             tmp1    = tab1[j];
1103                             tab0[j] = MULLx(tmp0 + tmp1, ISQRT2, FRAC_BITS);
1104                             tab1[j] = MULLx(tmp0 - tmp1, ISQRT2, FRAC_BITS);
1105                         }
1106                     }
1107                 }
1108             }
1109         }
1110
1111         non_zero_found = non_zero_found_short[0] |
1112                          non_zero_found_short[1] |
1113                          non_zero_found_short[2];
1114
1115         for (i = g1->long_end - 1;i >= 0;i--) {
1116             len   = band_size_long[s->sample_rate_index][i];
1117             tab0 -= len;
1118             tab1 -= len;
1119             /* test if non zero band. if so, stop doing i-stereo */
1120             if (!non_zero_found) {
1121                 for (j = 0; j < len; j++) {
1122                     if (tab1[j] != 0) {
1123                         non_zero_found = 1;
1124                         goto found2;
1125                     }
1126                 }
1127                 /* for last band, use previous scale factor */
1128                 k  = (i == 21) ? 20 : i;
1129                 sf = g1->scale_factors[k];
1130                 if (sf >= sf_max)
1131                     goto found2;
1132                 v1 = is_tab[0][sf];
1133                 v2 = is_tab[1][sf];
1134                 for (j = 0; j < len; j++) {
1135                     tmp0    = tab0[j];
1136                     tab0[j] = MULLx(tmp0, v1, FRAC_BITS);
1137                     tab1[j] = MULLx(tmp0, v2, FRAC_BITS);
1138                 }
1139             } else {
1140 found2:
1141                 if (s->mode_ext & MODE_EXT_MS_STEREO) {
1142                     /* lower part of the spectrum : do ms stereo
1143                        if enabled */
1144                     for (j = 0; j < len; j++) {
1145                         tmp0    = tab0[j];
1146                         tmp1    = tab1[j];
1147                         tab0[j] = MULLx(tmp0 + tmp1, ISQRT2, FRAC_BITS);
1148                         tab1[j] = MULLx(tmp0 - tmp1, ISQRT2, FRAC_BITS);
1149                     }
1150                 }
1151             }
1152         }
1153     } else if (s->mode_ext & MODE_EXT_MS_STEREO) {
1154         /* ms stereo ONLY */
1155         /* NOTE: the 1/sqrt(2) normalization factor is included in the
1156            global gain */
1157         tab0 = g0->sb_hybrid;
1158         tab1 = g1->sb_hybrid;
1159         for (i = 0; i < 576; i++) {
1160             tmp0    = tab0[i];
1161             tmp1    = tab1[i];
1162             tab0[i] = tmp0 + tmp1;
1163             tab1[i] = tmp0 - tmp1;
1164         }
1165     }
1166 }
1167
1168 #if CONFIG_FLOAT
1169 #define AA(j) do {                                                      \
1170         float tmp0 = ptr[-1-j];                                         \
1171         float tmp1 = ptr[   j];                                         \
1172         ptr[-1-j] = tmp0 * csa_table[j][0] - tmp1 * csa_table[j][1];    \
1173         ptr[   j] = tmp0 * csa_table[j][1] + tmp1 * csa_table[j][0];    \
1174     } while (0)
1175 #else
1176 #define AA(j) do {                                              \
1177         int tmp0 = ptr[-1-j];                                   \
1178         int tmp1 = ptr[   j];                                   \
1179         int tmp2 = MULH(tmp0 + tmp1, csa_table[j][0]);          \
1180         ptr[-1-j] = 4 * (tmp2 - MULH(tmp1, csa_table[j][2]));   \
1181         ptr[   j] = 4 * (tmp2 + MULH(tmp0, csa_table[j][3]));   \
1182     } while (0)
1183 #endif
1184
1185 static void compute_antialias(MPADecodeContext *s, GranuleDef *g)
1186 {
1187     INTFLOAT *ptr;
1188     int n, i;
1189
1190     /* we antialias only "long" bands */
1191     if (g->block_type == 2) {
1192         if (!g->switch_point)
1193             return;
1194         /* XXX: check this for 8000Hz case */
1195         n = 1;
1196     } else {
1197         n = SBLIMIT - 1;
1198     }
1199
1200     ptr = g->sb_hybrid + 18;
1201     for (i = n; i > 0; i--) {
1202         AA(0);
1203         AA(1);
1204         AA(2);
1205         AA(3);
1206         AA(4);
1207         AA(5);
1208         AA(6);
1209         AA(7);
1210
1211         ptr += 18;
1212     }
1213 }
1214
1215 static void compute_imdct(MPADecodeContext *s, GranuleDef *g,
1216                           INTFLOAT *sb_samples, INTFLOAT *mdct_buf)
1217 {
1218     INTFLOAT *win, *out_ptr, *ptr, *buf, *ptr1;
1219     INTFLOAT out2[12];
1220     int i, j, mdct_long_end, sblimit;
1221
1222     /* find last non zero block */
1223     ptr  = g->sb_hybrid + 576;
1224     ptr1 = g->sb_hybrid + 2 * 18;
1225     while (ptr >= ptr1) {
1226         int32_t *p;
1227         ptr -= 6;
1228         p    = (int32_t*)ptr;
1229         if (p[0] | p[1] | p[2] | p[3] | p[4] | p[5])
1230             break;
1231     }
1232     sblimit = ((ptr - g->sb_hybrid) / 18) + 1;
1233
1234     if (g->block_type == 2) {
1235         /* XXX: check for 8000 Hz */
1236         if (g->switch_point)
1237             mdct_long_end = 2;
1238         else
1239             mdct_long_end = 0;
1240     } else {
1241         mdct_long_end = sblimit;
1242     }
1243
1244     s->mpadsp.RENAME(imdct36_blocks)(sb_samples, mdct_buf, g->sb_hybrid,
1245                                      mdct_long_end, g->switch_point,
1246                                      g->block_type);
1247
1248     buf = mdct_buf + 4*18*(mdct_long_end >> 2) + (mdct_long_end & 3);
1249     ptr = g->sb_hybrid + 18 * mdct_long_end;
1250
1251     for (j = mdct_long_end; j < sblimit; j++) {
1252         /* select frequency inversion */
1253         win     = RENAME(ff_mdct_win)[2 + (4  & -(j & 1))];
1254         out_ptr = sb_samples + j;
1255
1256         for (i = 0; i < 6; i++) {
1257             *out_ptr = buf[4*i];
1258             out_ptr += SBLIMIT;
1259         }
1260         imdct12(out2, ptr + 0);
1261         for (i = 0; i < 6; i++) {
1262             *out_ptr     = MULH3(out2[i    ], win[i    ], 1) + buf[4*(i + 6*1)];
1263             buf[4*(i + 6*2)] = MULH3(out2[i + 6], win[i + 6], 1);
1264             out_ptr += SBLIMIT;
1265         }
1266         imdct12(out2, ptr + 1);
1267         for (i = 0; i < 6; i++) {
1268             *out_ptr     = MULH3(out2[i    ], win[i    ], 1) + buf[4*(i + 6*2)];
1269             buf[4*(i + 6*0)] = MULH3(out2[i + 6], win[i + 6], 1);
1270             out_ptr += SBLIMIT;
1271         }
1272         imdct12(out2, ptr + 2);
1273         for (i = 0; i < 6; i++) {
1274             buf[4*(i + 6*0)] = MULH3(out2[i    ], win[i    ], 1) + buf[4*(i + 6*0)];
1275             buf[4*(i + 6*1)] = MULH3(out2[i + 6], win[i + 6], 1);
1276             buf[4*(i + 6*2)] = 0;
1277         }
1278         ptr += 18;
1279         buf += (j&3) != 3 ? 1 : (4*18-3);
1280     }
1281     /* zero bands */
1282     for (j = sblimit; j < SBLIMIT; j++) {
1283         /* overlap */
1284         out_ptr = sb_samples + j;
1285         for (i = 0; i < 18; i++) {
1286             *out_ptr = buf[4*i];
1287             buf[4*i]   = 0;
1288             out_ptr += SBLIMIT;
1289         }
1290         buf += (j&3) != 3 ? 1 : (4*18-3);
1291     }
1292 }
1293
1294 /* main layer3 decoding function */
1295 static int mp_decode_layer3(MPADecodeContext *s)
1296 {
1297     int nb_granules, main_data_begin;
1298     int gr, ch, blocksplit_flag, i, j, k, n, bits_pos;
1299     GranuleDef *g;
1300     int16_t exponents[576]; //FIXME try INTFLOAT
1301
1302     /* read side info */
1303     if (s->lsf) {
1304         main_data_begin = get_bits(&s->gb, 8);
1305         skip_bits(&s->gb, s->nb_channels);
1306         nb_granules = 1;
1307     } else {
1308         main_data_begin = get_bits(&s->gb, 9);
1309         if (s->nb_channels == 2)
1310             skip_bits(&s->gb, 3);
1311         else
1312             skip_bits(&s->gb, 5);
1313         nb_granules = 2;
1314         for (ch = 0; ch < s->nb_channels; ch++) {
1315             s->granules[ch][0].scfsi = 0;/* all scale factors are transmitted */
1316             s->granules[ch][1].scfsi = get_bits(&s->gb, 4);
1317         }
1318     }
1319
1320     for (gr = 0; gr < nb_granules; gr++) {
1321         for (ch = 0; ch < s->nb_channels; ch++) {
1322             av_dlog(s->avctx, "gr=%d ch=%d: side_info\n", gr, ch);
1323             g = &s->granules[ch][gr];
1324             g->part2_3_length = get_bits(&s->gb, 12);
1325             g->big_values     = get_bits(&s->gb,  9);
1326             if (g->big_values > 288) {
1327                 av_log(s->avctx, AV_LOG_ERROR, "big_values too big\n");
1328                 return AVERROR_INVALIDDATA;
1329             }
1330
1331             g->global_gain = get_bits(&s->gb, 8);
1332             /* if MS stereo only is selected, we precompute the
1333                1/sqrt(2) renormalization factor */
1334             if ((s->mode_ext & (MODE_EXT_MS_STEREO | MODE_EXT_I_STEREO)) ==
1335                 MODE_EXT_MS_STEREO)
1336                 g->global_gain -= 2;
1337             if (s->lsf)
1338                 g->scalefac_compress = get_bits(&s->gb, 9);
1339             else
1340                 g->scalefac_compress = get_bits(&s->gb, 4);
1341             blocksplit_flag = get_bits1(&s->gb);
1342             if (blocksplit_flag) {
1343                 g->block_type = get_bits(&s->gb, 2);
1344                 if (g->block_type == 0) {
1345                     av_log(s->avctx, AV_LOG_ERROR, "invalid block type\n");
1346                     return AVERROR_INVALIDDATA;
1347                 }
1348                 g->switch_point = get_bits1(&s->gb);
1349                 for (i = 0; i < 2; i++)
1350                     g->table_select[i] = get_bits(&s->gb, 5);
1351                 for (i = 0; i < 3; i++)
1352                     g->subblock_gain[i] = get_bits(&s->gb, 3);
1353                 ff_init_short_region(s, g);
1354             } else {
1355                 int region_address1, region_address2;
1356                 g->block_type = 0;
1357                 g->switch_point = 0;
1358                 for (i = 0; i < 3; i++)
1359                     g->table_select[i] = get_bits(&s->gb, 5);
1360                 /* compute huffman coded region sizes */
1361                 region_address1 = get_bits(&s->gb, 4);
1362                 region_address2 = get_bits(&s->gb, 3);
1363                 av_dlog(s->avctx, "region1=%d region2=%d\n",
1364                         region_address1, region_address2);
1365                 ff_init_long_region(s, g, region_address1, region_address2);
1366             }
1367             ff_region_offset2size(g);
1368             ff_compute_band_indexes(s, g);
1369
1370             g->preflag = 0;
1371             if (!s->lsf)
1372                 g->preflag = get_bits1(&s->gb);
1373             g->scalefac_scale     = get_bits1(&s->gb);
1374             g->count1table_select = get_bits1(&s->gb);
1375             av_dlog(s->avctx, "block_type=%d switch_point=%d\n",
1376                     g->block_type, g->switch_point);
1377         }
1378     }
1379
1380     if (!s->adu_mode) {
1381         int skip;
1382         const uint8_t *ptr = s->gb.buffer + (get_bits_count(&s->gb)>>3);
1383         assert((get_bits_count(&s->gb) & 7) == 0);
1384         /* now we get bits from the main_data_begin offset */
1385         av_dlog(s->avctx, "seekback: %d\n", main_data_begin);
1386     //av_log(NULL, AV_LOG_ERROR, "backstep:%d, lastbuf:%d\n", main_data_begin, s->last_buf_size);
1387
1388         if (s->gb.size_in_bits > get_bits_count(&s->gb))
1389             memcpy(s->last_buf + s->last_buf_size, ptr,
1390                FFMIN(EXTRABYTES, (s->gb.size_in_bits - get_bits_count(&s->gb))>>3));
1391         s->in_gb = s->gb;
1392         init_get_bits(&s->gb, s->last_buf, s->last_buf_size*8);
1393 #if !UNCHECKED_BITSTREAM_READER
1394         s->gb.size_in_bits_plus8 += EXTRABYTES * 8;
1395 #endif
1396         skip_bits_long(&s->gb, 8*(s->last_buf_size - main_data_begin));
1397     }
1398
1399     for (gr = 0; gr < nb_granules; gr++) {
1400         for (ch = 0; ch < s->nb_channels; ch++) {
1401             g = &s->granules[ch][gr];
1402             if (get_bits_count(&s->gb) < 0) {
1403                 av_log(s->avctx, AV_LOG_DEBUG, "mdb:%d, lastbuf:%d skipping granule %d\n",
1404                        main_data_begin, s->last_buf_size, gr);
1405                 skip_bits_long(&s->gb, g->part2_3_length);
1406                 memset(g->sb_hybrid, 0, sizeof(g->sb_hybrid));
1407                 if (get_bits_count(&s->gb) >= s->gb.size_in_bits && s->in_gb.buffer) {
1408                     skip_bits_long(&s->in_gb, get_bits_count(&s->gb) - s->gb.size_in_bits);
1409                     s->gb           = s->in_gb;
1410                     s->in_gb.buffer = NULL;
1411                 }
1412                 continue;
1413             }
1414
1415             bits_pos = get_bits_count(&s->gb);
1416
1417             if (!s->lsf) {
1418                 uint8_t *sc;
1419                 int slen, slen1, slen2;
1420
1421                 /* MPEG1 scale factors */
1422                 slen1 = slen_table[0][g->scalefac_compress];
1423                 slen2 = slen_table[1][g->scalefac_compress];
1424                 av_dlog(s->avctx, "slen1=%d slen2=%d\n", slen1, slen2);
1425                 if (g->block_type == 2) {
1426                     n = g->switch_point ? 17 : 18;
1427                     j = 0;
1428                     if (slen1) {
1429                         for (i = 0; i < n; i++)
1430                             g->scale_factors[j++] = get_bits(&s->gb, slen1);
1431                     } else {
1432                         for (i = 0; i < n; i++)
1433                             g->scale_factors[j++] = 0;
1434                     }
1435                     if (slen2) {
1436                         for (i = 0; i < 18; i++)
1437                             g->scale_factors[j++] = get_bits(&s->gb, slen2);
1438                         for (i = 0; i < 3; i++)
1439                             g->scale_factors[j++] = 0;
1440                     } else {
1441                         for (i = 0; i < 21; i++)
1442                             g->scale_factors[j++] = 0;
1443                     }
1444                 } else {
1445                     sc = s->granules[ch][0].scale_factors;
1446                     j = 0;
1447                     for (k = 0; k < 4; k++) {
1448                         n = k == 0 ? 6 : 5;
1449                         if ((g->scfsi & (0x8 >> k)) == 0) {
1450                             slen = (k < 2) ? slen1 : slen2;
1451                             if (slen) {
1452                                 for (i = 0; i < n; i++)
1453                                     g->scale_factors[j++] = get_bits(&s->gb, slen);
1454                             } else {
1455                                 for (i = 0; i < n; i++)
1456                                     g->scale_factors[j++] = 0;
1457                             }
1458                         } else {
1459                             /* simply copy from last granule */
1460                             for (i = 0; i < n; i++) {
1461                                 g->scale_factors[j] = sc[j];
1462                                 j++;
1463                             }
1464                         }
1465                     }
1466                     g->scale_factors[j++] = 0;
1467                 }
1468             } else {
1469                 int tindex, tindex2, slen[4], sl, sf;
1470
1471                 /* LSF scale factors */
1472                 if (g->block_type == 2)
1473                     tindex = g->switch_point ? 2 : 1;
1474                 else
1475                     tindex = 0;
1476
1477                 sf = g->scalefac_compress;
1478                 if ((s->mode_ext & MODE_EXT_I_STEREO) && ch == 1) {
1479                     /* intensity stereo case */
1480                     sf >>= 1;
1481                     if (sf < 180) {
1482                         lsf_sf_expand(slen, sf, 6, 6, 0);
1483                         tindex2 = 3;
1484                     } else if (sf < 244) {
1485                         lsf_sf_expand(slen, sf - 180, 4, 4, 0);
1486                         tindex2 = 4;
1487                     } else {
1488                         lsf_sf_expand(slen, sf - 244, 3, 0, 0);
1489                         tindex2 = 5;
1490                     }
1491                 } else {
1492                     /* normal case */
1493                     if (sf < 400) {
1494                         lsf_sf_expand(slen, sf, 5, 4, 4);
1495                         tindex2 = 0;
1496                     } else if (sf < 500) {
1497                         lsf_sf_expand(slen, sf - 400, 5, 4, 0);
1498                         tindex2 = 1;
1499                     } else {
1500                         lsf_sf_expand(slen, sf - 500, 3, 0, 0);
1501                         tindex2 = 2;
1502                         g->preflag = 1;
1503                     }
1504                 }
1505
1506                 j = 0;
1507                 for (k = 0; k < 4; k++) {
1508                     n  = lsf_nsf_table[tindex2][tindex][k];
1509                     sl = slen[k];
1510                     if (sl) {
1511                         for (i = 0; i < n; i++)
1512                             g->scale_factors[j++] = get_bits(&s->gb, sl);
1513                     } else {
1514                         for (i = 0; i < n; i++)
1515                             g->scale_factors[j++] = 0;
1516                     }
1517                 }
1518                 /* XXX: should compute exact size */
1519                 for (; j < 40; j++)
1520                     g->scale_factors[j] = 0;
1521             }
1522
1523             exponents_from_scale_factors(s, g, exponents);
1524
1525             /* read Huffman coded residue */
1526             huffman_decode(s, g, exponents, bits_pos + g->part2_3_length);
1527         } /* ch */
1528
1529         if (s->nb_channels == 2)
1530             compute_stereo(s, &s->granules[0][gr], &s->granules[1][gr]);
1531
1532         for (ch = 0; ch < s->nb_channels; ch++) {
1533             g = &s->granules[ch][gr];
1534
1535             reorder_block(s, g);
1536             compute_antialias(s, g);
1537             compute_imdct(s, g, &s->sb_samples[ch][18 * gr][0], s->mdct_buf[ch]);
1538         }
1539     } /* gr */
1540     if (get_bits_count(&s->gb) < 0)
1541         skip_bits_long(&s->gb, -get_bits_count(&s->gb));
1542     return nb_granules * 18;
1543 }
1544
1545 static int mp_decode_frame(MPADecodeContext *s, OUT_INT *samples,
1546                            const uint8_t *buf, int buf_size)
1547 {
1548     int i, nb_frames, ch, ret;
1549     OUT_INT *samples_ptr;
1550
1551     init_get_bits(&s->gb, buf + HEADER_SIZE, (buf_size - HEADER_SIZE) * 8);
1552
1553     /* skip error protection field */
1554     if (s->error_protection)
1555         skip_bits(&s->gb, 16);
1556
1557     switch(s->layer) {
1558     case 1:
1559         s->avctx->frame_size = 384;
1560         nb_frames = mp_decode_layer1(s);
1561         break;
1562     case 2:
1563         s->avctx->frame_size = 1152;
1564         nb_frames = mp_decode_layer2(s);
1565         break;
1566     case 3:
1567         s->avctx->frame_size = s->lsf ? 576 : 1152;
1568     default:
1569         nb_frames = mp_decode_layer3(s);
1570
1571         s->last_buf_size=0;
1572         if (s->in_gb.buffer) {
1573             align_get_bits(&s->gb);
1574             i = get_bits_left(&s->gb)>>3;
1575             if (i >= 0 && i <= BACKSTEP_SIZE) {
1576                 memmove(s->last_buf, s->gb.buffer + (get_bits_count(&s->gb)>>3), i);
1577                 s->last_buf_size=i;
1578             } else
1579                 av_log(s->avctx, AV_LOG_ERROR, "invalid old backstep %d\n", i);
1580             s->gb           = s->in_gb;
1581             s->in_gb.buffer = NULL;
1582         }
1583
1584         align_get_bits(&s->gb);
1585         assert((get_bits_count(&s->gb) & 7) == 0);
1586         i = get_bits_left(&s->gb) >> 3;
1587
1588         if (i < 0 || i > BACKSTEP_SIZE || nb_frames < 0) {
1589             if (i < 0)
1590                 av_log(s->avctx, AV_LOG_ERROR, "invalid new backstep %d\n", i);
1591             i = FFMIN(BACKSTEP_SIZE, buf_size - HEADER_SIZE);
1592         }
1593         assert(i <= buf_size - HEADER_SIZE && i >= 0);
1594         memcpy(s->last_buf + s->last_buf_size, s->gb.buffer + buf_size - HEADER_SIZE - i, i);
1595         s->last_buf_size += i;
1596     }
1597
1598     /* get output buffer */
1599     if (!samples) {
1600         s->frame.nb_samples = s->avctx->frame_size;
1601         if ((ret = s->avctx->get_buffer(s->avctx, &s->frame)) < 0) {
1602             av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1603             return ret;
1604         }
1605         samples = (OUT_INT *)s->frame.data[0];
1606     }
1607
1608     /* apply the synthesis filter */
1609     for (ch = 0; ch < s->nb_channels; ch++) {
1610         samples_ptr = samples + ch;
1611         for (i = 0; i < nb_frames; i++) {
1612             RENAME(ff_mpa_synth_filter)(
1613                          &s->mpadsp,
1614                          s->synth_buf[ch], &(s->synth_buf_offset[ch]),
1615                          RENAME(ff_mpa_synth_window), &s->dither_state,
1616                          samples_ptr, s->nb_channels,
1617                          s->sb_samples[ch][i]);
1618             samples_ptr += 32 * s->nb_channels;
1619         }
1620     }
1621
1622     return nb_frames * 32 * sizeof(OUT_INT) * s->nb_channels;
1623 }
1624
1625 static int decode_frame(AVCodecContext * avctx, void *data, int *got_frame_ptr,
1626                         AVPacket *avpkt)
1627 {
1628     const uint8_t *buf  = avpkt->data;
1629     int buf_size        = avpkt->size;
1630     MPADecodeContext *s = avctx->priv_data;
1631     uint32_t header;
1632     int out_size;
1633
1634     if (buf_size < HEADER_SIZE)
1635         return AVERROR_INVALIDDATA;
1636
1637     header = AV_RB32(buf);
1638     if (ff_mpa_check_header(header) < 0) {
1639         av_log(avctx, AV_LOG_ERROR, "Header missing\n");
1640         return AVERROR_INVALIDDATA;
1641     }
1642
1643     if (avpriv_mpegaudio_decode_header((MPADecodeHeader *)s, header) == 1) {
1644         /* free format: prepare to compute frame size */
1645         s->frame_size = -1;
1646         return AVERROR_INVALIDDATA;
1647     }
1648     /* update codec info */
1649     avctx->channels       = s->nb_channels;
1650     avctx->channel_layout = s->nb_channels == 1 ? AV_CH_LAYOUT_MONO : AV_CH_LAYOUT_STEREO;
1651     if (!avctx->bit_rate)
1652         avctx->bit_rate = s->bit_rate;
1653     avctx->sub_id = s->layer;
1654
1655     if (s->frame_size <= 0 || s->frame_size > buf_size) {
1656         av_log(avctx, AV_LOG_ERROR, "incomplete frame\n");
1657         return AVERROR_INVALIDDATA;
1658     }else if(s->frame_size < buf_size){
1659         av_log(avctx, AV_LOG_DEBUG, "incorrect frame size - multiple frames in buffer?\n");
1660         buf_size= s->frame_size;
1661     }
1662
1663     out_size = mp_decode_frame(s, NULL, buf, buf_size);
1664     if (out_size >= 0) {
1665         *got_frame_ptr   = 1;
1666         *(AVFrame *)data = s->frame;
1667         avctx->sample_rate = s->sample_rate;
1668         //FIXME maybe move the other codec info stuff from above here too
1669     } else {
1670         av_log(avctx, AV_LOG_ERROR, "Error while decoding MPEG audio frame.\n");
1671         /* Only return an error if the bad frame makes up the whole packet.
1672            If there is more data in the packet, just consume the bad frame
1673            instead of returning an error, which would discard the whole
1674            packet. */
1675         *got_frame_ptr = 0;
1676         if (buf_size == avpkt->size)
1677             return out_size;
1678     }
1679     s->frame_size = 0;
1680     return buf_size;
1681 }
1682
1683 static void flush(AVCodecContext *avctx)
1684 {
1685     MPADecodeContext *s = avctx->priv_data;
1686     memset(s->synth_buf, 0, sizeof(s->synth_buf));
1687     s->last_buf_size = 0;
1688 }
1689
1690 #if CONFIG_MP3ADU_DECODER || CONFIG_MP3ADUFLOAT_DECODER
1691 static int decode_frame_adu(AVCodecContext *avctx, void *data,
1692                             int *got_frame_ptr, AVPacket *avpkt)
1693 {
1694     const uint8_t *buf  = avpkt->data;
1695     int buf_size        = avpkt->size;
1696     MPADecodeContext *s = avctx->priv_data;
1697     uint32_t header;
1698     int len, out_size;
1699
1700     len = buf_size;
1701
1702     // Discard too short frames
1703     if (buf_size < HEADER_SIZE) {
1704         av_log(avctx, AV_LOG_ERROR, "Packet is too small\n");
1705         return AVERROR_INVALIDDATA;
1706     }
1707
1708
1709     if (len > MPA_MAX_CODED_FRAME_SIZE)
1710         len = MPA_MAX_CODED_FRAME_SIZE;
1711
1712     // Get header and restore sync word
1713     header = AV_RB32(buf) | 0xffe00000;
1714
1715     if (ff_mpa_check_header(header) < 0) { // Bad header, discard frame
1716         av_log(avctx, AV_LOG_ERROR, "Invalid frame header\n");
1717         return AVERROR_INVALIDDATA;
1718     }
1719
1720     avpriv_mpegaudio_decode_header((MPADecodeHeader *)s, header);
1721     /* update codec info */
1722     avctx->sample_rate = s->sample_rate;
1723     avctx->channels    = s->nb_channels;
1724     if (!avctx->bit_rate)
1725         avctx->bit_rate = s->bit_rate;
1726     avctx->sub_id = s->layer;
1727
1728     s->frame_size = len;
1729
1730     out_size = mp_decode_frame(s, NULL, buf, buf_size);
1731
1732     *got_frame_ptr   = 1;
1733     *(AVFrame *)data = s->frame;
1734
1735     return buf_size;
1736 }
1737 #endif /* CONFIG_MP3ADU_DECODER || CONFIG_MP3ADUFLOAT_DECODER */
1738
1739 #if CONFIG_MP3ON4_DECODER || CONFIG_MP3ON4FLOAT_DECODER
1740
1741 /**
1742  * Context for MP3On4 decoder
1743  */
1744 typedef struct MP3On4DecodeContext {
1745     AVFrame *frame;
1746     int frames;                     ///< number of mp3 frames per block (number of mp3 decoder instances)
1747     int syncword;                   ///< syncword patch
1748     const uint8_t *coff;            ///< channel offsets in output buffer
1749     MPADecodeContext *mp3decctx[5]; ///< MPADecodeContext for every decoder instance
1750     OUT_INT *decoded_buf;           ///< output buffer for decoded samples
1751 } MP3On4DecodeContext;
1752
1753 #include "mpeg4audio.h"
1754
1755 /* Next 3 arrays are indexed by channel config number (passed via codecdata) */
1756
1757 /* number of mp3 decoder instances */
1758 static const uint8_t mp3Frames[8] = { 0, 1, 1, 2, 3, 3, 4, 5 };
1759
1760 /* offsets into output buffer, assume output order is FL FR C LFE BL BR SL SR */
1761 static const uint8_t chan_offset[8][5] = {
1762     { 0             },
1763     { 0             },  // C
1764     { 0             },  // FLR
1765     { 2, 0          },  // C FLR
1766     { 2, 0, 3       },  // C FLR BS
1767     { 2, 0, 3       },  // C FLR BLRS
1768     { 2, 0, 4, 3    },  // C FLR BLRS LFE
1769     { 2, 0, 6, 4, 3 },  // C FLR BLRS BLR LFE
1770 };
1771
1772 /* mp3on4 channel layouts */
1773 static const int16_t chan_layout[8] = {
1774     0,
1775     AV_CH_LAYOUT_MONO,
1776     AV_CH_LAYOUT_STEREO,
1777     AV_CH_LAYOUT_SURROUND,
1778     AV_CH_LAYOUT_4POINT0,
1779     AV_CH_LAYOUT_5POINT0,
1780     AV_CH_LAYOUT_5POINT1,
1781     AV_CH_LAYOUT_7POINT1
1782 };
1783
1784 static av_cold int decode_close_mp3on4(AVCodecContext * avctx)
1785 {
1786     MP3On4DecodeContext *s = avctx->priv_data;
1787     int i;
1788
1789     for (i = 0; i < s->frames; i++)
1790         av_free(s->mp3decctx[i]);
1791
1792     av_freep(&s->decoded_buf);
1793
1794     return 0;
1795 }
1796
1797
1798 static int decode_init_mp3on4(AVCodecContext * avctx)
1799 {
1800     MP3On4DecodeContext *s = avctx->priv_data;
1801     MPEG4AudioConfig cfg;
1802     int i;
1803
1804     if ((avctx->extradata_size < 2) || (avctx->extradata == NULL)) {
1805         av_log(avctx, AV_LOG_ERROR, "Codec extradata missing or too short.\n");
1806         return AVERROR_INVALIDDATA;
1807     }
1808
1809     avpriv_mpeg4audio_get_config(&cfg, avctx->extradata,
1810                                  avctx->extradata_size * 8, 1);
1811     if (!cfg.chan_config || cfg.chan_config > 7) {
1812         av_log(avctx, AV_LOG_ERROR, "Invalid channel config number.\n");
1813         return AVERROR_INVALIDDATA;
1814     }
1815     s->frames             = mp3Frames[cfg.chan_config];
1816     s->coff               = chan_offset[cfg.chan_config];
1817     avctx->channels       = ff_mpeg4audio_channels[cfg.chan_config];
1818     avctx->channel_layout = chan_layout[cfg.chan_config];
1819
1820     if (cfg.sample_rate < 16000)
1821         s->syncword = 0xffe00000;
1822     else
1823         s->syncword = 0xfff00000;
1824
1825     /* Init the first mp3 decoder in standard way, so that all tables get builded
1826      * We replace avctx->priv_data with the context of the first decoder so that
1827      * decode_init() does not have to be changed.
1828      * Other decoders will be initialized here copying data from the first context
1829      */
1830     // Allocate zeroed memory for the first decoder context
1831     s->mp3decctx[0] = av_mallocz(sizeof(MPADecodeContext));
1832     if (!s->mp3decctx[0])
1833         goto alloc_fail;
1834     // Put decoder context in place to make init_decode() happy
1835     avctx->priv_data = s->mp3decctx[0];
1836     decode_init(avctx);
1837     s->frame = avctx->coded_frame;
1838     // Restore mp3on4 context pointer
1839     avctx->priv_data = s;
1840     s->mp3decctx[0]->adu_mode = 1; // Set adu mode
1841
1842     /* Create a separate codec/context for each frame (first is already ok).
1843      * Each frame is 1 or 2 channels - up to 5 frames allowed
1844      */
1845     for (i = 1; i < s->frames; i++) {
1846         s->mp3decctx[i] = av_mallocz(sizeof(MPADecodeContext));
1847         if (!s->mp3decctx[i])
1848             goto alloc_fail;
1849         s->mp3decctx[i]->adu_mode = 1;
1850         s->mp3decctx[i]->avctx = avctx;
1851         s->mp3decctx[i]->mpadsp = s->mp3decctx[0]->mpadsp;
1852     }
1853
1854     /* Allocate buffer for multi-channel output if needed */
1855     if (s->frames > 1) {
1856         s->decoded_buf = av_malloc(MPA_FRAME_SIZE * MPA_MAX_CHANNELS *
1857                                    sizeof(*s->decoded_buf));
1858         if (!s->decoded_buf)
1859             goto alloc_fail;
1860     }
1861
1862     return 0;
1863 alloc_fail:
1864     decode_close_mp3on4(avctx);
1865     return AVERROR(ENOMEM);
1866 }
1867
1868
1869 static void flush_mp3on4(AVCodecContext *avctx)
1870 {
1871     int i;
1872     MP3On4DecodeContext *s = avctx->priv_data;
1873
1874     for (i = 0; i < s->frames; i++) {
1875         MPADecodeContext *m = s->mp3decctx[i];
1876         memset(m->synth_buf, 0, sizeof(m->synth_buf));
1877         m->last_buf_size = 0;
1878     }
1879 }
1880
1881
1882 static int decode_frame_mp3on4(AVCodecContext *avctx, void *data,
1883                                int *got_frame_ptr, AVPacket *avpkt)
1884 {
1885     const uint8_t *buf     = avpkt->data;
1886     int buf_size           = avpkt->size;
1887     MP3On4DecodeContext *s = avctx->priv_data;
1888     MPADecodeContext *m;
1889     int fsize, len = buf_size, out_size = 0;
1890     uint32_t header;
1891     OUT_INT *out_samples;
1892     OUT_INT *outptr, *bp;
1893     int fr, j, n, ch, ret;
1894
1895     /* get output buffer */
1896     s->frame->nb_samples = MPA_FRAME_SIZE;
1897     if ((ret = avctx->get_buffer(avctx, s->frame)) < 0) {
1898         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1899         return ret;
1900     }
1901     out_samples = (OUT_INT *)s->frame->data[0];
1902
1903     // Discard too short frames
1904     if (buf_size < HEADER_SIZE)
1905         return AVERROR_INVALIDDATA;
1906
1907     // If only one decoder interleave is not needed
1908     outptr = s->frames == 1 ? out_samples : s->decoded_buf;
1909
1910     avctx->bit_rate = 0;
1911
1912     ch = 0;
1913     for (fr = 0; fr < s->frames; fr++) {
1914         fsize = AV_RB16(buf) >> 4;
1915         fsize = FFMIN3(fsize, len, MPA_MAX_CODED_FRAME_SIZE);
1916         m     = s->mp3decctx[fr];
1917         assert(m != NULL);
1918
1919         header = (AV_RB32(buf) & 0x000fffff) | s->syncword; // patch header
1920
1921         if (ff_mpa_check_header(header) < 0) // Bad header, discard block
1922             break;
1923
1924         avpriv_mpegaudio_decode_header((MPADecodeHeader *)m, header);
1925
1926         if (ch + m->nb_channels > avctx->channels) {
1927             av_log(avctx, AV_LOG_ERROR, "frame channel count exceeds codec "
1928                                         "channel count\n");
1929             return AVERROR_INVALIDDATA;
1930         }
1931         ch += m->nb_channels;
1932
1933         out_size += mp_decode_frame(m, outptr, buf, fsize);
1934         buf      += fsize;
1935         len      -= fsize;
1936
1937         if (s->frames > 1) {
1938             n = m->avctx->frame_size*m->nb_channels;
1939             /* interleave output data */
1940             bp = out_samples + s->coff[fr];
1941             if (m->nb_channels == 1) {
1942                 for (j = 0; j < n; j++) {
1943                     *bp = s->decoded_buf[j];
1944                     bp += avctx->channels;
1945                 }
1946             } else {
1947                 for (j = 0; j < n; j++) {
1948                     bp[0] = s->decoded_buf[j++];
1949                     bp[1] = s->decoded_buf[j];
1950                     bp   += avctx->channels;
1951                 }
1952             }
1953         }
1954         avctx->bit_rate += m->bit_rate;
1955     }
1956
1957     /* update codec info */
1958     avctx->sample_rate = s->mp3decctx[0]->sample_rate;
1959
1960     s->frame->nb_samples = out_size / (avctx->channels * sizeof(OUT_INT));
1961     *got_frame_ptr   = 1;
1962     *(AVFrame *)data = *s->frame;
1963
1964     return buf_size;
1965 }
1966 #endif /* CONFIG_MP3ON4_DECODER || CONFIG_MP3ON4FLOAT_DECODER */
1967
1968 #if !CONFIG_FLOAT
1969 #if CONFIG_MP1_DECODER
1970 AVCodec ff_mp1_decoder = {
1971     .name           = "mp1",
1972     .type           = AVMEDIA_TYPE_AUDIO,
1973     .id             = CODEC_ID_MP1,
1974     .priv_data_size = sizeof(MPADecodeContext),
1975     .init           = decode_init,
1976     .decode         = decode_frame,
1977     .capabilities   = CODEC_CAP_DR1,
1978     .flush          = flush,
1979     .long_name      = NULL_IF_CONFIG_SMALL("MP1 (MPEG audio layer 1)"),
1980 };
1981 #endif
1982 #if CONFIG_MP2_DECODER
1983 AVCodec ff_mp2_decoder = {
1984     .name           = "mp2",
1985     .type           = AVMEDIA_TYPE_AUDIO,
1986     .id             = CODEC_ID_MP2,
1987     .priv_data_size = sizeof(MPADecodeContext),
1988     .init           = decode_init,
1989     .decode         = decode_frame,
1990     .capabilities   = CODEC_CAP_DR1,
1991     .flush          = flush,
1992     .long_name      = NULL_IF_CONFIG_SMALL("MP2 (MPEG audio layer 2)"),
1993 };
1994 #endif
1995 #if CONFIG_MP3_DECODER
1996 AVCodec ff_mp3_decoder = {
1997     .name           = "mp3",
1998     .type           = AVMEDIA_TYPE_AUDIO,
1999     .id             = CODEC_ID_MP3,
2000     .priv_data_size = sizeof(MPADecodeContext),
2001     .init           = decode_init,
2002     .decode         = decode_frame,
2003     .capabilities   = CODEC_CAP_DR1,
2004     .flush          = flush,
2005     .long_name      = NULL_IF_CONFIG_SMALL("MP3 (MPEG audio layer 3)"),
2006 };
2007 #endif
2008 #if CONFIG_MP3ADU_DECODER
2009 AVCodec ff_mp3adu_decoder = {
2010     .name           = "mp3adu",
2011     .type           = AVMEDIA_TYPE_AUDIO,
2012     .id             = CODEC_ID_MP3ADU,
2013     .priv_data_size = sizeof(MPADecodeContext),
2014     .init           = decode_init,
2015     .decode         = decode_frame_adu,
2016     .capabilities   = CODEC_CAP_DR1,
2017     .flush          = flush,
2018     .long_name      = NULL_IF_CONFIG_SMALL("ADU (Application Data Unit) MP3 (MPEG audio layer 3)"),
2019 };
2020 #endif
2021 #if CONFIG_MP3ON4_DECODER
2022 AVCodec ff_mp3on4_decoder = {
2023     .name           = "mp3on4",
2024     .type           = AVMEDIA_TYPE_AUDIO,
2025     .id             = CODEC_ID_MP3ON4,
2026     .priv_data_size = sizeof(MP3On4DecodeContext),
2027     .init           = decode_init_mp3on4,
2028     .close          = decode_close_mp3on4,
2029     .decode         = decode_frame_mp3on4,
2030     .capabilities   = CODEC_CAP_DR1,
2031     .flush          = flush_mp3on4,
2032     .long_name      = NULL_IF_CONFIG_SMALL("MP3onMP4"),
2033 };
2034 #endif
2035 #endif