]> git.sesse.net Git - ffmpeg/blob - libavcodec/wma.c
Merge commit '2b8b0da09cf0dc2535de42f95110eb633f36d8c8'
[ffmpeg] / libavcodec / wma.c
1 /*
2  * WMA compatible codec
3  * Copyright (c) 2002-2007 The FFmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/attributes.h"
23
24 #include "avcodec.h"
25 #include "sinewin.h"
26 #include "wma.h"
27 #include "wma_common.h"
28 #include "wmadata.h"
29
30 #undef NDEBUG
31 #include <assert.h>
32
33 /* XXX: use same run/length optimization as mpeg decoders */
34 // FIXME maybe split decode / encode or pass flag
35 static av_cold void init_coef_vlc(VLC *vlc, uint16_t **prun_table,
36                                   float **plevel_table, uint16_t **pint_table,
37                                   const CoefVLCTable *vlc_table)
38 {
39     int n                        = vlc_table->n;
40     const uint8_t  *table_bits   = vlc_table->huffbits;
41     const uint32_t *table_codes  = vlc_table->huffcodes;
42     const uint16_t *levels_table = vlc_table->levels;
43     uint16_t *run_table, *level_table, *int_table;
44     float *flevel_table;
45     int i, l, j, k, level;
46
47     init_vlc(vlc, VLCBITS, n, table_bits, 1, 1, table_codes, 4, 4, 0);
48
49     run_table    = av_malloc_array(n, sizeof(uint16_t));
50     level_table  = av_malloc_array(n, sizeof(uint16_t));
51     flevel_table = av_malloc_array(n, sizeof(*flevel_table));
52     int_table    = av_malloc_array(n, sizeof(uint16_t));
53     i            = 2;
54     level        = 1;
55     k            = 0;
56     while (i < n) {
57         int_table[k] = i;
58         l            = levels_table[k++];
59         for (j = 0; j < l; j++) {
60             run_table[i]    = j;
61             level_table[i]  = level;
62             flevel_table[i] = level;
63             i++;
64         }
65         level++;
66     }
67     *prun_table   = run_table;
68     *plevel_table = flevel_table;
69     *pint_table   = int_table;
70     av_free(level_table);
71 }
72
73 av_cold int ff_wma_init(AVCodecContext *avctx, int flags2)
74 {
75     WMACodecContext *s = avctx->priv_data;
76     int i;
77     float bps1, high_freq;
78     volatile float bps;
79     int sample_rate1;
80     int coef_vlc_table;
81
82     if (avctx->sample_rate <= 0 || avctx->sample_rate > 50000 ||
83         avctx->channels    <= 0 || avctx->channels    > 2     ||
84         avctx->bit_rate    <= 0)
85         return -1;
86
87     ff_fmt_convert_init(&s->fmt_conv, avctx);
88     avpriv_float_dsp_init(&s->fdsp, avctx->flags & CODEC_FLAG_BITEXACT);
89
90     if (avctx->codec->id == AV_CODEC_ID_WMAV1)
91         s->version = 1;
92     else
93         s->version = 2;
94
95     /* compute MDCT block size */
96     s->frame_len_bits = ff_wma_get_frame_len_bits(avctx->sample_rate,
97                                                   s->version, 0);
98     s->next_block_len_bits = s->frame_len_bits;
99     s->prev_block_len_bits = s->frame_len_bits;
100     s->block_len_bits      = s->frame_len_bits;
101
102     s->frame_len = 1 << s->frame_len_bits;
103     if (s->use_variable_block_len) {
104         int nb_max, nb;
105         nb = ((flags2 >> 3) & 3) + 1;
106         if ((avctx->bit_rate / avctx->channels) >= 32000)
107             nb += 2;
108         nb_max = s->frame_len_bits - BLOCK_MIN_BITS;
109         if (nb > nb_max)
110             nb = nb_max;
111         s->nb_block_sizes = nb + 1;
112     } else
113         s->nb_block_sizes = 1;
114
115     /* init rate dependent parameters */
116     s->use_noise_coding = 1;
117     high_freq           = avctx->sample_rate * 0.5;
118
119     /* if version 2, then the rates are normalized */
120     sample_rate1 = avctx->sample_rate;
121     if (s->version == 2) {
122         if (sample_rate1 >= 44100)
123             sample_rate1 = 44100;
124         else if (sample_rate1 >= 22050)
125             sample_rate1 = 22050;
126         else if (sample_rate1 >= 16000)
127             sample_rate1 = 16000;
128         else if (sample_rate1 >= 11025)
129             sample_rate1 = 11025;
130         else if (sample_rate1 >= 8000)
131             sample_rate1 = 8000;
132     }
133
134     bps                 = (float) avctx->bit_rate /
135                           (float) (avctx->channels * avctx->sample_rate);
136     s->byte_offset_bits = av_log2((int) (bps * s->frame_len / 8.0 + 0.5)) + 2;
137     if (s->byte_offset_bits + 3 > MIN_CACHE_BITS) {
138         av_log(avctx, AV_LOG_ERROR, "byte_offset_bits %d is too large\n", s->byte_offset_bits);
139         return AVERROR_PATCHWELCOME;
140     }
141
142     /* compute high frequency value and choose if noise coding should
143      * be activated */
144     bps1 = bps;
145     if (avctx->channels == 2)
146         bps1 = bps * 1.6;
147     if (sample_rate1 == 44100) {
148         if (bps1 >= 0.61)
149             s->use_noise_coding = 0;
150         else
151             high_freq = high_freq * 0.4;
152     } else if (sample_rate1 == 22050) {
153         if (bps1 >= 1.16)
154             s->use_noise_coding = 0;
155         else if (bps1 >= 0.72)
156             high_freq = high_freq * 0.7;
157         else
158             high_freq = high_freq * 0.6;
159     } else if (sample_rate1 == 16000) {
160         if (bps > 0.5)
161             high_freq = high_freq * 0.5;
162         else
163             high_freq = high_freq * 0.3;
164     } else if (sample_rate1 == 11025)
165         high_freq = high_freq * 0.7;
166     else if (sample_rate1 == 8000) {
167         if (bps <= 0.625)
168             high_freq = high_freq * 0.5;
169         else if (bps > 0.75)
170             s->use_noise_coding = 0;
171         else
172             high_freq = high_freq * 0.65;
173     } else {
174         if (bps >= 0.8)
175             high_freq = high_freq * 0.75;
176         else if (bps >= 0.6)
177             high_freq = high_freq * 0.6;
178         else
179             high_freq = high_freq * 0.5;
180     }
181     av_dlog(s->avctx, "flags2=0x%x\n", flags2);
182     av_dlog(s->avctx, "version=%d channels=%d sample_rate=%d bitrate=%d block_align=%d\n",
183             s->version, avctx->channels, avctx->sample_rate, avctx->bit_rate,
184             avctx->block_align);
185     av_dlog(s->avctx, "bps=%f bps1=%f high_freq=%f bitoffset=%d\n",
186             bps, bps1, high_freq, s->byte_offset_bits);
187     av_dlog(s->avctx, "use_noise_coding=%d use_exp_vlc=%d nb_block_sizes=%d\n",
188             s->use_noise_coding, s->use_exp_vlc, s->nb_block_sizes);
189
190     /* compute the scale factor band sizes for each MDCT block size */
191     {
192         int a, b, pos, lpos, k, block_len, i, j, n;
193         const uint8_t *table;
194
195         if (s->version == 1)
196             s->coefs_start = 3;
197         else
198             s->coefs_start = 0;
199         for (k = 0; k < s->nb_block_sizes; k++) {
200             block_len = s->frame_len >> k;
201
202             if (s->version == 1) {
203                 lpos = 0;
204                 for (i = 0; i < 25; i++) {
205                     a   = ff_wma_critical_freqs[i];
206                     b   = avctx->sample_rate;
207                     pos = ((block_len * 2 * a) + (b >> 1)) / b;
208                     if (pos > block_len)
209                         pos = block_len;
210                     s->exponent_bands[0][i] = pos - lpos;
211                     if (pos >= block_len) {
212                         i++;
213                         break;
214                     }
215                     lpos = pos;
216                 }
217                 s->exponent_sizes[0] = i;
218             } else {
219                 /* hardcoded tables */
220                 table = NULL;
221                 a     = s->frame_len_bits - BLOCK_MIN_BITS - k;
222                 if (a < 3) {
223                     if (avctx->sample_rate >= 44100)
224                         table = exponent_band_44100[a];
225                     else if (avctx->sample_rate >= 32000)
226                         table = exponent_band_32000[a];
227                     else if (avctx->sample_rate >= 22050)
228                         table = exponent_band_22050[a];
229                 }
230                 if (table) {
231                     n = *table++;
232                     for (i = 0; i < n; i++)
233                         s->exponent_bands[k][i] = table[i];
234                     s->exponent_sizes[k] = n;
235                 } else {
236                     j    = 0;
237                     lpos = 0;
238                     for (i = 0; i < 25; i++) {
239                         a     = ff_wma_critical_freqs[i];
240                         b     = avctx->sample_rate;
241                         pos   = ((block_len * 2 * a) + (b << 1)) / (4 * b);
242                         pos <<= 2;
243                         if (pos > block_len)
244                             pos = block_len;
245                         if (pos > lpos)
246                             s->exponent_bands[k][j++] = pos - lpos;
247                         if (pos >= block_len)
248                             break;
249                         lpos = pos;
250                     }
251                     s->exponent_sizes[k] = j;
252                 }
253             }
254
255             /* max number of coefs */
256             s->coefs_end[k] = (s->frame_len - ((s->frame_len * 9) / 100)) >> k;
257             /* high freq computation */
258             s->high_band_start[k] = (int) ((block_len * 2 * high_freq) /
259                                            avctx->sample_rate + 0.5);
260             n   = s->exponent_sizes[k];
261             j   = 0;
262             pos = 0;
263             for (i = 0; i < n; i++) {
264                 int start, end;
265                 start = pos;
266                 pos  += s->exponent_bands[k][i];
267                 end   = pos;
268                 if (start < s->high_band_start[k])
269                     start = s->high_band_start[k];
270                 if (end > s->coefs_end[k])
271                     end = s->coefs_end[k];
272                 if (end > start)
273                     s->exponent_high_bands[k][j++] = end - start;
274             }
275             s->exponent_high_sizes[k] = j;
276 #if 0
277             tprintf(s->avctx, "%5d: coefs_end=%d high_band_start=%d nb_high_bands=%d: ",
278                     s->frame_len >> k,
279                     s->coefs_end[k],
280                     s->high_band_start[k],
281                     s->exponent_high_sizes[k]);
282             for (j = 0; j < s->exponent_high_sizes[k]; j++)
283                 tprintf(s->avctx, " %d", s->exponent_high_bands[k][j]);
284             tprintf(s->avctx, "\n");
285 #endif /* 0 */
286         }
287     }
288
289 #ifdef TRACE
290     {
291         int i, j;
292         for (i = 0; i < s->nb_block_sizes; i++) {
293             tprintf(s->avctx, "%5d: n=%2d:",
294                     s->frame_len >> i,
295                     s->exponent_sizes[i]);
296             for (j = 0; j < s->exponent_sizes[i]; j++)
297                 tprintf(s->avctx, " %d", s->exponent_bands[i][j]);
298             tprintf(s->avctx, "\n");
299         }
300     }
301 #endif /* TRACE */
302
303     /* init MDCT windows : simple sine window */
304     for (i = 0; i < s->nb_block_sizes; i++) {
305         ff_init_ff_sine_windows(s->frame_len_bits - i);
306         s->windows[i] = ff_sine_windows[s->frame_len_bits - i];
307     }
308
309     s->reset_block_lengths = 1;
310
311     if (s->use_noise_coding) {
312         /* init the noise generator */
313         if (s->use_exp_vlc)
314             s->noise_mult = 0.02;
315         else
316             s->noise_mult = 0.04;
317
318 #ifdef TRACE
319         for (i = 0; i < NOISE_TAB_SIZE; i++)
320             s->noise_table[i] = 1.0 * s->noise_mult;
321 #else
322         {
323             unsigned int seed;
324             float norm;
325             seed = 1;
326             norm = (1.0 / (float) (1LL << 31)) * sqrt(3) * s->noise_mult;
327             for (i = 0; i < NOISE_TAB_SIZE; i++) {
328                 seed              = seed * 314159 + 1;
329                 s->noise_table[i] = (float) ((int) seed) * norm;
330             }
331         }
332 #endif /* TRACE */
333     }
334
335     /* choose the VLC tables for the coefficients */
336     coef_vlc_table = 2;
337     if (avctx->sample_rate >= 32000) {
338         if (bps1 < 0.72)
339             coef_vlc_table = 0;
340         else if (bps1 < 1.16)
341             coef_vlc_table = 1;
342     }
343     s->coef_vlcs[0] = &coef_vlcs[coef_vlc_table * 2];
344     s->coef_vlcs[1] = &coef_vlcs[coef_vlc_table * 2 + 1];
345     init_coef_vlc(&s->coef_vlc[0], &s->run_table[0], &s->level_table[0],
346                   &s->int_table[0], s->coef_vlcs[0]);
347     init_coef_vlc(&s->coef_vlc[1], &s->run_table[1], &s->level_table[1],
348                   &s->int_table[1], s->coef_vlcs[1]);
349
350     return 0;
351 }
352
353 int ff_wma_total_gain_to_bits(int total_gain)
354 {
355     if (total_gain < 15)
356         return 13;
357     else if (total_gain < 32)
358         return 12;
359     else if (total_gain < 40)
360         return 11;
361     else if (total_gain < 45)
362         return 10;
363     else
364         return  9;
365 }
366
367 int ff_wma_end(AVCodecContext *avctx)
368 {
369     WMACodecContext *s = avctx->priv_data;
370     int i;
371
372     for (i = 0; i < s->nb_block_sizes; i++)
373         ff_mdct_end(&s->mdct_ctx[i]);
374
375     if (s->use_exp_vlc)
376         ff_free_vlc(&s->exp_vlc);
377     if (s->use_noise_coding)
378         ff_free_vlc(&s->hgain_vlc);
379     for (i = 0; i < 2; i++) {
380         ff_free_vlc(&s->coef_vlc[i]);
381         av_freep(&s->run_table[i]);
382         av_freep(&s->level_table[i]);
383         av_freep(&s->int_table[i]);
384     }
385
386     return 0;
387 }
388
389 /**
390  * Decode an uncompressed coefficient.
391  * @param gb GetBitContext
392  * @return the decoded coefficient
393  */
394 unsigned int ff_wma_get_large_val(GetBitContext *gb)
395 {
396     /** consumes up to 34 bits */
397     int n_bits = 8;
398     /** decode length */
399     if (get_bits1(gb)) {
400         n_bits += 8;
401         if (get_bits1(gb)) {
402             n_bits += 8;
403             if (get_bits1(gb))
404                 n_bits += 7;
405         }
406     }
407     return get_bits_long(gb, n_bits);
408 }
409
410 /**
411  * Decode run level compressed coefficients.
412  * @param avctx codec context
413  * @param gb bitstream reader context
414  * @param vlc vlc table for get_vlc2
415  * @param level_table level codes
416  * @param run_table run codes
417  * @param version 0 for wma1,2 1 for wmapro
418  * @param ptr output buffer
419  * @param offset offset in the output buffer
420  * @param num_coefs number of input coefficents
421  * @param block_len input buffer length (2^n)
422  * @param frame_len_bits number of bits for escaped run codes
423  * @param coef_nb_bits number of bits for escaped level codes
424  * @return 0 on success, -1 otherwise
425  */
426 int ff_wma_run_level_decode(AVCodecContext *avctx, GetBitContext *gb,
427                             VLC *vlc, const float *level_table,
428                             const uint16_t *run_table, int version,
429                             WMACoef *ptr, int offset, int num_coefs,
430                             int block_len, int frame_len_bits,
431                             int coef_nb_bits)
432 {
433     int code, level, sign;
434     const uint32_t *ilvl = (const uint32_t *) level_table;
435     uint32_t *iptr = (uint32_t *) ptr;
436     const unsigned int coef_mask = block_len - 1;
437     for (; offset < num_coefs; offset++) {
438         code = get_vlc2(gb, vlc->table, VLCBITS, VLCMAX);
439         if (code > 1) {
440             /** normal code */
441             offset                  += run_table[code];
442             sign                     = get_bits1(gb) - 1;
443             iptr[offset & coef_mask] = ilvl[code] ^ sign << 31;
444         } else if (code == 1) {
445             /** EOB */
446             break;
447         } else {
448             /** escape */
449             if (!version) {
450                 level = get_bits(gb, coef_nb_bits);
451                 /** NOTE: this is rather suboptimal. reading
452                  *  block_len_bits would be better */
453                 offset += get_bits(gb, frame_len_bits);
454             } else {
455                 level = ff_wma_get_large_val(gb);
456                 /** escape decode */
457                 if (get_bits1(gb)) {
458                     if (get_bits1(gb)) {
459                         if (get_bits1(gb)) {
460                             av_log(avctx, AV_LOG_ERROR,
461                                    "broken escape sequence\n");
462                             return -1;
463                         } else
464                             offset += get_bits(gb, frame_len_bits) + 4;
465                     } else
466                         offset += get_bits(gb, 2) + 1;
467                 }
468             }
469             sign                    = get_bits1(gb) - 1;
470             ptr[offset & coef_mask] = (level ^ sign) - sign;
471         }
472     }
473     /** NOTE: EOB can be omitted */
474     if (offset > num_coefs) {
475         av_log(avctx, AV_LOG_ERROR, "overflow in spectral RLE, ignoring\n");
476         return -1;
477     }
478
479     return 0;
480 }