]> git.sesse.net Git - ffmpeg/blob - libavcodec/mpc8.c
avcodec/mpc8: Reduce size of tables used to initialize VLCs
[ffmpeg] / libavcodec / mpc8.c
1 /*
2  * Musepack SV8 decoder
3  * Copyright (c) 2007 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/channel_layout.h"
29 #include "libavutil/lfg.h"
30 #include "avcodec.h"
31 #include "get_bits.h"
32 #include "internal.h"
33 #include "mpegaudiodsp.h"
34
35 #include "mpc.h"
36 #include "mpc8data.h"
37 #include "mpc8huff.h"
38
39 static VLC band_vlc, scfi_vlc[2], dscf_vlc[2], res_vlc[2];
40 static VLC q1_vlc, q2_vlc[2], q3_vlc[2], quant_vlc[4][2], q9up_vlc;
41
42 static const int q3_offsets[2] = { MPC8_Q3_OFFSET, MPC8_Q4_OFFSET };
43 static const int quant_offsets[6] = { MPC8_Q5_OFFSET, MPC8_Q6_OFFSET, MPC8_Q7_OFFSET, MPC8_Q8_OFFSET };
44
45 static inline int mpc8_dec_base(GetBitContext *gb, int k, int n)
46 {
47     int len = mpc8_cnk_len[k-1][n-1] - 1;
48     int code = len ? get_bits_long(gb, len) : 0;
49
50     if (code >= mpc8_cnk_lost[k-1][n-1])
51         code = ((code << 1) | get_bits1(gb)) - mpc8_cnk_lost[k-1][n-1];
52
53     return code;
54 }
55
56 static inline int mpc8_dec_enum(GetBitContext *gb, int k, int n)
57 {
58     int bits = 0;
59     const uint32_t * C = mpc8_cnk[k-1];
60     int code = mpc8_dec_base(gb, k, n);
61
62     do {
63         n--;
64         if (code >= C[n]) {
65             bits |= 1U << n;
66             code -= C[n];
67             C -= 32;
68             k--;
69         }
70     } while(k > 0);
71
72     return bits;
73 }
74
75 static inline int mpc8_get_mod_golomb(GetBitContext *gb, int m)
76 {
77     if(mpc8_cnk_len[0][m] < 1) return 0;
78     return mpc8_dec_base(gb, 1, m+1);
79 }
80
81 static int mpc8_get_mask(GetBitContext *gb, int size, int t)
82 {
83     int mask = 0;
84
85     if(t && t != size)
86          mask = mpc8_dec_enum(gb, FFMIN(t, size - t), size);
87     if((t << 1) > size) mask = ~mask;
88
89     return mask;
90 }
91
92 static const uint16_t vlc_offsets[13] = {
93     0, 640, 1184, 1748, 2298, 2426, 2554, 3066, 3578, 4106, 4618, 5196, 5708
94 };
95
96 static av_cold int mpc8_decode_init(AVCodecContext * avctx)
97 {
98     int i;
99     MPCContext *c = avctx->priv_data;
100     GetBitContext gb;
101     static int vlc_initialized = 0;
102     int channels;
103
104     static VLC_TYPE codes_table[5708][2];
105
106     if(avctx->extradata_size < 2){
107         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
108         return -1;
109     }
110     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
111     av_lfg_init(&c->rnd, 0xDEADBEEF);
112     ff_mpadsp_init(&c->mpadsp);
113
114     init_get_bits(&gb, avctx->extradata, 16);
115
116     skip_bits(&gb, 3);//sample rate
117     c->maxbands = get_bits(&gb, 5) + 1;
118     if (c->maxbands >= BANDS) {
119         av_log(avctx,AV_LOG_ERROR, "maxbands %d too high\n", c->maxbands);
120         return AVERROR_INVALIDDATA;
121     }
122     channels = get_bits(&gb, 4) + 1;
123     if (channels > 2) {
124         avpriv_request_sample(avctx, "Multichannel MPC SV8");
125         return AVERROR_PATCHWELCOME;
126     }
127     c->MSS = get_bits1(&gb);
128     c->frames = 1 << (get_bits(&gb, 3) * 2);
129
130     avctx->sample_fmt = AV_SAMPLE_FMT_S16P;
131     avctx->channel_layout = (channels==2) ? AV_CH_LAYOUT_STEREO : AV_CH_LAYOUT_MONO;
132     avctx->channels = channels;
133
134     if(vlc_initialized) return 0;
135     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
136
137     INIT_VLC_STATIC_FROM_LENGTHS(&band_vlc, MPC8_BANDS_BITS, MPC8_BANDS_SIZE,
138                                  mpc8_bands_bits, 1,
139                                  mpc8_bands_syms, 1, 1, 0, 0, 542);
140
141     INIT_VLC_STATIC_FROM_LENGTHS(&q1_vlc, MPC8_Q1_BITS, MPC8_Q1_SIZE,
142                                  mpc8_q1_bits, 1,
143                                  mpc8_q1_syms, 1, 1, 0, 0, 520);
144     INIT_VLC_STATIC_FROM_LENGTHS(&q9up_vlc, MPC8_Q9UP_BITS, MPC8_Q9UP_SIZE,
145                                  mpc8_q9up_bits, 1,
146                                  mpc8_q9up_syms, 1, 1, 0, 0, 524);
147
148     INIT_VLC_STATIC_FROM_LENGTHS(&scfi_vlc[0], MPC8_SCFI0_BITS, MPC8_SCFI0_SIZE,
149                                  mpc8_scfi0_bits, 1,
150                                  mpc8_scfi0_syms, 1, 1, 0, 0, 1 << MPC8_SCFI0_BITS);
151     INIT_VLC_STATIC_FROM_LENGTHS(&scfi_vlc[1], MPC8_SCFI1_BITS, MPC8_SCFI1_SIZE,
152                                  mpc8_scfi1_bits, 1,
153                                  mpc8_scfi1_syms, 1, 1, 0, 0, 1 << MPC8_SCFI1_BITS);
154
155     INIT_VLC_STATIC_FROM_LENGTHS(&dscf_vlc[0], MPC8_DSCF0_BITS, MPC8_DSCF0_SIZE,
156                                  mpc8_dscf0_bits, 1,
157                                  mpc8_dscf0_syms, 1, 1, 0, 0, 560);
158     INIT_VLC_STATIC_FROM_LENGTHS(&dscf_vlc[1], MPC8_DSCF1_BITS, MPC8_DSCF1_SIZE,
159                                  mpc8_dscf1_bits, 1,
160                                  mpc8_dscf1_syms, 1, 1, 0, 0, 598);
161
162     INIT_VLC_STATIC_FROM_LENGTHS(&q3_vlc[0], MPC8_Q3_BITS, MPC8_Q3_SIZE,
163                                  mpc8_q3_bits, 1,
164                                  mpc8_q3_syms, 1, 1, 0, 0, 512);
165     INIT_VLC_STATIC_FROM_LENGTHS(&q3_vlc[1], MPC8_Q4_BITS, MPC8_Q4_SIZE,
166                                  mpc8_q4_bits, 1,
167                                  mpc8_q4_syms, 1, 1, 0, 0, 516);
168
169     for(i = 0; i < 2; i++){
170         res_vlc[i].table = &codes_table[vlc_offsets[0+i]];
171         res_vlc[i].table_allocated = vlc_offsets[1+i] - vlc_offsets[0+i];
172         ff_init_vlc_from_lengths(&res_vlc[i], MPC8_RES_BITS, MPC8_RES_SIZE,
173                                  mpc8_res_bits[i], 1,
174                                  mpc8_res_syms[i], 1, 1,
175                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
176
177         q2_vlc[i].table = &codes_table[vlc_offsets[2+i]];
178         q2_vlc[i].table_allocated = vlc_offsets[3+i] - vlc_offsets[2+i];
179         ff_init_vlc_from_lengths(&q2_vlc[i], MPC8_Q2_BITS, MPC8_Q2_SIZE,
180                                  mpc8_q2_bits[i], 1,
181                                  mpc8_q2_syms[i], 1, 1,
182                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
183
184         quant_vlc[0][i].table = &codes_table[vlc_offsets[4+i]];
185         quant_vlc[0][i].table_allocated = vlc_offsets[5+i] - vlc_offsets[4+i];
186         ff_init_vlc_from_lengths(&quant_vlc[0][i], MPC8_Q5_BITS, MPC8_Q5_SIZE,
187                                  mpc8_q5_bits[i], 1,
188                                  mpc8_q5_syms[i], 1, 1,
189                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
190         quant_vlc[1][i].table = &codes_table[vlc_offsets[6+i]];
191         quant_vlc[1][i].table_allocated = vlc_offsets[7+i] - vlc_offsets[6+i];
192         ff_init_vlc_from_lengths(&quant_vlc[1][i], MPC8_Q6_BITS, MPC8_Q6_SIZE,
193                                  mpc8_q6_bits[i], 1,
194                                  mpc8_q6_syms[i], 1, 1,
195                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
196         quant_vlc[2][i].table = &codes_table[vlc_offsets[8+i]];
197         quant_vlc[2][i].table_allocated = vlc_offsets[9+i] - vlc_offsets[8+i];
198         ff_init_vlc_from_lengths(&quant_vlc[2][i], MPC8_Q7_BITS, MPC8_Q7_SIZE,
199                                  mpc8_q7_bits[i], 1,
200                                  mpc8_q7_syms[i], 1, 1,
201                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
202         quant_vlc[3][i].table = &codes_table[vlc_offsets[10+i]];
203         quant_vlc[3][i].table_allocated = vlc_offsets[11+i] - vlc_offsets[10+i];
204         ff_init_vlc_from_lengths(&quant_vlc[3][i], MPC8_Q8_BITS, MPC8_Q8_SIZE,
205                                  mpc8_q8_bits[i], 1,
206                                  mpc8_q8_syms[i], 1, 1,
207                                  0, INIT_VLC_USE_NEW_STATIC, NULL);
208     }
209     vlc_initialized = 1;
210     ff_mpa_synth_init_fixed();
211
212     return 0;
213 }
214
215 static int mpc8_decode_frame(AVCodecContext * avctx, void *data,
216                              int *got_frame_ptr, AVPacket *avpkt)
217 {
218     AVFrame *frame     = data;
219     const uint8_t *buf = avpkt->data;
220     int buf_size = avpkt->size;
221     MPCContext *c = avctx->priv_data;
222     GetBitContext gb2, *gb = &gb2;
223     int i, j, k, ch, cnt, res, t;
224     Band *bands = c->bands;
225     int off;
226     int maxband, keyframe;
227     int last[2];
228
229     keyframe = c->cur_frame == 0;
230
231     if(keyframe){
232         memset(c->Q, 0, sizeof(c->Q));
233         c->last_bits_used = 0;
234     }
235     if ((res = init_get_bits8(gb, buf, buf_size)) < 0)
236         return res;
237
238     skip_bits(gb, c->last_bits_used & 7);
239
240     if(keyframe)
241         maxband = mpc8_get_mod_golomb(gb, c->maxbands + 1);
242     else{
243         maxband = c->last_max_band + get_vlc2(gb, band_vlc.table, MPC8_BANDS_BITS, 2);
244         if(maxband > 32) maxband -= 33;
245     }
246
247     if (get_bits_left(gb) < 0) {
248         *got_frame_ptr = 0;
249         return buf_size;
250     }
251
252     if(maxband > c->maxbands + 1) {
253         av_log(avctx, AV_LOG_ERROR, "maxband %d too large\n",maxband);
254         return AVERROR_INVALIDDATA;
255     }
256     c->last_max_band = maxband;
257
258     /* read subband indexes */
259     if(maxband){
260         last[0] = last[1] = 0;
261         for(i = maxband - 1; i >= 0; i--){
262             for(ch = 0; ch < 2; ch++){
263                 last[ch] = get_vlc2(gb, res_vlc[last[ch] > 2].table, MPC8_RES_BITS, 2) + last[ch];
264                 if(last[ch] > 15) last[ch] -= 17;
265                 bands[i].res[ch] = last[ch];
266             }
267         }
268         if(c->MSS){
269             int mask;
270
271             cnt = 0;
272             for(i = 0; i < maxband; i++)
273                 if(bands[i].res[0] || bands[i].res[1])
274                     cnt++;
275             t = mpc8_get_mod_golomb(gb, cnt);
276             mask = mpc8_get_mask(gb, cnt, t);
277             for(i = maxband - 1; i >= 0; i--)
278                 if(bands[i].res[0] || bands[i].res[1]){
279                     bands[i].msf = mask & 1;
280                     mask >>= 1;
281                 }
282         }
283     }
284     for(i = maxband; i < c->maxbands; i++)
285         bands[i].res[0] = bands[i].res[1] = 0;
286
287     if(keyframe){
288         for(i = 0; i < 32; i++)
289             c->oldDSCF[0][i] = c->oldDSCF[1][i] = 1;
290     }
291
292     for(i = 0; i < maxband; i++){
293         if(bands[i].res[0] || bands[i].res[1]){
294             cnt = !!bands[i].res[0] + !!bands[i].res[1] - 1;
295             if(cnt >= 0){
296                 t = get_vlc2(gb, scfi_vlc[cnt].table, scfi_vlc[cnt].bits, 1);
297                 if(bands[i].res[0]) bands[i].scfi[0] = t >> (2 * cnt);
298                 if(bands[i].res[1]) bands[i].scfi[1] = t & 3;
299             }
300         }
301     }
302
303     for(i = 0; i < maxband; i++){
304         for(ch = 0; ch < 2; ch++){
305             if(!bands[i].res[ch]) continue;
306
307             if(c->oldDSCF[ch][i]){
308                 bands[i].scf_idx[ch][0] = get_bits(gb, 7) - 6;
309                 c->oldDSCF[ch][i] = 0;
310             }else{
311                 t = get_vlc2(gb, dscf_vlc[1].table, MPC8_DSCF1_BITS, 2);
312                 if(t == 64)
313                     t += get_bits(gb, 6);
314                 bands[i].scf_idx[ch][0] = ((bands[i].scf_idx[ch][2] + t - 25) & 0x7F) - 6;
315             }
316             for(j = 0; j < 2; j++){
317                 if((bands[i].scfi[ch] << j) & 2)
318                     bands[i].scf_idx[ch][j + 1] = bands[i].scf_idx[ch][j];
319                 else{
320                     t = get_vlc2(gb, dscf_vlc[0].table, MPC8_DSCF0_BITS, 2);
321                     if(t == 31)
322                         t = 64 + get_bits(gb, 6);
323                     bands[i].scf_idx[ch][j + 1] = ((bands[i].scf_idx[ch][j] + t - 25) & 0x7F) - 6;
324                 }
325             }
326         }
327     }
328
329     for(i = 0, off = 0; i < maxband; i++, off += SAMPLES_PER_BAND){
330         for(ch = 0; ch < 2; ch++){
331             res = bands[i].res[ch];
332             switch(res){
333             case -1:
334                 for(j = 0; j < SAMPLES_PER_BAND; j++)
335                     c->Q[ch][off + j] = (av_lfg_get(&c->rnd) & 0x3FC) - 510;
336                 break;
337             case 0:
338                 break;
339             case 1:
340                 for(j = 0; j < SAMPLES_PER_BAND; j += SAMPLES_PER_BAND / 2){
341                     cnt = get_vlc2(gb, q1_vlc.table, MPC8_Q1_BITS, 2);
342                     t = mpc8_get_mask(gb, 18, cnt);
343                     for(k = 0; k < SAMPLES_PER_BAND / 2; k++)
344                         c->Q[ch][off + j + k] = t & (1 << (SAMPLES_PER_BAND / 2 - k - 1))
345                                                 ? (get_bits1(gb) << 1) - 1 : 0;
346                 }
347                 break;
348             case 2:
349                 cnt = 6;//2*mpc8_thres[res]
350                 for(j = 0; j < SAMPLES_PER_BAND; j += 3){
351                     t = get_vlc2(gb, q2_vlc[cnt > 3].table, MPC8_Q2_BITS, 2);
352                     c->Q[ch][off + j + 0] = mpc8_idx50[t];
353                     c->Q[ch][off + j + 1] = mpc8_idx51[t];
354                     c->Q[ch][off + j + 2] = mpc8_idx52[t];
355                     cnt = (cnt >> 1) + mpc8_huffq2[t];
356                 }
357                 break;
358             case 3:
359             case 4:
360                 for(j = 0; j < SAMPLES_PER_BAND; j += 2){
361                     t = get_vlc2(gb, q3_vlc[res - 3].table, MPC8_Q3_BITS, 2) + q3_offsets[res - 3];
362                     c->Q[ch][off + j + 1] = t >> 4;
363                     c->Q[ch][off + j + 0] = sign_extend(t, 4);
364                 }
365                 break;
366             case 5:
367             case 6:
368             case 7:
369             case 8:
370                 cnt = 2 * mpc8_thres[res];
371                 for(j = 0; j < SAMPLES_PER_BAND; j++){
372                     t = get_vlc2(gb, quant_vlc[res - 5][cnt > mpc8_thres[res]].table, quant_vlc[res - 5][cnt > mpc8_thres[res]].bits, 2) + quant_offsets[res - 5];
373                     c->Q[ch][off + j] = t;
374                     cnt = (cnt >> 1) + FFABS(c->Q[ch][off + j]);
375                 }
376                 break;
377             default:
378                 for(j = 0; j < SAMPLES_PER_BAND; j++){
379                     c->Q[ch][off + j] = get_vlc2(gb, q9up_vlc.table, MPC8_Q9UP_BITS, 2);
380                     if(res != 9){
381                         c->Q[ch][off + j] <<= res - 9;
382                         c->Q[ch][off + j] |= get_bits(gb, res - 9);
383                     }
384                     c->Q[ch][off + j] -= (1 << (res - 2)) - 1;
385                 }
386             }
387         }
388     }
389
390     frame->nb_samples = MPC_FRAME_SIZE;
391     if ((res = ff_get_buffer(avctx, frame, 0)) < 0)
392         return res;
393
394     ff_mpc_dequantize_and_synth(c, maxband - 1,
395                                 (int16_t **)frame->extended_data,
396                                 avctx->channels);
397
398     c->cur_frame++;
399
400     c->last_bits_used = get_bits_count(gb);
401     if(c->cur_frame >= c->frames)
402         c->cur_frame = 0;
403     if (get_bits_left(gb) < 0) {
404         av_log(avctx, AV_LOG_ERROR, "Overread %d\n", -get_bits_left(gb));
405         c->last_bits_used = buf_size << 3;
406     } else if (c->cur_frame == 0 && get_bits_left(gb) < 8) {// we have only padding left
407         c->last_bits_used = buf_size << 3;
408     }
409
410     *got_frame_ptr = 1;
411
412     return c->cur_frame ? c->last_bits_used >> 3 : buf_size;
413 }
414
415 static av_cold void mpc8_decode_flush(AVCodecContext *avctx)
416 {
417     MPCContext *c = avctx->priv_data;
418     c->cur_frame = 0;
419 }
420
421 AVCodec ff_mpc8_decoder = {
422     .name           = "mpc8",
423     .long_name      = NULL_IF_CONFIG_SMALL("Musepack SV8"),
424     .type           = AVMEDIA_TYPE_AUDIO,
425     .id             = AV_CODEC_ID_MUSEPACK8,
426     .priv_data_size = sizeof(MPCContext),
427     .init           = mpc8_decode_init,
428     .decode         = mpc8_decode_frame,
429     .flush          = mpc8_decode_flush,
430     .capabilities   = AV_CODEC_CAP_DR1,
431     .sample_fmts    = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S16P,
432                                                       AV_SAMPLE_FMT_NONE },
433 };