]> git.sesse.net Git - ffmpeg/blob - libavcodec/mpc7.c
avcodec/mpc7: Don't pretend initializing static VLC tables can fail
[ffmpeg] / libavcodec / mpc7.c
1 /*
2  * Musepack SV7 decoder
3  * Copyright (c) 2006 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/channel_layout.h"
29 #include "libavutil/internal.h"
30 #include "libavutil/lfg.h"
31 #include "avcodec.h"
32 #include "get_bits.h"
33 #include "internal.h"
34 #include "mpegaudiodsp.h"
35
36 #include "mpc.h"
37 #include "mpc7data.h"
38
39 static VLC scfi_vlc, dscf_vlc, hdr_vlc, quant_vlc[MPC7_QUANT_VLC_TABLES][2];
40
41 static const uint16_t quant_offsets[MPC7_QUANT_VLC_TABLES*2 + 1] =
42 {
43        0, 512, 1024, 1536, 2052, 2564, 3076, 3588, 4100, 4612, 5124,
44        5636, 6164, 6676, 7224
45 };
46
47
48 static av_cold int mpc7_decode_init(AVCodecContext * avctx)
49 {
50     int i, j;
51     MPCContext *c = avctx->priv_data;
52     GetBitContext gb;
53     LOCAL_ALIGNED_16(uint8_t, buf, [16]);
54     static int vlc_initialized = 0;
55
56     static VLC_TYPE quant_tables[7224][2];
57
58     /* Musepack SV7 is always stereo */
59     if (avctx->channels != 2) {
60         avpriv_request_sample(avctx, "%d channels", avctx->channels);
61         return AVERROR_PATCHWELCOME;
62     }
63
64     if(avctx->extradata_size < 16){
65         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
66         return AVERROR_INVALIDDATA;
67     }
68     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
69     av_lfg_init(&c->rnd, 0xDEADBEEF);
70     ff_bswapdsp_init(&c->bdsp);
71     ff_mpadsp_init(&c->mpadsp);
72     c->bdsp.bswap_buf((uint32_t *) buf, (const uint32_t *) avctx->extradata, 4);
73     ff_mpc_init();
74     init_get_bits(&gb, buf, 128);
75
76     c->IS = get_bits1(&gb);
77     c->MSS = get_bits1(&gb);
78     c->maxbands = get_bits(&gb, 6);
79     if(c->maxbands >= BANDS){
80         av_log(avctx, AV_LOG_ERROR, "Too many bands: %i\n", c->maxbands);
81         return AVERROR_INVALIDDATA;
82     }
83     skip_bits_long(&gb, 88);
84     c->gapless = get_bits1(&gb);
85     c->lastframelen = get_bits(&gb, 11);
86     av_log(avctx, AV_LOG_DEBUG, "IS: %d, MSS: %d, TG: %d, LFL: %d, bands: %d\n",
87             c->IS, c->MSS, c->gapless, c->lastframelen, c->maxbands);
88     c->frames_to_skip = 0;
89
90     avctx->sample_fmt = AV_SAMPLE_FMT_S16P;
91     avctx->channel_layout = AV_CH_LAYOUT_STEREO;
92
93     if(vlc_initialized) return 0;
94     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
95     INIT_VLC_STATIC(&scfi_vlc, MPC7_SCFI_BITS, MPC7_SCFI_SIZE,
96                     &mpc7_scfi[1], 2, 1,
97                     &mpc7_scfi[0], 2, 1, 1 << MPC7_SCFI_BITS);
98     INIT_VLC_STATIC(&dscf_vlc, MPC7_DSCF_BITS, MPC7_DSCF_SIZE,
99                     &mpc7_dscf[1], 2, 1,
100                     &mpc7_dscf[0], 2, 1, 1 << MPC7_DSCF_SIZE);
101     INIT_VLC_STATIC(&hdr_vlc, MPC7_HDR_BITS, MPC7_HDR_SIZE,
102                     &mpc7_hdr[1], 2, 1,
103                     &mpc7_hdr[0], 2, 1, 1 << MPC7_HDR_SIZE);
104     for(i = 0; i < MPC7_QUANT_VLC_TABLES; i++){
105         for(j = 0; j < 2; j++){
106             quant_vlc[i][j].table = &quant_tables[quant_offsets[i*2 + j]];
107             quant_vlc[i][j].table_allocated = quant_offsets[i*2 + j + 1] - quant_offsets[i*2 + j];
108             init_vlc(&quant_vlc[i][j], 9, mpc7_quant_vlc_sizes[i],
109                         &mpc7_quant_vlc[i][j][1], 4, 2,
110                      &mpc7_quant_vlc[i][j][0], 4, 2, INIT_VLC_USE_NEW_STATIC);
111         }
112     }
113     vlc_initialized = 1;
114
115     return 0;
116 }
117
118 /**
119  * Fill samples for given subband
120  */
121 static inline void idx_to_quant(MPCContext *c, GetBitContext *gb, int idx, int *dst)
122 {
123     int i, i1, t;
124     switch(idx){
125     case -1:
126         for(i = 0; i < SAMPLES_PER_BAND; i++){
127             *dst++ = (av_lfg_get(&c->rnd) & 0x3FC) - 510;
128         }
129         break;
130     case 1:
131         i1 = get_bits1(gb);
132         for(i = 0; i < SAMPLES_PER_BAND/3; i++){
133             t = get_vlc2(gb, quant_vlc[0][i1].table, 9, 2);
134             *dst++ = mpc7_idx30[t];
135             *dst++ = mpc7_idx31[t];
136             *dst++ = mpc7_idx32[t];
137         }
138         break;
139     case 2:
140         i1 = get_bits1(gb);
141         for(i = 0; i < SAMPLES_PER_BAND/2; i++){
142             t = get_vlc2(gb, quant_vlc[1][i1].table, 9, 2);
143             *dst++ = mpc7_idx50[t];
144             *dst++ = mpc7_idx51[t];
145         }
146         break;
147     case  3: case  4: case  5: case  6: case  7:
148         i1 = get_bits1(gb);
149         for(i = 0; i < SAMPLES_PER_BAND; i++)
150             *dst++ = get_vlc2(gb, quant_vlc[idx-1][i1].table, 9, 2) - mpc7_quant_vlc_off[idx-1];
151         break;
152     case  8: case  9: case 10: case 11: case 12:
153     case 13: case 14: case 15: case 16: case 17:
154         t = (1 << (idx - 2)) - 1;
155         for(i = 0; i < SAMPLES_PER_BAND; i++)
156             *dst++ = get_bits(gb, idx - 1) - t;
157         break;
158     default: // case 0 and -2..-17
159         return;
160     }
161 }
162
163 static int get_scale_idx(GetBitContext *gb, int ref)
164 {
165     int t = get_vlc2(gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
166     if (t == 8)
167         return get_bits(gb, 6);
168     return ref + t;
169 }
170
171 static int mpc7_decode_frame(AVCodecContext * avctx, void *data,
172                              int *got_frame_ptr, AVPacket *avpkt)
173 {
174     AVFrame *frame     = data;
175     const uint8_t *buf = avpkt->data;
176     int buf_size;
177     MPCContext *c = avctx->priv_data;
178     GetBitContext gb;
179     int i, ch;
180     int mb = -1;
181     Band *bands = c->bands;
182     int off, ret, last_frame, skip;
183     int bits_used, bits_avail;
184
185     memset(bands, 0, sizeof(*bands) * (c->maxbands + 1));
186
187     buf_size = avpkt->size & ~3;
188     if (buf_size <= 0) {
189         av_log(avctx, AV_LOG_ERROR, "packet size is too small (%i bytes)\n",
190                avpkt->size);
191         return AVERROR_INVALIDDATA;
192     }
193     if (buf_size != avpkt->size) {
194         av_log(avctx, AV_LOG_WARNING, "packet size is not a multiple of 4. "
195                "extra bytes at the end will be skipped.\n");
196     }
197
198     skip       = buf[0];
199     last_frame = buf[1];
200     buf       += 4;
201     buf_size  -= 4;
202
203     /* get output buffer */
204     frame->nb_samples = MPC_FRAME_SIZE;
205     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
206         return ret;
207
208     av_fast_padded_malloc(&c->bits, &c->buf_size, buf_size);
209     if (!c->bits)
210         return AVERROR(ENOMEM);
211     c->bdsp.bswap_buf((uint32_t *) c->bits, (const uint32_t *) buf,
212                       buf_size >> 2);
213     if ((ret = init_get_bits8(&gb, c->bits, buf_size)) < 0)
214         return ret;
215     skip_bits_long(&gb, skip);
216
217     /* read subband indexes */
218     for(i = 0; i <= c->maxbands; i++){
219         for(ch = 0; ch < 2; ch++){
220             int t = 4;
221             if(i) t = get_vlc2(&gb, hdr_vlc.table, MPC7_HDR_BITS, 1) - 5;
222             if(t == 4) bands[i].res[ch] = get_bits(&gb, 4);
223             else bands[i].res[ch] = bands[i-1].res[ch] + t;
224             if (bands[i].res[ch] < -1 || bands[i].res[ch] > 17) {
225                 av_log(avctx, AV_LOG_ERROR, "subband index invalid\n");
226                 return AVERROR_INVALIDDATA;
227             }
228         }
229
230         if(bands[i].res[0] || bands[i].res[1]){
231             mb = i;
232             if(c->MSS) bands[i].msf = get_bits1(&gb);
233         }
234     }
235     /* get scale indexes coding method */
236     for(i = 0; i <= mb; i++)
237         for(ch = 0; ch < 2; ch++)
238             if(bands[i].res[ch]) bands[i].scfi[ch] = get_vlc2(&gb, scfi_vlc.table, MPC7_SCFI_BITS, 1);
239     /* get scale indexes */
240     for(i = 0; i <= mb; i++){
241         for(ch = 0; ch < 2; ch++){
242             if(bands[i].res[ch]){
243                 bands[i].scf_idx[ch][2] = c->oldDSCF[ch][i];
244                 bands[i].scf_idx[ch][0] = get_scale_idx(&gb, bands[i].scf_idx[ch][2]);
245                 switch(bands[i].scfi[ch]){
246                 case 0:
247                     bands[i].scf_idx[ch][1] = get_scale_idx(&gb, bands[i].scf_idx[ch][0]);
248                     bands[i].scf_idx[ch][2] = get_scale_idx(&gb, bands[i].scf_idx[ch][1]);
249                     break;
250                 case 1:
251                     bands[i].scf_idx[ch][1] = get_scale_idx(&gb, bands[i].scf_idx[ch][0]);
252                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1];
253                     break;
254                 case 2:
255                     bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
256                     bands[i].scf_idx[ch][2] = get_scale_idx(&gb, bands[i].scf_idx[ch][1]);
257                     break;
258                 case 3:
259                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
260                     break;
261                 }
262                 c->oldDSCF[ch][i] = bands[i].scf_idx[ch][2];
263             }
264         }
265     }
266     /* get quantizers */
267     memset(c->Q, 0, sizeof(c->Q));
268     off = 0;
269     for(i = 0; i < BANDS; i++, off += SAMPLES_PER_BAND)
270         for(ch = 0; ch < 2; ch++)
271             idx_to_quant(c, &gb, bands[i].res[ch], c->Q[ch] + off);
272
273     ff_mpc_dequantize_and_synth(c, mb, (int16_t **)frame->extended_data, 2);
274     if(last_frame)
275         frame->nb_samples = c->lastframelen;
276
277     bits_used = get_bits_count(&gb);
278     bits_avail = buf_size * 8;
279     if (!last_frame && ((bits_avail < bits_used) || (bits_used + 32 <= bits_avail))) {
280         av_log(avctx, AV_LOG_ERROR, "Error decoding frame: used %i of %i bits\n", bits_used, bits_avail);
281         return AVERROR_INVALIDDATA;
282     }
283     if(c->frames_to_skip){
284         c->frames_to_skip--;
285         *got_frame_ptr = 0;
286         return avpkt->size;
287     }
288
289     *got_frame_ptr = 1;
290
291     return avpkt->size;
292 }
293
294 static void mpc7_decode_flush(AVCodecContext *avctx)
295 {
296     MPCContext *c = avctx->priv_data;
297
298     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
299     c->frames_to_skip = 32;
300 }
301
302 static av_cold int mpc7_decode_close(AVCodecContext *avctx)
303 {
304     MPCContext *c = avctx->priv_data;
305     av_freep(&c->bits);
306     c->buf_size = 0;
307     return 0;
308 }
309
310 AVCodec ff_mpc7_decoder = {
311     .name           = "mpc7",
312     .long_name      = NULL_IF_CONFIG_SMALL("Musepack SV7"),
313     .type           = AVMEDIA_TYPE_AUDIO,
314     .id             = AV_CODEC_ID_MUSEPACK7,
315     .priv_data_size = sizeof(MPCContext),
316     .init           = mpc7_decode_init,
317     .close          = mpc7_decode_close,
318     .decode         = mpc7_decode_frame,
319     .flush          = mpc7_decode_flush,
320     .capabilities   = AV_CODEC_CAP_DR1,
321     .sample_fmts    = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S16P,
322                                                       AV_SAMPLE_FMT_NONE },
323 };