]> git.sesse.net Git - ffmpeg/blob - libavcodec/aacenc.c
aacenc: Fix a segfault in search_for_quantizers
[ffmpeg] / libavcodec / aacenc.c
1 /*
2  * AAC encoder
3  * Copyright (C) 2008 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * AAC encoder
25  */
26
27 /***********************************
28  *              TODOs:
29  * add sane pulse detection
30  * add temporal noise shaping
31  ***********************************/
32
33 #include "avcodec.h"
34 #include "put_bits.h"
35 #include "dsputil.h"
36 #include "mpeg4audio.h"
37
38 #include "aac.h"
39 #include "aactab.h"
40 #include "aacenc.h"
41
42 #include "psymodel.h"
43
44 #define AAC_MAX_CHANNELS 6
45
46 static const uint8_t swb_size_1024_96[] = {
47     4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8,
48     12, 12, 12, 12, 12, 16, 16, 24, 28, 36, 44,
49     64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64
50 };
51
52 static const uint8_t swb_size_1024_64[] = {
53     4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8,
54     12, 12, 12, 16, 16, 16, 20, 24, 24, 28, 36,
55     40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40, 40
56 };
57
58 static const uint8_t swb_size_1024_48[] = {
59     4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8, 8, 8,
60     12, 12, 12, 12, 16, 16, 20, 20, 24, 24, 28, 28,
61     32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32,
62     96
63 };
64
65 static const uint8_t swb_size_1024_32[] = {
66     4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8, 8, 8,
67     12, 12, 12, 12, 16, 16, 20, 20, 24, 24, 28, 28,
68     32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32, 32
69 };
70
71 static const uint8_t swb_size_1024_24[] = {
72     4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 8, 8, 8, 8, 8, 8,
73     12, 12, 12, 12, 16, 16, 16, 20, 20, 24, 24, 28, 28,
74     32, 36, 36, 40, 44, 48, 52, 52, 64, 64, 64, 64, 64
75 };
76
77 static const uint8_t swb_size_1024_16[] = {
78     8, 8, 8, 8, 8, 8, 8, 8, 8, 8, 8,
79     12, 12, 12, 12, 12, 12, 12, 12, 12, 16, 16, 16, 16, 20, 20, 20, 24, 24, 28, 28,
80     32, 36, 40, 40, 44, 48, 52, 56, 60, 64, 64, 64
81 };
82
83 static const uint8_t swb_size_1024_8[] = {
84     12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 12,
85     16, 16, 16, 16, 16, 16, 16, 20, 20, 20, 20, 24, 24, 24, 28, 28,
86     32, 36, 36, 40, 44, 48, 52, 56, 60, 64, 80
87 };
88
89 static const uint8_t *swb_size_1024[] = {
90     swb_size_1024_96, swb_size_1024_96, swb_size_1024_64,
91     swb_size_1024_48, swb_size_1024_48, swb_size_1024_32,
92     swb_size_1024_24, swb_size_1024_24, swb_size_1024_16,
93     swb_size_1024_16, swb_size_1024_16, swb_size_1024_8
94 };
95
96 static const uint8_t swb_size_128_96[] = {
97     4, 4, 4, 4, 4, 4, 8, 8, 8, 16, 28, 36
98 };
99
100 static const uint8_t swb_size_128_48[] = {
101     4, 4, 4, 4, 4, 8, 8, 8, 12, 12, 12, 16, 16, 16
102 };
103
104 static const uint8_t swb_size_128_24[] = {
105     4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 12, 12, 16, 16, 20
106 };
107
108 static const uint8_t swb_size_128_16[] = {
109     4, 4, 4, 4, 4, 4, 4, 4, 8, 8, 12, 12, 16, 20, 20
110 };
111
112 static const uint8_t swb_size_128_8[] = {
113     4, 4, 4, 4, 4, 4, 4, 8, 8, 8, 8, 12, 16, 20, 20
114 };
115
116 static const uint8_t *swb_size_128[] = {
117     /* the last entry on the following row is swb_size_128_64 but is a
118        duplicate of swb_size_128_96 */
119     swb_size_128_96, swb_size_128_96, swb_size_128_96,
120     swb_size_128_48, swb_size_128_48, swb_size_128_48,
121     swb_size_128_24, swb_size_128_24, swb_size_128_16,
122     swb_size_128_16, swb_size_128_16, swb_size_128_8
123 };
124
125 /** default channel configurations */
126 static const uint8_t aac_chan_configs[6][5] = {
127  {1, TYPE_SCE},                               // 1 channel  - single channel element
128  {1, TYPE_CPE},                               // 2 channels - channel pair
129  {2, TYPE_SCE, TYPE_CPE},                     // 3 channels - center + stereo
130  {3, TYPE_SCE, TYPE_CPE, TYPE_SCE},           // 4 channels - front center + stereo + back center
131  {3, TYPE_SCE, TYPE_CPE, TYPE_CPE},           // 5 channels - front center + stereo + back stereo
132  {4, TYPE_SCE, TYPE_CPE, TYPE_CPE, TYPE_LFE}, // 6 channels - front center + stereo + back stereo + LFE
133 };
134
135 /**
136  * Make AAC audio config object.
137  * @see 1.6.2.1 "Syntax - AudioSpecificConfig"
138  */
139 static void put_audio_specific_config(AVCodecContext *avctx)
140 {
141     PutBitContext pb;
142     AACEncContext *s = avctx->priv_data;
143
144     init_put_bits(&pb, avctx->extradata, avctx->extradata_size*8);
145     put_bits(&pb, 5, 2); //object type - AAC-LC
146     put_bits(&pb, 4, s->samplerate_index); //sample rate index
147     put_bits(&pb, 4, avctx->channels);
148     //GASpecificConfig
149     put_bits(&pb, 1, 0); //frame length - 1024 samples
150     put_bits(&pb, 1, 0); //does not depend on core coder
151     put_bits(&pb, 1, 0); //is not extension
152
153     //Explicitly Mark SBR absent
154     put_bits(&pb, 11, 0x2b7); //sync extension
155     put_bits(&pb, 5,  AOT_SBR);
156     put_bits(&pb, 1,  0);
157     flush_put_bits(&pb);
158 }
159
160 static av_cold int aac_encode_init(AVCodecContext *avctx)
161 {
162     AACEncContext *s = avctx->priv_data;
163     int i;
164     const uint8_t *sizes[2];
165     int lengths[2];
166
167     avctx->frame_size = 1024;
168
169     for (i = 0; i < 16; i++)
170         if (avctx->sample_rate == ff_mpeg4audio_sample_rates[i])
171             break;
172     if (i == 16) {
173         av_log(avctx, AV_LOG_ERROR, "Unsupported sample rate %d\n", avctx->sample_rate);
174         return -1;
175     }
176     if (avctx->channels > AAC_MAX_CHANNELS) {
177         av_log(avctx, AV_LOG_ERROR, "Unsupported number of channels: %d\n", avctx->channels);
178         return -1;
179     }
180     if (avctx->profile != FF_PROFILE_UNKNOWN && avctx->profile != FF_PROFILE_AAC_LOW) {
181         av_log(avctx, AV_LOG_ERROR, "Unsupported profile %d\n", avctx->profile);
182         return -1;
183     }
184     if (1024.0 * avctx->bit_rate / avctx->sample_rate > 6144 * avctx->channels) {
185         av_log(avctx, AV_LOG_ERROR, "Too many bits per frame requested\n");
186         return -1;
187     }
188     s->samplerate_index = i;
189
190     dsputil_init(&s->dsp, avctx);
191     ff_mdct_init(&s->mdct1024, 11, 0, 1.0);
192     ff_mdct_init(&s->mdct128,   8, 0, 1.0);
193     // window init
194     ff_kbd_window_init(ff_aac_kbd_long_1024, 4.0, 1024);
195     ff_kbd_window_init(ff_aac_kbd_short_128, 6.0, 128);
196     ff_init_ff_sine_windows(10);
197     ff_init_ff_sine_windows(7);
198
199     s->samples            = av_malloc(2 * 1024 * avctx->channels * sizeof(s->samples[0]));
200     s->cpe                = av_mallocz(sizeof(ChannelElement) * aac_chan_configs[avctx->channels-1][0]);
201     avctx->extradata      = av_mallocz(5 + FF_INPUT_BUFFER_PADDING_SIZE);
202     avctx->extradata_size = 5;
203     put_audio_specific_config(avctx);
204
205     sizes[0]   = swb_size_1024[i];
206     sizes[1]   = swb_size_128[i];
207     lengths[0] = ff_aac_num_swb_1024[i];
208     lengths[1] = ff_aac_num_swb_128[i];
209     ff_psy_init(&s->psy, avctx, 2, sizes, lengths);
210     s->psypp = ff_psy_preprocess_init(avctx);
211     s->coder = &ff_aac_coders[2];
212
213     s->lambda = avctx->global_quality ? avctx->global_quality : 120;
214
215     ff_aac_tableinit();
216
217     return 0;
218 }
219
220 static void apply_window_and_mdct(AVCodecContext *avctx, AACEncContext *s,
221                                   SingleChannelElement *sce, short *audio)
222 {
223     int i, k;
224     const int chans = avctx->channels;
225     const float * lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
226     const float * swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
227     const float * pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
228     float *output = sce->ret;
229
230     if (sce->ics.window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
231         memcpy(output, sce->saved, sizeof(float)*1024);
232         if (sce->ics.window_sequence[0] == LONG_STOP_SEQUENCE) {
233             memset(output, 0, sizeof(output[0]) * 448);
234             for (i = 448; i < 576; i++)
235                 output[i] = sce->saved[i] * pwindow[i - 448];
236             for (i = 576; i < 704; i++)
237                 output[i] = sce->saved[i];
238         }
239         if (sce->ics.window_sequence[0] != LONG_START_SEQUENCE) {
240             for (i = 0; i < 1024; i++) {
241                 output[i+1024]         = audio[i * chans] * lwindow[1024 - i - 1];
242                 sce->saved[i] = audio[i * chans] * lwindow[i];
243             }
244         } else {
245             for (i = 0; i < 448; i++)
246                 output[i+1024]         = audio[i * chans];
247             for (; i < 576; i++)
248                 output[i+1024]         = audio[i * chans] * swindow[576 - i - 1];
249             memset(output+1024+576, 0, sizeof(output[0]) * 448);
250             for (i = 0; i < 1024; i++)
251                 sce->saved[i] = audio[i * chans];
252         }
253         ff_mdct_calc(&s->mdct1024, sce->coeffs, output);
254     } else {
255         for (k = 0; k < 1024; k += 128) {
256             for (i = 448 + k; i < 448 + k + 256; i++)
257                 output[i - 448 - k] = (i < 1024)
258                                          ? sce->saved[i]
259                                          : audio[(i-1024)*chans];
260             s->dsp.vector_fmul        (output,     output, k ?  swindow : pwindow, 128);
261             s->dsp.vector_fmul_reverse(output+128, output+128, swindow, 128);
262             ff_mdct_calc(&s->mdct128, sce->coeffs + k, output);
263         }
264         for (i = 0; i < 1024; i++)
265             sce->saved[i] = audio[i * chans];
266     }
267 }
268
269 /**
270  * Encode ics_info element.
271  * @see Table 4.6 (syntax of ics_info)
272  */
273 static void put_ics_info(AACEncContext *s, IndividualChannelStream *info)
274 {
275     int w;
276
277     put_bits(&s->pb, 1, 0);                // ics_reserved bit
278     put_bits(&s->pb, 2, info->window_sequence[0]);
279     put_bits(&s->pb, 1, info->use_kb_window[0]);
280     if (info->window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
281         put_bits(&s->pb, 6, info->max_sfb);
282         put_bits(&s->pb, 1, 0);            // no prediction
283     } else {
284         put_bits(&s->pb, 4, info->max_sfb);
285         for (w = 1; w < 8; w++)
286             put_bits(&s->pb, 1, !info->group_len[w]);
287     }
288 }
289
290 /**
291  * Encode MS data.
292  * @see 4.6.8.1 "Joint Coding - M/S Stereo"
293  */
294 static void encode_ms_info(PutBitContext *pb, ChannelElement *cpe)
295 {
296     int i, w;
297
298     put_bits(pb, 2, cpe->ms_mode);
299     if (cpe->ms_mode == 1)
300         for (w = 0; w < cpe->ch[0].ics.num_windows; w += cpe->ch[0].ics.group_len[w])
301             for (i = 0; i < cpe->ch[0].ics.max_sfb; i++)
302                 put_bits(pb, 1, cpe->ms_mask[w*16 + i]);
303 }
304
305 /**
306  * Produce integer coefficients from scalefactors provided by the model.
307  */
308 static void adjust_frame_information(AACEncContext *apc, ChannelElement *cpe, int chans)
309 {
310     int i, w, w2, g, ch;
311     int start, maxsfb, cmaxsfb;
312
313     for (ch = 0; ch < chans; ch++) {
314         IndividualChannelStream *ics = &cpe->ch[ch].ics;
315         start = 0;
316         maxsfb = 0;
317         cpe->ch[ch].pulse.num_pulse = 0;
318         for (w = 0; w < ics->num_windows*16; w += 16) {
319             for (g = 0; g < ics->num_swb; g++) {
320                 //apply M/S
321                 if (cpe->common_window && !ch && cpe->ms_mask[w + g]) {
322                     for (i = 0; i < ics->swb_sizes[g]; i++) {
323                         cpe->ch[0].coeffs[start+i] = (cpe->ch[0].coeffs[start+i] + cpe->ch[1].coeffs[start+i]) / 2.0;
324                         cpe->ch[1].coeffs[start+i] =  cpe->ch[0].coeffs[start+i] - cpe->ch[1].coeffs[start+i];
325                     }
326                 }
327                 start += ics->swb_sizes[g];
328             }
329             for (cmaxsfb = ics->num_swb; cmaxsfb > 0 && cpe->ch[ch].zeroes[w+cmaxsfb-1]; cmaxsfb--)
330                 ;
331             maxsfb = FFMAX(maxsfb, cmaxsfb);
332         }
333         ics->max_sfb = maxsfb;
334
335         //adjust zero bands for window groups
336         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
337             for (g = 0; g < ics->max_sfb; g++) {
338                 i = 1;
339                 for (w2 = w; w2 < w + ics->group_len[w]; w2++) {
340                     if (!cpe->ch[ch].zeroes[w2*16 + g]) {
341                         i = 0;
342                         break;
343                     }
344                 }
345                 cpe->ch[ch].zeroes[w*16 + g] = i;
346             }
347         }
348     }
349
350     if (chans > 1 && cpe->common_window) {
351         IndividualChannelStream *ics0 = &cpe->ch[0].ics;
352         IndividualChannelStream *ics1 = &cpe->ch[1].ics;
353         int msc = 0;
354         ics0->max_sfb = FFMAX(ics0->max_sfb, ics1->max_sfb);
355         ics1->max_sfb = ics0->max_sfb;
356         for (w = 0; w < ics0->num_windows*16; w += 16)
357             for (i = 0; i < ics0->max_sfb; i++)
358                 if (cpe->ms_mask[w+i])
359                     msc++;
360         if (msc == 0 || ics0->max_sfb == 0)
361             cpe->ms_mode = 0;
362         else
363             cpe->ms_mode = msc < ics0->max_sfb ? 1 : 2;
364     }
365 }
366
367 /**
368  * Encode scalefactor band coding type.
369  */
370 static void encode_band_info(AACEncContext *s, SingleChannelElement *sce)
371 {
372     int w;
373
374     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w])
375         s->coder->encode_window_bands_info(s, sce, w, sce->ics.group_len[w], s->lambda);
376 }
377
378 /**
379  * Encode scalefactors.
380  */
381 static void encode_scale_factors(AVCodecContext *avctx, AACEncContext *s,
382                                  SingleChannelElement *sce)
383 {
384     int off = sce->sf_idx[0], diff;
385     int i, w;
386
387     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
388         for (i = 0; i < sce->ics.max_sfb; i++) {
389             if (!sce->zeroes[w*16 + i]) {
390                 diff = sce->sf_idx[w*16 + i] - off + SCALE_DIFF_ZERO;
391                 if (diff < 0 || diff > 120)
392                     av_log(avctx, AV_LOG_ERROR, "Scalefactor difference is too big to be coded\n");
393                 off = sce->sf_idx[w*16 + i];
394                 put_bits(&s->pb, ff_aac_scalefactor_bits[diff], ff_aac_scalefactor_code[diff]);
395             }
396         }
397     }
398 }
399
400 /**
401  * Encode pulse data.
402  */
403 static void encode_pulses(AACEncContext *s, Pulse *pulse)
404 {
405     int i;
406
407     put_bits(&s->pb, 1, !!pulse->num_pulse);
408     if (!pulse->num_pulse)
409         return;
410
411     put_bits(&s->pb, 2, pulse->num_pulse - 1);
412     put_bits(&s->pb, 6, pulse->start);
413     for (i = 0; i < pulse->num_pulse; i++) {
414         put_bits(&s->pb, 5, pulse->pos[i]);
415         put_bits(&s->pb, 4, pulse->amp[i]);
416     }
417 }
418
419 /**
420  * Encode spectral coefficients processed by psychoacoustic model.
421  */
422 static void encode_spectral_coeffs(AACEncContext *s, SingleChannelElement *sce)
423 {
424     int start, i, w, w2;
425
426     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
427         start = 0;
428         for (i = 0; i < sce->ics.max_sfb; i++) {
429             if (sce->zeroes[w*16 + i]) {
430                 start += sce->ics.swb_sizes[i];
431                 continue;
432             }
433             for (w2 = w; w2 < w + sce->ics.group_len[w]; w2++)
434                 s->coder->quantize_and_encode_band(s, &s->pb, sce->coeffs + start + w2*128,
435                                                    sce->ics.swb_sizes[i],
436                                                    sce->sf_idx[w*16 + i],
437                                                    sce->band_type[w*16 + i],
438                                                    s->lambda);
439             start += sce->ics.swb_sizes[i];
440         }
441     }
442 }
443
444 /**
445  * Encode one channel of audio data.
446  */
447 static int encode_individual_channel(AVCodecContext *avctx, AACEncContext *s,
448                                      SingleChannelElement *sce,
449                                      int common_window)
450 {
451     put_bits(&s->pb, 8, sce->sf_idx[0]);
452     if (!common_window)
453         put_ics_info(s, &sce->ics);
454     encode_band_info(s, sce);
455     encode_scale_factors(avctx, s, sce);
456     encode_pulses(s, &sce->pulse);
457     put_bits(&s->pb, 1, 0); //tns
458     put_bits(&s->pb, 1, 0); //ssr
459     encode_spectral_coeffs(s, sce);
460     return 0;
461 }
462
463 /**
464  * Write some auxiliary information about the created AAC file.
465  */
466 static void put_bitstream_info(AVCodecContext *avctx, AACEncContext *s,
467                                const char *name)
468 {
469     int i, namelen, padbits;
470
471     namelen = strlen(name) + 2;
472     put_bits(&s->pb, 3, TYPE_FIL);
473     put_bits(&s->pb, 4, FFMIN(namelen, 15));
474     if (namelen >= 15)
475         put_bits(&s->pb, 8, namelen - 16);
476     put_bits(&s->pb, 4, 0); //extension type - filler
477     padbits = 8 - (put_bits_count(&s->pb) & 7);
478     align_put_bits(&s->pb);
479     for (i = 0; i < namelen - 2; i++)
480         put_bits(&s->pb, 8, name[i]);
481     put_bits(&s->pb, 12 - padbits, 0);
482 }
483
484 static int aac_encode_frame(AVCodecContext *avctx,
485                             uint8_t *frame, int buf_size, void *data)
486 {
487     AACEncContext *s = avctx->priv_data;
488     int16_t *samples = s->samples, *samples2, *la;
489     ChannelElement *cpe;
490     int i, j, chans, tag, start_ch;
491     const uint8_t *chan_map = aac_chan_configs[avctx->channels-1];
492     int chan_el_counter[4];
493     FFPsyWindowInfo windows[AAC_MAX_CHANNELS];
494
495     if (s->last_frame)
496         return 0;
497     if (data) {
498         if (!s->psypp) {
499             memcpy(s->samples + 1024 * avctx->channels, data,
500                    1024 * avctx->channels * sizeof(s->samples[0]));
501         } else {
502             start_ch = 0;
503             samples2 = s->samples + 1024 * avctx->channels;
504             for (i = 0; i < chan_map[0]; i++) {
505                 tag = chan_map[i+1];
506                 chans = tag == TYPE_CPE ? 2 : 1;
507                 ff_psy_preprocess(s->psypp, (uint16_t*)data + start_ch,
508                                   samples2 + start_ch, start_ch, chans);
509                 start_ch += chans;
510             }
511         }
512     }
513     if (!avctx->frame_number) {
514         memcpy(s->samples, s->samples + 1024 * avctx->channels,
515                1024 * avctx->channels * sizeof(s->samples[0]));
516         return 0;
517     }
518
519     start_ch = 0;
520     for (i = 0; i < chan_map[0]; i++) {
521         FFPsyWindowInfo* wi = windows + start_ch;
522         tag      = chan_map[i+1];
523         chans    = tag == TYPE_CPE ? 2 : 1;
524         cpe      = &s->cpe[i];
525         for (j = 0; j < chans; j++) {
526             IndividualChannelStream *ics = &cpe->ch[j].ics;
527             int k;
528             int cur_channel = start_ch + j;
529             samples2 = samples + cur_channel;
530             la       = samples2 + (448+64) * avctx->channels;
531             if (!data)
532                 la = NULL;
533             if (tag == TYPE_LFE) {
534                 wi[j].window_type[0] = ONLY_LONG_SEQUENCE;
535                 wi[j].window_shape   = 0;
536                 wi[j].num_windows    = 1;
537                 wi[j].grouping[0]    = 1;
538             } else {
539                 wi[j] = ff_psy_suggest_window(&s->psy, samples2, la, cur_channel,
540                                               ics->window_sequence[0]);
541             }
542             ics->window_sequence[1] = ics->window_sequence[0];
543             ics->window_sequence[0] = wi[j].window_type[0];
544             ics->use_kb_window[1]   = ics->use_kb_window[0];
545             ics->use_kb_window[0]   = wi[j].window_shape;
546             ics->num_windows        = wi[j].num_windows;
547             ics->swb_sizes          = s->psy.bands    [ics->num_windows == 8];
548             ics->num_swb            = tag == TYPE_LFE ? 12 : s->psy.num_bands[ics->num_windows == 8];
549             for (k = 0; k < ics->num_windows; k++)
550                 ics->group_len[k] = wi[j].grouping[k];
551
552             apply_window_and_mdct(avctx, s, &cpe->ch[j], samples2);
553         }
554         start_ch += chans;
555     }
556     do {
557         int frame_bits;
558         init_put_bits(&s->pb, frame, buf_size*8);
559         if ((avctx->frame_number & 0xFF)==1 && !(avctx->flags & CODEC_FLAG_BITEXACT))
560             put_bitstream_info(avctx, s, LIBAVCODEC_IDENT);
561         start_ch = 0;
562         memset(chan_el_counter, 0, sizeof(chan_el_counter));
563         for (i = 0; i < chan_map[0]; i++) {
564             FFPsyWindowInfo* wi = windows + start_ch;
565             tag      = chan_map[i+1];
566             chans    = tag == TYPE_CPE ? 2 : 1;
567             cpe      = &s->cpe[i];
568             put_bits(&s->pb, 3, tag);
569             put_bits(&s->pb, 4, chan_el_counter[tag]++);
570             for (j = 0; j < chans; j++) {
571                 s->cur_channel = start_ch + j;
572                 ff_psy_set_band_info(&s->psy, s->cur_channel, cpe->ch[j].coeffs, &wi[j]);
573                 s->coder->search_for_quantizers(avctx, s, &cpe->ch[j], s->lambda);
574             }
575             cpe->common_window = 0;
576             if (chans > 1
577                 && wi[0].window_type[0] == wi[1].window_type[0]
578                 && wi[0].window_shape   == wi[1].window_shape) {
579
580                 cpe->common_window = 1;
581                 for (j = 0; j < wi[0].num_windows; j++) {
582                     if (wi[0].grouping[j] != wi[1].grouping[j]) {
583                         cpe->common_window = 0;
584                         break;
585                     }
586                 }
587             }
588             s->cur_channel = start_ch;
589             if (cpe->common_window && s->coder->search_for_ms)
590                 s->coder->search_for_ms(s, cpe, s->lambda);
591             adjust_frame_information(s, cpe, chans);
592             if (chans == 2) {
593                 put_bits(&s->pb, 1, cpe->common_window);
594                 if (cpe->common_window) {
595                     put_ics_info(s, &cpe->ch[0].ics);
596                     encode_ms_info(&s->pb, cpe);
597                 }
598             }
599             for (j = 0; j < chans; j++) {
600                 s->cur_channel = start_ch + j;
601                 encode_individual_channel(avctx, s, &cpe->ch[j], cpe->common_window);
602             }
603             start_ch += chans;
604         }
605
606         frame_bits = put_bits_count(&s->pb);
607         if (frame_bits <= 6144 * avctx->channels - 3)
608             break;
609
610         s->lambda *= avctx->bit_rate * 1024.0f / avctx->sample_rate / frame_bits;
611
612     } while (1);
613
614     put_bits(&s->pb, 3, TYPE_END);
615     flush_put_bits(&s->pb);
616     avctx->frame_bits = put_bits_count(&s->pb);
617
618     // rate control stuff
619     if (!(avctx->flags & CODEC_FLAG_QSCALE)) {
620         float ratio = avctx->bit_rate * 1024.0f / avctx->sample_rate / avctx->frame_bits;
621         s->lambda *= ratio;
622         s->lambda = FFMIN(s->lambda, 65536.f);
623     }
624
625     if (!data)
626         s->last_frame = 1;
627     memcpy(s->samples, s->samples + 1024 * avctx->channels,
628            1024 * avctx->channels * sizeof(s->samples[0]));
629     return put_bits_count(&s->pb)>>3;
630 }
631
632 static av_cold int aac_encode_end(AVCodecContext *avctx)
633 {
634     AACEncContext *s = avctx->priv_data;
635
636     ff_mdct_end(&s->mdct1024);
637     ff_mdct_end(&s->mdct128);
638     ff_psy_end(&s->psy);
639     ff_psy_preprocess_end(s->psypp);
640     av_freep(&s->samples);
641     av_freep(&s->cpe);
642     return 0;
643 }
644
645 AVCodec ff_aac_encoder = {
646     "aac",
647     AVMEDIA_TYPE_AUDIO,
648     CODEC_ID_AAC,
649     sizeof(AACEncContext),
650     aac_encode_init,
651     aac_encode_frame,
652     aac_encode_end,
653     .capabilities = CODEC_CAP_SMALL_LAST_FRAME | CODEC_CAP_DELAY | CODEC_CAP_EXPERIMENTAL,
654     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
655     .long_name = NULL_IF_CONFIG_SMALL("Advanced Audio Coding"),
656 };