git.sesse.net Git - ffmpeg/blob - libavcodec/aacenc.c

   1 /*
   2  * AAC encoder
   3  * Copyright (C) 2008 Konstantin Shishkov
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * AAC encoder
  25  */
  26
  27 /***********************************
  28  *              TODOs:
  29  * add sane pulse detection
  30  ***********************************/
  31
  32 #include "libavutil/float_dsp.h"
  33 #include "libavutil/opt.h"
  34 #include "avcodec.h"
  35 #include "put_bits.h"
  36 #include "internal.h"
  37 #include "mpeg4audio.h"
  38 #include "kbdwin.h"
  39 #include "sinewin.h"
  40
  41 #include "aac.h"
  42 #include "aactab.h"
  43 #include "aacenc.h"
  44 #include "aacenctab.h"
  45 #include "aacenc_utils.h"
  46
  47 #include "psymodel.h"
  48
  49 /**
  50  * Make AAC audio config object.
  51  * @see 1.6.2.1 "Syntax - AudioSpecificConfig"
  52  */
  53 static void put_audio_specific_config(AVCodecContext *avctx)
  54 {
  55     PutBitContext pb;
  56     AACEncContext *s = avctx->priv_data;
  57
  58     init_put_bits(&pb, avctx->extradata, avctx->extradata_size);
  59     put_bits(&pb, 5, s->profile+1); //profile
  60     put_bits(&pb, 4, s->samplerate_index); //sample rate index
  61     put_bits(&pb, 4, s->channels);
  62     //GASpecificConfig
  63     put_bits(&pb, 1, 0); //frame length - 1024 samples
  64     put_bits(&pb, 1, 0); //does not depend on core coder
  65     put_bits(&pb, 1, 0); //is not extension
  66
  67     //Explicitly Mark SBR absent
  68     put_bits(&pb, 11, 0x2b7); //sync extension
  69     put_bits(&pb, 5,  AOT_SBR);
  70     put_bits(&pb, 1,  0);
  71     flush_put_bits(&pb);
  72 }
  73
  74 #define WINDOW_FUNC(type) \
  75 static void apply_ ##type ##_window(AVFloatDSPContext *fdsp, \
  76                                     SingleChannelElement *sce, \
  77                                     const float *audio)
  78
  79 WINDOW_FUNC(only_long)
  80 {
  81     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
  82     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
  83     float *out = sce->ret_buf;
  84
  85     fdsp->vector_fmul        (out,        audio,        lwindow, 1024);
  86     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, pwindow, 1024);
  87 }
  88
  89 WINDOW_FUNC(long_start)
  90 {
  91     const float *lwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
  92     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
  93     float *out = sce->ret_buf;
  94
  95     fdsp->vector_fmul(out, audio, lwindow, 1024);
  96     memcpy(out + 1024, audio + 1024, sizeof(out[0]) * 448);
  97     fdsp->vector_fmul_reverse(out + 1024 + 448, audio + 1024 + 448, swindow, 128);
  98     memset(out + 1024 + 576, 0, sizeof(out[0]) * 448);
  99 }
 100
 101 WINDOW_FUNC(long_stop)
 102 {
 103     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
 104     const float *swindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
 105     float *out = sce->ret_buf;
 106
 107     memset(out, 0, sizeof(out[0]) * 448);
 108     fdsp->vector_fmul(out + 448, audio + 448, swindow, 128);
 109     memcpy(out + 576, audio + 576, sizeof(out[0]) * 448);
 110     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, lwindow, 1024);
 111 }
 112
 113 WINDOW_FUNC(eight_short)
 114 {
 115     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
 116     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
 117     const float *in = audio + 448;
 118     float *out = sce->ret_buf;
 119     int w;
 120
 121     for (w = 0; w < 8; w++) {
 122         fdsp->vector_fmul        (out, in, w ? pwindow : swindow, 128);
 123         out += 128;
 124         in  += 128;
 125         fdsp->vector_fmul_reverse(out, in, swindow, 128);
 126         out += 128;
 127     }
 128 }
 129
 130 static void (*const apply_window[4])(AVFloatDSPContext *fdsp,
 131                                      SingleChannelElement *sce,
 132                                      const float *audio) = {
 133     [ONLY_LONG_SEQUENCE]   = apply_only_long_window,
 134     [LONG_START_SEQUENCE]  = apply_long_start_window,
 135     [EIGHT_SHORT_SEQUENCE] = apply_eight_short_window,
 136     [LONG_STOP_SEQUENCE]   = apply_long_stop_window
 137 };
 138
 139 static void apply_window_and_mdct(AACEncContext *s, SingleChannelElement *sce,
 140                                   float *audio)
 141 {
 142     int i;
 143     float *output = sce->ret_buf;
 144
 145     apply_window[sce->ics.window_sequence[0]](s->fdsp, sce, audio);
 146
 147     if (sce->ics.window_sequence[0] != EIGHT_SHORT_SEQUENCE)
 148         s->mdct1024.mdct_calc(&s->mdct1024, sce->coeffs, output);
 149     else
 150         for (i = 0; i < 1024; i += 128)
 151             s->mdct128.mdct_calc(&s->mdct128, &sce->coeffs[i], output + i*2);
 152     memcpy(audio, audio + 1024, sizeof(audio[0]) * 1024);
 153     memcpy(sce->pcoeffs, sce->coeffs, sizeof(sce->pcoeffs));
 154 }
 155
 156 /**
 157  * Encode ics_info element.
 158  * @see Table 4.6 (syntax of ics_info)
 159  */
 160 static void put_ics_info(AACEncContext *s, IndividualChannelStream *info)
 161 {
 162     int w;
 163
 164     put_bits(&s->pb, 1, 0);                // ics_reserved bit
 165     put_bits(&s->pb, 2, info->window_sequence[0]);
 166     put_bits(&s->pb, 1, info->use_kb_window[0]);
 167     if (info->window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
 168         put_bits(&s->pb, 6, info->max_sfb);
 169         put_bits(&s->pb, 1, !!info->predictor_present);
 170     } else {
 171         put_bits(&s->pb, 4, info->max_sfb);
 172         for (w = 1; w < 8; w++)
 173             put_bits(&s->pb, 1, !info->group_len[w]);
 174     }
 175 }
 176
 177 /**
 178  * Encode MS data.
 179  * @see 4.6.8.1 "Joint Coding - M/S Stereo"
 180  */
 181 static void encode_ms_info(PutBitContext *pb, ChannelElement *cpe)
 182 {
 183     int i, w;
 184
 185     put_bits(pb, 2, cpe->ms_mode);
 186     if (cpe->ms_mode == 1)
 187         for (w = 0; w < cpe->ch[0].ics.num_windows; w += cpe->ch[0].ics.group_len[w])
 188             for (i = 0; i < cpe->ch[0].ics.max_sfb; i++)
 189                 put_bits(pb, 1, cpe->ms_mask[w*16 + i]);
 190 }
 191
 192 /**
 193  * Produce integer coefficients from scalefactors provided by the model.
 194  */
 195 static void adjust_frame_information(ChannelElement *cpe, int chans)
 196 {
 197     int i, w, w2, g, ch;
 198     int maxsfb, cmaxsfb;
 199     IndividualChannelStream *ics;
 200
 201     if (cpe->common_window) {
 202         ics = &cpe->ch[0].ics;
 203         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 204             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
 205                 int start = (w+w2) * 128;
 206                 for (g = 0; g < ics->num_swb; g++) {
 207                     //apply Intensity stereo coeffs transformation
 208                     if (cpe->is_mask[w*16 + g]) {
 209                         int p = -1 + 2 * (cpe->ch[1].band_type[w*16+g] - 14);
 210                         float scale = cpe->ch[0].is_ener[w*16+g];
 211                         for (i = 0; i < ics->swb_sizes[g]; i++) {
 212                             cpe->ch[0].coeffs[start+i] = (cpe->ch[0].coeffs[start+i] + p*cpe->ch[1].coeffs[start+i]) * scale;
 213                             cpe->ch[1].coeffs[start+i] = 0.0f;
 214                         }
 215                     } else if (cpe->ms_mask[w*16 + g] &&
 216                                cpe->ch[0].band_type[w*16 + g] < NOISE_BT &&
 217                                cpe->ch[1].band_type[w*16 + g] < NOISE_BT) {
 218                         for (i = 0; i < ics->swb_sizes[g]; i++) {
 219                             float L = (cpe->ch[0].coeffs[start+i] + cpe->ch[1].coeffs[start+i]) * 0.5f;
 220                             float R = L - cpe->ch[1].coeffs[start+i];
 221                             cpe->ch[0].coeffs[start+i] = L;
 222                             cpe->ch[1].coeffs[start+i] = R;
 223                         }
 224                     }
 225                     start += ics->swb_sizes[g];
 226                 }
 227             }
 228         }
 229     }
 230
 231     for (ch = 0; ch < chans; ch++) {
 232         IndividualChannelStream *ics = &cpe->ch[ch].ics;
 233         maxsfb = 0;
 234         cpe->ch[ch].pulse.num_pulse = 0;
 235         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 236             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
 237                 for (cmaxsfb = ics->num_swb; cmaxsfb > 0 && cpe->ch[ch].zeroes[w*16+cmaxsfb-1]; cmaxsfb--)
 238                     ;
 239                 maxsfb = FFMAX(maxsfb, cmaxsfb);
 240             }
 241         }
 242         ics->max_sfb = maxsfb;
 243
 244         //adjust zero bands for window groups
 245         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 246             for (g = 0; g < ics->max_sfb; g++) {
 247                 i = 1;
 248                 for (w2 = w; w2 < w + ics->group_len[w]; w2++) {
 249                     if (!cpe->ch[ch].zeroes[w2*16 + g]) {
 250                         i = 0;
 251                         break;
 252                     }
 253                 }
 254                 cpe->ch[ch].zeroes[w*16 + g] = i;
 255             }
 256         }
 257     }
 258
 259     if (chans > 1 && cpe->common_window) {
 260         IndividualChannelStream *ics0 = &cpe->ch[0].ics;
 261         IndividualChannelStream *ics1 = &cpe->ch[1].ics;
 262         int msc = 0;
 263         ics0->max_sfb = FFMAX(ics0->max_sfb, ics1->max_sfb);
 264         ics1->max_sfb = ics0->max_sfb;
 265         for (w = 0; w < ics0->num_windows*16; w += 16)
 266             for (i = 0; i < ics0->max_sfb; i++)
 267                 if (cpe->ms_mask[w+i])
 268                     msc++;
 269         if (msc == 0 || ics0->max_sfb == 0)
 270             cpe->ms_mode = 0;
 271         else
 272             cpe->ms_mode = msc < ics0->max_sfb * ics0->num_windows ? 1 : 2;
 273     }
 274 }
 275
 276 /**
 277  * Encode scalefactor band coding type.
 278  */
 279 static void encode_band_info(AACEncContext *s, SingleChannelElement *sce)
 280 {
 281     int w;
 282
 283     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w])
 284         s->coder->encode_window_bands_info(s, sce, w, sce->ics.group_len[w], s->lambda);
 285 }
 286
 287 /**
 288  * Encode scalefactors.
 289  */
 290 static void encode_scale_factors(AVCodecContext *avctx, AACEncContext *s,
 291                                  SingleChannelElement *sce)
 292 {
 293     int diff, off_sf = sce->sf_idx[0], off_pns = sce->sf_idx[0] - NOISE_OFFSET;
 294     int off_is = 0, noise_flag = 1;
 295     int i, w;
 296
 297     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 298         for (i = 0; i < sce->ics.max_sfb; i++) {
 299             if (!sce->zeroes[w*16 + i]) {
 300                 if (sce->band_type[w*16 + i] == NOISE_BT) {
 301                     diff = sce->sf_idx[w*16 + i] - off_pns;
 302                     off_pns = sce->sf_idx[w*16 + i];
 303                     if (noise_flag-- > 0) {
 304                         put_bits(&s->pb, NOISE_PRE_BITS, diff + NOISE_PRE);
 305                         continue;
 306                     }
 307                 } else if (sce->band_type[w*16 + i] == INTENSITY_BT  ||
 308                            sce->band_type[w*16 + i] == INTENSITY_BT2) {
 309                     diff = sce->sf_idx[w*16 + i] - off_is;
 310                     off_is = sce->sf_idx[w*16 + i];
 311                 } else {
 312                     diff = sce->sf_idx[w*16 + i] - off_sf;
 313                     off_sf = sce->sf_idx[w*16 + i];
 314                 }
 315                 diff += SCALE_DIFF_ZERO;
 316                 av_assert0(diff >= 0 && diff <= 120);
 317                 put_bits(&s->pb, ff_aac_scalefactor_bits[diff], ff_aac_scalefactor_code[diff]);
 318             }
 319         }
 320     }
 321 }
 322
 323 /**
 324  * Encode pulse data.
 325  */
 326 static void encode_pulses(AACEncContext *s, Pulse *pulse)
 327 {
 328     int i;
 329
 330     put_bits(&s->pb, 1, !!pulse->num_pulse);
 331     if (!pulse->num_pulse)
 332         return;
 333
 334     put_bits(&s->pb, 2, pulse->num_pulse - 1);
 335     put_bits(&s->pb, 6, pulse->start);
 336     for (i = 0; i < pulse->num_pulse; i++) {
 337         put_bits(&s->pb, 5, pulse->pos[i]);
 338         put_bits(&s->pb, 4, pulse->amp[i]);
 339     }
 340 }
 341
 342 /**
 343  * Encode spectral coefficients processed by psychoacoustic model.
 344  */
 345 static void encode_spectral_coeffs(AACEncContext *s, SingleChannelElement *sce)
 346 {
 347     int start, i, w, w2;
 348
 349     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 350         start = 0;
 351         for (i = 0; i < sce->ics.max_sfb; i++) {
 352             if (sce->zeroes[w*16 + i]) {
 353                 start += sce->ics.swb_sizes[i];
 354                 continue;
 355             }
 356             for (w2 = w; w2 < w + sce->ics.group_len[w]; w2++) {
 357                 s->coder->quantize_and_encode_band(s, &s->pb,
 358                                                    &sce->coeffs[start + w2*128],
 359                                                    NULL, sce->ics.swb_sizes[i],
 360                                                    sce->sf_idx[w*16 + i],
 361                                                    sce->band_type[w*16 + i],
 362                                                    s->lambda,
 363                                                    sce->ics.window_clipping[w]);
 364             }
 365             start += sce->ics.swb_sizes[i];
 366         }
 367     }
 368 }
 369
 370 /**
 371  * Downscale spectral coefficients for near-clipping windows to avoid artifacts
 372  */
 373 static void avoid_clipping(AACEncContext *s, SingleChannelElement *sce)
 374 {
 375     int start, i, j, w;
 376
 377     if (sce->ics.clip_avoidance_factor < 1.0f) {
 378         for (w = 0; w < sce->ics.num_windows; w++) {
 379             start = 0;
 380             for (i = 0; i < sce->ics.max_sfb; i++) {
 381                 float *swb_coeffs = &sce->coeffs[start + w*128];
 382                 for (j = 0; j < sce->ics.swb_sizes[i]; j++)
 383                     swb_coeffs[j] *= sce->ics.clip_avoidance_factor;
 384                 start += sce->ics.swb_sizes[i];
 385             }
 386         }
 387     }
 388 }
 389
 390 /**
 391  * Encode one channel of audio data.
 392  */
 393 static int encode_individual_channel(AVCodecContext *avctx, AACEncContext *s,
 394                                      SingleChannelElement *sce,
 395                                      int common_window)
 396 {
 397     put_bits(&s->pb, 8, sce->sf_idx[0]);
 398     if (!common_window) {
 399         put_ics_info(s, &sce->ics);
 400         if (s->coder->encode_main_pred)
 401             s->coder->encode_main_pred(s, sce);
 402     }
 403     encode_band_info(s, sce);
 404     encode_scale_factors(avctx, s, sce);
 405     encode_pulses(s, &sce->pulse);
 406     put_bits(&s->pb, 1, !!sce->tns.present);
 407     if (s->coder->encode_tns_info)
 408         s->coder->encode_tns_info(s, sce);
 409     put_bits(&s->pb, 1, 0); //ssr
 410     encode_spectral_coeffs(s, sce);
 411     return 0;
 412 }
 413
 414 /**
 415  * Write some auxiliary information about the created AAC file.
 416  */
 417 static void put_bitstream_info(AACEncContext *s, const char *name)
 418 {
 419     int i, namelen, padbits;
 420
 421     namelen = strlen(name) + 2;
 422     put_bits(&s->pb, 3, TYPE_FIL);
 423     put_bits(&s->pb, 4, FFMIN(namelen, 15));
 424     if (namelen >= 15)
 425         put_bits(&s->pb, 8, namelen - 14);
 426     put_bits(&s->pb, 4, 0); //extension type - filler
 427     padbits = -put_bits_count(&s->pb) & 7;
 428     avpriv_align_put_bits(&s->pb);
 429     for (i = 0; i < namelen - 2; i++)
 430         put_bits(&s->pb, 8, name[i]);
 431     put_bits(&s->pb, 12 - padbits, 0);
 432 }
 433
 434 /*
 435  * Copy input samples.
 436  * Channels are reordered from libavcodec's default order to AAC order.
 437  */
 438 static void copy_input_samples(AACEncContext *s, const AVFrame *frame)
 439 {
 440     int ch;
 441     int end = 2048 + (frame ? frame->nb_samples : 0);
 442     const uint8_t *channel_map = aac_chan_maps[s->channels - 1];
 443
 444     /* copy and remap input samples */
 445     for (ch = 0; ch < s->channels; ch++) {
 446         /* copy last 1024 samples of previous frame to the start of the current frame */
 447         memcpy(&s->planar_samples[ch][1024], &s->planar_samples[ch][2048], 1024 * sizeof(s->planar_samples[0][0]));
 448
 449         /* copy new samples and zero any remaining samples */
 450         if (frame) {
 451             memcpy(&s->planar_samples[ch][2048],
 452                    frame->extended_data[channel_map[ch]],
 453                    frame->nb_samples * sizeof(s->planar_samples[0][0]));
 454         }
 455         memset(&s->planar_samples[ch][end], 0,
 456                (3072 - end) * sizeof(s->planar_samples[0][0]));
 457     }
 458 }
 459
 460 static int aac_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
 461                             const AVFrame *frame, int *got_packet_ptr)
 462 {
 463     AACEncContext *s = avctx->priv_data;
 464     float **samples = s->planar_samples, *samples2, *la, *overlap;
 465     ChannelElement *cpe;
 466     SingleChannelElement *sce;
 467     int i, ch, w, g, chans, tag, start_ch, ret;
 468     int ms_mode = 0, is_mode = 0, tns_mode = 0, pred_mode = 0;
 469     int chan_el_counter[4];
 470     FFPsyWindowInfo windows[AAC_MAX_CHANNELS];
 471
 472     if (s->last_frame == 2)
 473         return 0;
 474
 475     /* add current frame to queue */
 476     if (frame) {
 477         if ((ret = ff_af_queue_add(&s->afq, frame)) < 0)
 478             return ret;
 479     }
 480
 481     copy_input_samples(s, frame);
 482     if (s->psypp)
 483         ff_psy_preprocess(s->psypp, s->planar_samples, s->channels);
 484
 485     if (!avctx->frame_number)
 486         return 0;
 487
 488     start_ch = 0;
 489     for (i = 0; i < s->chan_map[0]; i++) {
 490         FFPsyWindowInfo* wi = windows + start_ch;
 491         tag      = s->chan_map[i+1];
 492         chans    = tag == TYPE_CPE ? 2 : 1;
 493         cpe      = &s->cpe[i];
 494         for (ch = 0; ch < chans; ch++) {
 495             IndividualChannelStream *ics = &cpe->ch[ch].ics;
 496             int cur_channel = start_ch + ch;
 497             float clip_avoidance_factor;
 498             overlap  = &samples[cur_channel][0];
 499             samples2 = overlap + 1024;
 500             la       = samples2 + (448+64);
 501             if (!frame)
 502                 la = NULL;
 503             if (tag == TYPE_LFE) {
 504                 wi[ch].window_type[0] = ONLY_LONG_SEQUENCE;
 505                 wi[ch].window_shape   = 0;
 506                 wi[ch].num_windows    = 1;
 507                 wi[ch].grouping[0]    = 1;
 508
 509                 /* Only the lowest 12 coefficients are used in a LFE channel.
 510                  * The expression below results in only the bottom 8 coefficients
 511                  * being used for 11.025kHz to 16kHz sample rates.
 512                  */
 513                 ics->num_swb = s->samplerate_index >= 8 ? 1 : 3;
 514             } else {
 515                 wi[ch] = s->psy.model->window(&s->psy, samples2, la, cur_channel,
 516                                               ics->window_sequence[0]);
 517             }
 518             ics->window_sequence[1] = ics->window_sequence[0];
 519             ics->window_sequence[0] = wi[ch].window_type[0];
 520             ics->use_kb_window[1]   = ics->use_kb_window[0];
 521             ics->use_kb_window[0]   = wi[ch].window_shape;
 522             ics->num_windows        = wi[ch].num_windows;
 523             ics->swb_sizes          = s->psy.bands    [ics->num_windows == 8];
 524             ics->num_swb            = tag == TYPE_LFE ? ics->num_swb : s->psy.num_bands[ics->num_windows == 8];
 525             ics->swb_offset         = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
 526                                         ff_swb_offset_128 [s->samplerate_index]:
 527                                         ff_swb_offset_1024[s->samplerate_index];
 528             ics->tns_max_bands      = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
 529                                         ff_tns_max_bands_128 [s->samplerate_index]:
 530                                         ff_tns_max_bands_1024[s->samplerate_index];
 531             clip_avoidance_factor = 0.0f;
 532             for (w = 0; w < ics->num_windows; w++)
 533                 ics->group_len[w] = wi[ch].grouping[w];
 534             for (w = 0; w < ics->num_windows; w++) {
 535                 if (wi[ch].clipping[w] > CLIP_AVOIDANCE_FACTOR) {
 536                     ics->window_clipping[w] = 1;
 537                     clip_avoidance_factor = FFMAX(clip_avoidance_factor, wi[ch].clipping[w]);
 538                 } else {
 539                     ics->window_clipping[w] = 0;
 540                 }
 541             }
 542             if (clip_avoidance_factor > CLIP_AVOIDANCE_FACTOR) {
 543                 ics->clip_avoidance_factor = CLIP_AVOIDANCE_FACTOR / clip_avoidance_factor;
 544             } else {
 545                 ics->clip_avoidance_factor = 1.0f;
 546             }
 547
 548             apply_window_and_mdct(s, &cpe->ch[ch], overlap);
 549             if (isnan(cpe->ch->coeffs[0])) {
 550                 av_log(avctx, AV_LOG_ERROR, "Input contains NaN\n");
 551                 return AVERROR(EINVAL);
 552             }
 553             avoid_clipping(s, &cpe->ch[ch]);
 554         }
 555         start_ch += chans;
 556     }
 557     if ((ret = ff_alloc_packet2(avctx, avpkt, 8192 * s->channels, 0)) < 0)
 558         return ret;
 559     do {
 560         int frame_bits;
 561
 562         init_put_bits(&s->pb, avpkt->data, avpkt->size);
 563
 564         if ((avctx->frame_number & 0xFF)==1 && !(avctx->flags & AV_CODEC_FLAG_BITEXACT))
 565             put_bitstream_info(s, LIBAVCODEC_IDENT);
 566         start_ch = 0;
 567         memset(chan_el_counter, 0, sizeof(chan_el_counter));
 568         for (i = 0; i < s->chan_map[0]; i++) {
 569             FFPsyWindowInfo* wi = windows + start_ch;
 570             const float *coeffs[2];
 571             tag      = s->chan_map[i+1];
 572             chans    = tag == TYPE_CPE ? 2 : 1;
 573             cpe      = &s->cpe[i];
 574             memset(cpe->is_mask, 0, sizeof(cpe->is_mask));
 575             memset(cpe->ms_mask, 0, sizeof(cpe->ms_mask));
 576             put_bits(&s->pb, 3, tag);
 577             put_bits(&s->pb, 4, chan_el_counter[tag]++);
 578             for (ch = 0; ch < chans; ch++) {
 579                 sce = &cpe->ch[ch];
 580                 coeffs[ch] = sce->coeffs;
 581                 sce->ics.predictor_present = 0;
 582                 memset(&sce->ics.prediction_used, 0, sizeof(sce->ics.prediction_used));
 583                 memset(&sce->tns, 0, sizeof(TemporalNoiseShaping));
 584                 for (w = 0; w < 128; w++)
 585                     if (sce->band_type[w] > RESERVED_BT)
 586                         sce->band_type[w] = 0;
 587             }
 588             s->psy.model->analyze(&s->psy, start_ch, coeffs, wi);
 589             for (ch = 0; ch < chans; ch++) {
 590                 s->cur_channel = start_ch + ch;
 591                 s->coder->search_for_quantizers(avctx, s, &cpe->ch[ch], s->lambda);
 592             }
 593             cpe->common_window = 0;
 594             if (chans > 1
 595                 && wi[0].window_type[0] == wi[1].window_type[0]
 596                 && wi[0].window_shape   == wi[1].window_shape) {
 597
 598                 cpe->common_window = 1;
 599                 for (w = 0; w < wi[0].num_windows; w++) {
 600                     if (wi[0].grouping[w] != wi[1].grouping[w]) {
 601                         cpe->common_window = 0;
 602                         break;
 603                     }
 604                 }
 605             }
 606             for (ch = 0; ch < chans; ch++) {
 607                 sce = &cpe->ch[ch];
 608                 s->cur_channel = start_ch + ch;
 609                 if (s->options.pns && s->coder->search_for_pns)
 610                     s->coder->search_for_pns(s, avctx, sce);
 611                 if (s->options.tns && s->coder->search_for_tns)
 612                     s->coder->search_for_tns(s, sce);
 613                 if (s->options.tns && s->coder->apply_tns_filt)
 614                     s->coder->apply_tns_filt(sce);
 615                 if (sce->tns.present)
 616                     tns_mode = 1;
 617             }
 618             s->cur_channel = start_ch;
 619             if (s->options.stereo_mode && cpe->common_window) {
 620                 if (s->options.stereo_mode > 0) {
 621                     IndividualChannelStream *ics = &cpe->ch[0].ics;
 622                     for (w = 0; w < ics->num_windows; w += ics->group_len[w])
 623                         for (g = 0;  g < ics->num_swb; g++)
 624                             cpe->ms_mask[w*16+g] = 1;
 625                 } else if (s->coder->search_for_ms) {
 626                     s->coder->search_for_ms(s, cpe);
 627                 }
 628             }
 629             if (s->options.intensity_stereo && s->coder->search_for_is) {
 630                 s->coder->search_for_is(s, avctx, cpe);
 631                 if (cpe->is_mode) is_mode = 1;
 632             }
 633             if (s->coder->set_special_band_scalefactors)
 634                 for (ch = 0; ch < chans; ch++)
 635                     s->coder->set_special_band_scalefactors(s, &cpe->ch[ch]);
 636             adjust_frame_information(cpe, chans);
 637             for (ch = 0; ch < chans; ch++) {
 638                 sce = &cpe->ch[ch];
 639                 s->cur_channel = start_ch + ch;
 640                 if (s->options.pred && s->coder->search_for_pred)
 641                     s->coder->search_for_pred(s, sce);
 642                 if (cpe->ch[ch].ics.predictor_present) pred_mode = 1;
 643             }
 644             if (s->options.pred && s->coder->adjust_common_prediction)
 645                 s->coder->adjust_common_prediction(s, cpe);
 646             for (ch = 0; ch < chans; ch++) {
 647                 sce = &cpe->ch[ch];
 648                 s->cur_channel = start_ch + ch;
 649                 if (s->options.pred && s->coder->apply_main_pred)
 650                     s->coder->apply_main_pred(s, sce);
 651             }
 652             s->cur_channel = start_ch;
 653             if (chans == 2) {
 654                 put_bits(&s->pb, 1, cpe->common_window);
 655                 if (cpe->common_window) {
 656                     put_ics_info(s, &cpe->ch[0].ics);
 657                     if (s->coder->encode_main_pred)
 658                         s->coder->encode_main_pred(s, &cpe->ch[0]);
 659                     encode_ms_info(&s->pb, cpe);
 660                     if (cpe->ms_mode) ms_mode = 1;
 661                 }
 662             }
 663             for (ch = 0; ch < chans; ch++) {
 664                 s->cur_channel = start_ch + ch;
 665                 encode_individual_channel(avctx, s, &cpe->ch[ch], cpe->common_window);
 666             }
 667             start_ch += chans;
 668         }
 669
 670         frame_bits = put_bits_count(&s->pb);
 671         if (frame_bits <= 6144 * s->channels - 3) {
 672             s->psy.bitres.bits = frame_bits / s->channels;
 673             break;
 674         }
 675         if (is_mode || ms_mode || tns_mode || pred_mode) {
 676             for (i = 0; i < s->chan_map[0]; i++) {
 677                 // Must restore coeffs
 678                 chans = tag == TYPE_CPE ? 2 : 1;
 679                 cpe = &s->cpe[i];
 680                 for (ch = 0; ch < chans; ch++)
 681                     memcpy(cpe->ch[ch].coeffs, cpe->ch[ch].pcoeffs, sizeof(cpe->ch[ch].coeffs));
 682             }
 683         }
 684
 685         s->lambda *= avctx->bit_rate * 1024.0f / avctx->sample_rate / frame_bits;
 686
 687     } while (1);
 688
 689     put_bits(&s->pb, 3, TYPE_END);
 690     flush_put_bits(&s->pb);
 691     avctx->frame_bits = put_bits_count(&s->pb);
 692
 693     // rate control stuff
 694     if (!(avctx->flags & AV_CODEC_FLAG_QSCALE)) {
 695         float ratio = avctx->bit_rate * 1024.0f / avctx->sample_rate / avctx->frame_bits;
 696         s->lambda *= ratio;
 697         s->lambda = FFMIN(s->lambda, 65536.f);
 698     }
 699
 700     if (!frame)
 701         s->last_frame++;
 702
 703     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
 704                        &avpkt->duration);
 705
 706     avpkt->size = put_bits_count(&s->pb) >> 3;
 707     *got_packet_ptr = 1;
 708     return 0;
 709 }
 710
 711 static av_cold int aac_encode_end(AVCodecContext *avctx)
 712 {
 713     AACEncContext *s = avctx->priv_data;
 714
 715     ff_mdct_end(&s->mdct1024);
 716     ff_mdct_end(&s->mdct128);
 717     ff_psy_end(&s->psy);
 718     ff_lpc_end(&s->lpc);
 719     if (s->psypp)
 720         ff_psy_preprocess_end(s->psypp);
 721     av_freep(&s->buffer.samples);
 722     av_freep(&s->cpe);
 723     av_freep(&s->fdsp);
 724     ff_af_queue_close(&s->afq);
 725     return 0;
 726 }
 727
 728 static av_cold int dsp_init(AVCodecContext *avctx, AACEncContext *s)
 729 {
 730     int ret = 0;
 731
 732     s->fdsp = avpriv_float_dsp_alloc(avctx->flags & AV_CODEC_FLAG_BITEXACT);
 733     if (!s->fdsp)
 734         return AVERROR(ENOMEM);
 735
 736     // window init
 737     ff_kbd_window_init(ff_aac_kbd_long_1024, 4.0, 1024);
 738     ff_kbd_window_init(ff_aac_kbd_short_128, 6.0, 128);
 739     ff_init_ff_sine_windows(10);
 740     ff_init_ff_sine_windows(7);
 741
 742     if ((ret = ff_mdct_init(&s->mdct1024, 11, 0, 32768.0)) < 0)
 743         return ret;
 744     if ((ret = ff_mdct_init(&s->mdct128,   8, 0, 32768.0)) < 0)
 745         return ret;
 746
 747     return 0;
 748 }
 749
 750 static av_cold int alloc_buffers(AVCodecContext *avctx, AACEncContext *s)
 751 {
 752     int ch;
 753     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->buffer.samples, s->channels, 3 * 1024 * sizeof(s->buffer.samples[0]), alloc_fail);
 754     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->cpe, s->chan_map[0], sizeof(ChannelElement), alloc_fail);
 755     FF_ALLOCZ_OR_GOTO(avctx, avctx->extradata, 5 + AV_INPUT_BUFFER_PADDING_SIZE, alloc_fail);
 756
 757     for(ch = 0; ch < s->channels; ch++)
 758         s->planar_samples[ch] = s->buffer.samples + 3 * 1024 * ch;
 759
 760     return 0;
 761 alloc_fail:
 762     return AVERROR(ENOMEM);
 763 }
 764
 765 static av_cold int aac_encode_init(AVCodecContext *avctx)
 766 {
 767     AACEncContext *s = avctx->priv_data;
 768     int i, ret = 0;
 769     const uint8_t *sizes[2];
 770     uint8_t grouping[AAC_MAX_CHANNELS];
 771     int lengths[2];
 772
 773     avctx->frame_size = 1024;
 774
 775     for (i = 0; i < 16; i++)
 776         if (avctx->sample_rate == avpriv_mpeg4audio_sample_rates[i])
 777             break;
 778
 779     s->channels = avctx->channels;
 780
 781     ERROR_IF(i == 16 || i >= ff_aac_swb_size_1024_len || i >= ff_aac_swb_size_128_len,
 782              "Unsupported sample rate %d\n", avctx->sample_rate);
 783     ERROR_IF(s->channels > AAC_MAX_CHANNELS,
 784              "Unsupported number of channels: %d\n", s->channels);
 785     WARN_IF(1024.0 * avctx->bit_rate / avctx->sample_rate > 6144 * s->channels,
 786              "Too many bits per frame requested, clamping to max\n");
 787     if (avctx->profile == FF_PROFILE_AAC_MAIN) {
 788         s->options.pred = 1;
 789     } else if ((avctx->profile == FF_PROFILE_AAC_LOW ||
 790                 avctx->profile == FF_PROFILE_UNKNOWN) && s->options.pred) {
 791         s->profile = 0; /* Main */
 792         WARN_IF(1, "Prediction requested, changing profile to AAC-Main\n");
 793     } else if (avctx->profile == FF_PROFILE_AAC_LOW ||
 794                avctx->profile == FF_PROFILE_UNKNOWN) {
 795         s->profile = 1; /* Low */
 796     } else {
 797         ERROR_IF(1, "Unsupported profile %d\n", avctx->profile);
 798     }
 799
 800     avctx->bit_rate = (int)FFMIN(
 801         6144 * s->channels / 1024.0 * avctx->sample_rate,
 802         avctx->bit_rate);
 803
 804     s->samplerate_index = i;
 805
 806     s->chan_map = aac_chan_configs[s->channels-1];
 807
 808     if ((ret = dsp_init(avctx, s)) < 0)
 809         goto fail;
 810
 811     if ((ret = alloc_buffers(avctx, s)) < 0)
 812         goto fail;
 813
 814     avctx->extradata_size = 5;
 815     put_audio_specific_config(avctx);
 816
 817     sizes[0]   = ff_aac_swb_size_1024[i];
 818     sizes[1]   = ff_aac_swb_size_128[i];
 819     lengths[0] = ff_aac_num_swb_1024[i];
 820     lengths[1] = ff_aac_num_swb_128[i];
 821     for (i = 0; i < s->chan_map[0]; i++)
 822         grouping[i] = s->chan_map[i + 1] == TYPE_CPE;
 823     if ((ret = ff_psy_init(&s->psy, avctx, 2, sizes, lengths,
 824                            s->chan_map[0], grouping)) < 0)
 825         goto fail;
 826     s->psypp = ff_psy_preprocess_init(avctx);
 827     s->coder = &ff_aac_coders[s->options.aac_coder];
 828     ff_lpc_init(&s->lpc, 2*avctx->frame_size, TNS_MAX_ORDER, FF_LPC_TYPE_LEVINSON);
 829
 830     if (HAVE_MIPSDSPR1)
 831         ff_aac_coder_init_mips(s);
 832
 833     s->lambda = avctx->global_quality > 0 ? avctx->global_quality : 120;
 834
 835     ff_aac_tableinit();
 836
 837     avctx->initial_padding = 1024;
 838     ff_af_queue_init(avctx, &s->afq);
 839
 840     return 0;
 841 fail:
 842     aac_encode_end(avctx);
 843     return ret;
 844 }
 845
 846 #define AACENC_FLAGS AV_OPT_FLAG_ENCODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM
 847 static const AVOption aacenc_options[] = {
 848     {"stereo_mode", "Stereo coding method", offsetof(AACEncContext, options.stereo_mode), AV_OPT_TYPE_INT, {.i64 = 0}, -1, 1, AACENC_FLAGS, "stereo_mode"},
 849         {"auto",     "Selected by the Encoder", 0, AV_OPT_TYPE_CONST, {.i64 = -1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
 850         {"ms_off",   "Disable Mid/Side coding", 0, AV_OPT_TYPE_CONST, {.i64 =  0 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
 851         {"ms_force", "Force Mid/Side for the whole frame if possible", 0, AV_OPT_TYPE_CONST, {.i64 =  1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
 852     {"aac_coder", "Coding algorithm", offsetof(AACEncContext, options.aac_coder), AV_OPT_TYPE_INT, {.i64 = AAC_CODER_TWOLOOP}, 0, AAC_CODER_NB-1, AACENC_FLAGS, "aac_coder"},
 853         {"faac",     "FAAC-inspired method",      0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAAC},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
 854         {"anmr",     "ANMR method",               0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_ANMR},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
 855         {"twoloop",  "Two loop searching method", 0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_TWOLOOP}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
 856         {"fast",     "Constant quantizer",        0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAST},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
 857     {"aac_pns", "Perceptual Noise Substitution", offsetof(AACEncContext, options.pns), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "aac_pns"},
 858         {"disable",  "Disable perceptual noise substitution", 0, AV_OPT_TYPE_CONST, {.i64 =  0 }, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pns"},
 859         {"enable",   "Enable perceptual noise substitution",  0, AV_OPT_TYPE_CONST, {.i64 =  1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pns"},
 860     {"aac_is", "Intensity stereo coding", offsetof(AACEncContext, options.intensity_stereo), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "intensity_stereo"},
 861         {"disable",  "Disable intensity stereo coding", 0, AV_OPT_TYPE_CONST, {.i64 = 0}, INT_MIN, INT_MAX, AACENC_FLAGS, "intensity_stereo"},
 862         {"enable",   "Enable intensity stereo coding", 0, AV_OPT_TYPE_CONST, {.i64 = 1}, INT_MIN, INT_MAX, AACENC_FLAGS, "intensity_stereo"},
 863     {"aac_tns", "Temporal noise shaping", offsetof(AACEncContext, options.tns), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "aac_tns"},
 864         {"disable",  "Disable temporal noise shaping", 0, AV_OPT_TYPE_CONST, {.i64 = 0}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_tns"},
 865         {"enable",   "Enable temporal noise shaping", 0, AV_OPT_TYPE_CONST, {.i64 = 1}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_tns"},
 866     {"aac_pred", "AAC-Main prediction", offsetof(AACEncContext, options.pred), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "aac_pred"},
 867         {"disable",  "Disable AAC-Main prediction", 0, AV_OPT_TYPE_CONST, {.i64 = 0}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pred"},
 868         {"enable",   "Enable AAC-Main prediction", 0, AV_OPT_TYPE_CONST, {.i64 = 1}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pred"},
 869     {NULL}
 870 };
 871
 872 static const AVClass aacenc_class = {
 873     "AAC encoder",
 874     av_default_item_name,
 875     aacenc_options,
 876     LIBAVUTIL_VERSION_INT,
 877 };
 878
 879 AVCodec ff_aac_encoder = {
 880     .name           = "aac",
 881     .long_name      = NULL_IF_CONFIG_SMALL("AAC (Advanced Audio Coding)"),
 882     .type           = AVMEDIA_TYPE_AUDIO,
 883     .id             = AV_CODEC_ID_AAC,
 884     .priv_data_size = sizeof(AACEncContext),
 885     .init           = aac_encode_init,
 886     .encode2        = aac_encode_frame,
 887     .close          = aac_encode_end,
 888     .supported_samplerates = mpeg4audio_sample_rates,
 889     .capabilities   = AV_CODEC_CAP_SMALL_LAST_FRAME | AV_CODEC_CAP_DELAY |
 890                       AV_CODEC_CAP_EXPERIMENTAL,
 891     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLTP,
 892                                                      AV_SAMPLE_FMT_NONE },
 893     .priv_class     = &aacenc_class,
 894 };