git.sesse.net Git - ffmpeg/blob - libavcodec/aacenc.c

   1 /*
   2  * AAC encoder
   3  * Copyright (C) 2008 Konstantin Shishkov
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * AAC encoder
  25  */
  26
  27 /***********************************
  28  *              TODOs:
  29  * add sane pulse detection
  30  ***********************************/
  31
  32 #include "libavutil/float_dsp.h"
  33 #include "libavutil/opt.h"
  34 #include "avcodec.h"
  35 #include "put_bits.h"
  36 #include "internal.h"
  37 #include "mpeg4audio.h"
  38 #include "kbdwin.h"
  39 #include "sinewin.h"
  40
  41 #include "aac.h"
  42 #include "aactab.h"
  43 #include "aacenc.h"
  44 #include "aacenctab.h"
  45 #include "aacenc_utils.h"
  46
  47 #include "psymodel.h"
  48
  49 struct AACProfileOptions {
  50     int profile;
  51     struct AACEncOptions opts;
  52 };
  53
  54  /**
  55  * List of currently supported profiles, anything not listed isn't supported.
  56  */
  57 static const struct AACProfileOptions aacenc_profiles[] = {
  58     {FF_PROFILE_AAC_MAIN,
  59         {  /* Main profile, all advanced encoding abilities enabled */
  60             .mid_side = 0,
  61             .pns = 1,
  62             .tns = 0,
  63             .pred = OPT_REQUIRED,
  64             .intensity_stereo = 1,
  65         },
  66     },
  67     {FF_PROFILE_AAC_LOW,
  68         {  /* Default profile, these are the settings that get set by default */
  69             .mid_side = 0,
  70             .pns = 1,
  71             .tns = 0,
  72             .pred = OPT_NEEDS_MAIN,
  73             .intensity_stereo = 1,
  74         },
  75     },
  76     {FF_PROFILE_MPEG2_AAC_LOW,
  77         {  /* Strict MPEG 2 Part 7 compliance profile */
  78             .mid_side = 0,
  79             .pns = OPT_BANNED,
  80             .tns = 0,
  81             .pred = OPT_BANNED,
  82             .intensity_stereo = 1,
  83         },
  84     },
  85 };
  86
  87 /**
  88  * Make AAC audio config object.
  89  * @see 1.6.2.1 "Syntax - AudioSpecificConfig"
  90  */
  91 static void put_audio_specific_config(AVCodecContext *avctx)
  92 {
  93     PutBitContext pb;
  94     AACEncContext *s = avctx->priv_data;
  95     int channels = s->channels - (s->channels == 8 ? 1 : 0);
  96
  97     init_put_bits(&pb, avctx->extradata, avctx->extradata_size);
  98     put_bits(&pb, 5, s->profile+1); //profile
  99     put_bits(&pb, 4, s->samplerate_index); //sample rate index
 100     put_bits(&pb, 4, channels);
 101     //GASpecificConfig
 102     put_bits(&pb, 1, 0); //frame length - 1024 samples
 103     put_bits(&pb, 1, 0); //does not depend on core coder
 104     put_bits(&pb, 1, 0); //is not extension
 105
 106     //Explicitly Mark SBR absent
 107     put_bits(&pb, 11, 0x2b7); //sync extension
 108     put_bits(&pb, 5,  AOT_SBR);
 109     put_bits(&pb, 1,  0);
 110     flush_put_bits(&pb);
 111 }
 112
 113 void ff_quantize_band_cost_cache_init(struct AACEncContext *s)
 114 {
 115     int sf, g;
 116     for (sf = 0; sf < 256; sf++) {
 117         for (g = 0; g < 128; g++) {
 118             s->quantize_band_cost_cache[sf][g].bits = -1;
 119         }
 120     }
 121 }
 122
 123 #define WINDOW_FUNC(type) \
 124 static void apply_ ##type ##_window(AVFloatDSPContext *fdsp, \
 125                                     SingleChannelElement *sce, \
 126                                     const float *audio)
 127
 128 WINDOW_FUNC(only_long)
 129 {
 130     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
 131     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
 132     float *out = sce->ret_buf;
 133
 134     fdsp->vector_fmul        (out,        audio,        lwindow, 1024);
 135     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, pwindow, 1024);
 136 }
 137
 138 WINDOW_FUNC(long_start)
 139 {
 140     const float *lwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
 141     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
 142     float *out = sce->ret_buf;
 143
 144     fdsp->vector_fmul(out, audio, lwindow, 1024);
 145     memcpy(out + 1024, audio + 1024, sizeof(out[0]) * 448);
 146     fdsp->vector_fmul_reverse(out + 1024 + 448, audio + 1024 + 448, swindow, 128);
 147     memset(out + 1024 + 576, 0, sizeof(out[0]) * 448);
 148 }
 149
 150 WINDOW_FUNC(long_stop)
 151 {
 152     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
 153     const float *swindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
 154     float *out = sce->ret_buf;
 155
 156     memset(out, 0, sizeof(out[0]) * 448);
 157     fdsp->vector_fmul(out + 448, audio + 448, swindow, 128);
 158     memcpy(out + 576, audio + 576, sizeof(out[0]) * 448);
 159     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, lwindow, 1024);
 160 }
 161
 162 WINDOW_FUNC(eight_short)
 163 {
 164     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
 165     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
 166     const float *in = audio + 448;
 167     float *out = sce->ret_buf;
 168     int w;
 169
 170     for (w = 0; w < 8; w++) {
 171         fdsp->vector_fmul        (out, in, w ? pwindow : swindow, 128);
 172         out += 128;
 173         in  += 128;
 174         fdsp->vector_fmul_reverse(out, in, swindow, 128);
 175         out += 128;
 176     }
 177 }
 178
 179 static void (*const apply_window[4])(AVFloatDSPContext *fdsp,
 180                                      SingleChannelElement *sce,
 181                                      const float *audio) = {
 182     [ONLY_LONG_SEQUENCE]   = apply_only_long_window,
 183     [LONG_START_SEQUENCE]  = apply_long_start_window,
 184     [EIGHT_SHORT_SEQUENCE] = apply_eight_short_window,
 185     [LONG_STOP_SEQUENCE]   = apply_long_stop_window
 186 };
 187
 188 static void apply_window_and_mdct(AACEncContext *s, SingleChannelElement *sce,
 189                                   float *audio)
 190 {
 191     int i;
 192     float *output = sce->ret_buf;
 193
 194     apply_window[sce->ics.window_sequence[0]](s->fdsp, sce, audio);
 195
 196     if (sce->ics.window_sequence[0] != EIGHT_SHORT_SEQUENCE)
 197         s->mdct1024.mdct_calc(&s->mdct1024, sce->coeffs, output);
 198     else
 199         for (i = 0; i < 1024; i += 128)
 200             s->mdct128.mdct_calc(&s->mdct128, &sce->coeffs[i], output + i*2);
 201     memcpy(audio, audio + 1024, sizeof(audio[0]) * 1024);
 202     memcpy(sce->pcoeffs, sce->coeffs, sizeof(sce->pcoeffs));
 203 }
 204
 205 /**
 206  * Encode ics_info element.
 207  * @see Table 4.6 (syntax of ics_info)
 208  */
 209 static void put_ics_info(AACEncContext *s, IndividualChannelStream *info)
 210 {
 211     int w;
 212
 213     put_bits(&s->pb, 1, 0);                // ics_reserved bit
 214     put_bits(&s->pb, 2, info->window_sequence[0]);
 215     put_bits(&s->pb, 1, info->use_kb_window[0]);
 216     if (info->window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
 217         put_bits(&s->pb, 6, info->max_sfb);
 218         put_bits(&s->pb, 1, !!info->predictor_present);
 219     } else {
 220         put_bits(&s->pb, 4, info->max_sfb);
 221         for (w = 1; w < 8; w++)
 222             put_bits(&s->pb, 1, !info->group_len[w]);
 223     }
 224 }
 225
 226 /**
 227  * Encode MS data.
 228  * @see 4.6.8.1 "Joint Coding - M/S Stereo"
 229  */
 230 static void encode_ms_info(PutBitContext *pb, ChannelElement *cpe)
 231 {
 232     int i, w;
 233
 234     put_bits(pb, 2, cpe->ms_mode);
 235     if (cpe->ms_mode == 1)
 236         for (w = 0; w < cpe->ch[0].ics.num_windows; w += cpe->ch[0].ics.group_len[w])
 237             for (i = 0; i < cpe->ch[0].ics.max_sfb; i++)
 238                 put_bits(pb, 1, cpe->ms_mask[w*16 + i]);
 239 }
 240
 241 /**
 242  * Produce integer coefficients from scalefactors provided by the model.
 243  */
 244 static void adjust_frame_information(ChannelElement *cpe, int chans)
 245 {
 246     int i, w, w2, g, ch;
 247     int maxsfb, cmaxsfb;
 248
 249     for (ch = 0; ch < chans; ch++) {
 250         IndividualChannelStream *ics = &cpe->ch[ch].ics;
 251         maxsfb = 0;
 252         cpe->ch[ch].pulse.num_pulse = 0;
 253         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 254             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
 255                 for (cmaxsfb = ics->num_swb; cmaxsfb > 0 && cpe->ch[ch].zeroes[w*16+cmaxsfb-1]; cmaxsfb--)
 256                     ;
 257                 maxsfb = FFMAX(maxsfb, cmaxsfb);
 258             }
 259         }
 260         ics->max_sfb = maxsfb;
 261
 262         //adjust zero bands for window groups
 263         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 264             for (g = 0; g < ics->max_sfb; g++) {
 265                 i = 1;
 266                 for (w2 = w; w2 < w + ics->group_len[w]; w2++) {
 267                     if (!cpe->ch[ch].zeroes[w2*16 + g]) {
 268                         i = 0;
 269                         break;
 270                     }
 271                 }
 272                 cpe->ch[ch].zeroes[w*16 + g] = i;
 273             }
 274         }
 275     }
 276
 277     if (chans > 1 && cpe->common_window) {
 278         IndividualChannelStream *ics0 = &cpe->ch[0].ics;
 279         IndividualChannelStream *ics1 = &cpe->ch[1].ics;
 280         int msc = 0;
 281         ics0->max_sfb = FFMAX(ics0->max_sfb, ics1->max_sfb);
 282         ics1->max_sfb = ics0->max_sfb;
 283         for (w = 0; w < ics0->num_windows*16; w += 16)
 284             for (i = 0; i < ics0->max_sfb; i++)
 285                 if (cpe->ms_mask[w+i])
 286                     msc++;
 287         if (msc == 0 || ics0->max_sfb == 0)
 288             cpe->ms_mode = 0;
 289         else
 290             cpe->ms_mode = msc < ics0->max_sfb * ics0->num_windows ? 1 : 2;
 291     }
 292 }
 293
 294 static void apply_intensity_stereo(ChannelElement *cpe)
 295 {
 296     int w, w2, g, i;
 297     IndividualChannelStream *ics = &cpe->ch[0].ics;
 298     if (!cpe->common_window)
 299         return;
 300     for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 301         for (w2 =  0; w2 < ics->group_len[w]; w2++) {
 302             int start = (w+w2) * 128;
 303             for (g = 0; g < ics->num_swb; g++) {
 304                 int p  = -1 + 2 * (cpe->ch[1].band_type[w*16+g] - 14);
 305                 float scale = cpe->ch[0].is_ener[w*16+g];
 306                 if (!cpe->is_mask[w*16 + g]) {
 307                     start += ics->swb_sizes[g];
 308                     continue;
 309                 }
 310                 if (cpe->ms_mask[w*16 + g])
 311                     p *= -1;
 312                 for (i = 0; i < ics->swb_sizes[g]; i++) {
 313                     float sum = (cpe->ch[0].coeffs[start+i] + p*cpe->ch[1].coeffs[start+i])*scale;
 314                     cpe->ch[0].coeffs[start+i] = sum;
 315                     cpe->ch[1].coeffs[start+i] = 0.0f;
 316                 }
 317                 start += ics->swb_sizes[g];
 318             }
 319         }
 320     }
 321 }
 322
 323 static void apply_mid_side_stereo(ChannelElement *cpe)
 324 {
 325     int w, w2, g, i;
 326     IndividualChannelStream *ics = &cpe->ch[0].ics;
 327     if (!cpe->common_window)
 328         return;
 329     for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
 330         for (w2 =  0; w2 < ics->group_len[w]; w2++) {
 331             int start = (w+w2) * 128;
 332             for (g = 0; g < ics->num_swb; g++) {
 333                 if (!cpe->ms_mask[w*16 + g] && !cpe->is_mask[w*16 + g]) {
 334                     start += ics->swb_sizes[g];
 335                     continue;
 336                 }
 337                 for (i = 0; i < ics->swb_sizes[g]; i++) {
 338                     float L = (cpe->ch[0].coeffs[start+i] + cpe->ch[1].coeffs[start+i]) * 0.5f;
 339                     float R = L - cpe->ch[1].coeffs[start+i];
 340                     cpe->ch[0].coeffs[start+i] = L;
 341                     cpe->ch[1].coeffs[start+i] = R;
 342                 }
 343                 start += ics->swb_sizes[g];
 344             }
 345         }
 346     }
 347 }
 348
 349 /**
 350  * Encode scalefactor band coding type.
 351  */
 352 static void encode_band_info(AACEncContext *s, SingleChannelElement *sce)
 353 {
 354     int w;
 355
 356     if (s->coder->set_special_band_scalefactors)
 357         s->coder->set_special_band_scalefactors(s, sce);
 358
 359     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w])
 360         s->coder->encode_window_bands_info(s, sce, w, sce->ics.group_len[w], s->lambda);
 361 }
 362
 363 /**
 364  * Encode scalefactors.
 365  */
 366 static void encode_scale_factors(AVCodecContext *avctx, AACEncContext *s,
 367                                  SingleChannelElement *sce)
 368 {
 369     int diff, off_sf = sce->sf_idx[0], off_pns = sce->sf_idx[0] - NOISE_OFFSET;
 370     int off_is = 0, noise_flag = 1;
 371     int i, w;
 372
 373     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 374         for (i = 0; i < sce->ics.max_sfb; i++) {
 375             if (!sce->zeroes[w*16 + i]) {
 376                 if (sce->band_type[w*16 + i] == NOISE_BT) {
 377                     diff = sce->sf_idx[w*16 + i] - off_pns;
 378                     off_pns = sce->sf_idx[w*16 + i];
 379                     if (noise_flag-- > 0) {
 380                         put_bits(&s->pb, NOISE_PRE_BITS, diff + NOISE_PRE);
 381                         continue;
 382                     }
 383                 } else if (sce->band_type[w*16 + i] == INTENSITY_BT  ||
 384                            sce->band_type[w*16 + i] == INTENSITY_BT2) {
 385                     diff = sce->sf_idx[w*16 + i] - off_is;
 386                     off_is = sce->sf_idx[w*16 + i];
 387                 } else {
 388                     diff = sce->sf_idx[w*16 + i] - off_sf;
 389                     off_sf = sce->sf_idx[w*16 + i];
 390                 }
 391                 diff += SCALE_DIFF_ZERO;
 392                 av_assert0(diff >= 0 && diff <= 120);
 393                 put_bits(&s->pb, ff_aac_scalefactor_bits[diff], ff_aac_scalefactor_code[diff]);
 394             }
 395         }
 396     }
 397 }
 398
 399 /**
 400  * Encode pulse data.
 401  */
 402 static void encode_pulses(AACEncContext *s, Pulse *pulse)
 403 {
 404     int i;
 405
 406     put_bits(&s->pb, 1, !!pulse->num_pulse);
 407     if (!pulse->num_pulse)
 408         return;
 409
 410     put_bits(&s->pb, 2, pulse->num_pulse - 1);
 411     put_bits(&s->pb, 6, pulse->start);
 412     for (i = 0; i < pulse->num_pulse; i++) {
 413         put_bits(&s->pb, 5, pulse->pos[i]);
 414         put_bits(&s->pb, 4, pulse->amp[i]);
 415     }
 416 }
 417
 418 /**
 419  * Encode spectral coefficients processed by psychoacoustic model.
 420  */
 421 static void encode_spectral_coeffs(AACEncContext *s, SingleChannelElement *sce)
 422 {
 423     int start, i, w, w2;
 424
 425     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 426         start = 0;
 427         for (i = 0; i < sce->ics.max_sfb; i++) {
 428             if (sce->zeroes[w*16 + i]) {
 429                 start += sce->ics.swb_sizes[i];
 430                 continue;
 431             }
 432             for (w2 = w; w2 < w + sce->ics.group_len[w]; w2++) {
 433                 s->coder->quantize_and_encode_band(s, &s->pb,
 434                                                    &sce->coeffs[start + w2*128],
 435                                                    NULL, sce->ics.swb_sizes[i],
 436                                                    sce->sf_idx[w*16 + i],
 437                                                    sce->band_type[w*16 + i],
 438                                                    s->lambda,
 439                                                    sce->ics.window_clipping[w]);
 440             }
 441             start += sce->ics.swb_sizes[i];
 442         }
 443     }
 444 }
 445
 446 /**
 447  * Downscale spectral coefficients for near-clipping windows to avoid artifacts
 448  */
 449 static void avoid_clipping(AACEncContext *s, SingleChannelElement *sce)
 450 {
 451     int start, i, j, w;
 452
 453     if (sce->ics.clip_avoidance_factor < 1.0f) {
 454         for (w = 0; w < sce->ics.num_windows; w++) {
 455             start = 0;
 456             for (i = 0; i < sce->ics.max_sfb; i++) {
 457                 float *swb_coeffs = &sce->coeffs[start + w*128];
 458                 for (j = 0; j < sce->ics.swb_sizes[i]; j++)
 459                     swb_coeffs[j] *= sce->ics.clip_avoidance_factor;
 460                 start += sce->ics.swb_sizes[i];
 461             }
 462         }
 463     }
 464 }
 465
 466 /**
 467  * Encode one channel of audio data.
 468  */
 469 static int encode_individual_channel(AVCodecContext *avctx, AACEncContext *s,
 470                                      SingleChannelElement *sce,
 471                                      int common_window)
 472 {
 473     put_bits(&s->pb, 8, sce->sf_idx[0]);
 474     if (!common_window) {
 475         put_ics_info(s, &sce->ics);
 476         if (s->coder->encode_main_pred)
 477             s->coder->encode_main_pred(s, sce);
 478     }
 479     encode_band_info(s, sce);
 480     encode_scale_factors(avctx, s, sce);
 481     encode_pulses(s, &sce->pulse);
 482     put_bits(&s->pb, 1, !!sce->tns.present);
 483     if (s->coder->encode_tns_info)
 484         s->coder->encode_tns_info(s, sce);
 485     put_bits(&s->pb, 1, 0); //ssr
 486     encode_spectral_coeffs(s, sce);
 487     return 0;
 488 }
 489
 490 /**
 491  * Write some auxiliary information about the created AAC file.
 492  */
 493 static void put_bitstream_info(AACEncContext *s, const char *name)
 494 {
 495     int i, namelen, padbits;
 496
 497     namelen = strlen(name) + 2;
 498     put_bits(&s->pb, 3, TYPE_FIL);
 499     put_bits(&s->pb, 4, FFMIN(namelen, 15));
 500     if (namelen >= 15)
 501         put_bits(&s->pb, 8, namelen - 14);
 502     put_bits(&s->pb, 4, 0); //extension type - filler
 503     padbits = -put_bits_count(&s->pb) & 7;
 504     avpriv_align_put_bits(&s->pb);
 505     for (i = 0; i < namelen - 2; i++)
 506         put_bits(&s->pb, 8, name[i]);
 507     put_bits(&s->pb, 12 - padbits, 0);
 508 }
 509
 510 /*
 511  * Copy input samples.
 512  * Channels are reordered from libavcodec's default order to AAC order.
 513  */
 514 static void copy_input_samples(AACEncContext *s, const AVFrame *frame)
 515 {
 516     int ch;
 517     int end = 2048 + (frame ? frame->nb_samples : 0);
 518     const uint8_t *channel_map = aac_chan_maps[s->channels - 1];
 519
 520     /* copy and remap input samples */
 521     for (ch = 0; ch < s->channels; ch++) {
 522         /* copy last 1024 samples of previous frame to the start of the current frame */
 523         memcpy(&s->planar_samples[ch][1024], &s->planar_samples[ch][2048], 1024 * sizeof(s->planar_samples[0][0]));
 524
 525         /* copy new samples and zero any remaining samples */
 526         if (frame) {
 527             memcpy(&s->planar_samples[ch][2048],
 528                    frame->extended_data[channel_map[ch]],
 529                    frame->nb_samples * sizeof(s->planar_samples[0][0]));
 530         }
 531         memset(&s->planar_samples[ch][end], 0,
 532                (3072 - end) * sizeof(s->planar_samples[0][0]));
 533     }
 534 }
 535
 536 static int aac_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
 537                             const AVFrame *frame, int *got_packet_ptr)
 538 {
 539     AACEncContext *s = avctx->priv_data;
 540     float **samples = s->planar_samples, *samples2, *la, *overlap;
 541     ChannelElement *cpe;
 542     SingleChannelElement *sce;
 543     int i, its, ch, w, chans, tag, start_ch, ret, frame_bits;
 544     int target_bits, rate_bits, too_many_bits, too_few_bits;
 545     int ms_mode = 0, is_mode = 0, tns_mode = 0, pred_mode = 0;
 546     int chan_el_counter[4];
 547     FFPsyWindowInfo windows[AAC_MAX_CHANNELS];
 548
 549     if (s->last_frame == 2)
 550         return 0;
 551
 552     /* add current frame to queue */
 553     if (frame) {
 554         if ((ret = ff_af_queue_add(&s->afq, frame)) < 0)
 555             return ret;
 556     }
 557
 558     copy_input_samples(s, frame);
 559     if (s->psypp)
 560         ff_psy_preprocess(s->psypp, s->planar_samples, s->channels);
 561
 562     if (!avctx->frame_number)
 563         return 0;
 564
 565     start_ch = 0;
 566     for (i = 0; i < s->chan_map[0]; i++) {
 567         FFPsyWindowInfo* wi = windows + start_ch;
 568         tag      = s->chan_map[i+1];
 569         chans    = tag == TYPE_CPE ? 2 : 1;
 570         cpe      = &s->cpe[i];
 571         for (ch = 0; ch < chans; ch++) {
 572             IndividualChannelStream *ics = &cpe->ch[ch].ics;
 573             int cur_channel = start_ch + ch;
 574             float clip_avoidance_factor;
 575             overlap  = &samples[cur_channel][0];
 576             samples2 = overlap + 1024;
 577             la       = samples2 + (448+64);
 578             if (!frame)
 579                 la = NULL;
 580             if (tag == TYPE_LFE) {
 581                 wi[ch].window_type[0] = ONLY_LONG_SEQUENCE;
 582                 wi[ch].window_shape   = 0;
 583                 wi[ch].num_windows    = 1;
 584                 wi[ch].grouping[0]    = 1;
 585
 586                 /* Only the lowest 12 coefficients are used in a LFE channel.
 587                  * The expression below results in only the bottom 8 coefficients
 588                  * being used for 11.025kHz to 16kHz sample rates.
 589                  */
 590                 ics->num_swb = s->samplerate_index >= 8 ? 1 : 3;
 591             } else {
 592                 wi[ch] = s->psy.model->window(&s->psy, samples2, la, cur_channel,
 593                                               ics->window_sequence[0]);
 594             }
 595             ics->window_sequence[1] = ics->window_sequence[0];
 596             ics->window_sequence[0] = wi[ch].window_type[0];
 597             ics->use_kb_window[1]   = ics->use_kb_window[0];
 598             ics->use_kb_window[0]   = wi[ch].window_shape;
 599             ics->num_windows        = wi[ch].num_windows;
 600             ics->swb_sizes          = s->psy.bands    [ics->num_windows == 8];
 601             ics->num_swb            = tag == TYPE_LFE ? ics->num_swb : s->psy.num_bands[ics->num_windows == 8];
 602             ics->swb_offset         = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
 603                                         ff_swb_offset_128 [s->samplerate_index]:
 604                                         ff_swb_offset_1024[s->samplerate_index];
 605             ics->tns_max_bands      = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
 606                                         ff_tns_max_bands_128 [s->samplerate_index]:
 607                                         ff_tns_max_bands_1024[s->samplerate_index];
 608             clip_avoidance_factor = 0.0f;
 609             for (w = 0; w < ics->num_windows; w++)
 610                 ics->group_len[w] = wi[ch].grouping[w];
 611             for (w = 0; w < ics->num_windows; w++) {
 612                 if (wi[ch].clipping[w] > CLIP_AVOIDANCE_FACTOR) {
 613                     ics->window_clipping[w] = 1;
 614                     clip_avoidance_factor = FFMAX(clip_avoidance_factor, wi[ch].clipping[w]);
 615                 } else {
 616                     ics->window_clipping[w] = 0;
 617                 }
 618             }
 619             if (clip_avoidance_factor > CLIP_AVOIDANCE_FACTOR) {
 620                 ics->clip_avoidance_factor = CLIP_AVOIDANCE_FACTOR / clip_avoidance_factor;
 621             } else {
 622                 ics->clip_avoidance_factor = 1.0f;
 623             }
 624
 625             apply_window_and_mdct(s, &cpe->ch[ch], overlap);
 626             if (isnan(cpe->ch->coeffs[0])) {
 627                 av_log(avctx, AV_LOG_ERROR, "Input contains NaN\n");
 628                 return AVERROR(EINVAL);
 629             }
 630             avoid_clipping(s, &cpe->ch[ch]);
 631         }
 632         start_ch += chans;
 633     }
 634     if ((ret = ff_alloc_packet2(avctx, avpkt, 8192 * s->channels, 0)) < 0)
 635         return ret;
 636     frame_bits = its = 0;
 637     do {
 638         init_put_bits(&s->pb, avpkt->data, avpkt->size);
 639
 640         if ((avctx->frame_number & 0xFF)==1 && !(avctx->flags & AV_CODEC_FLAG_BITEXACT))
 641             put_bitstream_info(s, LIBAVCODEC_IDENT);
 642         start_ch = 0;
 643         target_bits = 0;
 644         memset(chan_el_counter, 0, sizeof(chan_el_counter));
 645         for (i = 0; i < s->chan_map[0]; i++) {
 646             FFPsyWindowInfo* wi = windows + start_ch;
 647             const float *coeffs[2];
 648             tag      = s->chan_map[i+1];
 649             chans    = tag == TYPE_CPE ? 2 : 1;
 650             cpe      = &s->cpe[i];
 651             cpe->common_window = 0;
 652             memset(cpe->is_mask, 0, sizeof(cpe->is_mask));
 653             memset(cpe->ms_mask, 0, sizeof(cpe->ms_mask));
 654             put_bits(&s->pb, 3, tag);
 655             put_bits(&s->pb, 4, chan_el_counter[tag]++);
 656             for (ch = 0; ch < chans; ch++) {
 657                 sce = &cpe->ch[ch];
 658                 coeffs[ch] = sce->coeffs;
 659                 sce->ics.predictor_present = 0;
 660                 memset(&sce->ics.prediction_used, 0, sizeof(sce->ics.prediction_used));
 661                 memset(&sce->tns, 0, sizeof(TemporalNoiseShaping));
 662                 for (w = 0; w < 128; w++)
 663                     if (sce->band_type[w] > RESERVED_BT)
 664                         sce->band_type[w] = 0;
 665             }
 666             s->psy.bitres.alloc = -1;
 667             s->psy.bitres.bits = avctx->frame_bits / s->channels;
 668             s->psy.model->analyze(&s->psy, start_ch, coeffs, wi);
 669             if (s->psy.bitres.alloc > 0) {
 670                 /* Lambda unused here on purpose, we need to take psy's unscaled allocation */
 671                 target_bits += s->psy.bitres.alloc
 672                     * (s->lambda / (avctx->global_quality ? avctx->global_quality : 120));
 673                 s->psy.bitres.alloc /= chans;
 674             }
 675             s->cur_type = tag;
 676             for (ch = 0; ch < chans; ch++) {
 677                 s->cur_channel = start_ch + ch;
 678                 if (s->options.pns && s->coder->mark_pns)
 679                     s->coder->mark_pns(s, avctx, &cpe->ch[ch]);
 680                 s->coder->search_for_quantizers(avctx, s, &cpe->ch[ch], s->lambda);
 681             }
 682             if (chans > 1
 683                 && wi[0].window_type[0] == wi[1].window_type[0]
 684                 && wi[0].window_shape   == wi[1].window_shape) {
 685
 686                 cpe->common_window = 1;
 687                 for (w = 0; w < wi[0].num_windows; w++) {
 688                     if (wi[0].grouping[w] != wi[1].grouping[w]) {
 689                         cpe->common_window = 0;
 690                         break;
 691                     }
 692                 }
 693             }
 694             for (ch = 0; ch < chans; ch++) { /* TNS and PNS */
 695                 sce = &cpe->ch[ch];
 696                 s->cur_channel = start_ch + ch;
 697                 if (s->options.pns && s->coder->search_for_pns)
 698                     s->coder->search_for_pns(s, avctx, sce);
 699                 if (s->options.tns && s->coder->search_for_tns)
 700                     s->coder->search_for_tns(s, sce);
 701                 if (s->options.tns && s->coder->apply_tns_filt)
 702                     s->coder->apply_tns_filt(s, sce);
 703                 if (sce->tns.present)
 704                     tns_mode = 1;
 705             }
 706             s->cur_channel = start_ch;
 707             if (s->options.intensity_stereo) { /* Intensity Stereo */
 708                 if (s->coder->search_for_is)
 709                     s->coder->search_for_is(s, avctx, cpe);
 710                 if (cpe->is_mode) is_mode = 1;
 711                 apply_intensity_stereo(cpe);
 712             }
 713             if (s->options.pred) { /* Prediction */
 714                 for (ch = 0; ch < chans; ch++) {
 715                     sce = &cpe->ch[ch];
 716                     s->cur_channel = start_ch + ch;
 717                     if (s->options.pred && s->coder->search_for_pred)
 718                         s->coder->search_for_pred(s, sce);
 719                     if (cpe->ch[ch].ics.predictor_present) pred_mode = 1;
 720                 }
 721                 if (s->coder->adjust_common_pred)
 722                     s->coder->adjust_common_pred(s, cpe);
 723                 for (ch = 0; ch < chans; ch++) {
 724                     sce = &cpe->ch[ch];
 725                     s->cur_channel = start_ch + ch;
 726                     if (s->options.pred && s->coder->apply_main_pred)
 727                         s->coder->apply_main_pred(s, sce);
 728                 }
 729                 s->cur_channel = start_ch;
 730             }
 731             if (s->options.mid_side) { /* Mid/Side stereo */
 732                 if (s->options.mid_side == -1 && s->coder->search_for_ms)
 733                     s->coder->search_for_ms(s, cpe);
 734                 else if (cpe->common_window)
 735                     memset(cpe->ms_mask, 1, sizeof(cpe->ms_mask));
 736                 apply_mid_side_stereo(cpe);
 737             }
 738             adjust_frame_information(cpe, chans);
 739             if (chans == 2) {
 740                 put_bits(&s->pb, 1, cpe->common_window);
 741                 if (cpe->common_window) {
 742                     put_ics_info(s, &cpe->ch[0].ics);
 743                     if (s->coder->encode_main_pred)
 744                         s->coder->encode_main_pred(s, &cpe->ch[0]);
 745                     encode_ms_info(&s->pb, cpe);
 746                     if (cpe->ms_mode) ms_mode = 1;
 747                 }
 748             }
 749             for (ch = 0; ch < chans; ch++) {
 750                 s->cur_channel = start_ch + ch;
 751                 encode_individual_channel(avctx, s, &cpe->ch[ch], cpe->common_window);
 752             }
 753             start_ch += chans;
 754         }
 755
 756         if (avctx->flags & CODEC_FLAG_QSCALE) {
 757             /* When using a constant Q-scale, don't mess with lambda */
 758             break;
 759         }
 760
 761         /* rate control stuff
 762          * allow between the nominal bitrate, and what psy's bit reservoir says to target
 763          * but drift towards the nominal bitrate always
 764          */
 765         frame_bits = put_bits_count(&s->pb);
 766         rate_bits = avctx->bit_rate * 1024 / avctx->sample_rate;
 767         rate_bits = FFMIN(rate_bits, 6144 * s->channels - 3);
 768         too_many_bits = FFMAX(target_bits, rate_bits);
 769         too_many_bits = FFMIN(too_many_bits, 6144 * s->channels - 3);
 770         too_few_bits = FFMIN(FFMAX(rate_bits - rate_bits/4, target_bits), too_many_bits);
 771
 772         /* When using ABR, be strict (but only for increasing) */
 773         too_few_bits = too_few_bits - too_few_bits/8;
 774         too_many_bits = too_many_bits + too_many_bits/2;
 775
 776         if (   its == 0 /* for steady-state Q-scale tracking */
 777             || (its < 5 && (frame_bits < too_few_bits || frame_bits > too_many_bits))
 778             || frame_bits >= 6144 * s->channels - 3  )
 779         {
 780             float ratio = ((float)rate_bits) / frame_bits;
 781
 782             if (frame_bits >= too_few_bits && frame_bits <= too_many_bits) {
 783                 /*
 784                  * This path is for steady-state Q-scale tracking
 785                  * When frame bits fall within the stable range, we still need to adjust
 786                  * lambda to maintain it like so in a stable fashion (large jumps in lambda
 787                  * create artifacts and should be avoided), but slowly
 788                  */
 789                 ratio = sqrtf(sqrtf(ratio));
 790                 ratio = av_clipf(ratio, 0.9f, 1.1f);
 791             } else {
 792                 /* Not so fast though */
 793                 ratio = sqrtf(ratio);
 794             }
 795             s->lambda = FFMIN(s->lambda * ratio, 65536.f);
 796
 797             /* Keep iterating if we must reduce and lambda is in the sky */
 798             if ((s->lambda < 300.f || ratio > 0.9f) && (s->lambda > 10.f || ratio < 1.1f)) {
 799                 break;
 800             } else {
 801                 if (is_mode || ms_mode || tns_mode || pred_mode) {
 802                     for (i = 0; i < s->chan_map[0]; i++) {
 803                         // Must restore coeffs
 804                         chans = tag == TYPE_CPE ? 2 : 1;
 805                         cpe = &s->cpe[i];
 806                         for (ch = 0; ch < chans; ch++)
 807                             memcpy(cpe->ch[ch].coeffs, cpe->ch[ch].pcoeffs, sizeof(cpe->ch[ch].coeffs));
 808                     }
 809                 }
 810                 its++;
 811             }
 812         } else {
 813             break;
 814         }
 815     } while (1);
 816
 817     put_bits(&s->pb, 3, TYPE_END);
 818     flush_put_bits(&s->pb);
 819     avctx->frame_bits = put_bits_count(&s->pb);
 820     s->lambda_sum += s->lambda;
 821     s->lambda_count++;
 822
 823     if (!frame)
 824         s->last_frame++;
 825
 826     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
 827                        &avpkt->duration);
 828
 829     avpkt->size = put_bits_count(&s->pb) >> 3;
 830     *got_packet_ptr = 1;
 831     return 0;
 832 }
 833
 834 static av_cold int aac_encode_end(AVCodecContext *avctx)
 835 {
 836     AACEncContext *s = avctx->priv_data;
 837
 838     av_log(avctx, AV_LOG_INFO, "Qavg: %.3f\n", s->lambda_sum / s->lambda_count);
 839
 840     ff_mdct_end(&s->mdct1024);
 841     ff_mdct_end(&s->mdct128);
 842     ff_psy_end(&s->psy);
 843     ff_lpc_end(&s->lpc);
 844     if (s->psypp)
 845         ff_psy_preprocess_end(s->psypp);
 846     av_freep(&s->buffer.samples);
 847     av_freep(&s->cpe);
 848     av_freep(&s->fdsp);
 849     ff_af_queue_close(&s->afq);
 850     return 0;
 851 }
 852
 853 static av_cold int dsp_init(AVCodecContext *avctx, AACEncContext *s)
 854 {
 855     int ret = 0;
 856
 857     s->fdsp = avpriv_float_dsp_alloc(avctx->flags & AV_CODEC_FLAG_BITEXACT);
 858     if (!s->fdsp)
 859         return AVERROR(ENOMEM);
 860
 861     // window init
 862     ff_kbd_window_init(ff_aac_kbd_long_1024, 4.0, 1024);
 863     ff_kbd_window_init(ff_aac_kbd_short_128, 6.0, 128);
 864     ff_init_ff_sine_windows(10);
 865     ff_init_ff_sine_windows(7);
 866
 867     if ((ret = ff_mdct_init(&s->mdct1024, 11, 0, 32768.0)) < 0)
 868         return ret;
 869     if ((ret = ff_mdct_init(&s->mdct128,   8, 0, 32768.0)) < 0)
 870         return ret;
 871
 872     return 0;
 873 }
 874
 875 static av_cold int alloc_buffers(AVCodecContext *avctx, AACEncContext *s)
 876 {
 877     int ch;
 878     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->buffer.samples, s->channels, 3 * 1024 * sizeof(s->buffer.samples[0]), alloc_fail);
 879     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->cpe, s->chan_map[0], sizeof(ChannelElement), alloc_fail);
 880     FF_ALLOCZ_OR_GOTO(avctx, avctx->extradata, 5 + AV_INPUT_BUFFER_PADDING_SIZE, alloc_fail);
 881
 882     for(ch = 0; ch < s->channels; ch++)
 883         s->planar_samples[ch] = s->buffer.samples + 3 * 1024 * ch;
 884
 885     return 0;
 886 alloc_fail:
 887     return AVERROR(ENOMEM);
 888 }
 889
 890 static av_cold int aac_encode_init(AVCodecContext *avctx)
 891 {
 892     AACEncContext *s = avctx->priv_data;
 893     const AACEncOptions *p_opt = NULL;
 894     int i, ret = 0;
 895     const uint8_t *sizes[2];
 896     uint8_t grouping[AAC_MAX_CHANNELS];
 897     int lengths[2];
 898
 899     s->channels = avctx->channels;
 900     s->chan_map = aac_chan_configs[s->channels-1];
 901     s->random_state = 0x1f2e3d4c;
 902     s->lambda = avctx->global_quality > 0 ? avctx->global_quality : 120;
 903     avctx->extradata_size = 5;
 904     avctx->frame_size = 1024;
 905     avctx->initial_padding = 1024;
 906     avctx->bit_rate = (int)FFMIN(
 907         6144 * s->channels / 1024.0 * avctx->sample_rate,
 908         avctx->bit_rate);
 909     avctx->profile = avctx->profile == FF_PROFILE_UNKNOWN ? FF_PROFILE_AAC_LOW :
 910                      avctx->profile;
 911
 912     for (i = 0; i < 16; i++)
 913         if (avctx->sample_rate == avpriv_mpeg4audio_sample_rates[i])
 914             break;
 915     s->samplerate_index = i;
 916
 917     ERROR_IF(s->samplerate_index == 16 ||
 918              s->samplerate_index >= ff_aac_swb_size_1024_len ||
 919              s->samplerate_index >= ff_aac_swb_size_128_len,
 920              "Unsupported sample rate %d\n", avctx->sample_rate);
 921     ERROR_IF(s->channels > AAC_MAX_CHANNELS || s->channels == 7,
 922              "Unsupported number of channels: %d\n", s->channels);
 923     WARN_IF(1024.0 * avctx->bit_rate / avctx->sample_rate > 6144 * s->channels,
 924              "Too many bits per frame requested, clamping to max\n");
 925
 926     for (i = 0; i < FF_ARRAY_ELEMS(aacenc_profiles); i++) {
 927         if (avctx->profile == aacenc_profiles[i].profile) {
 928             p_opt = &aacenc_profiles[i].opts;
 929             break;
 930         }
 931     }
 932     ERROR_IF(!p_opt, "Unsupported encoding profile: %d\n", avctx->profile);
 933     AAC_OPT_SET(&s->options, p_opt, 1, coder);
 934     AAC_OPT_SET(&s->options, p_opt, 0, pns);
 935     AAC_OPT_SET(&s->options, p_opt, 0, tns);
 936     AAC_OPT_SET(&s->options, p_opt, 0, pred);
 937     AAC_OPT_SET(&s->options, p_opt, 1, mid_side);
 938     AAC_OPT_SET(&s->options, p_opt, 0, intensity_stereo);
 939     if (avctx->profile == FF_PROFILE_MPEG2_AAC_LOW)
 940         s->profile = FF_PROFILE_AAC_LOW;
 941     else
 942         s->profile = avctx->profile;
 943     s->coder = &ff_aac_coders[s->options.coder];
 944
 945     if (s->options.coder != AAC_CODER_TWOLOOP) {
 946         s->options.intensity_stereo = 0;
 947         s->options.pns = 0;
 948     }
 949
 950     if ((ret = dsp_init(avctx, s)) < 0)
 951         goto fail;
 952
 953     if ((ret = alloc_buffers(avctx, s)) < 0)
 954         goto fail;
 955
 956     put_audio_specific_config(avctx);
 957
 958     sizes[0]   = ff_aac_swb_size_1024[s->samplerate_index];
 959     sizes[1]   = ff_aac_swb_size_128[s->samplerate_index];
 960     lengths[0] = ff_aac_num_swb_1024[s->samplerate_index];
 961     lengths[1] = ff_aac_num_swb_128[s->samplerate_index];
 962     for (i = 0; i < s->chan_map[0]; i++)
 963         grouping[i] = s->chan_map[i + 1] == TYPE_CPE;
 964     if ((ret = ff_psy_init(&s->psy, avctx, 2, sizes, lengths,
 965                            s->chan_map[0], grouping)) < 0)
 966         goto fail;
 967     s->psypp = ff_psy_preprocess_init(avctx);
 968     ff_lpc_init(&s->lpc, 2*avctx->frame_size, TNS_MAX_ORDER, FF_LPC_TYPE_LEVINSON);
 969
 970     if (HAVE_MIPSDSPR1)
 971         ff_aac_coder_init_mips(s);
 972
 973     ff_aac_tableinit();
 974
 975     ff_af_queue_init(avctx, &s->afq);
 976
 977     return 0;
 978 fail:
 979     aac_encode_end(avctx);
 980     return ret;
 981 }
 982
 983 #define AACENC_FLAGS AV_OPT_FLAG_ENCODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM
 984 static const AVOption aacenc_options[] = {
 985     {"aac_coder", "Coding algorithm", offsetof(AACEncContext, options.coder), AV_OPT_TYPE_INT, {.i64 = AAC_CODER_TWOLOOP}, -1, AAC_CODER_NB-1, AACENC_FLAGS, "coder"},
 986         {"faac",     "FAAC-inspired method",      0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAAC},    INT_MIN, INT_MAX, AACENC_FLAGS, "coder"},
 987         {"anmr",     "ANMR method",               0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_ANMR},    INT_MIN, INT_MAX, AACENC_FLAGS, "coder"},
 988         {"twoloop",  "Two loop searching method", 0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_TWOLOOP}, INT_MIN, INT_MAX, AACENC_FLAGS, "coder"},
 989         {"fast",     "Constant quantizer",        0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAST},    INT_MIN, INT_MAX, AACENC_FLAGS, "coder"},
 990     {"aac_ms", "Force M/S stereo coding", offsetof(AACEncContext, options.mid_side), AV_OPT_TYPE_BOOL, {.i64 = 0}, -1, 1, AACENC_FLAGS},
 991     {"aac_is", "Intensity stereo coding", offsetof(AACEncContext, options.intensity_stereo), AV_OPT_TYPE_BOOL, {.i64 = OPT_AUTO}, -1, 1, AACENC_FLAGS},
 992     {"aac_pns", "Perceptual noise substitution", offsetof(AACEncContext, options.pns), AV_OPT_TYPE_BOOL, {.i64 = OPT_AUTO}, -1, 1, AACENC_FLAGS},
 993     {"aac_tns", "Temporal noise shaping", offsetof(AACEncContext, options.tns), AV_OPT_TYPE_BOOL, {.i64 = OPT_AUTO}, -1, 1, AACENC_FLAGS},
 994     {"aac_pred", "AAC-Main prediction", offsetof(AACEncContext, options.pred), AV_OPT_TYPE_BOOL, {.i64 = OPT_AUTO}, -1, 1, AACENC_FLAGS},
 995     {NULL}
 996 };
 997
 998 static const AVClass aacenc_class = {
 999     "AAC encoder",
1000     av_default_item_name,
1001     aacenc_options,
1002     LIBAVUTIL_VERSION_INT,
1003 };
1004
1005 AVCodec ff_aac_encoder = {
1006     .name           = "aac",
1007     .long_name      = NULL_IF_CONFIG_SMALL("AAC (Advanced Audio Coding)"),
1008     .type           = AVMEDIA_TYPE_AUDIO,
1009     .id             = AV_CODEC_ID_AAC,
1010     .priv_data_size = sizeof(AACEncContext),
1011     .init           = aac_encode_init,
1012     .encode2        = aac_encode_frame,
1013     .close          = aac_encode_end,
1014     .supported_samplerates = mpeg4audio_sample_rates,
1015     .capabilities   = AV_CODEC_CAP_SMALL_LAST_FRAME | AV_CODEC_CAP_DELAY |
1016                       AV_CODEC_CAP_EXPERIMENTAL,
1017     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLTP,
1018                                                      AV_SAMPLE_FMT_NONE },
1019     .priv_class     = &aacenc_class,
1020 };