git.sesse.net Git - ffmpeg/blob - libavcodec/ac3enc_template.c

   1 /*
   2  * AC-3 encoder float/fixed template
   3  * Copyright (c) 2000 Fabrice Bellard
   4  * Copyright (c) 2006-2011 Justin Ruggles <justin.ruggles@gmail.com>
   5  * Copyright (c) 2006-2010 Prakash Punnoor <prakash@punnoor.de>
   6  *
   7  * This file is part of Libav.
   8  *
   9  * Libav is free software; you can redistribute it and/or
  10  * modify it under the terms of the GNU Lesser General Public
  11  * License as published by the Free Software Foundation; either
  12  * version 2.1 of the License, or (at your option) any later version.
  13  *
  14  * Libav is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  17  * Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public
  20  * License along with Libav; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  22  */
  23
  24 /**
  25  * @file
  26  * AC-3 encoder float/fixed template
  27  */
  28
  29 #include <stdint.h>
  30
  31
  32 /* prototypes for static functions in ac3enc_fixed.c and ac3enc_float.c */
  33
  34 static void scale_coefficients(AC3EncodeContext *s);
  35
  36 static void apply_window(DSPContext *dsp, SampleType *output,
  37                          const SampleType *input, const SampleType *window,
  38                          unsigned int len);
  39
  40 static int normalize_samples(AC3EncodeContext *s);
  41
  42 static void clip_coefficients(DSPContext *dsp, CoefType *coef, unsigned int len);
  43
  44
  45 int AC3_NAME(allocate_sample_buffers)(AC3EncodeContext *s)
  46 {
  47     int ch;
  48
  49     FF_ALLOC_OR_GOTO(s->avctx, s->windowed_samples, AC3_WINDOW_SIZE *
  50                      sizeof(*s->windowed_samples), alloc_fail);
  51     FF_ALLOC_OR_GOTO(s->avctx, s->planar_samples, s->channels * sizeof(*s->planar_samples),
  52                      alloc_fail);
  53     for (ch = 0; ch < s->channels; ch++) {
  54         FF_ALLOCZ_OR_GOTO(s->avctx, s->planar_samples[ch],
  55                           (AC3_FRAME_SIZE+AC3_BLOCK_SIZE) * sizeof(**s->planar_samples),
  56                           alloc_fail);
  57     }
  58
  59     return 0;
  60 alloc_fail:
  61     return AVERROR(ENOMEM);
  62 }
  63
  64
  65 /**
  66  * Deinterleave input samples.
  67  * Channels are reordered from Libav's default order to AC-3 order.
  68  */
  69 static void deinterleave_input_samples(AC3EncodeContext *s,
  70                                        const SampleType *samples)
  71 {
  72     int ch, i;
  73
  74     /* deinterleave and remap input samples */
  75     for (ch = 0; ch < s->channels; ch++) {
  76         const SampleType *sptr;
  77         int sinc;
  78
  79         /* copy last 256 samples of previous frame to the start of the current frame */
  80         memcpy(&s->planar_samples[ch][0], &s->planar_samples[ch][AC3_BLOCK_SIZE * s->num_blocks],
  81                AC3_BLOCK_SIZE * sizeof(s->planar_samples[0][0]));
  82
  83         /* deinterleave */
  84         sinc = s->channels;
  85         sptr = samples + s->channel_map[ch];
  86         for (i = AC3_BLOCK_SIZE; i < AC3_BLOCK_SIZE * (s->num_blocks + 1); i++) {
  87             s->planar_samples[ch][i] = *sptr;
  88             sptr += sinc;
  89         }
  90     }
  91 }
  92
  93
  94 /**
  95  * Apply the MDCT to input samples to generate frequency coefficients.
  96  * This applies the KBD window and normalizes the input to reduce precision
  97  * loss due to fixed-point calculations.
  98  */
  99 static void apply_mdct(AC3EncodeContext *s)
 100 {
 101     int blk, ch;
 102
 103     for (ch = 0; ch < s->channels; ch++) {
 104         for (blk = 0; blk < s->num_blocks; blk++) {
 105             AC3Block *block = &s->blocks[blk];
 106             const SampleType *input_samples = &s->planar_samples[ch][blk * AC3_BLOCK_SIZE];
 107
 108             apply_window(&s->dsp, s->windowed_samples, input_samples,
 109                          s->mdct_window, AC3_WINDOW_SIZE);
 110
 111             if (s->fixed_point)
 112                 block->coeff_shift[ch+1] = normalize_samples(s);
 113
 114             s->mdct.mdct_calcw(&s->mdct, block->mdct_coef[ch+1],
 115                                s->windowed_samples);
 116         }
 117     }
 118 }
 119
 120
 121 /**
 122  * Calculate a single coupling coordinate.
 123  */
 124 static inline float calc_cpl_coord(float energy_ch, float energy_cpl)
 125 {
 126     float coord = 0.125;
 127     if (energy_cpl > 0)
 128         coord *= sqrtf(energy_ch / energy_cpl);
 129     return FFMIN(coord, COEF_MAX);
 130 }
 131
 132
 133 /**
 134  * Calculate coupling channel and coupling coordinates.
 135  * TODO: Currently this is only used for the floating-point encoder. I was
 136  *       able to make it work for the fixed-point encoder, but quality was
 137  *       generally lower in most cases than not using coupling. If a more
 138  *       adaptive coupling strategy were to be implemented it might be useful
 139  *       at that time to use coupling for the fixed-point encoder as well.
 140  */
 141 static void apply_channel_coupling(AC3EncodeContext *s)
 142 {
 143 #if CONFIG_AC3ENC_FLOAT
 144     LOCAL_ALIGNED_16(float,   cpl_coords,       [AC3_MAX_BLOCKS], [AC3_MAX_CHANNELS][16]);
 145     LOCAL_ALIGNED_16(int32_t, fixed_cpl_coords, [AC3_MAX_BLOCKS], [AC3_MAX_CHANNELS][16]);
 146     int blk, ch, bnd, i, j;
 147     CoefSumType energy[AC3_MAX_BLOCKS][AC3_MAX_CHANNELS][16] = {{{0}}};
 148     int cpl_start, num_cpl_coefs;
 149
 150     memset(cpl_coords,       0, AC3_MAX_BLOCKS * sizeof(*cpl_coords));
 151     memset(fixed_cpl_coords, 0, AC3_MAX_BLOCKS * sizeof(*fixed_cpl_coords));
 152
 153     /* align start to 16-byte boundary. align length to multiple of 32.
 154         note: coupling start bin % 4 will always be 1 */
 155     cpl_start     = s->start_freq[CPL_CH] - 1;
 156     num_cpl_coefs = FFALIGN(s->num_cpl_subbands * 12 + 1, 32);
 157     cpl_start     = FFMIN(256, cpl_start + num_cpl_coefs) - num_cpl_coefs;
 158
 159     /* calculate coupling channel from fbw channels */
 160     for (blk = 0; blk < s->num_blocks; blk++) {
 161         AC3Block *block = &s->blocks[blk];
 162         CoefType *cpl_coef = &block->mdct_coef[CPL_CH][cpl_start];
 163         if (!block->cpl_in_use)
 164             continue;
 165         memset(cpl_coef, 0, num_cpl_coefs * sizeof(*cpl_coef));
 166         for (ch = 1; ch <= s->fbw_channels; ch++) {
 167             CoefType *ch_coef = &block->mdct_coef[ch][cpl_start];
 168             if (!block->channel_in_cpl[ch])
 169                 continue;
 170             for (i = 0; i < num_cpl_coefs; i++)
 171                 cpl_coef[i] += ch_coef[i];
 172         }
 173
 174         /* coefficients must be clipped in order to be encoded */
 175         clip_coefficients(&s->dsp, cpl_coef, num_cpl_coefs);
 176
 177         /* scale coupling coefficients from float to 24-bit fixed-point */
 178         s->ac3dsp.float_to_fixed24(&block->fixed_coef[CPL_CH][cpl_start],
 179                                    cpl_coef, num_cpl_coefs);
 180     }
 181
 182     /* calculate energy in each band in coupling channel and each fbw channel */
 183     /* TODO: possibly use SIMD to speed up energy calculation */
 184     bnd = 0;
 185     i = s->start_freq[CPL_CH];
 186     while (i < s->cpl_end_freq) {
 187         int band_size = s->cpl_band_sizes[bnd];
 188         for (ch = CPL_CH; ch <= s->fbw_channels; ch++) {
 189             for (blk = 0; blk < s->num_blocks; blk++) {
 190                 AC3Block *block = &s->blocks[blk];
 191                 if (!block->cpl_in_use || (ch > CPL_CH && !block->channel_in_cpl[ch]))
 192                     continue;
 193                 for (j = 0; j < band_size; j++) {
 194                     CoefType v = block->mdct_coef[ch][i+j];
 195                     MAC_COEF(energy[blk][ch][bnd], v, v);
 196                 }
 197             }
 198         }
 199         i += band_size;
 200         bnd++;
 201     }
 202
 203     /* calculate coupling coordinates for all blocks for all channels */
 204     for (blk = 0; blk < s->num_blocks; blk++) {
 205         AC3Block *block  = &s->blocks[blk];
 206         if (!block->cpl_in_use)
 207             continue;
 208         for (ch = 1; ch <= s->fbw_channels; ch++) {
 209             if (!block->channel_in_cpl[ch])
 210                 continue;
 211             for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
 212                 cpl_coords[blk][ch][bnd] = calc_cpl_coord(energy[blk][ch][bnd],
 213                                                           energy[blk][CPL_CH][bnd]);
 214             }
 215         }
 216     }
 217
 218     /* determine which blocks to send new coupling coordinates for */
 219     for (blk = 0; blk < s->num_blocks; blk++) {
 220         AC3Block *block  = &s->blocks[blk];
 221         AC3Block *block0 = blk ? &s->blocks[blk-1] : NULL;
 222
 223         memset(block->new_cpl_coords, 0, sizeof(block->new_cpl_coords));
 224
 225         if (block->cpl_in_use) {
 226             /* send new coordinates if this is the first block, if previous
 227              * block did not use coupling but this block does, the channels
 228              * using coupling has changed from the previous block, or the
 229              * coordinate difference from the last block for any channel is
 230              * greater than a threshold value. */
 231             if (blk == 0 || !block0->cpl_in_use) {
 232                 for (ch = 1; ch <= s->fbw_channels; ch++)
 233                     block->new_cpl_coords[ch] = 1;
 234             } else {
 235                 for (ch = 1; ch <= s->fbw_channels; ch++) {
 236                     if (!block->channel_in_cpl[ch])
 237                         continue;
 238                     if (!block0->channel_in_cpl[ch]) {
 239                         block->new_cpl_coords[ch] = 1;
 240                     } else {
 241                         CoefSumType coord_diff = 0;
 242                         for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
 243                             coord_diff += fabs(cpl_coords[blk-1][ch][bnd] -
 244                                                cpl_coords[blk  ][ch][bnd]);
 245                         }
 246                         coord_diff /= s->num_cpl_bands;
 247                         if (coord_diff > 0.03)
 248                             block->new_cpl_coords[ch] = 1;
 249                     }
 250                 }
 251             }
 252         }
 253     }
 254
 255     /* calculate final coupling coordinates, taking into account reusing of
 256        coordinates in successive blocks */
 257     for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
 258         blk = 0;
 259         while (blk < s->num_blocks) {
 260             int av_uninit(blk1);
 261             AC3Block *block  = &s->blocks[blk];
 262
 263             if (!block->cpl_in_use) {
 264                 blk++;
 265                 continue;
 266             }
 267
 268             for (ch = 1; ch <= s->fbw_channels; ch++) {
 269                 CoefSumType energy_ch, energy_cpl;
 270                 if (!block->channel_in_cpl[ch])
 271                     continue;
 272                 energy_cpl = energy[blk][CPL_CH][bnd];
 273                 energy_ch = energy[blk][ch][bnd];
 274                 blk1 = blk+1;
 275                 while (!s->blocks[blk1].new_cpl_coords[ch] && blk1 < s->num_blocks) {
 276                     if (s->blocks[blk1].cpl_in_use) {
 277                         energy_cpl += energy[blk1][CPL_CH][bnd];
 278                         energy_ch += energy[blk1][ch][bnd];
 279                     }
 280                     blk1++;
 281                 }
 282                 cpl_coords[blk][ch][bnd] = calc_cpl_coord(energy_ch, energy_cpl);
 283             }
 284             blk = blk1;
 285         }
 286     }
 287
 288     /* calculate exponents/mantissas for coupling coordinates */
 289     for (blk = 0; blk < s->num_blocks; blk++) {
 290         AC3Block *block = &s->blocks[blk];
 291         if (!block->cpl_in_use)
 292             continue;
 293
 294         s->ac3dsp.float_to_fixed24(fixed_cpl_coords[blk][1],
 295                                    cpl_coords[blk][1],
 296                                    s->fbw_channels * 16);
 297         s->ac3dsp.extract_exponents(block->cpl_coord_exp[1],
 298                                     fixed_cpl_coords[blk][1],
 299                                     s->fbw_channels * 16);
 300
 301         for (ch = 1; ch <= s->fbw_channels; ch++) {
 302             int bnd, min_exp, max_exp, master_exp;
 303
 304             if (!block->new_cpl_coords[ch])
 305                 continue;
 306
 307             /* determine master exponent */
 308             min_exp = max_exp = block->cpl_coord_exp[ch][0];
 309             for (bnd = 1; bnd < s->num_cpl_bands; bnd++) {
 310                 int exp = block->cpl_coord_exp[ch][bnd];
 311                 min_exp = FFMIN(exp, min_exp);
 312                 max_exp = FFMAX(exp, max_exp);
 313             }
 314             master_exp = ((max_exp - 15) + 2) / 3;
 315             master_exp = FFMAX(master_exp, 0);
 316             while (min_exp < master_exp * 3)
 317                 master_exp--;
 318             for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
 319                 block->cpl_coord_exp[ch][bnd] = av_clip(block->cpl_coord_exp[ch][bnd] -
 320                                                         master_exp * 3, 0, 15);
 321             }
 322             block->cpl_master_exp[ch] = master_exp;
 323
 324             /* quantize mantissas */
 325             for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
 326                 int cpl_exp  = block->cpl_coord_exp[ch][bnd];
 327                 int cpl_mant = (fixed_cpl_coords[blk][ch][bnd] << (5 + cpl_exp + master_exp * 3)) >> 24;
 328                 if (cpl_exp == 15)
 329                     cpl_mant >>= 1;
 330                 else
 331                     cpl_mant -= 16;
 332
 333                 block->cpl_coord_mant[ch][bnd] = cpl_mant;
 334             }
 335         }
 336     }
 337
 338     if (CONFIG_EAC3_ENCODER && s->eac3)
 339         ff_eac3_set_cpl_states(s);
 340 #endif /* CONFIG_AC3ENC_FLOAT */
 341 }
 342
 343
 344 /**
 345  * Determine rematrixing flags for each block and band.
 346  */
 347 static void compute_rematrixing_strategy(AC3EncodeContext *s)
 348 {
 349     int nb_coefs;
 350     int blk, bnd, i;
 351     AC3Block *block, *av_uninit(block0);
 352
 353     if (s->channel_mode != AC3_CHMODE_STEREO)
 354         return;
 355
 356     for (blk = 0; blk < s->num_blocks; blk++) {
 357         block = &s->blocks[blk];
 358         block->new_rematrixing_strategy = !blk;
 359
 360         if (!s->rematrixing_enabled) {
 361             block0 = block;
 362             continue;
 363         }
 364
 365         block->num_rematrixing_bands = 4;
 366         if (block->cpl_in_use) {
 367             block->num_rematrixing_bands -= (s->start_freq[CPL_CH] <= 61);
 368             block->num_rematrixing_bands -= (s->start_freq[CPL_CH] == 37);
 369             if (blk && block->num_rematrixing_bands != block0->num_rematrixing_bands)
 370                 block->new_rematrixing_strategy = 1;
 371         }
 372         nb_coefs = FFMIN(block->end_freq[1], block->end_freq[2]);
 373
 374         for (bnd = 0; bnd < block->num_rematrixing_bands; bnd++) {
 375             /* calculate calculate sum of squared coeffs for one band in one block */
 376             int start = ff_ac3_rematrix_band_tab[bnd];
 377             int end   = FFMIN(nb_coefs, ff_ac3_rematrix_band_tab[bnd+1]);
 378             CoefSumType sum[4] = {0,};
 379             for (i = start; i < end; i++) {
 380                 CoefType lt = block->mdct_coef[1][i];
 381                 CoefType rt = block->mdct_coef[2][i];
 382                 CoefType md = lt + rt;
 383                 CoefType sd = lt - rt;
 384                 MAC_COEF(sum[0], lt, lt);
 385                 MAC_COEF(sum[1], rt, rt);
 386                 MAC_COEF(sum[2], md, md);
 387                 MAC_COEF(sum[3], sd, sd);
 388             }
 389
 390             /* compare sums to determine if rematrixing will be used for this band */
 391             if (FFMIN(sum[2], sum[3]) < FFMIN(sum[0], sum[1]))
 392                 block->rematrixing_flags[bnd] = 1;
 393             else
 394                 block->rematrixing_flags[bnd] = 0;
 395
 396             /* determine if new rematrixing flags will be sent */
 397             if (blk &&
 398                 block->rematrixing_flags[bnd] != block0->rematrixing_flags[bnd]) {
 399                 block->new_rematrixing_strategy = 1;
 400             }
 401         }
 402         block0 = block;
 403     }
 404 }
 405
 406
 407 /**
 408  * Encode a single AC-3 frame.
 409  */
 410 int AC3_NAME(encode_frame)(AVCodecContext *avctx, unsigned char *frame,
 411                            int buf_size, void *data)
 412 {
 413     AC3EncodeContext *s = avctx->priv_data;
 414     const SampleType *samples = data;
 415     int ret;
 416
 417     if (s->options.allow_per_frame_metadata) {
 418         ret = ff_ac3_validate_metadata(s);
 419         if (ret)
 420             return ret;
 421     }
 422
 423     if (s->bit_alloc.sr_code == 1 || s->eac3)
 424         ff_ac3_adjust_frame_size(s);
 425
 426     deinterleave_input_samples(s, samples);
 427
 428     apply_mdct(s);
 429
 430     if (s->fixed_point)
 431         scale_coefficients(s);
 432
 433     clip_coefficients(&s->dsp, s->blocks[0].mdct_coef[1],
 434                       AC3_MAX_COEFS * s->num_blocks * s->channels);
 435
 436     s->cpl_on = s->cpl_enabled;
 437     ff_ac3_compute_coupling_strategy(s);
 438
 439     if (s->cpl_on)
 440         apply_channel_coupling(s);
 441
 442     compute_rematrixing_strategy(s);
 443
 444     if (!s->fixed_point)
 445         scale_coefficients(s);
 446
 447     ff_ac3_apply_rematrixing(s);
 448
 449     ff_ac3_process_exponents(s);
 450
 451     ret = ff_ac3_compute_bit_allocation(s);
 452     if (ret) {
 453         av_log(avctx, AV_LOG_ERROR, "Bit allocation failed. Try increasing the bitrate.\n");
 454         return ret;
 455     }
 456
 457     ff_ac3_group_exponents(s);
 458
 459     ff_ac3_quantize_mantissas(s);
 460
 461     ff_ac3_output_frame(s, frame);
 462
 463     return s->frame_size;
 464 }