git.sesse.net Git - ffmpeg/blob - libavcodec/aacenc_ltp.c

   1 /*
   2  * AAC encoder long term prediction extension
   3  * Copyright (C) 2015 Rostislav Pehlivanov
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * AAC encoder long term prediction extension
  25  * @author Rostislav Pehlivanov ( atomnuker gmail com )
  26  */
  27
  28 #include "aacenc_ltp.h"
  29 #include "aacenc_quantization.h"
  30 #include "aacenc_utils.h"
  31
  32 /**
  33  * Encode LTP data.
  34  */
  35 void ff_aac_encode_ltp_info(AACEncContext *s, SingleChannelElement *sce,
  36                             int common_window)
  37 {
  38     int i;
  39     IndividualChannelStream *ics = &sce->ics;
  40     if (s->profile != FF_PROFILE_AAC_LTP || !ics->predictor_present)
  41         return;
  42     if (common_window)
  43         put_bits(&s->pb, 1, 0);
  44     put_bits(&s->pb, 1, ics->ltp.present);
  45     if (!ics->ltp.present)
  46         return;
  47     put_bits(&s->pb, 11, ics->ltp.lag);
  48     put_bits(&s->pb, 3,  ics->ltp.coef_idx);
  49     for (i = 0; i < FFMIN(ics->max_sfb, MAX_LTP_LONG_SFB); i++)
  50         put_bits(&s->pb, 1, ics->ltp.used[i]);
  51 }
  52
  53 void ff_aac_ltp_insert_new_frame(AACEncContext *s)
  54 {
  55     int i, ch, tag, chans, cur_channel, start_ch = 0;
  56     ChannelElement *cpe;
  57     SingleChannelElement *sce;
  58     for (i = 0; i < s->chan_map[0]; i++) {
  59         cpe = &s->cpe[i];
  60         tag      = s->chan_map[i+1];
  61         chans    = tag == TYPE_CPE ? 2 : 1;
  62         for (ch = 0; ch < chans; ch++) {
  63             sce = &cpe->ch[ch];
  64             cur_channel = start_ch + ch;
  65             /* New sample + overlap */
  66             memcpy(&sce->ltp_state[0],    &sce->ltp_state[1024], 1024*sizeof(sce->ltp_state[0]));
  67             memcpy(&sce->ltp_state[1024], &s->planar_samples[cur_channel][2048], 1024*sizeof(sce->ltp_state[0]));
  68             memcpy(&sce->ltp_state[2048], &sce->ret_buf[0], 1024*sizeof(sce->ltp_state[0]));
  69             sce->ics.ltp.lag = 0;
  70         }
  71         start_ch += chans;
  72     }
  73 }
  74
  75 /**
  76  * Process LTP parameters
  77  * @see Patent WO2006070265A1
  78  */
  79 void ff_aac_update_ltp(AACEncContext *s, SingleChannelElement *sce)
  80 {
  81     int i, j, lag, samples_num;
  82     float corr, max_ratio, max_corr;
  83     float *pred_signal = &sce->ltp_state[0];
  84     const float *samples = &s->planar_samples[s->cur_channel][1024];
  85
  86     if (s->profile != FF_PROFILE_AAC_LTP)
  87         return;
  88
  89     /* Calculate lag */
  90     max_corr = 0.0f;
  91     for (i = 0; i < 2048; i++) {
  92         float s0 = 0.0f, s1 = 0.0f;
  93         const int start = FFMAX(0, i - 1024);
  94         for (j = start; j < 2048; j++) {
  95             const int idx = j - i + 1024;
  96             s0 += samples[j]*pred_signal[idx];
  97             s1 += pred_signal[idx]*pred_signal[idx];
  98         }
  99         corr = s1 > 0.0f ? s0/sqrt(s1) : 0.0f;
 100         if (corr > max_corr) {
 101             max_corr = corr;
 102             lag = i;
 103             max_ratio = corr/(2048-start);
 104         }
 105     }
 106
 107     if (lag < 1)
 108         return;
 109
 110     sce->ics.ltp.lag = lag = av_clip_uintp2(lag, 11);
 111     sce->ics.ltp.coef_idx  = quant_array_idx(max_ratio, ltp_coef, 8);
 112     sce->ics.ltp.coef      = ltp_coef[sce->ics.ltp.coef_idx];
 113
 114     /* Predict the new samples */
 115     samples_num = 1024 + (lag < 1024 ? lag : 1024);
 116     for (i = 1024; i < samples_num + 1024; i++)
 117         pred_signal[i] = sce->ics.ltp.coef*pred_signal[i-lag];
 118     memset(&pred_signal[samples_num], 0, (2048 - samples_num)*sizeof(float));
 119 }
 120
 121 void ff_aac_adjust_common_ltp(AACEncContext *s, ChannelElement *cpe)
 122 {
 123     int sfb, count = 0;
 124     SingleChannelElement *sce0 = &cpe->ch[0];
 125     SingleChannelElement *sce1 = &cpe->ch[1];
 126
 127     if (!cpe->common_window ||
 128         sce0->ics.window_sequence[0] == EIGHT_SHORT_SEQUENCE ||
 129         sce1->ics.window_sequence[0] == EIGHT_SHORT_SEQUENCE)
 130         return;
 131
 132     for (sfb = 0; sfb < FFMIN(sce0->ics.max_sfb, MAX_LTP_LONG_SFB); sfb++) {
 133         int sum = sce0->ics.ltp.used[sfb] + sce1->ics.ltp.used[sfb];
 134         if (sum != 2) {
 135             sce0->ics.ltp.used[sfb] = 0;
 136         } else if (sum == 2) {
 137             count++;
 138         }
 139     }
 140
 141     sce0->ics.ltp.present = !!count;
 142     sce0->ics.predictor_present = !!count;
 143 }
 144
 145 /**
 146  * Mark LTP sfb's
 147  */
 148 void ff_aac_search_for_ltp(AACEncContext *s, SingleChannelElement *sce,
 149                            int common_window)
 150 {
 151     int w, g, w2, i, start = 0, count = 0;
 152     int saved_bits = -(15 + FFMIN(sce->ics.max_sfb, MAX_LTP_LONG_SFB));
 153     float *C34 = &s->scoefs[128*0], *PCD = &s->scoefs[128*1];
 154     float *PCD34 = &s->scoefs[128*2];
 155     const int max_ltp = FFMIN(sce->ics.max_sfb, MAX_LTP_LONG_SFB);
 156
 157     if (sce->ics.window_sequence[0] == EIGHT_SHORT_SEQUENCE) {
 158         if (sce->ics.ltp.lag) {
 159             memset(&sce->lcoeffs[0], 0.0f, 3072*sizeof(sce->lcoeffs[0]));
 160             memset(&sce->ics.ltp, 0, sizeof(LongTermPrediction));
 161         }
 162         return;
 163     }
 164
 165     if (!sce->ics.ltp.lag)
 166         return;
 167
 168     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 169         start = 0;
 170         for (g = 0;  g < sce->ics.num_swb; g++) {
 171             int bits1 = 0, bits2 = 0;
 172             float dist1 = 0.0f, dist2 = 0.0f;
 173             if (w*16+g > max_ltp) {
 174                 start += sce->ics.swb_sizes[g];
 175                 continue;
 176             }
 177             for (w2 = 0; w2 < sce->ics.group_len[w]; w2++) {
 178                 int bits_tmp1, bits_tmp2;
 179                 FFPsyBand *band = &s->psy.ch[s->cur_channel].psy_bands[(w+w2)*16+g];
 180                 for (i = 0; i < sce->ics.swb_sizes[g]; i++)
 181                     PCD[i] = sce->coeffs[start+(w+w2)*128+i] - sce->lcoeffs[start+(w+w2)*128+i];
 182                 abs_pow34_v(C34,  &sce->coeffs[start+(w+w2)*128],  sce->ics.swb_sizes[g]);
 183                 abs_pow34_v(PCD34, PCD, sce->ics.swb_sizes[g]);
 184                 dist1 += quantize_band_cost(s, &sce->coeffs[start+(w+w2)*128], C34, sce->ics.swb_sizes[g],
 185                                             sce->sf_idx[(w+w2)*16+g], sce->band_type[(w+w2)*16+g],
 186                                             s->lambda/band->threshold, INFINITY, &bits_tmp1, NULL, 0);
 187                 dist2 += quantize_band_cost(s, PCD, PCD34, sce->ics.swb_sizes[g],
 188                                             sce->sf_idx[(w+w2)*16+g],
 189                                             sce->band_type[(w+w2)*16+g],
 190                                             s->lambda/band->threshold, INFINITY, &bits_tmp2, NULL, 0);
 191                 bits1 += bits_tmp1;
 192                 bits2 += bits_tmp2;
 193             }
 194             if (dist2 < dist1 && bits2 < bits1) {
 195                 for (w2 = 0; w2 < sce->ics.group_len[w]; w2++)
 196                     for (i = 0; i < sce->ics.swb_sizes[g]; i++)
 197                         sce->coeffs[start+(w+w2)*128+i] -= sce->lcoeffs[start+(w+w2)*128+i];
 198                 sce->ics.ltp.used[w*16+g] = 1;
 199                 saved_bits += bits1 - bits2;
 200                 count++;
 201             }
 202             start += sce->ics.swb_sizes[g];
 203         }
 204     }
 205
 206     sce->ics.ltp.present = !!count && (saved_bits >= 0);
 207     sce->ics.predictor_present = !!sce->ics.ltp.present;
 208
 209     /* Reset any marked sfbs */
 210     if (!sce->ics.ltp.present && !!count) {
 211         for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
 212             start = 0;
 213             for (g = 0;  g < sce->ics.num_swb; g++) {
 214                 if (sce->ics.ltp.used[w*16+g]) {
 215                     for (w2 = 0; w2 < sce->ics.group_len[w]; w2++) {
 216                         for (i = 0; i < sce->ics.swb_sizes[g]; i++) {
 217                             sce->coeffs[start+(w+w2)*128+i] += sce->lcoeffs[start+(w+w2)*128+i];
 218                         }
 219                     }
 220                 }
 221                 start += sce->ics.swb_sizes[g];
 222             }
 223         }
 224     }
 225 }