]> git.sesse.net Git - ffmpeg/blobdiff - libavcodec/ra288.c
Fix lossless jpeg encoder to comply to spec and store full redundant
[ffmpeg] / libavcodec / ra288.c
index 6b9607804801450ee704dc61c0d1feddc7501027..353ae529a657da557cf40f393b56b9ba2a88ea68 100644 (file)
 #include "ra288.h"
 
 typedef struct {
-    float history[8];
-    float output[40];
-    float pr1[36];
-    float pr2[10];
-    int   phase;
-
-    float st1a[111], st1b[37], st1[37];
-    float st2a[38], st2b[11], st2[11];
-    float sb[41];
-    float lhist[10];
+    float sp_lpc[36];      ///< LPC coefficients for speech data (spec: A)
+    float gain_lpc[10];    ///< LPC coefficients for gain (spec: GB)
+
+    float sp_hist[111];    ///< Speech data history (spec: SB)
+
+    /** Speech part of the gain autocorrelation (spec: REXP) */
+    float sp_rec[37];
+
+    float gain_hist[38];   ///< Log-gain history (spec: SBLG)
+
+    /** Recursive part of the gain autocorrelation (spec: REXPLG) */
+    float gain_rec[11];
+
+    float sp_block[41];    ///< Speech data of four blocks (spec: STTMP)
+    float gain_block[10];  ///< Gain data of four blocks (spec: GSTATE)
 } RA288Context;
 
+static av_cold int ra288_decode_init(AVCodecContext *avctx)
+{
+    avctx->sample_fmt = SAMPLE_FMT_S16;
+    return 0;
+}
+
 static inline float scalar_product_float(const float * v1, const float * v2,
                                          int size)
 {
@@ -51,49 +62,55 @@ static inline float scalar_product_float(const float * v1, const float * v2,
 static void colmult(float *tgt, const float *m1, const float *m2, int n)
 {
     while (n--)
-        *(tgt++) = (*(m1++)) * (*(m2++));
+        *tgt++ = *m1++ * *m2++;
 }
 
-/* Decode and produce output */
 static void decode(RA288Context *ractx, float gain, int cb_coef)
 {
-    int x, y;
+    int i, j;
     double sumsum;
     float sum, buffer[5];
+    float *block = ractx->sp_block + 36; // Current block
 
-    memmove(ractx->sb + 5, ractx->sb, 36 * sizeof(*ractx->sb));
+    memmove(ractx->sp_block, ractx->sp_block + 5, 36*sizeof(*ractx->sp_block));
 
-    for (x=4; x >= 0; x--)
-        ractx->sb[x] = -scalar_product_float(ractx->sb + x + 1, ractx->pr1, 36);
+    for (i=0; i < 5; i++) {
+        block[i] = 0.;
+        for (j=0; j < 36; j++)
+            block[i] -= block[i-1-j]*ractx->sp_lpc[j];
+    }
 
-    /* convert log and do rms */
-    sum = 32. - scalar_product_float(ractx->pr2, ractx->lhist, 10);
+    /* block 46 of G.728 spec */
+    sum = 32.;
+    for (i=0; i < 10; i++)
+        sum -= ractx->gain_block[9-i] * ractx->gain_lpc[i];
 
+    /* block 47 of G.728 spec */
     sum = av_clipf(sum, 0, 60);
 
-    sumsum = exp(sum * 0.1151292546497) * gain;    /* pow(10.0,sum/20)*f */
+    /* block 48 of G.728 spec */
+    sumsum = exp(sum * 0.1151292546497) * gain; /* pow(10.0,sum/20)*gain */
 
-    for (x=0; x < 5; x++)
-        buffer[x] = codetable[cb_coef][x] * sumsum;
+    for (i=0; i < 5; i++)
+        buffer[i] = codetable[cb_coef][i] * sumsum;
 
     sum = scalar_product_float(buffer, buffer, 5) / 5;
 
     sum = FFMAX(sum, 1);
 
     /* shift and store */
-    memmove(ractx->lhist, ractx->lhist - 1, 10 * sizeof(*ractx->lhist));
+    memmove(ractx->gain_block, ractx->gain_block + 1,
+            9 * sizeof(*ractx->gain_block));
 
-    *ractx->lhist = ractx->history[ractx->phase] = 10 * log10(sum) - 32;
+    ractx->gain_block[9] = 10 * log10(sum) - 32;
 
-    for (x=1; x < 5; x++)
-        for (y=x-1; y >= 0; y--)
-            buffer[x] -= ractx->pr1[x-y-1] * buffer[y];
+    for (i=1; i < 5; i++)
+        for (j=i-1; j >= 0; j--)
+            buffer[i] -= ractx->sp_lpc[i-j-1] * buffer[j];
 
     /* output */
-    for (x=0; x < 5; x++) {
-        ractx->output[ractx->phase*5+x] = ractx->sb[4-x] =
-            av_clipf(ractx->sb[4-x] + buffer[x], -4095, 4095);
-    }
+    for (i=0; i < 5; i++)
+        block[i] = av_clipf(block[i] + buffer[i], -4095, 4095);
 }
 
 /**
@@ -104,7 +121,7 @@ static void decode(RA288Context *ractx, float gain, int cb_coef)
  */
 static int eval_lpc_coeffs(const float *in, float *tgt, int n)
 {
-    int x, y;
+    int i, j;
     double f0, f1, f2;
 
     if (in[n] == 0)
@@ -115,17 +132,17 @@ static int eval_lpc_coeffs(const float *in, float *tgt, int n)
 
     in--; // To avoid a -1 subtraction in the inner loop
 
-    for (x=1; x <= n; x++) {
-        f1 = in[x+1];
+    for (i=1; i <= n; i++) {
+        f1 = in[i+1];
 
-        for (y=0; y < x - 1; y++)
-            f1 += in[x-y]*tgt[y];
+        for (j=0; j < i - 1; j++)
+            f1 += in[i-j]*tgt[j];
 
-        tgt[x-1] = f2 = -f1/f0;
-        for (y=0; y < x >> 1; y++) {
-            float temp = tgt[y] + tgt[x-y-2]*f2;
-            tgt[x-y-2] += tgt[y]*f2;
-            tgt[y] = temp;
+        tgt[i-1] = f2 = -f1/f0;
+        for (j=0; j < i >> 1; j++) {
+            float temp = tgt[j] + tgt[i-j-2]*f2;
+            tgt[i-j-2] += tgt[j]*f2;
+            tgt[j] = temp;
         }
         if ((f0 += f1*f2) < 0)
             return -1;
@@ -134,7 +151,7 @@ static int eval_lpc_coeffs(const float *in, float *tgt, int n)
     return 0;
 }
 
-static void prodsum(float *tgt, const float *src, int len, int n)
+static void convolve(float *tgt, const float *src, int len, int n)
 {
     for (; n >= 0; n--)
         tgt[n] = scalar_product_float(src, src - n, len);
@@ -159,10 +176,10 @@ static void do_hybrid_window(int order, int n, int non_rec, const float *in,
                              float *out, float *hist, float *out2,
                              const float *window)
 {
-    unsigned int x;
-    float buffer1[37];
-    float buffer2[37];
-    float work[111];
+    int i;
+    float buffer1[order + 1];
+    float buffer2[order + 1];
+    float work[order + n + non_rec];
 
     /* update history */
     memmove(hist                  , hist + n, (order + non_rec)*sizeof(*hist));
@@ -170,12 +187,12 @@ static void do_hybrid_window(int order, int n, int non_rec, const float *in,
 
     colmult(work, window, hist, order + n + non_rec);
 
-    prodsum(buffer1, work + order    , n      , order);
-    prodsum(buffer2, work + order + n, non_rec, order);
+    convolve(buffer1, work + order    , n      , order);
+    convolve(buffer2, work + order + n, non_rec, order);
 
-    for (x=0; x <= order; x++) {
-        out2[x] = out2[x] * 0.5625 + buffer1[x];
-        out [x] = out2[x]          + buffer2[x];
+    for (i=0; i <= order; i++) {
+        out2[i] = out2[i] * 0.5625 + buffer1[i];
+        out [i] = out2[i]          + buffer2[i];
     }
 
     /* Multiply by the white noise correcting factor (WNCF) */
@@ -187,35 +204,28 @@ static void do_hybrid_window(int order, int n, int non_rec, const float *in,
  */
 static void backward_filter(RA288Context *ractx)
 {
-    float buffer1[40], temp1[37];
-    float buffer2[8], temp2[11];
-
-    memcpy(buffer1     , ractx->output + 20, 20*sizeof(*buffer1));
-    memcpy(buffer1 + 20, ractx->output     , 20*sizeof(*buffer1));
-
-    do_hybrid_window(36, 40, 35, buffer1, temp1, ractx->st1a, ractx->st1b,
-                     syn_window);
+    float temp1[37]; // RTMP in the spec
+    float temp2[11]; // GPTPMP in the spec
 
-    if (!eval_lpc_coeffs(temp1, ractx->st1, 36))
-        colmult(ractx->pr1, ractx->st1, syn_bw_tab, 36);
+    do_hybrid_window(36, 40, 35, ractx->sp_block+1, temp1, ractx->sp_hist,
+                     ractx->sp_rec, syn_window);
 
-    memcpy(buffer2    , ractx->history + 4, 4*sizeof(*buffer2));
-    memcpy(buffer2 + 4, ractx->history    , 4*sizeof(*buffer2));
+    if (!eval_lpc_coeffs(temp1, ractx->sp_lpc, 36))
+        colmult(ractx->sp_lpc, ractx->sp_lpc, syn_bw_tab, 36);
 
-    do_hybrid_window(10, 8, 20, buffer2, temp2, ractx->st2a, ractx->st2b,
-                     gain_window);
+    do_hybrid_window(10, 8, 20, ractx->gain_block+2, temp2, ractx->gain_hist,
+                     ractx->gain_rec, gain_window);
 
-    if (!eval_lpc_coeffs(temp2, ractx->st2, 10))
-        colmult(ractx->pr2, ractx->st2, gain_bw_tab, 10);
+    if (!eval_lpc_coeffs(temp2, ractx->gain_lpc, 10))
+        colmult(ractx->gain_lpc, ractx->gain_lpc, gain_bw_tab, 10);
 }
 
-/* Decode a block (celp) */
 static int ra288_decode_frame(AVCodecContext * avctx, void *data,
                               int *data_size, const uint8_t * buf,
                               int buf_size)
 {
     int16_t *out = data;
-    int x, y;
+    int i, j;
     RA288Context *ractx = avctx->priv_data;
     GetBitContext gb;
 
@@ -226,18 +236,21 @@ static int ra288_decode_frame(AVCodecContext * avctx, void *data,
         return 0;
     }
 
+    if (*data_size < 32*5*2)
+        return -1;
+
     init_get_bits(&gb, buf, avctx->block_align * 8);
 
-    for (x=0; x < 32; x++) {
+    for (i=0; i < 32; i++) {
         float gain = amptable[get_bits(&gb, 3)];
-        int cb_coef = get_bits(&gb, 6 + (x&1));
-        ractx->phase = x & 7;
+        int cb_coef = get_bits(&gb, 6 + (i&1));
+
         decode(ractx, gain, cb_coef);
 
-        for (y=0; y < 5; y++)
-            *(out++) = 8 * ractx->output[ractx->phase*5 + y];
+        for (j=0; j < 5; j++)
+            *(out++) = 8 * ractx->sp_block[36 + j];
 
-        if (ractx->phase == 3)
+        if ((i & 7) == 3)
             backward_filter(ractx);
     }
 
@@ -251,7 +264,7 @@ AVCodec ra_288_decoder =
     CODEC_TYPE_AUDIO,
     CODEC_ID_RA_288,
     sizeof(RA288Context),
-    NULL,
+    ra288_decode_init,
     NULL,
     NULL,
     ra288_decode_frame,