git.sesse.net Git - vlc/blob - plugins/imdct/ac3_srfft_3dn.c

   1 /*****************************************************************************
   2  * ac3_srfft_3dn.c: accelerated 3D Now! ac3 fft functions
   3  *****************************************************************************
   4  * Copyright (C) 1999, 2000, 2001 VideoLAN
   5  * $Id: ac3_srfft_3dn.c,v 1.1 2001/05/16 14:51:29 reno Exp $
   6  *
   7  * Authors: Renaud Dartus <reno@videolan.org>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  22  *****************************************************************************/
  23
  24 #define MODULE_NAME imdct3dn
  25 #include "modules_inner.h"
  26
  27 /*****************************************************************************
  28  *  * Preamble
  29  *   *****************************************************************************/
  30 #include <stdio.h>
  31
  32 #include "defs.h"
  33
  34 #include <math.h>
  35 #include <stdio.h>
  36
  37 #include "config.h"
  38 #include "common.h"
  39 #include "threads.h"
  40 #include "mtime.h"
  41
  42 #include "ac3_imdct.h"
  43 #include "ac3_srfft.h"
  44
  45 void hsqrt2_3dn (void);
  46 void C_1_3dn (void);
  47 static void fft_4_3dn (complex_t *x);
  48 static void fft_8_3dn (complex_t *x);
  49 static void fft_asmb_3dn (int k, complex_t *x, complex_t *wTB,
  50              const complex_t *d, const complex_t *d_3);
  51
  52 void _M( fft_64p ) ( complex_t *a )
  53 {
  54         fft_8_3dn(&a[0]); fft_4_3dn(&a[8]); fft_4_3dn(&a[12]);
  55         fft_asmb_3dn(2, &a[0], &a[8], &delta16[0], &delta16_3[0]);
  56
  57         fft_8_3dn(&a[16]), fft_8_3dn(&a[24]);
  58         fft_asmb_3dn(4, &a[0], &a[16],&delta32[0], &delta32_3[0]);
  59
  60         fft_8_3dn(&a[32]); fft_4_3dn(&a[40]); fft_4_3dn(&a[44]);
  61         fft_asmb_3dn(2, &a[32], &a[40], &delta16[0], &delta16_3[0]);
  62
  63         fft_8_3dn(&a[48]); fft_4_3dn(&a[56]); fft_4_3dn(&a[60]);
  64         fft_asmb_3dn(2, &a[48], &a[56], &delta16[0], &delta16_3[0]);
  65
  66         fft_asmb_3dn(8, &a[0], &a[32],&delta64[0], &delta64_3[0]);
  67 }
  68
  69 void _M( fft_128p ) ( complex_t *a )
  70 {
  71     fft_8_3dn(&a[0]); fft_4_3dn(&a[8]); fft_4_3dn(&a[12]);
  72         fft_asmb_3dn(2, &a[0], &a[8], &delta16[0], &delta16_3[0]);
  73
  74         fft_8_3dn(&a[16]), fft_8_3dn(&a[24]);
  75         fft_asmb_3dn(4, &a[0], &a[16],&delta32[0], &delta32_3[0]);
  76
  77         fft_8_3dn(&a[32]); fft_4_3dn(&a[40]); fft_4_3dn(&a[44]);
  78         fft_asmb_3dn(2, &a[32], &a[40], &delta16[0], &delta16_3[0]);
  79
  80         fft_8_3dn(&a[48]); fft_4_3dn(&a[56]); fft_4_3dn(&a[60]);
  81         fft_asmb_3dn(2, &a[48], &a[56], &delta16[0], &delta16_3[0]);
  82
  83         fft_asmb_3dn(8, &a[0], &a[32],&delta64[0], &delta64_3[0]);
  84
  85         fft_8_3dn(&a[64]); fft_4_3dn(&a[72]); fft_4_3dn(&a[76]);
  86         /* fft_16(&a[64]); */
  87         fft_asmb_3dn(2, &a[64], &a[72], &delta16[0], &delta16_3[0]);
  88
  89         fft_8_3dn(&a[80]); fft_8_3dn(&a[88]);
  90
  91         /* fft_32(&a[64]); */
  92         fft_asmb_3dn(4, &a[64], &a[80],&delta32[0], &delta32_3[0]);
  93
  94         fft_8_3dn(&a[96]); fft_4_3dn(&a[104]), fft_4_3dn(&a[108]);
  95         /* fft_16(&a[96]); */
  96         fft_asmb_3dn(2, &a[96], &a[104], &delta16[0], &delta16_3[0]);
  97
  98         fft_8_3dn(&a[112]), fft_8_3dn(&a[120]);
  99         /* fft_32(&a[96]); */
 100         fft_asmb_3dn(4, &a[96], &a[112], &delta32[0], &delta32_3[0]);
 101
 102         /* fft_128(&a[0]); */
 103         fft_asmb_3dn(16, &a[0], &a[64], &delta128[0], &delta128_3[0]);
 104 }
 105
 106 void hsqrt2_3dn (void)
 107 {
 108     __asm__ (
 109      ".float 0f0.707106781188\n"
 110      ".float 0f0.707106781188\n"
 111      ".float 0f-0.707106781188\n"
 112      ".float 0f-0.707106781188\n"
 113      );
 114 }
 115
 116 void C_1_3dn (void)
 117 {
 118     __asm__ (
 119      ".float 0f-1.0\n"
 120      ".float 0f1.0\n"
 121      ".float 0f-1.0\n"
 122      ".float 0f1.0\n"
 123      );
 124 }
 125
 126 static void fft_4_3dn (complex_t *x)
 127 {
 128     __asm__ __volatile__ (
 129         "movq    (%%eax), %%mm0\n"      /* x[0] */
 130         "movq   8(%%eax), %%mm1\n"      /* x[1] */
 131         "movq  16(%%eax), %%mm2\n"      /* x[2] */
 132         "movq  24(%%eax), %%mm3\n"      /* x[3] */
 133         "movq    %%mm0, %%mm4\n"            /* x[1] */
 134         "movq    %%mm1, %%mm5\n"                /* x[1] */
 135         "movq    %%mm0, %%mm6\n"                /* x[0] */
 136         "pfadd   %%mm2, %%mm0\n"                /* x[0] + x[2] */
 137         "pfadd   %%mm3, %%mm1\n"                /* x[1] + x[3] */
 138         "pfsub   %%mm2, %%mm4\n"                /* x[0] - x[2] */
 139         "pfsub   %%mm3, %%mm5\n"                /* x[1] - x[3] */
 140
 141     "pfadd   %%mm1, %%mm0\n"        /* x[0] + x[2] + x[1] + x[3] */
 142     "pfsub   %%mm1, %%mm6\n"        /* x[0] + x[2] - x[1] - x[3] */
 143
 144     "movq   %%mm0, (%%eax)\n"
 145     "movq   %%mm6, 16(%%eax)\n"
 146
 147     "pxor    %%mm6, %%mm6\n"
 148     "movq    %%mm5, %%mm2\n"        /* x[1] - x[3] */
 149     "movq    %%mm4, %%mm3\n"        /* x[0] - x[2] */
 150     "pfsub   %%mm5, %%mm6\n"        /* x[3] - x[1] */
 151
 152     "punpckhdq %%mm2,%%mm2\n"       /* x[1] - x[3].im */
 153     "punpckldq %%mm6,%%mm6\n"       /* x[3] - x[1].re */
 154     "punpckhdq %%mm6,%%mm2\n"       /* x[3] - x[1].re,  x[1] - x[3].im */
 155
 156         "pfsub   %%mm2, %%mm4\n"        /* x0i-x2i-x3r+x1.r,x0r-x2r-x1i+x3i */
 157     "pfadd   %%mm3, %%mm2\n"        /* x0i-x2i+x3r-x1.r, x0r-x2r+x1i-x3.i */
 158
 159     "movq  %%mm2,  8(%%eax)\n"    /* mm4_2 + mm6_1, mm4_1 + mm5_2 */
 160         "movq  %%mm4, 24(%%eax)\n"    /* mm4_2 - mm6_1, mm4_1 - mm5_2 */
 161         "femms\n"
 162     : "=a" (x)
 163     : "a" (x) );
 164 }
 165
 166 static void fft_8_3dn (complex_t *x)
 167 {
 168   register float wT1_r, wT1_i, wB1_r, wB1_i, wT2_r, wT2_i, wB2_r, wB2_i;
 169
 170   wT1_r = x[1].real;
 171   wT1_i = x[1].imag;
 172   wB1_r = x[3].real;
 173   wB1_i = x[3].imag;
 174
 175   x[1] = x[2];
 176   x[2] = x[4];
 177   x[3] = x[6];
 178   { /* fft_4 */
 179       register float yt_r, yt_i, yb_r, yb_i, u_r, u_i, vi_r, vi_i;
 180
 181       yt_r = x[0].real;
 182       yb_r = yt_r - x[2].real;
 183       yt_r += x[2].real;
 184
 185       u_r = x[1].real;
 186       vi_i = x[3].real - u_r;
 187       u_r += x[3].real;
 188
 189       u_i = x[1].imag;
 190       vi_r = u_i - x[3].imag;
 191       u_i += x[3].imag;
 192
 193       yt_i = yt_r;
 194       yt_i += u_r;
 195       x[0].real = yt_i;
 196       yt_r -= u_r;
 197       x[2].real = yt_r;
 198       yt_i = yb_r;
 199       yt_i += vi_r;
 200       x[1].real = yt_i;
 201       yb_r -= vi_r;
 202       x[3].real = yb_r;
 203
 204       yt_i = x[0].imag;
 205       yb_i = yt_i - x[2].imag;
 206       yt_i += x[2].imag;
 207
 208       yt_r = yt_i;
 209       yt_r += u_i;
 210       x[0].imag = yt_r;
 211       yt_i -= u_i;
 212       x[2].imag = yt_i;
 213       yt_r = yb_i;
 214       yt_r += vi_i;
 215       x[1].imag = yt_r;
 216       yb_i -= vi_i;
 217       x[3].imag = yb_i;
 218   }
 219
 220   /* x[0] x[4] */
 221   wT2_r = x[5].real;
 222   wT2_r += x[7].real;
 223   wT2_r += wT1_r;
 224   wT2_r += wB1_r;
 225   wT2_i = wT2_r;
 226   wT2_r += x[0].real;
 227   wT2_i = x[0].real - wT2_i;
 228   x[0].real = wT2_r;
 229   x[4].real = wT2_i;
 230
 231   wT2_i = x[5].imag;
 232   wT2_i += x[7].imag;
 233   wT2_i += wT1_i;
 234   wT2_i += wB1_i;
 235   wT2_r = wT2_i;
 236   wT2_r += x[0].imag;
 237   wT2_i = x[0].imag - wT2_i;
 238   x[0].imag = wT2_r;
 239   x[4].imag = wT2_i;
 240
 241   /* x[2] x[6] */
 242   wT2_r = x[5].imag;
 243   wT2_r -= x[7].imag;
 244   wT2_r += wT1_i;
 245   wT2_r -= wB1_i;
 246   wT2_i = wT2_r;
 247   wT2_r += x[2].real;
 248   wT2_i = x[2].real - wT2_i;
 249   x[2].real = wT2_r;
 250   x[6].real = wT2_i;
 251
 252   wT2_i = x[5].real;
 253   wT2_i -= x[7].real;
 254   wT2_i += wT1_r;
 255   wT2_i -= wB1_r;
 256   wT2_r = wT2_i;
 257   wT2_r += x[2].imag;
 258   wT2_i = x[2].imag - wT2_i;
 259   x[2].imag = wT2_i;
 260   x[6].imag = wT2_r;
 261
 262   /* x[1] x[5] */
 263   wT2_r = wT1_r;
 264   wT2_r += wB1_i;
 265   wT2_r -= x[5].real;
 266   wT2_r -= x[7].imag;
 267   wT2_i = wT1_i;
 268   wT2_i -= wB1_r;
 269   wT2_i -= x[5].imag;
 270   wT2_i += x[7].real;
 271
 272   wB2_r = wT2_r;
 273   wB2_r += wT2_i;
 274   wT2_i -= wT2_r;
 275   wB2_r *= HSQRT2;
 276   wT2_i *= HSQRT2;
 277   wT2_r = wB2_r;
 278   wB2_r += x[1].real;
 279   wT2_r =  x[1].real - wT2_r;
 280
 281   wB2_i = x[5].real;
 282   x[1].real = wB2_r;
 283   x[5].real = wT2_r;
 284
 285   wT2_r = wT2_i;
 286   wT2_r += x[1].imag;
 287   wT2_i = x[1].imag - wT2_i;
 288   wB2_r = x[5].imag;
 289   x[1].imag = wT2_r;
 290   x[5].imag = wT2_i;
 291
 292   /* x[3] x[7] */
 293   wT1_r -= wB1_i;
 294   wT1_i += wB1_r;
 295   wB1_r = wB2_i - x[7].imag;
 296   wB1_i = wB2_r + x[7].real;
 297   wT1_r -= wB1_r;
 298   wT1_i -= wB1_i;
 299   wB1_r = wT1_r + wT1_i;
 300   wB1_r *= HSQRT2;
 301   wT1_i -= wT1_r;
 302   wT1_i *= HSQRT2;
 303   wB2_r = x[3].real;
 304   wB2_i = wB2_r + wT1_i;
 305   wB2_r -= wT1_i;
 306   x[3].real = wB2_i;
 307   x[7].real = wB2_r;
 308   wB2_i = x[3].imag;
 309   wB2_r = wB2_i + wB1_r;
 310   wB2_i -= wB1_r;
 311   x[3].imag = wB2_i;
 312   x[7].imag = wB2_r;
 313 }
 314
 315
 316 static void fft_asmb_3dn (int k, complex_t *x, complex_t *wTB,
 317              const complex_t *d, const complex_t *d_3)
 318 {
 319   register complex_t  *x2k, *x3k, *x4k, *wB;
 320   register float a_r, a_i, a1_r, a1_i, u_r, u_i, v_r, v_i;
 321
 322   x2k = x + 2 * k;
 323   x3k = x2k + 2 * k;
 324   x4k = x3k + 2 * k;
 325   wB = wTB + 2 * k;
 326
 327   TRANSZERO(x[0],x2k[0],x3k[0],x4k[0]);
 328   TRANS(x[1],x2k[1],x3k[1],x4k[1],wTB[1],wB[1],d[1],d_3[1]);
 329
 330   --k;
 331   for(;;) {
 332      TRANS(x[2],x2k[2],x3k[2],x4k[2],wTB[2],wB[2],d[2],d_3[2]);
 333      TRANS(x[3],x2k[3],x3k[3],x4k[3],wTB[3],wB[3],d[3],d_3[3]);
 334      if (!--k) break;
 335      x += 2;
 336      x2k += 2;
 337      x3k += 2;
 338      x4k += 2;
 339      d += 2;
 340      d_3 += 2;
 341      wTB += 2;
 342      wB += 2;
 343   }
 344 }