git.sesse.net Git - vlc/blob - plugins/imdct/ac3_srfft_sse.c

   1 /*****************************************************************************
   2  * ac3_srfft_sse.c: accelerated SSE ac3 fft functions
   3  *****************************************************************************
   4  * Copyright (C) 1999, 2000, 2001 VideoLAN
   5  * $Id: ac3_srfft_sse.c,v 1.5 2001/07/26 20:00:33 reno Exp $
   6  *
   7  * Authors: Renaud Dartus <reno@videolan.org>
   8  *          Aaron Holtzman <aholtzma@engr.uvic.ca>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  23  *****************************************************************************/
  24
  25 #define MODULE_NAME imdctsse
  26 #include "modules_inner.h"
  27
  28 /*****************************************************************************
  29  * Preamble
  30  *****************************************************************************/
  31 #include <stdio.h>
  32
  33 #include "defs.h"
  34
  35 #include <math.h>
  36 #include <stdio.h>
  37
  38 #include "config.h"
  39 #include "common.h"
  40 #include "threads.h"
  41 #include "mtime.h"
  42
  43 #include "ac3_imdct.h"
  44 #include "ac3_srfft.h"
  45
  46 void hsqrt2_sse (void) __asm__ ("hsqrt2_sse");
  47 void C_1_sse (void) __asm__ ("C_1_sse");
  48 static void fft_4_sse (complex_t *x);
  49 static void fft_8_sse (complex_t *x);
  50 static void fft_asmb_sse (int k, complex_t *x, complex_t *wTB,
  51          const complex_t *d, const complex_t *d_3);
  52
  53 void _M( fft_64p ) ( complex_t *a )
  54 {
  55     fft_8_sse(&a[0]); fft_4_sse(&a[8]); fft_4_sse(&a[12]);
  56     fft_asmb_sse(2, &a[0], &a[8], &delta16[0], &delta16_3[0]);
  57
  58     fft_8_sse(&a[16]), fft_8_sse(&a[24]);
  59     fft_asmb_sse(4, &a[0], &a[16],&delta32[0], &delta32_3[0]);
  60
  61     fft_8_sse(&a[32]); fft_4_sse(&a[40]); fft_4_sse(&a[44]);
  62     fft_asmb_sse(2, &a[32], &a[40], &delta16[0], &delta16_3[0]);
  63
  64     fft_8_sse(&a[48]); fft_4_sse(&a[56]); fft_4_sse(&a[60]);
  65     fft_asmb_sse(2, &a[48], &a[56], &delta16[0], &delta16_3[0]);
  66
  67     fft_asmb_sse(8, &a[0], &a[32],&delta64[0], &delta64_3[0]);
  68 }
  69
  70 void _M( fft_128p ) ( complex_t *a )
  71 {
  72     fft_8_sse(&a[0]); fft_4_sse(&a[8]); fft_4_sse(&a[12]);
  73     fft_asmb_sse(2, &a[0], &a[8], &delta16[0], &delta16_3[0]);
  74
  75     fft_8_sse(&a[16]), fft_8_sse(&a[24]);
  76     fft_asmb_sse(4, &a[0], &a[16],&delta32[0], &delta32_3[0]);
  77
  78     fft_8_sse(&a[32]); fft_4_sse(&a[40]); fft_4_sse(&a[44]);
  79     fft_asmb_sse(2, &a[32], &a[40], &delta16[0], &delta16_3[0]);
  80
  81     fft_8_sse(&a[48]); fft_4_sse(&a[56]); fft_4_sse(&a[60]);
  82     fft_asmb_sse(2, &a[48], &a[56], &delta16[0], &delta16_3[0]);
  83
  84     fft_asmb_sse(8, &a[0], &a[32],&delta64[0], &delta64_3[0]);
  85
  86     fft_8_sse(&a[64]); fft_4_sse(&a[72]); fft_4_sse(&a[76]);
  87     /* fft_16(&a[64]); */
  88     fft_asmb_sse(2, &a[64], &a[72], &delta16[0], &delta16_3[0]);
  89
  90     fft_8_sse(&a[80]); fft_8_sse(&a[88]);
  91
  92     /* fft_32(&a[64]); */
  93     fft_asmb_sse(4, &a[64], &a[80],&delta32[0], &delta32_3[0]);
  94
  95     fft_8_sse(&a[96]); fft_4_sse(&a[104]), fft_4_sse(&a[108]);
  96     /* fft_16(&a[96]); */
  97     fft_asmb_sse(2, &a[96], &a[104], &delta16[0], &delta16_3[0]);
  98
  99     fft_8_sse(&a[112]), fft_8_sse(&a[120]);
 100     /* fft_32(&a[96]); */
 101     fft_asmb_sse(4, &a[96], &a[112], &delta32[0], &delta32_3[0]);
 102
 103     /* fft_128(&a[0]); */
 104     fft_asmb_sse(16, &a[0], &a[64], &delta128[0], &delta128_3[0]);
 105 }
 106
 107 void hsqrt2_sse (void)
 108 {
 109     __asm__ __volatile__ (
 110     ".float 0f0.707106781188\n"
 111     ".float 0f0.707106781188\n"
 112     ".float 0f-0.707106781188\n"
 113     ".float 0f-0.707106781188\n"
 114     );
 115 }
 116
 117 void C_1_sse (void)
 118 {
 119     __asm__ __volatile__ (
 120     ".float 0f-1.0\n"
 121     ".float 0f1.0\n"
 122     ".float 0f-1.0\n"
 123     ".float 0f1.0\n"
 124     );
 125 }
 126
 127 static void fft_4_sse (complex_t *x)
 128 {
 129     __asm__ __volatile__ (
 130     ".align 16\n"
 131     "movaps   (%%eax), %%xmm0\n"    /* x[1] | x[0] */
 132     "movaps 16(%%eax), %%xmm2\n"    /* x[3] | x[2] */
 133     "movaps  %%xmm0, %%xmm1\n"      /* x[1] | x[0] */
 134     "addps   %%xmm2, %%xmm0\n"      /* x[1] + x[3] | x[0] + x[2] */
 135     "subps   %%xmm2, %%xmm1\n"      /* x[1] - x[3] | x[0] - x[2] */
 136     "xorps   %%xmm6, %%xmm6\n"
 137     "movhlps %%xmm1, %%xmm4\n"      /* ? | x[1] - x[3] */
 138     "movhlps %%xmm0, %%xmm3\n"      /* ? | x[1] + x[3] */
 139     "subss   %%xmm4, %%xmm6\n"      /* 0 | -(x[1] - x[3]).re */
 140     "movlhps %%xmm1, %%xmm0\n"      /* x[0] - x[2] | x[0] + x[2] */
 141     "movlhps %%xmm6, %%xmm4\n"      /* 0 | -(x[1] - x[3]).re | (x[1] - x[3]).im | (x[3]-x[1]).re */
 142     "movaps  %%xmm0, %%xmm2\n"      /* x[0] - x[2] | x[0] + x[2] */
 143     "shufps   $0x94, %%xmm4, %%xmm3\n" /* i*(x[1] - x[3]) | x[1] + x[3] */
 144     "addps   %%xmm3, %%xmm0\n"
 145     "subps   %%xmm3, %%xmm2\n"
 146     "movaps  %%xmm0,   (%%eax)\n"
 147     "movaps  %%xmm2, 16(%%eax)\n"
 148     : "=a" (x)
 149     : "a" (x) );
 150 }
 151
 152 static void fft_8_sse (complex_t *x)
 153 {
 154     __asm__ __volatile__ (
 155     ".align 16\n"
 156     "pushl   %%ebx\n"
 157
 158     "movlps   (%%eax), %%xmm0\n"    /* x[0] */
 159     "movlps 32(%%eax), %%xmm1\n"    /* x[4] */
 160     "movhps 16(%%eax), %%xmm0\n"    /* x[2] | x[0] */
 161     "movhps 48(%%eax), %%xmm1\n"    /* x[6] | x[4] */
 162     "movaps  %%xmm0, %%xmm2\n"      /* x[2] | x[0] */
 163     "xorps   %%xmm3, %%xmm3\n"
 164     "addps   %%xmm1, %%xmm0\n"      /* x[2] + x[6] | x[0] + x[4] */
 165     "subps   %%xmm1, %%xmm2\n"      /* x[2] - x[6] | x[0] - x[4] */
 166     "movhlps %%xmm0, %%xmm5\n"      /* x[2] + x[6] */
 167     "movhlps %%xmm2, %%xmm4\n"      /* x[2] - x[6] */
 168     "movlhps %%xmm2, %%xmm0\n"      /* x[0] - x[4] | x[0] + x[4] */
 169     "subss   %%xmm4, %%xmm3\n"      /* (x[2]-x[6]).im | -(x[2]-x[6]).re */
 170     "movaps  %%xmm0, %%xmm7\n"      /* x[0] - x[4] | x[0] + x[4] */
 171     "movaps  %%xmm3, %%xmm4\n"      /* (x[2]-x[6]).im | -(x[2]-x[6]).re */
 172     "movlps 8(%%eax), %%xmm1\n"     /* x[1] */
 173     "shufps   $0x14, %%xmm4, %%xmm5\n" /* i*(x[2] - x[6]) | x[2] + x[6] */
 174
 175     "addps   %%xmm5, %%xmm0\n"      /* yt = i*(x2-x6)+x0-x4 | x2+x6+x0+x4 */
 176     "subps   %%xmm5, %%xmm7\n"      /* yb = i*(x6-x2)+x0-x4 | -x6-x2+x0+x4 */
 177
 178     "movhps 24(%%eax), %%xmm1\n"    /* x[3] | x[1] */
 179     "movl   $hsqrt2_sse, %%ebx\n"
 180     "movlps 40(%%eax), %%xmm2\n"    /* x[5] */
 181     "movhps 56(%%eax), %%xmm2\n"    /* x[7] | x[5] */
 182     "movaps  %%xmm1, %%xmm3\n"      /* x[3] | x[1] */
 183     "addps   %%xmm2, %%xmm1\n"      /* x[3] + x[7] | x[1] + x[5] */
 184     "subps   %%xmm2, %%xmm3\n"      /* x[3] - x[7] | x[1] - x[5] */
 185     "movups (%%ebx), %%xmm4\n"      /* -1/sqrt2 | -1/sqrt2 | 1/sqrt2 | 1/sqrt2 */
 186     "movaps  %%xmm3, %%xmm6\n"      /* x[3] - x[7] | x[1] - x[5] */
 187     "mulps   %%xmm4, %%xmm3\n"      /* -1/s2*(x[3] - x[7]) | 1/s2*(x[1] - x[5]) */
 188     "shufps   $0xc8, %%xmm4, %%xmm4\n" /* -1/sqrt2 | 1/sqrt2 | -1/sqrt2 | 1/sqrt2 */
 189     "shufps   $0xb1, %%xmm6, %%xmm6\n" /* (x3-x7).re|(x3-x7).im|(x1-x5).re|(x1-x5).im */
 190     "mulps   %%xmm4, %%xmm6\n"      /* (x7-x3).re/s2|(x3-x7).im/s2|(x5-x1).re/s2|(x1-x5).im/s2 */
 191     "addps   %%xmm3, %%xmm6\n"      /* (-1-i)/sqrt2 * (x[3]-x[7]) | (1-i)/sqrt2 * (x[1] - x[5]) */
 192     "movhlps %%xmm1, %%xmm5\n"      /* x[3] + x[7] */
 193     "movlhps %%xmm6, %%xmm1\n"      /* (1+i)/sqrt2 * (x[1]-x[5]) | x[1]+x[5] */
 194     "shufps   $0xe4, %%xmm6, %%xmm5\n" /* (-1-i)/sqrt2 * (x[3]-x[7]) | x[3]+x[7] */
 195     "movaps  %%xmm1, %%xmm3\n"      /* (1-i)/sqrt2 * (x[1]-x[5]) | x[1]+x[5] */
 196     "movl  $C_1_sse, %%ebx\n"
 197     "addps   %%xmm5, %%xmm1\n"      /* u */
 198     "subps   %%xmm5, %%xmm3\n"      /* v */
 199     "movaps  %%xmm0, %%xmm2\n"      /* yb */
 200     "movaps  %%xmm7, %%xmm4\n"      /* yt */
 201     "movups (%%ebx), %%xmm5\n"
 202     "mulps   %%xmm5, %%xmm3\n"
 203     "addps   %%xmm1, %%xmm0\n"      /* yt + u */
 204     "subps   %%xmm1, %%xmm2\n"      /* yt - u */
 205     "shufps   $0xb1, %%xmm3, %%xmm3\n" /* -i * v */
 206     "movaps  %%xmm0, (%%eax)\n"
 207     "movaps  %%xmm2, 32(%%eax)\n"
 208     "addps   %%xmm3, %%xmm4\n"      /* yb - i*v */
 209     "subps   %%xmm3, %%xmm7\n"      /* yb + i*v */
 210     "movaps  %%xmm4, 16(%%eax)\n"
 211     "movaps  %%xmm7, 48(%%eax)\n"
 212
 213     "popl    %%ebx\n"
 214     : "=a" (x)
 215     : "a" (x));
 216 }
 217
 218
 219 static void fft_asmb_sse (int k, complex_t *x, complex_t *wTB,
 220          const complex_t *d, const complex_t *d_3)
 221 {
 222     __asm__ __volatile__ (
 223     ".align 16\n"
 224     "pushl %%ebp\n"
 225     "movl %%esp, %%ebp\n"
 226
 227     "subl $4, %%esp\n"
 228
 229     "pushl %%eax\n"
 230     "pushl %%ebx\n"
 231     "pushl %%ecx\n"
 232     "pushl %%edx\n"
 233     "pushl %%esi\n"
 234     "pushl %%edi\n"
 235
 236     "movl %%ecx, -4(%%ebp)\n"   /* k */
 237     "shll $4, %%ecx\n"          /* 16k */ ///
 238     "addl $8, %%edx\n"
 239     "addl $8, %%esi\n"
 240
 241     /* TRANSZERO and TRANS */
 242     ".align 16\n"
 243     "movaps (%%eax), %%xmm0\n"     /* x[1] | x[0] */
 244     "movaps (%%edi), %%xmm1\n"     /* wT[1] | wT[0] */
 245     "movaps (%%edi, %%ecx), %%xmm2\n" /* wB[1] | wB[0] */
 246     "movlps (%%edx), %%xmm3\n"     /* d */
 247     "movlps (%%esi), %%xmm4\n"     /* d3 */
 248     "movhlps %%xmm1, %%xmm5\n"     /* wT[1] */
 249     "movhlps %%xmm2, %%xmm6\n"     /* wB[1] */
 250     "shufps $0x50, %%xmm3, %%xmm3\n" /* d[1].im | d[1].im | d[1].re | d[1].re */
 251     "shufps $0x50, %%xmm4, %%xmm4\n" /* d3[1].im | d3[1].im | d3[i].re | d3[i].re */
 252     "movlhps %%xmm5, %%xmm5\n"      /* wT[1] | wT[1] */
 253     "movlhps %%xmm6, %%xmm6\n"      /* wB[1] | wB[1] */
 254     "mulps   %%xmm3, %%xmm5\n"
 255     "mulps   %%xmm4, %%xmm6\n"
 256     "movhlps %%xmm5, %%xmm7\n"      /* wT[1].im * d[1].im | wT[1].re * d[1].im */
 257     "movlhps %%xmm6, %%xmm5\n"      /* wB[1].im * d3[1].re | wB[1].re * d3[1].re | wT[1].im * d[1].re | wT[1].re * d[1].re */
 258     "shufps $0xb1, %%xmm6, %%xmm7\n" /* wB[1].re * d3[1].im | wB[i].im * d3[1].im | wT[1].re * d[1].im | wT[1].im * d[1].im */
 259     "movl  $C_1_sse, %%ebx\n"
 260     "movaps (%%ebx), %%xmm4\n"
 261     "mulps   %%xmm4, %%xmm7\n"
 262     "addps   %%xmm7, %%xmm5\n"      /* wB[1] * d3[1] | wT[1] * d[1] */
 263     "movlhps %%xmm5, %%xmm1\n"      /* d[1] * wT[1] | wT[0] */
 264     "shufps  $0xe4, %%xmm5, %%xmm2\n" /* d3[1] * wB[1] | wB[0] */
 265     "movaps  %%xmm1, %%xmm3\n"      /* d[1] * wT[1] | wT[0] */
 266     "leal   (%%eax, %%ecx, 2), %%ebx\n"
 267     "addps  %%xmm2, %%xmm1\n"       /* u */
 268     "subps  %%xmm2, %%xmm3\n"       /* v */
 269     "mulps  %%xmm4, %%xmm3\n"
 270     "movaps (%%eax, %%ecx), %%xmm5\n" /* xk[1] | xk[0] */
 271     "shufps $0xb1, %%xmm3, %%xmm3\n"  /* -i * v */
 272     "movaps %%xmm0, %%xmm2\n"       /* x[1] | x[0] */
 273     "movaps %%xmm5, %%xmm6\n"       /* xk[1] | xk[0] */
 274     "addps  %%xmm1, %%xmm0\n"
 275     "subps  %%xmm1, %%xmm2\n"
 276     "addps  %%xmm3, %%xmm5\n"
 277     "subps  %%xmm3, %%xmm6\n"
 278     "movaps %%xmm0, (%%eax)\n"
 279     "movaps %%xmm2, (%%ebx)\n"
 280     "movaps %%xmm5, (%%eax, %%ecx)\n"
 281     "movaps %%xmm6, (%%ebx, %%ecx)\n"
 282     "addl $16, %%eax\n"
 283     "addl $16, %%edi\n"
 284     "addl  $8, %%edx\n"
 285     "addl  $8, %%esi\n"
 286     "decl -4(%%ebp)\n"
 287
 288     ".align 16\n"
 289 ".loop:\n"
 290     "movaps (%%edi), %%xmm0\n"      /* wT[1] | wT[0] */
 291     "movaps (%%edx), %%xmm1\n"      /* d[1] | d[0] */
 292
 293     "movaps (%%edi, %%ecx), %%xmm4\n" /* wB[1] | wB[0] */
 294     "movaps (%%esi), %%xmm5\n"      /* d3[1] | d3[0] */
 295
 296     "movhlps %%xmm0, %%xmm2\n"      /* wT[1] */
 297     "movhlps %%xmm1, %%xmm3\n"      /* d[1] */
 298
 299     "movhlps %%xmm4, %%xmm6\n"      /* wB[1] */
 300     "movhlps %%xmm5, %%xmm7\n"      /* d3[1] */
 301
 302     "shufps $0x50, %%xmm1, %%xmm1\n" /* d[0].im | d[0].im | d[0].re | d[0].re */
 303     "shufps $0x50, %%xmm3, %%xmm3\n" /* d[1].im | d[1].im | d[1].re | d[1].re */
 304
 305     "movlhps %%xmm0, %%xmm0\n"       /* wT[0] | wT[0] */
 306     "shufps $0x50, %%xmm5, %%xmm5\n" /* d3[0].im | d3[0].im | d3[0].re | d3[0].re */
 307     "movlhps %%xmm2, %%xmm2\n"       /* wT[1] | wT[1] */
 308     "shufps $0x50, %%xmm7, %%xmm7\n" /* d3[1].im | d3[1].im | d3[1].re | d3[1].re */
 309
 310     "mulps   %%xmm1, %%xmm0\n"  /* d[0].im * wT[0].im | d[0].im * wT[0].re | d[0].re * wT[0].im | d[0].re * wT[0].re */
 311     "mulps   %%xmm3, %%xmm2\n"  /* d[1].im * wT[1].im | d[1].im * wT[1].re | d[1].re * wT[1].im | d[1].re * wT[1].re */
 312     "movlhps %%xmm4, %%xmm4\n"  /* wB[0] | wB[0] */
 313     "movlhps %%xmm6, %%xmm6\n"  /* wB[1] | wB[1] */
 314
 315     "movhlps %%xmm0, %%xmm1\n"  /* d[0].im * wT[0].im | d[0].im * wT[0].re */
 316     "movlhps %%xmm2, %%xmm0\n"  /* d[1].re * wT[1].im | d[1].re * wT[1].re | d[0].re * wT[0].im | d[0].re * wT[0].re */
 317     "mulps   %%xmm5, %%xmm4\n"  /* wB[0].im * d3[0].im | wB[0].re * d3[0].im | wB[0].im * d3[0].re | wB[0].re * d3[0].re */
 318     "mulps   %%xmm7, %%xmm6\n"  /* wB[1].im * d3[1].im | wB[1].re * d3[1].im | wB[1].im * d3[1].re | wB[1].re * d3[1].re */
 319     "shufps $0xb1, %%xmm2, %%xmm1\n" /* d[1].im * wT[1].re | d[1].im * wT[1].im | d[0].im * wT[0].re | d[0].im * wT[0].im */
 320     "movl  $C_1_sse, %%ebx\n"
 321     "movaps (%%ebx), %%xmm3\n"  /* 1.0 | -1.0 | 1.0 | -1.0 */
 322
 323     "movhlps %%xmm4, %%xmm5\n"  /* wB[0].im * d3[0].im | wB[0].re * d3[0].im */
 324     "mulps   %%xmm3, %%xmm1\n"  /* d[1].im * wT[1].re | -d[1].im * wT[1].im | d[0].im * wT[0].re | -d[0].im * wT[0].im */
 325     "movlhps %%xmm6, %%xmm4\n"  /* wB[1].im * d3[1].re | wB[1].re * d3[1].re | wB[0].im * d3[0].re | wB[0].im * d3[0].re */
 326     "addps   %%xmm1, %%xmm0\n"  /* wT[1] * d[1] | wT[0] * d[0] */
 327
 328     "shufps $0xb1, %%xmm6, %%xmm5\n" /* wB[1].re * d3[1].im | wB[1].im * d3[1].im | wB[0].re * d3[0].im | wB[0].im * d3[0].im */
 329     "mulps   %%xmm3, %%xmm5\n"  /* wB[1].re * d3[1].im | -wB[1].im * d3[1].im | wB[0].re * d3[0].im | -wB[0].im * d3[0].im */
 330     "addps   %%xmm5, %%xmm4\n"  /* wB[1] * d3[1] | wB[0] * d3[0] */
 331
 332     "movaps %%xmm0, %%xmm1\n"   /* wT[1] * d[1] | wT[0] * d[0] */
 333     "addps  %%xmm4, %%xmm0\n"   /* u */
 334     "subps  %%xmm4, %%xmm1\n"   /* v */
 335     "movaps (%%eax), %%xmm6\n"  /* x[1] | x[0] */
 336     "leal   (%%eax, %%ecx, 2), %%ebx\n"
 337     "mulps  %%xmm3, %%xmm1\n"
 338     "addl $16, %%edi\n"
 339     "addl $16, %%esi\n"
 340     "shufps $0xb1, %%xmm1, %%xmm1\n"    /* -i * v */
 341     "movaps (%%eax, %%ecx), %%xmm7\n"   /* xk[1] | xk[0] */
 342     "movaps %%xmm6, %%xmm2\n"
 343     "movaps %%xmm7, %%xmm4\n"
 344     "addps  %%xmm0, %%xmm6\n"
 345     "subps  %%xmm0, %%xmm2\n"
 346     "movaps %%xmm6, (%%eax)\n"
 347     "movaps %%xmm2, (%%ebx)\n"
 348     "addps  %%xmm1, %%xmm7\n"
 349     "subps  %%xmm1, %%xmm4\n"
 350     "addl $16, %%edx\n"
 351     "movaps %%xmm7, (%%eax, %%ecx)\n"
 352     "movaps %%xmm4, (%%ebx, %%ecx)\n"
 353
 354     "addl $16, %%eax\n"
 355     "decl -4(%%ebp)\n"
 356     "jnz .loop\n"
 357
 358     ".align 16\n"
 359 ".end:\n"
 360     "popl %%edi\n"
 361     "popl %%esi\n"
 362     "popl %%edx\n"
 363     "popl %%ecx\n"
 364     "popl %%ebx\n"
 365     "popl %%eax\n"
 366
 367     "addl $4, %%esp\n"
 368
 369     "leave\n"
 370     : "=c" (k), "=a" (x), "=D" (wTB)
 371     : "c" (k), "a" (x), "D" (wTB), "d" (d), "S" (d_3));
 372 }
 373