]> git.sesse.net Git - ffmpeg/blob - libavcodec/mips/aacpsdsp_mips.c
avcodec/avcodec: Move decoder channel count check to ff_decode_preinit
[ffmpeg] / libavcodec / mips / aacpsdsp_mips.c
1 /*
2  * Copyright (c) 2012
3  *      MIPS Technologies, Inc., California.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  * 3. Neither the name of the MIPS Technologies, Inc., nor the names of its
14  *    contributors may be used to endorse or promote products derived from
15  *    this software without specific prior written permission.
16  *
17  * THIS SOFTWARE IS PROVIDED BY THE MIPS TECHNOLOGIES, INC. ``AS IS'' AND
18  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
19  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
20  * ARE DISCLAIMED.  IN NO EVENT SHALL THE MIPS TECHNOLOGIES, INC. BE LIABLE
21  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
23  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
24  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
25  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
26  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
27  * SUCH DAMAGE.
28  *
29  * Authors:  Darko Laus      (darko@mips.com)
30  *           Djordje Pesut   (djordje@mips.com)
31  *           Mirjana Vulin   (mvulin@mips.com)
32  *
33  * This file is part of FFmpeg.
34  *
35  * FFmpeg is free software; you can redistribute it and/or
36  * modify it under the terms of the GNU Lesser General Public
37  * License as published by the Free Software Foundation; either
38  * version 2.1 of the License, or (at your option) any later version.
39  *
40  * FFmpeg is distributed in the hope that it will be useful,
41  * but WITHOUT ANY WARRANTY; without even the implied warranty of
42  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
43  * Lesser General Public License for more details.
44  *
45  * You should have received a copy of the GNU Lesser General Public
46  * License along with FFmpeg; if not, write to the Free Software
47  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
48  */
49
50 /**
51  * @file
52  * Reference: libavcodec/aacpsdsp.c
53  */
54
55 #include "config.h"
56 #include "libavcodec/aacpsdsp.h"
57 #include "libavutil/mips/asmdefs.h"
58
59 #if HAVE_INLINE_ASM
60 #if HAVE_MIPSFPU
61 static void ps_hybrid_analysis_ileave_mips(float (*out)[32][2], float L[2][38][64],
62                                         int i, int len)
63 {
64     int temp0, temp1, temp2, temp3;
65     int temp4, temp5, temp6, temp7;
66     float *out1=&out[i][0][0];
67     float *L1=&L[0][0][i];
68     float *j=out1+ len*2;
69
70     for (; i < 64; i++) {
71
72         /* loop unrolled 8 times */
73         __asm__ volatile (
74         "1:                                          \n\t"
75             "lw      %[temp0],   0(%[L1])            \n\t"
76             "lw      %[temp1],   9728(%[L1])         \n\t"
77             "lw      %[temp2],   256(%[L1])          \n\t"
78             "lw      %[temp3],   9984(%[L1])         \n\t"
79             "lw      %[temp4],   512(%[L1])          \n\t"
80             "lw      %[temp5],   10240(%[L1])        \n\t"
81             "lw      %[temp6],   768(%[L1])          \n\t"
82             "lw      %[temp7],   10496(%[L1])        \n\t"
83             "sw      %[temp0],   0(%[out1])          \n\t"
84             "sw      %[temp1],   4(%[out1])          \n\t"
85             "sw      %[temp2],   8(%[out1])          \n\t"
86             "sw      %[temp3],   12(%[out1])         \n\t"
87             "sw      %[temp4],   16(%[out1])         \n\t"
88             "sw      %[temp5],   20(%[out1])         \n\t"
89             "sw      %[temp6],   24(%[out1])         \n\t"
90             "sw      %[temp7],   28(%[out1])         \n\t"
91             PTR_ADDIU "%[out1],  %[out1],      32    \n\t"
92             PTR_ADDIU "%[L1],    %[L1],        1024  \n\t"
93             "bne     %[out1],    %[j],         1b    \n\t"
94
95             : [out1]"+r"(out1), [L1]"+r"(L1), [j]"+r"(j),
96               [temp0]"=&r"(temp0), [temp1]"=&r"(temp1),
97               [temp2]"=&r"(temp2), [temp3]"=&r"(temp3),
98               [temp4]"=&r"(temp4), [temp5]"=&r"(temp5),
99               [temp6]"=&r"(temp6), [temp7]"=&r"(temp7)
100             : [len]"r"(len)
101             : "memory"
102         );
103         out1-=(len<<1)-64;
104         L1-=(len<<6)-1;
105         j+=len*2;
106     }
107 }
108
109 static void ps_hybrid_synthesis_deint_mips(float out[2][38][64],
110                                         float (*in)[32][2],
111                                         int i, int len)
112 {
113     int n;
114     int temp0, temp1, temp2, temp3, temp4, temp5, temp6, temp7;
115     float *out1 = (float*)out + i;
116     float *out2 = (float*)out + 2432 + i;
117     float *in1 = (float*)in + 64 * i;
118     float *in2 = (float*)in + 64 * i + 1;
119
120     for (; i < 64; i++) {
121         for (n = 0; n < 7; n++) {
122
123             /* loop unrolled 8 times */
124             __asm__ volatile (
125                  "lw      %[temp0],   0(%[in1])               \n\t"
126                  "lw      %[temp1],   0(%[in2])               \n\t"
127                  "lw      %[temp2],   8(%[in1])               \n\t"
128                  "lw      %[temp3],   8(%[in2])               \n\t"
129                  "lw      %[temp4],   16(%[in1])              \n\t"
130                  "lw      %[temp5],   16(%[in2])              \n\t"
131                  "lw      %[temp6],   24(%[in1])              \n\t"
132                  "lw      %[temp7],   24(%[in2])              \n\t"
133                  PTR_ADDIU "%[out1],  %[out1],         1024   \n\t"
134                  PTR_ADDIU "%[out2],  %[out2],         1024   \n\t"
135                  PTR_ADDIU "%[in1],   %[in1],          32     \n\t"
136                  PTR_ADDIU "%[in2],   %[in2],          32     \n\t"
137                  "sw      %[temp0],   -1024(%[out1])          \n\t"
138                  "sw      %[temp1],   -1024(%[out2])          \n\t"
139                  "sw      %[temp2],   -768(%[out1])           \n\t"
140                  "sw      %[temp3],   -768(%[out2])           \n\t"
141                  "sw      %[temp4],   -512(%[out1])           \n\t"
142                  "sw      %[temp5],   -512(%[out2])           \n\t"
143                  "sw      %[temp6],   -256(%[out1])           \n\t"
144                  "sw      %[temp7],   -256(%[out2])           \n\t"
145
146                  : [temp0]"=&r"(temp0), [temp1]"=&r"(temp1),
147                    [temp2]"=&r"(temp2), [temp3]"=&r"(temp3),
148                    [temp4]"=&r"(temp4), [temp5]"=&r"(temp5),
149                    [temp6]"=&r"(temp6), [temp7]"=&r"(temp7),
150                    [out1]"+r"(out1), [out2]"+r"(out2),
151                    [in1]"+r"(in1), [in2]"+r"(in2)
152                  :
153                  : "memory"
154             );
155         }
156         /* loop unrolled 8 times */
157         __asm__ volatile (
158             "lw      %[temp0],   0(%[in1])               \n\t"
159             "lw      %[temp1],   0(%[in2])               \n\t"
160             "lw      %[temp2],   8(%[in1])               \n\t"
161             "lw      %[temp3],   8(%[in2])               \n\t"
162             "lw      %[temp4],   16(%[in1])              \n\t"
163             "lw      %[temp5],   16(%[in2])              \n\t"
164             "lw      %[temp6],   24(%[in1])              \n\t"
165             "lw      %[temp7],   24(%[in2])              \n\t"
166             PTR_ADDIU "%[out1],  %[out1],        -7164   \n\t"
167             PTR_ADDIU "%[out2],  %[out2],        -7164   \n\t"
168             PTR_ADDIU "%[in1],   %[in1],         32      \n\t"
169             PTR_ADDIU "%[in2],   %[in2],         32      \n\t"
170             "sw      %[temp0],   7164(%[out1])           \n\t"
171             "sw      %[temp1],   7164(%[out2])           \n\t"
172             "sw      %[temp2],   7420(%[out1])           \n\t"
173             "sw      %[temp3],   7420(%[out2])           \n\t"
174             "sw      %[temp4],   7676(%[out1])           \n\t"
175             "sw      %[temp5],   7676(%[out2])           \n\t"
176             "sw      %[temp6],   7932(%[out1])           \n\t"
177             "sw      %[temp7],   7932(%[out2])           \n\t"
178
179             : [temp0]"=&r"(temp0), [temp1]"=&r"(temp1),
180               [temp2]"=&r"(temp2), [temp3]"=&r"(temp3),
181               [temp4]"=&r"(temp4), [temp5]"=&r"(temp5),
182               [temp6]"=&r"(temp6), [temp7]"=&r"(temp7),
183               [out1]"+r"(out1), [out2]"+r"(out2),
184               [in1]"+r"(in1), [in2]"+r"(in2)
185             :
186             : "memory"
187         );
188     }
189 }
190
191 #if !HAVE_MIPS32R6 && !HAVE_MIPS64R6
192 static void ps_add_squares_mips(float *dst, const float (*src)[2], int n)
193 {
194     int i;
195     float temp0, temp1, temp2, temp3, temp4, temp5;
196     float temp6, temp7, temp8, temp9, temp10, temp11;
197     float *src0 = (float*)&src[0][0];
198     float *dst0 = &dst[0];
199
200     for (i = 0; i < 8; i++) {
201         /* loop unrolled 4 times */
202         __asm__ volatile (
203             "lwc1     %[temp0],    0(%[src0])                          \n\t"
204             "lwc1     %[temp1],    4(%[src0])                          \n\t"
205             "lwc1     %[temp2],    8(%[src0])                          \n\t"
206             "lwc1     %[temp3],    12(%[src0])                         \n\t"
207             "lwc1     %[temp4],    16(%[src0])                         \n\t"
208             "lwc1     %[temp5],    20(%[src0])                         \n\t"
209             "lwc1     %[temp6],    24(%[src0])                         \n\t"
210             "lwc1     %[temp7],    28(%[src0])                         \n\t"
211             "lwc1     %[temp8],    0(%[dst0])                          \n\t"
212             "lwc1     %[temp9],    4(%[dst0])                          \n\t"
213             "lwc1     %[temp10],   8(%[dst0])                          \n\t"
214             "lwc1     %[temp11],   12(%[dst0])                         \n\t"
215             "mul.s    %[temp1],    %[temp1],    %[temp1]               \n\t"
216             "mul.s    %[temp3],    %[temp3],    %[temp3]               \n\t"
217             "mul.s    %[temp5],    %[temp5],    %[temp5]               \n\t"
218             "mul.s    %[temp7],    %[temp7],    %[temp7]               \n\t"
219             "madd.s   %[temp0],    %[temp1],    %[temp0],   %[temp0]   \n\t"
220             "madd.s   %[temp2],    %[temp3],    %[temp2],   %[temp2]   \n\t"
221             "madd.s   %[temp4],    %[temp5],    %[temp4],   %[temp4]   \n\t"
222             "madd.s   %[temp6],    %[temp7],    %[temp6],   %[temp6]   \n\t"
223             "add.s    %[temp0],    %[temp8],    %[temp0]               \n\t"
224             "add.s    %[temp2],    %[temp9],    %[temp2]               \n\t"
225             "add.s    %[temp4],    %[temp10],   %[temp4]               \n\t"
226             "add.s    %[temp6],    %[temp11],   %[temp6]               \n\t"
227             "swc1     %[temp0],    0(%[dst0])                          \n\t"
228             "swc1     %[temp2],    4(%[dst0])                          \n\t"
229             "swc1     %[temp4],    8(%[dst0])                          \n\t"
230             "swc1     %[temp6],    12(%[dst0])                         \n\t"
231             PTR_ADDIU "%[dst0],    %[dst0],     16                     \n\t"
232             PTR_ADDIU "%[src0],    %[src0],     32                     \n\t"
233
234             : [temp0]"=&f"(temp0), [temp1]"=&f"(temp1), [temp2]"=&f"(temp2),
235               [temp3]"=&f"(temp3), [temp4]"=&f"(temp4), [temp5]"=&f"(temp5),
236               [temp6]"=&f"(temp6), [temp7]"=&f"(temp7), [temp8]"=&f"(temp8),
237               [temp9]"=&f"(temp9), [dst0]"+r"(dst0), [src0]"+r"(src0),
238               [temp10]"=&f"(temp10), [temp11]"=&f"(temp11)
239             :
240             : "memory"
241         );
242    }
243 }
244
245 static void ps_mul_pair_single_mips(float (*dst)[2], float (*src0)[2], float *src1,
246                                  int n)
247 {
248     float temp0, temp1, temp2;
249     float *p_d, *p_s0, *p_s1, *end;
250     p_d = &dst[0][0];
251     p_s0 = &src0[0][0];
252     p_s1 = &src1[0];
253     end = p_s1 + n;
254
255     __asm__ volatile(
256         ".set push                                      \n\t"
257         ".set noreorder                                 \n\t"
258         "1:                                             \n\t"
259         "lwc1     %[temp2],   0(%[p_s1])                \n\t"
260         "lwc1     %[temp0],   0(%[p_s0])                \n\t"
261         "lwc1     %[temp1],   4(%[p_s0])                \n\t"
262         PTR_ADDIU "%[p_d],    %[p_d],       8           \n\t"
263         "mul.s    %[temp0],   %[temp0],     %[temp2]    \n\t"
264         "mul.s    %[temp1],   %[temp1],     %[temp2]    \n\t"
265         PTR_ADDIU "%[p_s0],   %[p_s0],      8           \n\t"
266         "swc1     %[temp0],   -8(%[p_d])                \n\t"
267         "swc1     %[temp1],   -4(%[p_d])                \n\t"
268         "bne      %[p_s1],    %[end],       1b          \n\t"
269         PTR_ADDIU "%[p_s1],   %[p_s1],      4           \n\t"
270         ".set pop                                       \n\t"
271
272         : [temp0]"=&f"(temp0), [temp1]"=&f"(temp1),
273           [temp2]"=&f"(temp2), [p_d]"+r"(p_d),
274           [p_s0]"+r"(p_s0), [p_s1]"+r"(p_s1)
275         : [end]"r"(end)
276         : "memory"
277     );
278 }
279
280 static void ps_decorrelate_mips(float (*out)[2], float (*delay)[2],
281                              float (*ap_delay)[PS_QMF_TIME_SLOTS + PS_MAX_AP_DELAY][2],
282                              const float phi_fract[2], const float (*Q_fract)[2],
283                              const float *transient_gain,
284                              float g_decay_slope,
285                              int len)
286 {
287     float *p_delay = &delay[0][0];
288     float *p_out = &out[0][0];
289     float *p_ap_delay = &ap_delay[0][0][0];
290     const float *p_t_gain = transient_gain;
291     const float *p_Q_fract = &Q_fract[0][0];
292     float ag0, ag1, ag2;
293     float phi_fract0 = phi_fract[0];
294     float phi_fract1 = phi_fract[1];
295     float temp0, temp1, temp2, temp3, temp4, temp5, temp6, temp7, temp8, temp9;
296     float f1, f2, f3;
297
298     float *p_delay_end = (p_delay + (len << 1));
299
300     /* merged 2 loops */
301     f1 = 0.65143905753106;
302     f2 = 0.56471812200776;
303     f3 = 0.48954165955695;
304     __asm__ volatile(
305         ".set    push                                                    \n\t"
306         ".set    noreorder                                               \n\t"
307         "mul.s   %[ag0],        %[ag0],        %[g_decay_slope]          \n\t"
308         "mul.s   %[ag1],        %[ag1],        %[g_decay_slope]          \n\t"
309         "mul.s   %[ag2],        %[ag2],        %[g_decay_slope]          \n\t"
310     "1:                                                                  \n\t"
311         "lwc1    %[temp0],      0(%[p_delay])                            \n\t"
312         "lwc1    %[temp1],      4(%[p_delay])                            \n\t"
313         "lwc1    %[temp4],      16(%[p_ap_delay])                        \n\t"
314         "lwc1    %[temp5],      20(%[p_ap_delay])                        \n\t"
315         "mul.s   %[temp3],      %[temp0],      %[phi_fract1]             \n\t"
316         "lwc1    %[temp6],      0(%[p_Q_fract])                          \n\t"
317         "mul.s   %[temp2],      %[temp1],      %[phi_fract1]             \n\t"
318         "lwc1    %[temp7],      4(%[p_Q_fract])                          \n\t"
319         "madd.s  %[temp3],      %[temp3],      %[temp1], %[phi_fract0]   \n\t"
320         "msub.s  %[temp2],      %[temp2],      %[temp0], %[phi_fract0]   \n\t"
321         "mul.s   %[temp8],      %[temp5],      %[temp7]                  \n\t"
322         "mul.s   %[temp9],      %[temp4],      %[temp7]                  \n\t"
323         "lwc1    %[temp7],      12(%[p_Q_fract])                         \n\t"
324         "mul.s   %[temp0],      %[ag0],        %[temp2]                  \n\t"
325         "mul.s   %[temp1],      %[ag0],        %[temp3]                  \n\t"
326         "msub.s  %[temp8],      %[temp8],      %[temp4], %[temp6]        \n\t"
327         "lwc1    %[temp4],      304(%[p_ap_delay])                       \n\t"
328         "madd.s  %[temp9],      %[temp9],      %[temp5], %[temp6]        \n\t"
329         "lwc1    %[temp5],      308(%[p_ap_delay])                       \n\t"
330         "sub.s   %[temp0],      %[temp8],      %[temp0]                  \n\t"
331         "sub.s   %[temp1],      %[temp9],      %[temp1]                  \n\t"
332         "madd.s  %[temp2],      %[temp2],      %[ag0],   %[temp0]        \n\t"
333         "lwc1    %[temp6],      8(%[p_Q_fract])                          \n\t"
334         "madd.s  %[temp3],      %[temp3],      %[ag0],   %[temp1]        \n\t"
335         "mul.s   %[temp8],      %[temp5],      %[temp7]                  \n\t"
336         "mul.s   %[temp9],      %[temp4],      %[temp7]                  \n\t"
337         "lwc1    %[temp7],      20(%[p_Q_fract])                         \n\t"
338         "msub.s  %[temp8],      %[temp8],      %[temp4], %[temp6]        \n\t"
339         "swc1    %[temp2],      40(%[p_ap_delay])                        \n\t"
340         "mul.s   %[temp2],      %[ag1],        %[temp0]                  \n\t"
341         "swc1    %[temp3],      44(%[p_ap_delay])                        \n\t"
342         "mul.s   %[temp3],      %[ag1],        %[temp1]                  \n\t"
343         "lwc1    %[temp4],      592(%[p_ap_delay])                       \n\t"
344         "madd.s  %[temp9],      %[temp9],      %[temp5], %[temp6]        \n\t"
345         "lwc1    %[temp5],      596(%[p_ap_delay])                       \n\t"
346         "sub.s   %[temp2],      %[temp8],      %[temp2]                  \n\t"
347         "sub.s   %[temp3],      %[temp9],      %[temp3]                  \n\t"
348         "lwc1    %[temp6],      16(%[p_Q_fract])                         \n\t"
349         "madd.s  %[temp0],      %[temp0],      %[ag1],   %[temp2]        \n\t"
350         "madd.s  %[temp1],      %[temp1],      %[ag1],   %[temp3]        \n\t"
351         "mul.s   %[temp8],      %[temp5],      %[temp7]                  \n\t"
352         "mul.s   %[temp9],      %[temp4],      %[temp7]                  \n\t"
353         "msub.s  %[temp8],      %[temp8],      %[temp4], %[temp6]        \n\t"
354         "madd.s  %[temp9],      %[temp9],      %[temp5], %[temp6]        \n\t"
355         "swc1    %[temp0],      336(%[p_ap_delay])                       \n\t"
356         "mul.s   %[temp0],      %[ag2],        %[temp2]                  \n\t"
357         "swc1    %[temp1],      340(%[p_ap_delay])                       \n\t"
358         "mul.s   %[temp1],      %[ag2],        %[temp3]                  \n\t"
359         "lwc1    %[temp4],      0(%[p_t_gain])                           \n\t"
360         "sub.s   %[temp0],      %[temp8],      %[temp0]                  \n\t"
361         PTR_ADDIU "%[p_ap_delay], %[p_ap_delay], 8                       \n\t"
362         "sub.s   %[temp1],      %[temp9],      %[temp1]                  \n\t"
363         PTR_ADDIU "%[p_t_gain], %[p_t_gain],   4                         \n\t"
364         "madd.s  %[temp2],      %[temp2],      %[ag2],   %[temp0]        \n\t"
365         PTR_ADDIU "%[p_delay],  %[p_delay],    8                         \n\t"
366         "madd.s  %[temp3],      %[temp3],      %[ag2],   %[temp1]        \n\t"
367         PTR_ADDIU "%[p_out],    %[p_out],      8                         \n\t"
368         "mul.s   %[temp5],      %[temp4],      %[temp0]                  \n\t"
369         "mul.s   %[temp6],      %[temp4],      %[temp1]                  \n\t"
370         "swc1    %[temp2],      624(%[p_ap_delay])                       \n\t"
371         "swc1    %[temp3],      628(%[p_ap_delay])                       \n\t"
372         "swc1    %[temp5],      -8(%[p_out])                             \n\t"
373         "swc1    %[temp6],      -4(%[p_out])                             \n\t"
374         "bne     %[p_delay],    %[p_delay_end],1b                        \n\t"
375         " swc1   %[temp6],      -4(%[p_out])                             \n\t"
376         ".set    pop                                                     \n\t"
377
378         : [temp0]"=&f"(temp0), [temp1]"=&f"(temp1), [temp2]"=&f"(temp2),
379           [temp3]"=&f"(temp3), [temp4]"=&f"(temp4), [temp5]"=&f"(temp5),
380           [temp6]"=&f"(temp6), [temp7]"=&f"(temp7), [temp8]"=&f"(temp8),
381           [temp9]"=&f"(temp9), [p_delay]"+r"(p_delay), [p_ap_delay]"+r"(p_ap_delay),
382           [p_Q_fract]"+r"(p_Q_fract), [p_t_gain]"+r"(p_t_gain), [p_out]"+r"(p_out)
383         : [phi_fract0]"f"(phi_fract0), [phi_fract1]"f"(phi_fract1),
384           [p_delay_end]"r"(p_delay_end), [g_decay_slope]"f"(g_decay_slope),
385           [ag0]"f"(f1), [ag1]"f"(f2), [ag2]"f"(f3)
386         : "memory"
387     );
388 }
389
390 static void ps_stereo_interpolate_mips(float (*l)[2], float (*r)[2],
391                                     float h[2][4], float h_step[2][4],
392                                     int len)
393 {
394     float h0 = h[0][0];
395     float h1 = h[0][1];
396     float h2 = h[0][2];
397     float h3 = h[0][3];
398     float hs0 = h_step[0][0];
399     float hs1 = h_step[0][1];
400     float hs2 = h_step[0][2];
401     float hs3 = h_step[0][3];
402     float temp0, temp1, temp2, temp3;
403     float l_re, l_im, r_re, r_im;
404
405     float *l_end = ((float *)l + (len << 1));
406
407     __asm__ volatile(
408         ".set    push                                     \n\t"
409         ".set    noreorder                                \n\t"
410     "1:                                                   \n\t"
411         "add.s   %[h0],     %[h0],     %[hs0]             \n\t"
412         "lwc1    %[l_re],   0(%[l])                       \n\t"
413         "add.s   %[h1],     %[h1],     %[hs1]             \n\t"
414         "lwc1    %[r_re],   0(%[r])                       \n\t"
415         "add.s   %[h2],     %[h2],     %[hs2]             \n\t"
416         "lwc1    %[l_im],   4(%[l])                       \n\t"
417         "add.s   %[h3],     %[h3],     %[hs3]             \n\t"
418         "lwc1    %[r_im],   4(%[r])                       \n\t"
419         "mul.s   %[temp0],  %[h0],     %[l_re]            \n\t"
420         PTR_ADDIU "%[l],    %[l],      8                  \n\t"
421         "mul.s   %[temp2],  %[h1],     %[l_re]            \n\t"
422         PTR_ADDIU "%[r],    %[r],      8                  \n\t"
423         "madd.s  %[temp0],  %[temp0],  %[h2],   %[r_re]   \n\t"
424         "madd.s  %[temp2],  %[temp2],  %[h3],   %[r_re]   \n\t"
425         "mul.s   %[temp1],  %[h0],     %[l_im]            \n\t"
426         "mul.s   %[temp3],  %[h1],     %[l_im]            \n\t"
427         "madd.s  %[temp1],  %[temp1],  %[h2],   %[r_im]   \n\t"
428         "madd.s  %[temp3],  %[temp3],  %[h3],   %[r_im]   \n\t"
429         "swc1    %[temp0],  -8(%[l])                      \n\t"
430         "swc1    %[temp2],  -8(%[r])                      \n\t"
431         "swc1    %[temp1],  -4(%[l])                      \n\t"
432         "bne     %[l],      %[l_end],  1b                 \n\t"
433         " swc1   %[temp3],  -4(%[r])                      \n\t"
434         ".set    pop                                      \n\t"
435
436         : [temp0]"=&f"(temp0), [temp1]"=&f"(temp1),
437           [temp2]"=&f"(temp2), [temp3]"=&f"(temp3),
438           [h0]"+f"(h0), [h1]"+f"(h1), [h2]"+f"(h2),
439           [h3]"+f"(h3), [l]"+r"(l), [r]"+r"(r),
440           [l_re]"=&f"(l_re), [l_im]"=&f"(l_im),
441           [r_re]"=&f"(r_re), [r_im]"=&f"(r_im)
442         : [hs0]"f"(hs0), [hs1]"f"(hs1), [hs2]"f"(hs2),
443           [hs3]"f"(hs3), [l_end]"r"(l_end)
444         : "memory"
445     );
446 }
447 #endif /* !HAVE_MIPS32R6 && !HAVE_MIPS64R6 */
448 #endif /* HAVE_MIPSFPU */
449 #endif /* HAVE_INLINE_ASM */
450
451 void ff_psdsp_init_mips(PSDSPContext *s)
452 {
453 #if HAVE_INLINE_ASM
454 #if HAVE_MIPSFPU
455     s->hybrid_analysis_ileave = ps_hybrid_analysis_ileave_mips;
456     s->hybrid_synthesis_deint = ps_hybrid_synthesis_deint_mips;
457 #if !HAVE_MIPS32R6 && !HAVE_MIPS64R6
458     s->add_squares            = ps_add_squares_mips;
459     s->mul_pair_single        = ps_mul_pair_single_mips;
460     s->decorrelate            = ps_decorrelate_mips;
461     s->stereo_interpolate[0]  = ps_stereo_interpolate_mips;
462 #endif /* !HAVE_MIPS32R6 && !HAVE_MIPS64R6 */
463 #endif /* HAVE_MIPSFPU */
464 #endif /* HAVE_INLINE_ASM */
465 }