]> git.sesse.net Git - ffmpeg/blob - libavcodec/fft-test.c
dbe624dcfa90ef063cc27096833bad3e8011af35
[ffmpeg] / libavcodec / fft-test.c
1 /*
2  * (c) 2002 Fabrice Bellard
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * FFT and MDCT tests.
24  */
25
26 #include "libavutil/cpu.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/lfg.h"
29 #include "libavutil/log.h"
30 #include "libavutil/time.h"
31 #include "fft.h"
32 #include "dct.h"
33 #include "rdft.h"
34 #include <math.h>
35 #if HAVE_UNISTD_H
36 #include <unistd.h>
37 #endif
38 #include <stdio.h>
39 #include <stdlib.h>
40 #include <string.h>
41
42 /* reference fft */
43
44 #define MUL16(a,b) ((a) * (b))
45
46 #define CMAC(pre, pim, are, aim, bre, bim) \
47 {\
48    pre += (MUL16(are, bre) - MUL16(aim, bim));\
49    pim += (MUL16(are, bim) + MUL16(bre, aim));\
50 }
51
52 #if FFT_FLOAT
53 #   define RANGE 1.0
54 #   define REF_SCALE(x, bits)  (x)
55 #   define FMT "%10.6f"
56 #else
57 #   define RANGE 16384
58 #   define REF_SCALE(x, bits) ((x) / (1<<(bits)))
59 #   define FMT "%6d"
60 #endif
61
62 static struct {
63     float re, im;
64 } *exptab;
65
66 static void fft_ref_init(int nbits, int inverse)
67 {
68     int n, i;
69     double c1, s1, alpha;
70
71     n = 1 << nbits;
72     exptab = av_malloc((n / 2) * sizeof(*exptab));
73
74     for (i = 0; i < (n/2); i++) {
75         alpha = 2 * M_PI * (float)i / (float)n;
76         c1 = cos(alpha);
77         s1 = sin(alpha);
78         if (!inverse)
79             s1 = -s1;
80         exptab[i].re = c1;
81         exptab[i].im = s1;
82     }
83 }
84
85 static void fft_ref(FFTComplex *tabr, FFTComplex *tab, int nbits)
86 {
87     int n, i, j, k, n2;
88     double tmp_re, tmp_im, s, c;
89     FFTComplex *q;
90
91     n = 1 << nbits;
92     n2 = n >> 1;
93     for (i = 0; i < n; i++) {
94         tmp_re = 0;
95         tmp_im = 0;
96         q = tab;
97         for (j = 0; j < n; j++) {
98             k = (i * j) & (n - 1);
99             if (k >= n2) {
100                 c = -exptab[k - n2].re;
101                 s = -exptab[k - n2].im;
102             } else {
103                 c = exptab[k].re;
104                 s = exptab[k].im;
105             }
106             CMAC(tmp_re, tmp_im, c, s, q->re, q->im);
107             q++;
108         }
109         tabr[i].re = REF_SCALE(tmp_re, nbits);
110         tabr[i].im = REF_SCALE(tmp_im, nbits);
111     }
112 }
113
114 #if CONFIG_MDCT
115 static void imdct_ref(FFTSample *out, FFTSample *in, int nbits)
116 {
117     int n = 1<<nbits;
118     int k, i, a;
119     double sum, f;
120
121     for (i = 0; i < n; i++) {
122         sum = 0;
123         for (k = 0; k < n/2; k++) {
124             a = (2 * i + 1 + (n / 2)) * (2 * k + 1);
125             f = cos(M_PI * a / (double)(2 * n));
126             sum += f * in[k];
127         }
128         out[i] = REF_SCALE(-sum, nbits - 2);
129     }
130 }
131
132 /* NOTE: no normalisation by 1 / N is done */
133 static void mdct_ref(FFTSample *output, FFTSample *input, int nbits)
134 {
135     int n = 1<<nbits;
136     int k, i;
137     double a, s;
138
139     /* do it by hand */
140     for (k = 0; k < n/2; k++) {
141         s = 0;
142         for (i = 0; i < n; i++) {
143             a = (2*M_PI*(2*i+1+n/2)*(2*k+1) / (4 * n));
144             s += input[i] * cos(a);
145         }
146         output[k] = REF_SCALE(s, nbits - 1);
147     }
148 }
149 #endif /* CONFIG_MDCT */
150
151 #if FFT_FLOAT
152 #if CONFIG_DCT
153 static void idct_ref(float *output, float *input, int nbits)
154 {
155     int n = 1<<nbits;
156     int k, i;
157     double a, s;
158
159     /* do it by hand */
160     for (i = 0; i < n; i++) {
161         s = 0.5 * input[0];
162         for (k = 1; k < n; k++) {
163             a = M_PI*k*(i+0.5) / n;
164             s += input[k] * cos(a);
165         }
166         output[i] = 2 * s / n;
167     }
168 }
169 static void dct_ref(float *output, float *input, int nbits)
170 {
171     int n = 1<<nbits;
172     int k, i;
173     double a, s;
174
175     /* do it by hand */
176     for (k = 0; k < n; k++) {
177         s = 0;
178         for (i = 0; i < n; i++) {
179             a = M_PI*k*(i+0.5) / n;
180             s += input[i] * cos(a);
181         }
182         output[k] = s;
183     }
184 }
185 #endif /* CONFIG_DCT */
186 #endif /* FFT_FLOAT */
187
188
189 static FFTSample frandom(AVLFG *prng)
190 {
191     return (int16_t)av_lfg_get(prng) / 32768.0 * RANGE;
192 }
193
194 static int check_diff(FFTSample *tab1, FFTSample *tab2, int n, double scale)
195 {
196     int i;
197     double max= 0;
198     double error= 0;
199     int err = 0;
200
201     for (i = 0; i < n; i++) {
202         double e = fabsf(tab1[i] - (tab2[i] / scale)) / RANGE;
203         if (e >= 1e-3) {
204             av_log(NULL, AV_LOG_ERROR, "ERROR %5d: "FMT" "FMT"\n",
205                    i, tab1[i], tab2[i]);
206             err = 1;
207         }
208         error+= e*e;
209         if(e>max) max= e;
210     }
211     av_log(NULL, AV_LOG_INFO, "max:%f e:%g\n", max, sqrt(error)/n);
212     return err;
213 }
214
215
216 static void help(void)
217 {
218     av_log(NULL, AV_LOG_INFO,"usage: fft-test [-h] [-s] [-i] [-n b]\n"
219            "-h     print this help\n"
220            "-s     speed test\n"
221            "-m     (I)MDCT test\n"
222            "-d     (I)DCT test\n"
223            "-r     (I)RDFT test\n"
224            "-i     inverse transform test\n"
225            "-n b   set the transform size to 2^b\n"
226            "-f x   set scale factor for output data of (I)MDCT to x\n"
227            );
228 }
229
230 enum tf_transform {
231     TRANSFORM_FFT,
232     TRANSFORM_MDCT,
233     TRANSFORM_RDFT,
234     TRANSFORM_DCT,
235 };
236
237 #if !HAVE_GETOPT
238 #include "compat/getopt.c"
239 #endif
240
241 int main(int argc, char **argv)
242 {
243     FFTComplex *tab, *tab1, *tab_ref;
244     FFTSample *tab2;
245     int it, i, c;
246     int cpuflags;
247     int do_speed = 0;
248     int err = 1;
249     enum tf_transform transform = TRANSFORM_FFT;
250     int do_inverse = 0;
251     FFTContext s1, *s = &s1;
252     FFTContext m1, *m = &m1;
253 #if FFT_FLOAT
254     RDFTContext r1, *r = &r1;
255     DCTContext d1, *d = &d1;
256     int fft_size_2;
257 #endif /* FFT_FLOAT */
258     int fft_nbits, fft_size;
259     double scale = 1.0;
260     AVLFG prng;
261     av_lfg_init(&prng, 1);
262
263     fft_nbits = 9;
264     for(;;) {
265         c = getopt(argc, argv, "hsimrdn:f:c:");
266         if (c == -1)
267             break;
268         switch(c) {
269         case 'h':
270             help();
271             return 1;
272         case 's':
273             do_speed = 1;
274             break;
275         case 'i':
276             do_inverse = 1;
277             break;
278         case 'm':
279             transform = TRANSFORM_MDCT;
280             break;
281         case 'r':
282             transform = TRANSFORM_RDFT;
283             break;
284         case 'd':
285             transform = TRANSFORM_DCT;
286             break;
287         case 'n':
288             fft_nbits = atoi(optarg);
289             break;
290         case 'f':
291             scale = atof(optarg);
292             break;
293         case 'c':
294             cpuflags = av_parse_cpu_flags(optarg);
295             if (cpuflags < 0)
296                 return 1;
297             av_set_cpu_flags_mask(cpuflags);
298             break;
299         }
300     }
301
302     fft_size = 1 << fft_nbits;
303     tab = av_malloc(fft_size * sizeof(FFTComplex));
304     tab1 = av_malloc(fft_size * sizeof(FFTComplex));
305     tab_ref = av_malloc(fft_size * sizeof(FFTComplex));
306     tab2 = av_malloc(fft_size * sizeof(FFTSample));
307
308     switch (transform) {
309 #if CONFIG_MDCT
310     case TRANSFORM_MDCT:
311         av_log(NULL, AV_LOG_INFO,"Scale factor is set to %f\n", scale);
312         if (do_inverse)
313             av_log(NULL, AV_LOG_INFO,"IMDCT");
314         else
315             av_log(NULL, AV_LOG_INFO,"MDCT");
316         ff_mdct_init(m, fft_nbits, do_inverse, scale);
317         break;
318 #endif /* CONFIG_MDCT */
319     case TRANSFORM_FFT:
320         if (do_inverse)
321             av_log(NULL, AV_LOG_INFO,"IFFT");
322         else
323             av_log(NULL, AV_LOG_INFO,"FFT");
324         ff_fft_init(s, fft_nbits, do_inverse);
325         fft_ref_init(fft_nbits, do_inverse);
326         break;
327 #if FFT_FLOAT
328 #if CONFIG_RDFT
329     case TRANSFORM_RDFT:
330         if (do_inverse)
331             av_log(NULL, AV_LOG_INFO,"IDFT_C2R");
332         else
333             av_log(NULL, AV_LOG_INFO,"DFT_R2C");
334         ff_rdft_init(r, fft_nbits, do_inverse ? IDFT_C2R : DFT_R2C);
335         fft_ref_init(fft_nbits, do_inverse);
336         break;
337 #endif /* CONFIG_RDFT */
338 #if CONFIG_DCT
339     case TRANSFORM_DCT:
340         if (do_inverse)
341             av_log(NULL, AV_LOG_INFO,"DCT_III");
342         else
343             av_log(NULL, AV_LOG_INFO,"DCT_II");
344         ff_dct_init(d, fft_nbits, do_inverse ? DCT_III : DCT_II);
345         break;
346 #endif /* CONFIG_DCT */
347 #endif /* FFT_FLOAT */
348     default:
349         av_log(NULL, AV_LOG_ERROR, "Requested transform not supported\n");
350         return 1;
351     }
352     av_log(NULL, AV_LOG_INFO," %d test\n", fft_size);
353
354     /* generate random data */
355
356     for (i = 0; i < fft_size; i++) {
357         tab1[i].re = frandom(&prng);
358         tab1[i].im = frandom(&prng);
359     }
360
361     /* checking result */
362     av_log(NULL, AV_LOG_INFO,"Checking...\n");
363
364     switch (transform) {
365 #if CONFIG_MDCT
366     case TRANSFORM_MDCT:
367         if (do_inverse) {
368             imdct_ref((FFTSample *)tab_ref, (FFTSample *)tab1, fft_nbits);
369             m->imdct_calc(m, tab2, (FFTSample *)tab1);
370             err = check_diff((FFTSample *)tab_ref, tab2, fft_size, scale);
371         } else {
372             mdct_ref((FFTSample *)tab_ref, (FFTSample *)tab1, fft_nbits);
373
374             m->mdct_calc(m, tab2, (FFTSample *)tab1);
375
376             err = check_diff((FFTSample *)tab_ref, tab2, fft_size / 2, scale);
377         }
378         break;
379 #endif /* CONFIG_MDCT */
380     case TRANSFORM_FFT:
381         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
382         s->fft_permute(s, tab);
383         s->fft_calc(s, tab);
384
385         fft_ref(tab_ref, tab1, fft_nbits);
386         err = check_diff((FFTSample *)tab_ref, (FFTSample *)tab, fft_size * 2, 1.0);
387         break;
388 #if FFT_FLOAT
389 #if CONFIG_RDFT
390     case TRANSFORM_RDFT:
391         fft_size_2 = fft_size >> 1;
392         if (do_inverse) {
393             tab1[         0].im = 0;
394             tab1[fft_size_2].im = 0;
395             for (i = 1; i < fft_size_2; i++) {
396                 tab1[fft_size_2+i].re =  tab1[fft_size_2-i].re;
397                 tab1[fft_size_2+i].im = -tab1[fft_size_2-i].im;
398             }
399
400             memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
401             tab2[1] = tab1[fft_size_2].re;
402
403             r->rdft_calc(r, tab2);
404             fft_ref(tab_ref, tab1, fft_nbits);
405             for (i = 0; i < fft_size; i++) {
406                 tab[i].re = tab2[i];
407                 tab[i].im = 0;
408             }
409             err = check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 0.5);
410         } else {
411             for (i = 0; i < fft_size; i++) {
412                 tab2[i]    = tab1[i].re;
413                 tab1[i].im = 0;
414             }
415             r->rdft_calc(r, tab2);
416             fft_ref(tab_ref, tab1, fft_nbits);
417             tab_ref[0].im = tab_ref[fft_size_2].re;
418             err = check_diff((float *)tab_ref, (float *)tab2, fft_size, 1.0);
419         }
420         break;
421 #endif /* CONFIG_RDFT */
422 #if CONFIG_DCT
423     case TRANSFORM_DCT:
424         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
425         d->dct_calc(d, tab);
426         if (do_inverse) {
427             idct_ref(tab_ref, tab1, fft_nbits);
428         } else {
429             dct_ref(tab_ref, tab1, fft_nbits);
430         }
431         err = check_diff((float *)tab_ref, (float *)tab, fft_size, 1.0);
432         break;
433 #endif /* CONFIG_DCT */
434 #endif /* FFT_FLOAT */
435     }
436
437     /* do a speed test */
438
439     if (do_speed) {
440         int64_t time_start, duration;
441         int nb_its;
442
443         av_log(NULL, AV_LOG_INFO,"Speed test...\n");
444         /* we measure during about 1 seconds */
445         nb_its = 1;
446         for(;;) {
447             time_start = av_gettime();
448             for (it = 0; it < nb_its; it++) {
449                 switch (transform) {
450                 case TRANSFORM_MDCT:
451                     if (do_inverse) {
452                         m->imdct_calc(m, (FFTSample *)tab, (FFTSample *)tab1);
453                     } else {
454                         m->mdct_calc(m, (FFTSample *)tab, (FFTSample *)tab1);
455                     }
456                     break;
457                 case TRANSFORM_FFT:
458                     memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
459                     s->fft_calc(s, tab);
460                     break;
461 #if FFT_FLOAT
462                 case TRANSFORM_RDFT:
463                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
464                     r->rdft_calc(r, tab2);
465                     break;
466                 case TRANSFORM_DCT:
467                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
468                     d->dct_calc(d, tab2);
469                     break;
470 #endif /* FFT_FLOAT */
471                 }
472             }
473             duration = av_gettime() - time_start;
474             if (duration >= 1000000)
475                 break;
476             nb_its *= 2;
477         }
478         av_log(NULL, AV_LOG_INFO,"time: %0.1f us/transform [total time=%0.2f s its=%d]\n",
479                (double)duration / nb_its,
480                (double)duration / 1000000.0,
481                nb_its);
482     }
483
484     switch (transform) {
485 #if CONFIG_MDCT
486     case TRANSFORM_MDCT:
487         ff_mdct_end(m);
488         break;
489 #endif /* CONFIG_MDCT */
490     case TRANSFORM_FFT:
491         ff_fft_end(s);
492         break;
493 #if FFT_FLOAT
494 #if CONFIG_RDFT
495     case TRANSFORM_RDFT:
496         ff_rdft_end(r);
497         break;
498 #endif /* CONFIG_RDFT */
499 #if CONFIG_DCT
500     case TRANSFORM_DCT:
501         ff_dct_end(d);
502         break;
503 #endif /* CONFIG_DCT */
504 #endif /* FFT_FLOAT */
505     }
506
507     av_free(tab);
508     av_free(tab1);
509     av_free(tab2);
510     av_free(tab_ref);
511     av_free(exptab);
512
513     if (err)
514         printf("Error: %d.\n", err);
515
516     return !!err;
517 }