]> git.sesse.net Git - ffmpeg/blob - libavutil/tx.h
a3d70644e43297a5c1a0ce5157d75912213876a8
[ffmpeg] / libavutil / tx.h
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #ifndef AVUTIL_TX_H
20 #define AVUTIL_TX_H
21
22 #include <stdint.h>
23 #include <stddef.h>
24
25 typedef struct AVTXContext AVTXContext;
26
27 typedef struct AVComplexFloat {
28     float re, im;
29 } AVComplexFloat;
30
31 typedef struct AVComplexDouble {
32     double re, im;
33 } AVComplexDouble;
34
35 typedef struct AVComplexInt32 {
36     int32_t re, im;
37 } AVComplexInt32;
38
39 enum AVTXType {
40     /**
41      * Standard complex to complex FFT with sample data type AVComplexFloat.
42      * Output is not 1/len normalized. Scaling currently unsupported.
43      * The stride parameter is ignored.
44      */
45     AV_TX_FLOAT_FFT = 0,
46
47     /**
48      * Standard MDCT with sample data type of float and a scale type of
49      * float. Length is the frame size, not the window size (which is 2x frame)
50      * For forward transforms, the stride specifies the spacing between each
51      * sample in the output array in bytes. The input must be a flat array.
52      *
53      * For inverse transforms, the stride specifies the spacing between each
54      * sample in the input array in bytes. The output will be a flat array.
55      * Stride must be a non-zero multiple of sizeof(float).
56      *
57      * NOTE: the inverse transform is half-length, meaning the output will not
58      * contain redundant data. This is what most codecs work with.
59      */
60     AV_TX_FLOAT_MDCT = 1,
61
62     /**
63      * Same as AV_TX_FLOAT_FFT with a data type of AVComplexDouble.
64      */
65     AV_TX_DOUBLE_FFT = 2,
66
67     /**
68      * Same as AV_TX_FLOAT_MDCT with data and scale type of double.
69      * Stride must be a non-zero multiple of sizeof(double).
70      */
71     AV_TX_DOUBLE_MDCT = 3,
72
73     /**
74      * Same as AV_TX_FLOAT_FFT with a data type of AVComplexInt32.
75      */
76     AV_TX_INT32_FFT = 4,
77
78     /**
79      * Same as AV_TX_FLOAT_MDCT with data type of int32_t and scale type of float.
80      * Only scale values less than or equal to 1.0 are supported.
81      * Stride must be a non-zero multiple of sizeof(int32_t).
82      */
83     AV_TX_INT32_MDCT = 5,
84 };
85
86 /**
87  * Function pointer to a function to perform the transform.
88  *
89  * @note Using a different context than the one allocated during av_tx_init()
90  * is not allowed.
91  *
92  * @param s the transform context
93  * @param out the output array
94  * @param in the input array
95  * @param stride the input or output stride in bytes
96  *
97  * The out and in arrays must be aligned to the maximum required by the CPU
98  * architecture unless the AV_TX_UNALIGNED flag was set in av_tx_init().
99  * The stride must follow the constraints the transform type has specified.
100  */
101 typedef void (*av_tx_fn)(AVTXContext *s, void *out, void *in, ptrdiff_t stride);
102
103 /**
104  * Flags for av_tx_init()
105  */
106 enum AVTXFlags {
107     /**
108      * Performs an in-place transformation on the input. The output argument
109      * of av_tn_fn() MUST match the input. May be unsupported or slower for some
110      * transform types.
111      */
112     AV_TX_INPLACE = 1ULL << 0,
113
114     /**
115      * Relaxes alignment requirement for the in and out arrays of av_tx_fn().
116      * May be slower with certain transform types.
117      */
118     AV_TX_UNALIGNED = 1ULL << 1,
119 };
120
121 /**
122  * Initialize a transform context with the given configuration
123  * (i)MDCTs with an odd length are currently not supported.
124  *
125  * @param ctx the context to allocate, will be NULL on error
126  * @param tx pointer to the transform function pointer to set
127  * @param type type the type of transform
128  * @param inv whether to do an inverse or a forward transform
129  * @param len the size of the transform in samples
130  * @param scale pointer to the value to scale the output if supported by type
131  * @param flags a bitmask of AVTXFlags or 0
132  *
133  * @return 0 on success, negative error code on failure
134  */
135 int av_tx_init(AVTXContext **ctx, av_tx_fn *tx, enum AVTXType type,
136                int inv, int len, const void *scale, uint64_t flags);
137
138 /**
139  * Frees a context and sets ctx to NULL, does nothing when ctx == NULL
140  */
141 void av_tx_uninit(AVTXContext **ctx);
142
143 #endif /* AVUTIL_TX_H */