]> git.sesse.net Git - ffmpeg/blob - libavcodec/xvididct.c
xvididct: Ensure that the scantable permutation is always set correctly
[ffmpeg] / libavcodec / xvididct.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "config.h"
20 #include "libavutil/attributes.h"
21 #include "avcodec.h"
22 #include "idctdsp.h"
23 #include "xvididct.h"
24
25 av_cold void ff_xvididct_init(IDCTDSPContext *c, AVCodecContext *avctx)
26 {
27     const unsigned high_bit_depth = avctx->bits_per_raw_sample > 8;
28
29     if (high_bit_depth ||
30         !(avctx->idct_algo == FF_IDCT_AUTO ||
31           avctx->idct_algo == FF_IDCT_XVIDMMX))
32         return;
33
34     if (ARCH_X86)
35         ff_xvididct_init_x86(c);
36
37     ff_init_scantable_permutation(c->idct_permutation, c->perm_type);
38 }