]> git.sesse.net Git - ffmpeg/blob - libavcodec/proresdsp.c
cook: Make constants passed to AV_BE2NE32C() unsigned to avoid signed overflow.
[ffmpeg] / libavcodec / proresdsp.c
1 /*
2  * Apple ProRes compatible decoder
3  *
4  * Copyright (c) 2010-2011 Maxim Poliakovski
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "proresdsp.h"
24 #include "simple_idct.h"
25
26 #define BIAS     (1 << (PRORES_BITS_PER_SAMPLE - 1))           ///< bias value for converting signed pixels into unsigned ones
27 #define CLIP_MIN (1 << (PRORES_BITS_PER_SAMPLE - 8))           ///< minimum value for clipping resulting pixels
28 #define CLIP_MAX (1 << PRORES_BITS_PER_SAMPLE) - CLIP_MIN - 1  ///< maximum value for clipping resulting pixels
29
30 #define CLIP_AND_BIAS(x) (av_clip((x) + BIAS, CLIP_MIN, CLIP_MAX))
31
32 #if CONFIG_PRORES_DECODER
33 /**
34  * Add bias value, clamp and output pixels of a slice
35  */
36 static void put_pixels(uint16_t *dst, int stride, const DCTELEM *in)
37 {
38     int x, y, src_offset, dst_offset;
39
40     for (y = 0, dst_offset = 0; y < 8; y++, dst_offset += stride) {
41         for (x = 0; x < 8; x++) {
42             src_offset = (y << 3) + x;
43
44             dst[dst_offset + x] = CLIP_AND_BIAS(in[src_offset]);
45         }
46     }
47 }
48
49 static void prores_idct_put_c(uint16_t *out, int linesize, DCTELEM *block, const int16_t *qmat)
50 {
51     ff_prores_idct(block, qmat);
52     put_pixels(out, linesize >> 1, block);
53 }
54 #endif
55
56 #if CONFIG_PRORES_ENCODER
57 static void prores_fdct_c(const uint16_t *src, int linesize, DCTELEM *block)
58 {
59     int x, y;
60     const uint16_t *tsrc = src;
61
62     for (y = 0; y < 8; y++) {
63         for (x = 0; x < 8; x++)
64             block[y * 8 + x] = tsrc[x];
65         tsrc += linesize >> 1;
66     }
67     ff_jpeg_fdct_islow_10(block);
68 }
69 #endif
70
71 void ff_proresdsp_init(ProresDSPContext *dsp)
72 {
73 #if CONFIG_PRORES_DECODER
74     dsp->idct_put = prores_idct_put_c;
75     dsp->idct_permutation_type = FF_NO_IDCT_PERM;
76
77     if (HAVE_MMX) ff_proresdsp_x86_init(dsp);
78
79     ff_init_scantable_permutation(dsp->idct_permutation,
80                                   dsp->idct_permutation_type);
81 #endif
82 #if CONFIG_PRORES_ENCODER
83     dsp->fdct                 = prores_fdct_c;
84     dsp->dct_permutation_type = FF_NO_IDCT_PERM;
85     ff_init_scantable_permutation(dsp->dct_permutation,
86                                   dsp->dct_permutation_type);
87 #endif
88 }