]> git.sesse.net Git - ffmpeg/blob - libavcodec/huffyuv.h
avcodec/cavsdec: Fix runtime error: signed integer overflow: 59 + 2147483600 cannot...
[ffmpeg] / libavcodec / huffyuv.h
1 /*
2  * Copyright (c) 2002-2014 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * see http://www.pcisys.net/~melanson/codecs/huffyuv.txt for a description of
5  * the algorithm used
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * huffyuv codec for libavcodec.
27  */
28
29 #ifndef AVCODEC_HUFFYUV_H
30 #define AVCODEC_HUFFYUV_H
31
32 #include <stdint.h>
33
34 #include "avcodec.h"
35 #include "bswapdsp.h"
36 #include "get_bits.h"
37 #include "huffyuvdsp.h"
38 #include "huffyuvencdsp.h"
39 #include "put_bits.h"
40 #include "lossless_videodsp.h"
41 #include "lossless_videoencdsp.h"
42
43 #define VLC_BITS 12
44
45 #define MAX_BITS 16
46 #define MAX_N (1<<MAX_BITS)
47 #define MAX_VLC_N 16384
48
49 typedef enum Predictor {
50     LEFT = 0,
51     PLANE,
52     MEDIAN,
53 } Predictor;
54
55 typedef struct HYuvContext {
56     AVClass *class;
57     AVCodecContext *avctx;
58     Predictor predictor;
59     GetBitContext gb;
60     PutBitContext pb;
61     int interlaced;
62     int decorrelate;
63     int bitstream_bpp;
64     int version;
65     int yuy2;                               //use yuy2 instead of 422P
66     int bgr32;                              //use bgr32 instead of bgr24
67     int bps;
68     int n;                                  // 1<<bps
69     int vlc_n;                              // number of vlc codes (FFMIN(1<<bps, MAX_VLC_N))
70     int alpha;
71     int chroma;
72     int yuv;
73     int chroma_h_shift;
74     int chroma_v_shift;
75     int width, height;
76     int flags;
77     int context;
78     int picture_number;
79     int last_slice_end;
80     uint8_t *temp[3];
81     uint16_t *temp16[3];                    ///< identical to temp but 16bit type
82     uint64_t stats[4][MAX_VLC_N];
83     uint8_t len[4][MAX_VLC_N];
84     uint32_t bits[4][MAX_VLC_N];
85     uint32_t pix_bgr_map[1<<VLC_BITS];
86     VLC vlc[8];                             //Y,U,V,A,YY,YU,YV,AA
87     uint8_t *bitstream_buffer;
88     unsigned int bitstream_buffer_size;
89     BswapDSPContext bdsp;
90     HuffYUVDSPContext hdsp;
91     HuffYUVEncDSPContext hencdsp;
92     LLVidDSPContext llviddsp;
93     LLVidEncDSPContext llvidencdsp;
94     int non_determ; // non-deterministic, multi-threaded encoder allowed
95 } HYuvContext;
96
97 void ff_huffyuv_common_init(AVCodecContext *s);
98 void ff_huffyuv_common_end(HYuvContext *s);
99 int  ff_huffyuv_alloc_temp(HYuvContext *s);
100 int ff_huffyuv_generate_bits_table(uint32_t *dst, const uint8_t *len_table, int n);
101
102 #endif /* AVCODEC_HUFFYUV_H */