]> git.sesse.net Git - ffmpeg/blob - libavcodec/ffv1.h
hevc: change the stride of the MC buffer to be in bytes instead of elements
[ffmpeg] / libavcodec / ffv1.h
1 /*
2  * FFV1 codec for libavcodec
3  *
4  * Copyright (c) 2003-2012 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #ifndef AVCODEC_FFV1_H
24 #define AVCODEC_FFV1_H
25
26 #include <stdint.h>
27
28 #include "avcodec.h"
29 #include "get_bits.h"
30 #include "put_bits.h"
31 #include "rangecoder.h"
32
33 #define MAX_PLANES 4
34 #define CONTEXT_SIZE 32
35
36 #define MAX_QUANT_TABLES 8
37 #define MAX_CONTEXT_INPUTS 5
38
39 #define AC_GOLOMB_RICE          0
40 #define AC_RANGE_DEFAULT_TAB    1
41 #define AC_RANGE_CUSTOM_TAB     2
42
43 extern const uint8_t ff_log2_run[41];
44
45 extern const int8_t ffv1_quant5_10bit[256];
46 extern const int8_t ffv1_quant5[256];
47 extern const int8_t ffv1_quant9_10bit[256];
48 extern const int8_t ffv1_quant11[256];
49 extern const uint8_t ffv1_ver2_state[256];
50
51 typedef struct VlcState {
52     int16_t drift;
53     uint16_t error_sum;
54     int8_t bias;
55     uint8_t count;
56 } VlcState;
57
58 typedef struct PlaneContext {
59     int16_t quant_table[MAX_CONTEXT_INPUTS][256];
60     int quant_table_index;
61     int context_count;
62     uint8_t (*state)[CONTEXT_SIZE];
63     VlcState *vlc_state;
64     uint8_t interlace_bit_state[2];
65 } PlaneContext;
66
67 #define MAX_SLICES 256
68
69 typedef struct FFV1Context {
70     AVClass *class;
71     AVCodecContext *avctx;
72     RangeCoder c;
73     GetBitContext gb;
74     PutBitContext pb;
75     uint64_t rc_stat[256][2];
76     uint64_t (*rc_stat2[MAX_QUANT_TABLES])[32][2];
77     int version;
78     int minor_version;
79     int width, height;
80     int chroma_planes;
81     int chroma_h_shift, chroma_v_shift;
82     int transparency;
83     int flags;
84     int picture_number;
85     int key_frame;
86     const AVFrame *frame;
87     AVFrame *last_picture;
88
89     AVFrame *cur;
90     int plane_count;
91     int ac;     // 1 = range coder <-> 0 = golomb rice
92     int ac_byte_count;      // number of bytes used for AC coding
93     PlaneContext plane[MAX_PLANES];
94     int16_t quant_table[MAX_CONTEXT_INPUTS][256];
95     int16_t quant_tables[MAX_QUANT_TABLES][MAX_CONTEXT_INPUTS][256];
96     int context_count[MAX_QUANT_TABLES];
97     uint8_t state_transition[256];
98     uint8_t (*initial_states[MAX_QUANT_TABLES])[32];
99     int run_index;
100     int colorspace;
101     int16_t *sample_buffer;
102
103     int ec;
104     int slice_damaged;
105     int key_frame_ok;
106
107     int bits_per_raw_sample;
108     int packed_at_lsb;
109
110     int gob_count;
111     int quant_table_count;
112
113     struct FFV1Context *slice_context[MAX_SLICES];
114     int slice_count;
115     int num_v_slices;
116     int num_h_slices;
117     int slice_width;
118     int slice_height;
119     int slice_x;
120     int slice_y;
121 } FFV1Context;
122
123 static av_always_inline int fold(int diff, int bits)
124 {
125     if (bits == 8)
126         diff = (int8_t)diff;
127     else {
128         diff +=  1 << (bits  - 1);
129         diff &= (1 <<  bits) - 1;
130         diff -=  1 << (bits  - 1);
131     }
132
133     return diff;
134 }
135
136 static inline int predict(int16_t *src, int16_t *last)
137 {
138     const int LT = last[-1];
139     const int T  = last[0];
140     const int L  = src[-1];
141
142     return mid_pred(L, L + T - LT, T);
143 }
144
145 static inline int get_context(PlaneContext *p, int16_t *src,
146                               int16_t *last, int16_t *last2)
147 {
148     const int LT = last[-1];
149     const int T  = last[0];
150     const int RT = last[1];
151     const int L  = src[-1];
152
153     if (p->quant_table[3][127]) {
154         const int TT = last2[0];
155         const int LL = src[-2];
156         return p->quant_table[0][(L - LT) & 0xFF] +
157                p->quant_table[1][(LT - T) & 0xFF] +
158                p->quant_table[2][(T - RT) & 0xFF] +
159                p->quant_table[3][(LL - L) & 0xFF] +
160                p->quant_table[4][(TT - T) & 0xFF];
161     } else
162         return p->quant_table[0][(L - LT) & 0xFF] +
163                p->quant_table[1][(LT - T) & 0xFF] +
164                p->quant_table[2][(T - RT) & 0xFF];
165 }
166
167 static inline void update_vlc_state(VlcState *const state, const int v)
168 {
169     int drift = state->drift;
170     int count = state->count;
171     state->error_sum += FFABS(v);
172     drift            += v;
173
174     if (count == 128) { // FIXME: variable
175         count            >>= 1;
176         drift            >>= 1;
177         state->error_sum >>= 1;
178     }
179     count++;
180
181     if (drift <= -count) {
182         if (state->bias > -128)
183             state->bias--;
184
185         drift += count;
186         if (drift <= -count)
187             drift = -count + 1;
188     } else if (drift > 0) {
189         if (state->bias < 127)
190             state->bias++;
191
192         drift -= count;
193         if (drift > 0)
194             drift = 0;
195     }
196
197     state->drift = drift;
198     state->count = count;
199 }
200
201 int ffv1_common_init(AVCodecContext *avctx);
202 int ffv1_init_slice_state(FFV1Context *f, FFV1Context *fs);
203 int ffv1_init_slice_contexts(FFV1Context *f);
204 int ffv1_allocate_initial_states(FFV1Context *f);
205 void ffv1_clear_slice_state(FFV1Context *f, FFV1Context *fs);
206 int ffv1_close(AVCodecContext *avctx);
207
208 #endif /* AVCODEC_FFV1_H */