git.sesse.net Git - ffmpeg/blob - libavcodec/ffv1.h

   1 /*
   2  * FFV1 codec for libavcodec
   3  *
   4  * Copyright (c) 2003-2012 Michael Niedermayer <michaelni@gmx.at>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #ifndef AVCODEC_FFV1_H
  24 #define AVCODEC_FFV1_H
  25
  26 #include <stdint.h>
  27
  28 #include "avcodec.h"
  29 #include "get_bits.h"
  30 #include "put_bits.h"
  31 #include "rangecoder.h"
  32
  33 #define MAX_PLANES 4
  34 #define CONTEXT_SIZE 32
  35
  36 #define MAX_QUANT_TABLES 8
  37 #define MAX_CONTEXT_INPUTS 5
  38
  39 extern const uint8_t ff_log2_run[41];
  40
  41 extern const int8_t ffv1_quant5_10bit[256];
  42 extern const int8_t ffv1_quant5[256];
  43 extern const int8_t ffv1_quant9_10bit[256];
  44 extern const int8_t ffv1_quant11[256];
  45 extern const uint8_t ffv1_ver2_state[256];
  46
  47 typedef struct VlcState {
  48     int16_t drift;
  49     uint16_t error_sum;
  50     int8_t bias;
  51     uint8_t count;
  52 } VlcState;
  53
  54 typedef struct PlaneContext {
  55     int16_t quant_table[MAX_CONTEXT_INPUTS][256];
  56     int quant_table_index;
  57     int context_count;
  58     uint8_t (*state)[CONTEXT_SIZE];
  59     VlcState *vlc_state;
  60     uint8_t interlace_bit_state[2];
  61 } PlaneContext;
  62
  63 #define MAX_SLICES 256
  64
  65 typedef struct FFV1Context {
  66     AVClass *class;
  67     AVCodecContext *avctx;
  68     RangeCoder c;
  69     GetBitContext gb;
  70     PutBitContext pb;
  71     uint64_t rc_stat[256][2];
  72     uint64_t (*rc_stat2[MAX_QUANT_TABLES])[32][2];
  73     int version;
  74     int minor_version;
  75     int width, height;
  76     int chroma_planes;
  77     int chroma_h_shift, chroma_v_shift;
  78     int transparency;
  79     int flags;
  80     int picture_number;
  81     int key_frame;
  82     const AVFrame *frame;
  83     AVFrame *last_picture;
  84
  85     AVFrame *cur;
  86     int plane_count;
  87     int ac;     // 1 = range coder <-> 0 = golomb rice
  88     int ac_byte_count;      // number of bytes used for AC coding
  89     PlaneContext plane[MAX_PLANES];
  90     int16_t quant_table[MAX_CONTEXT_INPUTS][256];
  91     int16_t quant_tables[MAX_QUANT_TABLES][MAX_CONTEXT_INPUTS][256];
  92     int context_count[MAX_QUANT_TABLES];
  93     uint8_t state_transition[256];
  94     uint8_t (*initial_states[MAX_QUANT_TABLES])[32];
  95     int run_index;
  96     int colorspace;
  97     int16_t *sample_buffer;
  98
  99     int ec;
 100     int slice_damaged;
 101     int key_frame_ok;
 102
 103     int bits_per_raw_sample;
 104     int packed_at_lsb;
 105
 106     int gob_count;
 107     int quant_table_count;
 108
 109     struct FFV1Context *slice_context[MAX_SLICES];
 110     int slice_count;
 111     int num_v_slices;
 112     int num_h_slices;
 113     int slice_width;
 114     int slice_height;
 115     int slice_x;
 116     int slice_y;
 117 } FFV1Context;
 118
 119 static av_always_inline int fold(int diff, int bits)
 120 {
 121     if (bits == 8)
 122         diff = (int8_t)diff;
 123     else {
 124         diff +=  1 << (bits  - 1);
 125         diff &= (1 <<  bits) - 1;
 126         diff -=  1 << (bits  - 1);
 127     }
 128
 129     return diff;
 130 }
 131
 132 static inline int predict(int16_t *src, int16_t *last)
 133 {
 134     const int LT = last[-1];
 135     const int T  = last[0];
 136     const int L  = src[-1];
 137
 138     return mid_pred(L, L + T - LT, T);
 139 }
 140
 141 static inline int get_context(PlaneContext *p, int16_t *src,
 142                               int16_t *last, int16_t *last2)
 143 {
 144     const int LT = last[-1];
 145     const int T  = last[0];
 146     const int RT = last[1];
 147     const int L  = src[-1];
 148
 149     if (p->quant_table[3][127]) {
 150         const int TT = last2[0];
 151         const int LL = src[-2];
 152         return p->quant_table[0][(L - LT) & 0xFF] +
 153                p->quant_table[1][(LT - T) & 0xFF] +
 154                p->quant_table[2][(T - RT) & 0xFF] +
 155                p->quant_table[3][(LL - L) & 0xFF] +
 156                p->quant_table[4][(TT - T) & 0xFF];
 157     } else
 158         return p->quant_table[0][(L - LT) & 0xFF] +
 159                p->quant_table[1][(LT - T) & 0xFF] +
 160                p->quant_table[2][(T - RT) & 0xFF];
 161 }
 162
 163 static inline void update_vlc_state(VlcState *const state, const int v)
 164 {
 165     int drift = state->drift;
 166     int count = state->count;
 167     state->error_sum += FFABS(v);
 168     drift            += v;
 169
 170     if (count == 128) { // FIXME: variable
 171         count            >>= 1;
 172         drift            >>= 1;
 173         state->error_sum >>= 1;
 174     }
 175     count++;
 176
 177     if (drift <= -count) {
 178         if (state->bias > -128)
 179             state->bias--;
 180
 181         drift += count;
 182         if (drift <= -count)
 183             drift = -count + 1;
 184     } else if (drift > 0) {
 185         if (state->bias < 127)
 186             state->bias++;
 187
 188         drift -= count;
 189         if (drift > 0)
 190             drift = 0;
 191     }
 192
 193     state->drift = drift;
 194     state->count = count;
 195 }
 196
 197 int ffv1_common_init(AVCodecContext *avctx);
 198 int ffv1_init_slice_state(FFV1Context *f, FFV1Context *fs);
 199 int ffv1_init_slice_contexts(FFV1Context *f);
 200 int ffv1_allocate_initial_states(FFV1Context *f);
 201 void ffv1_clear_slice_state(FFV1Context *f, FFV1Context *fs);
 202 int ffv1_close(AVCodecContext *avctx);
 203
 204 #endif /* AVCODEC_FFV1_H */