]> git.sesse.net Git - ffmpeg/blob - libavcodec/cavs.h
avformat/avio: Add Metacube support
[ffmpeg] / libavcodec / cavs.h
1 /*
2  * Chinese AVS video (AVS1-P2, JiZhun profile) decoder.
3  * Copyright (c) 2006  Stefan Gehrer <stefan.gehrer@gmx.de>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #ifndef AVCODEC_CAVS_H
23 #define AVCODEC_CAVS_H
24
25 #include "libavutil/mem_internal.h"
26
27 #include "cavsdsp.h"
28 #include "blockdsp.h"
29 #include "h264chroma.h"
30 #include "idctdsp.h"
31 #include "get_bits.h"
32 #include "videodsp.h"
33
34 #define SLICE_MAX_START_CODE    0x000001af
35 #define EXT_START_CODE          0x000001b5
36 #define USER_START_CODE         0x000001b2
37 #define CAVS_START_CODE         0x000001b0
38 #define PIC_I_START_CODE        0x000001b3
39 #define PIC_PB_START_CODE       0x000001b6
40
41 #define A_AVAIL                          1
42 #define B_AVAIL                          2
43 #define C_AVAIL                          4
44 #define D_AVAIL                          8
45 #define NOT_AVAIL                       -1
46 #define REF_INTRA                       -2
47 #define REF_DIR                         -3
48
49 #define ESCAPE_CODE                     59
50
51 #define FWD0                          0x01
52 #define FWD1                          0x02
53 #define BWD0                          0x04
54 #define BWD1                          0x08
55 #define SYM0                          0x10
56 #define SYM1                          0x20
57 #define SPLITH                        0x40
58 #define SPLITV                        0x80
59
60 #define MV_BWD_OFFS                     12
61 #define MV_STRIDE                        4
62
63 enum cavs_mb {
64   I_8X8 = 0,
65   P_SKIP,
66   P_16X16,
67   P_16X8,
68   P_8X16,
69   P_8X8,
70   B_SKIP,
71   B_DIRECT,
72   B_FWD_16X16,
73   B_BWD_16X16,
74   B_SYM_16X16,
75   B_8X8 = 29
76 };
77
78 enum cavs_sub_mb {
79   B_SUB_DIRECT,
80   B_SUB_FWD,
81   B_SUB_BWD,
82   B_SUB_SYM
83 };
84
85 enum cavs_intra_luma {
86   INTRA_L_VERT,
87   INTRA_L_HORIZ,
88   INTRA_L_LP,
89   INTRA_L_DOWN_LEFT,
90   INTRA_L_DOWN_RIGHT,
91   INTRA_L_LP_LEFT,
92   INTRA_L_LP_TOP,
93   INTRA_L_DC_128
94 };
95
96 enum cavs_intra_chroma {
97   INTRA_C_LP,
98   INTRA_C_HORIZ,
99   INTRA_C_VERT,
100   INTRA_C_PLANE,
101   INTRA_C_LP_LEFT,
102   INTRA_C_LP_TOP,
103   INTRA_C_DC_128,
104 };
105
106 enum cavs_mv_pred {
107   MV_PRED_MEDIAN,
108   MV_PRED_LEFT,
109   MV_PRED_TOP,
110   MV_PRED_TOPRIGHT,
111   MV_PRED_PSKIP,
112   MV_PRED_BSKIP
113 };
114
115 enum cavs_block {
116   BLK_16X16,
117   BLK_16X8,
118   BLK_8X16,
119   BLK_8X8
120 };
121
122 enum cavs_mv_loc {
123   MV_FWD_D3 = 0,
124   MV_FWD_B2,
125   MV_FWD_B3,
126   MV_FWD_C2,
127   MV_FWD_A1,
128   MV_FWD_X0,
129   MV_FWD_X1,
130   MV_FWD_A3 = 8,
131   MV_FWD_X2,
132   MV_FWD_X3,
133   MV_BWD_D3 = MV_BWD_OFFS,
134   MV_BWD_B2,
135   MV_BWD_B3,
136   MV_BWD_C2,
137   MV_BWD_A1,
138   MV_BWD_X0,
139   MV_BWD_X1,
140   MV_BWD_A3 = MV_BWD_OFFS+8,
141   MV_BWD_X2,
142   MV_BWD_X3
143 };
144
145 DECLARE_ALIGNED(8, typedef, struct) {
146     int16_t x;
147     int16_t y;
148     int16_t dist;
149     int16_t ref;
150 } cavs_vector;
151
152 struct dec_2dvlc {
153   int8_t rltab[59][3];
154   int8_t level_add[27];
155   int8_t golomb_order;
156   int inc_limit;
157   int8_t max_run;
158 };
159
160 typedef struct AVSFrame {
161     AVFrame *f;
162     int poc;
163 } AVSFrame;
164
165 typedef struct AVSContext {
166     AVCodecContext *avctx;
167     BlockDSPContext bdsp;
168     H264ChromaContext h264chroma;
169     IDCTDSPContext idsp;
170     VideoDSPContext vdsp;
171     CAVSDSPContext  cdsp;
172     GetBitContext gb;
173     AVSFrame cur;     ///< currently decoded frame
174     AVSFrame DPB[2];  ///< reference frames
175     int dist[2];     ///< temporal distances from current frame to ref frames
176     int low_delay;
177     int profile, level;
178     int aspect_ratio;
179     int mb_width, mb_height;
180     int width, height;
181     int stream_revision; ///<0 for samples from 2006, 1 for rm52j encoder
182     int progressive;
183     int pic_structure;
184     int skip_mode_flag; ///< select between skip_count or one skip_flag per MB
185     int loop_filter_disable;
186     int alpha_offset, beta_offset;
187     int ref_flag;
188     int mbx, mby, mbidx; ///< macroblock coordinates
189     int flags;         ///< availability flags of neighbouring macroblocks
190     int stc;           ///< last start code
191     uint8_t *cy, *cu, *cv; ///< current MB sample pointers
192     int left_qp;
193     uint8_t *top_qp;
194
195     /** mv motion vector cache
196        0:    D3  B2  B3  C2
197        4:    A1  X0  X1   -
198        8:    A3  X2  X3   -
199
200        X are the vectors in the current macroblock (5,6,9,10)
201        A is the macroblock to the left (4,8)
202        B is the macroblock to the top (1,2)
203        C is the macroblock to the top-right (3)
204        D is the macroblock to the top-left (0)
205
206        the same is repeated for backward motion vectors */
207     cavs_vector mv[2*4*3];
208     cavs_vector *top_mv[2];
209     cavs_vector *col_mv;
210
211     /** luma pred mode cache
212        0:    --  B2  B3
213        3:    A1  X0  X1
214        6:    A3  X2  X3   */
215     int pred_mode_Y[3*3];
216     int *top_pred_Y;
217     ptrdiff_t l_stride, c_stride;
218     int luma_scan[4];
219     int qp;
220     int qp_fixed;
221     int pic_qp_fixed;
222     int cbp;
223     ScanTable scantable;
224
225     /** intra prediction is done with un-deblocked samples
226      they are saved here before deblocking the MB  */
227     uint8_t *top_border_y, *top_border_u, *top_border_v;
228     uint8_t left_border_y[26], left_border_u[10], left_border_v[10];
229     uint8_t intern_border_y[26];
230     uint8_t topleft_border_y, topleft_border_u, topleft_border_v;
231
232     void (*intra_pred_l[8])(uint8_t *d, uint8_t *top, uint8_t *left, ptrdiff_t stride);
233     void (*intra_pred_c[7])(uint8_t *d, uint8_t *top, uint8_t *left, ptrdiff_t stride);
234     uint8_t *col_type_base;
235
236     /* scaling factors for MV prediction */
237     int sym_factor;    ///< for scaling in symmetrical B block
238     int direct_den[2]; ///< for scaling in direct B block
239     int scale_den[2];  ///< for scaling neighbouring MVs
240
241     uint8_t *edge_emu_buffer;
242
243     int got_keyframe;
244     int16_t *block;
245 } AVSContext;
246
247 extern const uint8_t     ff_cavs_chroma_qp[64];
248 extern const uint8_t     ff_cavs_partition_flags[30];
249 extern const cavs_vector ff_cavs_intra_mv;
250 extern const cavs_vector ff_cavs_dir_mv;
251
252 static inline void set_mvs(cavs_vector *mv, enum cavs_block size) {
253     switch(size) {
254     case BLK_16X16:
255         mv[MV_STRIDE  ] = mv[0];
256         mv[MV_STRIDE+1] = mv[0];
257     case BLK_16X8:
258         mv[1] = mv[0];
259         break;
260     case BLK_8X16:
261         mv[MV_STRIDE] = mv[0];
262         break;
263     }
264 }
265
266 void ff_cavs_filter(AVSContext *h, enum cavs_mb mb_type);
267 void ff_cavs_load_intra_pred_luma(AVSContext *h, uint8_t *top, uint8_t **left,
268                                   int block);
269 void ff_cavs_load_intra_pred_chroma(AVSContext *h);
270 void ff_cavs_modify_mb_i(AVSContext *h, int *pred_mode_uv);
271 void ff_cavs_inter(AVSContext *h, enum cavs_mb mb_type);
272 void ff_cavs_mv(AVSContext *h, enum cavs_mv_loc nP, enum cavs_mv_loc nC,
273                 enum cavs_mv_pred mode, enum cavs_block size, int ref);
274 void ff_cavs_init_mb(AVSContext *h);
275 int  ff_cavs_next_mb(AVSContext *h);
276 int ff_cavs_init_pic(AVSContext *h);
277 int ff_cavs_init_top_lines(AVSContext *h);
278 int ff_cavs_init(AVCodecContext *avctx);
279 int ff_cavs_end (AVCodecContext *avctx);
280
281 #endif /* AVCODEC_CAVS_H */