git.sesse.net Git - ffmpeg/blob - libavcodec/cavsdata.h

   1 /*
   2  * Chinese AVS video (AVS1-P2, JiZhun profile) decoder.
   3  * Copyright (c) 2006  Stefan Gehrer <stefan.gehrer@gmx.de>
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
  20  */
  21
  22 #define SLICE_MIN_START_CODE    0x00000101
  23 #define SLICE_MAX_START_CODE    0x000001af
  24 #define EXT_START_CODE          0x000001b5
  25 #define USER_START_CODE         0x000001b2
  26 #define SEQ_START_CODE          0x000001b0
  27 #define PIC_I_START_CODE        0x000001b3
  28 #define PIC_PB_START_CODE       0x000001b6
  29
  30 #define A_AVAIL                          1
  31 #define B_AVAIL                          2
  32 #define C_AVAIL                          4
  33 #define D_AVAIL                          8
  34 #define NOT_AVAIL                       -1
  35 #define REF_INTRA                       -2
  36 #define REF_DIR                         -3
  37
  38 #define ESCAPE_CODE                     59
  39
  40 #define FWD0                          0x01
  41 #define FWD1                          0x02
  42 #define BWD0                          0x04
  43 #define BWD1                          0x08
  44 #define SYM0                          0x10
  45 #define SYM1                          0x20
  46 #define SPLITH                        0x40
  47 #define SPLITV                        0x80
  48
  49 #define MV_BWD_OFFS                     12
  50 #define MV_STRIDE                        4
  51
  52 enum mb_t {
  53   I_8X8 = 0,
  54   P_SKIP,
  55   P_16X16,
  56   P_16X8,
  57   P_8X16,
  58   P_8X8,
  59   B_SKIP,
  60   B_DIRECT,
  61   B_FWD_16X16,
  62   B_BWD_16X16,
  63   B_SYM_16X16,
  64   B_8X8 = 29
  65 };
  66
  67 enum sub_mb_t {
  68   B_SUB_DIRECT,
  69   B_SUB_FWD,
  70   B_SUB_BWD,
  71   B_SUB_SYM
  72 };
  73
  74 enum intra_luma_t {
  75   INTRA_L_VERT,
  76   INTRA_L_HORIZ,
  77   INTRA_L_LP,
  78   INTRA_L_DOWN_LEFT,
  79   INTRA_L_DOWN_RIGHT,
  80   INTRA_L_LP_LEFT,
  81   INTRA_L_LP_TOP,
  82   INTRA_L_DC_128
  83 };
  84
  85 enum intra_chroma_t {
  86   INTRA_C_LP,
  87   INTRA_C_HORIZ,
  88   INTRA_C_VERT,
  89   INTRA_C_PLANE,
  90   INTRA_C_LP_LEFT,
  91   INTRA_C_LP_TOP,
  92   INTRA_C_DC_128,
  93 };
  94
  95 enum mv_pred_t {
  96   MV_PRED_MEDIAN,
  97   MV_PRED_LEFT,
  98   MV_PRED_TOP,
  99   MV_PRED_TOPRIGHT,
 100   MV_PRED_PSKIP,
 101   MV_PRED_BSKIP
 102 };
 103
 104 enum block_t {
 105   BLK_16X16,
 106   BLK_16X8,
 107   BLK_8X16,
 108   BLK_8X8
 109 };
 110
 111 enum mv_loc_t {
 112   MV_FWD_D3 = 0,
 113   MV_FWD_B2,
 114   MV_FWD_B3,
 115   MV_FWD_C2,
 116   MV_FWD_A1,
 117   MV_FWD_X0,
 118   MV_FWD_X1,
 119   MV_FWD_A3 = 8,
 120   MV_FWD_X2,
 121   MV_FWD_X3,
 122   MV_BWD_D3 = MV_BWD_OFFS,
 123   MV_BWD_B2,
 124   MV_BWD_B3,
 125   MV_BWD_C2,
 126   MV_BWD_A1,
 127   MV_BWD_X0,
 128   MV_BWD_X1,
 129   MV_BWD_A3 = MV_BWD_OFFS+8,
 130   MV_BWD_X2,
 131   MV_BWD_X3
 132 };
 133
 134 #ifdef CONFIG_CAVS_DECODER
 135 static const uint8_t partition_flags[30] = {
 136   0,                                 //I_8X8
 137   0,                                 //P_SKIP
 138   0,                                 //P_16X16
 139                       SPLITH,        //P_16X8
 140                              SPLITV, //P_8X16
 141                       SPLITH|SPLITV, //P_8X8
 142                       SPLITH|SPLITV, //B_SKIP
 143                       SPLITH|SPLITV, //B_DIRECT
 144   0,                                 //B_FWD_16X16
 145   0,                                 //B_BWD_16X16
 146   0,                                 //B_SYM_16X16
 147   FWD0|FWD1          |SPLITH,
 148   FWD0|FWD1                 |SPLITV,
 149   BWD0|BWD1          |SPLITH,
 150   BWD0|BWD1                 |SPLITV,
 151   FWD0|BWD1          |SPLITH,
 152   FWD0|BWD1                 |SPLITV,
 153   BWD0|FWD1          |SPLITH,
 154   BWD0|FWD1                 |SPLITV,
 155   FWD0|FWD1     |SYM1|SPLITH,
 156   FWD0|FWD1     |SYM1       |SPLITV,
 157   BWD0|FWD1     |SYM1|SPLITH,
 158   BWD0|FWD1     |SYM1       |SPLITV,
 159   FWD0|FWD1|SYM0     |SPLITH,
 160   FWD0|FWD1|SYM0            |SPLITV,
 161   FWD0|BWD1|SYM0     |SPLITH,
 162   FWD0|BWD1|SYM0            |SPLITV,
 163   FWD0|FWD1|SYM0|SYM1|SPLITH,
 164   FWD0|FWD1|SYM0|SYM1       |SPLITV,
 165                       SPLITH|SPLITV, //B_8X8 = 29
 166 };
 167
 168 static const uint8_t scan3x3[4] = {4,5,7,8};
 169
 170 static const uint8_t mv_scan[4] = {
 171     MV_FWD_X0,MV_FWD_X1,
 172     MV_FWD_X2,MV_FWD_X3
 173 };
 174
 175 static const uint8_t cbp_tab[64][2] = {
 176   {63, 0},{15,15},{31,63},{47,31},{ 0,16},{14,32},{13,47},{11,13},
 177   { 7,14},{ 5,11},{10,12},{ 8, 5},{12,10},{61, 7},{ 4,48},{55, 3},
 178   { 1, 2},{ 2, 8},{59, 4},{ 3, 1},{62,61},{ 9,55},{ 6,59},{29,62},
 179   {45,29},{51,27},{23,23},{39,19},{27,30},{46,28},{53, 9},{30, 6},
 180   {43,60},{37,21},{60,44},{16,26},{21,51},{28,35},{19,18},{35,20},
 181   {42,24},{26,53},{44,17},{32,37},{58,39},{24,45},{20,58},{17,43},
 182   {18,42},{48,46},{22,36},{33,33},{25,34},{49,40},{40,52},{36,49},
 183   {34,50},{50,56},{52,25},{54,22},{41,54},{56,57},{38,41},{57,38}
 184 };
 185
 186 static const uint8_t chroma_qp[64] = {
 187   0,  1, 2, 3, 4, 5, 6, 7, 8, 9,10,11,12,13,14,15,
 188   16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31,
 189   32,33,34,35,36,37,38,39,40,41,42,42,43,43,44,44,
 190   45,45,46,46,47,47,48,48,48,49,49,49,50,50,50,51
 191 };
 192
 193 static const uint8_t dequant_shift[64] = {
 194   14,14,14,14,14,14,14,14,
 195   13,13,13,13,13,13,13,13,
 196   13,12,12,12,12,12,12,12,
 197   11,11,11,11,11,11,11,11,
 198   11,10,10,10,10,10,10,10,
 199   10, 9, 9, 9, 9, 9, 9, 9,
 200   9, 8, 8, 8, 8, 8, 8, 8,
 201   7, 7, 7, 7, 7, 7, 7, 7
 202 };
 203
 204 static const uint16_t dequant_mul[64] = {
 205   32768,36061,38968,42495,46341,50535,55437,60424,
 206   32932,35734,38968,42495,46177,50535,55109,59933,
 207   65535,35734,38968,42577,46341,50617,55027,60097,
 208   32809,35734,38968,42454,46382,50576,55109,60056,
 209   65535,35734,38968,42495,46320,50515,55109,60076,
 210   65535,35744,38968,42495,46341,50535,55099,60087,
 211   65535,35734,38973,42500,46341,50535,55109,60097,
 212   32771,35734,38965,42497,46341,50535,55109,60099
 213 };
 214
 215 DECLARE_ALIGNED_8(typedef, struct) {
 216     int16_t x;
 217     int16_t y;
 218     int16_t dist;
 219     int16_t ref;
 220 } vector_t;
 221
 222 /** marks block as unavailable, i.e. out of picture
 223     or not yet decoded */
 224 static const vector_t un_mv    = {0,0,1,NOT_AVAIL};
 225
 226 /** marks block as "no prediction from this direction"
 227     e.g. forward motion vector in BWD partition */
 228 static const vector_t dir_mv   = {0,0,1,REF_DIR};
 229
 230 /** marks block as using intra prediction */
 231 static const vector_t intra_mv = {0,0,1,REF_INTRA};
 232
 233 typedef struct residual_vlc_t {
 234   int8_t rltab[59][3];
 235   int8_t level_add[27];
 236   int8_t golomb_order;
 237   int inc_limit;
 238   int8_t max_run;
 239 } residual_vlc_t;
 240
 241 #define EOB 0,0,0
 242
 243 static const residual_vlc_t intra_2dvlc[7] = {
 244   {
 245     { //level / run / table_inc
 246       {  1, 1, 1},{ -1, 1, 1},{  1, 2, 1},{ -1, 2, 1},{  1, 3, 1},{ -1, 3, 1},
 247       {  1, 4, 1},{ -1, 4, 1},{  1, 5, 1},{ -1, 5, 1},{  1, 6, 1},{ -1, 6, 1},
 248       {  1, 7, 1},{ -1, 7, 1},{  1, 8, 1},{ -1, 8, 1},{  1, 9, 1},{ -1, 9, 1},
 249       {  1,10, 1},{ -1,10, 1},{  1,11, 1},{ -1,11, 1},{  2, 1, 2},{ -2, 1, 2},
 250       {  1,12, 1},{ -1,12, 1},{  1,13, 1},{ -1,13, 1},{  1,14, 1},{ -1,14, 1},
 251       {  1,15, 1},{ -1,15, 1},{  2, 2, 2},{ -2, 2, 2},{  1,16, 1},{ -1,16, 1},
 252       {  1,17, 1},{ -1,17, 1},{  3, 1, 3},{ -3, 1, 3},{  1,18, 1},{ -1,18, 1},
 253       {  1,19, 1},{ -1,19, 1},{  2, 3, 2},{ -2, 3, 2},{  1,20, 1},{ -1,20, 1},
 254       {  1,21, 1},{ -1,21, 1},{  2, 4, 2},{ -2, 4, 2},{  1,22, 1},{ -1,22, 1},
 255       {  2, 5, 2},{ -2, 5, 2},{  1,23, 1},{ -1,23, 1},{   EOB   }
 256     },
 257     //level_add
 258     { 0, 4, 3, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
 259       2, 2, 2, 2, 2, 2, 2,-1,-1,-1},
 260     2, //golomb_order
 261     0, //inc_limit
 262     23, //max_run
 263   },{
 264     { //level / run
 265       {  1, 1, 0},{ -1, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  2, 1, 1},{ -2, 1, 1},
 266       {  1, 3, 0},{ -1, 3, 0},{   EOB   },{  1, 4, 0},{ -1, 4, 0},{  1, 5, 0},
 267       { -1, 5, 0},{  1, 6, 0},{ -1, 6, 0},{  3, 1, 2},{ -3, 1, 2},{  2, 2, 1},
 268       { -2, 2, 1},{  1, 7, 0},{ -1, 7, 0},{  1, 8, 0},{ -1, 8, 0},{  1, 9, 0},
 269       { -1, 9, 0},{  2, 3, 1},{ -2, 3, 1},{  4, 1, 2},{ -4, 1, 2},{  1,10, 0},
 270       { -1,10, 0},{  1,11, 0},{ -1,11, 0},{  2, 4, 1},{ -2, 4, 1},{  3, 2, 2},
 271       { -3, 2, 2},{  1,12, 0},{ -1,12, 0},{  2, 5, 1},{ -2, 5, 1},{  5, 1, 3},
 272       { -5, 1, 3},{  1,13, 0},{ -1,13, 0},{  2, 6, 1},{ -2, 6, 1},{  1,14, 0},
 273       { -1,14, 0},{  2, 7, 1},{ -2, 7, 1},{  2, 8, 1},{ -2, 8, 1},{  3, 3, 2},
 274       { -3, 3, 2},{  6, 1, 3},{ -6, 1, 3},{  1,15, 0},{ -1,15, 0}
 275     },
 276     //level_add
 277     { 0, 7, 4, 4, 3, 3, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2,-1,
 278       -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 279     2, //golomb_order
 280     1, //inc_limit
 281     15, //max_run
 282   },{
 283     { //level / run
 284       {  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  1, 2, 0},{ -1, 2, 0},
 285       {  3, 1, 1},{ -3, 1, 1},{   EOB   },{  1, 3, 0},{ -1, 3, 0},{  2, 2, 0},
 286       { -2, 2, 0},{  4, 1, 1},{ -4, 1, 1},{  1, 4, 0},{ -1, 4, 0},{  5, 1, 2},
 287       { -5, 1, 2},{  1, 5, 0},{ -1, 5, 0},{  3, 2, 1},{ -3, 2, 1},{  2, 3, 0},
 288       { -2, 3, 0},{  1, 6, 0},{ -1, 6, 0},{  6, 1, 2},{ -6, 1, 2},{  2, 4, 0},
 289       { -2, 4, 0},{  1, 7, 0},{ -1, 7, 0},{  4, 2, 1},{ -4, 2, 1},{  7, 1, 2},
 290       { -7, 1, 2},{  3, 3, 1},{ -3, 3, 1},{  2, 5, 0},{ -2, 5, 0},{  1, 8, 0},
 291       { -1, 8, 0},{  2, 6, 0},{ -2, 6, 0},{  8, 1, 3},{ -8, 1, 3},{  1, 9, 0},
 292       { -1, 9, 0},{  5, 2, 2},{ -5, 2, 2},{  3, 4, 1},{ -3, 4, 1},{  2, 7, 0},
 293       { -2, 7, 0},{  9, 1, 3},{ -9, 1, 3},{  1,10, 0},{ -1,10, 0}
 294     },
 295     //level_add
 296     { 0,10, 6, 4, 4, 3, 3, 3, 2, 2, 2,-1,-1,-1,-1,-1,-1,
 297      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 298     2, //golomb_order
 299     2, //inc_limit
 300     10, //max_run
 301   },{
 302     { //level / run
 303       {  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},{ -3, 1, 0},
 304       {  1, 2, 0},{ -1, 2, 0},{   EOB   },{  4, 1, 0},{ -4, 1, 0},{  5, 1, 1},
 305       { -5, 1, 1},{  2, 2, 0},{ -2, 2, 0},{  1, 3, 0},{ -1, 3, 0},{  6, 1, 1},
 306       { -6, 1, 1},{  3, 2, 0},{ -3, 2, 0},{  7, 1, 1},{ -7, 1, 1},{  1, 4, 0},
 307       { -1, 4, 0},{  8, 1, 2},{ -8, 1, 2},{  2, 3, 0},{ -2, 3, 0},{  4, 2, 0},
 308       { -4, 2, 0},{  1, 5, 0},{ -1, 5, 0},{  9, 1, 2},{ -9, 1, 2},{  5, 2, 1},
 309       { -5, 2, 1},{  2, 4, 0},{ -2, 4, 0},{ 10, 1, 2},{-10, 1, 2},{  3, 3, 0},
 310       { -3, 3, 0},{  1, 6, 0},{ -1, 6, 0},{ 11, 1, 3},{-11, 1, 3},{  6, 2, 1},
 311       { -6, 2, 1},{  1, 7, 0},{ -1, 7, 0},{  2, 5, 0},{ -2, 5, 0},{  3, 4, 0},
 312       { -3, 4, 0},{ 12, 1, 3},{-12, 1, 3},{  4, 3, 0},{ -4, 3, 0}
 313     },
 314     //level_add
 315     { 0,13, 7, 5, 4, 3, 2, 2,-1,-1,-1 -1,-1,-1,-1,-1,-1,
 316      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 317     2, //golomb_order
 318     4, //inc_limit
 319     7, //max_run
 320   },{
 321     { //level / run
 322       {  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},{ -3, 1, 0},
 323       {   EOB   },{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  6, 1, 0},
 324       { -6, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  7, 1, 0},{ -7, 1, 0},{  8, 1, 1},
 325       { -8, 1, 1},{  2, 2, 0},{ -2, 2, 0},{  9, 1, 1},{ -9, 1, 1},{ 10, 1, 1},
 326       {-10, 1, 1},{  1, 3, 0},{ -1, 3, 0},{  3, 2, 0},{ -3, 2, 0},{ 11, 1, 2},
 327       {-11, 1, 2},{  4, 2, 0},{ -4, 2, 0},{ 12, 1, 2},{-12, 1, 2},{ 13, 1, 2},
 328       {-13, 1, 2},{  5, 2, 0},{ -5, 2, 0},{  1, 4, 0},{ -1, 4, 0},{  2, 3, 0},
 329       { -2, 3, 0},{ 14, 1, 2},{-14, 1, 2},{  6, 2, 0},{ -6, 2, 0},{ 15, 1, 2},
 330       {-15, 1, 2},{ 16, 1, 2},{-16, 1, 2},{  3, 3, 0},{ -3, 3, 0},{  1, 5, 0},
 331       { -1, 5, 0},{  7, 2, 0},{ -7, 2, 0},{ 17, 1, 2},{-17, 1, 2}
 332     },
 333     //level_add
 334     { 0,18, 8, 4, 2, 2,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 335      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 336     2, //golomb_order
 337     7, //inc_limit
 338     5, //max_run
 339   },{
 340     { //level / run
 341       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 342       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  6, 1, 0},
 343       { -6, 1, 0},{  7, 1, 0},{ -7, 1, 0},{  8, 1, 0},{ -8, 1, 0},{  9, 1, 0},
 344       { -9, 1, 0},{ 10, 1, 0},{-10, 1, 0},{  1, 2, 0},{ -1, 2, 0},{ 11, 1, 1},
 345       {-11, 1, 1},{ 12, 1, 1},{-12, 1, 1},{ 13, 1, 1},{-13, 1, 1},{  2, 2, 0},
 346       { -2, 2, 0},{ 14, 1, 1},{-14, 1, 1},{ 15, 1, 1},{-15, 1, 1},{  3, 2, 0},
 347       { -3, 2, 0},{ 16, 1, 1},{-16, 1, 1},{  1, 3, 0},{ -1, 3, 0},{ 17, 1, 1},
 348       {-17, 1, 1},{  4, 2, 0},{ -4, 2, 0},{ 18, 1, 1},{-18, 1, 1},{  5, 2, 0},
 349       { -5, 2, 0},{ 19, 1, 1},{-19, 1, 1},{ 20, 1, 1},{-20, 1, 1},{  6, 2, 0},
 350       { -6, 2, 0},{ 21, 1, 1},{-21, 1, 1},{  2, 3, 0},{ -2, 3, 0}
 351     },
 352     //level_add
 353     { 0,22, 7, 3,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 354      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 355     2, //golomb_order
 356     10, //inc_limit
 357     3, //max_run
 358   },{
 359     { //level / run
 360       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 361       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  6, 1, 0},
 362       { -6, 1, 0},{  7, 1, 0},{ -7, 1, 0},{  8, 1, 0},{ -8, 1, 0},{  9, 1, 0},
 363       { -9, 1, 0},{ 10, 1, 0},{-10, 1, 0},{ 11, 1, 0},{-11, 1, 0},{ 12, 1, 0},
 364       {-12, 1, 0},{ 13, 1, 0},{-13, 1, 0},{ 14, 1, 0},{-14, 1, 0},{ 15, 1, 0},
 365       {-15, 1, 0},{ 16, 1, 0},{-16, 1, 0},{  1, 2, 0},{ -1, 2, 0},{ 17, 1, 0},
 366       {-17, 1, 0},{ 18, 1, 0},{-18, 1, 0},{ 19, 1, 0},{-19, 1, 0},{ 20, 1, 0},
 367       {-20, 1, 0},{ 21, 1, 0},{-21, 1, 0},{  2, 2, 0},{ -2, 2, 0},{ 22, 1, 0},
 368       {-22, 1, 0},{ 23, 1, 0},{-23, 1, 0},{ 24, 1, 0},{-24, 1, 0},{ 25, 1, 0},
 369       {-25, 1, 0},{  3, 2, 0},{ -3, 2, 0},{ 26, 1, 0},{-26, 1, 0}
 370     },
 371     //level_add
 372     { 0,27, 4,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 373      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 374     2, //golomb_order
 375     INT_MAX, //inc_limit
 376     2, //max_run
 377   }
 378 };
 379
 380 static const residual_vlc_t inter_2dvlc[7] = {
 381   {
 382     { //level / run
 383       {  1, 1, 1},{ -1, 1, 1},{  1, 2, 1},{ -1, 2, 1},{  1, 3, 1},{ -1, 3, 1},
 384       {  1, 4, 1},{ -1, 4, 1},{  1, 5, 1},{ -1, 5, 1},{  1, 6, 1},{ -1, 6, 1},
 385       {  1, 7, 1},{ -1, 7, 1},{  1, 8, 1},{ -1, 8, 1},{  1, 9, 1},{ -1, 9, 1},
 386       {  1,10, 1},{ -1,10, 1},{  1,11, 1},{ -1,11, 1},{  1,12, 1},{ -1,12, 1},
 387       {  1,13, 1},{ -1,13, 1},{  2, 1, 2},{ -2, 1, 2},{  1,14, 1},{ -1,14, 1},
 388       {  1,15, 1},{ -1,15, 1},{  1,16, 1},{ -1,16, 1},{  1,17, 1},{ -1,17, 1},
 389       {  1,18, 1},{ -1,18, 1},{  1,19, 1},{ -1,19, 1},{  3, 1, 3},{ -3, 1, 3},
 390       {  1,20, 1},{ -1,20, 1},{  1,21, 1},{ -1,21, 1},{  2, 2, 2},{ -2, 2, 2},
 391       {  1,22, 1},{ -1,22, 1},{  1,23, 1},{ -1,23, 1},{  1,24, 1},{ -1,24, 1},
 392       {  1,25, 1},{ -1,25, 1},{  1,26, 1},{ -1,26, 1},{   EOB   }
 393     },
 394     //level_add
 395     { 0, 4, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
 396       2, 2, 2, 2, 2, 2, 2, 2, 2, 2},
 397     3, //golomb_order
 398     0, //inc_limit
 399     26 //max_run
 400   },{
 401     { //level / run
 402       {  1, 1, 0},{ -1, 1, 0},{   EOB   },{  1, 2, 0},{ -1, 2, 0},{  1, 3, 0},
 403       { -1, 3, 0},{  1, 4, 0},{ -1, 4, 0},{  1, 5, 0},{ -1, 5, 0},{  1, 6, 0},
 404       { -1, 6, 0},{  2, 1, 1},{ -2, 1, 1},{  1, 7, 0},{ -1, 7, 0},{  1, 8, 0},
 405       { -1, 8, 0},{  1, 9, 0},{ -1, 9, 0},{  1,10, 0},{ -1,10, 0},{  2, 2, 1},
 406       { -2, 2, 1},{  1,11, 0},{ -1,11, 0},{  1,12, 0},{ -1,12, 0},{  3, 1, 2},
 407       { -3, 1, 2},{  1,13, 0},{ -1,13, 0},{  1,14, 0},{ -1,14, 0},{  2, 3, 1},
 408       { -2, 3, 1},{  1,15, 0},{ -1,15, 0},{  2, 4, 1},{ -2, 4, 1},{  1,16, 0},
 409       { -1,16, 0},{  2, 5, 1},{ -2, 5, 1},{  1,17, 0},{ -1,17, 0},{  4, 1, 3},
 410       { -4, 1, 3},{  2, 6, 1},{ -2, 6, 1},{  1,18, 0},{ -1,18, 0},{  1,19, 0},
 411       { -1,19, 0},{  2, 7, 1},{ -2, 7, 1},{  3, 2, 2},{ -3, 2, 2}
 412     },
 413     //level_add
 414     { 0, 5, 4, 3, 3, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2,
 415       2, 2, 2,-1,-1,-1,-1,-1,-1,-1},
 416     2, //golomb_order
 417     1, //inc_limit
 418     19 //max_run
 419   },{
 420     { //level / run
 421       {  1, 1, 0},{ -1, 1, 0},{   EOB   },{  1, 2, 0},{ -1, 2, 0},{  2, 1, 0},
 422       { -2, 1, 0},{  1, 3, 0},{ -1, 3, 0},{  1, 4, 0},{ -1, 4, 0},{  3, 1, 1},
 423       { -3, 1, 1},{  2, 2, 0},{ -2, 2, 0},{  1, 5, 0},{ -1, 5, 0},{  1, 6, 0},
 424       { -1, 6, 0},{  1, 7, 0},{ -1, 7, 0},{  2, 3, 0},{ -2, 3, 0},{  4, 1, 2},
 425       { -4, 1, 2},{  1, 8, 0},{ -1, 8, 0},{  3, 2, 1},{ -3, 2, 1},{  2, 4, 0},
 426       { -2, 4, 0},{  1, 9, 0},{ -1, 9, 0},{  1,10, 0},{ -1,10, 0},{  5, 1, 2},
 427       { -5, 1, 2},{  2, 5, 0},{ -2, 5, 0},{  1,11, 0},{ -1,11, 0},{  2, 6, 0},
 428       { -2, 6, 0},{  1,12, 0},{ -1,12, 0},{  3, 3, 1},{ -3, 3, 1},{  6, 1, 2},
 429       { -6, 1, 2},{  4, 2, 2},{ -4, 2, 2},{  1,13, 0},{ -1,13, 0},{  2, 7, 0},
 430       { -2, 7, 0},{  3, 4, 1},{ -3, 4, 1},{  1,14, 0},{ -1,14, 0}
 431     },
 432     //level_add
 433     { 0, 7, 5, 4, 4, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2,-1,-1,
 434       -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 435     2, //golomb_order
 436     2, //inc_limit
 437     14 //max_run
 438   },{
 439     { //level / run
 440       {  1, 1, 0},{ -1, 1, 0},{   EOB   },{  2, 1, 0},{ -2, 1, 0},{  1, 2, 0},
 441       { -1, 2, 0},{  3, 1, 0},{ -3, 1, 0},{  1, 3, 0},{ -1, 3, 0},{  2, 2, 0},
 442       { -2, 2, 0},{  4, 1, 1},{ -4, 1, 1},{  1, 4, 0},{ -1, 4, 0},{  5, 1, 1},
 443       { -5, 1, 1},{  1, 5, 0},{ -1, 5, 0},{  3, 2, 0},{ -3, 2, 0},{  2, 3, 0},
 444       { -2, 3, 0},{  1, 6, 0},{ -1, 6, 0},{  6, 1, 1},{ -6, 1, 1},{  2, 4, 0},
 445       { -2, 4, 0},{  1, 7, 0},{ -1, 7, 0},{  4, 2, 1},{ -4, 2, 1},{  7, 1, 2},
 446       { -7, 1, 2},{  3, 3, 0},{ -3, 3, 0},{  1, 8, 0},{ -1, 8, 0},{  2, 5, 0},
 447       { -2, 5, 0},{  8, 1, 2},{ -8, 1, 2},{  1, 9, 0},{ -1, 9, 0},{  3, 4, 0},
 448       { -3, 4, 0},{  2, 6, 0},{ -2, 6, 0},{  5, 2, 1},{ -5, 2, 1},{  1,10, 0},
 449       { -1,10, 0},{  9, 1, 2},{ -9, 1, 2},{  4, 3, 1},{ -4, 3, 1}
 450     },
 451     //level_add
 452     { 0,10, 6, 5, 4, 3, 3, 2, 2, 2, 2,-1,-1,-1,-1,-1,-1,
 453      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 454     2, //golomb_order
 455     3, //inc_limit
 456     10 //max_run
 457   },{
 458     { //level / run
 459       {  1, 1, 0},{ -1, 1, 0},{   EOB   },{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 460       { -3, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},
 461       { -5, 1, 0},{  2, 2, 0},{ -2, 2, 0},{  1, 3, 0},{ -1, 3, 0},{  6, 1, 0},
 462       { -6, 1, 0},{  3, 2, 0},{ -3, 2, 0},{  7, 1, 1},{ -7, 1, 1},{  1, 4, 0},
 463       { -1, 4, 0},{  8, 1, 1},{ -8, 1, 1},{  2, 3, 0},{ -2, 3, 0},{  4, 2, 0},
 464       { -4, 2, 0},{  1, 5, 0},{ -1, 5, 0},{  9, 1, 1},{ -9, 1, 1},{  5, 2, 0},
 465       { -5, 2, 0},{  2, 4, 0},{ -2, 4, 0},{  1, 6, 0},{ -1, 6, 0},{ 10, 1, 2},
 466       {-10, 1, 2},{  3, 3, 0},{ -3, 3, 0},{ 11, 1, 2},{-11, 1, 2},{  1, 7, 0},
 467       { -1, 7, 0},{  6, 2, 0},{ -6, 2, 0},{  3, 4, 0},{ -3, 4, 0},{  2, 5, 0},
 468       { -2, 5, 0},{ 12, 1, 2},{-12, 1, 2},{  4, 3, 0},{ -4, 3, 0}
 469     },
 470     //level_add
 471     { 0,13, 7, 5, 4, 3, 2, 2,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 472      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 473     2, //golomb_order
 474     6, //inc_limit
 475     7  //max_run
 476   },{
 477     { //level / run
 478       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 479       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  1, 2, 0},
 480       { -1, 2, 0},{  6, 1, 0},{ -6, 1, 0},{  7, 1, 0},{ -7, 1, 0},{  8, 1, 0},
 481       { -8, 1, 0},{  2, 2, 0},{ -2, 2, 0},{  9, 1, 0},{ -9, 1, 0},{  1, 3, 0},
 482       { -1, 3, 0},{ 10, 1, 1},{-10, 1, 1},{  3, 2, 0},{ -3, 2, 0},{ 11, 1, 1},
 483       {-11, 1, 1},{  4, 2, 0},{ -4, 2, 0},{ 12, 1, 1},{-12, 1, 1},{  1, 4, 0},
 484       { -1, 4, 0},{  2, 3, 0},{ -2, 3, 0},{ 13, 1, 1},{-13, 1, 1},{  5, 2, 0},
 485       { -5, 2, 0},{ 14, 1, 1},{-14, 1, 1},{  6, 2, 0},{ -6, 2, 0},{  1, 5, 0},
 486       { -1, 5, 0},{ 15, 1, 1},{-15, 1, 1},{  3, 3, 0},{ -3, 3, 0},{ 16, 1, 1},
 487       {-16, 1, 1},{  2, 4, 0},{ -2, 4, 0},{  7, 2, 0},{ -7, 2, 0}
 488     },
 489     //level_add
 490     { 0,17, 8, 4, 3, 2,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 491      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 492     2, //golomb_order
 493     9, //inc_limit
 494     5  //max_run
 495   },{
 496     { //level / run
 497       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 498       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  6, 1, 0},
 499       { -6, 1, 0},{  7, 1, 0},{ -7, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  8, 1, 0},
 500       { -8, 1, 0},{  9, 1, 0},{ -9, 1, 0},{ 10, 1, 0},{-10, 1, 0},{ 11, 1, 0},
 501       {-11, 1, 0},{ 12, 1, 0},{-12, 1, 0},{  2, 2, 0},{ -2, 2, 0},{ 13, 1, 0},
 502       {-13, 1, 0},{  1, 3, 0},{ -1, 3, 0},{ 14, 1, 0},{-14, 1, 0},{ 15, 1, 0},
 503       {-15, 1, 0},{  3, 2, 0},{ -3, 2, 0},{ 16, 1, 0},{-16, 1, 0},{ 17, 1, 0},
 504       {-17, 1, 0},{ 18, 1, 0},{-18, 1, 0},{  4, 2, 0},{ -4, 2, 0},{ 19, 1, 0},
 505       {-19, 1, 0},{ 20, 1, 0},{-20, 1, 0},{  2, 3, 0},{ -2, 3, 0},{  1, 4, 0},
 506       { -1, 4, 0},{  5, 2, 0},{ -5, 2, 0},{ 21, 1, 0},{-21, 1, 0}
 507     },
 508     //level_add
 509     { 0,22, 6, 3, 2,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 510      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 511     2, //golomb_order
 512     INT_MAX, //inc_limit
 513     4 //max_run
 514   }
 515 };
 516
 517 static const residual_vlc_t chroma_2dvlc[5] = {
 518   {
 519     { //level / run
 520       {  1, 1, 1},{ -1, 1, 1},{  1, 2, 1},{ -1, 2, 1},{  1, 3, 1},{ -1, 3, 1},
 521       {  1, 4, 1},{ -1, 4, 1},{  1, 5, 1},{ -1, 5, 1},{  1, 6, 1},{ -1, 6, 1},
 522       {  1, 7, 1},{ -1, 7, 1},{  2, 1, 2},{ -2, 1, 2},{  1, 8, 1},{ -1, 8, 1},
 523       {  1, 9, 1},{ -1, 9, 1},{  1,10, 1},{ -1,10, 1},{  1,11, 1},{ -1,11, 1},
 524       {  1,12, 1},{ -1,12, 1},{  1,13, 1},{ -1,13, 1},{  1,14, 1},{ -1,14, 1},
 525       {  1,15, 1},{ -1,15, 1},{  3, 1, 3},{ -3, 1, 3},{  1,16, 1},{ -1,16, 1},
 526       {  1,17, 1},{ -1,17, 1},{  1,18, 1},{ -1,18, 1},{  1,19, 1},{ -1,19, 1},
 527       {  1,20, 1},{ -1,20, 1},{  1,21, 1},{ -1,21, 1},{  1,22, 1},{ -1,22, 1},
 528       {  2, 2, 2},{ -2, 2, 2},{  1,23, 1},{ -1,23, 1},{  1,24, 1},{ -1,24, 1},
 529       {  1,25, 1},{ -1,25, 1},{  4, 1, 3},{ -4, 1, 3},{   EOB   }
 530     },
 531     //level_add
 532     { 0, 5, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
 533       2, 2, 2, 2, 2, 2, 2, 2, 2,-1},
 534     2, //golomb_order
 535     0, //inc_limit
 536     25 //max_run
 537   },{
 538     { //level / run
 539       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  2, 1, 1},
 540       { -2, 1, 1},{  1, 3, 0},{ -1, 3, 0},{  1, 4, 0},{ -1, 4, 0},{  1, 5, 0},
 541       { -1, 5, 0},{  1, 6, 0},{ -1, 6, 0},{  3, 1, 2},{ -3, 1, 2},{  1, 7, 0},
 542       { -1, 7, 0},{  1, 8, 0},{ -1, 8, 0},{  2, 2, 1},{ -2, 2, 1},{  1, 9, 0},
 543       { -1, 9, 0},{  1,10, 0},{ -1,10, 0},{  1,11, 0},{ -1,11, 0},{  4, 1, 2},
 544       { -4, 1, 2},{  1,12, 0},{ -1,12, 0},{  1,13, 0},{ -1,13, 0},{  1,14, 0},
 545       { -1,14, 0},{  2, 3, 1},{ -2, 3, 1},{  1,15, 0},{ -1,15, 0},{  2, 4, 1},
 546       { -2, 4, 1},{  5, 1, 3},{ -5, 1, 3},{  3, 2, 2},{ -3, 2, 2},{  1,16, 0},
 547       { -1,16, 0},{  1,17, 0},{ -1,17, 0},{  1,18, 0},{ -1,18, 0},{  2, 5, 1},
 548       { -2, 5, 1},{  1,19, 0},{ -1,19, 0},{  1,20, 0},{ -1,20, 0}
 549     },
 550     //level_add
 551     { 0, 6, 4, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
 552       2, 2, 2, 2,-1,-1,-1,-1,-1,-1},
 553     0, //golomb_order
 554     1, //inc_limit
 555     20 //max_run
 556   },{
 557     { //level / run
 558       {  1, 1, 0},{ -1, 1, 0},{   EOB   },{  2, 1, 0},{ -2, 1, 0},{  1, 2, 0},
 559       { -1, 2, 0},{  3, 1, 1},{ -3, 1, 1},{  1, 3, 0},{ -1, 3, 0},{  4, 1, 1},
 560       { -4, 1, 1},{  2, 2, 0},{ -2, 2, 0},{  1, 4, 0},{ -1, 4, 0},{  5, 1, 2},
 561       { -5, 1, 2},{  1, 5, 0},{ -1, 5, 0},{  3, 2, 1},{ -3, 2, 1},{  2, 3, 0},
 562       { -2, 3, 0},{  1, 6, 0},{ -1, 6, 0},{  6, 1, 2},{ -6, 1, 2},{  1, 7, 0},
 563       { -1, 7, 0},{  2, 4, 0},{ -2, 4, 0},{  7, 1, 2},{ -7, 1, 2},{  1, 8, 0},
 564       { -1, 8, 0},{  4, 2, 1},{ -4, 2, 1},{  1, 9, 0},{ -1, 9, 0},{  3, 3, 1},
 565       { -3, 3, 1},{  2, 5, 0},{ -2, 5, 0},{  2, 6, 0},{ -2, 6, 0},{  8, 1, 2},
 566       { -8, 1, 2},{  1,10, 0},{ -1,10, 0},{  1,11, 0},{ -1,11, 0},{  9, 1, 2},
 567       { -9, 1, 2},{  5, 2, 2},{ -5, 2, 2},{  3, 4, 1},{ -3, 4, 1},
 568     },
 569     //level_add
 570     { 0,10, 6, 4, 4, 3, 3, 2, 2, 2, 2, 2,-1,-1,-1,-1,-1,
 571      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 572     1, //golomb_order
 573     2, //inc_limit
 574     11 //max_run
 575   },{
 576     { //level / run
 577       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 578       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  1, 2, 0},{ -1, 2, 0},{  5, 1, 1},
 579       { -5, 1, 1},{  2, 2, 0},{ -2, 2, 0},{  6, 1, 1},{ -6, 1, 1},{  1, 3, 0},
 580       { -1, 3, 0},{  7, 1, 1},{ -7, 1, 1},{  3, 2, 0},{ -3, 2, 0},{  8, 1, 1},
 581       { -8, 1, 1},{  1, 4, 0},{ -1, 4, 0},{  2, 3, 0},{ -2, 3, 0},{  9, 1, 1},
 582       { -9, 1, 1},{  4, 2, 0},{ -4, 2, 0},{  1, 5, 0},{ -1, 5, 0},{ 10, 1, 1},
 583       {-10, 1, 1},{  3, 3, 0},{ -3, 3, 0},{  5, 2, 1},{ -5, 2, 1},{  2, 4, 0},
 584       { -2, 4, 0},{ 11, 1, 1},{-11, 1, 1},{  1, 6, 0},{ -1, 6, 0},{ 12, 1, 1},
 585       {-12, 1, 1},{  1, 7, 0},{ -1, 7, 0},{  6, 2, 1},{ -6, 2, 1},{ 13, 1, 1},
 586       {-13, 1, 1},{  2, 5, 0},{ -2, 5, 0},{  1, 8, 0},{ -1, 8, 0},
 587     },
 588     //level_add
 589     { 0,14, 7, 4, 3, 3, 2, 2, 2,-1,-1,-1,-1,-1,-1,-1,-1,
 590      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 591     1, //golomb_order
 592     4, //inc_limit
 593     8  //max_run
 594   },{
 595     { //level / run
 596       {   EOB   },{  1, 1, 0},{ -1, 1, 0},{  2, 1, 0},{ -2, 1, 0},{  3, 1, 0},
 597       { -3, 1, 0},{  4, 1, 0},{ -4, 1, 0},{  5, 1, 0},{ -5, 1, 0},{  6, 1, 0},
 598       { -6, 1, 0},{  7, 1, 0},{ -7, 1, 0},{  8, 1, 0},{ -8, 1, 0},{  1, 2, 0},
 599       { -1, 2, 0},{  9, 1, 0},{ -9, 1, 0},{ 10, 1, 0},{-10, 1, 0},{ 11, 1, 0},
 600       {-11, 1, 0},{  2, 2, 0},{ -2, 2, 0},{ 12, 1, 0},{-12, 1, 0},{ 13, 1, 0},
 601       {-13, 1, 0},{  3, 2, 0},{ -3, 2, 0},{ 14, 1, 0},{-14, 1, 0},{  1, 3, 0},
 602       { -1, 3, 0},{ 15, 1, 0},{-15, 1, 0},{  4, 2, 0},{ -4, 2, 0},{ 16, 1, 0},
 603       {-16, 1, 0},{ 17, 1, 0},{-17, 1, 0},{  5, 2, 0},{ -5, 2, 0},{  1, 4, 0},
 604       { -1, 4, 0},{  2, 3, 0},{ -2, 3, 0},{ 18, 1, 0},{-18, 1, 0},{  6, 2, 0},
 605       { -6, 2, 0},{ 19, 1, 0},{-19, 1, 0},{  1, 5, 0},{ -1, 5, 0},
 606     },
 607     //level_add
 608     { 0,20, 7, 3, 2, 2,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
 609      -1,-1,-1,-1,-1,-1,-1,-1,-1,-1},
 610     0, //golomb_order
 611     INT_MAX, //inc_limit
 612     5, //max_run
 613   }
 614 };
 615
 616 #undef EOB
 617
 618 static const uint8_t alpha_tab[64] = {
 619    0,  0,  0,  0,  0,  0,  1,  1,  1,  1,  1,  2,  2,  2,  3,  3,
 620    4,  4,  5,  5,  6,  7,  8,  9, 10, 11, 12, 13, 15, 16, 18, 20,
 621   22, 24, 26, 28, 30, 33, 33, 35, 35, 36, 37, 37, 39, 39, 42, 44,
 622   46, 48, 50, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64
 623 };
 624
 625 static const uint8_t beta_tab[64] = {
 626    0,  0,  0,  0,  0,  0,  1,  1,  1,  1,  1,  1,  1,  2,  2,  2,
 627    2,  2,  3,  3,  3,  3,  4,  4,  4,  4,  5,  5,  5,  5,  6,  6,
 628    6,  7,  7,  7,  8,  8,  8,  9,  9, 10, 10, 11, 11, 12, 13, 14,
 629   15, 16, 17, 18, 19, 20, 21, 22, 23, 23, 24, 24, 25, 25, 26, 27
 630 };
 631
 632 static const uint8_t tc_tab[64] = {
 633   0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
 634   1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2,
 635   2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 4, 4, 4,
 636   5, 5, 5, 6, 6, 6, 7, 7, 7, 7, 8, 8, 8, 9, 9, 9
 637 };
 638
 639 static const int_fast8_t left_modifier_l[8] = { 0,-1, 6,-1,-1, 7, 6, 7};
 640 static const int_fast8_t top_modifier_l[8]  = {-1, 1, 5,-1,-1, 5, 7, 7};
 641 static const int_fast8_t left_modifier_c[7] = { 5,-1, 2,-1, 6, 5, 6};
 642 static const int_fast8_t top_modifier_c[7]  = { 4, 1,-1,-1, 4, 6, 6};
 643 #endif /* CONFIG_CAVS_DECODER */