git.sesse.net Git - ffmpeg/blob - libavcodec/bink.c

   1 /*
   2  * Bink video decoder
   3  * Copyright (c) 2009 Konstantin Shishkov
   4  * Copyright (C) 2011 Peter Ross <pross@xvid.org>
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/imgutils.h"
  24 #include "avcodec.h"
  25 #include "dsputil.h"
  26 #include "binkdata.h"
  27 #include "binkdsp.h"
  28 #include "mathops.h"
  29
  30 #define ALT_BITSTREAM_READER_LE
  31 #include "get_bits.h"
  32
  33 #define BINK_FLAG_ALPHA 0x00100000
  34 #define BINK_FLAG_GRAY  0x00020000
  35
  36 static VLC bink_trees[16];
  37
  38 /**
  39  * IDs for different data types used in old version of Bink video codec
  40  */
  41 enum OldSources {
  42     BINKB_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  43     BINKB_SRC_COLORS,          ///< pixel values used for different block types
  44     BINKB_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  45     BINKB_SRC_X_OFF,           ///< X components of motion value
  46     BINKB_SRC_Y_OFF,           ///< Y components of motion value
  47     BINKB_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  48     BINKB_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  49     BINKB_SRC_INTRA_Q,         ///< quantizer values for intrablocks with DCT
  50     BINKB_SRC_INTER_Q,         ///< quantizer values for interblocks with DCT
  51     BINKB_SRC_INTER_COEFS,     ///< number of coefficients for residue blocks
  52
  53     BINKB_NB_SRC
  54 };
  55
  56 static const int binkb_bundle_sizes[BINKB_NB_SRC] = {
  57     4, 8, 8, 5, 5, 11, 11, 4, 4, 7
  58 };
  59
  60 static const int binkb_bundle_signed[BINKB_NB_SRC] = {
  61     0, 0, 0, 1, 1, 0, 1, 0, 0, 0
  62 };
  63
  64 static int32_t binkb_intra_quant[16][64];
  65 static int32_t binkb_inter_quant[16][64];
  66
  67 /**
  68  * IDs for different data types used in Bink video codec
  69  */
  70 enum Sources {
  71     BINK_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  72     BINK_SRC_SUB_BLOCK_TYPES, ///< 16x16 block types (a subset of 8x8 block types)
  73     BINK_SRC_COLORS,          ///< pixel values used for different block types
  74     BINK_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  75     BINK_SRC_X_OFF,           ///< X components of motion value
  76     BINK_SRC_Y_OFF,           ///< Y components of motion value
  77     BINK_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  78     BINK_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  79     BINK_SRC_RUN,             ///< run lengths for special fill block
  80
  81     BINK_NB_SRC
  82 };
  83
  84 /**
  85  * data needed to decode 4-bit Huffman-coded value
  86  */
  87 typedef struct Tree {
  88     int     vlc_num;  ///< tree number (in bink_trees[])
  89     uint8_t syms[16]; ///< leaf value to symbol mapping
  90 } Tree;
  91
  92 #define GET_HUFF(gb, tree)  (tree).syms[get_vlc2(gb, bink_trees[(tree).vlc_num].table,\
  93                                                  bink_trees[(tree).vlc_num].bits, 1)]
  94
  95 /**
  96  * data structure used for decoding single Bink data type
  97  */
  98 typedef struct Bundle {
  99     int     len;       ///< length of number of entries to decode (in bits)
 100     Tree    tree;      ///< Huffman tree-related data
 101     uint8_t *data;     ///< buffer for decoded symbols
 102     uint8_t *data_end; ///< buffer end
 103     uint8_t *cur_dec;  ///< pointer to the not yet decoded part of the buffer
 104     uint8_t *cur_ptr;  ///< pointer to the data that is not read from buffer yet
 105 } Bundle;
 106
 107 /*
 108  * Decoder context
 109  */
 110 typedef struct BinkContext {
 111     AVCodecContext *avctx;
 112     DSPContext     dsp;
 113     BinkDSPContext bdsp;
 114     AVFrame        pic, last;
 115     int            version;              ///< internal Bink file version
 116     int            has_alpha;
 117     int            swap_planes;
 118
 119     Bundle         bundle[BINKB_NB_SRC]; ///< bundles for decoding all data types
 120     Tree           col_high[16];         ///< trees for decoding high nibble in "colours" data type
 121     int            col_lastval;          ///< value of last decoded high nibble in "colours" data type
 122 } BinkContext;
 123
 124 /**
 125  * Bink video block types
 126  */
 127 enum BlockTypes {
 128     SKIP_BLOCK = 0, ///< skipped block
 129     SCALED_BLOCK,   ///< block has size 16x16
 130     MOTION_BLOCK,   ///< block is copied from previous frame with some offset
 131     RUN_BLOCK,      ///< block is composed from runs of colours with custom scan order
 132     RESIDUE_BLOCK,  ///< motion block with some difference added
 133     INTRA_BLOCK,    ///< intra DCT block
 134     FILL_BLOCK,     ///< block is filled with single colour
 135     INTER_BLOCK,    ///< motion block with DCT applied to the difference
 136     PATTERN_BLOCK,  ///< block is filled with two colours following custom pattern
 137     RAW_BLOCK,      ///< uncoded 8x8 block
 138 };
 139
 140 /**
 141  * Initialize length length in all bundles.
 142  *
 143  * @param c     decoder context
 144  * @param width plane width
 145  * @param bw    plane width in 8x8 blocks
 146  */
 147 static void init_lengths(BinkContext *c, int width, int bw)
 148 {
 149     c->bundle[BINK_SRC_BLOCK_TYPES].len = av_log2((width >> 3) + 511) + 1;
 150
 151     c->bundle[BINK_SRC_SUB_BLOCK_TYPES].len = av_log2((width >> 4) + 511) + 1;
 152
 153     c->bundle[BINK_SRC_COLORS].len = av_log2(bw*64 + 511) + 1;
 154
 155     c->bundle[BINK_SRC_INTRA_DC].len =
 156     c->bundle[BINK_SRC_INTER_DC].len =
 157     c->bundle[BINK_SRC_X_OFF].len =
 158     c->bundle[BINK_SRC_Y_OFF].len = av_log2((width >> 3) + 511) + 1;
 159
 160     c->bundle[BINK_SRC_PATTERN].len = av_log2((bw << 3) + 511) + 1;
 161
 162     c->bundle[BINK_SRC_RUN].len = av_log2(bw*48 + 511) + 1;
 163 }
 164
 165 /**
 166  * Allocate memory for bundles.
 167  *
 168  * @param c decoder context
 169  */
 170 static av_cold void init_bundles(BinkContext *c)
 171 {
 172     int bw, bh, blocks;
 173     int i;
 174
 175     bw = (c->avctx->width  + 7) >> 3;
 176     bh = (c->avctx->height + 7) >> 3;
 177     blocks = bw * bh;
 178
 179     for (i = 0; i < BINKB_NB_SRC; i++) {
 180         c->bundle[i].data = av_malloc(blocks * 64);
 181         c->bundle[i].data_end = c->bundle[i].data + blocks * 64;
 182     }
 183 }
 184
 185 /**
 186  * Free memory used by bundles.
 187  *
 188  * @param c decoder context
 189  */
 190 static av_cold void free_bundles(BinkContext *c)
 191 {
 192     int i;
 193     for (i = 0; i < BINKB_NB_SRC; i++)
 194         av_freep(&c->bundle[i].data);
 195 }
 196
 197 /**
 198  * Merge two consequent lists of equal size depending on bits read.
 199  *
 200  * @param gb   context for reading bits
 201  * @param dst  buffer where merged list will be written to
 202  * @param src  pointer to the head of the first list (the second lists starts at src+size)
 203  * @param size input lists size
 204  */
 205 static void merge(GetBitContext *gb, uint8_t *dst, uint8_t *src, int size)
 206 {
 207     uint8_t *src2 = src + size;
 208     int size2 = size;
 209
 210     do {
 211         if (!get_bits1(gb)) {
 212             *dst++ = *src++;
 213             size--;
 214         } else {
 215             *dst++ = *src2++;
 216             size2--;
 217         }
 218     } while (size && size2);
 219
 220     while (size--)
 221         *dst++ = *src++;
 222     while (size2--)
 223         *dst++ = *src2++;
 224 }
 225
 226 /**
 227  * Read information about Huffman tree used to decode data.
 228  *
 229  * @param gb   context for reading bits
 230  * @param tree pointer for storing tree data
 231  */
 232 static void read_tree(GetBitContext *gb, Tree *tree)
 233 {
 234     uint8_t tmp1[16], tmp2[16], *in = tmp1, *out = tmp2;
 235     int i, t, len;
 236
 237     tree->vlc_num = get_bits(gb, 4);
 238     if (!tree->vlc_num) {
 239         for (i = 0; i < 16; i++)
 240             tree->syms[i] = i;
 241         return;
 242     }
 243     if (get_bits1(gb)) {
 244         len = get_bits(gb, 3);
 245         memset(tmp1, 0, sizeof(tmp1));
 246         for (i = 0; i <= len; i++) {
 247             tree->syms[i] = get_bits(gb, 4);
 248             tmp1[tree->syms[i]] = 1;
 249         }
 250         for (i = 0; i < 16; i++)
 251             if (!tmp1[i])
 252                 tree->syms[++len] = i;
 253     } else {
 254         len = get_bits(gb, 2);
 255         for (i = 0; i < 16; i++)
 256             in[i] = i;
 257         for (i = 0; i <= len; i++) {
 258             int size = 1 << i;
 259             for (t = 0; t < 16; t += size << 1)
 260                 merge(gb, out + t, in + t, size);
 261             FFSWAP(uint8_t*, in, out);
 262         }
 263         memcpy(tree->syms, in, 16);
 264     }
 265 }
 266
 267 /**
 268  * Prepare bundle for decoding data.
 269  *
 270  * @param gb          context for reading bits
 271  * @param c           decoder context
 272  * @param bundle_num  number of the bundle to initialize
 273  */
 274 static void read_bundle(GetBitContext *gb, BinkContext *c, int bundle_num)
 275 {
 276     int i;
 277
 278     if (bundle_num == BINK_SRC_COLORS) {
 279         for (i = 0; i < 16; i++)
 280             read_tree(gb, &c->col_high[i]);
 281         c->col_lastval = 0;
 282     }
 283     if (bundle_num != BINK_SRC_INTRA_DC && bundle_num != BINK_SRC_INTER_DC)
 284         read_tree(gb, &c->bundle[bundle_num].tree);
 285     c->bundle[bundle_num].cur_dec =
 286     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 287 }
 288
 289 /**
 290  * common check before starting decoding bundle data
 291  *
 292  * @param gb context for reading bits
 293  * @param b  bundle
 294  * @param t  variable where number of elements to decode will be stored
 295  */
 296 #define CHECK_READ_VAL(gb, b, t) \
 297     if (!b->cur_dec || (b->cur_dec > b->cur_ptr)) \
 298         return 0; \
 299     t = get_bits(gb, b->len); \
 300     if (!t) { \
 301         b->cur_dec = NULL; \
 302         return 0; \
 303     } \
 304
 305 static int read_runs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 306 {
 307     int t, v;
 308     const uint8_t *dec_end;
 309
 310     CHECK_READ_VAL(gb, b, t);
 311     dec_end = b->cur_dec + t;
 312     if (dec_end > b->data_end) {
 313         av_log(avctx, AV_LOG_ERROR, "Run value went out of bounds\n");
 314         return -1;
 315     }
 316     if (get_bits1(gb)) {
 317         v = get_bits(gb, 4);
 318         memset(b->cur_dec, v, t);
 319         b->cur_dec += t;
 320     } else {
 321         while (b->cur_dec < dec_end)
 322             *b->cur_dec++ = GET_HUFF(gb, b->tree);
 323     }
 324     return 0;
 325 }
 326
 327 static int read_motion_values(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 328 {
 329     int t, sign, v;
 330     const uint8_t *dec_end;
 331
 332     CHECK_READ_VAL(gb, b, t);
 333     dec_end = b->cur_dec + t;
 334     if (dec_end > b->data_end) {
 335         av_log(avctx, AV_LOG_ERROR, "Too many motion values\n");
 336         return -1;
 337     }
 338     if (get_bits1(gb)) {
 339         v = get_bits(gb, 4);
 340         if (v) {
 341             sign = -get_bits1(gb);
 342             v = (v ^ sign) - sign;
 343         }
 344         memset(b->cur_dec, v, t);
 345         b->cur_dec += t;
 346     } else {
 347         do {
 348             v = GET_HUFF(gb, b->tree);
 349             if (v) {
 350                 sign = -get_bits1(gb);
 351                 v = (v ^ sign) - sign;
 352             }
 353             *b->cur_dec++ = v;
 354         } while (b->cur_dec < dec_end);
 355     }
 356     return 0;
 357 }
 358
 359 static const uint8_t bink_rlelens[4] = { 4, 8, 12, 32 };
 360
 361 static int read_block_types(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 362 {
 363     int t, v;
 364     int last = 0;
 365     const uint8_t *dec_end;
 366
 367     CHECK_READ_VAL(gb, b, t);
 368     dec_end = b->cur_dec + t;
 369     if (dec_end > b->data_end) {
 370         av_log(avctx, AV_LOG_ERROR, "Too many block type values\n");
 371         return -1;
 372     }
 373     if (get_bits1(gb)) {
 374         v = get_bits(gb, 4);
 375         memset(b->cur_dec, v, t);
 376         b->cur_dec += t;
 377     } else {
 378         do {
 379             v = GET_HUFF(gb, b->tree);
 380             if (v < 12) {
 381                 last = v;
 382                 *b->cur_dec++ = v;
 383             } else {
 384                 int run = bink_rlelens[v - 12];
 385
 386                 memset(b->cur_dec, last, run);
 387                 b->cur_dec += run;
 388             }
 389         } while (b->cur_dec < dec_end);
 390     }
 391     return 0;
 392 }
 393
 394 static int read_patterns(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 395 {
 396     int t, v;
 397     const uint8_t *dec_end;
 398
 399     CHECK_READ_VAL(gb, b, t);
 400     dec_end = b->cur_dec + t;
 401     if (dec_end > b->data_end) {
 402         av_log(avctx, AV_LOG_ERROR, "Too many pattern values\n");
 403         return -1;
 404     }
 405     while (b->cur_dec < dec_end) {
 406         v  = GET_HUFF(gb, b->tree);
 407         v |= GET_HUFF(gb, b->tree) << 4;
 408         *b->cur_dec++ = v;
 409     }
 410
 411     return 0;
 412 }
 413
 414 static int read_colors(GetBitContext *gb, Bundle *b, BinkContext *c)
 415 {
 416     int t, sign, v;
 417     const uint8_t *dec_end;
 418
 419     CHECK_READ_VAL(gb, b, t);
 420     dec_end = b->cur_dec + t;
 421     if (dec_end > b->data_end) {
 422         av_log(c->avctx, AV_LOG_ERROR, "Too many color values\n");
 423         return -1;
 424     }
 425     if (get_bits1(gb)) {
 426         c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
 427         v = GET_HUFF(gb, b->tree);
 428         v = (c->col_lastval << 4) | v;
 429         if (c->version < 'i') {
 430             sign = ((int8_t) v) >> 7;
 431             v = ((v & 0x7F) ^ sign) - sign;
 432             v += 0x80;
 433         }
 434         memset(b->cur_dec, v, t);
 435         b->cur_dec += t;
 436     } else {
 437         while (b->cur_dec < dec_end) {
 438             c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
 439             v = GET_HUFF(gb, b->tree);
 440             v = (c->col_lastval << 4) | v;
 441             if (c->version < 'i') {
 442                 sign = ((int8_t) v) >> 7;
 443                 v = ((v & 0x7F) ^ sign) - sign;
 444                 v += 0x80;
 445             }
 446             *b->cur_dec++ = v;
 447         }
 448     }
 449     return 0;
 450 }
 451
 452 /** number of bits used to store first DC value in bundle */
 453 #define DC_START_BITS 11
 454
 455 static int read_dcs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b,
 456                     int start_bits, int has_sign)
 457 {
 458     int i, j, len, len2, bsize, sign, v, v2;
 459     int16_t *dst = (int16_t*)b->cur_dec;
 460
 461     CHECK_READ_VAL(gb, b, len);
 462     v = get_bits(gb, start_bits - has_sign);
 463     if (v && has_sign) {
 464         sign = -get_bits1(gb);
 465         v = (v ^ sign) - sign;
 466     }
 467     *dst++ = v;
 468     len--;
 469     for (i = 0; i < len; i += 8) {
 470         len2 = FFMIN(len - i, 8);
 471         bsize = get_bits(gb, 4);
 472         if (bsize) {
 473             for (j = 0; j < len2; j++) {
 474                 v2 = get_bits(gb, bsize);
 475                 if (v2) {
 476                     sign = -get_bits1(gb);
 477                     v2 = (v2 ^ sign) - sign;
 478                 }
 479                 v += v2;
 480                 *dst++ = v;
 481                 if (v < -32768 || v > 32767) {
 482                     av_log(avctx, AV_LOG_ERROR, "DC value went out of bounds: %d\n", v);
 483                     return -1;
 484                 }
 485             }
 486         } else {
 487             for (j = 0; j < len2; j++)
 488                 *dst++ = v;
 489         }
 490     }
 491
 492     b->cur_dec = (uint8_t*)dst;
 493     return 0;
 494 }
 495
 496 /**
 497  * Retrieve next value from bundle.
 498  *
 499  * @param c      decoder context
 500  * @param bundle bundle number
 501  */
 502 static inline int get_value(BinkContext *c, int bundle)
 503 {
 504     int ret;
 505
 506     if (bundle < BINK_SRC_X_OFF || bundle == BINK_SRC_RUN)
 507         return *c->bundle[bundle].cur_ptr++;
 508     if (bundle == BINK_SRC_X_OFF || bundle == BINK_SRC_Y_OFF)
 509         return (int8_t)*c->bundle[bundle].cur_ptr++;
 510     ret = *(int16_t*)c->bundle[bundle].cur_ptr;
 511     c->bundle[bundle].cur_ptr += 2;
 512     return ret;
 513 }
 514
 515 static void binkb_init_bundle(BinkContext *c, int bundle_num)
 516 {
 517     c->bundle[bundle_num].cur_dec =
 518     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 519     c->bundle[bundle_num].len = 13;
 520 }
 521
 522 static void binkb_init_bundles(BinkContext *c)
 523 {
 524     int i;
 525     for (i = 0; i < BINKB_NB_SRC; i++)
 526         binkb_init_bundle(c, i);
 527 }
 528
 529 static int binkb_read_bundle(BinkContext *c, GetBitContext *gb, int bundle_num)
 530 {
 531     const int bits = binkb_bundle_sizes[bundle_num];
 532     const int mask = 1 << (bits - 1);
 533     const int issigned = binkb_bundle_signed[bundle_num];
 534     Bundle *b = &c->bundle[bundle_num];
 535     int i, len;
 536
 537     CHECK_READ_VAL(gb, b, len);
 538     if (bits <= 8) {
 539         if (!issigned) {
 540             for (i = 0; i < len; i++)
 541                 *b->cur_dec++ = get_bits(gb, bits);
 542         } else {
 543             for (i = 0; i < len; i++)
 544                 *b->cur_dec++ = get_bits(gb, bits) - mask;
 545         }
 546     } else {
 547         int16_t *dst = (int16_t*)b->cur_dec;
 548
 549         if (!issigned) {
 550             for (i = 0; i < len; i++)
 551                 *dst++ = get_bits(gb, bits);
 552         } else {
 553             for (i = 0; i < len; i++)
 554                 *dst++ = get_bits(gb, bits) - mask;
 555         }
 556         b->cur_dec = (uint8_t*)dst;
 557     }
 558     return 0;
 559 }
 560
 561 static inline int binkb_get_value(BinkContext *c, int bundle_num)
 562 {
 563     int16_t ret;
 564     const int bits = binkb_bundle_sizes[bundle_num];
 565
 566     if (bits <= 8) {
 567         int val = *c->bundle[bundle_num].cur_ptr++;
 568         return binkb_bundle_signed[bundle_num] ? (int8_t)val : val;
 569     }
 570     ret = *(int16_t*)c->bundle[bundle_num].cur_ptr;
 571     c->bundle[bundle_num].cur_ptr += 2;
 572     return ret;
 573 }
 574
 575 /**
 576  * Read 8x8 block of DCT coefficients.
 577  *
 578  * @param gb       context for reading bits
 579  * @param block    place for storing coefficients
 580  * @param scan     scan order table
 581  * @param quant_matrices quantization matrices
 582  * @return 0 for success, negative value in other cases
 583  */
 584 static int read_dct_coeffs(GetBitContext *gb, int32_t block[64], const uint8_t *scan,
 585                            const int32_t quant_matrices[16][64], int q)
 586 {
 587     int coef_list[128];
 588     int mode_list[128];
 589     int i, t, mask, bits, ccoef, mode, sign;
 590     int list_start = 64, list_end = 64, list_pos;
 591     int coef_count = 0;
 592     int coef_idx[64];
 593     int quant_idx;
 594     const int32_t *quant;
 595
 596     coef_list[list_end] = 4;  mode_list[list_end++] = 0;
 597     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 598     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 599     coef_list[list_end] = 1;  mode_list[list_end++] = 3;
 600     coef_list[list_end] = 2;  mode_list[list_end++] = 3;
 601     coef_list[list_end] = 3;  mode_list[list_end++] = 3;
 602
 603     bits = get_bits(gb, 4) - 1;
 604     for (mask = 1 << bits; bits >= 0; mask >>= 1, bits--) {
 605         list_pos = list_start;
 606         while (list_pos < list_end) {
 607             if (!(mode_list[list_pos] | coef_list[list_pos]) || !get_bits1(gb)) {
 608                 list_pos++;
 609                 continue;
 610             }
 611             ccoef = coef_list[list_pos];
 612             mode  = mode_list[list_pos];
 613             switch (mode) {
 614             case 0:
 615                 coef_list[list_pos] = ccoef + 4;
 616                 mode_list[list_pos] = 1;
 617             case 2:
 618                 if (mode == 2) {
 619                     coef_list[list_pos]   = 0;
 620                     mode_list[list_pos++] = 0;
 621                 }
 622                 for (i = 0; i < 4; i++, ccoef++) {
 623                     if (get_bits1(gb)) {
 624                         coef_list[--list_start] = ccoef;
 625                         mode_list[  list_start] = 3;
 626                     } else {
 627                         if (!bits) {
 628                             t = 1 - (get_bits1(gb) << 1);
 629                         } else {
 630                             t = get_bits(gb, bits) | mask;
 631                             sign = -get_bits1(gb);
 632                             t = (t ^ sign) - sign;
 633                         }
 634                         block[scan[ccoef]] = t;
 635                         coef_idx[coef_count++] = ccoef;
 636                     }
 637                 }
 638                 break;
 639             case 1:
 640                 mode_list[list_pos] = 2;
 641                 for (i = 0; i < 3; i++) {
 642                     ccoef += 4;
 643                     coef_list[list_end]   = ccoef;
 644                     mode_list[list_end++] = 2;
 645                 }
 646                 break;
 647             case 3:
 648                 if (!bits) {
 649                     t = 1 - (get_bits1(gb) << 1);
 650                 } else {
 651                     t = get_bits(gb, bits) | mask;
 652                     sign = -get_bits1(gb);
 653                     t = (t ^ sign) - sign;
 654                 }
 655                 block[scan[ccoef]] = t;
 656                 coef_idx[coef_count++] = ccoef;
 657                 coef_list[list_pos]   = 0;
 658                 mode_list[list_pos++] = 0;
 659                 break;
 660             }
 661         }
 662     }
 663
 664     if (q == -1) {
 665         quant_idx = get_bits(gb, 4);
 666     } else {
 667         quant_idx = q;
 668     }
 669
 670     quant = quant_matrices[quant_idx];
 671
 672     block[0] = (block[0] * quant[0]) >> 11;
 673     for (i = 0; i < coef_count; i++) {
 674         int idx = coef_idx[i];
 675         block[scan[idx]] = (block[scan[idx]] * quant[idx]) >> 11;
 676     }
 677
 678     return 0;
 679 }
 680
 681 /**
 682  * Read 8x8 block with residue after motion compensation.
 683  *
 684  * @param gb          context for reading bits
 685  * @param block       place to store read data
 686  * @param masks_count number of masks to decode
 687  * @return 0 on success, negative value in other cases
 688  */
 689 static int read_residue(GetBitContext *gb, DCTELEM block[64], int masks_count)
 690 {
 691     int coef_list[128];
 692     int mode_list[128];
 693     int i, sign, mask, ccoef, mode;
 694     int list_start = 64, list_end = 64, list_pos;
 695     int nz_coeff[64];
 696     int nz_coeff_count = 0;
 697
 698     coef_list[list_end] =  4; mode_list[list_end++] = 0;
 699     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 700     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 701     coef_list[list_end] =  0; mode_list[list_end++] = 2;
 702
 703     for (mask = 1 << get_bits(gb, 3); mask; mask >>= 1) {
 704         for (i = 0; i < nz_coeff_count; i++) {
 705             if (!get_bits1(gb))
 706                 continue;
 707             if (block[nz_coeff[i]] < 0)
 708                 block[nz_coeff[i]] -= mask;
 709             else
 710                 block[nz_coeff[i]] += mask;
 711             masks_count--;
 712             if (masks_count < 0)
 713                 return 0;
 714         }
 715         list_pos = list_start;
 716         while (list_pos < list_end) {
 717             if (!(coef_list[list_pos] | mode_list[list_pos]) || !get_bits1(gb)) {
 718                 list_pos++;
 719                 continue;
 720             }
 721             ccoef = coef_list[list_pos];
 722             mode  = mode_list[list_pos];
 723             switch (mode) {
 724             case 0:
 725                 coef_list[list_pos] = ccoef + 4;
 726                 mode_list[list_pos] = 1;
 727             case 2:
 728                 if (mode == 2) {
 729                     coef_list[list_pos]   = 0;
 730                     mode_list[list_pos++] = 0;
 731                 }
 732                 for (i = 0; i < 4; i++, ccoef++) {
 733                     if (get_bits1(gb)) {
 734                         coef_list[--list_start] = ccoef;
 735                         mode_list[  list_start] = 3;
 736                     } else {
 737                         nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 738                         sign = -get_bits1(gb);
 739                         block[bink_scan[ccoef]] = (mask ^ sign) - sign;
 740                         masks_count--;
 741                         if (masks_count < 0)
 742                             return 0;
 743                     }
 744                 }
 745                 break;
 746             case 1:
 747                 mode_list[list_pos] = 2;
 748                 for (i = 0; i < 3; i++) {
 749                     ccoef += 4;
 750                     coef_list[list_end]   = ccoef;
 751                     mode_list[list_end++] = 2;
 752                 }
 753                 break;
 754             case 3:
 755                 nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 756                 sign = -get_bits1(gb);
 757                 block[bink_scan[ccoef]] = (mask ^ sign) - sign;
 758                 coef_list[list_pos]   = 0;
 759                 mode_list[list_pos++] = 0;
 760                 masks_count--;
 761                 if (masks_count < 0)
 762                     return 0;
 763                 break;
 764             }
 765         }
 766     }
 767
 768     return 0;
 769 }
 770
 771 /**
 772  * Copy 8x8 block from source to destination, where src and dst may be overlapped
 773  */
 774 static inline void put_pixels8x8_overlapped(uint8_t *dst, uint8_t *src, int stride)
 775 {
 776     uint8_t tmp[64];
 777     int i;
 778     for (i = 0; i < 8; i++)
 779         memcpy(tmp + i*8, src + i*stride, 8);
 780     for (i = 0; i < 8; i++)
 781         memcpy(dst + i*stride, tmp + i*8, 8);
 782 }
 783
 784 static int binkb_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
 785                               int is_key, int is_chroma)
 786 {
 787     int blk;
 788     int i, j, bx, by;
 789     uint8_t *dst, *ref, *ref_start, *ref_end;
 790     int v, col[2];
 791     const uint8_t *scan;
 792     int xoff, yoff;
 793     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
 794     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 795     int coordmap[64];
 796     int ybias = is_key ? -15 : 0;
 797     int qp;
 798
 799     const int stride = c->pic.linesize[plane_idx];
 800     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 801     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 802
 803     binkb_init_bundles(c);
 804     ref_start = c->pic.data[plane_idx];
 805     ref_end   = c->pic.data[plane_idx] + (bh * c->pic.linesize[plane_idx] + bw) * 8;
 806
 807     for (i = 0; i < 64; i++)
 808         coordmap[i] = (i & 7) + (i >> 3) * stride;
 809
 810     for (by = 0; by < bh; by++) {
 811         for (i = 0; i < BINKB_NB_SRC; i++) {
 812             if (binkb_read_bundle(c, gb, i) < 0)
 813                 return -1;
 814         }
 815
 816         dst  = c->pic.data[plane_idx]  + 8*by*stride;
 817         for (bx = 0; bx < bw; bx++, dst += 8) {
 818             blk = binkb_get_value(c, BINKB_SRC_BLOCK_TYPES);
 819             switch (blk) {
 820             case 0:
 821                 break;
 822             case 1:
 823                 scan = bink_patterns[get_bits(gb, 4)];
 824                 i = 0;
 825                 do {
 826                     int mode, run;
 827
 828                     mode = get_bits1(gb);
 829                     run = get_bits(gb, binkb_runbits[i]) + 1;
 830
 831                     i += run;
 832                     if (i > 64) {
 833                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
 834                         return -1;
 835                     }
 836                     if (mode) {
 837                         v = binkb_get_value(c, BINKB_SRC_COLORS);
 838                         for (j = 0; j < run; j++)
 839                             dst[coordmap[*scan++]] = v;
 840                     } else {
 841                         for (j = 0; j < run; j++)
 842                             dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 843                     }
 844                 } while (i < 63);
 845                 if (i == 63)
 846                     dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 847                 break;
 848             case 2:
 849                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 850                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTRA_DC);
 851                 qp = binkb_get_value(c, BINKB_SRC_INTRA_Q);
 852                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_intra_quant, qp);
 853                 c->bdsp.idct_put(dst, stride, dctblock);
 854                 break;
 855             case 3:
 856                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 857                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 858                 ref = dst + xoff + yoff * stride;
 859                 if (ref < ref_start || ref + 8*stride > ref_end) {
 860                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 861                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 862                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 863                 } else {
 864                     put_pixels8x8_overlapped(dst, ref, stride);
 865                 }
 866                 c->dsp.clear_block(block);
 867                 v = binkb_get_value(c, BINKB_SRC_INTER_COEFS);
 868                 read_residue(gb, block, v);
 869                 c->dsp.add_pixels8(dst, block, stride);
 870                 break;
 871             case 4:
 872                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 873                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 874                 ref = dst + xoff + yoff * stride;
 875                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 876                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 877                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 878                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 879                 } else {
 880                     put_pixels8x8_overlapped(dst, ref, stride);
 881                 }
 882                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 883                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTER_DC);
 884                 qp = binkb_get_value(c, BINKB_SRC_INTER_Q);
 885                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_inter_quant, qp);
 886                 c->bdsp.idct_add(dst, stride, dctblock);
 887                 break;
 888             case 5:
 889                 v = binkb_get_value(c, BINKB_SRC_COLORS);
 890                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
 891                 break;
 892             case 6:
 893                 for (i = 0; i < 2; i++)
 894                     col[i] = binkb_get_value(c, BINKB_SRC_COLORS);
 895                 for (i = 0; i < 8; i++) {
 896                     v = binkb_get_value(c, BINKB_SRC_PATTERN);
 897                     for (j = 0; j < 8; j++, v >>= 1)
 898                         dst[i*stride + j] = col[v & 1];
 899                 }
 900                 break;
 901             case 7:
 902                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 903                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 904                 ref = dst + xoff + yoff * stride;
 905                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 906                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 907                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 908                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 909                 } else {
 910                     put_pixels8x8_overlapped(dst, ref, stride);
 911                 }
 912                 break;
 913             case 8:
 914                 for (i = 0; i < 8; i++)
 915                     memcpy(dst + i*stride, c->bundle[BINKB_SRC_COLORS].cur_ptr + i*8, 8);
 916                 c->bundle[BINKB_SRC_COLORS].cur_ptr += 64;
 917                 break;
 918             default:
 919                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
 920                 return -1;
 921             }
 922         }
 923     }
 924     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
 925         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
 926
 927     return 0;
 928 }
 929
 930 static int bink_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
 931                              int is_chroma)
 932 {
 933     int blk;
 934     int i, j, bx, by;
 935     uint8_t *dst, *prev, *ref, *ref_start, *ref_end;
 936     int v, col[2];
 937     const uint8_t *scan;
 938     int xoff, yoff;
 939     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
 940     LOCAL_ALIGNED_16(uint8_t, ublock, [64]);
 941     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 942     int coordmap[64];
 943
 944     const int stride = c->pic.linesize[plane_idx];
 945     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 946     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 947     int width = c->avctx->width >> is_chroma;
 948
 949     init_lengths(c, FFMAX(width, 8), bw);
 950     for (i = 0; i < BINK_NB_SRC; i++)
 951         read_bundle(gb, c, i);
 952
 953     ref_start = c->last.data[plane_idx];
 954     ref_end   = c->last.data[plane_idx]
 955                 + (bw - 1 + c->last.linesize[plane_idx] * (bh - 1)) * 8;
 956
 957     for (i = 0; i < 64; i++)
 958         coordmap[i] = (i & 7) + (i >> 3) * stride;
 959
 960     for (by = 0; by < bh; by++) {
 961         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_BLOCK_TYPES]) < 0)
 962             return -1;
 963         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_SUB_BLOCK_TYPES]) < 0)
 964             return -1;
 965         if (read_colors(gb, &c->bundle[BINK_SRC_COLORS], c) < 0)
 966             return -1;
 967         if (read_patterns(c->avctx, gb, &c->bundle[BINK_SRC_PATTERN]) < 0)
 968             return -1;
 969         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_X_OFF]) < 0)
 970             return -1;
 971         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_Y_OFF]) < 0)
 972             return -1;
 973         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTRA_DC], DC_START_BITS, 0) < 0)
 974             return -1;
 975         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTER_DC], DC_START_BITS, 1) < 0)
 976             return -1;
 977         if (read_runs(c->avctx, gb, &c->bundle[BINK_SRC_RUN]) < 0)
 978             return -1;
 979
 980         if (by == bh)
 981             break;
 982         dst  = c->pic.data[plane_idx]  + 8*by*stride;
 983         prev = c->last.data[plane_idx] + 8*by*stride;
 984         for (bx = 0; bx < bw; bx++, dst += 8, prev += 8) {
 985             blk = get_value(c, BINK_SRC_BLOCK_TYPES);
 986             // 16x16 block type on odd line means part of the already decoded block, so skip it
 987             if ((by & 1) && blk == SCALED_BLOCK) {
 988                 bx++;
 989                 dst  += 8;
 990                 prev += 8;
 991                 continue;
 992             }
 993             switch (blk) {
 994             case SKIP_BLOCK:
 995                 c->dsp.put_pixels_tab[1][0](dst, prev, stride, 8);
 996                 break;
 997             case SCALED_BLOCK:
 998                 blk = get_value(c, BINK_SRC_SUB_BLOCK_TYPES);
 999                 switch (blk) {
1000                 case RUN_BLOCK:
1001                     scan = bink_patterns[get_bits(gb, 4)];
1002                     i = 0;
1003                     do {
1004                         int run = get_value(c, BINK_SRC_RUN) + 1;
1005
1006                         i += run;
1007                         if (i > 64) {
1008                             av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1009                             return -1;
1010                         }
1011                         if (get_bits1(gb)) {
1012                             v = get_value(c, BINK_SRC_COLORS);
1013                             for (j = 0; j < run; j++)
1014                                 ublock[*scan++] = v;
1015                         } else {
1016                             for (j = 0; j < run; j++)
1017                                 ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1018                         }
1019                     } while (i < 63);
1020                     if (i == 63)
1021                         ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1022                     break;
1023                 case INTRA_BLOCK:
1024                     memset(dctblock, 0, sizeof(*dctblock) * 64);
1025                     dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1026                     read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1027                     c->bdsp.idct_put(ublock, 8, dctblock);
1028                     break;
1029                 case FILL_BLOCK:
1030                     v = get_value(c, BINK_SRC_COLORS);
1031                     c->dsp.fill_block_tab[0](dst, v, stride, 16);
1032                     break;
1033                 case PATTERN_BLOCK:
1034                     for (i = 0; i < 2; i++)
1035                         col[i] = get_value(c, BINK_SRC_COLORS);
1036                     for (j = 0; j < 8; j++) {
1037                         v = get_value(c, BINK_SRC_PATTERN);
1038                         for (i = 0; i < 8; i++, v >>= 1)
1039                             ublock[i + j*8] = col[v & 1];
1040                     }
1041                     break;
1042                 case RAW_BLOCK:
1043                     for (j = 0; j < 8; j++)
1044                         for (i = 0; i < 8; i++)
1045                             ublock[i + j*8] = get_value(c, BINK_SRC_COLORS);
1046                     break;
1047                 default:
1048                     av_log(c->avctx, AV_LOG_ERROR, "Incorrect 16x16 block type %d\n", blk);
1049                     return -1;
1050                 }
1051                 if (blk != FILL_BLOCK)
1052                 c->bdsp.scale_block(ublock, dst, stride);
1053                 bx++;
1054                 dst  += 8;
1055                 prev += 8;
1056                 break;
1057             case MOTION_BLOCK:
1058                 xoff = get_value(c, BINK_SRC_X_OFF);
1059                 yoff = get_value(c, BINK_SRC_Y_OFF);
1060                 ref = prev + xoff + yoff * stride;
1061                 if (ref < ref_start || ref > ref_end) {
1062                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1063                            bx*8 + xoff, by*8 + yoff);
1064                     return -1;
1065                 }
1066                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1067                 break;
1068             case RUN_BLOCK:
1069                 scan = bink_patterns[get_bits(gb, 4)];
1070                 i = 0;
1071                 do {
1072                     int run = get_value(c, BINK_SRC_RUN) + 1;
1073
1074                     i += run;
1075                     if (i > 64) {
1076                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1077                         return -1;
1078                     }
1079                     if (get_bits1(gb)) {
1080                         v = get_value(c, BINK_SRC_COLORS);
1081                         for (j = 0; j < run; j++)
1082                             dst[coordmap[*scan++]] = v;
1083                     } else {
1084                         for (j = 0; j < run; j++)
1085                             dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1086                     }
1087                 } while (i < 63);
1088                 if (i == 63)
1089                     dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1090                 break;
1091             case RESIDUE_BLOCK:
1092                 xoff = get_value(c, BINK_SRC_X_OFF);
1093                 yoff = get_value(c, BINK_SRC_Y_OFF);
1094                 ref = prev + xoff + yoff * stride;
1095                 if (ref < ref_start || ref > ref_end) {
1096                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1097                            bx*8 + xoff, by*8 + yoff);
1098                     return -1;
1099                 }
1100                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1101                 c->dsp.clear_block(block);
1102                 v = get_bits(gb, 7);
1103                 read_residue(gb, block, v);
1104                 c->dsp.add_pixels8(dst, block, stride);
1105                 break;
1106             case INTRA_BLOCK:
1107                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1108                 dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1109                 read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1110                 c->bdsp.idct_put(dst, stride, dctblock);
1111                 break;
1112             case FILL_BLOCK:
1113                 v = get_value(c, BINK_SRC_COLORS);
1114                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
1115                 break;
1116             case INTER_BLOCK:
1117                 xoff = get_value(c, BINK_SRC_X_OFF);
1118                 yoff = get_value(c, BINK_SRC_Y_OFF);
1119                 ref = prev + xoff + yoff * stride;
1120                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1121                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1122                 dctblock[0] = get_value(c, BINK_SRC_INTER_DC);
1123                 read_dct_coeffs(gb, dctblock, bink_scan, bink_inter_quant, -1);
1124                 c->bdsp.idct_add(dst, stride, dctblock);
1125                 break;
1126             case PATTERN_BLOCK:
1127                 for (i = 0; i < 2; i++)
1128                     col[i] = get_value(c, BINK_SRC_COLORS);
1129                 for (i = 0; i < 8; i++) {
1130                     v = get_value(c, BINK_SRC_PATTERN);
1131                     for (j = 0; j < 8; j++, v >>= 1)
1132                         dst[i*stride + j] = col[v & 1];
1133                 }
1134                 break;
1135             case RAW_BLOCK:
1136                 for (i = 0; i < 8; i++)
1137                     memcpy(dst + i*stride, c->bundle[BINK_SRC_COLORS].cur_ptr + i*8, 8);
1138                 c->bundle[BINK_SRC_COLORS].cur_ptr += 64;
1139                 break;
1140             default:
1141                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
1142                 return -1;
1143             }
1144         }
1145     }
1146     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
1147         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
1148
1149     return 0;
1150 }
1151
1152 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, AVPacket *pkt)
1153 {
1154     BinkContext * const c = avctx->priv_data;
1155     GetBitContext gb;
1156     int plane, plane_idx;
1157     int bits_count = pkt->size << 3;
1158
1159     if (c->version > 'b') {
1160         if(c->pic.data[0])
1161             avctx->release_buffer(avctx, &c->pic);
1162
1163         if(avctx->get_buffer(avctx, &c->pic) < 0){
1164             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1165             return -1;
1166         }
1167     } else {
1168         if(avctx->reget_buffer(avctx, &c->pic) < 0){
1169             av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
1170             return -1;
1171         }
1172     }
1173
1174     init_get_bits(&gb, pkt->data, bits_count);
1175     if (c->has_alpha) {
1176         if (c->version >= 'i')
1177             skip_bits_long(&gb, 32);
1178         if (bink_decode_plane(c, &gb, 3, 0) < 0)
1179             return -1;
1180     }
1181     if (c->version >= 'i')
1182         skip_bits_long(&gb, 32);
1183
1184     for (plane = 0; plane < 3; plane++) {
1185         plane_idx = (!plane || !c->swap_planes) ? plane : (plane ^ 3);
1186
1187         if (c->version > 'b') {
1188             if (bink_decode_plane(c, &gb, plane_idx, !!plane) < 0)
1189                 return -1;
1190         } else {
1191             if (binkb_decode_plane(c, &gb, plane_idx, !pkt->pts, !!plane) < 0)
1192                 return -1;
1193         }
1194         if (get_bits_count(&gb) >= bits_count)
1195             break;
1196     }
1197     emms_c();
1198
1199     *data_size = sizeof(AVFrame);
1200     *(AVFrame*)data = c->pic;
1201
1202     if (c->version > 'b')
1203         FFSWAP(AVFrame, c->pic, c->last);
1204
1205     /* always report that the buffer was completely consumed */
1206     return pkt->size;
1207 }
1208
1209 /**
1210  * Caclulate quantization tables for version b
1211  */
1212 static av_cold void binkb_calc_quant(void)
1213 {
1214     uint8_t inv_bink_scan[64];
1215     double s[64];
1216     int i, j;
1217
1218     for (j = 0; j < 8; j++) {
1219         for (i = 0; i < 8; i++) {
1220             if (j && j != 4)
1221                if (i && i != 4)
1222                    s[j*8 + i] = cos(j * M_PI/16.0) * cos(i * M_PI/16.0) * 2.0;
1223                else
1224                    s[j*8 + i] = cos(j * M_PI/16.0) * sqrt(2.0);
1225             else
1226                if (i && i != 4)
1227                    s[j*8 + i] = cos(i * M_PI/16.0) * sqrt(2.0);
1228                else
1229                    s[j*8 + i] = 1.0;
1230         }
1231     }
1232
1233     for (i = 0; i < 64; i++)
1234         inv_bink_scan[bink_scan[i]] = i;
1235
1236     for (j = 0; j < 16; j++) {
1237         for (i = 0; i < 64; i++) {
1238             int k = inv_bink_scan[i];
1239             if (s[i] == 1.0) {
1240                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] *
1241                                           binkb_num[j]/binkb_den[j];
1242                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] *
1243                                           binkb_num[j]/binkb_den[j];
1244             } else {
1245                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] * s[i] *
1246                                           binkb_num[j]/(double)binkb_den[j];
1247                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] * s[i] *
1248                                           binkb_num[j]/(double)binkb_den[j];
1249             }
1250         }
1251     }
1252 }
1253
1254 static av_cold int decode_init(AVCodecContext *avctx)
1255 {
1256     BinkContext * const c = avctx->priv_data;
1257     static VLC_TYPE table[16 * 128][2];
1258     static int binkb_initialised = 0;
1259     int i;
1260     int flags;
1261
1262     c->version = avctx->codec_tag >> 24;
1263     if (avctx->extradata_size < 4) {
1264         av_log(avctx, AV_LOG_ERROR, "Extradata missing or too short\n");
1265         return -1;
1266     }
1267     flags = AV_RL32(avctx->extradata);
1268     c->has_alpha = flags & BINK_FLAG_ALPHA;
1269     c->swap_planes = c->version >= 'h';
1270     if (!bink_trees[15].table) {
1271         for (i = 0; i < 16; i++) {
1272             const int maxbits = bink_tree_lens[i][15];
1273             bink_trees[i].table = table + i*128;
1274             bink_trees[i].table_allocated = 1 << maxbits;
1275             init_vlc(&bink_trees[i], maxbits, 16,
1276                      bink_tree_lens[i], 1, 1,
1277                      bink_tree_bits[i], 1, 1, INIT_VLC_USE_NEW_STATIC | INIT_VLC_LE);
1278         }
1279     }
1280     c->avctx = avctx;
1281
1282     c->pic.data[0] = NULL;
1283
1284     if (av_image_check_size(avctx->width, avctx->height, 0, avctx) < 0) {
1285         return 1;
1286     }
1287
1288     avctx->pix_fmt = c->has_alpha ? PIX_FMT_YUVA420P : PIX_FMT_YUV420P;
1289
1290     avctx->idct_algo = FF_IDCT_BINK;
1291     dsputil_init(&c->dsp, avctx);
1292     ff_binkdsp_init(&c->bdsp);
1293
1294     init_bundles(c);
1295
1296     if (c->version == 'b') {
1297         if (!binkb_initialised) {
1298             binkb_calc_quant();
1299             binkb_initialised = 1;
1300         }
1301     }
1302
1303     return 0;
1304 }
1305
1306 static av_cold int decode_end(AVCodecContext *avctx)
1307 {
1308     BinkContext * const c = avctx->priv_data;
1309
1310     if (c->pic.data[0])
1311         avctx->release_buffer(avctx, &c->pic);
1312     if (c->last.data[0])
1313         avctx->release_buffer(avctx, &c->last);
1314
1315     free_bundles(c);
1316     return 0;
1317 }
1318
1319 AVCodec ff_bink_decoder = {
1320     .name           = "binkvideo",
1321     .type           = AVMEDIA_TYPE_VIDEO,
1322     .id             = CODEC_ID_BINKVIDEO,
1323     .priv_data_size = sizeof(BinkContext),
1324     .init           = decode_init,
1325     .close          = decode_end,
1326     .decode         = decode_frame,
1327     .long_name = NULL_IF_CONFIG_SMALL("Bink video"),
1328 };