git.sesse.net Git - ffmpeg/blob - libavcodec/bink.c

   1 /*
   2  * Bink video decoder
   3  * Copyright (c) 2009 Konstantin Shishkov
   4  * Copyright (C) 2011 Peter Ross <pross@xvid.org>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/imgutils.h"
  24 #include "avcodec.h"
  25 #include "dsputil.h"
  26 #include "binkdata.h"
  27 #include "binkdsp.h"
  28 #include "mathops.h"
  29
  30 #define BITSTREAM_READER_LE
  31 #include "get_bits.h"
  32
  33 #define BINK_FLAG_ALPHA 0x00100000
  34 #define BINK_FLAG_GRAY  0x00020000
  35
  36 static VLC bink_trees[16];
  37
  38 /**
  39  * IDs for different data types used in old version of Bink video codec
  40  */
  41 enum OldSources {
  42     BINKB_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  43     BINKB_SRC_COLORS,          ///< pixel values used for different block types
  44     BINKB_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  45     BINKB_SRC_X_OFF,           ///< X components of motion value
  46     BINKB_SRC_Y_OFF,           ///< Y components of motion value
  47     BINKB_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  48     BINKB_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  49     BINKB_SRC_INTRA_Q,         ///< quantizer values for intrablocks with DCT
  50     BINKB_SRC_INTER_Q,         ///< quantizer values for interblocks with DCT
  51     BINKB_SRC_INTER_COEFS,     ///< number of coefficients for residue blocks
  52
  53     BINKB_NB_SRC
  54 };
  55
  56 static const int binkb_bundle_sizes[BINKB_NB_SRC] = {
  57     4, 8, 8, 5, 5, 11, 11, 4, 4, 7
  58 };
  59
  60 static const int binkb_bundle_signed[BINKB_NB_SRC] = {
  61     0, 0, 0, 1, 1, 0, 1, 0, 0, 0
  62 };
  63
  64 static int32_t binkb_intra_quant[16][64];
  65 static int32_t binkb_inter_quant[16][64];
  66
  67 /**
  68  * IDs for different data types used in Bink video codec
  69  */
  70 enum Sources {
  71     BINK_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  72     BINK_SRC_SUB_BLOCK_TYPES, ///< 16x16 block types (a subset of 8x8 block types)
  73     BINK_SRC_COLORS,          ///< pixel values used for different block types
  74     BINK_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  75     BINK_SRC_X_OFF,           ///< X components of motion value
  76     BINK_SRC_Y_OFF,           ///< Y components of motion value
  77     BINK_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  78     BINK_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  79     BINK_SRC_RUN,             ///< run lengths for special fill block
  80
  81     BINK_NB_SRC
  82 };
  83
  84 /**
  85  * data needed to decode 4-bit Huffman-coded value
  86  */
  87 typedef struct Tree {
  88     int     vlc_num;  ///< tree number (in bink_trees[])
  89     uint8_t syms[16]; ///< leaf value to symbol mapping
  90 } Tree;
  91
  92 #define GET_HUFF(gb, tree)  (tree).syms[get_vlc2(gb, bink_trees[(tree).vlc_num].table,\
  93                                                  bink_trees[(tree).vlc_num].bits, 1)]
  94
  95 /**
  96  * data structure used for decoding single Bink data type
  97  */
  98 typedef struct Bundle {
  99     int     len;       ///< length of number of entries to decode (in bits)
 100     Tree    tree;      ///< Huffman tree-related data
 101     uint8_t *data;     ///< buffer for decoded symbols
 102     uint8_t *data_end; ///< buffer end
 103     uint8_t *cur_dec;  ///< pointer to the not yet decoded part of the buffer
 104     uint8_t *cur_ptr;  ///< pointer to the data that is not read from buffer yet
 105 } Bundle;
 106
 107 /*
 108  * Decoder context
 109  */
 110 typedef struct BinkContext {
 111     AVCodecContext *avctx;
 112     DSPContext     dsp;
 113     BinkDSPContext bdsp;
 114     AVFrame        pic, last;
 115     int            version;              ///< internal Bink file version
 116     int            has_alpha;
 117     int            swap_planes;
 118
 119     Bundle         bundle[BINKB_NB_SRC]; ///< bundles for decoding all data types
 120     Tree           col_high[16];         ///< trees for decoding high nibble in "colours" data type
 121     int            col_lastval;          ///< value of last decoded high nibble in "colours" data type
 122 } BinkContext;
 123
 124 /**
 125  * Bink video block types
 126  */
 127 enum BlockTypes {
 128     SKIP_BLOCK = 0, ///< skipped block
 129     SCALED_BLOCK,   ///< block has size 16x16
 130     MOTION_BLOCK,   ///< block is copied from previous frame with some offset
 131     RUN_BLOCK,      ///< block is composed from runs of colours with custom scan order
 132     RESIDUE_BLOCK,  ///< motion block with some difference added
 133     INTRA_BLOCK,    ///< intra DCT block
 134     FILL_BLOCK,     ///< block is filled with single colour
 135     INTER_BLOCK,    ///< motion block with DCT applied to the difference
 136     PATTERN_BLOCK,  ///< block is filled with two colours following custom pattern
 137     RAW_BLOCK,      ///< uncoded 8x8 block
 138 };
 139
 140 /**
 141  * Initialize length length in all bundles.
 142  *
 143  * @param c     decoder context
 144  * @param width plane width
 145  * @param bw    plane width in 8x8 blocks
 146  */
 147 static void init_lengths(BinkContext *c, int width, int bw)
 148 {
 149     width = FFALIGN(width, 8);
 150
 151     c->bundle[BINK_SRC_BLOCK_TYPES].len = av_log2((width >> 3) + 511) + 1;
 152
 153     c->bundle[BINK_SRC_SUB_BLOCK_TYPES].len = av_log2((width >> 4) + 511) + 1;
 154
 155     c->bundle[BINK_SRC_COLORS].len = av_log2(bw*64 + 511) + 1;
 156
 157     c->bundle[BINK_SRC_INTRA_DC].len =
 158     c->bundle[BINK_SRC_INTER_DC].len =
 159     c->bundle[BINK_SRC_X_OFF].len =
 160     c->bundle[BINK_SRC_Y_OFF].len = av_log2((width >> 3) + 511) + 1;
 161
 162     c->bundle[BINK_SRC_PATTERN].len = av_log2((bw << 3) + 511) + 1;
 163
 164     c->bundle[BINK_SRC_RUN].len = av_log2(bw*48 + 511) + 1;
 165 }
 166
 167 /**
 168  * Allocate memory for bundles.
 169  *
 170  * @param c decoder context
 171  */
 172 static av_cold void init_bundles(BinkContext *c)
 173 {
 174     int bw, bh, blocks;
 175     int i;
 176
 177     bw = (c->avctx->width  + 7) >> 3;
 178     bh = (c->avctx->height + 7) >> 3;
 179     blocks = bw * bh;
 180
 181     for (i = 0; i < BINKB_NB_SRC; i++) {
 182         c->bundle[i].data = av_malloc(blocks * 64);
 183         c->bundle[i].data_end = c->bundle[i].data + blocks * 64;
 184     }
 185 }
 186
 187 /**
 188  * Free memory used by bundles.
 189  *
 190  * @param c decoder context
 191  */
 192 static av_cold void free_bundles(BinkContext *c)
 193 {
 194     int i;
 195     for (i = 0; i < BINKB_NB_SRC; i++)
 196         av_freep(&c->bundle[i].data);
 197 }
 198
 199 /**
 200  * Merge two consequent lists of equal size depending on bits read.
 201  *
 202  * @param gb   context for reading bits
 203  * @param dst  buffer where merged list will be written to
 204  * @param src  pointer to the head of the first list (the second lists starts at src+size)
 205  * @param size input lists size
 206  */
 207 static void merge(GetBitContext *gb, uint8_t *dst, uint8_t *src, int size)
 208 {
 209     uint8_t *src2 = src + size;
 210     int size2 = size;
 211
 212     do {
 213         if (!get_bits1(gb)) {
 214             *dst++ = *src++;
 215             size--;
 216         } else {
 217             *dst++ = *src2++;
 218             size2--;
 219         }
 220     } while (size && size2);
 221
 222     while (size--)
 223         *dst++ = *src++;
 224     while (size2--)
 225         *dst++ = *src2++;
 226 }
 227
 228 /**
 229  * Read information about Huffman tree used to decode data.
 230  *
 231  * @param gb   context for reading bits
 232  * @param tree pointer for storing tree data
 233  */
 234 static void read_tree(GetBitContext *gb, Tree *tree)
 235 {
 236     uint8_t tmp1[16] = { 0 }, tmp2[16], *in = tmp1, *out = tmp2;
 237     int i, t, len;
 238
 239     tree->vlc_num = get_bits(gb, 4);
 240     if (!tree->vlc_num) {
 241         for (i = 0; i < 16; i++)
 242             tree->syms[i] = i;
 243         return;
 244     }
 245     if (get_bits1(gb)) {
 246         len = get_bits(gb, 3);
 247         for (i = 0; i <= len; i++) {
 248             tree->syms[i] = get_bits(gb, 4);
 249             tmp1[tree->syms[i]] = 1;
 250         }
 251         for (i = 0; i < 16 && len < 16 - 1; i++)
 252             if (!tmp1[i])
 253                 tree->syms[++len] = i;
 254     } else {
 255         len = get_bits(gb, 2);
 256         for (i = 0; i < 16; i++)
 257             in[i] = i;
 258         for (i = 0; i <= len; i++) {
 259             int size = 1 << i;
 260             for (t = 0; t < 16; t += size << 1)
 261                 merge(gb, out + t, in + t, size);
 262             FFSWAP(uint8_t*, in, out);
 263         }
 264         memcpy(tree->syms, in, 16);
 265     }
 266 }
 267
 268 /**
 269  * Prepare bundle for decoding data.
 270  *
 271  * @param gb          context for reading bits
 272  * @param c           decoder context
 273  * @param bundle_num  number of the bundle to initialize
 274  */
 275 static void read_bundle(GetBitContext *gb, BinkContext *c, int bundle_num)
 276 {
 277     int i;
 278
 279     if (bundle_num == BINK_SRC_COLORS) {
 280         for (i = 0; i < 16; i++)
 281             read_tree(gb, &c->col_high[i]);
 282         c->col_lastval = 0;
 283     }
 284     if (bundle_num != BINK_SRC_INTRA_DC && bundle_num != BINK_SRC_INTER_DC)
 285         read_tree(gb, &c->bundle[bundle_num].tree);
 286     c->bundle[bundle_num].cur_dec =
 287     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 288 }
 289
 290 /**
 291  * common check before starting decoding bundle data
 292  *
 293  * @param gb context for reading bits
 294  * @param b  bundle
 295  * @param t  variable where number of elements to decode will be stored
 296  */
 297 #define CHECK_READ_VAL(gb, b, t) \
 298     if (!b->cur_dec || (b->cur_dec > b->cur_ptr)) \
 299         return 0; \
 300     t = get_bits(gb, b->len); \
 301     if (!t) { \
 302         b->cur_dec = NULL; \
 303         return 0; \
 304     } \
 305
 306 static int read_runs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 307 {
 308     int t, v;
 309     const uint8_t *dec_end;
 310
 311     CHECK_READ_VAL(gb, b, t);
 312     dec_end = b->cur_dec + t;
 313     if (dec_end > b->data_end) {
 314         av_log(avctx, AV_LOG_ERROR, "Run value went out of bounds\n");
 315         return -1;
 316     }
 317     if (get_bits1(gb)) {
 318         v = get_bits(gb, 4);
 319         memset(b->cur_dec, v, t);
 320         b->cur_dec += t;
 321     } else {
 322         while (b->cur_dec < dec_end)
 323             *b->cur_dec++ = GET_HUFF(gb, b->tree);
 324     }
 325     return 0;
 326 }
 327
 328 static int read_motion_values(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 329 {
 330     int t, sign, v;
 331     const uint8_t *dec_end;
 332
 333     CHECK_READ_VAL(gb, b, t);
 334     dec_end = b->cur_dec + t;
 335     if (dec_end > b->data_end) {
 336         av_log(avctx, AV_LOG_ERROR, "Too many motion values\n");
 337         return -1;
 338     }
 339     if (get_bits1(gb)) {
 340         v = get_bits(gb, 4);
 341         if (v) {
 342             sign = -get_bits1(gb);
 343             v = (v ^ sign) - sign;
 344         }
 345         memset(b->cur_dec, v, t);
 346         b->cur_dec += t;
 347     } else {
 348         while (b->cur_dec < dec_end) {
 349             v = GET_HUFF(gb, b->tree);
 350             if (v) {
 351                 sign = -get_bits1(gb);
 352                 v = (v ^ sign) - sign;
 353             }
 354             *b->cur_dec++ = v;
 355         }
 356     }
 357     return 0;
 358 }
 359
 360 static const uint8_t bink_rlelens[4] = { 4, 8, 12, 32 };
 361
 362 static int read_block_types(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 363 {
 364     int t, v;
 365     int last = 0;
 366     const uint8_t *dec_end;
 367
 368     CHECK_READ_VAL(gb, b, t);
 369     dec_end = b->cur_dec + t;
 370     if (dec_end > b->data_end) {
 371         av_log(avctx, AV_LOG_ERROR, "Too many block type values\n");
 372         return -1;
 373     }
 374     if (get_bits1(gb)) {
 375         v = get_bits(gb, 4);
 376         memset(b->cur_dec, v, t);
 377         b->cur_dec += t;
 378     } else {
 379         while (b->cur_dec < dec_end) {
 380             v = GET_HUFF(gb, b->tree);
 381             if (v < 12) {
 382                 last = v;
 383                 *b->cur_dec++ = v;
 384             } else {
 385                 int run = bink_rlelens[v - 12];
 386
 387                 if (dec_end - b->cur_dec < run)
 388                     return -1;
 389                 memset(b->cur_dec, last, run);
 390                 b->cur_dec += run;
 391             }
 392         }
 393     }
 394     return 0;
 395 }
 396
 397 static int read_patterns(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
 398 {
 399     int t, v;
 400     const uint8_t *dec_end;
 401
 402     CHECK_READ_VAL(gb, b, t);
 403     dec_end = b->cur_dec + t;
 404     if (dec_end > b->data_end) {
 405         av_log(avctx, AV_LOG_ERROR, "Too many pattern values\n");
 406         return -1;
 407     }
 408     while (b->cur_dec < dec_end) {
 409         v  = GET_HUFF(gb, b->tree);
 410         v |= GET_HUFF(gb, b->tree) << 4;
 411         *b->cur_dec++ = v;
 412     }
 413
 414     return 0;
 415 }
 416
 417 static int read_colors(GetBitContext *gb, Bundle *b, BinkContext *c)
 418 {
 419     int t, sign, v;
 420     const uint8_t *dec_end;
 421
 422     CHECK_READ_VAL(gb, b, t);
 423     dec_end = b->cur_dec + t;
 424     if (dec_end > b->data_end) {
 425         av_log(c->avctx, AV_LOG_ERROR, "Too many color values\n");
 426         return -1;
 427     }
 428     if (get_bits1(gb)) {
 429         c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
 430         v = GET_HUFF(gb, b->tree);
 431         v = (c->col_lastval << 4) | v;
 432         if (c->version < 'i') {
 433             sign = ((int8_t) v) >> 7;
 434             v = ((v & 0x7F) ^ sign) - sign;
 435             v += 0x80;
 436         }
 437         memset(b->cur_dec, v, t);
 438         b->cur_dec += t;
 439     } else {
 440         while (b->cur_dec < dec_end) {
 441             c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
 442             v = GET_HUFF(gb, b->tree);
 443             v = (c->col_lastval << 4) | v;
 444             if (c->version < 'i') {
 445                 sign = ((int8_t) v) >> 7;
 446                 v = ((v & 0x7F) ^ sign) - sign;
 447                 v += 0x80;
 448             }
 449             *b->cur_dec++ = v;
 450         }
 451     }
 452     return 0;
 453 }
 454
 455 /** number of bits used to store first DC value in bundle */
 456 #define DC_START_BITS 11
 457
 458 static int read_dcs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b,
 459                     int start_bits, int has_sign)
 460 {
 461     int i, j, len, len2, bsize, sign, v, v2;
 462     int16_t *dst     = (int16_t*)b->cur_dec;
 463     int16_t *dst_end = (int16_t*)b->data_end;
 464
 465     CHECK_READ_VAL(gb, b, len);
 466     v = get_bits(gb, start_bits - has_sign);
 467     if (v && has_sign) {
 468         sign = -get_bits1(gb);
 469         v = (v ^ sign) - sign;
 470     }
 471     if (dst_end - dst < 1)
 472         return -1;
 473     *dst++ = v;
 474     len--;
 475     for (i = 0; i < len; i += 8) {
 476         len2 = FFMIN(len - i, 8);
 477         if (dst_end - dst < len2)
 478             return -1;
 479         bsize = get_bits(gb, 4);
 480         if (bsize) {
 481             for (j = 0; j < len2; j++) {
 482                 v2 = get_bits(gb, bsize);
 483                 if (v2) {
 484                     sign = -get_bits1(gb);
 485                     v2 = (v2 ^ sign) - sign;
 486                 }
 487                 v += v2;
 488                 *dst++ = v;
 489                 if (v < -32768 || v > 32767) {
 490                     av_log(avctx, AV_LOG_ERROR, "DC value went out of bounds: %d\n", v);
 491                     return -1;
 492                 }
 493             }
 494         } else {
 495             for (j = 0; j < len2; j++)
 496                 *dst++ = v;
 497         }
 498     }
 499
 500     b->cur_dec = (uint8_t*)dst;
 501     return 0;
 502 }
 503
 504 /**
 505  * Retrieve next value from bundle.
 506  *
 507  * @param c      decoder context
 508  * @param bundle bundle number
 509  */
 510 static inline int get_value(BinkContext *c, int bundle)
 511 {
 512     int ret;
 513
 514     if (bundle < BINK_SRC_X_OFF || bundle == BINK_SRC_RUN)
 515         return *c->bundle[bundle].cur_ptr++;
 516     if (bundle == BINK_SRC_X_OFF || bundle == BINK_SRC_Y_OFF)
 517         return (int8_t)*c->bundle[bundle].cur_ptr++;
 518     ret = *(int16_t*)c->bundle[bundle].cur_ptr;
 519     c->bundle[bundle].cur_ptr += 2;
 520     return ret;
 521 }
 522
 523 static void binkb_init_bundle(BinkContext *c, int bundle_num)
 524 {
 525     c->bundle[bundle_num].cur_dec =
 526     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 527     c->bundle[bundle_num].len = 13;
 528 }
 529
 530 static void binkb_init_bundles(BinkContext *c)
 531 {
 532     int i;
 533     for (i = 0; i < BINKB_NB_SRC; i++)
 534         binkb_init_bundle(c, i);
 535 }
 536
 537 static int binkb_read_bundle(BinkContext *c, GetBitContext *gb, int bundle_num)
 538 {
 539     const int bits = binkb_bundle_sizes[bundle_num];
 540     const int mask = 1 << (bits - 1);
 541     const int issigned = binkb_bundle_signed[bundle_num];
 542     Bundle *b = &c->bundle[bundle_num];
 543     int i, len;
 544
 545     CHECK_READ_VAL(gb, b, len);
 546     if (b->data_end - b->cur_dec < len * (1 + (bits > 8)))
 547         return -1;
 548     if (bits <= 8) {
 549         if (!issigned) {
 550             for (i = 0; i < len; i++)
 551                 *b->cur_dec++ = get_bits(gb, bits);
 552         } else {
 553             for (i = 0; i < len; i++)
 554                 *b->cur_dec++ = get_bits(gb, bits) - mask;
 555         }
 556     } else {
 557         int16_t *dst = (int16_t*)b->cur_dec;
 558
 559         if (!issigned) {
 560             for (i = 0; i < len; i++)
 561                 *dst++ = get_bits(gb, bits);
 562         } else {
 563             for (i = 0; i < len; i++)
 564                 *dst++ = get_bits(gb, bits) - mask;
 565         }
 566         b->cur_dec = (uint8_t*)dst;
 567     }
 568     return 0;
 569 }
 570
 571 static inline int binkb_get_value(BinkContext *c, int bundle_num)
 572 {
 573     int16_t ret;
 574     const int bits = binkb_bundle_sizes[bundle_num];
 575
 576     if (bits <= 8) {
 577         int val = *c->bundle[bundle_num].cur_ptr++;
 578         return binkb_bundle_signed[bundle_num] ? (int8_t)val : val;
 579     }
 580     ret = *(int16_t*)c->bundle[bundle_num].cur_ptr;
 581     c->bundle[bundle_num].cur_ptr += 2;
 582     return ret;
 583 }
 584
 585 /**
 586  * Read 8x8 block of DCT coefficients.
 587  *
 588  * @param gb       context for reading bits
 589  * @param block    place for storing coefficients
 590  * @param scan     scan order table
 591  * @param quant_matrices quantization matrices
 592  * @return 0 for success, negative value in other cases
 593  */
 594 static int read_dct_coeffs(GetBitContext *gb, int32_t block[64], const uint8_t *scan,
 595                            const int32_t quant_matrices[16][64], int q)
 596 {
 597     int coef_list[128];
 598     int mode_list[128];
 599     int i, t, bits, ccoef, mode, sign;
 600     int list_start = 64, list_end = 64, list_pos;
 601     int coef_count = 0;
 602     int coef_idx[64];
 603     int quant_idx;
 604     const int32_t *quant;
 605
 606     coef_list[list_end] = 4;  mode_list[list_end++] = 0;
 607     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 608     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 609     coef_list[list_end] = 1;  mode_list[list_end++] = 3;
 610     coef_list[list_end] = 2;  mode_list[list_end++] = 3;
 611     coef_list[list_end] = 3;  mode_list[list_end++] = 3;
 612
 613     for (bits = get_bits(gb, 4) - 1; bits >= 0; bits--) {
 614         list_pos = list_start;
 615         while (list_pos < list_end) {
 616             if (!(mode_list[list_pos] | coef_list[list_pos]) || !get_bits1(gb)) {
 617                 list_pos++;
 618                 continue;
 619             }
 620             ccoef = coef_list[list_pos];
 621             mode  = mode_list[list_pos];
 622             switch (mode) {
 623             case 0:
 624                 coef_list[list_pos] = ccoef + 4;
 625                 mode_list[list_pos] = 1;
 626             case 2:
 627                 if (mode == 2) {
 628                     coef_list[list_pos]   = 0;
 629                     mode_list[list_pos++] = 0;
 630                 }
 631                 for (i = 0; i < 4; i++, ccoef++) {
 632                     if (get_bits1(gb)) {
 633                         coef_list[--list_start] = ccoef;
 634                         mode_list[  list_start] = 3;
 635                     } else {
 636                         if (!bits) {
 637                             t = 1 - (get_bits1(gb) << 1);
 638                         } else {
 639                             t = get_bits(gb, bits) | 1 << bits;
 640                             sign = -get_bits1(gb);
 641                             t = (t ^ sign) - sign;
 642                         }
 643                         block[scan[ccoef]] = t;
 644                         coef_idx[coef_count++] = ccoef;
 645                     }
 646                 }
 647                 break;
 648             case 1:
 649                 mode_list[list_pos] = 2;
 650                 for (i = 0; i < 3; i++) {
 651                     ccoef += 4;
 652                     coef_list[list_end]   = ccoef;
 653                     mode_list[list_end++] = 2;
 654                 }
 655                 break;
 656             case 3:
 657                 if (!bits) {
 658                     t = 1 - (get_bits1(gb) << 1);
 659                 } else {
 660                     t = get_bits(gb, bits) | 1 << bits;
 661                     sign = -get_bits1(gb);
 662                     t = (t ^ sign) - sign;
 663                 }
 664                 block[scan[ccoef]] = t;
 665                 coef_idx[coef_count++] = ccoef;
 666                 coef_list[list_pos]   = 0;
 667                 mode_list[list_pos++] = 0;
 668                 break;
 669             }
 670         }
 671     }
 672
 673     if (q == -1) {
 674         quant_idx = get_bits(gb, 4);
 675     } else {
 676         quant_idx = q;
 677     }
 678
 679     quant = quant_matrices[quant_idx];
 680
 681     block[0] = (block[0] * quant[0]) >> 11;
 682     for (i = 0; i < coef_count; i++) {
 683         int idx = coef_idx[i];
 684         block[scan[idx]] = (block[scan[idx]] * quant[idx]) >> 11;
 685     }
 686
 687     return 0;
 688 }
 689
 690 /**
 691  * Read 8x8 block with residue after motion compensation.
 692  *
 693  * @param gb          context for reading bits
 694  * @param block       place to store read data
 695  * @param masks_count number of masks to decode
 696  * @return 0 on success, negative value in other cases
 697  */
 698 static int read_residue(GetBitContext *gb, DCTELEM block[64], int masks_count)
 699 {
 700     int coef_list[128];
 701     int mode_list[128];
 702     int i, sign, mask, ccoef, mode;
 703     int list_start = 64, list_end = 64, list_pos;
 704     int nz_coeff[64];
 705     int nz_coeff_count = 0;
 706
 707     coef_list[list_end] =  4; mode_list[list_end++] = 0;
 708     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 709     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 710     coef_list[list_end] =  0; mode_list[list_end++] = 2;
 711
 712     for (mask = 1 << get_bits(gb, 3); mask; mask >>= 1) {
 713         for (i = 0; i < nz_coeff_count; i++) {
 714             if (!get_bits1(gb))
 715                 continue;
 716             if (block[nz_coeff[i]] < 0)
 717                 block[nz_coeff[i]] -= mask;
 718             else
 719                 block[nz_coeff[i]] += mask;
 720             masks_count--;
 721             if (masks_count < 0)
 722                 return 0;
 723         }
 724         list_pos = list_start;
 725         while (list_pos < list_end) {
 726             if (!(coef_list[list_pos] | mode_list[list_pos]) || !get_bits1(gb)) {
 727                 list_pos++;
 728                 continue;
 729             }
 730             ccoef = coef_list[list_pos];
 731             mode  = mode_list[list_pos];
 732             switch (mode) {
 733             case 0:
 734                 coef_list[list_pos] = ccoef + 4;
 735                 mode_list[list_pos] = 1;
 736             case 2:
 737                 if (mode == 2) {
 738                     coef_list[list_pos]   = 0;
 739                     mode_list[list_pos++] = 0;
 740                 }
 741                 for (i = 0; i < 4; i++, ccoef++) {
 742                     if (get_bits1(gb)) {
 743                         coef_list[--list_start] = ccoef;
 744                         mode_list[  list_start] = 3;
 745                     } else {
 746                         nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 747                         sign = -get_bits1(gb);
 748                         block[bink_scan[ccoef]] = (mask ^ sign) - sign;
 749                         masks_count--;
 750                         if (masks_count < 0)
 751                             return 0;
 752                     }
 753                 }
 754                 break;
 755             case 1:
 756                 mode_list[list_pos] = 2;
 757                 for (i = 0; i < 3; i++) {
 758                     ccoef += 4;
 759                     coef_list[list_end]   = ccoef;
 760                     mode_list[list_end++] = 2;
 761                 }
 762                 break;
 763             case 3:
 764                 nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 765                 sign = -get_bits1(gb);
 766                 block[bink_scan[ccoef]] = (mask ^ sign) - sign;
 767                 coef_list[list_pos]   = 0;
 768                 mode_list[list_pos++] = 0;
 769                 masks_count--;
 770                 if (masks_count < 0)
 771                     return 0;
 772                 break;
 773             }
 774         }
 775     }
 776
 777     return 0;
 778 }
 779
 780 /**
 781  * Copy 8x8 block from source to destination, where src and dst may be overlapped
 782  */
 783 static inline void put_pixels8x8_overlapped(uint8_t *dst, uint8_t *src, int stride)
 784 {
 785     uint8_t tmp[64];
 786     int i;
 787     for (i = 0; i < 8; i++)
 788         memcpy(tmp + i*8, src + i*stride, 8);
 789     for (i = 0; i < 8; i++)
 790         memcpy(dst + i*stride, tmp + i*8, 8);
 791 }
 792
 793 static int binkb_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
 794                               int is_key, int is_chroma)
 795 {
 796     int blk;
 797     int i, j, bx, by;
 798     uint8_t *dst, *ref, *ref_start, *ref_end;
 799     int v, col[2];
 800     const uint8_t *scan;
 801     int xoff, yoff;
 802     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
 803     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 804     int coordmap[64];
 805     int ybias = is_key ? -15 : 0;
 806     int qp;
 807
 808     const int stride = c->pic.linesize[plane_idx];
 809     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 810     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 811
 812     binkb_init_bundles(c);
 813     ref_start = c->pic.data[plane_idx];
 814     ref_end   = c->pic.data[plane_idx] + (bh * c->pic.linesize[plane_idx] + bw) * 8;
 815
 816     for (i = 0; i < 64; i++)
 817         coordmap[i] = (i & 7) + (i >> 3) * stride;
 818
 819     for (by = 0; by < bh; by++) {
 820         for (i = 0; i < BINKB_NB_SRC; i++) {
 821             if (binkb_read_bundle(c, gb, i) < 0)
 822                 return -1;
 823         }
 824
 825         dst  = c->pic.data[plane_idx]  + 8*by*stride;
 826         for (bx = 0; bx < bw; bx++, dst += 8) {
 827             blk = binkb_get_value(c, BINKB_SRC_BLOCK_TYPES);
 828             switch (blk) {
 829             case 0:
 830                 break;
 831             case 1:
 832                 scan = bink_patterns[get_bits(gb, 4)];
 833                 i = 0;
 834                 do {
 835                     int mode, run;
 836
 837                     mode = get_bits1(gb);
 838                     run = get_bits(gb, binkb_runbits[i]) + 1;
 839
 840                     i += run;
 841                     if (i > 64) {
 842                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
 843                         return -1;
 844                     }
 845                     if (mode) {
 846                         v = binkb_get_value(c, BINKB_SRC_COLORS);
 847                         for (j = 0; j < run; j++)
 848                             dst[coordmap[*scan++]] = v;
 849                     } else {
 850                         for (j = 0; j < run; j++)
 851                             dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 852                     }
 853                 } while (i < 63);
 854                 if (i == 63)
 855                     dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 856                 break;
 857             case 2:
 858                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 859                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTRA_DC);
 860                 qp = binkb_get_value(c, BINKB_SRC_INTRA_Q);
 861                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_intra_quant, qp);
 862                 c->bdsp.idct_put(dst, stride, dctblock);
 863                 break;
 864             case 3:
 865                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 866                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 867                 ref = dst + xoff + yoff * stride;
 868                 if (ref < ref_start || ref + 8*stride > ref_end) {
 869                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 870                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 871                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 872                 } else {
 873                     put_pixels8x8_overlapped(dst, ref, stride);
 874                 }
 875                 c->dsp.clear_block(block);
 876                 v = binkb_get_value(c, BINKB_SRC_INTER_COEFS);
 877                 read_residue(gb, block, v);
 878                 c->dsp.add_pixels8(dst, block, stride);
 879                 break;
 880             case 4:
 881                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 882                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 883                 ref = dst + xoff + yoff * stride;
 884                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 885                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 886                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 887                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 888                 } else {
 889                     put_pixels8x8_overlapped(dst, ref, stride);
 890                 }
 891                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 892                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTER_DC);
 893                 qp = binkb_get_value(c, BINKB_SRC_INTER_Q);
 894                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_inter_quant, qp);
 895                 c->bdsp.idct_add(dst, stride, dctblock);
 896                 break;
 897             case 5:
 898                 v = binkb_get_value(c, BINKB_SRC_COLORS);
 899                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
 900                 break;
 901             case 6:
 902                 for (i = 0; i < 2; i++)
 903                     col[i] = binkb_get_value(c, BINKB_SRC_COLORS);
 904                 for (i = 0; i < 8; i++) {
 905                     v = binkb_get_value(c, BINKB_SRC_PATTERN);
 906                     for (j = 0; j < 8; j++, v >>= 1)
 907                         dst[i*stride + j] = col[v & 1];
 908                 }
 909                 break;
 910             case 7:
 911                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 912                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 913                 ref = dst + xoff + yoff * stride;
 914                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 915                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 916                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 917                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 918                 } else {
 919                     put_pixels8x8_overlapped(dst, ref, stride);
 920                 }
 921                 break;
 922             case 8:
 923                 for (i = 0; i < 8; i++)
 924                     memcpy(dst + i*stride, c->bundle[BINKB_SRC_COLORS].cur_ptr + i*8, 8);
 925                 c->bundle[BINKB_SRC_COLORS].cur_ptr += 64;
 926                 break;
 927             default:
 928                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
 929                 return -1;
 930             }
 931         }
 932     }
 933     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
 934         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
 935
 936     return 0;
 937 }
 938
 939 static int bink_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
 940                              int is_chroma)
 941 {
 942     int blk;
 943     int i, j, bx, by;
 944     uint8_t *dst, *prev, *ref, *ref_start, *ref_end;
 945     int v, col[2];
 946     const uint8_t *scan;
 947     int xoff, yoff;
 948     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
 949     LOCAL_ALIGNED_16(uint8_t, ublock, [64]);
 950     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 951     int coordmap[64];
 952
 953     const int stride = c->pic.linesize[plane_idx];
 954     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 955     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 956     int width = c->avctx->width >> is_chroma;
 957
 958     init_lengths(c, FFMAX(width, 8), bw);
 959     for (i = 0; i < BINK_NB_SRC; i++)
 960         read_bundle(gb, c, i);
 961
 962     ref_start = c->last.data[plane_idx] ? c->last.data[plane_idx]
 963                                         : c->pic.data[plane_idx];
 964     ref_end   = ref_start
 965                 + (bw - 1 + c->last.linesize[plane_idx] * (bh - 1)) * 8;
 966
 967     for (i = 0; i < 64; i++)
 968         coordmap[i] = (i & 7) + (i >> 3) * stride;
 969
 970     for (by = 0; by < bh; by++) {
 971         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_BLOCK_TYPES]) < 0)
 972             return -1;
 973         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_SUB_BLOCK_TYPES]) < 0)
 974             return -1;
 975         if (read_colors(gb, &c->bundle[BINK_SRC_COLORS], c) < 0)
 976             return -1;
 977         if (read_patterns(c->avctx, gb, &c->bundle[BINK_SRC_PATTERN]) < 0)
 978             return -1;
 979         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_X_OFF]) < 0)
 980             return -1;
 981         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_Y_OFF]) < 0)
 982             return -1;
 983         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTRA_DC], DC_START_BITS, 0) < 0)
 984             return -1;
 985         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTER_DC], DC_START_BITS, 1) < 0)
 986             return -1;
 987         if (read_runs(c->avctx, gb, &c->bundle[BINK_SRC_RUN]) < 0)
 988             return -1;
 989
 990         if (by == bh)
 991             break;
 992         dst  = c->pic.data[plane_idx]  + 8*by*stride;
 993         prev = (c->last.data[plane_idx] ? c->last.data[plane_idx]
 994                                         : c->pic.data[plane_idx]) + 8*by*stride;
 995         for (bx = 0; bx < bw; bx++, dst += 8, prev += 8) {
 996             blk = get_value(c, BINK_SRC_BLOCK_TYPES);
 997             // 16x16 block type on odd line means part of the already decoded block, so skip it
 998             if ((by & 1) && blk == SCALED_BLOCK) {
 999                 bx++;
1000                 dst  += 8;
1001                 prev += 8;
1002                 continue;
1003             }
1004             switch (blk) {
1005             case SKIP_BLOCK:
1006                 c->dsp.put_pixels_tab[1][0](dst, prev, stride, 8);
1007                 break;
1008             case SCALED_BLOCK:
1009                 blk = get_value(c, BINK_SRC_SUB_BLOCK_TYPES);
1010                 switch (blk) {
1011                 case RUN_BLOCK:
1012                     scan = bink_patterns[get_bits(gb, 4)];
1013                     i = 0;
1014                     do {
1015                         int run = get_value(c, BINK_SRC_RUN) + 1;
1016
1017                         i += run;
1018                         if (i > 64) {
1019                             av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1020                             return -1;
1021                         }
1022                         if (get_bits1(gb)) {
1023                             v = get_value(c, BINK_SRC_COLORS);
1024                             for (j = 0; j < run; j++)
1025                                 ublock[*scan++] = v;
1026                         } else {
1027                             for (j = 0; j < run; j++)
1028                                 ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1029                         }
1030                     } while (i < 63);
1031                     if (i == 63)
1032                         ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1033                     break;
1034                 case INTRA_BLOCK:
1035                     memset(dctblock, 0, sizeof(*dctblock) * 64);
1036                     dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1037                     read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1038                     c->bdsp.idct_put(ublock, 8, dctblock);
1039                     break;
1040                 case FILL_BLOCK:
1041                     v = get_value(c, BINK_SRC_COLORS);
1042                     c->dsp.fill_block_tab[0](dst, v, stride, 16);
1043                     break;
1044                 case PATTERN_BLOCK:
1045                     for (i = 0; i < 2; i++)
1046                         col[i] = get_value(c, BINK_SRC_COLORS);
1047                     for (j = 0; j < 8; j++) {
1048                         v = get_value(c, BINK_SRC_PATTERN);
1049                         for (i = 0; i < 8; i++, v >>= 1)
1050                             ublock[i + j*8] = col[v & 1];
1051                     }
1052                     break;
1053                 case RAW_BLOCK:
1054                     for (j = 0; j < 8; j++)
1055                         for (i = 0; i < 8; i++)
1056                             ublock[i + j*8] = get_value(c, BINK_SRC_COLORS);
1057                     break;
1058                 default:
1059                     av_log(c->avctx, AV_LOG_ERROR, "Incorrect 16x16 block type %d\n", blk);
1060                     return -1;
1061                 }
1062                 if (blk != FILL_BLOCK)
1063                 c->bdsp.scale_block(ublock, dst, stride);
1064                 bx++;
1065                 dst  += 8;
1066                 prev += 8;
1067                 break;
1068             case MOTION_BLOCK:
1069                 xoff = get_value(c, BINK_SRC_X_OFF);
1070                 yoff = get_value(c, BINK_SRC_Y_OFF);
1071                 ref = prev + xoff + yoff * stride;
1072                 if (ref < ref_start || ref > ref_end) {
1073                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1074                            bx*8 + xoff, by*8 + yoff);
1075                     return -1;
1076                 }
1077                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1078                 break;
1079             case RUN_BLOCK:
1080                 scan = bink_patterns[get_bits(gb, 4)];
1081                 i = 0;
1082                 do {
1083                     int run = get_value(c, BINK_SRC_RUN) + 1;
1084
1085                     i += run;
1086                     if (i > 64) {
1087                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1088                         return -1;
1089                     }
1090                     if (get_bits1(gb)) {
1091                         v = get_value(c, BINK_SRC_COLORS);
1092                         for (j = 0; j < run; j++)
1093                             dst[coordmap[*scan++]] = v;
1094                     } else {
1095                         for (j = 0; j < run; j++)
1096                             dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1097                     }
1098                 } while (i < 63);
1099                 if (i == 63)
1100                     dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1101                 break;
1102             case RESIDUE_BLOCK:
1103                 xoff = get_value(c, BINK_SRC_X_OFF);
1104                 yoff = get_value(c, BINK_SRC_Y_OFF);
1105                 ref = prev + xoff + yoff * stride;
1106                 if (ref < ref_start || ref > ref_end) {
1107                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1108                            bx*8 + xoff, by*8 + yoff);
1109                     return -1;
1110                 }
1111                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1112                 c->dsp.clear_block(block);
1113                 v = get_bits(gb, 7);
1114                 read_residue(gb, block, v);
1115                 c->dsp.add_pixels8(dst, block, stride);
1116                 break;
1117             case INTRA_BLOCK:
1118                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1119                 dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1120                 read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1121                 c->bdsp.idct_put(dst, stride, dctblock);
1122                 break;
1123             case FILL_BLOCK:
1124                 v = get_value(c, BINK_SRC_COLORS);
1125                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
1126                 break;
1127             case INTER_BLOCK:
1128                 xoff = get_value(c, BINK_SRC_X_OFF);
1129                 yoff = get_value(c, BINK_SRC_Y_OFF);
1130                 ref = prev + xoff + yoff * stride;
1131                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1132                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1133                 dctblock[0] = get_value(c, BINK_SRC_INTER_DC);
1134                 read_dct_coeffs(gb, dctblock, bink_scan, bink_inter_quant, -1);
1135                 c->bdsp.idct_add(dst, stride, dctblock);
1136                 break;
1137             case PATTERN_BLOCK:
1138                 for (i = 0; i < 2; i++)
1139                     col[i] = get_value(c, BINK_SRC_COLORS);
1140                 for (i = 0; i < 8; i++) {
1141                     v = get_value(c, BINK_SRC_PATTERN);
1142                     for (j = 0; j < 8; j++, v >>= 1)
1143                         dst[i*stride + j] = col[v & 1];
1144                 }
1145                 break;
1146             case RAW_BLOCK:
1147                 for (i = 0; i < 8; i++)
1148                     memcpy(dst + i*stride, c->bundle[BINK_SRC_COLORS].cur_ptr + i*8, 8);
1149                 c->bundle[BINK_SRC_COLORS].cur_ptr += 64;
1150                 break;
1151             default:
1152                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
1153                 return -1;
1154             }
1155         }
1156     }
1157     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
1158         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
1159
1160     return 0;
1161 }
1162
1163 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, AVPacket *pkt)
1164 {
1165     BinkContext * const c = avctx->priv_data;
1166     GetBitContext gb;
1167     int plane, plane_idx;
1168     int bits_count = pkt->size << 3;
1169
1170     if (c->version > 'b') {
1171         if(c->pic.data[0])
1172             avctx->release_buffer(avctx, &c->pic);
1173
1174         if(avctx->get_buffer(avctx, &c->pic) < 0){
1175             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1176             return -1;
1177         }
1178     } else {
1179         if(avctx->reget_buffer(avctx, &c->pic) < 0){
1180             av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
1181             return -1;
1182         }
1183     }
1184
1185     init_get_bits(&gb, pkt->data, bits_count);
1186     if (c->has_alpha) {
1187         if (c->version >= 'i')
1188             skip_bits_long(&gb, 32);
1189         if (bink_decode_plane(c, &gb, 3, 0) < 0)
1190             return -1;
1191     }
1192     if (c->version >= 'i')
1193         skip_bits_long(&gb, 32);
1194
1195     for (plane = 0; plane < 3; plane++) {
1196         plane_idx = (!plane || !c->swap_planes) ? plane : (plane ^ 3);
1197
1198         if (c->version > 'b') {
1199             if (bink_decode_plane(c, &gb, plane_idx, !!plane) < 0)
1200                 return -1;
1201         } else {
1202             if (binkb_decode_plane(c, &gb, plane_idx, !pkt->pts, !!plane) < 0)
1203                 return -1;
1204         }
1205         if (get_bits_count(&gb) >= bits_count)
1206             break;
1207     }
1208     emms_c();
1209
1210     *data_size = sizeof(AVFrame);
1211     *(AVFrame*)data = c->pic;
1212
1213     if (c->version > 'b')
1214         FFSWAP(AVFrame, c->pic, c->last);
1215
1216     /* always report that the buffer was completely consumed */
1217     return pkt->size;
1218 }
1219
1220 /**
1221  * Caclulate quantization tables for version b
1222  */
1223 static av_cold void binkb_calc_quant(void)
1224 {
1225     uint8_t inv_bink_scan[64];
1226     double s[64];
1227     int i, j;
1228
1229     for (j = 0; j < 8; j++) {
1230         for (i = 0; i < 8; i++) {
1231             if (j && j != 4)
1232                if (i && i != 4)
1233                    s[j*8 + i] = cos(j * M_PI/16.0) * cos(i * M_PI/16.0) * 2.0;
1234                else
1235                    s[j*8 + i] = cos(j * M_PI/16.0) * sqrt(2.0);
1236             else
1237                if (i && i != 4)
1238                    s[j*8 + i] = cos(i * M_PI/16.0) * sqrt(2.0);
1239                else
1240                    s[j*8 + i] = 1.0;
1241         }
1242     }
1243
1244     for (i = 0; i < 64; i++)
1245         inv_bink_scan[bink_scan[i]] = i;
1246
1247     for (j = 0; j < 16; j++) {
1248         for (i = 0; i < 64; i++) {
1249             int k = inv_bink_scan[i];
1250             if (s[i] == 1.0) {
1251                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] *
1252                                           binkb_num[j]/binkb_den[j];
1253                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] *
1254                                           binkb_num[j]/binkb_den[j];
1255             } else {
1256                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] * s[i] *
1257                                           binkb_num[j]/(double)binkb_den[j];
1258                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] * s[i] *
1259                                           binkb_num[j]/(double)binkb_den[j];
1260             }
1261         }
1262     }
1263 }
1264
1265 static av_cold int decode_init(AVCodecContext *avctx)
1266 {
1267     BinkContext * const c = avctx->priv_data;
1268     static VLC_TYPE table[16 * 128][2];
1269     static int binkb_initialised = 0;
1270     int i;
1271     int flags;
1272
1273     c->version = avctx->codec_tag >> 24;
1274     if (avctx->extradata_size < 4) {
1275         av_log(avctx, AV_LOG_ERROR, "Extradata missing or too short\n");
1276         return -1;
1277     }
1278     flags = AV_RL32(avctx->extradata);
1279     c->has_alpha = flags & BINK_FLAG_ALPHA;
1280     c->swap_planes = c->version >= 'h';
1281     if (!bink_trees[15].table) {
1282         for (i = 0; i < 16; i++) {
1283             const int maxbits = bink_tree_lens[i][15];
1284             bink_trees[i].table = table + i*128;
1285             bink_trees[i].table_allocated = 1 << maxbits;
1286             init_vlc(&bink_trees[i], maxbits, 16,
1287                      bink_tree_lens[i], 1, 1,
1288                      bink_tree_bits[i], 1, 1, INIT_VLC_USE_NEW_STATIC | INIT_VLC_LE);
1289         }
1290     }
1291     c->avctx = avctx;
1292
1293     c->pic.data[0] = NULL;
1294
1295     if (av_image_check_size(avctx->width, avctx->height, 0, avctx) < 0) {
1296         return 1;
1297     }
1298
1299     avctx->pix_fmt = c->has_alpha ? PIX_FMT_YUVA420P : PIX_FMT_YUV420P;
1300
1301     avctx->idct_algo = FF_IDCT_BINK;
1302     ff_dsputil_init(&c->dsp, avctx);
1303     ff_binkdsp_init(&c->bdsp);
1304
1305     init_bundles(c);
1306
1307     if (c->version == 'b') {
1308         if (!binkb_initialised) {
1309             binkb_calc_quant();
1310             binkb_initialised = 1;
1311         }
1312     }
1313
1314     return 0;
1315 }
1316
1317 static av_cold int decode_end(AVCodecContext *avctx)
1318 {
1319     BinkContext * const c = avctx->priv_data;
1320
1321     if (c->pic.data[0])
1322         avctx->release_buffer(avctx, &c->pic);
1323     if (c->last.data[0])
1324         avctx->release_buffer(avctx, &c->last);
1325
1326     free_bundles(c);
1327     return 0;
1328 }
1329
1330 AVCodec ff_bink_decoder = {
1331     .name           = "binkvideo",
1332     .type           = AVMEDIA_TYPE_VIDEO,
1333     .id             = AV_CODEC_ID_BINKVIDEO,
1334     .priv_data_size = sizeof(BinkContext),
1335     .init           = decode_init,
1336     .close          = decode_end,
1337     .decode         = decode_frame,
1338     .long_name      = NULL_IF_CONFIG_SMALL("Bink video"),
1339 };