git.sesse.net Git - ffmpeg/blob - libavcodec/bink.c

   1 /*
   2  * Bink video decoder
   3  * Copyright (c) 2009 Konstantin Shishkov
   4  * Copyright (C) 2011 Peter Ross <pross@xvid.org>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/attributes.h"
  24 #include "libavutil/imgutils.h"
  25 #include "libavutil/internal.h"
  26
  27 #define BITSTREAM_READER_LE
  28 #include "avcodec.h"
  29 #include "binkdata.h"
  30 #include "binkdsp.h"
  31 #include "bitstream.h"
  32 #include "blockdsp.h"
  33 #include "hpeldsp.h"
  34 #include "internal.h"
  35 #include "mathops.h"
  36 #include "vlc.h"
  37
  38 #define BINK_FLAG_ALPHA 0x00100000
  39 #define BINK_FLAG_GRAY  0x00020000
  40
  41 static VLC bink_trees[16];
  42
  43 /**
  44  * IDs for different data types used in old version of Bink video codec
  45  */
  46 enum OldSources {
  47     BINKB_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  48     BINKB_SRC_COLORS,          ///< pixel values used for different block types
  49     BINKB_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  50     BINKB_SRC_X_OFF,           ///< X components of motion value
  51     BINKB_SRC_Y_OFF,           ///< Y components of motion value
  52     BINKB_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  53     BINKB_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  54     BINKB_SRC_INTRA_Q,         ///< quantizer values for intrablocks with DCT
  55     BINKB_SRC_INTER_Q,         ///< quantizer values for interblocks with DCT
  56     BINKB_SRC_INTER_COEFS,     ///< number of coefficients for residue blocks
  57
  58     BINKB_NB_SRC
  59 };
  60
  61 static const int binkb_bundle_sizes[BINKB_NB_SRC] = {
  62     4, 8, 8, 5, 5, 11, 11, 4, 4, 7
  63 };
  64
  65 static const int binkb_bundle_signed[BINKB_NB_SRC] = {
  66     0, 0, 0, 1, 1, 0, 1, 0, 0, 0
  67 };
  68
  69 static int32_t binkb_intra_quant[16][64];
  70 static int32_t binkb_inter_quant[16][64];
  71
  72 /**
  73  * IDs for different data types used in Bink video codec
  74  */
  75 enum Sources {
  76     BINK_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
  77     BINK_SRC_SUB_BLOCK_TYPES, ///< 16x16 block types (a subset of 8x8 block types)
  78     BINK_SRC_COLORS,          ///< pixel values used for different block types
  79     BINK_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
  80     BINK_SRC_X_OFF,           ///< X components of motion value
  81     BINK_SRC_Y_OFF,           ///< Y components of motion value
  82     BINK_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
  83     BINK_SRC_INTER_DC,        ///< DC values for interblocks with DCT
  84     BINK_SRC_RUN,             ///< run lengths for special fill block
  85
  86     BINK_NB_SRC
  87 };
  88
  89 /**
  90  * data needed to decode 4-bit Huffman-coded value
  91  */
  92 typedef struct Tree {
  93     int     vlc_num;  ///< tree number (in bink_trees[])
  94     uint8_t syms[16]; ///< leaf value to symbol mapping
  95 } Tree;
  96
  97 #define GET_HUFF(bc, tree)                                                \
  98     (tree).syms[bitstream_read_vlc(bc, bink_trees[(tree).vlc_num].table,  \
  99                                    bink_trees[(tree).vlc_num].bits, 1)]
 100
 101 /**
 102  * data structure used for decoding single Bink data type
 103  */
 104 typedef struct Bundle {
 105     int     len;       ///< length of number of entries to decode (in bits)
 106     Tree    tree;      ///< Huffman tree-related data
 107     uint8_t *data;     ///< buffer for decoded symbols
 108     uint8_t *data_end; ///< buffer end
 109     uint8_t *cur_dec;  ///< pointer to the not yet decoded part of the buffer
 110     uint8_t *cur_ptr;  ///< pointer to the data that is not read from buffer yet
 111 } Bundle;
 112
 113 /*
 114  * Decoder context
 115  */
 116 typedef struct BinkContext {
 117     AVCodecContext *avctx;
 118     BlockDSPContext bdsp;
 119     HpelDSPContext hdsp;
 120     BinkDSPContext binkdsp;
 121     AVFrame        *last;
 122     int            version;              ///< internal Bink file version
 123     int            has_alpha;
 124     int            swap_planes;
 125
 126     Bundle         bundle[BINKB_NB_SRC]; ///< bundles for decoding all data types
 127     Tree           col_high[16];         ///< trees for decoding high nibble in "colours" data type
 128     int            col_lastval;          ///< value of last decoded high nibble in "colours" data type
 129 } BinkContext;
 130
 131 /**
 132  * Bink video block types
 133  */
 134 enum BlockTypes {
 135     SKIP_BLOCK = 0, ///< skipped block
 136     SCALED_BLOCK,   ///< block has size 16x16
 137     MOTION_BLOCK,   ///< block is copied from previous frame with some offset
 138     RUN_BLOCK,      ///< block is composed from runs of colours with custom scan order
 139     RESIDUE_BLOCK,  ///< motion block with some difference added
 140     INTRA_BLOCK,    ///< intra DCT block
 141     FILL_BLOCK,     ///< block is filled with single colour
 142     INTER_BLOCK,    ///< motion block with DCT applied to the difference
 143     PATTERN_BLOCK,  ///< block is filled with two colours following custom pattern
 144     RAW_BLOCK,      ///< uncoded 8x8 block
 145 };
 146
 147 /**
 148  * Initialize length length in all bundles.
 149  *
 150  * @param c     decoder context
 151  * @param width plane width
 152  * @param bw    plane width in 8x8 blocks
 153  */
 154 static void init_lengths(BinkContext *c, int width, int bw)
 155 {
 156     width = FFALIGN(width, 8);
 157
 158     c->bundle[BINK_SRC_BLOCK_TYPES].len = av_log2((width >> 3) + 511) + 1;
 159
 160     c->bundle[BINK_SRC_SUB_BLOCK_TYPES].len = av_log2((width >> 4) + 511) + 1;
 161
 162     c->bundle[BINK_SRC_COLORS].len = av_log2(bw*64 + 511) + 1;
 163
 164     c->bundle[BINK_SRC_INTRA_DC].len =
 165     c->bundle[BINK_SRC_INTER_DC].len =
 166     c->bundle[BINK_SRC_X_OFF].len =
 167     c->bundle[BINK_SRC_Y_OFF].len = av_log2((width >> 3) + 511) + 1;
 168
 169     c->bundle[BINK_SRC_PATTERN].len = av_log2((bw << 3) + 511) + 1;
 170
 171     c->bundle[BINK_SRC_RUN].len = av_log2(bw*48 + 511) + 1;
 172 }
 173
 174 /**
 175  * Allocate memory for bundles.
 176  *
 177  * @param c decoder context
 178  */
 179 static av_cold void init_bundles(BinkContext *c)
 180 {
 181     int bw, bh, blocks;
 182     int i;
 183
 184     bw = (c->avctx->width  + 7) >> 3;
 185     bh = (c->avctx->height + 7) >> 3;
 186     blocks = bw * bh;
 187
 188     for (i = 0; i < BINKB_NB_SRC; i++) {
 189         c->bundle[i].data = av_malloc(blocks * 64);
 190         c->bundle[i].data_end = c->bundle[i].data + blocks * 64;
 191     }
 192 }
 193
 194 /**
 195  * Free memory used by bundles.
 196  *
 197  * @param c decoder context
 198  */
 199 static av_cold void free_bundles(BinkContext *c)
 200 {
 201     int i;
 202     for (i = 0; i < BINKB_NB_SRC; i++)
 203         av_freep(&c->bundle[i].data);
 204 }
 205
 206 /**
 207  * Merge two consequent lists of equal size depending on bits read.
 208  *
 209  * @param bc   context for reading bits
 210  * @param dst  buffer where merged list will be written to
 211  * @param src  pointer to the head of the first list (the second lists starts at src+size)
 212  * @param size input lists size
 213  */
 214 static void merge(BitstreamContext *bc, uint8_t *dst, uint8_t *src, int size)
 215 {
 216     uint8_t *src2 = src + size;
 217     int size2 = size;
 218
 219     do {
 220         if (!bitstream_read_bit(bc)) {
 221             *dst++ = *src++;
 222             size--;
 223         } else {
 224             *dst++ = *src2++;
 225             size2--;
 226         }
 227     } while (size && size2);
 228
 229     while (size--)
 230         *dst++ = *src++;
 231     while (size2--)
 232         *dst++ = *src2++;
 233 }
 234
 235 /**
 236  * Read information about Huffman tree used to decode data.
 237  *
 238  * @param bc   context for reading bits
 239  * @param tree pointer for storing tree data
 240  */
 241 static void read_tree(BitstreamContext *bc, Tree *tree)
 242 {
 243     uint8_t tmp1[16] = { 0 }, tmp2[16], *in = tmp1, *out = tmp2;
 244     int i, t, len;
 245
 246     tree->vlc_num = bitstream_read(bc, 4);
 247     if (!tree->vlc_num) {
 248         for (i = 0; i < 16; i++)
 249             tree->syms[i] = i;
 250         return;
 251     }
 252     if (bitstream_read_bit(bc)) {
 253         len = bitstream_read(bc, 3);
 254         for (i = 0; i <= len; i++) {
 255             tree->syms[i] = bitstream_read(bc, 4);
 256             tmp1[tree->syms[i]] = 1;
 257         }
 258         for (i = 0; i < 16 && len < 16 - 1; i++)
 259             if (!tmp1[i])
 260                 tree->syms[++len] = i;
 261     } else {
 262         len = bitstream_read(bc, 2);
 263         for (i = 0; i < 16; i++)
 264             in[i] = i;
 265         for (i = 0; i <= len; i++) {
 266             int size = 1 << i;
 267             for (t = 0; t < 16; t += size << 1)
 268                 merge(bc, out + t, in + t, size);
 269             FFSWAP(uint8_t*, in, out);
 270         }
 271         memcpy(tree->syms, in, 16);
 272     }
 273 }
 274
 275 /**
 276  * Prepare bundle for decoding data.
 277  *
 278  * @param bc          context for reading bits
 279  * @param c           decoder context
 280  * @param bundle_num  number of the bundle to initialize
 281  */
 282 static void read_bundle(BitstreamContext *bc, BinkContext *c, int bundle_num)
 283 {
 284     int i;
 285
 286     if (bundle_num == BINK_SRC_COLORS) {
 287         for (i = 0; i < 16; i++)
 288             read_tree(bc, &c->col_high[i]);
 289         c->col_lastval = 0;
 290     }
 291     if (bundle_num != BINK_SRC_INTRA_DC && bundle_num != BINK_SRC_INTER_DC)
 292         read_tree(bc, &c->bundle[bundle_num].tree);
 293     c->bundle[bundle_num].cur_dec =
 294     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 295 }
 296
 297 /**
 298  * common check before starting decoding bundle data
 299  *
 300  * @param bc context for reading bits
 301  * @param b  bundle
 302  * @param t  variable where number of elements to decode will be stored
 303  */
 304 #define CHECK_READ_VAL(bc, b, t) \
 305     if (!b->cur_dec || (b->cur_dec > b->cur_ptr)) \
 306         return 0; \
 307     t = bitstream_read(bc, b->len); \
 308     if (!t) { \
 309         b->cur_dec = NULL; \
 310         return 0; \
 311     } \
 312
 313 static int read_runs(AVCodecContext *avctx, BitstreamContext *bc, Bundle *b)
 314 {
 315     int t, v;
 316     const uint8_t *dec_end;
 317
 318     CHECK_READ_VAL(bc, b, t);
 319     dec_end = b->cur_dec + t;
 320     if (dec_end > b->data_end) {
 321         av_log(avctx, AV_LOG_ERROR, "Run value went out of bounds\n");
 322         return AVERROR_INVALIDDATA;
 323     }
 324     if (bitstream_read_bit(bc)) {
 325         v = bitstream_read(bc, 4);
 326         memset(b->cur_dec, v, t);
 327         b->cur_dec += t;
 328     } else {
 329         while (b->cur_dec < dec_end)
 330             *b->cur_dec++ = GET_HUFF(bc, b->tree);
 331     }
 332     return 0;
 333 }
 334
 335 static int read_motion_values(AVCodecContext *avctx, BitstreamContext *bc, Bundle *b)
 336 {
 337     int t, v;
 338     const uint8_t *dec_end;
 339
 340     CHECK_READ_VAL(bc, b, t);
 341     dec_end = b->cur_dec + t;
 342     if (dec_end > b->data_end) {
 343         av_log(avctx, AV_LOG_ERROR, "Too many motion values\n");
 344         return AVERROR_INVALIDDATA;
 345     }
 346     if (bitstream_read_bit(bc)) {
 347         v = bitstream_read(bc, 4);
 348         if (v) {
 349             v = bitstream_apply_sign(bc, v);
 350         }
 351         memset(b->cur_dec, v, t);
 352         b->cur_dec += t;
 353     } else {
 354         while (b->cur_dec < dec_end) {
 355             v = GET_HUFF(bc, b->tree);
 356             if (v) {
 357                 v = bitstream_apply_sign(bc, v);
 358             }
 359             *b->cur_dec++ = v;
 360         }
 361     }
 362     return 0;
 363 }
 364
 365 static const uint8_t bink_rlelens[4] = { 4, 8, 12, 32 };
 366
 367 static int read_block_types(AVCodecContext *avctx, BitstreamContext *bc, Bundle *b)
 368 {
 369     int t, v;
 370     int last = 0;
 371     const uint8_t *dec_end;
 372
 373     CHECK_READ_VAL(bc, b, t);
 374     dec_end = b->cur_dec + t;
 375     if (dec_end > b->data_end) {
 376         av_log(avctx, AV_LOG_ERROR, "Too many block type values\n");
 377         return AVERROR_INVALIDDATA;
 378     }
 379     if (bitstream_read_bit(bc)) {
 380         v = bitstream_read(bc, 4);
 381         memset(b->cur_dec, v, t);
 382         b->cur_dec += t;
 383     } else {
 384         while (b->cur_dec < dec_end) {
 385             v = GET_HUFF(bc, b->tree);
 386             if (v < 12) {
 387                 last = v;
 388                 *b->cur_dec++ = v;
 389             } else {
 390                 int run = bink_rlelens[v - 12];
 391
 392                 if (dec_end - b->cur_dec < run)
 393                     return AVERROR_INVALIDDATA;
 394                 memset(b->cur_dec, last, run);
 395                 b->cur_dec += run;
 396             }
 397         }
 398     }
 399     return 0;
 400 }
 401
 402 static int read_patterns(AVCodecContext *avctx, BitstreamContext *bc, Bundle *b)
 403 {
 404     int t, v;
 405     const uint8_t *dec_end;
 406
 407     CHECK_READ_VAL(bc, b, t);
 408     dec_end = b->cur_dec + t;
 409     if (dec_end > b->data_end) {
 410         av_log(avctx, AV_LOG_ERROR, "Too many pattern values\n");
 411         return AVERROR_INVALIDDATA;
 412     }
 413     while (b->cur_dec < dec_end) {
 414         v  = GET_HUFF(bc, b->tree);
 415         v |= GET_HUFF(bc, b->tree) << 4;
 416         *b->cur_dec++ = v;
 417     }
 418
 419     return 0;
 420 }
 421
 422 static int read_colors(BitstreamContext *bc, Bundle *b, BinkContext *c)
 423 {
 424     int t, sign, v;
 425     const uint8_t *dec_end;
 426
 427     CHECK_READ_VAL(bc, b, t);
 428     dec_end = b->cur_dec + t;
 429     if (dec_end > b->data_end) {
 430         av_log(c->avctx, AV_LOG_ERROR, "Too many color values\n");
 431         return AVERROR_INVALIDDATA;
 432     }
 433     if (bitstream_read_bit(bc)) {
 434         c->col_lastval = GET_HUFF(bc, c->col_high[c->col_lastval]);
 435         v = GET_HUFF(bc, b->tree);
 436         v = (c->col_lastval << 4) | v;
 437         if (c->version < 'i') {
 438             sign = ((int8_t) v) >> 7;
 439             v = ((v & 0x7F) ^ sign) - sign;
 440             v += 0x80;
 441         }
 442         memset(b->cur_dec, v, t);
 443         b->cur_dec += t;
 444     } else {
 445         while (b->cur_dec < dec_end) {
 446             c->col_lastval = GET_HUFF(bc, c->col_high[c->col_lastval]);
 447             v = GET_HUFF(bc, b->tree);
 448             v = (c->col_lastval << 4) | v;
 449             if (c->version < 'i') {
 450                 sign = ((int8_t) v) >> 7;
 451                 v = ((v & 0x7F) ^ sign) - sign;
 452                 v += 0x80;
 453             }
 454             *b->cur_dec++ = v;
 455         }
 456     }
 457     return 0;
 458 }
 459
 460 /** number of bits used to store first DC value in bundle */
 461 #define DC_START_BITS 11
 462
 463 static int read_dcs(AVCodecContext *avctx, BitstreamContext *bc, Bundle *b,
 464                     int start_bits, int has_sign)
 465 {
 466     int i, j, len, len2, bsize, v, v2;
 467     int16_t *dst     = (int16_t*)b->cur_dec;
 468     int16_t *dst_end = (int16_t*)b->data_end;
 469
 470     CHECK_READ_VAL(bc, b, len);
 471     v = bitstream_read(bc, start_bits - has_sign);
 472     if (v && has_sign) {
 473         v = bitstream_apply_sign(bc, v);
 474     }
 475     if (dst_end - dst < 1)
 476         return AVERROR_INVALIDDATA;
 477     *dst++ = v;
 478     len--;
 479     for (i = 0; i < len; i += 8) {
 480         len2 = FFMIN(len - i, 8);
 481         if (dst_end - dst < len2)
 482             return AVERROR_INVALIDDATA;
 483         bsize = bitstream_read(bc, 4);
 484         if (bsize) {
 485             for (j = 0; j < len2; j++) {
 486                 v2 = bitstream_read(bc, bsize);
 487                 if (v2) {
 488                     v2 = bitstream_apply_sign(bc, v2);
 489                 }
 490                 v += v2;
 491                 *dst++ = v;
 492                 if (v < -32768 || v > 32767) {
 493                     av_log(avctx, AV_LOG_ERROR, "DC value went out of bounds: %d\n", v);
 494                     return AVERROR_INVALIDDATA;
 495                 }
 496             }
 497         } else {
 498             for (j = 0; j < len2; j++)
 499                 *dst++ = v;
 500         }
 501     }
 502
 503     b->cur_dec = (uint8_t*)dst;
 504     return 0;
 505 }
 506
 507 /**
 508  * Retrieve next value from bundle.
 509  *
 510  * @param c      decoder context
 511  * @param bundle bundle number
 512  */
 513 static inline int get_value(BinkContext *c, int bundle)
 514 {
 515     int ret;
 516
 517     if (bundle < BINK_SRC_X_OFF || bundle == BINK_SRC_RUN)
 518         return *c->bundle[bundle].cur_ptr++;
 519     if (bundle == BINK_SRC_X_OFF || bundle == BINK_SRC_Y_OFF)
 520         return (int8_t)*c->bundle[bundle].cur_ptr++;
 521     ret = *(int16_t*)c->bundle[bundle].cur_ptr;
 522     c->bundle[bundle].cur_ptr += 2;
 523     return ret;
 524 }
 525
 526 static av_cold void binkb_init_bundle(BinkContext *c, int bundle_num)
 527 {
 528     c->bundle[bundle_num].cur_dec =
 529     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
 530     c->bundle[bundle_num].len = 13;
 531 }
 532
 533 static av_cold void binkb_init_bundles(BinkContext *c)
 534 {
 535     int i;
 536     for (i = 0; i < BINKB_NB_SRC; i++)
 537         binkb_init_bundle(c, i);
 538 }
 539
 540 static int binkb_read_bundle(BinkContext *c, BitstreamContext *bc, int bundle_num)
 541 {
 542     const int bits = binkb_bundle_sizes[bundle_num];
 543     const int mask = 1 << (bits - 1);
 544     const int issigned = binkb_bundle_signed[bundle_num];
 545     Bundle *b = &c->bundle[bundle_num];
 546     int i, len;
 547
 548     CHECK_READ_VAL(bc, b, len);
 549     if (b->data_end - b->cur_dec < len * (1 + (bits > 8)))
 550         return AVERROR_INVALIDDATA;
 551     if (bits <= 8) {
 552         if (!issigned) {
 553             for (i = 0; i < len; i++)
 554                 *b->cur_dec++ = bitstream_read(bc, bits);
 555         } else {
 556             for (i = 0; i < len; i++)
 557                 *b->cur_dec++ = bitstream_read(bc, bits) - mask;
 558         }
 559     } else {
 560         int16_t *dst = (int16_t*)b->cur_dec;
 561
 562         if (!issigned) {
 563             for (i = 0; i < len; i++)
 564                 *dst++ = bitstream_read(bc, bits);
 565         } else {
 566             for (i = 0; i < len; i++)
 567                 *dst++ = bitstream_read(bc, bits) - mask;
 568         }
 569         b->cur_dec = (uint8_t*)dst;
 570     }
 571     return 0;
 572 }
 573
 574 static inline int binkb_get_value(BinkContext *c, int bundle_num)
 575 {
 576     int16_t ret;
 577     const int bits = binkb_bundle_sizes[bundle_num];
 578
 579     if (bits <= 8) {
 580         int val = *c->bundle[bundle_num].cur_ptr++;
 581         return binkb_bundle_signed[bundle_num] ? (int8_t)val : val;
 582     }
 583     ret = *(int16_t*)c->bundle[bundle_num].cur_ptr;
 584     c->bundle[bundle_num].cur_ptr += 2;
 585     return ret;
 586 }
 587
 588 /**
 589  * Read 8x8 block of DCT coefficients.
 590  *
 591  * @param bc       context for reading bits
 592  * @param block    place for storing coefficients
 593  * @param scan     scan order table
 594  * @param quant_matrices quantization matrices
 595  * @return 0 for success, negative value in other cases
 596  */
 597 static int read_dct_coeffs(BitstreamContext *bc, int32_t block[64],
 598                            const uint8_t *scan, int *coef_count_,
 599                            int coef_idx[64], int q)
 600 {
 601     int coef_list[128];
 602     int mode_list[128];
 603     int i, t, bits, ccoef, mode;
 604     int list_start = 64, list_end = 64, list_pos;
 605     int coef_count = 0;
 606     int quant_idx;
 607
 608     coef_list[list_end] = 4;  mode_list[list_end++] = 0;
 609     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 610     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 611     coef_list[list_end] = 1;  mode_list[list_end++] = 3;
 612     coef_list[list_end] = 2;  mode_list[list_end++] = 3;
 613     coef_list[list_end] = 3;  mode_list[list_end++] = 3;
 614
 615     for (bits = bitstream_read(bc, 4) - 1; bits >= 0; bits--) {
 616         list_pos = list_start;
 617         while (list_pos < list_end) {
 618             if (!(mode_list[list_pos] | coef_list[list_pos]) || !bitstream_read_bit(bc)) {
 619                 list_pos++;
 620                 continue;
 621             }
 622             ccoef = coef_list[list_pos];
 623             mode  = mode_list[list_pos];
 624             switch (mode) {
 625             case 0:
 626                 coef_list[list_pos] = ccoef + 4;
 627                 mode_list[list_pos] = 1;
 628             case 2:
 629                 if (mode == 2) {
 630                     coef_list[list_pos]   = 0;
 631                     mode_list[list_pos++] = 0;
 632                 }
 633                 for (i = 0; i < 4; i++, ccoef++) {
 634                     if (bitstream_read_bit(bc)) {
 635                         coef_list[--list_start] = ccoef;
 636                         mode_list[  list_start] = 3;
 637                     } else {
 638                         if (!bits) {
 639                             t = 1 - (bitstream_read_bit(bc) << 1);
 640                         } else {
 641                             t = bitstream_read(bc, bits) | 1 << bits;
 642                             t = bitstream_apply_sign(bc, t);
 643                         }
 644                         block[scan[ccoef]] = t;
 645                         coef_idx[coef_count++] = ccoef;
 646                     }
 647                 }
 648                 break;
 649             case 1:
 650                 mode_list[list_pos] = 2;
 651                 for (i = 0; i < 3; i++) {
 652                     ccoef += 4;
 653                     coef_list[list_end]   = ccoef;
 654                     mode_list[list_end++] = 2;
 655                 }
 656                 break;
 657             case 3:
 658                 if (!bits) {
 659                     t = 1 - (bitstream_read_bit(bc) << 1);
 660                 } else {
 661                     t = bitstream_read(bc, bits) | 1 << bits;
 662                     t = bitstream_apply_sign(bc, t);
 663                 }
 664                 block[scan[ccoef]] = t;
 665                 coef_idx[coef_count++] = ccoef;
 666                 coef_list[list_pos]   = 0;
 667                 mode_list[list_pos++] = 0;
 668                 break;
 669             }
 670         }
 671     }
 672
 673     if (q == -1) {
 674         quant_idx = bitstream_read(bc, 4);
 675     } else {
 676         quant_idx = q;
 677     }
 678
 679     if (quant_idx >= 16)
 680         return AVERROR_INVALIDDATA;
 681
 682     *coef_count_ = coef_count;
 683
 684     return quant_idx;
 685 }
 686
 687 static void unquantize_dct_coeffs(int32_t block[64], const int32_t quant[64],
 688                                   int coef_count, int coef_idx[64],
 689                                   const uint8_t *scan)
 690 {
 691     int i;
 692     block[0] = (block[0] * quant[0]) >> 11;
 693     for (i = 0; i < coef_count; i++) {
 694         int idx = coef_idx[i];
 695         block[scan[idx]] = (block[scan[idx]] * quant[idx]) >> 11;
 696     }
 697 }
 698
 699 /**
 700  * Read 8x8 block with residue after motion compensation.
 701  *
 702  * @param bc          context for reading bits
 703  * @param block       place to store read data
 704  * @param masks_count number of masks to decode
 705  * @return 0 on success, negative value in other cases
 706  */
 707 static int read_residue(BitstreamContext *bc, int16_t block[64], int masks_count)
 708 {
 709     int coef_list[128];
 710     int mode_list[128];
 711     int i, mask, ccoef, mode;
 712     int list_start = 64, list_end = 64, list_pos;
 713     int nz_coeff[64];
 714     int nz_coeff_count = 0;
 715
 716     coef_list[list_end] =  4; mode_list[list_end++] = 0;
 717     coef_list[list_end] = 24; mode_list[list_end++] = 0;
 718     coef_list[list_end] = 44; mode_list[list_end++] = 0;
 719     coef_list[list_end] =  0; mode_list[list_end++] = 2;
 720
 721     for (mask = 1 << bitstream_read(bc, 3); mask; mask >>= 1) {
 722         for (i = 0; i < nz_coeff_count; i++) {
 723             if (!bitstream_read_bit(bc))
 724                 continue;
 725             if (block[nz_coeff[i]] < 0)
 726                 block[nz_coeff[i]] -= mask;
 727             else
 728                 block[nz_coeff[i]] += mask;
 729             masks_count--;
 730             if (masks_count < 0)
 731                 return 0;
 732         }
 733         list_pos = list_start;
 734         while (list_pos < list_end) {
 735             if (!(coef_list[list_pos] | mode_list[list_pos]) || !bitstream_read_bit(bc)) {
 736                 list_pos++;
 737                 continue;
 738             }
 739             ccoef = coef_list[list_pos];
 740             mode  = mode_list[list_pos];
 741             switch (mode) {
 742             case 0:
 743                 coef_list[list_pos] = ccoef + 4;
 744                 mode_list[list_pos] = 1;
 745             case 2:
 746                 if (mode == 2) {
 747                     coef_list[list_pos]   = 0;
 748                     mode_list[list_pos++] = 0;
 749                 }
 750                 for (i = 0; i < 4; i++, ccoef++) {
 751                     if (bitstream_read_bit(bc)) {
 752                         coef_list[--list_start] = ccoef;
 753                         mode_list[  list_start] = 3;
 754                     } else {
 755                         nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 756                         block[bink_scan[ccoef]] = bitstream_apply_sign(bc, mask);
 757                         masks_count--;
 758                         if (masks_count < 0)
 759                             return 0;
 760                     }
 761                 }
 762                 break;
 763             case 1:
 764                 mode_list[list_pos] = 2;
 765                 for (i = 0; i < 3; i++) {
 766                     ccoef += 4;
 767                     coef_list[list_end]   = ccoef;
 768                     mode_list[list_end++] = 2;
 769                 }
 770                 break;
 771             case 3:
 772                 nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
 773                 block[bink_scan[ccoef]] = bitstream_apply_sign(bc, mask);
 774                 coef_list[list_pos]   = 0;
 775                 mode_list[list_pos++] = 0;
 776                 masks_count--;
 777                 if (masks_count < 0)
 778                     return 0;
 779                 break;
 780             }
 781         }
 782     }
 783
 784     return 0;
 785 }
 786
 787 /**
 788  * Copy 8x8 block from source to destination, where src and dst may be overlapped
 789  */
 790 static inline void put_pixels8x8_overlapped(uint8_t *dst, uint8_t *src, int stride)
 791 {
 792     uint8_t tmp[64];
 793     int i;
 794     for (i = 0; i < 8; i++)
 795         memcpy(tmp + i*8, src + i*stride, 8);
 796     for (i = 0; i < 8; i++)
 797         memcpy(dst + i*stride, tmp + i*8, 8);
 798 }
 799
 800 static int binkb_decode_plane(BinkContext *c, AVFrame *frame, BitstreamContext *bc,
 801                               int plane_idx, int is_key, int is_chroma)
 802 {
 803     int blk, ret;
 804     int i, j, bx, by;
 805     uint8_t *dst, *ref, *ref_start, *ref_end;
 806     int v, col[2];
 807     const uint8_t *scan;
 808     int xoff, yoff;
 809     LOCAL_ALIGNED_16(int16_t, block, [64]);
 810     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 811     int coordmap[64];
 812     int ybias = is_key ? -15 : 0;
 813     int qp, quant_idx, coef_count, coef_idx[64];
 814
 815     const int stride = frame->linesize[plane_idx];
 816     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 817     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 818
 819     binkb_init_bundles(c);
 820     ref_start = frame->data[plane_idx];
 821     ref_end   = frame->data[plane_idx] + (bh * frame->linesize[plane_idx] + bw) * 8;
 822
 823     for (i = 0; i < 64; i++)
 824         coordmap[i] = (i & 7) + (i >> 3) * stride;
 825
 826     for (by = 0; by < bh; by++) {
 827         for (i = 0; i < BINKB_NB_SRC; i++) {
 828             if ((ret = binkb_read_bundle(c, bc, i)) < 0)
 829                 return ret;
 830         }
 831
 832         dst  = frame->data[plane_idx]  + 8*by*stride;
 833         for (bx = 0; bx < bw; bx++, dst += 8) {
 834             blk = binkb_get_value(c, BINKB_SRC_BLOCK_TYPES);
 835             switch (blk) {
 836             case 0:
 837                 break;
 838             case 1:
 839                 scan = bink_patterns[bitstream_read(bc, 4)];
 840                 i = 0;
 841                 do {
 842                     int mode = bitstream_read_bit(bc);
 843                     int run  = bitstream_read(bc, binkb_runbits[i]) + 1;
 844
 845                     i += run;
 846                     if (i > 64) {
 847                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
 848                         return AVERROR_INVALIDDATA;
 849                     }
 850                     if (mode) {
 851                         v = binkb_get_value(c, BINKB_SRC_COLORS);
 852                         for (j = 0; j < run; j++)
 853                             dst[coordmap[*scan++]] = v;
 854                     } else {
 855                         for (j = 0; j < run; j++)
 856                             dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 857                     }
 858                 } while (i < 63);
 859                 if (i == 63)
 860                     dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
 861                 break;
 862             case 2:
 863                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 864                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTRA_DC);
 865                 qp = binkb_get_value(c, BINKB_SRC_INTRA_Q);
 866                 if ((quant_idx = read_dct_coeffs(bc, dctblock, bink_scan, &coef_count, coef_idx, qp)) < 0)
 867                     return quant_idx;
 868                 unquantize_dct_coeffs(dctblock, binkb_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
 869                 c->binkdsp.idct_put(dst, stride, dctblock);
 870                 break;
 871             case 3:
 872                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 873                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 874                 ref = dst + xoff + yoff * stride;
 875                 if (ref < ref_start || ref + 8*stride > ref_end) {
 876                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 877                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 878                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 879                 } else {
 880                     put_pixels8x8_overlapped(dst, ref, stride);
 881                 }
 882                 c->bdsp.clear_block(block);
 883                 v = binkb_get_value(c, BINKB_SRC_INTER_COEFS);
 884                 read_residue(bc, block, v);
 885                 c->binkdsp.add_pixels8(dst, block, stride);
 886                 break;
 887             case 4:
 888                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 889                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 890                 ref = dst + xoff + yoff * stride;
 891                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 892                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 893                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 894                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 895                 } else {
 896                     put_pixels8x8_overlapped(dst, ref, stride);
 897                 }
 898                 memset(dctblock, 0, sizeof(*dctblock) * 64);
 899                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTER_DC);
 900                 qp = binkb_get_value(c, BINKB_SRC_INTER_Q);
 901                 if ((quant_idx = read_dct_coeffs(bc, dctblock, bink_scan, &coef_count, coef_idx, qp)) < 0)
 902                     return quant_idx;
 903                 unquantize_dct_coeffs(dctblock, binkb_inter_quant[quant_idx], coef_count, coef_idx, bink_scan);
 904                 c->binkdsp.idct_add(dst, stride, dctblock);
 905                 break;
 906             case 5:
 907                 v = binkb_get_value(c, BINKB_SRC_COLORS);
 908                 c->bdsp.fill_block_tab[1](dst, v, stride, 8);
 909                 break;
 910             case 6:
 911                 for (i = 0; i < 2; i++)
 912                     col[i] = binkb_get_value(c, BINKB_SRC_COLORS);
 913                 for (i = 0; i < 8; i++) {
 914                     v = binkb_get_value(c, BINKB_SRC_PATTERN);
 915                     for (j = 0; j < 8; j++, v >>= 1)
 916                         dst[i*stride + j] = col[v & 1];
 917                 }
 918                 break;
 919             case 7:
 920                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
 921                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
 922                 ref = dst + xoff + yoff * stride;
 923                 if (ref < ref_start || ref + 8 * stride > ref_end) {
 924                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
 925                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
 926                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 927                 } else {
 928                     put_pixels8x8_overlapped(dst, ref, stride);
 929                 }
 930                 break;
 931             case 8:
 932                 for (i = 0; i < 8; i++)
 933                     memcpy(dst + i*stride, c->bundle[BINKB_SRC_COLORS].cur_ptr + i*8, 8);
 934                 c->bundle[BINKB_SRC_COLORS].cur_ptr += 64;
 935                 break;
 936             default:
 937                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
 938                 return AVERROR_INVALIDDATA;
 939             }
 940         }
 941     }
 942     if (bitstream_tell(bc) & 0x1F) // next plane data starts at 32-bit boundary
 943         bitstream_skip(bc, 32 - (bitstream_tell(bc) & 0x1F));
 944
 945     return 0;
 946 }
 947
 948 static int bink_put_pixels(BinkContext *c,
 949                            uint8_t *dst, uint8_t *prev, int stride,
 950                            uint8_t *ref_start,
 951                            uint8_t *ref_end)
 952 {
 953     int xoff     = get_value(c, BINK_SRC_X_OFF);
 954     int yoff     = get_value(c, BINK_SRC_Y_OFF);
 955     uint8_t *ref = prev + xoff + yoff * stride;
 956     if (ref < ref_start || ref > ref_end) {
 957         av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
 958                xoff, yoff);
 959         return AVERROR_INVALIDDATA;
 960     }
 961     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
 962
 963     return 0;
 964 }
 965
 966 static int bink_decode_plane(BinkContext *c, AVFrame *frame, BitstreamContext *bc,
 967                              int plane_idx, int is_chroma)
 968 {
 969     int blk, ret;
 970     int i, j, bx, by;
 971     uint8_t *dst, *prev, *ref_start, *ref_end;
 972     int v, col[2];
 973     const uint8_t *scan;
 974     LOCAL_ALIGNED_16(int16_t, block, [64]);
 975     LOCAL_ALIGNED_16(uint8_t, ublock, [64]);
 976     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
 977     int coordmap[64], quant_idx, coef_count, coef_idx[64];
 978
 979     const int stride = frame->linesize[plane_idx];
 980     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
 981     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
 982     int width = c->avctx->width >> is_chroma;
 983
 984     init_lengths(c, FFMAX(width, 8), bw);
 985     for (i = 0; i < BINK_NB_SRC; i++)
 986         read_bundle(bc, c, i);
 987
 988     ref_start = c->last->data[plane_idx] ? c->last->data[plane_idx]
 989                                          : frame->data[plane_idx];
 990     ref_end   = ref_start
 991                 + (bw - 1 + c->last->linesize[plane_idx] * (bh - 1)) * 8;
 992
 993     for (i = 0; i < 64; i++)
 994         coordmap[i] = (i & 7) + (i >> 3) * stride;
 995
 996     for (by = 0; by < bh; by++) {
 997         if ((ret = read_block_types(c->avctx, bc, &c->bundle[BINK_SRC_BLOCK_TYPES])) < 0)
 998             return ret;
 999         if ((ret = read_block_types(c->avctx, bc, &c->bundle[BINK_SRC_SUB_BLOCK_TYPES])) < 0)
1000             return ret;
1001         if ((ret = read_colors(bc, &c->bundle[BINK_SRC_COLORS], c)) < 0)
1002             return ret;
1003         if ((ret = read_patterns(c->avctx, bc, &c->bundle[BINK_SRC_PATTERN])) < 0)
1004             return ret;
1005         if ((ret = read_motion_values(c->avctx, bc, &c->bundle[BINK_SRC_X_OFF])) < 0)
1006             return ret;
1007         if ((ret = read_motion_values(c->avctx, bc, &c->bundle[BINK_SRC_Y_OFF])) < 0)
1008             return ret;
1009         if ((ret = read_dcs(c->avctx, bc, &c->bundle[BINK_SRC_INTRA_DC], DC_START_BITS, 0)) < 0)
1010             return ret;
1011         if ((ret = read_dcs(c->avctx, bc, &c->bundle[BINK_SRC_INTER_DC], DC_START_BITS, 1)) < 0)
1012             return ret;
1013         if ((ret = read_runs(c->avctx, bc, &c->bundle[BINK_SRC_RUN])) < 0)
1014             return ret;
1015
1016         if (by == bh)
1017             break;
1018         dst  = frame->data[plane_idx]  + 8*by*stride;
1019         prev = (c->last->data[plane_idx] ? c->last->data[plane_idx]
1020                                          : frame->data[plane_idx]) + 8*by*stride;
1021         for (bx = 0; bx < bw; bx++, dst += 8, prev += 8) {
1022             blk = get_value(c, BINK_SRC_BLOCK_TYPES);
1023             // 16x16 block type on odd line means part of the already decoded block, so skip it
1024             if ((by & 1) && blk == SCALED_BLOCK) {
1025                 bx++;
1026                 dst  += 8;
1027                 prev += 8;
1028                 continue;
1029             }
1030             switch (blk) {
1031             case SKIP_BLOCK:
1032                 c->hdsp.put_pixels_tab[1][0](dst, prev, stride, 8);
1033                 break;
1034             case SCALED_BLOCK:
1035                 blk = get_value(c, BINK_SRC_SUB_BLOCK_TYPES);
1036                 switch (blk) {
1037                 case RUN_BLOCK:
1038                     scan = bink_patterns[bitstream_read(bc, 4)];
1039                     i = 0;
1040                     do {
1041                         int run = get_value(c, BINK_SRC_RUN) + 1;
1042
1043                         i += run;
1044                         if (i > 64) {
1045                             av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1046                             return AVERROR_INVALIDDATA;
1047                         }
1048                         if (bitstream_read_bit(bc)) {
1049                             v = get_value(c, BINK_SRC_COLORS);
1050                             for (j = 0; j < run; j++)
1051                                 ublock[*scan++] = v;
1052                         } else {
1053                             for (j = 0; j < run; j++)
1054                                 ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1055                         }
1056                     } while (i < 63);
1057                     if (i == 63)
1058                         ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1059                     break;
1060                 case INTRA_BLOCK:
1061                     memset(dctblock, 0, sizeof(*dctblock) * 64);
1062                     dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1063                     if ((quant_idx = read_dct_coeffs(bc, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
1064                         return quant_idx;
1065                     unquantize_dct_coeffs(dctblock, bink_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
1066                     c->binkdsp.idct_put(ublock, 8, dctblock);
1067                     break;
1068                 case FILL_BLOCK:
1069                     v = get_value(c, BINK_SRC_COLORS);
1070                     c->bdsp.fill_block_tab[0](dst, v, stride, 16);
1071                     break;
1072                 case PATTERN_BLOCK:
1073                     for (i = 0; i < 2; i++)
1074                         col[i] = get_value(c, BINK_SRC_COLORS);
1075                     for (j = 0; j < 8; j++) {
1076                         v = get_value(c, BINK_SRC_PATTERN);
1077                         for (i = 0; i < 8; i++, v >>= 1)
1078                             ublock[i + j*8] = col[v & 1];
1079                     }
1080                     break;
1081                 case RAW_BLOCK:
1082                     for (j = 0; j < 8; j++)
1083                         for (i = 0; i < 8; i++)
1084                             ublock[i + j*8] = get_value(c, BINK_SRC_COLORS);
1085                     break;
1086                 default:
1087                     av_log(c->avctx, AV_LOG_ERROR, "Incorrect 16x16 block type %d\n", blk);
1088                     return AVERROR_INVALIDDATA;
1089                 }
1090                 if (blk != FILL_BLOCK)
1091                 c->binkdsp.scale_block(ublock, dst, stride);
1092                 bx++;
1093                 dst  += 8;
1094                 prev += 8;
1095                 break;
1096             case MOTION_BLOCK:
1097                 ret = bink_put_pixels(c, dst, prev, stride,
1098                                       ref_start, ref_end);
1099                 if (ret < 0)
1100                     return ret;
1101                 break;
1102             case RUN_BLOCK:
1103                 scan = bink_patterns[bitstream_read(bc, 4)];
1104                 i = 0;
1105                 do {
1106                     int run = get_value(c, BINK_SRC_RUN) + 1;
1107
1108                     i += run;
1109                     if (i > 64) {
1110                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1111                         return AVERROR_INVALIDDATA;
1112                     }
1113                     if (bitstream_read_bit(bc)) {
1114                         v = get_value(c, BINK_SRC_COLORS);
1115                         for (j = 0; j < run; j++)
1116                             dst[coordmap[*scan++]] = v;
1117                     } else {
1118                         for (j = 0; j < run; j++)
1119                             dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1120                     }
1121                 } while (i < 63);
1122                 if (i == 63)
1123                     dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1124                 break;
1125             case RESIDUE_BLOCK:
1126                 ret = bink_put_pixels(c, dst, prev, stride,
1127                                       ref_start, ref_end);
1128                 if (ret < 0)
1129                     return ret;
1130                 c->bdsp.clear_block(block);
1131                 v = bitstream_read(bc, 7);
1132                 read_residue(bc, block, v);
1133                 c->binkdsp.add_pixels8(dst, block, stride);
1134                 break;
1135             case INTRA_BLOCK:
1136                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1137                 dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1138                 if ((quant_idx = read_dct_coeffs(bc, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
1139                     return quant_idx;
1140                 unquantize_dct_coeffs(dctblock, bink_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
1141                 c->binkdsp.idct_put(dst, stride, dctblock);
1142                 break;
1143             case FILL_BLOCK:
1144                 v = get_value(c, BINK_SRC_COLORS);
1145                 c->bdsp.fill_block_tab[1](dst, v, stride, 8);
1146                 break;
1147             case INTER_BLOCK:
1148                 ret = bink_put_pixels(c, dst, prev, stride,
1149                                       ref_start, ref_end);
1150                 if (ret < 0)
1151                     return ret;
1152                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1153                 dctblock[0] = get_value(c, BINK_SRC_INTER_DC);
1154                 if ((quant_idx = read_dct_coeffs(bc, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
1155                     return quant_idx;
1156                 unquantize_dct_coeffs(dctblock, bink_inter_quant[quant_idx], coef_count, coef_idx, bink_scan);
1157                 c->binkdsp.idct_add(dst, stride, dctblock);
1158                 break;
1159             case PATTERN_BLOCK:
1160                 for (i = 0; i < 2; i++)
1161                     col[i] = get_value(c, BINK_SRC_COLORS);
1162                 for (i = 0; i < 8; i++) {
1163                     v = get_value(c, BINK_SRC_PATTERN);
1164                     for (j = 0; j < 8; j++, v >>= 1)
1165                         dst[i*stride + j] = col[v & 1];
1166                 }
1167                 break;
1168             case RAW_BLOCK:
1169                 for (i = 0; i < 8; i++)
1170                     memcpy(dst + i*stride, c->bundle[BINK_SRC_COLORS].cur_ptr + i*8, 8);
1171                 c->bundle[BINK_SRC_COLORS].cur_ptr += 64;
1172                 break;
1173             default:
1174                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
1175                 return AVERROR_INVALIDDATA;
1176             }
1177         }
1178     }
1179     if (bitstream_tell(bc) & 0x1F) // next plane data starts at 32-bit boundary
1180         bitstream_skip(bc, 32 - (bitstream_tell(bc) & 0x1F));
1181
1182     return 0;
1183 }
1184
1185 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame, AVPacket *pkt)
1186 {
1187     BinkContext * const c = avctx->priv_data;
1188     AVFrame *frame = data;
1189     BitstreamContext bc;
1190     int plane, plane_idx, ret;
1191     int bits_count = pkt->size << 3;
1192
1193     if (c->version > 'b') {
1194         if ((ret = ff_get_buffer(avctx, frame, AV_GET_BUFFER_FLAG_REF)) < 0) {
1195             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1196             return ret;
1197         }
1198     } else {
1199         if ((ret = ff_reget_buffer(avctx, c->last)) < 0) {
1200             av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
1201             return ret;
1202         }
1203         if ((ret = av_frame_ref(frame, c->last)) < 0)
1204             return ret;
1205     }
1206
1207     bitstream_init(&bc, pkt->data, bits_count);
1208     if (c->has_alpha) {
1209         if (c->version >= 'i')
1210             bitstream_skip(&bc, 32);
1211         if ((ret = bink_decode_plane(c, frame, &bc, 3, 0)) < 0)
1212             return ret;
1213     }
1214     if (c->version >= 'i')
1215         bitstream_skip(&bc, 32);
1216
1217     for (plane = 0; plane < 3; plane++) {
1218         plane_idx = (!plane || !c->swap_planes) ? plane : (plane ^ 3);
1219
1220         if (c->version > 'b') {
1221             if ((ret = bink_decode_plane(c, frame, &bc, plane_idx, !!plane)) < 0)
1222                 return ret;
1223         } else {
1224             if ((ret = binkb_decode_plane(c, frame, &bc, plane_idx,
1225                                           !avctx->frame_number, !!plane)) < 0)
1226                 return ret;
1227         }
1228         if (bitstream_tell(&bc) >= bits_count)
1229             break;
1230     }
1231     emms_c();
1232
1233     if (c->version > 'b') {
1234         av_frame_unref(c->last);
1235         if ((ret = av_frame_ref(c->last, frame)) < 0)
1236             return ret;
1237     }
1238
1239     *got_frame = 1;
1240
1241     /* always report that the buffer was completely consumed */
1242     return pkt->size;
1243 }
1244
1245 /**
1246  * Calculate quantization tables for version b
1247  */
1248 static av_cold void binkb_calc_quant(void)
1249 {
1250     uint8_t inv_bink_scan[64];
1251     double s[64];
1252     int i, j;
1253
1254     for (j = 0; j < 8; j++) {
1255         for (i = 0; i < 8; i++) {
1256             if (j && j != 4)
1257                if (i && i != 4)
1258                    s[j*8 + i] = cos(j * M_PI/16.0) * cos(i * M_PI/16.0) * 2.0;
1259                else
1260                    s[j*8 + i] = cos(j * M_PI/16.0) * sqrt(2.0);
1261             else
1262                if (i && i != 4)
1263                    s[j*8 + i] = cos(i * M_PI/16.0) * sqrt(2.0);
1264                else
1265                    s[j*8 + i] = 1.0;
1266         }
1267     }
1268
1269     for (i = 0; i < 64; i++)
1270         inv_bink_scan[bink_scan[i]] = i;
1271
1272     for (j = 0; j < 16; j++) {
1273         for (i = 0; i < 64; i++) {
1274             int k = inv_bink_scan[i];
1275             if (s[i] == 1.0) {
1276                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] *
1277                                           binkb_num[j]/binkb_den[j];
1278                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] *
1279                                           binkb_num[j]/binkb_den[j];
1280             } else {
1281                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] * s[i] *
1282                                           binkb_num[j]/(double)binkb_den[j];
1283                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] * s[i] *
1284                                           binkb_num[j]/(double)binkb_den[j];
1285             }
1286         }
1287     }
1288 }
1289
1290 static av_cold int decode_init(AVCodecContext *avctx)
1291 {
1292     BinkContext * const c = avctx->priv_data;
1293     static VLC_TYPE table[16 * 128][2];
1294     static int binkb_initialised = 0;
1295     int i, ret;
1296     int flags;
1297
1298     c->version = avctx->codec_tag >> 24;
1299     if (avctx->extradata_size < 4) {
1300         av_log(avctx, AV_LOG_ERROR, "Extradata missing or too short\n");
1301         return AVERROR_INVALIDDATA;
1302     }
1303     flags = AV_RL32(avctx->extradata);
1304     c->has_alpha = flags & BINK_FLAG_ALPHA;
1305     c->swap_planes = c->version >= 'h';
1306     if (!bink_trees[15].table) {
1307         for (i = 0; i < 16; i++) {
1308             const int maxbits = bink_tree_lens[i][15];
1309             bink_trees[i].table = table + i*128;
1310             bink_trees[i].table_allocated = 1 << maxbits;
1311             init_vlc(&bink_trees[i], maxbits, 16,
1312                      bink_tree_lens[i], 1, 1,
1313                      bink_tree_bits[i], 1, 1, INIT_VLC_USE_NEW_STATIC | INIT_VLC_LE);
1314         }
1315     }
1316     c->avctx = avctx;
1317
1318     c->last = av_frame_alloc();
1319     if (!c->last)
1320         return AVERROR(ENOMEM);
1321
1322     if ((ret = av_image_check_size(avctx->width, avctx->height, 0, avctx)) < 0)
1323         return ret;
1324
1325     avctx->pix_fmt = c->has_alpha ? AV_PIX_FMT_YUVA420P : AV_PIX_FMT_YUV420P;
1326
1327     ff_blockdsp_init(&c->bdsp);
1328     ff_hpeldsp_init(&c->hdsp, avctx->flags);
1329     ff_binkdsp_init(&c->binkdsp);
1330
1331     init_bundles(c);
1332
1333     if (c->version == 'b') {
1334         if (!binkb_initialised) {
1335             binkb_calc_quant();
1336             binkb_initialised = 1;
1337         }
1338     }
1339
1340     return 0;
1341 }
1342
1343 static av_cold int decode_end(AVCodecContext *avctx)
1344 {
1345     BinkContext * const c = avctx->priv_data;
1346
1347     av_frame_free(&c->last);
1348
1349     free_bundles(c);
1350     return 0;
1351 }
1352
1353 AVCodec ff_bink_decoder = {
1354     .name           = "binkvideo",
1355     .long_name      = NULL_IF_CONFIG_SMALL("Bink video"),
1356     .type           = AVMEDIA_TYPE_VIDEO,
1357     .id             = AV_CODEC_ID_BINKVIDEO,
1358     .priv_data_size = sizeof(BinkContext),
1359     .init           = decode_init,
1360     .close          = decode_end,
1361     .decode         = decode_frame,
1362     .capabilities   = AV_CODEC_CAP_DR1,
1363 };