git.sesse.net Git - ffmpeg/blob - libavcodec/vc1dec.c

   1 /*
   2  * VC-1 and WMV3 decoder
   3  * Copyright (c) 2011 Mashiat Sarker Shakkhar
   4  * Copyright (c) 2006-2007 Konstantin Shishkov
   5  * Partly based on vc9.c (c) 2005 Anonymous, Alex Beregszaszi, Michael Niedermayer
   6  *
   7  * This file is part of Libav.
   8  *
   9  * Libav is free software; you can redistribute it and/or
  10  * modify it under the terms of the GNU Lesser General Public
  11  * License as published by the Free Software Foundation; either
  12  * version 2.1 of the License, or (at your option) any later version.
  13  *
  14  * Libav is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  17  * Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public
  20  * License along with Libav; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  22  */
  23
  24 /**
  25  * @file
  26  * VC-1 and WMV3 decoder
  27  */
  28
  29 #include "internal.h"
  30 #include "avcodec.h"
  31 #include "error_resilience.h"
  32 #include "mpegvideo.h"
  33 #include "h263.h"
  34 #include "h264chroma.h"
  35 #include "vc1.h"
  36 #include "vc1data.h"
  37 #include "vc1acdata.h"
  38 #include "msmpeg4data.h"
  39 #include "unary.h"
  40 #include "mathops.h"
  41 #include "vdpau_internal.h"
  42
  43 #undef NDEBUG
  44 #include <assert.h>
  45
  46 #define MB_INTRA_VLC_BITS 9
  47 #define DC_VLC_BITS 9
  48
  49
  50 // offset tables for interlaced picture MVDATA decoding
  51 static const int offset_table1[9] = {  0,  1,  2,  4,  8, 16, 32,  64, 128 };
  52 static const int offset_table2[9] = {  0,  1,  3,  7, 15, 31, 63, 127, 255 };
  53
  54 /***********************************************************************/
  55 /**
  56  * @name VC-1 Bitplane decoding
  57  * @see 8.7, p56
  58  * @{
  59  */
  60
  61 /**
  62  * Imode types
  63  * @{
  64  */
  65 enum Imode {
  66     IMODE_RAW,
  67     IMODE_NORM2,
  68     IMODE_DIFF2,
  69     IMODE_NORM6,
  70     IMODE_DIFF6,
  71     IMODE_ROWSKIP,
  72     IMODE_COLSKIP
  73 };
  74 /** @} */ //imode defines
  75
  76
  77 /** @} */ //Bitplane group
  78
  79 static void vc1_put_signed_blocks_clamped(VC1Context *v)
  80 {
  81     MpegEncContext *s = &v->s;
  82     int topleft_mb_pos, top_mb_pos;
  83     int stride_y, fieldtx;
  84     int v_dist;
  85
  86     /* The put pixels loop is always one MB row behind the decoding loop,
  87      * because we can only put pixels when overlap filtering is done, and
  88      * for filtering of the bottom edge of a MB, we need the next MB row
  89      * present as well.
  90      * Within the row, the put pixels loop is also one MB col behind the
  91      * decoding loop. The reason for this is again, because for filtering
  92      * of the right MB edge, we need the next MB present. */
  93     if (!s->first_slice_line) {
  94         if (s->mb_x) {
  95             topleft_mb_pos = (s->mb_y - 1) * s->mb_stride + s->mb_x - 1;
  96             fieldtx        = v->fieldtx_plane[topleft_mb_pos];
  97             stride_y       = s->linesize << fieldtx;
  98             v_dist         = (16 - fieldtx) >> (fieldtx == 0);
  99             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][0],
 100                                              s->dest[0] - 16 * s->linesize - 16,
 101                                              stride_y);
 102             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][1],
 103                                              s->dest[0] - 16 * s->linesize - 8,
 104                                              stride_y);
 105             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][2],
 106                                              s->dest[0] - v_dist * s->linesize - 16,
 107                                              stride_y);
 108             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][3],
 109                                              s->dest[0] - v_dist * s->linesize - 8,
 110                                              stride_y);
 111             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][4],
 112                                              s->dest[1] - 8 * s->uvlinesize - 8,
 113                                              s->uvlinesize);
 114             s->dsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][5],
 115                                              s->dest[2] - 8 * s->uvlinesize - 8,
 116                                              s->uvlinesize);
 117         }
 118         if (s->mb_x == s->mb_width - 1) {
 119             top_mb_pos = (s->mb_y - 1) * s->mb_stride + s->mb_x;
 120             fieldtx    = v->fieldtx_plane[top_mb_pos];
 121             stride_y   = s->linesize << fieldtx;
 122             v_dist     = fieldtx ? 15 : 8;
 123             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][0],
 124                                              s->dest[0] - 16 * s->linesize,
 125                                              stride_y);
 126             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][1],
 127                                              s->dest[0] - 16 * s->linesize + 8,
 128                                              stride_y);
 129             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][2],
 130                                              s->dest[0] - v_dist * s->linesize,
 131                                              stride_y);
 132             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][3],
 133                                              s->dest[0] - v_dist * s->linesize + 8,
 134                                              stride_y);
 135             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][4],
 136                                              s->dest[1] - 8 * s->uvlinesize,
 137                                              s->uvlinesize);
 138             s->dsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][5],
 139                                              s->dest[2] - 8 * s->uvlinesize,
 140                                              s->uvlinesize);
 141         }
 142     }
 143
 144 #define inc_blk_idx(idx) do { \
 145         idx++; \
 146         if (idx >= v->n_allocated_blks) \
 147             idx = 0; \
 148     } while (0)
 149
 150     inc_blk_idx(v->topleft_blk_idx);
 151     inc_blk_idx(v->top_blk_idx);
 152     inc_blk_idx(v->left_blk_idx);
 153     inc_blk_idx(v->cur_blk_idx);
 154 }
 155
 156 static void vc1_loop_filter_iblk(VC1Context *v, int pq)
 157 {
 158     MpegEncContext *s = &v->s;
 159     int j;
 160     if (!s->first_slice_line) {
 161         v->vc1dsp.vc1_v_loop_filter16(s->dest[0], s->linesize, pq);
 162         if (s->mb_x)
 163             v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize, s->linesize, pq);
 164         v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize + 8, s->linesize, pq);
 165         for (j = 0; j < 2; j++) {
 166             v->vc1dsp.vc1_v_loop_filter8(s->dest[j + 1], s->uvlinesize, pq);
 167             if (s->mb_x)
 168                 v->vc1dsp.vc1_h_loop_filter8(s->dest[j + 1] - 8 * s->uvlinesize, s->uvlinesize, pq);
 169         }
 170     }
 171     v->vc1dsp.vc1_v_loop_filter16(s->dest[0] + 8 * s->linesize, s->linesize, pq);
 172
 173     if (s->mb_y == s->end_mb_y - 1) {
 174         if (s->mb_x) {
 175             v->vc1dsp.vc1_h_loop_filter16(s->dest[0], s->linesize, pq);
 176             v->vc1dsp.vc1_h_loop_filter8(s->dest[1], s->uvlinesize, pq);
 177             v->vc1dsp.vc1_h_loop_filter8(s->dest[2], s->uvlinesize, pq);
 178         }
 179         v->vc1dsp.vc1_h_loop_filter16(s->dest[0] + 8, s->linesize, pq);
 180     }
 181 }
 182
 183 static void vc1_loop_filter_iblk_delayed(VC1Context *v, int pq)
 184 {
 185     MpegEncContext *s = &v->s;
 186     int j;
 187
 188     /* The loopfilter runs 1 row and 1 column behind the overlap filter, which
 189      * means it runs two rows/cols behind the decoding loop. */
 190     if (!s->first_slice_line) {
 191         if (s->mb_x) {
 192             if (s->mb_y >= s->start_mb_y + 2) {
 193                 v->vc1dsp.vc1_v_loop_filter16(s->dest[0] - 16 * s->linesize - 16, s->linesize, pq);
 194
 195                 if (s->mb_x >= 2)
 196                     v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 32 * s->linesize - 16, s->linesize, pq);
 197                 v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 32 * s->linesize - 8, s->linesize, pq);
 198                 for (j = 0; j < 2; j++) {
 199                     v->vc1dsp.vc1_v_loop_filter8(s->dest[j + 1] - 8 * s->uvlinesize - 8, s->uvlinesize, pq);
 200                     if (s->mb_x >= 2) {
 201                         v->vc1dsp.vc1_h_loop_filter8(s->dest[j + 1] - 16 * s->uvlinesize - 8, s->uvlinesize, pq);
 202                     }
 203                 }
 204             }
 205             v->vc1dsp.vc1_v_loop_filter16(s->dest[0] - 8 * s->linesize - 16, s->linesize, pq);
 206         }
 207
 208         if (s->mb_x == s->mb_width - 1) {
 209             if (s->mb_y >= s->start_mb_y + 2) {
 210                 v->vc1dsp.vc1_v_loop_filter16(s->dest[0] - 16 * s->linesize, s->linesize, pq);
 211
 212                 if (s->mb_x)
 213                     v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 32 * s->linesize, s->linesize, pq);
 214                 v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 32 * s->linesize + 8, s->linesize, pq);
 215                 for (j = 0; j < 2; j++) {
 216                     v->vc1dsp.vc1_v_loop_filter8(s->dest[j + 1] - 8 * s->uvlinesize, s->uvlinesize, pq);
 217                     if (s->mb_x >= 2) {
 218                         v->vc1dsp.vc1_h_loop_filter8(s->dest[j + 1] - 16 * s->uvlinesize, s->uvlinesize, pq);
 219                     }
 220                 }
 221             }
 222             v->vc1dsp.vc1_v_loop_filter16(s->dest[0] - 8 * s->linesize, s->linesize, pq);
 223         }
 224
 225         if (s->mb_y == s->end_mb_y) {
 226             if (s->mb_x) {
 227                 if (s->mb_x >= 2)
 228                     v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize - 16, s->linesize, pq);
 229                 v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize - 8, s->linesize, pq);
 230                 if (s->mb_x >= 2) {
 231                     for (j = 0; j < 2; j++) {
 232                         v->vc1dsp.vc1_h_loop_filter8(s->dest[j + 1] - 8 * s->uvlinesize - 8, s->uvlinesize, pq);
 233                     }
 234                 }
 235             }
 236
 237             if (s->mb_x == s->mb_width - 1) {
 238                 if (s->mb_x)
 239                     v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize, s->linesize, pq);
 240                 v->vc1dsp.vc1_h_loop_filter16(s->dest[0] - 16 * s->linesize + 8, s->linesize, pq);
 241                 if (s->mb_x) {
 242                     for (j = 0; j < 2; j++) {
 243                         v->vc1dsp.vc1_h_loop_filter8(s->dest[j + 1] - 8 * s->uvlinesize, s->uvlinesize, pq);
 244                     }
 245                 }
 246             }
 247         }
 248     }
 249 }
 250
 251 static void vc1_smooth_overlap_filter_iblk(VC1Context *v)
 252 {
 253     MpegEncContext *s = &v->s;
 254     int mb_pos;
 255
 256     if (v->condover == CONDOVER_NONE)
 257         return;
 258
 259     mb_pos = s->mb_x + s->mb_y * s->mb_stride;
 260
 261     /* Within a MB, the horizontal overlap always runs before the vertical.
 262      * To accomplish that, we run the H on left and internal borders of the
 263      * currently decoded MB. Then, we wait for the next overlap iteration
 264      * to do H overlap on the right edge of this MB, before moving over and
 265      * running the V overlap. Therefore, the V overlap makes us trail by one
 266      * MB col and the H overlap filter makes us trail by one MB row. This
 267      * is reflected in the time at which we run the put_pixels loop. */
 268     if (v->condover == CONDOVER_ALL || v->pq >= 9 || v->over_flags_plane[mb_pos]) {
 269         if (s->mb_x && (v->condover == CONDOVER_ALL || v->pq >= 9 ||
 270                         v->over_flags_plane[mb_pos - 1])) {
 271             v->vc1dsp.vc1_h_s_overlap(v->block[v->left_blk_idx][1],
 272                                       v->block[v->cur_blk_idx][0]);
 273             v->vc1dsp.vc1_h_s_overlap(v->block[v->left_blk_idx][3],
 274                                       v->block[v->cur_blk_idx][2]);
 275             if (!(s->flags & CODEC_FLAG_GRAY)) {
 276                 v->vc1dsp.vc1_h_s_overlap(v->block[v->left_blk_idx][4],
 277                                           v->block[v->cur_blk_idx][4]);
 278                 v->vc1dsp.vc1_h_s_overlap(v->block[v->left_blk_idx][5],
 279                                           v->block[v->cur_blk_idx][5]);
 280             }
 281         }
 282         v->vc1dsp.vc1_h_s_overlap(v->block[v->cur_blk_idx][0],
 283                                   v->block[v->cur_blk_idx][1]);
 284         v->vc1dsp.vc1_h_s_overlap(v->block[v->cur_blk_idx][2],
 285                                   v->block[v->cur_blk_idx][3]);
 286
 287         if (s->mb_x == s->mb_width - 1) {
 288             if (!s->first_slice_line && (v->condover == CONDOVER_ALL || v->pq >= 9 ||
 289                                          v->over_flags_plane[mb_pos - s->mb_stride])) {
 290                 v->vc1dsp.vc1_v_s_overlap(v->block[v->top_blk_idx][2],
 291                                           v->block[v->cur_blk_idx][0]);
 292                 v->vc1dsp.vc1_v_s_overlap(v->block[v->top_blk_idx][3],
 293                                           v->block[v->cur_blk_idx][1]);
 294                 if (!(s->flags & CODEC_FLAG_GRAY)) {
 295                     v->vc1dsp.vc1_v_s_overlap(v->block[v->top_blk_idx][4],
 296                                               v->block[v->cur_blk_idx][4]);
 297                     v->vc1dsp.vc1_v_s_overlap(v->block[v->top_blk_idx][5],
 298                                               v->block[v->cur_blk_idx][5]);
 299                 }
 300             }
 301             v->vc1dsp.vc1_v_s_overlap(v->block[v->cur_blk_idx][0],
 302                                       v->block[v->cur_blk_idx][2]);
 303             v->vc1dsp.vc1_v_s_overlap(v->block[v->cur_blk_idx][1],
 304                                       v->block[v->cur_blk_idx][3]);
 305         }
 306     }
 307     if (s->mb_x && (v->condover == CONDOVER_ALL || v->over_flags_plane[mb_pos - 1])) {
 308         if (!s->first_slice_line && (v->condover == CONDOVER_ALL || v->pq >= 9 ||
 309                                      v->over_flags_plane[mb_pos - s->mb_stride - 1])) {
 310             v->vc1dsp.vc1_v_s_overlap(v->block[v->topleft_blk_idx][2],
 311                                       v->block[v->left_blk_idx][0]);
 312             v->vc1dsp.vc1_v_s_overlap(v->block[v->topleft_blk_idx][3],
 313                                       v->block[v->left_blk_idx][1]);
 314             if (!(s->flags & CODEC_FLAG_GRAY)) {
 315                 v->vc1dsp.vc1_v_s_overlap(v->block[v->topleft_blk_idx][4],
 316                                           v->block[v->left_blk_idx][4]);
 317                 v->vc1dsp.vc1_v_s_overlap(v->block[v->topleft_blk_idx][5],
 318                                           v->block[v->left_blk_idx][5]);
 319             }
 320         }
 321         v->vc1dsp.vc1_v_s_overlap(v->block[v->left_blk_idx][0],
 322                                   v->block[v->left_blk_idx][2]);
 323         v->vc1dsp.vc1_v_s_overlap(v->block[v->left_blk_idx][1],
 324                                   v->block[v->left_blk_idx][3]);
 325     }
 326 }
 327
 328 /** Do motion compensation over 1 macroblock
 329  * Mostly adapted hpel_motion and qpel_motion from mpegvideo.c
 330  */
 331 static void vc1_mc_1mv(VC1Context *v, int dir)
 332 {
 333     MpegEncContext *s = &v->s;
 334     DSPContext *dsp   = &v->s.dsp;
 335     H264ChromaContext *h264chroma = &v->h264chroma;
 336     uint8_t *srcY, *srcU, *srcV;
 337     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
 338     int off, off_uv;
 339     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 340
 341     if ((!v->field_mode ||
 342          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
 343         !v->s.last_picture.f.data[0])
 344         return;
 345
 346     mx = s->mv[dir][0][0];
 347     my = s->mv[dir][0][1];
 348
 349     // store motion vectors for further use in B frames
 350     if (s->pict_type == AV_PICTURE_TYPE_P) {
 351         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = mx;
 352         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = my;
 353     }
 354
 355     uvmx = (mx + ((mx & 3) == 3)) >> 1;
 356     uvmy = (my + ((my & 3) == 3)) >> 1;
 357     v->luma_mv[s->mb_x][0] = uvmx;
 358     v->luma_mv[s->mb_x][1] = uvmy;
 359
 360     if (v->field_mode &&
 361         v->cur_field_type != v->ref_field_type[dir]) {
 362         my   = my   - 2 + 4 * v->cur_field_type;
 363         uvmy = uvmy - 2 + 4 * v->cur_field_type;
 364     }
 365
 366     // fastuvmc shall be ignored for interlaced frame picture
 367     if (v->fastuvmc && (v->fcm != ILACE_FRAME)) {
 368         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
 369         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
 370     }
 371     if (v->field_mode) { // interlaced field picture
 372         if (!dir) {
 373             if ((v->cur_field_type != v->ref_field_type[dir]) && v->cur_field_type) {
 374                 srcY = s->current_picture.f.data[0];
 375                 srcU = s->current_picture.f.data[1];
 376                 srcV = s->current_picture.f.data[2];
 377             } else {
 378                 srcY = s->last_picture.f.data[0];
 379                 srcU = s->last_picture.f.data[1];
 380                 srcV = s->last_picture.f.data[2];
 381             }
 382         } else {
 383             srcY = s->next_picture.f.data[0];
 384             srcU = s->next_picture.f.data[1];
 385             srcV = s->next_picture.f.data[2];
 386         }
 387     } else {
 388         if (!dir) {
 389             srcY = s->last_picture.f.data[0];
 390             srcU = s->last_picture.f.data[1];
 391             srcV = s->last_picture.f.data[2];
 392         } else {
 393             srcY = s->next_picture.f.data[0];
 394             srcU = s->next_picture.f.data[1];
 395             srcV = s->next_picture.f.data[2];
 396         }
 397     }
 398
 399     src_x   = s->mb_x * 16 + (mx   >> 2);
 400     src_y   = s->mb_y * 16 + (my   >> 2);
 401     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
 402     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
 403
 404     if (v->profile != PROFILE_ADVANCED) {
 405         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
 406         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
 407         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
 408         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
 409     } else {
 410         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
 411         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
 412         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
 413         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
 414     }
 415
 416     srcY += src_y   * s->linesize   + src_x;
 417     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
 418     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
 419
 420     if (v->field_mode && v->ref_field_type[dir]) {
 421         srcY += s->current_picture_ptr->f.linesize[0];
 422         srcU += s->current_picture_ptr->f.linesize[1];
 423         srcV += s->current_picture_ptr->f.linesize[2];
 424     }
 425
 426     /* for grayscale we should not try to read from unknown area */
 427     if (s->flags & CODEC_FLAG_GRAY) {
 428         srcU = s->edge_emu_buffer + 18 * s->linesize;
 429         srcV = s->edge_emu_buffer + 18 * s->linesize;
 430     }
 431
 432     if (v->rangeredfrm || (v->mv_mode == MV_PMODE_INTENSITY_COMP)
 433         || s->h_edge_pos < 22 || v_edge_pos < 22
 434         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx&3) - 16 - s->mspel * 3
 435         || (unsigned)(src_y - 1)        > v_edge_pos    - (my&3) - 16 - 3) {
 436         uint8_t *uvbuf = s->edge_emu_buffer + 19 * s->linesize;
 437
 438         srcY -= s->mspel * (1 + s->linesize);
 439         s->vdsp.emulated_edge_mc(s->edge_emu_buffer, srcY, s->linesize,
 440                                  17 + s->mspel * 2, 17 + s->mspel * 2,
 441                                  src_x - s->mspel, src_y - s->mspel,
 442                                  s->h_edge_pos, v_edge_pos);
 443         srcY = s->edge_emu_buffer;
 444         s->vdsp.emulated_edge_mc(uvbuf     , srcU, s->uvlinesize, 8 + 1, 8 + 1,
 445                                  uvsrc_x, uvsrc_y, s->h_edge_pos >> 1, v_edge_pos >> 1);
 446         s->vdsp.emulated_edge_mc(uvbuf + 16, srcV, s->uvlinesize, 8 + 1, 8 + 1,
 447                                  uvsrc_x, uvsrc_y, s->h_edge_pos >> 1, v_edge_pos >> 1);
 448         srcU = uvbuf;
 449         srcV = uvbuf + 16;
 450         /* if we deal with range reduction we need to scale source blocks */
 451         if (v->rangeredfrm) {
 452             int i, j;
 453             uint8_t *src, *src2;
 454
 455             src = srcY;
 456             for (j = 0; j < 17 + s->mspel * 2; j++) {
 457                 for (i = 0; i < 17 + s->mspel * 2; i++)
 458                     src[i] = ((src[i] - 128) >> 1) + 128;
 459                 src += s->linesize;
 460             }
 461             src  = srcU;
 462             src2 = srcV;
 463             for (j = 0; j < 9; j++) {
 464                 for (i = 0; i < 9; i++) {
 465                     src[i]  = ((src[i]  - 128) >> 1) + 128;
 466                     src2[i] = ((src2[i] - 128) >> 1) + 128;
 467                 }
 468                 src  += s->uvlinesize;
 469                 src2 += s->uvlinesize;
 470             }
 471         }
 472         /* if we deal with intensity compensation we need to scale source blocks */
 473         if (v->mv_mode == MV_PMODE_INTENSITY_COMP) {
 474             int i, j;
 475             uint8_t *src, *src2;
 476
 477             src = srcY;
 478             for (j = 0; j < 17 + s->mspel * 2; j++) {
 479                 for (i = 0; i < 17 + s->mspel * 2; i++)
 480                     src[i] = v->luty[src[i]];
 481                 src += s->linesize;
 482             }
 483             src  = srcU;
 484             src2 = srcV;
 485             for (j = 0; j < 9; j++) {
 486                 for (i = 0; i < 9; i++) {
 487                     src[i]  = v->lutuv[src[i]];
 488                     src2[i] = v->lutuv[src2[i]];
 489                 }
 490                 src  += s->uvlinesize;
 491                 src2 += s->uvlinesize;
 492             }
 493         }
 494         srcY += s->mspel * (1 + s->linesize);
 495     }
 496
 497     if (v->field_mode && v->cur_field_type) {
 498         off    = s->current_picture_ptr->f.linesize[0];
 499         off_uv = s->current_picture_ptr->f.linesize[1];
 500     } else {
 501         off    = 0;
 502         off_uv = 0;
 503     }
 504     if (s->mspel) {
 505         dxy = ((my & 3) << 2) | (mx & 3);
 506         v->vc1dsp.put_vc1_mspel_pixels_tab[dxy](s->dest[0] + off    , srcY    , s->linesize, v->rnd);
 507         v->vc1dsp.put_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8, srcY + 8, s->linesize, v->rnd);
 508         srcY += s->linesize * 8;
 509         v->vc1dsp.put_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8 * s->linesize    , srcY    , s->linesize, v->rnd);
 510         v->vc1dsp.put_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8 * s->linesize + 8, srcY + 8, s->linesize, v->rnd);
 511     } else { // hpel mc - always used for luma
 512         dxy = (my & 2) | ((mx & 2) >> 1);
 513         if (!v->rnd)
 514             s->hdsp.put_pixels_tab[0][dxy](s->dest[0] + off, srcY, s->linesize, 16);
 515         else
 516             s->hdsp.put_no_rnd_pixels_tab[0][dxy](s->dest[0] + off, srcY, s->linesize, 16);
 517     }
 518
 519     if (s->flags & CODEC_FLAG_GRAY) return;
 520     /* Chroma MC always uses qpel bilinear */
 521     uvmx = (uvmx & 3) << 1;
 522     uvmy = (uvmy & 3) << 1;
 523     if (!v->rnd) {
 524         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1] + off_uv, srcU, s->uvlinesize, 8, uvmx, uvmy);
 525         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2] + off_uv, srcV, s->uvlinesize, 8, uvmx, uvmy);
 526     } else {
 527         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1] + off_uv, srcU, s->uvlinesize, 8, uvmx, uvmy);
 528         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2] + off_uv, srcV, s->uvlinesize, 8, uvmx, uvmy);
 529     }
 530 }
 531
 532 static inline int median4(int a, int b, int c, int d)
 533 {
 534     if (a < b) {
 535         if (c < d) return (FFMIN(b, d) + FFMAX(a, c)) / 2;
 536         else       return (FFMIN(b, c) + FFMAX(a, d)) / 2;
 537     } else {
 538         if (c < d) return (FFMIN(a, d) + FFMAX(b, c)) / 2;
 539         else       return (FFMIN(a, c) + FFMAX(b, d)) / 2;
 540     }
 541 }
 542
 543 /** Do motion compensation for 4-MV macroblock - luminance block
 544  */
 545 static void vc1_mc_4mv_luma(VC1Context *v, int n, int dir)
 546 {
 547     MpegEncContext *s = &v->s;
 548     uint8_t *srcY;
 549     int dxy, mx, my, src_x, src_y;
 550     int off;
 551     int fieldmv = (v->fcm == ILACE_FRAME) ? v->blk_mv_type[s->block_index[n]] : 0;
 552     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 553
 554     if ((!v->field_mode ||
 555          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
 556         !v->s.last_picture.f.data[0])
 557         return;
 558
 559     mx = s->mv[dir][n][0];
 560     my = s->mv[dir][n][1];
 561
 562     if (!dir) {
 563         if (v->field_mode) {
 564             if ((v->cur_field_type != v->ref_field_type[dir]) && v->cur_field_type)
 565                 srcY = s->current_picture.f.data[0];
 566             else
 567                 srcY = s->last_picture.f.data[0];
 568         } else
 569             srcY = s->last_picture.f.data[0];
 570     } else
 571         srcY = s->next_picture.f.data[0];
 572
 573     if (v->field_mode) {
 574         if (v->cur_field_type != v->ref_field_type[dir])
 575             my = my - 2 + 4 * v->cur_field_type;
 576     }
 577
 578     if (s->pict_type == AV_PICTURE_TYPE_P && n == 3 && v->field_mode) {
 579         int same_count = 0, opp_count = 0, k;
 580         int chosen_mv[2][4][2], f;
 581         int tx, ty;
 582         for (k = 0; k < 4; k++) {
 583             f = v->mv_f[0][s->block_index[k] + v->blocks_off];
 584             chosen_mv[f][f ? opp_count : same_count][0] = s->mv[0][k][0];
 585             chosen_mv[f][f ? opp_count : same_count][1] = s->mv[0][k][1];
 586             opp_count  += f;
 587             same_count += 1 - f;
 588         }
 589         f = opp_count > same_count;
 590         switch (f ? opp_count : same_count) {
 591         case 4:
 592             tx = median4(chosen_mv[f][0][0], chosen_mv[f][1][0],
 593                          chosen_mv[f][2][0], chosen_mv[f][3][0]);
 594             ty = median4(chosen_mv[f][0][1], chosen_mv[f][1][1],
 595                          chosen_mv[f][2][1], chosen_mv[f][3][1]);
 596             break;
 597         case 3:
 598             tx = mid_pred(chosen_mv[f][0][0], chosen_mv[f][1][0], chosen_mv[f][2][0]);
 599             ty = mid_pred(chosen_mv[f][0][1], chosen_mv[f][1][1], chosen_mv[f][2][1]);
 600             break;
 601         case 2:
 602             tx = (chosen_mv[f][0][0] + chosen_mv[f][1][0]) / 2;
 603             ty = (chosen_mv[f][0][1] + chosen_mv[f][1][1]) / 2;
 604             break;
 605         }
 606         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = tx;
 607         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = ty;
 608         for (k = 0; k < 4; k++)
 609             v->mv_f[1][s->block_index[k] + v->blocks_off] = f;
 610     }
 611
 612     if (v->fcm == ILACE_FRAME) {  // not sure if needed for other types of picture
 613         int qx, qy;
 614         int width  = s->avctx->coded_width;
 615         int height = s->avctx->coded_height >> 1;
 616         qx = (s->mb_x * 16) + (mx >> 2);
 617         qy = (s->mb_y *  8) + (my >> 3);
 618
 619         if (qx < -17)
 620             mx -= 4 * (qx + 17);
 621         else if (qx > width)
 622             mx -= 4 * (qx - width);
 623         if (qy < -18)
 624             my -= 8 * (qy + 18);
 625         else if (qy > height + 1)
 626             my -= 8 * (qy - height - 1);
 627     }
 628
 629     if ((v->fcm == ILACE_FRAME) && fieldmv)
 630         off = ((n > 1) ? s->linesize : 0) + (n & 1) * 8;
 631     else
 632         off = s->linesize * 4 * (n & 2) + (n & 1) * 8;
 633     if (v->field_mode && v->cur_field_type)
 634         off += s->current_picture_ptr->f.linesize[0];
 635
 636     src_x = s->mb_x * 16 + (n & 1) * 8 + (mx >> 2);
 637     if (!fieldmv)
 638         src_y = s->mb_y * 16 + (n & 2) * 4 + (my >> 2);
 639     else
 640         src_y = s->mb_y * 16 + ((n > 1) ? 1 : 0) + (my >> 2);
 641
 642     if (v->profile != PROFILE_ADVANCED) {
 643         src_x = av_clip(src_x, -16, s->mb_width  * 16);
 644         src_y = av_clip(src_y, -16, s->mb_height * 16);
 645     } else {
 646         src_x = av_clip(src_x, -17, s->avctx->coded_width);
 647         if (v->fcm == ILACE_FRAME) {
 648             if (src_y & 1)
 649                 src_y = av_clip(src_y, -17, s->avctx->coded_height + 1);
 650             else
 651                 src_y = av_clip(src_y, -18, s->avctx->coded_height);
 652         } else {
 653             src_y = av_clip(src_y, -18, s->avctx->coded_height + 1);
 654         }
 655     }
 656
 657     srcY += src_y * s->linesize + src_x;
 658     if (v->field_mode && v->ref_field_type[dir])
 659         srcY += s->current_picture_ptr->f.linesize[0];
 660
 661     if (fieldmv && !(src_y & 1))
 662         v_edge_pos--;
 663     if (fieldmv && (src_y & 1) && src_y < 4)
 664         src_y--;
 665     if (v->rangeredfrm || (v->mv_mode == MV_PMODE_INTENSITY_COMP)
 666         || s->h_edge_pos < 13 || v_edge_pos < 23
 667         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx & 3) - 8 - s->mspel * 2
 668         || (unsigned)(src_y - (s->mspel << fieldmv)) > v_edge_pos - (my & 3) - ((8 + s->mspel * 2) << fieldmv)) {
 669         srcY -= s->mspel * (1 + (s->linesize << fieldmv));
 670         /* check emulate edge stride and offset */
 671         s->vdsp.emulated_edge_mc(s->edge_emu_buffer, srcY, s->linesize,
 672                                  9 + s->mspel * 2, (9 + s->mspel * 2) << fieldmv,
 673                                  src_x - s->mspel, src_y - (s->mspel << fieldmv),
 674                                  s->h_edge_pos, v_edge_pos);
 675         srcY = s->edge_emu_buffer;
 676         /* if we deal with range reduction we need to scale source blocks */
 677         if (v->rangeredfrm) {
 678             int i, j;
 679             uint8_t *src;
 680
 681             src = srcY;
 682             for (j = 0; j < 9 + s->mspel * 2; j++) {
 683                 for (i = 0; i < 9 + s->mspel * 2; i++)
 684                     src[i] = ((src[i] - 128) >> 1) + 128;
 685                 src += s->linesize << fieldmv;
 686             }
 687         }
 688         /* if we deal with intensity compensation we need to scale source blocks */
 689         if (v->mv_mode == MV_PMODE_INTENSITY_COMP) {
 690             int i, j;
 691             uint8_t *src;
 692
 693             src = srcY;
 694             for (j = 0; j < 9 + s->mspel * 2; j++) {
 695                 for (i = 0; i < 9 + s->mspel * 2; i++)
 696                     src[i] = v->luty[src[i]];
 697                 src += s->linesize << fieldmv;
 698             }
 699         }
 700         srcY += s->mspel * (1 + (s->linesize << fieldmv));
 701     }
 702
 703     if (s->mspel) {
 704         dxy = ((my & 3) << 2) | (mx & 3);
 705         v->vc1dsp.put_vc1_mspel_pixels_tab[dxy](s->dest[0] + off, srcY, s->linesize << fieldmv, v->rnd);
 706     } else { // hpel mc - always used for luma
 707         dxy = (my & 2) | ((mx & 2) >> 1);
 708         if (!v->rnd)
 709             s->hdsp.put_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
 710         else
 711             s->hdsp.put_no_rnd_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
 712     }
 713 }
 714
 715 static av_always_inline int get_chroma_mv(int *mvx, int *mvy, int *a, int flag, int *tx, int *ty)
 716 {
 717     int idx, i;
 718     static const int count[16] = { 0, 1, 1, 2, 1, 2, 2, 3, 1, 2, 2, 3, 2, 3, 3, 4};
 719
 720     idx =  ((a[3] != flag) << 3)
 721          | ((a[2] != flag) << 2)
 722          | ((a[1] != flag) << 1)
 723          |  (a[0] != flag);
 724     if (!idx) {
 725         *tx = median4(mvx[0], mvx[1], mvx[2], mvx[3]);
 726         *ty = median4(mvy[0], mvy[1], mvy[2], mvy[3]);
 727         return 4;
 728     } else if (count[idx] == 1) {
 729         switch (idx) {
 730         case 0x1:
 731             *tx = mid_pred(mvx[1], mvx[2], mvx[3]);
 732             *ty = mid_pred(mvy[1], mvy[2], mvy[3]);
 733             return 3;
 734         case 0x2:
 735             *tx = mid_pred(mvx[0], mvx[2], mvx[3]);
 736             *ty = mid_pred(mvy[0], mvy[2], mvy[3]);
 737             return 3;
 738         case 0x4:
 739             *tx = mid_pred(mvx[0], mvx[1], mvx[3]);
 740             *ty = mid_pred(mvy[0], mvy[1], mvy[3]);
 741             return 3;
 742         case 0x8:
 743             *tx = mid_pred(mvx[0], mvx[1], mvx[2]);
 744             *ty = mid_pred(mvy[0], mvy[1], mvy[2]);
 745             return 3;
 746         }
 747     } else if (count[idx] == 2) {
 748         int t1 = 0, t2 = 0;
 749         for (i = 0; i < 3; i++)
 750             if (!a[i]) {
 751                 t1 = i;
 752                 break;
 753             }
 754         for (i = t1 + 1; i < 4; i++)
 755             if (!a[i]) {
 756                 t2 = i;
 757                 break;
 758             }
 759         *tx = (mvx[t1] + mvx[t2]) / 2;
 760         *ty = (mvy[t1] + mvy[t2]) / 2;
 761         return 2;
 762     } else {
 763         return 0;
 764     }
 765     return -1;
 766 }
 767
 768 /** Do motion compensation for 4-MV macroblock - both chroma blocks
 769  */
 770 static void vc1_mc_4mv_chroma(VC1Context *v, int dir)
 771 {
 772     MpegEncContext *s = &v->s;
 773     H264ChromaContext *h264chroma = &v->h264chroma;
 774     uint8_t *srcU, *srcV;
 775     int uvmx, uvmy, uvsrc_x, uvsrc_y;
 776     int k, tx = 0, ty = 0;
 777     int mvx[4], mvy[4], intra[4], mv_f[4];
 778     int valid_count;
 779     int chroma_ref_type = v->cur_field_type, off = 0;
 780     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 781
 782     if (!v->field_mode && !v->s.last_picture.f.data[0])
 783         return;
 784     if (s->flags & CODEC_FLAG_GRAY)
 785         return;
 786
 787     for (k = 0; k < 4; k++) {
 788         mvx[k] = s->mv[dir][k][0];
 789         mvy[k] = s->mv[dir][k][1];
 790         intra[k] = v->mb_type[0][s->block_index[k]];
 791         if (v->field_mode)
 792             mv_f[k] = v->mv_f[dir][s->block_index[k] + v->blocks_off];
 793     }
 794
 795     /* calculate chroma MV vector from four luma MVs */
 796     if (!v->field_mode || (v->field_mode && !v->numref)) {
 797         valid_count = get_chroma_mv(mvx, mvy, intra, 0, &tx, &ty);
 798         chroma_ref_type = v->reffield;
 799         if (!valid_count) {
 800             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
 801             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
 802             v->luma_mv[s->mb_x][0] = v->luma_mv[s->mb_x][1] = 0;
 803             return; //no need to do MC for intra blocks
 804         }
 805     } else {
 806         int dominant = 0;
 807         if (mv_f[0] + mv_f[1] + mv_f[2] + mv_f[3] > 2)
 808             dominant = 1;
 809         valid_count = get_chroma_mv(mvx, mvy, mv_f, dominant, &tx, &ty);
 810         if (dominant)
 811             chroma_ref_type = !v->cur_field_type;
 812     }
 813     if (v->field_mode && chroma_ref_type == 1 && v->cur_field_type == 1 && !v->s.last_picture.f.data[0])
 814         return;
 815     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = tx;
 816     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = ty;
 817     uvmx = (tx + ((tx & 3) == 3)) >> 1;
 818     uvmy = (ty + ((ty & 3) == 3)) >> 1;
 819
 820     v->luma_mv[s->mb_x][0] = uvmx;
 821     v->luma_mv[s->mb_x][1] = uvmy;
 822
 823     if (v->fastuvmc) {
 824         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
 825         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
 826     }
 827     // Field conversion bias
 828     if (v->cur_field_type != chroma_ref_type)
 829         uvmy += 2 - 4 * chroma_ref_type;
 830
 831     uvsrc_x = s->mb_x * 8 + (uvmx >> 2);
 832     uvsrc_y = s->mb_y * 8 + (uvmy >> 2);
 833
 834     if (v->profile != PROFILE_ADVANCED) {
 835         uvsrc_x = av_clip(uvsrc_x, -8, s->mb_width  * 8);
 836         uvsrc_y = av_clip(uvsrc_y, -8, s->mb_height * 8);
 837     } else {
 838         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
 839         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
 840     }
 841
 842     if (!dir) {
 843         if (v->field_mode) {
 844             if ((v->cur_field_type != chroma_ref_type) && v->cur_field_type) {
 845                 srcU = s->current_picture.f.data[1] + uvsrc_y * s->uvlinesize + uvsrc_x;
 846                 srcV = s->current_picture.f.data[2] + uvsrc_y * s->uvlinesize + uvsrc_x;
 847             } else {
 848                 srcU = s->last_picture.f.data[1] + uvsrc_y * s->uvlinesize + uvsrc_x;
 849                 srcV = s->last_picture.f.data[2] + uvsrc_y * s->uvlinesize + uvsrc_x;
 850             }
 851         } else {
 852             srcU = s->last_picture.f.data[1] + uvsrc_y * s->uvlinesize + uvsrc_x;
 853             srcV = s->last_picture.f.data[2] + uvsrc_y * s->uvlinesize + uvsrc_x;
 854         }
 855     } else {
 856         srcU = s->next_picture.f.data[1] + uvsrc_y * s->uvlinesize + uvsrc_x;
 857         srcV = s->next_picture.f.data[2] + uvsrc_y * s->uvlinesize + uvsrc_x;
 858     }
 859
 860     if (v->field_mode) {
 861         if (chroma_ref_type) {
 862             srcU += s->current_picture_ptr->f.linesize[1];
 863             srcV += s->current_picture_ptr->f.linesize[2];
 864         }
 865         off = v->cur_field_type ? s->current_picture_ptr->f.linesize[1] : 0;
 866     }
 867
 868     if (v->rangeredfrm || (v->mv_mode == MV_PMODE_INTENSITY_COMP)
 869         || s->h_edge_pos < 18 || v_edge_pos < 18
 870         || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 9
 871         || (unsigned)uvsrc_y > (v_edge_pos    >> 1) - 9) {
 872         s->vdsp.emulated_edge_mc(s->edge_emu_buffer     , srcU, s->uvlinesize,
 873                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
 874                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 875         s->vdsp.emulated_edge_mc(s->edge_emu_buffer + 16, srcV, s->uvlinesize,
 876                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
 877                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 878         srcU = s->edge_emu_buffer;
 879         srcV = s->edge_emu_buffer + 16;
 880
 881         /* if we deal with range reduction we need to scale source blocks */
 882         if (v->rangeredfrm) {
 883             int i, j;
 884             uint8_t *src, *src2;
 885
 886             src  = srcU;
 887             src2 = srcV;
 888             for (j = 0; j < 9; j++) {
 889                 for (i = 0; i < 9; i++) {
 890                     src[i]  = ((src[i]  - 128) >> 1) + 128;
 891                     src2[i] = ((src2[i] - 128) >> 1) + 128;
 892                 }
 893                 src  += s->uvlinesize;
 894                 src2 += s->uvlinesize;
 895             }
 896         }
 897         /* if we deal with intensity compensation we need to scale source blocks */
 898         if (v->mv_mode == MV_PMODE_INTENSITY_COMP) {
 899             int i, j;
 900             uint8_t *src, *src2;
 901
 902             src  = srcU;
 903             src2 = srcV;
 904             for (j = 0; j < 9; j++) {
 905                 for (i = 0; i < 9; i++) {
 906                     src[i]  = v->lutuv[src[i]];
 907                     src2[i] = v->lutuv[src2[i]];
 908                 }
 909                 src  += s->uvlinesize;
 910                 src2 += s->uvlinesize;
 911             }
 912         }
 913     }
 914
 915     /* Chroma MC always uses qpel bilinear */
 916     uvmx = (uvmx & 3) << 1;
 917     uvmy = (uvmy & 3) << 1;
 918     if (!v->rnd) {
 919         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1] + off, srcU, s->uvlinesize, 8, uvmx, uvmy);
 920         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2] + off, srcV, s->uvlinesize, 8, uvmx, uvmy);
 921     } else {
 922         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1] + off, srcU, s->uvlinesize, 8, uvmx, uvmy);
 923         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2] + off, srcV, s->uvlinesize, 8, uvmx, uvmy);
 924     }
 925 }
 926
 927 /** Do motion compensation for 4-MV field chroma macroblock (both U and V)
 928  */
 929 static void vc1_mc_4mv_chroma4(VC1Context *v)
 930 {
 931     MpegEncContext *s = &v->s;
 932     H264ChromaContext *h264chroma = &v->h264chroma;
 933     uint8_t *srcU, *srcV;
 934     int uvsrc_x, uvsrc_y;
 935     int uvmx_field[4], uvmy_field[4];
 936     int i, off, tx, ty;
 937     int fieldmv = v->blk_mv_type[s->block_index[0]];
 938     static const int s_rndtblfield[16] = { 0, 0, 1, 2, 4, 4, 5, 6, 2, 2, 3, 8, 6, 6, 7, 12 };
 939     int v_dist = fieldmv ? 1 : 4; // vertical offset for lower sub-blocks
 940     int v_edge_pos = s->v_edge_pos >> 1;
 941
 942     if (!v->s.last_picture.f.data[0])
 943         return;
 944     if (s->flags & CODEC_FLAG_GRAY)
 945         return;
 946
 947     for (i = 0; i < 4; i++) {
 948         tx = s->mv[0][i][0];
 949         uvmx_field[i] = (tx + ((tx & 3) == 3)) >> 1;
 950         ty = s->mv[0][i][1];
 951         if (fieldmv)
 952             uvmy_field[i] = (ty >> 4) * 8 + s_rndtblfield[ty & 0xF];
 953         else
 954             uvmy_field[i] = (ty + ((ty & 3) == 3)) >> 1;
 955     }
 956
 957     for (i = 0; i < 4; i++) {
 958         off = (i & 1) * 4 + ((i & 2) ? v_dist * s->uvlinesize : 0);
 959         uvsrc_x = s->mb_x * 8 +  (i & 1) * 4           + (uvmx_field[i] >> 2);
 960         uvsrc_y = s->mb_y * 8 + ((i & 2) ? v_dist : 0) + (uvmy_field[i] >> 2);
 961         // FIXME: implement proper pull-back (see vc1cropmv.c, vc1CROPMV_ChromaPullBack())
 962         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
 963         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
 964         srcU = s->last_picture.f.data[1] + uvsrc_y * s->uvlinesize + uvsrc_x;
 965         srcV = s->last_picture.f.data[2] + uvsrc_y * s->uvlinesize + uvsrc_x;
 966         uvmx_field[i] = (uvmx_field[i] & 3) << 1;
 967         uvmy_field[i] = (uvmy_field[i] & 3) << 1;
 968
 969         if (fieldmv && !(uvsrc_y & 1))
 970             v_edge_pos--;
 971         if (fieldmv && (uvsrc_y & 1) && uvsrc_y < 2)
 972             uvsrc_y--;
 973         if ((v->mv_mode == MV_PMODE_INTENSITY_COMP)
 974             || s->h_edge_pos < 10 || v_edge_pos < (5 << fieldmv)
 975             || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 5
 976             || (unsigned)uvsrc_y > v_edge_pos - (5 << fieldmv)) {
 977             s->vdsp.emulated_edge_mc(s->edge_emu_buffer, srcU, s->uvlinesize,
 978                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
 979                                      s->h_edge_pos >> 1, v_edge_pos);
 980             s->vdsp.emulated_edge_mc(s->edge_emu_buffer + 16, srcV, s->uvlinesize,
 981                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
 982                                      s->h_edge_pos >> 1, v_edge_pos);
 983             srcU = s->edge_emu_buffer;
 984             srcV = s->edge_emu_buffer + 16;
 985
 986             /* if we deal with intensity compensation we need to scale source blocks */
 987             if (v->mv_mode == MV_PMODE_INTENSITY_COMP) {
 988                 int i, j;
 989                 uint8_t *src, *src2;
 990
 991                 src  = srcU;
 992                 src2 = srcV;
 993                 for (j = 0; j < 5; j++) {
 994                     for (i = 0; i < 5; i++) {
 995                         src[i]  = v->lutuv[src[i]];
 996                         src2[i] = v->lutuv[src2[i]];
 997                     }
 998                     src  += s->uvlinesize << 1;
 999                     src2 += s->uvlinesize << 1;
1000                 }
1001             }
1002         }
1003         if (!v->rnd) {
1004             h264chroma->put_h264_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
1005             h264chroma->put_h264_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
1006         } else {
1007             v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
1008             v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
1009         }
1010     }
1011 }
1012
1013 /***********************************************************************/
1014 /**
1015  * @name VC-1 Block-level functions
1016  * @see 7.1.4, p91 and 8.1.1.7, p(1)04
1017  * @{
1018  */
1019
1020 /**
1021  * @def GET_MQUANT
1022  * @brief Get macroblock-level quantizer scale
1023  */
1024 #define GET_MQUANT()                                           \
1025     if (v->dquantfrm) {                                        \
1026         int edges = 0;                                         \
1027         if (v->dqprofile == DQPROFILE_ALL_MBS) {               \
1028             if (v->dqbilevel) {                                \
1029                 mquant = (get_bits1(gb)) ? v->altpq : v->pq;   \
1030             } else {                                           \
1031                 mqdiff = get_bits(gb, 3);                      \
1032                 if (mqdiff != 7)                               \
1033                     mquant = v->pq + mqdiff;                   \
1034                 else                                           \
1035                     mquant = get_bits(gb, 5);                  \
1036             }                                                  \
1037         }                                                      \
1038         if (v->dqprofile == DQPROFILE_SINGLE_EDGE)             \
1039             edges = 1 << v->dqsbedge;                          \
1040         else if (v->dqprofile == DQPROFILE_DOUBLE_EDGES)       \
1041             edges = (3 << v->dqsbedge) % 15;                   \
1042         else if (v->dqprofile == DQPROFILE_FOUR_EDGES)         \
1043             edges = 15;                                        \
1044         if ((edges&1) && !s->mb_x)                             \
1045             mquant = v->altpq;                                 \
1046         if ((edges&2) && s->first_slice_line)                  \
1047             mquant = v->altpq;                                 \
1048         if ((edges&4) && s->mb_x == (s->mb_width - 1))         \
1049             mquant = v->altpq;                                 \
1050         if ((edges&8) && s->mb_y == (s->mb_height - 1))        \
1051             mquant = v->altpq;                                 \
1052         if (!mquant || mquant > 31) {                          \
1053             av_log(v->s.avctx, AV_LOG_ERROR,                   \
1054                    "Overriding invalid mquant %d\n", mquant);  \
1055             mquant = 1;                                        \
1056         }                                                      \
1057     }
1058
1059 /**
1060  * @def GET_MVDATA(_dmv_x, _dmv_y)
1061  * @brief Get MV differentials
1062  * @see MVDATA decoding from 8.3.5.2, p(1)20
1063  * @param _dmv_x Horizontal differential for decoded MV
1064  * @param _dmv_y Vertical differential for decoded MV
1065  */
1066 #define GET_MVDATA(_dmv_x, _dmv_y)                                      \
1067     index = 1 + get_vlc2(gb, ff_vc1_mv_diff_vlc[s->mv_table_index].table, \
1068                          VC1_MV_DIFF_VLC_BITS, 2);                      \
1069     if (index > 36) {                                                   \
1070         mb_has_coeffs = 1;                                              \
1071         index -= 37;                                                    \
1072     } else                                                              \
1073         mb_has_coeffs = 0;                                              \
1074     s->mb_intra = 0;                                                    \
1075     if (!index) {                                                       \
1076         _dmv_x = _dmv_y = 0;                                            \
1077     } else if (index == 35) {                                           \
1078         _dmv_x = get_bits(gb, v->k_x - 1 + s->quarter_sample);          \
1079         _dmv_y = get_bits(gb, v->k_y - 1 + s->quarter_sample);          \
1080     } else if (index == 36) {                                           \
1081         _dmv_x = 0;                                                     \
1082         _dmv_y = 0;                                                     \
1083         s->mb_intra = 1;                                                \
1084     } else {                                                            \
1085         index1 = index % 6;                                             \
1086         if (!s->quarter_sample && index1 == 5) val = 1;                 \
1087         else                                   val = 0;                 \
1088         if (size_table[index1] - val > 0)                               \
1089             val = get_bits(gb, size_table[index1] - val);               \
1090         else                                   val = 0;                 \
1091         sign = 0 - (val&1);                                             \
1092         _dmv_x = (sign ^ ((val>>1) + offset_table[index1])) - sign;     \
1093                                                                         \
1094         index1 = index / 6;                                             \
1095         if (!s->quarter_sample && index1 == 5) val = 1;                 \
1096         else                                   val = 0;                 \
1097         if (size_table[index1] - val > 0)                               \
1098             val = get_bits(gb, size_table[index1] - val);               \
1099         else                                   val = 0;                 \
1100         sign = 0 - (val & 1);                                           \
1101         _dmv_y = (sign ^ ((val >> 1) + offset_table[index1])) - sign;   \
1102     }
1103
1104 static av_always_inline void get_mvdata_interlaced(VC1Context *v, int *dmv_x,
1105                                                    int *dmv_y, int *pred_flag)
1106 {
1107     int index, index1;
1108     int extend_x = 0, extend_y = 0;
1109     GetBitContext *gb = &v->s.gb;
1110     int bits, esc;
1111     int val, sign;
1112     const int* offs_tab;
1113
1114     if (v->numref) {
1115         bits = VC1_2REF_MVDATA_VLC_BITS;
1116         esc  = 125;
1117     } else {
1118         bits = VC1_1REF_MVDATA_VLC_BITS;
1119         esc  = 71;
1120     }
1121     switch (v->dmvrange) {
1122     case 1:
1123         extend_x = 1;
1124         break;
1125     case 2:
1126         extend_y = 1;
1127         break;
1128     case 3:
1129         extend_x = extend_y = 1;
1130         break;
1131     }
1132     index = get_vlc2(gb, v->imv_vlc->table, bits, 3);
1133     if (index == esc) {
1134         *dmv_x = get_bits(gb, v->k_x);
1135         *dmv_y = get_bits(gb, v->k_y);
1136         if (v->numref) {
1137             if (pred_flag) {
1138                 *pred_flag = *dmv_y & 1;
1139                 *dmv_y     = (*dmv_y + *pred_flag) >> 1;
1140             } else {
1141                 *dmv_y     = (*dmv_y + (*dmv_y & 1)) >> 1;
1142             }
1143         }
1144     }
1145     else {
1146         if (extend_x)
1147             offs_tab = offset_table2;
1148         else
1149             offs_tab = offset_table1;
1150         index1 = (index + 1) % 9;
1151         if (index1 != 0) {
1152             val    = get_bits(gb, index1 + extend_x);
1153             sign   = 0 -(val & 1);
1154             *dmv_x = (sign ^ ((val >> 1) + offs_tab[index1])) - sign;
1155         } else
1156             *dmv_x = 0;
1157         if (extend_y)
1158             offs_tab = offset_table2;
1159         else
1160             offs_tab = offset_table1;
1161         index1 = (index + 1) / 9;
1162         if (index1 > v->numref) {
1163             val    = get_bits(gb, (index1 + (extend_y << v->numref)) >> v->numref);
1164             sign   = 0 - (val & 1);
1165             *dmv_y = (sign ^ ((val >> 1) + offs_tab[index1 >> v->numref])) - sign;
1166         } else
1167             *dmv_y = 0;
1168         if (v->numref && pred_flag)
1169             *pred_flag = index1 & 1;
1170     }
1171 }
1172
1173 static av_always_inline int scaleforsame_x(VC1Context *v, int n /* MV */, int dir)
1174 {
1175     int scaledvalue, refdist;
1176     int scalesame1, scalesame2;
1177     int scalezone1_x, zone1offset_x;
1178     int table_index = dir ^ v->second_field;
1179
1180     if (v->s.pict_type != AV_PICTURE_TYPE_B)
1181         refdist = v->refdist;
1182     else
1183         refdist = dir ? v->brfd : v->frfd;
1184     if (refdist > 3)
1185         refdist = 3;
1186     scalesame1    = ff_vc1_field_mvpred_scales[table_index][1][refdist];
1187     scalesame2    = ff_vc1_field_mvpred_scales[table_index][2][refdist];
1188     scalezone1_x  = ff_vc1_field_mvpred_scales[table_index][3][refdist];
1189     zone1offset_x = ff_vc1_field_mvpred_scales[table_index][5][refdist];
1190
1191     if (FFABS(n) > 255)
1192         scaledvalue = n;
1193     else {
1194         if (FFABS(n) < scalezone1_x)
1195             scaledvalue = (n * scalesame1) >> 8;
1196         else {
1197             if (n < 0)
1198                 scaledvalue = ((n * scalesame2) >> 8) - zone1offset_x;
1199             else
1200                 scaledvalue = ((n * scalesame2) >> 8) + zone1offset_x;
1201         }
1202     }
1203     return av_clip(scaledvalue, -v->range_x, v->range_x - 1);
1204 }
1205
1206 static av_always_inline int scaleforsame_y(VC1Context *v, int i, int n /* MV */, int dir)
1207 {
1208     int scaledvalue, refdist;
1209     int scalesame1, scalesame2;
1210     int scalezone1_y, zone1offset_y;
1211     int table_index = dir ^ v->second_field;
1212
1213     if (v->s.pict_type != AV_PICTURE_TYPE_B)
1214         refdist = v->refdist;
1215     else
1216         refdist = dir ? v->brfd : v->frfd;
1217     if (refdist > 3)
1218         refdist = 3;
1219     scalesame1    = ff_vc1_field_mvpred_scales[table_index][1][refdist];
1220     scalesame2    = ff_vc1_field_mvpred_scales[table_index][2][refdist];
1221     scalezone1_y  = ff_vc1_field_mvpred_scales[table_index][4][refdist];
1222     zone1offset_y = ff_vc1_field_mvpred_scales[table_index][6][refdist];
1223
1224     if (FFABS(n) > 63)
1225         scaledvalue = n;
1226     else {
1227         if (FFABS(n) < scalezone1_y)
1228             scaledvalue = (n * scalesame1) >> 8;
1229         else {
1230             if (n < 0)
1231                 scaledvalue = ((n * scalesame2) >> 8) - zone1offset_y;
1232             else
1233                 scaledvalue = ((n * scalesame2) >> 8) + zone1offset_y;
1234         }
1235     }
1236
1237     if (v->cur_field_type && !v->ref_field_type[dir])
1238         return av_clip(scaledvalue, -v->range_y / 2 + 1, v->range_y / 2);
1239     else
1240         return av_clip(scaledvalue, -v->range_y / 2, v->range_y / 2 - 1);
1241 }
1242
1243 static av_always_inline int scaleforopp_x(VC1Context *v, int n /* MV */)
1244 {
1245     int scalezone1_x, zone1offset_x;
1246     int scaleopp1, scaleopp2, brfd;
1247     int scaledvalue;
1248
1249     brfd = FFMIN(v->brfd, 3);
1250     scalezone1_x  = ff_vc1_b_field_mvpred_scales[3][brfd];
1251     zone1offset_x = ff_vc1_b_field_mvpred_scales[5][brfd];
1252     scaleopp1     = ff_vc1_b_field_mvpred_scales[1][brfd];
1253     scaleopp2     = ff_vc1_b_field_mvpred_scales[2][brfd];
1254
1255     if (FFABS(n) > 255)
1256         scaledvalue = n;
1257     else {
1258         if (FFABS(n) < scalezone1_x)
1259             scaledvalue = (n * scaleopp1) >> 8;
1260         else {
1261             if (n < 0)
1262                 scaledvalue = ((n * scaleopp2) >> 8) - zone1offset_x;
1263             else
1264                 scaledvalue = ((n * scaleopp2) >> 8) + zone1offset_x;
1265         }
1266     }
1267     return av_clip(scaledvalue, -v->range_x, v->range_x - 1);
1268 }
1269
1270 static av_always_inline int scaleforopp_y(VC1Context *v, int n /* MV */, int dir)
1271 {
1272     int scalezone1_y, zone1offset_y;
1273     int scaleopp1, scaleopp2, brfd;
1274     int scaledvalue;
1275
1276     brfd = FFMIN(v->brfd, 3);
1277     scalezone1_y  = ff_vc1_b_field_mvpred_scales[4][brfd];
1278     zone1offset_y = ff_vc1_b_field_mvpred_scales[6][brfd];
1279     scaleopp1     = ff_vc1_b_field_mvpred_scales[1][brfd];
1280     scaleopp2     = ff_vc1_b_field_mvpred_scales[2][brfd];
1281
1282     if (FFABS(n) > 63)
1283         scaledvalue = n;
1284     else {
1285         if (FFABS(n) < scalezone1_y)
1286             scaledvalue = (n * scaleopp1) >> 8;
1287         else {
1288             if (n < 0)
1289                 scaledvalue = ((n * scaleopp2) >> 8) - zone1offset_y;
1290             else
1291                 scaledvalue = ((n * scaleopp2) >> 8) + zone1offset_y;
1292         }
1293     }
1294     if (v->cur_field_type && !v->ref_field_type[dir]) {
1295         return av_clip(scaledvalue, -v->range_y / 2 + 1, v->range_y / 2);
1296     } else {
1297         return av_clip(scaledvalue, -v->range_y / 2, v->range_y / 2 - 1);
1298     }
1299 }
1300
1301 static av_always_inline int scaleforsame(VC1Context *v, int i, int n /* MV */,
1302                                          int dim, int dir)
1303 {
1304     int brfd, scalesame;
1305     int hpel = 1 - v->s.quarter_sample;
1306
1307     n >>= hpel;
1308     if (v->s.pict_type != AV_PICTURE_TYPE_B || v->second_field || !dir) {
1309         if (dim)
1310             n = scaleforsame_y(v, i, n, dir) << hpel;
1311         else
1312             n = scaleforsame_x(v, n, dir) << hpel;
1313         return n;
1314     }
1315     brfd      = FFMIN(v->brfd, 3);
1316     scalesame = ff_vc1_b_field_mvpred_scales[0][brfd];
1317
1318     n = (n * scalesame >> 8) << hpel;
1319     return n;
1320 }
1321
1322 static av_always_inline int scaleforopp(VC1Context *v, int n /* MV */,
1323                                         int dim, int dir)
1324 {
1325     int refdist, scaleopp;
1326     int hpel = 1 - v->s.quarter_sample;
1327
1328     n >>= hpel;
1329     if (v->s.pict_type == AV_PICTURE_TYPE_B && !v->second_field && dir == 1) {
1330         if (dim)
1331             n = scaleforopp_y(v, n, dir) << hpel;
1332         else
1333             n = scaleforopp_x(v, n) << hpel;
1334         return n;
1335     }
1336     if (v->s.pict_type != AV_PICTURE_TYPE_B)
1337         refdist = FFMIN(v->refdist, 3);
1338     else
1339         refdist = dir ? v->brfd : v->frfd;
1340     scaleopp = ff_vc1_field_mvpred_scales[dir ^ v->second_field][0][refdist];
1341
1342     n = (n * scaleopp >> 8) << hpel;
1343     return n;
1344 }
1345
1346 /** Predict and set motion vector
1347  */
1348 static inline void vc1_pred_mv(VC1Context *v, int n, int dmv_x, int dmv_y,
1349                                int mv1, int r_x, int r_y, uint8_t* is_intra,
1350                                int pred_flag, int dir)
1351 {
1352     MpegEncContext *s = &v->s;
1353     int xy, wrap, off = 0;
1354     int16_t *A, *B, *C;
1355     int px, py;
1356     int sum;
1357     int mixedmv_pic, num_samefield = 0, num_oppfield = 0;
1358     int opposite, a_f, b_f, c_f;
1359     int16_t field_predA[2];
1360     int16_t field_predB[2];
1361     int16_t field_predC[2];
1362     int a_valid, b_valid, c_valid;
1363     int hybridmv_thresh, y_bias = 0;
1364
1365     if (v->mv_mode == MV_PMODE_MIXED_MV ||
1366         ((v->mv_mode == MV_PMODE_INTENSITY_COMP) && (v->mv_mode2 == MV_PMODE_MIXED_MV)))
1367         mixedmv_pic = 1;
1368     else
1369         mixedmv_pic = 0;
1370     /* scale MV difference to be quad-pel */
1371     dmv_x <<= 1 - s->quarter_sample;
1372     dmv_y <<= 1 - s->quarter_sample;
1373
1374     wrap = s->b8_stride;
1375     xy   = s->block_index[n];
1376
1377     if (s->mb_intra) {
1378         s->mv[0][n][0] = s->current_picture.motion_val[0][xy + v->blocks_off][0] = 0;
1379         s->mv[0][n][1] = s->current_picture.motion_val[0][xy + v->blocks_off][1] = 0;
1380         s->current_picture.motion_val[1][xy + v->blocks_off][0] = 0;
1381         s->current_picture.motion_val[1][xy + v->blocks_off][1] = 0;
1382         if (mv1) { /* duplicate motion data for 1-MV block */
1383             s->current_picture.motion_val[0][xy + 1 + v->blocks_off][0]        = 0;
1384             s->current_picture.motion_val[0][xy + 1 + v->blocks_off][1]        = 0;
1385             s->current_picture.motion_val[0][xy + wrap + v->blocks_off][0]     = 0;
1386             s->current_picture.motion_val[0][xy + wrap + v->blocks_off][1]     = 0;
1387             s->current_picture.motion_val[0][xy + wrap + 1 + v->blocks_off][0] = 0;
1388             s->current_picture.motion_val[0][xy + wrap + 1 + v->blocks_off][1] = 0;
1389             v->luma_mv[s->mb_x][0] = v->luma_mv[s->mb_x][1] = 0;
1390             s->current_picture.motion_val[1][xy + 1 + v->blocks_off][0]        = 0;
1391             s->current_picture.motion_val[1][xy + 1 + v->blocks_off][1]        = 0;
1392             s->current_picture.motion_val[1][xy + wrap][0]                     = 0;
1393             s->current_picture.motion_val[1][xy + wrap + v->blocks_off][1]     = 0;
1394             s->current_picture.motion_val[1][xy + wrap + 1 + v->blocks_off][0] = 0;
1395             s->current_picture.motion_val[1][xy + wrap + 1 + v->blocks_off][1] = 0;
1396         }
1397         return;
1398     }
1399
1400     C = s->current_picture.motion_val[dir][xy -    1 + v->blocks_off];
1401     A = s->current_picture.motion_val[dir][xy - wrap + v->blocks_off];
1402     if (mv1) {
1403         if (v->field_mode && mixedmv_pic)
1404             off = (s->mb_x == (s->mb_width - 1)) ? -2 : 2;
1405         else
1406             off = (s->mb_x == (s->mb_width - 1)) ? -1 : 2;
1407     } else {
1408         //in 4-MV mode different blocks have different B predictor position
1409         switch (n) {
1410         case 0:
1411             off = (s->mb_x > 0) ? -1 : 1;
1412             break;
1413         case 1:
1414             off = (s->mb_x == (s->mb_width - 1)) ? -1 : 1;
1415             break;
1416         case 2:
1417             off = 1;
1418             break;
1419         case 3:
1420             off = -1;
1421         }
1422     }
1423     B = s->current_picture.motion_val[dir][xy - wrap + off + v->blocks_off];
1424
1425     a_valid = !s->first_slice_line || (n == 2 || n == 3);
1426     b_valid = a_valid && (s->mb_width > 1);
1427     c_valid = s->mb_x || (n == 1 || n == 3);
1428     if (v->field_mode) {
1429         a_valid = a_valid && !is_intra[xy - wrap];
1430         b_valid = b_valid && !is_intra[xy - wrap + off];
1431         c_valid = c_valid && !is_intra[xy - 1];
1432     }
1433
1434     if (a_valid) {
1435         a_f = v->mv_f[dir][xy - wrap + v->blocks_off];
1436         num_oppfield  += a_f;
1437         num_samefield += 1 - a_f;
1438         field_predA[0] = A[0];
1439         field_predA[1] = A[1];
1440     } else {
1441         field_predA[0] = field_predA[1] = 0;
1442         a_f = 0;
1443     }
1444     if (b_valid) {
1445         b_f = v->mv_f[dir][xy - wrap + off + v->blocks_off];
1446         num_oppfield  += b_f;
1447         num_samefield += 1 - b_f;
1448         field_predB[0] = B[0];
1449         field_predB[1] = B[1];
1450     } else {
1451         field_predB[0] = field_predB[1] = 0;
1452         b_f = 0;
1453     }
1454     if (c_valid) {
1455         c_f = v->mv_f[dir][xy - 1 + v->blocks_off];
1456         num_oppfield  += c_f;
1457         num_samefield += 1 - c_f;
1458         field_predC[0] = C[0];
1459         field_predC[1] = C[1];
1460     } else {
1461         field_predC[0] = field_predC[1] = 0;
1462         c_f = 0;
1463     }
1464
1465     if (v->field_mode) {
1466         if (!v->numref)
1467             // REFFIELD determines if the last field or the second-last field is
1468             // to be used as reference
1469             opposite = 1 - v->reffield;
1470         else {
1471             if (num_samefield <= num_oppfield)
1472                 opposite = 1 - pred_flag;
1473             else
1474                 opposite = pred_flag;
1475         }
1476     } else
1477         opposite = 0;
1478     if (opposite) {
1479         if (a_valid && !a_f) {
1480             field_predA[0] = scaleforopp(v, field_predA[0], 0, dir);
1481             field_predA[1] = scaleforopp(v, field_predA[1], 1, dir);
1482         }
1483         if (b_valid && !b_f) {
1484             field_predB[0] = scaleforopp(v, field_predB[0], 0, dir);
1485             field_predB[1] = scaleforopp(v, field_predB[1], 1, dir);
1486         }
1487         if (c_valid && !c_f) {
1488             field_predC[0] = scaleforopp(v, field_predC[0], 0, dir);
1489             field_predC[1] = scaleforopp(v, field_predC[1], 1, dir);
1490         }
1491         v->mv_f[dir][xy + v->blocks_off] = 1;
1492         v->ref_field_type[dir] = !v->cur_field_type;
1493     } else {
1494         if (a_valid && a_f) {
1495             field_predA[0] = scaleforsame(v, n, field_predA[0], 0, dir);
1496             field_predA[1] = scaleforsame(v, n, field_predA[1], 1, dir);
1497         }
1498         if (b_valid && b_f) {
1499             field_predB[0] = scaleforsame(v, n, field_predB[0], 0, dir);
1500             field_predB[1] = scaleforsame(v, n, field_predB[1], 1, dir);
1501         }
1502         if (c_valid && c_f) {
1503             field_predC[0] = scaleforsame(v, n, field_predC[0], 0, dir);
1504             field_predC[1] = scaleforsame(v, n, field_predC[1], 1, dir);
1505         }
1506         v->mv_f[dir][xy + v->blocks_off] = 0;
1507         v->ref_field_type[dir] = v->cur_field_type;
1508     }
1509
1510     if (a_valid) {
1511         px = field_predA[0];
1512         py = field_predA[1];
1513     } else if (c_valid) {
1514         px = field_predC[0];
1515         py = field_predC[1];
1516     } else if (b_valid) {
1517         px = field_predB[0];
1518         py = field_predB[1];
1519     } else {
1520         px = 0;
1521         py = 0;
1522     }
1523
1524     if (num_samefield + num_oppfield > 1) {
1525         px = mid_pred(field_predA[0], field_predB[0], field_predC[0]);
1526         py = mid_pred(field_predA[1], field_predB[1], field_predC[1]);
1527     }
1528
1529     /* Pullback MV as specified in 8.3.5.3.4 */
1530     if (!v->field_mode) {
1531         int qx, qy, X, Y;
1532         qx = (s->mb_x << 6) + ((n == 1 || n == 3) ? 32 : 0);
1533         qy = (s->mb_y << 6) + ((n == 2 || n == 3) ? 32 : 0);
1534         X  = (s->mb_width  << 6) - 4;
1535         Y  = (s->mb_height << 6) - 4;
1536         if (mv1) {
1537             if (qx + px < -60) px = -60 - qx;
1538             if (qy + py < -60) py = -60 - qy;
1539         } else {
1540             if (qx + px < -28) px = -28 - qx;
1541             if (qy + py < -28) py = -28 - qy;
1542         }
1543         if (qx + px > X) px = X - qx;
1544         if (qy + py > Y) py = Y - qy;
1545     }
1546
1547     if (!v->field_mode || s->pict_type != AV_PICTURE_TYPE_B) {
1548         /* Calculate hybrid prediction as specified in 8.3.5.3.5 (also 10.3.5.4.3.5) */
1549         hybridmv_thresh = 32;
1550         if (a_valid && c_valid) {
1551             if (is_intra[xy - wrap])
1552                 sum = FFABS(px) + FFABS(py);
1553             else
1554                 sum = FFABS(px - field_predA[0]) + FFABS(py - field_predA[1]);
1555             if (sum > hybridmv_thresh) {
1556                 if (get_bits1(&s->gb)) {     // read HYBRIDPRED bit
1557                     px = field_predA[0];
1558                     py = field_predA[1];
1559                 } else {
1560                     px = field_predC[0];
1561                     py = field_predC[1];
1562                 }
1563             } else {
1564                 if (is_intra[xy - 1])
1565                     sum = FFABS(px) + FFABS(py);
1566                 else
1567                     sum = FFABS(px - field_predC[0]) + FFABS(py - field_predC[1]);
1568                 if (sum > hybridmv_thresh) {
1569                     if (get_bits1(&s->gb)) {
1570                         px = field_predA[0];
1571                         py = field_predA[1];
1572                     } else {
1573                         px = field_predC[0];
1574                         py = field_predC[1];
1575                     }
1576                 }
1577             }
1578         }
1579     }
1580
1581     if (v->field_mode && v->numref)
1582         r_y >>= 1;
1583     if (v->field_mode && v->cur_field_type && v->ref_field_type[dir] == 0)
1584         y_bias = 1;
1585     /* store MV using signed modulus of MV range defined in 4.11 */
1586     s->mv[dir][n][0] = s->current_picture.motion_val[dir][xy + v->blocks_off][0] = ((px + dmv_x + r_x) & ((r_x << 1) - 1)) - r_x;
1587     s->mv[dir][n][1] = s->current_picture.motion_val[dir][xy + v->blocks_off][1] = ((py + dmv_y + r_y - y_bias) & ((r_y << 1) - 1)) - r_y + y_bias;
1588     if (mv1) { /* duplicate motion data for 1-MV block */
1589         s->current_picture.motion_val[dir][xy +    1 +     v->blocks_off][0] = s->current_picture.motion_val[dir][xy + v->blocks_off][0];
1590         s->current_picture.motion_val[dir][xy +    1 +     v->blocks_off][1] = s->current_picture.motion_val[dir][xy + v->blocks_off][1];
1591         s->current_picture.motion_val[dir][xy + wrap +     v->blocks_off][0] = s->current_picture.motion_val[dir][xy + v->blocks_off][0];
1592         s->current_picture.motion_val[dir][xy + wrap +     v->blocks_off][1] = s->current_picture.motion_val[dir][xy + v->blocks_off][1];
1593         s->current_picture.motion_val[dir][xy + wrap + 1 + v->blocks_off][0] = s->current_picture.motion_val[dir][xy + v->blocks_off][0];
1594         s->current_picture.motion_val[dir][xy + wrap + 1 + v->blocks_off][1] = s->current_picture.motion_val[dir][xy + v->blocks_off][1];
1595         v->mv_f[dir][xy +    1 + v->blocks_off] = v->mv_f[dir][xy +            v->blocks_off];
1596         v->mv_f[dir][xy + wrap + v->blocks_off] = v->mv_f[dir][xy + wrap + 1 + v->blocks_off] = v->mv_f[dir][xy + v->blocks_off];
1597     }
1598 }
1599
1600 /** Predict and set motion vector for interlaced frame picture MBs
1601  */
1602 static inline void vc1_pred_mv_intfr(VC1Context *v, int n, int dmv_x, int dmv_y,
1603                                      int mvn, int r_x, int r_y, uint8_t* is_intra)
1604 {
1605     MpegEncContext *s = &v->s;
1606     int xy, wrap, off = 0;
1607     int A[2], B[2], C[2];
1608     int px, py;
1609     int a_valid = 0, b_valid = 0, c_valid = 0;
1610     int field_a, field_b, field_c; // 0: same, 1: opposit
1611     int total_valid, num_samefield, num_oppfield;
1612     int pos_c, pos_b, n_adj;
1613
1614     wrap = s->b8_stride;
1615     xy = s->block_index[n];
1616
1617     if (s->mb_intra) {
1618         s->mv[0][n][0] = s->current_picture.motion_val[0][xy][0] = 0;
1619         s->mv[0][n][1] = s->current_picture.motion_val[0][xy][1] = 0;
1620         s->current_picture.motion_val[1][xy][0] = 0;
1621         s->current_picture.motion_val[1][xy][1] = 0;
1622         if (mvn == 1) { /* duplicate motion data for 1-MV block */
1623             s->current_picture.motion_val[0][xy + 1][0]        = 0;
1624             s->current_picture.motion_val[0][xy + 1][1]        = 0;
1625             s->current_picture.motion_val[0][xy + wrap][0]     = 0;
1626             s->current_picture.motion_val[0][xy + wrap][1]     = 0;
1627             s->current_picture.motion_val[0][xy + wrap + 1][0] = 0;
1628             s->current_picture.motion_val[0][xy + wrap + 1][1] = 0;
1629             v->luma_mv[s->mb_x][0] = v->luma_mv[s->mb_x][1] = 0;
1630             s->current_picture.motion_val[1][xy + 1][0]        = 0;
1631             s->current_picture.motion_val[1][xy + 1][1]        = 0;
1632             s->current_picture.motion_val[1][xy + wrap][0]     = 0;
1633             s->current_picture.motion_val[1][xy + wrap][1]     = 0;
1634             s->current_picture.motion_val[1][xy + wrap + 1][0] = 0;
1635             s->current_picture.motion_val[1][xy + wrap + 1][1] = 0;
1636         }
1637         return;
1638     }
1639
1640     off = ((n == 0) || (n == 1)) ? 1 : -1;
1641     /* predict A */
1642     if (s->mb_x || (n == 1) || (n == 3)) {
1643         if ((v->blk_mv_type[xy]) // current block (MB) has a field MV
1644             || (!v->blk_mv_type[xy] && !v->blk_mv_type[xy - 1])) { // or both have frame MV
1645             A[0] = s->current_picture.motion_val[0][xy - 1][0];
1646             A[1] = s->current_picture.motion_val[0][xy - 1][1];
1647             a_valid = 1;
1648         } else { // current block has frame mv and cand. has field MV (so average)
1649             A[0] = (s->current_picture.motion_val[0][xy - 1][0]
1650                     + s->current_picture.motion_val[0][xy - 1 + off * wrap][0] + 1) >> 1;
1651             A[1] = (s->current_picture.motion_val[0][xy - 1][1]
1652                     + s->current_picture.motion_val[0][xy - 1 + off * wrap][1] + 1) >> 1;
1653             a_valid = 1;
1654         }
1655         if (!(n & 1) && v->is_intra[s->mb_x - 1]) {
1656             a_valid = 0;
1657             A[0] = A[1] = 0;
1658         }
1659     } else
1660         A[0] = A[1] = 0;
1661     /* Predict B and C */
1662     B[0] = B[1] = C[0] = C[1] = 0;
1663     if (n == 0 || n == 1 || v->blk_mv_type[xy]) {
1664         if (!s->first_slice_line) {
1665             if (!v->is_intra[s->mb_x - s->mb_stride]) {
1666                 b_valid = 1;
1667                 n_adj   = n | 2;
1668                 pos_b   = s->block_index[n_adj] - 2 * wrap;
1669                 if (v->blk_mv_type[pos_b] && v->blk_mv_type[xy]) {
1670                     n_adj = (n & 2) | (n & 1);
1671                 }
1672                 B[0] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap][0];
1673                 B[1] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap][1];
1674                 if (v->blk_mv_type[pos_b] && !v->blk_mv_type[xy]) {
1675                     B[0] = (B[0] + s->current_picture.motion_val[0][s->block_index[n_adj ^ 2] - 2 * wrap][0] + 1) >> 1;
1676                     B[1] = (B[1] + s->current_picture.motion_val[0][s->block_index[n_adj ^ 2] - 2 * wrap][1] + 1) >> 1;
1677                 }
1678             }
1679             if (s->mb_width > 1) {
1680                 if (!v->is_intra[s->mb_x - s->mb_stride + 1]) {
1681                     c_valid = 1;
1682                     n_adj   = 2;
1683                     pos_c   = s->block_index[2] - 2 * wrap + 2;
1684                     if (v->blk_mv_type[pos_c] && v->blk_mv_type[xy]) {
1685                         n_adj = n & 2;
1686                     }
1687                     C[0] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap + 2][0];
1688                     C[1] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap + 2][1];
1689                     if (v->blk_mv_type[pos_c] && !v->blk_mv_type[xy]) {
1690                         C[0] = (1 + C[0] + (s->current_picture.motion_val[0][s->block_index[n_adj ^ 2] - 2 * wrap + 2][0])) >> 1;
1691                         C[1] = (1 + C[1] + (s->current_picture.motion_val[0][s->block_index[n_adj ^ 2] - 2 * wrap + 2][1])) >> 1;
1692                     }
1693                     if (s->mb_x == s->mb_width - 1) {
1694                         if (!v->is_intra[s->mb_x - s->mb_stride - 1]) {
1695                             c_valid = 1;
1696                             n_adj   = 3;
1697                             pos_c   = s->block_index[3] - 2 * wrap - 2;
1698                             if (v->blk_mv_type[pos_c] && v->blk_mv_type[xy]) {
1699                                 n_adj = n | 1;
1700                             }
1701                             C[0] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap - 2][0];
1702                             C[1] = s->current_picture.motion_val[0][s->block_index[n_adj] - 2 * wrap - 2][1];
1703                             if (v->blk_mv_type[pos_c] && !v->blk_mv_type[xy]) {
1704                                 C[0] = (1 + C[0] + s->current_picture.motion_val[0][s->block_index[1] - 2 * wrap - 2][0]) >> 1;
1705                                 C[1] = (1 + C[1] + s->current_picture.motion_val[0][s->block_index[1] - 2 * wrap - 2][1]) >> 1;
1706                             }
1707                         } else
1708                             c_valid = 0;
1709                     }
1710                 }
1711             }
1712         }
1713     } else {
1714         pos_b   = s->block_index[1];
1715         b_valid = 1;
1716         B[0]    = s->current_picture.motion_val[0][pos_b][0];
1717         B[1]    = s->current_picture.motion_val[0][pos_b][1];
1718         pos_c   = s->block_index[0];
1719         c_valid = 1;
1720         C[0]    = s->current_picture.motion_val[0][pos_c][0];
1721         C[1]    = s->current_picture.motion_val[0][pos_c][1];
1722     }
1723
1724     total_valid = a_valid + b_valid + c_valid;
1725     // check if predictor A is out of bounds
1726     if (!s->mb_x && !(n == 1 || n == 3)) {
1727         A[0] = A[1] = 0;
1728     }
1729     // check if predictor B is out of bounds
1730     if ((s->first_slice_line && v->blk_mv_type[xy]) || (s->first_slice_line && !(n & 2))) {
1731         B[0] = B[1] = C[0] = C[1] = 0;
1732     }
1733     if (!v->blk_mv_type[xy]) {
1734         if (s->mb_width == 1) {
1735             px = B[0];
1736             py = B[1];
1737         } else {
1738             if (total_valid >= 2) {
1739                 px = mid_pred(A[0], B[0], C[0]);
1740                 py = mid_pred(A[1], B[1], C[1]);
1741             } else if (total_valid) {
1742                 if (a_valid) { px = A[0]; py = A[1]; }
1743                 if (b_valid) { px = B[0]; py = B[1]; }
1744                 if (c_valid) { px = C[0]; py = C[1]; }
1745             } else
1746                 px = py = 0;
1747         }
1748     } else {
1749         if (a_valid)
1750             field_a = (A[1] & 4) ? 1 : 0;
1751         else
1752             field_a = 0;
1753         if (b_valid)
1754             field_b = (B[1] & 4) ? 1 : 0;
1755         else
1756             field_b = 0;
1757         if (c_valid)
1758             field_c = (C[1] & 4) ? 1 : 0;
1759         else
1760             field_c = 0;
1761
1762         num_oppfield  = field_a + field_b + field_c;
1763         num_samefield = total_valid - num_oppfield;
1764         if (total_valid == 3) {
1765             if ((num_samefield == 3) || (num_oppfield == 3)) {
1766                 px = mid_pred(A[0], B[0], C[0]);
1767                 py = mid_pred(A[1], B[1], C[1]);
1768             } else if (num_samefield >= num_oppfield) {
1769                 /* take one MV from same field set depending on priority
1770                 the check for B may not be necessary */
1771                 px = !field_a ? A[0] : B[0];
1772                 py = !field_a ? A[1] : B[1];
1773             } else {
1774                 px =  field_a ? A[0] : B[0];
1775                 py =  field_a ? A[1] : B[1];
1776             }
1777         } else if (total_valid == 2) {
1778             if (num_samefield >= num_oppfield) {
1779                 if (!field_a && a_valid) {
1780                     px = A[0];
1781                     py = A[1];
1782                 } else if (!field_b && b_valid) {
1783                     px = B[0];
1784                     py = B[1];
1785                 } else if (c_valid) {
1786                     px = C[0];
1787                     py = C[1];
1788                 } else px = py = 0;
1789             } else {
1790                 if (field_a && a_valid) {
1791                     px = A[0];
1792                     py = A[1];
1793                 } else if (field_b && b_valid) {
1794                     px = B[0];
1795                     py = B[1];
1796                 } else if (c_valid) {
1797                     px = C[0];
1798                     py = C[1];
1799                 }
1800             }
1801         } else if (total_valid == 1) {
1802             px = (a_valid) ? A[0] : ((b_valid) ? B[0] : C[0]);
1803             py = (a_valid) ? A[1] : ((b_valid) ? B[1] : C[1]);
1804         } else
1805             px = py = 0;
1806     }
1807
1808     /* store MV using signed modulus of MV range defined in 4.11 */
1809     s->mv[0][n][0] = s->current_picture.motion_val[0][xy][0] = ((px + dmv_x + r_x) & ((r_x << 1) - 1)) - r_x;
1810     s->mv[0][n][1] = s->current_picture.motion_val[0][xy][1] = ((py + dmv_y + r_y) & ((r_y << 1) - 1)) - r_y;
1811     if (mvn == 1) { /* duplicate motion data for 1-MV block */
1812         s->current_picture.motion_val[0][xy +    1    ][0] = s->current_picture.motion_val[0][xy][0];
1813         s->current_picture.motion_val[0][xy +    1    ][1] = s->current_picture.motion_val[0][xy][1];
1814         s->current_picture.motion_val[0][xy + wrap    ][0] = s->current_picture.motion_val[0][xy][0];
1815         s->current_picture.motion_val[0][xy + wrap    ][1] = s->current_picture.motion_val[0][xy][1];
1816         s->current_picture.motion_val[0][xy + wrap + 1][0] = s->current_picture.motion_val[0][xy][0];
1817         s->current_picture.motion_val[0][xy + wrap + 1][1] = s->current_picture.motion_val[0][xy][1];
1818     } else if (mvn == 2) { /* duplicate motion data for 2-Field MV block */
1819         s->current_picture.motion_val[0][xy + 1][0] = s->current_picture.motion_val[0][xy][0];
1820         s->current_picture.motion_val[0][xy + 1][1] = s->current_picture.motion_val[0][xy][1];
1821         s->mv[0][n + 1][0] = s->mv[0][n][0];
1822         s->mv[0][n + 1][1] = s->mv[0][n][1];
1823     }
1824 }
1825
1826 /** Motion compensation for direct or interpolated blocks in B-frames
1827  */
1828 static void vc1_interp_mc(VC1Context *v)
1829 {
1830     MpegEncContext *s = &v->s;
1831     DSPContext *dsp = &v->s.dsp;
1832     H264ChromaContext *h264chroma = &v->h264chroma;
1833     uint8_t *srcY, *srcU, *srcV;
1834     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
1835     int off, off_uv;
1836     int v_edge_pos = s->v_edge_pos >> v->field_mode;
1837
1838     if (!v->field_mode && !v->s.next_picture.f.data[0])
1839         return;
1840
1841     mx   = s->mv[1][0][0];
1842     my   = s->mv[1][0][1];
1843     uvmx = (mx + ((mx & 3) == 3)) >> 1;
1844     uvmy = (my + ((my & 3) == 3)) >> 1;
1845     if (v->field_mode) {
1846         if (v->cur_field_type != v->ref_field_type[1])
1847             my   = my   - 2 + 4 * v->cur_field_type;
1848             uvmy = uvmy - 2 + 4 * v->cur_field_type;
1849     }
1850     if (v->fastuvmc) {
1851         uvmx = uvmx + ((uvmx < 0) ? -(uvmx & 1) : (uvmx & 1));
1852         uvmy = uvmy + ((uvmy < 0) ? -(uvmy & 1) : (uvmy & 1));
1853     }
1854     srcY = s->next_picture.f.data[0];
1855     srcU = s->next_picture.f.data[1];
1856     srcV = s->next_picture.f.data[2];
1857
1858     src_x   = s->mb_x * 16 + (mx   >> 2);
1859     src_y   = s->mb_y * 16 + (my   >> 2);
1860     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
1861     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
1862
1863     if (v->profile != PROFILE_ADVANCED) {
1864         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
1865         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
1866         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
1867         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
1868     } else {
1869         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
1870         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
1871         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
1872         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
1873     }
1874
1875     srcY += src_y   * s->linesize   + src_x;
1876     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
1877     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
1878
1879     if (v->field_mode && v->ref_field_type[1]) {
1880         srcY += s->current_picture_ptr->f.linesize[0];
1881         srcU += s->current_picture_ptr->f.linesize[1];
1882         srcV += s->current_picture_ptr->f.linesize[2];
1883     }
1884
1885     /* for grayscale we should not try to read from unknown area */
1886     if (s->flags & CODEC_FLAG_GRAY) {
1887         srcU = s->edge_emu_buffer + 18 * s->linesize;
1888         srcV = s->edge_emu_buffer + 18 * s->linesize;
1889     }
1890
1891     if (v->rangeredfrm || s->h_edge_pos < 22 || v_edge_pos < 22
1892         || (unsigned)(src_x - 1) > s->h_edge_pos - (mx & 3) - 16 - 3
1893         || (unsigned)(src_y - 1) > v_edge_pos    - (my & 3) - 16 - 3) {
1894         uint8_t *uvbuf = s->edge_emu_buffer + 19 * s->linesize;
1895
1896         srcY -= s->mspel * (1 + s->linesize);
1897         s->vdsp.emulated_edge_mc(s->edge_emu_buffer, srcY, s->linesize,
1898                                  17 + s->mspel * 2, 17 + s->mspel * 2,
1899                                  src_x - s->mspel, src_y - s->mspel,
1900                                  s->h_edge_pos, v_edge_pos);
1901         srcY = s->edge_emu_buffer;
1902         s->vdsp.emulated_edge_mc(uvbuf     , srcU, s->uvlinesize, 8 + 1, 8 + 1,
1903                                  uvsrc_x, uvsrc_y, s->h_edge_pos >> 1, v_edge_pos >> 1);
1904         s->vdsp.emulated_edge_mc(uvbuf + 16, srcV, s->uvlinesize, 8 + 1, 8 + 1,
1905                                  uvsrc_x, uvsrc_y, s->h_edge_pos >> 1, v_edge_pos >> 1);
1906         srcU = uvbuf;
1907         srcV = uvbuf + 16;
1908         /* if we deal with range reduction we need to scale source blocks */
1909         if (v->rangeredfrm) {
1910             int i, j;
1911             uint8_t *src, *src2;
1912
1913             src = srcY;
1914             for (j = 0; j < 17 + s->mspel * 2; j++) {
1915                 for (i = 0; i < 17 + s->mspel * 2; i++)
1916                     src[i] = ((src[i] - 128) >> 1) + 128;
1917                 src += s->linesize;
1918             }
1919             src = srcU;
1920             src2 = srcV;
1921             for (j = 0; j < 9; j++) {
1922                 for (i = 0; i < 9; i++) {
1923                     src[i]  = ((src[i]  - 128) >> 1) + 128;
1924                     src2[i] = ((src2[i] - 128) >> 1) + 128;
1925                 }
1926                 src  += s->uvlinesize;
1927                 src2 += s->uvlinesize;
1928             }
1929         }
1930         srcY += s->mspel * (1 + s->linesize);
1931     }
1932
1933     if (v->field_mode && v->cur_field_type) {
1934         off    = s->current_picture_ptr->f.linesize[0];
1935         off_uv = s->current_picture_ptr->f.linesize[1];
1936     } else {
1937         off    = 0;
1938         off_uv = 0;
1939     }
1940
1941     if (s->mspel) {
1942         dxy = ((my & 3) << 2) | (mx & 3);
1943         v->vc1dsp.avg_vc1_mspel_pixels_tab[dxy](s->dest[0] + off    , srcY    , s->linesize, v->rnd);
1944         v->vc1dsp.avg_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8, srcY + 8, s->linesize, v->rnd);
1945         srcY += s->linesize * 8;
1946         v->vc1dsp.avg_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8 * s->linesize    , srcY    , s->linesize, v->rnd);
1947         v->vc1dsp.avg_vc1_mspel_pixels_tab[dxy](s->dest[0] + off + 8 * s->linesize + 8, srcY + 8, s->linesize, v->rnd);
1948     } else { // hpel mc
1949         dxy = (my & 2) | ((mx & 2) >> 1);
1950
1951         if (!v->rnd)
1952             s->hdsp.avg_pixels_tab[0][dxy](s->dest[0] + off, srcY, s->linesize, 16);
1953         else
1954             s->hdsp.avg_no_rnd_pixels_tab[dxy](s->dest[0] + off, srcY, s->linesize, 16);
1955     }
1956
1957     if (s->flags & CODEC_FLAG_GRAY) return;
1958     /* Chroma MC always uses qpel blilinear */
1959     uvmx = (uvmx & 3) << 1;
1960     uvmy = (uvmy & 3) << 1;
1961     if (!v->rnd) {
1962         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[1] + off_uv, srcU, s->uvlinesize, 8, uvmx, uvmy);
1963         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[2] + off_uv, srcV, s->uvlinesize, 8, uvmx, uvmy);
1964     } else {
1965         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1] + off_uv, srcU, s->uvlinesize, 8, uvmx, uvmy);
1966         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2] + off_uv, srcV, s->uvlinesize, 8, uvmx, uvmy);
1967     }
1968 }
1969
1970 static av_always_inline int scale_mv(int value, int bfrac, int inv, int qs)
1971 {
1972     int n = bfrac;
1973
1974 #if B_FRACTION_DEN==256
1975     if (inv)
1976         n -= 256;
1977     if (!qs)
1978         return 2 * ((value * n + 255) >> 9);
1979     return (value * n + 128) >> 8;
1980 #else
1981     if (inv)
1982         n -= B_FRACTION_DEN;
1983     if (!qs)
1984         return 2 * ((value * n + B_FRACTION_DEN - 1) / (2 * B_FRACTION_DEN));
1985     return (value * n + B_FRACTION_DEN/2) / B_FRACTION_DEN;
1986 #endif
1987 }
1988
1989 /** Reconstruct motion vector for B-frame and do motion compensation
1990  */
1991 static inline void vc1_b_mc(VC1Context *v, int dmv_x[2], int dmv_y[2],
1992                             int direct, int mode)
1993 {
1994     if (v->use_ic) {
1995         v->mv_mode2 = v->mv_mode;
1996         v->mv_mode  = MV_PMODE_INTENSITY_COMP;
1997     }
1998     if (direct) {
1999         vc1_mc_1mv(v, 0);
2000         vc1_interp_mc(v);
2001         if (v->use_ic)
2002             v->mv_mode = v->mv_mode2;
2003         return;
2004     }
2005     if (mode == BMV_TYPE_INTERPOLATED) {
2006         vc1_mc_1mv(v, 0);
2007         vc1_interp_mc(v);
2008         if (v->use_ic)
2009             v->mv_mode = v->mv_mode2;
2010         return;
2011     }
2012
2013     if (v->use_ic && (mode == BMV_TYPE_BACKWARD))
2014         v->mv_mode = v->mv_mode2;
2015     vc1_mc_1mv(v, (mode == BMV_TYPE_BACKWARD));
2016     if (v->use_ic)
2017         v->mv_mode = v->mv_mode2;
2018 }
2019
2020 static inline void vc1_pred_b_mv(VC1Context *v, int dmv_x[2], int dmv_y[2],
2021                                  int direct, int mvtype)
2022 {
2023     MpegEncContext *s = &v->s;
2024     int xy, wrap, off = 0;
2025     int16_t *A, *B, *C;
2026     int px, py;
2027     int sum;
2028     int r_x, r_y;
2029     const uint8_t *is_intra = v->mb_type[0];
2030
2031     r_x = v->range_x;
2032     r_y = v->range_y;
2033     /* scale MV difference to be quad-pel */
2034     dmv_x[0] <<= 1 - s->quarter_sample;
2035     dmv_y[0] <<= 1 - s->quarter_sample;
2036     dmv_x[1] <<= 1 - s->quarter_sample;
2037     dmv_y[1] <<= 1 - s->quarter_sample;
2038
2039     wrap = s->b8_stride;
2040     xy = s->block_index[0];
2041
2042     if (s->mb_intra) {
2043         s->current_picture.motion_val[0][xy + v->blocks_off][0] =
2044         s->current_picture.motion_val[0][xy + v->blocks_off][1] =
2045         s->current_picture.motion_val[1][xy + v->blocks_off][0] =
2046         s->current_picture.motion_val[1][xy + v->blocks_off][1] = 0;
2047         return;
2048     }
2049     if (!v->field_mode) {
2050         s->mv[0][0][0] = scale_mv(s->next_picture.motion_val[1][xy][0], v->bfraction, 0, s->quarter_sample);
2051         s->mv[0][0][1] = scale_mv(s->next_picture.motion_val[1][xy][1], v->bfraction, 0, s->quarter_sample);
2052         s->mv[1][0][0] = scale_mv(s->next_picture.motion_val[1][xy][0], v->bfraction, 1, s->quarter_sample);
2053         s->mv[1][0][1] = scale_mv(s->next_picture.motion_val[1][xy][1], v->bfraction, 1, s->quarter_sample);
2054
2055         /* Pullback predicted motion vectors as specified in 8.4.5.4 */
2056         s->mv[0][0][0] = av_clip(s->mv[0][0][0], -60 - (s->mb_x << 6), (s->mb_width  << 6) - 4 - (s->mb_x << 6));
2057         s->mv[0][0][1] = av_clip(s->mv[0][0][1], -60 - (s->mb_y << 6), (s->mb_height << 6) - 4 - (s->mb_y << 6));
2058         s->mv[1][0][0] = av_clip(s->mv[1][0][0], -60 - (s->mb_x << 6), (s->mb_width  << 6) - 4 - (s->mb_x << 6));
2059         s->mv[1][0][1] = av_clip(s->mv[1][0][1], -60 - (s->mb_y << 6), (s->mb_height << 6) - 4 - (s->mb_y << 6));
2060     }
2061     if (direct) {
2062         s->current_picture.motion_val[0][xy + v->blocks_off][0] = s->mv[0][0][0];
2063         s->current_picture.motion_val[0][xy + v->blocks_off][1] = s->mv[0][0][1];
2064         s->current_picture.motion_val[1][xy + v->blocks_off][0] = s->mv[1][0][0];
2065         s->current_picture.motion_val[1][xy + v->blocks_off][1] = s->mv[1][0][1];
2066         return;
2067     }
2068
2069     if ((mvtype == BMV_TYPE_FORWARD) || (mvtype == BMV_TYPE_INTERPOLATED)) {
2070         C   = s->current_picture.motion_val[0][xy - 2];
2071         A   = s->current_picture.motion_val[0][xy - wrap * 2];
2072         off = (s->mb_x == (s->mb_width - 1)) ? -2 : 2;
2073         B   = s->current_picture.motion_val[0][xy - wrap * 2 + off];
2074
2075         if (!s->mb_x) C[0] = C[1] = 0;
2076         if (!s->first_slice_line) { // predictor A is not out of bounds
2077             if (s->mb_width == 1) {
2078                 px = A[0];
2079                 py = A[1];
2080             } else {
2081                 px = mid_pred(A[0], B[0], C[0]);
2082                 py = mid_pred(A[1], B[1], C[1]);
2083             }
2084         } else if (s->mb_x) { // predictor C is not out of bounds
2085             px = C[0];
2086             py = C[1];
2087         } else {
2088             px = py = 0;
2089         }
2090         /* Pullback MV as specified in 8.3.5.3.4 */
2091         {
2092             int qx, qy, X, Y;
2093             if (v->profile < PROFILE_ADVANCED) {
2094                 qx = (s->mb_x << 5);
2095                 qy = (s->mb_y << 5);
2096                 X  = (s->mb_width  << 5) - 4;
2097                 Y  = (s->mb_height << 5) - 4;
2098                 if (qx + px < -28) px = -28 - qx;
2099                 if (qy + py < -28) py = -28 - qy;
2100                 if (qx + px > X) px = X - qx;
2101                 if (qy + py > Y) py = Y - qy;
2102             } else {
2103                 qx = (s->mb_x << 6);
2104                 qy = (s->mb_y << 6);
2105                 X  = (s->mb_width  << 6) - 4;
2106                 Y  = (s->mb_height << 6) - 4;
2107                 if (qx + px < -60) px = -60 - qx;
2108                 if (qy + py < -60) py = -60 - qy;
2109                 if (qx + px > X) px = X - qx;
2110                 if (qy + py > Y) py = Y - qy;
2111             }
2112         }
2113         /* Calculate hybrid prediction as specified in 8.3.5.3.5 */
2114         if (0 && !s->first_slice_line && s->mb_x) {
2115             if (is_intra[xy - wrap])
2116                 sum = FFABS(px) + FFABS(py);
2117             else
2118                 sum = FFABS(px - A[0]) + FFABS(py - A[1]);
2119             if (sum > 32) {
2120                 if (get_bits1(&s->gb)) {
2121                     px = A[0];
2122                     py = A[1];
2123                 } else {
2124                     px = C[0];
2125                     py = C[1];
2126                 }
2127             } else {
2128                 if (is_intra[xy - 2])
2129                     sum = FFABS(px) + FFABS(py);
2130                 else
2131                     sum = FFABS(px - C[0]) + FFABS(py - C[1]);
2132                 if (sum > 32) {
2133                     if (get_bits1(&s->gb)) {
2134                         px = A[0];
2135                         py = A[1];
2136                     } else {
2137                         px = C[0];
2138                         py = C[1];
2139                     }
2140                 }
2141             }
2142         }
2143         /* store MV using signed modulus of MV range defined in 4.11 */
2144         s->mv[0][0][0] = ((px + dmv_x[0] + r_x) & ((r_x << 1) - 1)) - r_x;
2145         s->mv[0][0][1] = ((py + dmv_y[0] + r_y) & ((r_y << 1) - 1)) - r_y;
2146     }
2147     if ((mvtype == BMV_TYPE_BACKWARD) || (mvtype == BMV_TYPE_INTERPOLATED)) {
2148         C   = s->current_picture.motion_val[1][xy - 2];
2149         A   = s->current_picture.motion_val[1][xy - wrap * 2];
2150         off = (s->mb_x == (s->mb_width - 1)) ? -2 : 2;
2151         B   = s->current_picture.motion_val[1][xy - wrap * 2 + off];
2152
2153         if (!s->mb_x)
2154             C[0] = C[1] = 0;
2155         if (!s->first_slice_line) { // predictor A is not out of bounds
2156             if (s->mb_width == 1) {
2157                 px = A[0];
2158                 py = A[1];
2159             } else {
2160                 px = mid_pred(A[0], B[0], C[0]);
2161                 py = mid_pred(A[1], B[1], C[1]);
2162             }
2163         } else if (s->mb_x) { // predictor C is not out of bounds
2164             px = C[0];
2165             py = C[1];
2166         } else {
2167             px = py = 0;
2168         }
2169         /* Pullback MV as specified in 8.3.5.3.4 */
2170         {
2171             int qx, qy, X, Y;
2172             if (v->profile < PROFILE_ADVANCED) {
2173                 qx = (s->mb_x << 5);
2174                 qy = (s->mb_y << 5);
2175                 X  = (s->mb_width  << 5) - 4;
2176                 Y  = (s->mb_height << 5) - 4;
2177                 if (qx + px < -28) px = -28 - qx;
2178                 if (qy + py < -28) py = -28 - qy;
2179                 if (qx + px > X) px = X - qx;
2180                 if (qy + py > Y) py = Y - qy;
2181             } else {
2182                 qx = (s->mb_x << 6);
2183                 qy = (s->mb_y << 6);
2184                 X  = (s->mb_width  << 6) - 4;
2185                 Y  = (s->mb_height << 6) - 4;
2186                 if (qx + px < -60) px = -60 - qx;
2187                 if (qy + py < -60) py = -60 - qy;
2188                 if (qx + px > X) px = X - qx;
2189                 if (qy + py > Y) py = Y - qy;
2190             }
2191         }
2192         /* Calculate hybrid prediction as specified in 8.3.5.3.5 */
2193         if (0 && !s->first_slice_line && s->mb_x) {
2194             if (is_intra[xy - wrap])
2195                 sum = FFABS(px) + FFABS(py);
2196             else
2197                 sum = FFABS(px - A[0]) + FFABS(py - A[1]);
2198             if (sum > 32) {
2199                 if (get_bits1(&s->gb)) {
2200                     px = A[0];
2201                     py = A[1];
2202                 } else {
2203                     px = C[0];
2204                     py = C[1];
2205                 }
2206             } else {
2207                 if (is_intra[xy - 2])
2208                     sum = FFABS(px) + FFABS(py);
2209                 else
2210                     sum = FFABS(px - C[0]) + FFABS(py - C[1]);
2211                 if (sum > 32) {
2212                     if (get_bits1(&s->gb)) {
2213                         px = A[0];
2214                         py = A[1];
2215                     } else {
2216                         px = C[0];
2217                         py = C[1];
2218                     }
2219                 }
2220             }
2221         }
2222         /* store MV using signed modulus of MV range defined in 4.11 */
2223
2224         s->mv[1][0][0] = ((px + dmv_x[1] + r_x) & ((r_x << 1) - 1)) - r_x;
2225         s->mv[1][0][1] = ((py + dmv_y[1] + r_y) & ((r_y << 1) - 1)) - r_y;
2226     }
2227     s->current_picture.motion_val[0][xy][0] = s->mv[0][0][0];
2228     s->current_picture.motion_val[0][xy][1] = s->mv[0][0][1];
2229     s->current_picture.motion_val[1][xy][0] = s->mv[1][0][0];
2230     s->current_picture.motion_val[1][xy][1] = s->mv[1][0][1];
2231 }
2232
2233 static inline void vc1_pred_b_mv_intfi(VC1Context *v, int n, int *dmv_x, int *dmv_y, int mv1, int *pred_flag)
2234 {
2235     int dir = (v->bmvtype == BMV_TYPE_BACKWARD) ? 1 : 0;
2236     MpegEncContext *s = &v->s;
2237     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2238
2239     if (v->bmvtype == BMV_TYPE_DIRECT) {
2240         int total_opp, k, f;
2241         if (s->next_picture.mb_type[mb_pos + v->mb_off] != MB_TYPE_INTRA) {
2242             s->mv[0][0][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[0] + v->blocks_off][0],
2243                                       v->bfraction, 0, s->quarter_sample);
2244             s->mv[0][0][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[0] + v->blocks_off][1],
2245                                       v->bfraction, 0, s->quarter_sample);
2246             s->mv[1][0][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[0] + v->blocks_off][0],
2247                                       v->bfraction, 1, s->quarter_sample);
2248             s->mv[1][0][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[0] + v->blocks_off][1],
2249                                       v->bfraction, 1, s->quarter_sample);
2250
2251             total_opp = v->mv_f_next[0][s->block_index[0] + v->blocks_off]
2252                       + v->mv_f_next[0][s->block_index[1] + v->blocks_off]
2253                       + v->mv_f_next[0][s->block_index[2] + v->blocks_off]
2254                       + v->mv_f_next[0][s->block_index[3] + v->blocks_off];
2255             f = (total_opp > 2) ? 1 : 0;
2256         } else {
2257             s->mv[0][0][0] = s->mv[0][0][1] = 0;
2258             s->mv[1][0][0] = s->mv[1][0][1] = 0;
2259             f = 0;
2260         }
2261         v->ref_field_type[0] = v->ref_field_type[1] = v->cur_field_type ^ f;
2262         for (k = 0; k < 4; k++) {
2263             s->current_picture.motion_val[0][s->block_index[k] + v->blocks_off][0] = s->mv[0][0][0];
2264             s->current_picture.motion_val[0][s->block_index[k] + v->blocks_off][1] = s->mv[0][0][1];
2265             s->current_picture.motion_val[1][s->block_index[k] + v->blocks_off][0] = s->mv[1][0][0];
2266             s->current_picture.motion_val[1][s->block_index[k] + v->blocks_off][1] = s->mv[1][0][1];
2267             v->mv_f[0][s->block_index[k] + v->blocks_off] = f;
2268             v->mv_f[1][s->block_index[k] + v->blocks_off] = f;
2269         }
2270         return;
2271     }
2272     if (v->bmvtype == BMV_TYPE_INTERPOLATED) {
2273         vc1_pred_mv(v, 0, dmv_x[0], dmv_y[0],   1, v->range_x, v->range_y, v->mb_type[0], pred_flag[0], 0);
2274         vc1_pred_mv(v, 0, dmv_x[1], dmv_y[1],   1, v->range_x, v->range_y, v->mb_type[0], pred_flag[1], 1);
2275         return;
2276     }
2277     if (dir) { // backward
2278         vc1_pred_mv(v, n, dmv_x[1], dmv_y[1], mv1, v->range_x, v->range_y, v->mb_type[0], pred_flag[1], 1);
2279         if (n == 3 || mv1) {
2280             vc1_pred_mv(v, 0, dmv_x[0], dmv_y[0],   1, v->range_x, v->range_y, v->mb_type[0], 0, 0);
2281         }
2282     } else { // forward
2283         vc1_pred_mv(v, n, dmv_x[0], dmv_y[0], mv1, v->range_x, v->range_y, v->mb_type[0], pred_flag[0], 0);
2284         if (n == 3 || mv1) {
2285             vc1_pred_mv(v, 0, dmv_x[1], dmv_y[1],   1, v->range_x, v->range_y, v->mb_type[0], 0, 1);
2286         }
2287     }
2288 }
2289
2290 /** Get predicted DC value for I-frames only
2291  * prediction dir: left=0, top=1
2292  * @param s MpegEncContext
2293  * @param overlap flag indicating that overlap filtering is used
2294  * @param pq integer part of picture quantizer
2295  * @param[in] n block index in the current MB
2296  * @param dc_val_ptr Pointer to DC predictor
2297  * @param dir_ptr Prediction direction for use in AC prediction
2298  */
2299 static inline int vc1_i_pred_dc(MpegEncContext *s, int overlap, int pq, int n,
2300                                 int16_t **dc_val_ptr, int *dir_ptr)
2301 {
2302     int a, b, c, wrap, pred, scale;
2303     int16_t *dc_val;
2304     static const uint16_t dcpred[32] = {
2305         -1, 1024,  512,  341,  256,  205,  171,  146,  128,
2306              114,  102,   93,   85,   79,   73,   68,   64,
2307               60,   57,   54,   51,   49,   47,   45,   43,
2308               41,   39,   38,   37,   35,   34,   33
2309     };
2310
2311     /* find prediction - wmv3_dc_scale always used here in fact */
2312     if (n < 4) scale = s->y_dc_scale;
2313     else       scale = s->c_dc_scale;
2314
2315     wrap   = s->block_wrap[n];
2316     dc_val = s->dc_val[0] + s->block_index[n];
2317
2318     /* B A
2319      * C X
2320      */
2321     c = dc_val[ - 1];
2322     b = dc_val[ - 1 - wrap];
2323     a = dc_val[ - wrap];
2324
2325     if (pq < 9 || !overlap) {
2326         /* Set outer values */
2327         if (s->first_slice_line && (n != 2 && n != 3))
2328             b = a = dcpred[scale];
2329         if (s->mb_x == 0 && (n != 1 && n != 3))
2330             b = c = dcpred[scale];
2331     } else {
2332         /* Set outer values */
2333         if (s->first_slice_line && (n != 2 && n != 3))
2334             b = a = 0;
2335         if (s->mb_x == 0 && (n != 1 && n != 3))
2336             b = c = 0;
2337     }
2338
2339     if (abs(a - b) <= abs(b - c)) {
2340         pred     = c;
2341         *dir_ptr = 1; // left
2342     } else {
2343         pred     = a;
2344         *dir_ptr = 0; // top
2345     }
2346
2347     /* update predictor */
2348     *dc_val_ptr = &dc_val[0];
2349     return pred;
2350 }
2351
2352
2353 /** Get predicted DC value
2354  * prediction dir: left=0, top=1
2355  * @param s MpegEncContext
2356  * @param overlap flag indicating that overlap filtering is used
2357  * @param pq integer part of picture quantizer
2358  * @param[in] n block index in the current MB
2359  * @param a_avail flag indicating top block availability
2360  * @param c_avail flag indicating left block availability
2361  * @param dc_val_ptr Pointer to DC predictor
2362  * @param dir_ptr Prediction direction for use in AC prediction
2363  */
2364 static inline int vc1_pred_dc(MpegEncContext *s, int overlap, int pq, int n,
2365                               int a_avail, int c_avail,
2366                               int16_t **dc_val_ptr, int *dir_ptr)
2367 {
2368     int a, b, c, wrap, pred;
2369     int16_t *dc_val;
2370     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2371     int q1, q2 = 0;
2372     int dqscale_index;
2373
2374     wrap = s->block_wrap[n];
2375     dc_val = s->dc_val[0] + s->block_index[n];
2376
2377     /* B A
2378      * C X
2379      */
2380     c = dc_val[ - 1];
2381     b = dc_val[ - 1 - wrap];
2382     a = dc_val[ - wrap];
2383     /* scale predictors if needed */
2384     q1 = s->current_picture.qscale_table[mb_pos];
2385     dqscale_index = s->y_dc_scale_table[q1] - 1;
2386     if (dqscale_index < 0)
2387         return 0;
2388     if (c_avail && (n != 1 && n != 3)) {
2389         q2 = s->current_picture.qscale_table[mb_pos - 1];
2390         if (q2 && q2 != q1)
2391             c = (c * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
2392     }
2393     if (a_avail && (n != 2 && n != 3)) {
2394         q2 = s->current_picture.qscale_table[mb_pos - s->mb_stride];
2395         if (q2 && q2 != q1)
2396             a = (a * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
2397     }
2398     if (a_avail && c_avail && (n != 3)) {
2399         int off = mb_pos;
2400         if (n != 1)
2401             off--;
2402         if (n != 2)
2403             off -= s->mb_stride;
2404         q2 = s->current_picture.qscale_table[off];
2405         if (q2 && q2 != q1)
2406             b = (b * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
2407     }
2408
2409     if (a_avail && c_avail) {
2410         if (abs(a - b) <= abs(b - c)) {
2411             pred     = c;
2412             *dir_ptr = 1; // left
2413         } else {
2414             pred     = a;
2415             *dir_ptr = 0; // top
2416         }
2417     } else if (a_avail) {
2418         pred     = a;
2419         *dir_ptr = 0; // top
2420     } else if (c_avail) {
2421         pred     = c;
2422         *dir_ptr = 1; // left
2423     } else {
2424         pred     = 0;
2425         *dir_ptr = 1; // left
2426     }
2427
2428     /* update predictor */
2429     *dc_val_ptr = &dc_val[0];
2430     return pred;
2431 }
2432
2433 /** @} */ // Block group
2434
2435 /**
2436  * @name VC1 Macroblock-level functions in Simple/Main Profiles
2437  * @see 7.1.4, p91 and 8.1.1.7, p(1)04
2438  * @{
2439  */
2440
2441 static inline int vc1_coded_block_pred(MpegEncContext * s, int n,
2442                                        uint8_t **coded_block_ptr)
2443 {
2444     int xy, wrap, pred, a, b, c;
2445
2446     xy   = s->block_index[n];
2447     wrap = s->b8_stride;
2448
2449     /* B C
2450      * A X
2451      */
2452     a = s->coded_block[xy - 1       ];
2453     b = s->coded_block[xy - 1 - wrap];
2454     c = s->coded_block[xy     - wrap];
2455
2456     if (b == c) {
2457         pred = a;
2458     } else {
2459         pred = c;
2460     }
2461
2462     /* store value */
2463     *coded_block_ptr = &s->coded_block[xy];
2464
2465     return pred;
2466 }
2467
2468 /**
2469  * Decode one AC coefficient
2470  * @param v The VC1 context
2471  * @param last Last coefficient
2472  * @param skip How much zero coefficients to skip
2473  * @param value Decoded AC coefficient value
2474  * @param codingset set of VLC to decode data
2475  * @see 8.1.3.4
2476  */
2477 static void vc1_decode_ac_coeff(VC1Context *v, int *last, int *skip,
2478                                 int *value, int codingset)
2479 {
2480     GetBitContext *gb = &v->s.gb;
2481     int index, escape, run = 0, level = 0, lst = 0;
2482
2483     index = get_vlc2(gb, ff_vc1_ac_coeff_table[codingset].table, AC_VLC_BITS, 3);
2484     if (index != ff_vc1_ac_sizes[codingset] - 1) {
2485         run   = vc1_index_decode_table[codingset][index][0];
2486         level = vc1_index_decode_table[codingset][index][1];
2487         lst   = index >= vc1_last_decode_table[codingset] || get_bits_left(gb) < 0;
2488         if (get_bits1(gb))
2489             level = -level;
2490     } else {
2491         escape = decode210(gb);
2492         if (escape != 2) {
2493             index = get_vlc2(gb, ff_vc1_ac_coeff_table[codingset].table, AC_VLC_BITS, 3);
2494             run   = vc1_index_decode_table[codingset][index][0];
2495             level = vc1_index_decode_table[codingset][index][1];
2496             lst   = index >= vc1_last_decode_table[codingset];
2497             if (escape == 0) {
2498                 if (lst)
2499                     level += vc1_last_delta_level_table[codingset][run];
2500                 else
2501                     level += vc1_delta_level_table[codingset][run];
2502             } else {
2503                 if (lst)
2504                     run += vc1_last_delta_run_table[codingset][level] + 1;
2505                 else
2506                     run += vc1_delta_run_table[codingset][level] + 1;
2507             }
2508             if (get_bits1(gb))
2509                 level = -level;
2510         } else {
2511             int sign;
2512             lst = get_bits1(gb);
2513             if (v->s.esc3_level_length == 0) {
2514                 if (v->pq < 8 || v->dquantfrm) { // table 59
2515                     v->s.esc3_level_length = get_bits(gb, 3);
2516                     if (!v->s.esc3_level_length)
2517                         v->s.esc3_level_length = get_bits(gb, 2) + 8;
2518                 } else { // table 60
2519                     v->s.esc3_level_length = get_unary(gb, 1, 6) + 2;
2520                 }
2521                 v->s.esc3_run_length = 3 + get_bits(gb, 2);
2522             }
2523             run   = get_bits(gb, v->s.esc3_run_length);
2524             sign  = get_bits1(gb);
2525             level = get_bits(gb, v->s.esc3_level_length);
2526             if (sign)
2527                 level = -level;
2528         }
2529     }
2530
2531     *last  = lst;
2532     *skip  = run;
2533     *value = level;
2534 }
2535
2536 /** Decode intra block in intra frames - should be faster than decode_intra_block
2537  * @param v VC1Context
2538  * @param block block to decode
2539  * @param[in] n subblock index
2540  * @param coded are AC coeffs present or not
2541  * @param codingset set of VLC to decode data
2542  */
2543 static int vc1_decode_i_block(VC1Context *v, int16_t block[64], int n,
2544                               int coded, int codingset)
2545 {
2546     GetBitContext *gb = &v->s.gb;
2547     MpegEncContext *s = &v->s;
2548     int dc_pred_dir = 0; /* Direction of the DC prediction used */
2549     int i;
2550     int16_t *dc_val;
2551     int16_t *ac_val, *ac_val2;
2552     int dcdiff;
2553
2554     /* Get DC differential */
2555     if (n < 4) {
2556         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2557     } else {
2558         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2559     }
2560     if (dcdiff < 0) {
2561         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
2562         return -1;
2563     }
2564     if (dcdiff) {
2565         if (dcdiff == 119 /* ESC index value */) {
2566             /* TODO: Optimize */
2567             if (v->pq == 1)      dcdiff = get_bits(gb, 10);
2568             else if (v->pq == 2) dcdiff = get_bits(gb, 9);
2569             else                 dcdiff = get_bits(gb, 8);
2570         } else {
2571             if (v->pq == 1)
2572                 dcdiff = (dcdiff << 2) + get_bits(gb, 2) - 3;
2573             else if (v->pq == 2)
2574                 dcdiff = (dcdiff << 1) + get_bits1(gb)   - 1;
2575         }
2576         if (get_bits1(gb))
2577             dcdiff = -dcdiff;
2578     }
2579
2580     /* Prediction */
2581     dcdiff += vc1_i_pred_dc(&v->s, v->overlap, v->pq, n, &dc_val, &dc_pred_dir);
2582     *dc_val = dcdiff;
2583
2584     /* Store the quantized DC coeff, used for prediction */
2585     if (n < 4) {
2586         block[0] = dcdiff * s->y_dc_scale;
2587     } else {
2588         block[0] = dcdiff * s->c_dc_scale;
2589     }
2590     /* Skip ? */
2591     if (!coded) {
2592         goto not_coded;
2593     }
2594
2595     // AC Decoding
2596     i = 1;
2597
2598     {
2599         int last = 0, skip, value;
2600         const uint8_t *zz_table;
2601         int scale;
2602         int k;
2603
2604         scale = v->pq * 2 + v->halfpq;
2605
2606         if (v->s.ac_pred) {
2607             if (!dc_pred_dir)
2608                 zz_table = v->zz_8x8[2];
2609             else
2610                 zz_table = v->zz_8x8[3];
2611         } else
2612             zz_table = v->zz_8x8[1];
2613
2614         ac_val  = s->ac_val[0][0] + s->block_index[n] * 16;
2615         ac_val2 = ac_val;
2616         if (dc_pred_dir) // left
2617             ac_val -= 16;
2618         else // top
2619             ac_val -= 16 * s->block_wrap[n];
2620
2621         while (!last) {
2622             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
2623             i += skip;
2624             if (i > 63)
2625                 break;
2626             block[zz_table[i++]] = value;
2627         }
2628
2629         /* apply AC prediction if needed */
2630         if (s->ac_pred) {
2631             if (dc_pred_dir) { // left
2632                 for (k = 1; k < 8; k++)
2633                     block[k << v->left_blk_sh] += ac_val[k];
2634             } else { // top
2635                 for (k = 1; k < 8; k++)
2636                     block[k << v->top_blk_sh] += ac_val[k + 8];
2637             }
2638         }
2639         /* save AC coeffs for further prediction */
2640         for (k = 1; k < 8; k++) {
2641             ac_val2[k]     = block[k << v->left_blk_sh];
2642             ac_val2[k + 8] = block[k << v->top_blk_sh];
2643         }
2644
2645         /* scale AC coeffs */
2646         for (k = 1; k < 64; k++)
2647             if (block[k]) {
2648                 block[k] *= scale;
2649                 if (!v->pquantizer)
2650                     block[k] += (block[k] < 0) ? -v->pq : v->pq;
2651             }
2652
2653         if (s->ac_pred) i = 63;
2654     }
2655
2656 not_coded:
2657     if (!coded) {
2658         int k, scale;
2659         ac_val  = s->ac_val[0][0] + s->block_index[n] * 16;
2660         ac_val2 = ac_val;
2661
2662         i = 0;
2663         scale = v->pq * 2 + v->halfpq;
2664         memset(ac_val2, 0, 16 * 2);
2665         if (dc_pred_dir) { // left
2666             ac_val -= 16;
2667             if (s->ac_pred)
2668                 memcpy(ac_val2, ac_val, 8 * 2);
2669         } else { // top
2670             ac_val -= 16 * s->block_wrap[n];
2671             if (s->ac_pred)
2672                 memcpy(ac_val2 + 8, ac_val + 8, 8 * 2);
2673         }
2674
2675         /* apply AC prediction if needed */
2676         if (s->ac_pred) {
2677             if (dc_pred_dir) { //left
2678                 for (k = 1; k < 8; k++) {
2679                     block[k << v->left_blk_sh] = ac_val[k] * scale;
2680                     if (!v->pquantizer && block[k << v->left_blk_sh])
2681                         block[k << v->left_blk_sh] += (block[k << v->left_blk_sh] < 0) ? -v->pq : v->pq;
2682                 }
2683             } else { // top
2684                 for (k = 1; k < 8; k++) {
2685                     block[k << v->top_blk_sh] = ac_val[k + 8] * scale;
2686                     if (!v->pquantizer && block[k << v->top_blk_sh])
2687                         block[k << v->top_blk_sh] += (block[k << v->top_blk_sh] < 0) ? -v->pq : v->pq;
2688                 }
2689             }
2690             i = 63;
2691         }
2692     }
2693     s->block_last_index[n] = i;
2694
2695     return 0;
2696 }
2697
2698 /** Decode intra block in intra frames - should be faster than decode_intra_block
2699  * @param v VC1Context
2700  * @param block block to decode
2701  * @param[in] n subblock number
2702  * @param coded are AC coeffs present or not
2703  * @param codingset set of VLC to decode data
2704  * @param mquant quantizer value for this macroblock
2705  */
2706 static int vc1_decode_i_block_adv(VC1Context *v, int16_t block[64], int n,
2707                                   int coded, int codingset, int mquant)
2708 {
2709     GetBitContext *gb = &v->s.gb;
2710     MpegEncContext *s = &v->s;
2711     int dc_pred_dir = 0; /* Direction of the DC prediction used */
2712     int i;
2713     int16_t *dc_val;
2714     int16_t *ac_val, *ac_val2;
2715     int dcdiff;
2716     int a_avail = v->a_avail, c_avail = v->c_avail;
2717     int use_pred = s->ac_pred;
2718     int scale;
2719     int q1, q2 = 0;
2720     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2721
2722     /* Get DC differential */
2723     if (n < 4) {
2724         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2725     } else {
2726         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2727     }
2728     if (dcdiff < 0) {
2729         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
2730         return -1;
2731     }
2732     if (dcdiff) {
2733         if (dcdiff == 119 /* ESC index value */) {
2734             /* TODO: Optimize */
2735             if (mquant == 1)      dcdiff = get_bits(gb, 10);
2736             else if (mquant == 2) dcdiff = get_bits(gb, 9);
2737             else                  dcdiff = get_bits(gb, 8);
2738         } else {
2739             if (mquant == 1)
2740                 dcdiff = (dcdiff << 2) + get_bits(gb, 2) - 3;
2741             else if (mquant == 2)
2742                 dcdiff = (dcdiff << 1) + get_bits1(gb)   - 1;
2743         }
2744         if (get_bits1(gb))
2745             dcdiff = -dcdiff;
2746     }
2747
2748     /* Prediction */
2749     dcdiff += vc1_pred_dc(&v->s, v->overlap, mquant, n, v->a_avail, v->c_avail, &dc_val, &dc_pred_dir);
2750     *dc_val = dcdiff;
2751
2752     /* Store the quantized DC coeff, used for prediction */
2753     if (n < 4) {
2754         block[0] = dcdiff * s->y_dc_scale;
2755     } else {
2756         block[0] = dcdiff * s->c_dc_scale;
2757     }
2758
2759     //AC Decoding
2760     i = 1;
2761
2762     /* check if AC is needed at all */
2763     if (!a_avail && !c_avail)
2764         use_pred = 0;
2765     ac_val  = s->ac_val[0][0] + s->block_index[n] * 16;
2766     ac_val2 = ac_val;
2767
2768     scale = mquant * 2 + ((mquant == v->pq) ? v->halfpq : 0);
2769
2770     if (dc_pred_dir) // left
2771         ac_val -= 16;
2772     else // top
2773         ac_val -= 16 * s->block_wrap[n];
2774
2775     q1 = s->current_picture.qscale_table[mb_pos];
2776     if ( dc_pred_dir && c_avail && mb_pos)
2777         q2 = s->current_picture.qscale_table[mb_pos - 1];
2778     if (!dc_pred_dir && a_avail && mb_pos >= s->mb_stride)
2779         q2 = s->current_picture.qscale_table[mb_pos - s->mb_stride];
2780     if ( dc_pred_dir && n == 1)
2781         q2 = q1;
2782     if (!dc_pred_dir && n == 2)
2783         q2 = q1;
2784     if (n == 3)
2785         q2 = q1;
2786
2787     if (coded) {
2788         int last = 0, skip, value;
2789         const uint8_t *zz_table;
2790         int k;
2791
2792         if (v->s.ac_pred) {
2793             if (!use_pred && v->fcm == ILACE_FRAME) {
2794                 zz_table = v->zzi_8x8;
2795             } else {
2796                 if (!dc_pred_dir) // top
2797                     zz_table = v->zz_8x8[2];
2798                 else // left
2799                     zz_table = v->zz_8x8[3];
2800             }
2801         } else {
2802             if (v->fcm != ILACE_FRAME)
2803                 zz_table = v->zz_8x8[1];
2804             else
2805                 zz_table = v->zzi_8x8;
2806         }
2807
2808         while (!last) {
2809             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
2810             i += skip;
2811             if (i > 63)
2812                 break;
2813             block[zz_table[i++]] = value;
2814         }
2815
2816         /* apply AC prediction if needed */
2817         if (use_pred) {
2818             /* scale predictors if needed*/
2819             if (q2 && q1 != q2) {
2820                 q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
2821                 q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
2822
2823                 if (q1 < 1)
2824                     return AVERROR_INVALIDDATA;
2825                 if (dc_pred_dir) { // left
2826                     for (k = 1; k < 8; k++)
2827                         block[k << v->left_blk_sh] += (ac_val[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
2828                 } else { // top
2829                     for (k = 1; k < 8; k++)
2830                         block[k << v->top_blk_sh] += (ac_val[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
2831                 }
2832             } else {
2833                 if (dc_pred_dir) { //left
2834                     for (k = 1; k < 8; k++)
2835                         block[k << v->left_blk_sh] += ac_val[k];
2836                 } else { //top
2837                     for (k = 1; k < 8; k++)
2838                         block[k << v->top_blk_sh] += ac_val[k + 8];
2839                 }
2840             }
2841         }
2842         /* save AC coeffs for further prediction */
2843         for (k = 1; k < 8; k++) {
2844             ac_val2[k    ] = block[k << v->left_blk_sh];
2845             ac_val2[k + 8] = block[k << v->top_blk_sh];
2846         }
2847
2848         /* scale AC coeffs */
2849         for (k = 1; k < 64; k++)
2850             if (block[k]) {
2851                 block[k] *= scale;
2852                 if (!v->pquantizer)
2853                     block[k] += (block[k] < 0) ? -mquant : mquant;
2854             }
2855
2856         if (use_pred) i = 63;
2857     } else { // no AC coeffs
2858         int k;
2859
2860         memset(ac_val2, 0, 16 * 2);
2861         if (dc_pred_dir) { // left
2862             if (use_pred) {
2863                 memcpy(ac_val2, ac_val, 8 * 2);
2864                 if (q2 && q1 != q2) {
2865                     q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
2866                     q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
2867                     if (q1 < 1)
2868                         return AVERROR_INVALIDDATA;
2869                     for (k = 1; k < 8; k++)
2870                         ac_val2[k] = (ac_val2[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
2871                 }
2872             }
2873         } else { // top
2874             if (use_pred) {
2875                 memcpy(ac_val2 + 8, ac_val + 8, 8 * 2);
2876                 if (q2 && q1 != q2) {
2877                     q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
2878                     q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
2879                     if (q1 < 1)
2880                         return AVERROR_INVALIDDATA;
2881                     for (k = 1; k < 8; k++)
2882                         ac_val2[k + 8] = (ac_val2[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
2883                 }
2884             }
2885         }
2886
2887         /* apply AC prediction if needed */
2888         if (use_pred) {
2889             if (dc_pred_dir) { // left
2890                 for (k = 1; k < 8; k++) {
2891                     block[k << v->left_blk_sh] = ac_val2[k] * scale;
2892                     if (!v->pquantizer && block[k << v->left_blk_sh])
2893                         block[k << v->left_blk_sh] += (block[k << v->left_blk_sh] < 0) ? -mquant : mquant;
2894                 }
2895             } else { // top
2896                 for (k = 1; k < 8; k++) {
2897                     block[k << v->top_blk_sh] = ac_val2[k + 8] * scale;
2898                     if (!v->pquantizer && block[k << v->top_blk_sh])
2899                         block[k << v->top_blk_sh] += (block[k << v->top_blk_sh] < 0) ? -mquant : mquant;
2900                 }
2901             }
2902             i = 63;
2903         }
2904     }
2905     s->block_last_index[n] = i;
2906
2907     return 0;
2908 }
2909
2910 /** Decode intra block in inter frames - more generic version than vc1_decode_i_block
2911  * @param v VC1Context
2912  * @param block block to decode
2913  * @param[in] n subblock index
2914  * @param coded are AC coeffs present or not
2915  * @param mquant block quantizer
2916  * @param codingset set of VLC to decode data
2917  */
2918 static int vc1_decode_intra_block(VC1Context *v, int16_t block[64], int n,
2919                                   int coded, int mquant, int codingset)
2920 {
2921     GetBitContext *gb = &v->s.gb;
2922     MpegEncContext *s = &v->s;
2923     int dc_pred_dir = 0; /* Direction of the DC prediction used */
2924     int i;
2925     int16_t *dc_val;
2926     int16_t *ac_val, *ac_val2;
2927     int dcdiff;
2928     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2929     int a_avail = v->a_avail, c_avail = v->c_avail;
2930     int use_pred = s->ac_pred;
2931     int scale;
2932     int q1, q2 = 0;
2933
2934     s->dsp.clear_block(block);
2935
2936     /* XXX: Guard against dumb values of mquant */
2937     mquant = (mquant < 1) ? 0 : ((mquant > 31) ? 31 : mquant);
2938
2939     /* Set DC scale - y and c use the same */
2940     s->y_dc_scale = s->y_dc_scale_table[mquant];
2941     s->c_dc_scale = s->c_dc_scale_table[mquant];
2942
2943     /* Get DC differential */
2944     if (n < 4) {
2945         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2946     } else {
2947         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
2948     }
2949     if (dcdiff < 0) {
2950         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
2951         return -1;
2952     }
2953     if (dcdiff) {
2954         if (dcdiff == 119 /* ESC index value */) {
2955             /* TODO: Optimize */
2956             if (mquant == 1)      dcdiff = get_bits(gb, 10);
2957             else if (mquant == 2) dcdiff = get_bits(gb, 9);
2958             else                  dcdiff = get_bits(gb, 8);
2959         } else {
2960             if (mquant == 1)
2961                 dcdiff = (dcdiff << 2) + get_bits(gb, 2) - 3;
2962             else if (mquant == 2)
2963                 dcdiff = (dcdiff << 1) + get_bits1(gb)   - 1;
2964         }
2965         if (get_bits1(gb))
2966             dcdiff = -dcdiff;
2967     }
2968
2969     /* Prediction */
2970     dcdiff += vc1_pred_dc(&v->s, v->overlap, mquant, n, a_avail, c_avail, &dc_val, &dc_pred_dir);
2971     *dc_val = dcdiff;
2972
2973     /* Store the quantized DC coeff, used for prediction */
2974
2975     if (n < 4) {
2976         block[0] = dcdiff * s->y_dc_scale;
2977     } else {
2978         block[0] = dcdiff * s->c_dc_scale;
2979     }
2980
2981     //AC Decoding
2982     i = 1;
2983
2984     /* check if AC is needed at all and adjust direction if needed */
2985     if (!a_avail) dc_pred_dir = 1;
2986     if (!c_avail) dc_pred_dir = 0;
2987     if (!a_avail && !c_avail) use_pred = 0;
2988     ac_val = s->ac_val[0][0] + s->block_index[n] * 16;
2989     ac_val2 = ac_val;
2990
2991     scale = mquant * 2 + v->halfpq;
2992
2993     if (dc_pred_dir) //left
2994         ac_val -= 16;
2995     else //top
2996         ac_val -= 16 * s->block_wrap[n];
2997
2998     q1 = s->current_picture.qscale_table[mb_pos];
2999     if (dc_pred_dir && c_avail && mb_pos)
3000         q2 = s->current_picture.qscale_table[mb_pos - 1];
3001     if (!dc_pred_dir && a_avail && mb_pos >= s->mb_stride)
3002         q2 = s->current_picture.qscale_table[mb_pos - s->mb_stride];
3003     if ( dc_pred_dir && n == 1)
3004         q2 = q1;
3005     if (!dc_pred_dir && n == 2)
3006         q2 = q1;
3007     if (n == 3) q2 = q1;
3008
3009     if (coded) {
3010         int last = 0, skip, value;
3011         int k;
3012
3013         while (!last) {
3014             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
3015             i += skip;
3016             if (i > 63)
3017                 break;
3018             if (v->fcm == PROGRESSIVE)
3019                 block[v->zz_8x8[0][i++]] = value;
3020             else {
3021                 if (use_pred && (v->fcm == ILACE_FRAME)) {
3022                     if (!dc_pred_dir) // top
3023                         block[v->zz_8x8[2][i++]] = value;
3024                     else // left
3025                         block[v->zz_8x8[3][i++]] = value;
3026                 } else {
3027                     block[v->zzi_8x8[i++]] = value;
3028                 }
3029             }
3030         }
3031
3032         /* apply AC prediction if needed */
3033         if (use_pred) {
3034             /* scale predictors if needed*/
3035             if (q2 && q1 != q2) {
3036                 q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
3037                 q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
3038
3039                 if (q1 < 1)
3040                     return AVERROR_INVALIDDATA;
3041                 if (dc_pred_dir) { // left
3042                     for (k = 1; k < 8; k++)
3043                         block[k << v->left_blk_sh] += (ac_val[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
3044                 } else { //top
3045                     for (k = 1; k < 8; k++)
3046                         block[k << v->top_blk_sh] += (ac_val[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
3047                 }
3048             } else {
3049                 if (dc_pred_dir) { // left
3050                     for (k = 1; k < 8; k++)
3051                         block[k << v->left_blk_sh] += ac_val[k];
3052                 } else { // top
3053                     for (k = 1; k < 8; k++)
3054                         block[k << v->top_blk_sh] += ac_val[k + 8];
3055                 }
3056             }
3057         }
3058         /* save AC coeffs for further prediction */
3059         for (k = 1; k < 8; k++) {
3060             ac_val2[k    ] = block[k << v->left_blk_sh];
3061             ac_val2[k + 8] = block[k << v->top_blk_sh];
3062         }
3063
3064         /* scale AC coeffs */
3065         for (k = 1; k < 64; k++)
3066             if (block[k]) {
3067                 block[k] *= scale;
3068                 if (!v->pquantizer)
3069                     block[k] += (block[k] < 0) ? -mquant : mquant;
3070             }
3071
3072         if (use_pred) i = 63;
3073     } else { // no AC coeffs
3074         int k;
3075
3076         memset(ac_val2, 0, 16 * 2);
3077         if (dc_pred_dir) { // left
3078             if (use_pred) {
3079                 memcpy(ac_val2, ac_val, 8 * 2);
3080                 if (q2 && q1 != q2) {
3081                     q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
3082                     q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
3083                     if (q1 < 1)
3084                         return AVERROR_INVALIDDATA;
3085                     for (k = 1; k < 8; k++)
3086                         ac_val2[k] = (ac_val2[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
3087                 }
3088             }
3089         } else { // top
3090             if (use_pred) {
3091                 memcpy(ac_val2 + 8, ac_val + 8, 8 * 2);
3092                 if (q2 && q1 != q2) {
3093                     q1 = q1 * 2 + ((q1 == v->pq) ? v->halfpq : 0) - 1;
3094                     q2 = q2 * 2 + ((q2 == v->pq) ? v->halfpq : 0) - 1;
3095                     if (q1 < 1)
3096                         return AVERROR_INVALIDDATA;
3097                     for (k = 1; k < 8; k++)
3098                         ac_val2[k + 8] = (ac_val2[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
3099                 }
3100             }
3101         }
3102
3103         /* apply AC prediction if needed */
3104         if (use_pred) {
3105             if (dc_pred_dir) { // left
3106                 for (k = 1; k < 8; k++) {
3107                     block[k << v->left_blk_sh] = ac_val2[k] * scale;
3108                     if (!v->pquantizer && block[k << v->left_blk_sh])
3109                         block[k << v->left_blk_sh] += (block[k << v->left_blk_sh] < 0) ? -mquant : mquant;
3110                 }
3111             } else { // top
3112                 for (k = 1; k < 8; k++) {
3113                     block[k << v->top_blk_sh] = ac_val2[k + 8] * scale;
3114                     if (!v->pquantizer && block[k << v->top_blk_sh])
3115                         block[k << v->top_blk_sh] += (block[k << v->top_blk_sh] < 0) ? -mquant : mquant;
3116                 }
3117             }
3118             i = 63;
3119         }
3120     }
3121     s->block_last_index[n] = i;
3122
3123     return 0;
3124 }
3125
3126 /** Decode P block
3127  */
3128 static int vc1_decode_p_block(VC1Context *v, int16_t block[64], int n,
3129                               int mquant, int ttmb, int first_block,
3130                               uint8_t *dst, int linesize, int skip_block,
3131                               int *ttmb_out)
3132 {
3133     MpegEncContext *s = &v->s;
3134     GetBitContext *gb = &s->gb;
3135     int i, j;
3136     int subblkpat = 0;
3137     int scale, off, idx, last, skip, value;
3138     int ttblk = ttmb & 7;
3139     int pat = 0;
3140
3141     s->dsp.clear_block(block);
3142
3143     if (ttmb == -1) {
3144         ttblk = ff_vc1_ttblk_to_tt[v->tt_index][get_vlc2(gb, ff_vc1_ttblk_vlc[v->tt_index].table, VC1_TTBLK_VLC_BITS, 1)];
3145     }
3146     if (ttblk == TT_4X4) {
3147         subblkpat = ~(get_vlc2(gb, ff_vc1_subblkpat_vlc[v->tt_index].table, VC1_SUBBLKPAT_VLC_BITS, 1) + 1);
3148     }
3149     if ((ttblk != TT_8X8 && ttblk != TT_4X4)
3150         && ((v->ttmbf || (ttmb != -1 && (ttmb & 8) && !first_block))
3151             || (!v->res_rtm_flag && !first_block))) {
3152         subblkpat = decode012(gb);
3153         if (subblkpat)
3154             subblkpat ^= 3; // swap decoded pattern bits
3155         if (ttblk == TT_8X4_TOP || ttblk == TT_8X4_BOTTOM)
3156             ttblk = TT_8X4;
3157         if (ttblk == TT_4X8_RIGHT || ttblk == TT_4X8_LEFT)
3158             ttblk = TT_4X8;
3159     }
3160     scale = 2 * mquant + ((v->pq == mquant) ? v->halfpq : 0);
3161
3162     // convert transforms like 8X4_TOP to generic TT and SUBBLKPAT
3163     if (ttblk == TT_8X4_TOP || ttblk == TT_8X4_BOTTOM) {
3164         subblkpat = 2 - (ttblk == TT_8X4_TOP);
3165         ttblk     = TT_8X4;
3166     }
3167     if (ttblk == TT_4X8_RIGHT || ttblk == TT_4X8_LEFT) {
3168         subblkpat = 2 - (ttblk == TT_4X8_LEFT);
3169         ttblk     = TT_4X8;
3170     }
3171     switch (ttblk) {
3172     case TT_8X8:
3173         pat  = 0xF;
3174         i    = 0;
3175         last = 0;
3176         while (!last) {
3177             vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
3178             i += skip;
3179             if (i > 63)
3180                 break;
3181             if (!v->fcm)
3182                 idx = v->zz_8x8[0][i++];
3183             else
3184                 idx = v->zzi_8x8[i++];
3185             block[idx] = value * scale;
3186             if (!v->pquantizer)
3187                 block[idx] += (block[idx] < 0) ? -mquant : mquant;
3188         }
3189         if (!skip_block) {
3190             if (i == 1)
3191                 v->vc1dsp.vc1_inv_trans_8x8_dc(dst, linesize, block);
3192             else {
3193                 v->vc1dsp.vc1_inv_trans_8x8(block);
3194                 s->dsp.add_pixels_clamped(block, dst, linesize);
3195             }
3196         }
3197         break;
3198     case TT_4X4:
3199         pat = ~subblkpat & 0xF;
3200         for (j = 0; j < 4; j++) {
3201             last = subblkpat & (1 << (3 - j));
3202             i    = 0;
3203             off  = (j & 1) * 4 + (j & 2) * 16;
3204             while (!last) {
3205                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
3206                 i += skip;
3207                 if (i > 15)
3208                     break;
3209                 if (!v->fcm)
3210                     idx = ff_vc1_simple_progressive_4x4_zz[i++];
3211                 else
3212                     idx = ff_vc1_adv_interlaced_4x4_zz[i++];
3213                 block[idx + off] = value * scale;
3214                 if (!v->pquantizer)
3215                     block[idx + off] += (block[idx + off] < 0) ? -mquant : mquant;
3216             }
3217             if (!(subblkpat & (1 << (3 - j))) && !skip_block) {
3218                 if (i == 1)
3219                     v->vc1dsp.vc1_inv_trans_4x4_dc(dst + (j & 1) * 4 + (j & 2) * 2 * linesize, linesize, block + off);
3220                 else
3221                     v->vc1dsp.vc1_inv_trans_4x4(dst + (j & 1) * 4 + (j & 2) *  2 * linesize, linesize, block + off);
3222             }
3223         }
3224         break;
3225     case TT_8X4:
3226         pat = ~((subblkpat & 2) * 6 + (subblkpat & 1) * 3) & 0xF;
3227         for (j = 0; j < 2; j++) {
3228             last = subblkpat & (1 << (1 - j));
3229             i    = 0;
3230             off  = j * 32;
3231             while (!last) {
3232                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
3233                 i += skip;
3234                 if (i > 31)
3235                     break;
3236                 if (!v->fcm)
3237                     idx = v->zz_8x4[i++] + off;
3238                 else
3239                     idx = ff_vc1_adv_interlaced_8x4_zz[i++] + off;
3240                 block[idx] = value * scale;
3241                 if (!v->pquantizer)
3242                     block[idx] += (block[idx] < 0) ? -mquant : mquant;
3243             }
3244             if (!(subblkpat & (1 << (1 - j))) && !skip_block) {
3245                 if (i == 1)
3246                     v->vc1dsp.vc1_inv_trans_8x4_dc(dst + j * 4 * linesize, linesize, block + off);
3247                 else
3248                     v->vc1dsp.vc1_inv_trans_8x4(dst + j * 4 * linesize, linesize, block + off);
3249             }
3250         }
3251         break;
3252     case TT_4X8:
3253         pat = ~(subblkpat * 5) & 0xF;
3254         for (j = 0; j < 2; j++) {
3255             last = subblkpat & (1 << (1 - j));
3256             i    = 0;
3257             off  = j * 4;
3258             while (!last) {
3259                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
3260                 i += skip;
3261                 if (i > 31)
3262                     break;
3263                 if (!v->fcm)
3264                     idx = v->zz_4x8[i++] + off;
3265                 else
3266                     idx = ff_vc1_adv_interlaced_4x8_zz[i++] + off;
3267                 block[idx] = value * scale;
3268                 if (!v->pquantizer)
3269                     block[idx] += (block[idx] < 0) ? -mquant : mquant;
3270             }
3271             if (!(subblkpat & (1 << (1 - j))) && !skip_block) {
3272                 if (i == 1)
3273                     v->vc1dsp.vc1_inv_trans_4x8_dc(dst + j * 4, linesize, block + off);
3274                 else
3275                     v->vc1dsp.vc1_inv_trans_4x8(dst + j*4, linesize, block + off);
3276             }
3277         }
3278         break;
3279     }
3280     if (ttmb_out)
3281         *ttmb_out |= ttblk << (n * 4);
3282     return pat;
3283 }
3284
3285 /** @} */ // Macroblock group
3286
3287 static const int size_table  [6] = { 0, 2, 3, 4,  5,  8 };
3288 static const int offset_table[6] = { 0, 1, 3, 7, 15, 31 };
3289
3290 static av_always_inline void vc1_apply_p_v_loop_filter(VC1Context *v, int block_num)
3291 {
3292     MpegEncContext *s  = &v->s;
3293     int mb_cbp         = v->cbp[s->mb_x - s->mb_stride],
3294         block_cbp      = mb_cbp      >> (block_num * 4), bottom_cbp,
3295         mb_is_intra    = v->is_intra[s->mb_x - s->mb_stride],
3296         block_is_intra = mb_is_intra >> (block_num * 4), bottom_is_intra;
3297     int idx, linesize  = block_num > 3 ? s->uvlinesize : s->linesize, ttblk;
3298     uint8_t *dst;
3299
3300     if (block_num > 3) {
3301         dst      = s->dest[block_num - 3];
3302     } else {
3303         dst      = s->dest[0] + (block_num & 1) * 8 + ((block_num & 2) * 4 - 8) * linesize;
3304     }
3305     if (s->mb_y != s->end_mb_y || block_num < 2) {
3306         int16_t (*mv)[2];
3307         int mv_stride;
3308
3309         if (block_num > 3) {
3310             bottom_cbp      = v->cbp[s->mb_x]      >> (block_num * 4);
3311             bottom_is_intra = v->is_intra[s->mb_x] >> (block_num * 4);
3312             mv              = &v->luma_mv[s->mb_x - s->mb_stride];
3313             mv_stride       = s->mb_stride;
3314         } else {
3315             bottom_cbp      = (block_num < 2) ? (mb_cbp               >> ((block_num + 2) * 4))
3316                                               : (v->cbp[s->mb_x]      >> ((block_num - 2) * 4));
3317             bottom_is_intra = (block_num < 2) ? (mb_is_intra          >> ((block_num + 2) * 4))
3318                                               : (v->is_intra[s->mb_x] >> ((block_num - 2) * 4));
3319             mv_stride       = s->b8_stride;
3320             mv              = &s->current_picture.motion_val[0][s->block_index[block_num] - 2 * mv_stride];
3321         }
3322
3323         if (bottom_is_intra & 1 || block_is_intra & 1 ||
3324             mv[0][0] != mv[mv_stride][0] || mv[0][1] != mv[mv_stride][1]) {
3325             v->vc1dsp.vc1_v_loop_filter8(dst, linesize, v->pq);
3326         } else {
3327             idx = ((bottom_cbp >> 2) | block_cbp) & 3;
3328             if (idx == 3) {
3329                 v->vc1dsp.vc1_v_loop_filter8(dst, linesize, v->pq);
3330             } else if (idx) {
3331                 if (idx == 1)
3332                     v->vc1dsp.vc1_v_loop_filter4(dst + 4, linesize, v->pq);
3333                 else
3334                     v->vc1dsp.vc1_v_loop_filter4(dst,     linesize, v->pq);
3335             }
3336         }
3337     }
3338
3339     dst -= 4 * linesize;
3340     ttblk = (v->ttblk[s->mb_x - s->mb_stride] >> (block_num * 4)) & 0xF;
3341     if (ttblk == TT_4X4 || ttblk == TT_8X4) {
3342         idx = (block_cbp | (block_cbp >> 2)) & 3;
3343         if (idx == 3) {
3344             v->vc1dsp.vc1_v_loop_filter8(dst, linesize, v->pq);
3345         } else if (idx) {
3346             if (idx == 1)
3347                 v->vc1dsp.vc1_v_loop_filter4(dst + 4, linesize, v->pq);
3348             else
3349                 v->vc1dsp.vc1_v_loop_filter4(dst,     linesize, v->pq);
3350         }
3351     }
3352 }
3353
3354 static av_always_inline void vc1_apply_p_h_loop_filter(VC1Context *v, int block_num)
3355 {
3356     MpegEncContext *s  = &v->s;
3357     int mb_cbp         = v->cbp[s->mb_x - 1 - s->mb_stride],
3358         block_cbp      = mb_cbp      >> (block_num * 4), right_cbp,
3359         mb_is_intra    = v->is_intra[s->mb_x - 1 - s->mb_stride],
3360         block_is_intra = mb_is_intra >> (block_num * 4), right_is_intra;
3361     int idx, linesize  = block_num > 3 ? s->uvlinesize : s->linesize, ttblk;
3362     uint8_t *dst;
3363
3364     if (block_num > 3) {
3365         dst = s->dest[block_num - 3] - 8 * linesize;
3366     } else {
3367         dst = s->dest[0] + (block_num & 1) * 8 + ((block_num & 2) * 4 - 16) * linesize - 8;
3368     }
3369
3370     if (s->mb_x != s->mb_width || !(block_num & 5)) {
3371         int16_t (*mv)[2];
3372
3373         if (block_num > 3) {
3374             right_cbp      = v->cbp[s->mb_x - s->mb_stride] >> (block_num * 4);
3375             right_is_intra = v->is_intra[s->mb_x - s->mb_stride] >> (block_num * 4);
3376             mv             = &v->luma_mv[s->mb_x - s->mb_stride - 1];
3377         } else {
3378             right_cbp      = (block_num & 1) ? (v->cbp[s->mb_x - s->mb_stride]      >> ((block_num - 1) * 4))
3379                                              : (mb_cbp                              >> ((block_num + 1) * 4));
3380             right_is_intra = (block_num & 1) ? (v->is_intra[s->mb_x - s->mb_stride] >> ((block_num - 1) * 4))
3381                                              : (mb_is_intra                         >> ((block_num + 1) * 4));
3382             mv             = &s->current_picture.motion_val[0][s->block_index[block_num] - s->b8_stride * 2 - 2];
3383         }
3384         if (block_is_intra & 1 || right_is_intra & 1 || mv[0][0] != mv[1][0] || mv[0][1] != mv[1][1]) {
3385             v->vc1dsp.vc1_h_loop_filter8(dst, linesize, v->pq);
3386         } else {
3387             idx = ((right_cbp >> 1) | block_cbp) & 5; // FIXME check
3388             if (idx == 5) {
3389                 v->vc1dsp.vc1_h_loop_filter8(dst, linesize, v->pq);
3390             } else if (idx) {
3391                 if (idx == 1)
3392                     v->vc1dsp.vc1_h_loop_filter4(dst + 4 * linesize, linesize, v->pq);
3393                 else
3394                     v->vc1dsp.vc1_h_loop_filter4(dst,                linesize, v->pq);
3395             }
3396         }
3397     }
3398
3399     dst -= 4;
3400     ttblk = (v->ttblk[s->mb_x - s->mb_stride - 1] >> (block_num * 4)) & 0xf;
3401     if (ttblk == TT_4X4 || ttblk == TT_4X8) {
3402         idx = (block_cbp | (block_cbp >> 1)) & 5;
3403         if (idx == 5) {
3404             v->vc1dsp.vc1_h_loop_filter8(dst, linesize, v->pq);
3405         } else if (idx) {
3406             if (idx == 1)
3407                 v->vc1dsp.vc1_h_loop_filter4(dst + linesize * 4, linesize, v->pq);
3408             else
3409                 v->vc1dsp.vc1_h_loop_filter4(dst,                linesize, v->pq);
3410         }
3411     }
3412 }
3413
3414 static void vc1_apply_p_loop_filter(VC1Context *v)
3415 {
3416     MpegEncContext *s = &v->s;
3417     int i;
3418
3419     for (i = 0; i < 6; i++) {
3420         vc1_apply_p_v_loop_filter(v, i);
3421     }
3422
3423     /* V always precedes H, therefore we run H one MB before V;
3424      * at the end of a row, we catch up to complete the row */
3425     if (s->mb_x) {
3426         for (i = 0; i < 6; i++) {
3427             vc1_apply_p_h_loop_filter(v, i);
3428         }
3429         if (s->mb_x == s->mb_width - 1) {
3430             s->mb_x++;
3431             ff_update_block_index(s);
3432             for (i = 0; i < 6; i++) {
3433                 vc1_apply_p_h_loop_filter(v, i);
3434             }
3435         }
3436     }
3437 }
3438
3439 /** Decode one P-frame MB
3440  */
3441 static int vc1_decode_p_mb(VC1Context *v)
3442 {
3443     MpegEncContext *s = &v->s;
3444     GetBitContext *gb = &s->gb;
3445     int i, j;
3446     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
3447     int cbp; /* cbp decoding stuff */
3448     int mqdiff, mquant; /* MB quantization */
3449     int ttmb = v->ttfrm; /* MB Transform type */
3450
3451     int mb_has_coeffs = 1; /* last_flag */
3452     int dmv_x, dmv_y; /* Differential MV components */
3453     int index, index1; /* LUT indexes */
3454     int val, sign; /* temp values */
3455     int first_block = 1;
3456     int dst_idx, off;
3457     int skipped, fourmv;
3458     int block_cbp = 0, pat, block_tt = 0, block_intra = 0;
3459
3460     mquant = v->pq; /* lossy initialization */
3461
3462     if (v->mv_type_is_raw)
3463         fourmv = get_bits1(gb);
3464     else
3465         fourmv = v->mv_type_mb_plane[mb_pos];
3466     if (v->skip_is_raw)
3467         skipped = get_bits1(gb);
3468     else
3469         skipped = v->s.mbskip_table[mb_pos];
3470
3471     if (!fourmv) { /* 1MV mode */
3472         if (!skipped) {
3473             GET_MVDATA(dmv_x, dmv_y);
3474
3475             if (s->mb_intra) {
3476                 s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
3477                 s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
3478             }
3479             s->current_picture.mb_type[mb_pos] = s->mb_intra ? MB_TYPE_INTRA : MB_TYPE_16x16;
3480             vc1_pred_mv(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], 0, 0);
3481
3482             /* FIXME Set DC val for inter block ? */
3483             if (s->mb_intra && !mb_has_coeffs) {
3484                 GET_MQUANT();
3485                 s->ac_pred = get_bits1(gb);
3486                 cbp        = 0;
3487             } else if (mb_has_coeffs) {
3488                 if (s->mb_intra)
3489                     s->ac_pred = get_bits1(gb);
3490                 cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
3491                 GET_MQUANT();
3492             } else {
3493                 mquant = v->pq;
3494                 cbp    = 0;
3495             }
3496             s->current_picture.qscale_table[mb_pos] = mquant;
3497
3498             if (!v->ttmbf && !s->mb_intra && mb_has_coeffs)
3499                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table,
3500                                 VC1_TTMB_VLC_BITS, 2);
3501             if (!s->mb_intra) vc1_mc_1mv(v, 0);
3502             dst_idx = 0;
3503             for (i = 0; i < 6; i++) {
3504                 s->dc_val[0][s->block_index[i]] = 0;
3505                 dst_idx += i >> 2;
3506                 val = ((cbp >> (5 - i)) & 1);
3507                 off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
3508                 v->mb_type[0][s->block_index[i]] = s->mb_intra;
3509                 if (s->mb_intra) {
3510                     /* check if prediction blocks A and C are available */
3511                     v->a_avail = v->c_avail = 0;
3512                     if (i == 2 || i == 3 || !s->first_slice_line)
3513                         v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
3514                     if (i == 1 || i == 3 || s->mb_x)
3515                         v->c_avail = v->mb_type[0][s->block_index[i] - 1];
3516
3517                     vc1_decode_intra_block(v, s->block[i], i, val, mquant,
3518                                            (i & 4) ? v->codingset2 : v->codingset);
3519                     if ((i>3) && (s->flags & CODEC_FLAG_GRAY))
3520                         continue;
3521                     v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
3522                     if (v->rangeredfrm)
3523                         for (j = 0; j < 64; j++)
3524                             s->block[i][j] <<= 1;
3525                     s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
3526                     if (v->pq >= 9 && v->overlap) {
3527                         if (v->c_avail)
3528                             v->vc1dsp.vc1_h_overlap(s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
3529                         if (v->a_avail)
3530                             v->vc1dsp.vc1_v_overlap(s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
3531                     }
3532                     block_cbp   |= 0xF << (i << 2);
3533                     block_intra |= 1 << i;
3534                 } else if (val) {
3535                     pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb, first_block,
3536                                              s->dest[dst_idx] + off, (i & 4) ? s->uvlinesize : s->linesize,
3537                                              (i & 4) && (s->flags & CODEC_FLAG_GRAY), &block_tt);
3538                     block_cbp |= pat << (i << 2);
3539                     if (!v->ttmbf && ttmb < 8)
3540                         ttmb = -1;
3541                     first_block = 0;
3542                 }
3543             }
3544         } else { // skipped
3545             s->mb_intra = 0;
3546             for (i = 0; i < 6; i++) {
3547                 v->mb_type[0][s->block_index[i]] = 0;
3548                 s->dc_val[0][s->block_index[i]]  = 0;
3549             }
3550             s->current_picture.mb_type[mb_pos]      = MB_TYPE_SKIP;
3551             s->current_picture.qscale_table[mb_pos] = 0;
3552             vc1_pred_mv(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], 0, 0);
3553             vc1_mc_1mv(v, 0);
3554         }
3555     } else { // 4MV mode
3556         if (!skipped /* unskipped MB */) {
3557             int intra_count = 0, coded_inter = 0;
3558             int is_intra[6], is_coded[6];
3559             /* Get CBPCY */
3560             cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
3561             for (i = 0; i < 6; i++) {
3562                 val = ((cbp >> (5 - i)) & 1);
3563                 s->dc_val[0][s->block_index[i]] = 0;
3564                 s->mb_intra                     = 0;
3565                 if (i < 4) {
3566                     dmv_x = dmv_y = 0;
3567                     s->mb_intra   = 0;
3568                     mb_has_coeffs = 0;
3569                     if (val) {
3570                         GET_MVDATA(dmv_x, dmv_y);
3571                     }
3572                     vc1_pred_mv(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0], 0, 0);
3573                     if (!s->mb_intra)
3574                         vc1_mc_4mv_luma(v, i, 0);
3575                     intra_count += s->mb_intra;
3576                     is_intra[i]  = s->mb_intra;
3577                     is_coded[i]  = mb_has_coeffs;
3578                 }
3579                 if (i & 4) {
3580                     is_intra[i] = (intra_count >= 3);
3581                     is_coded[i] = val;
3582                 }
3583                 if (i == 4)
3584                     vc1_mc_4mv_chroma(v, 0);
3585                 v->mb_type[0][s->block_index[i]] = is_intra[i];
3586                 if (!coded_inter)
3587                     coded_inter = !is_intra[i] & is_coded[i];
3588             }
3589             // if there are no coded blocks then don't do anything more
3590             dst_idx = 0;
3591             if (!intra_count && !coded_inter)
3592                 goto end;
3593             GET_MQUANT();
3594             s->current_picture.qscale_table[mb_pos] = mquant;
3595             /* test if block is intra and has pred */
3596             {
3597                 int intrapred = 0;
3598                 for (i = 0; i < 6; i++)
3599                     if (is_intra[i]) {
3600                         if (((!s->first_slice_line || (i == 2 || i == 3)) && v->mb_type[0][s->block_index[i] - s->block_wrap[i]])
3601                             || ((s->mb_x || (i == 1 || i == 3)) && v->mb_type[0][s->block_index[i] - 1])) {
3602                             intrapred = 1;
3603                             break;
3604                         }
3605                     }
3606                 if (intrapred)
3607                     s->ac_pred = get_bits1(gb);
3608                 else
3609                     s->ac_pred = 0;
3610             }
3611             if (!v->ttmbf && coded_inter)
3612                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
3613             for (i = 0; i < 6; i++) {
3614                 dst_idx    += i >> 2;
3615                 off         = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
3616                 s->mb_intra = is_intra[i];
3617                 if (is_intra[i]) {
3618                     /* check if prediction blocks A and C are available */
3619                     v->a_avail = v->c_avail = 0;
3620                     if (i == 2 || i == 3 || !s->first_slice_line)
3621                         v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
3622                     if (i == 1 || i == 3 || s->mb_x)
3623                         v->c_avail = v->mb_type[0][s->block_index[i] - 1];
3624
3625                     vc1_decode_intra_block(v, s->block[i], i, is_coded[i], mquant,
3626                                            (i & 4) ? v->codingset2 : v->codingset);
3627                     if ((i>3) && (s->flags & CODEC_FLAG_GRAY))
3628                         continue;
3629                     v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
3630                     if (v->rangeredfrm)
3631                         for (j = 0; j < 64; j++)
3632                             s->block[i][j] <<= 1;
3633                     s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off,
3634                                                      (i & 4) ? s->uvlinesize : s->linesize);
3635                     if (v->pq >= 9 && v->overlap) {
3636                         if (v->c_avail)
3637                             v->vc1dsp.vc1_h_overlap(s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
3638                         if (v->a_avail)
3639                             v->vc1dsp.vc1_v_overlap(s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
3640                     }
3641                     block_cbp   |= 0xF << (i << 2);
3642                     block_intra |= 1 << i;
3643                 } else if (is_coded[i]) {
3644                     pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
3645                                              first_block, s->dest[dst_idx] + off,
3646                                              (i & 4) ? s->uvlinesize : s->linesize,
3647                                              (i & 4) && (s->flags & CODEC_FLAG_GRAY),
3648                                              &block_tt);
3649                     block_cbp |= pat << (i << 2);
3650                     if (!v->ttmbf && ttmb < 8)
3651                         ttmb = -1;
3652                     first_block = 0;
3653                 }
3654             }
3655         } else { // skipped MB
3656             s->mb_intra                               = 0;
3657             s->current_picture.qscale_table[mb_pos] = 0;
3658             for (i = 0; i < 6; i++) {
3659                 v->mb_type[0][s->block_index[i]] = 0;
3660                 s->dc_val[0][s->block_index[i]]  = 0;
3661             }
3662             for (i = 0; i < 4; i++) {
3663                 vc1_pred_mv(v, i, 0, 0, 0, v->range_x, v->range_y, v->mb_type[0], 0, 0);
3664                 vc1_mc_4mv_luma(v, i, 0);
3665             }
3666             vc1_mc_4mv_chroma(v, 0);
3667             s->current_picture.qscale_table[mb_pos] = 0;
3668         }
3669     }
3670 end:
3671     v->cbp[s->mb_x]      = block_cbp;
3672     v->ttblk[s->mb_x]    = block_tt;
3673     v->is_intra[s->mb_x] = block_intra;
3674
3675     return 0;
3676 }
3677
3678 /* Decode one macroblock in an interlaced frame p picture */
3679
3680 static int vc1_decode_p_mb_intfr(VC1Context *v)
3681 {
3682     MpegEncContext *s = &v->s;
3683     GetBitContext *gb = &s->gb;
3684     int i;
3685     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
3686     int cbp = 0; /* cbp decoding stuff */
3687     int mqdiff, mquant; /* MB quantization */
3688     int ttmb = v->ttfrm; /* MB Transform type */
3689
3690     int mb_has_coeffs = 1; /* last_flag */
3691     int dmv_x, dmv_y; /* Differential MV components */
3692     int val; /* temp value */
3693     int first_block = 1;
3694     int dst_idx, off;
3695     int skipped, fourmv = 0, twomv = 0;
3696     int block_cbp = 0, pat, block_tt = 0;
3697     int idx_mbmode = 0, mvbp;
3698     int stride_y, fieldtx;
3699
3700     mquant = v->pq; /* Loosy initialization */
3701
3702     if (v->skip_is_raw)
3703         skipped = get_bits1(gb);
3704     else
3705         skipped = v->s.mbskip_table[mb_pos];
3706     if (!skipped) {
3707         if (v->fourmvswitch)
3708             idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_INTFR_4MV_MBMODE_VLC_BITS, 2); // try getting this done
3709         else
3710             idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_INTFR_NON4MV_MBMODE_VLC_BITS, 2); // in a single line
3711         switch (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0]) {
3712         /* store the motion vector type in a flag (useful later) */
3713         case MV_PMODE_INTFR_4MV:
3714             fourmv = 1;
3715             v->blk_mv_type[s->block_index[0]] = 0;
3716             v->blk_mv_type[s->block_index[1]] = 0;
3717             v->blk_mv_type[s->block_index[2]] = 0;
3718             v->blk_mv_type[s->block_index[3]] = 0;
3719             break;
3720         case MV_PMODE_INTFR_4MV_FIELD:
3721             fourmv = 1;
3722             v->blk_mv_type[s->block_index[0]] = 1;
3723             v->blk_mv_type[s->block_index[1]] = 1;
3724             v->blk_mv_type[s->block_index[2]] = 1;
3725             v->blk_mv_type[s->block_index[3]] = 1;
3726             break;
3727         case MV_PMODE_INTFR_2MV_FIELD:
3728             twomv = 1;
3729             v->blk_mv_type[s->block_index[0]] = 1;
3730             v->blk_mv_type[s->block_index[1]] = 1;
3731             v->blk_mv_type[s->block_index[2]] = 1;
3732             v->blk_mv_type[s->block_index[3]] = 1;
3733             break;
3734         case MV_PMODE_INTFR_1MV:
3735             v->blk_mv_type[s->block_index[0]] = 0;
3736             v->blk_mv_type[s->block_index[1]] = 0;
3737             v->blk_mv_type[s->block_index[2]] = 0;
3738             v->blk_mv_type[s->block_index[3]] = 0;
3739             break;
3740         }
3741         if (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_INTRA) { // intra MB
3742             s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
3743             s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
3744             s->current_picture.mb_type[mb_pos]                     = MB_TYPE_INTRA;
3745             s->mb_intra = v->is_intra[s->mb_x] = 1;
3746             for (i = 0; i < 6; i++)
3747                 v->mb_type[0][s->block_index[i]] = 1;
3748             fieldtx = v->fieldtx_plane[mb_pos] = get_bits1(gb);
3749             mb_has_coeffs = get_bits1(gb);
3750             if (mb_has_coeffs)
3751                 cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
3752             v->s.ac_pred = v->acpred_plane[mb_pos] = get_bits1(gb);
3753             GET_MQUANT();
3754             s->current_picture.qscale_table[mb_pos] = mquant;
3755             /* Set DC scale - y and c use the same (not sure if necessary here) */
3756             s->y_dc_scale = s->y_dc_scale_table[mquant];
3757             s->c_dc_scale = s->c_dc_scale_table[mquant];
3758             dst_idx = 0;
3759             for (i = 0; i < 6; i++) {
3760                 s->dc_val[0][s->block_index[i]] = 0;
3761                 dst_idx += i >> 2;
3762                 val = ((cbp >> (5 - i)) & 1);
3763                 v->mb_type[0][s->block_index[i]] = s->mb_intra;
3764                 v->a_avail = v->c_avail = 0;
3765                 if (i == 2 || i == 3 || !s->first_slice_line)
3766                     v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
3767                 if (i == 1 || i == 3 || s->mb_x)
3768                     v->c_avail = v->mb_type[0][s->block_index[i] - 1];
3769
3770                 vc1_decode_intra_block(v, s->block[i], i, val, mquant,
3771                                        (i & 4) ? v->codingset2 : v->codingset);
3772                 if ((i>3) && (s->flags & CODEC_FLAG_GRAY)) continue;
3773                 v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
3774                 if (i < 4) {
3775                     stride_y = s->linesize << fieldtx;
3776                     off = (fieldtx) ? ((i & 1) * 8) + ((i & 2) >> 1) * s->linesize : (i & 1) * 8 + 4 * (i & 2) * s->linesize;
3777                 } else {
3778                     stride_y = s->uvlinesize;
3779                     off = 0;
3780                 }
3781                 s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off, stride_y);
3782                 //TODO: loop filter
3783             }
3784
3785         } else { // inter MB
3786             mb_has_coeffs = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][3];
3787             if (mb_has_coeffs)
3788                 cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
3789             if (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_2MV_FIELD) {
3790                 v->twomvbp = get_vlc2(gb, v->twomvbp_vlc->table, VC1_2MV_BLOCK_PATTERN_VLC_BITS, 1);
3791             } else {
3792                 if ((ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_4MV)
3793                     || (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_4MV_FIELD)) {
3794                     v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
3795                 }
3796             }
3797             s->mb_intra = v->is_intra[s->mb_x] = 0;
3798             for (i = 0; i < 6; i++)
3799                 v->mb_type[0][s->block_index[i]] = 0;
3800             fieldtx = v->fieldtx_plane[mb_pos] = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][1];
3801             /* for all motion vector read MVDATA and motion compensate each block */
3802             dst_idx = 0;
3803             if (fourmv) {
3804                 mvbp = v->fourmvbp;
3805                 for (i = 0; i < 6; i++) {
3806                     if (i < 4) {
3807                         dmv_x = dmv_y = 0;
3808                         val   = ((mvbp >> (3 - i)) & 1);
3809                         if (val) {
3810                             get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
3811                         }
3812                         vc1_pred_mv_intfr(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0]);
3813                         vc1_mc_4mv_luma(v, i, 0);
3814                     } else if (i == 4) {
3815                         vc1_mc_4mv_chroma4(v);
3816                     }
3817                 }
3818             } else if (twomv) {
3819                 mvbp  = v->twomvbp;
3820                 dmv_x = dmv_y = 0;
3821                 if (mvbp & 2) {
3822                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
3823                 }
3824                 vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0]);
3825                 vc1_mc_4mv_luma(v, 0, 0);
3826                 vc1_mc_4mv_luma(v, 1, 0);
3827                 dmv_x = dmv_y = 0;
3828                 if (mvbp & 1) {
3829                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
3830                 }
3831                 vc1_pred_mv_intfr(v, 2, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0]);
3832                 vc1_mc_4mv_luma(v, 2, 0);
3833                 vc1_mc_4mv_luma(v, 3, 0);
3834                 vc1_mc_4mv_chroma4(v);
3835             } else {
3836                 mvbp = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][2];
3837                 dmv_x = dmv_y = 0;
3838                 if (mvbp) {
3839                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
3840                 }
3841                 vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0]);
3842                 vc1_mc_1mv(v, 0);
3843             }
3844             if (cbp)
3845                 GET_MQUANT();  // p. 227
3846             s->current_picture.qscale_table[mb_pos] = mquant;
3847             if (!v->ttmbf && cbp)
3848                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
3849             for (i = 0; i < 6; i++) {
3850                 s->dc_val[0][s->block_index[i]] = 0;
3851                 dst_idx += i >> 2;
3852                 val = ((cbp >> (5 - i)) & 1);
3853                 if (!fieldtx)
3854                     off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
3855                 else
3856                     off = (i & 4) ? 0 : ((i & 1) * 8 + ((i > 1) * s->linesize));
3857                 if (val) {
3858                     pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
3859                                              first_block, s->dest[dst_idx] + off,
3860                                              (i & 4) ? s->uvlinesize : (s->linesize << fieldtx),
3861                                              (i & 4) && (s->flags & CODEC_FLAG_GRAY), &block_tt);
3862                     block_cbp |= pat << (i << 2);
3863                     if (!v->ttmbf && ttmb < 8)
3864                         ttmb = -1;
3865                     first_block = 0;
3866                 }
3867             }
3868         }
3869     } else { // skipped
3870         s->mb_intra = v->is_intra[s->mb_x] = 0;
3871         for (i = 0; i < 6; i++) {
3872             v->mb_type[0][s->block_index[i]] = 0;
3873             s->dc_val[0][s->block_index[i]] = 0;
3874         }
3875         s->current_picture.mb_type[mb_pos]      = MB_TYPE_SKIP;
3876         s->current_picture.qscale_table[mb_pos] = 0;
3877         v->blk_mv_type[s->block_index[0]] = 0;
3878         v->blk_mv_type[s->block_index[1]] = 0;
3879         v->blk_mv_type[s->block_index[2]] = 0;
3880         v->blk_mv_type[s->block_index[3]] = 0;
3881         vc1_pred_mv_intfr(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0]);
3882         vc1_mc_1mv(v, 0);
3883     }
3884     if (s->mb_x == s->mb_width - 1)
3885         memmove(v->is_intra_base, v->is_intra, sizeof(v->is_intra_base[0])*s->mb_stride);
3886     return 0;
3887 }
3888
3889 static int vc1_decode_p_mb_intfi(VC1Context *v)
3890 {
3891     MpegEncContext *s = &v->s;
3892     GetBitContext *gb = &s->gb;
3893     int i;
3894     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
3895     int cbp = 0; /* cbp decoding stuff */
3896     int mqdiff, mquant; /* MB quantization */
3897     int ttmb = v->ttfrm; /* MB Transform type */
3898
3899     int mb_has_coeffs = 1; /* last_flag */
3900     int dmv_x, dmv_y; /* Differential MV components */
3901     int val; /* temp values */
3902     int first_block = 1;
3903     int dst_idx, off;
3904     int pred_flag;
3905     int block_cbp = 0, pat, block_tt = 0;
3906     int idx_mbmode = 0;
3907
3908     mquant = v->pq; /* Loosy initialization */
3909
3910     idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_IF_MBMODE_VLC_BITS, 2);
3911     if (idx_mbmode <= 1) { // intra MB
3912         s->mb_intra = v->is_intra[s->mb_x] = 1;
3913         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
3914         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
3915         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_INTRA;
3916         GET_MQUANT();
3917         s->current_picture.qscale_table[mb_pos] = mquant;
3918         /* Set DC scale - y and c use the same (not sure if necessary here) */
3919         s->y_dc_scale = s->y_dc_scale_table[mquant];
3920         s->c_dc_scale = s->c_dc_scale_table[mquant];
3921         v->s.ac_pred  = v->acpred_plane[mb_pos] = get_bits1(gb);
3922         mb_has_coeffs = idx_mbmode & 1;
3923         if (mb_has_coeffs)
3924             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_ICBPCY_VLC_BITS, 2);
3925         dst_idx = 0;
3926         for (i = 0; i < 6; i++) {
3927             s->dc_val[0][s->block_index[i]]  = 0;
3928             v->mb_type[0][s->block_index[i]] = 1;
3929             dst_idx += i >> 2;
3930             val = ((cbp >> (5 - i)) & 1);
3931             v->a_avail = v->c_avail = 0;
3932             if (i == 2 || i == 3 || !s->first_slice_line)
3933                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
3934             if (i == 1 || i == 3 || s->mb_x)
3935                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
3936
3937             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
3938                                    (i & 4) ? v->codingset2 : v->codingset);
3939             if ((i>3) && (s->flags & CODEC_FLAG_GRAY))
3940                 continue;
3941             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
3942             off  = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
3943             off += v->cur_field_type ? ((i & 4) ? s->current_picture_ptr->f.linesize[1] : s->current_picture_ptr->f.linesize[0]) : 0;
3944             s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off, (i & 4) ? s->uvlinesize : s->linesize);
3945             // TODO: loop filter
3946         }
3947     } else {
3948         s->mb_intra = v->is_intra[s->mb_x] = 0;
3949         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_16x16;
3950         for (i = 0; i < 6; i++) v->mb_type[0][s->block_index[i]] = 0;
3951         if (idx_mbmode <= 5) { // 1-MV
3952             dmv_x = dmv_y = pred_flag = 0;
3953             if (idx_mbmode & 1) {
3954                 get_mvdata_interlaced(v, &dmv_x, &dmv_y, &pred_flag);
3955             }
3956             vc1_pred_mv(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], pred_flag, 0);
3957             vc1_mc_1mv(v, 0);
3958             mb_has_coeffs = !(idx_mbmode & 2);
3959         } else { // 4-MV
3960             v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
3961             for (i = 0; i < 6; i++) {
3962                 if (i < 4) {
3963                     dmv_x = dmv_y = pred_flag = 0;
3964                     val   = ((v->fourmvbp >> (3 - i)) & 1);
3965                     if (val) {
3966                         get_mvdata_interlaced(v, &dmv_x, &dmv_y, &pred_flag);
3967                     }
3968                     vc1_pred_mv(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0], pred_flag, 0);
3969                     vc1_mc_4mv_luma(v, i, 0);
3970                 } else if (i == 4)
3971                     vc1_mc_4mv_chroma(v, 0);
3972             }
3973             mb_has_coeffs = idx_mbmode & 1;
3974         }
3975         if (mb_has_coeffs)
3976             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
3977         if (cbp) {
3978             GET_MQUANT();
3979         }
3980         s->current_picture.qscale_table[mb_pos] = mquant;
3981         if (!v->ttmbf && cbp) {
3982             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
3983         }
3984         dst_idx = 0;
3985         for (i = 0; i < 6; i++) {
3986             s->dc_val[0][s->block_index[i]] = 0;
3987             dst_idx += i >> 2;
3988             val = ((cbp >> (5 - i)) & 1);
3989             off = (i & 4) ? 0 : (i & 1) * 8 + (i & 2) * 4 * s->linesize;
3990             if (v->cur_field_type)
3991                 off += (i & 4) ? s->current_picture_ptr->f.linesize[1] : s->current_picture_ptr->f.linesize[0];
3992             if (val) {
3993                 pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
3994                                          first_block, s->dest[dst_idx] + off,
3995                                          (i & 4) ? s->uvlinesize : s->linesize,
3996                                          (i & 4) && (s->flags & CODEC_FLAG_GRAY),
3997                                          &block_tt);
3998                 block_cbp |= pat << (i << 2);
3999                 if (!v->ttmbf && ttmb < 8) ttmb = -1;
4000                 first_block = 0;
4001             }
4002         }
4003     }
4004     if (s->mb_x == s->mb_width - 1)
4005         memmove(v->is_intra_base, v->is_intra, sizeof(v->is_intra_base[0]) * s->mb_stride);
4006     return 0;
4007 }
4008
4009 /** Decode one B-frame MB (in Main profile)
4010  */
4011 static void vc1_decode_b_mb(VC1Context *v)
4012 {
4013     MpegEncContext *s = &v->s;
4014     GetBitContext *gb = &s->gb;
4015     int i, j;
4016     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
4017     int cbp = 0; /* cbp decoding stuff */
4018     int mqdiff, mquant; /* MB quantization */
4019     int ttmb = v->ttfrm; /* MB Transform type */
4020     int mb_has_coeffs = 0; /* last_flag */
4021     int index, index1; /* LUT indexes */
4022     int val, sign; /* temp values */
4023     int first_block = 1;
4024     int dst_idx, off;
4025     int skipped, direct;
4026     int dmv_x[2], dmv_y[2];
4027     int bmvtype = BMV_TYPE_BACKWARD;
4028
4029     mquant      = v->pq; /* lossy initialization */
4030     s->mb_intra = 0;
4031
4032     if (v->dmb_is_raw)
4033         direct = get_bits1(gb);
4034     else
4035         direct = v->direct_mb_plane[mb_pos];
4036     if (v->skip_is_raw)
4037         skipped = get_bits1(gb);
4038     else
4039         skipped = v->s.mbskip_table[mb_pos];
4040
4041     dmv_x[0] = dmv_x[1] = dmv_y[0] = dmv_y[1] = 0;
4042     for (i = 0; i < 6; i++) {
4043         v->mb_type[0][s->block_index[i]] = 0;
4044         s->dc_val[0][s->block_index[i]]  = 0;
4045     }
4046     s->current_picture.qscale_table[mb_pos] = 0;
4047
4048     if (!direct) {
4049         if (!skipped) {
4050             GET_MVDATA(dmv_x[0], dmv_y[0]);
4051             dmv_x[1] = dmv_x[0];
4052             dmv_y[1] = dmv_y[0];
4053         }
4054         if (skipped || !s->mb_intra) {
4055             bmvtype = decode012(gb);
4056             switch (bmvtype) {
4057             case 0:
4058                 bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_BACKWARD : BMV_TYPE_FORWARD;
4059                 break;
4060             case 1:
4061                 bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_FORWARD : BMV_TYPE_BACKWARD;
4062                 break;
4063             case 2:
4064                 bmvtype  = BMV_TYPE_INTERPOLATED;
4065                 dmv_x[0] = dmv_y[0] = 0;
4066             }
4067         }
4068     }
4069     for (i = 0; i < 6; i++)
4070         v->mb_type[0][s->block_index[i]] = s->mb_intra;
4071
4072     if (skipped) {
4073         if (direct)
4074             bmvtype = BMV_TYPE_INTERPOLATED;
4075         vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4076         vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
4077         return;
4078     }
4079     if (direct) {
4080         cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
4081         GET_MQUANT();
4082         s->mb_intra = 0;
4083         s->current_picture.qscale_table[mb_pos] = mquant;
4084         if (!v->ttmbf)
4085             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
4086         dmv_x[0] = dmv_y[0] = dmv_x[1] = dmv_y[1] = 0;
4087         vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4088         vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
4089     } else {
4090         if (!mb_has_coeffs && !s->mb_intra) {
4091             /* no coded blocks - effectively skipped */
4092             vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4093             vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
4094             return;
4095         }
4096         if (s->mb_intra && !mb_has_coeffs) {
4097             GET_MQUANT();
4098             s->current_picture.qscale_table[mb_pos] = mquant;
4099             s->ac_pred = get_bits1(gb);
4100             cbp = 0;
4101             vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4102         } else {
4103             if (bmvtype == BMV_TYPE_INTERPOLATED) {
4104                 GET_MVDATA(dmv_x[0], dmv_y[0]);
4105                 if (!mb_has_coeffs) {
4106                     /* interpolated skipped block */
4107                     vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4108                     vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
4109                     return;
4110                 }
4111             }
4112             vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
4113             if (!s->mb_intra) {
4114                 vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
4115             }
4116             if (s->mb_intra)
4117                 s->ac_pred = get_bits1(gb);
4118             cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
4119             GET_MQUANT();
4120             s->current_picture.qscale_table[mb_pos] = mquant;
4121             if (!v->ttmbf && !s->mb_intra && mb_has_coeffs)
4122                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
4123         }
4124     }
4125     dst_idx = 0;
4126     for (i = 0; i < 6; i++) {
4127         s->dc_val[0][s->block_index[i]] = 0;
4128         dst_idx += i >> 2;
4129         val = ((cbp >> (5 - i)) & 1);
4130         off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
4131         v->mb_type[0][s->block_index[i]] = s->mb_intra;
4132         if (s->mb_intra) {
4133             /* check if prediction blocks A and C are available */
4134             v->a_avail = v->c_avail = 0;
4135             if (i == 2 || i == 3 || !s->first_slice_line)
4136                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
4137             if (i == 1 || i == 3 || s->mb_x)
4138                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
4139
4140             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
4141                                    (i & 4) ? v->codingset2 : v->codingset);
4142             if ((i>3) && (s->flags & CODEC_FLAG_GRAY))
4143                 continue;
4144             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
4145             if (v->rangeredfrm)
4146                 for (j = 0; j < 64; j++)
4147                     s->block[i][j] <<= 1;
4148             s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off, i & 4 ? s->uvlinesize : s->linesize);
4149         } else if (val) {
4150             vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
4151                                first_block, s->dest[dst_idx] + off,
4152                                (i & 4) ? s->uvlinesize : s->linesize,
4153                                (i & 4) && (s->flags & CODEC_FLAG_GRAY), NULL);
4154             if (!v->ttmbf && ttmb < 8)
4155                 ttmb = -1;
4156             first_block = 0;
4157         }
4158     }
4159 }
4160
4161 /** Decode one B-frame MB (in interlaced field B picture)
4162  */
4163 static void vc1_decode_b_mb_intfi(VC1Context *v)
4164 {
4165     MpegEncContext *s = &v->s;
4166     GetBitContext *gb = &s->gb;
4167     int i, j;
4168     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
4169     int cbp = 0; /* cbp decoding stuff */
4170     int mqdiff, mquant; /* MB quantization */
4171     int ttmb = v->ttfrm; /* MB Transform type */
4172     int mb_has_coeffs = 0; /* last_flag */
4173     int val; /* temp value */
4174     int first_block = 1;
4175     int dst_idx, off;
4176     int fwd;
4177     int dmv_x[2], dmv_y[2], pred_flag[2];
4178     int bmvtype = BMV_TYPE_BACKWARD;
4179     int idx_mbmode, interpmvp;
4180
4181     mquant      = v->pq; /* Loosy initialization */
4182     s->mb_intra = 0;
4183
4184     idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_IF_MBMODE_VLC_BITS, 2);
4185     if (idx_mbmode <= 1) { // intra MB
4186         s->mb_intra = v->is_intra[s->mb_x] = 1;
4187         s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
4188         s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
4189         s->current_picture.mb_type[mb_pos + v->mb_off]         = MB_TYPE_INTRA;
4190         GET_MQUANT();
4191         s->current_picture.qscale_table[mb_pos] = mquant;
4192         /* Set DC scale - y and c use the same (not sure if necessary here) */
4193         s->y_dc_scale = s->y_dc_scale_table[mquant];
4194         s->c_dc_scale = s->c_dc_scale_table[mquant];
4195         v->s.ac_pred  = v->acpred_plane[mb_pos] = get_bits1(gb);
4196         mb_has_coeffs = idx_mbmode & 1;
4197         if (mb_has_coeffs)
4198             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_ICBPCY_VLC_BITS, 2);
4199         dst_idx = 0;
4200         for (i = 0; i < 6; i++) {
4201             s->dc_val[0][s->block_index[i]] = 0;
4202             dst_idx += i >> 2;
4203             val = ((cbp >> (5 - i)) & 1);
4204             v->mb_type[0][s->block_index[i]] = s->mb_intra;
4205             v->a_avail                       = v->c_avail = 0;
4206             if (i == 2 || i == 3 || !s->first_slice_line)
4207                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
4208             if (i == 1 || i == 3 || s->mb_x)
4209                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
4210
4211             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
4212                                    (i & 4) ? v->codingset2 : v->codingset);
4213             if ((i>3) && (s->flags & CODEC_FLAG_GRAY))
4214                 continue;
4215             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
4216             if (v->rangeredfrm)
4217                 for (j = 0; j < 64; j++)
4218                     s->block[i][j] <<= 1;
4219             off  = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
4220             off += v->cur_field_type ? ((i & 4) ? s->current_picture_ptr->f.linesize[1] : s->current_picture_ptr->f.linesize[0]) : 0;
4221             s->dsp.put_signed_pixels_clamped(s->block[i], s->dest[dst_idx] + off, (i & 4) ? s->uvlinesize : s->linesize);
4222             // TODO: yet to perform loop filter
4223         }
4224     } else {
4225         s->mb_intra = v->is_intra[s->mb_x] = 0;
4226         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_16x16;
4227         for (i = 0; i < 6; i++) v->mb_type[0][s->block_index[i]] = 0;
4228         if (v->fmb_is_raw)
4229             fwd = v->forward_mb_plane[mb_pos] = get_bits1(gb);
4230         else
4231             fwd = v->forward_mb_plane[mb_pos];
4232         if (idx_mbmode <= 5) { // 1-MV
4233             dmv_x[0]     = dmv_x[1] = dmv_y[0] = dmv_y[1] = 0;
4234             pred_flag[0] = pred_flag[1] = 0;
4235             if (fwd)
4236                 bmvtype = BMV_TYPE_FORWARD;
4237             else {
4238                 bmvtype = decode012(gb);
4239                 switch (bmvtype) {
4240                 case 0:
4241                     bmvtype = BMV_TYPE_BACKWARD;
4242                     break;
4243                 case 1:
4244                     bmvtype = BMV_TYPE_DIRECT;
4245                     break;
4246                 case 2:
4247                     bmvtype   = BMV_TYPE_INTERPOLATED;
4248                     interpmvp = get_bits1(gb);
4249                 }
4250             }
4251             v->bmvtype = bmvtype;
4252             if (bmvtype != BMV_TYPE_DIRECT && idx_mbmode & 1) {
4253                 get_mvdata_interlaced(v, &dmv_x[bmvtype == BMV_TYPE_BACKWARD], &dmv_y[bmvtype == BMV_TYPE_BACKWARD], &pred_flag[bmvtype == BMV_TYPE_BACKWARD]);
4254             }
4255             if (bmvtype == BMV_TYPE_INTERPOLATED && interpmvp) {
4256                 get_mvdata_interlaced(v, &dmv_x[1], &dmv_y[1], &pred_flag[1]);
4257             }
4258             if (bmvtype == BMV_TYPE_DIRECT) {
4259                 dmv_x[0] = dmv_y[0] = pred_flag[0] = 0;
4260                 dmv_x[1] = dmv_y[1] = pred_flag[0] = 0;
4261             }
4262             vc1_pred_b_mv_intfi(v, 0, dmv_x, dmv_y, 1, pred_flag);
4263             vc1_b_mc(v, dmv_x, dmv_y, (bmvtype == BMV_TYPE_DIRECT), bmvtype);
4264             mb_has_coeffs = !(idx_mbmode & 2);
4265         } else { // 4-MV
4266             if (fwd)
4267                 bmvtype = BMV_TYPE_FORWARD;
4268             v->bmvtype  = bmvtype;
4269             v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
4270             for (i = 0; i < 6; i++) {
4271                 if (i < 4) {
4272                     dmv_x[0] = dmv_y[0] = pred_flag[0] = 0;
4273                     dmv_x[1] = dmv_y[1] = pred_flag[1] = 0;
4274                     val = ((v->fourmvbp >> (3 - i)) & 1);
4275                     if (val) {
4276                         get_mvdata_interlaced(v, &dmv_x[bmvtype == BMV_TYPE_BACKWARD],
4277                                                  &dmv_y[bmvtype == BMV_TYPE_BACKWARD],
4278                                              &pred_flag[bmvtype == BMV_TYPE_BACKWARD]);
4279                     }
4280                     vc1_pred_b_mv_intfi(v, i, dmv_x, dmv_y, 0, pred_flag);
4281                     vc1_mc_4mv_luma(v, i, bmvtype == BMV_TYPE_BACKWARD);
4282                 } else if (i == 4)
4283                     vc1_mc_4mv_chroma(v, bmvtype == BMV_TYPE_BACKWARD);
4284             }
4285             mb_has_coeffs = idx_mbmode & 1;
4286         }
4287         if (mb_has_coeffs)
4288             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
4289         if (cbp) {
4290             GET_MQUANT();
4291         }
4292         s->current_picture.qscale_table[mb_pos] = mquant;
4293         if (!v->ttmbf && cbp) {
4294             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
4295         }
4296         dst_idx = 0;
4297         for (i = 0; i < 6; i++) {
4298             s->dc_val[0][s->block_index[i]] = 0;
4299             dst_idx += i >> 2;
4300             val = ((cbp >> (5 - i)) & 1);
4301             off = (i & 4) ? 0 : (i & 1) * 8 + (i & 2) * 4 * s->linesize;
4302             if (v->cur_field_type)
4303                 off += (i & 4) ? s->current_picture_ptr->f.linesize[1] : s->current_picture_ptr->f.linesize[0];
4304             if (val) {
4305                 vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
4306                                    first_block, s->dest[dst_idx] + off,
4307                                    (i & 4) ? s->uvlinesize : s->linesize,
4308                                    (i & 4) && (s->flags & CODEC_FLAG_GRAY), NULL);
4309                 if (!v->ttmbf && ttmb < 8)
4310                     ttmb = -1;
4311                 first_block = 0;
4312             }
4313         }
4314     }
4315 }
4316
4317 /** Decode blocks of I-frame
4318  */
4319 static void vc1_decode_i_blocks(VC1Context *v)
4320 {
4321     int k, j;
4322     MpegEncContext *s = &v->s;
4323     int cbp, val;
4324     uint8_t *coded_val;
4325     int mb_pos;
4326
4327     /* select codingmode used for VLC tables selection */
4328     switch (v->y_ac_table_index) {
4329     case 0:
4330         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
4331         break;
4332     case 1:
4333         v->codingset = CS_HIGH_MOT_INTRA;
4334         break;
4335     case 2:
4336         v->codingset = CS_MID_RATE_INTRA;
4337         break;
4338     }
4339
4340     switch (v->c_ac_table_index) {
4341     case 0:
4342         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
4343         break;
4344     case 1:
4345         v->codingset2 = CS_HIGH_MOT_INTER;
4346         break;
4347     case 2:
4348         v->codingset2 = CS_MID_RATE_INTER;
4349         break;
4350     }
4351
4352     /* Set DC scale - y and c use the same */
4353     s->y_dc_scale = s->y_dc_scale_table[v->pq];
4354     s->c_dc_scale = s->c_dc_scale_table[v->pq];
4355
4356     //do frame decode
4357     s->mb_x = s->mb_y = 0;
4358     s->mb_intra         = 1;
4359     s->first_slice_line = 1;
4360     for (s->mb_y = 0; s->mb_y < s->end_mb_y; s->mb_y++) {
4361         s->mb_x = 0;
4362         ff_init_block_index(s);
4363         for (; s->mb_x < v->end_mb_x; s->mb_x++) {
4364             uint8_t *dst[6];
4365             ff_update_block_index(s);
4366             dst[0] = s->dest[0];
4367             dst[1] = dst[0] + 8;
4368             dst[2] = s->dest[0] + s->linesize * 8;
4369             dst[3] = dst[2] + 8;
4370             dst[4] = s->dest[1];
4371             dst[5] = s->dest[2];
4372             s->dsp.clear_blocks(s->block[0]);
4373             mb_pos = s->mb_x + s->mb_y * s->mb_width;
4374             s->current_picture.mb_type[mb_pos]                     = MB_TYPE_INTRA;
4375             s->current_picture.qscale_table[mb_pos]                = v->pq;
4376             s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
4377             s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
4378
4379             // do actual MB decoding and displaying
4380             cbp = get_vlc2(&v->s.gb, ff_msmp4_mb_i_vlc.table, MB_INTRA_VLC_BITS, 2);
4381             v->s.ac_pred = get_bits1(&v->s.gb);
4382
4383             for (k = 0; k < 6; k++) {
4384                 val = ((cbp >> (5 - k)) & 1);
4385
4386                 if (k < 4) {
4387                     int pred   = vc1_coded_block_pred(&v->s, k, &coded_val);
4388                     val        = val ^ pred;
4389                     *coded_val = val;
4390                 }
4391                 cbp |= val << (5 - k);
4392
4393                 vc1_decode_i_block(v, s->block[k], k, val, (k < 4) ? v->codingset : v->codingset2);
4394
4395                 if (k > 3 && (s->flags & CODEC_FLAG_GRAY))
4396                     continue;
4397                 v->vc1dsp.vc1_inv_trans_8x8(s->block[k]);
4398                 if (v->pq >= 9 && v->overlap) {
4399                     if (v->rangeredfrm)
4400                         for (j = 0; j < 64; j++)
4401                             s->block[k][j] <<= 1;
4402                     s->dsp.put_signed_pixels_clamped(s->block[k], dst[k], k & 4 ? s->uvlinesize : s->linesize);
4403                 } else {
4404                     if (v->rangeredfrm)
4405                         for (j = 0; j < 64; j++)
4406                             s->block[k][j] = (s->block[k][j] - 64) << 1;
4407                     s->dsp.put_pixels_clamped(s->block[k], dst[k], k & 4 ? s->uvlinesize : s->linesize);
4408                 }
4409             }
4410
4411             if (v->pq >= 9 && v->overlap) {
4412                 if (s->mb_x) {
4413                     v->vc1dsp.vc1_h_overlap(s->dest[0], s->linesize);
4414                     v->vc1dsp.vc1_h_overlap(s->dest[0] + 8 * s->linesize, s->linesize);
4415                     if (!(s->flags & CODEC_FLAG_GRAY)) {
4416                         v->vc1dsp.vc1_h_overlap(s->dest[1], s->uvlinesize);
4417                         v->vc1dsp.vc1_h_overlap(s->dest[2], s->uvlinesize);
4418                     }
4419                 }
4420                 v->vc1dsp.vc1_h_overlap(s->dest[0] + 8, s->linesize);
4421                 v->vc1dsp.vc1_h_overlap(s->dest[0] + 8 * s->linesize + 8, s->linesize);
4422                 if (!s->first_slice_line) {
4423                     v->vc1dsp.vc1_v_overlap(s->dest[0], s->linesize);
4424                     v->vc1dsp.vc1_v_overlap(s->dest[0] + 8, s->linesize);
4425                     if (!(s->flags & CODEC_FLAG_GRAY)) {
4426                         v->vc1dsp.vc1_v_overlap(s->dest[1], s->uvlinesize);
4427                         v->vc1dsp.vc1_v_overlap(s->dest[2], s->uvlinesize);
4428                     }
4429                 }
4430                 v->vc1dsp.vc1_v_overlap(s->dest[0] + 8 * s->linesize, s->linesize);
4431                 v->vc1dsp.vc1_v_overlap(s->dest[0] + 8 * s->linesize + 8, s->linesize);
4432             }
4433             if (v->s.loop_filter) vc1_loop_filter_iblk(v, v->pq);
4434
4435             if (get_bits_count(&s->gb) > v->bits) {
4436                 ff_er_add_slice(&s->er, 0, 0, s->mb_x, s->mb_y, ER_MB_ERROR);
4437                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i\n",
4438                        get_bits_count(&s->gb), v->bits);
4439                 return;
4440             }
4441         }
4442         if (!v->s.loop_filter)
4443             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
4444         else if (s->mb_y)
4445             ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
4446
4447         s->first_slice_line = 0;
4448     }
4449     if (v->s.loop_filter)
4450         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
4451
4452     /* This is intentionally mb_height and not end_mb_y - unlike in advanced
4453      * profile, these only differ are when decoding MSS2 rectangles. */
4454     ff_er_add_slice(&s->er, 0, 0, s->mb_width - 1, s->mb_height - 1, ER_MB_END);
4455 }
4456
4457 /** Decode blocks of I-frame for advanced profile
4458  */
4459 static void vc1_decode_i_blocks_adv(VC1Context *v)
4460 {
4461     int k;
4462     MpegEncContext *s = &v->s;
4463     int cbp, val;
4464     uint8_t *coded_val;
4465     int mb_pos;
4466     int mquant = v->pq;
4467     int mqdiff;
4468     GetBitContext *gb = &s->gb;
4469
4470     /* select codingmode used for VLC tables selection */
4471     switch (v->y_ac_table_index) {
4472     case 0:
4473         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
4474         break;
4475     case 1:
4476         v->codingset = CS_HIGH_MOT_INTRA;
4477         break;
4478     case 2:
4479         v->codingset = CS_MID_RATE_INTRA;
4480         break;
4481     }
4482
4483     switch (v->c_ac_table_index) {
4484     case 0:
4485         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
4486         break;
4487     case 1:
4488         v->codingset2 = CS_HIGH_MOT_INTER;
4489         break;
4490     case 2:
4491         v->codingset2 = CS_MID_RATE_INTER;
4492         break;
4493     }
4494
4495     // do frame decode
4496     s->mb_x             = s->mb_y = 0;
4497     s->mb_intra         = 1;
4498     s->first_slice_line = 1;
4499     s->mb_y             = s->start_mb_y;
4500     if (s->start_mb_y) {
4501         s->mb_x = 0;
4502         ff_init_block_index(s);
4503         memset(&s->coded_block[s->block_index[0] - s->b8_stride], 0,
4504                (1 + s->b8_stride) * sizeof(*s->coded_block));
4505     }
4506     for (; s->mb_y < s->end_mb_y; s->mb_y++) {
4507         s->mb_x = 0;
4508         ff_init_block_index(s);
4509         for (;s->mb_x < s->mb_width; s->mb_x++) {
4510             int16_t (*block)[64] = v->block[v->cur_blk_idx];
4511             ff_update_block_index(s);
4512             s->dsp.clear_blocks(block[0]);
4513             mb_pos = s->mb_x + s->mb_y * s->mb_stride;
4514             s->current_picture.mb_type[mb_pos + v->mb_off]                         = MB_TYPE_INTRA;
4515             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
4516             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
4517
4518             // do actual MB decoding and displaying
4519             if (v->fieldtx_is_raw)
4520                 v->fieldtx_plane[mb_pos] = get_bits1(&v->s.gb);
4521             cbp = get_vlc2(&v->s.gb, ff_msmp4_mb_i_vlc.table, MB_INTRA_VLC_BITS, 2);
4522             if ( v->acpred_is_raw)
4523                 v->s.ac_pred = get_bits1(&v->s.gb);
4524             else
4525                 v->s.ac_pred = v->acpred_plane[mb_pos];
4526
4527             if (v->condover == CONDOVER_SELECT && v->overflg_is_raw)
4528                 v->over_flags_plane[mb_pos] = get_bits1(&v->s.gb);
4529
4530             GET_MQUANT();
4531
4532             s->current_picture.qscale_table[mb_pos] = mquant;
4533             /* Set DC scale - y and c use the same */
4534             s->y_dc_scale = s->y_dc_scale_table[mquant];
4535             s->c_dc_scale = s->c_dc_scale_table[mquant];
4536
4537             for (k = 0; k < 6; k++) {
4538                 val = ((cbp >> (5 - k)) & 1);
4539
4540                 if (k < 4) {
4541                     int pred   = vc1_coded_block_pred(&v->s, k, &coded_val);
4542                     val        = val ^ pred;
4543                     *coded_val = val;
4544                 }
4545                 cbp |= val << (5 - k);
4546
4547                 v->a_avail = !s->first_slice_line || (k == 2 || k == 3);
4548                 v->c_avail = !!s->mb_x || (k == 1 || k == 3);
4549
4550                 vc1_decode_i_block_adv(v, block[k], k, val,
4551                                        (k < 4) ? v->codingset : v->codingset2, mquant);
4552
4553                 if (k > 3 && (s->flags & CODEC_FLAG_GRAY))
4554                     continue;
4555                 v->vc1dsp.vc1_inv_trans_8x8(block[k]);
4556             }
4557
4558             vc1_smooth_overlap_filter_iblk(v);
4559             vc1_put_signed_blocks_clamped(v);
4560             if (v->s.loop_filter) vc1_loop_filter_iblk_delayed(v, v->pq);
4561
4562             if (get_bits_count(&s->gb) > v->bits) {
4563                 // TODO: may need modification to handle slice coding
4564                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
4565                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i\n",
4566                        get_bits_count(&s->gb), v->bits);
4567                 return;
4568             }
4569         }
4570         if (!v->s.loop_filter)
4571             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
4572         else if (s->mb_y)
4573             ff_mpeg_draw_horiz_band(s, (s->mb_y-1) * 16, 16);
4574         s->first_slice_line = 0;
4575     }
4576
4577     /* raw bottom MB row */
4578     s->mb_x = 0;
4579     ff_init_block_index(s);
4580     for (;s->mb_x < s->mb_width; s->mb_x++) {
4581         ff_update_block_index(s);
4582         vc1_put_signed_blocks_clamped(v);
4583         if (v->s.loop_filter)
4584             vc1_loop_filter_iblk_delayed(v, v->pq);
4585     }
4586     if (v->s.loop_filter)
4587         ff_mpeg_draw_horiz_band(s, (s->end_mb_y-1)*16, 16);
4588     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
4589                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
4590 }
4591
4592 static void vc1_decode_p_blocks(VC1Context *v)
4593 {
4594     MpegEncContext *s = &v->s;
4595     int apply_loop_filter;
4596
4597     /* select codingmode used for VLC tables selection */
4598     switch (v->c_ac_table_index) {
4599     case 0:
4600         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
4601         break;
4602     case 1:
4603         v->codingset = CS_HIGH_MOT_INTRA;
4604         break;
4605     case 2:
4606         v->codingset = CS_MID_RATE_INTRA;
4607         break;
4608     }
4609
4610     switch (v->c_ac_table_index) {
4611     case 0:
4612         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
4613         break;
4614     case 1:
4615         v->codingset2 = CS_HIGH_MOT_INTER;
4616         break;
4617     case 2:
4618         v->codingset2 = CS_MID_RATE_INTER;
4619         break;
4620     }
4621
4622     apply_loop_filter   = s->loop_filter && !(s->avctx->skip_loop_filter >= AVDISCARD_NONKEY);
4623     s->first_slice_line = 1;
4624     memset(v->cbp_base, 0, sizeof(v->cbp_base[0])*2*s->mb_stride);
4625     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
4626         s->mb_x = 0;
4627         ff_init_block_index(s);
4628         for (; s->mb_x < s->mb_width; s->mb_x++) {
4629             ff_update_block_index(s);
4630
4631             if (v->fcm == ILACE_FIELD)
4632                 vc1_decode_p_mb_intfi(v);
4633             else if (v->fcm == ILACE_FRAME)
4634                 vc1_decode_p_mb_intfr(v);
4635             else vc1_decode_p_mb(v);
4636             if (s->mb_y != s->start_mb_y && apply_loop_filter && v->fcm == PROGRESSIVE)
4637                 vc1_apply_p_loop_filter(v);
4638             if (get_bits_count(&s->gb) > v->bits || get_bits_count(&s->gb) < 0) {
4639                 // TODO: may need modification to handle slice coding
4640                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
4641                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i at %ix%i\n",
4642                        get_bits_count(&s->gb), v->bits, s->mb_x, s->mb_y);
4643                 return;
4644             }
4645         }
4646         memmove(v->cbp_base,      v->cbp,      sizeof(v->cbp_base[0])      * s->mb_stride);
4647         memmove(v->ttblk_base,    v->ttblk,    sizeof(v->ttblk_base[0])    * s->mb_stride);
4648         memmove(v->is_intra_base, v->is_intra, sizeof(v->is_intra_base[0]) * s->mb_stride);
4649         memmove(v->luma_mv_base,  v->luma_mv,  sizeof(v->luma_mv_base[0])  * s->mb_stride);
4650         if (s->mb_y != s->start_mb_y) ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
4651         s->first_slice_line = 0;
4652     }
4653     if (apply_loop_filter) {
4654         s->mb_x = 0;
4655         ff_init_block_index(s);
4656         for (; s->mb_x < s->mb_width; s->mb_x++) {
4657             ff_update_block_index(s);
4658             vc1_apply_p_loop_filter(v);
4659         }
4660     }
4661     if (s->end_mb_y >= s->start_mb_y)
4662         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
4663     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
4664                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
4665 }
4666
4667 static void vc1_decode_b_blocks(VC1Context *v)
4668 {
4669     MpegEncContext *s = &v->s;
4670
4671     /* select codingmode used for VLC tables selection */
4672     switch (v->c_ac_table_index) {
4673     case 0:
4674         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
4675         break;
4676     case 1:
4677         v->codingset = CS_HIGH_MOT_INTRA;
4678         break;
4679     case 2:
4680         v->codingset = CS_MID_RATE_INTRA;
4681         break;
4682     }
4683
4684     switch (v->c_ac_table_index) {
4685     case 0:
4686         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
4687         break;
4688     case 1:
4689         v->codingset2 = CS_HIGH_MOT_INTER;
4690         break;
4691     case 2:
4692         v->codingset2 = CS_MID_RATE_INTER;
4693         break;
4694     }
4695
4696     s->first_slice_line = 1;
4697     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
4698         s->mb_x = 0;
4699         ff_init_block_index(s);
4700         for (; s->mb_x < s->mb_width; s->mb_x++) {
4701             ff_update_block_index(s);
4702
4703             if (v->fcm == ILACE_FIELD)
4704                 vc1_decode_b_mb_intfi(v);
4705             else
4706                 vc1_decode_b_mb(v);
4707             if (get_bits_count(&s->gb) > v->bits || get_bits_count(&s->gb) < 0) {
4708                 // TODO: may need modification to handle slice coding
4709                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
4710                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i at %ix%i\n",
4711                        get_bits_count(&s->gb), v->bits, s->mb_x, s->mb_y);
4712                 return;
4713             }
4714             if (v->s.loop_filter) vc1_loop_filter_iblk(v, v->pq);
4715         }
4716         if (!v->s.loop_filter)
4717             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
4718         else if (s->mb_y)
4719             ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
4720         s->first_slice_line = 0;
4721     }
4722     if (v->s.loop_filter)
4723         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
4724     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
4725                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
4726 }
4727
4728 static void vc1_decode_skip_blocks(VC1Context *v)
4729 {
4730     MpegEncContext *s = &v->s;
4731
4732     ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_width - 1, s->end_mb_y - 1, ER_MB_END);
4733     s->first_slice_line = 1;
4734     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
4735         s->mb_x = 0;
4736         ff_init_block_index(s);
4737         ff_update_block_index(s);
4738         memcpy(s->dest[0], s->last_picture.f.data[0] + s->mb_y * 16 * s->linesize,   s->linesize   * 16);
4739         memcpy(s->dest[1], s->last_picture.f.data[1] + s->mb_y *  8 * s->uvlinesize, s->uvlinesize *  8);
4740         memcpy(s->dest[2], s->last_picture.f.data[2] + s->mb_y *  8 * s->uvlinesize, s->uvlinesize *  8);
4741         ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
4742         s->first_slice_line = 0;
4743     }
4744     s->pict_type = AV_PICTURE_TYPE_P;
4745 }
4746
4747 void ff_vc1_decode_blocks(VC1Context *v)
4748 {
4749
4750     v->s.esc3_level_length = 0;
4751     if (v->x8_type) {
4752         ff_intrax8_decode_picture(&v->x8, 2*v->pq + v->halfpq, v->pq * !v->pquantizer);
4753     } else {
4754         v->cur_blk_idx     =  0;
4755         v->left_blk_idx    = -1;
4756         v->topleft_blk_idx =  1;
4757         v->top_blk_idx     =  2;
4758         switch (v->s.pict_type) {
4759         case AV_PICTURE_TYPE_I:
4760             if (v->profile == PROFILE_ADVANCED)
4761                 vc1_decode_i_blocks_adv(v);
4762             else
4763                 vc1_decode_i_blocks(v);
4764             break;
4765         case AV_PICTURE_TYPE_P:
4766             if (v->p_frame_skipped)
4767                 vc1_decode_skip_blocks(v);
4768             else
4769                 vc1_decode_p_blocks(v);
4770             break;
4771         case AV_PICTURE_TYPE_B:
4772             if (v->bi_type) {
4773                 if (v->profile == PROFILE_ADVANCED)
4774                     vc1_decode_i_blocks_adv(v);
4775                 else
4776                     vc1_decode_i_blocks(v);
4777             } else
4778                 vc1_decode_b_blocks(v);
4779             break;
4780         }
4781     }
4782 }
4783
4784 #if CONFIG_WMV3IMAGE_DECODER || CONFIG_VC1IMAGE_DECODER
4785
4786 typedef struct {
4787     /**
4788      * Transform coefficients for both sprites in 16.16 fixed point format,
4789      * in the order they appear in the bitstream:
4790      *  x scale
4791      *  rotation 1 (unused)
4792      *  x offset
4793      *  rotation 2 (unused)
4794      *  y scale
4795      *  y offset
4796      *  alpha
4797      */
4798     int coefs[2][7];
4799
4800     int effect_type, effect_flag;
4801     int effect_pcount1, effect_pcount2;   ///< amount of effect parameters stored in effect_params
4802     int effect_params1[15], effect_params2[10]; ///< effect parameters in 16.16 fixed point format
4803 } SpriteData;
4804
4805 static inline int get_fp_val(GetBitContext* gb)
4806 {
4807     return (get_bits_long(gb, 30) - (1 << 29)) << 1;
4808 }
4809
4810 static void vc1_sprite_parse_transform(GetBitContext* gb, int c[7])
4811 {
4812     c[1] = c[3] = 0;
4813
4814     switch (get_bits(gb, 2)) {
4815     case 0:
4816         c[0] = 1 << 16;
4817         c[2] = get_fp_val(gb);
4818         c[4] = 1 << 16;
4819         break;
4820     case 1:
4821         c[0] = c[4] = get_fp_val(gb);
4822         c[2] = get_fp_val(gb);
4823         break;
4824     case 2:
4825         c[0] = get_fp_val(gb);
4826         c[2] = get_fp_val(gb);
4827         c[4] = get_fp_val(gb);
4828         break;
4829     case 3:
4830         c[0] = get_fp_val(gb);
4831         c[1] = get_fp_val(gb);
4832         c[2] = get_fp_val(gb);
4833         c[3] = get_fp_val(gb);
4834         c[4] = get_fp_val(gb);
4835         break;
4836     }
4837     c[5] = get_fp_val(gb);
4838     if (get_bits1(gb))
4839         c[6] = get_fp_val(gb);
4840     else
4841         c[6] = 1 << 16;
4842 }
4843
4844 static void vc1_parse_sprites(VC1Context *v, GetBitContext* gb, SpriteData* sd)
4845 {
4846     AVCodecContext *avctx = v->s.avctx;
4847     int sprite, i;
4848
4849     for (sprite = 0; sprite <= v->two_sprites; sprite++) {
4850         vc1_sprite_parse_transform(gb, sd->coefs[sprite]);
4851         if (sd->coefs[sprite][1] || sd->coefs[sprite][3])
4852             avpriv_request_sample(avctx, "Non-zero rotation coefficients");
4853         av_log(avctx, AV_LOG_DEBUG, sprite ? "S2:" : "S1:");
4854         for (i = 0; i < 7; i++)
4855             av_log(avctx, AV_LOG_DEBUG, " %d.%.3d",
4856                    sd->coefs[sprite][i] / (1<<16),
4857                    (abs(sd->coefs[sprite][i]) & 0xFFFF) * 1000 / (1 << 16));
4858         av_log(avctx, AV_LOG_DEBUG, "\n");
4859     }
4860
4861     skip_bits(gb, 2);
4862     if (sd->effect_type = get_bits_long(gb, 30)) {
4863         switch (sd->effect_pcount1 = get_bits(gb, 4)) {
4864         case 7:
4865             vc1_sprite_parse_transform(gb, sd->effect_params1);
4866             break;
4867         case 14:
4868             vc1_sprite_parse_transform(gb, sd->effect_params1);
4869             vc1_sprite_parse_transform(gb, sd->effect_params1 + 7);
4870             break;
4871         default:
4872             for (i = 0; i < sd->effect_pcount1; i++)
4873                 sd->effect_params1[i] = get_fp_val(gb);
4874         }
4875         if (sd->effect_type != 13 || sd->effect_params1[0] != sd->coefs[0][6]) {
4876             // effect 13 is simple alpha blending and matches the opacity above
4877             av_log(avctx, AV_LOG_DEBUG, "Effect: %d; params: ", sd->effect_type);
4878             for (i = 0; i < sd->effect_pcount1; i++)
4879                 av_log(avctx, AV_LOG_DEBUG, " %d.%.2d",
4880                        sd->effect_params1[i] / (1 << 16),
4881                        (abs(sd->effect_params1[i]) & 0xFFFF) * 1000 / (1 << 16));
4882             av_log(avctx, AV_LOG_DEBUG, "\n");
4883         }
4884
4885         sd->effect_pcount2 = get_bits(gb, 16);
4886         if (sd->effect_pcount2 > 10) {
4887             av_log(avctx, AV_LOG_ERROR, "Too many effect parameters\n");
4888             return;
4889         } else if (sd->effect_pcount2) {
4890             i = -1;
4891             av_log(avctx, AV_LOG_DEBUG, "Effect params 2: ");
4892             while (++i < sd->effect_pcount2) {
4893                 sd->effect_params2[i] = get_fp_val(gb);
4894                 av_log(avctx, AV_LOG_DEBUG, " %d.%.2d",
4895                        sd->effect_params2[i] / (1 << 16),
4896                        (abs(sd->effect_params2[i]) & 0xFFFF) * 1000 / (1 << 16));
4897             }
4898             av_log(avctx, AV_LOG_DEBUG, "\n");
4899         }
4900     }
4901     if (sd->effect_flag = get_bits1(gb))
4902         av_log(avctx, AV_LOG_DEBUG, "Effect flag set\n");
4903
4904     if (get_bits_count(gb) >= gb->size_in_bits +
4905        (avctx->codec_id == AV_CODEC_ID_WMV3IMAGE ? 64 : 0))
4906         av_log(avctx, AV_LOG_ERROR, "Buffer overrun\n");
4907     if (get_bits_count(gb) < gb->size_in_bits - 8)
4908         av_log(avctx, AV_LOG_WARNING, "Buffer not fully read\n");
4909 }
4910
4911 static void vc1_draw_sprites(VC1Context *v, SpriteData* sd)
4912 {
4913     int i, plane, row, sprite;
4914     int sr_cache[2][2] = { { -1, -1 }, { -1, -1 } };
4915     uint8_t* src_h[2][2];
4916     int xoff[2], xadv[2], yoff[2], yadv[2], alpha;
4917     int ysub[2];
4918     MpegEncContext *s = &v->s;
4919
4920     for (i = 0; i < 2; i++) {
4921         xoff[i] = av_clip(sd->coefs[i][2], 0, v->sprite_width-1 << 16);
4922         xadv[i] = sd->coefs[i][0];
4923         if (xadv[i] != 1<<16 || (v->sprite_width << 16) - (v->output_width << 16) - xoff[i])
4924             xadv[i] = av_clip(xadv[i], 0, ((v->sprite_width<<16) - xoff[i] - 1) / v->output_width);
4925
4926         yoff[i] = av_clip(sd->coefs[i][5], 0, v->sprite_height-1 << 16);
4927         yadv[i] = av_clip(sd->coefs[i][4], 0, ((v->sprite_height << 16) - yoff[i]) / v->output_height);
4928     }
4929     alpha = av_clip(sd->coefs[1][6], 0, (1<<16) - 1);
4930
4931     for (plane = 0; plane < (s->flags&CODEC_FLAG_GRAY ? 1 : 3); plane++) {
4932         int width = v->output_width>>!!plane;
4933
4934         for (row = 0; row < v->output_height>>!!plane; row++) {
4935             uint8_t *dst = v->sprite_output_frame.data[plane] +
4936                            v->sprite_output_frame.linesize[plane] * row;
4937
4938             for (sprite = 0; sprite <= v->two_sprites; sprite++) {
4939                 uint8_t *iplane = s->current_picture.f.data[plane];
4940                 int      iline  = s->current_picture.f.linesize[plane];
4941                 int      ycoord = yoff[sprite] + yadv[sprite] * row;
4942                 int      yline  = ycoord >> 16;
4943                 int      next_line;
4944                 ysub[sprite] = ycoord & 0xFFFF;
4945                 if (sprite) {
4946                     iplane = s->last_picture.f.data[plane];
4947                     iline  = s->last_picture.f.linesize[plane];
4948                 }
4949                 next_line = FFMIN(yline + 1, (v->sprite_height >> !!plane) - 1) * iline;
4950                 if (!(xoff[sprite] & 0xFFFF) && xadv[sprite] == 1 << 16) {
4951                         src_h[sprite][0] = iplane + (xoff[sprite] >> 16) +  yline      * iline;
4952                     if (ysub[sprite])
4953                         src_h[sprite][1] = iplane + (xoff[sprite] >> 16) + next_line;
4954                 } else {
4955                     if (sr_cache[sprite][0] != yline) {
4956                         if (sr_cache[sprite][1] == yline) {
4957                             FFSWAP(uint8_t*, v->sr_rows[sprite][0], v->sr_rows[sprite][1]);
4958                             FFSWAP(int,        sr_cache[sprite][0],   sr_cache[sprite][1]);
4959                         } else {
4960                             v->vc1dsp.sprite_h(v->sr_rows[sprite][0], iplane + yline * iline, xoff[sprite], xadv[sprite], width);
4961                             sr_cache[sprite][0] = yline;
4962                         }
4963                     }
4964                     if (ysub[sprite] && sr_cache[sprite][1] != yline + 1) {
4965                         v->vc1dsp.sprite_h(v->sr_rows[sprite][1],
4966                                            iplane + next_line, xoff[sprite],
4967                                            xadv[sprite], width);
4968                         sr_cache[sprite][1] = yline + 1;
4969                     }
4970                     src_h[sprite][0] = v->sr_rows[sprite][0];
4971                     src_h[sprite][1] = v->sr_rows[sprite][1];
4972                 }
4973             }
4974
4975             if (!v->two_sprites) {
4976                 if (ysub[0]) {
4977                     v->vc1dsp.sprite_v_single(dst, src_h[0][0], src_h[0][1], ysub[0], width);
4978                 } else {
4979                     memcpy(dst, src_h[0][0], width);
4980                 }
4981             } else {
4982                 if (ysub[0] && ysub[1]) {
4983                     v->vc1dsp.sprite_v_double_twoscale(dst, src_h[0][0], src_h[0][1], ysub[0],
4984                                                        src_h[1][0], src_h[1][1], ysub[1], alpha, width);
4985                 } else if (ysub[0]) {
4986                     v->vc1dsp.sprite_v_double_onescale(dst, src_h[0][0], src_h[0][1], ysub[0],
4987                                                        src_h[1][0], alpha, width);
4988                 } else if (ysub[1]) {
4989                     v->vc1dsp.sprite_v_double_onescale(dst, src_h[1][0], src_h[1][1], ysub[1],
4990                                                        src_h[0][0], (1<<16)-1-alpha, width);
4991                 } else {
4992                     v->vc1dsp.sprite_v_double_noscale(dst, src_h[0][0], src_h[1][0], alpha, width);
4993                 }
4994             }
4995         }
4996
4997         if (!plane) {
4998             for (i = 0; i < 2; i++) {
4999                 xoff[i] >>= 1;
5000                 yoff[i] >>= 1;
5001             }
5002         }
5003
5004     }
5005 }
5006
5007
5008 static int vc1_decode_sprites(VC1Context *v, GetBitContext* gb)
5009 {
5010     MpegEncContext *s     = &v->s;
5011     AVCodecContext *avctx = s->avctx;
5012     SpriteData sd;
5013
5014     vc1_parse_sprites(v, gb, &sd);
5015
5016     if (!s->current_picture.f.data[0]) {
5017         av_log(avctx, AV_LOG_ERROR, "Got no sprites\n");
5018         return -1;
5019     }
5020
5021     if (v->two_sprites && (!s->last_picture_ptr || !s->last_picture.f.data[0])) {
5022         av_log(avctx, AV_LOG_WARNING, "Need two sprites, only got one\n");
5023         v->two_sprites = 0;
5024     }
5025
5026     av_frame_unref(&v->sprite_output_frame);
5027     if (ff_get_buffer(avctx, &v->sprite_output_frame, 0) < 0) {
5028         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
5029         return -1;
5030     }
5031
5032     vc1_draw_sprites(v, &sd);
5033
5034     return 0;
5035 }
5036
5037 static void vc1_sprite_flush(AVCodecContext *avctx)
5038 {
5039     VC1Context *v     = avctx->priv_data;
5040     MpegEncContext *s = &v->s;
5041     AVFrame *f = &s->current_picture.f;
5042     int plane, i;
5043
5044     /* Windows Media Image codecs have a convergence interval of two keyframes.
5045        Since we can't enforce it, clear to black the missing sprite. This is
5046        wrong but it looks better than doing nothing. */
5047
5048     if (f->data[0])
5049         for (plane = 0; plane < (s->flags&CODEC_FLAG_GRAY ? 1 : 3); plane++)
5050             for (i = 0; i < v->sprite_height>>!!plane; i++)
5051                 memset(f->data[plane] + i * f->linesize[plane],
5052                        plane ? 128 : 0, f->linesize[plane]);
5053 }
5054
5055 #endif
5056
5057 av_cold int ff_vc1_decode_init_alloc_tables(VC1Context *v)
5058 {
5059     MpegEncContext *s = &v->s;
5060     int i;
5061
5062     /* Allocate mb bitplanes */
5063     v->mv_type_mb_plane = av_malloc (s->mb_stride * s->mb_height);
5064     v->direct_mb_plane  = av_malloc (s->mb_stride * s->mb_height);
5065     v->forward_mb_plane = av_malloc (s->mb_stride * s->mb_height);
5066     v->fieldtx_plane    = av_mallocz(s->mb_stride * s->mb_height);
5067     v->acpred_plane     = av_malloc (s->mb_stride * s->mb_height);
5068     v->over_flags_plane = av_malloc (s->mb_stride * s->mb_height);
5069
5070     v->n_allocated_blks = s->mb_width + 2;
5071     v->block            = av_malloc(sizeof(*v->block) * v->n_allocated_blks);
5072     v->cbp_base         = av_malloc(sizeof(v->cbp_base[0]) * 2 * s->mb_stride);
5073     v->cbp              = v->cbp_base + s->mb_stride;
5074     v->ttblk_base       = av_malloc(sizeof(v->ttblk_base[0]) * 2 * s->mb_stride);
5075     v->ttblk            = v->ttblk_base + s->mb_stride;
5076     v->is_intra_base    = av_mallocz(sizeof(v->is_intra_base[0]) * 2 * s->mb_stride);
5077     v->is_intra         = v->is_intra_base + s->mb_stride;
5078     v->luma_mv_base     = av_malloc(sizeof(v->luma_mv_base[0]) * 2 * s->mb_stride);
5079     v->luma_mv          = v->luma_mv_base + s->mb_stride;
5080
5081     /* allocate block type info in that way so it could be used with s->block_index[] */
5082     v->mb_type_base = av_malloc(s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2);
5083     v->mb_type[0]   = v->mb_type_base + s->b8_stride + 1;
5084     v->mb_type[1]   = v->mb_type_base + s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride + 1;
5085     v->mb_type[2]   = v->mb_type[1] + s->mb_stride * (s->mb_height + 1);
5086
5087     /* allocate memory to store block level MV info */
5088     v->blk_mv_type_base = av_mallocz(     s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2);
5089     v->blk_mv_type      = v->blk_mv_type_base + s->b8_stride + 1;
5090     v->mv_f_base        = av_mallocz(2 * (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2));
5091     v->mv_f[0]          = v->mv_f_base + s->b8_stride + 1;
5092     v->mv_f[1]          = v->mv_f[0] + (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2);
5093     v->mv_f_last_base   = av_mallocz(2 * (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2));
5094     v->mv_f_last[0]     = v->mv_f_last_base + s->b8_stride + 1;
5095     v->mv_f_last[1]     = v->mv_f_last[0] + (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2);
5096     v->mv_f_next_base   = av_mallocz(2 * (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2));
5097     v->mv_f_next[0]     = v->mv_f_next_base + s->b8_stride + 1;
5098     v->mv_f_next[1]     = v->mv_f_next[0] + (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2);
5099
5100     /* Init coded blocks info */
5101     if (v->profile == PROFILE_ADVANCED) {
5102 //        if (alloc_bitplane(&v->over_flags_plane, s->mb_width, s->mb_height) < 0)
5103 //            return -1;
5104 //        if (alloc_bitplane(&v->ac_pred_plane, s->mb_width, s->mb_height) < 0)
5105 //            return -1;
5106     }
5107
5108     ff_intrax8_common_init(&v->x8,s);
5109
5110     if (s->avctx->codec_id == AV_CODEC_ID_WMV3IMAGE || s->avctx->codec_id == AV_CODEC_ID_VC1IMAGE) {
5111         for (i = 0; i < 4; i++)
5112             if (!(v->sr_rows[i >> 1][i & 1] = av_malloc(v->output_width))) return -1;
5113     }
5114
5115     if (!v->mv_type_mb_plane || !v->direct_mb_plane || !v->acpred_plane || !v->over_flags_plane ||
5116         !v->block || !v->cbp_base || !v->ttblk_base || !v->is_intra_base || !v->luma_mv_base ||
5117         !v->mb_type_base)
5118             return -1;
5119
5120     return 0;
5121 }
5122
5123 av_cold void ff_vc1_init_transposed_scantables(VC1Context *v)
5124 {
5125     int i;
5126     for (i = 0; i < 64; i++) {
5127 #define transpose(x) ((x >> 3) | ((x & 7) << 3))
5128         v->zz_8x8[0][i] = transpose(ff_wmv1_scantable[0][i]);
5129         v->zz_8x8[1][i] = transpose(ff_wmv1_scantable[1][i]);
5130         v->zz_8x8[2][i] = transpose(ff_wmv1_scantable[2][i]);
5131         v->zz_8x8[3][i] = transpose(ff_wmv1_scantable[3][i]);
5132         v->zzi_8x8[i]   = transpose(ff_vc1_adv_interlaced_8x8_zz[i]);
5133     }
5134     v->left_blk_sh = 0;
5135     v->top_blk_sh  = 3;
5136 }
5137
5138 /** Initialize a VC1/WMV3 decoder
5139  * @todo TODO: Handle VC-1 IDUs (Transport level?)
5140  * @todo TODO: Decypher remaining bits in extra_data
5141  */
5142 static av_cold int vc1_decode_init(AVCodecContext *avctx)
5143 {
5144     VC1Context *v = avctx->priv_data;
5145     MpegEncContext *s = &v->s;
5146     GetBitContext gb;
5147
5148     /* save the container output size for WMImage */
5149     v->output_width  = avctx->width;
5150     v->output_height = avctx->height;
5151
5152     if (!avctx->extradata_size || !avctx->extradata)
5153         return -1;
5154     if (!(avctx->flags & CODEC_FLAG_GRAY))
5155         avctx->pix_fmt = avctx->get_format(avctx, avctx->codec->pix_fmts);
5156     else
5157         avctx->pix_fmt = AV_PIX_FMT_GRAY8;
5158     avctx->hwaccel = ff_find_hwaccel(avctx->codec->id, avctx->pix_fmt);
5159     v->s.avctx = avctx;
5160     avctx->flags |= CODEC_FLAG_EMU_EDGE;
5161     v->s.flags   |= CODEC_FLAG_EMU_EDGE;
5162
5163     if (ff_vc1_init_common(v) < 0)
5164         return -1;
5165     ff_h264chroma_init(&v->h264chroma, 8);
5166     ff_vc1dsp_init(&v->vc1dsp);
5167
5168     if (avctx->codec_id == AV_CODEC_ID_WMV3 || avctx->codec_id == AV_CODEC_ID_WMV3IMAGE) {
5169         int count = 0;
5170
5171         // looks like WMV3 has a sequence header stored in the extradata
5172         // advanced sequence header may be before the first frame
5173         // the last byte of the extradata is a version number, 1 for the
5174         // samples we can decode
5175
5176         init_get_bits(&gb, avctx->extradata, avctx->extradata_size*8);
5177
5178         if (ff_vc1_decode_sequence_header(avctx, v, &gb) < 0)
5179           return -1;
5180
5181         count = avctx->extradata_size*8 - get_bits_count(&gb);
5182         if (count > 0) {
5183             av_log(avctx, AV_LOG_INFO, "Extra data: %i bits left, value: %X\n",
5184                    count, get_bits(&gb, count));
5185         } else if (count < 0) {
5186             av_log(avctx, AV_LOG_INFO, "Read %i bits in overflow\n", -count);
5187         }
5188     } else { // VC1/WVC1/WVP2
5189         const uint8_t *start = avctx->extradata;
5190         uint8_t *end = avctx->extradata + avctx->extradata_size;
5191         const uint8_t *next;
5192         int size, buf2_size;
5193         uint8_t *buf2 = NULL;
5194         int seq_initialized = 0, ep_initialized = 0;
5195
5196         if (avctx->extradata_size < 16) {
5197             av_log(avctx, AV_LOG_ERROR, "Extradata size too small: %i\n", avctx->extradata_size);
5198             return -1;
5199         }
5200
5201         buf2  = av_mallocz(avctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
5202         start = find_next_marker(start, end); // in WVC1 extradata first byte is its size, but can be 0 in mkv
5203         next  = start;
5204         for (; next < end; start = next) {
5205             next = find_next_marker(start + 4, end);
5206             size = next - start - 4;
5207             if (size <= 0)
5208                 continue;
5209             buf2_size = vc1_unescape_buffer(start + 4, size, buf2);
5210             init_get_bits(&gb, buf2, buf2_size * 8);
5211             switch (AV_RB32(start)) {
5212             case VC1_CODE_SEQHDR:
5213                 if (ff_vc1_decode_sequence_header(avctx, v, &gb) < 0) {
5214                     av_free(buf2);
5215                     return -1;
5216                 }
5217                 seq_initialized = 1;
5218                 break;
5219             case VC1_CODE_ENTRYPOINT:
5220                 if (ff_vc1_decode_entry_point(avctx, v, &gb) < 0) {
5221                     av_free(buf2);
5222                     return -1;
5223                 }
5224                 ep_initialized = 1;
5225                 break;
5226             }
5227         }
5228         av_free(buf2);
5229         if (!seq_initialized || !ep_initialized) {
5230             av_log(avctx, AV_LOG_ERROR, "Incomplete extradata\n");
5231             return -1;
5232         }
5233         v->res_sprite = (avctx->codec_id == AV_CODEC_ID_VC1IMAGE);
5234     }
5235
5236     avctx->profile = v->profile;
5237     if (v->profile == PROFILE_ADVANCED)
5238         avctx->level = v->level;
5239
5240     avctx->has_b_frames = !!avctx->max_b_frames;
5241
5242     s->mb_width  = (avctx->coded_width  + 15) >> 4;
5243     s->mb_height = (avctx->coded_height + 15) >> 4;
5244
5245     if (v->profile == PROFILE_ADVANCED || v->res_fasttx) {
5246         ff_vc1_init_transposed_scantables(v);
5247     } else {
5248         memcpy(v->zz_8x8, ff_wmv1_scantable, 4*64);
5249         v->left_blk_sh = 3;
5250         v->top_blk_sh  = 0;
5251     }
5252
5253     if (avctx->codec_id == AV_CODEC_ID_WMV3IMAGE || avctx->codec_id == AV_CODEC_ID_VC1IMAGE) {
5254         v->sprite_width  = avctx->coded_width;
5255         v->sprite_height = avctx->coded_height;
5256
5257         avctx->coded_width  = avctx->width  = v->output_width;
5258         avctx->coded_height = avctx->height = v->output_height;
5259
5260         // prevent 16.16 overflows
5261         if (v->sprite_width  > 1 << 14 ||
5262             v->sprite_height > 1 << 14 ||
5263             v->output_width  > 1 << 14 ||
5264             v->output_height > 1 << 14) return -1;
5265     }
5266     return 0;
5267 }
5268
5269 /** Close a VC1/WMV3 decoder
5270  * @warning Initial try at using MpegEncContext stuff
5271  */
5272 av_cold int ff_vc1_decode_end(AVCodecContext *avctx)
5273 {
5274     VC1Context *v = avctx->priv_data;
5275     int i;
5276
5277     av_frame_unref(&v->sprite_output_frame);
5278
5279     for (i = 0; i < 4; i++)
5280         av_freep(&v->sr_rows[i >> 1][i & 1]);
5281     av_freep(&v->hrd_rate);
5282     av_freep(&v->hrd_buffer);
5283     ff_MPV_common_end(&v->s);
5284     av_freep(&v->mv_type_mb_plane);
5285     av_freep(&v->direct_mb_plane);
5286     av_freep(&v->forward_mb_plane);
5287     av_freep(&v->fieldtx_plane);
5288     av_freep(&v->acpred_plane);
5289     av_freep(&v->over_flags_plane);
5290     av_freep(&v->mb_type_base);
5291     av_freep(&v->blk_mv_type_base);
5292     av_freep(&v->mv_f_base);
5293     av_freep(&v->mv_f_last_base);
5294     av_freep(&v->mv_f_next_base);
5295     av_freep(&v->block);
5296     av_freep(&v->cbp_base);
5297     av_freep(&v->ttblk_base);
5298     av_freep(&v->is_intra_base); // FIXME use v->mb_type[]
5299     av_freep(&v->luma_mv_base);
5300     ff_intrax8_common_end(&v->x8);
5301     return 0;
5302 }
5303
5304
5305 /** Decode a VC1/WMV3 frame
5306  * @todo TODO: Handle VC-1 IDUs (Transport level?)
5307  */
5308 static int vc1_decode_frame(AVCodecContext *avctx, void *data,
5309                             int *got_frame, AVPacket *avpkt)
5310 {
5311     const uint8_t *buf = avpkt->data;
5312     int buf_size = avpkt->size, n_slices = 0, i, ret;
5313     VC1Context *v = avctx->priv_data;
5314     MpegEncContext *s = &v->s;
5315     AVFrame *pict = data;
5316     uint8_t *buf2 = NULL;
5317     const uint8_t *buf_start = buf;
5318     int mb_height, n_slices1;
5319     struct {
5320         uint8_t *buf;
5321         GetBitContext gb;
5322         int mby_start;
5323     } *slices = NULL, *tmp;
5324
5325     /* no supplementary picture */
5326     if (buf_size == 0 || (buf_size == 4 && AV_RB32(buf) == VC1_CODE_ENDOFSEQ)) {
5327         /* special case for last picture */
5328         if (s->low_delay == 0 && s->next_picture_ptr) {
5329             if ((ret = av_frame_ref(pict, &s->next_picture_ptr->f)) < 0)
5330                 return ret;
5331             s->next_picture_ptr = NULL;
5332
5333             *got_frame = 1;
5334         }
5335
5336         return 0;
5337     }
5338
5339     if (s->avctx->codec->capabilities&CODEC_CAP_HWACCEL_VDPAU) {
5340         if (v->profile < PROFILE_ADVANCED)
5341             avctx->pix_fmt = AV_PIX_FMT_VDPAU_WMV3;
5342         else
5343             avctx->pix_fmt = AV_PIX_FMT_VDPAU_VC1;
5344     }
5345
5346     //for advanced profile we may need to parse and unescape data
5347     if (avctx->codec_id == AV_CODEC_ID_VC1 || avctx->codec_id == AV_CODEC_ID_VC1IMAGE) {
5348         int buf_size2 = 0;
5349         buf2 = av_mallocz(buf_size + FF_INPUT_BUFFER_PADDING_SIZE);
5350
5351         if (IS_MARKER(AV_RB32(buf))) { /* frame starts with marker and needs to be parsed */
5352             const uint8_t *start, *end, *next;
5353             int size;
5354
5355             next = buf;
5356             for (start = buf, end = buf + buf_size; next < end; start = next) {
5357                 next = find_next_marker(start + 4, end);
5358                 size = next - start - 4;
5359                 if (size <= 0) continue;
5360                 switch (AV_RB32(start)) {
5361                 case VC1_CODE_FRAME:
5362                     if (avctx->hwaccel ||
5363                         s->avctx->codec->capabilities&CODEC_CAP_HWACCEL_VDPAU)
5364                         buf_start = start;
5365                     buf_size2 = vc1_unescape_buffer(start + 4, size, buf2);
5366                     break;
5367                 case VC1_CODE_FIELD: {
5368                     int buf_size3;
5369                     tmp = av_realloc(slices, sizeof(*slices) * (n_slices+1));
5370                     if (!tmp)
5371                         goto err;
5372                     slices = tmp;
5373                     slices[n_slices].buf = av_mallocz(buf_size + FF_INPUT_BUFFER_PADDING_SIZE);
5374                     if (!slices[n_slices].buf)
5375                         goto err;
5376                     buf_size3 = vc1_unescape_buffer(start + 4, size,
5377                                                     slices[n_slices].buf);
5378                     init_get_bits(&slices[n_slices].gb, slices[n_slices].buf,
5379                                   buf_size3 << 3);
5380                     /* assuming that the field marker is at the exact middle,
5381                        hope it's correct */
5382                     slices[n_slices].mby_start = s->mb_height >> 1;
5383                     n_slices1 = n_slices - 1; // index of the last slice of the first field
5384                     n_slices++;
5385                     break;
5386                 }
5387                 case VC1_CODE_ENTRYPOINT: /* it should be before frame data */
5388                     buf_size2 = vc1_unescape_buffer(start + 4, size, buf2);
5389                     init_get_bits(&s->gb, buf2, buf_size2 * 8);
5390                     ff_vc1_decode_entry_point(avctx, v, &s->gb);
5391                     break;
5392                 case VC1_CODE_SLICE: {
5393                     int buf_size3;
5394                     tmp = av_realloc(slices, sizeof(*slices) * (n_slices+1));
5395                     if (!tmp)
5396                         goto err;
5397                     slices = tmp;
5398                     slices[n_slices].buf = av_mallocz(buf_size + FF_INPUT_BUFFER_PADDING_SIZE);
5399                     if (!slices[n_slices].buf)
5400                         goto err;
5401                     buf_size3 = vc1_unescape_buffer(start + 4, size,
5402                                                     slices[n_slices].buf);
5403                     init_get_bits(&slices[n_slices].gb, slices[n_slices].buf,
5404                                   buf_size3 << 3);
5405                     slices[n_slices].mby_start = get_bits(&slices[n_slices].gb, 9);
5406                     n_slices++;
5407                     break;
5408                 }
5409                 }
5410             }
5411         } else if (v->interlace && ((buf[0] & 0xC0) == 0xC0)) { /* WVC1 interlaced stores both fields divided by marker */
5412             const uint8_t *divider;
5413             int buf_size3;
5414
5415             divider = find_next_marker(buf, buf + buf_size);
5416             if ((divider == (buf + buf_size)) || AV_RB32(divider) != VC1_CODE_FIELD) {
5417                 av_log(avctx, AV_LOG_ERROR, "Error in WVC1 interlaced frame\n");
5418                 goto err;
5419             } else { // found field marker, unescape second field
5420                 tmp = av_realloc(slices, sizeof(*slices) * (n_slices+1));
5421                 if (!tmp)
5422                     goto err;
5423                 slices = tmp;
5424                 slices[n_slices].buf = av_mallocz(buf_size + FF_INPUT_BUFFER_PADDING_SIZE);
5425                 if (!slices[n_slices].buf)
5426                     goto err;
5427                 buf_size3 = vc1_unescape_buffer(divider + 4, buf + buf_size - divider - 4, slices[n_slices].buf);
5428                 init_get_bits(&slices[n_slices].gb, slices[n_slices].buf,
5429                               buf_size3 << 3);
5430                 slices[n_slices].mby_start = s->mb_height >> 1;
5431                 n_slices1 = n_slices - 1;
5432                 n_slices++;
5433             }
5434             buf_size2 = vc1_unescape_buffer(buf, divider - buf, buf2);
5435         } else {
5436             buf_size2 = vc1_unescape_buffer(buf, buf_size, buf2);
5437         }
5438         init_get_bits(&s->gb, buf2, buf_size2*8);
5439     } else
5440         init_get_bits(&s->gb, buf, buf_size*8);
5441
5442     if (v->res_sprite) {
5443         v->new_sprite  = !get_bits1(&s->gb);
5444         v->two_sprites =  get_bits1(&s->gb);
5445         /* res_sprite means a Windows Media Image stream, AV_CODEC_ID_*IMAGE means
5446            we're using the sprite compositor. These are intentionally kept separate
5447            so you can get the raw sprites by using the wmv3 decoder for WMVP or
5448            the vc1 one for WVP2 */
5449         if (avctx->codec_id == AV_CODEC_ID_WMV3IMAGE || avctx->codec_id == AV_CODEC_ID_VC1IMAGE) {
5450             if (v->new_sprite) {
5451                 // switch AVCodecContext parameters to those of the sprites
5452                 avctx->width  = avctx->coded_width  = v->sprite_width;
5453                 avctx->height = avctx->coded_height = v->sprite_height;
5454             } else {
5455                 goto image;
5456             }
5457         }
5458     }
5459
5460     if (s->context_initialized &&
5461         (s->width  != avctx->coded_width ||
5462          s->height != avctx->coded_height)) {
5463         ff_vc1_decode_end(avctx);
5464     }
5465
5466     if (!s->context_initialized) {
5467         if (ff_msmpeg4_decode_init(avctx) < 0 || ff_vc1_decode_init_alloc_tables(v) < 0)
5468             goto err;
5469
5470         s->low_delay = !avctx->has_b_frames || v->res_sprite;
5471
5472         if (v->profile == PROFILE_ADVANCED) {
5473             s->h_edge_pos = avctx->coded_width;
5474             s->v_edge_pos = avctx->coded_height;
5475         }
5476     }
5477
5478     /* We need to set current_picture_ptr before reading the header,
5479      * otherwise we cannot store anything in there. */
5480     if (s->current_picture_ptr == NULL || s->current_picture_ptr->f.data[0]) {
5481         int i = ff_find_unused_picture(s, 0);
5482         if (i < 0)
5483             goto err;
5484         s->current_picture_ptr = &s->picture[i];
5485     }
5486
5487     // do parse frame header
5488     v->pic_header_flag = 0;
5489     if (v->profile < PROFILE_ADVANCED) {
5490         if (ff_vc1_parse_frame_header(v, &s->gb) == -1) {
5491             goto err;
5492         }
5493     } else {
5494         if (ff_vc1_parse_frame_header_adv(v, &s->gb) == -1) {
5495             goto err;
5496         }
5497     }
5498
5499     if ((avctx->codec_id == AV_CODEC_ID_WMV3IMAGE || avctx->codec_id == AV_CODEC_ID_VC1IMAGE)
5500         && s->pict_type != AV_PICTURE_TYPE_I) {
5501         av_log(v->s.avctx, AV_LOG_ERROR, "Sprite decoder: expected I-frame\n");
5502         goto err;
5503     }
5504
5505     // process pulldown flags
5506     s->current_picture_ptr->f.repeat_pict = 0;
5507     // Pulldown flags are only valid when 'broadcast' has been set.
5508     // So ticks_per_frame will be 2
5509     if (v->rff) {
5510         // repeat field
5511         s->current_picture_ptr->f.repeat_pict = 1;
5512     } else if (v->rptfrm) {
5513         // repeat frames
5514         s->current_picture_ptr->f.repeat_pict = v->rptfrm * 2;
5515     }
5516
5517     // for skipping the frame
5518     s->current_picture.f.pict_type = s->pict_type;
5519     s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
5520
5521     /* skip B-frames if we don't have reference frames */
5522     if (s->last_picture_ptr == NULL && (s->pict_type == AV_PICTURE_TYPE_B || s->droppable)) {
5523         goto err;
5524     }
5525     if ((avctx->skip_frame >= AVDISCARD_NONREF && s->pict_type == AV_PICTURE_TYPE_B) ||
5526         (avctx->skip_frame >= AVDISCARD_NONKEY && s->pict_type != AV_PICTURE_TYPE_I) ||
5527          avctx->skip_frame >= AVDISCARD_ALL) {
5528         goto end;
5529     }
5530
5531     if (s->next_p_frame_damaged) {
5532         if (s->pict_type == AV_PICTURE_TYPE_B)
5533             goto end;
5534         else
5535             s->next_p_frame_damaged = 0;
5536     }
5537
5538     if (ff_MPV_frame_start(s, avctx) < 0) {
5539         goto err;
5540     }
5541
5542     s->me.qpel_put = s->dsp.put_qpel_pixels_tab;
5543     s->me.qpel_avg = s->dsp.avg_qpel_pixels_tab;
5544
5545     if ((CONFIG_VC1_VDPAU_DECODER)
5546         &&s->avctx->codec->capabilities&CODEC_CAP_HWACCEL_VDPAU)
5547         ff_vdpau_vc1_decode_picture(s, buf_start, (buf + buf_size) - buf_start);
5548     else if (avctx->hwaccel) {
5549         if (avctx->hwaccel->start_frame(avctx, buf, buf_size) < 0)
5550             goto err;
5551         if (avctx->hwaccel->decode_slice(avctx, buf_start, (buf + buf_size) - buf_start) < 0)
5552             goto err;
5553         if (avctx->hwaccel->end_frame(avctx) < 0)
5554             goto err;
5555     } else {
5556         ff_mpeg_er_frame_start(s);
5557
5558         v->bits = buf_size * 8;
5559         v->end_mb_x = s->mb_width;
5560         if (v->field_mode) {
5561             uint8_t *tmp[2];
5562             s->current_picture.f.linesize[0] <<= 1;
5563             s->current_picture.f.linesize[1] <<= 1;
5564             s->current_picture.f.linesize[2] <<= 1;
5565             s->linesize                      <<= 1;
5566             s->uvlinesize                    <<= 1;
5567             tmp[0]          = v->mv_f_last[0];
5568             tmp[1]          = v->mv_f_last[1];
5569             v->mv_f_last[0] = v->mv_f_next[0];
5570             v->mv_f_last[1] = v->mv_f_next[1];
5571             v->mv_f_next[0] = v->mv_f[0];
5572             v->mv_f_next[1] = v->mv_f[1];
5573             v->mv_f[0] = tmp[0];
5574             v->mv_f[1] = tmp[1];
5575         }
5576         mb_height = s->mb_height >> v->field_mode;
5577         for (i = 0; i <= n_slices; i++) {
5578             if (i > 0 &&  slices[i - 1].mby_start >= mb_height) {
5579                 if (v->field_mode <= 0) {
5580                     av_log(v->s.avctx, AV_LOG_ERROR, "Slice %d starts beyond "
5581                            "picture boundary (%d >= %d)\n", i,
5582                            slices[i - 1].mby_start, mb_height);
5583                     continue;
5584                 }
5585                 v->second_field = 1;
5586                 v->blocks_off   = s->mb_width  * s->mb_height << 1;
5587                 v->mb_off       = s->mb_stride * s->mb_height >> 1;
5588             } else {
5589                 v->second_field = 0;
5590                 v->blocks_off   = 0;
5591                 v->mb_off       = 0;
5592             }
5593             if (i) {
5594                 v->pic_header_flag = 0;
5595                 if (v->field_mode && i == n_slices1 + 2) {
5596                     if (ff_vc1_parse_frame_header_adv(v, &s->gb) < 0) {
5597                         av_log(v->s.avctx, AV_LOG_ERROR, "Field header damaged\n");
5598                         continue;
5599                     }
5600                 } else if (get_bits1(&s->gb)) {
5601                     v->pic_header_flag = 1;
5602                     if (ff_vc1_parse_frame_header_adv(v, &s->gb) < 0) {
5603                         av_log(v->s.avctx, AV_LOG_ERROR, "Slice header damaged\n");
5604                         continue;
5605                     }
5606                 }
5607             }
5608             s->start_mb_y = (i == 0) ? 0 : FFMAX(0, slices[i-1].mby_start % mb_height);
5609             if (!v->field_mode || v->second_field)
5610                 s->end_mb_y = (i == n_slices     ) ? mb_height : FFMIN(mb_height, slices[i].mby_start % mb_height);
5611             else
5612                 s->end_mb_y = (i <= n_slices1 + 1) ? mb_height : FFMIN(mb_height, slices[i].mby_start % mb_height);
5613             ff_vc1_decode_blocks(v);
5614             if (i != n_slices)
5615                 s->gb = slices[i].gb;
5616         }
5617         if (v->field_mode) {
5618             v->second_field = 0;
5619             if (s->pict_type == AV_PICTURE_TYPE_B) {
5620                 memcpy(v->mv_f_base, v->mv_f_next_base,
5621                        2 * (s->b8_stride * (s->mb_height * 2 + 1) + s->mb_stride * (s->mb_height + 1) * 2));
5622             }
5623             s->current_picture.f.linesize[0] >>= 1;
5624             s->current_picture.f.linesize[1] >>= 1;
5625             s->current_picture.f.linesize[2] >>= 1;
5626             s->linesize                      >>= 1;
5627             s->uvlinesize                    >>= 1;
5628         }
5629         av_dlog(s->avctx, "Consumed %i/%i bits\n",
5630                 get_bits_count(&s->gb), s->gb.size_in_bits);
5631 //  if (get_bits_count(&s->gb) > buf_size * 8)
5632 //      return -1;
5633         ff_er_frame_end(&s->er);
5634     }
5635
5636     ff_MPV_frame_end(s);
5637
5638     if (avctx->codec_id == AV_CODEC_ID_WMV3IMAGE || avctx->codec_id == AV_CODEC_ID_VC1IMAGE) {
5639 image:
5640         avctx->width  = avctx->coded_width  = v->output_width;
5641         avctx->height = avctx->coded_height = v->output_height;
5642         if (avctx->skip_frame >= AVDISCARD_NONREF)
5643             goto end;
5644 #if CONFIG_WMV3IMAGE_DECODER || CONFIG_VC1IMAGE_DECODER
5645         if (vc1_decode_sprites(v, &s->gb))
5646             goto err;
5647 #endif
5648         if ((ret = av_frame_ref(pict, &v->sprite_output_frame)) < 0)
5649             goto err;
5650         *got_frame = 1;
5651     } else {
5652         if (s->pict_type == AV_PICTURE_TYPE_B || s->low_delay) {
5653             if ((ret = av_frame_ref(pict, &s->current_picture_ptr->f)) < 0)
5654                 goto err;
5655             ff_print_debug_info(s, s->current_picture_ptr);
5656         } else if (s->last_picture_ptr != NULL) {
5657             if ((ret = av_frame_ref(pict, &s->last_picture_ptr->f)) < 0)
5658                 goto err;
5659             ff_print_debug_info(s, s->last_picture_ptr);
5660         }
5661         if (s->last_picture_ptr || s->low_delay) {
5662             *got_frame = 1;
5663         }
5664     }
5665
5666 end:
5667     av_free(buf2);
5668     for (i = 0; i < n_slices; i++)
5669         av_free(slices[i].buf);
5670     av_free(slices);
5671     return buf_size;
5672
5673 err:
5674     av_free(buf2);
5675     for (i = 0; i < n_slices; i++)
5676         av_free(slices[i].buf);
5677     av_free(slices);
5678     return -1;
5679 }
5680
5681
5682 static const AVProfile profiles[] = {
5683     { FF_PROFILE_VC1_SIMPLE,   "Simple"   },
5684     { FF_PROFILE_VC1_MAIN,     "Main"     },
5685     { FF_PROFILE_VC1_COMPLEX,  "Complex"  },
5686     { FF_PROFILE_VC1_ADVANCED, "Advanced" },
5687     { FF_PROFILE_UNKNOWN },
5688 };
5689
5690 static const enum AVPixelFormat vc1_hwaccel_pixfmt_list_420[] = {
5691 #if CONFIG_DXVA2
5692     AV_PIX_FMT_DXVA2_VLD,
5693 #endif
5694 #if CONFIG_VAAPI
5695     AV_PIX_FMT_VAAPI_VLD,
5696 #endif
5697 #if CONFIG_VDPAU
5698     AV_PIX_FMT_VDPAU,
5699 #endif
5700     AV_PIX_FMT_YUV420P,
5701     AV_PIX_FMT_NONE
5702 };
5703
5704 AVCodec ff_vc1_decoder = {
5705     .name           = "vc1",
5706     .type           = AVMEDIA_TYPE_VIDEO,
5707     .id             = AV_CODEC_ID_VC1,
5708     .priv_data_size = sizeof(VC1Context),
5709     .init           = vc1_decode_init,
5710     .close          = ff_vc1_decode_end,
5711     .decode         = vc1_decode_frame,
5712     .flush          = ff_mpeg_flush,
5713     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_DELAY,
5714     .long_name      = NULL_IF_CONFIG_SMALL("SMPTE VC-1"),
5715     .pix_fmts       = vc1_hwaccel_pixfmt_list_420,
5716     .profiles       = NULL_IF_CONFIG_SMALL(profiles)
5717 };
5718
5719 #if CONFIG_WMV3_DECODER
5720 AVCodec ff_wmv3_decoder = {
5721     .name           = "wmv3",
5722     .type           = AVMEDIA_TYPE_VIDEO,
5723     .id             = AV_CODEC_ID_WMV3,
5724     .priv_data_size = sizeof(VC1Context),
5725     .init           = vc1_decode_init,
5726     .close          = ff_vc1_decode_end,
5727     .decode         = vc1_decode_frame,
5728     .flush          = ff_mpeg_flush,
5729     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_DELAY,
5730     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 9"),
5731     .pix_fmts       = vc1_hwaccel_pixfmt_list_420,
5732     .profiles       = NULL_IF_CONFIG_SMALL(profiles)
5733 };
5734 #endif
5735
5736 #if CONFIG_WMV3_VDPAU_DECODER
5737 AVCodec ff_wmv3_vdpau_decoder = {
5738     .name           = "wmv3_vdpau",
5739     .type           = AVMEDIA_TYPE_VIDEO,
5740     .id             = AV_CODEC_ID_WMV3,
5741     .priv_data_size = sizeof(VC1Context),
5742     .init           = vc1_decode_init,
5743     .close          = ff_vc1_decode_end,
5744     .decode         = vc1_decode_frame,
5745     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_DELAY | CODEC_CAP_HWACCEL_VDPAU,
5746     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 9 VDPAU"),
5747     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_VDPAU_WMV3, AV_PIX_FMT_NONE },
5748     .profiles       = NULL_IF_CONFIG_SMALL(profiles)
5749 };
5750 #endif
5751
5752 #if CONFIG_VC1_VDPAU_DECODER
5753 AVCodec ff_vc1_vdpau_decoder = {
5754     .name           = "vc1_vdpau",
5755     .type           = AVMEDIA_TYPE_VIDEO,
5756     .id             = AV_CODEC_ID_VC1,
5757     .priv_data_size = sizeof(VC1Context),
5758     .init           = vc1_decode_init,
5759     .close          = ff_vc1_decode_end,
5760     .decode         = vc1_decode_frame,
5761     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_DELAY | CODEC_CAP_HWACCEL_VDPAU,
5762     .long_name      = NULL_IF_CONFIG_SMALL("SMPTE VC-1 VDPAU"),
5763     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_VDPAU_VC1, AV_PIX_FMT_NONE },
5764     .profiles       = NULL_IF_CONFIG_SMALL(profiles)
5765 };
5766 #endif
5767
5768 #if CONFIG_WMV3IMAGE_DECODER
5769 AVCodec ff_wmv3image_decoder = {
5770     .name           = "wmv3image",
5771     .type           = AVMEDIA_TYPE_VIDEO,
5772     .id             = AV_CODEC_ID_WMV3IMAGE,
5773     .priv_data_size = sizeof(VC1Context),
5774     .init           = vc1_decode_init,
5775     .close          = ff_vc1_decode_end,
5776     .decode         = vc1_decode_frame,
5777     .capabilities   = CODEC_CAP_DR1,
5778     .flush          = vc1_sprite_flush,
5779     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 9 Image"),
5780     .pix_fmts       = ff_pixfmt_list_420
5781 };
5782 #endif
5783
5784 #if CONFIG_VC1IMAGE_DECODER
5785 AVCodec ff_vc1image_decoder = {
5786     .name           = "vc1image",
5787     .type           = AVMEDIA_TYPE_VIDEO,
5788     .id             = AV_CODEC_ID_VC1IMAGE,
5789     .priv_data_size = sizeof(VC1Context),
5790     .init           = vc1_decode_init,
5791     .close          = ff_vc1_decode_end,
5792     .decode         = vc1_decode_frame,
5793     .capabilities   = CODEC_CAP_DR1,
5794     .flush          = vc1_sprite_flush,
5795     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 9 Image v2"),
5796     .pix_fmts       = ff_pixfmt_list_420
5797 };
5798 #endif