git.sesse.net Git - ffmpeg/blob - libavcodec/vc1_mc.c

   1 /*
   2  * VC-1 and WMV3 decoder
   3  * Copyright (c) 2011 Mashiat Sarker Shakkhar
   4  * Copyright (c) 2006-2007 Konstantin Shishkov
   5  * Partly based on vc9.c (c) 2005 Anonymous, Alex Beregszaszi, Michael Niedermayer
   6  *
   7  * This file is part of FFmpeg.
   8  *
   9  * FFmpeg is free software; you can redistribute it and/or
  10  * modify it under the terms of the GNU Lesser General Public
  11  * License as published by the Free Software Foundation; either
  12  * version 2.1 of the License, or (at your option) any later version.
  13  *
  14  * FFmpeg is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  17  * Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public
  20  * License along with FFmpeg; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  22  */
  23
  24 /**
  25  * @file
  26  * VC-1 and WMV3 block decoding routines
  27  */
  28
  29 #include "avcodec.h"
  30 #include "h264chroma.h"
  31 #include "mathops.h"
  32 #include "mpegvideo.h"
  33 #include "vc1.h"
  34
  35 static av_always_inline void vc1_scale_luma(uint8_t *srcY,
  36                                             int k, int linesize)
  37 {
  38     int i, j;
  39     for (j = 0; j < k; j++) {
  40         for (i = 0; i < k; i++)
  41             srcY[i] = ((srcY[i] - 128) >> 1) + 128;
  42         srcY += linesize;
  43     }
  44 }
  45
  46 static av_always_inline void vc1_scale_chroma(uint8_t *srcU, uint8_t *srcV,
  47                                               int k, int uvlinesize)
  48 {
  49     int i, j;
  50     for (j = 0; j < k; j++) {
  51         for (i = 0; i < k; i++) {
  52             srcU[i] = ((srcU[i] - 128) >> 1) + 128;
  53             srcV[i] = ((srcV[i] - 128) >> 1) + 128;
  54         }
  55         srcU += uvlinesize;
  56         srcV += uvlinesize;
  57     }
  58 }
  59
  60 static av_always_inline void vc1_lut_scale_luma(uint8_t *srcY,
  61                                                 uint8_t *lut1, uint8_t *lut2,
  62                                                 int k, int linesize)
  63 {
  64     int i, j;
  65
  66     for (j = 0; j < k; j += 2) {
  67         for (i = 0; i < k; i++)
  68             srcY[i] = lut1[srcY[i]];
  69         srcY += linesize;
  70
  71         if (j + 1 == k)
  72             break;
  73
  74         for (i = 0; i < k; i++)
  75             srcY[i] = lut2[srcY[i]];
  76         srcY += linesize;
  77     }
  78 }
  79
  80 static av_always_inline void vc1_lut_scale_chroma(uint8_t *srcU, uint8_t *srcV,
  81                                                   uint8_t *lut1, uint8_t *lut2,
  82                                                   int k, int uvlinesize)
  83 {
  84     int i, j;
  85
  86     for (j = 0; j < k; j += 2) {
  87         for (i = 0; i < k; i++) {
  88             srcU[i] = lut1[srcU[i]];
  89             srcV[i] = lut1[srcV[i]];
  90         }
  91         srcU += uvlinesize;
  92         srcV += uvlinesize;
  93
  94         if (j + 1 == k)
  95             break;
  96
  97         for (i = 0; i < k; i++) {
  98             srcU[i] = lut2[srcU[i]];
  99             srcV[i] = lut2[srcV[i]];
 100         }
 101         srcU += uvlinesize;
 102         srcV += uvlinesize;
 103     }
 104 }
 105
 106 static const uint8_t popcount4[16] = { 0, 1, 1, 2, 1, 2, 2, 3, 1, 2, 2, 3, 2, 3, 3, 4 };
 107
 108 static av_always_inline int get_luma_mv(VC1Context *v, int dir, int16_t *tx, int16_t *ty)
 109 {
 110     MpegEncContext *s = &v->s;
 111     int idx = v->mv_f[dir][s->block_index[0] + v->blocks_off] |
 112              (v->mv_f[dir][s->block_index[1] + v->blocks_off] << 1) |
 113              (v->mv_f[dir][s->block_index[2] + v->blocks_off] << 2) |
 114              (v->mv_f[dir][s->block_index[3] + v->blocks_off] << 3);
 115     static const uint8_t index2[16] = { 0, 0, 0, 0x23, 0, 0x13, 0x03, 0, 0, 0x12, 0x02, 0, 0x01, 0, 0, 0 };
 116     int opp_count = popcount4[idx];
 117
 118     switch (opp_count) {
 119     case 0:
 120     case 4:
 121         *tx = median4(s->mv[dir][0][0], s->mv[dir][1][0], s->mv[dir][2][0], s->mv[dir][3][0]);
 122         *ty = median4(s->mv[dir][0][1], s->mv[dir][1][1], s->mv[dir][2][1], s->mv[dir][3][1]);
 123         break;
 124     case 1:
 125         *tx = mid_pred(s->mv[dir][idx < 2][0], s->mv[dir][1 + (idx < 4)][0], s->mv[dir][2 + (idx < 8)][0]);
 126         *ty = mid_pred(s->mv[dir][idx < 2][1], s->mv[dir][1 + (idx < 4)][1], s->mv[dir][2 + (idx < 8)][1]);
 127         break;
 128     case 3:
 129         *tx = mid_pred(s->mv[dir][idx > 0xd][0], s->mv[dir][1 + (idx > 0xb)][0], s->mv[dir][2 + (idx > 0x7)][0]);
 130         *ty = mid_pred(s->mv[dir][idx > 0xd][1], s->mv[dir][1 + (idx > 0xb)][1], s->mv[dir][2 + (idx > 0x7)][1]);
 131         break;
 132     case 2:
 133         *tx = (s->mv[dir][index2[idx] >> 4][0] + s->mv[dir][index2[idx] & 0xf][0]) / 2;
 134         *ty = (s->mv[dir][index2[idx] >> 4][1] + s->mv[dir][index2[idx] & 0xf][1]) / 2;
 135         break;
 136     }
 137     return opp_count;
 138 }
 139
 140 static av_always_inline int get_chroma_mv(VC1Context *v, int dir, int16_t *tx, int16_t *ty)
 141 {
 142     MpegEncContext *s = &v->s;
 143     int idx = !v->mb_type[0][s->block_index[0]] |
 144              (!v->mb_type[0][s->block_index[1]] << 1) |
 145              (!v->mb_type[0][s->block_index[2]] << 2) |
 146              (!v->mb_type[0][s->block_index[3]] << 3);
 147     static const uint8_t index2[16] = { 0, 0, 0, 0x01, 0, 0x02, 0x12, 0, 0, 0x03, 0x13, 0, 0x23, 0, 0, 0 };
 148     int valid_count = popcount4[idx];
 149
 150     switch (valid_count) {
 151     case 4:
 152         *tx = median4(s->mv[dir][0][0], s->mv[dir][1][0], s->mv[dir][2][0], s->mv[dir][3][0]);
 153         *ty = median4(s->mv[dir][0][1], s->mv[dir][1][1], s->mv[dir][2][1], s->mv[dir][3][1]);
 154         break;
 155     case 3:
 156         *tx = mid_pred(s->mv[dir][idx > 0xd][0], s->mv[dir][1 + (idx > 0xb)][0], s->mv[dir][2 + (idx > 0x7)][0]);
 157         *ty = mid_pred(s->mv[dir][idx > 0xd][1], s->mv[dir][1 + (idx > 0xb)][1], s->mv[dir][2 + (idx > 0x7)][1]);
 158         break;
 159     case 2:
 160         *tx = (s->mv[dir][index2[idx] >> 4][0] + s->mv[dir][index2[idx] & 0xf][0]) / 2;
 161         *ty = (s->mv[dir][index2[idx] >> 4][1] + s->mv[dir][index2[idx] & 0xf][1]) / 2;
 162         break;
 163     default:
 164         return 0;
 165     }
 166     return valid_count;
 167 }
 168
 169 /** Do motion compensation over 1 macroblock
 170  * Mostly adapted hpel_motion and qpel_motion from mpegvideo.c
 171  */
 172 void ff_vc1_mc_1mv(VC1Context *v, int dir)
 173 {
 174     MpegEncContext *s = &v->s;
 175     H264ChromaContext *h264chroma = &v->h264chroma;
 176     uint8_t *srcY, *srcU, *srcV;
 177     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
 178     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 179     int i;
 180     uint8_t (*luty)[256], (*lutuv)[256];
 181     int use_ic;
 182
 183     if ((!v->field_mode ||
 184          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
 185         !v->s.last_picture.f->data[0])
 186         return;
 187
 188     mx = s->mv[dir][0][0];
 189     my = s->mv[dir][0][1];
 190
 191     // store motion vectors for further use in B frames
 192     if (s->pict_type == AV_PICTURE_TYPE_P) {
 193         for (i = 0; i < 4; i++) {
 194             s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][0] = mx;
 195             s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][1] = my;
 196         }
 197     }
 198
 199     uvmx = (mx + ((mx & 3) == 3)) >> 1;
 200     uvmy = (my + ((my & 3) == 3)) >> 1;
 201     v->luma_mv[s->mb_x][0] = uvmx;
 202     v->luma_mv[s->mb_x][1] = uvmy;
 203
 204     if (v->field_mode &&
 205         v->cur_field_type != v->ref_field_type[dir]) {
 206         my   = my   - 2 + 4 * v->cur_field_type;
 207         uvmy = uvmy - 2 + 4 * v->cur_field_type;
 208     }
 209
 210     // fastuvmc shall be ignored for interlaced frame picture
 211     if (v->fastuvmc && (v->fcm != ILACE_FRAME)) {
 212         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
 213         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
 214     }
 215     if (!dir) {
 216         if (v->field_mode && (v->cur_field_type != v->ref_field_type[dir]) && v->second_field) {
 217             srcY = s->current_picture.f->data[0];
 218             srcU = s->current_picture.f->data[1];
 219             srcV = s->current_picture.f->data[2];
 220             luty  = v->curr_luty;
 221             lutuv = v->curr_lutuv;
 222             use_ic = *v->curr_use_ic;
 223         } else {
 224             srcY = s->last_picture.f->data[0];
 225             srcU = s->last_picture.f->data[1];
 226             srcV = s->last_picture.f->data[2];
 227             luty  = v->last_luty;
 228             lutuv = v->last_lutuv;
 229             use_ic = v->last_use_ic;
 230         }
 231     } else {
 232         srcY = s->next_picture.f->data[0];
 233         srcU = s->next_picture.f->data[1];
 234         srcV = s->next_picture.f->data[2];
 235         luty  = v->next_luty;
 236         lutuv = v->next_lutuv;
 237         use_ic = v->next_use_ic;
 238     }
 239
 240     if (!srcY || !srcU) {
 241         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
 242         return;
 243     }
 244
 245     src_x   = s->mb_x * 16 + (mx   >> 2);
 246     src_y   = s->mb_y * 16 + (my   >> 2);
 247     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
 248     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
 249
 250     if (v->profile != PROFILE_ADVANCED) {
 251         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
 252         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
 253         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
 254         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
 255     } else {
 256         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
 257         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
 258         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
 259         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
 260     }
 261
 262     srcY += src_y   * s->linesize   + src_x;
 263     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
 264     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
 265
 266     if (v->field_mode && v->ref_field_type[dir]) {
 267         srcY += s->current_picture_ptr->f->linesize[0];
 268         srcU += s->current_picture_ptr->f->linesize[1];
 269         srcV += s->current_picture_ptr->f->linesize[2];
 270     }
 271
 272     /* for grayscale we should not try to read from unknown area */
 273     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY) {
 274         srcU = s->sc.edge_emu_buffer + 18 * s->linesize;
 275         srcV = s->sc.edge_emu_buffer + 18 * s->linesize;
 276     }
 277
 278     if (v->rangeredfrm || use_ic
 279         || s->h_edge_pos < 22 || v_edge_pos < 22
 280         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx&3) - 16 - s->mspel * 3
 281         || (unsigned)(src_y - 1)        > v_edge_pos    - (my&3) - 16 - 3) {
 282         uint8_t *ubuf = s->sc.edge_emu_buffer + 19 * s->linesize;
 283         uint8_t *vbuf = ubuf + 9 * s->uvlinesize;
 284         const int k = 17 + s->mspel * 2;
 285
 286         srcY -= s->mspel * (1 + s->linesize);
 287         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
 288                                  s->linesize, s->linesize,
 289                                  k, k,
 290                                  src_x - s->mspel, src_y - s->mspel,
 291                                  s->h_edge_pos, v_edge_pos);
 292         srcY = s->sc.edge_emu_buffer;
 293         s->vdsp.emulated_edge_mc(ubuf, srcU,
 294                                  s->uvlinesize, s->uvlinesize,
 295                                  8 + 1, 8 + 1,
 296                                  uvsrc_x, uvsrc_y,
 297                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 298         s->vdsp.emulated_edge_mc(vbuf, srcV,
 299                                  s->uvlinesize, s->uvlinesize,
 300                                  8 + 1, 8 + 1,
 301                                  uvsrc_x, uvsrc_y,
 302                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 303         srcU = ubuf;
 304         srcV = vbuf;
 305         /* if we deal with range reduction we need to scale source blocks */
 306         if (v->rangeredfrm) {
 307             vc1_scale_luma(srcY, k, s->linesize);
 308             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
 309         }
 310         /* if we deal with intensity compensation we need to scale source blocks */
 311         if (use_ic) {
 312             vc1_lut_scale_luma(srcY,
 313                                luty[v->field_mode ? v->ref_field_type[dir] : ((0 + src_y - s->mspel) & 1)],
 314                                luty[v->field_mode ? v->ref_field_type[dir] : ((1 + src_y - s->mspel) & 1)],
 315                                k, s->linesize);
 316             vc1_lut_scale_chroma(srcU, srcV,
 317                                  lutuv[v->field_mode ? v->ref_field_type[dir] : ((0 + uvsrc_y) & 1)],
 318                                  lutuv[v->field_mode ? v->ref_field_type[dir] : ((1 + uvsrc_y) & 1)],
 319                                  9, s->uvlinesize);
 320         }
 321         srcY += s->mspel * (1 + s->linesize);
 322     }
 323
 324     if (s->mspel) {
 325         dxy = ((my & 3) << 2) | (mx & 3);
 326         v->vc1dsp.put_vc1_mspel_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, v->rnd);
 327     } else { // hpel mc - always used for luma
 328         dxy = (my & 2) | ((mx & 2) >> 1);
 329         if (!v->rnd)
 330             s->hdsp.put_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
 331         else
 332             s->hdsp.put_no_rnd_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
 333     }
 334
 335     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
 336         return;
 337     /* Chroma MC always uses qpel bilinear */
 338     uvmx = (uvmx & 3) << 1;
 339     uvmy = (uvmy & 3) << 1;
 340     if (!v->rnd) {
 341         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 342         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 343     } else {
 344         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 345         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 346     }
 347 }
 348
 349 /** Do motion compensation for 4-MV macroblock - luminance block
 350  */
 351 void ff_vc1_mc_4mv_luma(VC1Context *v, int n, int dir, int avg)
 352 {
 353     MpegEncContext *s = &v->s;
 354     uint8_t *srcY;
 355     int dxy, mx, my, src_x, src_y;
 356     int off;
 357     int fieldmv = (v->fcm == ILACE_FRAME) ? v->blk_mv_type[s->block_index[n]] : 0;
 358     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 359     uint8_t (*luty)[256];
 360     int use_ic;
 361
 362     if ((!v->field_mode ||
 363          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
 364         !v->s.last_picture.f->data[0])
 365         return;
 366
 367     mx = s->mv[dir][n][0];
 368     my = s->mv[dir][n][1];
 369
 370     if (!dir) {
 371         if (v->field_mode && (v->cur_field_type != v->ref_field_type[dir]) && v->second_field) {
 372             srcY = s->current_picture.f->data[0];
 373             luty = v->curr_luty;
 374             use_ic = *v->curr_use_ic;
 375         } else {
 376             srcY = s->last_picture.f->data[0];
 377             luty = v->last_luty;
 378             use_ic = v->last_use_ic;
 379         }
 380     } else {
 381         srcY = s->next_picture.f->data[0];
 382         luty = v->next_luty;
 383         use_ic = v->next_use_ic;
 384     }
 385
 386     if (!srcY) {
 387         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
 388         return;
 389     }
 390
 391     if (v->field_mode) {
 392         if (v->cur_field_type != v->ref_field_type[dir])
 393             my = my - 2 + 4 * v->cur_field_type;
 394     }
 395
 396     if (s->pict_type == AV_PICTURE_TYPE_P && n == 3 && v->field_mode) {
 397         int opp_count = get_luma_mv(v, 0,
 398                                     &s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0],
 399                                     &s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1]);
 400         int k, f = opp_count > 2;
 401         for (k = 0; k < 4; k++)
 402             v->mv_f[1][s->block_index[k] + v->blocks_off] = f;
 403     }
 404
 405     if (v->fcm == ILACE_FRAME) {  // not sure if needed for other types of picture
 406         int qx, qy;
 407         int width  = s->avctx->coded_width;
 408         int height = s->avctx->coded_height >> 1;
 409         if (s->pict_type == AV_PICTURE_TYPE_P) {
 410             s->current_picture.motion_val[1][s->block_index[n] + v->blocks_off][0] = mx;
 411             s->current_picture.motion_val[1][s->block_index[n] + v->blocks_off][1] = my;
 412         }
 413         qx = (s->mb_x * 16) + (mx >> 2);
 414         qy = (s->mb_y *  8) + (my >> 3);
 415
 416         if (qx < -17)
 417             mx -= 4 * (qx + 17);
 418         else if (qx > width)
 419             mx -= 4 * (qx - width);
 420         if (qy < -18)
 421             my -= 8 * (qy + 18);
 422         else if (qy > height + 1)
 423             my -= 8 * (qy - height - 1);
 424     }
 425
 426     if ((v->fcm == ILACE_FRAME) && fieldmv)
 427         off = ((n > 1) ? s->linesize : 0) + (n & 1) * 8;
 428     else
 429         off = s->linesize * 4 * (n & 2) + (n & 1) * 8;
 430
 431     src_x = s->mb_x * 16 + (n & 1) * 8 + (mx >> 2);
 432     if (!fieldmv)
 433         src_y = s->mb_y * 16 + (n & 2) * 4 + (my >> 2);
 434     else
 435         src_y = s->mb_y * 16 + ((n > 1) ? 1 : 0) + (my >> 2);
 436
 437     if (v->profile != PROFILE_ADVANCED) {
 438         src_x = av_clip(src_x, -16, s->mb_width  * 16);
 439         src_y = av_clip(src_y, -16, s->mb_height * 16);
 440     } else {
 441         src_x = av_clip(src_x, -17, s->avctx->coded_width);
 442         if (v->fcm == ILACE_FRAME) {
 443             if (src_y & 1)
 444                 src_y = av_clip(src_y, -17, s->avctx->coded_height + 1);
 445             else
 446                 src_y = av_clip(src_y, -18, s->avctx->coded_height);
 447         } else {
 448             src_y = av_clip(src_y, -18, s->avctx->coded_height + 1);
 449         }
 450     }
 451
 452     srcY += src_y * s->linesize + src_x;
 453     if (v->field_mode && v->ref_field_type[dir])
 454         srcY += s->current_picture_ptr->f->linesize[0];
 455
 456     if (fieldmv) {
 457         if (!(src_y & 1))
 458             v_edge_pos--;
 459         else
 460             src_y -= (src_y < 4);
 461     }
 462     if (v->rangeredfrm || use_ic
 463         || s->h_edge_pos < 13 || v_edge_pos < 23
 464         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx & 3) - 8 - s->mspel * 2
 465         || (unsigned)(src_y - (s->mspel << fieldmv)) > v_edge_pos - (my & 3) - ((8 + s->mspel * 2) << fieldmv)) {
 466         const int k = 9 + s->mspel * 2;
 467
 468         srcY -= s->mspel * (1 + (s->linesize << fieldmv));
 469         /* check emulate edge stride and offset */
 470         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
 471                                  s->linesize, s->linesize,
 472                                  k, k << fieldmv,
 473                                  src_x - s->mspel, src_y - (s->mspel << fieldmv),
 474                                  s->h_edge_pos, v_edge_pos);
 475         srcY = s->sc.edge_emu_buffer;
 476         /* if we deal with range reduction we need to scale source blocks */
 477         if (v->rangeredfrm) {
 478             vc1_scale_luma(srcY, k, s->linesize << fieldmv);
 479         }
 480         /* if we deal with intensity compensation we need to scale source blocks */
 481         if (use_ic) {
 482             vc1_lut_scale_luma(srcY,
 483                                luty[v->field_mode ? v->ref_field_type[dir] : (((0<<fieldmv)+src_y - (s->mspel << fieldmv)) & 1)],
 484                                luty[v->field_mode ? v->ref_field_type[dir] : (((1<<fieldmv)+src_y - (s->mspel << fieldmv)) & 1)],
 485                                k, s->linesize << fieldmv);
 486         }
 487         srcY += s->mspel * (1 + (s->linesize << fieldmv));
 488     }
 489
 490     if (s->mspel) {
 491         dxy = ((my & 3) << 2) | (mx & 3);
 492         if (avg)
 493             v->vc1dsp.avg_vc1_mspel_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize << fieldmv, v->rnd);
 494         else
 495             v->vc1dsp.put_vc1_mspel_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize << fieldmv, v->rnd);
 496     } else { // hpel mc - always used for luma
 497         dxy = (my & 2) | ((mx & 2) >> 1);
 498         if (!v->rnd)
 499             s->hdsp.put_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
 500         else
 501             s->hdsp.put_no_rnd_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
 502     }
 503 }
 504
 505 /** Do motion compensation for 4-MV macroblock - both chroma blocks
 506  */
 507 void ff_vc1_mc_4mv_chroma(VC1Context *v, int dir)
 508 {
 509     MpegEncContext *s = &v->s;
 510     H264ChromaContext *h264chroma = &v->h264chroma;
 511     uint8_t *srcU, *srcV;
 512     int uvmx, uvmy, uvsrc_x, uvsrc_y;
 513     int16_t tx, ty;
 514     int chroma_ref_type;
 515     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 516     uint8_t (*lutuv)[256];
 517     int use_ic;
 518
 519     if (!v->field_mode && !v->s.last_picture.f->data[0])
 520         return;
 521     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
 522         return;
 523
 524     /* calculate chroma MV vector from four luma MVs */
 525     if (!v->field_mode || !v->numref) {
 526         int valid_count = get_chroma_mv(v, dir, &tx, &ty);
 527         if (!valid_count) {
 528             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
 529             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
 530             v->luma_mv[s->mb_x][0] = v->luma_mv[s->mb_x][1] = 0;
 531             return; //no need to do MC for intra blocks
 532         }
 533         chroma_ref_type = v->ref_field_type[dir];
 534     } else {
 535         int opp_count = get_luma_mv(v, dir, &tx, &ty);
 536         chroma_ref_type = v->cur_field_type ^ (opp_count > 2);
 537     }
 538     if (v->field_mode && chroma_ref_type == 1 && v->cur_field_type == 1 && !v->s.last_picture.f->data[0])
 539         return;
 540     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = tx;
 541     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = ty;
 542     uvmx = (tx + ((tx & 3) == 3)) >> 1;
 543     uvmy = (ty + ((ty & 3) == 3)) >> 1;
 544
 545     v->luma_mv[s->mb_x][0] = uvmx;
 546     v->luma_mv[s->mb_x][1] = uvmy;
 547
 548     if (v->fastuvmc) {
 549         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
 550         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
 551     }
 552     // Field conversion bias
 553     if (v->cur_field_type != chroma_ref_type)
 554         uvmy += 2 - 4 * chroma_ref_type;
 555
 556     uvsrc_x = s->mb_x * 8 + (uvmx >> 2);
 557     uvsrc_y = s->mb_y * 8 + (uvmy >> 2);
 558
 559     if (v->profile != PROFILE_ADVANCED) {
 560         uvsrc_x = av_clip(uvsrc_x, -8, s->mb_width  * 8);
 561         uvsrc_y = av_clip(uvsrc_y, -8, s->mb_height * 8);
 562     } else {
 563         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
 564         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
 565     }
 566
 567     if (!dir) {
 568         if (v->field_mode && (v->cur_field_type != chroma_ref_type) && v->second_field) {
 569             srcU = s->current_picture.f->data[1];
 570             srcV = s->current_picture.f->data[2];
 571             lutuv = v->curr_lutuv;
 572             use_ic = *v->curr_use_ic;
 573         } else {
 574             srcU = s->last_picture.f->data[1];
 575             srcV = s->last_picture.f->data[2];
 576             lutuv = v->last_lutuv;
 577             use_ic = v->last_use_ic;
 578         }
 579     } else {
 580         srcU = s->next_picture.f->data[1];
 581         srcV = s->next_picture.f->data[2];
 582         lutuv = v->next_lutuv;
 583         use_ic = v->next_use_ic;
 584     }
 585
 586     if (!srcU) {
 587         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
 588         return;
 589     }
 590
 591     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
 592     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
 593
 594     if (v->field_mode) {
 595         if (chroma_ref_type) {
 596             srcU += s->current_picture_ptr->f->linesize[1];
 597             srcV += s->current_picture_ptr->f->linesize[2];
 598         }
 599     }
 600
 601     if (v->rangeredfrm || use_ic
 602         || s->h_edge_pos < 18 || v_edge_pos < 18
 603         || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 9
 604         || (unsigned)uvsrc_y > (v_edge_pos    >> 1) - 9) {
 605         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcU,
 606                                  s->uvlinesize, s->uvlinesize,
 607                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
 608                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 609         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer + 16, srcV,
 610                                  s->uvlinesize, s->uvlinesize,
 611                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
 612                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 613         srcU = s->sc.edge_emu_buffer;
 614         srcV = s->sc.edge_emu_buffer + 16;
 615
 616         /* if we deal with range reduction we need to scale source blocks */
 617         if (v->rangeredfrm) {
 618             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
 619         }
 620         /* if we deal with intensity compensation we need to scale source blocks */
 621         if (use_ic) {
 622             vc1_lut_scale_chroma(srcU, srcV,
 623                                  lutuv[v->field_mode ? chroma_ref_type : ((0 + uvsrc_y) & 1)],
 624                                  lutuv[v->field_mode ? chroma_ref_type : ((1 + uvsrc_y) & 1)],
 625                                  9, s->uvlinesize);
 626         }
 627     }
 628
 629     /* Chroma MC always uses qpel bilinear */
 630     uvmx = (uvmx & 3) << 1;
 631     uvmy = (uvmy & 3) << 1;
 632     if (!v->rnd) {
 633         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 634         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 635     } else {
 636         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 637         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 638     }
 639 }
 640
 641 /** Do motion compensation for 4-MV interlaced frame chroma macroblock (both U and V)
 642  */
 643 void ff_vc1_mc_4mv_chroma4(VC1Context *v, int dir, int dir2, int avg)
 644 {
 645     MpegEncContext *s = &v->s;
 646     H264ChromaContext *h264chroma = &v->h264chroma;
 647     uint8_t *srcU, *srcV;
 648     int uvsrc_x, uvsrc_y;
 649     int uvmx_field[4], uvmy_field[4];
 650     int i, off, tx, ty;
 651     int fieldmv = v->blk_mv_type[s->block_index[0]];
 652     static const uint8_t s_rndtblfield[16] = { 0, 0, 1, 2, 4, 4, 5, 6, 2, 2, 3, 8, 6, 6, 7, 12 };
 653     int v_dist = fieldmv ? 1 : 4; // vertical offset for lower sub-blocks
 654     int v_edge_pos = s->v_edge_pos >> 1;
 655     int use_ic;
 656     uint8_t (*lutuv)[256];
 657
 658     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
 659         return;
 660
 661     for (i = 0; i < 4; i++) {
 662         int d = i < 2 ? dir: dir2;
 663         tx = s->mv[d][i][0];
 664         uvmx_field[i] = (tx + ((tx & 3) == 3)) >> 1;
 665         ty = s->mv[d][i][1];
 666         if (fieldmv)
 667             uvmy_field[i] = (ty >> 4) * 8 + s_rndtblfield[ty & 0xF];
 668         else
 669             uvmy_field[i] = (ty + ((ty & 3) == 3)) >> 1;
 670     }
 671
 672     for (i = 0; i < 4; i++) {
 673         off = (i & 1) * 4 + ((i & 2) ? v_dist * s->uvlinesize : 0);
 674         uvsrc_x = s->mb_x * 8 +  (i & 1) * 4           + (uvmx_field[i] >> 2);
 675         uvsrc_y = s->mb_y * 8 + ((i & 2) ? v_dist : 0) + (uvmy_field[i] >> 2);
 676         // FIXME: implement proper pull-back (see vc1cropmv.c, vc1CROPMV_ChromaPullBack())
 677         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
 678         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
 679         if (i < 2 ? dir : dir2) {
 680             srcU = s->next_picture.f->data[1];
 681             srcV = s->next_picture.f->data[2];
 682             lutuv  = v->next_lutuv;
 683             use_ic = v->next_use_ic;
 684         } else {
 685             srcU = s->last_picture.f->data[1];
 686             srcV = s->last_picture.f->data[2];
 687             lutuv  = v->last_lutuv;
 688             use_ic = v->last_use_ic;
 689         }
 690         if (!srcU)
 691             return;
 692         srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
 693         srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
 694         uvmx_field[i] = (uvmx_field[i] & 3) << 1;
 695         uvmy_field[i] = (uvmy_field[i] & 3) << 1;
 696
 697         if (fieldmv) {
 698             if (!(uvsrc_y & 1))
 699                 v_edge_pos = (s->v_edge_pos >> 1) - 1;
 700             else
 701                 uvsrc_y -= (uvsrc_y < 2);
 702         }
 703         if (use_ic
 704             || s->h_edge_pos < 10 || v_edge_pos < (5 << fieldmv)
 705             || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 5
 706             || (unsigned)uvsrc_y > v_edge_pos - (5 << fieldmv)) {
 707             s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcU,
 708                                      s->uvlinesize, s->uvlinesize,
 709                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
 710                                      s->h_edge_pos >> 1, v_edge_pos);
 711             s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer + 16, srcV,
 712                                      s->uvlinesize, s->uvlinesize,
 713                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
 714                                      s->h_edge_pos >> 1, v_edge_pos);
 715             srcU = s->sc.edge_emu_buffer;
 716             srcV = s->sc.edge_emu_buffer + 16;
 717
 718             /* if we deal with intensity compensation we need to scale source blocks */
 719             if (use_ic) {
 720                 vc1_lut_scale_chroma(srcU, srcV,
 721                                      lutuv[(uvsrc_y + (0 << fieldmv)) & 1],
 722                                      lutuv[(uvsrc_y + (1 << fieldmv)) & 1],
 723                                      5, s->uvlinesize << fieldmv);
 724             }
 725         }
 726         if (avg) {
 727             if (!v->rnd) {
 728                 h264chroma->avg_h264_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 729                 h264chroma->avg_h264_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 730             } else {
 731                 v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 732                 v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 733             }
 734         } else {
 735             if (!v->rnd) {
 736                 h264chroma->put_h264_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 737                 h264chroma->put_h264_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 738             } else {
 739                 v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 740                 v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
 741             }
 742         }
 743     }
 744 }
 745
 746 /** Motion compensation for direct or interpolated blocks in B-frames
 747  */
 748 void ff_vc1_interp_mc(VC1Context *v)
 749 {
 750     MpegEncContext *s = &v->s;
 751     H264ChromaContext *h264chroma = &v->h264chroma;
 752     uint8_t *srcY, *srcU, *srcV;
 753     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
 754     int v_edge_pos = s->v_edge_pos >> v->field_mode;
 755     int use_ic = v->next_use_ic;
 756
 757     if (!v->field_mode && !v->s.next_picture.f->data[0])
 758         return;
 759
 760     mx   = s->mv[1][0][0];
 761     my   = s->mv[1][0][1];
 762     uvmx = (mx + ((mx & 3) == 3)) >> 1;
 763     uvmy = (my + ((my & 3) == 3)) >> 1;
 764     if (v->field_mode && v->cur_field_type != v->ref_field_type[1]) {
 765         my   = my   - 2 + 4 * v->cur_field_type;
 766         uvmy = uvmy - 2 + 4 * v->cur_field_type;
 767     }
 768     if (v->fastuvmc) {
 769         uvmx = uvmx + ((uvmx < 0) ? -(uvmx & 1) : (uvmx & 1));
 770         uvmy = uvmy + ((uvmy < 0) ? -(uvmy & 1) : (uvmy & 1));
 771     }
 772     srcY = s->next_picture.f->data[0];
 773     srcU = s->next_picture.f->data[1];
 774     srcV = s->next_picture.f->data[2];
 775
 776     src_x   = s->mb_x * 16 + (mx   >> 2);
 777     src_y   = s->mb_y * 16 + (my   >> 2);
 778     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
 779     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
 780
 781     if (v->profile != PROFILE_ADVANCED) {
 782         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
 783         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
 784         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
 785         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
 786     } else {
 787         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
 788         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
 789         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
 790         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
 791     }
 792
 793     srcY += src_y   * s->linesize   + src_x;
 794     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
 795     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
 796
 797     if (v->field_mode && v->ref_field_type[1]) {
 798         srcY += s->current_picture_ptr->f->linesize[0];
 799         srcU += s->current_picture_ptr->f->linesize[1];
 800         srcV += s->current_picture_ptr->f->linesize[2];
 801     }
 802
 803     /* for grayscale we should not try to read from unknown area */
 804     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY) {
 805         srcU = s->sc.edge_emu_buffer + 18 * s->linesize;
 806         srcV = s->sc.edge_emu_buffer + 18 * s->linesize;
 807     }
 808
 809     if (v->rangeredfrm || s->h_edge_pos < 22 || v_edge_pos < 22 || use_ic
 810         || (unsigned)(src_x - 1) > s->h_edge_pos - (mx & 3) - 16 - 3
 811         || (unsigned)(src_y - 1) > v_edge_pos    - (my & 3) - 16 - 3) {
 812         uint8_t *ubuf = s->sc.edge_emu_buffer + 19 * s->linesize;
 813         uint8_t *vbuf = ubuf + 9 * s->uvlinesize;
 814         const int k = 17 + s->mspel * 2;
 815
 816         srcY -= s->mspel * (1 + s->linesize);
 817         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
 818                                  s->linesize, s->linesize,
 819                                  k, k,
 820                                  src_x - s->mspel, src_y - s->mspel,
 821                                  s->h_edge_pos, v_edge_pos);
 822         srcY = s->sc.edge_emu_buffer;
 823         s->vdsp.emulated_edge_mc(ubuf, srcU,
 824                                  s->uvlinesize, s->uvlinesize,
 825                                  8 + 1, 8 + 1,
 826                                  uvsrc_x, uvsrc_y,
 827                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 828         s->vdsp.emulated_edge_mc(vbuf, srcV,
 829                                  s->uvlinesize, s->uvlinesize,
 830                                  8 + 1, 8 + 1,
 831                                  uvsrc_x, uvsrc_y,
 832                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
 833         srcU = ubuf;
 834         srcV = vbuf;
 835         /* if we deal with range reduction we need to scale source blocks */
 836         if (v->rangeredfrm) {
 837             vc1_scale_luma(srcY, k, s->linesize);
 838             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
 839         }
 840
 841         if (use_ic) {
 842             uint8_t (*luty )[256] = v->next_luty;
 843             uint8_t (*lutuv)[256] = v->next_lutuv;
 844             vc1_lut_scale_luma(srcY,
 845                                luty[v->field_mode ? v->ref_field_type[1] : ((0+src_y - s->mspel) & 1)],
 846                                luty[v->field_mode ? v->ref_field_type[1] : ((1+src_y - s->mspel) & 1)],
 847                                k, s->linesize);
 848             vc1_lut_scale_chroma(srcU, srcV,
 849                                  lutuv[v->field_mode ? v->ref_field_type[1] : ((0+uvsrc_y) & 1)],
 850                                  lutuv[v->field_mode ? v->ref_field_type[1] : ((1+uvsrc_y) & 1)],
 851                                  9, s->uvlinesize);
 852         }
 853         srcY += s->mspel * (1 + s->linesize);
 854     }
 855
 856     if (s->mspel) {
 857         dxy = ((my & 3) << 2) | (mx & 3);
 858         v->vc1dsp.avg_vc1_mspel_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, v->rnd);
 859     } else { // hpel mc
 860         dxy = (my & 2) | ((mx & 2) >> 1);
 861
 862         if (!v->rnd)
 863             s->hdsp.avg_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
 864         else
 865             s->hdsp.avg_no_rnd_pixels_tab[dxy](s->dest[0], srcY, s->linesize, 16);
 866     }
 867
 868     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
 869         return;
 870     /* Chroma MC always uses qpel blilinear */
 871     uvmx = (uvmx & 3) << 1;
 872     uvmy = (uvmy & 3) << 1;
 873     if (!v->rnd) {
 874         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 875         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 876     } else {
 877         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
 878         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
 879     }
 880 }