]> git.sesse.net Git - ffmpeg/blob - libavcodec/wmv2.c
fixing mem corruption
[ffmpeg] / libavcodec / wmv2.c
1 /*
2  * Copyright (c) 2002 The FFmpeg Project.
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17  *
18  */
19
20 /**
21  * @file wmv2.c
22  * wmv2 codec.
23  */
24  
25 #include "simple_idct.h"
26  
27 #define SKIP_TYPE_NONE 0
28 #define SKIP_TYPE_MPEG 1
29 #define SKIP_TYPE_ROW  2
30 #define SKIP_TYPE_COL  3
31
32
33 typedef struct Wmv2Context{
34     MpegEncContext s;
35     int j_type_bit;
36     int j_type;
37     int flag3;
38     int flag63;
39     int abt_flag;
40     int abt_type;
41     int abt_type_table[6];
42     int per_mb_abt;
43     int per_block_abt;
44     int mspel_bit;
45     int cbp_table_index;
46     int top_left_mv_flag;
47     int per_mb_rl_bit;
48     int skip_type;
49     int hshift;
50     
51     ScanTable abt_scantable[2];
52     DCTELEM abt_block2[6][64] __align8;
53 }Wmv2Context;
54
55 static void wmv2_common_init(Wmv2Context * w){
56     MpegEncContext * const s= &w->s;
57         
58     ff_init_scantable(s, &w->abt_scantable[0], wmv2_scantableA);
59     ff_init_scantable(s, &w->abt_scantable[1], wmv2_scantableB);
60 }
61
62 static int encode_ext_header(Wmv2Context *w){
63     MpegEncContext * const s= &w->s;
64     PutBitContext pb;
65     int code;
66         
67     init_put_bits(&pb, s->avctx->extradata, s->avctx->extradata_size, NULL, NULL);
68
69     put_bits(&pb, 5, s->avctx->frame_rate / s->avctx->frame_rate_base); //yes 29.97 -> 29
70     put_bits(&pb, 11, FFMIN(s->bit_rate/1024, 2047));
71     
72     put_bits(&pb, 1, w->mspel_bit=1);
73     put_bits(&pb, 1, w->flag3=1);
74     put_bits(&pb, 1, w->abt_flag=1);
75     put_bits(&pb, 1, w->j_type_bit=1);
76     put_bits(&pb, 1, w->top_left_mv_flag=0);
77     put_bits(&pb, 1, w->per_mb_rl_bit=1);
78     put_bits(&pb, 3, code=1);
79     
80     flush_put_bits(&pb);
81
82     s->slice_height = s->mb_height / code;
83     
84     return 0;
85 }
86
87 #ifdef CONFIG_ENCODERS
88 static int wmv2_encode_init(AVCodecContext *avctx){
89     Wmv2Context * const w= avctx->priv_data;
90     
91     if(MPV_encode_init(avctx) < 0)
92         return -1;
93     
94     wmv2_common_init(w);
95
96     avctx->extradata_size= 4;
97     avctx->extradata= av_mallocz(avctx->extradata_size + 10);
98     encode_ext_header(w);
99     
100     return 0;
101 }
102
103 static int wmv2_encode_end(AVCodecContext *avctx){
104     Wmv2Context * const w= avctx->priv_data;
105     
106     if(MPV_encode_end(avctx) < 0)
107         return -1;
108     
109     avctx->extradata_size= 0;
110     av_freep(&avctx->extradata);
111     
112     return 0;
113 }
114
115 int ff_wmv2_encode_picture_header(MpegEncContext * s, int picture_number)
116 {
117     Wmv2Context * const w= (Wmv2Context*)s;
118
119     put_bits(&s->pb, 1, s->pict_type - 1);
120     if(s->pict_type == I_TYPE){
121         put_bits(&s->pb, 7, 0);
122     }
123     put_bits(&s->pb, 5, s->qscale);
124
125     s->dc_table_index = 1;
126     s->mv_table_index = 1; /* only if P frame */
127 //    s->use_skip_mb_code = 1; /* only if P frame */
128     s->per_mb_rl_table = 0;
129     s->mspel= 0;
130     w->per_mb_abt=0;
131     w->abt_type=0;
132     w->j_type=0;
133
134     assert(s->flipflop_rounding);
135
136     if (s->pict_type == I_TYPE) {
137         assert(s->no_rounding==1);
138         if(w->j_type_bit) put_bits(&s->pb, 1, w->j_type);
139         
140         if(w->per_mb_rl_bit) put_bits(&s->pb, 1, s->per_mb_rl_table);
141         
142         if(!s->per_mb_rl_table){
143             code012(&s->pb, s->rl_chroma_table_index);
144             code012(&s->pb, s->rl_table_index);
145         }
146
147         put_bits(&s->pb, 1, s->dc_table_index);
148
149         s->inter_intra_pred= 0;
150     }else{
151         int cbp_index;
152
153         put_bits(&s->pb, 2, SKIP_TYPE_NONE);
154         
155         code012(&s->pb, cbp_index=0);
156         if(s->qscale <= 10){
157             int map[3]= {0,2,1};
158             w->cbp_table_index= map[cbp_index];
159         }else if(s->qscale <= 20){
160             int map[3]= {1,0,2};
161             w->cbp_table_index= map[cbp_index];
162         }else{
163             int map[3]= {2,1,0};
164             w->cbp_table_index= map[cbp_index];
165         }
166
167         if(w->mspel_bit) put_bits(&s->pb, 1, s->mspel);
168     
169         if(w->abt_flag){
170             put_bits(&s->pb, 1, w->per_mb_abt^1);
171             if(!w->per_mb_abt){
172                 code012(&s->pb, w->abt_type);
173             }
174         }
175
176         if(w->per_mb_rl_bit) put_bits(&s->pb, 1, s->per_mb_rl_table);
177         
178         if(!s->per_mb_rl_table){
179             code012(&s->pb, s->rl_table_index);
180             s->rl_chroma_table_index = s->rl_table_index;
181         }
182         put_bits(&s->pb, 1, s->dc_table_index);
183         put_bits(&s->pb, 1, s->mv_table_index);
184     
185         s->inter_intra_pred= (s->width*s->height < 320*240 && s->bit_rate<=II_BITRATE);
186     }
187     s->esc3_level_length= 0;
188     s->esc3_run_length= 0;
189
190     return 0;
191 }
192
193 // nearly idential to wmv1 but thats just because we dont use the useless M$ crap features
194 // its duplicated here in case someone wants to add support for these carp features
195 void ff_wmv2_encode_mb(MpegEncContext * s, 
196                        DCTELEM block[6][64],
197                        int motion_x, int motion_y)
198 {
199     Wmv2Context * const w= (Wmv2Context*)s;
200     int cbp, coded_cbp, i;
201     int pred_x, pred_y;
202     uint8_t *coded_block;
203
204     handle_slices(s);
205     
206     if (!s->mb_intra) {
207         /* compute cbp */
208         set_stat(ST_INTER_MB);
209         cbp = 0;
210         for (i = 0; i < 6; i++) {
211             if (s->block_last_index[i] >= 0)
212                 cbp |= 1 << (5 - i);
213         }
214         
215         put_bits(&s->pb, 
216                  wmv2_inter_table[w->cbp_table_index][cbp + 64][1], 
217                  wmv2_inter_table[w->cbp_table_index][cbp + 64][0]);
218
219         /* motion vector */
220         h263_pred_motion(s, 0, &pred_x, &pred_y);
221         msmpeg4_encode_motion(s, motion_x - pred_x, 
222                               motion_y - pred_y);
223     } else {
224         /* compute cbp */
225         cbp = 0;
226         coded_cbp = 0;
227         for (i = 0; i < 6; i++) {
228             int val, pred;
229             val = (s->block_last_index[i] >= 1);
230             cbp |= val << (5 - i);
231             if (i < 4) {
232                 /* predict value for close blocks only for luma */
233                 pred = coded_block_pred(s, i, &coded_block);
234                 *coded_block = val;
235                 val = val ^ pred;
236             }
237             coded_cbp |= val << (5 - i);
238         }
239 #if 0
240         if (coded_cbp)
241             printf("cbp=%x %x\n", cbp, coded_cbp);
242 #endif
243
244         if (s->pict_type == I_TYPE) {
245             set_stat(ST_INTRA_MB);
246             put_bits(&s->pb, 
247                      table_mb_intra[coded_cbp][1], table_mb_intra[coded_cbp][0]);
248         } else {
249             put_bits(&s->pb, 
250                      wmv2_inter_table[w->cbp_table_index][cbp][1], 
251                      wmv2_inter_table[w->cbp_table_index][cbp][0]);
252         }
253         set_stat(ST_INTRA_MB);
254         put_bits(&s->pb, 1, 0); /* no AC prediction yet */
255         if(s->inter_intra_pred){
256             s->h263_aic_dir=0;
257             put_bits(&s->pb, table_inter_intra[s->h263_aic_dir][1], table_inter_intra[s->h263_aic_dir][0]);
258         }
259     }
260
261     for (i = 0; i < 6; i++) {
262         msmpeg4_encode_block(s, block[i], i);
263     }
264 }
265 #endif //CONFIG_ENCODERS
266
267 static void parse_mb_skip(Wmv2Context * w){
268     int mb_x, mb_y;
269     MpegEncContext * const s= &w->s;
270
271     w->skip_type= get_bits(&s->gb, 2);
272     switch(w->skip_type){
273     case SKIP_TYPE_NONE:
274         for(mb_y=0; mb_y<s->mb_height; mb_y++){
275             for(mb_x=0; mb_x<s->mb_width; mb_x++){
276                 s->mb_type[mb_y*s->mb_width + mb_x]= 0;
277             }
278         }
279         break;
280     case SKIP_TYPE_MPEG:
281         for(mb_y=0; mb_y<s->mb_height; mb_y++){
282             for(mb_x=0; mb_x<s->mb_width; mb_x++){
283                 s->mb_type[mb_y*s->mb_width + mb_x]= get_bits1(&s->gb) ? MB_TYPE_SKIPED : 0;
284             }
285         }
286         break;
287     case SKIP_TYPE_ROW:
288         for(mb_y=0; mb_y<s->mb_height; mb_y++){
289             if(get_bits1(&s->gb)){
290                 for(mb_x=0; mb_x<s->mb_width; mb_x++){
291                     s->mb_type[mb_y*s->mb_width + mb_x]=  MB_TYPE_SKIPED;
292                 }
293             }else{
294                 for(mb_x=0; mb_x<s->mb_width; mb_x++){
295                     s->mb_type[mb_y*s->mb_width + mb_x]= get_bits1(&s->gb) ? MB_TYPE_SKIPED : 0;
296                 }
297             }
298         }
299         break;
300     case SKIP_TYPE_COL:
301         for(mb_x=0; mb_x<s->mb_width; mb_x++){
302             if(get_bits1(&s->gb)){
303                 for(mb_y=0; mb_y<s->mb_height; mb_y++){
304                     s->mb_type[mb_y*s->mb_width + mb_x]=  MB_TYPE_SKIPED;
305                 }
306             }else{
307                 for(mb_y=0; mb_y<s->mb_height; mb_y++){
308                     s->mb_type[mb_y*s->mb_width + mb_x]= get_bits1(&s->gb) ? MB_TYPE_SKIPED : 0;
309                 }
310             }
311         }
312         break;
313     }
314 }
315
316 static int decode_ext_header(Wmv2Context *w){
317     MpegEncContext * const s= &w->s;
318     GetBitContext gb;
319     int fps;
320     int code;
321
322     if(s->avctx->extradata_size<4) return -1;
323     
324     init_get_bits(&gb, s->avctx->extradata, s->avctx->extradata_size*8);
325
326     fps                = get_bits(&gb, 5);
327     s->bit_rate        = get_bits(&gb, 11)*1024;
328     w->mspel_bit       = get_bits1(&gb);
329     w->flag3           = get_bits1(&gb);
330     w->abt_flag        = get_bits1(&gb);
331     w->j_type_bit      = get_bits1(&gb);
332     w->top_left_mv_flag= get_bits1(&gb);
333     w->per_mb_rl_bit   = get_bits1(&gb);
334     code               = get_bits(&gb, 3);
335     
336     if(code==0) return -1;
337
338     s->slice_height = s->mb_height / code;
339
340     if(s->avctx->debug&FF_DEBUG_PICT_INFO){
341         printf("fps:%d, br:%d, qpbit:%d, abt_flag:%d, j_type_bit:%d, tl_mv_flag:%d, mbrl_bit:%d, code:%d, flag3:%d, slices:%d\n", 
342         fps, s->bit_rate, w->mspel_bit, w->abt_flag, w->j_type_bit, w->top_left_mv_flag, w->per_mb_rl_bit, code, w->flag3, 
343         code);
344     }
345     return 0;
346 }
347
348 int ff_wmv2_decode_picture_header(MpegEncContext * s)
349 {
350     Wmv2Context * const w= (Wmv2Context*)s;
351     int code, i;
352
353 #if 0
354 {
355 int i;
356 for(i=0; i<s->gb.size*8; i++)
357     printf("%d", get_bits1(&s->gb));
358 //    get_bits1(&s->gb);
359 printf("END\n");
360 return -1;
361 }
362 #endif
363     if(s->picture_number==0)
364         decode_ext_header(w);
365
366     s->pict_type = get_bits(&s->gb, 1) + 1;
367     if(s->pict_type == I_TYPE){
368         code = get_bits(&s->gb, 7);
369         printf("I7:%X/\n", code);
370     }
371     s->qscale = get_bits(&s->gb, 5);
372
373     if (s->pict_type == I_TYPE) {
374         if(w->j_type_bit) w->j_type= get_bits1(&s->gb);
375         else              w->j_type= 0; //FIXME check
376         
377         if(!w->j_type){
378             if(w->per_mb_rl_bit) s->per_mb_rl_table= get_bits1(&s->gb);
379             else                 s->per_mb_rl_table= 0;
380         
381             if(!s->per_mb_rl_table){
382                 s->rl_chroma_table_index = decode012(&s->gb);
383                 s->rl_table_index = decode012(&s->gb);
384             }
385
386             s->dc_table_index = get_bits1(&s->gb);
387         }
388         s->inter_intra_pred= 0;
389         s->no_rounding = 1;
390         if(s->avctx->debug&FF_DEBUG_PICT_INFO){
391             printf("qscale:%d rlc:%d rl:%d dc:%d mbrl:%d j_type:%d \n", 
392                 s->qscale,
393                 s->rl_chroma_table_index,
394                 s->rl_table_index, 
395                 s->dc_table_index,
396                 s->per_mb_rl_table,
397                 w->j_type);
398         }
399     }else{
400         int cbp_index;
401         w->j_type=0;
402
403         parse_mb_skip(w);
404         cbp_index= decode012(&s->gb);
405         if(s->qscale <= 10){
406             int map[3]= {0,2,1};
407             w->cbp_table_index= map[cbp_index];
408         }else if(s->qscale <= 20){
409             int map[3]= {1,0,2};
410             w->cbp_table_index= map[cbp_index];
411         }else{
412             int map[3]= {2,1,0};
413             w->cbp_table_index= map[cbp_index];
414         }
415
416         if(w->mspel_bit) s->mspel= get_bits1(&s->gb);
417         else             s->mspel= 0; //FIXME check
418     
419         if(w->abt_flag){
420             w->per_mb_abt= get_bits1(&s->gb)^1;
421             if(!w->per_mb_abt){
422                 w->abt_type= decode012(&s->gb);
423             }
424         }
425
426         if(w->per_mb_rl_bit) s->per_mb_rl_table= get_bits1(&s->gb);
427         else                 s->per_mb_rl_table= 0;
428         
429         if(!s->per_mb_rl_table){
430             s->rl_table_index = decode012(&s->gb);
431             s->rl_chroma_table_index = s->rl_table_index;
432         }
433
434         s->dc_table_index = get_bits1(&s->gb);
435         s->mv_table_index = get_bits1(&s->gb);
436     
437         s->inter_intra_pred= (s->width*s->height < 320*240 && s->bit_rate<=II_BITRATE);
438         s->no_rounding ^= 1;
439         
440         if(s->avctx->debug&FF_DEBUG_PICT_INFO){
441             printf("rl:%d rlc:%d dc:%d mv:%d mbrl:%d qp:%d mspel:%d per_mb_abt:%d abt_type:%d cbp:%d ii:%d\n", 
442                 s->rl_table_index, 
443                 s->rl_chroma_table_index, 
444                 s->dc_table_index,
445                 s->mv_table_index,
446                 s->per_mb_rl_table,
447                 s->qscale,
448                 s->mspel,
449                 w->per_mb_abt,
450                 w->abt_type,
451                 w->cbp_table_index,
452                 s->inter_intra_pred);
453         }
454     }
455     s->esc3_level_length= 0;
456     s->esc3_run_length= 0;
457     
458     if(s->avctx->debug&FF_DEBUG_SKIP){
459         for(i=0; i<s->mb_num; i++){
460             if(i%s->mb_width==0) printf("\n");
461             printf("%d", s->mb_type[i]);
462         }
463     }
464 s->picture_number++; //FIXME ?
465
466
467 //    if(w->j_type)
468 //        return wmv2_decode_j_picture(w); //FIXME
469
470     if(w->j_type){
471         printf("J-type picture isnt supported\n");
472         return -1;
473     }
474
475     return 0;
476 }
477
478 static void ff_wmv2_decode_init(MpegEncContext *s){
479 }
480
481 static inline int wmv2_decode_motion(Wmv2Context *w, int *mx_ptr, int *my_ptr){
482     MpegEncContext * const s= &w->s;
483     int ret;
484    
485     ret= msmpeg4_decode_motion(s, mx_ptr, my_ptr);
486    
487     if(ret<0) return -1;
488    
489     if((((*mx_ptr)|(*my_ptr)) & 1) && s->mspel)
490         w->hshift= get_bits1(&s->gb);
491     else 
492         w->hshift= 0;
493
494 //printf("%d %d  ", *mx_ptr, *my_ptr);
495    
496     return 0;
497 }
498
499 static int16_t *wmv2_pred_motion(Wmv2Context *w, int *px, int *py){
500     MpegEncContext * const s= &w->s;
501     int xy, wrap, diff, type;
502     int16_t *A, *B, *C, *mot_val;
503
504     wrap = s->block_wrap[0];
505     xy = s->block_index[0];
506
507     mot_val = s->motion_val[xy];
508
509     A = s->motion_val[xy - 1];
510     B = s->motion_val[xy - wrap];
511     C = s->motion_val[xy + 2 - wrap];
512     
513     diff= FFMAX(ABS(A[0] - B[0]), ABS(A[1] - B[1]));
514     
515     if(s->mb_x && !s->first_slice_line && !s->mspel && w->top_left_mv_flag && diff >= 8)
516         type= get_bits1(&s->gb);
517     else
518         type= 2;
519     
520     if(type == 0){
521         *px= A[0];
522         *py= A[1];
523     }else if(type == 1){
524         *px= B[0];
525         *py= B[1];
526     }else{
527         /* special case for first (slice) line */
528         if (s->first_slice_line) {
529             *px = A[0];
530             *py = A[1];
531         } else {
532             *px = mid_pred(A[0], B[0], C[0]);
533             *py = mid_pred(A[1], B[1], C[1]);
534         }
535     }
536
537     return mot_val;
538 }
539
540 static inline int wmv2_decode_inter_block(Wmv2Context *w, DCTELEM *block, int n, int cbp){
541     MpegEncContext * const s= &w->s;
542     static const int sub_cbp_table[3]= {2,3,1};
543     int sub_cbp;
544
545     if(!cbp){ 
546         s->block_last_index[n] = -1;
547
548         return 0;
549     }
550     
551     if(w->per_block_abt)
552         w->abt_type= decode012(&s->gb);
553 #if 0
554     if(w->per_block_abt)
555         printf("B%d", w->abt_type);
556 #endif
557     w->abt_type_table[n]= w->abt_type;
558
559     if(w->abt_type){
560 //        const uint8_t *scantable= w->abt_scantable[w->abt_type-1].permutated;
561         const uint8_t *scantable= w->abt_scantable[w->abt_type-1].scantable;
562 //        const uint8_t *scantable= w->abt_type-1 ? w->abt_scantable[1].permutated : w->abt_scantable[0].scantable;
563
564         sub_cbp= sub_cbp_table[ decode012(&s->gb) ];
565 //        printf("S%d", sub_cbp);
566
567         if(sub_cbp&1){
568             if (msmpeg4_decode_block(s, block, n, 1, scantable) < 0)
569                 return -1;
570         }
571         
572         if(sub_cbp&2){
573             if (msmpeg4_decode_block(s, w->abt_block2[n], n, 1, scantable) < 0)
574                 return -1;
575         }
576         s->block_last_index[n] = 63;
577
578         return 0;
579     }else{
580         return msmpeg4_decode_block(s, block, n, 1, s->inter_scantable.permutated);
581     }
582 }
583
584 static void wmv2_add_block(Wmv2Context *w, DCTELEM *block1, uint8_t *dst, int stride, int n){
585     MpegEncContext * const s= &w->s;
586     uint8_t temp[2][64];
587
588     switch(w->abt_type_table[n]){
589     case 0:
590         if (s->block_last_index[n] >= 0) {
591             s->dsp.idct_add (dst, stride, block1);
592         }
593         break;
594     case 1:
595         simple_idct84_add(dst           , stride, block1);
596         simple_idct84_add(dst + 4*stride, stride, w->abt_block2[n]);
597         memset(w->abt_block2[n], 0, 64*sizeof(DCTELEM));
598         break;
599     case 2:
600         simple_idct48_add(dst           , stride, block1);
601         simple_idct48_add(dst + 4       , stride, w->abt_block2[n]);
602         memset(w->abt_block2[n], 0, 64*sizeof(DCTELEM));
603         break;
604     default:
605         fprintf(stderr, "internal error in WMV2 abt\n");
606     }
607 }
608
609 void ff_wmv2_add_mb(MpegEncContext *s, DCTELEM block1[6][64], uint8_t *dest_y, uint8_t *dest_cb, uint8_t *dest_cr){
610     Wmv2Context * const w= (Wmv2Context*)s;
611
612     wmv2_add_block(w, block1[0], dest_y                    , s->linesize, 0);
613     wmv2_add_block(w, block1[1], dest_y + 8                , s->linesize, 1);
614     wmv2_add_block(w, block1[2], dest_y +     8*s->linesize, s->linesize, 2);
615     wmv2_add_block(w, block1[3], dest_y + 8 + 8*s->linesize, s->linesize, 3);
616     
617     if(s->flags&CODEC_FLAG_GRAY) return;
618     
619     wmv2_add_block(w, block1[4], dest_cb                   , s->uvlinesize, 4);
620     wmv2_add_block(w, block1[5], dest_cr                   , s->uvlinesize, 5);
621 }
622
623 void ff_mspel_motion(MpegEncContext *s,
624                                uint8_t *dest_y, uint8_t *dest_cb, uint8_t *dest_cr,
625                                uint8_t **ref_picture, op_pixels_func (*pix_op)[4],
626                                int motion_x, int motion_y, int h)
627 {
628     Wmv2Context * const w= (Wmv2Context*)s;
629     uint8_t *ptr;
630     int dxy, offset, mx, my, src_x, src_y, v_edge_pos, linesize, uvlinesize;
631     int emu=0;
632     
633     dxy = ((motion_y & 1) << 1) | (motion_x & 1);
634     dxy = 2*dxy + w->hshift;
635     src_x = s->mb_x * 16 + (motion_x >> 1);
636     src_y = s->mb_y * 16 + (motion_y >> 1);
637                 
638     /* WARNING: do no forget half pels */
639     v_edge_pos = s->v_edge_pos;
640     src_x = clip(src_x, -16, s->width);
641     src_y = clip(src_y, -16, s->height);
642     linesize   = s->linesize;
643     uvlinesize = s->uvlinesize;
644     ptr = ref_picture[0] + (src_y * linesize) + src_x;
645
646     if(s->flags&CODEC_FLAG_EMU_EDGE){
647         if(src_x<1 || src_y<1 || src_x + 17  >= s->h_edge_pos
648                               || src_y + h+1 >= v_edge_pos){
649             ff_emulated_edge_mc(s, ptr - 1 - s->linesize, s->linesize, 19, 19, 
650                              src_x-1, src_y-1, s->h_edge_pos, s->v_edge_pos);
651             ptr= s->edge_emu_buffer + 1 + s->linesize;
652             emu=1;
653         }
654     }
655
656     s->dsp.put_mspel_pixels_tab[dxy](dest_y             , ptr             , linesize);
657     s->dsp.put_mspel_pixels_tab[dxy](dest_y+8           , ptr+8           , linesize);
658     s->dsp.put_mspel_pixels_tab[dxy](dest_y  +8*linesize, ptr  +8*linesize, linesize);
659     s->dsp.put_mspel_pixels_tab[dxy](dest_y+8+8*linesize, ptr+8+8*linesize, linesize);
660
661     if(s->flags&CODEC_FLAG_GRAY) return;
662
663     if (s->out_format == FMT_H263) {
664         dxy = 0;
665         if ((motion_x & 3) != 0)
666             dxy |= 1;
667         if ((motion_y & 3) != 0)
668             dxy |= 2;
669         mx = motion_x >> 2;
670         my = motion_y >> 2;
671     } else {
672         mx = motion_x / 2;
673         my = motion_y / 2;
674         dxy = ((my & 1) << 1) | (mx & 1);
675         mx >>= 1;
676         my >>= 1;
677     }
678     
679     src_x = s->mb_x * 8 + mx;
680     src_y = s->mb_y * 8 + my;
681     src_x = clip(src_x, -8, s->width >> 1);
682     if (src_x == (s->width >> 1))
683         dxy &= ~1;
684     src_y = clip(src_y, -8, s->height >> 1);
685     if (src_y == (s->height >> 1))
686         dxy &= ~2;
687     offset = (src_y * uvlinesize) + src_x;
688     ptr = ref_picture[1] + offset;
689     if(emu){
690         ff_emulated_edge_mc(s, ptr, s->uvlinesize, 9, 9, 
691                          src_x, src_y, s->h_edge_pos>>1, s->v_edge_pos>>1);
692         ptr= s->edge_emu_buffer;
693     }
694     pix_op[1][dxy](dest_cb, ptr, uvlinesize, h >> 1);
695
696     ptr = ref_picture[2] + offset;
697     if(emu){
698         ff_emulated_edge_mc(s, ptr, s->uvlinesize, 9, 9, 
699                          src_x, src_y, s->h_edge_pos>>1, s->v_edge_pos>>1);
700         ptr= s->edge_emu_buffer;
701     }
702     pix_op[1][dxy](dest_cr, ptr, uvlinesize, h >> 1);
703 }
704
705
706 static int wmv2_decode_mb(MpegEncContext *s, DCTELEM block[6][64])
707 {
708     Wmv2Context * const w= (Wmv2Context*)s;
709     int cbp, code, i;
710     uint8_t *coded_val;
711
712     if(w->j_type) return 0;
713     
714     if (s->pict_type == P_TYPE) {
715         if(s->mb_type[s->mb_y * s->mb_width + s->mb_x]&MB_TYPE_SKIPED){
716             /* skip mb */
717             s->mb_intra = 0;
718             for(i=0;i<6;i++)
719                 s->block_last_index[i] = -1;
720             s->mv_dir = MV_DIR_FORWARD;
721             s->mv_type = MV_TYPE_16X16;
722             s->mv[0][0][0] = 0;
723             s->mv[0][0][1] = 0;
724             s->mb_skiped = 1;
725             return 0;
726         }
727
728         code = get_vlc2(&s->gb, mb_non_intra_vlc[w->cbp_table_index].table, MB_NON_INTRA_VLC_BITS, 3);
729         if (code < 0)
730             return -1;
731         s->mb_intra = (~code & 0x40) >> 6;
732             
733         cbp = code & 0x3f;
734     } else {
735         s->mb_intra = 1;
736         code = get_vlc2(&s->gb, mb_intra_vlc.table, MB_INTRA_VLC_BITS, 2);
737         if (code < 0){
738             fprintf(stderr, "II-cbp illegal at %d %d\n", s->mb_x, s->mb_y);
739             return -1;
740         }
741         /* predict coded block pattern */
742         cbp = 0;
743         for(i=0;i<6;i++) {
744             int val = ((code >> (5 - i)) & 1);
745             if (i < 4) {
746                 int pred = coded_block_pred(s, i, &coded_val);
747                 val = val ^ pred;
748                 *coded_val = val;
749             }
750             cbp |= val << (5 - i);
751         }
752     }
753
754     if (!s->mb_intra) {
755         int mx, my;
756 //printf("P at %d %d\n", s->mb_x, s->mb_y);
757         wmv2_pred_motion(w, &mx, &my);
758         
759         if(cbp){
760             if(s->per_mb_rl_table){
761                 s->rl_table_index = decode012(&s->gb);
762                 s->rl_chroma_table_index = s->rl_table_index;
763             }
764
765             if(w->abt_flag && w->per_mb_abt){
766                 w->per_block_abt= get_bits1(&s->gb);
767                 if(!w->per_block_abt)
768                     w->abt_type= decode012(&s->gb);
769             }else
770                 w->per_block_abt=0;
771         }
772         
773         if (wmv2_decode_motion(w, &mx, &my) < 0)
774             return -1;
775
776         s->mv_dir = MV_DIR_FORWARD;
777         s->mv_type = MV_TYPE_16X16;
778         s->mv[0][0][0] = mx;
779         s->mv[0][0][1] = my;
780
781         for (i = 0; i < 6; i++) {
782             if (wmv2_decode_inter_block(w, block[i], i, (cbp >> (5 - i)) & 1) < 0)
783             {
784                 fprintf(stderr,"\nerror while decoding inter block: %d x %d (%d)\n", s->mb_x, s->mb_y, i);
785                 return -1;
786             }
787         }    
788     } else {
789 //if(s->pict_type==P_TYPE)
790 //   printf("%d%d ", s->inter_intra_pred, cbp);
791 //printf("I at %d %d %d %06X\n", s->mb_x, s->mb_y, ((cbp&3)? 1 : 0) +((cbp&0x3C)? 2 : 0), show_bits(&s->gb, 24));
792         s->ac_pred = get_bits1(&s->gb);
793         if(s->inter_intra_pred){
794             s->h263_aic_dir= get_vlc2(&s->gb, inter_intra_vlc.table, INTER_INTRA_VLC_BITS, 1);
795 //            printf("%d%d %d %d/", s->ac_pred, s->h263_aic_dir, s->mb_x, s->mb_y);
796         }
797         if(s->per_mb_rl_table && cbp){
798             s->rl_table_index = decode012(&s->gb);
799             s->rl_chroma_table_index = s->rl_table_index;
800         }
801     
802         for (i = 0; i < 6; i++) {
803             if (msmpeg4_decode_block(s, block[i], i, (cbp >> (5 - i)) & 1, NULL) < 0)
804             {
805                 fprintf(stderr,"\nerror while decoding intra block: %d x %d (%d)\n", s->mb_x, s->mb_y, i);
806                 return -1;
807             }
808         }    
809     }
810
811     return 0;
812 }
813
814 static int wmv2_decode_init(AVCodecContext *avctx){
815     Wmv2Context * const w= avctx->priv_data;
816     
817     if(ff_h263_decode_init(avctx) < 0)
818         return -1;
819     
820     wmv2_common_init(w);
821     
822     return 0;
823 }
824
825 AVCodec wmv2_decoder = {
826     "wmv2",
827     CODEC_TYPE_VIDEO,
828     CODEC_ID_WMV2,
829     sizeof(Wmv2Context),
830     wmv2_decode_init,
831     NULL,
832     ff_h263_decode_end,
833     ff_h263_decode_frame,
834     CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1,
835 };
836
837 #ifdef CONFIG_ENCODERS
838 AVCodec wmv2_encoder = {
839     "wmv2",
840     CODEC_TYPE_VIDEO,
841     CODEC_ID_WMV2,
842     sizeof(Wmv2Context),
843     wmv2_encode_init,
844     MPV_encode_picture,
845     MPV_encode_end,
846 };
847 #endif