]> git.sesse.net Git - ffmpeg/blob - libavcodec/mpeg12dec.c
Merge commit '310cc4bf82824f09bdd0b9147ed725cdbeaf9bdd'
[ffmpeg] / libavcodec / mpeg12dec.c
1 /*
2  * MPEG-1/2 decoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2002-2013 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * MPEG-1/2 decoder
26  */
27
28 #include "libavutil/attributes.h"
29 #include "libavutil/internal.h"
30 #include "internal.h"
31 #include "avcodec.h"
32 #include "dsputil.h"
33 #include "mpegvideo.h"
34 #include "error_resilience.h"
35 #include "mpeg12.h"
36 #include "mpeg12data.h"
37 #include "bytestream.h"
38 #include "vdpau_internal.h"
39 #include "xvmc_internal.h"
40 #include "thread.h"
41
42 typedef struct Mpeg1Context {
43     MpegEncContext mpeg_enc_ctx;
44     int mpeg_enc_ctx_allocated; /* true if decoding context allocated */
45     int repeat_field; /* true if we must repeat the field */
46     AVPanScan pan_scan;              /**< some temporary storage for the panscan */
47     int slice_count;
48     int swap_uv;//indicate VCR2
49     int save_aspect_info;
50     int save_width, save_height, save_progressive_seq;
51     AVRational frame_rate_ext;       ///< MPEG-2 specific framerate modificator
52     int sync;                        ///< Did we reach a sync point like a GOP/SEQ/KEYFrame?
53     int tmpgexs;
54     int extradata_decoded;
55 } Mpeg1Context;
56
57 #define MB_TYPE_ZERO_MV   0x20000000
58
59 static const uint32_t ptype2mb_type[7] = {
60                     MB_TYPE_INTRA,
61                     MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
62                     MB_TYPE_L0,
63                     MB_TYPE_L0 | MB_TYPE_CBP,
64     MB_TYPE_QUANT | MB_TYPE_INTRA,
65     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
66     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP,
67 };
68
69 static const uint32_t btype2mb_type[11] = {
70                     MB_TYPE_INTRA,
71                     MB_TYPE_L1,
72                     MB_TYPE_L1   | MB_TYPE_CBP,
73                     MB_TYPE_L0,
74                     MB_TYPE_L0   | MB_TYPE_CBP,
75                     MB_TYPE_L0L1,
76                     MB_TYPE_L0L1 | MB_TYPE_CBP,
77     MB_TYPE_QUANT | MB_TYPE_INTRA,
78     MB_TYPE_QUANT | MB_TYPE_L1   | MB_TYPE_CBP,
79     MB_TYPE_QUANT | MB_TYPE_L0   | MB_TYPE_CBP,
80     MB_TYPE_QUANT | MB_TYPE_L0L1 | MB_TYPE_CBP,
81 };
82
83 static const uint8_t non_linear_qscale[32] = {
84     0, 1, 2, 3, 4, 5, 6, 7,
85     8,10,12,14,16,18,20,22,
86     24,28,32,36,40,44,48,52,
87     56,64,72,80,88,96,104,112,
88 };
89
90 /* as H.263, but only 17 codes */
91 static int mpeg_decode_motion(MpegEncContext *s, int fcode, int pred)
92 {
93     int code, sign, val, shift;
94
95     code = get_vlc2(&s->gb, ff_mv_vlc.table, MV_VLC_BITS, 2);
96     if (code == 0) {
97         return pred;
98     }
99     if (code < 0) {
100         return 0xffff;
101     }
102
103     sign  = get_bits1(&s->gb);
104     shift = fcode - 1;
105     val   = code;
106     if (shift) {
107         val  = (val - 1) << shift;
108         val |= get_bits(&s->gb, shift);
109         val++;
110     }
111     if (sign)
112         val = -val;
113     val += pred;
114
115     /* modulo decoding */
116     return sign_extend(val, 5 + shift);
117 }
118
119 static inline int mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
120 {
121     int level, dc, diff, i, j, run;
122     int component;
123     RLTable *rl = &ff_rl_mpeg1;
124     uint8_t * const scantable    = s->intra_scantable.permutated;
125     const uint16_t *quant_matrix = s->intra_matrix;
126     const int qscale             = s->qscale;
127
128     /* DC coefficient */
129     component = (n <= 3 ? 0 : n - 4 + 1);
130     diff = decode_dc(&s->gb, component);
131     if (diff >= 0xffff)
132         return -1;
133     dc  = s->last_dc[component];
134     dc += diff;
135     s->last_dc[component] = dc;
136     block[0] = dc * quant_matrix[0];
137     av_dlog(s->avctx, "dc=%d diff=%d\n", dc, diff);
138     i = 0;
139     {
140         OPEN_READER(re, &s->gb);
141         /* now quantify & encode AC coefficients */
142         for (;;) {
143             UPDATE_CACHE(re, &s->gb);
144             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
145
146             if (level == 127) {
147                 break;
148             } else if (level != 0) {
149                 i += run;
150                 j = scantable[i];
151                 level = (level * qscale * quant_matrix[j]) >> 4;
152                 level = (level - 1) | 1;
153                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
154                 LAST_SKIP_BITS(re, &s->gb, 1);
155             } else {
156                 /* escape */
157                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
158                 UPDATE_CACHE(re, &s->gb);
159                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
160                 if (level == -128) {
161                     level = SHOW_UBITS(re, &s->gb, 8) - 256; LAST_SKIP_BITS(re, &s->gb, 8);
162                 } else if (level == 0) {
163                     level = SHOW_UBITS(re, &s->gb, 8)      ; LAST_SKIP_BITS(re, &s->gb, 8);
164                 }
165                 i += run;
166                 j = scantable[i];
167                 if (level < 0) {
168                     level = -level;
169                     level = (level * qscale * quant_matrix[j]) >> 4;
170                     level = (level - 1) | 1;
171                     level = -level;
172                 } else {
173                     level = (level * qscale * quant_matrix[j]) >> 4;
174                     level = (level - 1) | 1;
175                 }
176             }
177             if (i > 63) {
178                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
179                 return -1;
180             }
181
182             block[j] = level;
183         }
184         CLOSE_READER(re, &s->gb);
185     }
186     s->block_last_index[n] = i;
187    return 0;
188 }
189
190 int ff_mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
191 {
192     return mpeg1_decode_block_intra(s, block, n);
193 }
194
195 static inline int mpeg1_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
196 {
197     int level, i, j, run;
198     RLTable *rl = &ff_rl_mpeg1;
199     uint8_t * const scantable    = s->intra_scantable.permutated;
200     const uint16_t *quant_matrix = s->inter_matrix;
201     const int qscale             = s->qscale;
202
203     {
204         OPEN_READER(re, &s->gb);
205         i = -1;
206         // special case for first coefficient, no need to add second VLC table
207         UPDATE_CACHE(re, &s->gb);
208         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
209             level = (3 * qscale * quant_matrix[0]) >> 5;
210             level = (level - 1) | 1;
211             if (GET_CACHE(re, &s->gb) & 0x40000000)
212                 level = -level;
213             block[0] = level;
214             i++;
215             SKIP_BITS(re, &s->gb, 2);
216             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
217                 goto end;
218         }
219         /* now quantify & encode AC coefficients */
220         for (;;) {
221             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
222
223             if (level != 0) {
224                 i += run;
225                 j = scantable[i];
226                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
227                 level = (level - 1) | 1;
228                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
229                 SKIP_BITS(re, &s->gb, 1);
230             } else {
231                 /* escape */
232                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
233                 UPDATE_CACHE(re, &s->gb);
234                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
235                 if (level == -128) {
236                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
237                 } else if (level == 0) {
238                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
239                 }
240                 i += run;
241                 j = scantable[i];
242                 if (level < 0) {
243                     level = -level;
244                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
245                     level = (level - 1) | 1;
246                     level = -level;
247                 } else {
248                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
249                     level = (level - 1) | 1;
250                 }
251             }
252             if (i > 63) {
253                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
254                 return -1;
255             }
256
257             block[j] = level;
258             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
259                 break;
260             UPDATE_CACHE(re, &s->gb);
261         }
262 end:
263         LAST_SKIP_BITS(re, &s->gb, 2);
264         CLOSE_READER(re, &s->gb);
265     }
266     s->block_last_index[n] = i;
267     return 0;
268 }
269
270 /**
271  * Note: this function can read out of range and crash for corrupt streams.
272  * Changing this would eat up any speed benefits it has.
273  * Do not use "fast" flag if you need the code to be robust.
274  */
275 static inline int mpeg1_fast_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
276 {
277     int level, i, j, run;
278     RLTable *rl = &ff_rl_mpeg1;
279     uint8_t * const scantable = s->intra_scantable.permutated;
280     const int qscale          = s->qscale;
281
282     {
283         OPEN_READER(re, &s->gb);
284         i = -1;
285         // special case for first coefficient, no need to add second VLC table
286         UPDATE_CACHE(re, &s->gb);
287         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
288             level = (3 * qscale) >> 1;
289             level = (level - 1) | 1;
290             if (GET_CACHE(re, &s->gb) & 0x40000000)
291                 level = -level;
292             block[0] = level;
293             i++;
294             SKIP_BITS(re, &s->gb, 2);
295             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
296                 goto end;
297         }
298
299         /* now quantify & encode AC coefficients */
300         for (;;) {
301             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
302
303             if (level != 0) {
304                 i += run;
305                 j = scantable[i];
306                 level = ((level * 2 + 1) * qscale) >> 1;
307                 level = (level - 1) | 1;
308                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
309                 SKIP_BITS(re, &s->gb, 1);
310             } else {
311                 /* escape */
312                 run = SHOW_UBITS(re, &s->gb, 6)+1; LAST_SKIP_BITS(re, &s->gb, 6);
313                 UPDATE_CACHE(re, &s->gb);
314                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
315                 if (level == -128) {
316                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
317                 } else if (level == 0) {
318                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
319                 }
320                 i += run;
321                 j = scantable[i];
322                 if (level < 0) {
323                     level = -level;
324                     level = ((level * 2 + 1) * qscale) >> 1;
325                     level = (level - 1) | 1;
326                     level = -level;
327                 } else {
328                     level = ((level * 2 + 1) * qscale) >> 1;
329                     level = (level - 1) | 1;
330                 }
331             }
332
333             block[j] = level;
334             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
335                 break;
336             UPDATE_CACHE(re, &s->gb);
337         }
338 end:
339         LAST_SKIP_BITS(re, &s->gb, 2);
340         CLOSE_READER(re, &s->gb);
341     }
342     s->block_last_index[n] = i;
343     return 0;
344 }
345
346
347 static inline int mpeg2_decode_block_non_intra(MpegEncContext *s, int16_t *block, int n)
348 {
349     int level, i, j, run;
350     RLTable *rl = &ff_rl_mpeg1;
351     uint8_t * const scantable = s->intra_scantable.permutated;
352     const uint16_t *quant_matrix;
353     const int qscale = s->qscale;
354     int mismatch;
355
356     mismatch = 1;
357
358     {
359         OPEN_READER(re, &s->gb);
360         i = -1;
361         if (n < 4)
362             quant_matrix = s->inter_matrix;
363         else
364             quant_matrix = s->chroma_inter_matrix;
365
366         // special case for first coefficient, no need to add second VLC table
367         UPDATE_CACHE(re, &s->gb);
368         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
369             level= (3 * qscale * quant_matrix[0]) >> 5;
370             if (GET_CACHE(re, &s->gb) & 0x40000000)
371                 level = -level;
372             block[0]  = level;
373             mismatch ^= level;
374             i++;
375             SKIP_BITS(re, &s->gb, 2);
376             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
377                 goto end;
378         }
379
380         /* now quantify & encode AC coefficients */
381         for (;;) {
382             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
383
384             if (level != 0) {
385                 i += run;
386                 j = scantable[i];
387                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
388                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
389                 SKIP_BITS(re, &s->gb, 1);
390             } else {
391                 /* escape */
392                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
393                 UPDATE_CACHE(re, &s->gb);
394                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
395
396                 i += run;
397                 j = scantable[i];
398                 if (level < 0) {
399                     level = ((-level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
400                     level = -level;
401                 } else {
402                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
403                 }
404             }
405             if (i > 63) {
406                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
407                 return -1;
408             }
409
410             mismatch ^= level;
411             block[j]  = level;
412             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
413                 break;
414             UPDATE_CACHE(re, &s->gb);
415         }
416 end:
417         LAST_SKIP_BITS(re, &s->gb, 2);
418         CLOSE_READER(re, &s->gb);
419     }
420     block[63] ^= (mismatch & 1);
421
422     s->block_last_index[n] = i;
423     return 0;
424 }
425
426 /**
427  * Note: this function can read out of range and crash for corrupt streams.
428  * Changing this would eat up any speed benefits it has.
429  * Do not use "fast" flag if you need the code to be robust.
430  */
431 static inline int mpeg2_fast_decode_block_non_intra(MpegEncContext *s,
432                                                     int16_t *block, int n)
433 {
434     int level, i, j, run;
435     RLTable *rl = &ff_rl_mpeg1;
436     uint8_t * const scantable = s->intra_scantable.permutated;
437     const int qscale          = s->qscale;
438     OPEN_READER(re, &s->gb);
439     i = -1;
440
441     // special case for first coefficient, no need to add second VLC table
442     UPDATE_CACHE(re, &s->gb);
443     if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
444         level = (3 * qscale) >> 1;
445         if (GET_CACHE(re, &s->gb) & 0x40000000)
446             level = -level;
447         block[0] = level;
448         i++;
449         SKIP_BITS(re, &s->gb, 2);
450         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
451             goto end;
452     }
453
454     /* now quantify & encode AC coefficients */
455     for (;;) {
456         GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
457
458         if (level != 0) {
459             i += run;
460             j  = scantable[i];
461             level = ((level * 2 + 1) * qscale) >> 1;
462             level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
463             SKIP_BITS(re, &s->gb, 1);
464         } else {
465             /* escape */
466             run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
467             UPDATE_CACHE(re, &s->gb);
468             level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
469
470             i += run;
471             j  = scantable[i];
472             if (level < 0) {
473                 level = ((-level * 2 + 1) * qscale) >> 1;
474                 level = -level;
475             } else {
476                 level = ((level * 2 + 1) * qscale) >> 1;
477             }
478         }
479
480         block[j] = level;
481         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
482             break;
483         UPDATE_CACHE(re, &s->gb);
484     }
485 end:
486     LAST_SKIP_BITS(re, &s->gb, 2);
487     CLOSE_READER(re, &s->gb);
488     s->block_last_index[n] = i;
489     return 0;
490 }
491
492
493 static inline int mpeg2_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
494 {
495     int level, dc, diff, i, j, run;
496     int component;
497     RLTable *rl;
498     uint8_t * const scantable = s->intra_scantable.permutated;
499     const uint16_t *quant_matrix;
500     const int qscale = s->qscale;
501     int mismatch;
502
503     /* DC coefficient */
504     if (n < 4) {
505         quant_matrix = s->intra_matrix;
506         component = 0;
507     } else {
508         quant_matrix = s->chroma_intra_matrix;
509         component = (n & 1) + 1;
510     }
511     diff = decode_dc(&s->gb, component);
512     if (diff >= 0xffff)
513         return -1;
514     dc  = s->last_dc[component];
515     dc += diff;
516     s->last_dc[component] = dc;
517     block[0] = dc << (3 - s->intra_dc_precision);
518     av_dlog(s->avctx, "dc=%d\n", block[0]);
519     mismatch = block[0] ^ 1;
520     i = 0;
521     if (s->intra_vlc_format)
522         rl = &ff_rl_mpeg2;
523     else
524         rl = &ff_rl_mpeg1;
525
526     {
527         OPEN_READER(re, &s->gb);
528         /* now quantify & encode AC coefficients */
529         for (;;) {
530             UPDATE_CACHE(re, &s->gb);
531             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
532
533             if (level == 127) {
534                 break;
535             } else if (level != 0) {
536                 i += run;
537                 j  = scantable[i];
538                 level = (level * qscale * quant_matrix[j]) >> 4;
539                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
540                 LAST_SKIP_BITS(re, &s->gb, 1);
541             } else {
542                 /* escape */
543                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
544                 UPDATE_CACHE(re, &s->gb);
545                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
546                 i += run;
547                 j  = scantable[i];
548                 if (level < 0) {
549                     level = (-level * qscale * quant_matrix[j]) >> 4;
550                     level = -level;
551                 } else {
552                     level = (level * qscale * quant_matrix[j]) >> 4;
553                 }
554             }
555             if (i > 63) {
556                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
557                 return -1;
558             }
559
560             mismatch ^= level;
561             block[j]  = level;
562         }
563         CLOSE_READER(re, &s->gb);
564     }
565     block[63] ^= mismatch & 1;
566
567     s->block_last_index[n] = i;
568     return 0;
569 }
570
571 /**
572  * Note: this function can read out of range and crash for corrupt streams.
573  * Changing this would eat up any speed benefits it has.
574  * Do not use "fast" flag if you need the code to be robust.
575  */
576 static inline int mpeg2_fast_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
577 {
578     int level, dc, diff, j, run;
579     int component;
580     RLTable *rl;
581     uint8_t * scantable = s->intra_scantable.permutated;
582     const uint16_t *quant_matrix;
583     const int qscale = s->qscale;
584
585     /* DC coefficient */
586     if (n < 4) {
587         quant_matrix = s->intra_matrix;
588         component = 0;
589     } else {
590         quant_matrix = s->chroma_intra_matrix;
591         component = (n & 1) + 1;
592     }
593     diff = decode_dc(&s->gb, component);
594     if (diff >= 0xffff)
595         return -1;
596     dc = s->last_dc[component];
597     dc += diff;
598     s->last_dc[component] = dc;
599     block[0] = dc << (3 - s->intra_dc_precision);
600     if (s->intra_vlc_format)
601         rl = &ff_rl_mpeg2;
602     else
603         rl = &ff_rl_mpeg1;
604
605     {
606         OPEN_READER(re, &s->gb);
607         /* now quantify & encode AC coefficients */
608         for (;;) {
609             UPDATE_CACHE(re, &s->gb);
610             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
611
612             if (level == 127) {
613                 break;
614             } else if (level != 0) {
615                 scantable += run;
616                 j = *scantable;
617                 level = (level * qscale * quant_matrix[j]) >> 4;
618                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
619                 LAST_SKIP_BITS(re, &s->gb, 1);
620             } else {
621                 /* escape */
622                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
623                 UPDATE_CACHE(re, &s->gb);
624                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
625                 scantable += run;
626                 j = *scantable;
627                 if (level < 0) {
628                     level = (-level * qscale * quant_matrix[j]) >> 4;
629                     level = -level;
630                 } else {
631                     level = (level * qscale * quant_matrix[j]) >> 4;
632                 }
633             }
634
635             block[j] = level;
636         }
637         CLOSE_READER(re, &s->gb);
638     }
639
640     s->block_last_index[n] = scantable - s->intra_scantable.permutated;
641     return 0;
642 }
643
644 /******************************************/
645 /* decoding */
646
647 static inline int get_dmv(MpegEncContext *s)
648 {
649     if (get_bits1(&s->gb))
650         return 1 - (get_bits1(&s->gb) << 1);
651     else
652         return 0;
653 }
654
655 static inline int get_qscale(MpegEncContext *s)
656 {
657     int qscale = get_bits(&s->gb, 5);
658     if (s->q_scale_type) {
659         return non_linear_qscale[qscale];
660     } else {
661         return qscale << 1;
662     }
663 }
664
665 static void exchange_uv(MpegEncContext *s)
666 {
667     int16_t (*tmp)[64];
668
669     tmp           = s->pblocks[4];
670     s->pblocks[4] = s->pblocks[5];
671     s->pblocks[5] = tmp;
672 }
673
674 /* motion type (for MPEG-2) */
675 #define MT_FIELD 1
676 #define MT_FRAME 2
677 #define MT_16X8  2
678 #define MT_DMV   3
679
680 static int mpeg_decode_mb(MpegEncContext *s, int16_t block[12][64])
681 {
682     int i, j, k, cbp, val, mb_type, motion_type;
683     const int mb_block_count = 4 + (1 << s->chroma_format);
684
685     av_dlog(s->avctx, "decode_mb: x=%d y=%d\n", s->mb_x, s->mb_y);
686
687     av_assert2(s->mb_skipped == 0);
688
689     if (s->mb_skip_run-- != 0) {
690         if (s->pict_type == AV_PICTURE_TYPE_P) {
691             s->mb_skipped = 1;
692             s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = MB_TYPE_SKIP | MB_TYPE_L0 | MB_TYPE_16x16;
693         } else {
694             int mb_type;
695
696             if (s->mb_x)
697                 mb_type = s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride - 1];
698             else
699                 mb_type = s->current_picture.mb_type[s->mb_width + (s->mb_y - 1) * s->mb_stride - 1]; // FIXME not sure if this is allowed in MPEG at all
700             if (IS_INTRA(mb_type)) {
701                 av_log(s->avctx, AV_LOG_ERROR, "skip with previntra\n");
702                 return -1;
703             }
704             s->current_picture.mb_type[s->mb_x + s->mb_y*s->mb_stride] =
705                 mb_type | MB_TYPE_SKIP;
706
707             if ((s->mv[0][0][0] | s->mv[0][0][1] | s->mv[1][0][0] | s->mv[1][0][1]) == 0)
708                 s->mb_skipped = 1;
709         }
710
711         return 0;
712     }
713
714     switch (s->pict_type) {
715     default:
716     case AV_PICTURE_TYPE_I:
717         if (get_bits1(&s->gb) == 0) {
718             if (get_bits1(&s->gb) == 0) {
719                 av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in I Frame at %d %d\n", s->mb_x, s->mb_y);
720                 return -1;
721             }
722             mb_type = MB_TYPE_QUANT | MB_TYPE_INTRA;
723         } else {
724             mb_type = MB_TYPE_INTRA;
725         }
726         break;
727     case AV_PICTURE_TYPE_P:
728         mb_type = get_vlc2(&s->gb, ff_mb_ptype_vlc.table, MB_PTYPE_VLC_BITS, 1);
729         if (mb_type < 0) {
730             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in P Frame at %d %d\n", s->mb_x, s->mb_y);
731             return -1;
732         }
733         mb_type = ptype2mb_type[mb_type];
734         break;
735     case AV_PICTURE_TYPE_B:
736         mb_type = get_vlc2(&s->gb, ff_mb_btype_vlc.table, MB_BTYPE_VLC_BITS, 1);
737         if (mb_type < 0) {
738             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in B Frame at %d %d\n", s->mb_x, s->mb_y);
739             return -1;
740         }
741         mb_type = btype2mb_type[mb_type];
742         break;
743     }
744     av_dlog(s->avctx, "mb_type=%x\n", mb_type);
745 //    motion_type = 0; /* avoid warning */
746     if (IS_INTRA(mb_type)) {
747         s->dsp.clear_blocks(s->block[0]);
748
749         if (!s->chroma_y_shift) {
750             s->dsp.clear_blocks(s->block[6]);
751         }
752
753         /* compute DCT type */
754         if (s->picture_structure == PICT_FRAME && // FIXME add an interlaced_dct coded var?
755             !s->frame_pred_frame_dct) {
756             s->interlaced_dct = get_bits1(&s->gb);
757         }
758
759         if (IS_QUANT(mb_type))
760             s->qscale = get_qscale(s);
761
762         if (s->concealment_motion_vectors) {
763             /* just parse them */
764             if (s->picture_structure != PICT_FRAME)
765                 skip_bits1(&s->gb); /* field select */
766
767             s->mv[0][0][0]= s->last_mv[0][0][0]= s->last_mv[0][1][0] =
768                 mpeg_decode_motion(s, s->mpeg_f_code[0][0], s->last_mv[0][0][0]);
769             s->mv[0][0][1]= s->last_mv[0][0][1]= s->last_mv[0][1][1] =
770                 mpeg_decode_motion(s, s->mpeg_f_code[0][1], s->last_mv[0][0][1]);
771
772             skip_bits1(&s->gb); /* marker */
773         } else
774             memset(s->last_mv, 0, sizeof(s->last_mv)); /* reset mv prediction */
775         s->mb_intra = 1;
776         // if 1, we memcpy blocks in xvmcvideo
777         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
778             ff_xvmc_pack_pblocks(s, -1); // inter are always full blocks
779             if (s->swap_uv) {
780                 exchange_uv(s);
781             }
782         }
783
784         if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
785             if (s->flags2 & CODEC_FLAG2_FAST) {
786                 for (i = 0; i < 6; i++) {
787                     mpeg2_fast_decode_block_intra(s, *s->pblocks[i], i);
788                 }
789             } else {
790                 for (i = 0; i < mb_block_count; i++) {
791                     if (mpeg2_decode_block_intra(s, *s->pblocks[i], i) < 0)
792                         return -1;
793                 }
794             }
795         } else {
796             for (i = 0; i < 6; i++) {
797                 if (mpeg1_decode_block_intra(s, *s->pblocks[i], i) < 0)
798                     return -1;
799             }
800         }
801     } else {
802         if (mb_type & MB_TYPE_ZERO_MV) {
803             av_assert2(mb_type & MB_TYPE_CBP);
804
805             s->mv_dir = MV_DIR_FORWARD;
806             if (s->picture_structure == PICT_FRAME) {
807                 if (s->picture_structure == PICT_FRAME
808                     && !s->frame_pred_frame_dct)
809                     s->interlaced_dct = get_bits1(&s->gb);
810                 s->mv_type = MV_TYPE_16X16;
811             } else {
812                 s->mv_type = MV_TYPE_FIELD;
813                 mb_type |= MB_TYPE_INTERLACED;
814                 s->field_select[0][0] = s->picture_structure - 1;
815             }
816
817             if (IS_QUANT(mb_type))
818                 s->qscale = get_qscale(s);
819
820             s->last_mv[0][0][0] = 0;
821             s->last_mv[0][0][1] = 0;
822             s->last_mv[0][1][0] = 0;
823             s->last_mv[0][1][1] = 0;
824             s->mv[0][0][0] = 0;
825             s->mv[0][0][1] = 0;
826         } else {
827             av_assert2(mb_type & MB_TYPE_L0L1);
828             // FIXME decide if MBs in field pictures are MB_TYPE_INTERLACED
829             /* get additional motion vector type */
830             if (s->picture_structure == PICT_FRAME && s->frame_pred_frame_dct)
831                 motion_type = MT_FRAME;
832             else {
833                 motion_type = get_bits(&s->gb, 2);
834                 if (s->picture_structure == PICT_FRAME && HAS_CBP(mb_type))
835                     s->interlaced_dct = get_bits1(&s->gb);
836             }
837
838             if (IS_QUANT(mb_type))
839                 s->qscale = get_qscale(s);
840
841             /* motion vectors */
842             s->mv_dir = (mb_type >> 13) & 3;
843             av_dlog(s->avctx, "motion_type=%d\n", motion_type);
844             switch (motion_type) {
845             case MT_FRAME: /* or MT_16X8 */
846                 if (s->picture_structure == PICT_FRAME) {
847                     mb_type |= MB_TYPE_16x16;
848                     s->mv_type = MV_TYPE_16X16;
849                     for (i = 0; i < 2; i++) {
850                         if (USES_LIST(mb_type, i)) {
851                             /* MT_FRAME */
852                             s->mv[i][0][0]= s->last_mv[i][0][0]= s->last_mv[i][1][0] =
853                                 mpeg_decode_motion(s, s->mpeg_f_code[i][0], s->last_mv[i][0][0]);
854                             s->mv[i][0][1]= s->last_mv[i][0][1]= s->last_mv[i][1][1] =
855                                 mpeg_decode_motion(s, s->mpeg_f_code[i][1], s->last_mv[i][0][1]);
856                             /* full_pel: only for MPEG-1 */
857                             if (s->full_pel[i]) {
858                                 s->mv[i][0][0] <<= 1;
859                                 s->mv[i][0][1] <<= 1;
860                             }
861                         }
862                     }
863                 } else {
864                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
865                     s->mv_type = MV_TYPE_16X8;
866                     for (i = 0; i < 2; i++) {
867                         if (USES_LIST(mb_type, i)) {
868                             /* MT_16X8 */
869                             for (j = 0; j < 2; j++) {
870                                 s->field_select[i][j] = get_bits1(&s->gb);
871                                 for (k = 0; k < 2; k++) {
872                                     val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
873                                                              s->last_mv[i][j][k]);
874                                     s->last_mv[i][j][k] = val;
875                                     s->mv[i][j][k]      = val;
876                                 }
877                             }
878                         }
879                     }
880                 }
881                 break;
882             case MT_FIELD:
883                 s->mv_type = MV_TYPE_FIELD;
884                 if (s->picture_structure == PICT_FRAME) {
885                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
886                     for (i = 0; i < 2; i++) {
887                         if (USES_LIST(mb_type, i)) {
888                             for (j = 0; j < 2; j++) {
889                                 s->field_select[i][j] = get_bits1(&s->gb);
890                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
891                                                          s->last_mv[i][j][0]);
892                                 s->last_mv[i][j][0] = val;
893                                 s->mv[i][j][0]      = val;
894                                 av_dlog(s->avctx, "fmx=%d\n", val);
895                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
896                                                          s->last_mv[i][j][1] >> 1);
897                                 s->last_mv[i][j][1] = val << 1;
898                                 s->mv[i][j][1]      = val;
899                                 av_dlog(s->avctx, "fmy=%d\n", val);
900                             }
901                         }
902                     }
903                 } else {
904                     av_assert0(!s->progressive_sequence);
905                     mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
906                     for (i = 0; i < 2; i++) {
907                         if (USES_LIST(mb_type, i)) {
908                             s->field_select[i][0] = get_bits1(&s->gb);
909                             for (k = 0; k < 2; k++) {
910                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
911                                                          s->last_mv[i][0][k]);
912                                 s->last_mv[i][0][k] = val;
913                                 s->last_mv[i][1][k] = val;
914                                 s->mv[i][0][k]      = val;
915                             }
916                         }
917                     }
918                 }
919                 break;
920             case MT_DMV:
921                 if(s->progressive_sequence){
922                     av_log(s->avctx, AV_LOG_ERROR, "MT_DMV in progressive_sequence\n");
923                     return -1;
924                 }
925                 s->mv_type = MV_TYPE_DMV;
926                 for (i = 0; i < 2; i++) {
927                     if (USES_LIST(mb_type, i)) {
928                         int dmx, dmy, mx, my, m;
929                         const int my_shift = s->picture_structure == PICT_FRAME;
930
931                         mx = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
932                                                 s->last_mv[i][0][0]);
933                         s->last_mv[i][0][0] = mx;
934                         s->last_mv[i][1][0] = mx;
935                         dmx = get_dmv(s);
936                         my  = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
937                                                  s->last_mv[i][0][1] >> my_shift);
938                         dmy = get_dmv(s);
939
940
941                         s->last_mv[i][0][1] = my << my_shift;
942                         s->last_mv[i][1][1] = my << my_shift;
943
944                         s->mv[i][0][0] = mx;
945                         s->mv[i][0][1] = my;
946                         s->mv[i][1][0] = mx; // not used
947                         s->mv[i][1][1] = my; // not used
948
949                         if (s->picture_structure == PICT_FRAME) {
950                             mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
951
952                             // m = 1 + 2 * s->top_field_first;
953                             m = s->top_field_first ? 1 : 3;
954
955                             /* top -> top pred */
956                             s->mv[i][2][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
957                             s->mv[i][2][1] = ((my * m + (my > 0)) >> 1) + dmy - 1;
958                             m = 4 - m;
959                             s->mv[i][3][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
960                             s->mv[i][3][1] = ((my * m + (my > 0)) >> 1) + dmy + 1;
961                         } else {
962                             mb_type |= MB_TYPE_16x16;
963
964                             s->mv[i][2][0] = ((mx + (mx > 0)) >> 1) + dmx;
965                             s->mv[i][2][1] = ((my + (my > 0)) >> 1) + dmy;
966                             if (s->picture_structure == PICT_TOP_FIELD)
967                                 s->mv[i][2][1]--;
968                             else
969                                 s->mv[i][2][1]++;
970                         }
971                     }
972                 }
973                 break;
974             default:
975                 av_log(s->avctx, AV_LOG_ERROR, "00 motion_type at %d %d\n", s->mb_x, s->mb_y);
976                 return -1;
977             }
978         }
979
980         s->mb_intra = 0;
981         if (HAS_CBP(mb_type)) {
982             s->dsp.clear_blocks(s->block[0]);
983
984             cbp = get_vlc2(&s->gb, ff_mb_pat_vlc.table, MB_PAT_VLC_BITS, 1);
985             if (mb_block_count > 6) {
986                  cbp <<= mb_block_count - 6;
987                  cbp  |= get_bits(&s->gb, mb_block_count - 6);
988                  s->dsp.clear_blocks(s->block[6]);
989             }
990             if (cbp <= 0) {
991                 av_log(s->avctx, AV_LOG_ERROR, "invalid cbp %d at %d %d\n", cbp, s->mb_x, s->mb_y);
992                 return -1;
993             }
994
995             //if 1, we memcpy blocks in xvmcvideo
996             if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
997                 ff_xvmc_pack_pblocks(s, cbp);
998                 if (s->swap_uv) {
999                     exchange_uv(s);
1000                 }
1001             }
1002
1003             if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
1004                 if (s->flags2 & CODEC_FLAG2_FAST) {
1005                     for (i = 0; i < 6; i++) {
1006                         if (cbp & 32) {
1007                             mpeg2_fast_decode_block_non_intra(s, *s->pblocks[i], i);
1008                         } else {
1009                             s->block_last_index[i] = -1;
1010                         }
1011                         cbp += cbp;
1012                     }
1013                 } else {
1014                     cbp <<= 12-mb_block_count;
1015
1016                     for (i = 0; i < mb_block_count; i++) {
1017                         if (cbp & (1 << 11)) {
1018                             if (mpeg2_decode_block_non_intra(s, *s->pblocks[i], i) < 0)
1019                                 return -1;
1020                         } else {
1021                             s->block_last_index[i] = -1;
1022                         }
1023                         cbp += cbp;
1024                     }
1025                 }
1026             } else {
1027                 if (s->flags2 & CODEC_FLAG2_FAST) {
1028                     for (i = 0; i < 6; i++) {
1029                         if (cbp & 32) {
1030                             mpeg1_fast_decode_block_inter(s, *s->pblocks[i], i);
1031                         } else {
1032                             s->block_last_index[i] = -1;
1033                         }
1034                         cbp += cbp;
1035                     }
1036                 } else {
1037                     for (i = 0; i < 6; i++) {
1038                         if (cbp & 32) {
1039                             if (mpeg1_decode_block_inter(s, *s->pblocks[i], i) < 0)
1040                                 return -1;
1041                         } else {
1042                             s->block_last_index[i] = -1;
1043                         }
1044                         cbp += cbp;
1045                     }
1046                 }
1047             }
1048         } else {
1049             for (i = 0; i < 12; i++)
1050                 s->block_last_index[i] = -1;
1051         }
1052     }
1053
1054     s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = mb_type;
1055
1056     return 0;
1057 }
1058
1059 static av_cold int mpeg_decode_init(AVCodecContext *avctx)
1060 {
1061     Mpeg1Context *s = avctx->priv_data;
1062     MpegEncContext *s2 = &s->mpeg_enc_ctx;
1063     int i;
1064
1065     /* we need some permutation to store matrices,
1066      * until MPV_common_init() sets the real permutation. */
1067     for (i = 0; i < 64; i++)
1068        s2->dsp.idct_permutation[i]=i;
1069
1070     ff_MPV_decode_defaults(s2);
1071
1072     s->mpeg_enc_ctx.avctx  = avctx;
1073     s->mpeg_enc_ctx.flags  = avctx->flags;
1074     s->mpeg_enc_ctx.flags2 = avctx->flags2;
1075     ff_mpeg12_common_init(&s->mpeg_enc_ctx);
1076     ff_mpeg12_init_vlcs();
1077
1078     s->mpeg_enc_ctx_allocated      = 0;
1079     s->mpeg_enc_ctx.picture_number = 0;
1080     s->repeat_field                = 0;
1081     s->mpeg_enc_ctx.codec_id       = avctx->codec->id;
1082     avctx->color_range = AVCOL_RANGE_MPEG;
1083     if (avctx->codec->id == AV_CODEC_ID_MPEG1VIDEO)
1084         avctx->chroma_sample_location = AVCHROMA_LOC_CENTER;
1085     else
1086         avctx->chroma_sample_location = AVCHROMA_LOC_LEFT;
1087     return 0;
1088 }
1089
1090 static int mpeg_decode_update_thread_context(AVCodecContext *avctx, const AVCodecContext *avctx_from)
1091 {
1092     Mpeg1Context *ctx = avctx->priv_data, *ctx_from = avctx_from->priv_data;
1093     MpegEncContext *s = &ctx->mpeg_enc_ctx, *s1 = &ctx_from->mpeg_enc_ctx;
1094     int err;
1095
1096     if (avctx == avctx_from || !ctx_from->mpeg_enc_ctx_allocated || !s1->context_initialized)
1097         return 0;
1098
1099     err = ff_mpeg_update_thread_context(avctx, avctx_from);
1100     if (err) return err;
1101
1102     if (!ctx->mpeg_enc_ctx_allocated)
1103         memcpy(s + 1, s1 + 1, sizeof(Mpeg1Context) - sizeof(MpegEncContext));
1104
1105     if (!(s->pict_type == AV_PICTURE_TYPE_B || s->low_delay))
1106         s->picture_number++;
1107
1108     return 0;
1109 }
1110
1111 static void quant_matrix_rebuild(uint16_t *matrix, const uint8_t *old_perm,
1112                                  const uint8_t *new_perm)
1113 {
1114     uint16_t temp_matrix[64];
1115     int i;
1116
1117     memcpy(temp_matrix, matrix, 64 * sizeof(uint16_t));
1118
1119     for (i = 0; i < 64; i++) {
1120         matrix[new_perm[i]] = temp_matrix[old_perm[i]];
1121     }
1122 }
1123
1124 static const enum AVPixelFormat mpeg1_hwaccel_pixfmt_list_420[] = {
1125 #if CONFIG_MPEG_XVMC_DECODER
1126     AV_PIX_FMT_XVMC_MPEG2_IDCT,
1127     AV_PIX_FMT_XVMC_MPEG2_MC,
1128 #endif
1129 #if CONFIG_MPEG1_VDPAU_HWACCEL
1130     AV_PIX_FMT_VDPAU_MPEG1,
1131     AV_PIX_FMT_VDPAU,
1132 #endif
1133     AV_PIX_FMT_YUV420P,
1134     AV_PIX_FMT_NONE
1135 };
1136
1137 static const enum AVPixelFormat mpeg2_hwaccel_pixfmt_list_420[] = {
1138 #if CONFIG_MPEG_XVMC_DECODER
1139     AV_PIX_FMT_XVMC_MPEG2_IDCT,
1140     AV_PIX_FMT_XVMC_MPEG2_MC,
1141 #endif
1142 #if CONFIG_MPEG2_VDPAU_HWACCEL
1143     AV_PIX_FMT_VDPAU_MPEG2,
1144     AV_PIX_FMT_VDPAU,
1145 #endif
1146 #if CONFIG_MPEG2_DXVA2_HWACCEL
1147     AV_PIX_FMT_DXVA2_VLD,
1148 #endif
1149 #if CONFIG_MPEG2_VAAPI_HWACCEL
1150     AV_PIX_FMT_VAAPI_VLD,
1151 #endif
1152     AV_PIX_FMT_YUV420P,
1153     AV_PIX_FMT_NONE
1154 };
1155
1156 static inline int uses_vdpau(AVCodecContext *avctx) {
1157     return avctx->pix_fmt == AV_PIX_FMT_VDPAU_MPEG1 || avctx->pix_fmt == AV_PIX_FMT_VDPAU_MPEG2;
1158 }
1159
1160 static enum AVPixelFormat mpeg_get_pixelformat(AVCodecContext *avctx)
1161 {
1162     Mpeg1Context *s1 = avctx->priv_data;
1163     MpegEncContext *s = &s1->mpeg_enc_ctx;
1164
1165     if(s->chroma_format < 2) {
1166         return ff_thread_get_format(avctx,
1167                                 avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO ?
1168                                 mpeg1_hwaccel_pixfmt_list_420 :
1169                                 mpeg2_hwaccel_pixfmt_list_420);
1170     } else if(s->chroma_format == 2)
1171         return AV_PIX_FMT_YUV422P;
1172     else
1173         return AV_PIX_FMT_YUV444P;
1174 }
1175
1176 static void setup_hwaccel_for_pixfmt(AVCodecContext *avctx)
1177 {
1178     if (avctx->pix_fmt != AV_PIX_FMT_XVMC_MPEG2_IDCT && avctx->pix_fmt != AV_PIX_FMT_XVMC_MPEG2_MC) {
1179         avctx->xvmc_acceleration = 0;
1180     } else if (!avctx->xvmc_acceleration) {
1181         avctx->xvmc_acceleration = 2;
1182     }
1183     avctx->hwaccel = ff_find_hwaccel(avctx->codec->id, avctx->pix_fmt);
1184     // until then pix_fmt may be changed right after codec init
1185     if (avctx->pix_fmt == AV_PIX_FMT_XVMC_MPEG2_IDCT ||
1186         avctx->hwaccel || uses_vdpau(avctx))
1187         if (avctx->idct_algo == FF_IDCT_AUTO)
1188             avctx->idct_algo = FF_IDCT_SIMPLE;
1189 }
1190
1191 /* Call this function when we know all parameters.
1192  * It may be called in different places for MPEG-1 and MPEG-2. */
1193 static int mpeg_decode_postinit(AVCodecContext *avctx)
1194 {
1195     Mpeg1Context *s1 = avctx->priv_data;
1196     MpegEncContext *s = &s1->mpeg_enc_ctx;
1197     uint8_t old_permutation[64];
1198
1199     if ((s1->mpeg_enc_ctx_allocated == 0) ||
1200         avctx->coded_width  != s->width   ||
1201         avctx->coded_height != s->height  ||
1202         s1->save_width           != s->width                ||
1203         s1->save_height          != s->height               ||
1204         s1->save_aspect_info     != s->aspect_ratio_info    ||
1205         (s1->save_progressive_seq != s->progressive_sequence && (s->height&31)) ||
1206         0)
1207     {
1208
1209         if (s1->mpeg_enc_ctx_allocated) {
1210             ParseContext pc = s->parse_context;
1211             s->parse_context.buffer = 0;
1212             ff_MPV_common_end(s);
1213             s->parse_context = pc;
1214         }
1215
1216         if ((s->width == 0) || (s->height == 0))
1217             return -2;
1218
1219         avcodec_set_dimensions(avctx, s->width, s->height);
1220         if (avctx->codec_id == AV_CODEC_ID_MPEG2VIDEO && s->bit_rate) {
1221             avctx->rc_max_rate = s->bit_rate;
1222         } else if (avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO && s->bit_rate &&
1223                    (s->bit_rate != 0x3FFFF*400 || s->vbv_delay != 0xFFFF)) {
1224             avctx->bit_rate = s->bit_rate;
1225         }
1226         s1->save_aspect_info     = s->aspect_ratio_info;
1227         s1->save_width           = s->width;
1228         s1->save_height          = s->height;
1229         s1->save_progressive_seq = s->progressive_sequence;
1230
1231         /* low_delay may be forced, in this case we will have B-frames
1232          * that behave like P-frames. */
1233         avctx->has_b_frames = !s->low_delay;
1234
1235         if (avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO) {
1236             //MPEG-1 fps
1237             avctx->time_base.den = ff_mpeg12_frame_rate_tab[s->frame_rate_index].num;
1238             avctx->time_base.num = ff_mpeg12_frame_rate_tab[s->frame_rate_index].den;
1239             //MPEG-1 aspect
1240             avctx->sample_aspect_ratio = av_d2q(1.0/ff_mpeg1_aspect[s->aspect_ratio_info], 255);
1241             avctx->ticks_per_frame=1;
1242         } else {//MPEG-2
1243         //MPEG-2 fps
1244             av_reduce(&s->avctx->time_base.den,
1245                       &s->avctx->time_base.num,
1246                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].num * s1->frame_rate_ext.num*2,
1247                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].den * s1->frame_rate_ext.den,
1248                       1 << 30);
1249             avctx->ticks_per_frame = 2;
1250             //MPEG-2 aspect
1251             if (s->aspect_ratio_info > 1) {
1252                 AVRational dar =
1253                     av_mul_q(av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1254                                       (AVRational) {s1->pan_scan.width, s1->pan_scan.height}),
1255                              (AVRational) {s->width, s->height});
1256
1257                 // we ignore the spec here and guess a bit as reality does not match the spec, see for example
1258                 // res_change_ffmpeg_aspect.ts and sequence-display-aspect.mpg
1259                 // issue1613, 621, 562
1260                 if ((s1->pan_scan.width == 0) || (s1->pan_scan.height == 0) ||
1261                    (av_cmp_q(dar, (AVRational) {4, 3}) && av_cmp_q(dar, (AVRational) {16, 9}))) {
1262                     s->avctx->sample_aspect_ratio =
1263                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1264                                  (AVRational) {s->width, s->height});
1265                 } else {
1266                     s->avctx->sample_aspect_ratio =
1267                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1268                                  (AVRational) {s1->pan_scan.width, s1->pan_scan.height});
1269 //issue1613 4/3 16/9 -> 16/9
1270 //res_change_ffmpeg_aspect.ts 4/3 225/44 ->4/3
1271 //widescreen-issue562.mpg 4/3 16/9 -> 16/9
1272 //                    s->avctx->sample_aspect_ratio = av_mul_q(s->avctx->sample_aspect_ratio, (AVRational) {s->width, s->height});
1273                     av_dlog(avctx, "A %d/%d\n",
1274                             ff_mpeg2_aspect[s->aspect_ratio_info].num, ff_mpeg2_aspect[s->aspect_ratio_info].den);
1275                     av_dlog(avctx, "B %d/%d\n", s->avctx->sample_aspect_ratio.num,
1276                             s->avctx->sample_aspect_ratio.den);
1277                 }
1278             } else {
1279                 s->avctx->sample_aspect_ratio =
1280                     ff_mpeg2_aspect[s->aspect_ratio_info];
1281             }
1282         } // MPEG-2
1283
1284         avctx->pix_fmt = mpeg_get_pixelformat(avctx);
1285         setup_hwaccel_for_pixfmt(avctx);
1286
1287         /* Quantization matrices may need reordering
1288          * if DCT permutation is changed. */
1289         memcpy(old_permutation, s->dsp.idct_permutation, 64 * sizeof(uint8_t));
1290
1291         if (ff_MPV_common_init(s) < 0)
1292             return -2;
1293
1294         quant_matrix_rebuild(s->intra_matrix,        old_permutation, s->dsp.idct_permutation);
1295         quant_matrix_rebuild(s->inter_matrix,        old_permutation, s->dsp.idct_permutation);
1296         quant_matrix_rebuild(s->chroma_intra_matrix, old_permutation, s->dsp.idct_permutation);
1297         quant_matrix_rebuild(s->chroma_inter_matrix, old_permutation, s->dsp.idct_permutation);
1298
1299         s1->mpeg_enc_ctx_allocated = 1;
1300     }
1301     return 0;
1302 }
1303
1304 static int mpeg1_decode_picture(AVCodecContext *avctx,
1305                                 const uint8_t *buf, int buf_size)
1306 {
1307     Mpeg1Context *s1 = avctx->priv_data;
1308     MpegEncContext *s = &s1->mpeg_enc_ctx;
1309     int ref, f_code, vbv_delay;
1310
1311     init_get_bits(&s->gb, buf, buf_size*8);
1312
1313     ref = get_bits(&s->gb, 10); /* temporal ref */
1314     s->pict_type = get_bits(&s->gb, 3);
1315     if (s->pict_type == 0 || s->pict_type > 3)
1316         return -1;
1317
1318     vbv_delay = get_bits(&s->gb, 16);
1319     s->vbv_delay = vbv_delay;
1320     if (s->pict_type == AV_PICTURE_TYPE_P || s->pict_type == AV_PICTURE_TYPE_B) {
1321         s->full_pel[0] = get_bits1(&s->gb);
1322         f_code = get_bits(&s->gb, 3);
1323         if (f_code == 0 && (avctx->err_recognition & (AV_EF_BITSTREAM|AV_EF_COMPLIANT)))
1324             return -1;
1325         f_code += !f_code;
1326         s->mpeg_f_code[0][0] = f_code;
1327         s->mpeg_f_code[0][1] = f_code;
1328     }
1329     if (s->pict_type == AV_PICTURE_TYPE_B) {
1330         s->full_pel[1] = get_bits1(&s->gb);
1331         f_code = get_bits(&s->gb, 3);
1332         if (f_code == 0 && (avctx->err_recognition & (AV_EF_BITSTREAM|AV_EF_COMPLIANT)))
1333             return -1;
1334         f_code += !f_code;
1335         s->mpeg_f_code[1][0] = f_code;
1336         s->mpeg_f_code[1][1] = f_code;
1337     }
1338     s->current_picture.f.pict_type = s->pict_type;
1339     s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1340
1341     if (avctx->debug & FF_DEBUG_PICT_INFO)
1342         av_log(avctx, AV_LOG_DEBUG, "vbv_delay %d, ref %d type:%d\n", vbv_delay, ref, s->pict_type);
1343
1344     s->y_dc_scale = 8;
1345     s->c_dc_scale = 8;
1346     return 0;
1347 }
1348
1349 static void mpeg_decode_sequence_extension(Mpeg1Context *s1)
1350 {
1351     MpegEncContext *s= &s1->mpeg_enc_ctx;
1352     int horiz_size_ext, vert_size_ext;
1353     int bit_rate_ext;
1354
1355     skip_bits(&s->gb, 1); /* profile and level esc*/
1356     s->avctx->profile       = get_bits(&s->gb, 3);
1357     s->avctx->level         = get_bits(&s->gb, 4);
1358     s->progressive_sequence = get_bits1(&s->gb); /* progressive_sequence */
1359     s->chroma_format        = get_bits(&s->gb, 2); /* chroma_format 1=420, 2=422, 3=444 */
1360     horiz_size_ext          = get_bits(&s->gb, 2);
1361     vert_size_ext           = get_bits(&s->gb, 2);
1362     s->width  |= (horiz_size_ext << 12);
1363     s->height |= (vert_size_ext  << 12);
1364     bit_rate_ext = get_bits(&s->gb, 12);  /* XXX: handle it */
1365     s->bit_rate += (bit_rate_ext << 18) * 400;
1366     skip_bits1(&s->gb); /* marker */
1367     s->avctx->rc_buffer_size += get_bits(&s->gb, 8) * 1024 * 16 << 10;
1368
1369     s->low_delay = get_bits1(&s->gb);
1370     if (s->flags & CODEC_FLAG_LOW_DELAY)
1371         s->low_delay = 1;
1372
1373     s1->frame_rate_ext.num = get_bits(&s->gb, 2) + 1;
1374     s1->frame_rate_ext.den = get_bits(&s->gb, 5) + 1;
1375
1376     av_dlog(s->avctx, "sequence extension\n");
1377     s->codec_id      = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
1378
1379     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1380         av_log(s->avctx, AV_LOG_DEBUG, "profile: %d, level: %d ps: %d cf:%d vbv buffer: %d, bitrate:%d\n",
1381                s->avctx->profile, s->avctx->level, s->progressive_sequence, s->chroma_format, s->avctx->rc_buffer_size, s->bit_rate);
1382
1383 }
1384
1385 static void mpeg_decode_sequence_display_extension(Mpeg1Context *s1)
1386 {
1387     MpegEncContext *s = &s1->mpeg_enc_ctx;
1388     int color_description, w, h;
1389
1390     skip_bits(&s->gb, 3); /* video format */
1391     color_description = get_bits1(&s->gb);
1392     if (color_description) {
1393         s->avctx->color_primaries = get_bits(&s->gb, 8);
1394         s->avctx->color_trc       = get_bits(&s->gb, 8);
1395         s->avctx->colorspace      = get_bits(&s->gb, 8);
1396     }
1397     w = get_bits(&s->gb, 14);
1398     skip_bits(&s->gb, 1); //marker
1399     h = get_bits(&s->gb, 14);
1400     // remaining 3 bits are zero padding
1401
1402     s1->pan_scan.width  = 16 * w;
1403     s1->pan_scan.height = 16 * h;
1404
1405     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1406         av_log(s->avctx, AV_LOG_DEBUG, "sde w:%d, h:%d\n", w, h);
1407 }
1408
1409 static void mpeg_decode_picture_display_extension(Mpeg1Context *s1)
1410 {
1411     MpegEncContext *s = &s1->mpeg_enc_ctx;
1412     int i, nofco;
1413
1414     nofco = 1;
1415     if (s->progressive_sequence) {
1416         if (s->repeat_first_field) {
1417             nofco++;
1418             if (s->top_field_first)
1419                 nofco++;
1420         }
1421     } else {
1422         if (s->picture_structure == PICT_FRAME) {
1423             nofco++;
1424             if (s->repeat_first_field)
1425                 nofco++;
1426         }
1427     }
1428     for (i = 0; i < nofco; i++) {
1429         s1->pan_scan.position[i][0] = get_sbits(&s->gb, 16);
1430         skip_bits(&s->gb, 1); // marker
1431         s1->pan_scan.position[i][1] = get_sbits(&s->gb, 16);
1432         skip_bits(&s->gb, 1); // marker
1433     }
1434
1435     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1436         av_log(s->avctx, AV_LOG_DEBUG, "pde (%d,%d) (%d,%d) (%d,%d)\n",
1437                s1->pan_scan.position[0][0], s1->pan_scan.position[0][1],
1438                s1->pan_scan.position[1][0], s1->pan_scan.position[1][1],
1439                s1->pan_scan.position[2][0], s1->pan_scan.position[2][1]);
1440 }
1441
1442 static int load_matrix(MpegEncContext *s, uint16_t matrix0[64], uint16_t matrix1[64], int intra)
1443 {
1444     int i;
1445
1446     for (i = 0; i < 64; i++) {
1447         int j = s->dsp.idct_permutation[ff_zigzag_direct[i]];
1448         int v = get_bits(&s->gb, 8);
1449         if (v == 0) {
1450             av_log(s->avctx, AV_LOG_ERROR, "matrix damaged\n");
1451             return -1;
1452         }
1453         if (intra && i == 0 && v != 8) {
1454             av_log(s->avctx, AV_LOG_DEBUG, "intra matrix specifies invalid DC quantizer %d, ignoring\n", v);
1455             v = 8; // needed by pink.mpg / issue1046
1456         }
1457         matrix0[j] = v;
1458         if (matrix1)
1459             matrix1[j] = v;
1460     }
1461     return 0;
1462 }
1463
1464 static void mpeg_decode_quant_matrix_extension(MpegEncContext *s)
1465 {
1466     av_dlog(s->avctx, "matrix extension\n");
1467
1468     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1469     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1470     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, NULL           , 1);
1471     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, NULL           , 0);
1472 }
1473
1474 static void mpeg_decode_picture_coding_extension(Mpeg1Context *s1)
1475 {
1476     MpegEncContext *s = &s1->mpeg_enc_ctx;
1477
1478     s->full_pel[0] = s->full_pel[1] = 0;
1479     s->mpeg_f_code[0][0] = get_bits(&s->gb, 4);
1480     s->mpeg_f_code[0][1] = get_bits(&s->gb, 4);
1481     s->mpeg_f_code[1][0] = get_bits(&s->gb, 4);
1482     s->mpeg_f_code[1][1] = get_bits(&s->gb, 4);
1483     if (!s->pict_type && s1->mpeg_enc_ctx_allocated) {
1484         av_log(s->avctx, AV_LOG_ERROR, "Missing picture start code, guessing missing values\n");
1485         if (s->mpeg_f_code[1][0] == 15 && s->mpeg_f_code[1][1] == 15) {
1486             if (s->mpeg_f_code[0][0] == 15 && s->mpeg_f_code[0][1] == 15)
1487                 s->pict_type = AV_PICTURE_TYPE_I;
1488             else
1489                 s->pict_type = AV_PICTURE_TYPE_P;
1490         } else
1491             s->pict_type = AV_PICTURE_TYPE_B;
1492         s->current_picture.f.pict_type = s->pict_type;
1493         s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1494     }
1495     s->mpeg_f_code[0][0] += !s->mpeg_f_code[0][0];
1496     s->mpeg_f_code[0][1] += !s->mpeg_f_code[0][1];
1497     s->mpeg_f_code[1][0] += !s->mpeg_f_code[1][0];
1498     s->mpeg_f_code[1][1] += !s->mpeg_f_code[1][1];
1499
1500     s->intra_dc_precision         = get_bits(&s->gb, 2);
1501     s->picture_structure          = get_bits(&s->gb, 2);
1502     s->top_field_first            = get_bits1(&s->gb);
1503     s->frame_pred_frame_dct       = get_bits1(&s->gb);
1504     s->concealment_motion_vectors = get_bits1(&s->gb);
1505     s->q_scale_type               = get_bits1(&s->gb);
1506     s->intra_vlc_format           = get_bits1(&s->gb);
1507     s->alternate_scan             = get_bits1(&s->gb);
1508     s->repeat_first_field         = get_bits1(&s->gb);
1509     s->chroma_420_type            = get_bits1(&s->gb);
1510     s->progressive_frame          = get_bits1(&s->gb);
1511
1512
1513     if (s->alternate_scan) {
1514         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_alternate_vertical_scan);
1515         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_alternate_vertical_scan);
1516     } else {
1517         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_zigzag_direct);
1518         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_zigzag_direct);
1519     }
1520
1521     /* composite display not parsed */
1522     av_dlog(s->avctx, "intra_dc_precision=%d\n", s->intra_dc_precision);
1523     av_dlog(s->avctx, "picture_structure=%d\n", s->picture_structure);
1524     av_dlog(s->avctx, "top field first=%d\n", s->top_field_first);
1525     av_dlog(s->avctx, "repeat first field=%d\n", s->repeat_first_field);
1526     av_dlog(s->avctx, "conceal=%d\n", s->concealment_motion_vectors);
1527     av_dlog(s->avctx, "intra_vlc_format=%d\n", s->intra_vlc_format);
1528     av_dlog(s->avctx, "alternate_scan=%d\n", s->alternate_scan);
1529     av_dlog(s->avctx, "frame_pred_frame_dct=%d\n", s->frame_pred_frame_dct);
1530     av_dlog(s->avctx, "progressive_frame=%d\n", s->progressive_frame);
1531 }
1532
1533 static int mpeg_field_start(MpegEncContext *s, const uint8_t *buf, int buf_size)
1534 {
1535     AVCodecContext *avctx = s->avctx;
1536     Mpeg1Context *s1 = (Mpeg1Context*)s;
1537
1538     /* start frame decoding */
1539     if (s->first_field || s->picture_structure == PICT_FRAME) {
1540         AVFrameSideData *pan_scan;
1541
1542         if (ff_MPV_frame_start(s, avctx) < 0)
1543             return -1;
1544
1545         ff_mpeg_er_frame_start(s);
1546
1547         /* first check if we must repeat the frame */
1548         s->current_picture_ptr->f.repeat_pict = 0;
1549         if (s->repeat_first_field) {
1550             if (s->progressive_sequence) {
1551                 if (s->top_field_first)
1552                     s->current_picture_ptr->f.repeat_pict = 4;
1553                 else
1554                     s->current_picture_ptr->f.repeat_pict = 2;
1555             } else if (s->progressive_frame) {
1556                 s->current_picture_ptr->f.repeat_pict = 1;
1557             }
1558         }
1559
1560         pan_scan = av_frame_new_side_data(&s->current_picture_ptr->f,
1561                                           AV_FRAME_DATA_PANSCAN,
1562                                           sizeof(s1->pan_scan));
1563         if (!pan_scan)
1564             return AVERROR(ENOMEM);
1565         memcpy(pan_scan->data, &s1->pan_scan, sizeof(s1->pan_scan));
1566
1567         if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_FRAME))
1568             ff_thread_finish_setup(avctx);
1569     } else { // second field
1570         int i;
1571
1572         if (!s->current_picture_ptr) {
1573             av_log(s->avctx, AV_LOG_ERROR, "first field missing\n");
1574             return -1;
1575         }
1576
1577         if (s->avctx->hwaccel &&
1578             (s->avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
1579             if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1580                 av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode first field\n");
1581         }
1582
1583         for (i = 0; i < 4; i++) {
1584             s->current_picture.f.data[i] = s->current_picture_ptr->f.data[i];
1585             if (s->picture_structure == PICT_BOTTOM_FIELD) {
1586                 s->current_picture.f.data[i] += s->current_picture_ptr->f.linesize[i];
1587             }
1588         }
1589     }
1590
1591     if (avctx->hwaccel) {
1592         if (avctx->hwaccel->start_frame(avctx, buf, buf_size) < 0)
1593             return -1;
1594     }
1595
1596 // MPV_frame_start will call this function too,
1597 // but we need to call it on every field
1598     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1599         if (ff_xvmc_field_start(s, avctx) < 0)
1600             return -1;
1601
1602     return 0;
1603 }
1604
1605 #define DECODE_SLICE_ERROR -1
1606 #define DECODE_SLICE_OK     0
1607
1608 /**
1609  * Decode a slice.
1610  * MpegEncContext.mb_y must be set to the MB row from the startcode.
1611  * @return DECODE_SLICE_ERROR if the slice is damaged,
1612  *         DECODE_SLICE_OK if this slice is OK
1613  */
1614 static int mpeg_decode_slice(MpegEncContext *s, int mb_y,
1615                              const uint8_t **buf, int buf_size)
1616 {
1617     AVCodecContext *avctx = s->avctx;
1618     const int lowres      = s->avctx->lowres;
1619     const int field_pic   = s->picture_structure != PICT_FRAME;
1620
1621     s->resync_mb_x =
1622     s->resync_mb_y = -1;
1623
1624     av_assert0(mb_y < s->mb_height);
1625
1626     init_get_bits(&s->gb, *buf, buf_size * 8);
1627     if(s->codec_id != AV_CODEC_ID_MPEG1VIDEO && s->mb_height > 2800/16)
1628         skip_bits(&s->gb, 3);
1629
1630     ff_mpeg1_clean_buffers(s);
1631     s->interlaced_dct = 0;
1632
1633     s->qscale = get_qscale(s);
1634
1635     if (s->qscale == 0) {
1636         av_log(s->avctx, AV_LOG_ERROR, "qscale == 0\n");
1637         return -1;
1638     }
1639
1640     /* extra slice info */
1641     while (get_bits1(&s->gb) != 0) {
1642         skip_bits(&s->gb, 8);
1643     }
1644
1645     s->mb_x = 0;
1646
1647     if (mb_y == 0 && s->codec_tag == AV_RL32("SLIF")) {
1648         skip_bits1(&s->gb);
1649     } else {
1650         while (get_bits_left(&s->gb) > 0) {
1651             int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1652                                 MBINCR_VLC_BITS, 2);
1653             if (code < 0) {
1654                 av_log(s->avctx, AV_LOG_ERROR, "first mb_incr damaged\n");
1655                 return -1;
1656             }
1657             if (code >= 33) {
1658                 if (code == 33) {
1659                     s->mb_x += 33;
1660                 }
1661                 /* otherwise, stuffing, nothing to do */
1662             } else {
1663                 s->mb_x += code;
1664                 break;
1665             }
1666         }
1667     }
1668
1669     if (s->mb_x >= (unsigned)s->mb_width) {
1670         av_log(s->avctx, AV_LOG_ERROR, "initial skip overflow\n");
1671         return -1;
1672     }
1673
1674     if (avctx->hwaccel) {
1675         const uint8_t *buf_end, *buf_start = *buf - 4; /* include start_code */
1676         int start_code = -1;
1677         buf_end = avpriv_find_start_code(buf_start + 2, *buf + buf_size, &start_code);
1678         if (buf_end < *buf + buf_size)
1679             buf_end -= 4;
1680         s->mb_y = mb_y;
1681         if (avctx->hwaccel->decode_slice(avctx, buf_start, buf_end - buf_start) < 0)
1682             return DECODE_SLICE_ERROR;
1683         *buf = buf_end;
1684         return DECODE_SLICE_OK;
1685     }
1686
1687     s->resync_mb_x = s->mb_x;
1688     s->resync_mb_y = s->mb_y = mb_y;
1689     s->mb_skip_run = 0;
1690     ff_init_block_index(s);
1691
1692     if (s->mb_y == 0 && s->mb_x == 0 && (s->first_field || s->picture_structure == PICT_FRAME)) {
1693         if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
1694              av_log(s->avctx, AV_LOG_DEBUG, "qp:%d fc:%2d%2d%2d%2d %s %s %s %s %s dc:%d pstruct:%d fdct:%d cmv:%d qtype:%d ivlc:%d rff:%d %s\n",
1695                     s->qscale, s->mpeg_f_code[0][0], s->mpeg_f_code[0][1], s->mpeg_f_code[1][0], s->mpeg_f_code[1][1],
1696                     s->pict_type == AV_PICTURE_TYPE_I ? "I" : (s->pict_type == AV_PICTURE_TYPE_P ? "P" : (s->pict_type == AV_PICTURE_TYPE_B ? "B" : "S")),
1697                     s->progressive_sequence ? "ps" :"", s->progressive_frame ? "pf" : "", s->alternate_scan ? "alt" :"", s->top_field_first ? "top" :"",
1698                     s->intra_dc_precision, s->picture_structure, s->frame_pred_frame_dct, s->concealment_motion_vectors,
1699                     s->q_scale_type, s->intra_vlc_format, s->repeat_first_field, s->chroma_420_type ? "420" :"");
1700         }
1701     }
1702
1703     for (;;) {
1704         // If 1, we memcpy blocks in xvmcvideo.
1705         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1)
1706             ff_xvmc_init_block(s); // set s->block
1707
1708         if (mpeg_decode_mb(s, s->block) < 0)
1709             return -1;
1710
1711         if (s->current_picture.motion_val[0] && !s->encoding) { // note motion_val is normally NULL unless we want to extract the MVs
1712             const int wrap = s->b8_stride;
1713             int xy         = s->mb_x * 2 + s->mb_y * 2 * wrap;
1714             int b8_xy      = 4 * (s->mb_x + s->mb_y * s->mb_stride);
1715             int motion_x, motion_y, dir, i;
1716
1717             for (i = 0; i < 2; i++) {
1718                 for (dir = 0; dir < 2; dir++) {
1719                     if (s->mb_intra || (dir == 1 && s->pict_type != AV_PICTURE_TYPE_B)) {
1720                         motion_x = motion_y = 0;
1721                     } else if (s->mv_type == MV_TYPE_16X16 || (s->mv_type == MV_TYPE_FIELD && field_pic)) {
1722                         motion_x = s->mv[dir][0][0];
1723                         motion_y = s->mv[dir][0][1];
1724                     } else /*if ((s->mv_type == MV_TYPE_FIELD) || (s->mv_type == MV_TYPE_16X8))*/ {
1725                         motion_x = s->mv[dir][i][0];
1726                         motion_y = s->mv[dir][i][1];
1727                     }
1728
1729                     s->current_picture.motion_val[dir][xy    ][0] = motion_x;
1730                     s->current_picture.motion_val[dir][xy    ][1] = motion_y;
1731                     s->current_picture.motion_val[dir][xy + 1][0] = motion_x;
1732                     s->current_picture.motion_val[dir][xy + 1][1] = motion_y;
1733                     s->current_picture.ref_index [dir][b8_xy    ] =
1734                     s->current_picture.ref_index [dir][b8_xy + 1] = s->field_select[dir][i];
1735                     av_assert2(s->field_select[dir][i] == 0 || s->field_select[dir][i] == 1);
1736                 }
1737                 xy += wrap;
1738                 b8_xy +=2;
1739             }
1740         }
1741
1742         s->dest[0] += 16 >> lowres;
1743         s->dest[1] +=(16 >> lowres) >> s->chroma_x_shift;
1744         s->dest[2] +=(16 >> lowres) >> s->chroma_x_shift;
1745
1746         ff_MPV_decode_mb(s, s->block);
1747
1748         if (++s->mb_x >= s->mb_width) {
1749             const int mb_size = 16 >> s->avctx->lowres;
1750
1751             ff_mpeg_draw_horiz_band(s, mb_size*(s->mb_y >> field_pic), mb_size);
1752             ff_MPV_report_decode_progress(s);
1753
1754             s->mb_x = 0;
1755             s->mb_y += 1 << field_pic;
1756
1757             if (s->mb_y >= s->mb_height) {
1758                 int left   = get_bits_left(&s->gb);
1759                 int is_d10 = s->chroma_format == 2 && s->pict_type == AV_PICTURE_TYPE_I && avctx->profile == 0 && avctx->level == 5
1760                              && s->intra_dc_precision == 2 && s->q_scale_type == 1 && s->alternate_scan == 0
1761                              && s->progressive_frame == 0 /* vbv_delay == 0xBBB || 0xE10*/;
1762
1763                 if (left >= 32 && !is_d10) {
1764                     GetBitContext gb = s->gb;
1765                     align_get_bits(&gb);
1766                     if (show_bits(&gb, 24) == 0x060E2B) {
1767                         av_log(avctx, AV_LOG_DEBUG, "Invalid MXF data found in video stream\n");
1768                         is_d10 = 1;
1769                     }
1770                 }
1771
1772                 if (left < 0 || (left && show_bits(&s->gb, FFMIN(left, 23)) && !is_d10)
1773                     || ((avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_AGGRESSIVE)) && left > 8)) {
1774                     av_log(avctx, AV_LOG_ERROR, "end mismatch left=%d %0X\n", left, show_bits(&s->gb, FFMIN(left, 23)));
1775                     return -1;
1776                 } else
1777                     goto eos;
1778             }
1779
1780             ff_init_block_index(s);
1781         }
1782
1783         /* skip mb handling */
1784         if (s->mb_skip_run == -1) {
1785             /* read increment again */
1786             s->mb_skip_run = 0;
1787             for (;;) {
1788                 int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1789                                     MBINCR_VLC_BITS, 2);
1790                 if (code < 0) {
1791                     av_log(s->avctx, AV_LOG_ERROR, "mb incr damaged\n");
1792                     return -1;
1793                 }
1794                 if (code >= 33) {
1795                     if (code == 33) {
1796                         s->mb_skip_run += 33;
1797                     } else if (code == 35) {
1798                         if (s->mb_skip_run != 0 || show_bits(&s->gb, 15) != 0) {
1799                             av_log(s->avctx, AV_LOG_ERROR, "slice mismatch\n");
1800                             return -1;
1801                         }
1802                         goto eos; /* end of slice */
1803                     }
1804                     /* otherwise, stuffing, nothing to do */
1805                 } else {
1806                     s->mb_skip_run += code;
1807                     break;
1808                 }
1809             }
1810             if (s->mb_skip_run) {
1811                 int i;
1812                 if (s->pict_type == AV_PICTURE_TYPE_I) {
1813                     av_log(s->avctx, AV_LOG_ERROR, "skipped MB in I frame at %d %d\n", s->mb_x, s->mb_y);
1814                     return -1;
1815                 }
1816
1817                 /* skip mb */
1818                 s->mb_intra = 0;
1819                 for (i = 0; i < 12; i++)
1820                     s->block_last_index[i] = -1;
1821                 if (s->picture_structure == PICT_FRAME)
1822                     s->mv_type = MV_TYPE_16X16;
1823                 else
1824                     s->mv_type = MV_TYPE_FIELD;
1825                 if (s->pict_type == AV_PICTURE_TYPE_P) {
1826                     /* if P type, zero motion vector is implied */
1827                     s->mv_dir             = MV_DIR_FORWARD;
1828                     s->mv[0][0][0]        = s->mv[0][0][1]      = 0;
1829                     s->last_mv[0][0][0]   = s->last_mv[0][0][1] = 0;
1830                     s->last_mv[0][1][0]   = s->last_mv[0][1][1] = 0;
1831                     s->field_select[0][0] = (s->picture_structure - 1) & 1;
1832                 } else {
1833                     /* if B type, reuse previous vectors and directions */
1834                     s->mv[0][0][0] = s->last_mv[0][0][0];
1835                     s->mv[0][0][1] = s->last_mv[0][0][1];
1836                     s->mv[1][0][0] = s->last_mv[1][0][0];
1837                     s->mv[1][0][1] = s->last_mv[1][0][1];
1838                 }
1839             }
1840         }
1841     }
1842 eos: // end of slice
1843     *buf += (get_bits_count(&s->gb)-1)/8;
1844     av_dlog(s, "y %d %d %d %d\n", s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y);
1845     return 0;
1846 }
1847
1848 static int slice_decode_thread(AVCodecContext *c, void *arg)
1849 {
1850     MpegEncContext *s   = *(void**)arg;
1851     const uint8_t *buf  = s->gb.buffer;
1852     int mb_y            = s->start_mb_y;
1853     const int field_pic = s->picture_structure != PICT_FRAME;
1854
1855     s->er.error_count = (3 * (s->end_mb_y - s->start_mb_y) * s->mb_width) >> field_pic;
1856
1857     for (;;) {
1858         uint32_t start_code;
1859         int ret;
1860
1861         ret = mpeg_decode_slice(s, mb_y, &buf, s->gb.buffer_end - buf);
1862         emms_c();
1863         av_dlog(c, "ret:%d resync:%d/%d mb:%d/%d ts:%d/%d ec:%d\n",
1864                 ret, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y,
1865                 s->start_mb_y, s->end_mb_y, s->er.error_count);
1866         if (ret < 0) {
1867             if (c->err_recognition & AV_EF_EXPLODE)
1868                 return ret;
1869             if (s->resync_mb_x >= 0 && s->resync_mb_y >= 0)
1870                 ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
1871         } else {
1872             ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x-1, s->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
1873         }
1874
1875         if (s->mb_y == s->end_mb_y)
1876             return 0;
1877
1878         start_code = -1;
1879         buf = avpriv_find_start_code(buf, s->gb.buffer_end, &start_code);
1880         mb_y= start_code - SLICE_MIN_START_CODE;
1881         if(s->codec_id != AV_CODEC_ID_MPEG1VIDEO && s->mb_height > 2800/16)
1882             mb_y += (*buf&0xE0)<<2;
1883         mb_y <<= field_pic;
1884         if (s->picture_structure == PICT_BOTTOM_FIELD)
1885             mb_y++;
1886         if (mb_y < 0 || mb_y >= s->end_mb_y)
1887             return -1;
1888     }
1889 }
1890
1891 /**
1892  * Handle slice ends.
1893  * @return 1 if it seems to be the last slice
1894  */
1895 static int slice_end(AVCodecContext *avctx, AVFrame *pict)
1896 {
1897     Mpeg1Context *s1 = avctx->priv_data;
1898     MpegEncContext *s = &s1->mpeg_enc_ctx;
1899
1900     if (!s1->mpeg_enc_ctx_allocated || !s->current_picture_ptr)
1901         return 0;
1902
1903     if (s->avctx->hwaccel) {
1904         if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1905             av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode picture\n");
1906     }
1907
1908     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1909         ff_xvmc_field_end(s);
1910
1911     /* end of slice reached */
1912     if (/*s->mb_y << field_pic == s->mb_height &&*/ !s->first_field && !s->first_slice) {
1913         /* end of image */
1914
1915         ff_er_frame_end(&s->er);
1916
1917         ff_MPV_frame_end(s);
1918
1919         if (s->pict_type == AV_PICTURE_TYPE_B || s->low_delay) {
1920             int ret = av_frame_ref(pict, &s->current_picture_ptr->f);
1921             if (ret < 0)
1922                 return ret;
1923             ff_print_debug_info(s, s->current_picture_ptr, pict);
1924             ff_mpv_export_qp_table(s, pict, s->current_picture_ptr, FF_QSCALE_TYPE_MPEG2);
1925         } else {
1926             if (avctx->active_thread_type & FF_THREAD_FRAME)
1927                 s->picture_number++;
1928             /* latency of 1 frame for I- and P-frames */
1929             /* XXX: use another variable than picture_number */
1930             if (s->last_picture_ptr != NULL) {
1931                 int ret = av_frame_ref(pict, &s->last_picture_ptr->f);
1932                 if (ret < 0)
1933                     return ret;
1934                 ff_print_debug_info(s, s->last_picture_ptr, pict);
1935                 ff_mpv_export_qp_table(s, pict, s->last_picture_ptr, FF_QSCALE_TYPE_MPEG2);
1936             }
1937         }
1938
1939         return 1;
1940     } else {
1941         return 0;
1942     }
1943 }
1944
1945 static int mpeg1_decode_sequence(AVCodecContext *avctx,
1946                                  const uint8_t *buf, int buf_size)
1947 {
1948     Mpeg1Context *s1 = avctx->priv_data;
1949     MpegEncContext *s = &s1->mpeg_enc_ctx;
1950     int width, height;
1951     int i, v, j;
1952
1953     init_get_bits(&s->gb, buf, buf_size*8);
1954
1955     width  = get_bits(&s->gb, 12);
1956     height = get_bits(&s->gb, 12);
1957     if (width == 0 || height == 0) {
1958         av_log(avctx, AV_LOG_WARNING, "Invalid horizontal or vertical size "
1959                "value.\n");
1960         if (avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_COMPLIANT))
1961             return AVERROR_INVALIDDATA;
1962     }
1963     s->aspect_ratio_info = get_bits(&s->gb, 4);
1964     if (s->aspect_ratio_info == 0) {
1965         av_log(avctx, AV_LOG_ERROR, "aspect ratio has forbidden 0 value\n");
1966         if (avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_COMPLIANT))
1967             return -1;
1968     }
1969     s->frame_rate_index = get_bits(&s->gb, 4);
1970     if (s->frame_rate_index == 0 || s->frame_rate_index > 13)
1971         return -1;
1972     s->bit_rate = get_bits(&s->gb, 18) * 400;
1973     if (get_bits1(&s->gb) == 0) /* marker */
1974         return -1;
1975     s->width  = width;
1976     s->height = height;
1977
1978     s->avctx->rc_buffer_size = get_bits(&s->gb, 10) * 1024 * 16;
1979     skip_bits(&s->gb, 1);
1980
1981     /* get matrix */
1982     if (get_bits1(&s->gb)) {
1983         load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1984     } else {
1985         for (i = 0; i < 64; i++) {
1986             j = s->dsp.idct_permutation[i];
1987             v = ff_mpeg1_default_intra_matrix[i];
1988             s->intra_matrix[j]        = v;
1989             s->chroma_intra_matrix[j] = v;
1990         }
1991     }
1992     if (get_bits1(&s->gb)) {
1993         load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1994     } else {
1995         for (i = 0; i < 64; i++) {
1996             int j = s->dsp.idct_permutation[i];
1997             v = ff_mpeg1_default_non_intra_matrix[i];
1998             s->inter_matrix[j]        = v;
1999             s->chroma_inter_matrix[j] = v;
2000         }
2001     }
2002
2003     if (show_bits(&s->gb, 23) != 0) {
2004         av_log(s->avctx, AV_LOG_ERROR, "sequence header damaged\n");
2005         return -1;
2006     }
2007
2008     /* we set MPEG-2 parameters so that it emulates MPEG-1 */
2009     s->progressive_sequence = 1;
2010     s->progressive_frame    = 1;
2011     s->picture_structure    = PICT_FRAME;
2012     s->first_field          = 0;
2013     s->frame_pred_frame_dct = 1;
2014     s->chroma_format        = 1;
2015     s->codec_id             = s->avctx->codec_id = AV_CODEC_ID_MPEG1VIDEO;
2016     s->out_format           = FMT_MPEG1;
2017     s->swap_uv              = 0; // AFAIK VCR2 does not have SEQ_HEADER
2018     if (s->flags & CODEC_FLAG_LOW_DELAY)
2019         s->low_delay = 1;
2020
2021     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
2022         av_log(s->avctx, AV_LOG_DEBUG, "vbv buffer: %d, bitrate:%d\n",
2023                s->avctx->rc_buffer_size, s->bit_rate);
2024
2025     return 0;
2026 }
2027
2028 static int vcr2_init_sequence(AVCodecContext *avctx)
2029 {
2030     Mpeg1Context *s1 = avctx->priv_data;
2031     MpegEncContext *s = &s1->mpeg_enc_ctx;
2032     int i, v;
2033
2034     /* start new MPEG-1 context decoding */
2035     s->out_format = FMT_MPEG1;
2036     if (s1->mpeg_enc_ctx_allocated) {
2037         ff_MPV_common_end(s);
2038     }
2039     s->width  = avctx->coded_width;
2040     s->height = avctx->coded_height;
2041     avctx->has_b_frames = 0; // true?
2042     s->low_delay = 1;
2043
2044     avctx->pix_fmt = mpeg_get_pixelformat(avctx);
2045     setup_hwaccel_for_pixfmt(avctx);
2046
2047     if (ff_MPV_common_init(s) < 0)
2048         return -1;
2049     s1->mpeg_enc_ctx_allocated = 1;
2050
2051     for (i = 0; i < 64; i++) {
2052         int j = s->dsp.idct_permutation[i];
2053         v = ff_mpeg1_default_intra_matrix[i];
2054         s->intra_matrix[j]        = v;
2055         s->chroma_intra_matrix[j] = v;
2056
2057         v = ff_mpeg1_default_non_intra_matrix[i];
2058         s->inter_matrix[j]        = v;
2059         s->chroma_inter_matrix[j] = v;
2060     }
2061
2062     s->progressive_sequence  = 1;
2063     s->progressive_frame     = 1;
2064     s->picture_structure     = PICT_FRAME;
2065     s->first_field           = 0;
2066     s->frame_pred_frame_dct  = 1;
2067     s->chroma_format         = 1;
2068     if (s->codec_tag == AV_RL32("BW10")) {
2069         s->codec_id              = s->avctx->codec_id = AV_CODEC_ID_MPEG1VIDEO;
2070     } else {
2071         exchange_uv(s); // common init reset pblocks, so we swap them here
2072         s->swap_uv = 1; // in case of xvmc we need to swap uv for each MB
2073         s->codec_id              = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
2074     }
2075     s1->save_width           = s->width;
2076     s1->save_height          = s->height;
2077     s1->save_progressive_seq = s->progressive_sequence;
2078     return 0;
2079 }
2080
2081
2082 static void mpeg_decode_user_data(AVCodecContext *avctx,
2083                                   const uint8_t *p, int buf_size)
2084 {
2085     Mpeg1Context *s = avctx->priv_data;
2086     const uint8_t *buf_end = p + buf_size;
2087
2088     if(buf_size > 29){
2089         int i;
2090         for(i=0; i<20; i++)
2091             if(!memcmp(p+i, "\0TMPGEXS\0", 9)){
2092                 s->tmpgexs= 1;
2093             }
2094
2095 /*        for(i=0; !(!p[i-2] && !p[i-1] && p[i]==1) && i<buf_size; i++){
2096             av_log(avctx, AV_LOG_ERROR, "%c", p[i]);
2097         }
2098             av_log(avctx, AV_LOG_ERROR, "\n");*/
2099     }
2100
2101     /* we parse the DTG active format information */
2102     if (buf_end - p >= 5 &&
2103         p[0] == 'D' && p[1] == 'T' && p[2] == 'G' && p[3] == '1') {
2104         int flags = p[4];
2105         p += 5;
2106         if (flags & 0x80) {
2107             /* skip event id */
2108             p += 2;
2109         }
2110         if (flags & 0x40) {
2111             if (buf_end - p < 1)
2112                 return;
2113             avctx->dtg_active_format = p[0] & 0x0f;
2114         }
2115     }
2116 }
2117
2118 static void mpeg_decode_gop(AVCodecContext *avctx,
2119                             const uint8_t *buf, int buf_size)
2120 {
2121     Mpeg1Context *s1  = avctx->priv_data;
2122     MpegEncContext *s = &s1->mpeg_enc_ctx;
2123     int broken_link;
2124     int64_t tc;
2125
2126     init_get_bits(&s->gb, buf, buf_size*8);
2127
2128     tc = avctx->timecode_frame_start = get_bits(&s->gb, 25);
2129
2130     s->closed_gop = get_bits1(&s->gb);
2131     /*broken_link indicate that after editing the
2132       reference frames of the first B-Frames after GOP I-Frame
2133       are missing (open gop)*/
2134     broken_link = get_bits1(&s->gb);
2135
2136     if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
2137         char tcbuf[AV_TIMECODE_STR_SIZE];
2138         av_timecode_make_mpeg_tc_string(tcbuf, tc);
2139         av_log(s->avctx, AV_LOG_DEBUG,
2140                "GOP (%s) closed_gop=%d broken_link=%d\n",
2141                tcbuf, s->closed_gop, broken_link);
2142     }
2143 }
2144
2145 static int decode_chunks(AVCodecContext *avctx,
2146                          AVFrame *picture, int *got_output,
2147                          const uint8_t *buf, int buf_size)
2148 {
2149     Mpeg1Context *s = avctx->priv_data;
2150     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2151     const uint8_t *buf_ptr = buf;
2152     const uint8_t *buf_end = buf + buf_size;
2153     int ret, input_size;
2154     int last_code = 0, skip_frame = 0;
2155     int picture_start_code_seen = 0;
2156
2157     for (;;) {
2158         /* find next start code */
2159         uint32_t start_code = -1;
2160         buf_ptr = avpriv_find_start_code(buf_ptr, buf_end, &start_code);
2161         if (start_code > 0x1ff) {
2162             if (!skip_frame) {
2163                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2164                     !avctx->hwaccel) {
2165                     int i;
2166                     av_assert0(avctx->thread_count > 1);
2167
2168                     avctx->execute(avctx, slice_decode_thread,  &s2->thread_context[0], NULL, s->slice_count, sizeof(void*));
2169                     for (i = 0; i < s->slice_count; i++)
2170                         s2->er.error_count += s2->thread_context[i]->er.error_count;
2171                 }
2172
2173                 if ((CONFIG_MPEG_VDPAU_DECODER || CONFIG_MPEG1_VDPAU_DECODER)
2174                     && uses_vdpau(avctx))
2175                     ff_vdpau_mpeg_picture_complete(s2, buf, buf_size, s->slice_count);
2176
2177                 ret = slice_end(avctx, picture);
2178                 if (ret < 0)
2179                     return ret;
2180                 else if (ret) {
2181                     if (s2->last_picture_ptr || s2->low_delay) //FIXME merge with the stuff in mpeg_decode_slice
2182                         *got_output = 1;
2183                 }
2184             }
2185             s2->pict_type = 0;
2186             return FFMAX(0, buf_ptr - buf - s2->parse_context.last_index);
2187         }
2188
2189         input_size = buf_end - buf_ptr;
2190
2191         if (avctx->debug & FF_DEBUG_STARTCODE) {
2192             av_log(avctx, AV_LOG_DEBUG, "%3X at %td left %d\n", start_code, buf_ptr-buf, input_size);
2193         }
2194
2195         /* prepare data for next start code */
2196         switch (start_code) {
2197         case SEQ_START_CODE:
2198             if (last_code == 0) {
2199                 mpeg1_decode_sequence(avctx, buf_ptr, input_size);
2200                 if(buf != avctx->extradata)
2201                     s->sync=1;
2202             } else {
2203                 av_log(avctx, AV_LOG_ERROR, "ignoring SEQ_START_CODE after %X\n", last_code);
2204                 if (avctx->err_recognition & AV_EF_EXPLODE)
2205                     return AVERROR_INVALIDDATA;
2206             }
2207             break;
2208
2209         case PICTURE_START_CODE:
2210             if (picture_start_code_seen && s2->picture_structure == PICT_FRAME) {
2211                /* If it's a frame picture, there can't be more than one picture header.
2212                   Yet, it does happen and we need to handle it. */
2213                av_log(avctx, AV_LOG_WARNING, "ignoring extra picture following a frame-picture\n");
2214                break;
2215             }
2216             picture_start_code_seen = 1;
2217
2218             if (s2->width <= 0 || s2->height <= 0) {
2219                 av_log(avctx, AV_LOG_ERROR, "Invalid frame dimensions %dx%d.\n",
2220                        s2->width, s2->height);
2221                 return AVERROR_INVALIDDATA;
2222             }
2223
2224             if(s->tmpgexs){
2225                 s2->intra_dc_precision= 3;
2226                 s2->intra_matrix[0]= 1;
2227             }
2228             if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2229                 !avctx->hwaccel && s->slice_count) {
2230                 int i;
2231
2232                 avctx->execute(avctx, slice_decode_thread,
2233                                s2->thread_context, NULL,
2234                                s->slice_count, sizeof(void*));
2235                 for (i = 0; i < s->slice_count; i++)
2236                     s2->er.error_count += s2->thread_context[i]->er.error_count;
2237                 s->slice_count = 0;
2238             }
2239             if (last_code == 0 || last_code == SLICE_MIN_START_CODE) {
2240                 ret = mpeg_decode_postinit(avctx);
2241                 if (ret < 0) {
2242                     av_log(avctx, AV_LOG_ERROR, "mpeg_decode_postinit() failure\n");
2243                     return ret;
2244                 }
2245
2246                 /* we have a complete image: we try to decompress it */
2247                 if (mpeg1_decode_picture(avctx, buf_ptr, input_size) < 0)
2248                     s2->pict_type = 0;
2249                 s2->first_slice = 1;
2250                 last_code = PICTURE_START_CODE;
2251             } else {
2252                 av_log(avctx, AV_LOG_ERROR, "ignoring pic after %X\n", last_code);
2253                 if (avctx->err_recognition & AV_EF_EXPLODE)
2254                     return AVERROR_INVALIDDATA;
2255             }
2256             break;
2257         case EXT_START_CODE:
2258             init_get_bits(&s2->gb, buf_ptr, input_size*8);
2259
2260             switch (get_bits(&s2->gb, 4)) {
2261             case 0x1:
2262                 if (last_code == 0) {
2263                 mpeg_decode_sequence_extension(s);
2264                 } else {
2265                     av_log(avctx, AV_LOG_ERROR, "ignoring seq ext after %X\n", last_code);
2266                     if (avctx->err_recognition & AV_EF_EXPLODE)
2267                         return AVERROR_INVALIDDATA;
2268                 }
2269                 break;
2270             case 0x2:
2271                 mpeg_decode_sequence_display_extension(s);
2272                 break;
2273             case 0x3:
2274                 mpeg_decode_quant_matrix_extension(s2);
2275                 break;
2276             case 0x7:
2277                 mpeg_decode_picture_display_extension(s);
2278                 break;
2279             case 0x8:
2280                 if (last_code == PICTURE_START_CODE) {
2281                     mpeg_decode_picture_coding_extension(s);
2282                 } else {
2283                     av_log(avctx, AV_LOG_ERROR, "ignoring pic cod ext after %X\n", last_code);
2284                     if (avctx->err_recognition & AV_EF_EXPLODE)
2285                         return AVERROR_INVALIDDATA;
2286                 }
2287                 break;
2288             }
2289             break;
2290         case USER_START_CODE:
2291             mpeg_decode_user_data(avctx, buf_ptr, input_size);
2292             break;
2293         case GOP_START_CODE:
2294             if (last_code == 0) {
2295                 s2->first_field=0;
2296                 mpeg_decode_gop(avctx, buf_ptr, input_size);
2297                 s->sync=1;
2298             } else {
2299                 av_log(avctx, AV_LOG_ERROR, "ignoring GOP_START_CODE after %X\n", last_code);
2300                 if (avctx->err_recognition & AV_EF_EXPLODE)
2301                     return AVERROR_INVALIDDATA;
2302             }
2303             break;
2304         default:
2305             if (start_code >= SLICE_MIN_START_CODE &&
2306                 start_code <= SLICE_MAX_START_CODE && last_code == PICTURE_START_CODE) {
2307
2308                 if (s2->progressive_sequence && !s2->progressive_frame) {
2309                     s2->progressive_frame = 1;
2310                     av_log(s2->avctx, AV_LOG_ERROR, "interlaced frame in progressive sequence, ignoring\n");
2311                 }
2312
2313                 if (s2->picture_structure == 0 || (s2->progressive_frame && s2->picture_structure != PICT_FRAME)) {
2314                     av_log(s2->avctx, AV_LOG_ERROR, "picture_structure %d invalid, ignoring\n", s2->picture_structure);
2315                     s2->picture_structure = PICT_FRAME;
2316                 }
2317
2318                 if (s2->progressive_sequence && !s2->frame_pred_frame_dct) {
2319                     av_log(s2->avctx, AV_LOG_WARNING, "invalid frame_pred_frame_dct\n");
2320                 }
2321
2322                 if (s2->picture_structure == PICT_FRAME) {
2323                     s2->first_field = 0;
2324                     s2->v_edge_pos  = 16 * s2->mb_height;
2325                 } else {
2326                     s2->first_field ^= 1;
2327                     s2->v_edge_pos   = 8 * s2->mb_height;
2328                     memset(s2->mbskip_table, 0, s2->mb_stride * s2->mb_height);
2329                 }
2330             }
2331             if (start_code >= SLICE_MIN_START_CODE &&
2332                 start_code <= SLICE_MAX_START_CODE && last_code != 0) {
2333                 const int field_pic = s2->picture_structure != PICT_FRAME;
2334                 int mb_y = start_code - SLICE_MIN_START_CODE;
2335                 last_code = SLICE_MIN_START_CODE;
2336                 if(s2->codec_id != AV_CODEC_ID_MPEG1VIDEO && s2->mb_height > 2800/16)
2337                     mb_y += (*buf_ptr&0xE0)<<2;
2338
2339                 mb_y <<= field_pic;
2340                 if (s2->picture_structure == PICT_BOTTOM_FIELD)
2341                     mb_y++;
2342
2343                 if (buf_end - buf_ptr < 2) {
2344                     av_log(s2->avctx, AV_LOG_ERROR, "slice too small\n");
2345                     return AVERROR_INVALIDDATA;
2346                 }
2347
2348                 if (mb_y >= s2->mb_height) {
2349                     av_log(s2->avctx, AV_LOG_ERROR, "slice below image (%d >= %d)\n", mb_y, s2->mb_height);
2350                     return -1;
2351                 }
2352
2353                 if (s2->last_picture_ptr == NULL) {
2354                 /* Skip B-frames if we do not have reference frames and gop is not closed */
2355                     if (s2->pict_type == AV_PICTURE_TYPE_B) {
2356                         if (!s2->closed_gop) {
2357                             skip_frame = 1;
2358                             break;
2359                         }
2360                     }
2361                 }
2362                 if (s2->pict_type == AV_PICTURE_TYPE_I || (s2->flags2 & CODEC_FLAG2_SHOW_ALL))
2363                     s->sync=1;
2364                 if (s2->next_picture_ptr == NULL) {
2365                 /* Skip P-frames if we do not have a reference frame or we have an invalid header. */
2366                     if (s2->pict_type == AV_PICTURE_TYPE_P && !s->sync) {
2367                         skip_frame = 1;
2368                         break;
2369                     }
2370                 }
2371                 if ((avctx->skip_frame >= AVDISCARD_NONREF && s2->pict_type == AV_PICTURE_TYPE_B) ||
2372                     (avctx->skip_frame >= AVDISCARD_NONKEY && s2->pict_type != AV_PICTURE_TYPE_I) ||
2373                      avctx->skip_frame >= AVDISCARD_ALL) {
2374                     skip_frame = 1;
2375                     break;
2376                 }
2377
2378                 if (!s->mpeg_enc_ctx_allocated)
2379                     break;
2380
2381                 if (s2->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
2382                     if (mb_y < avctx->skip_top || mb_y >= s2->mb_height - avctx->skip_bottom)
2383                         break;
2384                 }
2385
2386                 if (!s2->pict_type) {
2387                     av_log(avctx, AV_LOG_ERROR, "Missing picture start code\n");
2388                     if (avctx->err_recognition & AV_EF_EXPLODE)
2389                         return AVERROR_INVALIDDATA;
2390                     break;
2391                 }
2392
2393                 if (s2->first_slice) {
2394                     skip_frame = 0;
2395                     s2->first_slice = 0;
2396                     if (mpeg_field_start(s2, buf, buf_size) < 0)
2397                         return -1;
2398                 }
2399                 if (!s2->current_picture_ptr) {
2400                     av_log(avctx, AV_LOG_ERROR, "current_picture not initialized\n");
2401                     return AVERROR_INVALIDDATA;
2402                 }
2403
2404                 if (uses_vdpau(avctx)) {
2405                     s->slice_count++;
2406                     break;
2407                 }
2408
2409                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2410                     !avctx->hwaccel) {
2411                     int threshold = (s2->mb_height * s->slice_count +
2412                                      s2->slice_context_count / 2) /
2413                                     s2->slice_context_count;
2414                     av_assert0(avctx->thread_count > 1);
2415                     if (threshold <= mb_y) {
2416                         MpegEncContext *thread_context = s2->thread_context[s->slice_count];
2417
2418                         thread_context->start_mb_y = mb_y;
2419                         thread_context->end_mb_y   = s2->mb_height;
2420                         if (s->slice_count) {
2421                             s2->thread_context[s->slice_count-1]->end_mb_y = mb_y;
2422                             ret = ff_update_duplicate_context(thread_context,
2423                                                               s2);
2424                             if (ret < 0)
2425                                 return ret;
2426                         }
2427                         init_get_bits(&thread_context->gb, buf_ptr, input_size*8);
2428                         s->slice_count++;
2429                     }
2430                     buf_ptr += 2; // FIXME add minimum number of bytes per slice
2431                 } else {
2432                     ret = mpeg_decode_slice(s2, mb_y, &buf_ptr, input_size);
2433                     emms_c();
2434
2435                     if (ret < 0) {
2436                         if (avctx->err_recognition & AV_EF_EXPLODE)
2437                             return ret;
2438                         if (s2->resync_mb_x >= 0 && s2->resync_mb_y >= 0)
2439                             ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x, s2->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
2440                     } else {
2441                         ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x-1, s2->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
2442                     }
2443                 }
2444             }
2445             break;
2446         }
2447     }
2448 }
2449
2450 static int mpeg_decode_frame(AVCodecContext *avctx,
2451                              void *data, int *got_output,
2452                              AVPacket *avpkt)
2453 {
2454     const uint8_t *buf = avpkt->data;
2455     int ret;
2456     int buf_size = avpkt->size;
2457     Mpeg1Context *s = avctx->priv_data;
2458     AVFrame *picture = data;
2459     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2460     av_dlog(avctx, "fill_buffer\n");
2461
2462     if (buf_size == 0 || (buf_size == 4 && AV_RB32(buf) == SEQ_END_CODE)) {
2463         /* special case for last picture */
2464         if (s2->low_delay == 0 && s2->next_picture_ptr) {
2465             int ret = av_frame_ref(picture, &s2->next_picture_ptr->f);
2466             if (ret < 0)
2467                 return ret;
2468
2469             s2->next_picture_ptr = NULL;
2470
2471             *got_output = 1;
2472         }
2473         return buf_size;
2474     }
2475
2476     if (s2->flags & CODEC_FLAG_TRUNCATED) {
2477         int next = ff_mpeg1_find_frame_end(&s2->parse_context, buf, buf_size, NULL);
2478
2479         if (ff_combine_frame(&s2->parse_context, next, (const uint8_t **)&buf, &buf_size) < 0)
2480             return buf_size;
2481     }
2482
2483     s2->codec_tag = avpriv_toupper4(avctx->codec_tag);
2484     if (s->mpeg_enc_ctx_allocated == 0 && (   s2->codec_tag == AV_RL32("VCR2")
2485                                            || s2->codec_tag == AV_RL32("BW10")
2486                                           ))
2487         vcr2_init_sequence(avctx);
2488
2489     s->slice_count = 0;
2490
2491     if (avctx->extradata && !s->extradata_decoded) {
2492         ret = decode_chunks(avctx, picture, got_output, avctx->extradata, avctx->extradata_size);
2493         if(*got_output) {
2494             av_log(avctx, AV_LOG_ERROR, "picture in extradata\n");
2495             *got_output = 0;
2496         }
2497         s->extradata_decoded = 1;
2498         if (ret < 0 && (avctx->err_recognition & AV_EF_EXPLODE)) {
2499             s2->current_picture_ptr = NULL;
2500             return ret;
2501         }
2502     }
2503
2504     ret = decode_chunks(avctx, picture, got_output, buf, buf_size);
2505     if (ret<0 || *got_output)
2506         s2->current_picture_ptr = NULL;
2507
2508     return ret;
2509 }
2510
2511
2512 static void flush(AVCodecContext *avctx)
2513 {
2514     Mpeg1Context *s = avctx->priv_data;
2515
2516     s->sync=0;
2517
2518     ff_mpeg_flush(avctx);
2519 }
2520
2521 static av_cold int mpeg_decode_end(AVCodecContext *avctx)
2522 {
2523     Mpeg1Context *s = avctx->priv_data;
2524
2525     if (s->mpeg_enc_ctx_allocated)
2526         ff_MPV_common_end(&s->mpeg_enc_ctx);
2527     return 0;
2528 }
2529
2530 static const AVProfile mpeg2_video_profiles[] = {
2531     { FF_PROFILE_MPEG2_422,          "4:2:2"              },
2532     { FF_PROFILE_MPEG2_HIGH,         "High"               },
2533     { FF_PROFILE_MPEG2_SS,           "Spatially Scalable" },
2534     { FF_PROFILE_MPEG2_SNR_SCALABLE, "SNR Scalable"       },
2535     { FF_PROFILE_MPEG2_MAIN,         "Main"               },
2536     { FF_PROFILE_MPEG2_SIMPLE,       "Simple"             },
2537     { FF_PROFILE_RESERVED,           "Reserved"           },
2538     { FF_PROFILE_RESERVED,           "Reserved"           },
2539     { FF_PROFILE_UNKNOWN },
2540 };
2541
2542
2543 AVCodec ff_mpeg1video_decoder = {
2544     .name                  = "mpeg1video",
2545     .type                  = AVMEDIA_TYPE_VIDEO,
2546     .id                    = AV_CODEC_ID_MPEG1VIDEO,
2547     .priv_data_size        = sizeof(Mpeg1Context),
2548     .init                  = mpeg_decode_init,
2549     .close                 = mpeg_decode_end,
2550     .decode                = mpeg_decode_frame,
2551     .capabilities          = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2552                              CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2553                              CODEC_CAP_SLICE_THREADS,
2554     .flush                 = flush,
2555     .max_lowres            = 3,
2556     .long_name             = NULL_IF_CONFIG_SMALL("MPEG-1 video"),
2557     .update_thread_context = ONLY_IF_THREADS_ENABLED(mpeg_decode_update_thread_context)
2558 };
2559
2560 AVCodec ff_mpeg2video_decoder = {
2561     .name           = "mpeg2video",
2562     .type           = AVMEDIA_TYPE_VIDEO,
2563     .id             = AV_CODEC_ID_MPEG2VIDEO,
2564     .priv_data_size = sizeof(Mpeg1Context),
2565     .init           = mpeg_decode_init,
2566     .close          = mpeg_decode_end,
2567     .decode         = mpeg_decode_frame,
2568     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2569                       CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2570                       CODEC_CAP_SLICE_THREADS,
2571     .flush          = flush,
2572     .max_lowres     = 3,
2573     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 video"),
2574     .profiles       = NULL_IF_CONFIG_SMALL(mpeg2_video_profiles),
2575 };
2576
2577 //legacy decoder
2578 AVCodec ff_mpegvideo_decoder = {
2579     .name           = "mpegvideo",
2580     .type           = AVMEDIA_TYPE_VIDEO,
2581     .id             = AV_CODEC_ID_MPEG2VIDEO,
2582     .priv_data_size = sizeof(Mpeg1Context),
2583     .init           = mpeg_decode_init,
2584     .close          = mpeg_decode_end,
2585     .decode         = mpeg_decode_frame,
2586     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY | CODEC_CAP_SLICE_THREADS,
2587     .flush          = flush,
2588     .max_lowres     = 3,
2589     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1 video"),
2590 };
2591
2592 #if CONFIG_MPEG_XVMC_DECODER
2593 static av_cold int mpeg_mc_decode_init(AVCodecContext *avctx)
2594 {
2595     if (avctx->active_thread_type & FF_THREAD_SLICE)
2596         return -1;
2597     if (!(avctx->slice_flags & SLICE_FLAG_CODED_ORDER))
2598         return -1;
2599     if (!(avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
2600         av_dlog(avctx, "mpeg12.c: XvMC decoder will work better if SLICE_FLAG_ALLOW_FIELD is set\n");
2601     }
2602     mpeg_decode_init(avctx);
2603
2604     avctx->pix_fmt           = AV_PIX_FMT_XVMC_MPEG2_IDCT;
2605     avctx->xvmc_acceleration = 2; // 2 - the blocks are packed!
2606
2607     return 0;
2608 }
2609
2610 AVCodec ff_mpeg_xvmc_decoder = {
2611     .name           = "mpegvideo_xvmc",
2612     .type           = AVMEDIA_TYPE_VIDEO,
2613     .id             = AV_CODEC_ID_MPEG2VIDEO_XVMC,
2614     .priv_data_size = sizeof(Mpeg1Context),
2615     .init           = mpeg_mc_decode_init,
2616     .close          = mpeg_decode_end,
2617     .decode         = mpeg_decode_frame,
2618     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2619                       CODEC_CAP_TRUNCATED| CODEC_CAP_HWACCEL | CODEC_CAP_DELAY,
2620     .flush          = flush,
2621     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1/2 video XvMC (X-Video Motion Compensation)"),
2622 };
2623
2624 #endif
2625
2626 #if CONFIG_MPEG_VDPAU_DECODER
2627 AVCodec ff_mpeg_vdpau_decoder = {
2628     .name           = "mpegvideo_vdpau",
2629     .type           = AVMEDIA_TYPE_VIDEO,
2630     .id             = AV_CODEC_ID_MPEG2VIDEO,
2631     .priv_data_size = sizeof(Mpeg1Context),
2632     .init           = mpeg_decode_init,
2633     .close          = mpeg_decode_end,
2634     .decode         = mpeg_decode_frame,
2635     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED |
2636                       CODEC_CAP_HWACCEL_VDPAU | CODEC_CAP_DELAY,
2637     .flush          = flush,
2638     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1/2 video (VDPAU acceleration)"),
2639 };
2640 #endif
2641
2642 #if CONFIG_MPEG1_VDPAU_DECODER
2643 AVCodec ff_mpeg1_vdpau_decoder = {
2644     .name           = "mpeg1video_vdpau",
2645     .type           = AVMEDIA_TYPE_VIDEO,
2646     .id             = AV_CODEC_ID_MPEG1VIDEO,
2647     .priv_data_size = sizeof(Mpeg1Context),
2648     .init           = mpeg_decode_init,
2649     .close          = mpeg_decode_end,
2650     .decode         = mpeg_decode_frame,
2651     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED |
2652                       CODEC_CAP_HWACCEL_VDPAU | CODEC_CAP_DELAY,
2653     .flush          = flush,
2654     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1 video (VDPAU acceleration)"),
2655 };
2656 #endif