]> git.sesse.net Git - ffmpeg/blob - libavcodec/mpeg12.c
avcodec/mpeg12: Don't initialize encoder-only parts of RLTable
[ffmpeg] / libavcodec / mpeg12.c
1 /*
2  * MPEG-1/2 decoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * MPEG-1/2 decoder
26  */
27
28 #define UNCHECKED_BITSTREAM_READER 1
29
30 #include "libavutil/attributes.h"
31 #include "libavutil/avassert.h"
32 #include "libavutil/timecode.h"
33
34 #include "internal.h"
35 #include "avcodec.h"
36 #include "mpegvideo.h"
37 #include "error_resilience.h"
38 #include "mpeg12.h"
39 #include "mpeg12data.h"
40 #include "mpegvideodata.h"
41 #include "bytestream.h"
42 #include "thread.h"
43
44 static const uint8_t table_mb_ptype[7][2] = {
45     { 3, 5 }, // 0x01 MB_INTRA
46     { 1, 2 }, // 0x02 MB_PAT
47     { 1, 3 }, // 0x08 MB_FOR
48     { 1, 1 }, // 0x0A MB_FOR|MB_PAT
49     { 1, 6 }, // 0x11 MB_QUANT|MB_INTRA
50     { 1, 5 }, // 0x12 MB_QUANT|MB_PAT
51     { 2, 5 }, // 0x1A MB_QUANT|MB_FOR|MB_PAT
52 };
53
54 static const uint8_t table_mb_btype[11][2] = {
55     { 3, 5 }, // 0x01 MB_INTRA
56     { 2, 3 }, // 0x04 MB_BACK
57     { 3, 3 }, // 0x06 MB_BACK|MB_PAT
58     { 2, 4 }, // 0x08 MB_FOR
59     { 3, 4 }, // 0x0A MB_FOR|MB_PAT
60     { 2, 2 }, // 0x0C MB_FOR|MB_BACK
61     { 3, 2 }, // 0x0E MB_FOR|MB_BACK|MB_PAT
62     { 1, 6 }, // 0x11 MB_QUANT|MB_INTRA
63     { 2, 6 }, // 0x16 MB_QUANT|MB_BACK|MB_PAT
64     { 3, 6 }, // 0x1A MB_QUANT|MB_FOR|MB_PAT
65     { 2, 5 }, // 0x1E MB_QUANT|MB_FOR|MB_BACK|MB_PAT
66 };
67
68 av_cold void ff_init_2d_vlc_rl(RLTable *rl, unsigned static_size, int flags)
69 {
70     int i;
71     VLC_TYPE table[680][2] = {{0}};
72     VLC vlc = { .table = table, .table_allocated = static_size };
73     av_assert0(static_size <= FF_ARRAY_ELEMS(table));
74     init_vlc(&vlc, TEX_VLC_BITS, rl->n + 2, &rl->table_vlc[0][1], 4, 2, &rl->table_vlc[0][0], 4, 2, INIT_VLC_USE_NEW_STATIC | flags);
75
76     for (i = 0; i < vlc.table_size; i++) {
77         int code = vlc.table[i][0];
78         int len  = vlc.table[i][1];
79         int level, run;
80
81         if (len == 0) { // illegal code
82             run   = 65;
83             level = MAX_LEVEL;
84         } else if (len<0) { //more bits needed
85             run   = 0;
86             level = code;
87         } else {
88             if (code == rl->n) { //esc
89                 run   = 65;
90                 level = 0;
91             } else if (code == rl->n+1) { //eob
92                 run   = 0;
93                 level = 127;
94             } else {
95                 run   = rl->table_run  [code] + 1;
96                 level = rl->table_level[code];
97             }
98         }
99         rl->rl_vlc[0][i].len   = len;
100         rl->rl_vlc[0][i].level = level;
101         rl->rl_vlc[0][i].run   = run;
102     }
103 }
104
105 av_cold void ff_mpeg12_common_init(MpegEncContext *s)
106 {
107
108     s->y_dc_scale_table =
109     s->c_dc_scale_table = ff_mpeg2_dc_scale_table[s->intra_dc_precision];
110
111 }
112
113 void ff_mpeg1_clean_buffers(MpegEncContext *s)
114 {
115     s->last_dc[0] = 1 << (7 + s->intra_dc_precision);
116     s->last_dc[1] = s->last_dc[0];
117     s->last_dc[2] = s->last_dc[0];
118     memset(s->last_mv, 0, sizeof(s->last_mv));
119 }
120
121
122 /******************************************/
123 /* decoding */
124
125 VLC ff_mv_vlc;
126
127 VLC ff_dc_lum_vlc;
128 VLC ff_dc_chroma_vlc;
129
130 VLC ff_mbincr_vlc;
131 VLC ff_mb_ptype_vlc;
132 VLC ff_mb_btype_vlc;
133 VLC ff_mb_pat_vlc;
134
135 av_cold void ff_mpeg12_init_vlcs(void)
136 {
137     static int done = 0;
138
139     if (!done) {
140         done = 1;
141
142         INIT_VLC_STATIC(&ff_dc_lum_vlc, DC_VLC_BITS, 12,
143                         ff_mpeg12_vlc_dc_lum_bits, 1, 1,
144                         ff_mpeg12_vlc_dc_lum_code, 2, 2, 512);
145         INIT_VLC_STATIC(&ff_dc_chroma_vlc,  DC_VLC_BITS, 12,
146                         ff_mpeg12_vlc_dc_chroma_bits, 1, 1,
147                         ff_mpeg12_vlc_dc_chroma_code, 2, 2, 514);
148         INIT_VLC_STATIC(&ff_mv_vlc, MV_VLC_BITS, 17,
149                         &ff_mpeg12_mbMotionVectorTable[0][1], 2, 1,
150                         &ff_mpeg12_mbMotionVectorTable[0][0], 2, 1, 266);
151         INIT_VLC_STATIC(&ff_mbincr_vlc, MBINCR_VLC_BITS, 36,
152                         &ff_mpeg12_mbAddrIncrTable[0][1], 2, 1,
153                         &ff_mpeg12_mbAddrIncrTable[0][0], 2, 1, 538);
154         INIT_VLC_STATIC(&ff_mb_pat_vlc, MB_PAT_VLC_BITS, 64,
155                         &ff_mpeg12_mbPatTable[0][1], 2, 1,
156                         &ff_mpeg12_mbPatTable[0][0], 2, 1, 512);
157
158         INIT_VLC_STATIC(&ff_mb_ptype_vlc, MB_PTYPE_VLC_BITS, 7,
159                         &table_mb_ptype[0][1], 2, 1,
160                         &table_mb_ptype[0][0], 2, 1, 64);
161         INIT_VLC_STATIC(&ff_mb_btype_vlc, MB_BTYPE_VLC_BITS, 11,
162                         &table_mb_btype[0][1], 2, 1,
163                         &table_mb_btype[0][0], 2, 1, 64);
164
165         INIT_2D_VLC_RL(ff_rl_mpeg1, 680, 0);
166         INIT_2D_VLC_RL(ff_rl_mpeg2, 674, 0);
167     }
168 }
169
170 /**
171  * Find the end of the current frame in the bitstream.
172  * @return the position of the first byte of the next frame, or -1
173  */
174 int ff_mpeg1_find_frame_end(ParseContext *pc, const uint8_t *buf, int buf_size, AVCodecParserContext *s)
175 {
176     int i;
177     uint32_t state = pc->state;
178
179     /* EOF considered as end of frame */
180     if (buf_size == 0)
181         return 0;
182
183 /*
184  0  frame start         -> 1/4
185  1  first_SEQEXT        -> 0/2
186  2  first field start   -> 3/0
187  3  second_SEQEXT       -> 2/0
188  4  searching end
189 */
190
191     for (i = 0; i < buf_size; i++) {
192         av_assert1(pc->frame_start_found >= 0 && pc->frame_start_found <= 4);
193         if (pc->frame_start_found & 1) {
194             if (state == EXT_START_CODE && (buf[i] & 0xF0) != 0x80)
195                 pc->frame_start_found--;
196             else if (state == EXT_START_CODE + 2) {
197                 if ((buf[i] & 3) == 3)
198                     pc->frame_start_found = 0;
199                 else
200                     pc->frame_start_found = (pc->frame_start_found + 1) & 3;
201             }
202             state++;
203         } else {
204             i = avpriv_find_start_code(buf + i, buf + buf_size, &state) - buf - 1;
205             if (pc->frame_start_found == 0 && state >= SLICE_MIN_START_CODE && state <= SLICE_MAX_START_CODE) {
206                 i++;
207                 pc->frame_start_found = 4;
208             }
209             if (state == SEQ_END_CODE) {
210                 pc->frame_start_found = 0;
211                 pc->state=-1;
212                 return i+1;
213             }
214             if (pc->frame_start_found == 2 && state == SEQ_START_CODE)
215                 pc->frame_start_found = 0;
216             if (pc->frame_start_found  < 4 && state == EXT_START_CODE)
217                 pc->frame_start_found++;
218             if (pc->frame_start_found == 4 && (state & 0xFFFFFF00) == 0x100) {
219                 if (state < SLICE_MIN_START_CODE || state > SLICE_MAX_START_CODE) {
220                     pc->frame_start_found = 0;
221                     pc->state             = -1;
222                     return i - 3;
223                 }
224             }
225             if (pc->frame_start_found == 0 && s && state == PICTURE_START_CODE) {
226                 ff_fetch_timestamp(s, i - 3, 1, i > 3);
227             }
228         }
229     }
230     pc->state = state;
231     return END_NOT_FOUND;
232 }
233
234 #define MAX_INDEX (64 - 1)
235
236 int ff_mpeg1_decode_block_intra(GetBitContext *gb,
237                                 const uint16_t *quant_matrix,
238                                 uint8_t *const scantable, int last_dc[3],
239                                 int16_t *block, int index, int qscale)
240 {
241     int dc, diff, i = 0, component;
242     RLTable *rl = &ff_rl_mpeg1;
243
244     /* DC coefficient */
245     component = index <= 3 ? 0 : index - 4 + 1;
246
247     diff = decode_dc(gb, component);
248     if (diff >= 0xffff)
249         return AVERROR_INVALIDDATA;
250
251     dc  = last_dc[component];
252     dc += diff;
253     last_dc[component] = dc;
254
255     block[0] = dc * quant_matrix[0];
256
257     {
258         OPEN_READER(re, gb);
259         UPDATE_CACHE(re, gb);
260         if (((int32_t)GET_CACHE(re, gb)) <= (int32_t)0xBFFFFFFF)
261             goto end;
262
263         /* now quantify & encode AC coefficients */
264         while (1) {
265             int level, run, j;
266
267             GET_RL_VLC(level, run, re, gb, rl->rl_vlc[0],
268                        TEX_VLC_BITS, 2, 0);
269
270             if (level != 0) {
271                 i += run;
272                 if (i > MAX_INDEX)
273                     break;
274
275                 j = scantable[i];
276                 level = (level * qscale * quant_matrix[j]) >> 4;
277                 level = (level - 1) | 1;
278                 level = (level ^ SHOW_SBITS(re, gb, 1)) -
279                         SHOW_SBITS(re, gb, 1);
280                 SKIP_BITS(re, gb, 1);
281             } else {
282                 /* escape */
283                 run = SHOW_UBITS(re, gb, 6) + 1;
284                 LAST_SKIP_BITS(re, gb, 6);
285                 UPDATE_CACHE(re, gb);
286                 level = SHOW_SBITS(re, gb, 8);
287                 SKIP_BITS(re, gb, 8);
288
289                 if (level == -128) {
290                     level = SHOW_UBITS(re, gb, 8) - 256;
291                     SKIP_BITS(re, gb, 8);
292                 } else if (level == 0) {
293                     level = SHOW_UBITS(re, gb, 8);
294                     SKIP_BITS(re, gb, 8);
295                 }
296
297                 i += run;
298                 if (i > MAX_INDEX)
299                     break;
300
301                 j = scantable[i];
302                 if (level < 0) {
303                     level = -level;
304                     level = (level * qscale * quant_matrix[j]) >> 4;
305                     level = (level - 1) | 1;
306                     level = -level;
307                 } else {
308                     level = (level * qscale * quant_matrix[j]) >> 4;
309                     level = (level - 1) | 1;
310                 }
311             }
312
313             block[j] = level;
314             if (((int32_t)GET_CACHE(re, gb)) <= (int32_t)0xBFFFFFFF)
315                break;
316
317             UPDATE_CACHE(re, gb);
318         }
319 end:
320         LAST_SKIP_BITS(re, gb, 2);
321         CLOSE_READER(re, gb);
322     }
323
324     if (i > MAX_INDEX)
325         i = AVERROR_INVALIDDATA;
326
327     return i;
328 }