git.sesse.net Git - ffmpeg/blob - libavcodec/mpeg12.c

   1 /*
   2  * MPEG-1/2 decoder
   3  * Copyright (c) 2000, 2001 Fabrice Bellard
   4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 /**
  24  * @file
  25  * MPEG-1/2 decoder
  26  */
  27
  28 #define UNCHECKED_BITSTREAM_READER 1
  29
  30 #include "libavutil/attributes.h"
  31 #include "libavutil/avassert.h"
  32 #include "libavutil/timecode.h"
  33
  34 #include "internal.h"
  35 #include "avcodec.h"
  36 #include "mpegvideo.h"
  37 #include "error_resilience.h"
  38 #include "mpeg12.h"
  39 #include "mpeg12data.h"
  40 #include "mpegvideodata.h"
  41 #include "bytestream.h"
  42 #include "vdpau_internal.h"
  43 #include "thread.h"
  44
  45 uint8_t ff_mpeg12_static_rl_table_store[2][2][2*MAX_RUN + MAX_LEVEL + 3];
  46
  47 static const uint8_t table_mb_ptype[7][2] = {
  48     { 3, 5 }, // 0x01 MB_INTRA
  49     { 1, 2 }, // 0x02 MB_PAT
  50     { 1, 3 }, // 0x08 MB_FOR
  51     { 1, 1 }, // 0x0A MB_FOR|MB_PAT
  52     { 1, 6 }, // 0x11 MB_QUANT|MB_INTRA
  53     { 1, 5 }, // 0x12 MB_QUANT|MB_PAT
  54     { 2, 5 }, // 0x1A MB_QUANT|MB_FOR|MB_PAT
  55 };
  56
  57 static const uint8_t table_mb_btype[11][2] = {
  58     { 3, 5 }, // 0x01 MB_INTRA
  59     { 2, 3 }, // 0x04 MB_BACK
  60     { 3, 3 }, // 0x06 MB_BACK|MB_PAT
  61     { 2, 4 }, // 0x08 MB_FOR
  62     { 3, 4 }, // 0x0A MB_FOR|MB_PAT
  63     { 2, 2 }, // 0x0C MB_FOR|MB_BACK
  64     { 3, 2 }, // 0x0E MB_FOR|MB_BACK|MB_PAT
  65     { 1, 6 }, // 0x11 MB_QUANT|MB_INTRA
  66     { 2, 6 }, // 0x16 MB_QUANT|MB_BACK|MB_PAT
  67     { 3, 6 }, // 0x1A MB_QUANT|MB_FOR|MB_PAT
  68     { 2, 5 }, // 0x1E MB_QUANT|MB_FOR|MB_BACK|MB_PAT
  69 };
  70
  71 #define INIT_2D_VLC_RL(rl, static_size)\
  72 {\
  73     static RL_VLC_ELEM rl_vlc_table[static_size];\
  74     rl.rl_vlc[0] = rl_vlc_table;\
  75     init_2d_vlc_rl(&rl, static_size);\
  76 }
  77
  78 static av_cold void init_2d_vlc_rl(RLTable *rl, unsigned static_size)
  79 {
  80     int i;
  81     VLC_TYPE table[680][2] = {{0}};
  82     VLC vlc = { .table = table, .table_allocated = static_size };
  83     av_assert0(static_size <= FF_ARRAY_ELEMS(table));
  84     init_vlc(&vlc, TEX_VLC_BITS, rl->n + 2, &rl->table_vlc[0][1], 4, 2, &rl->table_vlc[0][0], 4, 2, INIT_VLC_USE_NEW_STATIC);
  85
  86     for (i = 0; i < vlc.table_size; i++) {
  87         int code = vlc.table[i][0];
  88         int len  = vlc.table[i][1];
  89         int level, run;
  90
  91         if (len == 0) { // illegal code
  92             run   = 65;
  93             level = MAX_LEVEL;
  94         } else if (len<0) { //more bits needed
  95             run   = 0;
  96             level = code;
  97         } else {
  98             if (code == rl->n) { //esc
  99                 run   = 65;
 100                 level = 0;
 101             } else if (code == rl->n+1) { //eob
 102                 run   = 0;
 103                 level = 127;
 104             } else {
 105                 run   = rl->table_run  [code] + 1;
 106                 level = rl->table_level[code];
 107             }
 108         }
 109         rl->rl_vlc[0][i].len   = len;
 110         rl->rl_vlc[0][i].level = level;
 111         rl->rl_vlc[0][i].run   = run;
 112     }
 113 }
 114
 115 av_cold void ff_mpeg12_common_init(MpegEncContext *s)
 116 {
 117
 118     s->y_dc_scale_table =
 119     s->c_dc_scale_table = ff_mpeg2_dc_scale_table[s->intra_dc_precision];
 120
 121 }
 122
 123 void ff_mpeg1_clean_buffers(MpegEncContext *s)
 124 {
 125     s->last_dc[0] = 1 << (7 + s->intra_dc_precision);
 126     s->last_dc[1] = s->last_dc[0];
 127     s->last_dc[2] = s->last_dc[0];
 128     memset(s->last_mv, 0, sizeof(s->last_mv));
 129 }
 130
 131
 132 /******************************************/
 133 /* decoding */
 134
 135 VLC ff_mv_vlc;
 136
 137 VLC ff_dc_lum_vlc;
 138 VLC ff_dc_chroma_vlc;
 139
 140 VLC ff_mbincr_vlc;
 141 VLC ff_mb_ptype_vlc;
 142 VLC ff_mb_btype_vlc;
 143 VLC ff_mb_pat_vlc;
 144
 145 av_cold void ff_mpeg12_init_vlcs(void)
 146 {
 147     static int done = 0;
 148
 149     if (!done) {
 150         done = 1;
 151
 152         INIT_VLC_STATIC(&ff_dc_lum_vlc, DC_VLC_BITS, 12,
 153                         ff_mpeg12_vlc_dc_lum_bits, 1, 1,
 154                         ff_mpeg12_vlc_dc_lum_code, 2, 2, 512);
 155         INIT_VLC_STATIC(&ff_dc_chroma_vlc,  DC_VLC_BITS, 12,
 156                         ff_mpeg12_vlc_dc_chroma_bits, 1, 1,
 157                         ff_mpeg12_vlc_dc_chroma_code, 2, 2, 514);
 158         INIT_VLC_STATIC(&ff_mv_vlc, MV_VLC_BITS, 17,
 159                         &ff_mpeg12_mbMotionVectorTable[0][1], 2, 1,
 160                         &ff_mpeg12_mbMotionVectorTable[0][0], 2, 1, 518);
 161         INIT_VLC_STATIC(&ff_mbincr_vlc, MBINCR_VLC_BITS, 36,
 162                         &ff_mpeg12_mbAddrIncrTable[0][1], 2, 1,
 163                         &ff_mpeg12_mbAddrIncrTable[0][0], 2, 1, 538);
 164         INIT_VLC_STATIC(&ff_mb_pat_vlc, MB_PAT_VLC_BITS, 64,
 165                         &ff_mpeg12_mbPatTable[0][1], 2, 1,
 166                         &ff_mpeg12_mbPatTable[0][0], 2, 1, 512);
 167
 168         INIT_VLC_STATIC(&ff_mb_ptype_vlc, MB_PTYPE_VLC_BITS, 7,
 169                         &table_mb_ptype[0][1], 2, 1,
 170                         &table_mb_ptype[0][0], 2, 1, 64);
 171         INIT_VLC_STATIC(&ff_mb_btype_vlc, MB_BTYPE_VLC_BITS, 11,
 172                         &table_mb_btype[0][1], 2, 1,
 173                         &table_mb_btype[0][0], 2, 1, 64);
 174         ff_rl_init(&ff_rl_mpeg1, ff_mpeg12_static_rl_table_store[0]);
 175         ff_rl_init(&ff_rl_mpeg2, ff_mpeg12_static_rl_table_store[1]);
 176
 177         INIT_2D_VLC_RL(ff_rl_mpeg1, 680);
 178         INIT_2D_VLC_RL(ff_rl_mpeg2, 674);
 179     }
 180 }
 181
 182 /**
 183  * Find the end of the current frame in the bitstream.
 184  * @return the position of the first byte of the next frame, or -1
 185  */
 186 int ff_mpeg1_find_frame_end(ParseContext *pc, const uint8_t *buf, int buf_size, AVCodecParserContext *s)
 187 {
 188     int i;
 189     uint32_t state = pc->state;
 190
 191     /* EOF considered as end of frame */
 192     if (buf_size == 0)
 193         return 0;
 194
 195 /*
 196  0  frame start         -> 1/4
 197  1  first_SEQEXT        -> 0/2
 198  2  first field start   -> 3/0
 199  3  second_SEQEXT       -> 2/0
 200  4  searching end
 201 */
 202
 203     for (i = 0; i < buf_size; i++) {
 204         av_assert1(pc->frame_start_found >= 0 && pc->frame_start_found <= 4);
 205         if (pc->frame_start_found & 1) {
 206             if (state == EXT_START_CODE && (buf[i] & 0xF0) != 0x80)
 207                 pc->frame_start_found--;
 208             else if (state == EXT_START_CODE + 2) {
 209                 if ((buf[i] & 3) == 3)
 210                     pc->frame_start_found = 0;
 211                 else
 212                     pc->frame_start_found = (pc->frame_start_found + 1) & 3;
 213             }
 214             state++;
 215         } else {
 216             i = avpriv_find_start_code(buf + i, buf + buf_size, &state) - buf - 1;
 217             if (pc->frame_start_found == 0 && state >= SLICE_MIN_START_CODE && state <= SLICE_MAX_START_CODE) {
 218                 i++;
 219                 pc->frame_start_found = 4;
 220             }
 221             if (state == SEQ_END_CODE) {
 222                 pc->frame_start_found = 0;
 223                 pc->state=-1;
 224                 return i+1;
 225             }
 226             if (pc->frame_start_found == 2 && state == SEQ_START_CODE)
 227                 pc->frame_start_found = 0;
 228             if (pc->frame_start_found  < 4 && state == EXT_START_CODE)
 229                 pc->frame_start_found++;
 230             if (pc->frame_start_found == 4 && (state & 0xFFFFFF00) == 0x100) {
 231                 if (state < SLICE_MIN_START_CODE || state > SLICE_MAX_START_CODE) {
 232                     pc->frame_start_found = 0;
 233                     pc->state             = -1;
 234                     return i - 3;
 235                 }
 236             }
 237             if (pc->frame_start_found == 0 && s && state == PICTURE_START_CODE) {
 238                 ff_fetch_timestamp(s, i - 3, 1, i > 3);
 239             }
 240         }
 241     }
 242     pc->state = state;
 243     return END_NOT_FOUND;
 244 }
 245
 246 #define MAX_INDEX (64 - 1)
 247
 248 int ff_mpeg1_decode_block_intra(GetBitContext *gb,
 249                                 const uint16_t *quant_matrix,
 250                                 uint8_t *const scantable, int last_dc[3],
 251                                 int16_t *block, int index, int qscale)
 252 {
 253     int dc, diff, i = 0, component;
 254     RLTable *rl = &ff_rl_mpeg1;
 255
 256     /* DC coefficient */
 257     component = index <= 3 ? 0 : index - 4 + 1;
 258
 259     diff = decode_dc(gb, component);
 260     if (diff >= 0xffff)
 261         return AVERROR_INVALIDDATA;
 262
 263     dc  = last_dc[component];
 264     dc += diff;
 265     last_dc[component] = dc;
 266
 267     block[0] = dc * quant_matrix[0];
 268
 269     {
 270         OPEN_READER(re, gb);
 271         UPDATE_CACHE(re, gb);
 272         if (((int32_t)GET_CACHE(re, gb)) <= (int32_t)0xBFFFFFFF)
 273             goto end;
 274
 275         /* now quantify & encode AC coefficients */
 276         while (1) {
 277             int level, run, j;
 278
 279             GET_RL_VLC(level, run, re, gb, rl->rl_vlc[0],
 280                        TEX_VLC_BITS, 2, 0);
 281
 282             if (level != 0) {
 283                 i += run;
 284                 if (i > MAX_INDEX)
 285                     break;
 286
 287                 j = scantable[i];
 288                 level = (level * qscale * quant_matrix[j]) >> 4;
 289                 level = (level - 1) | 1;
 290                 level = (level ^ SHOW_SBITS(re, gb, 1)) -
 291                         SHOW_SBITS(re, gb, 1);
 292                 SKIP_BITS(re, gb, 1);
 293             } else {
 294                 /* escape */
 295                 run = SHOW_UBITS(re, gb, 6) + 1;
 296                 LAST_SKIP_BITS(re, gb, 6);
 297                 UPDATE_CACHE(re, gb);
 298                 level = SHOW_SBITS(re, gb, 8);
 299                 SKIP_BITS(re, gb, 8);
 300
 301                 if (level == -128) {
 302                     level = SHOW_UBITS(re, gb, 8) - 256;
 303                     SKIP_BITS(re, gb, 8);
 304                 } else if (level == 0) {
 305                     level = SHOW_UBITS(re, gb, 8);
 306                     SKIP_BITS(re, gb, 8);
 307                 }
 308
 309                 i += run;
 310                 if (i > MAX_INDEX)
 311                     break;
 312
 313                 j = scantable[i];
 314                 if (level < 0) {
 315                     level = -level;
 316                     level = (level * qscale * quant_matrix[j]) >> 4;
 317                     level = (level - 1) | 1;
 318                     level = -level;
 319                 } else {
 320                     level = (level * qscale * quant_matrix[j]) >> 4;
 321                     level = (level - 1) | 1;
 322                 }
 323             }
 324
 325             block[j] = level;
 326             if (((int32_t)GET_CACHE(re, gb)) <= (int32_t)0xBFFFFFFF)
 327                break;
 328
 329             UPDATE_CACHE(re, gb);
 330         }
 331 end:
 332         LAST_SKIP_BITS(re, gb, 2);
 333         CLOSE_READER(re, gb);
 334     }
 335
 336     if (i > MAX_INDEX)
 337         i = AVERROR_INVALIDDATA;
 338
 339     return i;
 340 }