git.sesse.net Git - vlc/blob - modules/codec/xvmc/decode.c

   1 /* $Id$
   2  * decode.c
   3  * Copyright (C) 2000-2003 Michel Lespinasse <walken@zoy.org>
   4  * Copyright (C) 1999-2000 Aaron Holtzman <aholtzma@ess.engr.uvic.ca>
   5  *
   6  * This file is part of mpeg2dec, a free MPEG-2 video stream decoder.
   7  * See http://libmpeg2.sourceforge.net/ for updates.
   8  *
   9  * mpeg2dec is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * mpeg2dec is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  */
  23
  24 #include <vlc/vlc.h>
  25 #include <vlc_vout.h>
  26
  27 #include "xxmc-config.h"
  28
  29 #include <inttypes.h>
  30
  31 #include "mpeg2.h"
  32 #include "attributes.h"
  33 #include "mpeg2_internal.h"
  34 #include "xvmc_vld.h"
  35
  36 static int mpeg2_accels = 0;
  37
  38 #define BUFFER_SIZE (1194 * 1024)
  39
  40 const mpeg2_info_t *mpeg2_info( mpeg2dec_t * mpeg2dec )
  41 {
  42     return &(mpeg2dec->info);
  43 }
  44
  45 static inline int skip_chunk( mpeg2dec_t * mpeg2dec, int bytes )
  46 {
  47     uint8_t *current = NULL;
  48     uint32_t shift;
  49     uint8_t *limit = NULL;
  50     uint8_t byte;
  51
  52     if (!bytes)
  53         return 0;
  54
  55     current = mpeg2dec->buf_start;
  56     shift = mpeg2dec->shift;
  57     limit = current + bytes;
  58
  59     do {
  60         byte = *current++;
  61         if (shift == 0x00000100)
  62         {
  63             int skipped;
  64
  65             mpeg2dec->shift = 0xffffff00;
  66             skipped = current - mpeg2dec->buf_start;
  67             mpeg2dec->buf_start = current;
  68             return skipped;
  69         }
  70         shift = (shift | byte) << 8;
  71     } while (current < limit);
  72
  73     mpeg2dec->shift = shift;
  74     mpeg2dec->buf_start = current;
  75     return 0;
  76 }
  77
  78 static inline int copy_chunk( mpeg2dec_t * mpeg2dec, int bytes )
  79 {
  80     uint8_t *current = NULL;
  81     uint32_t shift;
  82     uint8_t *chunk_ptr = NULL;
  83     uint8_t *limit = NULL;
  84     uint8_t byte;
  85
  86     if (!bytes)
  87         return 0;
  88
  89     current = mpeg2dec->buf_start;
  90     shift = mpeg2dec->shift;
  91     chunk_ptr = mpeg2dec->chunk_ptr;
  92     limit = current + bytes;
  93
  94     do {
  95         byte = *current++;
  96         if (shift == 0x00000100)
  97         {
  98             int copied;
  99
 100             mpeg2dec->shift = 0xffffff00;
 101             mpeg2dec->chunk_size = chunk_ptr - mpeg2dec->chunk_start - 3;
 102             mpeg2dec->chunk_ptr = chunk_ptr + 1;
 103             copied = current - mpeg2dec->buf_start;
 104             mpeg2dec->buf_start = current;
 105             return copied;
 106         }
 107         shift = (shift | byte) << 8;
 108         *chunk_ptr++ = byte;
 109     } while (current < limit);
 110
 111     mpeg2dec->shift = shift;
 112     mpeg2dec->buf_start = current;
 113     return 0;
 114 }
 115
 116 void mpeg2_buffer( mpeg2dec_t * mpeg2dec, uint8_t * start, uint8_t * end )
 117 {
 118     mpeg2dec->buf_start = start;
 119     mpeg2dec->buf_end = end;
 120 }
 121
 122 int mpeg2_getpos( mpeg2dec_t * mpeg2dec )
 123 {
 124     return mpeg2dec->buf_end - mpeg2dec->buf_start;
 125 }
 126
 127 static inline mpeg2_state_t seek_chunk( mpeg2dec_t * mpeg2dec )
 128 {
 129     int size, skipped;
 130
 131     size = mpeg2dec->buf_end - mpeg2dec->buf_start;
 132     skipped = skip_chunk (mpeg2dec, size);
 133     if (!skipped)
 134     {
 135         mpeg2dec->bytes_since_tag += size;
 136         return STATE_BUFFER;
 137     }
 138     mpeg2dec->bytes_since_tag += skipped;
 139     mpeg2dec->code = mpeg2dec->buf_start[-1];
 140     return (mpeg2_state_t)-1;
 141 }
 142
 143 mpeg2_state_t mpeg2_seek_header( mpeg2dec_t * mpeg2dec )
 144 {
 145     while( (mpeg2dec->code != 0xb3) &&
 146            (((mpeg2dec->code != 0xb7) &&
 147              (mpeg2dec->code != 0xb8) &&
 148              mpeg2dec->code ) ||
 149              (mpeg2dec->sequence.width == (unsigned)-1)) )
 150     {
 151         if (seek_chunk (mpeg2dec) == STATE_BUFFER)
 152             return STATE_BUFFER;
 153     }
 154
 155     mpeg2dec->chunk_start = mpeg2dec->chunk_ptr = mpeg2dec->chunk_buffer;
 156     mpeg2dec->user_data_len = 0;
 157     return (mpeg2dec->code ? mpeg2_parse_header (mpeg2dec) :
 158                              mpeg2_header_picture_start (mpeg2dec));
 159 }
 160
 161 #define RECEIVED(code,state) (((state) << 8) + (code))
 162
 163 mpeg2_state_t mpeg2_parse( mpeg2dec_t * mpeg2dec )
 164 {
 165     int size_buffer, size_chunk, copied;
 166
 167     if (mpeg2dec->action)
 168     {
 169         mpeg2_state_t state;
 170
 171         state = mpeg2dec->action (mpeg2dec);
 172         if ((int)state >= 0)
 173             return state;
 174     }
 175
 176     while(1)
 177     {
 178         while( (unsigned int) (mpeg2dec->code - mpeg2dec->first_decode_slice)
 179                  < mpeg2dec->nb_decode_slices )
 180         {
 181             size_buffer = mpeg2dec->buf_end - mpeg2dec->buf_start;
 182             size_chunk = (mpeg2dec->chunk_buffer + BUFFER_SIZE -
 183                           mpeg2dec->chunk_ptr);
 184
 185             if (size_buffer <= size_chunk)
 186             {
 187                 copied = copy_chunk (mpeg2dec, size_buffer);
 188                 if (!copied)
 189                 {
 190                     mpeg2dec->bytes_since_tag += size_buffer;
 191                     mpeg2dec->chunk_ptr += size_buffer;
 192                     return STATE_BUFFER;
 193                 }
 194             }
 195             else
 196             {
 197                 copied = copy_chunk (mpeg2dec, size_chunk);
 198
 199                 if( !copied )
 200                 {
 201                     /* filled the chunk buffer without finding a start code */
 202                     mpeg2dec->bytes_since_tag += size_chunk;
 203                     mpeg2dec->action = seek_chunk;
 204                     return STATE_INVALID;
 205                 }
 206             }
 207             mpeg2dec->bytes_since_tag += copied;
 208             mpeg2_xxmc_slice( mpeg2dec, NULL,
 209                               mpeg2dec->code,mpeg2dec->chunk_start,
 210                               mpeg2dec->chunk_size);
 211             mpeg2dec->prev_code = mpeg2dec->code;
 212             mpeg2dec->code = mpeg2dec->buf_start[-1];
 213             mpeg2dec->chunk_ptr = mpeg2dec->chunk_start;
 214         }
 215
 216         if( (unsigned int) (mpeg2dec->code - 1) >= (0xb0 - 1) )
 217               break;
 218         if( seek_chunk (mpeg2dec) == STATE_BUFFER )
 219             return STATE_BUFFER;
 220     }
 221
 222     switch( mpeg2dec->code )
 223     {
 224         case 0x00:
 225             mpeg2dec->action = mpeg2_header_picture_start;
 226             return mpeg2dec->state;
 227         case 0xb7:
 228             mpeg2dec->action = mpeg2_header_end;
 229             break;
 230         case 0xb3:
 231         case 0xb8:
 232             mpeg2dec->action = mpeg2_parse_header;
 233             break;
 234         default:
 235             mpeg2dec->action = seek_chunk;
 236             return STATE_INVALID;
 237     }
 238     return (mpeg2dec->state == STATE_SLICE) ? STATE_SLICE : STATE_INVALID;
 239 }
 240
 241 mpeg2_state_t mpeg2_parse_header( mpeg2dec_t * mpeg2dec )
 242 {
 243     static int (* process_header[]) (mpeg2dec_t * mpeg2dec) =
 244     {
 245         mpeg2_header_picture,
 246         mpeg2_header_extension,
 247         mpeg2_header_user_data,
 248         mpeg2_header_sequence,
 249         NULL,
 250         NULL,
 251         NULL,
 252         NULL,
 253         mpeg2_header_gop
 254     };
 255     int size_buffer, size_chunk, copied;
 256
 257     mpeg2dec->action = mpeg2_parse_header;
 258     mpeg2dec->info.user_data = NULL;
 259     mpeg2dec->info.user_data_len = 0;
 260
 261     while( 1 )
 262     {
 263         size_buffer = mpeg2dec->buf_end - mpeg2dec->buf_start;
 264         size_chunk = (mpeg2dec->chunk_buffer + BUFFER_SIZE -
 265                       mpeg2dec->chunk_ptr);
 266         if( size_buffer <= size_chunk )
 267         {
 268             copied = copy_chunk (mpeg2dec, size_buffer);
 269             if( !copied )
 270             {
 271                 mpeg2dec->bytes_since_tag += size_buffer;
 272                 mpeg2dec->chunk_ptr += size_buffer;
 273                 return STATE_BUFFER;
 274             }
 275         }
 276         else
 277         {
 278             copied = copy_chunk (mpeg2dec, size_chunk);
 279             if( !copied )
 280             {
 281                 /* filled the chunk buffer without finding a start code */
 282                 mpeg2dec->bytes_since_tag += size_chunk;
 283                 mpeg2dec->code = 0xb4;
 284                 mpeg2dec->action = mpeg2_seek_header;
 285                 return STATE_INVALID;
 286             }
 287         }
 288         mpeg2dec->bytes_since_tag += copied;
 289
 290         if( process_header[mpeg2dec->code & 0x0b](mpeg2dec) )
 291         {
 292             mpeg2dec->code = mpeg2dec->buf_start[-1];
 293             mpeg2dec->action = mpeg2_seek_header;
 294             return STATE_INVALID;
 295         }
 296         mpeg2dec->code = mpeg2dec->buf_start[-1];
 297
 298         switch( RECEIVED(mpeg2dec->code, mpeg2dec->state) )
 299         {
 300             /* state transition after a sequence header */
 301             case RECEIVED (0x00, STATE_SEQUENCE):
 302                 mpeg2dec->action = mpeg2_header_picture_start;
 303             case RECEIVED (0xb8, STATE_SEQUENCE):
 304                 mpeg2_header_sequence_finalize( mpeg2dec );
 305                 break;
 306             /* other legal state transitions */
 307             case RECEIVED (0x00, STATE_GOP):
 308                 mpeg2_header_gop_finalize( mpeg2dec );
 309                 mpeg2dec->action = mpeg2_header_picture_start;
 310                 break;
 311             case RECEIVED (0x01, STATE_PICTURE):
 312             case RECEIVED (0x01, STATE_PICTURE_2ND):
 313                 mpeg2_header_picture_finalize( mpeg2dec, mpeg2_accels );
 314                 mpeg2dec->action = mpeg2_header_slice_start;
 315                 break;
 316             /* legal headers within a given state */
 317             case RECEIVED (0xb2, STATE_SEQUENCE):
 318             case RECEIVED (0xb2, STATE_GOP):
 319             case RECEIVED (0xb2, STATE_PICTURE):
 320             case RECEIVED (0xb2, STATE_PICTURE_2ND):
 321             case RECEIVED (0xb5, STATE_SEQUENCE):
 322             case RECEIVED (0xb5, STATE_PICTURE):
 323             case RECEIVED (0xb5, STATE_PICTURE_2ND):
 324                 mpeg2dec->chunk_ptr = mpeg2dec->chunk_start;
 325                 continue;
 326             default:
 327                 mpeg2dec->action = mpeg2_seek_header;
 328                 return STATE_INVALID;
 329         }
 330         mpeg2dec->chunk_start = mpeg2dec->chunk_ptr = mpeg2dec->chunk_buffer;
 331         mpeg2dec->user_data_len = 0;
 332         return mpeg2dec->state;
 333     }
 334 }
 335
 336 int mpeg2_convert( mpeg2dec_t * mpeg2dec, mpeg2_convert_t convert, void * arg )
 337 {
 338     mpeg2_convert_init_t convert_init;
 339     int error;
 340
 341     error = convert( MPEG2_CONVERT_SET, NULL, &(mpeg2dec->sequence), 0,
 342                 mpeg2_accels, arg, &convert_init );
 343     if (!error)
 344     {
 345         mpeg2dec->convert = convert;
 346         mpeg2dec->convert_arg = arg;
 347         mpeg2dec->convert_id_size = convert_init.id_size;
 348         mpeg2dec->convert_stride = 0;
 349     }
 350     return error;
 351 }
 352
 353 int mpeg2_stride( mpeg2dec_t * mpeg2dec, int stride )
 354 {
 355     if (!mpeg2dec->convert)
 356     {
 357         if (stride < (int) mpeg2dec->sequence.width)
 358             stride = mpeg2dec->sequence.width;
 359         mpeg2dec->decoder.stride_frame = stride;
 360     }
 361     else
 362     {
 363         mpeg2_convert_init_t convert_init;
 364
 365         stride = mpeg2dec->convert( MPEG2_CONVERT_STRIDE, NULL,
 366                                     &(mpeg2dec->sequence), stride,
 367                                     mpeg2_accels, mpeg2dec->convert_arg,
 368                                     &convert_init );
 369         mpeg2dec->convert_id_size = convert_init.id_size;
 370         mpeg2dec->convert_stride = stride;
 371     }
 372     return stride;
 373 }
 374
 375 void mpeg2_set_buf( mpeg2dec_t * mpeg2dec, uint8_t * buf[3], void * id )
 376 {
 377     mpeg2_fbuf_t * fbuf;
 378
 379     if (mpeg2dec->custom_fbuf)
 380     {
 381         if (mpeg2dec->state == STATE_SEQUENCE)
 382         {
 383             mpeg2dec->fbuf[2] = mpeg2dec->fbuf[1];
 384             mpeg2dec->fbuf[1] = mpeg2dec->fbuf[0];
 385         }
 386         mpeg2_set_fbuf( mpeg2dec,
 387                 (mpeg2dec->decoder.coding_type == PIC_FLAG_CODING_TYPE_B) );
 388         fbuf = mpeg2dec->fbuf[0];
 389     }
 390     else
 391     {
 392         fbuf = &(mpeg2dec->fbuf_alloc[mpeg2dec->alloc_index].fbuf);
 393         mpeg2dec->alloc_index_user = ++mpeg2dec->alloc_index;
 394     }
 395     fbuf->buf[0] = buf[0];
 396     fbuf->buf[1] = buf[1];
 397     fbuf->buf[2] = buf[2];
 398     fbuf->id = id;
 399 }
 400
 401 void mpeg2_custom_fbuf( mpeg2dec_t * mpeg2dec, int custom_fbuf )
 402 {
 403     mpeg2dec->custom_fbuf = custom_fbuf;
 404 }
 405
 406 void mpeg2_skip( mpeg2dec_t * mpeg2dec, int skip )
 407 {
 408     mpeg2dec->first_decode_slice = 1;
 409     mpeg2dec->nb_decode_slices = skip ? 0 : (0xb0 - 1);
 410 }
 411
 412 void mpeg2_slice_region( mpeg2dec_t * mpeg2dec, int start, int end )
 413 {
 414     start = (start < 1) ? 1 : (start > 0xb0) ? 0xb0 : start;
 415     end = (end < start) ? start : (end > 0xb0) ? 0xb0 : end;
 416     mpeg2dec->first_decode_slice = start;
 417     mpeg2dec->nb_decode_slices = end - start;
 418 }
 419
 420 void mpeg2_tag_picture( mpeg2dec_t * mpeg2dec, uint32_t tag, uint32_t tag2 )
 421 {
 422     mpeg2dec->tag_previous = mpeg2dec->tag_current;
 423     mpeg2dec->tag2_previous = mpeg2dec->tag2_current;
 424     mpeg2dec->tag_current = tag;
 425     mpeg2dec->tag2_current = tag2;
 426     mpeg2dec->num_tags++;
 427     mpeg2dec->bytes_since_tag = 0;
 428 }
 429
 430 uint32_t mpeg2_accel( uint32_t accel )
 431 {
 432     if( !mpeg2_accels )
 433     {
 434         if( accel & MPEG2_ACCEL_DETECT )
 435             accel |= mpeg2_detect_accel ();
 436         mpeg2_accels = accel |= MPEG2_ACCEL_DETECT;
 437         mpeg2_cpu_state_init (accel);
 438         /* mpeg2_idct_init (accel); */
 439         mpeg2_mc_init (accel);
 440     }
 441     return mpeg2_accels & ~MPEG2_ACCEL_DETECT;
 442 }
 443
 444 void mpeg2_reset( mpeg2dec_t * mpeg2dec, int full_reset )
 445 {
 446     mpeg2dec->buf_start = mpeg2dec->buf_end = NULL;
 447     mpeg2dec->num_tags = 0;
 448     mpeg2dec->shift = 0xffffff00;
 449     mpeg2dec->code = 0xb4;
 450     mpeg2dec->action = mpeg2_seek_header;
 451     mpeg2dec->state = STATE_INVALID;
 452     mpeg2dec->first = 1;
 453     mpeg2dec->ptr_forward_ref_picture = NULL;
 454     mpeg2dec->ptr_backward_ref_picture = NULL;
 455
 456     mpeg2_reset_info(&(mpeg2dec->info));
 457     mpeg2dec->info.gop = NULL;
 458     mpeg2dec->info.user_data = NULL;
 459     mpeg2dec->info.user_data_len = 0;
 460     if( full_reset )
 461     {
 462         mpeg2dec->info.sequence = NULL;
 463         mpeg2_header_state_init (mpeg2dec);
 464     }
 465 }
 466
 467 mpeg2dec_t *mpeg2_init( void )
 468 {
 469     mpeg2dec_t *mpeg2dec = NULL;
 470
 471     mpeg2_accel( MPEG2_ACCEL_DETECT );
 472     mpeg2dec = (mpeg2dec_t *) mpeg2_malloc( sizeof (mpeg2dec_t),
 473                                             MPEG2_ALLOC_MPEG2DEC );
 474     if( mpeg2dec == NULL )
 475         return NULL;
 476
 477     memset( mpeg2dec->decoder.DCTblock, 0, 64 * sizeof (int16_t) );
 478     memset( mpeg2dec->quantizer_matrix, 0, 4 * 64 * sizeof (uint8_t) );
 479
 480     mpeg2dec->chunk_buffer = (uint8_t *) mpeg2_malloc( BUFFER_SIZE + 4,
 481                                                        MPEG2_ALLOC_CHUNK );
 482     mpeg2dec->sequence.width = (unsigned int)-1;
 483     mpeg2_reset (mpeg2dec, 1);
 484     return mpeg2dec;
 485 }
 486
 487 void mpeg2_close( mpeg2dec_t * mpeg2dec )
 488 {
 489     mpeg2_header_state_init( mpeg2dec );
 490     mpeg2_free( mpeg2dec->chunk_buffer );
 491     mpeg2_free( mpeg2dec );
 492 }