git.sesse.net Git - vlc/blob - modules/packetizer/h264.c

   1 /*****************************************************************************
   2  * h264.c: h264/avc video packetizer
   3  *****************************************************************************
   4  * Copyright (C) 2001, 2002, 2006 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Eric Petit <titer@videolan.org>
   9  *          Gildas Bazin <gbazin@videolan.org>
  10  *          Derk-Jan Hartman <hartman at videolan dot org>
  11  *
  12  * This program is free software; you can redistribute it and/or modify
  13  * it under the terms of the GNU General Public License as published by
  14  * the Free Software Foundation; either version 2 of the License, or
  15  * (at your option) any later version.
  16  *
  17  * This program is distributed in the hope that it will be useful,
  18  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  19  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  20  * GNU General Public License for more details.
  21  *
  22  * You should have received a copy of the GNU General Public License
  23  * along with this program; if not, write to the Free Software
  24  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  25  *****************************************************************************/
  26
  27 /*****************************************************************************
  28  * Preamble
  29  *****************************************************************************/
  30
  31 #ifdef HAVE_CONFIG_H
  32 # include "config.h"
  33 #endif
  34
  35 #include <vlc_common.h>
  36 #include <vlc_plugin.h>
  37 #include <vlc_sout.h>
  38 #include <vlc_codec.h>
  39 #include <vlc_block.h>
  40
  41 #include "vlc_block_helper.h"
  42 #include "vlc_bits.h"
  43
  44 /*****************************************************************************
  45  * Module descriptor
  46  *****************************************************************************/
  47 static int  Open ( vlc_object_t * );
  48 static void Close( vlc_object_t * );
  49
  50 vlc_module_begin();
  51     set_category( CAT_SOUT );
  52     set_subcategory( SUBCAT_SOUT_PACKETIZER );
  53     set_description( N_("H.264 video packetizer") );
  54     set_capability( "packetizer", 50 );
  55     set_callbacks( Open, Close );
  56 vlc_module_end();
  57
  58
  59 /****************************************************************************
  60  * Local prototypes
  61  ****************************************************************************/
  62 static block_t *Packetize( decoder_t *, block_t ** );
  63 static block_t *PacketizeAVC1( decoder_t *, block_t ** );
  64
  65 typedef struct
  66 {
  67     int i_nal_type;
  68     int i_nal_ref_idc;
  69
  70     int i_frame_type;
  71     int i_pic_parameter_set_id;
  72     int i_frame_num;
  73
  74     int i_field_pic_flag;
  75     int i_bottom_field_flag;
  76
  77     int i_idr_pic_id;
  78
  79     int i_pic_order_cnt_lsb;
  80     int i_delta_pic_order_cnt_bottom;
  81
  82     int i_delta_pic_order_cnt0;
  83     int i_delta_pic_order_cnt1;
  84 } slice_t;
  85
  86 struct decoder_sys_t
  87 {
  88     block_bytestream_t bytestream;
  89
  90     int     i_state;
  91     size_t  i_offset;
  92     uint8_t startcode[4];
  93
  94     bool b_slice;
  95     block_t    *p_frame;
  96
  97     bool   b_sps;
  98     bool   b_pps;
  99     bool   b_header;
 100
 101     /* avcC data */
 102     int i_avcC_length_size;
 103     block_t *p_sps;
 104     block_t *p_pps;
 105
 106     /* Useful values of the Sequence Parameter Set */
 107     int i_log2_max_frame_num;
 108     int b_frame_mbs_only;
 109     int i_pic_order_cnt_type;
 110     int i_delta_pic_order_always_zero_flag;
 111     int i_log2_max_pic_order_cnt_lsb;
 112
 113     /* Value from Picture Parameter Set */
 114     int i_pic_order_present_flag;
 115
 116     /* Useful values of the Slice Header */
 117     slice_t slice;
 118 };
 119
 120 enum
 121 {
 122     STATE_NOSYNC,
 123     STATE_NEXT_SYNC,
 124 };
 125
 126 enum nal_unit_type_e
 127 {
 128     NAL_UNKNOWN = 0,
 129     NAL_SLICE   = 1,
 130     NAL_SLICE_DPA   = 2,
 131     NAL_SLICE_DPB   = 3,
 132     NAL_SLICE_DPC   = 4,
 133     NAL_SLICE_IDR   = 5,    /* ref_idc != 0 */
 134     NAL_SEI         = 6,    /* ref_idc == 0 */
 135     NAL_SPS         = 7,
 136     NAL_PPS         = 8,
 137     NAL_AU_DELIMITER= 9
 138     /* ref_idc == 0 for 6,9,10,11,12 */
 139 };
 140
 141 enum nal_priority_e
 142 {
 143     NAL_PRIORITY_DISPOSABLE = 0,
 144     NAL_PRIORITY_LOW        = 1,
 145     NAL_PRIORITY_HIGH       = 2,
 146     NAL_PRIORITY_HIGHEST    = 3,
 147 };
 148
 149 static block_t *ParseNALBlock( decoder_t *, block_t * );
 150
 151 static block_t *CreateAnnexbNAL( decoder_t *, uint8_t *p, int );
 152
 153 static block_t *OutputPicture( decoder_t *p_dec );
 154 static void PutSPS( decoder_t *p_dec, block_t *p_frag );
 155 static void PutPPS( decoder_t *p_dec, block_t *p_frag );
 156 static void ParseSlice( decoder_t *p_dec, bool *pb_new_picture, slice_t *p_slice,
 157                         int i_nal_ref_idc, int i_nal_type, const block_t *p_frag );
 158
 159
 160 /*****************************************************************************
 161  * Open: probe the packetizer and return score
 162  * When opening after demux, the packetizer is only loaded AFTER the decoder
 163  * That means that what you set in fmt_out is ignored by the decoder in this special case
 164  *****************************************************************************/
 165 static int Open( vlc_object_t *p_this )
 166 {
 167     decoder_t     *p_dec = (decoder_t*)p_this;
 168     decoder_sys_t *p_sys;
 169
 170     if( p_dec->fmt_in.i_codec != VLC_FOURCC( 'h', '2', '6', '4') &&
 171         p_dec->fmt_in.i_codec != VLC_FOURCC( 'H', '2', '6', '4') &&
 172         p_dec->fmt_in.i_codec != VLC_FOURCC( 'V', 'S', 'S', 'H') &&
 173         p_dec->fmt_in.i_codec != VLC_FOURCC( 'v', 's', 's', 'h') &&
 174         p_dec->fmt_in.i_codec != VLC_FOURCC( 'D', 'A', 'V', 'C') &&
 175         ( p_dec->fmt_in.i_codec != VLC_FOURCC( 'a', 'v', 'c', '1') ||
 176           p_dec->fmt_in.i_extra < 7 ) )
 177     {
 178         return VLC_EGENERIC;
 179     }
 180
 181     /* Allocate the memory needed to store the decoder's structure */
 182     if( ( p_dec->p_sys = p_sys = malloc( sizeof(decoder_sys_t) ) ) == NULL )
 183     {
 184         return VLC_ENOMEM;
 185     }
 186     p_sys->i_state = STATE_NOSYNC;
 187     p_sys->i_offset = 0;
 188     p_sys->startcode[0] = 0;
 189     p_sys->startcode[1] = 0;
 190     p_sys->startcode[2] = 0;
 191     p_sys->startcode[3] = 1;
 192     p_sys->bytestream = block_BytestreamInit();
 193     p_sys->b_slice = false;
 194     p_sys->p_frame = NULL;
 195     p_sys->b_sps   = false;
 196     p_sys->b_pps   = false;
 197     p_sys->p_sps   = 0;
 198     p_sys->p_pps   = 0;
 199     p_sys->b_header= false;
 200
 201     p_sys->slice.i_nal_type = -1;
 202     p_sys->slice.i_nal_ref_idc = -1;
 203     p_sys->slice.i_idr_pic_id = -1;
 204     p_sys->slice.i_frame_num = -1;
 205     p_sys->slice.i_frame_type = 0;
 206     p_sys->slice.i_pic_parameter_set_id = -1;
 207     p_sys->slice.i_field_pic_flag = 0;
 208     p_sys->slice.i_bottom_field_flag = -1;
 209     p_sys->slice.i_pic_order_cnt_lsb = -1;
 210     p_sys->slice.i_delta_pic_order_cnt_bottom = -1;
 211
 212     /* Setup properties */
 213     es_format_Copy( &p_dec->fmt_out, &p_dec->fmt_in );
 214     p_dec->fmt_out.i_codec = VLC_FOURCC( 'h', '2', '6', '4' );
 215
 216     if( p_dec->fmt_in.i_codec == VLC_FOURCC( 'a', 'v', 'c', '1' ) )
 217     {
 218         /* This type of stream is produced by mp4 and matroska
 219          * when we want to store it in another streamformat, you need to convert
 220          * The fmt_in.p_extra should ALWAYS contain the avcC
 221          * The fmt_out.p_extra should contain all the SPS and PPS with 4 byte startcodes */
 222         uint8_t *p = &((uint8_t*)p_dec->fmt_in.p_extra)[4];
 223         int i_sps, i_pps;
 224         int i;
 225
 226         /* Parse avcC */
 227         p_sys->i_avcC_length_size = 1 + ((*p++)&0x03);
 228
 229         /* Read SPS */
 230         i_sps = (*p++)&0x1f;
 231         for( i = 0; i < i_sps; i++ )
 232         {
 233             uint16_t i_length = GetWBE( p ); p += 2;
 234             if( i_length >
 235                 (uint8_t*)p_dec->fmt_in.p_extra + p_dec->fmt_in.i_extra - p )
 236             {
 237                 return VLC_EGENERIC;
 238             }
 239             block_t *p_sps = CreateAnnexbNAL( p_dec, p, i_length );
 240             if( !p_sps )
 241                 return VLC_EGENERIC;
 242             ParseNALBlock( p_dec, p_sps );
 243             p += i_length;
 244         }
 245         /* Read PPS */
 246         i_pps = *p++;
 247         for( i = 0; i < i_pps; i++ )
 248         {
 249             uint16_t i_length = GetWBE( p ); p += 2;
 250             if( i_length >
 251                 (uint8_t*)p_dec->fmt_in.p_extra + p_dec->fmt_in.i_extra - p )
 252             {
 253                 return VLC_EGENERIC;
 254             }
 255             block_t *p_pps = CreateAnnexbNAL( p_dec, p, i_length );
 256             if( !p_pps )
 257                 return VLC_EGENERIC;
 258             ParseNALBlock( p_dec, p_pps );
 259             p += i_length;
 260         }
 261         msg_Dbg( p_dec, "avcC length size=%d, sps=%d, pps=%d",
 262                  p_sys->i_avcC_length_size, i_sps, i_pps );
 263
 264         if( !p_sys->p_sps || p_sys->p_pps )
 265             return VLC_EGENERIC;
 266
 267         /* FIXME: FFMPEG isn't happy at all if you leave this */
 268         if( p_dec->fmt_out.i_extra > 0 ) free( p_dec->fmt_out.p_extra );
 269         p_dec->fmt_out.i_extra = 0;
 270         p_dec->fmt_out.p_extra = NULL;
 271
 272         /* Set the new extradata */
 273         p_dec->fmt_out.i_extra = p_sys->p_pps->i_buffer + p_sys->p_sps->i_buffer;
 274         p_dec->fmt_out.p_extra = malloc( p_dec->fmt_out.i_extra );
 275         if( p_dec->fmt_out.p_extra )
 276         {
 277             memcpy( (uint8_t*)p_dec->fmt_out.p_extra,
 278                     p_sys->p_sps->p_buffer, p_sys->p_sps->i_buffer);
 279             memcpy( (uint8_t*)p_dec->fmt_out.p_extra+p_sys->p_sps->i_buffer,
 280                     p_sys->p_pps->p_buffer, p_sys->p_pps->i_buffer);
 281             p_sys->b_header = true;
 282         }
 283         else p_dec->fmt_out.i_extra = 0;
 284
 285         /* Set callback */
 286         p_dec->pf_packetize = PacketizeAVC1;
 287     }
 288     else
 289     {
 290         /* This type of stream contains data with 3 of 4 byte startcodes
 291          * The fmt_in.p_extra MAY contain SPS/PPS with 4 byte startcodes
 292          * The fmt_out.p_extra should be the same */
 293
 294         /* Set callback */
 295         p_dec->pf_packetize = Packetize;
 296
 297         /* */
 298         if( p_dec->fmt_in.i_extra > 0 )
 299         {
 300             block_t *p_init = block_New( p_dec, p_dec->fmt_in.i_extra );
 301             block_t *p_pic;
 302
 303             memcpy( p_init->p_buffer, p_dec->fmt_in.p_extra,
 304                     p_dec->fmt_in.i_extra );
 305
 306             while( ( p_pic = Packetize( p_dec, &p_init ) ) )
 307             {
 308                 /* Should not occur because we should only receive SPS/PPS */
 309                 block_Release( p_pic );
 310             }
 311         }
 312     }
 313
 314     return VLC_SUCCESS;
 315 }
 316
 317 /*****************************************************************************
 318  * Close: clean up the packetizer
 319  *****************************************************************************/
 320 static void Close( vlc_object_t *p_this )
 321 {
 322     decoder_t *p_dec = (decoder_t*)p_this;
 323     decoder_sys_t *p_sys = p_dec->p_sys;
 324
 325     if( p_sys->p_frame ) block_ChainRelease( p_sys->p_frame );
 326     if( p_sys->p_sps ) block_Release( p_sys->p_sps );
 327     if( p_sys->p_pps ) block_Release( p_sys->p_pps );
 328     block_BytestreamRelease( &p_sys->bytestream );
 329     free( p_sys );
 330 }
 331
 332 /****************************************************************************
 333  * Packetize: the whole thing
 334  * Search for the startcodes 3 or more bytes
 335  * Feed ParseNALBlock ALWAYS with 4 byte startcode prepended NALs
 336  ****************************************************************************/
 337 static block_t *Packetize( decoder_t *p_dec, block_t **pp_block )
 338 {
 339     decoder_sys_t *p_sys = p_dec->p_sys;
 340     block_t       *p_pic;
 341
 342     if( !pp_block || !*pp_block )
 343         return NULL;
 344
 345     if( (*pp_block)->i_flags&(BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
 346     {
 347         if( (*pp_block)->i_flags&BLOCK_FLAG_CORRUPTED )
 348         {
 349             p_sys->i_state = STATE_NOSYNC;
 350             block_BytestreamFlush( &p_sys->bytestream );
 351
 352             if( p_sys->p_frame )
 353                 block_ChainRelease( p_sys->p_frame );
 354             p_sys->p_frame = NULL;
 355             p_sys->slice.i_frame_type = 0;
 356             p_sys->b_slice = false;
 357         }
 358         block_Release( *pp_block );
 359         return NULL;
 360     }
 361
 362     block_BytestreamPush( &p_sys->bytestream, *pp_block );
 363
 364     for( ;; )
 365     {
 366         switch( p_sys->i_state )
 367         {
 368             case STATE_NOSYNC:
 369                 /* Skip until 3 byte startcode 0 0 1 */
 370                 if( block_FindStartcodeFromOffset( &p_sys->bytestream,
 371                       &p_sys->i_offset, p_sys->startcode+1, 3 ) == VLC_SUCCESS)
 372                 {
 373                     p_sys->i_state = STATE_NEXT_SYNC;
 374                 }
 375
 376                 if( p_sys->i_offset )
 377                 {
 378                     /* skip the data */
 379                     block_SkipBytes( &p_sys->bytestream, p_sys->i_offset );
 380                     p_sys->i_offset = 0;
 381                     block_BytestreamFlush( &p_sys->bytestream );
 382                 }
 383
 384                 if( p_sys->i_state != STATE_NEXT_SYNC )
 385                 {
 386                     /* Need more data */
 387                     return NULL;
 388                 }
 389
 390                 p_sys->i_offset = 1; /* To find next startcode */
 391
 392             case STATE_NEXT_SYNC:
 393                 /* Find the next 3 byte startcode 0 0 1*/
 394                 if( block_FindStartcodeFromOffset( &p_sys->bytestream,
 395                       &p_sys->i_offset, p_sys->startcode+1, 3 ) != VLC_SUCCESS)
 396                 {
 397                     /* Need more data */
 398                     return NULL;
 399                 }
 400
 401                 /* Get the new fragment and set the pts/dts */
 402                 p_pic = block_New( p_dec, p_sys->i_offset +1 );
 403                 p_pic->i_pts = p_sys->bytestream.p_block->i_pts;
 404                 p_pic->i_dts = p_sys->bytestream.p_block->i_dts;
 405                 /* Force 4 byte startcode 0 0 0 1 */
 406                 p_pic->p_buffer[0] = 0;
 407
 408                 block_GetBytes( &p_sys->bytestream, &p_pic->p_buffer[1],
 409                                 p_pic->i_buffer-1 );
 410
 411                 /* Remove trailing 0 bytes */
 412                 while( p_pic->i_buffer && (!p_pic->p_buffer[p_pic->i_buffer-1] ) )
 413                     p_pic->i_buffer--;
 414                 p_sys->i_offset = 0;
 415
 416                 /* Parse the NAL */
 417                 if( !( p_pic = ParseNALBlock( p_dec, p_pic ) ) )
 418                 {
 419                     p_sys->i_state = STATE_NOSYNC;
 420                     break;
 421                 }
 422 #if 0
 423                 msg_Dbg( p_dec, "pts=%"PRId64" dts=%"PRId64,
 424                          p_pic->i_pts, p_pic->i_dts );
 425 #endif
 426
 427                 /* So p_block doesn't get re-added several times */
 428                 *pp_block = block_BytestreamPop( &p_sys->bytestream );
 429
 430                 p_sys->i_state = STATE_NOSYNC;
 431
 432                 return p_pic;
 433         }
 434     }
 435 }
 436
 437 /****************************************************************************
 438  * PacketizeAVC1: Takes VCL blocks of data and creates annexe B type NAL stream
 439  * Will always use 4 byte 0 0 0 1 startcodes
 440  * Will prepend a SPS and PPS before each keyframe
 441  ****************************************************************************/
 442 static block_t *PacketizeAVC1( decoder_t *p_dec, block_t **pp_block )
 443 {
 444     decoder_sys_t *p_sys = p_dec->p_sys;
 445     block_t       *p_block;
 446     block_t       *p_ret = NULL;
 447     uint8_t       *p;
 448
 449     if( !pp_block || !*pp_block )
 450         return NULL;
 451     if( (*pp_block)->i_flags&(BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
 452     {
 453         block_Release( *pp_block );
 454         return NULL;
 455     }
 456
 457     p_block = *pp_block;
 458     *pp_block = NULL;
 459
 460     for( p = p_block->p_buffer; p < &p_block->p_buffer[p_block->i_buffer]; )
 461     {
 462         block_t *p_pic;
 463         int i_size = 0;
 464         int i;
 465
 466         for( i = 0; i < p_sys->i_avcC_length_size; i++ )
 467         {
 468             i_size = (i_size << 8) | (*p++);
 469         }
 470
 471         if( i_size <= 0 ||
 472             i_size > ( p_block->p_buffer + p_block->i_buffer - p ) )
 473         {
 474             msg_Err( p_dec, "Broken frame : size %d is too big", i_size );
 475             break;
 476         }
 477
 478         block_t *p_part = CreateAnnexbNAL( p_dec, p, i_size );
 479         if( !p_part )
 480             break;
 481         p_part->i_dts = p_block->i_dts;
 482         p_part->i_pts = p_block->i_pts;
 483
 484         /* Parse the NAL */
 485         if( ( p_pic = ParseNALBlock( p_dec, p_part ) ) )
 486         {
 487             block_ChainAppend( &p_ret, p_pic );
 488         }
 489         p += i_size;
 490     }
 491     block_Release( p_block );
 492
 493     return p_ret;
 494 }
 495
 496 /****************************************************************************
 497  * Helpers
 498  ****************************************************************************/
 499 static block_t *CreateAnnexbNAL( decoder_t *p_dec, uint8_t *p, int i_size )
 500 {
 501     block_t *p_nal;
 502
 503     p_nal = block_New( p_dec, 4 + i_size );
 504     if( !p_nal ) return NULL;
 505
 506     /* Add start code */
 507     p_nal->p_buffer[0] = 0x00;
 508     p_nal->p_buffer[1] = 0x00;
 509     p_nal->p_buffer[2] = 0x00;
 510     p_nal->p_buffer[3] = 0x01;
 511
 512     /* Copy nalu */
 513     memcpy( &p_nal->p_buffer[4], p, i_size );
 514
 515     VLC_UNUSED(p_dec);
 516     return p_nal;
 517 }
 518
 519 static void CreateDecodedNAL( uint8_t **pp_ret, int *pi_ret,
 520                              uint8_t *src, int i_src )
 521 {
 522     uint8_t *end = &src[i_src];
 523     uint8_t *dst = malloc( i_src );
 524
 525     *pp_ret = dst;
 526
 527     if( dst )
 528     {
 529         while( src < end )
 530         {
 531             if( src < end - 3 && src[0] == 0x00 && src[1] == 0x00 &&
 532                 src[2] == 0x03 )
 533             {
 534                 *dst++ = 0x00;
 535                 *dst++ = 0x00;
 536
 537                 src += 3;
 538                 continue;
 539             }
 540             *dst++ = *src++;
 541         }
 542     }
 543     *pi_ret = dst - *pp_ret;
 544 }
 545
 546 static inline int bs_read_ue( bs_t *s )
 547 {
 548     int i = 0;
 549
 550     while( bs_read1( s ) == 0 && s->p < s->p_end && i < 32 )
 551     {
 552         i++;
 553     }
 554     return( ( 1 << i) - 1 + bs_read( s, i ) );
 555 }
 556
 557 static inline int bs_read_se( bs_t *s )
 558 {
 559     int val = bs_read_ue( s );
 560
 561     return val&0x01 ? (val+1)/2 : -(val/2);
 562 }
 563
 564 /*****************************************************************************
 565  * ParseNALBlock: parses annexB type NALs
 566  * All p_frag blocks are required to start with 0 0 0 1 4-byte startcode
 567  *****************************************************************************/
 568 static block_t *ParseNALBlock( decoder_t *p_dec, block_t *p_frag )
 569 {
 570     decoder_sys_t *p_sys = p_dec->p_sys;
 571     block_t *p_pic = NULL;
 572
 573     const int i_nal_ref_idc = (p_frag->p_buffer[4] >> 5)&0x03;
 574     const int i_nal_type = p_frag->p_buffer[4]&0x1f;
 575
 576     if( p_sys->b_slice && ( !p_sys->b_sps || !p_sys->b_pps ) )
 577     {
 578         block_ChainRelease( p_sys->p_frame );
 579         msg_Warn( p_dec, "waiting for SPS/PPS" );
 580
 581         /* Reset context */
 582         p_sys->slice.i_frame_type = 0;
 583         p_sys->p_frame = NULL;
 584         p_sys->b_slice = false;
 585     }
 586
 587     if( ( !p_sys->b_sps || !p_sys->b_pps ) &&
 588         i_nal_type >= NAL_SLICE && i_nal_type <= NAL_SLICE_IDR )
 589     {
 590         p_sys->b_slice = true;
 591         /* Fragment will be discarded later on */
 592     }
 593     else if( i_nal_type >= NAL_SLICE && i_nal_type <= NAL_SLICE_IDR )
 594     {
 595         slice_t slice;
 596         bool b_new_picture;
 597
 598         ParseSlice( p_dec, &b_new_picture, &slice, i_nal_ref_idc, i_nal_type, p_frag );
 599
 600         /* */
 601         if( b_new_picture && p_sys->b_slice )
 602             p_pic = OutputPicture( p_dec );
 603
 604         /* */
 605         p_sys->slice = slice;
 606         p_sys->b_slice = true;
 607     }
 608     else if( i_nal_type == NAL_SPS )
 609     {
 610         if( p_sys->b_slice )
 611             p_pic = OutputPicture( p_dec );
 612
 613         PutSPS( p_dec, p_frag );
 614
 615         /* Do not append the SPS because we will insert it on keyframes */
 616         return p_pic;
 617     }
 618     else if( i_nal_type == NAL_PPS )
 619     {
 620         if( p_sys->b_slice )
 621             p_pic = OutputPicture( p_dec );
 622
 623         PutPPS( p_dec, p_frag );
 624
 625         /* Do not append the PPS because we will insert it on keyframes */
 626         return p_pic;
 627     }
 628     else if( i_nal_type == NAL_AU_DELIMITER ||
 629              i_nal_type == NAL_SEI ||
 630              ( i_nal_type >= 13 && i_nal_type <= 18 ) )
 631     {
 632         if( p_sys->b_slice )
 633             p_pic = OutputPicture( p_dec );
 634     }
 635
 636     /* Append the block */
 637     block_ChainAppend( &p_sys->p_frame, p_frag );
 638
 639     return p_pic;
 640 }
 641
 642 static block_t *OutputPicture( decoder_t *p_dec )
 643 {
 644     decoder_sys_t *p_sys = p_dec->p_sys;
 645     block_t *p_pic;
 646
 647     if( !p_sys->b_header && p_sys->slice.i_frame_type != BLOCK_FLAG_TYPE_I)
 648         return NULL;
 649
 650     if( p_sys->slice.i_frame_type == BLOCK_FLAG_TYPE_I && p_sys->p_sps && p_sys->p_pps )
 651     {
 652         block_t *p_sps = block_Duplicate( p_sys->p_sps );
 653         block_t *p_pps = block_Duplicate( p_sys->p_pps );
 654         p_sps->i_dts = p_sys->p_frame->i_dts;
 655         p_sps->i_pts = p_sys->p_frame->i_pts;
 656         block_ChainAppend( &p_sps, p_pps );
 657         block_ChainAppend( &p_sps, p_sys->p_frame );
 658         p_sys->b_header = true;
 659         p_pic = block_ChainGather( p_sps );
 660     }
 661     else
 662     {
 663         p_pic = block_ChainGather( p_sys->p_frame );
 664     }
 665     p_pic->i_length = 0;    /* FIXME */
 666     p_pic->i_flags |= p_sys->slice.i_frame_type;
 667
 668     p_sys->slice.i_frame_type = 0;
 669     p_sys->p_frame = NULL;
 670     p_sys->b_slice = false;
 671
 672     return p_pic;
 673 }
 674
 675 static void PutSPS( decoder_t *p_dec, block_t *p_frag )
 676 {
 677     decoder_sys_t *p_sys = p_dec->p_sys;
 678
 679     uint8_t *dec = NULL;
 680     int     i_dec = 0;
 681     bs_t s;
 682     int i_tmp;
 683
 684     if( !p_sys->b_sps )
 685         msg_Dbg( p_dec, "found NAL_SPS" );
 686
 687     p_sys->b_sps = true;
 688
 689     CreateDecodedNAL( &dec, &i_dec, &p_frag->p_buffer[5],
 690                      p_frag->i_buffer - 5 );
 691
 692     bs_init( &s, dec, i_dec );
 693     /* Skip profile(8), constraint_set012, reserver(5), level(8) */
 694     bs_skip( &s, 8 + 1+1+1 + 5 + 8 );
 695     /* sps id */
 696     bs_read_ue( &s );
 697     /* Skip i_log2_max_frame_num */
 698     p_sys->i_log2_max_frame_num = bs_read_ue( &s );
 699     if( p_sys->i_log2_max_frame_num > 12)
 700         p_sys->i_log2_max_frame_num = 12;
 701     /* Read poc_type */
 702     p_sys->i_pic_order_cnt_type = bs_read_ue( &s );
 703     if( p_sys->i_pic_order_cnt_type == 0 )
 704     {
 705         /* skip i_log2_max_poc_lsb */
 706         p_sys->i_log2_max_pic_order_cnt_lsb = bs_read_ue( &s );
 707         if( p_sys->i_log2_max_pic_order_cnt_lsb > 12 )
 708             p_sys->i_log2_max_pic_order_cnt_lsb = 12;
 709     }
 710     else if( p_sys->i_pic_order_cnt_type == 1 )
 711     {
 712         int i_cycle;
 713         /* skip b_delta_pic_order_always_zero */
 714         p_sys->i_delta_pic_order_always_zero_flag = bs_read( &s, 1 );
 715         /* skip i_offset_for_non_ref_pic */
 716         bs_read_se( &s );
 717         /* skip i_offset_for_top_to_bottom_field */
 718         bs_read_se( &s );
 719         /* read i_num_ref_frames_in_poc_cycle */
 720         i_cycle = bs_read_ue( &s );
 721         if( i_cycle > 256 ) i_cycle = 256;
 722         while( i_cycle > 0 )
 723         {
 724             /* skip i_offset_for_ref_frame */
 725             bs_read_se(&s );
 726         }
 727     }
 728     /* i_num_ref_frames */
 729     bs_read_ue( &s );
 730     /* b_gaps_in_frame_num_value_allowed */
 731     bs_skip( &s, 1 );
 732
 733     /* Read size */
 734     p_dec->fmt_out.video.i_width  = 16 * ( bs_read_ue( &s ) + 1 );
 735     p_dec->fmt_out.video.i_height = 16 * ( bs_read_ue( &s ) + 1 );
 736
 737     /* b_frame_mbs_only */
 738     p_sys->b_frame_mbs_only = bs_read( &s, 1 );
 739     if( p_sys->b_frame_mbs_only == 0 )
 740     {
 741         bs_skip( &s, 1 );
 742     }
 743     /* b_direct8x8_inference */
 744     bs_skip( &s, 1 );
 745
 746     /* crop */
 747     i_tmp = bs_read( &s, 1 );
 748     if( i_tmp )
 749     {
 750         /* left */
 751         bs_read_ue( &s );
 752         /* right */
 753         bs_read_ue( &s );
 754         /* top */
 755         bs_read_ue( &s );
 756         /* bottom */
 757         bs_read_ue( &s );
 758     }
 759
 760     /* vui */
 761     i_tmp = bs_read( &s, 1 );
 762     if( i_tmp )
 763     {
 764         /* read the aspect ratio part if any FIXME check it */
 765         i_tmp = bs_read( &s, 1 );
 766         if( i_tmp )
 767         {
 768             static const struct { int w, h; } sar[17] =
 769             {
 770                 { 0,   0 }, { 1,   1 }, { 12, 11 }, { 10, 11 },
 771                 { 16, 11 }, { 40, 33 }, { 24, 11 }, { 20, 11 },
 772                 { 32, 11 }, { 80, 33 }, { 18, 11 }, { 15, 11 },
 773                 { 64, 33 }, { 160,99 }, {  4,  3 }, {  3,  2 },
 774                 {  2,  1 },
 775             };
 776             int i_sar = bs_read( &s, 8 );
 777             int w, h;
 778
 779             if( i_sar < 17 )
 780             {
 781                 w = sar[i_sar].w;
 782                 h = sar[i_sar].h;
 783             }
 784             else if( i_sar == 255 )
 785             {
 786                 w = bs_read( &s, 16 );
 787                 h = bs_read( &s, 16 );
 788             }
 789             else
 790             {
 791                 w = 0;
 792                 h = 0;
 793             }
 794             if( h != 0 )
 795                 p_dec->fmt_out.video.i_aspect = VOUT_ASPECT_FACTOR * w /
 796                     h * p_dec->fmt_out.video.i_width /
 797                     p_dec->fmt_out.video.i_height;
 798             else
 799                 p_dec->fmt_out.video.i_aspect = VOUT_ASPECT_FACTOR;
 800         }
 801     }
 802
 803     free( dec );
 804
 805     /* We have a new SPS */
 806     if( p_sys->p_sps )
 807         block_Release( p_sys->p_sps );
 808     p_sys->p_sps = p_frag;
 809 }
 810
 811 static void PutPPS( decoder_t *p_dec, block_t *p_frag )
 812 {
 813     decoder_sys_t *p_sys = p_dec->p_sys;
 814     bs_t s;
 815
 816     bs_init( &s, &p_frag->p_buffer[5], p_frag->i_buffer - 5 );
 817     bs_read_ue( &s ); // pps id
 818     bs_read_ue( &s ); // sps id
 819     bs_skip( &s, 1 ); // entropy coding mode flag
 820     p_sys->i_pic_order_present_flag = bs_read( &s, 1 );
 821
 822     if( !p_sys->b_pps )
 823         msg_Dbg( p_dec, "found NAL_PPS" );
 824     p_sys->b_pps = true;
 825
 826     /* TODO */
 827
 828     /* We have a new PPS */
 829     if( p_sys->p_pps )
 830         block_Release( p_sys->p_pps );
 831     p_sys->p_pps = p_frag;
 832 }
 833
 834 static void ParseSlice( decoder_t *p_dec, bool *pb_new_picture, slice_t *p_slice,
 835                         int i_nal_ref_idc, int i_nal_type, const block_t *p_frag )
 836 {
 837     decoder_sys_t *p_sys = p_dec->p_sys;
 838     uint8_t *pb_dec;
 839     int i_dec;
 840     int i_first_mb, i_slice_type;
 841     slice_t slice;
 842     bs_t s;
 843
 844     /* do not convert the whole frame */
 845     CreateDecodedNAL( &pb_dec, &i_dec, &p_frag->p_buffer[5],
 846                      __MIN( p_frag->i_buffer - 5, 60 ) );
 847     bs_init( &s, pb_dec, i_dec );
 848
 849     /* first_mb_in_slice */
 850     i_first_mb = bs_read_ue( &s );
 851
 852     /* slice_type */
 853     switch( (i_slice_type = bs_read_ue( &s )) )
 854     {
 855     case 0: case 5:
 856         slice.i_frame_type = BLOCK_FLAG_TYPE_P;
 857         break;
 858     case 1: case 6:
 859         slice.i_frame_type = BLOCK_FLAG_TYPE_B;
 860         break;
 861     case 2: case 7:
 862         slice.i_frame_type = BLOCK_FLAG_TYPE_I;
 863         break;
 864     case 3: case 8: /* SP */
 865         slice.i_frame_type = BLOCK_FLAG_TYPE_P;
 866         break;
 867     case 4: case 9:
 868         slice.i_frame_type = BLOCK_FLAG_TYPE_I;
 869         break;
 870     default:
 871         slice.i_frame_type = 0;
 872         break;
 873     }
 874
 875     /* */
 876     slice.i_nal_type = i_nal_type;
 877     slice.i_nal_ref_idc = i_nal_ref_idc;
 878
 879     slice.i_pic_parameter_set_id = bs_read_ue( &s );
 880     slice.i_frame_num = bs_read( &s, p_sys->i_log2_max_frame_num + 4 );
 881
 882     slice.i_field_pic_flag = 0;
 883     slice.i_bottom_field_flag = -1;
 884     if( !p_sys->b_frame_mbs_only )
 885     {
 886         /* field_pic_flag */
 887         slice.i_field_pic_flag = bs_read( &s, 1 );
 888         if( slice.i_field_pic_flag )
 889             slice.i_bottom_field_flag = bs_read( &s, 1 );
 890     }
 891
 892     slice.i_idr_pic_id = p_sys->slice.i_idr_pic_id;
 893     if( slice.i_nal_type == NAL_SLICE_IDR )
 894         slice.i_idr_pic_id = bs_read_ue( &s );
 895
 896     slice.i_pic_order_cnt_lsb = -1;
 897     slice.i_delta_pic_order_cnt_bottom = -1;
 898     slice.i_delta_pic_order_cnt0 = 0;
 899     slice.i_delta_pic_order_cnt1 = 0;
 900     if( p_sys->i_pic_order_cnt_type == 0 )
 901     {
 902         slice.i_pic_order_cnt_lsb = bs_read( &s, p_sys->i_log2_max_pic_order_cnt_lsb + 4 );
 903         if( p_sys->i_pic_order_present_flag && !slice.i_field_pic_flag )
 904             slice.i_delta_pic_order_cnt_bottom = bs_read_se( &s );
 905     }
 906     else if( (p_sys->i_pic_order_cnt_type == 1) &&
 907              (!p_sys->i_delta_pic_order_always_zero_flag) )
 908     {
 909         slice.i_delta_pic_order_cnt0 = bs_read_se( &s );
 910         if( p_sys->i_pic_order_present_flag && !slice.i_field_pic_flag )
 911             slice.i_delta_pic_order_cnt1 = bs_read_se( &s );
 912     }
 913     free( pb_dec );
 914
 915     /* Detection of the first VCL NAL unit of a primary coded picture
 916      * (cf. 7.4.1.2.4) */
 917     bool b_pic = false;
 918     if( slice.i_frame_num != p_sys->slice.i_frame_num ||
 919         slice.i_pic_parameter_set_id != p_sys->slice.i_pic_parameter_set_id ||
 920         slice.i_field_pic_flag != p_sys->slice.i_field_pic_flag ||
 921         slice.i_nal_ref_idc != p_sys->slice.i_nal_ref_idc )
 922         b_pic = true;
 923     if( (slice.i_bottom_field_flag != -1) &&
 924         (p_sys->slice.i_bottom_field_flag != -1) &&
 925         (slice.i_bottom_field_flag != p_sys->slice.i_bottom_field_flag) )
 926         b_pic = true;
 927     if( p_sys->i_pic_order_cnt_type == 0 &&
 928         ( slice.i_pic_order_cnt_lsb != p_sys->slice.i_pic_order_cnt_lsb ||
 929           slice.i_delta_pic_order_cnt_bottom != p_sys->slice.i_delta_pic_order_cnt_bottom ) )
 930         b_pic = true;
 931     else if( p_sys->i_pic_order_cnt_type == 1 &&
 932              ( slice.i_delta_pic_order_cnt0 != p_sys->slice.i_delta_pic_order_cnt0 ||
 933                slice.i_delta_pic_order_cnt1 != p_sys->slice.i_delta_pic_order_cnt1 ) )
 934         b_pic = true;
 935     if( ( slice.i_nal_type == NAL_SLICE_IDR || p_sys->slice.i_nal_type == NAL_SLICE_IDR ) &&
 936         ( slice.i_nal_type != p_sys->slice.i_nal_type || slice.i_idr_pic_id != p_sys->slice.i_idr_pic_id ) )
 937             b_pic = true;
 938
 939     /* */
 940     *pb_new_picture = b_pic;
 941     *p_slice = slice;
 942 }
 943
 944