git.sesse.net Git - x264/blob - encoder/set.c

   1 /*****************************************************************************
   2  * set: header writing
   3  *****************************************************************************
   4  * Copyright (C) 2003-2010 x264 project
   5  *
   6  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   7  *          Loren Merritt <lorenm@u.washington.edu>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
  22  *
  23  * This program is also available under a commercial proprietary license.
  24  * For more information, contact us at licensing@x264.com.
  25  *****************************************************************************/
  26
  27 #include <math.h>
  28
  29 #include "common/common.h"
  30 #include "set.h"
  31
  32 #define bs_write_ue bs_write_ue_big
  33
  34 // Indexed by pic_struct values
  35 static const uint8_t num_clock_ts[10] = { 0, 1, 1, 1, 2, 2, 3, 3, 2, 3 };
  36
  37 static void transpose( uint8_t *buf, int w )
  38 {
  39     for( int i = 0; i < w; i++ )
  40         for( int j = 0; j < i; j++ )
  41             XCHG( uint8_t, buf[w*i+j], buf[w*j+i] );
  42 }
  43
  44 static void scaling_list_write( bs_t *s, x264_pps_t *pps, int idx )
  45 {
  46     const int len = idx<4 ? 16 : 64;
  47     const uint8_t *zigzag = idx<4 ? x264_zigzag_scan4[0] : x264_zigzag_scan8[0];
  48     const uint8_t *list = pps->scaling_list[idx];
  49     const uint8_t *def_list = (idx==CQM_4IC) ? pps->scaling_list[CQM_4IY]
  50                             : (idx==CQM_4PC) ? pps->scaling_list[CQM_4PY]
  51                             : x264_cqm_jvt[idx];
  52     if( !memcmp( list, def_list, len ) )
  53         bs_write( s, 1, 0 ); // scaling_list_present_flag
  54     else if( !memcmp( list, x264_cqm_jvt[idx], len ) )
  55     {
  56         bs_write( s, 1, 1 ); // scaling_list_present_flag
  57         bs_write_se( s, -8 ); // use jvt list
  58     }
  59     else
  60     {
  61         int run;
  62         bs_write( s, 1, 1 ); // scaling_list_present_flag
  63
  64         // try run-length compression of trailing values
  65         for( run = len; run > 1; run-- )
  66             if( list[zigzag[run-1]] != list[zigzag[run-2]] )
  67                 break;
  68         if( run < len && len - run < bs_size_se( (int8_t)-list[zigzag[run]] ) )
  69             run = len;
  70
  71         for( int j = 0; j < run; j++ )
  72             bs_write_se( s, (int8_t)(list[zigzag[j]] - (j>0 ? list[zigzag[j-1]] : 8)) ); // delta
  73
  74         if( run < len )
  75             bs_write_se( s, (int8_t)-list[zigzag[run]] );
  76     }
  77 }
  78
  79 void x264_sei_write( bs_t *s, uint8_t *payload, int payload_size, int payload_type )
  80 {
  81     int i;
  82
  83     bs_realign( s );
  84
  85     for( i = 0; i <= payload_type-255; i += 255 )
  86         bs_write( s, 8, 255 );
  87     bs_write( s, 8, payload_type-i );
  88
  89     for( i = 0; i <= payload_size-255; i += 255 )
  90         bs_write( s, 8, 255 );
  91     bs_write( s, 8, payload_size-i );
  92
  93     for( i = 0; i < payload_size; i++ )
  94         bs_write(s, 8, payload[i] );
  95
  96     bs_rbsp_trailing( s );
  97     bs_flush( s );
  98 }
  99
 100 void x264_sps_init( x264_sps_t *sps, int i_id, x264_param_t *param )
 101 {
 102     sps->i_id = i_id;
 103     sps->i_mb_width = ( param->i_width + 15 ) / 16;
 104     sps->i_mb_height= ( param->i_height + 15 ) / 16;
 105
 106     sps->b_qpprime_y_zero_transform_bypass = param->rc.i_rc_method == X264_RC_CQP && param->rc.i_qp_constant == 0;
 107     if( sps->b_qpprime_y_zero_transform_bypass )
 108         sps->i_profile_idc  = PROFILE_HIGH444_PREDICTIVE;
 109     else if( BIT_DEPTH > 8 )
 110         sps->i_profile_idc  = PROFILE_HIGH10;
 111     else if( param->analyse.b_transform_8x8 || param->i_cqm_preset != X264_CQM_FLAT )
 112         sps->i_profile_idc  = PROFILE_HIGH;
 113     else if( param->b_cabac || param->i_bframe > 0 || param->b_interlaced || param->b_fake_interlaced || param->analyse.i_weighted_pred > 0 )
 114         sps->i_profile_idc  = PROFILE_MAIN;
 115     else
 116         sps->i_profile_idc  = PROFILE_BASELINE;
 117
 118     sps->b_constraint_set0  = sps->i_profile_idc == PROFILE_BASELINE;
 119     /* x264 doesn't support the features that are in Baseline and not in Main,
 120      * namely arbitrary_slice_order and slice_groups. */
 121     sps->b_constraint_set1  = sps->i_profile_idc <= PROFILE_MAIN;
 122     /* Never set constraint_set2, it is not necessary and not used in real world. */
 123     sps->b_constraint_set2  = 0;
 124     sps->b_constraint_set3  = 0;
 125
 126     sps->i_level_idc = param->i_level_idc;
 127     if( param->i_level_idc == 9 && ( sps->i_profile_idc >= PROFILE_BASELINE && sps->i_profile_idc <= PROFILE_EXTENDED ) )
 128     {
 129         sps->b_constraint_set3 = 1; /* level 1b with Baseline, Main or Extended profile is signalled via constraint_set3 */
 130         sps->i_level_idc      = 11;
 131     }
 132     /* High 10 Intra profile */
 133     if( param->i_keyint_max == 1 && sps->i_profile_idc == PROFILE_HIGH10 )
 134         sps->b_constraint_set3 = 1;
 135
 136     sps->vui.i_num_reorder_frames = param->i_bframe_pyramid ? 2 : param->i_bframe ? 1 : 0;
 137     /* extra slot with pyramid so that we don't have to override the
 138      * order of forgetting old pictures */
 139     sps->vui.i_max_dec_frame_buffering =
 140     sps->i_num_ref_frames = X264_MIN(X264_REF_MAX, X264_MAX4(param->i_frame_reference, 1 + sps->vui.i_num_reorder_frames,
 141                             param->i_bframe_pyramid ? 4 : 1, param->i_dpb_size));
 142     sps->i_num_ref_frames -= param->i_bframe_pyramid == X264_B_PYRAMID_STRICT;
 143     if( param->i_keyint_max == 1 )
 144     {
 145         sps->i_num_ref_frames = 0;
 146         sps->vui.i_max_dec_frame_buffering = 0;
 147     }
 148
 149     /* number of refs + current frame */
 150     int max_frame_num = sps->vui.i_max_dec_frame_buffering * (!!param->i_bframe_pyramid+1) + 1;
 151     /* Intra refresh cannot write a recovery time greater than max frame num-1 */
 152     if( param->b_intra_refresh )
 153     {
 154         int time_to_recovery = X264_MIN( sps->i_mb_width - 1, param->i_keyint_max ) + param->i_bframe - 1;
 155         max_frame_num = X264_MAX( max_frame_num, time_to_recovery+1 );
 156     }
 157
 158     sps->i_log2_max_frame_num = 4;
 159     while( (1 << sps->i_log2_max_frame_num) <= max_frame_num )
 160         sps->i_log2_max_frame_num++;
 161
 162     sps->i_poc_type = param->i_bframe ? 0 : 2;
 163     if( sps->i_poc_type == 0 )
 164     {
 165         int max_delta_poc = (param->i_bframe + 2) * (!!param->i_bframe_pyramid + 1) * 2;
 166         sps->i_log2_max_poc_lsb = 4;
 167         while( (1 << sps->i_log2_max_poc_lsb) <= max_delta_poc * 2 )
 168             sps->i_log2_max_poc_lsb++;
 169     }
 170     else if( sps->i_poc_type == 1 )
 171     {
 172         int i;
 173
 174         /* FIXME */
 175         sps->b_delta_pic_order_always_zero = 1;
 176         sps->i_offset_for_non_ref_pic = 0;
 177         sps->i_offset_for_top_to_bottom_field = 0;
 178         sps->i_num_ref_frames_in_poc_cycle = 0;
 179
 180         for( i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
 181         {
 182             sps->i_offset_for_ref_frame[i] = 0;
 183         }
 184     }
 185
 186     sps->b_vui = 1;
 187
 188     sps->b_gaps_in_frame_num_value_allowed = 0;
 189     sps->b_frame_mbs_only = !(param->b_interlaced || param->b_fake_interlaced);
 190     if( !sps->b_frame_mbs_only )
 191         sps->i_mb_height = ( sps->i_mb_height + 1 ) & ~1;
 192     sps->b_mb_adaptive_frame_field = param->b_interlaced;
 193     sps->b_direct8x8_inference = 1;
 194
 195     sps->crop.i_left   = 0;
 196     sps->crop.i_top    = 0;
 197     sps->crop.i_right  = sps->i_mb_width*16 - param->i_width;
 198     sps->crop.i_bottom = (sps->i_mb_height*16 - param->i_height) >> !sps->b_frame_mbs_only;
 199     sps->b_crop = sps->crop.i_left  || sps->crop.i_top ||
 200                   sps->crop.i_right || sps->crop.i_bottom;
 201
 202     sps->vui.b_aspect_ratio_info_present = 0;
 203     if( param->vui.i_sar_width > 0 && param->vui.i_sar_height > 0 )
 204     {
 205         sps->vui.b_aspect_ratio_info_present = 1;
 206         sps->vui.i_sar_width = param->vui.i_sar_width;
 207         sps->vui.i_sar_height= param->vui.i_sar_height;
 208     }
 209
 210     sps->vui.b_overscan_info_present = ( param->vui.i_overscan ? 1 : 0 );
 211     if( sps->vui.b_overscan_info_present )
 212         sps->vui.b_overscan_info = ( param->vui.i_overscan == 2 ? 1 : 0 );
 213
 214     sps->vui.b_signal_type_present = 0;
 215     sps->vui.i_vidformat = ( param->vui.i_vidformat <= 5 ? param->vui.i_vidformat : 5 );
 216     sps->vui.b_fullrange = ( param->vui.b_fullrange ? 1 : 0 );
 217     sps->vui.b_color_description_present = 0;
 218
 219     sps->vui.i_colorprim = ( param->vui.i_colorprim <=  9 ? param->vui.i_colorprim : 2 );
 220     sps->vui.i_transfer  = ( param->vui.i_transfer  <= 11 ? param->vui.i_transfer  : 2 );
 221     sps->vui.i_colmatrix = ( param->vui.i_colmatrix <=  9 ? param->vui.i_colmatrix : 2 );
 222     if( sps->vui.i_colorprim != 2 ||
 223         sps->vui.i_transfer  != 2 ||
 224         sps->vui.i_colmatrix != 2 )
 225     {
 226         sps->vui.b_color_description_present = 1;
 227     }
 228
 229     if( sps->vui.i_vidformat != 5 ||
 230         sps->vui.b_fullrange ||
 231         sps->vui.b_color_description_present )
 232     {
 233         sps->vui.b_signal_type_present = 1;
 234     }
 235
 236     /* FIXME: not sufficient for interlaced video */
 237     sps->vui.b_chroma_loc_info_present = ( param->vui.i_chroma_loc ? 1 : 0 );
 238     if( sps->vui.b_chroma_loc_info_present )
 239     {
 240         sps->vui.i_chroma_loc_top = param->vui.i_chroma_loc;
 241         sps->vui.i_chroma_loc_bottom = param->vui.i_chroma_loc;
 242     }
 243
 244     sps->vui.b_timing_info_present = param->i_timebase_num > 0 && param->i_timebase_den > 0;
 245
 246     if( sps->vui.b_timing_info_present )
 247     {
 248         sps->vui.i_num_units_in_tick = param->i_timebase_num;
 249         sps->vui.i_time_scale = param->i_timebase_den * 2;
 250         sps->vui.b_fixed_frame_rate = !param->b_vfr_input;
 251     }
 252
 253     sps->vui.b_vcl_hrd_parameters_present = 0; // we don't support VCL HRD
 254     sps->vui.b_nal_hrd_parameters_present = !!param->i_nal_hrd;
 255     sps->vui.b_pic_struct_present = param->b_pic_struct;
 256
 257     // NOTE: HRD related parts of the SPS are initialised in x264_ratecontrol_init_reconfigurable
 258
 259     sps->vui.b_bitstream_restriction = 1;
 260     if( sps->vui.b_bitstream_restriction )
 261     {
 262         sps->vui.b_motion_vectors_over_pic_boundaries = 1;
 263         sps->vui.i_max_bytes_per_pic_denom = 0;
 264         sps->vui.i_max_bits_per_mb_denom = 0;
 265         sps->vui.i_log2_max_mv_length_horizontal =
 266         sps->vui.i_log2_max_mv_length_vertical = (int)log2f( X264_MAX( 1, param->analyse.i_mv_range*4-1 ) ) + 1;
 267     }
 268 }
 269
 270 void x264_sps_write( bs_t *s, x264_sps_t *sps )
 271 {
 272     bs_realign( s );
 273     bs_write( s, 8, sps->i_profile_idc );
 274     bs_write( s, 1, sps->b_constraint_set0 );
 275     bs_write( s, 1, sps->b_constraint_set1 );
 276     bs_write( s, 1, sps->b_constraint_set2 );
 277     bs_write( s, 1, sps->b_constraint_set3 );
 278
 279     bs_write( s, 4, 0 );    /* reserved */
 280
 281     bs_write( s, 8, sps->i_level_idc );
 282
 283     bs_write_ue( s, sps->i_id );
 284
 285     if( sps->i_profile_idc >= PROFILE_HIGH )
 286     {
 287         bs_write_ue( s, 1 ); // chroma_format_idc = 4:2:0
 288         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_luma_minus8
 289         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_chroma_minus8
 290         bs_write( s, 1, sps->b_qpprime_y_zero_transform_bypass );
 291         bs_write( s, 1, 0 ); // seq_scaling_matrix_present_flag
 292     }
 293
 294     bs_write_ue( s, sps->i_log2_max_frame_num - 4 );
 295     bs_write_ue( s, sps->i_poc_type );
 296     if( sps->i_poc_type == 0 )
 297     {
 298         bs_write_ue( s, sps->i_log2_max_poc_lsb - 4 );
 299     }
 300     else if( sps->i_poc_type == 1 )
 301     {
 302         bs_write( s, 1, sps->b_delta_pic_order_always_zero );
 303         bs_write_se( s, sps->i_offset_for_non_ref_pic );
 304         bs_write_se( s, sps->i_offset_for_top_to_bottom_field );
 305         bs_write_ue( s, sps->i_num_ref_frames_in_poc_cycle );
 306
 307         for( int i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
 308             bs_write_se( s, sps->i_offset_for_ref_frame[i] );
 309     }
 310     bs_write_ue( s, sps->i_num_ref_frames );
 311     bs_write( s, 1, sps->b_gaps_in_frame_num_value_allowed );
 312     bs_write_ue( s, sps->i_mb_width - 1 );
 313     bs_write_ue( s, (sps->i_mb_height >> !sps->b_frame_mbs_only) - 1);
 314     bs_write( s, 1, sps->b_frame_mbs_only );
 315     if( !sps->b_frame_mbs_only )
 316         bs_write( s, 1, sps->b_mb_adaptive_frame_field );
 317     bs_write( s, 1, sps->b_direct8x8_inference );
 318
 319     bs_write( s, 1, sps->b_crop );
 320     if( sps->b_crop )
 321     {
 322         bs_write_ue( s, sps->crop.i_left   / 2 );
 323         bs_write_ue( s, sps->crop.i_right  / 2 );
 324         bs_write_ue( s, sps->crop.i_top    / 2 );
 325         bs_write_ue( s, sps->crop.i_bottom / 2 );
 326     }
 327
 328     bs_write( s, 1, sps->b_vui );
 329     if( sps->b_vui )
 330     {
 331         bs_write1( s, sps->vui.b_aspect_ratio_info_present );
 332         if( sps->vui.b_aspect_ratio_info_present )
 333         {
 334             int i;
 335             static const struct { uint8_t w, h, sar; } sar[] =
 336             {
 337                 { 1,   1, 1 }, { 12, 11, 2 }, { 10, 11, 3 }, { 16, 11, 4 },
 338                 { 40, 33, 5 }, { 24, 11, 6 }, { 20, 11, 7 }, { 32, 11, 8 },
 339                 { 80, 33, 9 }, { 18, 11, 10}, { 15, 11, 11}, { 64, 33, 12},
 340                 { 160,99, 13}, { 0, 0, 255 }
 341             };
 342             for( i = 0; sar[i].sar != 255; i++ )
 343             {
 344                 if( sar[i].w == sps->vui.i_sar_width &&
 345                     sar[i].h == sps->vui.i_sar_height )
 346                     break;
 347             }
 348             bs_write( s, 8, sar[i].sar );
 349             if( sar[i].sar == 255 ) /* aspect_ratio_idc (extended) */
 350             {
 351                 bs_write( s, 16, sps->vui.i_sar_width );
 352                 bs_write( s, 16, sps->vui.i_sar_height );
 353             }
 354         }
 355
 356         bs_write1( s, sps->vui.b_overscan_info_present );
 357         if( sps->vui.b_overscan_info_present )
 358             bs_write1( s, sps->vui.b_overscan_info );
 359
 360         bs_write1( s, sps->vui.b_signal_type_present );
 361         if( sps->vui.b_signal_type_present )
 362         {
 363             bs_write( s, 3, sps->vui.i_vidformat );
 364             bs_write1( s, sps->vui.b_fullrange );
 365             bs_write1( s, sps->vui.b_color_description_present );
 366             if( sps->vui.b_color_description_present )
 367             {
 368                 bs_write( s, 8, sps->vui.i_colorprim );
 369                 bs_write( s, 8, sps->vui.i_transfer );
 370                 bs_write( s, 8, sps->vui.i_colmatrix );
 371             }
 372         }
 373
 374         bs_write1( s, sps->vui.b_chroma_loc_info_present );
 375         if( sps->vui.b_chroma_loc_info_present )
 376         {
 377             bs_write_ue( s, sps->vui.i_chroma_loc_top );
 378             bs_write_ue( s, sps->vui.i_chroma_loc_bottom );
 379         }
 380
 381         bs_write1( s, sps->vui.b_timing_info_present );
 382         if( sps->vui.b_timing_info_present )
 383         {
 384             bs_write32( s, sps->vui.i_num_units_in_tick );
 385             bs_write32( s, sps->vui.i_time_scale );
 386             bs_write1( s, sps->vui.b_fixed_frame_rate );
 387         }
 388
 389         bs_write1( s, sps->vui.b_nal_hrd_parameters_present );
 390         if( sps->vui.b_nal_hrd_parameters_present )
 391         {
 392             bs_write_ue( s, sps->vui.hrd.i_cpb_cnt - 1 );
 393             bs_write( s, 4, sps->vui.hrd.i_bit_rate_scale );
 394             bs_write( s, 4, sps->vui.hrd.i_cpb_size_scale );
 395
 396             bs_write_ue( s, sps->vui.hrd.i_bit_rate_value - 1 );
 397             bs_write_ue( s, sps->vui.hrd.i_cpb_size_value - 1 );
 398
 399             bs_write1( s, sps->vui.hrd.b_cbr_hrd );
 400
 401             bs_write( s, 5, sps->vui.hrd.i_initial_cpb_removal_delay_length - 1 );
 402             bs_write( s, 5, sps->vui.hrd.i_cpb_removal_delay_length - 1 );
 403             bs_write( s, 5, sps->vui.hrd.i_dpb_output_delay_length - 1 );
 404             bs_write( s, 5, sps->vui.hrd.i_time_offset_length );
 405         }
 406
 407         bs_write1( s, sps->vui.b_vcl_hrd_parameters_present );
 408
 409         if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
 410             bs_write1( s, 0 );   /* low_delay_hrd_flag */
 411
 412         bs_write1( s, sps->vui.b_pic_struct_present );
 413         bs_write1( s, sps->vui.b_bitstream_restriction );
 414         if( sps->vui.b_bitstream_restriction )
 415         {
 416             bs_write1( s, sps->vui.b_motion_vectors_over_pic_boundaries );
 417             bs_write_ue( s, sps->vui.i_max_bytes_per_pic_denom );
 418             bs_write_ue( s, sps->vui.i_max_bits_per_mb_denom );
 419             bs_write_ue( s, sps->vui.i_log2_max_mv_length_horizontal );
 420             bs_write_ue( s, sps->vui.i_log2_max_mv_length_vertical );
 421             bs_write_ue( s, sps->vui.i_num_reorder_frames );
 422             bs_write_ue( s, sps->vui.i_max_dec_frame_buffering );
 423         }
 424     }
 425
 426     bs_rbsp_trailing( s );
 427     bs_flush( s );
 428 }
 429
 430 void x264_pps_init( x264_pps_t *pps, int i_id, x264_param_t *param, x264_sps_t *sps )
 431 {
 432     pps->i_id = i_id;
 433     pps->i_sps_id = sps->i_id;
 434     pps->b_cabac = param->b_cabac;
 435
 436     pps->b_pic_order = param->b_interlaced;
 437     pps->i_num_slice_groups = 1;
 438
 439     pps->i_num_ref_idx_l0_default_active = param->i_frame_reference;
 440     pps->i_num_ref_idx_l1_default_active = 1;
 441
 442     pps->b_weighted_pred = param->analyse.i_weighted_pred > 0;
 443     pps->b_weighted_bipred = param->analyse.b_weighted_bipred ? 2 : 0;
 444
 445     pps->i_pic_init_qp = param->rc.i_rc_method == X264_RC_ABR ? 26 + QP_BD_OFFSET : param->rc.i_qp_constant;
 446     pps->i_pic_init_qs = 26 + QP_BD_OFFSET;
 447
 448     pps->i_chroma_qp_index_offset = param->analyse.i_chroma_qp_offset;
 449     pps->b_deblocking_filter_control = 1;
 450     pps->b_constrained_intra_pred = param->b_constrained_intra;
 451     pps->b_redundant_pic_cnt = 0;
 452
 453     pps->b_transform_8x8_mode = param->analyse.b_transform_8x8 ? 1 : 0;
 454
 455     pps->i_cqm_preset = param->i_cqm_preset;
 456     switch( pps->i_cqm_preset )
 457     {
 458     case X264_CQM_FLAT:
 459         for( int i = 0; i < 6; i++ )
 460             pps->scaling_list[i] = x264_cqm_flat16;
 461         break;
 462     case X264_CQM_JVT:
 463         for( int i = 0; i < 6; i++ )
 464             pps->scaling_list[i] = x264_cqm_jvt[i];
 465         break;
 466     case X264_CQM_CUSTOM:
 467         /* match the transposed DCT & zigzag */
 468         transpose( param->cqm_4iy, 4 );
 469         transpose( param->cqm_4ic, 4 );
 470         transpose( param->cqm_4py, 4 );
 471         transpose( param->cqm_4pc, 4 );
 472         transpose( param->cqm_8iy, 8 );
 473         transpose( param->cqm_8py, 8 );
 474         pps->scaling_list[CQM_4IY] = param->cqm_4iy;
 475         pps->scaling_list[CQM_4IC] = param->cqm_4ic;
 476         pps->scaling_list[CQM_4PY] = param->cqm_4py;
 477         pps->scaling_list[CQM_4PC] = param->cqm_4pc;
 478         pps->scaling_list[CQM_8IY+4] = param->cqm_8iy;
 479         pps->scaling_list[CQM_8PY+4] = param->cqm_8py;
 480         for( int i = 0; i < 6; i++ )
 481             for( int j = 0; j < (i < 4 ? 16 : 64); j++ )
 482                 if( pps->scaling_list[i][j] == 0 )
 483                     pps->scaling_list[i] = x264_cqm_jvt[i];
 484         break;
 485     }
 486 }
 487
 488 void x264_pps_write( bs_t *s, x264_pps_t *pps )
 489 {
 490     bs_realign( s );
 491     bs_write_ue( s, pps->i_id );
 492     bs_write_ue( s, pps->i_sps_id );
 493
 494     bs_write( s, 1, pps->b_cabac );
 495     bs_write( s, 1, pps->b_pic_order );
 496     bs_write_ue( s, pps->i_num_slice_groups - 1 );
 497
 498     bs_write_ue( s, pps->i_num_ref_idx_l0_default_active - 1 );
 499     bs_write_ue( s, pps->i_num_ref_idx_l1_default_active - 1 );
 500     bs_write( s, 1, pps->b_weighted_pred );
 501     bs_write( s, 2, pps->b_weighted_bipred );
 502
 503     bs_write_se( s, pps->i_pic_init_qp - 26 - QP_BD_OFFSET );
 504     bs_write_se( s, pps->i_pic_init_qs - 26 - QP_BD_OFFSET );
 505     bs_write_se( s, pps->i_chroma_qp_index_offset );
 506
 507     bs_write( s, 1, pps->b_deblocking_filter_control );
 508     bs_write( s, 1, pps->b_constrained_intra_pred );
 509     bs_write( s, 1, pps->b_redundant_pic_cnt );
 510
 511     if( pps->b_transform_8x8_mode || pps->i_cqm_preset != X264_CQM_FLAT )
 512     {
 513         bs_write( s, 1, pps->b_transform_8x8_mode );
 514         bs_write( s, 1, (pps->i_cqm_preset != X264_CQM_FLAT) );
 515         if( pps->i_cqm_preset != X264_CQM_FLAT )
 516         {
 517             scaling_list_write( s, pps, CQM_4IY );
 518             scaling_list_write( s, pps, CQM_4IC );
 519             bs_write( s, 1, 0 ); // Cr = Cb
 520             scaling_list_write( s, pps, CQM_4PY );
 521             scaling_list_write( s, pps, CQM_4PC );
 522             bs_write( s, 1, 0 ); // Cr = Cb
 523             if( pps->b_transform_8x8_mode )
 524             {
 525                 scaling_list_write( s, pps, CQM_8IY+4 );
 526                 scaling_list_write( s, pps, CQM_8PY+4 );
 527             }
 528         }
 529         bs_write_se( s, pps->i_chroma_qp_index_offset );
 530     }
 531
 532     bs_rbsp_trailing( s );
 533     bs_flush( s );
 534 }
 535
 536 void x264_sei_recovery_point_write( x264_t *h, bs_t *s, int recovery_frame_cnt )
 537 {
 538     bs_t q;
 539     uint8_t tmp_buf[100];
 540     bs_init( &q, tmp_buf, 100 );
 541
 542     bs_realign( &q );
 543
 544     bs_write_ue( &q, recovery_frame_cnt ); // recovery_frame_cnt
 545     bs_write( &q, 1, 1 ); //exact_match_flag 1
 546     bs_write( &q, 1, 0 ); //broken_link_flag 0
 547     bs_write( &q, 2, 0 ); //changing_slice_group 0
 548
 549     bs_align_10( &q );
 550     bs_flush( &q );
 551
 552     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_RECOVERY_POINT );
 553
 554 }
 555
 556 int x264_sei_version_write( x264_t *h, bs_t *s )
 557 {
 558     // random ID number generated according to ISO-11578
 559     static const uint8_t uuid[16] =
 560     {
 561         0xdc, 0x45, 0xe9, 0xbd, 0xe6, 0xd9, 0x48, 0xb7,
 562         0x96, 0x2c, 0xd8, 0x20, 0xd9, 0x23, 0xee, 0xef
 563     };
 564     char *opts = x264_param2string( &h->param, 0 );
 565     char *payload;
 566     int length;
 567
 568     if( !opts )
 569         return -1;
 570     CHECKED_MALLOC( payload, 200 + strlen( opts ) );
 571
 572     memcpy( payload, uuid, 16 );
 573     sprintf( payload+16, "x264 - core %d%s - H.264/MPEG-4 AVC codec - "
 574              "Copyleft 2003-2010 - http://www.videolan.org/x264.html - options: %s",
 575              X264_BUILD, X264_VERSION, opts );
 576     length = strlen(payload)+1;
 577
 578     x264_sei_write( s, (uint8_t *)payload, length, SEI_USER_DATA_UNREGISTERED );
 579
 580     x264_free( opts );
 581     x264_free( payload );
 582     return 0;
 583 fail:
 584     x264_free( opts );
 585     return -1;
 586 }
 587
 588 void x264_sei_buffering_period_write( x264_t *h, bs_t *s )
 589 {
 590     x264_sps_t *sps = h->sps;
 591     bs_t q;
 592     uint8_t tmp_buf[100];
 593     bs_init( &q, tmp_buf, 100 );
 594
 595     bs_realign( &q );
 596     bs_write_ue( &q, sps->i_id );
 597
 598     if( sps->vui.b_nal_hrd_parameters_present )
 599     {
 600         bs_write( &q, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay );
 601         bs_write( &q, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay_offset );
 602     }
 603
 604     bs_align_10( &q );
 605     bs_flush( &q );
 606
 607     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_BUFFERING_PERIOD );
 608 }
 609
 610 void x264_sei_pic_timing_write( x264_t *h, bs_t *s )
 611 {
 612     x264_sps_t *sps = h->sps;
 613     bs_t q;
 614     uint8_t tmp_buf[100];
 615     bs_init( &q, tmp_buf, 100 );
 616
 617     bs_realign( &q );
 618
 619     if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
 620     {
 621         bs_write( &q, sps->vui.hrd.i_cpb_removal_delay_length, h->fenc->i_cpb_delay );
 622         bs_write( &q, sps->vui.hrd.i_dpb_output_delay_length, h->fenc->i_dpb_output_delay );
 623     }
 624
 625     if( sps->vui.b_pic_struct_present )
 626     {
 627         bs_write( &q, 4, h->fenc->i_pic_struct-1 ); // We use index 0 for "Auto"
 628
 629         // These clock timestamps are not standardised so we don't set them
 630         // They could be time of origin, capture or alternative ideal display
 631         for( int i = 0; i < num_clock_ts[h->fenc->i_pic_struct]; i++ )
 632             bs_write1( &q, 0 ); // clock_timestamp_flag
 633     }
 634
 635     bs_align_10( &q );
 636     bs_flush( &q );
 637
 638     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_PIC_TIMING );
 639 }
 640
 641 void x264_filler_write( x264_t *h, bs_t *s, int filler )
 642 {
 643     bs_realign( s );
 644
 645     for( int i = 0; i < filler; i++ )
 646         bs_write( s, 8, 0xff );
 647
 648     bs_rbsp_trailing( s );
 649     bs_flush( s );
 650 }
 651
 652 const x264_level_t x264_levels[] =
 653 {
 654     { 10,   1485,    99,   152064,     64,    175,  64, 64,  0, 2, 0, 0, 1 },
 655     {  9,   1485,    99,   152064,    128,    350,  64, 64,  0, 2, 0, 0, 1 }, /* "1b" */
 656     { 11,   3000,   396,   345600,    192,    500, 128, 64,  0, 2, 0, 0, 1 },
 657     { 12,   6000,   396,   912384,    384,   1000, 128, 64,  0, 2, 0, 0, 1 },
 658     { 13,  11880,   396,   912384,    768,   2000, 128, 64,  0, 2, 0, 0, 1 },
 659     { 20,  11880,   396,   912384,   2000,   2000, 128, 64,  0, 2, 0, 0, 1 },
 660     { 21,  19800,   792,  1824768,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
 661     { 22,  20250,  1620,  3110400,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
 662     { 30,  40500,  1620,  3110400,  10000,  10000, 256, 32, 22, 2, 0, 1, 0 },
 663     { 31, 108000,  3600,  6912000,  14000,  14000, 512, 16, 60, 4, 1, 1, 0 },
 664     { 32, 216000,  5120,  7864320,  20000,  20000, 512, 16, 60, 4, 1, 1, 0 },
 665     { 40, 245760,  8192, 12582912,  20000,  25000, 512, 16, 60, 4, 1, 1, 0 },
 666     { 41, 245760,  8192, 12582912,  50000,  62500, 512, 16, 24, 2, 1, 1, 0 },
 667     { 42, 522240,  8704, 13369344,  50000,  62500, 512, 16, 24, 2, 1, 1, 1 },
 668     { 50, 589824, 22080, 42393600, 135000, 135000, 512, 16, 24, 2, 1, 1, 1 },
 669     { 51, 983040, 36864, 70778880, 240000, 240000, 512, 16, 24, 2, 1, 1, 1 },
 670     { 0 }
 671 };
 672
 673 #define ERROR(...)\
 674 {\
 675     if( verbose )\
 676         x264_log( h, X264_LOG_WARNING, __VA_ARGS__ );\
 677     ret = 1;\
 678 }
 679
 680 int x264_validate_levels( x264_t *h, int verbose )
 681 {
 682     int ret = 0;
 683     int mbs = h->sps->i_mb_width * h->sps->i_mb_height;
 684     int dpb = mbs * 384 * h->sps->vui.i_max_dec_frame_buffering;
 685     int cbp_factor = h->sps->i_profile_idc==PROFILE_HIGH10 ? 12 :
 686                      h->sps->i_profile_idc==PROFILE_HIGH ? 5 : 4;
 687
 688     const x264_level_t *l = x264_levels;
 689     while( l->level_idc != 0 && l->level_idc != h->param.i_level_idc )
 690         l++;
 691
 692     if( l->frame_size < mbs
 693         || l->frame_size*8 < h->sps->i_mb_width * h->sps->i_mb_width
 694         || l->frame_size*8 < h->sps->i_mb_height * h->sps->i_mb_height )
 695         ERROR( "frame MB size (%dx%d) > level limit (%d)\n",
 696                h->sps->i_mb_width, h->sps->i_mb_height, l->frame_size );
 697     if( dpb > l->dpb )
 698         ERROR( "DPB size (%d frames, %d bytes) > level limit (%d frames, %d bytes)\n",
 699                 h->sps->vui.i_max_dec_frame_buffering, dpb, (int)(l->dpb / (384*mbs)), l->dpb );
 700
 701 #define CHECK( name, limit, val ) \
 702     if( (val) > (limit) ) \
 703         ERROR( name " (%d) > level limit (%d)\n", (int)(val), (limit) );
 704
 705     CHECK( "VBV bitrate", (l->bitrate * cbp_factor) / 4, h->param.rc.i_vbv_max_bitrate );
 706     CHECK( "VBV buffer", (l->cpb * cbp_factor) / 4, h->param.rc.i_vbv_buffer_size );
 707     CHECK( "MV range", l->mv_range, h->param.analyse.i_mv_range );
 708     CHECK( "interlaced", !l->frame_only, h->param.b_interlaced );
 709     CHECK( "fake interlaced", !l->frame_only, h->param.b_fake_interlaced );
 710
 711     if( h->param.i_fps_den > 0 )
 712         CHECK( "MB rate", l->mbps, (int64_t)mbs * h->param.i_fps_num / h->param.i_fps_den );
 713
 714     /* TODO check the rest of the limits */
 715     return ret;
 716 }