]> git.sesse.net Git - x264/blob - encoder/set.c
Add support for level 1b
[x264] / encoder / set.c
1 /*****************************************************************************
2  * set: h264 encoder (SPS and PPS init and write)
3  *****************************************************************************
4  * Copyright (C) 2003-2008 x264 project
5  *
6  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
7  *          Loren Merritt <lorenm@u.washington.edu>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 #include <math.h>
25
26 #include "common/common.h"
27 #include "set.h"
28
29 #define bs_write_ue bs_write_ue_big
30
31 // Indexed by pic_struct values
32 static const uint8_t num_clock_ts[10] = { 0, 1, 1, 1, 2, 2, 3, 3, 2, 3 };
33
34 static void transpose( uint8_t *buf, int w )
35 {
36     for( int i = 0; i < w; i++ )
37         for( int j = 0; j < i; j++ )
38             XCHG( uint8_t, buf[w*i+j], buf[w*j+i] );
39 }
40
41 static void scaling_list_write( bs_t *s, x264_pps_t *pps, int idx )
42 {
43     const int len = idx<4 ? 16 : 64;
44     const uint8_t *zigzag = idx<4 ? x264_zigzag_scan4[0] : x264_zigzag_scan8[0];
45     const uint8_t *list = pps->scaling_list[idx];
46     const uint8_t *def_list = (idx==CQM_4IC) ? pps->scaling_list[CQM_4IY]
47                             : (idx==CQM_4PC) ? pps->scaling_list[CQM_4PY]
48                             : x264_cqm_jvt[idx];
49     if( !memcmp( list, def_list, len ) )
50         bs_write( s, 1, 0 ); // scaling_list_present_flag
51     else if( !memcmp( list, x264_cqm_jvt[idx], len ) )
52     {
53         bs_write( s, 1, 1 ); // scaling_list_present_flag
54         bs_write_se( s, -8 ); // use jvt list
55     }
56     else
57     {
58         int run;
59         bs_write( s, 1, 1 ); // scaling_list_present_flag
60
61         // try run-length compression of trailing values
62         for( run = len; run > 1; run-- )
63             if( list[zigzag[run-1]] != list[zigzag[run-2]] )
64                 break;
65         if( run < len && len - run < bs_size_se( (int8_t)-list[zigzag[run]] ) )
66             run = len;
67
68         for( int j = 0; j < run; j++ )
69             bs_write_se( s, (int8_t)(list[zigzag[j]] - (j>0 ? list[zigzag[j-1]] : 8)) ); // delta
70
71         if( run < len )
72             bs_write_se( s, (int8_t)-list[zigzag[run]] );
73     }
74 }
75
76 static uint8_t *x264_sei_write_header( bs_t *s, int payload_type )
77 {
78     bs_write( s, 8, payload_type );
79
80     bs_flush( s );
81     uint8_t *p_start = s->p;
82     bs_realign( s );
83
84     bs_write( s, 8, 0 );
85     return p_start;
86 }
87
88 static void x264_sei_write( bs_t *s, uint8_t *p_start )
89 {
90     bs_align_10( s );
91     bs_flush( s );
92
93     p_start[0] = s->p - p_start - 1; // -1 for the length byte
94     bs_realign( s );
95
96     bs_rbsp_trailing( s );
97 }
98
99 void x264_sps_init( x264_sps_t *sps, int i_id, x264_param_t *param )
100 {
101     sps->i_id = i_id;
102     int max_frame_num;
103
104     sps->b_qpprime_y_zero_transform_bypass = param->rc.i_rc_method == X264_RC_CQP && param->rc.i_qp_constant == 0;
105     if( sps->b_qpprime_y_zero_transform_bypass )
106         sps->i_profile_idc  = PROFILE_HIGH444_PREDICTIVE;
107     else if( BIT_DEPTH > 8 )
108         sps->i_profile_idc  = PROFILE_HIGH10;
109     else if( param->analyse.b_transform_8x8 || param->i_cqm_preset != X264_CQM_FLAT )
110         sps->i_profile_idc  = PROFILE_HIGH;
111     else if( param->b_cabac || param->i_bframe > 0 || param->b_interlaced || param->b_fake_interlaced || param->analyse.i_weighted_pred > 0 )
112         sps->i_profile_idc  = PROFILE_MAIN;
113     else
114         sps->i_profile_idc  = PROFILE_BASELINE;
115
116     sps->b_constraint_set0  = sps->i_profile_idc == PROFILE_BASELINE;
117     /* x264 doesn't support the features that are in Baseline and not in Main,
118      * namely arbitrary_slice_order and slice_groups. */
119     sps->b_constraint_set1  = sps->i_profile_idc <= PROFILE_MAIN;
120     /* Never set constraint_set2, it is not necessary and not used in real world. */
121     sps->b_constraint_set2  = 0;
122
123     if( param->i_level_idc == 9 && ( sps->i_profile_idc >= PROFILE_BASELINE && sps->i_profile_idc <= PROFILE_EXTENDED ) )
124     {
125         sps->b_constraint_set3 = 1; /* level 1b with Baseline, Main or Extended profile is signalled via constraint_set3 */
126         sps->i_level_idc      = 11;
127     }
128     else
129     {
130         sps->b_constraint_set3 = 0;
131         sps->i_level_idc = param->i_level_idc;
132     }
133
134     sps->vui.i_num_reorder_frames = param->i_bframe_pyramid ? 2 : param->i_bframe ? 1 : 0;
135     /* extra slot with pyramid so that we don't have to override the
136      * order of forgetting old pictures */
137     sps->vui.i_max_dec_frame_buffering =
138     sps->i_num_ref_frames = X264_MIN(X264_REF_MAX, X264_MAX4(param->i_frame_reference, 1 + sps->vui.i_num_reorder_frames,
139                             param->i_bframe_pyramid ? 4 : 1, param->i_dpb_size));
140     sps->i_num_ref_frames -= param->i_bframe_pyramid == X264_B_PYRAMID_STRICT;
141
142     /* number of refs + current frame */
143     max_frame_num = sps->vui.i_max_dec_frame_buffering * (!!param->i_bframe_pyramid+1) + 1;
144     sps->i_log2_max_frame_num = 4;
145     while( (1 << sps->i_log2_max_frame_num) <= max_frame_num )
146         sps->i_log2_max_frame_num++;
147
148     sps->i_poc_type = param->i_bframe ? 0 : 2;
149     if( sps->i_poc_type == 0 )
150     {
151         int max_delta_poc = (param->i_bframe + 2) * (!!param->i_bframe_pyramid + 1) * 2;
152         sps->i_log2_max_poc_lsb = 4;
153         while( (1 << sps->i_log2_max_poc_lsb) <= max_delta_poc * 2 )
154             sps->i_log2_max_poc_lsb++;
155     }
156     else if( sps->i_poc_type == 1 )
157     {
158         int i;
159
160         /* FIXME */
161         sps->b_delta_pic_order_always_zero = 1;
162         sps->i_offset_for_non_ref_pic = 0;
163         sps->i_offset_for_top_to_bottom_field = 0;
164         sps->i_num_ref_frames_in_poc_cycle = 0;
165
166         for( i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
167         {
168             sps->i_offset_for_ref_frame[i] = 0;
169         }
170     }
171
172     sps->b_vui = 1;
173
174     sps->b_gaps_in_frame_num_value_allowed = 0;
175     sps->i_mb_width = ( param->i_width + 15 ) / 16;
176     sps->i_mb_height= ( param->i_height + 15 ) / 16;
177     sps->b_frame_mbs_only = !(param->b_interlaced || param->b_fake_interlaced);
178     if( !sps->b_frame_mbs_only )
179         sps->i_mb_height = ( sps->i_mb_height + 1 ) & ~1;
180     sps->b_mb_adaptive_frame_field = param->b_interlaced;
181     sps->b_direct8x8_inference = 1;
182
183     sps->crop.i_left   = 0;
184     sps->crop.i_top    = 0;
185     sps->crop.i_right  = sps->i_mb_width*16 - param->i_width;
186     sps->crop.i_bottom = (sps->i_mb_height*16 - param->i_height) >> !sps->b_frame_mbs_only;
187     sps->b_crop = sps->crop.i_left  || sps->crop.i_top ||
188                   sps->crop.i_right || sps->crop.i_bottom;
189
190     sps->vui.b_aspect_ratio_info_present = 0;
191     if( param->vui.i_sar_width > 0 && param->vui.i_sar_height > 0 )
192     {
193         sps->vui.b_aspect_ratio_info_present = 1;
194         sps->vui.i_sar_width = param->vui.i_sar_width;
195         sps->vui.i_sar_height= param->vui.i_sar_height;
196     }
197
198     sps->vui.b_overscan_info_present = ( param->vui.i_overscan ? 1 : 0 );
199     if( sps->vui.b_overscan_info_present )
200         sps->vui.b_overscan_info = ( param->vui.i_overscan == 2 ? 1 : 0 );
201
202     sps->vui.b_signal_type_present = 0;
203     sps->vui.i_vidformat = ( param->vui.i_vidformat <= 5 ? param->vui.i_vidformat : 5 );
204     sps->vui.b_fullrange = ( param->vui.b_fullrange ? 1 : 0 );
205     sps->vui.b_color_description_present = 0;
206
207     sps->vui.i_colorprim = ( param->vui.i_colorprim <=  9 ? param->vui.i_colorprim : 2 );
208     sps->vui.i_transfer  = ( param->vui.i_transfer  <= 11 ? param->vui.i_transfer  : 2 );
209     sps->vui.i_colmatrix = ( param->vui.i_colmatrix <=  9 ? param->vui.i_colmatrix : 2 );
210     if( sps->vui.i_colorprim != 2 ||
211         sps->vui.i_transfer  != 2 ||
212         sps->vui.i_colmatrix != 2 )
213     {
214         sps->vui.b_color_description_present = 1;
215     }
216
217     if( sps->vui.i_vidformat != 5 ||
218         sps->vui.b_fullrange ||
219         sps->vui.b_color_description_present )
220     {
221         sps->vui.b_signal_type_present = 1;
222     }
223
224     /* FIXME: not sufficient for interlaced video */
225     sps->vui.b_chroma_loc_info_present = ( param->vui.i_chroma_loc ? 1 : 0 );
226     if( sps->vui.b_chroma_loc_info_present )
227     {
228         sps->vui.i_chroma_loc_top = param->vui.i_chroma_loc;
229         sps->vui.i_chroma_loc_bottom = param->vui.i_chroma_loc;
230     }
231
232     sps->vui.b_timing_info_present = param->i_timebase_num > 0 && param->i_timebase_den > 0;
233
234     if( sps->vui.b_timing_info_present )
235     {
236         sps->vui.i_num_units_in_tick = param->i_timebase_num;
237         sps->vui.i_time_scale = param->i_timebase_den * 2;
238         sps->vui.b_fixed_frame_rate = !param->b_vfr_input;
239     }
240
241     sps->vui.b_vcl_hrd_parameters_present = 0; // we don't support VCL HRD
242     sps->vui.b_nal_hrd_parameters_present = !!param->i_nal_hrd;
243     sps->vui.b_pic_struct_present = param->b_pic_struct;
244
245     // NOTE: HRD related parts of the SPS are initialised in x264_ratecontrol_init_reconfigurable
246
247     sps->vui.b_bitstream_restriction = 1;
248     if( sps->vui.b_bitstream_restriction )
249     {
250         sps->vui.b_motion_vectors_over_pic_boundaries = 1;
251         sps->vui.i_max_bytes_per_pic_denom = 0;
252         sps->vui.i_max_bits_per_mb_denom = 0;
253         sps->vui.i_log2_max_mv_length_horizontal =
254         sps->vui.i_log2_max_mv_length_vertical = (int)log2f( X264_MAX( 1, param->analyse.i_mv_range*4-1 ) ) + 1;
255     }
256 }
257
258 void x264_sps_write( bs_t *s, x264_sps_t *sps )
259 {
260     bs_realign( s );
261     bs_write( s, 8, sps->i_profile_idc );
262     bs_write( s, 1, sps->b_constraint_set0 );
263     bs_write( s, 1, sps->b_constraint_set1 );
264     bs_write( s, 1, sps->b_constraint_set2 );
265     bs_write( s, 1, sps->b_constraint_set3 );
266
267     bs_write( s, 4, 0 );    /* reserved */
268
269     bs_write( s, 8, sps->i_level_idc );
270
271     bs_write_ue( s, sps->i_id );
272
273     if( sps->i_profile_idc >= PROFILE_HIGH )
274     {
275         bs_write_ue( s, 1 ); // chroma_format_idc = 4:2:0
276         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_luma_minus8
277         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_chroma_minus8
278         bs_write( s, 1, sps->b_qpprime_y_zero_transform_bypass );
279         bs_write( s, 1, 0 ); // seq_scaling_matrix_present_flag
280     }
281
282     bs_write_ue( s, sps->i_log2_max_frame_num - 4 );
283     bs_write_ue( s, sps->i_poc_type );
284     if( sps->i_poc_type == 0 )
285     {
286         bs_write_ue( s, sps->i_log2_max_poc_lsb - 4 );
287     }
288     else if( sps->i_poc_type == 1 )
289     {
290         int i;
291
292         bs_write( s, 1, sps->b_delta_pic_order_always_zero );
293         bs_write_se( s, sps->i_offset_for_non_ref_pic );
294         bs_write_se( s, sps->i_offset_for_top_to_bottom_field );
295         bs_write_ue( s, sps->i_num_ref_frames_in_poc_cycle );
296
297         for( i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
298         {
299             bs_write_se( s, sps->i_offset_for_ref_frame[i] );
300         }
301     }
302     bs_write_ue( s, sps->i_num_ref_frames );
303     bs_write( s, 1, sps->b_gaps_in_frame_num_value_allowed );
304     bs_write_ue( s, sps->i_mb_width - 1 );
305     if (sps->b_frame_mbs_only)
306     {
307         bs_write_ue( s, sps->i_mb_height - 1);
308     }
309     else // interlaced
310     {
311         bs_write_ue( s, sps->i_mb_height/2 - 1);
312     }
313     bs_write( s, 1, sps->b_frame_mbs_only );
314     if( !sps->b_frame_mbs_only )
315     {
316         bs_write( s, 1, sps->b_mb_adaptive_frame_field );
317     }
318     bs_write( s, 1, sps->b_direct8x8_inference );
319
320     bs_write( s, 1, sps->b_crop );
321     if( sps->b_crop )
322     {
323         bs_write_ue( s, sps->crop.i_left   / 2 );
324         bs_write_ue( s, sps->crop.i_right  / 2 );
325         bs_write_ue( s, sps->crop.i_top    / 2 );
326         bs_write_ue( s, sps->crop.i_bottom / 2 );
327     }
328
329     bs_write( s, 1, sps->b_vui );
330     if( sps->b_vui )
331     {
332         bs_write1( s, sps->vui.b_aspect_ratio_info_present );
333         if( sps->vui.b_aspect_ratio_info_present )
334         {
335             int i;
336             static const struct { uint8_t w, h, sar; } sar[] =
337             {
338                 { 1,   1, 1 }, { 12, 11, 2 }, { 10, 11, 3 }, { 16, 11, 4 },
339                 { 40, 33, 5 }, { 24, 11, 6 }, { 20, 11, 7 }, { 32, 11, 8 },
340                 { 80, 33, 9 }, { 18, 11, 10}, { 15, 11, 11}, { 64, 33, 12},
341                 { 160,99, 13}, { 0, 0, 255 }
342             };
343             for( i = 0; sar[i].sar != 255; i++ )
344             {
345                 if( sar[i].w == sps->vui.i_sar_width &&
346                     sar[i].h == sps->vui.i_sar_height )
347                     break;
348             }
349             bs_write( s, 8, sar[i].sar );
350             if( sar[i].sar == 255 ) /* aspect_ratio_idc (extended) */
351             {
352                 bs_write( s, 16, sps->vui.i_sar_width );
353                 bs_write( s, 16, sps->vui.i_sar_height );
354             }
355         }
356
357         bs_write1( s, sps->vui.b_overscan_info_present );
358         if( sps->vui.b_overscan_info_present )
359             bs_write1( s, sps->vui.b_overscan_info );
360
361         bs_write1( s, sps->vui.b_signal_type_present );
362         if( sps->vui.b_signal_type_present )
363         {
364             bs_write( s, 3, sps->vui.i_vidformat );
365             bs_write1( s, sps->vui.b_fullrange );
366             bs_write1( s, sps->vui.b_color_description_present );
367             if( sps->vui.b_color_description_present )
368             {
369                 bs_write( s, 8, sps->vui.i_colorprim );
370                 bs_write( s, 8, sps->vui.i_transfer );
371                 bs_write( s, 8, sps->vui.i_colmatrix );
372             }
373         }
374
375         bs_write1( s, sps->vui.b_chroma_loc_info_present );
376         if( sps->vui.b_chroma_loc_info_present )
377         {
378             bs_write_ue( s, sps->vui.i_chroma_loc_top );
379             bs_write_ue( s, sps->vui.i_chroma_loc_bottom );
380         }
381
382         bs_write1( s, sps->vui.b_timing_info_present );
383         if( sps->vui.b_timing_info_present )
384         {
385             bs_write32( s, sps->vui.i_num_units_in_tick );
386             bs_write32( s, sps->vui.i_time_scale );
387             bs_write1( s, sps->vui.b_fixed_frame_rate );
388         }
389
390         bs_write1( s, sps->vui.b_nal_hrd_parameters_present );
391         if( sps->vui.b_nal_hrd_parameters_present )
392         {
393             bs_write_ue( s, sps->vui.hrd.i_cpb_cnt - 1 );
394             bs_write( s, 4, sps->vui.hrd.i_bit_rate_scale );
395             bs_write( s, 4, sps->vui.hrd.i_cpb_size_scale );
396
397             bs_write_ue( s, sps->vui.hrd.i_bit_rate_value - 1 );
398             bs_write_ue( s, sps->vui.hrd.i_cpb_size_value - 1 );
399
400             bs_write1( s, sps->vui.hrd.b_cbr_hrd );
401
402             bs_write( s, 5, sps->vui.hrd.i_initial_cpb_removal_delay_length - 1 );
403             bs_write( s, 5, sps->vui.hrd.i_cpb_removal_delay_length - 1 );
404             bs_write( s, 5, sps->vui.hrd.i_dpb_output_delay_length - 1 );
405             bs_write( s, 5, sps->vui.hrd.i_time_offset_length );
406         }
407
408         bs_write1( s, sps->vui.b_vcl_hrd_parameters_present );
409
410         if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
411             bs_write1( s, 0 );   /* low_delay_hrd_flag */
412
413         bs_write1( s, sps->vui.b_pic_struct_present );
414         bs_write1( s, sps->vui.b_bitstream_restriction );
415         if( sps->vui.b_bitstream_restriction )
416         {
417             bs_write1( s, sps->vui.b_motion_vectors_over_pic_boundaries );
418             bs_write_ue( s, sps->vui.i_max_bytes_per_pic_denom );
419             bs_write_ue( s, sps->vui.i_max_bits_per_mb_denom );
420             bs_write_ue( s, sps->vui.i_log2_max_mv_length_horizontal );
421             bs_write_ue( s, sps->vui.i_log2_max_mv_length_vertical );
422             bs_write_ue( s, sps->vui.i_num_reorder_frames );
423             bs_write_ue( s, sps->vui.i_max_dec_frame_buffering );
424         }
425     }
426
427     bs_rbsp_trailing( s );
428     bs_flush( s );
429 }
430
431 void x264_pps_init( x264_pps_t *pps, int i_id, x264_param_t *param, x264_sps_t *sps )
432 {
433     pps->i_id = i_id;
434     pps->i_sps_id = sps->i_id;
435     pps->b_cabac = param->b_cabac;
436
437     pps->b_pic_order = param->b_interlaced;
438     pps->i_num_slice_groups = 1;
439
440     pps->i_num_ref_idx_l0_default_active = param->i_frame_reference;
441     pps->i_num_ref_idx_l1_default_active = 1;
442
443     pps->b_weighted_pred = param->analyse.i_weighted_pred > 0;
444     pps->b_weighted_bipred = param->analyse.b_weighted_bipred ? 2 : 0;
445
446     pps->i_pic_init_qp = param->rc.i_rc_method == X264_RC_ABR ? 26 : param->rc.i_qp_constant;
447     pps->i_pic_init_qs = 26;
448
449     pps->i_chroma_qp_index_offset = param->analyse.i_chroma_qp_offset;
450     pps->b_deblocking_filter_control = 1;
451     pps->b_constrained_intra_pred = param->b_constrained_intra;
452     pps->b_redundant_pic_cnt = 0;
453
454     pps->b_transform_8x8_mode = param->analyse.b_transform_8x8 ? 1 : 0;
455
456     pps->i_cqm_preset = param->i_cqm_preset;
457     switch( pps->i_cqm_preset )
458     {
459     case X264_CQM_FLAT:
460         for( int i = 0; i < 6; i++ )
461             pps->scaling_list[i] = x264_cqm_flat16;
462         break;
463     case X264_CQM_JVT:
464         for( int i = 0; i < 6; i++ )
465             pps->scaling_list[i] = x264_cqm_jvt[i];
466         break;
467     case X264_CQM_CUSTOM:
468         /* match the transposed DCT & zigzag */
469         transpose( param->cqm_4iy, 4 );
470         transpose( param->cqm_4ic, 4 );
471         transpose( param->cqm_4py, 4 );
472         transpose( param->cqm_4pc, 4 );
473         transpose( param->cqm_8iy, 8 );
474         transpose( param->cqm_8py, 8 );
475         pps->scaling_list[CQM_4IY] = param->cqm_4iy;
476         pps->scaling_list[CQM_4IC] = param->cqm_4ic;
477         pps->scaling_list[CQM_4PY] = param->cqm_4py;
478         pps->scaling_list[CQM_4PC] = param->cqm_4pc;
479         pps->scaling_list[CQM_8IY+4] = param->cqm_8iy;
480         pps->scaling_list[CQM_8PY+4] = param->cqm_8py;
481         for( int i = 0; i < 6; i++ )
482             for( int j = 0; j < (i < 4 ? 16 : 64); j++ )
483                 if( pps->scaling_list[i][j] == 0 )
484                     pps->scaling_list[i] = x264_cqm_jvt[i];
485         break;
486     }
487 }
488
489 void x264_pps_write( bs_t *s, x264_pps_t *pps )
490 {
491     bs_realign( s );
492     bs_write_ue( s, pps->i_id );
493     bs_write_ue( s, pps->i_sps_id );
494
495     bs_write( s, 1, pps->b_cabac );
496     bs_write( s, 1, pps->b_pic_order );
497     bs_write_ue( s, pps->i_num_slice_groups - 1 );
498
499     bs_write_ue( s, pps->i_num_ref_idx_l0_default_active - 1 );
500     bs_write_ue( s, pps->i_num_ref_idx_l1_default_active - 1 );
501     bs_write( s, 1, pps->b_weighted_pred );
502     bs_write( s, 2, pps->b_weighted_bipred );
503
504     bs_write_se( s, pps->i_pic_init_qp - 26 - QP_BD_OFFSET );
505     bs_write_se( s, pps->i_pic_init_qs - 26 );
506     bs_write_se( s, pps->i_chroma_qp_index_offset );
507
508     bs_write( s, 1, pps->b_deblocking_filter_control );
509     bs_write( s, 1, pps->b_constrained_intra_pred );
510     bs_write( s, 1, pps->b_redundant_pic_cnt );
511
512     if( pps->b_transform_8x8_mode || pps->i_cqm_preset != X264_CQM_FLAT )
513     {
514         bs_write( s, 1, pps->b_transform_8x8_mode );
515         bs_write( s, 1, (pps->i_cqm_preset != X264_CQM_FLAT) );
516         if( pps->i_cqm_preset != X264_CQM_FLAT )
517         {
518             scaling_list_write( s, pps, CQM_4IY );
519             scaling_list_write( s, pps, CQM_4IC );
520             bs_write( s, 1, 0 ); // Cr = Cb
521             scaling_list_write( s, pps, CQM_4PY );
522             scaling_list_write( s, pps, CQM_4PC );
523             bs_write( s, 1, 0 ); // Cr = Cb
524             if( pps->b_transform_8x8_mode )
525             {
526                 scaling_list_write( s, pps, CQM_8IY+4 );
527                 scaling_list_write( s, pps, CQM_8PY+4 );
528             }
529         }
530         bs_write_se( s, pps->i_chroma_qp_index_offset );
531     }
532
533     bs_rbsp_trailing( s );
534     bs_flush( s );
535 }
536
537 void x264_sei_recovery_point_write( x264_t *h, bs_t *s, int recovery_frame_cnt )
538 {
539     bs_realign( s );
540     uint8_t *p_start = x264_sei_write_header( s, SEI_RECOVERY_POINT );
541
542     bs_write_ue( s, recovery_frame_cnt ); // recovery_frame_cnt
543     bs_write( s, 1, 1 ); //exact_match_flag 1
544     bs_write( s, 1, 0 ); //broken_link_flag 0
545     bs_write( s, 2, 0 ); //changing_slice_group 0
546
547     x264_sei_write( s, p_start );
548     bs_flush( s );
549 }
550
551 int x264_sei_version_write( x264_t *h, bs_t *s )
552 {
553     int i;
554     // random ID number generated according to ISO-11578
555     static const uint8_t uuid[16] =
556     {
557         0xdc, 0x45, 0xe9, 0xbd, 0xe6, 0xd9, 0x48, 0xb7,
558         0x96, 0x2c, 0xd8, 0x20, 0xd9, 0x23, 0xee, 0xef
559     };
560     char *opts = x264_param2string( &h->param, 0 );
561     char *version;
562     int length;
563
564     if( !opts )
565         return -1;
566     CHECKED_MALLOC( version, 200 + strlen( opts ) );
567
568     sprintf( version, "x264 - core %d%s - H.264/MPEG-4 AVC codec - "
569              "Copyleft 2003-2010 - http://www.videolan.org/x264.html - options: %s",
570              X264_BUILD, X264_VERSION, opts );
571     length = strlen(version)+1+16;
572
573     bs_realign( s );
574     bs_write( s, 8, SEI_USER_DATA_UNREGISTERED );
575     // payload_size
576     for( i = 0; i <= length-255; i += 255 )
577         bs_write( s, 8, 255 );
578     bs_write( s, 8, length-i );
579
580     for( int j = 0; j < 16; j++ )
581         bs_write( s, 8, uuid[j] );
582     for( int j = 0; j < length-16; j++ )
583         bs_write( s, 8, version[j] );
584
585     bs_rbsp_trailing( s );
586     bs_flush( s );
587
588     x264_free( opts );
589     x264_free( version );
590     return 0;
591 fail:
592     x264_free( opts );
593     return -1;
594 }
595
596 void x264_sei_buffering_period_write( x264_t *h, bs_t *s )
597 {
598     x264_sps_t *sps = h->sps;
599     bs_realign( s );
600     uint8_t *p_start = x264_sei_write_header( s, SEI_BUFFERING_PERIOD );
601
602     bs_write_ue( s, sps->i_id );
603
604     if( sps->vui.b_nal_hrd_parameters_present )
605     {
606         bs_write( s, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay );
607         bs_write( s, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay_offset );
608     }
609
610     x264_sei_write( s, p_start );
611     bs_flush( s );
612 }
613
614 void x264_sei_pic_timing_write( x264_t *h, bs_t *s )
615 {
616     x264_sps_t *sps = h->sps;
617     bs_realign( s );
618     uint8_t *p_start = x264_sei_write_header( s, SEI_PIC_TIMING );
619
620     if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
621     {
622         bs_write( s, sps->vui.hrd.i_cpb_removal_delay_length, h->fenc->i_cpb_delay );
623         bs_write( s, sps->vui.hrd.i_dpb_output_delay_length, h->fenc->i_dpb_output_delay );
624     }
625
626     if( sps->vui.b_pic_struct_present )
627     {
628         bs_write( s, 4, h->fenc->i_pic_struct-1 ); // We use index 0 for "Auto"
629
630         // These clock timestamps are not standardised so we don't set them
631         // They could be time of origin, capture or alternative ideal display
632         for( int i = 0; i < num_clock_ts[h->fenc->i_pic_struct]; i++ )
633             bs_write1( s, 0 ); // clock_timestamp_flag
634     }
635
636     x264_sei_write( s, p_start );
637     bs_flush( s );
638 }
639
640 void x264_filler_write( x264_t *h, bs_t *s, int filler )
641 {
642     bs_realign( s );
643
644     for( int i = 0; i < filler; i++ )
645         bs_write( s, 8, 0xff );
646
647     bs_rbsp_trailing( s );
648     bs_flush( s );
649 }
650
651 const x264_level_t x264_levels[] =
652 {
653     { 10,   1485,    99,   152064,     64,    175,  64, 64,  0, 2, 0, 0, 1 },
654     {  9,   1485,    99,   152064,    128,    350,  64, 64,  0, 2, 0, 0, 1 }, /* "1b" */
655     { 11,   3000,   396,   345600,    192,    500, 128, 64,  0, 2, 0, 0, 1 },
656     { 12,   6000,   396,   912384,    384,   1000, 128, 64,  0, 2, 0, 0, 1 },
657     { 13,  11880,   396,   912384,    768,   2000, 128, 64,  0, 2, 0, 0, 1 },
658     { 20,  11880,   396,   912384,   2000,   2000, 128, 64,  0, 2, 0, 0, 1 },
659     { 21,  19800,   792,  1824768,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
660     { 22,  20250,  1620,  3110400,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
661     { 30,  40500,  1620,  3110400,  10000,  10000, 256, 32, 22, 2, 0, 1, 0 },
662     { 31, 108000,  3600,  6912000,  14000,  14000, 512, 16, 60, 4, 1, 1, 0 },
663     { 32, 216000,  5120,  7864320,  20000,  20000, 512, 16, 60, 4, 1, 1, 0 },
664     { 40, 245760,  8192, 12582912,  20000,  25000, 512, 16, 60, 4, 1, 1, 0 },
665     { 41, 245760,  8192, 12582912,  50000,  62500, 512, 16, 24, 2, 1, 1, 0 },
666     { 42, 522240,  8704, 13369344,  50000,  62500, 512, 16, 24, 2, 1, 1, 1 },
667     { 50, 589824, 22080, 42393600, 135000, 135000, 512, 16, 24, 2, 1, 1, 1 },
668     { 51, 983040, 36864, 70778880, 240000, 240000, 512, 16, 24, 2, 1, 1, 1 },
669     { 0 }
670 };
671
672 #define ERROR(...)\
673 {\
674     if( verbose )\
675         x264_log( h, X264_LOG_WARNING, __VA_ARGS__ );\
676     ret = 1;\
677 }
678
679 int x264_validate_levels( x264_t *h, int verbose )
680 {
681     int ret = 0;
682     int mbs = h->sps->i_mb_width * h->sps->i_mb_height;
683     int dpb = mbs * 384 * h->sps->vui.i_max_dec_frame_buffering;
684     int cbp_factor = h->sps->i_profile_idc==PROFILE_HIGH10 ? 12 :
685                      h->sps->i_profile_idc==PROFILE_HIGH ? 5 : 4;
686
687     const x264_level_t *l = x264_levels;
688     while( l->level_idc != 0 && l->level_idc != h->param.i_level_idc )
689         l++;
690
691     if( l->frame_size < mbs
692         || l->frame_size*8 < h->sps->i_mb_width * h->sps->i_mb_width
693         || l->frame_size*8 < h->sps->i_mb_height * h->sps->i_mb_height )
694         ERROR( "frame MB size (%dx%d) > level limit (%d)\n",
695                h->sps->i_mb_width, h->sps->i_mb_height, l->frame_size );
696     if( dpb > l->dpb )
697         ERROR( "DPB size (%d frames, %d bytes) > level limit (%d frames, %d bytes)\n",
698                 h->sps->vui.i_max_dec_frame_buffering, dpb, (int)(l->dpb / (384*mbs)), l->dpb );
699
700 #define CHECK( name, limit, val ) \
701     if( (val) > (limit) ) \
702         ERROR( name " (%d) > level limit (%d)\n", (int)(val), (limit) );
703
704     CHECK( "VBV bitrate", (l->bitrate * cbp_factor) / 4, h->param.rc.i_vbv_max_bitrate );
705     CHECK( "VBV buffer", (l->cpb * cbp_factor) / 4, h->param.rc.i_vbv_buffer_size );
706     CHECK( "MV range", l->mv_range, h->param.analyse.i_mv_range );
707     CHECK( "interlaced", !l->frame_only, h->param.b_interlaced );
708     CHECK( "fake interlaced", !l->frame_only, h->param.b_fake_interlaced );
709
710     if( h->param.i_fps_den > 0 )
711         CHECK( "MB rate", l->mbps, (int64_t)mbs * h->param.i_fps_num / h->param.i_fps_den );
712
713     /* TODO check the rest of the limits */
714     return ret;
715 }