git.sesse.net Git - ffmpeg/blob - libavcodec/h264_metadata_bsf.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include "libavutil/avstring.h"
  20 #include "libavutil/display.h"
  21 #include "libavutil/common.h"
  22 #include "libavutil/opt.h"
  23
  24 #include "bsf.h"
  25 #include "bsf_internal.h"
  26 #include "cbs.h"
  27 #include "cbs_h264.h"
  28 #include "h264.h"
  29 #include "h264_levels.h"
  30 #include "h264_sei.h"
  31
  32 enum {
  33     PASS,
  34     INSERT,
  35     REMOVE,
  36     EXTRACT,
  37 };
  38
  39 enum {
  40     FLIP_HORIZONTAL = 1,
  41     FLIP_VERTICAL   = 2,
  42 };
  43
  44 enum {
  45     LEVEL_UNSET = -2,
  46     LEVEL_AUTO  = -1,
  47 };
  48
  49 typedef struct H264MetadataContext {
  50     const AVClass *class;
  51
  52     CodedBitstreamContext *cbc;
  53     CodedBitstreamFragment access_unit;
  54
  55     int done_first_au;
  56
  57     int aud;
  58
  59     AVRational sample_aspect_ratio;
  60
  61     int overscan_appropriate_flag;
  62
  63     int video_format;
  64     int video_full_range_flag;
  65     int colour_primaries;
  66     int transfer_characteristics;
  67     int matrix_coefficients;
  68
  69     int chroma_sample_loc_type;
  70
  71     AVRational tick_rate;
  72     int fixed_frame_rate_flag;
  73
  74     int crop_left;
  75     int crop_right;
  76     int crop_top;
  77     int crop_bottom;
  78
  79     const char *sei_user_data;
  80
  81     int delete_filler;
  82
  83     int display_orientation;
  84     double rotate;
  85     int flip;
  86
  87     int level;
  88 } H264MetadataContext;
  89
  90
  91 static int h264_metadata_update_sps(AVBSFContext *bsf,
  92                                     H264RawSPS *sps)
  93 {
  94     H264MetadataContext *ctx = bsf->priv_data;
  95     int need_vui = 0;
  96     int crop_unit_x, crop_unit_y;
  97
  98     if (ctx->sample_aspect_ratio.num && ctx->sample_aspect_ratio.den) {
  99         // Table E-1.
 100         static const AVRational sar_idc[] = {
 101             {   0,  0 }, // Unspecified (never written here).
 102             {   1,  1 }, {  12, 11 }, {  10, 11 }, {  16, 11 },
 103             {  40, 33 }, {  24, 11 }, {  20, 11 }, {  32, 11 },
 104             {  80, 33 }, {  18, 11 }, {  15, 11 }, {  64, 33 },
 105             { 160, 99 }, {   4,  3 }, {   3,  2 }, {   2,  1 },
 106         };
 107         int num, den, i;
 108
 109         av_reduce(&num, &den, ctx->sample_aspect_ratio.num,
 110                   ctx->sample_aspect_ratio.den, 65535);
 111
 112         for (i = 1; i < FF_ARRAY_ELEMS(sar_idc); i++) {
 113             if (num == sar_idc[i].num &&
 114                 den == sar_idc[i].den)
 115                 break;
 116         }
 117         if (i == FF_ARRAY_ELEMS(sar_idc)) {
 118             sps->vui.aspect_ratio_idc = 255;
 119             sps->vui.sar_width  = num;
 120             sps->vui.sar_height = den;
 121         } else {
 122             sps->vui.aspect_ratio_idc = i;
 123         }
 124         sps->vui.aspect_ratio_info_present_flag = 1;
 125         need_vui = 1;
 126     }
 127
 128 #define SET_VUI_FIELD(field) do { \
 129         if (ctx->field >= 0) { \
 130             sps->vui.field = ctx->field; \
 131             need_vui = 1; \
 132         } \
 133     } while (0)
 134
 135     if (ctx->overscan_appropriate_flag >= 0) {
 136         SET_VUI_FIELD(overscan_appropriate_flag);
 137         sps->vui.overscan_info_present_flag = 1;
 138     }
 139
 140     if (ctx->video_format             >= 0 ||
 141         ctx->video_full_range_flag    >= 0 ||
 142         ctx->colour_primaries         >= 0 ||
 143         ctx->transfer_characteristics >= 0 ||
 144         ctx->matrix_coefficients      >= 0) {
 145
 146         SET_VUI_FIELD(video_format);
 147
 148         SET_VUI_FIELD(video_full_range_flag);
 149
 150         if (ctx->colour_primaries         >= 0 ||
 151             ctx->transfer_characteristics >= 0 ||
 152             ctx->matrix_coefficients      >= 0) {
 153
 154             SET_VUI_FIELD(colour_primaries);
 155             SET_VUI_FIELD(transfer_characteristics);
 156             SET_VUI_FIELD(matrix_coefficients);
 157
 158             sps->vui.colour_description_present_flag = 1;
 159         }
 160         sps->vui.video_signal_type_present_flag = 1;
 161     }
 162
 163     if (ctx->chroma_sample_loc_type >= 0) {
 164         sps->vui.chroma_sample_loc_type_top_field =
 165             ctx->chroma_sample_loc_type;
 166         sps->vui.chroma_sample_loc_type_bottom_field =
 167             ctx->chroma_sample_loc_type;
 168         sps->vui.chroma_loc_info_present_flag = 1;
 169         need_vui = 1;
 170     }
 171
 172     if (ctx->tick_rate.num && ctx->tick_rate.den) {
 173         int num, den;
 174
 175         av_reduce(&num, &den, ctx->tick_rate.num, ctx->tick_rate.den,
 176                   UINT32_MAX > INT_MAX ? UINT32_MAX : INT_MAX);
 177
 178         sps->vui.time_scale        = num;
 179         sps->vui.num_units_in_tick = den;
 180
 181         sps->vui.timing_info_present_flag = 1;
 182         need_vui = 1;
 183     }
 184     SET_VUI_FIELD(fixed_frame_rate_flag);
 185
 186     if (sps->separate_colour_plane_flag || sps->chroma_format_idc == 0) {
 187         crop_unit_x = 1;
 188         crop_unit_y = 2 - sps->frame_mbs_only_flag;
 189     } else {
 190         crop_unit_x = 1 + (sps->chroma_format_idc < 3);
 191         crop_unit_y = (1 + (sps->chroma_format_idc < 2)) *
 192                        (2 - sps->frame_mbs_only_flag);
 193     }
 194 #define CROP(border, unit) do { \
 195         if (ctx->crop_ ## border >= 0) { \
 196             if (ctx->crop_ ## border % unit != 0) { \
 197                 av_log(bsf, AV_LOG_ERROR, "Invalid value for crop_%s: " \
 198                        "must be a multiple of %d.\n", #border, unit); \
 199                 return AVERROR(EINVAL); \
 200             } \
 201             sps->frame_crop_ ## border ## _offset = \
 202                   ctx->crop_ ## border / unit; \
 203             sps->frame_cropping_flag = 1; \
 204         } \
 205     } while (0)
 206     CROP(left,   crop_unit_x);
 207     CROP(right,  crop_unit_x);
 208     CROP(top,    crop_unit_y);
 209     CROP(bottom, crop_unit_y);
 210 #undef CROP
 211
 212     if (ctx->level != LEVEL_UNSET) {
 213         int level_idc;
 214
 215         if (ctx->level == LEVEL_AUTO) {
 216             const H264LevelDescriptor *desc;
 217             int64_t bit_rate;
 218             int width, height, dpb_frames;
 219             int framerate;
 220
 221             if (sps->vui.nal_hrd_parameters_present_flag) {
 222                 bit_rate = (sps->vui.nal_hrd_parameters.bit_rate_value_minus1[0] + 1) *
 223                     (INT64_C(1) << (sps->vui.nal_hrd_parameters.bit_rate_scale + 6));
 224             } else if (sps->vui.vcl_hrd_parameters_present_flag) {
 225                 bit_rate = (sps->vui.vcl_hrd_parameters.bit_rate_value_minus1[0] + 1) *
 226                     (INT64_C(1) << (sps->vui.vcl_hrd_parameters.bit_rate_scale + 6));
 227                 // Adjust for VCL vs. NAL limits.
 228                 bit_rate = bit_rate * 6 / 5;
 229             } else {
 230                 bit_rate = 0;
 231             }
 232
 233             // Don't use max_dec_frame_buffering if it is only inferred.
 234             dpb_frames = sps->vui.bitstream_restriction_flag ?
 235                 sps->vui.max_dec_frame_buffering : H264_MAX_DPB_FRAMES;
 236
 237             width  = 16 * (sps->pic_width_in_mbs_minus1 + 1);
 238             height = 16 * (sps->pic_height_in_map_units_minus1 + 1) *
 239                 (2 - sps->frame_mbs_only_flag);
 240
 241             if (sps->vui.timing_info_present_flag)
 242                 framerate = sps->vui.time_scale / sps->vui.num_units_in_tick / 2;
 243             else
 244                 framerate = 0;
 245
 246             desc = ff_h264_guess_level(sps->profile_idc, bit_rate, framerate,
 247                                        width, height, dpb_frames);
 248             if (desc) {
 249                 level_idc = desc->level_idc;
 250             } else {
 251                 av_log(bsf, AV_LOG_WARNING, "Stream does not appear to "
 252                        "conform to any level: using level 6.2.\n");
 253                 level_idc = 62;
 254             }
 255         } else {
 256             level_idc = ctx->level;
 257         }
 258
 259         if (level_idc == 9) {
 260             if (sps->profile_idc == 66 ||
 261                 sps->profile_idc == 77 ||
 262                 sps->profile_idc == 88) {
 263                 sps->level_idc = 11;
 264                 sps->constraint_set3_flag = 1;
 265             } else {
 266                 sps->level_idc = 9;
 267             }
 268         } else {
 269             sps->level_idc = level_idc;
 270         }
 271     }
 272
 273     if (need_vui)
 274         sps->vui_parameters_present_flag = 1;
 275
 276     return 0;
 277 }
 278
 279 static int h264_metadata_update_side_data(AVBSFContext *bsf, AVPacket *pkt)
 280 {
 281     H264MetadataContext *ctx = bsf->priv_data;
 282     CodedBitstreamFragment *au = &ctx->access_unit;
 283     uint8_t *side_data;
 284     int side_data_size;
 285     int err, i;
 286
 287     side_data = av_packet_get_side_data(pkt, AV_PKT_DATA_NEW_EXTRADATA,
 288                                         &side_data_size);
 289     if (!side_data_size)
 290         return 0;
 291
 292     err = ff_cbs_read(ctx->cbc, au, side_data, side_data_size);
 293     if (err < 0) {
 294         av_log(bsf, AV_LOG_ERROR, "Failed to read extradata from packet side data.\n");
 295         return err;
 296     }
 297
 298     for (i = 0; i < au->nb_units; i++) {
 299         if (au->units[i].type == H264_NAL_SPS) {
 300             err = h264_metadata_update_sps(bsf, au->units[i].content);
 301             if (err < 0)
 302                 return err;
 303         }
 304     }
 305
 306     err = ff_cbs_write_fragment_data(ctx->cbc, au);
 307     if (err < 0) {
 308         av_log(bsf, AV_LOG_ERROR, "Failed to write extradata into packet side data.\n");
 309         return err;
 310     }
 311
 312     side_data = av_packet_new_side_data(pkt, AV_PKT_DATA_NEW_EXTRADATA, au->data_size);
 313     if (!side_data)
 314         return AVERROR(ENOMEM);
 315     memcpy(side_data, au->data, au->data_size);
 316
 317     ff_cbs_fragment_reset(ctx->cbc, au);
 318
 319     return 0;
 320 }
 321
 322 static int h264_metadata_filter(AVBSFContext *bsf, AVPacket *pkt)
 323 {
 324     H264MetadataContext *ctx = bsf->priv_data;
 325     CodedBitstreamFragment *au = &ctx->access_unit;
 326     int err, i, j, has_sps;
 327     H264RawAUD aud;
 328
 329     err = ff_bsf_get_packet_ref(bsf, pkt);
 330     if (err < 0)
 331         return err;
 332
 333     err = h264_metadata_update_side_data(bsf, pkt);
 334     if (err < 0)
 335         goto fail;
 336
 337     err = ff_cbs_read_packet(ctx->cbc, au, pkt);
 338     if (err < 0) {
 339         av_log(bsf, AV_LOG_ERROR, "Failed to read packet.\n");
 340         goto fail;
 341     }
 342
 343     if (au->nb_units == 0) {
 344         av_log(bsf, AV_LOG_ERROR, "No NAL units in packet.\n");
 345         err = AVERROR_INVALIDDATA;
 346         goto fail;
 347     }
 348
 349     // If an AUD is present, it must be the first NAL unit.
 350     if (au->units[0].type == H264_NAL_AUD) {
 351         if (ctx->aud == REMOVE)
 352             ff_cbs_delete_unit(ctx->cbc, au, 0);
 353     } else {
 354         if (ctx->aud == INSERT) {
 355             static const int primary_pic_type_table[] = {
 356                 0x084, // 2, 7
 357                 0x0a5, // 0, 2, 5, 7
 358                 0x0e7, // 0, 1, 2, 5, 6, 7
 359                 0x210, // 4, 9
 360                 0x318, // 3, 4, 8, 9
 361                 0x294, // 2, 4, 7, 9
 362                 0x3bd, // 0, 2, 3, 4, 5, 7, 8, 9
 363                 0x3ff, // 0, 1, 2, 3, 4, 5, 6, 7, 8, 9
 364             };
 365             int primary_pic_type_mask = 0xff;
 366
 367             for (i = 0; i < au->nb_units; i++) {
 368                 if (au->units[i].type == H264_NAL_SLICE ||
 369                     au->units[i].type == H264_NAL_IDR_SLICE) {
 370                     H264RawSlice *slice = au->units[i].content;
 371                     for (j = 0; j < FF_ARRAY_ELEMS(primary_pic_type_table); j++) {
 372                          if (!(primary_pic_type_table[j] &
 373                                (1 << slice->header.slice_type)))
 374                              primary_pic_type_mask &= ~(1 << j);
 375                     }
 376                 }
 377             }
 378             for (j = 0; j < FF_ARRAY_ELEMS(primary_pic_type_table); j++)
 379                 if (primary_pic_type_mask & (1 << j))
 380                     break;
 381             if (j >= FF_ARRAY_ELEMS(primary_pic_type_table)) {
 382                 av_log(bsf, AV_LOG_ERROR, "No usable primary_pic_type: "
 383                        "invalid slice types?\n");
 384                 err = AVERROR_INVALIDDATA;
 385                 goto fail;
 386             }
 387
 388             aud = (H264RawAUD) {
 389                 .nal_unit_header.nal_unit_type = H264_NAL_AUD,
 390                 .primary_pic_type = j,
 391             };
 392
 393             err = ff_cbs_insert_unit_content(ctx->cbc, au,
 394                                              0, H264_NAL_AUD, &aud, NULL);
 395             if (err < 0) {
 396                 av_log(bsf, AV_LOG_ERROR, "Failed to insert AUD.\n");
 397                 goto fail;
 398             }
 399         }
 400     }
 401
 402     has_sps = 0;
 403     for (i = 0; i < au->nb_units; i++) {
 404         if (au->units[i].type == H264_NAL_SPS) {
 405             err = h264_metadata_update_sps(bsf, au->units[i].content);
 406             if (err < 0)
 407                 goto fail;
 408             has_sps = 1;
 409         }
 410     }
 411
 412     // Only insert the SEI in access units containing SPSs, and also
 413     // unconditionally in the first access unit we ever see.
 414     if (ctx->sei_user_data && (has_sps || !ctx->done_first_au)) {
 415         H264RawSEIPayload payload = {
 416             .payload_type = H264_SEI_TYPE_USER_DATA_UNREGISTERED,
 417         };
 418         H264RawSEIUserDataUnregistered *udu =
 419             &payload.payload.user_data_unregistered;
 420
 421         for (i = j = 0; j < 32 && ctx->sei_user_data[i]; i++) {
 422             int c, v;
 423             c = ctx->sei_user_data[i];
 424             if (c == '-') {
 425                 continue;
 426             } else if (av_isxdigit(c)) {
 427                 c = av_tolower(c);
 428                 v = (c <= '9' ? c - '0' : c - 'a' + 10);
 429             } else {
 430                 goto invalid_user_data;
 431             }
 432             if (j & 1)
 433                 udu->uuid_iso_iec_11578[j / 2] |= v;
 434             else
 435                 udu->uuid_iso_iec_11578[j / 2] = v << 4;
 436             ++j;
 437         }
 438         if (j == 32 && ctx->sei_user_data[i] == '+') {
 439             size_t len = strlen(ctx->sei_user_data + i + 1);
 440
 441             udu->data_ref = av_buffer_alloc(len + 1);
 442             if (!udu->data_ref) {
 443                 err = AVERROR(ENOMEM);
 444                 goto fail;
 445             }
 446
 447             udu->data        = udu->data_ref->data;
 448             udu->data_length = len + 1;
 449             memcpy(udu->data, ctx->sei_user_data + i + 1, len + 1);
 450
 451             err = ff_cbs_h264_add_sei_message(ctx->cbc, au, &payload);
 452             if (err < 0) {
 453                 av_log(bsf, AV_LOG_ERROR, "Failed to add user data SEI "
 454                        "message to access unit.\n");
 455                 goto fail;
 456             }
 457
 458         } else {
 459         invalid_user_data:
 460             av_log(bsf, AV_LOG_ERROR, "Invalid user data: "
 461                    "must be \"UUID+string\".\n");
 462             err = AVERROR(EINVAL);
 463             goto fail;
 464         }
 465     }
 466
 467     if (ctx->delete_filler) {
 468         for (i = au->nb_units - 1; i >= 0; i--) {
 469             if (au->units[i].type == H264_NAL_FILLER_DATA) {
 470                 ff_cbs_delete_unit(ctx->cbc, au, i);
 471                 continue;
 472             }
 473
 474             if (au->units[i].type == H264_NAL_SEI) {
 475                 // Filler SEI messages.
 476                 H264RawSEI *sei = au->units[i].content;
 477
 478                 for (j = sei->payload_count - 1; j >= 0; j--) {
 479                     if (sei->payload[j].payload_type ==
 480                         H264_SEI_TYPE_FILLER_PAYLOAD)
 481                         ff_cbs_h264_delete_sei_message(ctx->cbc, au,
 482                                                        &au->units[i], j);
 483                 }
 484             }
 485         }
 486     }
 487
 488     if (ctx->display_orientation != PASS) {
 489         for (i = au->nb_units - 1; i >= 0; i--) {
 490             H264RawSEI *sei;
 491             if (au->units[i].type != H264_NAL_SEI)
 492                 continue;
 493             sei = au->units[i].content;
 494
 495             for (j = sei->payload_count - 1; j >= 0; j--) {
 496                 H264RawSEIDisplayOrientation *disp;
 497                 int32_t *matrix;
 498
 499                 if (sei->payload[j].payload_type !=
 500                     H264_SEI_TYPE_DISPLAY_ORIENTATION)
 501                     continue;
 502                 disp = &sei->payload[j].payload.display_orientation;
 503
 504                 if (ctx->display_orientation == REMOVE ||
 505                     ctx->display_orientation == INSERT) {
 506                     ff_cbs_h264_delete_sei_message(ctx->cbc, au,
 507                                                    &au->units[i], j);
 508                     continue;
 509                 }
 510
 511                 matrix = av_malloc(9 * sizeof(int32_t));
 512                 if (!matrix) {
 513                     err = AVERROR(ENOMEM);
 514                     goto fail;
 515                 }
 516
 517                 av_display_rotation_set(matrix,
 518                                         disp->anticlockwise_rotation *
 519                                         180.0 / 65536.0);
 520                 av_display_matrix_flip(matrix, disp->hor_flip, disp->ver_flip);
 521
 522                 // If there are multiple display orientation messages in an
 523                 // access unit, then the last one added to the packet (i.e.
 524                 // the first one in the access unit) will prevail.
 525                 err = av_packet_add_side_data(pkt, AV_PKT_DATA_DISPLAYMATRIX,
 526                                               (uint8_t*)matrix,
 527                                               9 * sizeof(int32_t));
 528                 if (err < 0) {
 529                     av_log(bsf, AV_LOG_ERROR, "Failed to attach extracted "
 530                            "displaymatrix side data to packet.\n");
 531                     av_free(matrix);
 532                     goto fail;
 533                 }
 534             }
 535         }
 536     }
 537     if (ctx->display_orientation == INSERT) {
 538         H264RawSEIPayload payload = {
 539             .payload_type = H264_SEI_TYPE_DISPLAY_ORIENTATION,
 540         };
 541         H264RawSEIDisplayOrientation *disp =
 542             &payload.payload.display_orientation;
 543         uint8_t *data;
 544         int size;
 545         int write = 0;
 546
 547         data = av_packet_get_side_data(pkt, AV_PKT_DATA_DISPLAYMATRIX, &size);
 548         if (data && size >= 9 * sizeof(int32_t)) {
 549             int32_t matrix[9];
 550             int hflip, vflip;
 551             double angle;
 552
 553             memcpy(matrix, data, sizeof(matrix));
 554
 555             hflip = vflip = 0;
 556             if (matrix[0] < 0 && matrix[4] > 0)
 557                 hflip = 1;
 558             else if (matrix[0] > 0 && matrix[4] < 0)
 559                 vflip = 1;
 560             av_display_matrix_flip(matrix, hflip, vflip);
 561
 562             angle = av_display_rotation_get(matrix);
 563
 564             if (!(angle >= -180.0 && angle <= 180.0 /* also excludes NaN */) ||
 565                 matrix[2] != 0 || matrix[5] != 0 ||
 566                 matrix[6] != 0 || matrix[7] != 0) {
 567                 av_log(bsf, AV_LOG_WARNING, "Input display matrix is not "
 568                        "representable in H.264 parameters.\n");
 569             } else {
 570                 disp->hor_flip = hflip;
 571                 disp->ver_flip = vflip;
 572                 disp->anticlockwise_rotation =
 573                     (uint16_t)rint((angle >= 0.0 ? angle
 574                                                  : angle + 360.0) *
 575                                    65536.0 / 360.0);
 576                 write = 1;
 577             }
 578         }
 579
 580         if (has_sps || !ctx->done_first_au) {
 581             if (!isnan(ctx->rotate)) {
 582                 disp->anticlockwise_rotation =
 583                     (uint16_t)rint((ctx->rotate >= 0.0 ? ctx->rotate
 584                                                        : ctx->rotate + 360.0) *
 585                                    65536.0 / 360.0);
 586                 write = 1;
 587             }
 588             if (ctx->flip) {
 589                 disp->hor_flip = !!(ctx->flip & FLIP_HORIZONTAL);
 590                 disp->ver_flip = !!(ctx->flip & FLIP_VERTICAL);
 591                 write = 1;
 592             }
 593         }
 594
 595         if (write) {
 596             disp->display_orientation_repetition_period = 1;
 597
 598             err = ff_cbs_h264_add_sei_message(ctx->cbc, au, &payload);
 599             if (err < 0) {
 600                 av_log(bsf, AV_LOG_ERROR, "Failed to add display orientation "
 601                        "SEI message to access unit.\n");
 602                 goto fail;
 603             }
 604         }
 605     }
 606
 607     err = ff_cbs_write_packet(ctx->cbc, pkt, au);
 608     if (err < 0) {
 609         av_log(bsf, AV_LOG_ERROR, "Failed to write packet.\n");
 610         goto fail;
 611     }
 612
 613     ctx->done_first_au = 1;
 614
 615     err = 0;
 616 fail:
 617     ff_cbs_fragment_reset(ctx->cbc, au);
 618
 619     if (err < 0)
 620         av_packet_unref(pkt);
 621
 622     return err;
 623 }
 624
 625 static int h264_metadata_init(AVBSFContext *bsf)
 626 {
 627     H264MetadataContext *ctx = bsf->priv_data;
 628     CodedBitstreamFragment *au = &ctx->access_unit;
 629     int err, i;
 630
 631     err = ff_cbs_init(&ctx->cbc, AV_CODEC_ID_H264, bsf);
 632     if (err < 0)
 633         return err;
 634
 635     if (bsf->par_in->extradata) {
 636         err = ff_cbs_read_extradata(ctx->cbc, au, bsf->par_in);
 637         if (err < 0) {
 638             av_log(bsf, AV_LOG_ERROR, "Failed to read extradata.\n");
 639             goto fail;
 640         }
 641
 642         for (i = 0; i < au->nb_units; i++) {
 643             if (au->units[i].type == H264_NAL_SPS) {
 644                 err = h264_metadata_update_sps(bsf, au->units[i].content);
 645                 if (err < 0)
 646                     goto fail;
 647             }
 648         }
 649
 650         err = ff_cbs_write_extradata(ctx->cbc, bsf->par_out, au);
 651         if (err < 0) {
 652             av_log(bsf, AV_LOG_ERROR, "Failed to write extradata.\n");
 653             goto fail;
 654         }
 655     }
 656
 657     err = 0;
 658 fail:
 659     ff_cbs_fragment_reset(ctx->cbc, au);
 660     return err;
 661 }
 662
 663 static void h264_metadata_close(AVBSFContext *bsf)
 664 {
 665     H264MetadataContext *ctx = bsf->priv_data;
 666
 667     ff_cbs_fragment_free(ctx->cbc, &ctx->access_unit);
 668     ff_cbs_close(&ctx->cbc);
 669 }
 670
 671 #define OFFSET(x) offsetof(H264MetadataContext, x)
 672 #define FLAGS (AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_BSF_PARAM)
 673 static const AVOption h264_metadata_options[] = {
 674     { "aud", "Access Unit Delimiter NAL units",
 675         OFFSET(aud), AV_OPT_TYPE_INT,
 676         { .i64 = PASS }, PASS, REMOVE, FLAGS, "aud" },
 677     { "pass",   NULL, 0, AV_OPT_TYPE_CONST,
 678         { .i64 = PASS   }, .flags = FLAGS, .unit = "aud" },
 679     { "insert", NULL, 0, AV_OPT_TYPE_CONST,
 680         { .i64 = INSERT }, .flags = FLAGS, .unit = "aud" },
 681     { "remove", NULL, 0, AV_OPT_TYPE_CONST,
 682         { .i64 = REMOVE }, .flags = FLAGS, .unit = "aud" },
 683
 684     { "sample_aspect_ratio", "Set sample aspect ratio (table E-1)",
 685         OFFSET(sample_aspect_ratio), AV_OPT_TYPE_RATIONAL,
 686         { .dbl = 0.0 }, 0, 65535, FLAGS },
 687
 688     { "overscan_appropriate_flag", "Set VUI overscan appropriate flag",
 689         OFFSET(overscan_appropriate_flag), AV_OPT_TYPE_INT,
 690         { .i64 = -1 }, -1, 1, FLAGS },
 691
 692     { "video_format", "Set video format (table E-2)",
 693         OFFSET(video_format), AV_OPT_TYPE_INT,
 694         { .i64 = -1 }, -1, 7, FLAGS},
 695     { "video_full_range_flag", "Set video full range flag",
 696         OFFSET(video_full_range_flag), AV_OPT_TYPE_INT,
 697         { .i64 = -1 }, -1, 1, FLAGS },
 698     { "colour_primaries", "Set colour primaries (table E-3)",
 699         OFFSET(colour_primaries), AV_OPT_TYPE_INT,
 700         { .i64 = -1 }, -1, 255, FLAGS },
 701     { "transfer_characteristics", "Set transfer characteristics (table E-4)",
 702         OFFSET(transfer_characteristics), AV_OPT_TYPE_INT,
 703         { .i64 = -1 }, -1, 255, FLAGS },
 704     { "matrix_coefficients", "Set matrix coefficients (table E-5)",
 705         OFFSET(matrix_coefficients), AV_OPT_TYPE_INT,
 706         { .i64 = -1 }, -1, 255, FLAGS },
 707
 708     { "chroma_sample_loc_type", "Set chroma sample location type (figure E-1)",
 709         OFFSET(chroma_sample_loc_type), AV_OPT_TYPE_INT,
 710         { .i64 = -1 }, -1, 6, FLAGS },
 711
 712     { "tick_rate", "Set VUI tick rate (num_units_in_tick / time_scale)",
 713         OFFSET(tick_rate), AV_OPT_TYPE_RATIONAL,
 714         { .dbl = 0.0 }, 0, UINT_MAX, FLAGS },
 715     { "fixed_frame_rate_flag", "Set VUI fixed frame rate flag",
 716         OFFSET(fixed_frame_rate_flag), AV_OPT_TYPE_INT,
 717         { .i64 = -1 }, -1, 1, FLAGS },
 718
 719     { "crop_left", "Set left border crop offset",
 720         OFFSET(crop_left), AV_OPT_TYPE_INT,
 721         { .i64 = -1 }, -1, H264_MAX_WIDTH, FLAGS },
 722     { "crop_right", "Set right border crop offset",
 723         OFFSET(crop_right), AV_OPT_TYPE_INT,
 724         { .i64 = -1 }, -1, H264_MAX_WIDTH, FLAGS },
 725     { "crop_top", "Set top border crop offset",
 726         OFFSET(crop_top), AV_OPT_TYPE_INT,
 727         { .i64 = -1 }, -1, H264_MAX_HEIGHT, FLAGS },
 728     { "crop_bottom", "Set bottom border crop offset",
 729         OFFSET(crop_bottom), AV_OPT_TYPE_INT,
 730         { .i64 = -1 }, -1, H264_MAX_HEIGHT, FLAGS },
 731
 732     { "sei_user_data", "Insert SEI user data (UUID+string)",
 733         OFFSET(sei_user_data), AV_OPT_TYPE_STRING, { .str = NULL }, .flags = FLAGS },
 734
 735     { "delete_filler", "Delete all filler (both NAL and SEI)",
 736         OFFSET(delete_filler), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, FLAGS},
 737
 738     { "display_orientation", "Display orientation SEI",
 739         OFFSET(display_orientation), AV_OPT_TYPE_INT,
 740         { .i64 = PASS }, PASS, EXTRACT, FLAGS, "disp_or" },
 741     { "pass",    NULL, 0, AV_OPT_TYPE_CONST,
 742         { .i64 = PASS    }, .flags = FLAGS, .unit = "disp_or" },
 743     { "insert",  NULL, 0, AV_OPT_TYPE_CONST,
 744         { .i64 = INSERT  }, .flags = FLAGS, .unit = "disp_or" },
 745     { "remove",  NULL, 0, AV_OPT_TYPE_CONST,
 746         { .i64 = REMOVE  }, .flags = FLAGS, .unit = "disp_or" },
 747     { "extract", NULL, 0, AV_OPT_TYPE_CONST,
 748         { .i64 = EXTRACT }, .flags = FLAGS, .unit = "disp_or" },
 749
 750     { "rotate", "Set rotation in display orientation SEI (anticlockwise angle in degrees)",
 751         OFFSET(rotate), AV_OPT_TYPE_DOUBLE,
 752         { .dbl = NAN }, -360.0, +360.0, FLAGS },
 753     { "flip", "Set flip in display orientation SEI",
 754         OFFSET(flip), AV_OPT_TYPE_FLAGS,
 755         { .i64 = 0 }, 0, FLIP_HORIZONTAL | FLIP_VERTICAL, FLAGS, "flip" },
 756     { "horizontal", "Set hor_flip",
 757         0, AV_OPT_TYPE_CONST,
 758         { .i64 = FLIP_HORIZONTAL }, .flags = FLAGS, .unit = "flip" },
 759     { "vertical",   "Set ver_flip",
 760         0, AV_OPT_TYPE_CONST,
 761         { .i64 = FLIP_VERTICAL },   .flags = FLAGS, .unit = "flip" },
 762
 763     { "level", "Set level (table A-1)",
 764         OFFSET(level), AV_OPT_TYPE_INT,
 765         { .i64 = LEVEL_UNSET }, LEVEL_UNSET, 0xff, FLAGS, "level" },
 766     { "auto", "Attempt to guess level from stream properties",
 767         0, AV_OPT_TYPE_CONST,
 768         { .i64 = LEVEL_AUTO }, .flags = FLAGS, .unit = "level" },
 769 #define LEVEL(name, value) name, NULL, 0, AV_OPT_TYPE_CONST, \
 770         { .i64 = value },      .flags = FLAGS, .unit = "level"
 771     { LEVEL("1",   10) },
 772     { LEVEL("1b",   9) },
 773     { LEVEL("1.1", 11) },
 774     { LEVEL("1.2", 12) },
 775     { LEVEL("1.3", 13) },
 776     { LEVEL("2",   20) },
 777     { LEVEL("2.1", 21) },
 778     { LEVEL("2.2", 22) },
 779     { LEVEL("3",   30) },
 780     { LEVEL("3.1", 31) },
 781     { LEVEL("3.2", 32) },
 782     { LEVEL("4",   40) },
 783     { LEVEL("4.1", 41) },
 784     { LEVEL("4.2", 42) },
 785     { LEVEL("5",   50) },
 786     { LEVEL("5.1", 51) },
 787     { LEVEL("5.2", 52) },
 788     { LEVEL("6",   60) },
 789     { LEVEL("6.1", 61) },
 790     { LEVEL("6.2", 62) },
 791 #undef LEVEL
 792
 793     { NULL }
 794 };
 795
 796 static const AVClass h264_metadata_class = {
 797     .class_name = "h264_metadata_bsf",
 798     .item_name  = av_default_item_name,
 799     .option     = h264_metadata_options,
 800     .version    = LIBAVUTIL_VERSION_INT,
 801 };
 802
 803 static const enum AVCodecID h264_metadata_codec_ids[] = {
 804     AV_CODEC_ID_H264, AV_CODEC_ID_NONE,
 805 };
 806
 807 const AVBitStreamFilter ff_h264_metadata_bsf = {
 808     .name           = "h264_metadata",
 809     .priv_data_size = sizeof(H264MetadataContext),
 810     .priv_class     = &h264_metadata_class,
 811     .init           = &h264_metadata_init,
 812     .close          = &h264_metadata_close,
 813     .filter         = &h264_metadata_filter,
 814     .codec_ids      = h264_metadata_codec_ids,
 815 };