git.sesse.net Git - ffmpeg/blob - libavcodec/h264_metadata_bsf.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include "libavutil/avstring.h"
  20 #include "libavutil/display.h"
  21 #include "libavutil/common.h"
  22 #include "libavutil/opt.h"
  23
  24 #include "bsf.h"
  25 #include "cbs.h"
  26 #include "cbs_h264.h"
  27 #include "h264.h"
  28 #include "h264_levels.h"
  29 #include "h264_sei.h"
  30
  31 enum {
  32     PASS,
  33     INSERT,
  34     REMOVE,
  35     EXTRACT,
  36 };
  37
  38 enum {
  39     FLIP_HORIZONTAL = 1,
  40     FLIP_VERTICAL   = 2,
  41 };
  42
  43 enum {
  44     LEVEL_UNSET = -2,
  45     LEVEL_AUTO  = -1,
  46 };
  47
  48 typedef struct H264MetadataContext {
  49     const AVClass *class;
  50
  51     CodedBitstreamContext *cbc;
  52     CodedBitstreamFragment access_unit;
  53
  54     int done_first_au;
  55
  56     int aud;
  57
  58     AVRational sample_aspect_ratio;
  59
  60     int video_format;
  61     int video_full_range_flag;
  62     int colour_primaries;
  63     int transfer_characteristics;
  64     int matrix_coefficients;
  65
  66     int chroma_sample_loc_type;
  67
  68     AVRational tick_rate;
  69     int fixed_frame_rate_flag;
  70
  71     int crop_left;
  72     int crop_right;
  73     int crop_top;
  74     int crop_bottom;
  75
  76     const char *sei_user_data;
  77
  78     int delete_filler;
  79
  80     int display_orientation;
  81     double rotate;
  82     int flip;
  83
  84     int level;
  85 } H264MetadataContext;
  86
  87
  88 static int h264_metadata_update_sps(AVBSFContext *bsf,
  89                                     H264RawSPS *sps)
  90 {
  91     H264MetadataContext *ctx = bsf->priv_data;
  92     int need_vui = 0;
  93     int crop_unit_x, crop_unit_y;
  94
  95     if (ctx->sample_aspect_ratio.num && ctx->sample_aspect_ratio.den) {
  96         // Table E-1.
  97         static const AVRational sar_idc[] = {
  98             {   0,  0 }, // Unspecified (never written here).
  99             {   1,  1 }, {  12, 11 }, {  10, 11 }, {  16, 11 },
 100             {  40, 33 }, {  24, 11 }, {  20, 11 }, {  32, 11 },
 101             {  80, 33 }, {  18, 11 }, {  15, 11 }, {  64, 33 },
 102             { 160, 99 }, {   4,  3 }, {   3,  2 }, {   2,  1 },
 103         };
 104         int num, den, i;
 105
 106         av_reduce(&num, &den, ctx->sample_aspect_ratio.num,
 107                   ctx->sample_aspect_ratio.den, 65535);
 108
 109         for (i = 1; i < FF_ARRAY_ELEMS(sar_idc); i++) {
 110             if (num == sar_idc[i].num &&
 111                 den == sar_idc[i].den)
 112                 break;
 113         }
 114         if (i == FF_ARRAY_ELEMS(sar_idc)) {
 115             sps->vui.aspect_ratio_idc = 255;
 116             sps->vui.sar_width  = num;
 117             sps->vui.sar_height = den;
 118         } else {
 119             sps->vui.aspect_ratio_idc = i;
 120         }
 121         sps->vui.aspect_ratio_info_present_flag = 1;
 122         need_vui = 1;
 123     }
 124
 125 #define SET_OR_INFER(field, value, present_flag, infer) do { \
 126         if (value >= 0) { \
 127             field = value; \
 128             need_vui = 1; \
 129         } else if (!present_flag) \
 130             field = infer; \
 131     } while (0)
 132
 133     if (ctx->video_format             >= 0 ||
 134         ctx->video_full_range_flag    >= 0 ||
 135         ctx->colour_primaries         >= 0 ||
 136         ctx->transfer_characteristics >= 0 ||
 137         ctx->matrix_coefficients      >= 0) {
 138
 139         SET_OR_INFER(sps->vui.video_format, ctx->video_format,
 140                      sps->vui.video_signal_type_present_flag, 5);
 141
 142         SET_OR_INFER(sps->vui.video_full_range_flag,
 143                      ctx->video_full_range_flag,
 144                      sps->vui.video_signal_type_present_flag, 0);
 145
 146         if (ctx->colour_primaries         >= 0 ||
 147             ctx->transfer_characteristics >= 0 ||
 148             ctx->matrix_coefficients      >= 0) {
 149
 150             SET_OR_INFER(sps->vui.colour_primaries,
 151                          ctx->colour_primaries,
 152                          sps->vui.colour_description_present_flag, 2);
 153
 154             SET_OR_INFER(sps->vui.transfer_characteristics,
 155                          ctx->transfer_characteristics,
 156                          sps->vui.colour_description_present_flag, 2);
 157
 158             SET_OR_INFER(sps->vui.matrix_coefficients,
 159                          ctx->matrix_coefficients,
 160                          sps->vui.colour_description_present_flag, 2);
 161
 162             sps->vui.colour_description_present_flag = 1;
 163         }
 164         sps->vui.video_signal_type_present_flag = 1;
 165         need_vui = 1;
 166     }
 167
 168     if (ctx->chroma_sample_loc_type >= 0) {
 169         sps->vui.chroma_sample_loc_type_top_field =
 170             ctx->chroma_sample_loc_type;
 171         sps->vui.chroma_sample_loc_type_bottom_field =
 172             ctx->chroma_sample_loc_type;
 173         sps->vui.chroma_loc_info_present_flag = 1;
 174         need_vui = 1;
 175     }
 176
 177     if (ctx->tick_rate.num && ctx->tick_rate.den) {
 178         int num, den;
 179
 180         av_reduce(&num, &den, ctx->tick_rate.num, ctx->tick_rate.den,
 181                   UINT32_MAX > INT_MAX ? UINT32_MAX : INT_MAX);
 182
 183         sps->vui.time_scale        = num;
 184         sps->vui.num_units_in_tick = den;
 185
 186         sps->vui.timing_info_present_flag = 1;
 187         need_vui = 1;
 188     }
 189     SET_OR_INFER(sps->vui.fixed_frame_rate_flag,
 190                  ctx->fixed_frame_rate_flag,
 191                  sps->vui.timing_info_present_flag, 0);
 192
 193     if (sps->separate_colour_plane_flag || sps->chroma_format_idc == 0) {
 194         crop_unit_x = 1;
 195         crop_unit_y = 2 - sps->frame_mbs_only_flag;
 196     } else {
 197         crop_unit_x = 1 + (sps->chroma_format_idc < 3);
 198         crop_unit_y = (1 + (sps->chroma_format_idc < 2)) *
 199                        (2 - sps->frame_mbs_only_flag);
 200     }
 201 #define CROP(border, unit) do { \
 202         if (ctx->crop_ ## border >= 0) { \
 203             if (ctx->crop_ ## border % unit != 0) { \
 204                 av_log(bsf, AV_LOG_ERROR, "Invalid value for crop_%s: " \
 205                        "must be a multiple of %d.\n", #border, unit); \
 206                 return AVERROR(EINVAL); \
 207             } \
 208             sps->frame_crop_ ## border ## _offset = \
 209                   ctx->crop_ ## border / unit; \
 210             sps->frame_cropping_flag = 1; \
 211         } \
 212     } while (0)
 213     CROP(left,   crop_unit_x);
 214     CROP(right,  crop_unit_x);
 215     CROP(top,    crop_unit_y);
 216     CROP(bottom, crop_unit_y);
 217 #undef CROP
 218
 219     if (ctx->level != LEVEL_UNSET) {
 220         int level_idc;
 221
 222         if (ctx->level == LEVEL_AUTO) {
 223             const H264LevelDescriptor *desc;
 224             int64_t bit_rate;
 225             int width, height, dpb_frames;
 226             int framerate;
 227
 228             if (sps->vui.nal_hrd_parameters_present_flag) {
 229                 bit_rate = (sps->vui.nal_hrd_parameters.bit_rate_value_minus1[0] + 1) *
 230                     (INT64_C(1) << (sps->vui.nal_hrd_parameters.bit_rate_scale + 6));
 231             } else if (sps->vui.vcl_hrd_parameters_present_flag) {
 232                 bit_rate = (sps->vui.vcl_hrd_parameters.bit_rate_value_minus1[0] + 1) *
 233                     (INT64_C(1) << (sps->vui.vcl_hrd_parameters.bit_rate_scale + 6));
 234                 // Adjust for VCL vs. NAL limits.
 235                 bit_rate = bit_rate * 6 / 5;
 236             } else {
 237                 bit_rate = 0;
 238             }
 239
 240             // Don't use max_dec_frame_buffering if it is only inferred.
 241             dpb_frames = sps->vui.bitstream_restriction_flag ?
 242                 sps->vui.max_dec_frame_buffering : H264_MAX_DPB_FRAMES;
 243
 244             width  = 16 * (sps->pic_width_in_mbs_minus1 + 1);
 245             height = 16 * (sps->pic_height_in_map_units_minus1 + 1) *
 246                 (2 - sps->frame_mbs_only_flag);
 247
 248             if (sps->vui.timing_info_present_flag)
 249                 framerate = sps->vui.time_scale / sps->vui.num_units_in_tick / 2;
 250             else
 251                 framerate = 0;
 252
 253             desc = ff_h264_guess_level(sps->profile_idc, bit_rate, framerate,
 254                                        width, height, dpb_frames);
 255             if (desc) {
 256                 level_idc = desc->level_idc;
 257             } else {
 258                 av_log(bsf, AV_LOG_WARNING, "Stream does not appear to "
 259                        "conform to any level: using level 6.2.\n");
 260                 level_idc = 62;
 261             }
 262         } else {
 263             level_idc = ctx->level;
 264         }
 265
 266         if (level_idc == 9) {
 267             if (sps->profile_idc == 66 ||
 268                 sps->profile_idc == 77 ||
 269                 sps->profile_idc == 88) {
 270                 sps->level_idc = 11;
 271                 sps->constraint_set3_flag = 1;
 272             } else {
 273                 sps->level_idc = 9;
 274             }
 275         } else {
 276             sps->level_idc = level_idc;
 277         }
 278     }
 279
 280     if (need_vui)
 281         sps->vui_parameters_present_flag = 1;
 282
 283     return 0;
 284 }
 285
 286 static int h264_metadata_filter(AVBSFContext *bsf, AVPacket *out)
 287 {
 288     H264MetadataContext *ctx = bsf->priv_data;
 289     AVPacket *in = NULL;
 290     CodedBitstreamFragment *au = &ctx->access_unit;
 291     int err, i, j, has_sps;
 292     H264RawAUD aud;
 293     uint8_t *displaymatrix_side_data = NULL;
 294     size_t displaymatrix_side_data_size = 0;
 295
 296     err = ff_bsf_get_packet(bsf, &in);
 297     if (err < 0)
 298         return err;
 299
 300     err = ff_cbs_read_packet(ctx->cbc, au, in);
 301     if (err < 0) {
 302         av_log(bsf, AV_LOG_ERROR, "Failed to read packet.\n");
 303         goto fail;
 304     }
 305
 306     if (au->nb_units == 0) {
 307         av_log(bsf, AV_LOG_ERROR, "No NAL units in packet.\n");
 308         err = AVERROR_INVALIDDATA;
 309         goto fail;
 310     }
 311
 312     // If an AUD is present, it must be the first NAL unit.
 313     if (au->units[0].type == H264_NAL_AUD) {
 314         if (ctx->aud == REMOVE)
 315             ff_cbs_delete_unit(ctx->cbc, au, 0);
 316     } else {
 317         if (ctx->aud == INSERT) {
 318             static const int primary_pic_type_table[] = {
 319                 0x084, // 2, 7
 320                 0x0a5, // 0, 2, 5, 7
 321                 0x0e7, // 0, 1, 2, 5, 6, 7
 322                 0x210, // 4, 9
 323                 0x318, // 3, 4, 8, 9
 324                 0x294, // 2, 4, 7, 9
 325                 0x3bd, // 0, 2, 3, 4, 5, 7, 8, 9
 326                 0x3ff, // 0, 1, 2, 3, 4, 5, 6, 7, 8, 9
 327             };
 328             int primary_pic_type_mask = 0xff;
 329
 330             for (i = 0; i < au->nb_units; i++) {
 331                 if (au->units[i].type == H264_NAL_SLICE ||
 332                     au->units[i].type == H264_NAL_IDR_SLICE) {
 333                     H264RawSlice *slice = au->units[i].content;
 334                     for (j = 0; j < FF_ARRAY_ELEMS(primary_pic_type_table); j++) {
 335                          if (!(primary_pic_type_table[j] &
 336                                (1 << slice->header.slice_type)))
 337                              primary_pic_type_mask &= ~(1 << j);
 338                     }
 339                 }
 340             }
 341             for (j = 0; j < FF_ARRAY_ELEMS(primary_pic_type_table); j++)
 342                 if (primary_pic_type_mask & (1 << j))
 343                     break;
 344             if (j >= FF_ARRAY_ELEMS(primary_pic_type_table)) {
 345                 av_log(bsf, AV_LOG_ERROR, "No usable primary_pic_type: "
 346                        "invalid slice types?\n");
 347                 err = AVERROR_INVALIDDATA;
 348                 goto fail;
 349             }
 350
 351             aud = (H264RawAUD) {
 352                 .nal_unit_header.nal_unit_type = H264_NAL_AUD,
 353                 .primary_pic_type = j,
 354             };
 355
 356             err = ff_cbs_insert_unit_content(ctx->cbc, au,
 357                                              0, H264_NAL_AUD, &aud, NULL);
 358             if (err < 0) {
 359                 av_log(bsf, AV_LOG_ERROR, "Failed to insert AUD.\n");
 360                 goto fail;
 361             }
 362         }
 363     }
 364
 365     has_sps = 0;
 366     for (i = 0; i < au->nb_units; i++) {
 367         if (au->units[i].type == H264_NAL_SPS) {
 368             err = h264_metadata_update_sps(bsf, au->units[i].content);
 369             if (err < 0)
 370                 goto fail;
 371             has_sps = 1;
 372         }
 373     }
 374
 375     // Only insert the SEI in access units containing SPSs, and also
 376     // unconditionally in the first access unit we ever see.
 377     if (ctx->sei_user_data && (has_sps || !ctx->done_first_au)) {
 378         H264RawSEIPayload payload = {
 379             .payload_type = H264_SEI_TYPE_USER_DATA_UNREGISTERED,
 380         };
 381         H264RawSEIUserDataUnregistered *udu =
 382             &payload.payload.user_data_unregistered;
 383
 384         for (i = j = 0; j < 32 && ctx->sei_user_data[i]; i++) {
 385             int c, v;
 386             c = ctx->sei_user_data[i];
 387             if (c == '-') {
 388                 continue;
 389             } else if (av_isxdigit(c)) {
 390                 c = av_tolower(c);
 391                 v = (c <= '9' ? c - '0' : c - 'a' + 10);
 392             } else {
 393                 goto invalid_user_data;
 394             }
 395             if (i & 1)
 396                 udu->uuid_iso_iec_11578[j / 2] |= v;
 397             else
 398                 udu->uuid_iso_iec_11578[j / 2] = v << 4;
 399             ++j;
 400         }
 401         if (j == 32 && ctx->sei_user_data[i] == '+') {
 402             size_t len = strlen(ctx->sei_user_data + i + 1);
 403
 404             udu->data_ref = av_buffer_alloc(len + 1);
 405             if (!udu->data_ref) {
 406                 err = AVERROR(ENOMEM);
 407                 goto fail;
 408             }
 409
 410             udu->data        = udu->data_ref->data;
 411             udu->data_length = len + 1;
 412             memcpy(udu->data, ctx->sei_user_data + i + 1, len + 1);
 413
 414             err = ff_cbs_h264_add_sei_message(ctx->cbc, au, &payload);
 415             if (err < 0) {
 416                 av_log(bsf, AV_LOG_ERROR, "Failed to add user data SEI "
 417                        "message to access unit.\n");
 418                 goto fail;
 419             }
 420
 421         } else {
 422         invalid_user_data:
 423             av_log(bsf, AV_LOG_ERROR, "Invalid user data: "
 424                    "must be \"UUID+string\".\n");
 425             err = AVERROR(EINVAL);
 426             goto fail;
 427         }
 428     }
 429
 430     if (ctx->delete_filler) {
 431         for (i = 0; i < au->nb_units; i++) {
 432             if (au->units[i].type == H264_NAL_FILLER_DATA) {
 433                 // Filler NAL units.
 434                 err = ff_cbs_delete_unit(ctx->cbc, au, i);
 435                 if (err < 0) {
 436                     av_log(bsf, AV_LOG_ERROR, "Failed to delete "
 437                            "filler NAL.\n");
 438                     goto fail;
 439                 }
 440                 --i;
 441                 continue;
 442             }
 443
 444             if (au->units[i].type == H264_NAL_SEI) {
 445                 // Filler SEI messages.
 446                 H264RawSEI *sei = au->units[i].content;
 447
 448                 for (j = 0; j < sei->payload_count; j++) {
 449                     if (sei->payload[j].payload_type ==
 450                         H264_SEI_TYPE_FILLER_PAYLOAD) {
 451                         err = ff_cbs_h264_delete_sei_message(ctx->cbc, au,
 452                                                              &au->units[i], j);
 453                         if (err < 0) {
 454                             av_log(bsf, AV_LOG_ERROR, "Failed to delete "
 455                                    "filler SEI message.\n");
 456                             goto fail;
 457                         }
 458                         // Renumbering might have happened, start again at
 459                         // the same NAL unit position.
 460                         --i;
 461                         break;
 462                     }
 463                 }
 464             }
 465         }
 466     }
 467
 468     if (ctx->display_orientation != PASS) {
 469         for (i = 0; i < au->nb_units; i++) {
 470             H264RawSEI *sei;
 471             if (au->units[i].type != H264_NAL_SEI)
 472                 continue;
 473             sei = au->units[i].content;
 474
 475             for (j = 0; j < sei->payload_count; j++) {
 476                 H264RawSEIDisplayOrientation *disp;
 477                 int32_t *matrix;
 478
 479                 if (sei->payload[j].payload_type !=
 480                     H264_SEI_TYPE_DISPLAY_ORIENTATION)
 481                     continue;
 482                 disp = &sei->payload[j].payload.display_orientation;
 483
 484                 if (ctx->display_orientation == REMOVE ||
 485                     ctx->display_orientation == INSERT) {
 486                     err = ff_cbs_h264_delete_sei_message(ctx->cbc, au,
 487                                                          &au->units[i], j);
 488                     if (err < 0) {
 489                         av_log(bsf, AV_LOG_ERROR, "Failed to delete "
 490                                "display orientation SEI message.\n");
 491                         goto fail;
 492                     }
 493                     --i;
 494                     break;
 495                 }
 496
 497                 matrix = av_mallocz(9 * sizeof(int32_t));
 498                 if (!matrix) {
 499                     err = AVERROR(ENOMEM);
 500                     goto fail;
 501                 }
 502
 503                 av_display_rotation_set(matrix,
 504                                         disp->anticlockwise_rotation *
 505                                         180.0 / 65536.0);
 506                 av_display_matrix_flip(matrix, disp->hor_flip, disp->ver_flip);
 507
 508                 // If there are multiple display orientation messages in an
 509                 // access unit then ignore all but the last one.
 510                 av_freep(&displaymatrix_side_data);
 511
 512                 displaymatrix_side_data      = (uint8_t*)matrix;
 513                 displaymatrix_side_data_size = 9 * sizeof(int32_t);
 514             }
 515         }
 516     }
 517     if (ctx->display_orientation == INSERT) {
 518         H264RawSEIPayload payload = {
 519             .payload_type = H264_SEI_TYPE_DISPLAY_ORIENTATION,
 520         };
 521         H264RawSEIDisplayOrientation *disp =
 522             &payload.payload.display_orientation;
 523         uint8_t *data;
 524         int size;
 525         int write = 0;
 526
 527         data = av_packet_get_side_data(in, AV_PKT_DATA_DISPLAYMATRIX, &size);
 528         if (data && size >= 9 * sizeof(int32_t)) {
 529             int32_t matrix[9];
 530             int hflip, vflip;
 531             double angle;
 532
 533             memcpy(matrix, data, sizeof(matrix));
 534
 535             hflip = vflip = 0;
 536             if (matrix[0] < 0 && matrix[4] > 0)
 537                 hflip = 1;
 538             else if (matrix[0] > 0 && matrix[4] < 0)
 539                 vflip = 1;
 540             av_display_matrix_flip(matrix, hflip, vflip);
 541
 542             angle = av_display_rotation_get(matrix);
 543
 544             if (!(angle >= -180.0 && angle <= 180.0 /* also excludes NaN */) ||
 545                 matrix[2] != 0 || matrix[5] != 0 ||
 546                 matrix[6] != 0 || matrix[7] != 0) {
 547                 av_log(bsf, AV_LOG_WARNING, "Input display matrix is not "
 548                        "representable in H.264 parameters.\n");
 549             } else {
 550                 disp->hor_flip = hflip;
 551                 disp->ver_flip = vflip;
 552                 disp->anticlockwise_rotation =
 553                     (uint16_t)rint((angle >= 0.0 ? angle
 554                                                  : angle + 360.0) *
 555                                    65536.0 / 360.0);
 556                 write = 1;
 557             }
 558         }
 559
 560         if (has_sps || !ctx->done_first_au) {
 561             if (!isnan(ctx->rotate)) {
 562                 disp->anticlockwise_rotation =
 563                     (uint16_t)rint((ctx->rotate >= 0.0 ? ctx->rotate
 564                                                        : ctx->rotate + 360.0) *
 565                                    65536.0 / 360.0);
 566                 write = 1;
 567             }
 568             if (ctx->flip) {
 569                 disp->hor_flip = !!(ctx->flip & FLIP_HORIZONTAL);
 570                 disp->ver_flip = !!(ctx->flip & FLIP_VERTICAL);
 571                 write = 1;
 572             }
 573         }
 574
 575         if (write) {
 576             disp->display_orientation_repetition_period = 1;
 577
 578             err = ff_cbs_h264_add_sei_message(ctx->cbc, au, &payload);
 579             if (err < 0) {
 580                 av_log(bsf, AV_LOG_ERROR, "Failed to add display orientation "
 581                        "SEI message to access unit.\n");
 582                 goto fail;
 583             }
 584         }
 585     }
 586
 587     err = ff_cbs_write_packet(ctx->cbc, out, au);
 588     if (err < 0) {
 589         av_log(bsf, AV_LOG_ERROR, "Failed to write packet.\n");
 590         goto fail;
 591     }
 592
 593     err = av_packet_copy_props(out, in);
 594     if (err < 0)
 595         goto fail;
 596
 597     if (displaymatrix_side_data) {
 598         err = av_packet_add_side_data(out, AV_PKT_DATA_DISPLAYMATRIX,
 599                                       displaymatrix_side_data,
 600                                       displaymatrix_side_data_size);
 601         if (err) {
 602             av_log(bsf, AV_LOG_ERROR, "Failed to attach extracted "
 603                    "displaymatrix side data to packet.\n");
 604             goto fail;
 605         }
 606         displaymatrix_side_data = NULL;
 607     }
 608
 609     ctx->done_first_au = 1;
 610
 611     err = 0;
 612 fail:
 613     ff_cbs_fragment_reset(ctx->cbc, au);
 614     av_freep(&displaymatrix_side_data);
 615
 616     if (err < 0)
 617         av_packet_unref(out);
 618     av_packet_free(&in);
 619
 620     return err;
 621 }
 622
 623 static int h264_metadata_init(AVBSFContext *bsf)
 624 {
 625     H264MetadataContext *ctx = bsf->priv_data;
 626     CodedBitstreamFragment *au = &ctx->access_unit;
 627     int err, i;
 628
 629     err = ff_cbs_init(&ctx->cbc, AV_CODEC_ID_H264, bsf);
 630     if (err < 0)
 631         return err;
 632
 633     if (bsf->par_in->extradata) {
 634         err = ff_cbs_read_extradata(ctx->cbc, au, bsf->par_in);
 635         if (err < 0) {
 636             av_log(bsf, AV_LOG_ERROR, "Failed to read extradata.\n");
 637             goto fail;
 638         }
 639
 640         for (i = 0; i < au->nb_units; i++) {
 641             if (au->units[i].type == H264_NAL_SPS) {
 642                 err = h264_metadata_update_sps(bsf, au->units[i].content);
 643                 if (err < 0)
 644                     goto fail;
 645             }
 646         }
 647
 648         err = ff_cbs_write_extradata(ctx->cbc, bsf->par_out, au);
 649         if (err < 0) {
 650             av_log(bsf, AV_LOG_ERROR, "Failed to write extradata.\n");
 651             goto fail;
 652         }
 653     }
 654
 655     err = 0;
 656 fail:
 657     ff_cbs_fragment_reset(ctx->cbc, au);
 658     return err;
 659 }
 660
 661 static void h264_metadata_close(AVBSFContext *bsf)
 662 {
 663     H264MetadataContext *ctx = bsf->priv_data;
 664
 665     ff_cbs_fragment_free(ctx->cbc, &ctx->access_unit);
 666     ff_cbs_close(&ctx->cbc);
 667 }
 668
 669 #define OFFSET(x) offsetof(H264MetadataContext, x)
 670 #define FLAGS (AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_BSF_PARAM)
 671 static const AVOption h264_metadata_options[] = {
 672     { "aud", "Access Unit Delimiter NAL units",
 673         OFFSET(aud), AV_OPT_TYPE_INT,
 674         { .i64 = PASS }, PASS, REMOVE, FLAGS, "aud" },
 675     { "pass",   NULL, 0, AV_OPT_TYPE_CONST,
 676         { .i64 = PASS   }, .flags = FLAGS, .unit = "aud" },
 677     { "insert", NULL, 0, AV_OPT_TYPE_CONST,
 678         { .i64 = INSERT }, .flags = FLAGS, .unit = "aud" },
 679     { "remove", NULL, 0, AV_OPT_TYPE_CONST,
 680         { .i64 = REMOVE }, .flags = FLAGS, .unit = "aud" },
 681
 682     { "sample_aspect_ratio", "Set sample aspect ratio (table E-1)",
 683         OFFSET(sample_aspect_ratio), AV_OPT_TYPE_RATIONAL,
 684         { .dbl = 0.0 }, 0, 65535, FLAGS },
 685
 686     { "video_format", "Set video format (table E-2)",
 687         OFFSET(video_format), AV_OPT_TYPE_INT,
 688         { .i64 = -1 }, -1, 7, FLAGS},
 689     { "video_full_range_flag", "Set video full range flag",
 690         OFFSET(video_full_range_flag), AV_OPT_TYPE_INT,
 691         { .i64 = -1 }, -1, 1, FLAGS },
 692     { "colour_primaries", "Set colour primaries (table E-3)",
 693         OFFSET(colour_primaries), AV_OPT_TYPE_INT,
 694         { .i64 = -1 }, -1, 255, FLAGS },
 695     { "transfer_characteristics", "Set transfer characteristics (table E-4)",
 696         OFFSET(transfer_characteristics), AV_OPT_TYPE_INT,
 697         { .i64 = -1 }, -1, 255, FLAGS },
 698     { "matrix_coefficients", "Set matrix coefficients (table E-5)",
 699         OFFSET(matrix_coefficients), AV_OPT_TYPE_INT,
 700         { .i64 = -1 }, -1, 255, FLAGS },
 701
 702     { "chroma_sample_loc_type", "Set chroma sample location type (figure E-1)",
 703         OFFSET(chroma_sample_loc_type), AV_OPT_TYPE_INT,
 704         { .i64 = -1 }, -1, 6, FLAGS },
 705
 706     { "tick_rate", "Set VUI tick rate (num_units_in_tick / time_scale)",
 707         OFFSET(tick_rate), AV_OPT_TYPE_RATIONAL,
 708         { .dbl = 0.0 }, 0, UINT_MAX, FLAGS },
 709     { "fixed_frame_rate_flag", "Set VUI fixed frame rate flag",
 710         OFFSET(fixed_frame_rate_flag), AV_OPT_TYPE_INT,
 711         { .i64 = -1 }, -1, 1, FLAGS },
 712
 713     { "crop_left", "Set left border crop offset",
 714         OFFSET(crop_left), AV_OPT_TYPE_INT,
 715         { .i64 = -1 }, -1, H264_MAX_WIDTH, FLAGS },
 716     { "crop_right", "Set right border crop offset",
 717         OFFSET(crop_right), AV_OPT_TYPE_INT,
 718         { .i64 = -1 }, -1, H264_MAX_WIDTH, FLAGS },
 719     { "crop_top", "Set top border crop offset",
 720         OFFSET(crop_top), AV_OPT_TYPE_INT,
 721         { .i64 = -1 }, -1, H264_MAX_HEIGHT, FLAGS },
 722     { "crop_bottom", "Set bottom border crop offset",
 723         OFFSET(crop_bottom), AV_OPT_TYPE_INT,
 724         { .i64 = -1 }, -1, H264_MAX_HEIGHT, FLAGS },
 725
 726     { "sei_user_data", "Insert SEI user data (UUID+string)",
 727         OFFSET(sei_user_data), AV_OPT_TYPE_STRING, { .str = NULL }, .flags = FLAGS },
 728
 729     { "delete_filler", "Delete all filler (both NAL and SEI)",
 730         OFFSET(delete_filler), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, FLAGS},
 731
 732     { "display_orientation", "Display orientation SEI",
 733         OFFSET(display_orientation), AV_OPT_TYPE_INT,
 734         { .i64 = PASS }, PASS, EXTRACT, FLAGS, "disp_or" },
 735     { "pass",    NULL, 0, AV_OPT_TYPE_CONST,
 736         { .i64 = PASS    }, .flags = FLAGS, .unit = "disp_or" },
 737     { "insert",  NULL, 0, AV_OPT_TYPE_CONST,
 738         { .i64 = INSERT  }, .flags = FLAGS, .unit = "disp_or" },
 739     { "remove",  NULL, 0, AV_OPT_TYPE_CONST,
 740         { .i64 = REMOVE  }, .flags = FLAGS, .unit = "disp_or" },
 741     { "extract", NULL, 0, AV_OPT_TYPE_CONST,
 742         { .i64 = EXTRACT }, .flags = FLAGS, .unit = "disp_or" },
 743
 744     { "rotate", "Set rotation in display orientation SEI (anticlockwise angle in degrees)",
 745         OFFSET(rotate), AV_OPT_TYPE_DOUBLE,
 746         { .dbl = NAN }, -360.0, +360.0, FLAGS },
 747     { "flip", "Set flip in display orientation SEI",
 748         OFFSET(flip), AV_OPT_TYPE_FLAGS,
 749         { .i64 = 0 }, 0, FLIP_HORIZONTAL | FLIP_VERTICAL, FLAGS, "flip" },
 750     { "horizontal", "Set hor_flip",
 751         0, AV_OPT_TYPE_CONST,
 752         { .i64 = FLIP_HORIZONTAL }, .flags = FLAGS, .unit = "flip" },
 753     { "vertical",   "Set ver_flip",
 754         0, AV_OPT_TYPE_CONST,
 755         { .i64 = FLIP_VERTICAL },   .flags = FLAGS, .unit = "flip" },
 756
 757     { "level", "Set level (table A-1)",
 758         OFFSET(level), AV_OPT_TYPE_INT,
 759         { .i64 = LEVEL_UNSET }, LEVEL_UNSET, 0xff, FLAGS, "level" },
 760     { "auto", "Attempt to guess level from stream properties",
 761         0, AV_OPT_TYPE_CONST,
 762         { .i64 = LEVEL_AUTO }, .flags = FLAGS, .unit = "level" },
 763 #define LEVEL(name, value) name, NULL, 0, AV_OPT_TYPE_CONST, \
 764         { .i64 = value },      .flags = FLAGS, .unit = "level"
 765     { LEVEL("1",   10) },
 766     { LEVEL("1b",   9) },
 767     { LEVEL("1.1", 11) },
 768     { LEVEL("1.2", 12) },
 769     { LEVEL("1.3", 13) },
 770     { LEVEL("2",   20) },
 771     { LEVEL("2.1", 21) },
 772     { LEVEL("2.2", 22) },
 773     { LEVEL("3",   30) },
 774     { LEVEL("3.1", 31) },
 775     { LEVEL("3.2", 32) },
 776     { LEVEL("4",   40) },
 777     { LEVEL("4.1", 41) },
 778     { LEVEL("4.2", 42) },
 779     { LEVEL("5",   50) },
 780     { LEVEL("5.1", 51) },
 781     { LEVEL("5.2", 52) },
 782     { LEVEL("6",   60) },
 783     { LEVEL("6.1", 61) },
 784     { LEVEL("6.2", 62) },
 785 #undef LEVEL
 786
 787     { NULL }
 788 };
 789
 790 static const AVClass h264_metadata_class = {
 791     .class_name = "h264_metadata_bsf",
 792     .item_name  = av_default_item_name,
 793     .option     = h264_metadata_options,
 794     .version    = LIBAVUTIL_VERSION_INT,
 795 };
 796
 797 static const enum AVCodecID h264_metadata_codec_ids[] = {
 798     AV_CODEC_ID_H264, AV_CODEC_ID_NONE,
 799 };
 800
 801 const AVBitStreamFilter ff_h264_metadata_bsf = {
 802     .name           = "h264_metadata",
 803     .priv_data_size = sizeof(H264MetadataContext),
 804     .priv_class     = &h264_metadata_class,
 805     .init           = &h264_metadata_init,
 806     .close          = &h264_metadata_close,
 807     .filter         = &h264_metadata_filter,
 808     .codec_ids      = h264_metadata_codec_ids,
 809 };