git.sesse.net Git - ffmpeg/blob - libavcodec/libx265.c

   1 /*
   2  * libx265 encoder
   3  *
   4  * Copyright (c) 2013-2014 Derek Buitenhuis
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #if defined(_MSC_VER)
  24 #define X265_API_IMPORTS 1
  25 #endif
  26
  27 #include <x265.h>
  28 #include <float.h>
  29
  30 #include "libavutil/internal.h"
  31 #include "libavutil/common.h"
  32 #include "libavutil/opt.h"
  33 #include "libavutil/pixdesc.h"
  34 #include "avcodec.h"
  35 #include "internal.h"
  36
  37 typedef struct libx265Context {
  38     const AVClass *class;
  39
  40     x265_encoder *encoder;
  41     x265_param   *params;
  42     const x265_api *api;
  43
  44     float crf;
  45     int   cqp;
  46     int   forced_idr;
  47     char *preset;
  48     char *tune;
  49     char *profile;
  50     AVDictionary *x265_opts;
  51
  52     /**
  53      * If the encoder does not support ROI then warn the first time we
  54      * encounter a frame with ROI side data.
  55      */
  56     int roi_warned;
  57 } libx265Context;
  58
  59 static int is_keyframe(NalUnitType naltype)
  60 {
  61     switch (naltype) {
  62     case NAL_UNIT_CODED_SLICE_BLA_W_LP:
  63     case NAL_UNIT_CODED_SLICE_BLA_W_RADL:
  64     case NAL_UNIT_CODED_SLICE_BLA_N_LP:
  65     case NAL_UNIT_CODED_SLICE_IDR_W_RADL:
  66     case NAL_UNIT_CODED_SLICE_IDR_N_LP:
  67     case NAL_UNIT_CODED_SLICE_CRA:
  68         return 1;
  69     default:
  70         return 0;
  71     }
  72 }
  73
  74 static av_cold int libx265_encode_close(AVCodecContext *avctx)
  75 {
  76     libx265Context *ctx = avctx->priv_data;
  77
  78     ctx->api->param_free(ctx->params);
  79
  80     if (ctx->encoder)
  81         ctx->api->encoder_close(ctx->encoder);
  82
  83     return 0;
  84 }
  85
  86 static av_cold int libx265_param_parse_float(AVCodecContext *avctx,
  87                                            const char *key, float value)
  88 {
  89     libx265Context *ctx = avctx->priv_data;
  90     char buf[256];
  91
  92     snprintf(buf, sizeof(buf), "%2.2f", value);
  93     if (ctx->api->param_parse(ctx->params, key, buf) == X265_PARAM_BAD_VALUE) {
  94         av_log(avctx, AV_LOG_ERROR, "Invalid value %2.2f for param \"%s\".\n", value, key);
  95         return AVERROR(EINVAL);
  96     }
  97
  98     return 0;
  99 }
 100
 101 static av_cold int libx265_param_parse_int(AVCodecContext *avctx,
 102                                            const char *key, int value)
 103 {
 104     libx265Context *ctx = avctx->priv_data;
 105     char buf[256];
 106
 107     snprintf(buf, sizeof(buf), "%d", value);
 108     if (ctx->api->param_parse(ctx->params, key, buf) == X265_PARAM_BAD_VALUE) {
 109         av_log(avctx, AV_LOG_ERROR, "Invalid value %d for param \"%s\".\n", value, key);
 110         return AVERROR(EINVAL);
 111     }
 112
 113     return 0;
 114 }
 115
 116 static av_cold int libx265_encode_init(AVCodecContext *avctx)
 117 {
 118     libx265Context *ctx = avctx->priv_data;
 119     AVCPBProperties *cpb_props = NULL;
 120     int ret;
 121
 122     ctx->api = x265_api_get(av_pix_fmt_desc_get(avctx->pix_fmt)->comp[0].depth);
 123     if (!ctx->api)
 124         ctx->api = x265_api_get(0);
 125
 126     ctx->params = ctx->api->param_alloc();
 127     if (!ctx->params) {
 128         av_log(avctx, AV_LOG_ERROR, "Could not allocate x265 param structure.\n");
 129         return AVERROR(ENOMEM);
 130     }
 131
 132     if (ctx->api->param_default_preset(ctx->params, ctx->preset, ctx->tune) < 0) {
 133         int i;
 134
 135         av_log(avctx, AV_LOG_ERROR, "Error setting preset/tune %s/%s.\n", ctx->preset, ctx->tune);
 136         av_log(avctx, AV_LOG_INFO, "Possible presets:");
 137         for (i = 0; x265_preset_names[i]; i++)
 138             av_log(avctx, AV_LOG_INFO, " %s", x265_preset_names[i]);
 139
 140         av_log(avctx, AV_LOG_INFO, "\n");
 141         av_log(avctx, AV_LOG_INFO, "Possible tunes:");
 142         for (i = 0; x265_tune_names[i]; i++)
 143             av_log(avctx, AV_LOG_INFO, " %s", x265_tune_names[i]);
 144
 145         av_log(avctx, AV_LOG_INFO, "\n");
 146
 147         return AVERROR(EINVAL);
 148     }
 149
 150     ctx->params->frameNumThreads = avctx->thread_count;
 151     if (avctx->framerate.num > 0 && avctx->framerate.den > 0) {
 152         ctx->params->fpsNum      = avctx->framerate.num;
 153         ctx->params->fpsDenom    = avctx->framerate.den;
 154     } else {
 155         ctx->params->fpsNum      = avctx->time_base.den;
 156         ctx->params->fpsDenom    = avctx->time_base.num * avctx->ticks_per_frame;
 157     }
 158     ctx->params->sourceWidth     = avctx->width;
 159     ctx->params->sourceHeight    = avctx->height;
 160     ctx->params->bEnablePsnr     = !!(avctx->flags & AV_CODEC_FLAG_PSNR);
 161     ctx->params->bOpenGOP        = !(avctx->flags & AV_CODEC_FLAG_CLOSED_GOP);
 162
 163     /* Tune the CTU size based on input resolution. */
 164     if (ctx->params->sourceWidth < 64 || ctx->params->sourceHeight < 64)
 165         ctx->params->maxCUSize = 32;
 166     if (ctx->params->sourceWidth < 32 || ctx->params->sourceHeight < 32)
 167         ctx->params->maxCUSize = 16;
 168     if (ctx->params->sourceWidth < 16 || ctx->params->sourceHeight < 16) {
 169         av_log(avctx, AV_LOG_ERROR, "Image size is too small (%dx%d).\n",
 170                ctx->params->sourceWidth, ctx->params->sourceHeight);
 171         return AVERROR(EINVAL);
 172     }
 173
 174
 175     ctx->params->vui.bEnableVideoSignalTypePresentFlag = 1;
 176
 177     ctx->params->vui.bEnableVideoFullRangeFlag = avctx->pix_fmt == AV_PIX_FMT_YUVJ420P ||
 178                                                  avctx->pix_fmt == AV_PIX_FMT_YUVJ422P ||
 179                                                  avctx->pix_fmt == AV_PIX_FMT_YUVJ444P ||
 180                                                  avctx->color_range == AVCOL_RANGE_JPEG;
 181
 182     if ((avctx->color_primaries <= AVCOL_PRI_SMPTE432 &&
 183          avctx->color_primaries != AVCOL_PRI_UNSPECIFIED) ||
 184         (avctx->color_trc <= AVCOL_TRC_ARIB_STD_B67 &&
 185          avctx->color_trc != AVCOL_TRC_UNSPECIFIED) ||
 186         (avctx->colorspace <= AVCOL_SPC_ICTCP &&
 187          avctx->colorspace != AVCOL_SPC_UNSPECIFIED)) {
 188
 189         ctx->params->vui.bEnableColorDescriptionPresentFlag = 1;
 190
 191         // x265 validates the parameters internally
 192         ctx->params->vui.colorPrimaries          = avctx->color_primaries;
 193         ctx->params->vui.transferCharacteristics = avctx->color_trc;
 194 #if X265_BUILD >= 159
 195         if (avctx->color_trc == AVCOL_TRC_ARIB_STD_B67)
 196             ctx->params->preferredTransferCharacteristics = ctx->params->vui.transferCharacteristics;
 197 #endif
 198         ctx->params->vui.matrixCoeffs            = avctx->colorspace;
 199     }
 200
 201     if (avctx->sample_aspect_ratio.num > 0 && avctx->sample_aspect_ratio.den > 0) {
 202         char sar[12];
 203         int sar_num, sar_den;
 204
 205         av_reduce(&sar_num, &sar_den,
 206                   avctx->sample_aspect_ratio.num,
 207                   avctx->sample_aspect_ratio.den, 65535);
 208         snprintf(sar, sizeof(sar), "%d:%d", sar_num, sar_den);
 209         if (ctx->api->param_parse(ctx->params, "sar", sar) == X265_PARAM_BAD_VALUE) {
 210             av_log(avctx, AV_LOG_ERROR, "Invalid SAR: %d:%d.\n", sar_num, sar_den);
 211             return AVERROR_INVALIDDATA;
 212         }
 213     }
 214
 215     switch (avctx->pix_fmt) {
 216     case AV_PIX_FMT_YUV420P:
 217     case AV_PIX_FMT_YUV420P10:
 218     case AV_PIX_FMT_YUV420P12:
 219         ctx->params->internalCsp = X265_CSP_I420;
 220         break;
 221     case AV_PIX_FMT_YUV422P:
 222     case AV_PIX_FMT_YUV422P10:
 223     case AV_PIX_FMT_YUV422P12:
 224         ctx->params->internalCsp = X265_CSP_I422;
 225         break;
 226     case AV_PIX_FMT_GBRP:
 227     case AV_PIX_FMT_GBRP10:
 228     case AV_PIX_FMT_GBRP12:
 229         ctx->params->vui.matrixCoeffs = AVCOL_SPC_RGB;
 230         ctx->params->vui.bEnableVideoSignalTypePresentFlag  = 1;
 231         ctx->params->vui.bEnableColorDescriptionPresentFlag = 1;
 232     case AV_PIX_FMT_YUV444P:
 233     case AV_PIX_FMT_YUV444P10:
 234     case AV_PIX_FMT_YUV444P12:
 235         ctx->params->internalCsp = X265_CSP_I444;
 236         break;
 237     case AV_PIX_FMT_GRAY8:
 238     case AV_PIX_FMT_GRAY10:
 239     case AV_PIX_FMT_GRAY12:
 240         if (ctx->api->api_build_number < 85) {
 241             av_log(avctx, AV_LOG_ERROR,
 242                    "libx265 version is %d, must be at least 85 for gray encoding.\n",
 243                    ctx->api->api_build_number);
 244             return AVERROR_INVALIDDATA;
 245         }
 246         ctx->params->internalCsp = X265_CSP_I400;
 247         break;
 248     }
 249
 250     if (ctx->crf >= 0) {
 251         char crf[6];
 252
 253         snprintf(crf, sizeof(crf), "%2.2f", ctx->crf);
 254         if (ctx->api->param_parse(ctx->params, "crf", crf) == X265_PARAM_BAD_VALUE) {
 255             av_log(avctx, AV_LOG_ERROR, "Invalid crf: %2.2f.\n", ctx->crf);
 256             return AVERROR(EINVAL);
 257         }
 258     } else if (avctx->bit_rate > 0) {
 259         ctx->params->rc.bitrate         = avctx->bit_rate / 1000;
 260         ctx->params->rc.rateControlMode = X265_RC_ABR;
 261     } else if (ctx->cqp >= 0) {
 262         ret = libx265_param_parse_int(avctx, "qp", ctx->cqp);
 263         if (ret < 0)
 264             return ret;
 265     }
 266
 267 #if X265_BUILD >= 89
 268     if (avctx->qmin >= 0) {
 269         ret = libx265_param_parse_int(avctx, "qpmin", avctx->qmin);
 270         if (ret < 0)
 271             return ret;
 272     }
 273     if (avctx->qmax >= 0) {
 274         ret = libx265_param_parse_int(avctx, "qpmax", avctx->qmax);
 275         if (ret < 0)
 276             return ret;
 277     }
 278 #endif
 279     if (avctx->max_qdiff >= 0) {
 280         ret = libx265_param_parse_int(avctx, "qpstep", avctx->max_qdiff);
 281         if (ret < 0)
 282             return ret;
 283     }
 284     if (avctx->qblur >= 0) {
 285         ret = libx265_param_parse_float(avctx, "qblur", avctx->qblur);
 286         if (ret < 0)
 287             return ret;
 288     }
 289     if (avctx->qcompress >= 0) {
 290         ret = libx265_param_parse_float(avctx, "qcomp", avctx->qcompress);
 291         if (ret < 0)
 292             return ret;
 293     }
 294     if (avctx->i_quant_factor >= 0) {
 295         ret = libx265_param_parse_float(avctx, "ipratio", avctx->i_quant_factor);
 296         if (ret < 0)
 297             return ret;
 298     }
 299     if (avctx->b_quant_factor >= 0) {
 300         ret = libx265_param_parse_float(avctx, "pbratio", avctx->b_quant_factor);
 301         if (ret < 0)
 302             return ret;
 303     }
 304
 305     ctx->params->rc.vbvBufferSize = avctx->rc_buffer_size / 1000;
 306     ctx->params->rc.vbvMaxBitrate = avctx->rc_max_rate    / 1000;
 307
 308     cpb_props = ff_add_cpb_side_data(avctx);
 309     if (!cpb_props)
 310         return AVERROR(ENOMEM);
 311     cpb_props->buffer_size = ctx->params->rc.vbvBufferSize * 1000;
 312     cpb_props->max_bitrate = ctx->params->rc.vbvMaxBitrate * 1000;
 313     cpb_props->avg_bitrate = ctx->params->rc.bitrate       * 1000;
 314
 315     if (!(avctx->flags & AV_CODEC_FLAG_GLOBAL_HEADER))
 316         ctx->params->bRepeatHeaders = 1;
 317
 318     if (avctx->gop_size >= 0) {
 319         ret = libx265_param_parse_int(avctx, "keyint", avctx->gop_size);
 320         if (ret < 0)
 321             return ret;
 322     }
 323     if (avctx->keyint_min > 0) {
 324         ret = libx265_param_parse_int(avctx, "min-keyint", avctx->keyint_min);
 325         if (ret < 0)
 326             return ret;
 327     }
 328     if (avctx->max_b_frames >= 0) {
 329         ret = libx265_param_parse_int(avctx, "bframes", avctx->max_b_frames);
 330         if (ret < 0)
 331             return ret;
 332     }
 333     if (avctx->refs >= 0) {
 334         ret = libx265_param_parse_int(avctx, "ref", avctx->refs);
 335         if (ret < 0)
 336             return ret;
 337     }
 338
 339     {
 340         AVDictionaryEntry *en = NULL;
 341         while ((en = av_dict_get(ctx->x265_opts, "", en, AV_DICT_IGNORE_SUFFIX))) {
 342             int parse_ret = ctx->api->param_parse(ctx->params, en->key, en->value);
 343
 344             switch (parse_ret) {
 345             case X265_PARAM_BAD_NAME:
 346                 av_log(avctx, AV_LOG_WARNING,
 347                       "Unknown option: %s.\n", en->key);
 348                 break;
 349             case X265_PARAM_BAD_VALUE:
 350                 av_log(avctx, AV_LOG_WARNING,
 351                       "Invalid value for %s: %s.\n", en->key, en->value);
 352                 break;
 353             default:
 354                 break;
 355             }
 356         }
 357     }
 358
 359     if (ctx->params->rc.vbvBufferSize && avctx->rc_initial_buffer_occupancy > 1000 &&
 360         ctx->params->rc.vbvBufferInit == 0.9) {
 361         ctx->params->rc.vbvBufferInit = (float)avctx->rc_initial_buffer_occupancy / 1000;
 362     }
 363
 364     if (ctx->profile) {
 365         if (ctx->api->param_apply_profile(ctx->params, ctx->profile) < 0) {
 366             int i;
 367             av_log(avctx, AV_LOG_ERROR, "Invalid or incompatible profile set: %s.\n", ctx->profile);
 368             av_log(avctx, AV_LOG_INFO, "Possible profiles:");
 369             for (i = 0; x265_profile_names[i]; i++)
 370                 av_log(avctx, AV_LOG_INFO, " %s", x265_profile_names[i]);
 371             av_log(avctx, AV_LOG_INFO, "\n");
 372             return AVERROR(EINVAL);
 373         }
 374     }
 375
 376     ctx->encoder = ctx->api->encoder_open(ctx->params);
 377     if (!ctx->encoder) {
 378         av_log(avctx, AV_LOG_ERROR, "Cannot open libx265 encoder.\n");
 379         libx265_encode_close(avctx);
 380         return AVERROR_INVALIDDATA;
 381     }
 382
 383     if (avctx->flags & AV_CODEC_FLAG_GLOBAL_HEADER) {
 384         x265_nal *nal;
 385         int nnal;
 386
 387         avctx->extradata_size = ctx->api->encoder_headers(ctx->encoder, &nal, &nnal);
 388         if (avctx->extradata_size <= 0) {
 389             av_log(avctx, AV_LOG_ERROR, "Cannot encode headers.\n");
 390             libx265_encode_close(avctx);
 391             return AVERROR_INVALIDDATA;
 392         }
 393
 394         avctx->extradata = av_malloc(avctx->extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
 395         if (!avctx->extradata) {
 396             av_log(avctx, AV_LOG_ERROR,
 397                    "Cannot allocate HEVC header of size %d.\n", avctx->extradata_size);
 398             libx265_encode_close(avctx);
 399             return AVERROR(ENOMEM);
 400         }
 401
 402         memcpy(avctx->extradata, nal[0].payload, avctx->extradata_size);
 403     }
 404
 405     return 0;
 406 }
 407
 408 static av_cold int libx265_encode_set_roi(libx265Context *ctx, const AVFrame *frame, x265_picture* pic)
 409 {
 410     AVFrameSideData *sd = av_frame_get_side_data(frame, AV_FRAME_DATA_REGIONS_OF_INTEREST);
 411     if (sd) {
 412         if (ctx->params->rc.aqMode == X265_AQ_NONE) {
 413             if (!ctx->roi_warned) {
 414                 ctx->roi_warned = 1;
 415                 av_log(ctx, AV_LOG_WARNING, "Adaptive quantization must be enabled to use ROI encoding, skipping ROI.\n");
 416             }
 417         } else {
 418             /* 8x8 block when qg-size is 8, 16*16 block otherwise. */
 419             int mb_size = (ctx->params->rc.qgSize == 8) ? 8 : 16;
 420             int mbx = (frame->width + mb_size - 1) / mb_size;
 421             int mby = (frame->height + mb_size - 1) / mb_size;
 422             int qp_range = 51 + 6 * (pic->bitDepth - 8);
 423             int nb_rois;
 424             const AVRegionOfInterest *roi;
 425             uint32_t roi_size;
 426             float *qoffsets;         /* will be freed after encode is called. */
 427
 428             roi = (const AVRegionOfInterest*)sd->data;
 429             roi_size = roi->self_size;
 430             if (!roi_size || sd->size % roi_size != 0) {
 431                 av_log(ctx, AV_LOG_ERROR, "Invalid AVRegionOfInterest.self_size.\n");
 432                 return AVERROR(EINVAL);
 433             }
 434             nb_rois = sd->size / roi_size;
 435
 436             qoffsets = av_mallocz_array(mbx * mby, sizeof(*qoffsets));
 437             if (!qoffsets)
 438                 return AVERROR(ENOMEM);
 439
 440             // This list must be iterated in reverse because the first
 441             // region in the list applies when regions overlap.
 442             for (int i = nb_rois - 1; i >= 0; i--) {
 443                 int startx, endx, starty, endy;
 444                 float qoffset;
 445
 446                 roi = (const AVRegionOfInterest*)(sd->data + roi_size * i);
 447
 448                 starty = FFMIN(mby, roi->top / mb_size);
 449                 endy   = FFMIN(mby, (roi->bottom + mb_size - 1)/ mb_size);
 450                 startx = FFMIN(mbx, roi->left / mb_size);
 451                 endx   = FFMIN(mbx, (roi->right + mb_size - 1)/ mb_size);
 452
 453                 if (roi->qoffset.den == 0) {
 454                     av_free(qoffsets);
 455                     av_log(ctx, AV_LOG_ERROR, "AVRegionOfInterest.qoffset.den must not be zero.\n");
 456                     return AVERROR(EINVAL);
 457                 }
 458                 qoffset = roi->qoffset.num * 1.0f / roi->qoffset.den;
 459                 qoffset = av_clipf(qoffset * qp_range, -qp_range, +qp_range);
 460
 461                 for (int y = starty; y < endy; y++)
 462                     for (int x = startx; x < endx; x++)
 463                         qoffsets[x + y*mbx] = qoffset;
 464             }
 465
 466             pic->quantOffsets = qoffsets;
 467         }
 468     }
 469     return 0;
 470 }
 471
 472 static int libx265_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
 473                                 const AVFrame *pic, int *got_packet)
 474 {
 475     libx265Context *ctx = avctx->priv_data;
 476     x265_picture x265pic;
 477     x265_picture x265pic_out = { 0 };
 478     x265_nal *nal;
 479     uint8_t *dst;
 480     int pict_type;
 481     int payload = 0;
 482     int nnal;
 483     int ret;
 484     int i;
 485
 486     ctx->api->picture_init(ctx->params, &x265pic);
 487
 488     if (pic) {
 489         for (i = 0; i < 3; i++) {
 490            x265pic.planes[i] = pic->data[i];
 491            x265pic.stride[i] = pic->linesize[i];
 492         }
 493
 494         x265pic.pts      = pic->pts;
 495         x265pic.bitDepth = av_pix_fmt_desc_get(avctx->pix_fmt)->comp[0].depth;
 496
 497         x265pic.sliceType = pic->pict_type == AV_PICTURE_TYPE_I ?
 498                                               (ctx->forced_idr ? X265_TYPE_IDR : X265_TYPE_I) :
 499                             pic->pict_type == AV_PICTURE_TYPE_P ? X265_TYPE_P :
 500                             pic->pict_type == AV_PICTURE_TYPE_B ? X265_TYPE_B :
 501                             X265_TYPE_AUTO;
 502
 503         ret = libx265_encode_set_roi(ctx, pic, &x265pic);
 504         if (ret < 0)
 505             return ret;
 506     }
 507
 508     ret = ctx->api->encoder_encode(ctx->encoder, &nal, &nnal,
 509                                    pic ? &x265pic : NULL, &x265pic_out);
 510
 511     av_freep(&x265pic.quantOffsets);
 512
 513     if (ret < 0)
 514         return AVERROR_EXTERNAL;
 515
 516     if (!nnal)
 517         return 0;
 518
 519     for (i = 0; i < nnal; i++)
 520         payload += nal[i].sizeBytes;
 521
 522     ret = ff_alloc_packet2(avctx, pkt, payload, payload);
 523     if (ret < 0) {
 524         av_log(avctx, AV_LOG_ERROR, "Error getting output packet.\n");
 525         return ret;
 526     }
 527     dst = pkt->data;
 528
 529     for (i = 0; i < nnal; i++) {
 530         memcpy(dst, nal[i].payload, nal[i].sizeBytes);
 531         dst += nal[i].sizeBytes;
 532
 533         if (is_keyframe(nal[i].type))
 534             pkt->flags |= AV_PKT_FLAG_KEY;
 535     }
 536
 537     pkt->pts = x265pic_out.pts;
 538     pkt->dts = x265pic_out.dts;
 539
 540     switch (x265pic_out.sliceType) {
 541     case X265_TYPE_IDR:
 542     case X265_TYPE_I:
 543         pict_type = AV_PICTURE_TYPE_I;
 544         break;
 545     case X265_TYPE_P:
 546         pict_type = AV_PICTURE_TYPE_P;
 547         break;
 548     case X265_TYPE_B:
 549     case X265_TYPE_BREF:
 550         pict_type = AV_PICTURE_TYPE_B;
 551         break;
 552     }
 553
 554 #if FF_API_CODED_FRAME
 555 FF_DISABLE_DEPRECATION_WARNINGS
 556     avctx->coded_frame->pict_type = pict_type;
 557 FF_ENABLE_DEPRECATION_WARNINGS
 558 #endif
 559
 560 #if X265_BUILD >= 130
 561     if (x265pic_out.sliceType == X265_TYPE_B)
 562 #else
 563     if (x265pic_out.frameData.sliceType == 'b')
 564 #endif
 565         pkt->flags |= AV_PKT_FLAG_DISPOSABLE;
 566
 567     ff_side_data_set_encoder_stats(pkt, x265pic_out.frameData.qp * FF_QP2LAMBDA, NULL, 0, pict_type);
 568
 569     *got_packet = 1;
 570     return 0;
 571 }
 572
 573 static const enum AVPixelFormat x265_csp_eight[] = {
 574     AV_PIX_FMT_YUV420P,
 575     AV_PIX_FMT_YUVJ420P,
 576     AV_PIX_FMT_YUV422P,
 577     AV_PIX_FMT_YUVJ422P,
 578     AV_PIX_FMT_YUV444P,
 579     AV_PIX_FMT_YUVJ444P,
 580     AV_PIX_FMT_GBRP,
 581     AV_PIX_FMT_GRAY8,
 582     AV_PIX_FMT_NONE
 583 };
 584
 585 static const enum AVPixelFormat x265_csp_ten[] = {
 586     AV_PIX_FMT_YUV420P,
 587     AV_PIX_FMT_YUVJ420P,
 588     AV_PIX_FMT_YUV422P,
 589     AV_PIX_FMT_YUVJ422P,
 590     AV_PIX_FMT_YUV444P,
 591     AV_PIX_FMT_YUVJ444P,
 592     AV_PIX_FMT_GBRP,
 593     AV_PIX_FMT_YUV420P10,
 594     AV_PIX_FMT_YUV422P10,
 595     AV_PIX_FMT_YUV444P10,
 596     AV_PIX_FMT_GBRP10,
 597     AV_PIX_FMT_GRAY8,
 598     AV_PIX_FMT_GRAY10,
 599     AV_PIX_FMT_NONE
 600 };
 601
 602 static const enum AVPixelFormat x265_csp_twelve[] = {
 603     AV_PIX_FMT_YUV420P,
 604     AV_PIX_FMT_YUVJ420P,
 605     AV_PIX_FMT_YUV422P,
 606     AV_PIX_FMT_YUVJ422P,
 607     AV_PIX_FMT_YUV444P,
 608     AV_PIX_FMT_YUVJ444P,
 609     AV_PIX_FMT_GBRP,
 610     AV_PIX_FMT_YUV420P10,
 611     AV_PIX_FMT_YUV422P10,
 612     AV_PIX_FMT_YUV444P10,
 613     AV_PIX_FMT_GBRP10,
 614     AV_PIX_FMT_YUV420P12,
 615     AV_PIX_FMT_YUV422P12,
 616     AV_PIX_FMT_YUV444P12,
 617     AV_PIX_FMT_GBRP12,
 618     AV_PIX_FMT_GRAY8,
 619     AV_PIX_FMT_GRAY10,
 620     AV_PIX_FMT_GRAY12,
 621     AV_PIX_FMT_NONE
 622 };
 623
 624 static av_cold void libx265_encode_init_csp(AVCodec *codec)
 625 {
 626     if (x265_api_get(12))
 627         codec->pix_fmts = x265_csp_twelve;
 628     else if (x265_api_get(10))
 629         codec->pix_fmts = x265_csp_ten;
 630     else if (x265_api_get(8))
 631         codec->pix_fmts = x265_csp_eight;
 632 }
 633
 634 #define OFFSET(x) offsetof(libx265Context, x)
 635 #define VE AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_ENCODING_PARAM
 636 static const AVOption options[] = {
 637     { "crf",         "set the x265 crf",                                                            OFFSET(crf),       AV_OPT_TYPE_FLOAT,  { .dbl = -1 }, -1, FLT_MAX, VE },
 638     { "qp",          "set the x265 qp",                                                             OFFSET(cqp),       AV_OPT_TYPE_INT,    { .i64 = -1 }, -1, INT_MAX, VE },
 639     { "forced-idr",  "if forcing keyframes, force them as IDR frames",                              OFFSET(forced_idr),AV_OPT_TYPE_BOOL,   { .i64 =  0 },  0,       1, VE },
 640     { "preset",      "set the x265 preset",                                                         OFFSET(preset),    AV_OPT_TYPE_STRING, { 0 }, 0, 0, VE },
 641     { "tune",        "set the x265 tune parameter",                                                 OFFSET(tune),      AV_OPT_TYPE_STRING, { 0 }, 0, 0, VE },
 642     { "profile",     "set the x265 profile",                                                        OFFSET(profile),   AV_OPT_TYPE_STRING, { 0 }, 0, 0, VE },
 643     { "x265-params", "set the x265 configuration using a :-separated list of key=value parameters", OFFSET(x265_opts), AV_OPT_TYPE_DICT,   { 0 }, 0, 0, VE },
 644     { NULL }
 645 };
 646
 647 static const AVClass class = {
 648     .class_name = "libx265",
 649     .item_name  = av_default_item_name,
 650     .option     = options,
 651     .version    = LIBAVUTIL_VERSION_INT,
 652 };
 653
 654 static const AVCodecDefault x265_defaults[] = {
 655     { "b", "0" },
 656     { "bf", "-1" },
 657     { "g", "-1" },
 658     { "keyint_min", "-1" },
 659     { "refs", "-1" },
 660     { "qmin", "-1" },
 661     { "qmax", "-1" },
 662     { "qdiff", "-1" },
 663     { "qblur", "-1" },
 664     { "qcomp", "-1" },
 665     { "i_qfactor", "-1" },
 666     { "b_qfactor", "-1" },
 667     { NULL },
 668 };
 669
 670 AVCodec ff_libx265_encoder = {
 671     .name             = "libx265",
 672     .long_name        = NULL_IF_CONFIG_SMALL("libx265 H.265 / HEVC"),
 673     .type             = AVMEDIA_TYPE_VIDEO,
 674     .id               = AV_CODEC_ID_HEVC,
 675     .init             = libx265_encode_init,
 676     .init_static_data = libx265_encode_init_csp,
 677     .encode2          = libx265_encode_frame,
 678     .close            = libx265_encode_close,
 679     .priv_data_size   = sizeof(libx265Context),
 680     .priv_class       = &class,
 681     .defaults         = x265_defaults,
 682     .capabilities     = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_AUTO_THREADS,
 683     .wrapper_name     = "libx265",
 684 };