git.sesse.net Git - ffmpeg/blob - libavcodec/libvpxenc.c

   1 /*
   2  * Copyright (c) 2010, Google, Inc.
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 /**
  22  * @file
  23  * VP8/9 encoder support via libvpx
  24  */
  25
  26 #define VPX_DISABLE_CTRL_TYPECHECKS 1
  27 #define VPX_CODEC_DISABLE_COMPAT    1
  28 #include <vpx/vpx_encoder.h>
  29 #include <vpx/vp8cx.h>
  30
  31 #include "avcodec.h"
  32 #include "internal.h"
  33 #include "libavutil/avassert.h"
  34 #include "libvpx.h"
  35 #include "profiles.h"
  36 #include "libavutil/avstring.h"
  37 #include "libavutil/base64.h"
  38 #include "libavutil/common.h"
  39 #include "libavutil/internal.h"
  40 #include "libavutil/intreadwrite.h"
  41 #include "libavutil/mathematics.h"
  42 #include "libavutil/opt.h"
  43
  44 /**
  45  * Portion of struct vpx_codec_cx_pkt from vpx_encoder.h.
  46  * One encoded frame returned from the library.
  47  */
  48 struct FrameListData {
  49     void *buf;                       /**< compressed data buffer */
  50     size_t sz;                       /**< length of compressed data */
  51     void *buf_alpha;
  52     size_t sz_alpha;
  53     int64_t pts;                     /**< time stamp to show frame
  54                                           (in timebase units) */
  55     unsigned long duration;          /**< duration to show frame
  56                                           (in timebase units) */
  57     uint32_t flags;                  /**< flags for this frame */
  58     uint64_t sse[4];
  59     int have_sse;                    /**< true if we have pending sse[] */
  60     uint64_t frame_number;
  61     struct FrameListData *next;
  62 };
  63
  64 typedef struct VPxEncoderContext {
  65     AVClass *class;
  66     struct vpx_codec_ctx encoder;
  67     struct vpx_image rawimg;
  68     struct vpx_codec_ctx encoder_alpha;
  69     struct vpx_image rawimg_alpha;
  70     uint8_t is_alpha;
  71     struct vpx_fixed_buf twopass_stats;
  72     int deadline; //i.e., RT/GOOD/BEST
  73     uint64_t sse[4];
  74     int have_sse; /**< true if we have pending sse[] */
  75     uint64_t frame_number;
  76     struct FrameListData *coded_frame_list;
  77
  78     int cpu_used;
  79     int sharpness;
  80     /**
  81      * VP8 specific flags, see VP8F_* below.
  82      */
  83     int flags;
  84 #define VP8F_ERROR_RESILIENT 0x00000001 ///< Enable measures appropriate for streaming over lossy links
  85 #define VP8F_AUTO_ALT_REF    0x00000002 ///< Enable automatic alternate reference frame generation
  86
  87     int auto_alt_ref;
  88
  89     int arnr_max_frames;
  90     int arnr_strength;
  91     int arnr_type;
  92
  93     int tune;
  94
  95     int lag_in_frames;
  96     int error_resilient;
  97     int crf;
  98     int static_thresh;
  99     int max_intra_rate;
 100     int rc_undershoot_pct;
 101     int rc_overshoot_pct;
 102
 103     AVDictionary *vp8_ts_parameters;
 104
 105     // VP9-only
 106     int lossless;
 107     int tile_columns;
 108     int tile_rows;
 109     int frame_parallel;
 110     int aq_mode;
 111     int drop_threshold;
 112     int noise_sensitivity;
 113     int vpx_cs;
 114     float level;
 115     int row_mt;
 116     int tune_content;
 117     int corpus_complexity;
 118     int tpl_model;
 119     /**
 120      * If the driver does not support ROI then warn the first time we
 121      * encounter a frame with ROI side data.
 122      */
 123     int roi_warned;
 124 } VPxContext;
 125
 126 /** String mappings for enum vp8e_enc_control_id */
 127 static const char *const ctlidstr[] = {
 128     [VP8E_SET_CPUUSED]           = "VP8E_SET_CPUUSED",
 129     [VP8E_SET_ENABLEAUTOALTREF]  = "VP8E_SET_ENABLEAUTOALTREF",
 130     [VP8E_SET_NOISE_SENSITIVITY] = "VP8E_SET_NOISE_SENSITIVITY",
 131     [VP8E_SET_STATIC_THRESHOLD]  = "VP8E_SET_STATIC_THRESHOLD",
 132     [VP8E_SET_TOKEN_PARTITIONS]  = "VP8E_SET_TOKEN_PARTITIONS",
 133     [VP8E_SET_ARNR_MAXFRAMES]    = "VP8E_SET_ARNR_MAXFRAMES",
 134     [VP8E_SET_ARNR_STRENGTH]     = "VP8E_SET_ARNR_STRENGTH",
 135     [VP8E_SET_ARNR_TYPE]         = "VP8E_SET_ARNR_TYPE",
 136     [VP8E_SET_TUNING]            = "VP8E_SET_TUNING",
 137     [VP8E_SET_CQ_LEVEL]          = "VP8E_SET_CQ_LEVEL",
 138     [VP8E_SET_MAX_INTRA_BITRATE_PCT] = "VP8E_SET_MAX_INTRA_BITRATE_PCT",
 139     [VP8E_SET_SHARPNESS]               = "VP8E_SET_SHARPNESS",
 140 #if CONFIG_LIBVPX_VP9_ENCODER
 141     [VP9E_SET_LOSSLESS]                = "VP9E_SET_LOSSLESS",
 142     [VP9E_SET_TILE_COLUMNS]            = "VP9E_SET_TILE_COLUMNS",
 143     [VP9E_SET_TILE_ROWS]               = "VP9E_SET_TILE_ROWS",
 144     [VP9E_SET_FRAME_PARALLEL_DECODING] = "VP9E_SET_FRAME_PARALLEL_DECODING",
 145     [VP9E_SET_AQ_MODE]                 = "VP9E_SET_AQ_MODE",
 146     [VP9E_SET_COLOR_SPACE]             = "VP9E_SET_COLOR_SPACE",
 147 #if VPX_ENCODER_ABI_VERSION >= 11
 148     [VP9E_SET_COLOR_RANGE]             = "VP9E_SET_COLOR_RANGE",
 149 #endif
 150 #if VPX_ENCODER_ABI_VERSION >= 12
 151     [VP9E_SET_TARGET_LEVEL]            = "VP9E_SET_TARGET_LEVEL",
 152     [VP9E_GET_LEVEL]                   = "VP9E_GET_LEVEL",
 153 #endif
 154 #ifdef VPX_CTRL_VP9E_SET_ROW_MT
 155     [VP9E_SET_ROW_MT]                  = "VP9E_SET_ROW_MT",
 156 #endif
 157 #ifdef VPX_CTRL_VP9E_SET_TUNE_CONTENT
 158     [VP9E_SET_TUNE_CONTENT]            = "VP9E_SET_TUNE_CONTENT",
 159 #endif
 160 #ifdef VPX_CTRL_VP9E_SET_TPL
 161     [VP9E_SET_TPL]                     = "VP9E_SET_TPL",
 162 #endif
 163 #endif
 164 };
 165
 166 static av_cold void log_encoder_error(AVCodecContext *avctx, const char *desc)
 167 {
 168     VPxContext *ctx = avctx->priv_data;
 169     const char *error  = vpx_codec_error(&ctx->encoder);
 170     const char *detail = vpx_codec_error_detail(&ctx->encoder);
 171
 172     av_log(avctx, AV_LOG_ERROR, "%s: %s\n", desc, error);
 173     if (detail)
 174         av_log(avctx, AV_LOG_ERROR, "  Additional information: %s\n", detail);
 175 }
 176
 177 static av_cold void dump_enc_cfg(AVCodecContext *avctx,
 178                                  const struct vpx_codec_enc_cfg *cfg)
 179 {
 180     int width = -30;
 181     int level = AV_LOG_DEBUG;
 182     int i;
 183
 184     av_log(avctx, level, "vpx_codec_enc_cfg\n");
 185     av_log(avctx, level, "generic settings\n"
 186            "  %*s%u\n  %*s%u\n  %*s%u\n  %*s%u\n  %*s%u\n"
 187 #if CONFIG_LIBVPX_VP9_ENCODER
 188            "  %*s%u\n  %*s%u\n"
 189 #endif
 190            "  %*s{%u/%u}\n  %*s%u\n  %*s%d\n  %*s%u\n",
 191            width, "g_usage:",           cfg->g_usage,
 192            width, "g_threads:",         cfg->g_threads,
 193            width, "g_profile:",         cfg->g_profile,
 194            width, "g_w:",               cfg->g_w,
 195            width, "g_h:",               cfg->g_h,
 196 #if CONFIG_LIBVPX_VP9_ENCODER
 197            width, "g_bit_depth:",       cfg->g_bit_depth,
 198            width, "g_input_bit_depth:", cfg->g_input_bit_depth,
 199 #endif
 200            width, "g_timebase:",        cfg->g_timebase.num, cfg->g_timebase.den,
 201            width, "g_error_resilient:", cfg->g_error_resilient,
 202            width, "g_pass:",            cfg->g_pass,
 203            width, "g_lag_in_frames:",   cfg->g_lag_in_frames);
 204     av_log(avctx, level, "rate control settings\n"
 205            "  %*s%u\n  %*s%u\n  %*s%u\n  %*s%u\n"
 206            "  %*s%d\n  %*s%p(%"SIZE_SPECIFIER")\n  %*s%u\n",
 207            width, "rc_dropframe_thresh:",   cfg->rc_dropframe_thresh,
 208            width, "rc_resize_allowed:",     cfg->rc_resize_allowed,
 209            width, "rc_resize_up_thresh:",   cfg->rc_resize_up_thresh,
 210            width, "rc_resize_down_thresh:", cfg->rc_resize_down_thresh,
 211            width, "rc_end_usage:",          cfg->rc_end_usage,
 212            width, "rc_twopass_stats_in:",   cfg->rc_twopass_stats_in.buf, cfg->rc_twopass_stats_in.sz,
 213            width, "rc_target_bitrate:",     cfg->rc_target_bitrate);
 214     av_log(avctx, level, "quantizer settings\n"
 215            "  %*s%u\n  %*s%u\n",
 216            width, "rc_min_quantizer:", cfg->rc_min_quantizer,
 217            width, "rc_max_quantizer:", cfg->rc_max_quantizer);
 218     av_log(avctx, level, "bitrate tolerance\n"
 219            "  %*s%u\n  %*s%u\n",
 220            width, "rc_undershoot_pct:", cfg->rc_undershoot_pct,
 221            width, "rc_overshoot_pct:",  cfg->rc_overshoot_pct);
 222     av_log(avctx, level, "temporal layering settings\n"
 223            "  %*s%u\n", width, "ts_number_layers:", cfg->ts_number_layers);
 224     av_log(avctx, level,
 225            "\n  %*s", width, "ts_target_bitrate:");
 226     for (i = 0; i < VPX_TS_MAX_LAYERS; i++)
 227         av_log(avctx, level, "%u ", cfg->ts_target_bitrate[i]);
 228     av_log(avctx, level, "\n");
 229     av_log(avctx, level,
 230            "\n  %*s", width, "ts_rate_decimator:");
 231     for (i = 0; i < VPX_TS_MAX_LAYERS; i++)
 232         av_log(avctx, level, "%u ", cfg->ts_rate_decimator[i]);
 233     av_log(avctx, level, "\n");
 234     av_log(avctx, level,
 235            "\n  %*s%u\n", width, "ts_periodicity:", cfg->ts_periodicity);
 236     av_log(avctx, level,
 237            "\n  %*s", width, "ts_layer_id:");
 238     for (i = 0; i < VPX_TS_MAX_PERIODICITY; i++)
 239         av_log(avctx, level, "%u ", cfg->ts_layer_id[i]);
 240     av_log(avctx, level, "\n");
 241     av_log(avctx, level, "decoder buffer model\n"
 242             "  %*s%u\n  %*s%u\n  %*s%u\n",
 243             width, "rc_buf_sz:",         cfg->rc_buf_sz,
 244             width, "rc_buf_initial_sz:", cfg->rc_buf_initial_sz,
 245             width, "rc_buf_optimal_sz:", cfg->rc_buf_optimal_sz);
 246     av_log(avctx, level, "2 pass rate control settings\n"
 247            "  %*s%u\n  %*s%u\n  %*s%u\n",
 248            width, "rc_2pass_vbr_bias_pct:",       cfg->rc_2pass_vbr_bias_pct,
 249            width, "rc_2pass_vbr_minsection_pct:", cfg->rc_2pass_vbr_minsection_pct,
 250            width, "rc_2pass_vbr_maxsection_pct:", cfg->rc_2pass_vbr_maxsection_pct);
 251 #if VPX_ENCODER_ABI_VERSION >= 14
 252     av_log(avctx, level, "  %*s%u\n",
 253            width, "rc_2pass_vbr_corpus_complexity:", cfg->rc_2pass_vbr_corpus_complexity);
 254 #endif
 255     av_log(avctx, level, "keyframing settings\n"
 256            "  %*s%d\n  %*s%u\n  %*s%u\n",
 257            width, "kf_mode:",     cfg->kf_mode,
 258            width, "kf_min_dist:", cfg->kf_min_dist,
 259            width, "kf_max_dist:", cfg->kf_max_dist);
 260     av_log(avctx, level, "\n");
 261 }
 262
 263 static void coded_frame_add(void *list, struct FrameListData *cx_frame)
 264 {
 265     struct FrameListData **p = list;
 266
 267     while (*p)
 268         p = &(*p)->next;
 269     *p = cx_frame;
 270     cx_frame->next = NULL;
 271 }
 272
 273 static av_cold void free_coded_frame(struct FrameListData *cx_frame)
 274 {
 275     av_freep(&cx_frame->buf);
 276     if (cx_frame->buf_alpha)
 277         av_freep(&cx_frame->buf_alpha);
 278     av_freep(&cx_frame);
 279 }
 280
 281 static av_cold void free_frame_list(struct FrameListData *list)
 282 {
 283     struct FrameListData *p = list;
 284
 285     while (p) {
 286         list = list->next;
 287         free_coded_frame(p);
 288         p = list;
 289     }
 290 }
 291
 292 static av_cold int codecctl_int(AVCodecContext *avctx,
 293                                 enum vp8e_enc_control_id id, int val)
 294 {
 295     VPxContext *ctx = avctx->priv_data;
 296     char buf[80];
 297     int width = -30;
 298     int res;
 299
 300     snprintf(buf, sizeof(buf), "%s:", ctlidstr[id]);
 301     av_log(avctx, AV_LOG_DEBUG, "  %*s%d\n", width, buf, val);
 302
 303     res = vpx_codec_control(&ctx->encoder, id, val);
 304     if (res != VPX_CODEC_OK) {
 305         snprintf(buf, sizeof(buf), "Failed to set %s codec control",
 306                  ctlidstr[id]);
 307         log_encoder_error(avctx, buf);
 308     }
 309
 310     return res == VPX_CODEC_OK ? 0 : AVERROR(EINVAL);
 311 }
 312
 313 #if VPX_ENCODER_ABI_VERSION >= 12
 314 static av_cold int codecctl_intp(AVCodecContext *avctx,
 315                                  enum vp8e_enc_control_id id, int *val)
 316 {
 317     VPxContext *ctx = avctx->priv_data;
 318     char buf[80];
 319     int width = -30;
 320     int res;
 321
 322     snprintf(buf, sizeof(buf), "%s:", ctlidstr[id]);
 323     av_log(avctx, AV_LOG_DEBUG, "  %*s%d\n", width, buf, *val);
 324
 325     res = vpx_codec_control(&ctx->encoder, id, val);
 326     if (res != VPX_CODEC_OK) {
 327         snprintf(buf, sizeof(buf), "Failed to set %s codec control",
 328                  ctlidstr[id]);
 329         log_encoder_error(avctx, buf);
 330     }
 331
 332     return res == VPX_CODEC_OK ? 0 : AVERROR(EINVAL);
 333 }
 334 #endif
 335
 336 static av_cold int vpx_free(AVCodecContext *avctx)
 337 {
 338     VPxContext *ctx = avctx->priv_data;
 339
 340 #if VPX_ENCODER_ABI_VERSION >= 12
 341     if (avctx->codec_id == AV_CODEC_ID_VP9 && ctx->level >= 0 &&
 342         !(avctx->flags & AV_CODEC_FLAG_PASS1)) {
 343         int level_out = 0;
 344         if (!codecctl_intp(avctx, VP9E_GET_LEVEL, &level_out))
 345             av_log(avctx, AV_LOG_INFO, "Encoded level %.1f\n", level_out * 0.1);
 346     }
 347 #endif
 348
 349     vpx_codec_destroy(&ctx->encoder);
 350     if (ctx->is_alpha) {
 351         vpx_codec_destroy(&ctx->encoder_alpha);
 352         av_freep(&ctx->rawimg_alpha.planes[VPX_PLANE_U]);
 353         av_freep(&ctx->rawimg_alpha.planes[VPX_PLANE_V]);
 354     }
 355     av_freep(&ctx->twopass_stats.buf);
 356     av_freep(&avctx->stats_out);
 357     free_frame_list(ctx->coded_frame_list);
 358     return 0;
 359 }
 360
 361 static void vp8_ts_parse_int_array(int *dest, char *value, size_t value_len, int max_entries)
 362 {
 363     int dest_idx = 0;
 364     char *saveptr = NULL;
 365     char *token = av_strtok(value, ",", &saveptr);
 366
 367     while (token && dest_idx < max_entries) {
 368         dest[dest_idx++] = strtoul(token, NULL, 10);
 369         token = av_strtok(NULL, ",", &saveptr);
 370     }
 371 }
 372
 373 static int vp8_ts_param_parse(struct vpx_codec_enc_cfg *enccfg, char *key, char *value)
 374 {
 375     size_t value_len = strlen(value);
 376
 377     if (!value_len)
 378         return -1;
 379
 380     if (!strcmp(key, "ts_number_layers"))
 381         enccfg->ts_number_layers = strtoul(value, &value, 10);
 382     else if (!strcmp(key, "ts_target_bitrate"))
 383         vp8_ts_parse_int_array(enccfg->ts_target_bitrate, value, value_len, VPX_TS_MAX_LAYERS);
 384     else if (!strcmp(key, "ts_rate_decimator"))
 385       vp8_ts_parse_int_array(enccfg->ts_rate_decimator, value, value_len, VPX_TS_MAX_LAYERS);
 386     else if (!strcmp(key, "ts_periodicity"))
 387         enccfg->ts_periodicity = strtoul(value, &value, 10);
 388     else if (!strcmp(key, "ts_layer_id"))
 389         vp8_ts_parse_int_array(enccfg->ts_layer_id, value, value_len, VPX_TS_MAX_PERIODICITY);
 390
 391     return 0;
 392 }
 393
 394 #if CONFIG_LIBVPX_VP9_ENCODER
 395 static int set_pix_fmt(AVCodecContext *avctx, vpx_codec_caps_t codec_caps,
 396                        struct vpx_codec_enc_cfg *enccfg, vpx_codec_flags_t *flags,
 397                        vpx_img_fmt_t *img_fmt)
 398 {
 399     VPxContext av_unused *ctx = avctx->priv_data;
 400     enccfg->g_bit_depth = enccfg->g_input_bit_depth = 8;
 401     switch (avctx->pix_fmt) {
 402     case AV_PIX_FMT_YUV420P:
 403     case AV_PIX_FMT_YUVA420P:
 404         enccfg->g_profile = 0;
 405         *img_fmt = VPX_IMG_FMT_I420;
 406         return 0;
 407     case AV_PIX_FMT_YUV422P:
 408         enccfg->g_profile = 1;
 409         *img_fmt = VPX_IMG_FMT_I422;
 410         return 0;
 411     case AV_PIX_FMT_YUV440P:
 412         enccfg->g_profile = 1;
 413         *img_fmt = VPX_IMG_FMT_I440;
 414         return 0;
 415     case AV_PIX_FMT_GBRP:
 416         ctx->vpx_cs = VPX_CS_SRGB;
 417     case AV_PIX_FMT_YUV444P:
 418         enccfg->g_profile = 1;
 419         *img_fmt = VPX_IMG_FMT_I444;
 420         return 0;
 421     case AV_PIX_FMT_YUV420P10:
 422     case AV_PIX_FMT_YUV420P12:
 423         if (codec_caps & VPX_CODEC_CAP_HIGHBITDEPTH) {
 424             enccfg->g_bit_depth = enccfg->g_input_bit_depth =
 425                 avctx->pix_fmt == AV_PIX_FMT_YUV420P10 ? 10 : 12;
 426             enccfg->g_profile = 2;
 427             *img_fmt = VPX_IMG_FMT_I42016;
 428             *flags |= VPX_CODEC_USE_HIGHBITDEPTH;
 429             return 0;
 430         }
 431         break;
 432     case AV_PIX_FMT_YUV422P10:
 433     case AV_PIX_FMT_YUV422P12:
 434         if (codec_caps & VPX_CODEC_CAP_HIGHBITDEPTH) {
 435             enccfg->g_bit_depth = enccfg->g_input_bit_depth =
 436                 avctx->pix_fmt == AV_PIX_FMT_YUV422P10 ? 10 : 12;
 437             enccfg->g_profile = 3;
 438             *img_fmt = VPX_IMG_FMT_I42216;
 439             *flags |= VPX_CODEC_USE_HIGHBITDEPTH;
 440             return 0;
 441         }
 442         break;
 443     case AV_PIX_FMT_YUV440P10:
 444     case AV_PIX_FMT_YUV440P12:
 445         if (codec_caps & VPX_CODEC_CAP_HIGHBITDEPTH) {
 446             enccfg->g_bit_depth = enccfg->g_input_bit_depth =
 447                 avctx->pix_fmt == AV_PIX_FMT_YUV440P10 ? 10 : 12;
 448             enccfg->g_profile = 3;
 449             *img_fmt = VPX_IMG_FMT_I44016;
 450             *flags |= VPX_CODEC_USE_HIGHBITDEPTH;
 451             return 0;
 452         }
 453         break;
 454     case AV_PIX_FMT_GBRP10:
 455     case AV_PIX_FMT_GBRP12:
 456         ctx->vpx_cs = VPX_CS_SRGB;
 457     case AV_PIX_FMT_YUV444P10:
 458     case AV_PIX_FMT_YUV444P12:
 459         if (codec_caps & VPX_CODEC_CAP_HIGHBITDEPTH) {
 460             enccfg->g_bit_depth = enccfg->g_input_bit_depth =
 461                 avctx->pix_fmt == AV_PIX_FMT_YUV444P10 ||
 462                 avctx->pix_fmt == AV_PIX_FMT_GBRP10 ? 10 : 12;
 463             enccfg->g_profile = 3;
 464             *img_fmt = VPX_IMG_FMT_I44416;
 465             *flags |= VPX_CODEC_USE_HIGHBITDEPTH;
 466             return 0;
 467         }
 468         break;
 469     default:
 470         break;
 471     }
 472     av_log(avctx, AV_LOG_ERROR, "Unsupported pixel format.\n");
 473     return AVERROR_INVALIDDATA;
 474 }
 475
 476 static void set_colorspace(AVCodecContext *avctx)
 477 {
 478     enum vpx_color_space vpx_cs;
 479     VPxContext *ctx = avctx->priv_data;
 480
 481     if (ctx->vpx_cs) {
 482         vpx_cs = ctx->vpx_cs;
 483     } else {
 484         switch (avctx->colorspace) {
 485         case AVCOL_SPC_RGB:         vpx_cs = VPX_CS_SRGB;      break;
 486         case AVCOL_SPC_BT709:       vpx_cs = VPX_CS_BT_709;    break;
 487         case AVCOL_SPC_UNSPECIFIED: vpx_cs = VPX_CS_UNKNOWN;   break;
 488         case AVCOL_SPC_RESERVED:    vpx_cs = VPX_CS_RESERVED;  break;
 489         case AVCOL_SPC_BT470BG:     vpx_cs = VPX_CS_BT_601;    break;
 490         case AVCOL_SPC_SMPTE170M:   vpx_cs = VPX_CS_SMPTE_170; break;
 491         case AVCOL_SPC_SMPTE240M:   vpx_cs = VPX_CS_SMPTE_240; break;
 492         case AVCOL_SPC_BT2020_NCL:  vpx_cs = VPX_CS_BT_2020;   break;
 493         default:
 494             av_log(avctx, AV_LOG_WARNING, "Unsupported colorspace (%d)\n",
 495                    avctx->colorspace);
 496             return;
 497         }
 498     }
 499     codecctl_int(avctx, VP9E_SET_COLOR_SPACE, vpx_cs);
 500 }
 501
 502 #if VPX_ENCODER_ABI_VERSION >= 11
 503 static void set_color_range(AVCodecContext *avctx)
 504 {
 505     enum vpx_color_range vpx_cr;
 506     switch (avctx->color_range) {
 507     case AVCOL_RANGE_UNSPECIFIED:
 508     case AVCOL_RANGE_MPEG:       vpx_cr = VPX_CR_STUDIO_RANGE; break;
 509     case AVCOL_RANGE_JPEG:       vpx_cr = VPX_CR_FULL_RANGE;   break;
 510     default:
 511         av_log(avctx, AV_LOG_WARNING, "Unsupported color range (%d)\n",
 512                avctx->color_range);
 513         return;
 514     }
 515
 516     codecctl_int(avctx, VP9E_SET_COLOR_RANGE, vpx_cr);
 517 }
 518 #endif
 519 #endif
 520
 521 /**
 522  * Set the target bitrate to VPX library default. Also set CRF to 32 if needed.
 523  */
 524 static void set_vp8_defaults(AVCodecContext *avctx,
 525                              struct vpx_codec_enc_cfg *enccfg)
 526 {
 527     VPxContext *ctx = avctx->priv_data;
 528     av_assert0(!avctx->bit_rate);
 529     avctx->bit_rate = enccfg->rc_target_bitrate * 1000;
 530     if (enccfg->rc_end_usage == VPX_CQ) {
 531         av_log(avctx, AV_LOG_WARNING,
 532                "Bitrate not specified for constrained quality mode, using default of %dkbit/sec\n",
 533                enccfg->rc_target_bitrate);
 534     } else {
 535         enccfg->rc_end_usage = VPX_CQ;
 536         ctx->crf = 32;
 537         av_log(avctx, AV_LOG_WARNING,
 538                "Neither bitrate nor constrained quality specified, using default CRF of %d and bitrate of %dkbit/sec\n",
 539                ctx->crf, enccfg->rc_target_bitrate);
 540     }
 541 }
 542
 543
 544 #if CONFIG_LIBVPX_VP9_ENCODER
 545 /**
 546  * Keep the target bitrate at 0 to engage constant quality mode. If CRF is not
 547  * set, use 32.
 548  */
 549 static void set_vp9_defaults(AVCodecContext *avctx,
 550                              struct vpx_codec_enc_cfg *enccfg)
 551 {
 552     VPxContext *ctx = avctx->priv_data;
 553     av_assert0(!avctx->bit_rate);
 554     if (enccfg->rc_end_usage != VPX_Q && ctx->lossless < 0) {
 555         enccfg->rc_end_usage = VPX_Q;
 556         ctx->crf = 32;
 557         av_log(avctx, AV_LOG_WARNING,
 558                "Neither bitrate nor constrained quality specified, using default CRF of %d\n",
 559                ctx->crf);
 560     }
 561 }
 562 #endif
 563
 564 /**
 565  * Called when the bitrate is not set. It sets appropriate default values for
 566  * bitrate and CRF.
 567  */
 568 static void set_vpx_defaults(AVCodecContext *avctx,
 569                              struct vpx_codec_enc_cfg *enccfg)
 570 {
 571     av_assert0(!avctx->bit_rate);
 572 #if CONFIG_LIBVPX_VP9_ENCODER
 573     if (avctx->codec_id == AV_CODEC_ID_VP9) {
 574         set_vp9_defaults(avctx, enccfg);
 575         return;
 576     }
 577 #endif
 578     set_vp8_defaults(avctx, enccfg);
 579 }
 580
 581 static av_cold int vpx_init(AVCodecContext *avctx,
 582                             const struct vpx_codec_iface *iface)
 583 {
 584     VPxContext *ctx = avctx->priv_data;
 585     struct vpx_codec_enc_cfg enccfg = { 0 };
 586     struct vpx_codec_enc_cfg enccfg_alpha;
 587     vpx_codec_flags_t flags = (avctx->flags & AV_CODEC_FLAG_PSNR) ? VPX_CODEC_USE_PSNR : 0;
 588     AVCPBProperties *cpb_props;
 589     int res;
 590     vpx_img_fmt_t img_fmt = VPX_IMG_FMT_I420;
 591 #if CONFIG_LIBVPX_VP9_ENCODER
 592     vpx_codec_caps_t codec_caps = vpx_codec_get_caps(iface);
 593 #endif
 594
 595     av_log(avctx, AV_LOG_INFO, "%s\n", vpx_codec_version_str());
 596     av_log(avctx, AV_LOG_VERBOSE, "%s\n", vpx_codec_build_config());
 597
 598     if (avctx->pix_fmt == AV_PIX_FMT_YUVA420P)
 599         ctx->is_alpha = 1;
 600
 601     if ((res = vpx_codec_enc_config_default(iface, &enccfg, 0)) != VPX_CODEC_OK) {
 602         av_log(avctx, AV_LOG_ERROR, "Failed to get config: %s\n",
 603                vpx_codec_err_to_string(res));
 604         return AVERROR(EINVAL);
 605     }
 606
 607 #if CONFIG_LIBVPX_VP9_ENCODER
 608     if (avctx->codec_id == AV_CODEC_ID_VP9) {
 609         if (set_pix_fmt(avctx, codec_caps, &enccfg, &flags, &img_fmt))
 610             return AVERROR(EINVAL);
 611     }
 612 #endif
 613
 614     if(!avctx->bit_rate)
 615         if(avctx->rc_max_rate || avctx->rc_buffer_size || avctx->rc_initial_buffer_occupancy) {
 616             av_log( avctx, AV_LOG_ERROR, "Rate control parameters set without a bitrate\n");
 617             return AVERROR(EINVAL);
 618         }
 619
 620     dump_enc_cfg(avctx, &enccfg);
 621
 622     enccfg.g_w            = avctx->width;
 623     enccfg.g_h            = avctx->height;
 624     enccfg.g_timebase.num = avctx->time_base.num;
 625     enccfg.g_timebase.den = avctx->time_base.den;
 626     enccfg.g_threads      =
 627         FFMIN(avctx->thread_count ? avctx->thread_count : av_cpu_count(), 16);
 628     enccfg.g_lag_in_frames= ctx->lag_in_frames;
 629
 630     if (avctx->flags & AV_CODEC_FLAG_PASS1)
 631         enccfg.g_pass = VPX_RC_FIRST_PASS;
 632     else if (avctx->flags & AV_CODEC_FLAG_PASS2)
 633         enccfg.g_pass = VPX_RC_LAST_PASS;
 634     else
 635         enccfg.g_pass = VPX_RC_ONE_PASS;
 636
 637     if (avctx->rc_min_rate == avctx->rc_max_rate &&
 638         avctx->rc_min_rate == avctx->bit_rate && avctx->bit_rate) {
 639         enccfg.rc_end_usage = VPX_CBR;
 640     } else if (ctx->crf >= 0) {
 641         enccfg.rc_end_usage = VPX_CQ;
 642 #if CONFIG_LIBVPX_VP9_ENCODER
 643         if (!avctx->bit_rate && avctx->codec_id == AV_CODEC_ID_VP9)
 644             enccfg.rc_end_usage = VPX_Q;
 645 #endif
 646     }
 647
 648     if (avctx->bit_rate) {
 649         enccfg.rc_target_bitrate = av_rescale_rnd(avctx->bit_rate, 1, 1000,
 650                                                   AV_ROUND_NEAR_INF);
 651     } else {
 652         // Set bitrate to default value. Also sets CRF to default if needed.
 653         set_vpx_defaults(avctx, &enccfg);
 654     }
 655
 656     if (avctx->codec_id == AV_CODEC_ID_VP9 && ctx->lossless == 1) {
 657         enccfg.rc_min_quantizer =
 658         enccfg.rc_max_quantizer = 0;
 659     } else {
 660         if (avctx->qmin >= 0)
 661             enccfg.rc_min_quantizer = avctx->qmin;
 662         if (avctx->qmax >= 0)
 663             enccfg.rc_max_quantizer = avctx->qmax;
 664     }
 665
 666     if (enccfg.rc_end_usage == VPX_CQ
 667 #if CONFIG_LIBVPX_VP9_ENCODER
 668         || enccfg.rc_end_usage == VPX_Q
 669 #endif
 670        ) {
 671         if (ctx->crf < enccfg.rc_min_quantizer || ctx->crf > enccfg.rc_max_quantizer) {
 672             av_log(avctx, AV_LOG_ERROR,
 673                    "CQ level %d must be between minimum and maximum quantizer value (%d-%d)\n",
 674                    ctx->crf, enccfg.rc_min_quantizer, enccfg.rc_max_quantizer);
 675             return AVERROR(EINVAL);
 676         }
 677     }
 678
 679 #if FF_API_PRIVATE_OPT
 680 FF_DISABLE_DEPRECATION_WARNINGS
 681     if (avctx->frame_skip_threshold)
 682         ctx->drop_threshold = avctx->frame_skip_threshold;
 683 FF_ENABLE_DEPRECATION_WARNINGS
 684 #endif
 685     enccfg.rc_dropframe_thresh = ctx->drop_threshold;
 686
 687     //0-100 (0 => CBR, 100 => VBR)
 688     enccfg.rc_2pass_vbr_bias_pct           = lrint(avctx->qcompress * 100);
 689     if (avctx->bit_rate)
 690         enccfg.rc_2pass_vbr_minsection_pct =
 691             avctx->rc_min_rate * 100LL / avctx->bit_rate;
 692     if (avctx->rc_max_rate)
 693         enccfg.rc_2pass_vbr_maxsection_pct =
 694             avctx->rc_max_rate * 100LL / avctx->bit_rate;
 695 #if CONFIG_LIBVPX_VP9_ENCODER
 696     if (avctx->codec_id == AV_CODEC_ID_VP9) {
 697 #if VPX_ENCODER_ABI_VERSION >= 14
 698         if (ctx->corpus_complexity >= 0)
 699             enccfg.rc_2pass_vbr_corpus_complexity = ctx->corpus_complexity;
 700 #endif
 701     }
 702 #endif
 703
 704     if (avctx->rc_buffer_size)
 705         enccfg.rc_buf_sz         =
 706             avctx->rc_buffer_size * 1000LL / avctx->bit_rate;
 707     if (avctx->rc_initial_buffer_occupancy)
 708         enccfg.rc_buf_initial_sz =
 709             avctx->rc_initial_buffer_occupancy * 1000LL / avctx->bit_rate;
 710     enccfg.rc_buf_optimal_sz     = enccfg.rc_buf_sz * 5 / 6;
 711     if (ctx->rc_undershoot_pct >= 0)
 712         enccfg.rc_undershoot_pct = ctx->rc_undershoot_pct;
 713     if (ctx->rc_overshoot_pct >= 0)
 714         enccfg.rc_overshoot_pct = ctx->rc_overshoot_pct;
 715
 716     //_enc_init() will balk if kf_min_dist differs from max w/VPX_KF_AUTO
 717     if (avctx->keyint_min >= 0 && avctx->keyint_min == avctx->gop_size)
 718         enccfg.kf_min_dist = avctx->keyint_min;
 719     if (avctx->gop_size >= 0)
 720         enccfg.kf_max_dist = avctx->gop_size;
 721
 722     if (enccfg.g_pass == VPX_RC_FIRST_PASS)
 723         enccfg.g_lag_in_frames = 0;
 724     else if (enccfg.g_pass == VPX_RC_LAST_PASS) {
 725         int decode_size, ret;
 726
 727         if (!avctx->stats_in) {
 728             av_log(avctx, AV_LOG_ERROR, "No stats file for second pass\n");
 729             return AVERROR_INVALIDDATA;
 730         }
 731
 732         ctx->twopass_stats.sz  = strlen(avctx->stats_in) * 3 / 4;
 733         ret = av_reallocp(&ctx->twopass_stats.buf, ctx->twopass_stats.sz);
 734         if (ret < 0) {
 735             av_log(avctx, AV_LOG_ERROR,
 736                    "Stat buffer alloc (%"SIZE_SPECIFIER" bytes) failed\n",
 737                    ctx->twopass_stats.sz);
 738             ctx->twopass_stats.sz = 0;
 739             return ret;
 740         }
 741         decode_size = av_base64_decode(ctx->twopass_stats.buf, avctx->stats_in,
 742                                        ctx->twopass_stats.sz);
 743         if (decode_size < 0) {
 744             av_log(avctx, AV_LOG_ERROR, "Stat buffer decode failed\n");
 745             return AVERROR_INVALIDDATA;
 746         }
 747
 748         ctx->twopass_stats.sz      = decode_size;
 749         enccfg.rc_twopass_stats_in = ctx->twopass_stats;
 750     }
 751
 752     /* 0-3: For non-zero values the encoder increasingly optimizes for reduced
 753        complexity playback on low powered devices at the expense of encode
 754        quality. */
 755     if (avctx->profile != FF_PROFILE_UNKNOWN)
 756         enccfg.g_profile = avctx->profile;
 757
 758     enccfg.g_error_resilient = ctx->error_resilient || ctx->flags & VP8F_ERROR_RESILIENT;
 759
 760     if (CONFIG_LIBVPX_VP8_ENCODER && avctx->codec_id == AV_CODEC_ID_VP8) {
 761         AVDictionaryEntry* en = NULL;
 762         while ((en = av_dict_get(ctx->vp8_ts_parameters, "", en, AV_DICT_IGNORE_SUFFIX))) {
 763             if (vp8_ts_param_parse(&enccfg, en->key, en->value) < 0)
 764                 av_log(avctx, AV_LOG_WARNING,
 765                        "Error parsing option '%s = %s'.\n",
 766                        en->key, en->value);
 767         }
 768     }
 769
 770     dump_enc_cfg(avctx, &enccfg);
 771     /* Construct Encoder Context */
 772     res = vpx_codec_enc_init(&ctx->encoder, iface, &enccfg, flags);
 773     if (res != VPX_CODEC_OK) {
 774         log_encoder_error(avctx, "Failed to initialize encoder");
 775         return AVERROR(EINVAL);
 776     }
 777
 778     if (ctx->is_alpha) {
 779         enccfg_alpha = enccfg;
 780         res = vpx_codec_enc_init(&ctx->encoder_alpha, iface, &enccfg_alpha, flags);
 781         if (res != VPX_CODEC_OK) {
 782             log_encoder_error(avctx, "Failed to initialize alpha encoder");
 783             return AVERROR(EINVAL);
 784         }
 785     }
 786
 787     //codec control failures are currently treated only as warnings
 788     av_log(avctx, AV_LOG_DEBUG, "vpx_codec_control\n");
 789     codecctl_int(avctx, VP8E_SET_CPUUSED,          ctx->cpu_used);
 790     if (ctx->flags & VP8F_AUTO_ALT_REF)
 791         ctx->auto_alt_ref = 1;
 792     if (ctx->auto_alt_ref >= 0)
 793         codecctl_int(avctx, VP8E_SET_ENABLEAUTOALTREF,
 794                      avctx->codec_id == AV_CODEC_ID_VP8 ? !!ctx->auto_alt_ref : ctx->auto_alt_ref);
 795     if (ctx->arnr_max_frames >= 0)
 796         codecctl_int(avctx, VP8E_SET_ARNR_MAXFRAMES,   ctx->arnr_max_frames);
 797     if (ctx->arnr_strength >= 0)
 798         codecctl_int(avctx, VP8E_SET_ARNR_STRENGTH,    ctx->arnr_strength);
 799     if (ctx->arnr_type >= 0)
 800         codecctl_int(avctx, VP8E_SET_ARNR_TYPE,        ctx->arnr_type);
 801     if (ctx->tune >= 0)
 802         codecctl_int(avctx, VP8E_SET_TUNING,           ctx->tune);
 803
 804     if (ctx->auto_alt_ref && ctx->is_alpha && avctx->codec_id == AV_CODEC_ID_VP8) {
 805         av_log(avctx, AV_LOG_ERROR, "Transparency encoding with auto_alt_ref does not work\n");
 806         return AVERROR(EINVAL);
 807     }
 808
 809     if (ctx->sharpness >= 0)
 810         codecctl_int(avctx, VP8E_SET_SHARPNESS, ctx->sharpness);
 811
 812     if (CONFIG_LIBVPX_VP8_ENCODER && avctx->codec_id == AV_CODEC_ID_VP8) {
 813 #if FF_API_PRIVATE_OPT
 814 FF_DISABLE_DEPRECATION_WARNINGS
 815         if (avctx->noise_reduction)
 816             ctx->noise_sensitivity = avctx->noise_reduction;
 817 FF_ENABLE_DEPRECATION_WARNINGS
 818 #endif
 819         codecctl_int(avctx, VP8E_SET_NOISE_SENSITIVITY, ctx->noise_sensitivity);
 820         codecctl_int(avctx, VP8E_SET_TOKEN_PARTITIONS,  av_log2(avctx->slices));
 821     }
 822     codecctl_int(avctx, VP8E_SET_STATIC_THRESHOLD,  ctx->static_thresh);
 823     if (ctx->crf >= 0)
 824         codecctl_int(avctx, VP8E_SET_CQ_LEVEL,          ctx->crf);
 825     if (ctx->max_intra_rate >= 0)
 826         codecctl_int(avctx, VP8E_SET_MAX_INTRA_BITRATE_PCT, ctx->max_intra_rate);
 827
 828 #if CONFIG_LIBVPX_VP9_ENCODER
 829     if (avctx->codec_id == AV_CODEC_ID_VP9) {
 830         if (ctx->lossless >= 0)
 831             codecctl_int(avctx, VP9E_SET_LOSSLESS, ctx->lossless);
 832         if (ctx->tile_columns >= 0)
 833             codecctl_int(avctx, VP9E_SET_TILE_COLUMNS, ctx->tile_columns);
 834         if (ctx->tile_rows >= 0)
 835             codecctl_int(avctx, VP9E_SET_TILE_ROWS, ctx->tile_rows);
 836         if (ctx->frame_parallel >= 0)
 837             codecctl_int(avctx, VP9E_SET_FRAME_PARALLEL_DECODING, ctx->frame_parallel);
 838         if (ctx->aq_mode >= 0)
 839             codecctl_int(avctx, VP9E_SET_AQ_MODE, ctx->aq_mode);
 840         set_colorspace(avctx);
 841 #if VPX_ENCODER_ABI_VERSION >= 11
 842         set_color_range(avctx);
 843 #endif
 844 #if VPX_ENCODER_ABI_VERSION >= 12
 845         codecctl_int(avctx, VP9E_SET_TARGET_LEVEL, ctx->level < 0 ? 255 : lrint(ctx->level * 10));
 846 #endif
 847 #ifdef VPX_CTRL_VP9E_SET_ROW_MT
 848         if (ctx->row_mt >= 0)
 849             codecctl_int(avctx, VP9E_SET_ROW_MT, ctx->row_mt);
 850 #endif
 851 #ifdef VPX_CTRL_VP9E_SET_TUNE_CONTENT
 852         if (ctx->tune_content >= 0)
 853             codecctl_int(avctx, VP9E_SET_TUNE_CONTENT, ctx->tune_content);
 854 #endif
 855 #ifdef VPX_CTRL_VP9E_SET_TPL
 856         if (ctx->tpl_model >= 0)
 857             codecctl_int(avctx, VP9E_SET_TPL, ctx->tpl_model);
 858 #endif
 859     }
 860 #endif
 861
 862     av_log(avctx, AV_LOG_DEBUG, "Using deadline: %d\n", ctx->deadline);
 863
 864     //provide dummy value to initialize wrapper, values will be updated each _encode()
 865     vpx_img_wrap(&ctx->rawimg, img_fmt, avctx->width, avctx->height, 1,
 866                  (unsigned char*)1);
 867 #if CONFIG_LIBVPX_VP9_ENCODER
 868     if (avctx->codec_id == AV_CODEC_ID_VP9 && (codec_caps & VPX_CODEC_CAP_HIGHBITDEPTH))
 869         ctx->rawimg.bit_depth = enccfg.g_bit_depth;
 870 #endif
 871
 872     cpb_props = ff_add_cpb_side_data(avctx);
 873     if (!cpb_props)
 874         return AVERROR(ENOMEM);
 875
 876     if (enccfg.rc_end_usage == VPX_CBR ||
 877         enccfg.g_pass != VPX_RC_ONE_PASS) {
 878         cpb_props->max_bitrate = avctx->rc_max_rate;
 879         cpb_props->min_bitrate = avctx->rc_min_rate;
 880         cpb_props->avg_bitrate = avctx->bit_rate;
 881     }
 882     cpb_props->buffer_size = avctx->rc_buffer_size;
 883
 884     return 0;
 885 }
 886
 887 static inline void cx_pktcpy(struct FrameListData *dst,
 888                              const struct vpx_codec_cx_pkt *src,
 889                              const struct vpx_codec_cx_pkt *src_alpha,
 890                              VPxContext *ctx)
 891 {
 892     dst->pts      = src->data.frame.pts;
 893     dst->duration = src->data.frame.duration;
 894     dst->flags    = src->data.frame.flags;
 895     dst->sz       = src->data.frame.sz;
 896     dst->buf      = src->data.frame.buf;
 897     dst->have_sse = 0;
 898     /* For alt-ref frame, don't store PSNR or increment frame_number */
 899     if (!(dst->flags & VPX_FRAME_IS_INVISIBLE)) {
 900         dst->frame_number = ++ctx->frame_number;
 901         dst->have_sse = ctx->have_sse;
 902         if (ctx->have_sse) {
 903             /* associate last-seen SSE to the frame. */
 904             /* Transfers ownership from ctx to dst. */
 905             /* WARNING! This makes the assumption that PSNR_PKT comes
 906                just before the frame it refers to! */
 907             memcpy(dst->sse, ctx->sse, sizeof(dst->sse));
 908             ctx->have_sse = 0;
 909         }
 910     } else {
 911         dst->frame_number = -1;   /* sanity marker */
 912     }
 913     if (src_alpha) {
 914         dst->buf_alpha = src_alpha->data.frame.buf;
 915         dst->sz_alpha = src_alpha->data.frame.sz;
 916     } else {
 917         dst->buf_alpha = NULL;
 918         dst->sz_alpha = 0;
 919     }
 920 }
 921
 922 /**
 923  * Store coded frame information in format suitable for return from encode2().
 924  *
 925  * Write information from @a cx_frame to @a pkt
 926  * @return packet data size on success
 927  * @return a negative AVERROR on error
 928  */
 929 static int storeframe(AVCodecContext *avctx, struct FrameListData *cx_frame,
 930                       AVPacket *pkt)
 931 {
 932     int ret = ff_alloc_packet2(avctx, pkt, cx_frame->sz, 0);
 933     uint8_t *side_data;
 934     if (ret >= 0) {
 935         int pict_type;
 936         memcpy(pkt->data, cx_frame->buf, pkt->size);
 937         pkt->pts = pkt->dts = cx_frame->pts;
 938 #if FF_API_CODED_FRAME
 939 FF_DISABLE_DEPRECATION_WARNINGS
 940         avctx->coded_frame->pts       = cx_frame->pts;
 941         avctx->coded_frame->key_frame = !!(cx_frame->flags & VPX_FRAME_IS_KEY);
 942 FF_ENABLE_DEPRECATION_WARNINGS
 943 #endif
 944
 945         if (!!(cx_frame->flags & VPX_FRAME_IS_KEY)) {
 946             pict_type = AV_PICTURE_TYPE_I;
 947 #if FF_API_CODED_FRAME
 948 FF_DISABLE_DEPRECATION_WARNINGS
 949             avctx->coded_frame->pict_type = pict_type;
 950 FF_ENABLE_DEPRECATION_WARNINGS
 951 #endif
 952             pkt->flags |= AV_PKT_FLAG_KEY;
 953         } else {
 954             pict_type = AV_PICTURE_TYPE_P;
 955 #if FF_API_CODED_FRAME
 956 FF_DISABLE_DEPRECATION_WARNINGS
 957             avctx->coded_frame->pict_type = pict_type;
 958 FF_ENABLE_DEPRECATION_WARNINGS
 959 #endif
 960         }
 961
 962         ff_side_data_set_encoder_stats(pkt, 0, cx_frame->sse + 1,
 963                                        cx_frame->have_sse ? 3 : 0, pict_type);
 964
 965         if (cx_frame->have_sse) {
 966             int i;
 967             /* Beware of the Y/U/V/all order! */
 968 #if FF_API_CODED_FRAME
 969 FF_DISABLE_DEPRECATION_WARNINGS
 970             avctx->coded_frame->error[0] = cx_frame->sse[1];
 971             avctx->coded_frame->error[1] = cx_frame->sse[2];
 972             avctx->coded_frame->error[2] = cx_frame->sse[3];
 973             avctx->coded_frame->error[3] = 0;    // alpha
 974 FF_ENABLE_DEPRECATION_WARNINGS
 975 #endif
 976             for (i = 0; i < 3; ++i) {
 977                 avctx->error[i] += cx_frame->sse[i + 1];
 978             }
 979             cx_frame->have_sse = 0;
 980         }
 981         if (cx_frame->sz_alpha > 0) {
 982             side_data = av_packet_new_side_data(pkt,
 983                                                 AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
 984                                                 cx_frame->sz_alpha + 8);
 985             if(!side_data) {
 986                 av_packet_unref(pkt);
 987                 av_free(pkt);
 988                 return AVERROR(ENOMEM);
 989             }
 990             AV_WB64(side_data, 1);
 991             memcpy(side_data + 8, cx_frame->buf_alpha, cx_frame->sz_alpha);
 992         }
 993     } else {
 994         return ret;
 995     }
 996     return pkt->size;
 997 }
 998
 999 /**
1000  * Queue multiple output frames from the encoder, returning the front-most.
1001  * In cases where vpx_codec_get_cx_data() returns more than 1 frame append
1002  * the frame queue. Return the head frame if available.
1003  * @return Stored frame size
1004  * @return AVERROR(EINVAL) on output size error
1005  * @return AVERROR(ENOMEM) on coded frame queue data allocation error
1006  */
1007 static int queue_frames(AVCodecContext *avctx, AVPacket *pkt_out)
1008 {
1009     VPxContext *ctx = avctx->priv_data;
1010     const struct vpx_codec_cx_pkt *pkt;
1011     const struct vpx_codec_cx_pkt *pkt_alpha = NULL;
1012     const void *iter = NULL;
1013     const void *iter_alpha = NULL;
1014     int size = 0;
1015
1016     if (ctx->coded_frame_list) {
1017         struct FrameListData *cx_frame = ctx->coded_frame_list;
1018         /* return the leading frame if we've already begun queueing */
1019         size = storeframe(avctx, cx_frame, pkt_out);
1020         if (size < 0)
1021             return size;
1022         ctx->coded_frame_list = cx_frame->next;
1023         free_coded_frame(cx_frame);
1024     }
1025
1026     /* consume all available output from the encoder before returning. buffers
1027        are only good through the next vpx_codec call */
1028     while ((pkt = vpx_codec_get_cx_data(&ctx->encoder, &iter)) &&
1029            (!ctx->is_alpha ||
1030             (pkt_alpha = vpx_codec_get_cx_data(&ctx->encoder_alpha, &iter_alpha)))) {
1031         switch (pkt->kind) {
1032         case VPX_CODEC_CX_FRAME_PKT:
1033             if (!size) {
1034                 struct FrameListData cx_frame;
1035
1036                 /* avoid storing the frame when the list is empty and we haven't yet
1037                    provided a frame for output */
1038                 av_assert0(!ctx->coded_frame_list);
1039                 cx_pktcpy(&cx_frame, pkt, pkt_alpha, ctx);
1040                 size = storeframe(avctx, &cx_frame, pkt_out);
1041                 if (size < 0)
1042                     return size;
1043             } else {
1044                 struct FrameListData *cx_frame = av_malloc(sizeof(*cx_frame));
1045
1046                 if (!cx_frame) {
1047                     av_log(avctx, AV_LOG_ERROR,
1048                            "Frame queue element alloc failed\n");
1049                     return AVERROR(ENOMEM);
1050                 }
1051                 cx_pktcpy(cx_frame, pkt, pkt_alpha, ctx);
1052                 cx_frame->buf = av_malloc(cx_frame->sz);
1053
1054                 if (!cx_frame->buf) {
1055                     av_log(avctx, AV_LOG_ERROR,
1056                            "Data buffer alloc (%"SIZE_SPECIFIER" bytes) failed\n",
1057                            cx_frame->sz);
1058                     av_freep(&cx_frame);
1059                     return AVERROR(ENOMEM);
1060                 }
1061                 memcpy(cx_frame->buf, pkt->data.frame.buf, pkt->data.frame.sz);
1062                 if (ctx->is_alpha) {
1063                     cx_frame->buf_alpha = av_malloc(cx_frame->sz_alpha);
1064                     if (!cx_frame->buf_alpha) {
1065                         av_log(avctx, AV_LOG_ERROR,
1066                                "Data buffer alloc (%"SIZE_SPECIFIER" bytes) failed\n",
1067                                cx_frame->sz_alpha);
1068                         av_free(cx_frame);
1069                         return AVERROR(ENOMEM);
1070                     }
1071                     memcpy(cx_frame->buf_alpha, pkt_alpha->data.frame.buf, pkt_alpha->data.frame.sz);
1072                 }
1073                 coded_frame_add(&ctx->coded_frame_list, cx_frame);
1074             }
1075             break;
1076         case VPX_CODEC_STATS_PKT: {
1077             struct vpx_fixed_buf *stats = &ctx->twopass_stats;
1078             int err;
1079             if ((err = av_reallocp(&stats->buf,
1080                                    stats->sz +
1081                                    pkt->data.twopass_stats.sz)) < 0) {
1082                 stats->sz = 0;
1083                 av_log(avctx, AV_LOG_ERROR, "Stat buffer realloc failed\n");
1084                 return err;
1085             }
1086             memcpy((uint8_t*)stats->buf + stats->sz,
1087                    pkt->data.twopass_stats.buf, pkt->data.twopass_stats.sz);
1088             stats->sz += pkt->data.twopass_stats.sz;
1089             break;
1090         }
1091         case VPX_CODEC_PSNR_PKT:
1092             av_assert0(!ctx->have_sse);
1093             ctx->sse[0] = pkt->data.psnr.sse[0];
1094             ctx->sse[1] = pkt->data.psnr.sse[1];
1095             ctx->sse[2] = pkt->data.psnr.sse[2];
1096             ctx->sse[3] = pkt->data.psnr.sse[3];
1097             ctx->have_sse = 1;
1098             break;
1099         case VPX_CODEC_CUSTOM_PKT:
1100             //ignore unsupported/unrecognized packet types
1101             break;
1102         }
1103     }
1104
1105     return size;
1106 }
1107
1108 static int set_roi_map(AVCodecContext *avctx, const AVFrameSideData *sd, int frame_width, int frame_height,
1109                        vpx_roi_map_t *roi_map, int block_size, int segment_cnt)
1110 {
1111     /**
1112      * range of vpx_roi_map_t.delta_q[i] is [-63, 63]
1113      */
1114 #define MAX_DELTA_Q 63
1115
1116     const AVRegionOfInterest *roi = NULL;
1117     int nb_rois;
1118     uint32_t self_size;
1119     int segment_id;
1120
1121     /* record the mapping from delta_q to "segment id + 1" in segment_mapping[].
1122      * the range of delta_q is [-MAX_DELTA_Q, MAX_DELTA_Q],
1123      * and its corresponding array index is [0, 2 * MAX_DELTA_Q],
1124      * and so the length of the mapping array is 2 * MAX_DELTA_Q + 1.
1125      * "segment id + 1", so we can say there's no mapping if the value of array element is zero.
1126      */
1127     int segment_mapping[2 * MAX_DELTA_Q + 1] = { 0 };
1128
1129     memset(roi_map, 0, sizeof(*roi_map));
1130
1131     /* segment id 0 in roi_map is reserved for the areas not covered by AVRegionOfInterest.
1132      * segment id 0 in roi_map is also for the areas with AVRegionOfInterest.qoffset near 0.
1133      * (delta_q of segment id 0 is 0).
1134      */
1135     segment_mapping[MAX_DELTA_Q] = 1;
1136     segment_id = 1;
1137
1138     roi = (const AVRegionOfInterest*)sd->data;
1139     self_size = roi->self_size;
1140     if (!self_size || sd->size % self_size) {
1141         av_log(avctx, AV_LOG_ERROR, "Invalid AVRegionOfInterest.self_size.\n");
1142         return AVERROR(EINVAL);
1143     }
1144     nb_rois = sd->size / self_size;
1145
1146     /* This list must be iterated from zero because regions are
1147      * defined in order of decreasing importance. So discard less
1148      * important areas if they exceed the segment count.
1149      */
1150     for (int i = 0; i < nb_rois; i++) {
1151         int delta_q;
1152         int mapping_index;
1153
1154         roi = (const AVRegionOfInterest*)(sd->data + self_size * i);
1155         if (!roi->qoffset.den) {
1156             av_log(avctx, AV_LOG_ERROR, "AVRegionOfInterest.qoffset.den must not be zero.\n");
1157             return AVERROR(EINVAL);
1158         }
1159
1160         delta_q = (int)(roi->qoffset.num * 1.0f / roi->qoffset.den * MAX_DELTA_Q);
1161         delta_q = av_clip(delta_q, -MAX_DELTA_Q, MAX_DELTA_Q);
1162
1163         mapping_index = delta_q + MAX_DELTA_Q;
1164         if (!segment_mapping[mapping_index]) {
1165             if (segment_id == segment_cnt) {
1166                 av_log(avctx, AV_LOG_WARNING,
1167                        "ROI only supports %d segments (and segment 0 is reserved for non-ROIs), skipping the left ones.\n",
1168                        segment_cnt);
1169                 break;
1170             }
1171
1172             segment_mapping[mapping_index] = segment_id + 1;
1173             roi_map->delta_q[segment_id] = delta_q;
1174             segment_id++;
1175         }
1176     }
1177
1178     roi_map->rows = (frame_height + block_size - 1) / block_size;
1179     roi_map->cols = (frame_width  + block_size - 1) / block_size;
1180     roi_map->roi_map = av_mallocz_array(roi_map->rows * roi_map->cols, sizeof(*roi_map->roi_map));
1181     if (!roi_map->roi_map) {
1182         av_log(avctx, AV_LOG_ERROR, "roi_map alloc failed.\n");
1183         return AVERROR(ENOMEM);
1184     }
1185
1186     /* This list must be iterated in reverse, so for the case that
1187      * two regions are overlapping, the more important area takes effect.
1188      */
1189     for (int i = nb_rois - 1; i >= 0; i--) {
1190         int delta_q;
1191         int mapping_value;
1192         int starty, endy, startx, endx;
1193
1194         roi = (const AVRegionOfInterest*)(sd->data + self_size * i);
1195
1196         starty = av_clip(roi->top / block_size, 0, roi_map->rows);
1197         endy   = av_clip((roi->bottom + block_size - 1) / block_size, 0, roi_map->rows);
1198         startx = av_clip(roi->left / block_size, 0, roi_map->cols);
1199         endx   = av_clip((roi->right + block_size - 1) / block_size, 0, roi_map->cols);
1200
1201         delta_q = (int)(roi->qoffset.num * 1.0f / roi->qoffset.den * MAX_DELTA_Q);
1202         delta_q = av_clip(delta_q, -MAX_DELTA_Q, MAX_DELTA_Q);
1203
1204         mapping_value = segment_mapping[delta_q + MAX_DELTA_Q];
1205         if (mapping_value) {
1206             for (int y = starty; y < endy; y++)
1207                 for (int x = startx; x < endx; x++)
1208                     roi_map->roi_map[x + y * roi_map->cols] = mapping_value - 1;
1209         }
1210     }
1211
1212     return 0;
1213 }
1214
1215 static int vp9_encode_set_roi(AVCodecContext *avctx, int frame_width, int frame_height, const AVFrameSideData *sd)
1216 {
1217     VPxContext *ctx = avctx->priv_data;
1218
1219 #ifdef VPX_CTRL_VP9E_SET_ROI_MAP
1220     int version = vpx_codec_version();
1221     int major = VPX_VERSION_MAJOR(version);
1222     int minor = VPX_VERSION_MINOR(version);
1223     int patch = VPX_VERSION_PATCH(version);
1224
1225     if (major > 1 || (major == 1 && minor > 8) || (major == 1 && minor == 8 && patch >= 1)) {
1226         vpx_roi_map_t roi_map;
1227         const int segment_cnt = 8;
1228         const int block_size = 8;
1229         int ret;
1230
1231         if (ctx->aq_mode > 0 || ctx->cpu_used < 5 || ctx->deadline != VPX_DL_REALTIME) {
1232             if (!ctx->roi_warned) {
1233                 ctx->roi_warned = 1;
1234                 av_log(avctx, AV_LOG_WARNING, "ROI is only enabled when aq_mode is 0, cpu_used >= 5 "
1235                                               "and deadline is REALTIME, so skipping ROI.\n");
1236                 return AVERROR(EINVAL);
1237             }
1238         }
1239
1240         ret = set_roi_map(avctx, sd, frame_width, frame_height, &roi_map, block_size, segment_cnt);
1241         if (ret) {
1242             log_encoder_error(avctx, "Failed to set_roi_map.\n");
1243             return ret;
1244         }
1245
1246         memset(roi_map.ref_frame, -1, sizeof(roi_map.ref_frame));
1247
1248         if (vpx_codec_control(&ctx->encoder, VP9E_SET_ROI_MAP, &roi_map)) {
1249             log_encoder_error(avctx, "Failed to set VP9E_SET_ROI_MAP codec control.\n");
1250             ret = AVERROR_INVALIDDATA;
1251         }
1252         av_freep(&roi_map.roi_map);
1253         return ret;
1254     }
1255 #endif
1256
1257     if (!ctx->roi_warned) {
1258         ctx->roi_warned = 1;
1259         av_log(avctx, AV_LOG_WARNING, "ROI is not supported, please upgrade libvpx to version >= 1.8.1. "
1260                                       "You may need to rebuild ffmpeg.\n");
1261     }
1262     return 0;
1263 }
1264
1265 static int vp8_encode_set_roi(AVCodecContext *avctx, int frame_width, int frame_height, const AVFrameSideData *sd)
1266 {
1267     vpx_roi_map_t roi_map;
1268     const int segment_cnt = 4;
1269     const int block_size = 16;
1270     VPxContext *ctx = avctx->priv_data;
1271
1272     int ret = set_roi_map(avctx, sd, frame_width, frame_height, &roi_map, block_size, segment_cnt);
1273     if (ret) {
1274         log_encoder_error(avctx, "Failed to set_roi_map.\n");
1275         return ret;
1276     }
1277
1278     if (vpx_codec_control(&ctx->encoder, VP8E_SET_ROI_MAP, &roi_map)) {
1279         log_encoder_error(avctx, "Failed to set VP8E_SET_ROI_MAP codec control.\n");
1280         ret = AVERROR_INVALIDDATA;
1281     }
1282
1283     av_freep(&roi_map.roi_map);
1284     return ret;
1285 }
1286
1287 static int realloc_alpha_uv(AVCodecContext *avctx, int width, int height)
1288 {
1289     VPxContext *ctx = avctx->priv_data;
1290     struct vpx_image *rawimg_alpha = &ctx->rawimg_alpha;
1291     unsigned char **planes = rawimg_alpha->planes;
1292     int *stride = rawimg_alpha->stride;
1293
1294     if (!planes[VPX_PLANE_U] ||
1295         !planes[VPX_PLANE_V] ||
1296         width  != (int)rawimg_alpha->d_w ||
1297         height != (int)rawimg_alpha->d_h) {
1298         av_freep(&planes[VPX_PLANE_U]);
1299         av_freep(&planes[VPX_PLANE_V]);
1300
1301         vpx_img_wrap(rawimg_alpha, VPX_IMG_FMT_I420, width, height, 1,
1302                      (unsigned char*)1);
1303         planes[VPX_PLANE_U] = av_malloc_array(stride[VPX_PLANE_U], height);
1304         planes[VPX_PLANE_V] = av_malloc_array(stride[VPX_PLANE_V], height);
1305         if (!planes[VPX_PLANE_U] || !planes[VPX_PLANE_V])
1306             return AVERROR(ENOMEM);
1307
1308         memset(planes[VPX_PLANE_U], 0x80, stride[VPX_PLANE_U] * height);
1309         memset(planes[VPX_PLANE_V], 0x80, stride[VPX_PLANE_V] * height);
1310     }
1311
1312     return 0;
1313 }
1314
1315 static int vpx_encode(AVCodecContext *avctx, AVPacket *pkt,
1316                       const AVFrame *frame, int *got_packet)
1317 {
1318     VPxContext *ctx = avctx->priv_data;
1319     struct vpx_image *rawimg = NULL;
1320     struct vpx_image *rawimg_alpha = NULL;
1321     int64_t timestamp = 0;
1322     int res, coded_size;
1323     vpx_enc_frame_flags_t flags = 0;
1324
1325     if (frame) {
1326         const AVFrameSideData *sd = av_frame_get_side_data(frame, AV_FRAME_DATA_REGIONS_OF_INTEREST);
1327         rawimg                      = &ctx->rawimg;
1328         rawimg->planes[VPX_PLANE_Y] = frame->data[0];
1329         rawimg->planes[VPX_PLANE_U] = frame->data[1];
1330         rawimg->planes[VPX_PLANE_V] = frame->data[2];
1331         rawimg->stride[VPX_PLANE_Y] = frame->linesize[0];
1332         rawimg->stride[VPX_PLANE_U] = frame->linesize[1];
1333         rawimg->stride[VPX_PLANE_V] = frame->linesize[2];
1334         if (ctx->is_alpha) {
1335             rawimg_alpha = &ctx->rawimg_alpha;
1336             res = realloc_alpha_uv(avctx, frame->width, frame->height);
1337             if (res < 0)
1338                 return res;
1339             rawimg_alpha->planes[VPX_PLANE_Y] = frame->data[3];
1340             rawimg_alpha->stride[VPX_PLANE_Y] = frame->linesize[3];
1341         }
1342         timestamp                   = frame->pts;
1343 #if VPX_IMAGE_ABI_VERSION >= 4
1344         switch (frame->color_range) {
1345         case AVCOL_RANGE_MPEG:
1346             rawimg->range = VPX_CR_STUDIO_RANGE;
1347             break;
1348         case AVCOL_RANGE_JPEG:
1349             rawimg->range = VPX_CR_FULL_RANGE;
1350             break;
1351         }
1352 #endif
1353         if (frame->pict_type == AV_PICTURE_TYPE_I)
1354             flags |= VPX_EFLAG_FORCE_KF;
1355         if (CONFIG_LIBVPX_VP8_ENCODER && avctx->codec_id == AV_CODEC_ID_VP8 && frame->metadata) {
1356             AVDictionaryEntry* en = av_dict_get(frame->metadata, "vp8-flags", NULL, 0);
1357             if (en) {
1358                 flags |= strtoul(en->value, NULL, 10);
1359             }
1360         }
1361
1362         if (sd) {
1363             if (avctx->codec_id == AV_CODEC_ID_VP8) {
1364                 vp8_encode_set_roi(avctx, frame->width, frame->height, sd);
1365             } else {
1366                 vp9_encode_set_roi(avctx, frame->width, frame->height, sd);
1367             }
1368         }
1369     }
1370
1371     res = vpx_codec_encode(&ctx->encoder, rawimg, timestamp,
1372                            avctx->ticks_per_frame, flags, ctx->deadline);
1373     if (res != VPX_CODEC_OK) {
1374         log_encoder_error(avctx, "Error encoding frame");
1375         return AVERROR_INVALIDDATA;
1376     }
1377
1378     if (ctx->is_alpha) {
1379         res = vpx_codec_encode(&ctx->encoder_alpha, rawimg_alpha, timestamp,
1380                                avctx->ticks_per_frame, flags, ctx->deadline);
1381         if (res != VPX_CODEC_OK) {
1382             log_encoder_error(avctx, "Error encoding alpha frame");
1383             return AVERROR_INVALIDDATA;
1384         }
1385     }
1386
1387     coded_size = queue_frames(avctx, pkt);
1388
1389     if (!frame && avctx->flags & AV_CODEC_FLAG_PASS1) {
1390         unsigned int b64_size = AV_BASE64_SIZE(ctx->twopass_stats.sz);
1391
1392         avctx->stats_out = av_malloc(b64_size);
1393         if (!avctx->stats_out) {
1394             av_log(avctx, AV_LOG_ERROR, "Stat buffer alloc (%d bytes) failed\n",
1395                    b64_size);
1396             return AVERROR(ENOMEM);
1397         }
1398         av_base64_encode(avctx->stats_out, b64_size, ctx->twopass_stats.buf,
1399                          ctx->twopass_stats.sz);
1400     }
1401
1402     *got_packet = !!coded_size;
1403     return 0;
1404 }
1405
1406 #define OFFSET(x) offsetof(VPxContext, x)
1407 #define VE AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_ENCODING_PARAM
1408
1409 #define COMMON_OPTIONS \
1410     { "lag-in-frames",   "Number of frames to look ahead for " \
1411                          "alternate reference frame selection",    OFFSET(lag_in_frames),   AV_OPT_TYPE_INT, {.i64 = -1},      -1,      INT_MAX, VE}, \
1412     { "arnr-maxframes",  "altref noise reduction max frame count", OFFSET(arnr_max_frames), AV_OPT_TYPE_INT, {.i64 = -1},      -1,      INT_MAX, VE}, \
1413     { "arnr-strength",   "altref noise reduction filter strength", OFFSET(arnr_strength),   AV_OPT_TYPE_INT, {.i64 = -1},      -1,      INT_MAX, VE}, \
1414     { "arnr-type",       "altref noise reduction filter type",     OFFSET(arnr_type),       AV_OPT_TYPE_INT, {.i64 = -1},      -1,      INT_MAX, VE, "arnr_type"}, \
1415     { "backward",        NULL, 0, AV_OPT_TYPE_CONST, {.i64 = 1}, 0, 0, VE, "arnr_type" }, \
1416     { "forward",         NULL, 0, AV_OPT_TYPE_CONST, {.i64 = 2}, 0, 0, VE, "arnr_type" }, \
1417     { "centered",        NULL, 0, AV_OPT_TYPE_CONST, {.i64 = 3}, 0, 0, VE, "arnr_type" }, \
1418     { "tune",            "Tune the encoding to a specific scenario", OFFSET(tune),          AV_OPT_TYPE_INT, {.i64 = -1},      -1,      INT_MAX, VE, "tune"}, \
1419     { "psnr",            NULL, 0, AV_OPT_TYPE_CONST, {.i64 = VP8_TUNE_PSNR}, 0, 0, VE, "tune"}, \
1420     { "ssim",            NULL, 0, AV_OPT_TYPE_CONST, {.i64 = VP8_TUNE_SSIM}, 0, 0, VE, "tune"}, \
1421     { "deadline",        "Time to spend encoding, in microseconds.", OFFSET(deadline),      AV_OPT_TYPE_INT, {.i64 = VPX_DL_GOOD_QUALITY}, INT_MIN, INT_MAX, VE, "quality"}, \
1422     { "best",            NULL, 0, AV_OPT_TYPE_CONST, {.i64 = VPX_DL_BEST_QUALITY}, 0, 0, VE, "quality"}, \
1423     { "good",            NULL, 0, AV_OPT_TYPE_CONST, {.i64 = VPX_DL_GOOD_QUALITY}, 0, 0, VE, "quality"}, \
1424     { "realtime",        NULL, 0, AV_OPT_TYPE_CONST, {.i64 = VPX_DL_REALTIME},     0, 0, VE, "quality"}, \
1425     { "error-resilient", "Error resilience configuration", OFFSET(error_resilient), AV_OPT_TYPE_FLAGS, {.i64 = 0}, INT_MIN, INT_MAX, VE, "er"}, \
1426     { "max-intra-rate",  "Maximum I-frame bitrate (pct) 0=unlimited",  OFFSET(max_intra_rate),  AV_OPT_TYPE_INT,  {.i64 = -1}, -1,      INT_MAX, VE}, \
1427     { "default",         "Improve resiliency against losses of whole frames", 0, AV_OPT_TYPE_CONST, {.i64 = VPX_ERROR_RESILIENT_DEFAULT}, 0, 0, VE, "er"}, \
1428     { "partitions",      "The frame partitions are independently decodable " \
1429                          "by the bool decoder, meaning that partitions can be decoded even " \
1430                          "though earlier partitions have been lost. Note that intra prediction" \
1431                          " is still done over the partition boundary.",       0, AV_OPT_TYPE_CONST, {.i64 = VPX_ERROR_RESILIENT_PARTITIONS}, 0, 0, VE, "er"}, \
1432     { "crf",              "Select the quality for constant quality mode", offsetof(VPxContext, crf), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 63, VE }, \
1433     { "static-thresh",    "A change threshold on blocks below which they will be skipped by the encoder", OFFSET(static_thresh), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, INT_MAX, VE }, \
1434     { "drop-threshold",   "Frame drop threshold", offsetof(VPxContext, drop_threshold), AV_OPT_TYPE_INT, {.i64 = 0 }, INT_MIN, INT_MAX, VE }, \
1435     { "noise-sensitivity", "Noise sensitivity", OFFSET(noise_sensitivity), AV_OPT_TYPE_INT, {.i64 = 0 }, 0, 4, VE}, \
1436     { "undershoot-pct",  "Datarate undershoot (min) target (%)", OFFSET(rc_undershoot_pct), AV_OPT_TYPE_INT, { .i64 = -1 }, -1, 100, VE }, \
1437     { "overshoot-pct",   "Datarate overshoot (max) target (%)", OFFSET(rc_overshoot_pct), AV_OPT_TYPE_INT, { .i64 = -1 }, -1, 1000, VE }, \
1438
1439 #define LEGACY_OPTIONS \
1440     {"speed", "", offsetof(VPxContext, cpu_used), AV_OPT_TYPE_INT, {.i64 = 1}, -16, 16, VE}, \
1441     {"quality", "", offsetof(VPxContext, deadline), AV_OPT_TYPE_INT, {.i64 = VPX_DL_GOOD_QUALITY}, INT_MIN, INT_MAX, VE, "quality"}, \
1442     {"vp8flags", "", offsetof(VPxContext, flags), AV_OPT_TYPE_FLAGS, {.i64 = 0}, 0, UINT_MAX, VE, "flags"}, \
1443     {"error_resilient", "enable error resilience", 0, AV_OPT_TYPE_CONST, {.i64 = VP8F_ERROR_RESILIENT}, INT_MIN, INT_MAX, VE, "flags"}, \
1444     {"altref", "enable use of alternate reference frames (VP8/2-pass only)", 0, AV_OPT_TYPE_CONST, {.i64 = VP8F_AUTO_ALT_REF}, INT_MIN, INT_MAX, VE, "flags"}, \
1445     {"arnr_max_frames", "altref noise reduction max frame count", offsetof(VPxContext, arnr_max_frames), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 15, VE}, \
1446     {"arnr_strength", "altref noise reduction filter strength", offsetof(VPxContext, arnr_strength), AV_OPT_TYPE_INT, {.i64 = 3}, 0, 6, VE}, \
1447     {"arnr_type", "altref noise reduction filter type", offsetof(VPxContext, arnr_type), AV_OPT_TYPE_INT, {.i64 = 3}, 1, 3, VE}, \
1448     {"rc_lookahead", "Number of frames to look ahead for alternate reference frame selection", offsetof(VPxContext, lag_in_frames), AV_OPT_TYPE_INT, {.i64 = 25}, 0, 25, VE}, \
1449     {"sharpness", "Increase sharpness at the expense of lower PSNR", offsetof(VPxContext, sharpness), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 7, VE},
1450
1451 #if CONFIG_LIBVPX_VP8_ENCODER
1452 static const AVOption vp8_options[] = {
1453     COMMON_OPTIONS
1454     { "auto-alt-ref",    "Enable use of alternate reference "
1455                          "frames (2-pass only)",                        OFFSET(auto_alt_ref),    AV_OPT_TYPE_INT, {.i64 = -1}, -1,  2, VE},
1456     { "cpu-used",        "Quality/Speed ratio modifier",                OFFSET(cpu_used),        AV_OPT_TYPE_INT, {.i64 = 1}, -16, 16, VE},
1457     { "ts-parameters",   "Temporal scaling configuration using a "
1458                          ":-separated list of key=value parameters",    OFFSET(vp8_ts_parameters), AV_OPT_TYPE_DICT, {.str=NULL},  0,  0, VE},
1459     LEGACY_OPTIONS
1460     { NULL }
1461 };
1462 #endif
1463
1464 #if CONFIG_LIBVPX_VP9_ENCODER
1465 static const AVOption vp9_options[] = {
1466     COMMON_OPTIONS
1467     { "auto-alt-ref",    "Enable use of alternate reference "
1468                          "frames (2-pass only)",                        OFFSET(auto_alt_ref),    AV_OPT_TYPE_INT, {.i64 = -1}, -1, 6, VE},
1469     { "cpu-used",        "Quality/Speed ratio modifier",                OFFSET(cpu_used),        AV_OPT_TYPE_INT, {.i64 = 1},  -8, 8, VE},
1470     { "lossless",        "Lossless mode",                               OFFSET(lossless),        AV_OPT_TYPE_INT, {.i64 = -1}, -1, 1, VE},
1471     { "tile-columns",    "Number of tile columns to use, log2",         OFFSET(tile_columns),    AV_OPT_TYPE_INT, {.i64 = -1}, -1, 6, VE},
1472     { "tile-rows",       "Number of tile rows to use, log2",            OFFSET(tile_rows),       AV_OPT_TYPE_INT, {.i64 = -1}, -1, 2, VE},
1473     { "frame-parallel",  "Enable frame parallel decodability features", OFFSET(frame_parallel),  AV_OPT_TYPE_BOOL,{.i64 = -1}, -1, 1, VE},
1474 #if VPX_ENCODER_ABI_VERSION >= 12
1475     { "aq-mode",         "adaptive quantization mode",                  OFFSET(aq_mode),         AV_OPT_TYPE_INT, {.i64 = -1}, -1, 4, VE, "aq_mode"},
1476 #else
1477     { "aq-mode",         "adaptive quantization mode",                  OFFSET(aq_mode),         AV_OPT_TYPE_INT, {.i64 = -1}, -1, 3, VE, "aq_mode"},
1478 #endif
1479     { "none",            "Aq not used",         0, AV_OPT_TYPE_CONST, {.i64 = 0}, 0, 0, VE, "aq_mode" },
1480     { "variance",        "Variance based Aq",   0, AV_OPT_TYPE_CONST, {.i64 = 1}, 0, 0, VE, "aq_mode" },
1481     { "complexity",      "Complexity based Aq", 0, AV_OPT_TYPE_CONST, {.i64 = 2}, 0, 0, VE, "aq_mode" },
1482     { "cyclic",          "Cyclic Refresh Aq",   0, AV_OPT_TYPE_CONST, {.i64 = 3}, 0, 0, VE, "aq_mode" },
1483 #if VPX_ENCODER_ABI_VERSION >= 12
1484     { "equator360",      "360 video Aq",        0, AV_OPT_TYPE_CONST, {.i64 = 4}, 0, 0, VE, "aq_mode" },
1485     {"level", "Specify level", OFFSET(level), AV_OPT_TYPE_FLOAT, {.dbl=-1}, -1, 6.2, VE},
1486 #endif
1487 #ifdef VPX_CTRL_VP9E_SET_ROW_MT
1488     {"row-mt", "Row based multi-threading", OFFSET(row_mt), AV_OPT_TYPE_BOOL, {.i64 = -1}, -1, 1, VE},
1489 #endif
1490 #ifdef VPX_CTRL_VP9E_SET_TUNE_CONTENT
1491 #if VPX_ENCODER_ABI_VERSION >= 14
1492     { "tune-content",    "Tune content type", OFFSET(tune_content), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 2, VE, "tune_content" },
1493 #else
1494     { "tune-content",    "Tune content type", OFFSET(tune_content), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 1, VE, "tune_content" },
1495 #endif
1496     { "default",         "Regular video content",                  0, AV_OPT_TYPE_CONST, {.i64 = 0}, 0, 0, VE, "tune_content" },
1497     { "screen",          "Screen capture content",                 0, AV_OPT_TYPE_CONST, {.i64 = 1}, 0, 0, VE, "tune_content" },
1498 #if VPX_ENCODER_ABI_VERSION >= 14
1499     { "film",            "Film content; improves grain retention", 0, AV_OPT_TYPE_CONST, {.i64 = 2}, 0, 0, VE, "tune_content" },
1500 #endif
1501 #endif
1502 #if VPX_ENCODER_ABI_VERSION >= 14
1503     { "corpus-complexity", "corpus vbr complexity midpoint", OFFSET(corpus_complexity), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 10000, VE },
1504 #endif
1505 #ifdef VPX_CTRL_VP9E_SET_TPL
1506     { "enable-tpl",      "Enable temporal dependency model", OFFSET(tpl_model), AV_OPT_TYPE_BOOL, {.i64 = -1}, -1, 1, VE },
1507 #endif
1508     LEGACY_OPTIONS
1509     { NULL }
1510 };
1511 #endif
1512
1513 #undef COMMON_OPTIONS
1514 #undef LEGACY_OPTIONS
1515
1516 static const AVCodecDefault defaults[] = {
1517     { "b",                 "0" },
1518     { "qmin",             "-1" },
1519     { "qmax",             "-1" },
1520     { "g",                "-1" },
1521     { "keyint_min",       "-1" },
1522     { NULL },
1523 };
1524
1525 #if CONFIG_LIBVPX_VP8_ENCODER
1526 static av_cold int vp8_init(AVCodecContext *avctx)
1527 {
1528     return vpx_init(avctx, vpx_codec_vp8_cx());
1529 }
1530
1531 static const AVClass class_vp8 = {
1532     .class_name = "libvpx-vp8 encoder",
1533     .item_name  = av_default_item_name,
1534     .option     = vp8_options,
1535     .version    = LIBAVUTIL_VERSION_INT,
1536 };
1537
1538 AVCodec ff_libvpx_vp8_encoder = {
1539     .name           = "libvpx",
1540     .long_name      = NULL_IF_CONFIG_SMALL("libvpx VP8"),
1541     .type           = AVMEDIA_TYPE_VIDEO,
1542     .id             = AV_CODEC_ID_VP8,
1543     .priv_data_size = sizeof(VPxContext),
1544     .init           = vp8_init,
1545     .encode2        = vpx_encode,
1546     .close          = vpx_free,
1547     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_AUTO_THREADS,
1548     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUVA420P, AV_PIX_FMT_NONE },
1549     .priv_class     = &class_vp8,
1550     .defaults       = defaults,
1551     .wrapper_name   = "libvpx",
1552 };
1553 #endif /* CONFIG_LIBVPX_VP8_ENCODER */
1554
1555 #if CONFIG_LIBVPX_VP9_ENCODER
1556 static av_cold int vp9_init(AVCodecContext *avctx)
1557 {
1558     return vpx_init(avctx, vpx_codec_vp9_cx());
1559 }
1560
1561 static const AVClass class_vp9 = {
1562     .class_name = "libvpx-vp9 encoder",
1563     .item_name  = av_default_item_name,
1564     .option     = vp9_options,
1565     .version    = LIBAVUTIL_VERSION_INT,
1566 };
1567
1568 AVCodec ff_libvpx_vp9_encoder = {
1569     .name           = "libvpx-vp9",
1570     .long_name      = NULL_IF_CONFIG_SMALL("libvpx VP9"),
1571     .type           = AVMEDIA_TYPE_VIDEO,
1572     .id             = AV_CODEC_ID_VP9,
1573     .priv_data_size = sizeof(VPxContext),
1574     .init           = vp9_init,
1575     .encode2        = vpx_encode,
1576     .close          = vpx_free,
1577     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_AUTO_THREADS,
1578     .profiles       = NULL_IF_CONFIG_SMALL(ff_vp9_profiles),
1579     .priv_class     = &class_vp9,
1580     .defaults       = defaults,
1581     .init_static_data = ff_vp9_init_static,
1582     .wrapper_name   = "libvpx",
1583 };
1584 #endif /* CONFIG_LIBVPX_VP9_ENCODER */