git.sesse.net Git - ffmpeg/blob - libavcodec/libxvid_rc.c

   1 /*
   2  * Xvid rate control wrapper for lavc video encoders
   3  *
   4  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "config.h"
  24
  25 #if !HAVE_MKSTEMP
  26 #include <fcntl.h>
  27 #endif
  28 #include <unistd.h>
  29 #include <xvid.h>
  30
  31 #include "libavutil/attributes.h"
  32 #include "libavutil/internal.h"
  33
  34 #include "avcodec.h"
  35 #include "libxvid.h"
  36 #include "mpegvideo.h"
  37
  38 /* Wrapper to work around the lack of mkstemp() on mingw.
  39  * Also, tries to create file in /tmp first, if possible.
  40  * *prefix can be a character constant; *filename will be allocated internally.
  41  * @return file descriptor of opened file (or -1 on error)
  42  * and opened file name in **filename. */
  43 int ff_tempfile(const char *prefix, char **filename)
  44 {
  45     int fd = -1;
  46 #if !HAVE_MKSTEMP
  47     *filename = tempnam(".", prefix);
  48 #else
  49     size_t len = strlen(prefix) + 12; /* room for "/tmp/" and "XXXXXX\0" */
  50     *filename  = av_malloc(len);
  51 #endif
  52     /* -----common section-----*/
  53     if (!(*filename)) {
  54         av_log(NULL, AV_LOG_ERROR, "ff_tempfile: Cannot allocate file name\n");
  55         return AVERROR(ENOMEM);
  56     }
  57 #if !HAVE_MKSTEMP
  58     fd = avpriv_open(*filename, O_RDWR | O_BINARY | O_CREAT, 0444);
  59 #else
  60     snprintf(*filename, len, "/tmp/%sXXXXXX", prefix);
  61     fd = mkstemp(*filename);
  62     if (fd < 0) {
  63         snprintf(*filename, len, "./%sXXXXXX", prefix);
  64         fd = mkstemp(*filename);
  65     }
  66 #endif
  67     /* -----common section-----*/
  68     if (fd < 0) {
  69         av_log(NULL, AV_LOG_ERROR, "ff_tempfile: Cannot open temporary file %s\n", *filename);
  70         return AVERROR(EIO);
  71     }
  72     return fd; /* success */
  73 }
  74
  75 av_cold int ff_xvid_rate_control_init(MpegEncContext *s)
  76 {
  77     char *tmp_name;
  78     int fd, i;
  79     xvid_plg_create_t xvid_plg_create = { 0 };
  80     xvid_plugin_2pass2_t xvid_2pass2  = { 0 };
  81
  82     fd = ff_tempfile("xvidrc.", &tmp_name);
  83     if (fd < 0) {
  84         av_log(NULL, AV_LOG_ERROR, "Can't create temporary pass2 file.\n");
  85         return fd;
  86     }
  87
  88     for (i = 0; i < s->rc_context.num_entries; i++) {
  89         static const char frame_types[] = " ipbs";
  90         char tmp[256];
  91         RateControlEntry *rce;
  92
  93         rce = &s->rc_context.entry[i];
  94
  95         snprintf(tmp, sizeof(tmp), "%c %d %d %d %d %d %d\n",
  96                  frame_types[rce->pict_type],
  97                  (int) lrintf(rce->qscale / FF_QP2LAMBDA),
  98                  rce->i_count, s->mb_num - rce->i_count - rce->skip_count,
  99                  rce->skip_count,
 100                  (rce->i_tex_bits + rce->p_tex_bits + rce->misc_bits + 7) / 8,
 101                  (rce->header_bits + rce->mv_bits + 7) / 8);
 102
 103         write(fd, tmp, strlen(tmp));
 104     }
 105
 106     close(fd);
 107
 108     xvid_2pass2.version     = XVID_MAKE_VERSION(1, 1, 0);
 109     xvid_2pass2.filename    = tmp_name;
 110     xvid_2pass2.bitrate     = s->avctx->bit_rate;
 111     xvid_2pass2.vbv_size    = s->avctx->rc_buffer_size;
 112     xvid_2pass2.vbv_maxrate = s->avctx->rc_max_rate;
 113     xvid_2pass2.vbv_initial = s->avctx->rc_initial_buffer_occupancy;
 114
 115     xvid_plg_create.version = XVID_MAKE_VERSION(1, 1, 0);
 116     xvid_plg_create.fbase   = s->avctx->time_base.den;
 117     xvid_plg_create.fincr   = s->avctx->time_base.num;
 118     xvid_plg_create.param   = &xvid_2pass2;
 119
 120     if (xvid_plugin_2pass2(NULL, XVID_PLG_CREATE, &xvid_plg_create,
 121                            &s->rc_context.non_lavc_opaque) < 0) {
 122         av_log(NULL, AV_LOG_ERROR, "xvid_plugin_2pass2 failed\n");
 123         return -1;
 124     }
 125     return 0;
 126 }
 127
 128 float ff_xvid_rate_estimate_qscale(MpegEncContext *s, int dry_run)
 129 {
 130     xvid_plg_data_t xvid_plg_data = { 0 };
 131
 132     xvid_plg_data.version       = XVID_MAKE_VERSION(1, 1, 0);
 133     xvid_plg_data.width         = s->width;
 134     xvid_plg_data.height        = s->height;
 135     xvid_plg_data.mb_width      = s->mb_width;
 136     xvid_plg_data.mb_height     = s->mb_height;
 137     xvid_plg_data.fbase         = s->avctx->time_base.den;
 138     xvid_plg_data.fincr         = s->avctx->time_base.num;
 139     xvid_plg_data.min_quant[0]  = s->avctx->qmin;
 140     xvid_plg_data.min_quant[1]  = s->avctx->qmin;
 141     xvid_plg_data.min_quant[2]  = s->avctx->qmin;   // FIXME i/b factor & offset
 142     xvid_plg_data.max_quant[0]  = s->avctx->qmax;
 143     xvid_plg_data.max_quant[1]  = s->avctx->qmax;
 144     xvid_plg_data.max_quant[2]  = s->avctx->qmax;   // FIXME i/b factor & offset
 145     xvid_plg_data.bquant_offset = 0;      //  100 * s->avctx->b_quant_offset;
 146     xvid_plg_data.bquant_ratio  = 100;    //      * s->avctx->b_quant_factor;
 147
 148     if (!s->rc_context.dry_run_qscale) {
 149         if (s->picture_number) {
 150             xvid_plg_data.length        =
 151             xvid_plg_data.stats.length  = (s->frame_bits + 7) / 8;
 152             xvid_plg_data.frame_num     = s->rc_context.last_picture_number;
 153             xvid_plg_data.quant         = s->qscale;
 154             xvid_plg_data.type          = s->last_pict_type;
 155             if (xvid_plugin_2pass2(s->rc_context.non_lavc_opaque,
 156                                    XVID_PLG_AFTER, &xvid_plg_data, NULL)) {
 157                 av_log(s->avctx, AV_LOG_ERROR,
 158                        "xvid_plugin_2pass2(handle, XVID_PLG_AFTER, ...) FAILED\n");
 159                 return -1;
 160             }
 161         }
 162         s->rc_context.last_picture_number =
 163         xvid_plg_data.frame_num           = s->picture_number;
 164         xvid_plg_data.quant               = 0;
 165         if (xvid_plugin_2pass2(s->rc_context.non_lavc_opaque,
 166                                XVID_PLG_BEFORE, &xvid_plg_data, NULL)) {
 167             av_log(s->avctx, AV_LOG_ERROR,
 168                    "xvid_plugin_2pass2(handle, XVID_PLG_BEFORE, ...) FAILED\n");
 169             return -1;
 170         }
 171         s->rc_context.dry_run_qscale = xvid_plg_data.quant;
 172     }
 173     xvid_plg_data.quant = s->rc_context.dry_run_qscale;
 174     if (!dry_run)
 175         s->rc_context.dry_run_qscale = 0;
 176
 177     // FIXME this is not exactly identical to Xvid
 178     if (s->pict_type == AV_PICTURE_TYPE_B)
 179         return xvid_plg_data.quant * FF_QP2LAMBDA * s->avctx->b_quant_factor +
 180             s->avctx->b_quant_offset;
 181     else
 182         return xvid_plg_data.quant * FF_QP2LAMBDA;
 183 }
 184
 185 av_cold void ff_xvid_rate_control_uninit(MpegEncContext *s)
 186 {
 187     xvid_plg_destroy_t xvid_plg_destroy;
 188
 189     xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_DESTROY,
 190                        &xvid_plg_destroy, NULL);
 191 }