git.sesse.net Git - ffmpeg/blob - libavcodec/libxvid_rc.c

   1 /*
   2  * Xvid rate control wrapper for lavc video encoders
   3  *
   4  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "config.h"
  24 #include <xvid.h>
  25 #include <unistd.h>
  26 #if !HAVE_MKSTEMP
  27 #include <fcntl.h>
  28 #endif
  29
  30 #include "libavutil/attributes.h"
  31 #include "avcodec.h"
  32 #include "libxvid.h"
  33 #include "mpegvideo.h"
  34
  35 #undef NDEBUG
  36 #include <assert.h>
  37
  38 /* Wrapper to work around the lack of mkstemp() on mingw.
  39  * Also, tries to create file in /tmp first, if possible.
  40  * *prefix can be a character constant; *filename will be allocated internally.
  41  * @return file descriptor of opened file (or -1 on error)
  42  * and opened file name in **filename. */
  43 int ff_tempfile(const char *prefix, char **filename) {
  44     int fd=-1;
  45 #if !HAVE_MKSTEMP
  46     *filename = tempnam(".", prefix);
  47 #else
  48     size_t len = strlen(prefix) + 12; /* room for "/tmp/" and "XXXXXX\0" */
  49     *filename = av_malloc(len);
  50 #endif
  51     /* -----common section-----*/
  52     if (*filename == NULL) {
  53         av_log(NULL, AV_LOG_ERROR, "ff_tempfile: Cannot allocate file name\n");
  54         return -1;
  55     }
  56 #if !HAVE_MKSTEMP
  57     fd = open(*filename, O_RDWR | O_BINARY | O_CREAT, 0444);
  58 #else
  59     snprintf(*filename, len, "/tmp/%sXXXXXX", prefix);
  60     fd = mkstemp(*filename);
  61     if (fd < 0) {
  62         snprintf(*filename, len, "./%sXXXXXX", prefix);
  63         fd = mkstemp(*filename);
  64     }
  65 #endif
  66     /* -----common section-----*/
  67     if (fd < 0) {
  68         av_log(NULL, AV_LOG_ERROR, "ff_tempfile: Cannot open temporary file %s\n", *filename);
  69         return -1;
  70     }
  71     return fd; /* success */
  72 }
  73
  74 av_cold int ff_xvid_rate_control_init(MpegEncContext *s)
  75 {
  76     char *tmp_name;
  77     int fd, i;
  78     xvid_plg_create_t xvid_plg_create = { 0 };
  79     xvid_plugin_2pass2_t xvid_2pass2  = { 0 };
  80
  81     fd=ff_tempfile("xvidrc.", &tmp_name);
  82     if (fd == -1) {
  83         av_log(NULL, AV_LOG_ERROR, "Can't create temporary pass2 file.\n");
  84         return -1;
  85     }
  86
  87     for(i=0; i<s->rc_context.num_entries; i++){
  88         static const char frame_types[] = " ipbs";
  89         char tmp[256];
  90         RateControlEntry *rce;
  91
  92         rce= &s->rc_context.entry[i];
  93
  94         snprintf(tmp, sizeof(tmp), "%c %d %d %d %d %d %d\n",
  95             frame_types[rce->pict_type], (int)lrintf(rce->qscale / FF_QP2LAMBDA), rce->i_count, s->mb_num - rce->i_count - rce->skip_count,
  96             rce->skip_count, (rce->i_tex_bits + rce->p_tex_bits + rce->misc_bits+7)/8, (rce->header_bits+rce->mv_bits+7)/8);
  97
  98         write(fd, tmp, strlen(tmp));
  99     }
 100
 101     close(fd);
 102
 103     xvid_2pass2.version= XVID_MAKE_VERSION(1,1,0);
 104     xvid_2pass2.filename= tmp_name;
 105     xvid_2pass2.bitrate= s->avctx->bit_rate;
 106     xvid_2pass2.vbv_size= s->avctx->rc_buffer_size;
 107     xvid_2pass2.vbv_maxrate= s->avctx->rc_max_rate;
 108     xvid_2pass2.vbv_initial= s->avctx->rc_initial_buffer_occupancy;
 109
 110     xvid_plg_create.version= XVID_MAKE_VERSION(1,1,0);
 111     xvid_plg_create.fbase= s->avctx->time_base.den;
 112     xvid_plg_create.fincr= s->avctx->time_base.num;
 113     xvid_plg_create.param= &xvid_2pass2;
 114
 115     if(xvid_plugin_2pass2(NULL, XVID_PLG_CREATE, &xvid_plg_create, &s->rc_context.non_lavc_opaque)<0){
 116         av_log(NULL, AV_LOG_ERROR, "xvid_plugin_2pass2 failed\n");
 117         return -1;
 118     }
 119     return 0;
 120 }
 121
 122 float ff_xvid_rate_estimate_qscale(MpegEncContext *s, int dry_run){
 123     xvid_plg_data_t xvid_plg_data = { 0 };
 124
 125     xvid_plg_data.version= XVID_MAKE_VERSION(1,1,0);
 126     xvid_plg_data.width = s->width;
 127     xvid_plg_data.height= s->height;
 128     xvid_plg_data.mb_width = s->mb_width;
 129     xvid_plg_data.mb_height= s->mb_height;
 130     xvid_plg_data.fbase= s->avctx->time_base.den;
 131     xvid_plg_data.fincr= s->avctx->time_base.num;
 132     xvid_plg_data.min_quant[0]= s->avctx->qmin;
 133     xvid_plg_data.min_quant[1]= s->avctx->qmin;
 134     xvid_plg_data.min_quant[2]= s->avctx->qmin; //FIXME i/b factor & offset
 135     xvid_plg_data.max_quant[0]= s->avctx->qmax;
 136     xvid_plg_data.max_quant[1]= s->avctx->qmax;
 137     xvid_plg_data.max_quant[2]= s->avctx->qmax; //FIXME i/b factor & offset
 138     xvid_plg_data.bquant_offset = 0; //  100 * s->avctx->b_quant_offset;
 139     xvid_plg_data.bquant_ratio = 100; // * s->avctx->b_quant_factor;
 140
 141     if(!s->rc_context.dry_run_qscale){
 142         if(s->picture_number){
 143             xvid_plg_data.length=
 144             xvid_plg_data.stats.length= (s->frame_bits + 7)/8;
 145             xvid_plg_data.frame_num= s->rc_context.last_picture_number;
 146             xvid_plg_data.quant= s->qscale;
 147
 148             xvid_plg_data.type= s->last_pict_type;
 149             if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_AFTER, &xvid_plg_data, NULL)){
 150                 av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_AFTER, ...) FAILED\n");
 151                 return -1;
 152             }
 153         }
 154         s->rc_context.last_picture_number=
 155         xvid_plg_data.frame_num= s->picture_number;
 156         xvid_plg_data.quant= 0;
 157         if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_BEFORE, &xvid_plg_data, NULL)){
 158             av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_BEFORE, ...) FAILED\n");
 159             return -1;
 160         }
 161         s->rc_context.dry_run_qscale= xvid_plg_data.quant;
 162     }
 163     xvid_plg_data.quant= s->rc_context.dry_run_qscale;
 164     if(!dry_run)
 165         s->rc_context.dry_run_qscale= 0;
 166
 167     if(s->pict_type == AV_PICTURE_TYPE_B) //FIXME this is not exactly identical to xvid
 168         return xvid_plg_data.quant * FF_QP2LAMBDA * s->avctx->b_quant_factor + s->avctx->b_quant_offset;
 169     else
 170         return xvid_plg_data.quant * FF_QP2LAMBDA;
 171 }
 172
 173 av_cold void ff_xvid_rate_control_uninit(MpegEncContext *s)
 174 {
 175     xvid_plg_destroy_t xvid_plg_destroy;
 176
 177     xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_DESTROY, &xvid_plg_destroy, NULL);
 178 }