]> git.sesse.net Git - ffmpeg/blob - libavcodec/libxvid_rc.c
Merge commit '551746680462538bb5ad7adf55fb1248190428ec'
[ffmpeg] / libavcodec / libxvid_rc.c
1 /*
2  * Xvid rate control wrapper for lavc video encoders
3  *
4  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "config.h"
24
25 #if HAVE_IO_H
26 #include <io.h>
27 #endif
28
29 #if HAVE_UNISTD_H
30 #include <unistd.h>
31 #endif
32
33 #include <xvid.h>
34
35 #include "libavutil/attributes.h"
36 #include "libavutil/file.h"
37
38 #include "avcodec.h"
39 #include "libxvid.h"
40 #include "mpegvideo.h"
41
42 av_cold int ff_xvid_rate_control_init(MpegEncContext *s)
43 {
44     char *tmp_name;
45     int fd, i;
46     xvid_plg_create_t xvid_plg_create = { 0 };
47     xvid_plugin_2pass2_t xvid_2pass2  = { 0 };
48
49     fd = av_tempfile("xvidrc.", &tmp_name, 0, s->avctx);
50     if (fd == -1) {
51         av_log(NULL, AV_LOG_ERROR, "Can't create temporary pass2 file.\n");
52         return -1;
53     }
54
55     for (i = 0; i < s->rc_context.num_entries; i++) {
56         static const char frame_types[] = " ipbs";
57         char tmp[256];
58         RateControlEntry *rce;
59
60         rce = &s->rc_context.entry[i];
61
62         snprintf(tmp, sizeof(tmp), "%c %d %d %d %d %d %d\n",
63                  frame_types[rce->pict_type],
64                  (int) lrintf(rce->qscale / FF_QP2LAMBDA),
65                  rce->i_count, s->mb_num - rce->i_count - rce->skip_count,
66                  rce->skip_count,
67                  (rce->i_tex_bits + rce->p_tex_bits + rce->misc_bits + 7) / 8,
68                  (rce->header_bits + rce->mv_bits + 7) / 8);
69
70         if (write(fd, tmp, strlen(tmp)) < 0) {
71             av_log(NULL, AV_LOG_ERROR, "Error %s writing 2pass logfile\n", strerror(errno));
72             av_free(tmp_name);
73             close(fd);
74             return AVERROR(errno);
75         }
76     }
77
78     close(fd);
79
80     xvid_2pass2.version     = XVID_MAKE_VERSION(1, 1, 0);
81     xvid_2pass2.filename    = tmp_name;
82     xvid_2pass2.bitrate     = s->avctx->bit_rate;
83     xvid_2pass2.vbv_size    = s->avctx->rc_buffer_size;
84     xvid_2pass2.vbv_maxrate = s->avctx->rc_max_rate;
85     xvid_2pass2.vbv_initial = s->avctx->rc_initial_buffer_occupancy;
86
87     xvid_plg_create.version = XVID_MAKE_VERSION(1, 1, 0);
88     xvid_plg_create.fbase   = s->avctx->time_base.den;
89     xvid_plg_create.fincr   = s->avctx->time_base.num;
90     xvid_plg_create.param   = &xvid_2pass2;
91
92     if (xvid_plugin_2pass2(NULL, XVID_PLG_CREATE, &xvid_plg_create,
93                            &s->rc_context.non_lavc_opaque) < 0) {
94         av_log(NULL, AV_LOG_ERROR, "xvid_plugin_2pass2 failed\n");
95         return -1;
96     }
97     return 0;
98 }
99
100 float ff_xvid_rate_estimate_qscale(MpegEncContext *s, int dry_run)
101 {
102     xvid_plg_data_t xvid_plg_data = { 0 };
103
104     xvid_plg_data.version       = XVID_MAKE_VERSION(1, 1, 0);
105     xvid_plg_data.width         = s->width;
106     xvid_plg_data.height        = s->height;
107     xvid_plg_data.mb_width      = s->mb_width;
108     xvid_plg_data.mb_height     = s->mb_height;
109     xvid_plg_data.fbase         = s->avctx->time_base.den;
110     xvid_plg_data.fincr         = s->avctx->time_base.num;
111     xvid_plg_data.min_quant[0]  = s->avctx->qmin;
112     xvid_plg_data.min_quant[1]  = s->avctx->qmin;
113     xvid_plg_data.min_quant[2]  = s->avctx->qmin;   // FIXME i/b factor & offset
114     xvid_plg_data.max_quant[0]  = s->avctx->qmax;
115     xvid_plg_data.max_quant[1]  = s->avctx->qmax;
116     xvid_plg_data.max_quant[2]  = s->avctx->qmax;   // FIXME i/b factor & offset
117     xvid_plg_data.bquant_offset = 0;      //  100 * s->avctx->b_quant_offset;
118     xvid_plg_data.bquant_ratio  = 100;    //      * s->avctx->b_quant_factor;
119
120     if (!s->rc_context.dry_run_qscale) {
121         if (s->picture_number) {
122             xvid_plg_data.length        =
123             xvid_plg_data.stats.length  = (s->frame_bits + 7) / 8;
124             xvid_plg_data.frame_num     = s->rc_context.last_picture_number;
125             xvid_plg_data.quant         = s->qscale;
126             xvid_plg_data.type          = s->last_pict_type;
127             if (xvid_plugin_2pass2(s->rc_context.non_lavc_opaque,
128                                    XVID_PLG_AFTER, &xvid_plg_data, NULL)) {
129                 av_log(s->avctx, AV_LOG_ERROR,
130                        "xvid_plugin_2pass2(handle, XVID_PLG_AFTER, ...) FAILED\n");
131                 return -1;
132             }
133         }
134         s->rc_context.last_picture_number =
135         xvid_plg_data.frame_num           = s->picture_number;
136         xvid_plg_data.quant               = 0;
137         if (xvid_plugin_2pass2(s->rc_context.non_lavc_opaque,
138                                XVID_PLG_BEFORE, &xvid_plg_data, NULL)) {
139             av_log(s->avctx, AV_LOG_ERROR,
140                    "xvid_plugin_2pass2(handle, XVID_PLG_BEFORE, ...) FAILED\n");
141             return -1;
142         }
143         s->rc_context.dry_run_qscale = xvid_plg_data.quant;
144     }
145     xvid_plg_data.quant = s->rc_context.dry_run_qscale;
146     if (!dry_run)
147         s->rc_context.dry_run_qscale = 0;
148
149     // FIXME this is not exactly identical to Xvid
150     if (s->pict_type == AV_PICTURE_TYPE_B)
151         return xvid_plg_data.quant * FF_QP2LAMBDA * s->avctx->b_quant_factor +
152             s->avctx->b_quant_offset;
153     else
154         return xvid_plg_data.quant * FF_QP2LAMBDA;
155 }
156
157 av_cold void ff_xvid_rate_control_uninit(MpegEncContext *s)
158 {
159     xvid_plg_destroy_t xvid_plg_destroy;
160
161     xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_DESTROY,
162                        &xvid_plg_destroy, NULL);
163 }