]> git.sesse.net Git - ffmpeg/blob - libavcodec/libxvid_rc.c
indeo3dec: check mv bitstream pointer
[ffmpeg] / libavcodec / libxvid_rc.c
1 /*
2  * Xvid rate control wrapper for lavc video encoders
3  *
4  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <xvid.h>
24 #include <unistd.h>
25 #include "libavutil/file.h"
26 #include "avcodec.h"
27 #include "libxvid_internal.h"
28 //#include "dsputil.h"
29 #include "mpegvideo.h"
30
31 #undef NDEBUG
32 #include <assert.h>
33
34 extern unsigned int xvid_debug;
35
36 int ff_xvid_rate_control_init(MpegEncContext *s){
37     char *tmp_name;
38     int fd, i;
39     xvid_plg_create_t xvid_plg_create;
40     xvid_plugin_2pass2_t xvid_2pass2;
41
42 //xvid_debug=-1;
43
44     fd=av_tempfile("xvidrc.", &tmp_name, 0, s->avctx);
45     if (fd == -1) {
46         av_log(NULL, AV_LOG_ERROR, "Can't create temporary pass2 file.\n");
47         return -1;
48     }
49
50     for(i=0; i<s->rc_context.num_entries; i++){
51         static const char frame_types[] = " ipbs";
52         char tmp[256];
53         RateControlEntry *rce;
54
55         rce= &s->rc_context.entry[i];
56
57         snprintf(tmp, sizeof(tmp), "%c %d %d %d %d %d %d\n",
58             frame_types[rce->pict_type], (int)lrintf(rce->qscale / FF_QP2LAMBDA), rce->i_count, s->mb_num - rce->i_count - rce->skip_count,
59             rce->skip_count, (rce->i_tex_bits + rce->p_tex_bits + rce->misc_bits+7)/8, (rce->header_bits+rce->mv_bits+7)/8);
60
61 //av_log(NULL, AV_LOG_ERROR, "%s\n", tmp);
62         if (write(fd, tmp, strlen(tmp)) < 0) {
63             av_log(NULL, AV_LOG_ERROR, "Error %s writing 2pass logfile\n", strerror(errno));
64             return AVERROR(errno);
65         }
66     }
67
68     close(fd);
69
70     memset(&xvid_2pass2, 0, sizeof(xvid_2pass2));
71     xvid_2pass2.version= XVID_MAKE_VERSION(1,1,0);
72     xvid_2pass2.filename= tmp_name;
73     xvid_2pass2.bitrate= s->avctx->bit_rate;
74     xvid_2pass2.vbv_size= s->avctx->rc_buffer_size;
75     xvid_2pass2.vbv_maxrate= s->avctx->rc_max_rate;
76     xvid_2pass2.vbv_initial= s->avctx->rc_initial_buffer_occupancy;
77
78     memset(&xvid_plg_create, 0, sizeof(xvid_plg_create));
79     xvid_plg_create.version= XVID_MAKE_VERSION(1,1,0);
80     xvid_plg_create.fbase= s->avctx->time_base.den;
81     xvid_plg_create.fincr= s->avctx->time_base.num;
82     xvid_plg_create.param= &xvid_2pass2;
83
84     if(xvid_plugin_2pass2(NULL, XVID_PLG_CREATE, &xvid_plg_create, &s->rc_context.non_lavc_opaque)<0){
85         av_log(NULL, AV_LOG_ERROR, "xvid_plugin_2pass2 failed\n");
86         return -1;
87     }
88     return 0;
89 }
90
91 float ff_xvid_rate_estimate_qscale(MpegEncContext *s, int dry_run){
92     xvid_plg_data_t xvid_plg_data;
93
94     memset(&xvid_plg_data, 0, sizeof(xvid_plg_data));
95     xvid_plg_data.version= XVID_MAKE_VERSION(1,1,0);
96     xvid_plg_data.width = s->width;
97     xvid_plg_data.height= s->height;
98     xvid_plg_data.mb_width = s->mb_width;
99     xvid_plg_data.mb_height= s->mb_height;
100     xvid_plg_data.fbase= s->avctx->time_base.den;
101     xvid_plg_data.fincr= s->avctx->time_base.num;
102     xvid_plg_data.min_quant[0]= s->avctx->qmin;
103     xvid_plg_data.min_quant[1]= s->avctx->qmin;
104     xvid_plg_data.min_quant[2]= s->avctx->qmin; //FIXME i/b factor & offset
105     xvid_plg_data.max_quant[0]= s->avctx->qmax;
106     xvid_plg_data.max_quant[1]= s->avctx->qmax;
107     xvid_plg_data.max_quant[2]= s->avctx->qmax; //FIXME i/b factor & offset
108     xvid_plg_data.bquant_offset = 0; //  100 * s->avctx->b_quant_offset;
109     xvid_plg_data.bquant_ratio = 100; // * s->avctx->b_quant_factor;
110
111 #if 0
112     xvid_plg_data.stats.hlength= X
113 #endif
114
115     if(!s->rc_context.dry_run_qscale){
116         if(s->picture_number){
117             xvid_plg_data.length=
118             xvid_plg_data.stats.length= (s->frame_bits + 7)/8;
119             xvid_plg_data.frame_num= s->rc_context.last_picture_number;
120             xvid_plg_data.quant= s->qscale;
121
122             xvid_plg_data.type= s->last_pict_type;
123             if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_AFTER, &xvid_plg_data, NULL)){
124                 av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_AFTER, ...) FAILED\n");
125                 return -1;
126             }
127         }
128         s->rc_context.last_picture_number=
129         xvid_plg_data.frame_num= s->picture_number;
130         xvid_plg_data.quant= 0;
131         if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_BEFORE, &xvid_plg_data, NULL)){
132             av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_BEFORE, ...) FAILED\n");
133             return -1;
134         }
135         s->rc_context.dry_run_qscale= xvid_plg_data.quant;
136     }
137     xvid_plg_data.quant= s->rc_context.dry_run_qscale;
138     if(!dry_run)
139         s->rc_context.dry_run_qscale= 0;
140
141     if(s->pict_type == AV_PICTURE_TYPE_B) //FIXME this is not exactly identical to xvid
142         return xvid_plg_data.quant * FF_QP2LAMBDA * s->avctx->b_quant_factor + s->avctx->b_quant_offset;
143     else
144         return xvid_plg_data.quant * FF_QP2LAMBDA;
145 }
146
147 void ff_xvid_rate_control_uninit(MpegEncContext *s){
148     xvid_plg_destroy_t xvid_plg_destroy;
149
150     xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_DESTROY, &xvid_plg_destroy, NULL);
151 }