git.sesse.net Git - vlc/blob - modules/codec/ffmpeg/postprocess.c

   1 /*****************************************************************************
   2  * postprocess.c: video postprocessing using the ffmpeg library
   3  *****************************************************************************
   4  * Copyright (C) 1999-2001 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@netcourrier.com>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 #ifdef HAVE_CONFIG_H
  26 # include "config.h"
  27 #endif
  28
  29 #include <vlc/vlc.h>
  30 #include <vlc_vout.h>
  31 #include <vlc_codec.h>
  32
  33 /* ffmpeg header */
  34 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  35 #   include <libavcodec/avcodec.h>
  36 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  37 #   include <ffmpeg/avcodec.h>
  38 #else
  39 #   include <avcodec.h>
  40 #endif
  41
  42 #include "ffmpeg.h"
  43
  44 #ifdef HAVE_POSTPROC_POSTPROCESS_H
  45 #   include <postproc/postprocess.h>
  46 #else
  47 #   include <libpostproc/postprocess.h>
  48 #endif
  49
  50 #ifndef PP_CPU_CAPS_ALTIVEC
  51 #   define PP_CPU_CAPS_ALTIVEC 0
  52 #endif
  53
  54 /*****************************************************************************
  55  * video_postproc_sys_t : ffmpeg video postprocessing descriptor
  56  *****************************************************************************/
  57 typedef struct video_postproc_sys_t
  58 {
  59     pp_context_t *pp_context;
  60     pp_mode_t    *pp_mode;
  61
  62     bool   *pb_pp;
  63
  64     int i_width;
  65     int i_height;
  66
  67 } video_postproc_sys_t;
  68
  69 static int PPQCallback( vlc_object_t *p_this, char const *psz_cmd,
  70                         vlc_value_t oldval, vlc_value_t newval, void *p_data );
  71
  72 /*****************************************************************************
  73  * OpenPostproc: probe and open the postproc
  74  *****************************************************************************/
  75 void *OpenPostproc( decoder_t *p_dec, bool *pb_pp )
  76 {
  77     video_postproc_sys_t *p_sys;
  78     vlc_value_t val, val_orig, text;
  79
  80     p_sys = malloc( sizeof(video_postproc_sys_t) );
  81     p_sys->pp_context = NULL;
  82     p_sys->pp_mode = NULL;
  83
  84     *pb_pp = false;
  85     p_sys->pb_pp = pb_pp;
  86
  87     /* Create object variable if not already done */
  88     if( var_Type( p_dec, "ffmpeg-pp-q" ) == 0 )
  89     {
  90         var_Create( p_dec, "ffmpeg-pp-q",
  91                     VLC_VAR_INTEGER | VLC_VAR_HASCHOICE | VLC_VAR_DOINHERIT );
  92         text.psz_string = _("Post processing");
  93         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_SETTEXT, &text, NULL );
  94
  95         var_Get( p_dec, "ffmpeg-pp-q", &val_orig );
  96         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_DELCHOICE, &val_orig, NULL );
  97
  98         val.i_int = 0; text.psz_string = _("Disable");
  99         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, &text );
 100         val.i_int = 1; text.psz_string = _("1 (Lowest)");
 101         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, &text );
 102         val.i_int = 2;
 103         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, NULL );
 104         val.i_int = 3;
 105         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, NULL );
 106         val.i_int = 4;
 107         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, NULL );
 108         val.i_int = 5;
 109         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, NULL );
 110         val.i_int = 6; text.psz_string = _("6 (Highest)");
 111         var_Change( p_dec, "ffmpeg-pp-q", VLC_VAR_ADDCHOICE, &val, &text );
 112         var_AddCallback( p_dec, "ffmpeg-pp-q", PPQCallback, p_sys );
 113     }
 114
 115     /* ***** Load post processing if enabled ***** */
 116     var_Get( p_dec, "ffmpeg-pp-q", &val );
 117     var_Set( p_dec, "ffmpeg-pp-q", val_orig );
 118     if( val_orig.i_int )
 119         *pb_pp = true;
 120
 121     return p_sys;
 122 }
 123
 124 /*****************************************************************************
 125  * InitPostproc:
 126  *****************************************************************************/
 127 int InitPostproc( void *p_data, int i_width, int i_height, int pix_fmt )
 128 {
 129     video_postproc_sys_t *p_sys = (video_postproc_sys_t *)p_data;
 130     unsigned i_cpu = vlc_CPU();
 131     int i_flags = 0;
 132
 133     /* Set CPU capabilities */
 134     if( i_cpu & CPU_CAPABILITY_MMX )
 135     {
 136         i_flags |= PP_CPU_CAPS_MMX;
 137     }
 138     if( i_cpu & CPU_CAPABILITY_MMXEXT )
 139     {
 140         i_flags |= PP_CPU_CAPS_MMX2;
 141     }
 142     if( i_cpu & CPU_CAPABILITY_3DNOW )
 143     {
 144         i_flags |= PP_CPU_CAPS_3DNOW;
 145     }
 146     if( i_cpu & CPU_CAPABILITY_ALTIVEC )
 147     {
 148         i_flags |= PP_CPU_CAPS_ALTIVEC;
 149     }
 150
 151     switch( pix_fmt )
 152     {
 153     case PIX_FMT_YUV444P:
 154         i_flags |= PP_FORMAT_444;
 155         break;
 156     case PIX_FMT_YUV422P:
 157         i_flags |= PP_FORMAT_422;
 158         break;
 159     case PIX_FMT_YUV411P:
 160         i_flags |= PP_FORMAT_411;
 161         break;
 162     default:
 163         i_flags |= PP_FORMAT_420;
 164         break;
 165     }
 166
 167     p_sys->pp_context = pp_get_context( i_width, i_height, i_flags );
 168     p_sys->i_width = i_width;
 169     p_sys->i_height = i_height;
 170
 171     return VLC_SUCCESS;
 172 }
 173
 174 /*****************************************************************************
 175  * PostprocPict:
 176  *****************************************************************************/
 177 int PostprocPict( void *p_data, picture_t *p_pic, AVFrame *p_ff_pic )
 178 {
 179     video_postproc_sys_t *p_sys = (video_postproc_sys_t *)p_data;
 180
 181     uint8_t *src[3], *dst[3];
 182     int i_plane, i_src_stride[3], i_dst_stride[3];
 183
 184     for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
 185     {
 186         src[i_plane] = p_ff_pic->data[i_plane];
 187         dst[i_plane] = p_pic->p[i_plane].p_pixels;
 188
 189         i_src_stride[i_plane] = p_ff_pic->linesize[i_plane];
 190         i_dst_stride[i_plane] = p_pic->p[i_plane].i_pitch;
 191     }
 192
 193     pp_postprocess( src, i_src_stride, dst, i_dst_stride,
 194                     p_sys->i_width, p_sys->i_height,
 195                     p_ff_pic->qscale_table, p_ff_pic->qstride,
 196                     p_sys->pp_mode, p_sys->pp_context,
 197                     p_ff_pic->pict_type );
 198
 199     return VLC_SUCCESS;
 200 }
 201
 202 /*****************************************************************************
 203  * ClosePostproc:
 204  *****************************************************************************/
 205 void ClosePostproc( decoder_t *p_dec, void *p_data )
 206 {
 207     video_postproc_sys_t *p_sys = (video_postproc_sys_t *)p_data;
 208
 209     if( p_sys && p_sys->pp_mode )
 210     {
 211         pp_free_mode( p_sys->pp_mode );
 212         if( p_sys->pp_context ) pp_free_context( p_sys->pp_context );
 213     }
 214
 215     var_DelCallback( p_dec, "ffmpeg-pp-q", PPQCallback, p_sys );
 216
 217     free( p_sys );
 218 }
 219
 220 /*****************************************************************************
 221  * object variables callbacks: a bunch of object variables are used by the
 222  * interfaces to interact with the decoder.
 223  *****************************************************************************/
 224 static int PPQCallback( vlc_object_t *p_this, char const *psz_cmd,
 225                         vlc_value_t oldval, vlc_value_t newval, void *p_data )
 226 {
 227     VLC_UNUSED(psz_cmd); VLC_UNUSED(oldval);
 228     decoder_t *p_dec = (decoder_t *)p_this;
 229     video_postproc_sys_t *p_sys = (video_postproc_sys_t *)p_data;
 230
 231     if( newval.i_int > 0 )
 232     {
 233         int  i_quality = newval.i_int;
 234         char *psz_name = config_GetPsz( p_dec, "ffmpeg-pp-name" );
 235         pp_mode_t *pp_mode;
 236
 237         if( !psz_name )
 238         {
 239             psz_name = strdup( "default" );
 240         }
 241         else if( *psz_name == '\0' )
 242         {
 243             free( psz_name );
 244             psz_name = strdup( "default" );
 245         }
 246
 247         pp_mode = pp_get_mode_by_name_and_quality( psz_name, i_quality );
 248
 249         if( !pp_mode )
 250         {
 251             msg_Err( p_dec, "failed getting mode for postproc" );
 252             newval.i_int = 0;
 253         }
 254         else
 255         {
 256             msg_Dbg( p_dec, "postprocessing enabled" );
 257         }
 258         free( psz_name );
 259
 260         p_sys->pp_mode = pp_mode;
 261     }
 262     else
 263     {
 264         msg_Dbg( p_dec, "postprocessing disabled" );
 265     }
 266
 267     *p_sys->pb_pp = newval.i_int;
 268
 269     return VLC_SUCCESS;
 270 }