git.sesse.net Git - vlc/blob - modules/codec/avcodec/avcodec.c

   1 /*****************************************************************************
   2  * avcodec.c: video and audio decoder and encoder using libavcodec
   3  *****************************************************************************
   4  * Copyright (C) 1999-2008 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 /*****************************************************************************
  26  * Preamble
  27  *****************************************************************************/
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_plugin.h>
  34 #include <vlc_codec.h>
  35
  36 /* ffmpeg header */
  37 #define HAVE_MMX 1
  38 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  39 #   include <libavcodec/avcodec.h>
  40 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  41 #   include <ffmpeg/avcodec.h>
  42 #else
  43 #   include <avcodec.h>
  44 #endif
  45
  46 #if LIBAVCODEC_BUILD < 5000
  47 #   error You must have a libavcodec >= 5000 (get svn)
  48 #endif
  49
  50 #include "avcodec.h"
  51 #include "fourcc.h"
  52 #include "avutil.h"
  53
  54 /*****************************************************************************
  55  * decoder_sys_t: decoder descriptor
  56  *****************************************************************************/
  57 struct decoder_sys_t
  58 {
  59     /* Common part between video and audio decoder */
  60     FFMPEG_COMMON_MEMBERS
  61 };
  62
  63 /****************************************************************************
  64  * Local prototypes
  65  ****************************************************************************/
  66 static int OpenDecoder( vlc_object_t * );
  67 static void CloseDecoder( vlc_object_t * );
  68
  69 static const int  nloopf_list[] = { 0, 1, 2, 3, 4 };
  70 static const char *const nloopf_list_text[] =
  71   { N_("None"), N_("Non-ref"), N_("Bidir"), N_("Non-key"), N_("All") };
  72
  73 #ifdef ENABLE_SOUT
  74 static const char *const enc_hq_list[] = { "rd", "bits", "simple" };
  75 static const char *const enc_hq_list_text[] = {
  76     N_("rd"), N_("bits"), N_("simple") };
  77 #endif
  78
  79 /*****************************************************************************
  80  * Module descriptor
  81  *****************************************************************************/
  82 #define MODULE_DESCRIPTION N_( "Various audio and video decoders/encoders" \
  83         "delivered by the FFmpeg library. This includes (MS)MPEG4, DivX, SV1,"\
  84         "H261, H263, H264, WMV, WMA, AAC, AMR, DV, MJPEG and other codecs")
  85
  86 vlc_module_begin();
  87     set_shortname( "FFmpeg");
  88     add_shortcut( "ffmpeg" );
  89     set_category( CAT_INPUT );
  90     set_subcategory( SUBCAT_INPUT_SCODEC );
  91     /* decoder main module */
  92 #if defined(MODULE_NAME_is_ffmpegaltivec) \
  93      || (defined(CAN_COMPILE_ALTIVEC) && !defined(NO_ALTIVEC_IN_FFMPEG))
  94     set_description( N_("AltiVec FFmpeg audio/video decoder ((MS)MPEG4,SVQ1,H263,WMV,WMA)") );
  95     /*add_requirement( ALTIVEC );*/
  96     set_capability( "decoder", 71 );
  97 #else
  98     set_description( N_("FFmpeg audio/video decoder") );
  99     set_help( MODULE_DESCRIPTION );
 100     set_capability( "decoder", 70 );
 101 #endif
 102     set_section( N_("Decoding") , NULL );
 103     set_callbacks( OpenDecoder, CloseDecoder );
 104
 105
 106     add_bool( "ffmpeg-dr", 1, NULL, DR_TEXT, DR_TEXT, true );
 107     add_integer ( "ffmpeg-error-resilience", 1, NULL, ERROR_TEXT,
 108         ERROR_LONGTEXT, true );
 109     add_integer ( "ffmpeg-workaround-bugs", 1, NULL, BUGS_TEXT, BUGS_LONGTEXT,
 110         false );
 111     add_bool( "ffmpeg-hurry-up", 1, NULL, HURRYUP_TEXT, HURRYUP_LONGTEXT,
 112         false );
 113     add_integer( "ffmpeg-skip-frame", 0, NULL, SKIP_FRAME_TEXT,
 114         SKIP_FRAME_LONGTEXT, true );
 115         change_integer_range( -1, 4 );
 116     add_integer( "ffmpeg-skip-idct", 0, NULL, SKIP_IDCT_TEXT,
 117         SKIP_IDCT_LONGTEXT, true );
 118         change_integer_range( -1, 4 );
 119     add_integer ( "ffmpeg-vismv", 0, NULL, VISMV_TEXT, VISMV_LONGTEXT,
 120         true );
 121     add_integer ( "ffmpeg-lowres", 0, NULL, LOWRES_TEXT, LOWRES_LONGTEXT,
 122         true );
 123         change_integer_range( 0, 2 );
 124     add_integer ( "ffmpeg-skiploopfilter", 0, NULL, SKIPLOOPF_TEXT,
 125                   SKIPLOOPF_LONGTEXT, true );
 126         change_integer_list( nloopf_list, nloopf_list_text, 0 );
 127
 128     add_integer( "ffmpeg-debug", 0, NULL, DEBUG_TEXT, DEBUG_LONGTEXT,
 129                  true );
 130
 131 #ifdef ENABLE_SOUT
 132     /* encoder submodule */
 133     add_submodule();
 134     set_section( N_("Encoding") , NULL );
 135     set_description( N_("FFmpeg audio/video encoder") );
 136     set_capability( "encoder", 100 );
 137     set_callbacks( OpenEncoder, CloseEncoder );
 138
 139     add_string( ENC_CFG_PREFIX "hq", "simple", NULL, ENC_HQ_TEXT,
 140                 ENC_HQ_LONGTEXT, false );
 141         change_string_list( enc_hq_list, enc_hq_list_text, 0 );
 142     add_integer( ENC_CFG_PREFIX "keyint", 0, NULL, ENC_KEYINT_TEXT,
 143                  ENC_KEYINT_LONGTEXT, false );
 144     add_integer( ENC_CFG_PREFIX "bframes", 0, NULL, ENC_BFRAMES_TEXT,
 145                  ENC_BFRAMES_LONGTEXT, false );
 146     add_bool( ENC_CFG_PREFIX "hurry-up", 0, NULL, ENC_HURRYUP_TEXT,
 147               ENC_HURRYUP_LONGTEXT, false );
 148     add_bool( ENC_CFG_PREFIX "interlace", 0, NULL, ENC_INTERLACE_TEXT,
 149               ENC_INTERLACE_LONGTEXT, true );
 150     add_bool( ENC_CFG_PREFIX "interlace-me", 1, NULL, ENC_INTERLACE_ME_TEXT,
 151               ENC_INTERLACE_ME_LONGTEXT, true );
 152     add_integer( ENC_CFG_PREFIX "vt", 0, NULL, ENC_VT_TEXT,
 153                  ENC_VT_LONGTEXT, true );
 154     add_bool( ENC_CFG_PREFIX "pre-me", 0, NULL, ENC_PRE_ME_TEXT,
 155               ENC_PRE_ME_LONGTEXT, true );
 156     add_bool( ENC_CFG_PREFIX "strict-rc", 0, NULL, ENC_RC_STRICT_TEXT,
 157               ENC_RC_STRICT_LONGTEXT, true );
 158     add_integer( ENC_CFG_PREFIX "rc-buffer-size", 224*1024*8, NULL,
 159                  ENC_RC_BUF_TEXT, ENC_RC_BUF_LONGTEXT, true );
 160     add_float( ENC_CFG_PREFIX "rc-buffer-aggressivity", 1.0, NULL,
 161                ENC_RC_BUF_AGGR_TEXT, ENC_RC_BUF_AGGR_LONGTEXT, true );
 162     add_float( ENC_CFG_PREFIX "i-quant-factor", 0, NULL,
 163                ENC_IQUANT_FACTOR_TEXT, ENC_IQUANT_FACTOR_LONGTEXT, true );
 164     add_integer( ENC_CFG_PREFIX "noise-reduction", 0, NULL,
 165                  ENC_NOISE_RED_TEXT, ENC_NOISE_RED_LONGTEXT, true );
 166     add_bool( ENC_CFG_PREFIX "mpeg4-matrix", 0, NULL,
 167               ENC_MPEG4_MATRIX_TEXT, ENC_MPEG4_MATRIX_LONGTEXT, true );
 168     add_integer( ENC_CFG_PREFIX "qmin", 0, NULL,
 169                  ENC_QMIN_TEXT, ENC_QMIN_LONGTEXT, true );
 170     add_integer( ENC_CFG_PREFIX "qmax", 0, NULL,
 171                  ENC_QMAX_TEXT, ENC_QMAX_LONGTEXT, true );
 172     add_bool( ENC_CFG_PREFIX "trellis", 0, NULL,
 173               ENC_TRELLIS_TEXT, ENC_TRELLIS_LONGTEXT, true );
 174     add_float( ENC_CFG_PREFIX "qscale", 0, NULL,
 175                ENC_QSCALE_TEXT, ENC_QSCALE_LONGTEXT, true );
 176     add_integer( ENC_CFG_PREFIX "strict", 0, NULL,
 177                  ENC_STRICT_TEXT, ENC_STRICT_LONGTEXT, true );
 178     add_float( ENC_CFG_PREFIX "lumi-masking", 0.0, NULL,
 179                ENC_LUMI_MASKING_TEXT, ENC_LUMI_MASKING_LONGTEXT, true );
 180     add_float( ENC_CFG_PREFIX "dark-masking", 0.0, NULL,
 181                ENC_DARK_MASKING_TEXT, ENC_DARK_MASKING_LONGTEXT, true );
 182     add_float( ENC_CFG_PREFIX "p-masking", 0.0, NULL,
 183                ENC_P_MASKING_TEXT, ENC_P_MASKING_LONGTEXT, true );
 184     add_float( ENC_CFG_PREFIX "border-masking", 0.0, NULL,
 185                ENC_BORDER_MASKING_TEXT, ENC_BORDER_MASKING_LONGTEXT, true );
 186     add_integer( ENC_CFG_PREFIX "luma-elim-threshold", 0, NULL,
 187                  ENC_LUMA_ELIM_TEXT, ENC_LUMA_ELIM_LONGTEXT, true );
 188     add_integer( ENC_CFG_PREFIX "chroma-elim-threshold", 0, NULL,
 189                  ENC_CHROMA_ELIM_TEXT, ENC_CHROMA_ELIM_LONGTEXT, true );
 190
 191 #if LIBAVCODEC_VERSION_INT >= ((51<<16)+(40<<8)+4)
 192     /* Audio AAC encoder profile */
 193     add_string( ENC_CFG_PREFIX "aac-profile", "main", NULL,
 194                 ENC_PROFILE_TEXT, ENC_PROFILE_LONGTEXT, true );
 195 #endif
 196 #endif /* ENABLE_SOUT */
 197
 198     /* video filter submodule */
 199     add_submodule();
 200     set_capability( "video filter2", 0 );
 201     set_callbacks( OpenDeinterlace, CloseDeinterlace );
 202     set_description( N_("FFmpeg deinterlace video filter") );
 203     add_shortcut( "ffmpeg-deinterlace" );
 204
 205 vlc_module_end();
 206
 207 /*****************************************************************************
 208  * OpenDecoder: probe the decoder and return score
 209  *****************************************************************************/
 210 static int OpenDecoder( vlc_object_t *p_this )
 211 {
 212     decoder_t *p_dec = (decoder_t*) p_this;
 213     int i_cat, i_codec_id, i_result;
 214     const char *psz_namecodec;
 215
 216     AVCodecContext *p_context = NULL;
 217     AVCodec        *p_codec = NULL;
 218
 219     /* *** determine codec type *** */
 220     if( !GetFfmpegCodec( p_dec->fmt_in.i_codec, &i_cat, &i_codec_id,
 221                              &psz_namecodec ) )
 222     {
 223         return VLC_EGENERIC;
 224     }
 225
 226     /* Bail out if buggy decoder */
 227     if( i_codec_id == CODEC_ID_AAC )
 228     {
 229         msg_Dbg( p_dec, "refusing to use ffmpeg's (%s) decoder which is buggy",
 230                  psz_namecodec );
 231         return VLC_EGENERIC;
 232     }
 233
 234     /* Initialization must be done before avcodec_find_decoder() */
 235     InitLibavcodec(p_this);
 236
 237     /* *** ask ffmpeg for a decoder *** */
 238     p_codec = avcodec_find_decoder( i_codec_id );
 239     if( !p_codec )
 240     {
 241         msg_Dbg( p_dec, "codec not found (%s)", psz_namecodec );
 242         return VLC_EGENERIC;
 243     }
 244
 245     /* *** get a p_context *** */
 246     p_context = avcodec_alloc_context();
 247     if( !p_context )
 248         return VLC_ENOMEM;
 249     p_context->debug = config_GetInt( p_dec, "ffmpeg-debug" );
 250     p_context->opaque = (void *)p_this;
 251
 252     /* Set CPU capabilities */
 253     unsigned i_cpu = vlc_CPU();
 254     p_context->dsp_mask = 0;
 255     if( !(i_cpu & CPU_CAPABILITY_MMX) )
 256     {
 257         p_context->dsp_mask |= FF_MM_MMX;
 258     }
 259     if( !(i_cpu & CPU_CAPABILITY_MMXEXT) )
 260     {
 261         p_context->dsp_mask |= FF_MM_MMXEXT;
 262     }
 263     if( !(i_cpu & CPU_CAPABILITY_3DNOW) )
 264     {
 265         p_context->dsp_mask |= FF_MM_3DNOW;
 266     }
 267     if( !(i_cpu & CPU_CAPABILITY_SSE) )
 268     {
 269         p_context->dsp_mask |= FF_MM_SSE;
 270     }
 271     if( !(i_cpu & CPU_CAPABILITY_SSE2) )
 272     {
 273         p_context->dsp_mask |= FF_MM_SSE2;
 274     }
 275
 276     p_dec->b_need_packetized = true;
 277     switch( i_cat )
 278     {
 279     case VIDEO_ES:
 280         p_dec->pf_decode_video = DecodeVideo;
 281         i_result =  InitVideoDec ( p_dec, p_context, p_codec,
 282                                        i_codec_id, psz_namecodec );
 283         break;
 284     case AUDIO_ES:
 285         p_dec->pf_decode_audio = DecodeAudio;
 286         i_result =  InitAudioDec ( p_dec, p_context, p_codec,
 287                                        i_codec_id, psz_namecodec );
 288         break;
 289     default:
 290         i_result = VLC_EGENERIC;
 291     }
 292
 293     if( i_result == VLC_SUCCESS ) p_dec->p_sys->i_cat = i_cat;
 294
 295     return i_result;
 296 }
 297
 298 /*****************************************************************************
 299  * CloseDecoder: decoder destruction
 300  *****************************************************************************/
 301 static void CloseDecoder( vlc_object_t *p_this )
 302 {
 303     decoder_t *p_dec = (decoder_t *)p_this;
 304     decoder_sys_t *p_sys = p_dec->p_sys;
 305
 306     switch( p_sys->i_cat )
 307     {
 308     case AUDIO_ES:
 309          EndAudioDec ( p_dec );
 310         break;
 311     case VIDEO_ES:
 312          EndVideoDec ( p_dec );
 313         break;
 314     }
 315
 316     if( p_sys->p_context )
 317     {
 318         vlc_mutex_t *lock;
 319
 320         if( p_sys->p_context->extradata )
 321             free( p_sys->p_context->extradata );
 322         p_sys->p_context->extradata = NULL;
 323
 324         lock = var_AcquireMutex( "avcodec" );
 325         avcodec_close( p_sys->p_context );
 326         vlc_mutex_unlock( lock );
 327         msg_Dbg( p_dec, "ffmpeg codec (%s) stopped", p_sys->psz_namecodec );
 328         av_free( p_sys->p_context );
 329     }
 330
 331     free( p_sys );
 332 }
 333
 334 void InitLibavcodec( vlc_object_t *p_object )
 335 {
 336     static int b_ffmpeginit = 0;
 337     vlc_mutex_t *lock = var_AcquireMutex( "avcodec" );
 338
 339     /* *** init ffmpeg library (libavcodec) *** */
 340     if( !b_ffmpeginit )
 341     {
 342         avcodec_init();
 343         avcodec_register_all();
 344         av_log_set_callback( LibavutilCallback );
 345         b_ffmpeginit = 1;
 346
 347         msg_Dbg( p_object, "libavcodec initialized (interface %d )",
 348                  LIBAVCODEC_VERSION_INT );
 349     }
 350     else
 351     {
 352         msg_Dbg( p_object, "libavcodec already initialized" );
 353     }
 354
 355     vlc_mutex_unlock( lock );
 356 }